冻结LSTM层

时间:2018-10-29 20:13:20

标签: tensorflow deep-learning lstm

是否可以冻结一个LSTM层并在其顶部构建另一个LSTM层?

这个想法很简单,但是Tensorflow中的机制使其变得更加困难。我要做的就是建立一个LSTM层并保存模型。然后,我使用以下方法恢复该模型以获取内核(权重)矩阵和偏差:

tf.get_default_graph().get_tensor_by_name("rnn/multi_rnn_cell/cell_0/LSTM_cell/kernel:0") tf.get_default_graph().get_tensor_by_name("rnn/multi_rnn_cell/cell_0/LSTM_cell/bias:0")

然后,我要获得这两个张量并使它们不受训练,并在此张量上构建另一个LSTM层,然后获取第二层的变量。

但是,我提出的唯一与我想做的事情有关的主题是here,它说不可能,因为我不能手动设置权重。

在前馈神经网络中这样做非常简单。

有人有什么主意吗?

0 个答案:

没有答案