是否可以冻结一个LSTM层并在其顶部构建另一个LSTM层?
这个想法很简单,但是Tensorflow中的机制使其变得更加困难。我要做的就是建立一个LSTM层并保存模型。然后,我使用以下方法恢复该模型以获取内核(权重)矩阵和偏差:
tf.get_default_graph().get_tensor_by_name("rnn/multi_rnn_cell/cell_0/LSTM_cell/kernel:0") tf.get_default_graph().get_tensor_by_name("rnn/multi_rnn_cell/cell_0/LSTM_cell/bias:0")
然后,我要获得这两个张量并使它们不受训练,并在此张量上构建另一个LSTM层,然后获取第二层的变量。
但是,我提出的唯一与我想做的事情有关的主题是here,它说不可能,因为我不能手动设置权重。
在前馈神经网络中这样做非常简单。
有人有什么主意吗?