LSTM单元格如何映射到图层?

时间:2017-07-20 19:16:44

标签: lstm recurrent-neural-network

我无法准确理解LSTM单元格的范围 - 它如何映射到网络层。来自Graves(2014):

在我看来,在单层网络中,layer = lstm单元格。这在多层次的rnn中实际上是如何工作的?

三层RNN Three Layer RNN

LSTM细胞 LSTM Cell

单元格的输出是 h_t ,没有指示特定图层的超级索引。方程式相同。每个单元格是否跨越单个图层?或者每个时间步的每个单元跨越整个三个节点?

1 个答案:

答案 0 :(得分:3)

图1中名称为h的每个节点代表一个LSTM单元。请注意,具有相同超链索的h_{t-1}h{t}h{t+1}是相同的单元格。他们刚刚及时展开。然而,不同的超级指示代表不同的LSTM细胞。

带有superindex 2或3的单元格的输入不仅是数据样本x,还包括前一个单元格的输出。

你是对的。单层RNN网络由一个LSTM小区组成。在多层RNN情况下,输出中间LSTM单元,输出先前的LSTM单元。在图1中,数据样本x也与LSTM输出一起提供。