我无法准确理解LSTM单元格的范围 - 它如何映射到网络层。来自Graves(2014):
在我看来,在单层网络中,layer = lstm单元格。这在多层次的rnn中实际上是如何工作的?
单元格的输出是 h_t ,没有指示特定图层的超级索引。方程式相同。每个单元格是否跨越单个图层?或者每个时间步的每个单元跨越整个三个节点?
答案 0 :(得分:3)
图1中名称为h
的每个节点代表一个LSTM单元。请注意,具有相同超链索的h_{t-1}
,h{t}
和h{t+1}
是相同的单元格。他们刚刚及时展开。然而,不同的超级指示代表不同的LSTM细胞。
带有superindex 2或3的单元格的输入不仅是数据样本x
,还包括前一个单元格的输出。
你是对的。单层RNN网络由一个LSTM小区组成。在多层RNN情况下,输出中间LSTM单元,输出先前的LSTM单元。在图1中,数据样本x
也与LSTM输出一起提供。