用窥视孔实现LSTM

时间:2016-02-06 09:34:58

标签: tensorflow neural-network deep-learning theano lstm

我一直在阅读有关LSTM的文章并检查其实现。有一点我不清楚。
在大多数论文中,提到从单元到门向量的权重矩阵应该是对角线的(例如:Alex第5页,2013),但在任何实现中我都没有看到过这种情况。 /> 例如:
1 2 另一个例子来自mila实验室。 3

这些人是否执行错误或我遗失了什么?

1 个答案:

答案 0 :(得分:5)

TensorFlow实现使用对角矩阵,请参阅here。请注意,这在实践中意味着窥视孔只是从细胞到自身,所以你在做元素矢量乘法。