标签: tensorflow neural-network deep-learning theano lstm
我一直在阅读有关LSTM的文章并检查其实现。有一点我不清楚。 在大多数论文中,提到从单元到门向量的权重矩阵应该是对角线的(例如:Alex第5页,2013),但在任何实现中我都没有看到过这种情况。 /> 例如: 1 2 另一个例子来自mila实验室。 3
这些人是否执行错误或我遗失了什么?
答案 0 :(得分:5)
TensorFlow实现使用对角矩阵,请参阅here。请注意,这在实践中意味着窥视孔只是从细胞到自身,所以你在做元素矢量乘法。