pybrain LSTM层缓冲变量

时间:2014-12-03 20:26:33

标签: python machine-learning neural-network lstm pybrain

在pybrain LSTM层中,有一些缓冲区用于存储值。

 'bufferlist': [   ('ingate', 20),
                      ('outgate', 20),
                      ('forgetgate', 20),
                      ('ingatex', 20),
                      ('outgatex', 20),
                      ('forgetgatex', 20),
                      ('state', 20),
                      ('ingateError', 20),
                      ('outgateError', 20),
                      ('forgetgateError', 20),
                      ('stateError', 20),
                      ('inputbuffer', 80),
                      ('inputerror', 80),
                      ('outputbuffer', 20),
                      ('outputerror', 20)],

有人可以解释这些变量的用途吗? 我试图激活LSTM层。我应该选择哪个变量?

1 个答案:

答案 0 :(得分:1)

激活在'outputbuffer'中。

关于变量的用途(您的问题有点不清楚),您可以更轻松地阅读原始paper。如果您指的是实现中的特定用法而不是它们在模型中的使用,则应检查使用这些变量的LSTMLayer实现。

大多数变量的名称与论文完全相同。如果您理解这些概念,那就非常直截了当。唯一要补充的是以“x”(outgatex,forgetgatex,ingatex)结尾的门是从窥视孔连接计算的值,而(outgate,forgetgate,ingate)是总门值。