pybrain LSTM 层缓冲区变量

Question

在 pybrain LSTM 层中有这些缓冲区用于存储值。

 'bufferlist': [   ('ingate', 20),
                      ('outgate', 20),
                      ('forgetgate', 20),
                      ('ingatex', 20),
                      ('outgatex', 20),
                      ('forgetgatex', 20),
                      ('state', 20),
                      ('ingateError', 20),
                      ('outgateError', 20),
                      ('forgetgateError', 20),
                      ('stateError', 20),
                      ('inputbuffer', 80),
                      ('inputerror', 80),
                      ('outputbuffer', 20),
                      ('outputerror', 20)],

谁能解释这些变量的用途？ 我正在尝试激活 LSTM 层。我应该取哪个变量？

Answer 1

激活在“输出缓冲区”中。

关于变量的用途（你的问题有点不清楚），阅读原文paper 会更容易。如果您指的是实现中的具体用法而不是模型中的使用，您应该检查使用这些变量的LSTMLayer 实现。

大多数变量的命名与论文中的完全一样。如果你理解了这些概念，那就很简单了。唯一要补充的是，以“x”结尾的门 (outgatex,forgetgatex,ingatex) 是从窥孔连接计算的值，而 (outgate, forgetgate,ingate) 是总门值。