【问题标题】:Tensorflow: customise LSTM cell with subtractive gatingTensorflow:使用减法门自定义 LSTM 单元
【发布时间】:2019-06-30 16:34:11
【问题描述】:

我想使用在this paper 中解释的减法门控 我用的是Tensorflow,目前代码是:(Using CPU)

import tensorflow.contrib.rnn as RNNCell 

tgt_cell = RNNCell.LSTMCell(num_units=flags.hidden_size, state_is_tuple=True)
tgt_dropout_cell = RNNCell.DropoutWrapper(tgt_cell, output_keep_prob=self.keep_prob)
tgt_stacked_cell= RNNCell.MultiRNNCell([tgt_dropout_cell] * self.opt.num_layers, state_is_tuple=True)

根据论文的变化如下: 其中 LSTM 是:

门控应该是减法而不是乘法:

当我在我的代码中单击“LSTMCell”时,它会打开 rnn_cells.py,我不确定应该更改哪个部分。有人可以帮忙修改一下吗?

【问题讨论】:

    标签: python tensorflow machine-learning neural-network lstm


    【解决方案1】:

    哇,这有点先进。看起来像 RNNCell.LSTMCell 并根据需要编写自己的更改。如果你看这里https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/rnn/python/ops/rnn_cell.py 我猜单元格的操作是在调用中定义的,比如从第 220 行开始然后找到你需要的操作。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2019-06-11
      • 1970-01-01
      • 2021-07-11
      • 2016-12-09
      • 1970-01-01
      • 2016-11-19
      • 1970-01-01
      相关资源
      最近更新 更多