Tensorflow LSTM：如何为每批使用不同的权重？

【问题标题】：Tensorflow LSTM: How to use different weights for each batch?Tensorflow LSTM：如何为每批使用不同的权重？
【发布时间】：2020-03-30 09:07:53
【问题描述】：

我说的是tf.keras.layers.LSTM 实现，因为我想将cuDNN 用于我的批处理LSTM。

现在，我使用“手工制作”的 LSTM 实现，因为我想为每个批次设置不同的权重/偏差。你知道如何使用 TensorFlows LSTM 实现的 LSTM，每个批次都有一组独特的权重/偏差吗？

【问题讨论】：

标签： python tensorflow lstm tensorflow2.0

【解决方案1】：

也许你可以使用这样的东西。这是 CNN 的全连接层的示例

def dense_fc4(n_objects):
        initializer = lambda: tf.contrib.layers.xavier_initializer()(shape=(1024,512))
        return tf.Variable(initial_value=initializer, name='fc4/kernel',
                           shape=(n_objects.shape[0], 1024, 512))


    W4 = tf.map_fn(dense_fc4, samples_flat)
    b4 = tf.get_variable('fc4/bias', shape=512, initializer=tf.zeros_initializer())
    fc4 = tf.add(tf.matmul(samples_flat, W4), b4)
    fc4 = tf.nn.relu(fc4)

【讨论】：