在 Keras 中训练 RNN 后如何获得权重？

Question

我在 Keras 中训练了一个 RNN。现在，我想得到训练权重的值：

model = Sequential() 
model.add(SimpleRNN(27, return_sequences=True , input_shape=(None, 27), activation = 'softmax'))<br>
model.compile(loss='categorical_crossentropy',
          optimizer='rmsprop',
          metrics=['accuracy'])
model.get_weights()

这给了我 2 个形状 (27,27) 的数组和 1 个形状 (27,1) 的数组。我没有得到这些数组的含义。另外，我应该再得到 2 个形状数组 (27,27) 和 (27,1)，它们将计算隐藏状态“a”激活。我怎样才能得到这些权重？

Answer 1

model.get_weights() 返回的数组直接对应SimpleRNNCell 使用的权重。它们包括：

• kernel 矩阵大小为(input_shape[-1], units)。在你的情况下，input_shape=(None, 27) 和units=27，所以它是(27, 27)。内核乘以input。
• recurrent_kernel 矩阵大小为(units, units)，也恰好是(27, 27)。这个矩阵乘以之前的状态。
• 形状为(units,) == (27,)的偏置数组。

这些数组对应标准公式：

# W = kernel
# U = recurrent_kernel
# B = bias
output = new_state = act(W * input + U * state + B)

请注意，keras 实现使用单个偏置向量，因此总共正好有三个数组。