在 keras 中解释 LSTM 模型中的 get_weight

Question

这是我的简单可重现代码：

from keras.callbacks import ModelCheckpoint
from keras.models import Model
from keras.models import load_model
import keras
import numpy as np

SEQUENCE_LEN = 45
LATENT_SIZE = 20
VOCAB_SIZE = 100

inputs = keras.layers.Input(shape=(SEQUENCE_LEN, VOCAB_SIZE), name="input")
encoded = keras.layers.Bidirectional(keras.layers.LSTM(LATENT_SIZE), merge_mode="sum", name="encoder_lstm")(inputs)
decoded = keras.layers.RepeatVector(SEQUENCE_LEN, name="repeater")(encoded)
decoded = keras.layers.Bidirectional(keras.layers.LSTM(VOCAB_SIZE, return_sequences=True), merge_mode="sum", name="decoder_lstm")(decoded)
autoencoder = keras.models.Model(inputs, decoded)
autoencoder.compile(optimizer="sgd", loss='mse')
autoencoder.summary()

x = np.random.randint(0, 90, size=(10, SEQUENCE_LEN,VOCAB_SIZE))
y = np.random.normal(size=(10, SEQUENCE_LEN, VOCAB_SIZE))
NUM_EPOCHS = 1
checkpoint = ModelCheckpoint(filepath='checkpoint/{epoch}.hdf5')
history = autoencoder.fit(x, y, epochs=NUM_EPOCHS,callbacks=[checkpoint])

这是我查看编码器层权重的代码：

for epoch in range(1, NUM_EPOCHS + 1):
    file_name = "checkpoint/" + str(epoch) + ".hdf5"
    lstm_autoencoder = load_model(file_name)
    encoder = Model(lstm_autoencoder.input, lstm_autoencoder.get_layer('encoder_lstm').output)
    print(encoder.output_shape[1])
    weights = encoder.get_weights()[0]
    print(weights.shape)
    for idx in range(encoder.output_shape[1]):
        token_idx = np.argsort(weights[:, idx])[::-1]

这里print(encoder.output_shape) 是(None,20) 而print(weights.shape) 是(100, 80)。

我知道get_weight会在图层之后打印权重过渡。

我没有得到基于这个架构的部分是80。这是什么？

而且，这里的weights 是连接编码器层和解码器的权重吗？我的意思是编码器和解码器之间的连接。

我看过这个问题here。因为它只是简单的密集层，我无法将这个概念与 seq2seq 模型联系起来。

更新1

有什么区别： encoder.get_weights()[0] 和 encoder.get_weights()[1]? 第一个是(100,80)，第二个是(20,80)，就像概念上的一样？

感谢任何帮助:)

Answer 1

您定义的encoder 是一个模型，它由两层组成：输入层和'encoder_lstm' 层，它是自动编码器中的双向LSTM 层。所以它的输出形状将是'encoder_lstm' 层的输出形状，即(None, 20)（因为你已经设置了LATENT_SIZE = 20 和merge_mode="sum"）。所以输出的形状正确清晰。

但是，由于encoder 是一个模型，当您运行encoder.get_weights() 时，它会以列表的形式返回模型中所有层的权重。双向 LSTM 由两个独立的 LSTM 层组成。每个 LSTM 层都有 3 个权重：内核、循环内核和偏差。所以encoder.get_weights() 将返回一个包含 6 个数组的列表，每个 LSTM 层 3 个。该列表的第一个元素，正如您存储在 weights 中并且是您的问题的主题，是 LSTM 层之一的内核。 LSTM 层的内核具有(input_dim, 4 * lstm_units) 的形状。 'encoder_lstm' 层的输入维度为VOCAB_SIZE，其单元数为LATENT_SIZE。因此，我们有(VOCAB_SIZE, 4 * LATENT_SIZE) = (100, 80)作为内核的形状。