使用 Keras 构建 LSTM 单元答案

【问题标题】：Building a LSTM Cell using Keras使用 Keras 构建 LSTM 单元
【发布时间】：2016-10-10 03:23:43
【问题描述】：

我正在尝试构建用于文本生成的 RNN。我一直在构建我的 LSTM 单元。数据的形状是这样的——X 是 dim(90809,2700) 的输入稀疏矩阵，Y 是维度 (90809,27) 的输出矩阵。以下是我定义LSTM Cell的代码-

model = Sequential()
model.add(LSTM(128, input_shape=(X.shape[0], X.shape[1])))
model.add(Dropout(0.2))
model.add(Dense(Y.shape[1], activation='softmax'))
model.compile(loss='categorical_crossentropy', optimizer='adam')

我的理解是 input_shape 应该是输入矩阵的维度，dense layer 应该是每个观察的输出的大小，在这种情况下是 27。但是，我收到以下错误-

Exception: Error when checking model input: expected lstm_input_3 to have 3 dimensions, but got array with shape (90809, 2700)

我无法弄清楚出了什么问题。谁能帮我弄清楚为什么 lstm_input 需要 3 个维度？

我也尝试了以下方法-

X= np.reshape(np.asarray(dataX), (n_patterns, n_vocab*seq_length,1))
Y=np.reshape(np.asarray(dataY), (n_patterns, n_vocab,1))

这给了我以下错误-

Exception: Error when checking model input: expected lstm_input_7 to have shape (None, 90809, 2700) but got array with shape (90809, 2700, 1)

任何帮助将不胜感激。谢谢！

【问题讨论】：

标签： python keras recurrent-neural-network lstm

【解决方案1】：

您应该了解input_shape、batch_input_shape 和input_dim here 之间的区别。

对于input_shape，我们不需要定义batch_size。这就是你的 LSTM 层的样子。

model.add(LSTM(128, input_shape=(X.shape[1], 1)))

或

model.add(LSTM(128, batch_input_shape=(X.shape[0], X.shape[1], 1)))

【讨论】：