如何正确定义 Keras 循环层的 input_dim

Question

我正在尝试训练一些神经网络来预测时间序列。我正在使用 Sequentional 模型来定义我的 NN 结构。它看起来像：

from keras.models import Sequential
from keras.layers import Dense, Activation, SimpleRNN, Embedding
from keras import optimizers
from keras import losses
model = Sequential()
#model.add(Dense(units=5, input_dim=3, activation = 'tanh'))
model.add(SimpleRNN(units=5, input_dim = 3, activation = 'tanh'))
model.add(Dense(units=16, activation='tanh'))
model.add(Dense(1, activation='linear'))
prop = optimizers.rmsprop(lr=0.01)
sgd = optimizers.sgd(lr=0.01, nesterov=True, momentum=0.005)
model.compile(optimizer=prop, loss='mean_squared_error')

不执行，返回错误为：

ValueError: Error when checking input: expected simple_rnn_9_input to have 3 dimensions, but got array with shape (221079, 3)

当我使用注释掉的Dense 层时，一切都很好。我阅读了 Keras 文档，发现他们正在使用Embedding 层。虽然，我真的不明白为什么Embedding 层对于使用像SimpleRNN 或LSTM 这样的循环层是必要的。

train_set 是 4 列的二维数组 - 第 4 列是目标列，其余的是输入。

有没有什么简单的方法可以将 Keras 的循环层与传统的Dense 层一起使用？我将不胜感激解释和一些代码示例。

最好的问候， 马克斯

Answer 1

我不是这方面的专家，但这可能会有所帮助

import numpy as  np
import numpy as  np

data = np.zeros((10,4))
X = data[:,0:3].reshape(-1,1,3)
y = data[:,3].reshape(-1,1)
print(X.shape)
print(y.shape)

打印：

(10, 1, 3)
(10, 1)

然后：

model.fit(X, y)