如何构建用于二进制分类的 LSTM RNN 网络？

Question

我正在尝试使用基于 LSTM 的 RNN 构建一个用于二进制分类的深度学习网络。

这是我尝试使用 python 的方法

from keras.models import Sequential
from keras.layers import Dense, Dropout, Activation
from keras.layers import Embedding
from keras.layers import LSTM
import numpy as np

train = np.loadtxt("TrainDatasetFinal.txt", delimiter=",")
test = np.loadtxt("testDatasetFinal.txt", delimiter=",")

y_train = train[:,7]
y_test = test[:,7]

train_spec = train[:,6]
test_spec = test[:,6]


model = Sequential()
model.add(Embedding(8, 256, input_length=1))
model.add(LSTM(output_dim=128, activation='sigmoid',
               inner_activation='hard_sigmoid'))
model.add(Dropout(0.5))
model.add(Dense(1))
model.add(Activation('sigmoid'))

model.compile(loss='binary_crossentropy', optimizer='rmsprop')

model.fit(train_spec, y_train, batch_size=2000, nb_epoch=11)
score = model.evaluate(test_spec, y_test, batch_size=2000)

这是数据集中的一个样本

（患者编号，毫秒时间，加速度计 x 轴，y 轴， z轴，幅度，频谱图，标签（0或1））

1,15,70,39,-970,947321,596768455815000,0
1,31,70,39,-970,947321,612882670787000,0
1,46,60,49,-960,927601,602179976392000,0
1,62,60,49,-960,927601,808020878060000,0
1,78,50,39,-960,925621,726154800929000,0

我相信我的问题在这些行中，但我无法识别错误

model.add(Embedding(8, 256, input_length=1))
model.add(LSTM(output_dim=128, activation='sigmoid',
               inner_activation='hard_sigmoid'))

这是我遇到的错误

InvalidArgumentError (see above for traceback): indices[0,0] = -2147483648 is not in [0, 8)

Answer 1

上面提供的数据集中的样本是您尝试输入模型的数据吗？如果是这样，就会出现问题，因为您的数据是二维的，但对于 RNN，您需要一个 3 维输入张量。您需要一个特征维度、一个批量大小维度和一个时间维度。看起来您缺少适当的时间维度。您不应该有一个 15, 31, 46,...（以毫秒为单位的时间）的列，这应该形成自己的维度，因此您的输入数据看起来像一个“立方体”。否则，您根本不需要时间模型。此外，你应该标准化你的输入，因为你的特征有很大不同的数量级。此外，2000 的批大小几乎可以肯定是太大了。你是想表达你的整个训练集有 2000 个样本吗？在这种情况下，您正在构建的模型可能没有足够的训练数据。