Keras 中的一维 CNN 中的激活函数错误

Question

我正在创建一个模型来分类输入波形是否包含 I2C 线的 SDA 的上升沿。

我的输入有 20000 个数据点和 100 个训练数据。

我最初在Keras 1D CNN: How to specify dimension correctly?Keras 1D CNN: How to specify dimension correctly?中找到了有关输入的答案

但是，我在激活函数中遇到错误：

ValueError: Error when checking target: expected activation_1 to have 3 dimensions, but got array with shape (100, 1)

我的模型是：

model.add(Conv1D(filters=n_filter,
             kernel_size=input_filter_length,
             strides=1,
             activation='relu',
             input_shape=(20000,1)))
model.add(BatchNormalization())
model.add(MaxPooling1D(pool_size=4, strides=None))

model.add(Dense(1))
model.add(Activation("sigmoid"))

adam = Adam(lr=learning_rate)

model.compile(optimizer= adam, loss='binary_crossentropy', metrics=['accuracy'])

model.fit(train_data, train_label,
      nb_epoch=10,
      batch_size=batch_size, shuffle=True)

score = np.asarray(model.evaluate(test_new_data, test_label, batch_size=batch_size))*100.0

我无法确定这里的问题。关于为什么激活函数需要一个 3D 张量。

Answer 1

问题在于，从keras 2.0 开始，应用于序列的Dense 层会将层应用于每个时间步 - 所以给定一个序列，它将产生一个序列。所以你的Dense 实际上是在产生一个单元素向量序列，这会导致你的问题（因为你的目标不是序列）。

有几种方法可以将序列简化为向量，然后对其应用Dense：

1. GlobalPooling:

   您可以使用GlobalPooling 层，例如GlobalAveragePooling1D 或GlobalMaxPooling1D，例如：

   model.add(Conv1D(filters=n_filter,
            kernel_size=input_filter_length,
            strides=1,
            activation='relu',
            input_shape=(20000,1)))
   model.add(BatchNormalization())
   model.add(GlobalMaxPooling1D(pool_size=4, strides=None))
   
   model.add(Dense(1))
   model.add(Activation("sigmoid"))
   

2. Flattening:

   您可以使用Flatten 层将整个序列折叠为单个向量：

   model.add(Conv1D(filters=n_filter,
            kernel_size=input_filter_length,
            strides=1,
            activation='relu',
            input_shape=(20000,1)))
   model.add(BatchNormalization())
   model.add(MaxPooling1D(pool_size=4, strides=None))
   model.add(Flatten())
   
   model.add(Dense(1))
   model.add(Activation("sigmoid"))
   

3. RNN后处理：

   您还可以在序列顶部添加一个循环层，并使其仅返回最后一个输出：

   model.add(Conv1D(filters=n_filter,
            kernel_size=input_filter_length,
            strides=1,
            activation='relu',
            input_shape=(20000,1)))
   model.add(BatchNormalization())
   model.add(MaxPooling1D(pool_size=4, strides=None))
   model.add(SimpleRNN(10, return_sequences=False))
   
   model.add(Dense(1))
   model.add(Activation("sigmoid"))
   

Answer 2

Conv1D 的输出是 3 维的（它会一直保持到 Dense 层）。

Conv 输出：(BatchSize, Length, Filters)

要让 Dense 层只输出一个结果，您需要添加 Flatten() 或 Reshape((shape)) 层，使其仅 (BatchSize, Lenght)。

如果您调用model.summary()，您将准确看到每一层输出的形状。您必须将输出调整为与作为正确结果传递的数组的形状完全相同。出现在这些形状中的None 是批量大小，可以忽略。

---

关于你的模型：我认为你需要更多的卷积层，逐渐减少过滤器的数量，因为在单个 Dense 层中压缩这么多数据通常不会带来好的结果。

关于尺寸： keras layers toturial and samples