卷积层：过滤器是否也通过 nlayers_in 进行卷积，还是采用所有维度？

Question

在领先的深度学习库中，卷积层中的过滤器（又名内核或权重）是否也在“通道”维度上进行卷积，还是一次占用所有通道？ 举个例子，如果输入维度是(60,60,10)（最后一个维度通常被称为“通道”）并且所需的输出通道数是5，那么过滤器可以是(5,5,5,5)还是应该是(5,5,10,5)反而 ？

Answer 1

它应该是 (5, 5, 10, 5)。如果忽略空间维度，Conv2d 操作就像线性一样。

来自 TensorFlow 文档[link]：

给定形状为 batch_shape + [in_height, in_width, in_channels] 的输入张量和形状为 [filter_height, filter_width, in_channels, out_channels] 的过滤器/内核张量，此操作执行以下操作：

1. 将过滤器展平为具有形状的二维矩阵[filter_height * filter_width * in_channels, output_channels].
2. 从输入张量中提取图像块以形成形状为 [batch, out_height, out_width, filter_height * filter_width * in_channels] 的虚拟张量。
3. 对于每个补丁，右乘滤波器矩阵和图像补丁向量。