1x1 卷积与减少过滤器数量

Question

在 GoogLeNet 等 DNN 架构中，1x1 卷积被大量使用。我理解使用它们的原因主要是降维，即如果前面的卷积层有 C 个通道，我可以使用 C'

但是，与首先减少前一层中的过滤器数量相比，这样做有什么优势？例如，在 GoogLeNet 中有一个最大池化层，它有 C=480 个输出通道（之前的层也是如此）。紧随其后的 Inception 模块（inception (4a)）使用三个 1x1 卷积，其中 C'=192、96、16。为什么不将前一层中的 C 从更小的开始，比如 200 或 300？当然，我还是会使用 1x1 的卷积来将维度缩减为对应的 3x3 和 5x5 过滤器。

Answer 1

我不是 100% 肯定，我总是会简单地尝试一下，但我有两个有根据的猜测，为什么您可能希望使用 1x1 卷积而不是简单地在之前的层中使用更少的过滤器：

• 您添加参数并允许网络因此找到更复杂的层组合。
• 优化问题可能更简单（因此网络可以在更少的迭代中学习）