使用更小的卷积核是当前在保证网络精度的情况下,减少参数的趋势之一,在VGG16中,使用了33333*3卷积核来代替7*7卷积核,使用了22333*3卷积核来代替555*5卷积核,这样做的主要目的是在保证具有相同感知野的条件下,提升了网络的深度,在一定程度上提升了神经网络的效果。

以下简单地说明一下小卷积(333*3)对于5×55×5网络感知野相同的替代性。

如图所示:
2个3*3卷积核对一个5*5卷积核的替代性分析(或3个3*3卷积核对一个7*7卷积核的替代性分析)
关于333×33×3卷积核对于一个7×77× 7 卷积的替代性思考方式同上。

接下来说明以下减少参数的作用。
对于两个333*3卷积核,所用的参数总量为2(33)channels2*(3*3)*channels, 对于555*5卷积核为55channels5*5*channels, 因此可以显著地减少参数的数量。

如果对参数计算这部分不太懂,欢迎阅读我的另一篇博客,我在里面举了一个计算卷积操作参数量的例子。

相关文章:

  • 2022-12-23
  • 2021-09-22
  • 2021-06-18
  • 2021-12-12
  • 2021-05-24
  • 2022-12-23
  • 2021-04-19
猜你喜欢
  • 2021-04-18
  • 2022-01-20
  • 2021-07-03
  • 2021-10-26
  • 2021-09-03
  • 2022-12-23
  • 2021-08-12
相关资源
相似解决方案