【问题标题】:Understanding what weight sharing is in convolutional neural network了解卷积神经网络中的权重共享是什么
【发布时间】:2017-05-09 01:47:29
【问题描述】:

我目前正在尝试了解卷积神经网络中的权重共享实际上是什么。

据我所知,CNN 首次引入是为了减少连接输入和输出所需的连接数量,因为输入具有 3 个维度。

按照这个逻辑,卷积减少其中一个维度,并将卷积后的图像连接到输出神经元对我来说是有意义的。

连接卷积图像和输出的权重是否是未共享的权重?如果不是,什么是不共享的权重?

或者如果是,反向传播然后将其视为一个权重,并将其更新为一个单元?

我认为权重分享的插图:

【问题讨论】:

    标签: conv-neural-network convolution backpropagation


    【解决方案1】:

    CNN 有多个层。权重共享发生在特定层中神经元(过滤器)的感受野中。权重是每个过滤器中的数字。所以本质上我们正在尝试学习一个过滤器。这些过滤器作用于图像的某个感受野/一小部分。当滤镜在图像中移动时,滤镜不会改变。这个想法是,如果边缘在图像的特定部分学习很重要,那么它在图像的其他部分也很重要。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2017-05-20
      • 2017-01-01
      • 1970-01-01
      • 2014-12-11
      • 2014-12-13
      • 2018-02-17
      • 2019-01-08
      相关资源
      最近更新 更多