【问题标题】:CNN feed forward or back propagtion modelCNN前馈或反向传播模型
【发布时间】:2017-08-05 00:44:22
【问题描述】:

卷积神经网络 (CNN) 是前馈模型还是反向传播模型。通过比较 DR.Yann 的博客和 CNN 的维基百科定义,我得到了这种困惑。

【问题讨论】:

  • CNN 是前馈的。 CNN 是通过向后传递错误来学习的。
  • 一个前馈模型也可以同时是一个反向传播模型......这是大多数情况。

标签: neural-network computer-vision deep-learning conv-neural-network


【解决方案1】:

卷积神经网络是一种结构化神经网络,其中前几层稀疏连接以处理信息(通常是视觉信息)。

前馈网络被定义为其中不包含任何循环。如果它有循环,它就是一个循环神经网络。例如,想象一个三层网络,其中第 1 层是输入层,第 3 层是输出层。前馈网络将由第 1 层获取输入、将它们馈送到第 2 层、第 2 层馈送到第 3 层和第 3 层输出来构建。循环神经网络将在第 1 层获取输入,馈送到第 2 层,但随后第 2 层可能同时馈送到第 1 层和第 3 层。由于“较低”层将其输出馈送到“较高”层,因此它创建了一个循环在神经网络内部。

然而,反向传播是训练神经网络的方法。它与网络的结构没有太大关系,而是暗示如何更新输入权重。

在训练前馈网络时,将信息传递到网络中,并将生成的分类与已知的训练样本进行比较。如果网络的分类不正确,则通过网络向后调整权重,使其朝着正确分类的方向进行。这是训练的反向传播部分。

因此,CNN 是一个前馈网络,但通过反向传播进行训练。

【讨论】:

    【解决方案2】:

    类似于tswei的回答,但可能更简洁。

    卷积神经网络是一种前馈 nn 架构,它使用多组权重(过滤器)在输入空间中“滑动”或卷积,以分析与单个节点激活相对的距离像素关系。

    反向传播是一种通过将误差从输出层“反向传播”到输入层(包括隐藏层)来训练神经网络的方法。

    【讨论】:

      【解决方案3】:

      总之,
      CNN 是前馈神经网络。
      反向传播是一种用于训练神经网络的技术。

      【讨论】:

        猜你喜欢
        • 2019-09-29
        • 2017-05-13
        • 2017-08-19
        • 2015-08-25
        • 2017-01-12
        • 2018-04-24
        • 2015-04-08
        • 2020-11-23
        • 2017-11-11
        相关资源
        最近更新 更多