【问题标题】:How to evaluate a recurrent connection in an artificial neural network?如何评估人工神经网络中的循环连接?
【发布时间】:2018-02-19 03:21:06
【问题描述】:

我只是不明白应该如何计算包含循环连接的神经网络的输出。

所以这里是一个例子(我还不能发布图片..): http://i.imgur.com/XdXupIj.png

(i_1,2为输入值,w_1,2,3,r为连接权重,o_1为输出值。)

为了简单起见,假设没有激活或传递函数。 如果我正确理解了人工神经网络的工作原理,那么在不考虑红色循环连接的情况下,输出计算为

o_1=(w_1*i_1+w_2*i_2)*w_3

但是,当考虑到红色连接时,会出现什么情况呢?会不会

o_1=((w_1*i_1+w_2*i_2)+(w_1*i_1+w_2*i_2)*w_r)*w_3

也许?但这只是我的猜测。

提前致谢。

【问题讨论】:

    标签: artificial-intelligence neural-network


    【解决方案1】:

    RNN 不是一个普通的网络。通常的网络没有时间,但 RNN 有时间。数字化信号进入网络的输入端。例如,对于i_1,我们没有一个值,而是信号i_1[t=0], i_1[t=1],i_1[t=2], … 红色连接本身内部有延迟,延迟是一个时间单位。因此,要计算 H1 的输出,您需要使用以下循环公式:

    o[t]=w_1*i_1[t]+w_2*i_2[t])+o[t-1]*w_r
    

    您在这里看到o[t-1],这意味着延迟一个单位时间。

    谈到递归神经网络,您可能会发现很多使用它的示例。最近我们参加了机器学习竞赛,尝试使用RNN对EEG信号进行分类,但遇到了一些障碍。以下是详细信息:http://rnd.azoft.com/classification-eeg-signals-brain-computer-interface/

    【讨论】:

      【解决方案2】:

      循环神经网络 (RNN) 是一类人工神经网络,其中单元之间的连接形成有向循环。与前馈神经网络不同,RNN 可以使用其内部存储器来处理任意输入序列。

      在我看来是这样的:

      o_1=(w_1*i_1+w_2*i_2)*w_r*w_3
      

      注意:如果这是家庭作业,请注意。

      【讨论】:

      • 这不是家庭作业。我只是在修补神经网络,目前我正在尝试实现 NEAT。
      猜你喜欢
      • 1970-01-01
      • 2018-04-30
      • 2013-06-30
      • 1970-01-01
      • 2011-11-19
      • 2016-11-04
      • 1970-01-01
      • 2017-02-19
      相关资源
      最近更新 更多