Matlab中的感知器具有不同的激活函数答案

【问题标题】：Perceptron in Matlab with different activation functionsMatlab中的感知器具有不同的激活函数
【发布时间】：2018-07-03 07:09:57
【问题描述】：

我即将学习神经网络的工作原理。让我明确一点：我不想使用任何内置函数。据我了解，我想从一开始就建立一个自己的感知器。举个例子，我根据这个原理图构建了一个感知器：

除神经元 6 和 7 外，所有神经元都具有恒等函数。这两个神经元应具有逻辑函数 1/(1+e^(-x))。神经元 1 直接连接到 6，神经元 2 直接连接到输出神经元 8。

我现在的问题是如何实现这种特殊情况。当所有神经元都是同一性时，我在 C 中得到正确的值。但是，如果我想在 6 和 7 上实现逻辑函数，就会得到错误的值。

是否有可能找到一个通用算法来覆盖这些特殊情况？（不同的激活函数，跳层，反馈）。

我希望它尽可能通用和数学化。应该避免变通方法！

代码：

clear;
% Input Layer
o1 = 1;
o2 = 1;
o3 = 1;

% Hidden Layer
o4 = 0;
o5 = 0;
o6 = 0;
o7 = 0;

% Output Layer
o8 = 0;

% Init the Inputvektor:
O = [o1,o2,o3,o4,o5,o6,o7,o8];
C = 0;

% Weight Matrix:

     % 1 2 3 4 5 6 7 8
  W = [0,0,0,1,1,1,0,0; % 1
      0,0,0,1,1,0,0,1 ; % 2  
      0,0,0,1,1,0,0,0 ; % 3
      0,0,0,0,0,1,1,0 ; % 4
      0,0,0,0,0,1,1,0 ; % 5
      0,0,0,0,0,0,0,1 ; % 6
      0,0,0,0,0,0,0,1 ; % 7
      0,0,0,0,0,0,0,0]; % 8

% 3 Layer = 3 Iterations:

for c = 0:2

% Calculate Outputvektor (t+1):
A = O*W;

% Assing new Input vektor:
O = A;

% This seems not correct:
% I want to have Identityfunctions on all Neurons except on Neurons 6 and 7
% However I do not get the correct solutions at the end
O(6) = 1/(1+exp(-O(6)));
O(7) = 1/(1+exp(-O(7)));

% Result of the whole Net:
C = C + O
end

【问题讨论】：

标签： matlab neural-network artificial-intelligence perceptron

【解决方案1】：

有兴趣的朋友，我自己找到了解决办法：

clear;
% Input Layer
o1 = 0.1;
o2 = 0.1;
o3 = 0.1;

% Hidden Layer
o4 = 0;
o5 = 0;
o6 = 0;
o7 = 0;

% Output Layer
o8 = 0;

Org = [o1,o2,o3,o4,o5,o6,o7,o8];
O = Org;
C = 0;


   % 1 2 3 4 5 6 7 8
W = [0,0,0,1,1,1,0,0; % 1
    0,0,0,1,1,0,0,1 ; % 2  
    0,0,0,1,1,0,0,0 ; % 3
    0,0,0,0,0,1,1,0 ; % 4
    0,0,0,0,0,1,1,0 ; % 5
    0,0,0,0,0,0,0,1 ; % 6
    0,0,0,0,0,0,0,1 ; % 7
    0,0,0,0,0,0,0,0]; % 8

for c = 0:2

 A = O*W;

 O = A;

 O(6) = 1/(1+exp(-1*O(6)));
 O(7) = 1/(1+exp(-1*O(7)));

  % THIS IS THE SOLUTION:
  O = O + Org
end

【讨论】：