感知器收敛但返回奇怪的结果

Question

我在 C++ 中制作了一个简单的感知器来研究 AI，即使遵循 book(pt_br) 我也无法让我的感知器返回预期的结果，我尝试调试并找到错误但没有成功。

我的算法与门结果（A 和 B = Y）：

0 && 0 = 0 
0 && 1 = 1
1 && 0 = 1
1 && 1 = 1

基本上它作为或门或随机门工作。

我试图跳转到Peter Norving and Russel book，但他对此反应很快，并没有解释深度一感知器训练。

我真的很想学习这个内容的每一寸，所以我不想跳到多层感知器而不做简单的工作，你能帮忙吗？

以下代码是用于操作的最小代码并带有一些解释：

锐化功能：

int signal(float &sin){
    if(sin < 0)
        return 0;
    if(sin > 1)
        return 1;

    return round(sin);

}

感知器结构（W 是权重）：

struct perceptron{
    float w[3];
};

感知器训练：

perceptron startTraining(){
    //- Random factory generator
    long int t = static_cast<long int>(time(NULL));
    std::mt19937 gen;
    gen.seed(std::random_device()() + t);
    std::uniform_real_distribution<float> dist(0.0, 1.0);
    //--

    //-- Samples (-1 | x | y)
    float t0[][3] = {{-1,0,0},
                     {-1,0,1},
                     {-1,1,0},
                     {-1,1,1}};

    //-- Expected result
    short d [] = {0,0,0,1};

    perceptron per;

    per.w[0] = dist(gen);
    per.w[1] = dist(gen);
    per.w[2] = dist(gen);

    //-- print random numbers
    cout <<"INIT "<< "W0: " << per.w[0]  <<" W1: " << per.w[1] << " W2: " << per.w[2] << endl;

    const float n = 0.1; // Lerning rate N
    int saida =0;        // Output Y
    long int epo = 0;    // Simple Couter
    bool erro = true;    // Loop control

    while(erro){
        erro = false;
        for (int amost = 0; amost < 4; ++amost) {           // Repeat for the number of samples x0=-1, x1,x2
            float u=0;                                      // Variable for the somatory
            for (int entrad = 0; entrad < 3; ++entrad) {    // repeat for every sinaptic weight W0=θ , W1, W2
                u = u + (per.w[entrad] * t0[amost][entrad]);// U <- Weights * Inputs
            }
            // u=u-per.w[0];                                // some references sau to take θ and subtract from U, i tried but without success
            saida = signal(u);                              // returns 1 or 0
            cout << d[amost] << " <- esperado | encontrado ->   "<< saida<< endl;
            if(saida != d[amost]){                          // if the output is not equal to the expected value
                for (int ajust = 0; ajust < 3; ++ajust) {
                    per.w[ajust] = per.w[ajust] + n * (d[amost] - saida) * t0[amost][ajust]; // W <- W + ɳ * ((d - y) x) where
                    erro = true;                                                             // W: Weights, ɳ: Learning rate
                }                                                                            // d: Desired outputs, y: outputs
            }                                                                                // x: samples
            epo++;

        }
    }
    cout << "Epocas(Loops): " << epo << endl;
    return per;
}

主要与测试部分：

int main()
{
    perceptron per = startTraining();
    cout << "fim" << endl;
    cout << "W0: " << per.w[0]  <<" W1: " << per.w[1] << " W2: " << per.w[2] << endl;
    while(true){
        int x,y;
        cin >> x >> y;

        float u=0;
        u = (per.w[1] * x);
        u = u + (per.w[2] * y);
        //u=u-per.w[0];

        cout << signal(u) << endl;


}
    return 0;
}

Answer 1

在您的main() 中，重新启用您注释掉的行。或者，您可以这样写以使其更具启发性：

float u = 0.0f;

u += (per.w[0] * float (-1));
u += (per.w[1] * float (x));
u += (per.w[2] * float (y));

问题是你用三个输入训练了感知器，第一个被硬连接到“-1”（使第一个权重w[0] 表现得像一个恒定的“偏差”）。因此，在您的训练功能中，您的u 是所有三个权重输入产品的总和。 但是，在您发布的 main() 中，您完全省略了 w[0]，从而产生了错误的结果。