感知器：每个样本数据的权重，或一个共同的权重答案

【问题标题】：Perceptron : Weight for each sample data , or one common weight感知器：每个样本数据的权重，或一个共同的权重
【发布时间】：2020-03-09 09:46:19
【问题描述】：

通过感知学习，我对初始化和更新权重感到很困惑。如果我有一个包含 2 个输入 x0 和 x1 的样本数据，并且我有这 2 个输入的 80 行，因此是 80x2 矩阵。

我需要将权重初始化为 80x2 的矩阵还是仅需要 2 个值 w0 和 w1 ？感知器学习的最终目标是找到适合所有 80 个输入样本行的 2 个权重 w0 和 w1 吗？

我有以下代码，尽管迭代次数高达 10,000 次，但我的错误从未达到 0。

x=input matrix of 80x2
y=output matrix of 80x1
n = number of iterations
w=[0.1,0.1]  
learningRate = 0.1
for i in range(n): 
    expectedT = y.transpose();
    xT = x.transpose()
    prediction =  np.dot (w,xT) 

    for i in range (len(x)):    
        if prediction[i] >= 0:                               
                 ypred[i] = 1                               
        else:                                   
                ypred[i] = 0

    error = expectedT - ypred

    # updating the weights
    w = np.add(w,learningRate*(np.dot(error,x)))
    globalError = globalError + np.square(error)

【问题讨论】：

您有 80 个样本和 2 个特征。如果您使用单层感知器，您将针对每个特征训练一个权重。因此，您只需要 2 个权重。但是引入具有其他权重的偏置层也很常见。因此，您将使用 3 个权重。此外，您的错误可能永远不会达到 0，因为例如单层感知器无法解决 xor。
@mjspier 感谢您确认重量。在我共享的代码中，如果在一次迭代中没有错误，我是否需要在下一次迭代中忽略该示例行？

标签： machine-learning neural-network artificial-intelligence perceptron

【解决方案1】：

对于每个功能，您将拥有一个权重。因此，您有两个特征和两个权重。它还有助于引入增加另一个权重的偏差。有关偏差的更多信息，请查看此Role of Bias in Neural Networks。权重确实应该学习如何最好地拟合样本数据。根据数据，这可能意味着您永远不会达到 0 的误差。例如，当使用单调激活函数时，单层感知器无法学习 XOR 门。 (solving XOR with single layer perceptron)。

对于您的示例，我会推荐两件事。例如，当误差低于某个阈值或误差为 0 时，引入偏差并停止训练。

我完成了你的例子来学习逻辑与门：

# AND input and output
x = np.array([[0,0],[0,1],[1,0],[1,1]])
y = np.array([0,1,1,1])

n = 1000
w=[0.1,0.1,0.1]  
learningRate = 0.01
globalError = 0

def predict(X):
    prediction =  np.dot(w[0:2],X) + w[2] 
    ypred = np.zeros(len(y))
    for i in range (len(y)):    
        if prediction[i] >= 0:                               
                ypred[i] = 1                               
        else:                                   
                ypred[i] = 0
    return ypred

for i in range(n): 
    expectedT = y.transpose();
    xT = x.transpose()
    ypred = predict(xT)

    error = expectedT - ypred
    if sum(error) == 0:
        break

    # updating the weights
    w[0:2] = np.add(w[0:2],learningRate*(np.dot(error,x)))
    w[2] += learningRate*sum(error)
    globalError = globalError + np.square(error)

训练后误差为0

print(error)
# [0. 0. 0. 0.]

权重如下

print(w)
#[0.1, 0.1, -0.00999999999999999]

感知器现在可以用作与门：

predict(x.transpose())
#array([0., 1., 1., 1.])

希望有帮助

【讨论】：