【发布时间】：2011-09-22 18:53:50
【问题描述】：
我正在试验单层感知器，我想我（大部分）了解所有内容。但是，我不明白应该将校正（学习率*误差）添加到哪些权重。在我看到的示例中，它似乎是任意的。
【问题讨论】：
标签： artificial-intelligence machine-learning neural-network perceptron
【发布时间】：2011-09-22 18:53:50
【问题描述】：
回答了我自己的问题。
根据http://intsys.mgt.qub.ac.uk/notes/perceptr.html，“将此修正添加到有输入的任何权重”。换句话说，不要对神经元值为 0 的权重添加校正。
【讨论】：
嗯，看起来你一半回答了你自己的问题：确实，你纠正了所有非零权重，你没有纠正所有相同的数量。
相反，您会根据它们的传入激活按比例校正权重，因此如果单元 X 激活得非常强烈，而单元 Y 仅激活了一点点，并且存在很大的误差，那么从单元 X 到输出的权重将比单位 Y 的输出权重更正。
此过程的技术术语称为增量规则，其详细信息可在其wiki article 中找到。此外，如果您想升级到多层感知器（单层感知器的计算能力非常有限，请参阅a discussion of Minsky and Papert's argument against using them here），我们将讨论称为反向传播的类似学习算法here。
【讨论】：
-
激活是指重量乘以输入吗？