赫比学习解释

Question

http://www.cs.bham.ac.uk/~jxb/INC/l5.pdf

神经心理学家 Donald Hebb 在 1949 年假设 神经元学习：

“当细胞 A 的轴突足够靠近以激发细胞 B 并且 反复或持续地参与发射它，一些增长 过程或代谢变化发生在一个或两个细胞上，使得 A 的效率作为其中一个发射 B 的细胞的效率提高了。”

用更熟悉的术语来说，可以说是赫布 学习规律：

如果突触（连接）两侧的两个神经元被激活 同时（即同步），然后是突触的强度 选择性增加。

在数学上，我们可以将 Hebbian 学习描述为：

这里，η 是学习率系数，x 是 第 i 个和第 j 个元素。

---

现在，我的问题是，所有这些描述是什么意思？

1. Hebbian Learning 是否适用于单神经元网络？
2. “突触两侧的两个神经元”是什么意思？
3. 为什么/何时会同时激活两个神经元？
4. elements 是什么意思？它们是神经元还是其他什么？
5. 你能举个例子吗？

Answer 1

你有两个与突触相连的神经元。在这个例子中，我们假设神经元激活只有 0 或 1。当加权输入超过阈值时为 1，否则为 0。第一个神经元在1上激活，当第二个神经元也激活时，突触增加，因为第一个神经元的激活导致第二个神经元的激活。

当第二个神经元激活而第一个没有时，突触将保持不变/减少，因为第二个神经元的激活与第一个神经元无关。

这可以通过著名的喂狗例子来证明。当主人敲响铃铛时，他给了他的狗食物。他这样做了一段时间，当主人敲钟时，狗期待食物，所以狗将这两个事件联系在一起铃和食物。

这不能与单个神经元网络一起使用。