概念Hebbian Learning / 赫布学习规则
Hebbian学习规则
一种纯局部的神经网络学习规则,由Donald Hebb于1949年提出。当两个神经元反复同时激活时,它们之间的连接强度会增加,即'一起激发的神经元连在一起'。其数学形式为权重变化量与前后神经元激活值的乘积成正比,不需要全局误差信号或外部监督。
时间轴 (近 90 天)
10月13日
Hebbian学习规则的数学形式通常表现为权重变化量与前后两个神经元激活值的乘积成正比。
待验证50%
10月13日
纯Hebbian规则面临不稳定问题:正反馈可能导致权重无限增长。
待验证50%
10月13日
为改进Hebbian规则的稳定性,研究者提出了Oja规则(引入权重衰减实现归一化)和BCM规则(引入滑动修改阈值)。
待验证50%