现代Hopfield网络
一种能存储并检索大量模式的联想记忆系统，其能量函数设计允许存储容量随模式复杂度指数级增长，与Transformer注意力机制存在深层数学等价关系
时间轴 (近 90 天)
Ramsauer等人于2020年证明，Transformer中的单头注意力在数学上等价于现代Hopfield网络的一次检索更新：查询相当于当前状态，键相当于存储模式，注意力权重相当于检索分布。
S-DAM（Spelke-seeded Dense Associative Memory）是一项将发展心理学中的核心知识理论引入现代Hopfield网络的研究，并以预注册方式公开了全部结果，包括一个失败的实验
现代Hopfield网络又称Dense Associative Memory（DAM），是一种能存储并检索大量模式的联想记忆系统
该论文证明Transformer中的自注意力层本质上等价于现代Hopfield网络执行一次模式检索的更新规则，softmax函数对应Hopfield网络的能量极小化步骤
现代Hopfield网络通过引入高次交互项，将存储容量提升至指数级，允许在同等参数规模下存储指数量级更多的模式
S-DAM的核心思路是把结构性先验知识编码成现代Hopfield网络的初始化或记忆模式（seeding），检验先验能否提升模型的学习效率或泛化能力
全部知识事实 (6)
Ramsauer等人于2020年证明，Transformer中的单头注意力在数学上等价于现代Hopfield网络的一次检索更新：查询相当于当前状态，键相当于存储模式，注意力权重相当于检索分布。
50%待验证S-DAM（Spelke-seeded Dense Associative Memory）是一项将发展心理学中的核心知识理论引入现代Hopfield网络的研究，并以预注册方式公开了全部结果，包括一个失败的实验
50%待验证现代Hopfield网络又称Dense Associative Memory（DAM），是一种能存储并检索大量模式的联想记忆系统
50%待验证该论文证明Transformer中的自注意力层本质上等价于现代Hopfield网络执行一次模式检索的更新规则，softmax函数对应Hopfield网络的能量极小化步骤
50%待验证现代Hopfield网络通过引入高次交互项，将存储容量提升至指数级，允许在同等参数规模下存储指数量级更多的模式
50%待验证S-DAM的核心思路是把结构性先验知识编码成现代Hopfield网络的初始化或记忆模式（seeding），检验先验能否提升模型的学习效率或泛化能力
50%