论文Ramsauer et al. 2020
Hopfield Networks is All You Need
2020年由Ramsauer等人发表的论文,正式揭示了现代Hopfield网络与Transformer自注意力机制之间的数学等价关系,证明softmax注意力本质上是Hopfield网络的能量极小化步骤
时间轴 (近 90 天)
10月4日
现代Hopfield网络与Transformer注意力机制之间的数学联系由Ramsauer等人在2020年的论文《Hopfield Networks is All You Need》中正式揭示
待验证50%