概念glassy phase
玻璃态
注意力机制中的一种相态,自由能景观存在大量相近的局部极小值,检索会落入错误模式,表现为对输入微小扰动敏感、输出不稳定、不同随机种子结果差异大,推理结果不可靠。
时间轴 (近 90 天)
10月14日
研究识别出注意力机制中存在一阶相变,系统可以在玻璃态与鲁棒推理态两种截然不同的相之间切换。
待验证50%
10月14日
玻璃态中注意力推理不稳定,系统可能陷入大量局部极小值,导致推理结果不可靠。
待验证50%
10月14日
理解相变临界阈值有助于设计更稳定的注意力机制,避免落入玻璃态。
待验证50%