[控场AI]
概念positional aliasing

位置混叠

长上下文退化的三种失效机制之一,指在极长序列中位置编码(如RoPE)的旋转角度差异趋于周期性重叠,导致模型对不同位置的感知模糊,是"lost in the middle"现象的编码层面解释

时间轴 (近 90 天)

9月22日

论文将长上下文退化与三种机制联系起来:得分混叠、位置混叠和 softmax 稀释

待验证50%

全部知识事实 (1)

来源文章