[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
score aliasing
得分混叠
长上下文退化的三种失效机制之一,指干扰项的注意力得分与真实证据的得分难以区分,导致模型无法正确识别关键信息
时间轴 (近 90 天)
9月22日
论文将长上下文退化与三种机制联系起来:得分混叠、位置混叠和 softmax 稀释
待验证
50%
全部知识事实 (1)
待验证
论文将长上下文退化与三种机制联系起来:得分混叠、位置混叠和 softmax 稀释
50%
来源文章
上下文投毒:长上下文模型为何被干扰信息拖垮
9月22日