待验证50% 置信事实精确时间

论文将上下文退化现象抽象为注意力中的极值干扰（extreme-value interference）问题

1

来源数

50%

置信度

长期有效

时效性

2026/9/22

首次发现

来源

上下文投毒：长上下文模型为何被干扰信息拖垮

涉及实体

极值干扰concept

相关事实

待验证研究者提出注意力稀释效应（attention dilution effect）假设来解释批处理降低过度纠正的现象73% 相似待验证关键证据的注意力得分存在上界，而所有有效干扰项中的最大得分会随干扰项数量增加而增长69% 相似待验证论文指出长上下文退化的根源不完全在于上下文长度，而在于其中有效干扰项的数量66% 相似待验证注意力稀释的根本原因在于Softmax归一化：序列中token越多，每个位置分配到的有效注意力权重随序列长度近似成反比例缩小66% 相似待验证当提示词过长时，大模型会出现'注意力爆炸'现象，即输入太长导致有效信息丢失66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/940094

API

curl https://kongchang.com/api/v1/knowledge/claims/940094

MCP

get_claim(id=940094)