Unverified50% confidenceFactExact time
即使是128K Token的大模型在处理大量历史时也会出现注意力稀释问题
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
零基础学AI Agent开发：入门路径与商业变现指南
bilibiliAI研究所-6/5/2026
Related Claims
Unverified即使是支持128K token的大模型，在实际使用中也面临注意力衰减问题——模型对窗口中间位置的信息关注度明显低于首尾85% similarVerified即便拥有百万token上下文的模型，在处理大型代码库时也面临注意力稀释问题——上下文过长时模型对早期内容的关注度会显著下降72% similarUnverified即使支持128K或更长上下文的大语言模型，在一次性注入所有能力指令时也会出现注意力稀释（Attention Dilution）问题，导致特定任务执行质量下降69% similarUnverified即便是支持128K上下文的模型，在文档长度超过32K时，中段信息的检索准确率往往出现明显下滑69% similarUnverified上下文窗口大小不等于有效上下文长度，超出有效注意力范围会导致遗忘漂移现象68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/53460API
curl https://kongchang.com/api/v1/knowledge/claims/53460MCP
get_claim(id=53460)