已验证70% 置信事实时间未知

即便拥有百万token上下文的模型，在处理大型代码库时也面临注意力稀释问题——上下文过长时模型对早期内容的关注度会显著下降

4

来源数

70%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Claude Code企业级部署指南：生态系统框架与实操配置详解

bilibili沐冰茶

涉及实体

大语言模型concept

相关事实

待验证当前最前沿模型在处理长程依赖时面临注意力衰减问题，随着上下文长度增加，维持早期设定一致性的能力显著下降80% 相似已验证Transformer架构的注意力机制在处理超长序列时，对早期内容的关注度会显著下降，导致模型遗忘前文设定78% 相似待验证当代码库规模远超上下文窗口容量时，模型容易遗忘早期约束、生成风格漂移78% 相似待验证当提示词过长时，大模型会出现'注意力爆炸'现象，即输入太长导致有效信息丢失77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/17454

API

curl https://kongchang.com/api/v1/knowledge/claims/17454

MCP

get_claim(id=17454)