待验证50% 置信事实精确时间
长上下文遗忘(Lost in the Middle)是当前Transformer架构的固有局限
1
来源数
50%
置信度
长期有效
时效性
2026/7/6
首次发现
来源
Meta开源Astryx:首个面向AI Agent的设计系统
githubGitHub Trending2026/7/5
相关事实
待验证Transformer 模型存在'远端衰减'(Lost in the Middle)现象,对位于上下文中段、距离当前生成位置较远的内容关注度会系统性下降80% 相似待验证当前Transformer架构在处理分散于超长上下文中的隐式约束时存在根本性局限,导致修改代码时引入隐蔽bug79% 相似待验证LLM在长序列生成中因注意力稀释而遗忘之前约束的现象被称为「长上下文遗忘(Lost in the Middle)」,是当前Transformer架构的固有局限78% 相似待验证斯坦福大学2023年的研究将Transformer在处理超长上下文时对中间位置信息遗忘率显著高于首尾位置的现象命名为'Lost in the Middle'问题75% 相似待验证Transformer模型存在位置偏差,对中间位置信息的检索能力尤其薄弱,即lost in the middle问题72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/121500API
curl https://kongchang.com/api/v1/knowledge/claims/121500MCP
get_claim(id=121500)