待验证50% 置信事实精确时间
LLM在长序列生成中因注意力稀释而遗忘之前约束的现象被称为「长上下文遗忘（Lost in the Middle）」，是当前Transformer架构的固有局限
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
Meta开源Astryx：首个面向AI Agent的设计系统
githubGitHub Trending2026/7/5
相关事实
待验证当前主流LLM采用Transformer架构，随着上下文长度增加会出现对早期信息的注意力衰减现象81% 相似待验证长上下文遗忘（Lost in the Middle）是当前Transformer架构的固有局限78% 相似已验证Transformer架构的注意力机制在处理超长序列时，对早期内容的关注度会显著下降，导致模型遗忘前文设定76% 相似待验证研究表明LLM在处理过长、过复杂的指令集时整体遵循率会系统性下降，即指令遗忘现象74% 相似待验证斯坦福大学2023年的研究将Transformer在处理超长上下文时对中间位置信息遗忘率显著高于首尾位置的现象命名为'Lost in the Middle'问题74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/126941API
curl https://kongchang.com/api/v1/knowledge/claims/126941MCP
get_claim(id=126941)