待验证60% 置信事实精确时间
Transformer 模型存在'远端衰减'(Lost in the Middle)现象,对位于上下文中段、距离当前生成位置较远的内容关注度会系统性下降
2
来源数
60%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
待验证斯坦福大学2023年的研究将Transformer在处理超长上下文时对中间位置信息遗忘率显著高于首尾位置的现象命名为'Lost in the Middle'问题81% 相似待验证长上下文遗忘(Lost in the Middle)是当前Transformer架构的固有局限80% 相似待验证Transformer模型存在位置偏差,对中间位置信息的检索能力尤其薄弱,即lost in the middle问题80% 相似待验证LLM在长序列生成中因注意力稀释而遗忘之前约束的现象被称为「长上下文遗忘(Lost in the Middle)」,是当前Transformer架构的固有局限73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/561425API
curl https://kongchang.com/api/v1/knowledge/claims/561425MCP
get_claim(id=561425)