概念Lost in the Middle
中间遗忘
长上下文语言模型的性能现象：当关键信息位于上下文中间位置时，模型的检索和利用能力显著低于信息位于开头或结尾的情况，呈U型曲线衰减
核心事实
时间轴 (近 90 天)
10月12日
上下文窗口越大，模型在单次调用中能记住的信息越多，但同时也带来推理成本上升和中间信息被忽略的问题。
已验证65%
10月12日
单纯扩大上下文窗口并不等同于理解能力线性提升，存在中间遗忘现象。
待验证50%
9月9日
2023年斯坦福大学等机构发表研究发现大语言模型处理长文档时对输入内容开头和结尾部分的关注度明显高于中间部分，呈现'U型曲线'效应
待验证50%
9月9日
将关键信息放在输入的开头和结尾位置可以缓解'中间遗忘'效应对结果的影响
待验证50%