Lost-in-the-middle

长上下文场景中，位于提示词中段的关键信息被模型检索和利用的概率显著低于开头和结尾位置的现象，由斯坦福等机构通过多文档问答实验发现，成因包括位置编码衰减、训练数据分布偏差和注意力稀释。