已验证65% 置信事实时间未知
Transformer架构存在「Lost in the Middle」效应，模型对对话开头和结尾的内容记忆较好，但中间部分容易丢失
3
来源数
65%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
GLM5.1编程实测：真实代码能力与性价比深度评测
bilibiliAI全文总结
涉及实体
相关事实
待验证Akyürek等人2022年的工作从理论上证明，Transformer在执行上下文学习时其前向传播等价于在注意力层中隐式运行一步梯度下降更新72% 相似待验证提示词漂移是指在长对话或复杂任务中模型行为逐渐偏离原始指令意图的现象，与Transformer注意力权重随序列长度增加而稀释有关72% 相似待验证残差流是Transformer架构的核心信息通道，每一层的注意力头和MLP模块以读取-处理-写回的方式与残差流交互71% 相似待验证Transformer、扩散模型等架构引入交叉注意力、动态路由、条件分支等复杂控制流，使单凭阅读代码维持准确心智模型的认知负荷显著上升68% 相似已验证麻省理工学院研究发现Transformer注意力机制处理少样本示例时行为模式与梯度下降优化器相似68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/13498API
curl https://kongchang.com/api/v1/knowledge/claims/13498MCP
get_claim(id=13498)