待验证85% 置信事实时间未知
当前大模型并没有真正的持久化记忆机制，随着对话轮次增加，早期需求描述在注意力机制中的权重会逐渐衰减
1
来源数
85%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Harness Engineering实战：三层架构驾驭AI Agent开发
bilibiliAI大模型学习教程
涉及实体
相关事实
待验证当前最前沿模型在处理长程依赖时面临注意力衰减问题，随着上下文长度增加，维持早期设定一致性的能力显著下降82% 相似已验证LLM存在'Instruction Drift'现象：随着对话轮次增加，早期系统提示在模型注意力权重中逐渐衰减80% 相似已验证Transformer架构的注意力机制在处理超长序列时，对早期内容的关注度会显著下降，导致模型遗忘前文设定78% 相似待验证随着对话轮次增加，上下文窗口中早期关键约束信息权重被稀释（注意力漂移），导致AI输出质量逐渐下降77% 相似待验证短期记忆延迟低但成本随对话轮次线性增长；长期记忆成本固定但检索引入额外延迟，且存在检索到错误记忆的风险77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/20896API
curl https://kongchang.com/api/v1/knowledge/claims/20896MCP
get_claim(id=20896)