[控场AI]
概念context drift / 指令遗忘 / instruction forgetting

上下文漂移

多智能体或长周期LLM任务中,因上下文窗口压缩/摘要导致早期约束或细节被遗忘,使系统行为逐渐偏离原始指令的现象,是当前AI Agent工程的主要挑战之一。

时间轴 (近 90 天)

10月19日

上下文漂移是指多轮交互或长期运行的AI系统中,上下文窗口内的信息逐渐累积噪声、过时事实或被错误推断的内容,导致模型输出与初始意图产生系统性偏离。

待验证50%
10月19日

应对上下文漂移需要工程手段,例如上下文版本化、定期重检索、显式状态快照与差异比对,以及基于证据溯源的回归测试。

待验证50%
10月19日

上下文漂移不同于模型幻觉:幻觉是单次生成中的事实错误,而漂移是跨会话或长链条推理中逐步累积的偏差。

待验证50%
10月18日

上下文漂移(context drift)指Agent在长对话中逐渐偏离最初任务范围或项目边界的现象。

待验证50%
10月18日

显式命名项目被视为成本最低的纠正上下文漂移的手段,因为它在每一轮都提供了一个可观察、可审查的边界信号。

待验证50%
10月16日

在多智能体生产系统中,最先出现的问题是上下文漂移,其次是重试放大,第三是自信的错误答案(本地模型以相同格式和语气陈述错误结论,无内置不确定性信号)。

待验证50%
10月16日

结构化数据传递是缓解上下文漂移的核心手段,智能体之间应传递带类型的字段(记录ID、实体ID、时间戳、状态码、置信度),而非自然语言摘要。

待验证50%
10月1日

上下文漂移(contextual drift)指模型在长生成的后半段逐渐遗忘前半段的约束条件,导致代码风格不一致、变量命名冲突等问题

待验证50%
9月29日

该项目最初把整个计划放在对话上下文中,导致出现漂移现象,如出现本不该出现的第二只兔子、被禁止的道具重新出现、场景顺序自行重写

待验证50%

全部知识事实 (9)

待验证

上下文漂移是指多轮交互或长期运行的AI系统中,上下文窗口内的信息逐渐累积噪声、过时事实或被错误推断的内容,导致模型输出与初始意图产生系统性偏离。

50%
待验证

应对上下文漂移需要工程手段,例如上下文版本化、定期重检索、显式状态快照与差异比对,以及基于证据溯源的回归测试。

50%
待验证

上下文漂移不同于模型幻觉:幻觉是单次生成中的事实错误,而漂移是跨会话或长链条推理中逐步累积的偏差。

50%
待验证

上下文漂移(context drift)指Agent在长对话中逐渐偏离最初任务范围或项目边界的现象。

50%
待验证

显式命名项目被视为成本最低的纠正上下文漂移的手段,因为它在每一轮都提供了一个可观察、可审查的边界信号。

50%
待验证

在多智能体生产系统中,最先出现的问题是上下文漂移,其次是重试放大,第三是自信的错误答案(本地模型以相同格式和语气陈述错误结论,无内置不确定性信号)。

50%
待验证

结构化数据传递是缓解上下文漂移的核心手段,智能体之间应传递带类型的字段(记录ID、实体ID、时间戳、状态码、置信度),而非自然语言摘要。

50%
待验证

上下文漂移(contextual drift)指模型在长生成的后半段逐渐遗忘前半段的约束条件,导致代码风格不一致、变量命名冲突等问题

50%
待验证

该项目最初把整个计划放在对话上下文中,导致出现漂移现象,如出现本不该出现的第二只兔子、被禁止的道具重新出现、场景顺序自行重写

50%

来源文章