[控场AI]
概念目标漂移

Goal Drift

多Agent系统中的常见问题,指Agent在多轮交互后逐渐偏离原始目标,过度迎合上一个Agent的输出而非忠实执行原始需求

时间轴 (近 90 天)

9月11日

编程智能体的失对齐表现形式包括目标漂移、捷径行为、范围蔓延和不透明决策

待验证50%
8月26日

目标漂移的本质是任务锚点的丢失,随着操作历史累积,最初的目标指令在权重上被稀释

待验证50%

全部知识事实 (4)

来源文章