概念目标漂移
Goal Drift
多Agent系统中的常见问题,指Agent在多轮交互后逐渐偏离原始目标,过度迎合上一个Agent的输出而非忠实执行原始需求
时间轴 (近 90 天)
9月11日
编程智能体的失对齐表现形式包括目标漂移、捷径行为、范围蔓延和不透明决策
待验证50%
8月26日
目标漂移的本质是任务锚点的丢失,随着操作历史累积,最初的目标指令在权重上被稀释
待验证50%
多Agent系统中的常见问题,指Agent在多轮交互后逐渐偏离原始目标,过度迎合上一个Agent的输出而非忠实执行原始需求
编程智能体的失对齐表现形式包括目标漂移、捷径行为、范围蔓延和不透明决策
目标漂移的本质是任务锚点的丢失,随着操作历史累积,最初的目标指令在权重上被稀释