概念Policy Drift
策略漂移
AI智能体安全风险类型之一,指Agent在多轮对话或复杂推理链中逐渐偏离原始行为边界,通过多次小步骤的累积偏移最终导致不符合企业政策的输出或操作
时间轴 (近 90 天)
9月23日
策略漂移指智能体在多轮对话或复杂推理链条中逐渐偏离原始设定的行为边界
待验证50%
AI智能体安全风险类型之一,指Agent在多轮对话或复杂推理链中逐渐偏离原始行为边界,通过多次小步骤的累积偏移最终导致不符合企业政策的输出或操作
策略漂移指智能体在多轮对话或复杂推理链条中逐渐偏离原始设定的行为边界