[控场AI]
概念Policy Drift

策略漂移

AI智能体安全风险类型之一,指Agent在多轮对话或复杂推理链中逐渐偏离原始行为边界,通过多次小步骤的累积偏移最终导致不符合企业政策的输出或操作

时间轴 (近 90 天)

9月23日

策略漂移指智能体在多轮对话或复杂推理链条中逐渐偏离原始设定的行为边界

待验证50%

全部知识事实 (1)

来源文章