概念Reasoning Hijacking
推理劫持
攻击者不直接命令智能体,而是通过污染推理过程使智能体在早期接受攻击者设定的目标,后续行动忠实执行被污染的计划。
时间轴 (近 90 天)
10月19日
推理劫持指攻击者篡改智能体推理过程中的中间目标或前提,使模型'自认为'在执行合理计划,最终动作本身可能完全合规,异常只体现在推理轨迹早期。
待验证50%
攻击者不直接命令智能体,而是通过污染推理过程使智能体在早期接受攻击者设定的目标,后续行动忠实执行被污染的计划。
推理劫持指攻击者篡改智能体推理过程中的中间目标或前提,使模型'自认为'在执行合理计划,最终动作本身可能完全合规,异常只体现在推理轨迹早期。