[控场AI]
概念Reasoning Hijacking

推理劫持

攻击者不直接命令智能体,而是通过污染推理过程使智能体在早期接受攻击者设定的目标,后续行动忠实执行被污染的计划。

时间轴 (近 90 天)

10月19日

推理劫持指攻击者篡改智能体推理过程中的中间目标或前提,使模型'自认为'在执行合理计划,最终动作本身可能完全合规,异常只体现在推理轨迹早期。

待验证50%

全部知识事实 (1)

来源文章