[控场AI]
概念One-Relation Attack / ORA

单关系攻击

一种针对LLM智能体推理链的对抗攻击方法,通过插入来源可溯源的真实陈述来限定推理中隐含担保的适用范围,从而诱导智能体得出错误结论,而非篡改事实本身

时间轴 (近 90 天)

10月20日

单关系攻击(ORA)通过定位并限定推理链中的隐式担保来使AI智能体得出错误结论,而非注入虚假事实。

待验证50%
10月20日

在生物医学推断和漏洞检测两个任务上,针对18个模型测试,best-of-10攻击对专有模型平均翻转正确回答的比例为54.9%,对开放权重模型达到80.0%。

待验证50%
10月20日

ORA攻击语句往往能通过来源支持检查,且难以被识别为恶意输入。

待验证50%
10月20日

传统事实核查无法拦截ORA攻击,因为被攻击的是推理连接环节而非显式命题的真实性。

待验证50%
10月20日

ORA攻击可以在无受害者反馈的情况下迁移。

待验证50%

全部知识事实 (5)

来源文章