概念One-Relation Attack / ORA
单关系攻击
一种针对LLM智能体推理链的对抗攻击方法,通过插入来源可溯源的真实陈述来限定推理中隐含担保的适用范围,从而诱导智能体得出错误结论,而非篡改事实本身
时间轴 (近 90 天)
10月20日
单关系攻击(ORA)通过定位并限定推理链中的隐式担保来使AI智能体得出错误结论,而非注入虚假事实。
待验证50%
10月20日
在生物医学推断和漏洞检测两个任务上,针对18个模型测试,best-of-10攻击对专有模型平均翻转正确回答的比例为54.9%,对开放权重模型达到80.0%。
待验证50%
10月20日
ORA攻击语句往往能通过来源支持检查,且难以被识别为恶意输入。
待验证50%
10月20日
传统事实核查无法拦截ORA攻击,因为被攻击的是推理连接环节而非显式命题的真实性。
待验证50%
10月20日
ORA攻击可以在无受害者反馈的情况下迁移。
待验证50%