[控场AI]
概念

RL-Hammer

一种针对LLM提示注入的黑盒自适应攻击方法,通过强化学习搜索有效的注入策略,仅需查询模型输入输出。

时间轴 (近 90 天)

10月28日

在黑盒 RL-Hammer 攻击下,HoS 的攻击成功率(ASR)仅为 10%,而 GPT-OSS-20B 原始模型高达 97%,SecAlign 为 85%。

待验证50%

全部知识事实 (1)

来源文章