概念
RL-Hammer
一种针对LLM提示注入的黑盒自适应攻击方法,通过强化学习搜索有效的注入策略,仅需查询模型输入输出。
时间轴 (近 90 天)
10月28日
在黑盒 RL-Hammer 攻击下,HoS 的攻击成功率(ASR)仅为 10%,而 GPT-OSS-20B 原始模型高达 97%,SecAlign 为 85%。
待验证50%
一种针对LLM提示注入的黑盒自适应攻击方法,通过强化学习搜索有效的注入策略,仅需查询模型输入输出。
在黑盒 RL-Hammer 攻击下,HoS 的攻击成功率(ASR)仅为 10%,而 GPT-OSS-20B 原始模型高达 97%,SecAlign 为 85%。