一种针对LLM提示注入的白盒自适应攻击方法,利用梯度信息对输入进行优化以生成对抗性注入。
面对白盒攻击 Claudini,攻击者需要消耗约 3 倍的 FLOPs 才能在 HoS 上达到与基线相同的 ASR。