[控场AI]
概念

Claudini

一种针对LLM提示注入的白盒自适应攻击方法,利用梯度信息对输入进行优化以生成对抗性注入。

时间轴 (近 90 天)

10月28日

面对白盒攻击 Claudini,攻击者需要消耗约 3 倍的 FLOPs 才能在 HoS 上达到与基线相同的 ASR。

待验证50%

全部知识事实 (1)

来源文章