基准
AgentDojo
面向LLM Agent提示注入攻击的安全基准测试集,包含真实注入攻击样本,用于评估检测器和防御方案的有效性
时间轴 (近 90 天)
10月13日
AgentDojo包含629个真实注入攻击,每个攻击隐藏在普通工具输出中。
待验证50%
10月13日
在629个AgentDojo攻击和97个良性工具输出的测试中,jailbreak-detector-large的捕获率为51%,误报率为2%。
待验证50%
10月13日
Prompt Guard 2对人工编写的注入指令评分为0.999,但对真实AgentDojo攻击的评分在0.004-0.140之间,全部低于默认阈值0.5。
待验证50%