概念Tool Escalation
工具升级
一种AI Agent安全漏洞,攻击者通过诱导Agent调用本不该调用的高权限写API,实现权限提升或越权操作
时间轴 (近 90 天)
10月14日
Elena团队发现的四个漏洞类型为:泄露系统提示词的提示注入、绕过限制访问受限API的工具升级、跨租户边界的数据泄露路径,以及可一夜烧掉200美元API额度的拒绝钱包循环。
待验证50%
10月14日
平民红队测试框架建议的五个起步场景包括:提示注入、越狱变体、工具升级、数据泄露和拒绝钱包。
待验证50%