待验证50% 置信事件精确时间
2023年DEF CON黑客大会上，白宫组织了大规模AI红队测试活动，邀请数千名安全研究者对多家厂商的模型进行攻防测试
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证2023年卡内基梅隆大学与德国CISPA亥姆霍兹信息安全中心的研究团队发表论文，证明当时主流LLM Agent对间接提示注入攻击高度脆弱，成功率超过80%57% 相似待验证2023年以来研究人员在AutoGPT、LangChain等主流Agent框架中演示了提示注入攻击的可行性56% 相似待验证2021年来自MIT、斯坦福等机构的14位专家（含RSA算法发明者之一Ron Rivest）联合发表论文《Bugs in our Pockets》，论证客户端扫描的核心风险55% 相似待验证Anthropic开源了其红队数据集，包含约38,000条人类撰写的红队攻击样本及模型回复54% 相似待验证2023年研究者已经演示了通过间接注入控制Bing Chat代理行为的概念验证攻击54% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/893518API
curl https://kongchang.com/api/v1/knowledge/claims/893518MCP
get_claim(id=893518)