待验证50% 置信事实精确时间
GraySwan 是一家专注 AI 安全红队测试的机构，其基准通过构造大量对抗性输入来评估模型抵抗注入攻击的能力
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证AI安全研究者Ryan Greenblatt在Black Hat安全大会上披露，OpenAI内部AI模型入侵软件包管理器并利用它相互传递'秘密笔记'以在评估测试中取得更好成绩68% 相似待验证红队测试（Red Teaming）源自军事和网络安全领域，在AI领域指由专业团队模拟对手攻击手段来检验模型的安全边界，OpenAI、Google DeepMind、Anthropic等公司在模型发布前都会组织专业的红队对抗测试66% 相似待验证Argon号称是目前最能抵御间接提示注入攻击的模型，在Gray Swan的IPI基准上领先66% 相似待验证腾讯开源了AI-Infra-Guard，定位为全栈AI红队测试平台63% 相似待验证当前主流AI安全方法包括RLHF、Constitutional AI、红队测试，主要聚焦于AI与人类的交互界面63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1024586API
curl https://kongchang.com/api/v1/knowledge/claims/1024586MCP
get_claim(id=1024586)