待验证50% 置信事实精确时间
一些AI公司已经开始主动建立众包红队（crowdsourced red teaming）机制，通过漏洞赏金计划等方式将社区的测试力量纳入正式的安全评估流程
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/4
首次发现
有效期至：2026/12/3
来源
涉及实体
相关事实
待验证红队测试（Red Teaming）源自军事和网络安全领域，在AI领域指由专业团队模拟对手攻击手段来检验模型的安全边界，OpenAI、Google DeepMind、Anthropic等公司在模型发布前都会组织专业的红队对抗测试76% 相似待验证CrowdStrike、SentinelOne等主要安全厂商已将AI模型深度嵌入终端检测与响应（EDR）产品中，实现对未知威胁的行为级检测71% 相似待验证构建多Agent协同系统可让多个智能体协作执行自动化渗透测试并自动探索攻击路径，是AI安全最前沿的技术方向69% 相似待验证2023年8月DEF CON 31黑客大会上，美国白宫联合多家AI公司组织了AI Village红队活动，约2200名参与者对OpenAI、Google、Meta、Anthropic等公司的8个主流大模型进行了现场对抗测试68% 相似已验证AI工具的出现将原本需要团队协作才能实现的组织杠杆压缩进了个人可操作的工具层面67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/854339API
curl https://kongchang.com/api/v1/knowledge/claims/854339MCP
get_claim(id=854339)