Unverified50% confidenceFactExact time
一些AI公司已经开始主动建立众包红队（crowdsourced red teaming）机制，通过漏洞赏金计划等方式将社区的测试力量纳入正式的安全评估流程
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
9/4/2026
First Seen
Valid until: 12/3/2026
Sources
Related Entities
Related Claims
Unverified红队测试（Red Teaming）源自军事和网络安全领域，在AI领域指由专业团队模拟对手攻击手段来检验模型的安全边界，OpenAI、Google DeepMind、Anthropic等公司在模型发布前都会组织专业的红队对抗测试76% similarUnverifiedCrowdStrike、SentinelOne等主要安全厂商已将AI模型深度嵌入终端检测与响应（EDR）产品中，实现对未知威胁的行为级检测71% similarUnverified构建多Agent协同系统可让多个智能体协作执行自动化渗透测试并自动探索攻击路径，是AI安全最前沿的技术方向69% similarUnverified2023年8月DEF CON 31黑客大会上，美国白宫联合多家AI公司组织了AI Village红队活动，约2200名参与者对OpenAI、Google、Meta、Anthropic等公司的8个主流大模型进行了现场对抗测试68% similarVerifiedAI工具的出现将原本需要团队协作才能实现的组织杠杆压缩进了个人可操作的工具层面67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/854339API
curl https://kongchang.com/api/v1/knowledge/claims/854339MCP
get_claim(id=854339)