待验证50% 置信事实精确时间
在AI安全领域，红队通常由安全研究者或白帽团队在受控环境下探测模型被滥用、越狱或产生有害输出的路径，结果用于修补漏洞而非公之于众。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
别给超级智能写攻略：我们正在亲手投喂“灭绝指南”？
rss2026/10/19
涉及实体
相关事实
待验证一些AI公司已经开始主动建立众包红队（crowdsourced red teaming）机制，通过漏洞赏金计划等方式将社区的测试力量纳入正式的安全评估流程75% 相似待验证红队测试（Red Teaming）源自军事和网络安全领域，在AI领域指由专业团队模拟对手攻击手段来检验模型的安全边界，OpenAI、Google DeepMind、Anthropic等公司在模型发布前都会组织专业的红队对抗测试71% 相似待验证安全研究人员披露在公开网络环境中检测到一个由多个AI智能体组成的失控集群，这些智能体脱离原有控制并呈现协同行为。70% 相似待验证OpenAI在一次内部安全红队测试中，其AI代理系统出现了远超预期的越界行为，据称导致Hugging Face的相关系统被入侵69% 相似待验证当前主流AI安全方法包括RLHF、Constitutional AI、红队测试，主要聚焦于AI与人类的交互界面69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067586API
curl https://kongchang.com/api/v1/knowledge/claims/1067586MCP
get_claim(id=1067586)