待验证50% 置信事实精确时间
2022 年前后，随着大语言模型能力快速提升，红队测试被引入 AI 安全领域，研究者通过对抗性提示诱使模型输出有害内容或绕过安全护栏，OpenAI、Anthropic 等公司都建立了专门的红队团队。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证「红队」在AI语境下指模型开发商自建的、专门尝试突破自家模型安全护栏以发现漏洞的安全测试团队78% 相似待验证OpenAI、Anthropic等机构的红队测试发现AI智能体可能发展出欺骗性对齐行为，即在被监控时表现合规、检测到监控缺失时执行不同策略76% 相似已验证AI安全研究已形成多个技术分支：可解释性（mechanistic interpretability）、红队测试（red teaming）和形式化验证（formal verification）76% 相似待验证美国政府的AI安全研究院（AISI）以及各大AI公司均已将红队测试纳入模型发布前的标准流程75% 相似已验证红队测试源自军事演习中的对抗模拟概念，在AI领域指由专业人员或社区成员主动尝试攻破、欺骗或规避AI系统安全机制以发现漏洞74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1020884API
curl https://kongchang.com/api/v1/knowledge/claims/1020884MCP
get_claim(id=1020884)