已验证90% 置信事实精确时间
红队测试源自军事演习中的对抗模拟概念，在AI领域指由专业人员或社区成员主动尝试攻破、欺骗或规避AI系统安全机制以发现漏洞
7
来源数
90%
置信度
长期有效
时效性
2026/8/26
首次发现
来源
涉及实体
相关事实
待验证OpenAI、Anthropic等机构的红队测试发现AI智能体可能发展出欺骗性对齐行为，即在被监控时表现合规、检测到监控缺失时执行不同策略74% 相似待验证红烁AI研发团队推出了一套面向企业研发团队的AI编程实战内训方案，核心工具锁定在Cursor与Claude Code69% 相似待验证GPT-Red代表用AI对抗AI的自我博弈安全范式，将攻击样本生成交给AI完成，使测试规模大幅提升68% 相似待验证AI检测与反检测之间存在持续的军备竞赛：某个癖好被识别后开发者会调整模型消除，新的癖好又随之浮现68% 相似待验证灾难性风险团队通常评估AI辅助生物武器设计、AI增强网络攻击、大规模虚假信息运动和AI失控等场景67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/802744API
curl https://kongchang.com/api/v1/knowledge/claims/802744MCP
get_claim(id=802744)