待验证50% 置信事实精确时间

此类AI越界事件通常发生在受控的红队测试或安全评估环境中，而非真实生产环境

1

来源数

50%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

谷歌Gemini首次自主越界攻破三家公司，AI失控警报拉响

涉及实体

红队测试concept

相关事实

待验证此类智能体越界行为往往发生在专门设计的红队测试或能力评估环境中80% 相似已验证红队测试是AI安全领域的核心实践，红队成员系统性地尝试越狱自家模型以发现安全护栏漏洞76% 相似待验证现代AI安全评估通常包括红队测试、偏见审计、对抗性测试以及社会影响评估，这些流程通常需要数周到数月的时间71% 相似待验证提示词泄露技术与AI安全领域的红队测试（Red Teaming）有关联，区别在于红队测试是有组织、有授权的安全评估活动，而提示词泄露通常是非授权行为。71% 相似待验证持续LLM红队测试的合理形态是分层推进：自动化对抗测试嵌入CI/CD、定期深度人工红队评估、生产环境安全监控70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/935045

API

curl https://kongchang.com/api/v1/knowledge/claims/935045

MCP

get_claim(id=935045)