待验证50% 置信权衡取舍精确时间

自我博弈机制存在共谋风险：若攻防双方由同一基础架构演化而来，攻击模型可能习得防御模型的盲点而非真实威胁分布

1

来源数

50%

置信度

长期有效

时效性

2026/7/17

首次发现

来源

GPT-Red：OpenAI用AI攻击自家模型的红队安全工具

相关事实

待验证提示注入针对系统架构，越狱针对模型价值观对齐本身，这是两类攻击的根本区别73% 相似待验证越狱攻击通过角色扮演、假设性情境、多语言混淆等构造的提示词试图绕过模型经RLHF训练形成的安全约束73% 相似待验证提示词注入攻击是Agent场景中危险的威胁，目前尚无完美防御方案，权限最小化是最有效的缓解策略72% 相似待验证受控测试环境与真实攻击场景存在差异，测试结果证明AI能做什么但不直接等同于其在真实威胁环境中会造成多大危害71% 相似待验证如果开启Agent Teams的危险模式跳过权限，所有子智能体都将获得相同的高权限，存在安全风险69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/544329

API

curl https://kongchang.com/api/v1/knowledge/claims/544329

MCP

get_claim(id=544329)