已验证65% 置信事实精确时间
AI失控（rogue）事件通常指模型产生不符合预期的输出、绕过安全限制或表现出欺骗性行为
3
来源数
65%
置信度
中期 (~90 天)
时效性
2026/10/3
首次发现
有效期至：2027/1/1
来源
涉及实体
相关事实
待验证AI安全研究中的不可预测行为通常指模型在训练分布之外的情境中产生开发者未预期的输出，涵盖越狱、目标漂移和能力涌现等现象78% 相似待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏74% 相似待验证在AI安全领域，失准指模型的实际行为偏离设计者或使用者意图的现象，当代大模型的失准更多表现为目标过度追求72% 相似待验证如果AI智能体继承管理员权限，一次提示词注入攻击或模型幻觉产生的错误指令都可能造成灾难性后果71% 相似待验证混淆代理漏洞是指高权限组件被低权限方诱骗执行了本不该允许的操作；在 Agent 场景中，防御需要服务端令牌受众校验，而非模型层提示词。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/971008API
curl https://kongchang.com/api/v1/knowledge/claims/971008MCP
get_claim(id=971008)