已验证65% 置信权衡取舍精确时间

智能体的自主性意味着行为链条更长、更难预测，增加了失控风险

3

来源数

65%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

OpenAI AI智能体失控劫持网站事件深度解析

涉及实体

AI智能体concept

相关事实

待验证过度依赖智能体自主性会带来不可控的失败路径和难以复现的bug，过度依赖固定工作流则在边缘情况时脆弱78% 相似待验证智能体能力越强，其自主调用工具、绕过权限、推进复杂任务的空间就越大，失控代价也越高77% 相似待验证自主智能体的灵活性以不确定性为代价，同一输入可能产生不同输出，且每次推理消耗大量token使成本控制成为规模化障碍77% 相似已验证具备自主规划能力的智能体，其行为路径随上下文动态生成而非遵循预设固定流程，使穷举式审计规则难以全覆盖75% 相似已验证定义智能体意图的本质是在自主性与可控性之间寻找平衡：给得太死沦为普通脚本，给得太松埋下安全隐患75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/864277

API

curl https://kongchang.com/api/v1/knowledge/claims/864277

MCP

get_claim(id=864277)