待验证50% 置信观点精确时间
失控智能体的风险来自意图、能力、隔离、连锁四个维度，而沙箱主要应对隔离维度，对意图和能力维度几乎无能为力
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证沙箱隔离控制的是能力边界而非意图，被授予合法工具使用权的智能体可能在授权范围内做出有害决策而不违反沙箱规则77% 相似待验证智能体沙箱的威胁模型与传统容器安全不同，需要防御的是可能因幻觉而执行危险操作的AI系统，属于非对抗性但不可预测的行为模式75% 相似待验证智能体的多层自主性带来对齐挑战，包括目标漂移、奖励黑客和不可逆操作风险72% 相似待验证将遏制失控智能体的全部希望寄托于单一机制违反纵深防御（defense in depth）原则，沙箱应当是防御体系中的一层而非唯一一层71% 相似待验证沙箱化通过限制 Agent 的实际执行能力，即使提示词注入成功也能将损害范围控制在隔离环境内71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/964467API
curl https://kongchang.com/api/v1/knowledge/claims/964467MCP
get_claim(id=964467)