待验证50% 置信观点精确时间

能自主执行操作的智能体错误决策可能直接作用于真实世界，如删除文件、发送邮件、进行交易，后果难以撤回

1

来源数

50%

置信度

长期有效

时效性

2026/9/27

首次发现

来源

OpenAI暂停最新模型训练：AI智能体失控风波背后

涉及实体

AI智能体concept

相关事实

待验证无人监督的自主循环系统可能在技术上正确的前提下导向实质上错误的结果，需要在关键决策节点引入人类判断76% 相似待验证自主智能体存在因指令模糊而过度行动的风险，例如误将生产环境Token当作staging而删除数据76% 相似待验证Agent的自主决策可能产生难以预测的副作用如误删代码、错误部署，需要完善的权限边界和行为审计机制71% 相似待验证缺乏沙箱隔离、白名单机制和行为审计时，智能体的任何自主决策都可能演变为安全事件71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/954319

API

curl https://kongchang.com/api/v1/knowledge/claims/954319

MCP

get_claim(id=954319)