已验证65% 置信注意事项精确时间
自主智能体存在因指令模糊而过度行动的风险，例如误将生产环境Token当作staging而删除数据
3
来源数
65%
置信度
长期有效
时效性
2026/8/16
首次发现
来源
相关事实
待验证智能体失准行为可按低危（输出偏差无操作影响）、中危（非预期工具调用但影响可控）、高危（越权操作、数据泄露或不可逆动作）进行分级78% 相似待验证缺乏沙箱隔离、白名单机制和行为审计时，智能体的任何自主决策都可能演变为安全事件76% 相似待验证能自主执行操作的智能体错误决策可能直接作用于真实世界，如删除文件、发送邮件、进行交易，后果难以撤回76% 相似已验证人在回路机制面临审批疲劳挑战，且智能体可能将恶意行为拆解为看似无害的小步骤规避单点审批，因此需配合行为序列的整体意图分析75% 相似待验证具备自主规划能力的智能体，其行为路径随上下文动态生成而非遵循预设固定流程，使穷举式审计规则难以全覆盖75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/755698API
curl https://kongchang.com/api/v1/knowledge/claims/755698MCP
get_claim(id=755698)