待验证50% 置信注意事项精确时间
Agent的自主决策可能产生难以预测的副作用如误删代码、错误部署，需要完善的权限边界和行为审计机制
1
来源数
50%
置信度
长期有效
时效性
2026/7/18
首次发现
来源
相关事实
待验证Agent的灵活性带来行为不可预测的代价，可能因目标理解偏差、工具调用失误或反馈误判而走偏83% 相似待验证Agent的自主程度越高，潜在的数据安全风险越大，因为Agent的行为路径在设计时无法被完全预见80% 相似待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏78% 相似待验证主动执行的智能体一旦出错（如自动发布错误内容），后果比被动工具更严重，对告警与人工确认机制要求极高76% 相似已验证AI Agent的自主性与用户真实预期之间存在偏差，追求顺滑自动化体验的工具往往弱化或跳过操作确认环节，带来失控风险75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/552216API
curl https://kongchang.com/api/v1/knowledge/claims/552216MCP
get_claim(id=552216)