Unverified50% confidenceCautionExact time
Agent的自主决策可能产生难以预测的副作用如误删代码、错误部署，需要完善的权限边界和行为审计机制
1
Sources
50%
Confidence
Long-term
Relevance
7/18/2026
First Seen
Sources
Related Claims
UnverifiedAgent的灵活性带来行为不可预测的代价，可能因目标理解偏差、工具调用失误或反馈误判而走偏83% similarUnverifiedAgent的自主程度越高，潜在的数据安全风险越大，因为Agent的行为路径在设计时无法被完全预见80% similarUnverified由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏78% similarUnverified主动执行的智能体一旦出错（如自动发布错误内容），后果比被动工具更严重，对告警与人工确认机制要求极高76% similarVerifiedAI Agent的自主性与用户真实预期之间存在偏差，追求顺滑自动化体验的工具往往弱化或跳过操作确认环节，带来失控风险75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/552216API
curl https://kongchang.com/api/v1/knowledge/claims/552216MCP
get_claim(id=552216)