Unverified50% confidenceFactExact time
当 AI 代理被赋予过于宽泛的权限和目标时，系统往往会在多轮迭代中偏离初衷，产生大量无效甚至有害的修改
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/20/2026
First Seen
Valid until: 10/18/2026
Sources
Related Claims
Unverified设计不良的AI Agent可能陷入目标→调用API→失败→重试→循环的闭环，在无人监控下持续消耗资源并累积费用82% similarUnverifiedAI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险80% similarUnverifiedAI代理在涉及多文件、跨模块的复杂任务时表现急剧下滑80% similarVerifiedAI Agent常见的四种失败模式包括方向偏移、上下文丢失、过度生成和错误累积79% similarUnverifiedAI Agent的可观测性面临独特挑战：模型推理本质上是非确定性的，工具调用链可以动态变化，token消耗与任务复杂度之间的关系难以预测。78% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/567884API
curl https://kongchang.com/api/v1/knowledge/claims/567884MCP
get_claim(id=567884)