待验证50% 置信事实时间未知
Persistent memory in AI agents carries risks where incorrect experiences may become entrenched, potentially causing irreversible damage such as accidental file deletion
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/2
首次发现
有效期至：2026/9/30
来源
相关事实
待验证AI代理在自动化脚本中执行rm删除命令存在因误判工作目录或错误推断文件用途而产生意外结果的风险73% 相似待验证设计不良的AI Agent可能陷入目标→调用API→失败→重试→循环的闭环，在无人监控下持续消耗资源并累积费用73% 相似待验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险72% 相似待验证对AI编程助手权限设置过窄会导致每步需人工确认，退化成半自动模式；权限过宽则可能因幻觉或注入攻击造成文件删除、凭证泄露等严重后果71% 相似待验证AI代理在面对动态加载页面、验证码、多因素认证等情况时仍存在较高的失败率70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/58229API
curl https://kongchang.com/api/v1/knowledge/claims/58229MCP
get_claim(id=58229)