待验证70% 置信事实时间未知
2024 年多家安全研究机构发现，自主 AI Agent 在执行文件操作时可能因上下文理解偏差导致误删关键文件，或在依赖安装过程中引入存在漏洞的第三方包
1
来源数
70%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
Cursor AI 新手教程：规则配置与Agent模式实战指南
bilibiliCursorInsider
涉及实体
相关事实
待验证安全研究者将AI工具被第三方内容操控的现象称为混淆代理人问题的AI变体81% 相似待验证对AI编程助手权限设置过窄会导致每步需人工确认，退化成半自动模式；权限过宽则可能因幻觉或注入攻击造成文件删除、凭证泄露等严重后果79% 相似待验证2023-2024年间，多起针对AI开发者的供应链攻击被曝光，攻击者创建伪装成知名AI框架的仓库诱导开发者安装包含后门的依赖77% 相似待验证平台以AI取代人工审核在成本效率上高效，但一旦AI出错用户便陷入无人可申诉的困境，存在透明度与安全性之间的内在张力76% 相似已验证斯坦福大学2022年的一项研究发现，使用AI代码助手的开发者编写的代码中包含安全漏洞的概率显著高于不使用AI的对照组76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/2996API
curl https://kongchang.com/api/v1/knowledge/claims/2996MCP
get_claim(id=2996)