待验证50% 置信观点精确时间

LLM存在幻觉问题，可能生成看似合理但实际有害的命令，例如将清理文件的范围错误扩大到整个home目录

1

来源数

50%

置信度

长期有效

时效性

2026/8/10

首次发现

来源

Cursor AI Agent执行rm -rf删除主目录：事故复盘与防护指南

相关事实

待验证LLM输出具有概率性，存在幻觉风险，可能误判情境并调用本不该调用的工具74% 相似待验证LLM在处理实时性需求时极易产生幻觉，输出过时或错误的信息68% 相似待验证当前LLM在代码生成上存在幻觉问题、上下文窗口限制和安全隐患三个系统性弱点67% 相似待验证LLM容易在复杂业务逻辑、罕见边界条件或需要跨文件全局理解的场景中失效66% 相似待验证基于规则的命令拦截工具面临误报与漏报平衡的难题，因为命令危险性往往依赖上下文，如 rm -rf ./temp 无害而 rm -rf $VAR 在变量为空时是灾难65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/726773

API

curl https://kongchang.com/api/v1/knowledge/claims/726773

MCP

get_claim(id=726773)