待验证50% 置信事实精确时间
LLM不维护事实数据库，也没有'是否真的执行了某操作'的元认知能力，当上下文强烈暗示某种输出模式时会以高置信度生成符合该模式的文本，即使内容完全虚构
1
来源数
50%
置信度
长期有效
时效性
2026/8/9
首次发现
来源
相关事实
待验证LLM架构无法从语义层面严格区分'指令'与'数据'，这是提示注入难以根治的根源77% 相似已验证LLM代码生成中的幻觉问题表现为虚构不存在的API、错误组合真实API的参数顺序，或基于过时文档生成已废弃的用法71% 相似待验证LLM幻觉问题源于模型基于概率预测生成文本而非检索真实数据，在涉及具体统计数字、引文来源和法律条款时尤为危险66% 相似待验证直接让 LLM 生成 SQL 风险很高，因为模型不了解表结构、字段含义和业务定义，容易生成语法正确但结果错误的查询66% 相似待验证LLM在训练过程中将文本关联保存为数学权重参数，并彻底删除源数据，因此不会搜索内部数据库来复制答案65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/717057API
curl https://kongchang.com/api/v1/knowledge/claims/717057MCP
get_claim(id=717057)