模型幻觉
大语言模型以高置信度生成与事实不符或无法验证内容的现象，是当前LLM的主要可靠性挑战之一，影响模型在高风险场景下的可信度
核心事实
时间轴 (近 90 天)
模型可能“幻觉”出不存在的API或配置项，导致运行时错误。
价格是珠宝零售中最敏感、最易变、最容易被模型幻觉污染的信息类型，将其从生成路径中移除可获得可预期的安全边界。
上下文漂移不同于模型幻觉：幻觉是单次生成中的事实错误，而漂移是跨会话或长链条推理中逐步累积的偏差。
幻觉并非程序 bug，而是模型基于概率预测下一个词这一工作机制的固有副产物。
大模型项目存在幻觉编造数据、输出伪工具标签、用过时训练知识覆盖工具返回最新数据等工程问题
在代码生成场景中，模型可能调用不存在的API、修改不应该碰的函数、或破坏已有逻辑且不主动报告改动
政府信息服务的AI幻觉危险性叠加了权威光环效应，用户倾向更信任官方渠道信息，纠错难度更高
缓解幻觉的工程手段包括为工具调用添加结果校验层、引入RAG检索增强生成、设置置信度阈值触发人工审核，以及通过Prompt约束模型主动声明不知道
幻觉（Hallucination）指大语言模型生成看似合理但实际错误或无依据的内容，是当前所有LLM的共性问题，根源在于模型本质上是基于概率的文本生成器而非知识检索系统
全部知识事实 (13)
缓解LLM幻觉的策略包括检索增强生成（RAG）、思维链提示（Chain-of-Thought）以及要求模型输出置信度评分
80%已验证在多步骤自动化场景中，模型幻觉导致的单步错误会沿任务链条指数级放大
75%已验证模型幻觉指模型生成看似合理但实际错误的输出，需要完善的回滚、重试和人工介入机制来应对
70%已验证大模型幻觉是指语言模型生成看似合理但实际不正确或不存在的内容
65%待验证幻觉（Hallucination）指大语言模型生成看似合理但实际错误或无依据的内容，是当前所有LLM的共性问题，根源在于模型本质上是基于概率的文本生成器而非知识检索系统
85%待验证模型可能“幻觉”出不存在的API或配置项，导致运行时错误。
50%待验证价格是珠宝零售中最敏感、最易变、最容易被模型幻觉污染的信息类型，将其从生成路径中移除可获得可预期的安全边界。
50%待验证上下文漂移不同于模型幻觉：幻觉是单次生成中的事实错误，而漂移是跨会话或长链条推理中逐步累积的偏差。
50%待验证幻觉并非程序 bug，而是模型基于概率预测下一个词这一工作机制的固有副产物。
50%待验证大模型项目存在幻觉编造数据、输出伪工具标签、用过时训练知识覆盖工具返回最新数据等工程问题
50%待验证在代码生成场景中，模型可能调用不存在的API、修改不应该碰的函数、或破坏已有逻辑且不主动报告改动
50%待验证政府信息服务的AI幻觉危险性叠加了权威光环效应，用户倾向更信任官方渠道信息，纠错难度更高
50%待验证缓解幻觉的工程手段包括为工具调用添加结果校验层、引入RAG检索增强生成、设置置信度阈值触发人工审核，以及通过Prompt约束模型主动声明不知道
50%