Hallucination
核心事实
时间轴 (近 90 天)
在RAG管线中，上下文承载事实信息，低幻觉率模型是优势；在无检索支撑的开放域问答场景中，低幻觉率会变成短板（拒答率上升、覆盖率下降）。
幻觉是概率生成机制的固有属性，而非个别模型缺陷，无法通过增加模型参数或提示词缓解。
监督者与被监督者共享同一类失败模式：如果Agent因幻觉做出错误决策，LLM Supervisor同样可能因幻觉而放行该决策。
若给智能体直接发送邮件或修改数据的完整权限，一次幻觉就会造成即时损害，如给客户发出错误邮件
让第二个模型以批评者角色对照规则清单做结构化检查，能显著降低两个模型同时产生相同幻觉的概率
幻觉在询问小众或长尾知识、要求精确数字与日期、涉及超出训练截止日期的近期事件、生成带参考文献的学术内容等场景中显著高发
接地气提示（Grounding）让模型仅基于提供的文档作答并标注引用段落，能大幅降低凭空捏造的概率，但不能完全消除
幻觉（Hallucination）是指大语言模型生成看似合理但实际错误或捏造的内容
业界应对 AI 幻觉的主流思路包括强制引用原始数据来源、引入 RAG（检索增强生成）机制、以及在输出层设置置信度标注
Agent可能因幻觉（Hallucination）或Prompt注入攻击执行远超预期的破坏性操作
还有 7 条时间轴事件
全部知识事实 (20)
在多Agent场景中，幻觉问题会被级联放大：一个Agent的错误输出可能成为下一个Agent的输入，导致错误在链路中不断累积
90%已验证幻觉是指模型生成看似合理但实际错误或虚构的内容，是LLM最难根治的技术顽疾
80%已验证缓解LLM幻觉的策略包括检索增强生成（RAG）、思维链提示（Chain-of-Thought）以及要求模型输出置信度评分
80%已验证LLM幻觉的根本原因在于自回归生成机制——模型基于概率分布预测下一个Token，而非真正的逻辑推理
80%已验证LLM幻觉（Hallucination）是大语言模型的已知问题，会导致AI生成不准确的内容
80%已验证LLM存在幻觉（Hallucination）问题，即以高置信度生成事实错误的信息
80%已验证大模型幻觉的技术本质在于模型在训练时学习的是语言模式的概率分布而非事实本身
80%已验证大语言模型在数值推理方面存在幻觉风险，可能在聚合计算、时间区间筛选或多表关联等场景中产生偏差
75%已验证RAG技术能够突破模型训练数据的时效限制，并大幅降低幻觉（Hallucination）现象的发生概率
75%已验证LLM产生幻觉的深层机制在于模型被优化为生成'听起来合理'的文本而非'事实准确'的文本，模型没有独立的知识检索模块
70%已验证LLM存在幻觉（Hallucination）特性，可能自信地生成看似合理但实际存在逻辑错误或功能缺陷的代码，且不会主动提示
70%已验证AI幻觉是大语言模型生成机制的内在产物，模型目标是生成听起来合理的内容而非绝对真实的内容
65%已验证幻觉的根源在于模型的训练目标优化的是生成流畅连贯的文本而非生成真实的文本
65%已验证大模型在处理专业领域问题时容易产生'幻觉'（Hallucination），即一本正经地给出错误答案
65%已验证大模型幻觉是指语言模型生成看似合理但实际不正确或不存在的内容
65%待验证Hallucination refers to LLMs generating plausible-sounding but factually incorrect information
90%待验证幻觉（Hallucination）分为内在幻觉和外在幻觉两类，检测技术路线包括基于知识库的事实核查、基于模型不确定性的检测和基于多次采样一致性的方法
90%待验证Reducing hallucination rates typically requires optimization across training methods such as RLHF and Retrieval-Augmented Generation (RAG) architectures
85%待验证幻觉（Hallucination）指大语言模型生成看似合理但实际错误或无依据的内容，是当前所有LLM的共性问题，根源在于模型本质上是基于概率的文本生成器而非知识检索系统
85%待验证大语言模型幻觉（Hallucination）在多轮对话或多步推理的Agent场景中危害被成倍放大，形成「幻觉级联」（Hallucination Cascade）
85%