幻觉
大语言模型倾向于生成「听起来合理」但实际上不正确或无法验证的内容，根源在于模型是概率分布上的预测器而非事实数据库
核心事实
时间轴 (近 90 天)
部分接入联网检索的模型会把搜索结果与自身生成内容混合输出，若不区分采信易形成段落间缺乏论证衔接的拼凑感
应对幻觉的通用做法是要求模型标注每条论据对应的文献出处，再由人工逐条核对原文
文章指出ChatGPT同样存在幻觉问题，只是表现形态不同，UP主的推荐更准确解读是选择擅长长文本学术写作、输出连贯性更强的模型
早期大模型的幻觉问题源于模型无法理解文本在人类世界中的含义，只能根据上下文概率生成内容。
AI在假设薄弱时给出令人信服的答案的现象，在人工智能研究中常被归为“幻觉”（hallucination）。
幻觉指大语言模型生成看似合理但与事实或给定上下文不符的内容，在RAG系统中可分为检索失败型和忠实度缺失型两类。
RAG在生成阶段通过prompt要求大模型只根据提供的资料回答，资料中没有的就说不知道，以抑制幻觉。
与普通的幻觉不同，谄媚的错误具有方向性，总是朝着用户暗示的方向偏移，因此更难通过常规的事实核查发现。
分家族看，四个带语法条件的提示家族幻觉占比最高，达到38%至42%；只用IPIP人格的家族最低，为28%。
研究用LLM委员会对全部解析器都漏掉的927条查询做分诊，并以盲审作者复核作为校验，最终把其中37%判为幻觉。
还有 40 条时间轴事件
全部知识事实 (20)
'Hallucination' refers to large language models generating plausible-sounding but factually incorrect content with high confidence
90%已验证AI幻觉的根源在于LLM的生成机制：模型本质上是在做下一个token的概率预测，优化的是语言的连贯性而非事实的准确性
90%已验证引用幻觉是大语言模型幻觉问题的一个特殊子类型，其技术根源在于LLM学习的是token序列的概率分布，而非对现实世界事实的精确记忆
80%已验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险
80%已验证幻觉分为内在幻觉（生成内容与源文档矛盾）和外在幻觉（生成内容无法从任何来源验证）两类
80%已验证幻觉是指模型生成看似合理但实际错误或虚构的内容，是LLM最难根治的技术顽疾
80%已验证缓解LLM幻觉的策略包括检索增强生成（RAG）、思维链提示（Chain-of-Thought）以及要求模型输出置信度评分
80%已验证LLM幻觉的根本原因在于自回归生成机制——模型基于概率分布预测下一个Token，而非真正的逻辑推理
80%已验证LLM幻觉（Hallucination）是大语言模型的已知问题，会导致AI生成不准确的内容
80%已验证LLM存在幻觉（Hallucination）问题，即以高置信度生成事实错误的信息
80%已验证大模型幻觉的技术本质在于模型在训练时学习的是语言模式的概率分布而非事实本身
80%已验证大语言模型的幻觉问题源于其本质是基于统计概率的序列预测系统，生成的Token基于条件概率最大化而非真正的逻辑推理
80%已验证RAG（检索增强生成）是解决大模型幻觉问题和知识时效性问题的核心架构模式
80%已验证幻觉现象的根源在于LLM本质上是在预测下一个最可能的词，而非在数据库中查找事实
75%已验证大语言模型的回答通常以完整句子和肯定语气呈现，缺少人类顾问惯常附带的'我不确定''需要进一步核实'等语言信号
75%已验证大语言模型的幻觉问题通常被分为内在幻觉和外在幻觉两类，内在幻觉指生成内容与输入数据直接矛盾，外在幻觉指生成了输入中未提及且无法验证的信息
75%已验证LLM幻觉分为内在幻觉（与输入上下文矛盾的输出）和外在幻觉（无法从输入或训练数据验证的输出）两类
75%已验证大语言模型在数值推理方面存在幻觉风险，可能在聚合计算、时间区间筛选或多表关联等场景中产生偏差
75%已验证在多步骤自动化场景中，模型幻觉导致的单步错误会沿任务链条指数级放大
75%已验证大语言模型本质是概率性文本生成系统，缺乏对外部系统实时验证能力，输入文档存在歧义或缺失时会产生幻觉
75%