大语言模型倾向于生成「听起来合理」但实际上不正确或无法验证的内容,根源在于模型是概率分布上的预测器而非事实数据库
大语言模型的幻觉问题源于其本质是基于统计概率的序列预测系统,生成的Token基于条件概率最大化而非真正的逻辑推理
幻觉(Hallucination)指大语言模型生成看似合理但实际错误或无依据的内容,是当前所有LLM的共性问题,根源在于模型本质上是基于概率的文本生成器而非知识检索系统