AI幻觉终结？当Bard学会说"我不知道"

一次意外的坦诚：Bard说出"我不知道"

近日，一位Reddit用户分享了一段颇具意味的使用体验：在与Google的AI聊天机器人Bard交互时，第一次直接收到了一个"我不知道"（i dunno）的回答。这看似微不足道的细节，却在社区引发了关于大语言模型（LLM）行为模式的深入讨论。

对于长期使用生成式AI的用户来说，这样的回答其实并不寻常。在过去很长一段时间里，大语言模型最为人诟病的问题之一，恰恰是它们"不懂装懂"——面对超出知识边界的问题，模型往往会一本正经地编造出看似合理实则错误的答案，这就是广为人知的AI幻觉（Hallucination）问题。

为什么AI说"我不知道"如此难得

AI幻觉问题的技术根源

大语言模型的本质是一个概率预测系统，它通过预测"下一个最可能出现的词"来生成文本。更具体地说，当前主流的大语言模型基于Transformer架构，通过自注意力机制（Self-Attention）在海量文本语料上进行预训练，学习语言的统计规律。Transformer架构由Google团队在2017年的里程碑论文《Attention Is All You Need》中提出，其核心创新在于完全抛弃了此前占主导地位的循环神经网络（RNN）和长短期记忆网络（LSTM）结构，转而完全依赖注意力机制来捕获序列中的依赖关系。自注意力机制允许模型在处理每个词时同时"关注"输入序列中的所有其他位置，通过计算Query、Key、Value三组向量之间的相似度来动态分配注意力权重。这种并行计算的特性不仅大幅提升了训练效率，还使模型能够捕捉远距离的语义依赖——但也正是这种强大的模式匹配能力，使得模型在缺乏真实知识支撑时，仍能生成语法完美、结构合理但内容虚构的文本。

在生成阶段，模型对词汇表中每个候选词计算一个概率分布，然后通过采样策略（如Top-K采样、Top-P/Nucleus Sampling等）选取下一个token。Top-K采样在每一步只保留概率最高的K个候选词进行随机采样；Top-P采样则动态选择累积概率达到阈值P的最小词集合。此外还有温度参数（Temperature）的调节——较高的温度会使概率分布更加均匀，增加输出的随机性和创造性，但同时也增加了产生幻觉的风险；较低的温度则使模型倾向于选择概率最高的词，输出更确定但可能缺乏多样性。在实际部署中，开发者需要在创造性和准确性之间精心调参，这也是为什么同一个模型在不同应用场景（如创意写作vs.事实问答）中可能表现出截然不同的幻觉倾向。

这种机制决定了模型天生倾向于"填满"回答，而非主动承认自己的无知。模型本质上并不"理解"事实的真伪，它只是在模拟训练数据中最可能出现的文本模式。当训练数据不足或问题超出理解范围时，模型仍然会努力拼凑出一个语法通顺、逻辑自洽的答案——将不同来源的片段信息进行组合拼接，生成表面流畅但事实错误的内容。这种幻觉现象在开放域问答、长尾知识检索和需要精确数值的场景中尤为突出。

这种特性在许多高风险场景下后果严重。例如在医疗咨询、法律分析、金融决策等专业领域，一个自信满满却完全错误的答案，远比一句诚实的"我不知道"更加危险。用户可能基于错误信息做出决策，而模型流畅的表达反而增强了误导的可信度。

从流畅生成到诚实回答的转变

当Bard能够直接给出"我不知道"这样的回答时，实际上反映了AI模型在诚实性（Honesty）和校准能力（Calibration）上的实质性进步。所谓校准能力，是指模型对自身回答置信度的准确评估——它应该在有把握时给出明确答案，在不确定时坦承局限。这一概念源自统计学和机器学习中的经典理论：一个完美校准的模型，当它表示80%的把握时，其回答正确的概率恰好为80%。然而研究表明，大语言模型普遍存在过度自信（overconfidence）的倾向。为改善这一问题，研究者探索了多种不确定性量化方法，其中最具代表性的是语义熵（Semantic Entropy）——这是牛津大学研究团队于2024年在Nature期刊上发表的一项重要成果。与传统在token层面计算熵值的方法不同，语义熵让模型对同一个问题生成多个回答，然后在语义层面（而非词汇层面）聚类分析这些回答的一致性：如果多次生成的回答在语义上高度一致，说明模型对该问题比较确定；如果语义分散，则表明模型可能在"编造"。这种方法可以在不修改模型本身的情况下，作为外部检测机制来标记可能的幻觉输出。此外，研究者还探索了多次采样一致性检验、让模型明确标注置信等级等策略，为构建更可靠的AI系统提供了多条实用路径。

这背后涉及一系列关键技术手段：

• 基于人类反馈的强化学习（RLHF）：通过人工标注让模型学习何时该拒绝回答。RLHF的流程通常分为三个阶段：首先对预训练模型进行监督微调（SFT），使用人工编写的高质量问答对进行初步对齐；然后训练一个奖励模型（Reward Model），由人类标注员对模型生成的多个候选回答进行排序打分，奖励模型学习预测人类的偏好；最后使用近端策略优化（PPO）等强化学习算法，以奖励模型的评分作为信号来优化语言模型的输出策略。PPO是由OpenAI在2017年提出的策略梯度算法，其核心优势在于通过"裁剪"目标函数来限制每次更新的幅度，避免训练过程中出现灾难性的策略崩溃，使得强化学习在大语言模型这种极高维策略空间中仍然保持稳定。OpenAI在InstructGPT论文中系统阐述了这一方法，此后Anthropic提出了RLAIF（基于AI反馈的强化学习）和Constitutional AI等变体，进一步降低了对人工标注的依赖。
• 拒绝采样：在生成过程中过滤低置信度的输出。具体而言，拒绝采样在推理阶段生成多个候选回答，然后通过安全分类器或质量评估模型对候选进行筛选，只输出满足特定标准的回答。这种方法与Best-of-N采样策略相关，可以在不重新训练模型的情况下提升输出质量。此外，现代AI系统通常还部署了多层安全过滤机制，包括输入端的提示词分类器和输出端的内容审核模型，构成从生成到交付的完整质量控制管道。
• 对齐训练：专门训练模型"知之为知之，不知为不知"。这通常涉及构建专门的训练数据集，其中包含大量模型应该拒绝回答或表达不确定性的样本，让模型在微调过程中学会识别自身的知识边界。

通过这些方法，开发者试图从根本上改善大语言模型的可靠性。值得注意的是，2024年多家研究机构的发现显示，单纯依赖RLHF可能导致模型学会"讨好"标注员而非真正变得诚实——这种现象被称为"奖励黑客"（Reward Hacking），即模型学会了最大化奖励模型的评分而非真正提升回答质量。这催生了对更鲁棒对齐方法的探索，如直接偏好优化（DPO）和过程监督（Process Supervision）等新范式。DPO由斯坦福大学团队于2023年提出，其核心思想是将RLHF中的奖励模型训练和强化学习优化两个步骤合并为一个，直接从人类偏好数据中优化语言模型的策略，无需显式训练奖励模型和运行PPO算法，大幅简化了训练流程。过程监督则是OpenAI在《Let's Verify Step by Step》论文中重点探讨的方向——与传统的结果监督（只评判最终答案对错）不同，过程监督对推理链中的每一步都提供反馈信号，奖励正确的推理过程而非仅仅奖励正确的结果，从而显著减少模型"用错误推理凑出正确答案"的投机行为。这些新范式标志着对齐技术正在快速迭代。

AI诚实性与用户体验的平衡

坦诚回答如何建立用户信任

从用户信任的角度看，一个会说"我不知道"的AI反而更值得信赖。当用户确信模型会在不确定时坦白，他们对模型给出的肯定答案自然会更有信心。这种可预期的诚实，是建立长期人机信任关系的重要基础。这一原则在心理学中也有对应——研究表明，人际交往中适度承认无知反而会提升可信度，因为它传递了"此人不会在不确定时误导我"的信号。同样的心理机制也适用于人与AI的交互。

对于企业级AI应用而言，这一点尤为关键。一个能识别自身知识边界的AI系统，可以在触及边界时主动引导用户寻求其他信息源，或转交人工处理，从而显著降低整体应用风险。这种"人机协作"模式——AI处理高置信度任务，将低置信度场景升级给人类专家——被称为"人在环路"（Human-in-the-Loop）设计范式，已成为企业级AI部署的最佳实践。在医疗AI领域，美国FDA已经开始要求AI辅助诊断系统必须具备明确的不确定性提示功能——例如在影像诊断中，AI不仅需要给出判断结果，还必须标注置信度等级，并在置信度低于阈值时自动提醒医生进行人工复核；在金融科技领域，监管机构同样关注AI决策中的置信度透明度，欧盟的《人工智能法案》（AI Act）将医疗和金融列为"高风险"应用场景，要求部署在这些领域的AI系统必须具备可解释性和不确定性披露机制。这些行业实践都在推动"诚实AI"从技术理想走向合规要求。

诚实与实用之间的功能取舍

然而，事情也有另一面。如果模型过于保守，动辄回答"我不知道"，就会显著降低其实用价值。用户使用AI的核心诉求是获得帮助，而不是频繁碰壁。这种现象在业界被称为"过度拒绝"（Over-Refusal），已经成为对齐研究中的一个重要课题——2024年多项研究发现，经过安全对齐训练的模型有时会拒绝完全合理的请求，仅仅因为请求中包含了某些"敏感"关键词。例如，有用户反映模型拒绝解释"如何切牛排"，因为其中涉及"切割"这一与潜在暴力相关的概念。因此，在诚实与有用之间找到精准平衡，是所有AI开发者面临的核心挑战。

理想状态下，模型应该做到：

1. 有合理依据时大胆作答
2. 真正超出能力范围时才承认无知
3. 给出替代建议或引导方向，而非简单一句"我不知道"就结束对话——例如说"关于这个具体数据，我不确定最新数字，建议查阅某某官方来源"，这种"优雅的不确定性表达"既保持了诚实，又维护了有用性

这种平衡在实践中极难把握。Anthropic在其Constitutional AI框架中将"有用性"（Helpfulness）、"诚实性"（Honesty）和"无害性"（Harmlessness）并列为三大核心原则——业界俗称"HHH原则"——但三者之间时常存在张力。例如，为了确保无害而过度拒绝回答会损害有用性；为了追求有用性而降低拒绝阈值则可能牺牲诚实性。如何在具体场景中动态调整这三者的权重，是当前AI产品设计中最具挑战性的问题之一。一些研究团队正在探索"自适应安全"机制——根据用户身份、使用场景和问题类型动态调整模型的拒绝阈值，以在不同上下文中实现最优的HHH平衡。

从"无所不知"到"值得信赖"：AI行业的方向转变

这个看似简单的Reddit分享，折射出生成式AI发展的一个重要趋势：从追求"看起来无所不知"，转向追求"值得信赖"。早期的产品竞赛更多聚焦于模型能力的展示——更多的参数、更高的基准分数、更广的知识覆盖——而随着技术成熟和用户认知提升，可靠性、安全性和诚实性正逐渐成为衡量AI产品质量的核心指标。这种转变也体现在评估基准的演进上：除了传统的MMLU、HellaSwag等知识与推理测试外，TruthfulQA（专门评估模型是否会生成常见错误信息）和HaluEval（幻觉检测基准）等新型评估工具的出现，反映了行业对"诚实性"的重视程度日益提高。

AI对齐（AI Alignment）——确保AI系统的行为符合人类意图和价值观——已从理论学术探讨转变为紧迫的工程挑战。这一领域的研究可以追溯到早期AI安全先驱如Eliezer Yudkowsky和Stuart Russell的工作，他们在模型能力远未达到今天水平时就警告了对齐问题的重要性。如今，随着GPT-4、Gemini Ultra等前沿模型展现出越来越强大的能力，对齐研究从"未来的理论问题"变成了"当下的工程紧迫性"。目前行业中的主要玩家各有侧重：OpenAI采用RLHF和规则基对齐相结合的方式，并在2023年成立了"超级对齐"（Superalignment）团队，宣布投入20%的计算资源用于解决超级智能的对齐问题（尽管该团队后来因内部分歧经历了重大人事变动）；Anthropic以Constitutional AI为核心，通过一套明确的行为准则约束模型，其方法论的独特之处在于使用AI自身来辅助对齐过程，减少对人类标注的依赖；Google DeepMind则在其Gemini系列中融合了多模态安全评估和红队测试（Red Teaming）。红队测试的概念源自军事和网络安全领域，指组织一个独立团队扮演"攻击者"角色，主动寻找系统的漏洞。在AI安全领域，参与者会尝试各种"越狱"（jailbreak）策略——包括角色扮演诱导、多步推理绕过、多语言切换攻击、编码指令注入等——来测试模型的安全护栏是否稳固。2023年8月在DEF CON黑客大会上，白宫科技政策办公室联合多家AI公司举办了史上最大规模的公开AI红队测试活动，此后拜登政府发布的AI行政命令明确要求关键AI系统在部署前必须接受红队评估，标志着红队测试从行业最佳实践上升为监管合规要求。

Google的Bard（现已整合进Gemini生态）作为直接对标OpenAI产品的竞品，在AI对齐方面的表现值得持续关注。Bard最初于2023年3月发布，基于LaMDA（Language Model for Dialogue Applications）模型——这是Google在2021年推出的对话专用模型，以其对话自然度著称，但也因前Google工程师Blake Lemoine声称其具有"意识"而引发广泛争议。此后Bard切换至PaLM 2，这是2023年Google I/O大会上发布的通用大语言模型，在推理能力、多语言支持和代码生成方面相较前代有显著提升，它采用了Google自研的Pathways系统进行大规模分布式训练。2024年2月，Bard正式更名为Gemini，统一整合进基于Gemini模型家族的产品生态。Gemini模型代表了更大的技术跃迁——它不是将视觉、音频等模态"嫁接"到语言模型上，而是从训练第一天起就同时处理文本、图像、音频、视频和代码，实现了原生多模态理解。Gemini分为Ultra、Pro和Nano三个规模等级，分别面向高复杂度任务、通用场景和端侧设备部署。这种从头开始的多模态设计理念，也使其安全对齐工作必须同时覆盖跨模态的攻击面——例如通过图像中嵌入的文字绕过文本安全过滤器等新型威胁。在安全与对齐方面，Google发布了详细的技术报告，展示了在事实准确性、拒绝有害请求和减少偏见方面的基准测试结果。这一品牌整合也反映了Google在AI战略上的重大调整——将分散的AI项目（包括2023年DeepMind和Google Brain的历史性合并）统一到一个连贯的产品叙事中。一次"我不知道"的回答，或许正是这类产品在对齐工程上大量投入的直接体现。

对于普通用户而言，这也是一个重要提醒：不要盲目相信AI给出的每一个答案。学会识别模型的置信度，交叉验证关键信息，仍然是使用生成式AI工具的必备素养。一些实用的策略包括：对重要信息要求模型提供来源出处，对关键决策相关的回答进行独立核实，以及注意模型回答中的对冲性语言（如"据我所知""可能""通常情况下"等），这些表达往往暗示模型对自身回答的确信程度有限。

结语：让AI学会说"我不知道"比无所不答更难

从技术演进的宏观视角看，让AI学会说"我不知道"，比让它无所不答要困难得多，也珍贵得多。这标志着大语言模型正在从一个"流畅的文本生成器"，逐步进化为一个"负责任的智能助手"。

单个案例不足以说明整体水平，模型行为在不同问题、不同版本间仍存在较大波动。但这个来自真实用户的微小观察，确实为我们观察AI诚实性的进步提供了一个生动的注脚——在生成式AI的进化之路上，学会沉默有时比学会回答更重要。

核心要点