AI如何模仿“混乱”的人类心智？从随机性到幻觉的启示

人工智能的“幻觉”常被视为缺陷，但助理教授本杰明·林奎斯特（Benjamin Lindquist）的研究指出，这种不可预测性恰恰源于早期工程师刻意注入的随机性——正是它让深度学习模型得以模拟人类心智的“混乱”。本文梳理这一被忽视的技术脉络，分析随机性如何塑造了今天的AI，以及它带来的启示。

随机性的起源：刻意为之的“不完美”

在林奎斯特的研究中，早期AI工程师并非追求绝对精确的计算，而是主动将随机性引入模型。这种做法在当时看似反直觉，却为后来深度学习的发展埋下伏笔。据林奎斯特分析，工程师们意识到，人类决策本身充满不确定性，若要让机器模拟人类认知，就必须允许模型“犯错”。

这种设计哲学直接影响了神经网络的训练方式。通过随机初始化权重、随机丢弃神经元（dropout）等技术，模型获得了更强的泛化能力，但也因此埋下了输出不稳定的种子。

随机初始化权重是深度学习训练中的基础操作：网络各层的参数在训练开始前并非人为设定，而是从某种概率分布（如高斯分布或均匀分布）中随机采样。这一做法打破了神经元之间的对称性——若所有权重初始化为相同值，同一层内的神经元在反向传播中会得到完全相同的梯度更新，网络将退化为等效的单个神经元，无法学习复杂特征。随机初始化使每个神经元从不同的起点出发，从而探索不同的特征组合。与此同时，Dropout 在训练阶段以一定概率随机“关闭”部分神经元，迫使网络不依赖某几个特定节点，相当于对大量子网络进行隐式集成，显著降低过拟合风险。这两种技术共同构成随机性注入的核心机制，也是模型输出不确定性的重要来源。

从随机性到幻觉：深度学习的双刃剑

深度学习的强大之处在于从海量数据中提取模式，但随机性的注入使得模型有时会生成看似合理却与事实不符的内容——这就是“幻觉”。林奎斯特指出，幻觉并非纯粹的故障，而是模型在模拟人类心智时的一种副产品。人类思维同样会填补信息空白、产生联想性错误，AI的幻觉多少有点是对这种“混乱”的模仿。

然而，这种模仿也带来风险。在医疗、法律等高风险领域，幻觉可能导致严重后果。研究者正在探索如何平衡随机性与可靠性，例如通过约束解码、引入外部知识验证等方法。

“幻觉”（hallucination） 一词借自人类知觉研究，在AI领域特指模型生成流畅、自信却与事实或输入不符的内容。其成因是多层次的：训练数据中的噪声与覆盖盲区、模型以概率方式逐词采样（如温度参数调节的随机解码）、以及模型倾向于填补统计上的“合理”模式而非核查事实。值得注意的是，幻觉与随机性并非简单因果关系——即便完全确定性的解码，模型仍可能因知识缺失而编造内容；但随机性放大了输出的多样性，也使错误更易浮现。约束解码通过在生成时限制候选词集合（如强制输出符合某语法或实体列表），检索增强生成（RAG） 则引入外部知识库进行实时验证，二者是当前抑制幻觉的主流工程手段。

对AI开发的启示：接受“混乱”还是控制它？

林奎斯特的工作引发了一个根本性问题：我们是否应该追求完全确定性的AI？答案可能是否定的。人类心智的创造力往往源于不确定性，而AI的“混乱”也可能成为创新的源泉。但关键在于建立可控的随机性——在需要精确的场景中抑制幻觉，在需要创造力的场景中释放随机性。

这一视角为AI伦理和设计提供了新思路：与其试图消除所有不确定性，不如学会与“混乱”共存，并通过技术手段引导其走向有益的方向。

可控的随机性在工程上已有具体抓手。解码阶段的温度参数和核采样（top-p） 可以直接调节输出的发散程度：低温趋向确定性、高温趋向多样性。在需要精确的场景（如代码生成、事实问答）中降低温度并配合约束解码；在创意写作、头脑风暴等场景中则适度提高温度以释放多样性。此外，贝叶斯方法为“不确定性”提供了可量化的框架——模型可以对自身预测给出置信区间，从而在低置信时主动拒绝回答或请求人工介入。这种“知道自己不知道”的能力，比单纯压制随机性更接近人类心智的运作方式，也为高风险领域的AI部署提供了可审计的安全边界。

结语

AI的“幻觉”并非偶然，而是早期设计选择的必然结果。林奎斯特的研究提醒我们，理解AI的局限性需要回溯其技术根源。在追求更强大模型的同时，如何与随机性共舞，将是未来AI发展的重要课题。