当随机鹦鹉宣称证明了黎曼猜想
当随机鹦鹉宣称证明了黎曼猜想
AI生成数学证明的可信度危机比能力不足更棘手,形式化验证或为出路。
Scott Aaronson 以“随机鹦鹉们显然证明了黎曼猜想”为题,调侃大语言模型在数学证明领域引发的信任危机。文章指出,模型生成的证明表面流畅规范,却可能在隐蔽环节引入错误假设或混淆定理,对非专业读者极具迷惑性,对专家也耗费甄别精力。数学因其可验证性成为检验 AI 推理能力的试金石,但 AI 以高度可信的方式输出错误答案,可能抬高学术社区的验证成本,波及同行评议根基。文章认为,将 AI 与 Lean、Coq 等形式化证明助手结合,让机器验证机器输出,是提升可信度的可能路径,尽管形式化过程本身门槛高、耗时长。结语强调,在 AI 参与数学研究的时代,我们需要的不是更华丽的文本,而是更严格的验证机制。
一场数学界的“狼来了”?
计算机科学家 Scott Aaronson 在其博客中抛出了一个引人注目的标题:“随机鹦鹉们显然证明了黎曼猜想”。这里的“随机鹦鹉”(stochastic parrots)是 AI 领域一个广为人知的讽刺性术语,用来形容大语言模型只是机械地复述训练数据中的内容,并不具备真正的理解或推理能力。
Aaronson 以此为引,讨论的显然不是真的有人用 AI 解决了这个悬而未决的数学难题,而是借此调侃当下 AI 在数学证明领域引发的信任危机。当模型能够生成看似严谨、格式规范的证明文本时,我们该如何分辨哪些是真正的数学洞见,哪些只是概率上“听起来对”的胡说八道?
黎曼猜想是数学中最著名且最重要的未解决问题之一,由德国数学家波恩哈德·黎曼于1859年提出。它断言黎曼ζ函数的所有非平凡零点都位于复平面上实部为1/2的直线上。这一猜想与素数分布规律密切相关:若成立,则能精确估计素数计数函数的误差项,深刻影响数论乃至整个数学的根基。黎曼猜想被列入克雷数学研究所的“千禧年大奖难题”,解决者可获一百万美元奖金。一百六十多年来,无数数学家为之奋斗,虽经大量数值验证(已检验前数十亿个零点均符合),但严格证明仍遥不可及。正因如此,声称“证明了黎曼猜想”在数学界总是极具爆炸性且极易引发质疑——历史上不乏业余爱好者宣称证明而被推翻的案例。Aaronson 的标题借用这一背景,反讽地暗示 AI 的“证明”极可能又是一次虚张声势。
“随机鹦鹉”的数学幻觉从何而来
大语言模型在数学任务上的表现一直充满矛盾。它们可以流畅地解释定理、复现教科书式的证明步骤,但在需要多步逻辑推理的原创问题上却频繁出错。这种“表面流畅、内核空洞”的特性,正是“随机鹦鹉”一词的核心所指。
在博客讨论中,Aaronson 延续了他对 AI 能力的审慎态度。问题的关键在于:数学证明的正确性不依赖于文本是否通顺,而依赖于每一步逻辑是否严格成立。模型生成的证明往往在形式上无可挑剔,却在某个隐蔽的环节引入未经证明的假设,或者将相似但不相干的定理张冠李戴。对于非专业读者,这种错误极具迷惑性;即便对专家,快速甄别也需要耗费大量精力。
“随机鹦鹉”(Stochastic Parrots) 这一术语出自 Emily M. Bender、Timnit Gebru 等学者2021年的著名论文《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》。该文批判大型语言模型本质上是基于统计规律拼接文本,并未理解语言背后的意义,如同随机复述的鹦鹉。论文还警示了模型规模膨胀带来的环境成本、偏见放大和虚假信息风险。这一概念已成为 AI 批评话语中的标志性隐喻,常被用来质疑大语言模型是否具备真正的推理能力。Aaronson 借用该术语,意在强调:即便模型生成了格式完美的数学证明,也可能只是对训练数据中证明模式的概率性模仿,而非严密的逻辑演绎。理解这一术语的来源,有助于把握文章对 AI 数学能力持审慎态度的立论基础。
为什么数学成了 AI 的试金石
数学证明被视作检验 AI 推理能力的“金标准”,原因在于它具备可验证性。与写作、翻译等主观性较强的任务不同,一个证明要么正确要么错误,不存在中间地带。如果 AI 真能稳定产出可验证的数学证明,就意味着它具备了某种形式的严密推理能力。
正因如此,每当有模型声称在数学竞赛或证明助手任务中取得进展,都会引发高度关注。但关注背后是更深的疑虑:模型是在真正推理,还是在模式匹配中碰巧拼出了正确结果?Aaronson 的标题恰恰戳中了这一痛点——“显然证明了”这个措辞本身就带着反讽,暗示所谓的“证明”可能只是随机鹦鹉的又一次成功模仿。
形式化验证与证明助手(如 Lean、Coq)是数学与计算机科学的交叉工具,它们基于类型论或高阶逻辑,要求用户将数学证明写成机器可检验的代码。每一步推理都必须严格遵循形式规则,任何逻辑跳跃或隐藏假设都会被编译器拒绝。Lean 近年来因数学界推动“形式化数学”而备受关注,例如数学家 Kevin Buzzard 发起的 Xena 项目致力于将现代数学形式化,而 2021 年完成的“Liquid Tensor Experiment”则验证了一个复杂定理。这些工具为 AI 生成的证明提供了客观的验证标准:模型输出的证明必须通过证明助手的检查,才能被认定为有效。然而,形式化过程本身需要大量专业知识和时间,AI 生成的候选证明往往需要人工转化为形式化语言,这构成了当前的主要瓶颈。
信任危机比能力不足更棘手
如果 AI 只是不会做数学题,问题反而简单。更麻烦的是,它会以一种高度可信的方式给出错误答案。在教育场景中,学生可能将模型生成的错误证明当作范本;在科研场景中,研究者可能被看似合理的推导误导,浪费时间去验证一个根本不成立的思路。
这种信任危机还波及学术交流的根基。数学证明的价值建立在同行评议和严格验证之上,而 AI 生成内容的低成本和大规模特性,可能让大量“似是而非”的证明涌入讨论空间,抬高整个社区的甄别成本。Aaronson 的博客讨论中,不少评论者也表达了对这一趋势的担忧:当生成证明变得廉价,验证证明的负担就会变得昂贵。
形式化验证可能是一条出路
面对“随机鹦鹉”的不可靠,一个被反复提及的方向是将 AI 与形式化证明助手结合。Lean、Coq 等工具要求每一步推导都经过机器检验,任何逻辑跳跃都无法蒙混过关。如果模型生成的证明必须通过证明助手的验证,那么“看起来对”就不再足够。
这种结合也带来了新的挑战:形式化过程本身耗时且专业门槛高,模型生成的候选证明往往需要大量人工改写才能被证明助手接受。不过,从提升可信度的角度看,让机器验证机器的输出,至少提供了一道客观防线,比单纯依赖人类阅读要可靠得多。Aaronson 的这篇博客虽然以调侃开篇,但指向的正是这样一个严肃议题:在 AI 参与数学研究的时代,我们需要的不是更华丽的文本,而是更严格的验证机制。
AI 与形式化数学的结合已成为一个活跃的研究方向。例如,OpenAI 的 GPT-f 和 Meta 的 HyperTree Proof Search 等系统尝试自动生成 Lean 证明;2023 年,DeepMind 的 AlphaProof 在国际数学奥林匹克竞赛题目上取得接近金牌选手的成绩,其证明均经过 Lean 验证。这些进展表明,将大语言模型的模式生成能力与形式化验证的严格性相结合,有望提升 AI 数学输出的可信度。但挑战依然显著:形式化证明的搜索空间巨大,模型需要理解数学语义而非仅仅匹配文本模式;此外,现有形式化数学库(如 Lean 的 mathlib)覆盖面有限,许多前沿数学领域尚未被充分形式化。因此,这条路径虽被寄予厚望,但距离让 AI 独立产出可验证的原创数学证明仍有很长的路要走。
结语
“随机鹦鹉证明了黎曼猜想”是一句玩笑,但玩笑背后的焦虑真实存在。AI 在数学领域的能力边界尚不清晰,而它生成内容的可信度问题,可能比能力本身更值得关注。对研究者和普通用户而言,保持审慎、依赖可验证的工具与流程,或许是在这场信任博弈中最为稳妥的姿态。
相关推荐

Graphify:151K星的开源神器,把整个代码库变成AI知识图谱
Graphify是一款仅8个月就获得151K星的开源工具,能将整个代码库转换为知识图谱,让AI Agent直接查询。支持40多种语言、20多个AI助手,30秒本地生成交互式代码地图,构建过程零token消耗,还能统一接入Markdown、PDF、图片和音频。

Gemini 4 Neon实测对比Claude Opus 5.5:五项任务谁更强?
B站UP主用3D视频、游戏、网站设计、写作、建议抗压五个场景实测Gemini 4 Neon与Claude Opus 5.5。Neon在写作与日常建议上追平Opus,但3D与设计仍是Opus更强,Carbon反而全面落后。

前华为天才少年开源AI Agent宝典:90+案例实战
前华为天才少年李伯杰开源AI Agent Book,GitHub上体系最完整的中文Agent学习仓库,包含90多个可运行案例,覆盖上下文压缩、记忆框架、MCP工具调用、提示注入攻防等企业级实战内容。