[控场AI]
· 9 分钟阅读· 4,649 字

超级智能仅剩两年?AI研究自动化将引爆奇点

超级智能仅剩两年?AI研究自动化将引爆奇点

AI正加速自身研发,可验证性使AI研究自动化或于2028年实现,带来更快更聪明的自动研究员。

作者基于METR报告和Anthropic内部数据指出,AI已在显著加速AI研发,编码智能体使用量数月内激增。数学等可验证领域的爆发式进展表明,AI研究本身比数学更依赖可验证的实证进步,因此自动化更为可行。作者预测中位数年份为2028年,自动研究员具备更快、更聪明、更多三重优势,将大幅压缩算法进步周期。未来可能走向“软件奇点”或“火花”场景,概率各半。持续学习缺失、数据瓶颈和实验计算限制均存在可验证的解决路径。

从十年到两年:一个AI研究者的观点剧变

如果你在今年早些时候问我,超级智能还有多远,我大概会说至少还要十年。但在过去三个月里,我的看法发生了巨大转变。经过与播客内外人士的反复辩论,并观察AI在可验证领域(如数学、编程)的进展,我现在认为:距离AI在AI研究上达到顶尖人类水平,可能只剩两年,甚至几个月。

这个判断并非凭空而来。它基于一个正在发生的趋势:AI已经开始显著加速AI自身的研发。据独立评估机构METR在Anthropic内部为期三个月的调研,Anthropic在定义明确的任务上,AI进展速度是一年前的两倍,而其中大部分加速“很可能归因于Anthropic广泛使用AI进行研发”。OpenAI也披露,其内部研究员中使用编码智能体最频繁的10%,日均消耗从夏初的约1000美元飙升至8月底的超过7000美元。Anthropic则报告,Claude目前主导了该公司26%的AI研发工作,而就在2月份,这个比例还不到1%。

这些数据指向同一个结论:AI正在成为AI研究的核心生产力。一旦AI能完全自动化AI研究,算法进步将不再受限于人类研究员的数量和速度。

数学领域的突破:可验证任务的威力

让我改变看法的关键证据,来自AI在数学上的爆发。仅仅两年前,大语言模型还无法可靠地做四位数加法;2024年,它们几乎解不出高中数学竞赛题;2025年,它们已经能拿下国际数学奥林匹克金牌;而到今年,它们开始解决一些此前悬而未决的开放问题。在完全可验证的数学领域,AI正以惊人的速度产出重要结果——数百个顶尖数学家花了几十年试图解决的问题,正被AI当作“支线任务”批量解决。

当然,当前AI更擅长寻找反例等验证密集型的数学工作,而非提出新理论。但关键在于:AI研究本身比数学更依赖“可验证的进步”。数学研究的终极目标是拓展人类对数学概念的理解,证明猜想只是手段;而AI研究的优先级恰恰相反——实验室只关心新的算法配方能否在实证上让训练更高效、让模型更聪明。过去十五年深度学习的进步,几乎不需要什么新理论。

这正是AI的强项。以Transformer架构为例,注意力机制、残差网络等核心组件早已在文献中存在,但没人知道如何正确组合。发明Transformer需要极强的研究品味,更需要大量小型实验的反复试错。而“持续、智能地匹配数十种想法组合”,恰恰是AI展现出的超能力。可以说,Transformer——这个自AlexNet以来机器学习领域最大的突破——正是Claude这一代模型如果被要求“努力让注意力机制工作得更好”时,有可能发明出来的东西。

AI研究自动化将大幅加速算法进步

可验证任务指那些能够自动、客观地判断输出正确性的问题,例如数学证明的逐步检查、编程题的测试用例通过率、或游戏中的胜负判定。这类任务为AI提供了密集且廉价的反馈信号,使其能通过强化学习或大规模试错快速迭代。相比之下,开放式的创意写作或战略决策缺乏即时验证手段,AI的进步就慢得多。文章的核心论点正建立在这一区分之上:AI研究(尤其是算法实验)天然具备可验证性,因此比想象中更早被自动化。

时间表:2028年实现AI研究自动化

如果让我给出中位数年份,我认为AI研究自动化将在2028年左右实现,前提是AI实验室全力推进,且不被政府或自身决策拖慢。这个判断基于一个简单模式:在每一个能检查答案、能给AI成千上万轮练习的领域——无论是竞技编程还是定义明确的开放数学问题——AI都在短短几年内从“不如大多数人”跃升到“超越最顶尖人类”。

有人会质疑:顶尖AI研究员的核心能力,比如提前数年押注正确的研究方向,是无法直接验证的。但数学已经证明,模型能泛化到远超训练数据的范围。OpenAI的模型显然不是通过解决其他千禧年问题来训练的,它训练于大量更简单、更易处理的数学题,却从中泛化到解决人类从未攻克的问题。AI研究同样如此:数千轮可验证任务的练习,加上每一代模型都比上一代更聪明,将使模型在那些无法直接检查的研究环节上也表现出色。

当然,这个里程碑也可能推迟。我估计至少有25%的概率要到2032年之后。但反过来,事情也可能快得多——一些过去几年预测记录良好的人认为,AI最早明年就能击败最顶尖的人类AI研究员。若将METR报告中“AI进展速度一年翻倍”的数据代入起飞模型,前嘉宾Ajay Akochar的推论是:“这朴素地意味着我们将在一年内达到极端超级智能。”我的中位数不是2027年,只是因为我对此类直接建模的准确性存疑。但我们应该为明年就到达这个里程碑做好准备。

AI智能体并行处理海量任务

更快、更聪明、更多:自动研究员的三大优势

一旦AI在AI研究上达到人类顶尖水平,算法进步将因三个原因大幅加速:更快、更聪明、更多。

今天的AI工作速度已是人类的约10倍,且能昼夜不停、周末无休。这意味着每个自动研究员每周完成的工作量约是人类研究员的50倍。当然,这不代表AI进展会立刻加速50倍——实验计算资源仍是瓶颈,收益递减不可避免。但即便收益递减极其陡峭,仅此一项就能让算法进步速度提升数倍。

更关键的是“更聪明”。在典型前沿实验室,约80%的算法进步由最顶尖的50名研究员驱动。扎克伯格愿意花数亿美元招揽顶尖人才,绝非偶然。而在自动化公司里,每一个工程师和研究员都具备当今顶尖人类实验室里最优秀者的水平。再加上“更多”——AI研究包含大量可独立验证的模块化工作,如改进预训练数据过滤、设计合成RL环境、编写更好的注意力内核等。在这些领域,投入大量持续爬坡的智能体往往能显著加速进展。

递归自我改进(RSI) 指AI系统能够改进自身的代码或架构,从而产生更强的下一代AI,形成正反馈循环。这一概念是讨论“智能爆炸”的核心机制。文章中的关键张力在于:RSI的加速效应与AI研究本身收益递减的阻力相互竞争。如果AI改进自身的能力增长快于问题变难的速度,就可能出现“软件奇点”;反之则出现“火花”场景。理解RSI有助于把握作者为何将两种未来概率设为各半,而非笃定一方。

软件奇点还是火花?两种未来

自动化研究员将加速AI进展,但这一速度会持续吗?这里有两种竞争趋势:一方面,递归自我改进(RSI)让自动研究员越来越快、越来越聪明、数量越来越多;另一方面,AI研究越来越难,容易的想法被蜂群吃光。AI公司每年需要将研发计算量翻两番、员工人数翻倍,才能维持同样的进展速度。

如果AI变聪明的速度快于想法变难的速度,我们将迎来“软件奇点”:无需增加计算,AI蜂群在几个月内快速迭代出更聪明的版本,直至触及当前芯片的物理极限。反之,则是“火花”场景:一年内完成当前速度下三到六年的AI进展,然后放缓,等待更多计算。我认为两者概率各半。

但即便“火花”场景也足够疯狂。过去四年,我们从GPT-3.5——一个能写打油诗、自动补全简单Python函数的“玩具”——走到能从头构建完整视频游戏、产出大量值得菲尔兹奖的数学贡献的模型。用四年从“学龄前儿童”到“天才实习生”,再跳同样大的一步,你会得到一个在稍微可验证的领域远超人类的智能:比英伟达更擅长设计下一代AI加速器,在同等市场准入下比Citadel和Jane Street更赚钱,若有远程实验条件,比全人类更擅长寻找室温超导体。

可验证性是AI研究的底色

为什么我敢说AI研究“足够可验证”?AI研发大致分三块:预训练、后训练和推理效率,每块都有强可验证代理。

预训练的核心指标是留出测试集上的损失,极易验证。你可以用RL训练模型去最小化训练一个小模型到固定损失所需的计算量,再部署这个模型去优化更大模型的困惑度。研究品味——比如预测小规模改进能否在大规模上成立——同样可训练:让模型预测某个在1亿参数上有效的改进是否在100亿参数上依然成立。

后训练有三个可验证代理:改进后训练算法使RL在新环境上消耗更少计算/数据/时间;提升模型在从未训练过的环境中的即时学习速度;直接测量AI研发能力。Anthropic内部的CoBench包含约500个研究员今年解决的真实问题,每个基准同时也是一个RL环境,让模型练习重做前沿人类过去三到六个月的进展。

推理效率更是高度可验证:GPU利用率、每token的KV缓存大小、前向传播总FLOPs、延迟,全部可精确测量。

推理效率指标高度可验证

最强反驳:持续学习与数据瓶颈

最有力的反对意见是:模型缺乏持续学习能力,每次会话都是“第一天上班”,无法积累数周数月的工作经验。我去年12月正是以此为主要理由怀疑AI研究自动化。但我现在部分改变了看法。首先,AI公司可能届时已解决持续学习——通过扩展上下文学习,让单次会话有效长达数月。其次,你可能不需要持续学习者来解决持续学习:在线学习本身就是一个有干净可验证代理的ML研究问题。当前模型在“健忘”状态下已能解决千禧年问题,就像一边翻跟头一边跟上博尔特——如果让它们正常跑呢?

数据瓶颈同样可解。我和普林斯顿学生Jerry Han的研究发现,过去六年预训练中,数据改进贡献的算法进步是模型改进的三倍多。但数据改进本身就是典型的AI研究工作:找出哪些过滤或合成数据的技术能降低留出语料上的损失。DeepSeek广告的论文也指出,RL算法本身的改变影响甚微,而“合成数据和环境的规模、多样性及可验证性的系统改进,几乎解释了所有观察到的增益”。数据的生产过程正在自动化。

实验计算瓶颈也没有想象中严重。前沿实验室每年计算量翻两番以上,若趋势延续,到2027年底,OpenAI几乎可以给1万个智能体——即参与解决千禧年问题规模的数量——每个足够每天跑一次GPT-3规模训练的计算量。今天的实验室之所以实验“浪费”计算,是因为研究员时间远比计算稀缺。当瓶颈反转,自动研究员可以大量做小规模消融、读遍每一份rollout记录、花主观上几十年设计信息量最大的汇总实验。它们还能发现更好的从小实验学习的方法——就像GPT-4论文用计算量少1万倍的模型预测最终损失,自动公司可以寻找更多类似muP的缩放现象。

持续学习指模型在不遗忘旧知识的前提下,持续从新数据或新任务中学习的能力。当前大语言模型每次会话都从固定权重出发,无法像人类研究员那样积累数月经验,这被视为自动化AI研究的根本障碍之一。作者提出两条缓解路径:一是扩展上下文窗口,让单次会话有效跨度长达数月;二是将“实现在线学习”本身视为一个可验证的ML研究问题,交由AI自动搜索解决方案。这体现了文章的一贯逻辑:只要问题能定义清晰的评估指标,AI就有机会通过试错攻克它。

结语

从可验证领域的进展速度看,AI研究自动化不再是十年后的科幻。2028年是合理的中位数,2027年也完全可能。一旦到达,无论“软件奇点”还是“火花”,我们都将面对一个在可验证维度上远超人类的智能。这不一定意味着立刻的乌托邦或末日,但意味着我们熟悉的进步节奏将被彻底压缩。是时候认真对待这个时间表了。

分享:

相关推荐