DeepMind CTO:产品才是通往AGI的真实路径

Kavukcuoglu 认为 AGI 没有测试,产品与人类信任才是通往通用智能的现实路径。
Google DeepMind 的 Koray Kavukcuoglu 在播客中回顾了从 AlphaGo 到 Gemini 的路线转变:不再堆叠专项系统,而是相信单一模型可带来广泛泛化。他断言 AGI 没有可定义的测试,产品是检验智能的唯一现实路径,订餐厅这类琐碎需求恰恰暴露并消除能力的"尖刺"。Gemini 并非静态架构,而是每代手工定制、多代团队并行的"漏斗"。他承认模型在物理与数值理解上仍不足,但确信工程层面会实现。关于递归自我改进,他表示仍处早期,但训练中已有智能体控制部分算力。安全上,他主张保持思维链原始、不加奖励,从思想、行动与环境副作用联合监控。
从白板公式到十亿用户:Gemini的赌注
Google DeepMind的Koray Kavukcuoglu如今掌管着Gemini——这个已经迭代到第四代、同时服务数十亿用户的生成式AI生态。回想2019年,Hannah Fry教授参观DeepMind伦敦办公室时,团队还能挤在一个楼层里,AlphaGo、AlphaStar、AlphaFold各自为战。Kavukcuoglu在最新一期DeepMind播客中坦言,最大的变化是确信单一模型可以带来广泛泛化能力,而非继续堆叠无数专项系统。
这个转变并非放弃科学探索。当年在核聚变控制上做的强化学习研究并未白费,但目标变了:不再是解一个具体问题,而是训练模型去解一类问题。“一旦训练好模型,你就能解决那里的很多问题”,这是与过去最本质的差别。

为什么说产品是通往AGI的必经之路
Kavukcuoglu抛出一个尖锐判断:AGI没有测试,也永远不会有。不会有哪个基准跑分能宣告“我们到达AGI了”。
“如果你觉得它有用人、你信任它、能和它协作,越来越放心让它替你做决策或和你一起做决策,它就开始像AGI了。”
在他看来,AGI是北极星,是方向,但北极星不告诉你下一步踩哪块石头。产品才是那些石头。人们不跟聊天机器人闲聊,而是开始拿它问问题、干活——从日常生活到专业工作,再到经济价值,这条路径本身就是对“智能”定义的检验。没有产品在回路中,AGI根本不会发生。
这也解释了为什么他愿意接住“订餐厅”这种看似琐碎的需求。如果模型能解高难问题却订不了餐厅,那正说明能力是“尖刺状”的——而消除尖刺、让能力曲线变得平滑,恰恰是走向通用智能的过程。
架构不是静态的,Gemini是一支人工定制的手工活
外界容易把Gemini想象成一个固定架构的庞然大物。Kavukcuoglu纠正了这个印象:Gemini不是静态的单一架构,而是追求智能的一个漏斗。当前架构与半年前不同,与一年前更不同,未来五年必然又是另一套。
更让人意外的是每一代Gemini都是“手工定制”的:“没有另一个版本,下一代要重新手工搭起来。”一边是当前版本在服务用户,另一边整支团队在做下一代,再一支团队在做下下代。你今天看到的产品,背后至少有一年的血统——期间可能发布了六个模型,彼此重叠。
这也回答了他对错过“下一个大突破”的担忧:漏斗的宽口持续吸收新想法,一旦有更好的架构出现,它就有通道汇入主模型。“百分之百”确信能接住。

生成模型的泛化能力指的是模型在训练数据分布之外的新任务、新情境中仍能保持合理表现的能力。它并不等于"记住所有答案",而是模型在内部形成了可迁移的表征,使得面对未见过的问题时能组合已有知识作出推断。Kavukcuoglu 提到的"单一模型带来广泛泛化"正是这一思路的体现:与其为每个任务单独训练系统,不如训练一个能覆盖多类任务的通用模型。泛化的强弱通常用分布外测试、跨任务迁移等指标衡量,但真正的泛化往往要在真实产品场景中才能被检验。
模型真的“理解”世界吗?
Hannah Fry追问了一个哲学问题:模型到底有没有概念性理解?Kavukcuoglu反问:“你怎么知道区别?”在他看来,生成模型的意义正在于此——你能不断向它提问假设场景,如果回答贴近现实,就说明它构建了世界的准确表征。粉红大象可以被想象出来,说明泛化发生了。
但他并不夸大:模型目前对物理、流体、气流、热传导的理解远远不够。模型在视觉上是对的,但他希望它们在工程意义上数值正确、在物理意义上正确。“百分之百会实现”,因为计算机器只要用正确的数据、正确的环境训练,就能做到。这关系到工程——而工程是让世界运转的东西。
世界模型(world model)是认知科学与 AI 中一个核心概念,指系统内部对世界运作方式建立的简化表征,包括对象、因果关系、物理规律等。它让智能体能够进行"心理模拟":在行动之前预测后果、想象反事实场景。生成模型之所以被认为可能具备世界模型,是因为它们在大量数据中被迫学会压缩世界的规律,否则无法准确预测下一个词或像素。但"视觉上合理"与"物理上数值正确"之间存在鸿沟——前者只要求感知层面自洽,后者要求对流体、热传导等连续过程做出符合方程的计算,这正是当前模型的主要短板。
与LeCun的分歧、与“苦涩教训”的和解
谈到Yann LeCun对LLM的质疑,Kavukcuoglu并不回避。两人共享“需要理解世界、构建世界生成模型”的大目标,分歧在架构层面:“LLM目前是成功的架构,但五年后可能是另一套。这完全没问题。”他博士期间与LeCun共事的经历让他尊重对方的判断,但同样坚持漏斗逻辑——不能卡在当下有效的东西上。
关于Richard Sutton的“苦涩教训”,他的回答是“既对也不对”。模型确实需要自己生成数据、自己探索,在围棋这样的可观测环境中能发现人类数据里没有的策略。但如果目标是构建对人类有用的智能,就必须锚定人类数据——因为模型要成为我们世界里可依赖的工具,就得理解人怎么工作、人喜欢怎么工作。

"苦涩教训"(The Bitter Lesson)由 Richard Sutton 于 2019 年提出,核心论点是:AI 研究史上,那些依赖大规模计算和通用学习方法(如搜索、学习)的方法,最终总是胜过依赖人类领域知识手工设计的方法。它常被用来解释为何扩大规模、增加数据与算力的路线屡屡奏效。但该教训也有边界:当目标是构建对人类有用、可协作的智能时,纯靠自我博弈生成的数据未必能覆盖人类世界的偏好与规范,因此仍需锚定人类数据。Kavukcuoglu 的"既对也不对"正是对这一边界的回应。
递归自我改进:还差得远,但已开始
Kavukcuoglu对递归自我改进(RSI)的定义很完整:系统能自主探索新数据、新架构、跑实验验证、训练模型,再迭代下一代。他直言“我们离那个还比较远”,但Gemini训练流程中已有部分算力由智能体控制来跑实验,且比例会持续上升。
“Gemini是构建下一代Gemini时最关键依赖之一。”不过他不愿制造“按下按钮就出Gemini 13、14”的错觉。难点从来不是按钮,而是“你到底想要什么”——RSI本身不是目的,有用才是。至于RSI会不会出现边际收益递减、而非飞轮加速,他承认“两种都可能,没人确定”,但研究就是探索自认为可能的事。
在他看来,智能体擅长爬已有的山丘;真正值得期待的是从RNN到Transformer那种跳到另一座山的能力。“我认为AI系统某天能做到,我不确定,但我相信可能。”
安全:监控思想,而不只是行为
强化学习出身的Kavukcuoglu很清楚算法会找捷径。现在的防线有三层:构建不给作弊奖励的环境、训练中严密监控、部署后实时监控并允许介入。
最关键的架构选择是让思维链保持“原始”——不给思维链加奖励,使其不被过滤,从而在行动之前就能被监控。每一次行动都会先在思想中显形,结合行动、环境副作用和思想,才能构建“智能体是否在执行用户意图”的探测器。多智能体场景下监控更复杂,但只要思想与通信渠道保持可观测、可理解,同样逻辑可以规模化。自然语言思维链还有正则化作用,也让人可以内省和研究智能体之间的交互。
安全在他看来不是外加的合规动作,而是从“研究AGI”转向“构建AGI”这一工程活动的内在要求。“你不会想象造一个不安全的东西。”
思维链(chain-of-thought)指模型在给出最终答案前,用自然语言逐步展开推理过程的做法。它一方面提升了复杂任务的准确率,另一方面也提供了一个可观测的"内心独白"窗口。若对思维链本身施加奖励信号,模型可能学会输出"看起来合理"但并非真实推理过程的文字,从而降低可监控性。因此保持思维链"原始"、不直接优化其内容,是为了让监控者能读到未经修饰的推理轨迹,把安全防线前移到行动发生之前。自然语言形式的思维链还兼具正则化作用,使模型行为更稳定、更易被人类理解和审计。
竞争、基准与“谁在领先”
面对“实验室是否该慢下来”的争论,他的立场是条件式的:如果某一步找不到安全上舒服的落脚点,那就不该走,哪怕这导致相对某种假设标准的放缓;但没有理由基于无人知晓的标准叫停。他强调竞争不会妨碍做正确的事,发布前沿模型前会与政府合作做安全测试,也向外部专家开放模型研究能力与影响。
至于基准,他认为其角色已经改变:不是用来宣告AGI,而是用来暴露缺口。模型在某个基准上表现异常好,可能是有bug,也可能藏着有意思的任务;那么就去建环境、收数据、训练模型。基准饱和正是进步的样子,然后换新基准继续。“机器学习史上多年发生的事,现在以周为单位上演。”
而数十亿用户的反馈,恰恰是那些难以编码成基准的东西的最佳替代——比如写代码不只是竞赛题,而是要和工程师协作的方式让工程师觉得有用。
结语:人是罗盘
Hannah Fry在结尾总结道,智能不存在于真空里。如果AGI最终意味着匹配或超越人类能力,那么理解人到底需要什么,本身就是一条通往对齐的路径——不只是商业逻辑,可能是最可靠的路线之一。Kavukcuoglu没有给出AGI的时间表,但他给出了方向:让模型在日常与专业场景中持续变得可信,产品是台阶,人是罗盘。至于七年后谁来做办公室导览,他半开玩笑地说:也许不是我,也许是Gemini,也许会有机器人。
相关推荐

GPT-6.2 Astra与Sol争议:测评两极分化背后
OpenAI 发布 Astra 与 Sol 6.2 后陷入测评争议:早期访问者集体差评,随后官方称版本已更新。本文梳理事件脉络,结合实测展示模型在 computer use、视频剪辑上的优势与沟通短板,并分析成本与订阅配额格局的变化。

Anthropic IPO与GPT-6.2 Astra:模型竞争背后的数据依赖与安全隐忧
深度解读Anthropic IPO与GPT-6.2 Astra发布背后:模型性能取决于训练数据而非通用智商,各领域表现分化明显;思维链监控作为安全支柱正在失效;Anthropic的向上竞争叙事面临内部员工质疑。

Atlassian团队图谱:让AI智能体更懂上下文
Atlassian利用Jira的上下文优势构建Teamwork Graph,连接人员、项目、文档与代码,让AI智能体输出更好且消耗更少token。