[控场AI]
· 5 分钟阅读· 2,521 字

从直推到归纳:AI推理范式转变如何催生编程智能体

从直推到归纳:AI推理范式转变如何催生编程智能体

AI正从逐token直接补全,转向先构建推理链再作答的归纳式范式,这被认为是编程智能体真正可用的关键。

本文拆解了一条在推特上流传的技术判断:AI正经历从直推式范式到归纳式范式的转变。直推式范式指模型逐token直接生成答案,本质是模式匹配式续写,在多步逻辑任务中易累积错误;归纳式范式则让模型先即时合成推理链,把复杂问题拆解为中间步骤再逐步求解,对应推理模型中"推理时计算"的扩展路线。原帖最核心的论断是,这一转变正是编程智能体真正跑通的原因——写代码需要分析需求、规划结构、回溯调试,恰好是直推式范式最难应对的多步骤强逻辑场景。文章也指出,这一框架源自推特的浓缩表述,更多是富有启发性的隐喻而非严格学术定义,但它准确捕捉到了推理模型崛起与编程智能体从玩具走向可用这两条时间线的重合。

一张图背后的范式之争

一条在推特上流传的观点抛出了一个颇具分量的判断:AI正在经历从**直推式范式(transductive paradigm)向归纳式范式(inductive paradigm)**的转变,而这正是让编程智能体(coding agents)真正跑通的关键所在。

AI范式转变示意图

按照原帖作者的说法,这是贯穿当下的大故事。虽然只有寥寥数语,但这个对比框架触及了大语言模型工作机制的一个核心演进方向,值得展开拆解。

什么是直推式范式

所谓直推式范式,指的是模型以**逐token补全(token-by-token answer completion)**的方式直接生成答案。你给出一个提示,模型基于已有的上下文,一个词接一个词地把回答吐出来——它本质上是在做一种模式匹配式的续写。

这种方式在很多场景下运转良好,比如写一段流畅的文案、回答一个事实性问题。但它有一个结构性短板:模型没有在生成答案之前进行充分的"思考"。它把计算资源平摊到了每一个token上,而不是针对问题的难度动态分配。对于需要多步逻辑的复杂任务,这种"脱口而出"式的生成很容易在中途出错,并且错误会沿着后续token不断累积。

「直推式(transductive)」这一术语源自统计学习理论,最早由Vladimir Vapnik在1990年代提出。与归纳式学习(从训练样本中提炼出可泛化的规则)不同,直推式学习不尝试建立通用模型,而是直接从已知的训练样本推断到特定的测试样本。Vapnik的原始语境是半监督分类问题——既然我们真正关心的是对特定测试点的预测,为何要绕道学习一个完整的函数?

原帖借用这一术语来描述LLM的自回归生成机制,是一种类比性挪用:模型的每一步输出都高度依赖当前具体的上下文窗口,缺乏在生成前进行系统性规划的机制。这个类比的核心洞察在于,自回归补全本质上是一种"就地响应",而非"先建模再输出"。理解这个术语的学科背景,有助于把握作者选词时试图强调的对比维度。

归纳式范式带来了什么

归纳式范式的核心变化在于即时推理链合成(on-the-fly reasoning chain synthesis)。模型不再急于给出最终答案,而是先在生成过程中构建一条推理链条,把复杂问题拆解成一系列中间步骤,逐步逼近结论。

这与近年来广受关注的"思维链"和推理模型的发展方向高度一致。区别在于视角:原帖把它上升到了范式层面——不是简单地在提示里加一句"让我们一步步思考",而是模型本身的工作模式从"直接作答"切换到了"现场构建解法"。

这种转变意味着模型可以在推理时投入更多计算(test-time compute),针对难题多想几步,针对简单题少想几步。推理过程的显式化也让模型具备了自我检查和纠错的空间,而不是一条道走到黑。

「推理时计算(test-time compute)」是理解这一范式转变的关键技术概念。传统的模型能力扩展主要依赖训练阶段投入更多数据和参数(scaling law),但这条路线边际收益趋于下降。OpenAI o1系列模型的出现标志着另一条路线的成熟:在推理阶段让模型生成大量中间思考步骤,通过消耗更多推理时算力来换取更高的答题准确率。

这在机制上对应着两种不同的计算分配策略。直推式范式中,计算均匀分布在每个输出token上;归纳式范式中,模型可以在"思考token"上投入大量计算,而最终答案token反而变得相对轻量。DeepSeek广告-R1、Claude的extended thinking等模型的实践表明,这种方式在数学、代码等结构化任务上的提升尤为显著,恰好与编程智能体的核心需求高度重合。

为什么这让编程智能体跑通了

原帖最具冲击力的论断是:这正是让编程智能体工作起来的原因。

这个因果关系值得玩味。编程任务恰恰是直推式范式最容易翻车的领域——写代码需要理解需求、规划结构、处理边界情况、调试错误,是典型的多步骤、强逻辑任务。如果模型只是逐token地"猜"下一行代码该写什么,面对稍微复杂的工程任务就会力不从心。

而当模型能够即时合成推理链,它就可以像人类工程师一样:先分析问题,再拆解任务,然后分步实现,遇到报错时回溯调整。编程智能体之所以能够处理跨多个文件、涉及反复试错的真实开发任务,背后依赖的正是这种结构化的推理能力,而非单纯的文本补全。

编程智能体(coding agent)与早期代码补全工具(如GitHub Copilot的初期形态)的本质区别在于任务粒度和执行深度。代码补全工具在直推式范式下已能表现良好——它们处理的是局部的、上下文清晰的续写任务。但编程智能体面对的是完整的工程问题:理解自然语言需求、制定实现方案、跨文件修改代码、运行测试并根据错误信息迭代。

这类任务的特点是错误代价不对称——早期规划失误会导致后续大量代码需要推翻重来,而直推式范式无法在生成前进行"预演"。Cognition的Devin、Anthropic的Claude Code、以及各类基于工具调用的agent框架能够处理真实仓库级任务,依赖的正是模型在执行具体操作前能够进行多轮内部推理、分解子目标并在遇到障碍时重新规划的能力。

一个值得审视的框架

必须指出,这是一条推特上的高度浓缩的观点,用"直推"与"归纳"这组机器学习的经典术语来类比当下的推理模型演进,更多是一种富有启发性的框架隐喻,而非严格的学术定义。原帖并未提供配套论文或完整论证,图表的具体数据也未在文本中展开。

不过,这个框架的价值在于,它用一句话概括了一个真实发生的技术趋势:从模型"直接给答案"到模型"现场想办法"。这一转变确实对应着推理模型的崛起,也确实与编程智能体从"玩具"走向"可用"的时间线相吻合。

对于关注AI应用落地的人来说,这个视角提供了一个有用的判断依据——评估一个AI系统的能力上限时,不妨看它究竟是在补全还是在推理。

#AI推理范式#编程智能体#推理链合成#大语言模型#思维链#直推式与归纳式#coding agents
分享:

相关推荐