推理模型
在输出答案前进行Chain-of-Thought思维链推理的大语言模型类型,擅长数学推导、代码生成和复杂分析,Token消耗量通常是普通模型的5到20倍
核心事实
时间轴 (近 90 天)
产出品质不稳定的根源往往是把 SOP 写得太窄;正确做法是给原则而非锁死步骤,有客观对错标准的环节写严格步骤,依赖判断的环节写原则框架。
模型越强大,越擅长发现规则漏洞和迁移理由,因此押注规则在逻辑上与模型能力进化相矛盾。
理由管理依赖内部推导,模型可自行推导出未写下的场景,且推理成本与场景数量大致无关。
标准非推理模型和默认无上限推理模型的端到端延迟分别为1.15秒和14.2秒。
扩展推理模型每次API调用会静默生成4000到12000个隐藏的思维链token,这些token按输出token的高费率计费。
数学、代码、结构化数据抽取适合推理模型,因为它们天然带检查器;而开放式写作、闲聊、主观推荐不适合,因为对错无法自动验证。
对于搭建推理模型训练管线的团队,把哪些信息对奖励模型可见当成一等的设计决策,而不是实现细节,是务实的建议。
三种有效设计模式:升级而非默认;给思考设预算;缓存结论,不缓存推理链。
升级判定信号:涉及财务或法律承诺、存在多步依赖链应升级;风格或语气调整、用户已等超过5秒则不应升级。
作者经验:推理模型通常只在12%的任务上胜出,在其余88%的经济账上落败。
还有 35 条时间轴事件
全部知识事实 (20)
推理模型在需要多步逻辑推导的信息综合任务中表现更优,但延迟更高,需根据任务特性合理选用
90%已验证推理模型以OpenAI o1、DeepSeek-R1、QwQ为代表,核心机制是思维链扩展,在给出最终答案前生成大量中间推理步骤
90%已验证高强度推理配置通常意味着更高费用和更长响应时间,牺牲响应速度换取逻辑严密性
90%已验证Chain of Thought能显著提升模型在数学推理、逻辑判断等需要多步推导的任务上的表现
90%已验证o系列模型将思维链推理与强化学习相结合,模型在给出答案前生成内部思考步骤
85%已验证推理能力基于思维链(Chain-of-Thought, CoT)技术,模型在给出最终答案前生成内部逐步推导过程
80%已验证推理模型在返回最终结果前进行内部链式思考(Chain-of-Thought),消耗大量token和计算时间以换取更深层理解和更低错误率
75%已验证推理范式本质上是将强化学习应用于语言模型的后训练阶段,让模型自主探索推理路径并根据答案正确性获得奖励反馈,最早在o1系列模型中公开展示
75%已验证Max模式抬高推理token的下限而非上限,强制模型达到一定推理量才算完成,常常损害性能
70%已验证推理模型的内部思维链会产生大量输出token,使其完成复杂任务的实际费用往往远高于单价对比所呈现的数字
70%已验证研究发现模型生成的思维链推理与其实际内部计算过程并不完全对应,可能给出与真实决策路径无关的事后解释
70%已验证推理模型的思考 token 通常会计入费用,设置 token 预算上限可避免单次请求成本失控
65%已验证Chain-of-Thought(思维链)提示技术通过强制模型先输出中间步骤来部分缓解自回归模型在逻辑推理中的缺陷
65%已验证推理模型以OpenAI o系列、DeepSeek-R1、Kimi K系列为代表,在输出前进行思维链过程,对问题进行多步拆解、自我验证和逐步推导
65%已验证思考模型在输出前会经历内部链式推理(Chain-of-Thought)过程,在数学证明、代码调试、复杂逻辑推理等任务上表现优于标准模型,代价是延迟更高、计算成本更大
65%已验证推理任务需要强大的逻辑链条而摘要任务更需要语言凝练能力,用同一模型处理两者既浪费算力也未必最佳
65%已验证现代推理模型普遍采用RLHF或其变体RLAIF进行对齐训练,模型在训练中学会何时停止推理、何时输出答案
65%待验证提升模型智能的路径包括增加训练与推理计算、优化推理架构、强化思维链训练
70%待验证推理模型在数学竞赛、编程和逻辑推理上的表现已超越大量人类专家
60%待验证产出品质不稳定的根源往往是把 SOP 写得太窄;正确做法是给原则而非锁死步骤,有客观对错标准的环节写严格步骤,依赖判断的环节写原则框架。
50%