DeepSeek开源推理框架，MiniMax M3.1 Flash成本降70%｜AI日报

本期看点：推理效率与成本的双线竞速

10月21日的AI日报汇总了六条值得关注的消息，主线相当清晰：一边是DeepSeek^广告把推理框架DeepInfer开源出来，一边是MiniMax用M3.1 Flash把编程和多步骤智能体的成本压到原来的三成。两条消息指向同一个命题——当模型能力逐渐趋同，推理层的工程效率和单位成本正在成为新的竞争焦点。

本期还涉及OpenAI的低资源编程语言评测、VoxChannel的语音工具包、Mercury的扩散式文本生成模型，以及GitHub Copilot的模型下架调整。以下逐条展开。

DeepSeek开源DeepInfer：开放的是离线推理核心

DeepSeek在10月20日开源了推理框架DeepInfer，为V4.1 Flash提供优化算子、多卡并行和异步调度能力，采用Apache 2.0许可。

需要看清这次开源的边界。据官方说明，本次主要开放的是离线推理核心，完整的在线服务链路仍需要自行补齐缓存层和负载均衡——换句话说，这不是下载下来就能直接上线对外服务的成品。Apache 2.0许可给了商用和修改的自由度，但工程落地的最后一公里仍由使用者承担。

这个选择其实符合推理框架开源的一贯逻辑：算子优化和多卡调度是最具通用价值、也最能体现工程积累的部分，而缓存、限流、弹性扩缩这些与具体业务形态强绑定的组件，很难做成放之四海皆准的开源件。对打算自建推理服务的团队来说，DeepInfer的价值在于省掉了底层算子和并行调度的重复造轮子，而不是提供一个开箱即用的推理平台。

离线推理与在线服务的区别：离线推理指模型在无实时请求约束下批量处理数据，重点优化吞吐量和资源利用率，典型场景是批量生成、数据集标注；在线服务则要求低延迟、高并发和弹性扩缩，需额外处理请求排队、缓存命中、限流降级等。DeepInfer开放的算子优化和多卡并行主要解决计算效率问题，而在线链路中的KV缓存管理、会话保持、负载均衡等属于服务编排层，与具体业务强绑定，因此厂商通常选择不开源。自建团队需基于开源核心自行搭建服务层，常见方案包括集成vLLM的调度器、使用Redis做缓存、通过Kubernetes实现弹性扩缩。

Apache 2.0许可的实际含义：该许可允许用户自由使用、修改、分发软件，包括商用和闭源衍生，只需保留版权声明和许可文本，并明确不提供担保。对于推理框架而言，这意味着企业可以将其集成到自有产品中而不必开源自身代码，降低了法律风险。但需注意，许可不覆盖专利授权（虽含专利报复条款），且修改后的分发仍需附带许可。

MiniMax M3.1 Flash：成本降70%的代价与前提

MiniMax在10月19日上线M3.1 Flash，主打编程和多步骤智能体任务，官方称推理速度接近原来的三倍，成本降低70%。

定价很直接：每百万输入Token 0.15美元，每百万输出Token 0.6美元。这个价位在编程和Agent场景里具备相当的攻击性，尤其是多步骤智能体任务往往伴随大量往返调用，Token消耗容易失控，单位成本的下降会被调用次数放大。

不过有两个前提需要注意。其一，权重仍待后续发布，目前能用的只有API形态；其二，"速度接近三倍"和"成本降低70%"都是厂商侧的口径，实际表现会随任务类型、上下文长度和并发情况波动。对成本敏感的团队，建议先用真实业务流量做一轮对照测试，再决定是否迁移主力工作负载。

Token计价与多步骤智能体的成本放大效应：大模型API通常按输入和输出Token分别计价，输入指用户提供的上下文（如提示词、历史对话、工具返回结果），输出指模型生成的内容。多步骤智能体任务中，模型需反复调用工具、读取结果、再生成下一步，导致上下文不断累积，输入Token消耗随步骤数近似线性增长。因此，单位Token价格下降70%在多次往返场景下会被调用次数放大，实际成本降幅可能更显著，但也更依赖于任务复杂度和上下文管理策略（如是否启用缓存、是否裁剪历史）。团队评估时应模拟真实工作流的Token消耗分布，而非仅看单价。

权重发布与API形态的差异：权重发布意味着模型参数可下载，支持本地部署、微调和私有化，适合数据敏感或需深度定制的场景；API形态则仅提供云端调用，用户无法控制底层模型，但省去运维成本。MiniMax目前仅提供API，说明其可能优先保障服务稳定性和商业回报，权重后续发布或采用开放许可，但时间未定。对成本敏感且需私有化部署的团队，需等待权重发布或考虑替代方案。

OpenAI低资源语言评测：87.4%通过率意味着什么

OpenAI在10月19日公布了针对低资源编程语言的测试结果：GPT-6 Astra在20种语言上构建数据库的平均通过率达到87.4%，从SoL到SoBow的迁移也有明显进步。

这组数字值得关注，但要读得克制。这是厂商自建的评测，测试任务是"构建数据库"这一相对收敛的场景，通过率也不等于生产可用性。低资源语言的真实痛点往往不在语法生成，而在生态——包管理、构建工具链、冷门库的版本兼容，这些是评测集难以完全覆盖的。

实际业务迁移仍需人工审查和完整测试。更务实的用法是把这类模型当作"第一稿生成器"：让它在冷门语言上快速产出可运行骨架，再由熟悉该语言的工程师审阅边界条件。87.4%的通过率说明起点已经比一年前高得多，但离"交给模型就不用管"还有距离。

VoxChannel 3：语音工具包的三件套

VoxChannel在10月20日发布，提供转写、语音生成和语音智能体工具包三类能力，特点是能边听边调用业务工具，批量转写覆盖50多种语言。

价格上，mini版每分钟0.0035美元，当前可通过API调用，私有部署需要联系厂商。

"边听边调用业务工具"是这套工具包里比较有意思的部分——它把语音智能体从单纯的对话层推进到了工具编排层，适合客服、工单处理这类需要在通话中实时查数据、下操作的单据型场景。50多种语言的批量转写则更偏向后处理需求，比如会议记录、内容归档。

每分钟0.0035美元的价格对大批量转写任务友好，但语音智能体的实际成本取决于工具调用次数和会话时长，评估时应把这两项单独建模，而不是只看转写单价。

Mercury 3：扩散式文本生成与百万级上下文

Mercury在10月19日发布，采用扩散式文本生成路线，上下文扩展到100万token，面向实时客服和网页智能体场景。

厂商给出的标准输入输出定价为每百万0.2美元和0.7美元，同时说明实际速度仍随任务变化。

扩散式文本生成与传统自回归解码的差异在于生成机制本身，理论上在并行度和延迟特性上有不同的取舍空间，但这条路线目前的公开可比数据仍然有限。100万token的上下文对网页智能体和长文档客服是刚需，不过长上下文下的有效信息检索质量、以及随之上升的推理开销，都是选型时必须实测的项。厂商自己标注"速度随任务变化"，也说明性能表现并非恒定。

扩散式文本生成与自回归解码的机制差异：传统大模型（如GPT系列）采用自回归解码，逐Token生成，每个Token依赖前文，天然串行，延迟随长度线性增长。扩散式文本生成则借鉴图像生成中的扩散模型，通过迭代去噪从噪声中恢复文本，理论上可并行生成多个Token，降低延迟，但需多步迭代，计算量可能更大。两者在并行度、延迟特性、生成质量上各有取舍：自回归模型在长文本连贯性上更成熟，扩散模型在并行生成和可控性上有潜力，但公开可比数据有限。Mercury选择此路线，意在实时客服等低延迟场景中探索差异化，但实际表现需实测验证。

百万级上下文的有效信息检索挑战：上下文窗口扩展至100万Token意味着模型可一次性处理超长文档（如整本书、全年会议记录），但长上下文下的有效信息检索质量并非线性提升。模型可能面临“中间迷失”问题，即对长上下文中间部分的信息回忆能力下降；同时，推理开销随上下文长度增长，导致延迟和成本上升。实际应用中需结合检索增强生成（RAG）或分段处理策略，而非单纯依赖长上下文。

GitHub Copilot停用6款旧模型：入口层面的调整

GitHub在10月19日在多数Copilot入口停用了6款旧模型，包括GPT 5.5和Gemini 3.7 Flash，并给出Soul Luna等替代项。

需要区分的是影响范围：这只是Copilot产品侧的模型调整，不代表这些模型在所有平台停服。企业账号可能还需要管理员手动开启模型策略，否则部分替代模型可能不可见。

对依赖Copilot的开发团队来说，这件事的实际影响在于工作流稳定性——如果团队内部有基于特定模型的提示词或审查规范，模型更换后输出风格和边界行为可能发生变化，值得在切换后做一轮回归验证。

三条趋势线

把这六条消息放在一起看，能梳出三条线。

推理效率成为主战场。 DeepSeek开放优化算子和多卡调度，MiniMax用速度和成本双降打编程与Agent场景，Mercury在生成机制上换路线，本质上都是在推理层做文章。模型能力的差距在缩小，工程效率的差距反而更容易被量化、被比价。

厂商评测与生产可用之间仍有间隙。 OpenAI的87.4%通过率、MiniMax的70%降本、Mercury的百万上下文，都是厂商口径下的数字。这些数字提供了有价值的参考起点，但真实业务迁移仍需人工审查和完整测试，这一点在低资源语言和智能体任务上尤其明显。

开源与托管的分工更清晰。 DeepInfer开放离线核心、VoxChannel私有部署需联系厂商，说明厂商越来越清楚哪些组件适合开源换取生态，哪些组件适合留在托管服务里。使用者需要按自身工程能力判断：是拿开源核心自建，还是直接用API换取时间。

本期播报到此结束。