DeepSeek开源DeepInfer：72小时上下文缓存如何重构AI推理成本

DeepSeek 又扔出了一枚技术炸弹——但这次的关键词不是更聪明的模型，而是更便宜的推理。

据南华早报科技版报道（经B站科技UP主与YouTube深度解析频道交叉印证），DeepSeek^广告 发布了名为 DeepInfer 的开源推理框架，配合其最新模型 DeepSeek V4.1 Flash，宣称能将 AI 推理成本砍到让行业重新算账的程度。更耐人寻味的是，一位 DeepSeek 高级研究员在社交媒体上把这次发布称为「光明与黑暗的决战」——一个缓存工具的更新，为何被拔高到人类命运的高度？

DeepInfer 到底做了什么：把「重复劳动」从推理中删掉

要理解 DeepInfer 的价值，先得回到一个被行业长期容忍的浪费：大多数 AI 推理在重复计算同样的东西。

传统模式下，用户上传一份财报让模型分析，GPU 会从第一个字开始逐词计算注意力权重；一小时后另一位用户问同一份财报的类似问题，系统会把之前的数学路径全部丢弃，从头再来一遍。算力、电力、硬件损耗，全部翻倍。

DeepInfer 的核心机制是 上下文缓存（context caching）：它把已经计算出的数学路径保留在内存中，缓存有效期超过 72 小时。当相似请求到来时，系统直接调用预计算好的中间结果，跳过最耗能的预填充阶段。

用播客里那个被反复引用的比喻：这就像餐厅的备菜厨师周一切好十磅洋葱放进冰箱，周三做汤时直接取用，而不是重新切一遍。DeepInfer 记住的不是最终答案，而是所有前置的「备菜工作」。

预填充（prefill） 是大语言模型推理的第一阶段：模型把用户输入的整段提示词一次性读入，为每个 token 计算键值（Key/Value）向量并存入显存，建立起后续逐词生成所依赖的注意力上下文。这一阶段的算力消耗与输入长度近似成正比，长文档分析、长对话历史等场景下，预填充往往占据单次请求总耗时和能耗的大部分。与之相对的**解码（decode）**阶段则是逐 token 自回归生成输出，每次都要读取此前累积的 KV 缓存。所谓“重复计算”，正是指相同或相似前缀在不同请求中被反复预填充——上下文缓存的价值就建立在把这一阶段的中间结果持久化，使后续请求可以直接复用。

KV 缓存（Key-Value Cache） 是理解上下文缓存复用的技术基础。Transformer 在自注意力计算中，每个 token 都会产生一组 Key 和 Value 向量；生成新 token 时，模型需要与之前所有 token 的 K、V 做注意力运算。为避免重复计算，推理系统会把这些向量保存在显存中，即 KV 缓存。上下文缓存本质上就是把某一前缀对应的 KV 缓存块跨请求保留下来，并通过前缀匹配判断新请求能否命中。其工程难点在于显存容量有限、缓存块需要按 token 粒度管理淘汰，以及命中后的位置编码与批处理调度必须保持一致，否则复用反而会引入错误或拖慢吞吐。

硬件无关：NVIDIA 和华为昇腾跑同一套效率

DeepInfer 另一个被低估的设计是硬件层的中立性。据上述多源分析，该框架同时支持 NVIDIA 的 SM100 Blackwell 架构和中国华为的昇腾 950 芯片，企业无需为框架迁移更换硬件栈。

这一点的战略含义大于技术含义。美国芯片出口管制持续收紧的背景下，一套能在中美两套硬件生态上无差别运行的推理框架，实际上降低了全球企业选边站的压力。对采购方而言，买什么芯片不再决定能不能用上高效推理。

经济账：单卡每小时 38 美元，低谷时段也赚钱

DeepSeek 公布的技术数据显示，单服务器配置下每块 GPU 每小时可产生约 38 美元收益，且这一数字在非高峰时段依然成立。

这条数据是整个发布中最具冲击力的部分。传统推理服务器的经济模型依赖白天高峰摊薄夜间闲置成本——机器空转时，电费和冷却费照付。DeepInfer 把单次推理的边际成本压得足够低，使得夜间少量请求也能覆盖固定开支。对算力租赁商和中小云厂商来说，这意味着盈亏平衡点的位置被彻底改写。

DeepSeek 团队负责人 Kui Tianyi 公开表示，公司主动希望第三方企业用这些模型赚到钱。据分析，这并非慈善，而是一种生态卡位策略：当足够多的创业公司把业务搭建在 DeepSeek 的开源栈上，它就成为整个行业无法轻易替换的底层标准。

开源与闭源：一场被包装成技术更新的路线之争

真正让这次发布出圈的，是 DeepSeek 高级研究员 Chen Deli 在社交媒体上的那段长文。他将其定义为「两种未来的决战」，用「光明与黑暗」形容开源与闭源 AI 的对立，并称开源社区将战斗到「彻底胜利」。

措辞激烈，但逻辑链条可以拆解：闭源模型意味着少数企业高管掌握了对知识入口的定价权、准入权和内容边界定义权——什么可以说、什么算正确，由一家公司的价值观决定。Chen Deli 的立场是，把这种权力集中在小群体手中才是真正的风险。

对立面的论证同样严肃。Anthropic CEO Dario Amodei 主张，开放权重等于把接近武器级的能力无门槛分发——复杂病毒编写、大规模虚假信息、乃至生物武器设计的门槛都会被拉低。他还公开指控部分中国公司在美国 AI 技术基础上构建系统。安全与开放，两种优先级在这里正面相撞。

开放权重（open weights） 与开源在 AI 领域常被混用，但含义不同。开放权重指模型训练完成后的参数文件可被下载和本地部署，使用者能微调、量化、蒸馏，却未必获得训练数据、训练代码或完整许可自由；严格意义上的开源模型还会公开训练方法与数据来源，并允许自由再分发和商业使用。Dario Amodei 的担忧主要针对开放权重：一旦高能力模型的参数脱离提供方控制，滥用者可在本地绕过 API 层面的安全过滤与使用监控。这也解释了为何“开放到什么程度”往往比“是否开放”更能决定监管态度与风险边界。

北京的两难：出口管制与开源推广并行

中国监管层的姿态呈现出一种表面矛盾。据报道，北京近期提出针对 23 项 AI 技术的出口管制草案，但官方发言人同时明确表示将继续鼓励开源 AI 发展，并特别点名「全球南方」——非洲、拉美和东南亚的发展中经济体。

这套组合拳的实质是：管制核心技术外流，同时用免费开源工具占领新兴市场的技术底座。

如果这一策略奏效，内罗毕或圣保罗的独立开发者将拥有与硅谷团队同等量级的推理能力，却面对完全不同的本地问题。下一轮技术创新的地理分布，可能第一次不由加州或北京决定。

出口管制在 AI 语境下通常指两类措施：一是对先进芯片、制造设备等硬件的出口限制，二是对模型权重、算法、技术文档等无形技术转移的管控。后者执行难度显著更高，因为权重文件可在网络上传输，开源发布一旦发生便难以撤回。这也构成政策上的内在张力：鼓励开源有利于生态扩张与国际影响力，但开源本身与“防止核心技术外流”的目标存在冲突。实践中，监管方往往通过许可协议、备案制度、对特定能力阈值以上模型的区别对待来寻求折中，而非简单禁止。

编辑观点

DeepInfer 的技术内核——长时上下文缓存——并非全新概念，Anthropic 和 Google 均有类似机制。但 DeepSeek 把它开源、做到硬件无关、并给出可验证的收益数据，这套组合的商业杀伤力远大于单项技术突破。真正值得追踪的问题不是缓存能省多少电，而是当推理成本不再是壁垒，AI 竞争的下一道护城河会出现在哪里。