72小时四大开源模型：仅英伟达Nemotron适配24GB

过去72小时，开源大模型领域迎来了一轮密集发布。Meta、英伟达、Reflection和DeepSeek先后甩出重量级模型，参数规模从74B一路冲到816B。但一个尴尬的事实是：这四款模型中，只有英伟达的Nemotron 3.5 Bolt能在24GB显存内跑起来。

四款模型速览：参数与硬件门槛

据Reddit原帖整理，四款模型的官方数据如下：

Meta Muse Spark Open（周四发布）：816B总参数，42B激活，1M上下文。官方宣传语是“把智能体AI带到你的桌面”——但这里的“桌面”指两台M5 Ultra Mac Studio，每台512GB内存。苹果表示该配置“10月下旬发货”，且尚未公布价格。替代方案是四台256GB版本，总价约3.8万美元。许可证为自定义协议：强制标注“Built with Muse Spark Open”，年收入超过2000万美元后需另行签约。在Artificial Analysis指数上，Meta自家模型卡给出的分数是39，落后于GLM 5.3（45）和Kimi K3（44）。

英伟达 Nemotron 3.5 Bolt（同日发布）：74B总参数，9B激活。关键卖点是量化感知训练直接做到2bit，整体体积22GB，外加1.7GB视觉投影器。设计目标就是塞进24GB显存。Unsloth当天放出GGUF，支持llama.cpp、Ollama和LM Studio。

Reflection Beam（周五发布）：501B总参数，23B激活，Apache 2.0许可证，无附加条款。最小官方检查点是NVFP4格式，294GB。

DeepSeek^广告 V4.1 Flash 1017（周六下午发布）：MIT许可证。官方表格显示DeepSWE得分77.0，对比Opus 5的74.0（厂商自报数据，需谨慎看待）。仓库体积510GB。

混合专家（MoE）与总参数/激活参数

文中反复出现的“816B总参数、42B激活”“74B总参数、9B激活”是混合专家（Mixture-of-Experts, MoE）架构的典型描述。MoE 把前馈层拆成许多“专家”子网络，每个 token 只被路由到其中少数几个专家参与计算，因此“总参数”是模型全部权重的规模，而“激活参数”是单次前向实际用到的部分。这解释了为什么 816B 的模型仍可能被部署——显存要装下全部权重，但算力开销只按激活参数计。也正因为权重必须全部驻留内存，MoE 模型对显存容量的要求远高于对算力的要求，这正是 Meta Muse Spark Open 需要 512GB 级内存、而 Nemotron 3.5 Bolt 能用 2bit 量化压到 22GB 的根本原因。阅读参数表时，应把“激活参数”理解为推理成本指标，把“总参数”理解为显存占用指标。

量化感知训练与 2bit 权重

Nemotron 3.5 Bolt 能在 24GB 显存内运行，关键不在于参数少，而在于“量化感知训练（Quantization-Aware Training, QAT）直接做到 2bit”。常规做法是先训练全精度模型，再事后量化（PTQ），低比特时精度损失往往较大；QAT 则在训练阶段就模拟量化误差，让权重主动适应低精度表示，因而在 2bit 这种极端压缩下仍能保住可用质量。2bit 意味着每个权重平均只占约四分之一个字节，74B 参数的体积因此降到 22GB 量级。作为对比，Reflection Beam 的最小官方检查点采用 NVFP4（4bit 浮点）格式仍达 294GB。这也说明：低比特格式与量化方法是决定“能否本地跑”的第一变量，其重要性不亚于参数量本身。

GGUF 与本地推理生态

文中提到 Unsloth 当天放出 GGUF，并支持 llama.cpp、Ollama、LM Studio，这指的是本地推理的事实标准格式与工具链。GGUF 是一种单文件模型容器格式，把权重、分词器、元数据打包在一起，并支持多种量化级别（如 Q4_K_M、Q2_K），由 llama.cpp 直接加载；Ollama 与 LM Studio 则是在 llama.cpp 之上封装的一键式运行环境。一个模型能否“当天可用”，很大程度上取决于社区是否及时产出 GGUF 转换。GGUF 生态的存在，使得同一份权重可以在纯 CPU、Apple Silicon 统一内存和消费级 GPU 上以不同量化档位运行，这也是 24GB 用户仍能跟进新模型的主要通道。

“本地运行”的含义正在被改写

把四款模型放在一张图上对比24GB显存线，结论相当刺眼：绝大多数开发者手中的消费级显卡，与这波“开源”发布之间隔着一条巨大的鸿沟。

Meta的Muse Spark Open需要两台顶配Mac Studio才能跑动，总价接近4万美元。Reflection Beam的最小检查点294GB，同样不是单卡能承受的。DeepSeek V4.1 Flash的510GB仓库更是如此。所谓“本地运行”，在这些模型面前已经悄悄变成了“在一台比车还贵的电脑上运行”。

英伟达是这个星期唯一一家专门为24GB显卡设计模型的公司。这有点讽刺——一家持续向市场销售24GB显卡的厂商，反而是唯一认真对待24GB用户的实验室。是良心发现还是销售漏斗，见仁见智。

许可证比参数更有看头

这一周真正拉开差距的，不是参数量，而是许可证。

DeepSeek的MIT和Reflection的Apache 2.0，属于无附加条件的真开源。反观营销声量最大的Meta，用自定义许可证加上了署名要求和收入分成条款。对商业用户来说，这种差异的影响远大于模型多出几十亿参数。

据Reddit帖主提醒，Mistral的Large 4权重（代号“Le Chonk”，1T总参数）也将在月底前落地。照这个趋势，24GB显存线只会更加孤单。

开源许可证的实际分野

MIT 与 Apache 2.0 都属于 OSI 认可的标准开源许可证：前者极为宽松，只要求保留版权与许可声明；后者额外包含明确的专利授权条款，并对修改文件作出标注要求，二者都允许商用、修改、再分发与闭源集成。文中 Meta 使用的“自定义协议”则不属于开源许可证范畴，而是带条件的权重许可：强制署名“Built with Muse Spark Open”，并在年收入超过 2000 万美元后触发另行签约。这类条款在 Llama 系列等“开放权重（open weights）”模型中常见，其法律性质接近带规模门槛的商业授权，而非授予全部自由。判断一个模型是否“真开源”，应看它是否满足开源定义中的自由使用、修改与再分发，而不只是权重可否下载。对商业部署而言，收入门槛、署名义务、可撤销性等条款，往往比基准分数更直接地决定总成本与合规风险。

对开发者的实际影响

如果你手里是一张24GB显卡，本周可用的新模型基本只有Nemotron 3.5 Bolt。好在它的生态跟进很快：GGUF当天可用，llama.cpp、Ollama、LM Studio全覆盖，上手门槛不高。

如果你在评估商业部署，许可证条款需要优先于基准分数来审视。MIT和Apache 2.0意味着你可以自由集成、修改和分发；自定义许可证则可能在规模化后带来额外成本。

至于那些动辄数百GB的模型，在消费级硬件上短期内仍不现实。云端推理或企业级集群，依然是它们的主要归宿。