模型Nemotron Bolt 3.5

Nemotron Bolt 3.5 74B A9B

NVIDIA 推出的开源混合专家（MoE）大语言模型，总参数 74B、每 token 激活约 9B，通过 2-bit 量化感知训练压缩至约 24GB 显存，面向消费级 GPU 本地部署

核心事实

Nemotron Bolt 3.5 74B A9B 是一个混合专家（MoE）模型，总参数约 74B，每个 token 只激活约 9B 参数。

10月14日

Reddit 社区流传消息称，NVIDIA Nemotron Bolt 3.5 74B A9B 将于 10 月 15 日发布。

待验证50%

10月14日

Nemotron Bolt 3.5 74B A9B 是一个混合专家（MoE）模型，总参数约 74B，每个 token 只激活约 9B 参数。

已验证75%

10月14日

Nemotron Bolt 3.5 74B A9B 通过 2-bit 量化配合量化感知训练（QAT），将整个模型压缩到约 24GB 显存占用。

待验证50%

10月14日

NVIDIA 声称 Nemotron Bolt 3.5 比大多数流行的稠密模型更快，同时比同内存占用的主流 MoE 模型更聪明。

待验证50%

Nemotron Bolt 3.5 74B A9B 是一个混合专家（MoE）模型，总参数约 74B，每个 token 只激活约 9B 参数。

Nemotron Bolt 3.5 74B A9B 通过 2-bit 量化配合量化感知训练（QAT），将整个模型压缩到约 24GB 显存占用。

NVIDIA 声称 Nemotron Bolt 3.5 比大多数流行的稠密模型更快，同时比同内存占用的主流 MoE 模型更聪明。

Reddit 社区流传消息称，NVIDIA Nemotron Bolt 3.5 74B A9B 将于 10 月 15 日发布。