模型Nemotron-3.5 / Nemotron 3.5 Super VL
Nemotron-3.5-Super-VL-120B-A12B
NVIDIA 发布的开源视觉语言大模型家族,采用 MoE 架构,总参数量 120B、激活参数 12B,支持多模态推理,提供 base、NVFP4、BF16 等多种版本及 LiLiCorr 推测解码方案。
时间轴 (近 90 天)
10月15日
NVIDIA 发布了 Nemotron-3.5-Super-VL-120B-A12B 模型家族,涵盖基础版本以及 NVFP4、BF16 多种量化格式,并引入了 LiLiCorr 推测解码方案。
待验证50%
10月15日
Nemotron-3.5-Super-VL-120B-A12B 的命名中 '120B-A12B' 很可能表示总参数量 120B、激活参数量 12B 的 MoE 架构,'VL' 指向视觉语言多模态能力。
待验证50%
10月15日
在 120B-A12B 模型中,模型权重总量为 1200 亿参数,但每个 token 前向时只有约 120 亿参数实际参与运算。
待验证50%