待验证50% 置信事实精确时间
Nemotron-3.5-Super-VL 带有一个 1.3GB 的视觉塔（C-RADIO），需逐层流式传输到 GPU，每张图处理耗时 0.4-1.6 秒。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
8GB显卡跑120B Nemotron：跳过零值，找真瓶颈
rss2026/10/17
涉及实体
相关事实
待验证运行Nemotron Super（约1200亿参数）时，未优化约每秒16.6个Token，启用MTP、Flash Attention和KV缓存后提升到27.2个Token（17000上下文长度下），提速约64%72% 相似待验证Nemotron-3.5-Super 的单个专家（up 2688×1024 + down 1024×2688）在 NVFP4 格式下仅占 3.10MB。70% 相似待验证Nemotron 3.5 Super VL 的仓库体积为 75.1 GB，分布在 88 个 safetensors 分片里，单张消费级卡无法容纳 120B 模型。68% 相似待验证NVIDIA 声称 Nemotron 3.5 Bolt 74B-A9B 的权重可在 24GB 内存中运行，该 24GB 仅指权重本身占用，不含上下文、KV 缓存和运行时开销。67% 相似待验证RTX 5090 只有 32 GB 显存，装不下 Nemotron 3.5 Super VL，连 UD-IQ1_M 量化版本都需要 46.1 GB。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1053044API
curl https://kongchang.com/api/v1/knowledge/claims/1053044MCP
get_claim(id=1053044)