待验证50% 置信事实精确时间
官方推文没有给出 Nemotron 3.5 Bolt 74B-A9B 的具体基准分数、每秒 token 生成速度、2-bit 量化后的精度对比数据。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/18
首次发现
有效期至：2026/11/1
来源
涉及实体
相关事实
待验证Nemotron Bolt 3.5 74B A9B 通过 2-bit 量化配合量化感知训练（QAT），将整个模型压缩到约 24GB 显存占用。69% 相似待验证运行Nemotron Super（约1200亿参数）时，未优化约每秒16.6个Token，启用MTP、Flash Attention和KV缓存后提升到27.2个Token（17000上下文长度下），提速约64%65% 相似待验证13B-14B级别模型（4-bit量化）在该配置下速度下降到每秒2-5个token64% 相似已验证NVIDIA 声称 Nemotron 3.5 Bolt 74B-A9B 的权重可在 24GB 内存中运行，该 24GB 仅指权重本身占用，不含上下文、KV 缓存和运行时开销。64% 相似待验证在 Colab A100 实例上通过 Ollama 运行 gemma4:26b（GGUF Q4_K_M），生成速度达 179.42 tok/s，369 tokens 耗时 2.16 秒63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1063516API
curl https://kongchang.com/api/v1/knowledge/claims/1063516MCP
get_claim(id=1063516)