已验证80% 置信事实精确时间
NVIDIA 声称 Nemotron 3.5 Bolt 74B-A9B 的权重可在 24GB 内存中运行，该 24GB 仅指权重本身占用，不含上下文、KV 缓存和运行时开销。
4
来源数
80%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
NVIDIA 开源 74B 智能体模型，24GB 显存即可运行
rss2026/10/15
涉及实体
相关事实
待验证Nemotron Bolt 3.5 74B A9B 通过 2-bit 量化配合量化感知训练（QAT），将整个模型压缩到约 24GB 显存占用。74% 相似待验证NVIDIA H100单卡显存80GB，8卡节点640GB仍不足以加载Qwen3.8全量权重73% 相似已验证NVIDIA 即将推出的 RTX Spark 笔记本最高配置提供 128 GB 统一内存（unified memory）。73% 相似待验证M3 Max 配备最高 128GB 统一内存，可运行未量化的 70B 甚至更大规模模型，远超消费级 NVIDIA 显卡最高 24GB 的上限72% 相似待验证NVIDIA A100的显存带宽为2TB/s，加载280GB的FP32模型需要约140ms，仅权重加载就决定了每秒最多生成约7个token72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1036611API
curl https://kongchang.com/api/v1/knowledge/claims/1036611MCP
get_claim(id=1036611)