待验证50% 置信事实精确时间
Nemotron 3.5 Bolt 使用原生 2-bit 量化（IQ2，带量化感知训练 QAT）将模型压缩进 24GB 显存，可在一块消费级或单卡工作站上运行。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
涉及实体
相关事实
部分验证Unsloth 通过手写 Triton GPU 内核和数学优化，可将 LLM 微调速度提升 2-5 倍，同时将显存占用降低 60-80%66% 相似待验证Nemotron 3.5 Bolt 通过 chat-template 控制推理模式，使用 enable_thinking=True/False 开关思考模式，推荐采样参数为 temperature 1.0、top_p 0.95，均继承自 Super 3.5 VL。66% 相似待验证Nemotron 系列强调与 NVIDIA 硬件生态深度优化整合，能够利用 TensorRT-LLM 等推理加速工具66% 相似待验证Nemotron 3.5 Bolt 配套提供 LiLiCorr drafter 进行投机解码，通过 DFlash 实现，vLLM 配置中默认带 7 个投机 token。65% 相似待验证NVIDIA 声称 Nemotron Bolt 3.5 比大多数流行的稠密模型更快，同时比同内存占用的主流 MoE 模型更聪明。64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037550API
curl https://kongchang.com/api/v1/knowledge/claims/1037550MCP
get_claim(id=1037550)