待验证50% 置信事实精确时间
在 DGX Spark 上,官方 Quick Start 使用 vllm/vllm-openai:v0.32.0,关键参数包括 --max-num-seqs 1、--gpu-memory-utilization 0.75、投机解码 LiLiCorr drafter 配 7 个草稿 token 以及 --reasoning-parser nemotron_v3 等。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/16
首次发现
有效期至:2027/1/14
来源
涉及实体
相关事实
待验证Nemotron 3.5 Bolt 配套提供 LiLiCorr drafter 进行投机解码,通过 DFlash 实现,vLLM 配置中默认带 7 个投机 token。70% 相似待验证DGX Spark (GB10) 拥有 128 GB 统一内存,可使用官方 NVFP4 + vLLM + LiLiCorr drafter 运行 Nemotron 3.5 Super VL。70% 相似待验证运行Muse Spark的关键决策包括量化方案(FP8/INT8/4-bit)、推理框架(vLLM、TensorRT-LLM、SGLang)和并行策略(Tensor Parallel、Pipeline Parallel)。67% 相似待验证vLLM v0.29.0新增了对Hy4-preview、Qwen3.8-Flash-Next、GraniteSWA以及NemotronH Omni Reasoning V3等模型的支持67% 相似待验证vLLM配置参数包括--tensor-parallel-size(张量并行度)、--gpu-memory-utilization(显存占用比例上限)、--max-num-batched-tokens(最大批处理token数)等66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049458API
curl https://kongchang.com/api/v1/knowledge/claims/1049458MCP
get_claim(id=1049458)