部分验证80% 置信事实精确时间
816B 参数的 Muse Spark Open 经 NVFP4 量化后约占用 493GB 内存,FP16 存储则需超过 1.6TB。
4
来源数
80%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
涉及实体
相关事实
待验证运行 Muse Spark Open 的 BF16 检查点约需 2 TB 显存,相当于 32 块 H200 GPU 组成的集群;NVFP4(4 位)检查点将需求降至约 530 GB,已在四块 NVIDIA Blackwell Ultra GPU 或八块 H200 上验证。77% 相似待验证NVIDIA在Hugging Face发布Qwen3 235B的NVFP4量化模型,将模型从BF16的约470GB显存压缩至约156GB,可运行在8张H100单节点集群上71% 相似待验证Spark X 2.5在32000 Token时KV Cache约1.3GB总占用约9GB,128000 Token时KV Cache约4.9GB,100万Token时KV Cache约39GB加模型文件约43GB71% 相似已验证Muse Glimmer全精度运行需要55GB显存,通过4-bit量化后压缩到20GB以内,可在24GB显存的消费级显卡上运行70% 相似待验证Naive-N0.5-Flash 的 BF16 权重文件约 618GB,FP8 格式版本权重约 315GB69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1038320API
curl https://kongchang.com/api/v1/knowledge/claims/1038320MCP
get_claim(id=1038320)