待验证50% 置信事实精确时间
FP4-Local 并不比 4-bit GGUF 小:UD-IQ4_XS GGUF 为 157 GB,而 FP4-Local 约 166 GiB。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至:2027/1/16
来源
涉及实体
相关事实
待验证FP4-Local 约占用 166 GiB 显存,在两张 RTX PRO 6000(合计 192GB)上可放下 1.8M token 的 FP8 KV cache;双 DGX Spark 方案可到 2M token。75% 相似待验证NVIDIA发布的Qwen3.8-Flash-Next FP4版本大小约为96 GiB,原版BF16为355 GB。73% 相似待验证Dory 的 GGUF 权重(Q5_K_M)为 3.67 GB,BF16 为 7.95 GB,NVFP4 为 3.20 GB。72% 相似待验证一个70.6B模型使用GGUF Q4_K_M格式,权重体积约为39.8 GiB。72% 相似待验证FP16格式下每个参数占2字节,INT4格式仅占0.5字节,理论上可实现4倍压缩比72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064233API
curl https://kongchang.com/api/v1/knowledge/claims/1064233MCP
get_claim(id=1064233)