待验证50% 置信基准精确时间
在该测试中，NVFP4 的生成速度为 116.8 tok/s，是 BF16（51.0 tok/s）的 2.3 倍，NVFP4 权重体积为 3.28 GiB
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
涉及实体
相关事实
待验证在4张B200上运行gpt-oss-120b纯预填充测试中，DWDP4在MNT 32K/ISL 32K配置下相比DEP4达到1.92倍加速，饱和状态下实现506K对329K tok/s（1.54倍）吞吐提升77% 相似待验证对于追求生成吞吐且显存紧张的场景，NVFP4 在 Ada 架构上解码快 2.3 倍、权重仅 3.28 GiB，但需接受 token 级 89%–90% 的保真度74% 相似待验证NVFP4实际约为3.75bit，并非严格意义上的4bit量化72% 相似待验证NVIDIA RTX 4090运行类似规模的Q4量化模型的典型生成速度在40~60 TPS范围内72% 相似待验证在RTX 3060上，开发者用Triton手写的面向batch-1解码的融合W4A16 GEMV内核速度约为25.5 tok/s，追平了bitsandbytes NF4量化方案的约25.7 tok/s。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1057656API
curl https://kongchang.com/api/v1/knowledge/claims/1057656MCP
get_claim(id=1057656)