待验证50% 置信基准精确时间
单张RTX 5090配合LLaDA-2.1-mini + ORL在NVFP4精度下达到2,788 tokens/s(单请求解码,batch size 1)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至:2026/10/31
来源
涉及实体
相关事实
待验证8×B200上DiffusionGemma 26B MoE + ORL在NVFP4精度下达到7,708 tokens/s(单请求解码)。79% 相似待验证提示处理速度上RTX 4090约3000 tokens/s,M5 Max约800 tokens/s,英伟达在长文档/代码库输入场景优势明显72% 相似待验证在 RTX Pro 6000(96GB 显存)上,官方 FP8 版配合内置 MTP 投机解码可跑到约 120 tokens/秒,质量与 16-bit 几乎无差异70% 相似待验证在RTX 5090上,Muse Glimmer不使用推测解码时为75 tokens/秒,搭配推测解码模型后速度达233 tokens/秒67% 相似待验证实测中,RTX 5070运行二比特量化版本,每秒输出94个Token。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049949API
curl https://kongchang.com/api/v1/knowledge/claims/1049949MCP
get_claim(id=1049949)