待验证50% 置信基准精确时间
8×B200上DiffusionGemma 26B MoE + ORL在NVFP4精度下达到7,708 tokens/s(单请求解码)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至:2026/10/31
来源
涉及实体
相关事实
待验证单张RTX 5090配合LLaDA-2.1-mini + ORL在NVFP4精度下达到2,788 tokens/s(单请求解码,batch size 1)。79% 相似待验证典型7B模型(32层、32头、128维度)在FP16精度下处理2048 token序列、批大小8时,KV Cache约消耗4GB显存68% 相似待验证d1-omni-600M 基于 LFM2.5-Encoder-350M 双向编码器构建,而非在因果解码器上接分类头,上下文窗口为 16,384 tokens。65% 相似待验证官方跑分显示 Qwen3.6 27B 稠密模型采用 NVFP4 量化时,单并发可达 202 token/s,双并发 400 token/s,8 并发冲到 1147 token/s65% 相似待验证在 AMD RX 7900 显卡实测中,Ornith 35B 总体准确率 85%(21 项通过 18 项),生成速度 74 tokens/秒,提示词处理 850 tokens/秒,显存占用 20GB65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049950API
curl https://kongchang.com/api/v1/knowledge/claims/1049950MCP
get_claim(id=1049950)