待验证50% 置信基准精确时间
mxfp方案（随机舍入+Hadamard预处理）达到37.2K tokens/s/GPU，对应86.3% MFU，训练损失终点比纯bfloat16高2.11%
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证在A100(80GB显存)GPU上,训练7B模型的吞吐量约为每秒3000-5000 token70% 相似待验证Q8主模型占用162GB导致drafter无法装入统一内存，DSpark加速失效，将三层MoE专家放回CPU后输出仅从22.87提升到23.49 token/秒（快2.7%），prefill从95.38降至76.6567% 相似待验证SGLang 使用官方 NVFP4 权重配合 D-Spark 投机解码在 Blackwell GPU 上跑出平均约 173 tokens/秒，短任务逼近 200，同时加载 262k 上下文窗口64% 相似待验证VM级别隔离（如Kata Containers）会带来约15%-30%的GPU性能损耗64% 相似待验证对于 LLaMA-2 70B 模型，处理 4096 token 的上下文时，FP16 精度下 KV Cache 约需 20GB 系统内存64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/971842API
curl https://kongchang.com/api/v1/knowledge/claims/971842MCP
get_claim(id=971842)