待验证50% 置信基准精确时间
FuTransformer的INT4解码相比其自家的FP8路径快31%至51%。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至：2026/11/2
来源
涉及实体
相关事实
待验证在8B和70B形状、batch 1至32的范围内，FuTransformer的INT4解码比PyTorch的BF16与INT4块中较快者快1.3至2.4倍。77% 相似待验证在单张H100上，FuTransformer的预填充路径比编译后的PyTorch FP8快最多1.48倍，达到1.29 PFLOP/s。75% 相似已验证NVIDIA H100采用专为AI工作负载设计的Transformer Engine，在FP8精度下实现近4000 TFLOPS算力，比A100提升约3倍67% 相似待验证FuTransformer是面向NVIDIA Hopper GPU的CUDA实现，为Llama-style Transformer块分别设计了FP8预填充路径和INT4解码路径。65% 相似已验证Blackwell的第二代Transformer Engine新增FP4精度支持，理论上可将Transformer模型的训练吞吐量相比H100提升2-4倍64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1065911API
curl https://kongchang.com/api/v1/knowledge/claims/1065911MCP
get_claim(id=1065911)