概念FP4 GEMM
NVFP4 GEMM
基于NVIDIA NVFP4格式的通用矩阵乘法实现,采用带块级缩放的4位浮点格式,是深度学习推理与训练中的核心计算原语,NVIDIA在Blackwell及Vera Rubin架构中提供硬件原生支持
时间轴 (近 90 天)
10月4日
ThunderKittens被移植到NVIDIA Vera Rubin NVL72平台,并围绕新硬件重构了NVFP4 GEMM内核
待验证50%
10月4日
ThunderKittens的NVFP4 GEMM性能从原先仅占roofline理论峰值的42%提升至超过22 PFLOPS
待验证50%