[控场AI]
概念FP4 GEMM

NVFP4 GEMM

基于NVIDIA NVFP4格式的通用矩阵乘法实现,采用带块级缩放的4位浮点格式,是深度学习推理与训练中的核心计算原语,NVIDIA在Blackwell及Vera Rubin架构中提供硬件原生支持

时间轴 (近 90 天)

10月4日

ThunderKittens被移植到NVIDIA Vera Rubin NVL72平台,并围绕新硬件重构了NVFP4 GEMM内核

待验证50%
10月4日

ThunderKittens的NVFP4 GEMM性能从原先仅占roofline理论峰值的42%提升至超过22 PFLOPS

待验证50%

全部知识事实 (2)

来源文章