[控场AI]
产品

ThunderKittens

面向GPU的轻量级深度学习内核编写框架,核心目标是让研究者和工程师能够以简洁的抽象写出接近硬件极限的高性能内核,围绕tile(分块)这一核心抽象组织计算与数据搬运

时间轴 (近 90 天)

10月4日

ThunderKittens被移植到NVIDIA Vera Rubin NVL72平台,并围绕新硬件重构了NVFP4 GEMM内核

待验证50%
10月4日

ThunderKittens的NVFP4 GEMM性能从原先仅占roofline理论峰值的42%提升至超过22 PFLOPS

待验证50%
10月4日

重构后的ThunderKittens内核性能已能与cuBLAS和CuTe DSL等官方高度优化方案正面竞争

待验证50%
10月4日

ThunderKittens是一个面向GPU的轻量级深度学习内核编写框架,围绕tile(分块)这一核心抽象组织计算与数据搬运

待验证50%
10月4日

ThunderKittens以可读性与研究迭代速度为优先,牺牲部分极端情况下的最优性,换取开发者能在数小时内写出可运行的自定义内核

待验证50%

全部知识事实 (5)

来源文章