[控场AI]
概念

Swap-AB

一种 GEMM 内核优化策略,通过交换矩阵乘法两个操作数的角色,利用 (A×B)ᵀ = Bᵀ×Aᵀ 的等价变换,使内核在 Hopper WGMMA 流水线中获得更好的数据复用和更少的同步开销

时间轴 (近 90 天)

10月13日

AWS 工程团队在 Amazon SageMaker AI 上针对融合 MoE 模型进行了内核级优化,包括 Swap-AB 提升 WGMMA 利用率、Triton 后端路由实现 FP8 量化、消除 Triton JIT 重复编译。

待验证50%
10月13日

Swap-AB 策略本质上是交换两个操作数的角色,使内核在 Hopper 的 WGMMA 流水线中获得更好的数据复用和更少的同步开销,且不改变数学等价性。

待验证50%

全部知识事实 (2)

来源文章