WGMMA
NVIDIA Hopper 架构引入的异步矩阵乘加指令，由整个 warpgroup 协同执行，直接从共享内存读取操作数并写入张量核心累加器，支持更大矩阵分块和更高吞吐
时间轴 (近 90 天)
WGMMA（Warpgroup Matrix Multiply-Accumulate）是 NVIDIA Hopper 架构引入的异步矩阵乘加指令，由整个 warpgroup（通常 128 个线程）协同执行，可直接从共享内存读取操作数并写入张量核心累加器。
相比上一代 Ampere 的 mma 指令，WGMMA 支持更大的矩阵分块、更高的吞吐，并可与 TMA（Tensor Memory Accelerator）等异步拷贝机制流水线重叠。
Swap-AB 策略本质上是交换两个操作数的角色，使内核在 Hopper 的 WGMMA 流水线中获得更好的数据复用和更少的同步开销，且不改变数学等价性。
在 Hopper 架构上，MoE 推理中通用内核难以跑满张量核心算力，因为 WGMMA 对矩阵布局和流水线有严格要求，访存模式或数据排布不匹配会导致利用率明显下降。
全部知识事实 (4)
WGMMA（Warpgroup Matrix Multiply-Accumulate）是 NVIDIA Hopper 架构引入的异步矩阵乘加指令，由整个 warpgroup（通常 128 个线程）协同执行，可直接从共享内存读取操作数并写入张量核心累加器。
50%待验证相比上一代 Ampere 的 mma 指令，WGMMA 支持更大的矩阵分块、更高的吞吐，并可与 TMA（Tensor Memory Accelerator）等异步拷贝机制流水线重叠。
50%待验证Swap-AB 策略本质上是交换两个操作数的角色，使内核在 Hopper 的 WGMMA 流水线中获得更好的数据复用和更少的同步开销，且不改变数学等价性。
50%待验证在 Hopper 架构上，MoE 推理中通用内核难以跑满张量核心算力，因为 WGMMA 对矩阵布局和流水线有严格要求，访存模式或数据排布不匹配会导致利用率明显下降。
50%