概念W8A8
int8 W8A8
一种量化方案,权重和激活均量化为 8 比特整数,需要硬件支持 int8 矩阵乘法。
时间轴 (近 90 天)
11月6日
在 AMD RDNA3/RDNA4 GPU 搭配 ROCm 上,编译版 int8 W8A8 线性层让 Qwen-Image-2.1 int8 每步快 21%。
待验证50%
一种量化方案,权重和激活均量化为 8 比特整数,需要硬件支持 int8 矩阵乘法。
在 AMD RDNA3/RDNA4 GPU 搭配 ROCm 上,编译版 int8 W8A8 线性层让 Qwen-Image-2.1 int8 每步快 21%。