产品DeepGEMM Ascend
DeepGEMM昇腾版
DeepSeek开源的BLAS级别GEMM算子库昇腾版,专为华为昇腾NPU设计,支持FP4/FP8/BF16等多精度矩阵乘法,包含MoE专用算子,可将硬件利用率提升至接近物理极限
时间轴 (近 90 天)
10月3日
DeepSeek开源了DeepGEMM昇腾版,一个专门跑在华为昇腾硬件上的BLAS级别GEMM算子库
待验证50%
10月3日
DeepGEMM昇腾版在华为950DT芯片上,BF16乘BF16的硬件利用率达到99.8%
待验证50%
10月3日
DeepGEMM昇腾版在FP4乘FP4的硬件利用率达到98.3%
待验证50%
10月3日
DeepGEMM昇腾版支持FP4、FP8、BF16等多种精度组合的矩阵乘法
待验证50%
10月3日
DeepGEMM昇腾版通过较薄的抽象层封装昇腾矩阵底层接口,并利用硬件异步数据加载和斜层化流水线逼近硬件极限
待验证50%
10月3日
抽象层做得太重会成为性能杀手,做得太薄又对持续集成不友好,是关键权衡
待验证50%
10月3日
目前vLLM等框架针对昇腾的优化项目尚未集成DeepGEMM
已过期50%