DeepGEMM-Ascend
DeepSeek开源的面向华为昇腾芯片的矩阵乘法内核库，是原CUDA版DeepGEMM的昇腾移植版本，支持BF16/FP8/FP4等多种数值格式，封装了昇腾分形布局转换、操作数复用和流水线等底层工程
时间轴 (近 90 天)
DeepSeek 于 2026 年 9 月 30 日发布了 DeepGEMM 的 Ascend 版本（DeepGEMM-Ascend）
DeepGEMM-Ascend 内核把矩阵小块从全局内存移入 L1 缓存再移入 L0 缓存进行运算，并在加载到 L1 缓存时使用分形布局（fractal layout）索引
DeepGEMM-Ascend 库的转换辅助函数会把缩放因子成对打包进 16 位整数容器，排列成 MN 优先布局（MN-major layout）
DeepGEMM-Ascend 库支持 BF16（16 位）、FP8（8 位）、FP4（4 位）数值格式
DeepGEMM-Ascend 提供 MQA Logit（处理多查询注意力中的注意力分数）和 MegaMode（服务于混合专家 MoE 模型）等特定操作
尽管仓库声称完全 API 兼容，但 DeepGEMM-Ascend 实现明确把分组矩阵乘法（grouped GEMM）接口标记为未实现
DeepGEMM-Ascend 的开发与验证基于昇腾 950 系列，需要 CANN 9.20 和 Torch NPU
DeepGEMM-Ascend 报告的性能数字并未确立对 NVIDIA 系统的匹配或胜利，也不代表整个模型的吞吐量
DeepGEMM-Ascend 的目标明确且仅限于华为昇腾，并未确立适用于所有芯片厂商的通用软件层
全部知识事实 (9)
DeepGEMM-Ascend 提供 MQA Logit（处理多查询注意力中的注意力分数）和 MegaMode（服务于混合专家 MoE 模型）等特定操作
60%待验证DeepGEMM-Ascend 内核把矩阵小块从全局内存移入 L1 缓存再移入 L0 缓存进行运算，并在加载到 L1 缓存时使用分形布局（fractal layout）索引
50%待验证DeepGEMM-Ascend 库的转换辅助函数会把缩放因子成对打包进 16 位整数容器，排列成 MN 优先布局（MN-major layout）
50%待验证DeepGEMM-Ascend 库支持 BF16（16 位）、FP8（8 位）、FP4（4 位）数值格式
50%待验证尽管仓库声称完全 API 兼容，但 DeepGEMM-Ascend 实现明确把分组矩阵乘法（grouped GEMM）接口标记为未实现
50%待验证DeepGEMM-Ascend 的开发与验证基于昇腾 950 系列，需要 CANN 9.20 和 Torch NPU
50%待验证DeepGEMM-Ascend 报告的性能数字并未确立对 NVIDIA 系统的匹配或胜利，也不代表整个模型的吞吐量
50%待验证DeepGEMM-Ascend 的目标明确且仅限于华为昇腾，并未确立适用于所有芯片厂商的通用软件层
50%待验证DeepSeek 于 2026 年 9 月 30 日发布了 DeepGEMM 的 Ascend 版本（DeepGEMM-Ascend）
50%