待验证50% 置信事实精确时间
相比上一代 Ampere 的 mma 指令，WGMMA 支持更大的矩阵分块、更高的吞吐，并可与 TMA（Tensor Memory Accelerator）等异步拷贝机制流水线重叠。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证针对 NVIDIA Ampere（A100）架构手工调优的 kernel 在 Hopper（H100）上未必仍是最优，因为新架构引入了 Tensor Memory Accelerator（TMA）等新型内存访问指令64% 相似已验证GGUF专门为CPU和混合CPU/GPU推理场景优化，支持内存映射（mmap）加载，可通过部分offload到系统内存运行超出显存容量的模型64% 相似待验证TPU 采用脉动阵列（systolic array）架构，对矩阵分块大小高度敏感62% 相似待验证Quantprobe 会动态地在显存与内存约束之间平衡量化等级，将模型权重拆分到 CPU 和 GPU 之间以避免 OOM 错误61% 相似已验证TPU 专门针对张量运算（矩阵乘法）进行优化，可用远低于 GPU 的功耗执行 AI 推理61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1019828API
curl https://kongchang.com/api/v1/knowledge/claims/1019828MCP
get_claim(id=1019828)