待验证50% 置信事实精确时间
内核融合技术可将多个连续操作合并为一个 kernel,例如将 RoPE 与注意力计算融合、将 SwiGLU 的矩阵乘与激活融合,从而减少显存往返和调度开销
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
涉及实体
相关事实
待验证内核融合通过将多个独立计算内核合并为一个,减少显存访问流量和内核启动开销76% 相似待验证算子融合是将多个连续算子合并为一个复合算子,在同一计算核心中完成,能减少内存带宽消耗60%-80%,同时减少算子启动开销75% 相似已验证TensorRT的算子融合将计算图中多个连续的小算子合并为一个大算子,减少GPU内核启动次数和中间结果的内存读写;典型融合操作可将卷积、批归一化和激活函数三步合并为单次GPU内核调用73% 相似待验证XLA 编译器会将整个子图编译为单一的 fused kernel,首次编译可能耗费数秒,但编译结果可被缓存用于后续调用66% 相似待验证算子融合适合 MoE 这类碎片化计算密集的架构,能显著削减调度与启动开销66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1032611API
curl https://kongchang.com/api/v1/knowledge/claims/1032611MCP
get_claim(id=1032611)