概念Kernel Fusion
内核融合
深度学习编译器和推理引擎常用的优化手段，将多个小算子合并成一个大内核以减少内核启动开销和内存访问，提升GPU利用率。
核心事实
时间轴 (近 90 天)
10月29日
描述符计算、归一化、非线性激活等步骤若各自独立成核，中间结果反复写入全局内存会导致带宽瓶颈；算子融合可将中间张量保留在片上存储中。
待验证50%
10月22日
内核融合是深度学习编译器和推理引擎常用的优化手段，把多个小算子合并成一个大内核以减少启动开销和内存往返。
待验证50%
10月15日
内核融合技术可将多个连续操作合并为一个 kernel，例如将 RoPE 与注意力计算融合、将 SwiGLU 的矩阵乘与激活融合，从而减少显存往返和调度开销
待验证50%
10月13日
vLLM此次通过SWA有界重放、内核融合等手段压缩了预填充阶段的计算与访存开销
待验证50%
9月11日
内核融合可以减少内核启动开销，并避免中间结果对全局内存的反复读写，从而提升性能
已验证75%
全部知识事实 (5)
已验证
内核融合可以减少内核启动开销，并避免中间结果对全局内存的反复读写，从而提升性能
75%待验证描述符计算、归一化、非线性激活等步骤若各自独立成核，中间结果反复写入全局内存会导致带宽瓶颈；算子融合可将中间张量保留在片上存储中。
50%待验证内核融合是深度学习编译器和推理引擎常用的优化手段，把多个小算子合并成一个大内核以减少启动开销和内存往返。
50%待验证内核融合技术可将多个连续操作合并为一个 kernel，例如将 RoPE 与注意力计算融合、将 SwiGLU 的矩阵乘与激活融合，从而减少显存往返和调度开销
50%待验证vLLM此次通过SWA有界重放、内核融合等手段压缩了预填充阶段的计算与访存开销
50%