[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
megakernel
TPU megakernel
一种将多个零散算子调用合并为单一大内核的深度学习推理优化技术,通过减少内核启动开销、内存往返和调度延迟来提升硬件利用率和吞吐量
来源文章
TPU megakernel 让 Kimi K3 达到 709 tokens/s,超越 GB200
9月24日