[控场AI]
产品Torch Inductor

TorchInductor

PyTorch的默认编译后端,负责将计算图编译为优化后的C++/Triton代码,是torch.compile的核心组件之一,在生成融合算子时大量依赖Triton作为代码生成的中间层

核心事实

时间轴 (近 90 天)

11月4日

论文在NVIDIA RTX A6000上使用PyTorch/TorchInductor进行了实测,结果显示编译器带来的加速效果与工作负载特征强相关:对融合友好的计算图可获得最高8.21倍的加速。

待验证50%
10月22日

TorchInductor、XLA 和 TVM 是使用内核融合策略的编译器或框架。

待验证50%
10月11日

TorchInductor是PyTorch默认后端编译器,能将计算图降低为Triton GPU内核或C++/OpenMP CPU代码

待验证70%
10月4日

原生 PyTorch TPU 后端意味着直接通过 PyTorch 的 Dispatcher 和 TorchInductor/torch.compile 体系驱动 TPU,而非绕道 JAX/XLA 的编程模型

待验证50%
10月4日

AMD团队将FlyDSL作为新后端集成进TorchInductor

待验证50%
10月4日

FlyDSL接入了Inductor现有的核心环节,包括lowering、编译、缓存、benchmarking以及auto-tuning自动调优流水线

待验证50%
9月22日

torch.compile 底层依赖 TorchDynamo 字节码拦截机制与 TorchInductor 代码生成后端

待验证50%
9月16日

TorchInductor 是 torch.compile 的默认后端,在生成融合算子时大量依赖 Triton 作为代码生成的中间层

待验证50%
9月11日

torch.compile是PyTorch 2.0引入的核心编译特性,基于TorchDynamo(字节码捕获)和TorchInductor(代码生成后端)构建

已验证65%
9月7日

TorchInductor是基于OpenAI Triton的代码生成后端,Triton的后端正在扩展到AMD ROCm和Intel GPU

待验证50%

还有 1 条时间轴事件

全部知识事实 (11)

来源文章