[KongchangAI]
Concepttorch compile / TorchCompile

torch.compile

PyTorch 2.0引入的核心编译特性,基于TorchDynamo字节码捕获和TorchInductor代码生成后端,通过装饰器即可触发模型计算图的即时捕获与硬件优化代码生成,兼顾动态图灵活性与静态图执行效率

Timeline (last 90 days)

Sep 12

PyTorch的torch.compile、IREE以及众多AI芯片厂商的编译栈均构建于MLIR之上

Unverified50%
Sep 11

训练使用 batch 256、40 万步、EMA 0.9999、最后四分之一线性衰减学习率,torch.compile 相比 eager 提速 2.4×

Unverified50%

All Facts (2)

Source Articles