FlyDSL
AMD推出的Python原生、基于MLIR的GPU内核领域特定语言(DSL),用于生成优化的GPU内核,已集成进TorchInductor编译流水线
时间轴 (近 90 天)
FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)
AMD团队将FlyDSL作为新后端集成进TorchInductor
FlyDSL接入了Inductor现有的核心环节,包括lowering、编译、缓存、benchmarking以及auto-tuning自动调优流水线
AMD通过FlyDSL为PyTorch带来了GEMM、Group GEMM以及Flex Attention等优化内核
在AMD MI355上,FlyDSL的FP16 GEMM相比Triton实现了约19%的几何平均加速
在Minimax M3的decode形状下,FlyDSL Flex Attention相对Triton最高可达5.8倍加速
在DeepSeek V2与V3的prefill尺寸上,FlyDSL Flex Attention实现了接近2倍的提升
FlyDSL基于MLIR能够利用MLIR已有的Pass基础设施(如循环变换、向量化、内存层级分析)来生成更贴近硬件特性的代码,无需从头实现这些优化逻辑
全部知识事实 (8)
FlyDSL基于MLIR能够利用MLIR已有的Pass基础设施(如循环变换、向量化、内存层级分析)来生成更贴近硬件特性的代码,无需从头实现这些优化逻辑
50%待验证FlyDSL是AMD推出的Python原生、基于MLIR的GPU内核DSL(领域特定语言)
50%待验证FlyDSL接入了Inductor现有的核心环节,包括lowering、编译、缓存、benchmarking以及auto-tuning自动调优流水线
50%待验证AMD通过FlyDSL为PyTorch带来了GEMM、Group GEMM以及Flex Attention等优化内核
50%待验证在AMD MI355上,FlyDSL的FP16 GEMM相比Triton实现了约19%的几何平均加速
50%待验证在Minimax M3的decode形状下,FlyDSL Flex Attention相对Triton最高可达5.8倍加速
50%待验证在DeepSeek V2与V3的prefill尺寸上,FlyDSL Flex Attention实现了接近2倍的提升
50%待验证AMD团队将FlyDSL作为新后端集成进TorchInductor
50%