TVM
开源深度学习编译器栈,支持将深度学习模型部署到多种硬件后端,提供基于机器学习的自动调优(AutoTVM/Ansor)能力,实现跨硬件平台的高性能推理
Timeline (last 90 days)
MLC LLM由陈天奇团队开发,基于TVM编译框架,能将模型编译为针对特定硬件优化的原生代码,在iOS和Android上均可调用GPU
Halide(图像处理DSL)、TVM的TE/TIR等项目验证了'计算与调度分离'的设计哲学可行性
TileLang 在定位上类似于 CUDA 领域的 Triton 或 AI 编译器中的 TVM/TIR,试图在开发效率与生成高性能代码之间取得平衡
TVM、MLIR 等编译器基础设施提供了结构化的中间表示(IR)和可编程的优化 pass,使将 LLM 输出接入编译器流水线在工程上变得更可行
TVM是由陈天奇等人主导开发的端到端深度学习编译器,能将模型计算图编译到多种硬件后端,并通过AutoTVM或Ansor自动调优模块搜索最优调度策略
基于大语言模型的Agentic优化方法不依赖预定义的搜索空间或调度模板,而是借助模型的代码理解与生成能力探索更开放的优化路径
Apache TVM是开源的深度学习编译器栈,支持多种硬件后端,并包含自动调优模块AutoTVM/Meta-Schedule
对初学者推荐的学习顺序是先用Triton建立GPU编程直觉,通过TVM理解端到端编译流程,再深入MLIR/LLVM掌握基础设施原理
机器学习系统工程师需掌握 PyTorch、TensorFlow 底层实现、模型量化剪枝、编译器(如 TVM、MLIR)、CUDA 并行编程及分布式训练
cuDNN 采用基于启发式的算法选择,TVM/Ansor 采用基于机器学习的调优
2 more timeline events
All Facts (12)
MLC LLM由陈天奇团队开发,基于TVM编译框架,能将模型编译为针对特定硬件优化的原生代码,在iOS和Android上均可调用GPU
50%UnverifiedHalide(图像处理DSL)、TVM的TE/TIR等项目验证了'计算与调度分离'的设计哲学可行性
50%UnverifiedTileLang 在定位上类似于 CUDA 领域的 Triton 或 AI 编译器中的 TVM/TIR,试图在开发效率与生成高性能代码之间取得平衡
50%UnverifiedTVM、MLIR 等编译器基础设施提供了结构化的中间表示(IR)和可编程的优化 pass,使将 LLM 输出接入编译器流水线在工程上变得更可行
50%UnverifiedTVM是由陈天奇等人主导开发的端到端深度学习编译器,能将模型计算图编译到多种硬件后端,并通过AutoTVM或Ansor自动调优模块搜索最优调度策略
50%Unverified基于大语言模型的Agentic优化方法不依赖预定义的搜索空间或调度模板,而是借助模型的代码理解与生成能力探索更开放的优化路径
50%UnverifiedApache TVM是开源的深度学习编译器栈,支持多种硬件后端,并包含自动调优模块AutoTVM/Meta-Schedule
50%Unverified对初学者推荐的学习顺序是先用Triton建立GPU编程直觉,通过TVM理解端到端编译流程,再深入MLIR/LLVM掌握基础设施原理
50%Unverified机器学习系统工程师需掌握 PyTorch、TensorFlow 底层实现、模型量化剪枝、编译器(如 TVM、MLIR)、CUDA 并行编程及分布式训练
50%UnverifiedcuDNN 采用基于启发式的算法选择,TVM/Ansor 采用基于机器学习的调优
50%Unverified现代深度学习编译器如TensorRT、XLA、TVM会自动进行算子融合的模式匹配和代价分析
50%UnverifiedGoogle的AutoTVM/Ansor(基于TVM编译器)和Meta的Triton编译器采用机器学习引导的自动调优框架,通过在目标硬件上实际测量候选内核性能来训练代价模型
50%