产品
MLC-LLM
专为机器学习模型跨平台部署设计的开源框架，支持将大语言模型部署到浏览器、移动设备等多种端侧环境，支持WebGPU等硬件后端
时间轴 (近 90 天)
9月28日
MLC-LLM、Transformers.js 等开源框架专门针对浏览器端推理场景优化，能将ONNX、GGUF等格式的模型权重加载到浏览器内存并执行推理
待验证50%
9月4日
WebLLM项目通常使用MLC-LLM框架对模型进行量化和编译优化，MLC-LLM的底层基础设施是Apache TVM
待验证50%
9月4日
MLC-LLM的底层基础设施是Apache TVM，一个开源的深度学习编译器栈，能够将模型自动优化并编译为特定硬件平台的高效代码
待验证50%
9月1日
主流边缘推理框架包括谷歌的TensorFlow Lite、微软主导的ONNX Runtime、以及陈天奇团队开发的MLC-LLM
待验证50%
8月31日
MLC-LLM由陈天奇团队开发，能将大语言模型编译为针对特定硬件高度优化的原生代码
待验证50%
全部知识事实 (5)
待验证
MLC-LLM、Transformers.js 等开源框架专门针对浏览器端推理场景优化，能将ONNX、GGUF等格式的模型权重加载到浏览器内存并执行推理
50%待验证WebLLM项目通常使用MLC-LLM框架对模型进行量化和编译优化，MLC-LLM的底层基础设施是Apache TVM
50%待验证MLC-LLM的底层基础设施是Apache TVM，一个开源的深度学习编译器栈，能够将模型自动优化并编译为特定硬件平台的高效代码
50%待验证主流边缘推理框架包括谷歌的TensorFlow Lite、微软主导的ONNX Runtime、以及陈天奇团队开发的MLC-LLM
50%待验证MLC-LLM由陈天奇团队开发，能将大语言模型编译为针对特定硬件高度优化的原生代码
50%