[控场AI]
产品LiteRT / TFLite

TensorFlow Lite

Google推出的轻量级机器学习框架,专为移动端和嵌入式设备设计,支持模型量化和硬件加速,是跨平台端侧AI部署的主流工具之一

核心事实

时间轴 (近 90 天)

10月10日

TensorFlow Lite 专注于移动端和嵌入式设备的模型推理,通过量化和算子精简降低包体积与延迟

待验证50%
10月8日

端侧AI的核心技术路径通常依赖轻量化模型框架,如ONNX Runtime、TensorFlow Lite或Apple的Core ML

待验证50%
9月30日

LiteRT.js前身为TensorFlow Lite的Web衍生项目,面向移动与边缘场景的轻量化推理

待验证50%
9月16日

现代深度学习框架(包括TensorFlow Lite)编译预构建二进制包时通常以AVX2甚至AVX-512为基准优化,在不支持这些指令的CPU上执行会触发Illegal instruction异常并终止进程

待验证50%
9月16日

Firebase ML 弃用后的迁移路径为:端侧 TensorFlow Lite 模型改用 Cloud Storage 存储分发,Cloud Vision 功能改用 Firebase AI Logic 或直接调用 Cloud Vision API

待验证50%
9月11日

TensorFlow Lite、ONNX Runtime Mobile、microTVM等轻量化边缘框架仍需要数十MB的运行时依赖

待验证50%
9月7日

TensorFlow在工业部署方面拥有包括TensorFlow Serving、TensorFlow Lite等更完整的生产工具链

待验证60%
9月6日

边缘AI推理通常依赖TensorFlow Lite、ONNX Runtime、OpenVINO等轻量化推理框架

待验证50%
9月1日

主流边缘推理框架包括谷歌的TensorFlow Lite、微软主导的ONNX Runtime、以及陈天奇团队开发的MLC-LLM

待验证50%
8月29日

谷歌为端侧AI提供了Android NNAPI硬件抽象层和Google AI Edge(原TensorFlow Lite的演进)开发者工具链

待验证50%

还有 3 条时间轴事件

全部知识事实 (15)

已验证

Google开发了TensorFlow Lite和LiteRT等轻量级推理框架用于移动设备端AI推理

65%
待验证

Media3 Transformer是一个基于管道架构的媒体转码和编辑框架,AI FX库作为其效果插件,底层依赖MediaPipe或TensorFlow Lite模型进行推理

70%
待验证

TensorFlow在工业部署方面拥有包括TensorFlow Serving、TensorFlow Lite等更完整的生产工具链

60%
待验证

TensorFlow Lite 专注于移动端和嵌入式设备的模型推理,通过量化和算子精简降低包体积与延迟

50%
待验证

端侧AI的核心技术路径通常依赖轻量化模型框架,如ONNX Runtime、TensorFlow Lite或Apple的Core ML

50%
待验证

LiteRT.js前身为TensorFlow Lite的Web衍生项目,面向移动与边缘场景的轻量化推理

50%
待验证

现代深度学习框架(包括TensorFlow Lite)编译预构建二进制包时通常以AVX2甚至AVX-512为基准优化,在不支持这些指令的CPU上执行会触发Illegal instruction异常并终止进程

50%
待验证

Firebase ML 弃用后的迁移路径为:端侧 TensorFlow Lite 模型改用 Cloud Storage 存储分发,Cloud Vision 功能改用 Firebase AI Logic 或直接调用 Cloud Vision API

50%
待验证

TensorFlow Lite、ONNX Runtime Mobile、microTVM等轻量化边缘框架仍需要数十MB的运行时依赖

50%
待验证

边缘AI推理通常依赖TensorFlow Lite、ONNX Runtime、OpenVINO等轻量化推理框架

50%
待验证

主流边缘推理框架包括谷歌的TensorFlow Lite、微软主导的ONNX Runtime、以及陈天奇团队开发的MLC-LLM

50%
待验证

谷歌为端侧AI提供了Android NNAPI硬件抽象层和Google AI Edge(原TensorFlow Lite的演进)开发者工具链

50%
待验证

谷歌为端侧AI提供Android NNAPI硬件抽象层和Google AI Edge(原TensorFlow Lite演进)工具集

50%
待验证

LiteRT-LM 是 Google 面向端侧语言模型推理的运行时,LiteRT 前身为 TensorFlow Lite,Google 于 2024 年将其更名并扩展适用范围

50%
待验证

Google为Gemma提供了多种量化版本,并通过MediaPipe和TensorFlow Lite等框架支持在Android、iOS、浏览器等环境中运行

50%

来源文章