[控场AI]
产品LiteRT / TFLite

TensorFlow Lite

Google推出的轻量级机器学习框架,专为移动端和嵌入式设备设计,支持模型量化和硬件加速,是跨平台端侧AI部署的主流工具之一

核心事实

时间轴 (近 90 天)

10月16日

在C++中集成推理引擎,常见做法是使用ONNX Runtime、whisper.cpp或TensorFlow Lite等后端,将模型转换为ONNX或GGUF格式后加载。

待验证50%
10月16日

边缘AI的典型代表包括Google的TensorFlow Lite、Apple的Neural Engine以及高通的AI Engine。

待验证50%
10月15日

选择工具时,通常先看任务是否需要自定义模型:通用任务优先用 ML Kit 这类现成 API,需要私有数据微调或特定领域精度时,再走 Core ML 或 TensorFlow Lite 的自定义模型路径。

待验证50%
10月15日

ML Kit 在 TensorFlow Lite 之上封装了一批开箱即用的 API,如文本识别、条码扫描、人脸检测和语言识别,适合不想从零训练模型的团队。

待验证50%
10月10日

TensorFlow Lite 专注于移动端和嵌入式设备的模型推理,通过量化和算子精简降低包体积与延迟

待验证50%
10月8日

端侧AI的核心技术路径通常依赖轻量化模型框架,如ONNX Runtime、TensorFlow Lite或Apple的Core ML

待验证50%
9月30日

LiteRT.js前身为TensorFlow Lite的Web衍生项目,面向移动与边缘场景的轻量化推理

待验证50%
9月16日

现代深度学习框架(包括TensorFlow Lite)编译预构建二进制包时通常以AVX2甚至AVX-512为基准优化,在不支持这些指令的CPU上执行会触发Illegal instruction异常并终止进程

待验证50%
9月16日

Firebase ML 弃用后的迁移路径为:端侧 TensorFlow Lite 模型改用 Cloud Storage 存储分发,Cloud Vision 功能改用 Firebase AI Logic 或直接调用 Cloud Vision API

待验证50%
9月11日

TensorFlow Lite、ONNX Runtime Mobile、microTVM等轻量化边缘框架仍需要数十MB的运行时依赖

待验证50%

还有 7 条时间轴事件

全部知识事实 (19)

已验证

Google开发了TensorFlow Lite和LiteRT等轻量级推理框架用于移动设备端AI推理

65%
待验证

Media3 Transformer是一个基于管道架构的媒体转码和编辑框架,AI FX库作为其效果插件,底层依赖MediaPipe或TensorFlow Lite模型进行推理

70%
待验证

TensorFlow在工业部署方面拥有包括TensorFlow Serving、TensorFlow Lite等更完整的生产工具链

60%
待验证

在C++中集成推理引擎,常见做法是使用ONNX Runtime、whisper.cpp或TensorFlow Lite等后端,将模型转换为ONNX或GGUF格式后加载。

50%
待验证

边缘AI的典型代表包括Google的TensorFlow Lite、Apple的Neural Engine以及高通的AI Engine。

50%
待验证

选择工具时,通常先看任务是否需要自定义模型:通用任务优先用 ML Kit 这类现成 API,需要私有数据微调或特定领域精度时,再走 Core ML 或 TensorFlow Lite 的自定义模型路径。

50%
待验证

ML Kit 在 TensorFlow Lite 之上封装了一批开箱即用的 API,如文本识别、条码扫描、人脸检测和语言识别,适合不想从零训练模型的团队。

50%
待验证

TensorFlow Lite 专注于移动端和嵌入式设备的模型推理,通过量化和算子精简降低包体积与延迟

50%
待验证

端侧AI的核心技术路径通常依赖轻量化模型框架,如ONNX Runtime、TensorFlow Lite或Apple的Core ML

50%
待验证

LiteRT.js前身为TensorFlow Lite的Web衍生项目,面向移动与边缘场景的轻量化推理

50%
待验证

现代深度学习框架(包括TensorFlow Lite)编译预构建二进制包时通常以AVX2甚至AVX-512为基准优化,在不支持这些指令的CPU上执行会触发Illegal instruction异常并终止进程

50%
待验证

Firebase ML 弃用后的迁移路径为:端侧 TensorFlow Lite 模型改用 Cloud Storage 存储分发,Cloud Vision 功能改用 Firebase AI Logic 或直接调用 Cloud Vision API

50%
待验证

TensorFlow Lite、ONNX Runtime Mobile、microTVM等轻量化边缘框架仍需要数十MB的运行时依赖

50%
待验证

边缘AI推理通常依赖TensorFlow Lite、ONNX Runtime、OpenVINO等轻量化推理框架

50%
待验证

主流边缘推理框架包括谷歌的TensorFlow Lite、微软主导的ONNX Runtime、以及陈天奇团队开发的MLC-LLM

50%
待验证

谷歌为端侧AI提供了Android NNAPI硬件抽象层和Google AI Edge(原TensorFlow Lite的演进)开发者工具链

50%
待验证

谷歌为端侧AI提供Android NNAPI硬件抽象层和Google AI Edge(原TensorFlow Lite演进)工具集

50%
待验证

LiteRT-LM 是 Google 面向端侧语言模型推理的运行时,LiteRT 前身为 TensorFlow Lite,Google 于 2024 年将其更名并扩展适用范围

50%
待验证

Google为Gemma提供了多种量化版本,并通过MediaPipe和TensorFlow Lite等框架支持在Android、iOS、浏览器等环境中运行

50%

来源文章