概念On-device inference / 本地推理 / 本地部署
端侧部署
将AI模型运行在手机、平板、车机等本地终端设备上的推理方式，无需依赖云端服务器，具有隐私保护、低延迟和离线可用等优势，核心挑战在于内存和算力限制
时间轴 (近 90 天)
11月1日
开源模型正在从“能对话”向“能做事”分化，端侧部署也不再只是小模型的专利。
待验证50%
10月18日
征求意见稿明确，对外提供API、APP、网页、SaaS以及端侧部署，均不视为出口。
待验证50%
10月13日
解决实时性问题常见折中方案是分层架构：大模型以低频（如 1 至 5Hz）输出高层子目标或动作块（action chunking），再由轻量级底层控制器以高频执行并做实时修正；另一条路径是端侧部署，通过模型量化、剪枝与专用加速器把推理搬到机器人本体上。
待验证50%
9月21日
端侧部署是指将模型运行在手机、平板、车机等本地设备上，而非依赖云端服务器
待验证50%