端侧智能

端侧智能指的是将机器学习模型的推理过程放在用户设备本地完成，而非全部依赖云端服务器，其核心价值在于降低延迟、保护隐私、减少网络依赖，并让AI功能在离线状态下可用。

实现端侧智能需要硬件在算力、内存带宽和能效上达到一定门槛，例如专用的NPU或具备足够TOPS算力的SoC。