[控场AI]
概念On-device AI / 边缘AI推理

端侧AI

在终端设备(如手机、PC)本地运行AI模型进行推理的技术范式,无需依赖云端服务器,具有低延迟和隐私保护优势

核心事实

时间轴 (近 90 天)

9月13日

混合计算并非Perplexity独有的概念,端侧AI与云端AI的协同正成为行业趋势

待验证50%
9月11日

本地推理消除了网络往返延迟,提供更快更稳定的响应

待验证50%
9月11日

将300亿参数模型高效运行在终端设备上需要在量化、算子优化、内存管理等多个层面进行深度工程优化

待验证50%
8月28日

端侧AI对于复杂推理、长文档理解、高质量图像生成等任务仍需通过端云协同的混合架构调用云端的Pro或Ultra级别模型

待验证50%
8月27日

更多AI处理在设备本地完成有助于更好的隐私保护,因为数据无需上传至服务器

待验证50%
7月20日

端侧AI使数据不出本地,既保护用户隐私,又降低云端推理的延迟和成本

待验证50%
7月11日

边缘AI(Edge AI)是将人工智能计算从云端迁移到本地设备(手机、传感器、嵌入式系统)上运行的技术范式

已验证65%

全部知识事实 (7)

来源文章