ConceptOn-device AI / 边缘AI推理
端侧AI
在终端设备（如手机、PC）本地运行AI模型进行推理的技术范式，无需依赖云端服务器，具有低延迟和隐私保护优势
Core Facts
Timeline (last 90 days)
Sep 13
混合计算并非Perplexity独有的概念，端侧AI与云端AI的协同正成为行业趋势
Unverified50%
Sep 11
本地推理消除了网络往返延迟，提供更快更稳定的响应
Unverified50%
Sep 11
将300亿参数模型高效运行在终端设备上需要在量化、算子优化、内存管理等多个层面进行深度工程优化
Unverified50%
Aug 28
端侧AI对于复杂推理、长文档理解、高质量图像生成等任务仍需通过端云协同的混合架构调用云端的Pro或Ultra级别模型
Unverified50%
Aug 27
更多AI处理在设备本地完成有助于更好的隐私保护，因为数据无需上传至服务器
Unverified50%
Jul 20
端侧AI使数据不出本地，既保护用户隐私，又降低云端推理的延迟和成本
Unverified50%
Jul 11
边缘AI（Edge AI）是将人工智能计算从云端迁移到本地设备（手机、传感器、嵌入式系统）上运行的技术范式
Verified65%
All Facts (7)
Verified
边缘AI（Edge AI）是将人工智能计算从云端迁移到本地设备（手机、传感器、嵌入式系统）上运行的技术范式
65%Unverified混合计算并非Perplexity独有的概念，端侧AI与云端AI的协同正成为行业趋势
50%Unverified本地推理消除了网络往返延迟，提供更快更稳定的响应
50%Unverified将300亿参数模型高效运行在终端设备上需要在量化、算子优化、内存管理等多个层面进行深度工程优化
50%Unverified端侧AI对于复杂推理、长文档理解、高质量图像生成等任务仍需通过端云协同的混合架构调用云端的Pro或Ultra级别模型
50%Unverified更多AI处理在设备本地完成有助于更好的隐私保护，因为数据无需上传至服务器
50%Unverified端侧AI使数据不出本地，既保护用户隐私，又降低云端推理的延迟和成本
50%