端侧 AI
端侧AI指在设备本地完成人工智能推理与计算，无需将数据上传至云端。依赖专用NPU芯片加速模型运算，核心优势是低延迟、隐私保护和断网可用，约束在于算力冗余需求和模型压缩要求。
时间轴 (近 90 天)
过去端侧大模型的优化重心多在量化与剪枝，而系统层的调度与预取同样能释放巨大空间。
端侧智能体对模型的要求与云端智能体有明显差异，低延迟和稳定的结构化输出往往比绝对智能水平更关键。
端侧 AI 的两个约束是芯片需保留算力冗余，以及模型需针对有限内存与功耗做压缩。
适合端侧 AI 的场景包括：对隐私极度敏感的个人数据处理、网络不稳定或不可用的环境、需要低延迟响应的简单交互；不适合的场景包括：复杂推理、大规模知识检索、需要频繁更新模型能力的应用。
端侧 AI 面临的三个主要现实约束是：内存硬约束（两个模型不能共存）、散热和续航隐性成本（神经引擎持续推理产生热量、高耗电）、模型更新运维难题（用户需重新下载数百 MB 甚至 GB 级权重）。
文章认为端侧 AI 得益于小模型、量化和移动端推理框架的组合，使业余开发者无需服务器即可在消费级安卓设备上运行有交互能力的 AI
离线运行带来隐私保护、无网络依赖和零 API 成本等好处
无人机AI系统通常依赖边缘计算，在本机上运行轻量化计算机视觉模型而非依赖后方服务器
全部知识事实 (8)
过去端侧大模型的优化重心多在量化与剪枝，而系统层的调度与预取同样能释放巨大空间。
50%待验证端侧智能体对模型的要求与云端智能体有明显差异，低延迟和稳定的结构化输出往往比绝对智能水平更关键。
50%待验证端侧 AI 的两个约束是芯片需保留算力冗余，以及模型需针对有限内存与功耗做压缩。
50%待验证适合端侧 AI 的场景包括：对隐私极度敏感的个人数据处理、网络不稳定或不可用的环境、需要低延迟响应的简单交互；不适合的场景包括：复杂推理、大规模知识检索、需要频繁更新模型能力的应用。
50%待验证端侧 AI 面临的三个主要现实约束是：内存硬约束（两个模型不能共存）、散热和续航隐性成本（神经引擎持续推理产生热量、高耗电）、模型更新运维难题（用户需重新下载数百 MB 甚至 GB 级权重）。
50%待验证文章认为端侧 AI 得益于小模型、量化和移动端推理框架的组合，使业余开发者无需服务器即可在消费级安卓设备上运行有交互能力的 AI
50%待验证离线运行带来隐私保护、无网络依赖和零 API 成本等好处
50%待验证无人机AI系统通常依赖边缘计算，在本机上运行轻量化计算机视觉模型而非依赖后方服务器
50%