#端侧AI部署
共 5 篇相关文章
·14 分钟
Maple-Preview：20B三元MoE模型iPhone端侧推理达120tok/s
Maple-Preview项目实现20B参数三元量化MoE模型在iPhone上以120 tok/s速度运行。本文拆解三元量化、MoE稀疏激活、端侧推理三大核心技术，分析端侧大模型部署的价值与挑战。
阅读全文 →
·15 分钟
谷歌发布Gemini 3.6 Flash等三款新模型：Flash家族全面扩充
谷歌推出Gemini 3.6 Flash、3.5 Flash-Lite和3.5 Flash Cyber三款新模型，进一步完善Flash轻量级AI产品线。本文解析新模型定位、差异化策略及对开发者的影响。
阅读全文 →
·7 分钟
Echologue：隐私优先的AI语音日记，独立开发者的产品范本
Echologue是一款隐私优先的AI语音日记应用，通过本地处理和端到端加密保护用户数据。本文从产品设计、技术架构和独立开发者哲学三个维度，解析这款从个人需求出发的AI工具如何在语音交互、知识管理与隐私保护的交汇点找到定位。
阅读全文 →
·5 分钟
小型AI模型崛起：弱网与离线环境下的智能落地指南
大型AI模型依赖稳定云端连接，在弱网、偏远或资源受限场景中力不从心。本文深入解析小型AI模型如何通过离线推理、知识蒸馏与端侧部署，以更低成本、更高可靠性实现AI普惠，覆盖边缘计算、隐私保护等核心优势。
阅读全文 →
·7 分钟
Cursor设计模式发布与OpenAI Codex更新：AI编程工具最新动态
Cursor推出设计模式实现可视化开发，OpenAI Codex多项改进及安全锁定模式发布，Anthropic限额翻倍，AI智能体排行榜出炉，Google DeepMind模型压缩突破，全面解读AI领域最新进展。
阅读全文 →