#三元量化

Maple-Preview：20B三元MoE模型iPhone端侧推理达120tok/s

Maple-Preview项目实现20B参数三元量化MoE模型在iPhone上以120 tok/s速度运行。本文拆解三元量化、MoE稀疏激活、端侧推理三大核心技术，分析端侧大模型部署的价值与挑战。