共 2 篇相关文章
高通开源 GenieX：基于 Rust 的推理运行时，可在骁龙 NPU/GPU/CPU 上本地运行 Llama 3、Mistral 及多模态 VLM，支持 INT4/INT8 量化与异构调度，适用于 X Elite 笔记本和骁龙 8 系手机。
高通CEO透露AI公司希望2028年手机能常驻运行千亿参数大模型。本文解析端侧大模型的内存需求、量化方案、散热功耗与供应链瓶颈，并探讨其技术可行性与商业动机。
