待验证50% 置信事实精确时间
手机SoC通常有数GB内存和数十TOPS的NPU算力，与RP2350等微控制器相差三到四个数量级。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至：2027/1/28
来源
涉及实体
相关事实
待验证本地推理受限于用户硬件，一个7B参数量化模型（如Llama 3 8B的Q4版本）文件约4-5GB，在Apple M系列芯片Mac上可达每秒20-40个token，在仅有集成显卡和8GB内存的笔记本上可能降至每秒3-5个token69% 相似待验证iOS 端导出为 Core ML 8-bit 权重，模型体积 26MB，与 fp32 标签一致率 99.96%，键盘中实际使用 CPU 计算单元，release 构建下约 4ms 一句；Android 端使用 ONNX opset 17 加 int8 动态量化，27MB，一致率 99.1%，CPU 上同样约 4ms 一句。69% 相似待验证Cerebras WSE-3片上内存高达44GB SRAM，带宽达到21 PB/s，比GPU的HBM内存快约1000倍69% 相似待验证开发者通过10 Gb/s的USB-C数据线将iPhone 17 Pro Max接入24GB内存的M4 Pro MacBook，让手机充当第二块GPU为本地运行的Qwen 3.8 27B（IQ4_XS量化）模型分担计算69% 相似待验证手机与服务器的硬件差距：手机内存 12 到 16GB（服务器约 80GB），手机带宽 50 到 80GB（服务器 TB 级），功耗约束更严苛。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1117589API
curl https://kongchang.com/api/v1/knowledge/claims/1117589MCP
get_claim(id=1117589)