待验证50% 置信事实精确时间

Neural Accelerator需要支持它的软件才能发挥作用，用2023年旧版llama.cpp跑M5 Max读取速度仅约990 tokens/s

1

来源数

50%

置信度

长期有效

时效性

2026/10/5

首次发现

来源

Mac跑本地AI到底多快？M1到M6芯片真实横评

涉及实体

Neural Acceleratortechnology M5 Maxproduct llama.cppproduct

相关事实

待验证在llama.cpp的真实跑分线程中，2021年M1 Max解码写入速度61 tokens/s，高于2024年M4 Pro的51 tokens/s76% 相似待验证缺少独立 GPU 的设备运行 2B 参数模型时生成速度可能低于每秒 5 个 token67% 相似待验证一个800万参数（8.3M）的沙盒引擎在2019年发布的6核桌面CPU上跑出约2000 tokens/秒的解码速度67% 相似待验证decode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/977843

API

curl https://kongchang.com/api/v1/knowledge/claims/977843

MCP

get_claim(id=977843)