待验证50% 置信基准精确时间

在M1 Max上跑27B模型处理3.2万token提示词需等待超过500秒才输出首字，而M5 Max不到一分钟（优化软件下约40秒）

1

来源数

50%

置信度

长期有效

时效性

2026/10/5

首次发现

来源

Mac跑本地AI到底多快？M1到M6芯片真实横评

涉及实体

M1 Maxproduct M5 Maxproduct

相关事实

待验证在700亿参数模型的首token时间测试中，M3 Ultra耗时31.6秒，M5 Ultra仅7.7秒，达到约4.1倍，接近苹果宣称的4.3倍78% 相似已验证在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒75% 相似待验证在1000个候选选项的测试中，CLM耗时约44毫秒，而生成式模型需要579毫秒74% 相似待验证一个30亿参数的Llama在CPU上每次调用耗时1到3秒，而70B模型每次40秒73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/977845

API

curl https://kongchang.com/api/v1/knowledge/claims/977845

MCP

get_claim(id=977845)