待验证50% 置信观点精确时间

在消费级 Mac 上运行 70B 模型时每秒生成的 token 数可能低到影响实际体验，且质量提升相比 8B~13B 模型对日常任务不成正比

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/25

首次发现

有效期至：2026/12/24

来源

Mac 本地运行大模型指南：内存、模型与工具怎么选

涉及实体

相关事实

待验证即使模型标称支持128K甚至1M token的上下文窗口，其有效利用能力往往远低于标称值，实际可靠工作范围可能只有标称值的几分之一70% 相似待验证70B模型的推理速度可能只有7B的十分之一,内存占用则是数倍68% 相似待验证高推理强度模式下单次请求的 Token 消耗可能是低强度模式的 5-20 倍67% 相似待验证主流大模型按Token计费，复杂任务的Token消耗量往往是简单问答的10至100倍65% 相似待验证相比MCP，Skills模式的Token消耗减少近一半，因为采用按需加载策略65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/949886

API

curl https://kongchang.com/api/v1/knowledge/claims/949886

MCP

get_claim(id=949886)