待验证50% 置信基准精确时间

gemma4-32K:26b-mlx能完成任务但内存占用过高，且偶尔陷入无限循环

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/9

首次发现

有效期至：2026/11/7

来源

M4 MacBook 24GB本地大模型选型实战：9B到27B实测对比

相关事实

待验证上下文拉长后，20.7B稠密模型约两成参数溢出到内存，速度暴跌至每秒5.7个Token，而矮星几乎不受影响63% 相似待验证当前长上下文窗口（100K-1M tokens）的普及使Agent能够维持复杂任务的长期记忆58% 相似待验证Meta的LLaMA 2 70B模型即便使用4-bit量化仍需约35GB显存才能完整加载57% 相似待验证AirLLM 以推理速度为代价，每生成一个 token 耗时数秒乃至数十秒，远慢于高端 GPU 全量加载的每秒数十 token56% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/712808

API

curl https://kongchang.com/api/v1/knowledge/claims/712808

MCP

get_claim(id=712808)