待验证50% 置信基准精确时间

在树莓派5上使用两个线程时模型生成速度比四个线程快18%到38%，因为生成受限于内存带宽而非CPU算力

1

来源数

50%

置信度

长期有效

时效性

2026/10/5

首次发现

来源

树莓派5实测8款本地大模型：仅3款真正可用

涉及实体

树莓派5product

相关事实

待验证若256GB配置下GPU已是瓶颈，将内存翻倍到512GB不会提升GPU算力，加载更大模型反而推理速度更慢69% 相似待验证当模型被大量卸载到CPU时，任何无法被2整除的量化位数都会遭受速度惩罚，因此3-bit反而比4-bit更慢69% 相似待验证48GB内存可以装下4-bit量化的32B模型，但推理速度会慢到可能每秒不到1个token，几乎无法交互使用68% 相似待验证GPU 推理速度通常是纯 CPU 的 5-20 倍，当模型太大无法放入显存时部分层会卸载到内存由 CPU 处理（混合运行/partial offload）68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/977939

API

curl https://kongchang.com/api/v1/knowledge/claims/977939

MCP

get_claim(id=977939)