待验证50% 置信事实精确时间

同一台 32GB 笔记本用传统方式拉满 CPU 跑模型，速度约为 2.8 tokens/s。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/13

首次发现

有效期至：2027/1/11

来源

32GB笔记本跑80B大模型：纯C引擎把专家流式塞进SSD

涉及实体

相关事实

待验证根据页面数据，人类约 2 t/s 的速度超过了笔记本CPU上运行70B模型的表现75% 相似已验证对于7B参数模型的4-bit量化版本，通常需要至少8GB内存和现代多核CPU即可流畅运行，推理速度约为每秒10-30个token74% 相似待验证Quantprobe 宣称能让仅有 6GB 显存和 16GB 内存的机器以 22 tokens/s 的速度运行 30B 级别的模型71% 相似待验证现代处理器L2缓存大小通常为256KB-1MB，延迟约12个时钟周期71% 相似已验证128GB DDR5内存能完整加载70B级别模型的所有权重，但速度约为2-5 tokens/s71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1018996

API

curl https://kongchang.com/api/v1/knowledge/claims/1018996

MCP

get_claim(id=1018996)