待验证50% 置信基准精确时间

在Linux x86_64（WSL2/Ubuntu，AVX2）下，BitRun首Token延迟约130 ms，生成速度为40-45 t/s。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/13

首次发现

有效期至：2026/10/27

来源

告别编译噩梦：纯CPU运行1-bit大模型实战

涉及实体

BitRunproduct WSL2product Ubuntuproduct

相关事实

待验证在Windows 10/11 x86_64（Intel Core i5-12600K，AVX2）上，BitRun运行Falcon3 1B生成速度为40-45 t/s。78% 相似待验证UP主使用 RTX 4080S（16GB 显存）+ 64GB 内存配置运行 MiniCPM 2B，实测推理速度可达约 110 token/秒71% 相似待验证RTX 4090的理论FP16算力为330 TFLOPS,对于7B FP16模型的Decode实际速度通常在50-60 tokens/s67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1018714

API

curl https://kongchang.com/api/v1/knowledge/claims/1018714

MCP

get_claim(id=1018714)