待验证50% 置信基准精确时间

云端API通常首Token延迟在200-500 ms，BitRun在WSL2上约130 ms已属可用。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/13

首次发现

有效期至：2026/10/27

来源

告别编译噩梦：纯CPU运行1-bit大模型实战

涉及实体

BitRunproduct 云端APIconcept WSL2product

相关事实

待验证本地推理的首 token 延迟通常在 100-500ms，而云端 API 在网络良好时需要 500-2000ms 的首 token 延迟68% 相似待验证Agora的SD-RTN覆盖全球200+数据中心，端到端延迟通常控制在400ms以内64% 相似待验证LM Studio运行小尺寸Gemma模型凭借专用GPU高带宽每秒能生成约120个Token，并能同时加载多个模型并以服务器形式暴露API61% 相似待验证SRAM访问延迟约1ns，HBM约100ns，SRAM延迟比HBM低约10-50倍60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1018716

API

curl https://kongchang.com/api/v1/knowledge/claims/1018716

MCP

get_claim(id=1018716)