待验证50% 置信基准精确时间
GzDRL 在一台工作站 CPU 上达到了 78.6k 环境步/秒的吞吐量
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至:2026/12/10
来源
涉及实体
相关事实
待验证Q8主模型占用162GB导致drafter无法装入统一内存,DSpark加速失效,将三层MoE专家放回CPU后输出仅从22.87提升到23.49 token/秒(快2.7%),prefill从95.38降至76.6564% 相似待验证llama.cpp通过纯CPU推理和4-bit GGUF量化格式,使7B参数模型在无GPU的普通服务器上达到每秒20-40 tokens的生成速度64% 相似待验证Grok 4.5处于快速模型档位,能达到约80 TPS(每秒Token数)的输出速度64% 相似待验证GPU 推理速度通常是纯 CPU 的 5-20 倍,当模型太大无法放入显存时部分层会卸载到内存由 CPU 处理(混合运行/partial offload)61% 相似待验证TCG 模式下安卓模拟器的 CPU 性能通常只有 KVM 加速模式的 5%-10%60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/905431API
curl https://kongchang.com/api/v1/knowledge/claims/905431MCP
get_claim(id=905431)