待验证75% 置信事实时间未知

CPU Offload推理与纯显卡推理相比速度差距通常在5-10倍量级

1

来源数

75%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

4×3080Ti本地部署千问3.6 27B跑OpenCode编程实测

bilibili苏不二师兄

涉及实体

CPU Offloadconcept

相关事实

待验证软件解码的 CPU 占用可能是硬件加速路径的 5 到 10 倍80% 相似待验证CPU推理速度通常为GPU速度的1/5到1/1075% 相似待验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/274% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/4406

API

curl https://kongchang.com/api/v1/knowledge/claims/4406

MCP

get_claim(id=4406)