待验证50% 置信注意事项精确时间
应按主机单独设置超时，否则为GPU调好的全局超时会把慢速CPU主机误判为死主机
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
已验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/277% 相似待验证CPU推理速度通常为GPU速度的1/5到1/1075% 相似待验证若仅使用 CPU 运行 VSR，速度相比 GPU 差距可达数十倍75% 相似待验证CPU的设计哲学是减少延迟，配备多级缓存、乱序执行引擎和分支预测器；GPU的设计哲学是隐藏延迟，通过同时调度大量线程实现75% 相似待验证经过指令微调的Llama 3.1 8B Instruct在配备消费级GPU的服务器上可流畅运行，推理延迟通常在数秒以内74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/977216API
curl https://kongchang.com/api/v1/knowledge/claims/977216MCP
get_claim(id=977216)