待验证50% 置信事实精确时间

CPU的设计哲学是减少延迟，配备多级缓存、乱序执行引擎和分支预测器；GPU的设计哲学是隐藏延迟，通过同时调度大量线程实现

1

来源数

50%

置信度

长期有效

时效性

2026/8/23

首次发现

来源

GPU内存读取原理：延迟隐藏与带宽优化深度解析

涉及实体

CPUconcept GPUconcept

相关事实

待验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/277% 相似待验证采用流水线架构使GPU对第N+1帧推理时CPU同时对第N帧后处理，可使理论吞吐量取决于最慢阶段而非所有阶段时间总和71% 相似待验证专家卸载策略将不常激活的专家留在 CPU 内存，路由器选中时才临时搬运至 GPU 显存70% 相似待验证定制芯片当模型规模和算力需求达到一定量级后，往往能在性能与成本上超越通用GPU70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/791064

API

curl https://kongchang.com/api/v1/knowledge/claims/791064

MCP

get_claim(id=791064)