待验证50% 置信事实精确时间
在大模型推理流水线中，文本必须先由CPU转成token，GPU才能开始工作，因此分词的CPU开销位于GPU计算的关键路径前端。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证采用流水线架构使GPU对第N+1帧推理时CPU同时对第N帧后处理，可使理论吞吐量取决于最慢阶段而非所有阶段时间总和79% 相似待验证传统架构中GPU完成计算后需与其他节点交换数据时必须将控制权交回CPU，CPU负责准备网络描述符、触发传输、轮询完成状态，引入显著延迟76% 相似已验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/275% 相似待验证GPU发起的网络通信使通信逻辑可以内联到GPU的计算核函数中，与计算形成更紧密的流水线以减少同步点74% 相似待验证这笔交易是对CPU算力的押注，而非GPU资源74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012477API
curl https://kongchang.com/api/v1/knowledge/claims/1012477MCP
get_claim(id=1012477)