待验证50% 置信事实精确时间
当多块GPU通过NVLink或InfiniBand互联时，互联带宽往往成为端到端推理吞吐的硬性上限，而非GPU算力本身
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证张量并行是将单个层的计算（如矩阵乘法）拆分到多个GPU上并行执行，通信频率高，通常要求GPU之间有高带宽互联如NVLink79% 相似已验证英伟达主导的高端训练集群依赖InfiniBand高速网络（带宽可达800Gb/s）和NVLink/NVSwitch实现GPU直连72% 相似待验证NIXL 底层通常利用 NVLink、InfiniBand 或 RDMA 等高速互联技术，绕过 CPU 直接在 GPU 显存之间传输数据71% 相似已验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/270% 相似待验证英伟达通过NVLink、NVSwitch以及InfiniBand网卡构建了垂直整合的高性能计算互联体系，NVLink带宽可达900GB/s以上70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972861API
curl https://kongchang.com/api/v1/knowledge/claims/972861MCP
get_claim(id=972861)