待验证50% 置信事实精确时间
KV cache 换入换出依赖主机内存与 GPU 显存之间的互联带宽；以 PCIe 4.0 x16 为例，单向有效带宽约 25 GB/s 量级，而单张数据中心 GPU 的 HBM 带宽可达 2–3 TB/s，相差约两个数量级。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证GPU HBM带宽通常在2-3 TB/s量级，H100为3.35 TB/s，而PCIe 5.0连接的Host DRAM有效带宽仅约64 GB/s，两者相差近50倍79% 相似待验证数据中心内部的GPU互联带宽通常在100-400 Gbps量级（通过InfiniBand HDR/NDR或NVSwitch），而数据中心之间的广域网带宽可能仅有1-10 Gbps76% 相似已验证传统x86平台上PCIe总线连接独立GPU与主板内存的带宽上限约为64GB/s75% 相似待验证GPU显存（VRAM）的带宽通常在500-1000 GB/s量级，而DDR5系统内存带宽仅约50-80 GB/s，差距高达10倍以上75% 相似已验证3080Ti的显存带宽为912 GB/s，远高于CPU与GPU之间PCIe总线带宽的16-32 GB/s75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1017345API
curl https://kongchang.com/api/v1/knowledge/claims/1017345MCP
get_claim(id=1017345)