待验证50% 置信事实精确时间

PCIe Gen4 x16带宽约64GB/s，在内存卸载场景中往往成为硬瓶颈

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

从1块3090到20台DGX Spark：本地大模型玩家的硬件进化史

涉及实体

相关事实

待验证CPU offload将部分Transformer层放在系统主内存由CPU计算，数据通过PCIe总线传输（PCIe 4.0 x16理论带宽约32GB/s），而GPU显存带宽通常在数百到上千GB/s，带宽差距是性能瓶颈的根本原因80% 相似待验证分层加载导致推理速度成为代价，需要频繁在存储设备与显存之间搬运数据，PCIe 4.0 x16 理论双向带宽约为 64GB/s79% 相似待验证大型语言模型推理需将数GB至数十GB模型权重通过PCIe总线从主机内存搬运至显存，受限于PCIe Gen4/Gen5物理带宽上限约64GB/s77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/974696

API

curl https://kongchang.com/api/v1/knowledge/claims/974696

MCP

get_claim(id=974696)