ConceptPCIe 4.0 x8 / x8/x8 拆分

PCIe 4.0 x8/x8

PCIe 4.0 总线的 x8 通道配置模式，单向带宽约 15.75 GB/s，常见于双卡工作站的通道拆分方案

Timeline (last 90 days)

Oct 12

在 vLLM 或 llama.cpp 等引擎的 Tensor Parallel (TP=2) 模式下，PCIe 4.0 x8/x8 不会显著卡住单流 token 生成。

Unverified50%

Oct 12

实测 70B 模型跨双卡的 PCIe 4.0 x8/x8 相比 x16/x16，吞吐损失通常在 3%–6% 之间。

Unverified50%

Oct 12

在 batch size = 1 的小消息交换场景下，AllReduce 的性能由延迟主导，而非带宽，因此 x16 相对 x8 并不能显著降低延迟。

Unverified50%

在 vLLM 或 llama.cpp 等引擎的 Tensor Parallel (TP=2) 模式下，PCIe 4.0 x8/x8 不会显著卡住单流 token 生成。

实测 70B 模型跨双卡的 PCIe 4.0 x8/x8 相比 x16/x16，吞吐损失通常在 3%–6% 之间。

在 batch size = 1 的小消息交换场景下，AllReduce 的性能由延迟主导，而非带宽，因此 x16 相对 x8 并不能显著降低延迟。