待验证50% 置信事实精确时间

流水线并行按层将模型纵向切分，不同GPU负责不同层组，适合跨节点部署，但需要设计微批次调度以减少pipeline bubble带来的空闲等待

1

来源数

50%

置信度

长期有效

时效性

2026/9/21

首次发现

来源

TensorRT多设备推理：简化Dynamo-Triton的多GPU模型部署

涉及实体

Pipeline Parallelismconcept

相关事实

待验证流水线并行按模型的不同层将计算分配到不同设备，通信量仅为相邻层的激活张量，但存在流水线气泡问题73% 相似待验证本次测试大概率采用流水线并行方式部署多GPU，模型前半部分层在第一张卡后半部分层在第二张卡73% 相似待验证张量并行(TP)将单个Transformer层权重矩阵切分到不同GPU,每层前向传播需要All-Reduce通信;流水线并行(PP)将模型按层切分,通信量小但存在气泡导致利用率下降72% 相似待验证模型并行分为将单层内的张量切分到多卡的张量并行和将不同层分配到不同设备的流水线并行两种方式71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/939692

API

curl https://kongchang.com/api/v1/knowledge/claims/939692

MCP

get_claim(id=939692)