实际部署中常把张量并行和流水线并行组合使用，并配合跨节点显存统一寻址或高速互联（如NVLink、InfiniBand或高速以太网）。