张量并行的通信瓶颈不是单次传输的数据量，而是同步次数乘以每次同步的固有延迟。