传统权重同步做法包括将权重落盘再重新加载（IO 开销大、切换慢）或依赖 NCCL 等集合通信库做 GPU 间直传（对拓扑和部署环境要求高）。