#DeepSpeed

DeepSpeed不止ZeRO：张量、序列与专家并行的易用化演进

DeepSpeed不再只是ZeRO。最新更新带来高度优化的张量并行、序列并行和专家并行能力，在训练MoE大模型上匹敌主流框架，同时保持ZeRO级别的易用性。