SkyRL
SkyRL 是 Reflection 开发的强化学习训练基础设施,支持 LoRA、全量微调和低精度 RL,集成 vLLM 与 Megatron-Bridge。
时间轴 (近 90 天)
SkyRL(由 NovaSkyAI 开发)为 Reflection-Beam-1.0 提供了 Day-0 强化学习训练支持,涵盖 LoRA 微调、BF16 全参数微调和 MXFP8 精度 RL 训练,并使用 vLLM 进行 rollout 采样。
SkyRL 的 Day-0 支持将 LoRA、BF16 全量微调和 MXFP8 强化学习统一到 vLLM 推理与 Megatron-Bridge 训练框架中。
SkyRL 的分布式训练方案 R3 已能够与流水线并行(Pipeline Parallelism)配合工作。
在 SkyRL 的权重同步过程中,FP32 路由器权重被完整保留,以避免低精度转换带来的数值不稳定问题。
SkyRL 团队宣布对 Reflection 的 Beam 模型实现 Day-0 强化学习支持,Beam 模型在发布当天即可接入完整的 RL 训练流程。
该 LoRA 解码吞吐提升是在 32 并发请求、PP2×TP8 的配置下实现的,增长约 62%。
62% 的提升是解码阶段的结果,并非端到端训练加速比。
SkyRL 官方报告显示,通过合理配置 vLLM 中的专家适配器,LoRA 解码吞吐从 276 tok/s/GPU 提升到 447 tok/s/GPU。
全部知识事实 (8)
SkyRL(由 NovaSkyAI 开发)为 Reflection-Beam-1.0 提供了 Day-0 强化学习训练支持,涵盖 LoRA 微调、BF16 全参数微调和 MXFP8 精度 RL 训练,并使用 vLLM 进行 rollout 采样。
50%待验证SkyRL 的 Day-0 支持将 LoRA、BF16 全量微调和 MXFP8 强化学习统一到 vLLM 推理与 Megatron-Bridge 训练框架中。
50%待验证SkyRL 的分布式训练方案 R3 已能够与流水线并行(Pipeline Parallelism)配合工作。
50%待验证在 SkyRL 的权重同步过程中,FP32 路由器权重被完整保留,以避免低精度转换带来的数值不稳定问题。
50%待验证该 LoRA 解码吞吐提升是在 32 并发请求、PP2×TP8 的配置下实现的,增长约 62%。
50%待验证62% 的提升是解码阶段的结果,并非端到端训练加速比。
50%待验证SkyRL 官方报告显示,通过合理配置 vLLM 中的专家适配器,LoRA 解码吞吐从 276 tok/s/GPU 提升到 447 tok/s/GPU。
50%待验证SkyRL 团队宣布对 Reflection 的 Beam 模型实现 Day-0 强化学习支持,Beam 模型在发布当天即可接入完整的 RL 训练流程。
50%