[控场AI]
产品

SkyRL

SkyRL 是 Reflection 开发的强化学习训练基础设施,支持 LoRA、全量微调和低精度 RL,集成 vLLM 与 Megatron-Bridge。

时间轴 (近 90 天)

10月17日

SkyRL(由 NovaSkyAI 开发)为 Reflection-Beam-1.0 提供了 Day-0 强化学习训练支持,涵盖 LoRA 微调、BF16 全参数微调和 MXFP8 精度 RL 训练,并使用 vLLM 进行 rollout 采样。

待验证50%
10月17日

SkyRL 的 Day-0 支持将 LoRA、BF16 全量微调和 MXFP8 强化学习统一到 vLLM 推理与 Megatron-Bridge 训练框架中。

待验证50%
10月17日

SkyRL 的分布式训练方案 R3 已能够与流水线并行(Pipeline Parallelism)配合工作。

待验证50%
10月17日

在 SkyRL 的权重同步过程中,FP32 路由器权重被完整保留,以避免低精度转换带来的数值不稳定问题。

待验证50%
10月17日

SkyRL 团队宣布对 Reflection 的 Beam 模型实现 Day-0 强化学习支持,Beam 模型在发布当天即可接入完整的 RL 训练流程。

待验证50%
10月17日

该 LoRA 解码吞吐提升是在 32 并发请求、PP2×TP8 的配置下实现的,增长约 62%。

待验证50%
10月17日

62% 的提升是解码阶段的结果,并非端到端训练加速比。

待验证50%
10月17日

SkyRL 官方报告显示,通过合理配置 vLLM 中的专家适配器,LoRA 解码吞吐从 276 tok/s/GPU 提升到 447 tok/s/GPU。

待验证50%

全部知识事实 (8)

来源文章