EnvSched
一种用于智能体强化学习的在线调度器,通过双关系图组织环境-任务对,结合利用与覆盖价值预测奖励方差,在有限 rollout 预算下优化训练批次的信息量与多样性。
时间轴 (近 90 天)
EnvSched 是一个从 rollout 历史中学习的在线调度器,用于智能体强化学习中的环境层面数据管理。
EnvSched 将环境-任务对组织为双关系图中的节点,包含环境内边和跨环境边。
EnvSched 通过沿双关系图传播历史 rollout 统计量来预测任务内的奖励方差。
EnvSched 引入环境配额和相似度惩罚来防止批次集中与冗余,保持环境与任务维度的多样性。
EnvSched 无需额外的试点 rollout 来预热调度器。
论文在 Qwen3-8B 上进行了 RL 实验,经过 40 个训练步,EnvSched 在 BFCL-v3、tau-Bench 和 ACEBench-Agent 三个基准上取得平均 48.81 的分数。
EnvSched 在 40 个训练步后的平均分数超过了随机任务选择训练 120 步所达到的最高分。
在相同训练预算下,EnvSched 在不同模型规模上都能提升下游性能。
EnvSched 的效果依赖于历史 rollout 统计量的可靠性,在训练早期数据稀疏时图上的方差预测可能不够准确。
全部知识事实 (9)
EnvSched 是一个从 rollout 历史中学习的在线调度器,用于智能体强化学习中的环境层面数据管理。
50%待验证EnvSched 将环境-任务对组织为双关系图中的节点,包含环境内边和跨环境边。
50%待验证EnvSched 通过沿双关系图传播历史 rollout 统计量来预测任务内的奖励方差。
50%待验证EnvSched 引入环境配额和相似度惩罚来防止批次集中与冗余,保持环境与任务维度的多样性。
50%待验证EnvSched 无需额外的试点 rollout 来预热调度器。
50%待验证论文在 Qwen3-8B 上进行了 RL 实验,经过 40 个训练步,EnvSched 在 BFCL-v3、tau-Bench 和 ACEBench-Agent 三个基准上取得平均 48.81 的分数。
50%待验证EnvSched 在 40 个训练步后的平均分数超过了随机任务选择训练 120 步所达到的最高分。
50%待验证在相同训练预算下,EnvSched 在不同模型规模上都能提升下游性能。
50%待验证EnvSched 的效果依赖于历史 rollout 统计量的可靠性,在训练早期数据稀疏时图上的方差预测可能不够准确。
50%