概念分数中心化
Score Centering
一种用于稳定离策略强化学习训练的数值方法,通过对分数函数进行去均值处理,降低策略梯度估计的方差,从而抑制离策略场景下重要性采样权重极端值带来的梯度不稳定问题
时间轴 (近 90 天)
9月20日
论文《Score Centering Stabilizes Off-policy Reinforcement Learning》由来自 Together.ai 的研究者 Marek 与 Ryabinin 撰写
待验证50%
9月20日
Score Centering(分数中心化)通过对分数函数进行去均值处理来降低梯度估计的方差
待验证50%
9月20日
Score Centering 将基准的作用落点放在离策略校正后的分数项上,而非仅在奖励侧做处理
待验证50%
9月20日
若 Score Centering 实验验证有效,将为超越 PPO 范式的离策略 LLM 训练路线提供支撑
待验证50%