概念Finite-Rollout Variation
有限 rollout 变异
由于每个提示仅采样有限数量回复而导致的投票结果不稳定性,对应统计中的抽样方差。
时间轴 (近 90 天)
11月9日
论文将在线直接偏好优化(DPO)下的多数投票监督误差分解为种群多数偏差(population-majority bias)和提示依赖的有限 rollout 变异(prompt-dependent finite-rollout variation)两部分。
待验证50%
11月9日
有限 rollout 变异是指由于每个提示只采样有限数量的回复,导致投票结果不稳定,进而影响伪标签的质量。
待验证50%
11月9日
显式地处理有限 rollout 变异能够带来一致的性能提升,尤其是在采样敏感的任务上。
待验证50%