[控场AI]
概念Finite-Rollout Variation

有限 rollout 变异

由于每个提示仅采样有限数量回复而导致的投票结果不稳定性,对应统计中的抽样方差。

时间轴 (近 90 天)

11月9日

论文将在线直接偏好优化(DPO)下的多数投票监督误差分解为种群多数偏差(population-majority bias)和提示依赖的有限 rollout 变异(prompt-dependent finite-rollout variation)两部分。

待验证50%
11月9日

有限 rollout 变异是指由于每个提示只采样有限数量的回复,导致投票结果不稳定,进而影响伪标签的质量。

待验证50%
11月9日

显式地处理有限 rollout 变异能够带来一致的性能提升,尤其是在采样敏感的任务上。

待验证50%

全部知识事实 (3)

来源文章