概念single completion training
单次补全训练
仅使用单次补全样本进行训练的优化方式,可降低多采样带来的算力开销
时间轴 (近 90 天)
11月3日
@k 压力完全可以通过单次补全训练实现,性能匹配多补全 @k 优化器,而成本只是后者的一小部分。
待验证50%
11月3日
单次补全训练是指在每次策略更新时,对每个提示只采样一条补全,却通过奖励变换或正则化设计来模拟 @k 目标的学习压力。
待验证50%
仅使用单次补全样本进行训练的优化方式,可降低多采样带来的算力开销
@k 压力完全可以通过单次补全训练实现,性能匹配多补全 @k 优化器,而成本只是后者的一小部分。
单次补全训练是指在每次策略更新时,对每个提示只采样一条补全,却通过奖励变换或正则化设计来模拟 @k 目标的学习压力。