概念@k Adaptive Pressure for Policy Optimization
KAPPO
一种用于LLM后训练的强化学习优化框架,通过提示自适应正则化或奖励变换将@1方法适配到@k目标,以控制锐化效应并重新分配学习压力
时间轴 (近 90 天)
11月3日
研究者提出了 @k Adaptive Pressure for Policy Optimization(KAPPO),其工作流程包括一次性的参考校准,之后通过提示自适应正则化或奖励变换把现有 @1 方法适配到 @k。
待验证50%
11月3日
KAPPO 的实验覆盖了数学推理与代码生成两类任务,结果显示它提供了对锐化程度的直接控制能力。
待验证50%
11月3日
参考校准是 KAPPO 流程中的一次性预处理步骤:在正式训练前,利用参考模型在任务分布上估计每个提示的基准难度或基准奖励水平,为后续提示自适应正则化提供归一化基准。
待验证50%