[控场AI]
模型

RoCo-PRM

利用强MoE模型的路由统计量自动标注步骤分数并蒸馏得到的独立过程奖励模型,无需人工过程标签,可跨模型架构和任务迁移。

时间轴 (近 90 天)

10月22日

研究者提出了RoCo-PRM方法,利用强MoE模型自动为推理轨迹标注基于路由的步骤分数,再将这些分数蒸馏到一个独立的PRM中。

待验证50%
10月22日

实验显示,RoCo-PRM在多个任务上超越基线,并能有效跨模型架构和任务进行迁移。

待验证50%
10月22日

在RoCo-PRM中,教师是强MoE模型,其软标签来自路由统计量计算出的步骤分数,而非输出logit;学生是一个独立的PRM。

待验证50%

全部知识事实 (3)

来源文章