概念Simple Preference Optimization
SimPO
DPO家族的一种对齐方法变体,使用长度归一化的对数概率作为隐式奖励,无需参考模型即可完成偏好优化
时间轴 (近 90 天)
10月14日
KTO、ORPO、SimPO 等 DPO 变体进一步放宽了对成对数据或参考模型的要求。
待验证50%
DPO家族的一种对齐方法变体,使用长度归一化的对数概率作为隐式奖励,无需参考模型即可完成偏好优化
KTO、ORPO、SimPO 等 DPO 变体进一步放宽了对成对数据或参考模型的要求。