概念Model Parameter Diffusion / 模型参数扩散
MoPD
一种将轻量专项模型的能力合并注入主模型的技术,可在不重新全量训练的情况下将教师模型的行为偏好迁移至主模型,大幅降低模型行为纠偏的训练成本
时间轴 (近 90 天)
10月8日
小米MiMo的修复方式是训练一个轻量的重复专用强化学习教师,12步约7000条样本,再通过MoPD合并进主模型,成本约为完整重训的4%
待验证50%
10月8日
MoPD(模型参数扩散/合并)是一种将轻量专项模型的能力注入主模型的技术,可在不重新全量训练的情况下迁移教师模型习得的行为偏好
待验证50%
9月24日
星辰4.0在Agent、Coding和Reasoning方向分别开展多专家强化学习训练,通过MoPD融合不同专家能力
待验证50%
9月24日
MoPD(Mixture of Policy Distillation)将针对不同任务独立训练的专家策略通过蒸馏方式合并进一个统一模型
待验证50%