SMD
一种少步扩散/流匹配蒸馏方法,仅通过在线速度回归加上轻量残差代理(Pivot)实现 4 步生成,摒弃辅助 score 模型和对抗训练,部署时无额外计算图变化。
时间轴 (近 90 天)
Simplified Matching Distillation (SMD) 是一种少步蒸馏方法,核心主张是仅靠简单的在线速度回归(on-policy velocity regression)就足以支撑 4-NFE 的生成质量。
SMD 引入了一个名为 Pivot 的残差代理,其作用是把局部修正从学生的区间均值预测中分离出来:学生负责预测整个区间的平均速度,Pivot 负责建模区间内部的残差波动。
SMD 还加入了排斥机制:让学生远离教师较弱的预测,以避免继承教师在某些时间步上不可靠的预测模式。
SMD 的排斥机制不需要对抗训练中常见的判别器,也不需要在线 score 估计,只是对训练目标做了一项额外约束,训练开销几乎为零。
SMD 的实验覆盖图像生成与编辑、3D 生成、视频合成、音视频联合生成,模型规模最高扩展到 33B 参数。
在 4-NFE 的设置下,SMD 在多个基准上超过了现有的强少步基线,甚至在部分任务上超越了多步教师模型。
SMD 支持跨模型蒸馏、多教师蒸馏以及因果视频蒸馏,不绑定某一种教师架构或某一种模态。
全部知识事实 (7)
Simplified Matching Distillation (SMD) 是一种少步蒸馏方法,核心主张是仅靠简单的在线速度回归(on-policy velocity regression)就足以支撑 4-NFE 的生成质量。
50%待验证SMD 引入了一个名为 Pivot 的残差代理,其作用是把局部修正从学生的区间均值预测中分离出来:学生负责预测整个区间的平均速度,Pivot 负责建模区间内部的残差波动。
50%待验证SMD 还加入了排斥机制:让学生远离教师较弱的预测,以避免继承教师在某些时间步上不可靠的预测模式。
50%待验证SMD 的排斥机制不需要对抗训练中常见的判别器,也不需要在线 score 估计,只是对训练目标做了一项额外约束,训练开销几乎为零。
50%待验证SMD 的实验覆盖图像生成与编辑、3D 生成、视频合成、音视频联合生成,模型规模最高扩展到 33B 参数。
50%待验证在 4-NFE 的设置下,SMD 在多个基准上超过了现有的强少步基线,甚至在部分任务上超越了多步教师模型。
50%待验证SMD 支持跨模型蒸馏、多教师蒸馏以及因果视频蒸馏,不绑定某一种教师架构或某一种模态。
50%