BCSM
一种用于离散扩散模型的高效位内蒸馏目标，通过构建O(K)双向活跃集、因子化成对比较至O(K)复杂度，并引入跨时间步转移对齐，在少步蒸馏下保持生成质量。
时间轴 (近 90 天)
论文提出双向中心化分数匹配（Bidirectional Centered Score Matching, BCSM），一种高效的位内蒸馏目标。
BCSM为每个位置构建大小为K的双向活跃集，同时包含教师模型的高概率候选和学生模型当前偏好的候选，将候选数量从|V|压缩到K。
BCSM通过活跃集将成对比较复杂度从O(|V|²)降至O(K²)，再通过数学因子化将最终目标的计算复杂度降为O(K)。
BCSM引入跨时间步转移对齐（cross-timestep transition alignment），确保学生模型在不同去噪步之间的转移行为与教师一致。
在单步推理设置下，BCSM相比基线将神经函数评估次数（NFE）最多减少6倍，同时在HumanEval上获得16.9%的相对提升。
在单步推理设置下，BCSM在MMMU上获得15.1%的相对提升。
BCSM的优化几何更关注相对排序而非绝对概率，有助于学生在教师截断之外探索合理输出。
BCSM提供了一种可替代KL散度的新选择，尤其适用于词表巨大、标注数据有限的场景。
未来工作或可探索活跃集大小K的自适应选择，以及将BCSM推广到连续扩散模型。
全部知识事实 (9)
BCSM提供了一种可替代KL散度的新选择，尤其适用于词表巨大、标注数据有限的场景。
50%待验证BCSM为每个位置构建大小为K的双向活跃集，同时包含教师模型的高概率候选和学生模型当前偏好的候选，将候选数量从|V|压缩到K。
50%待验证BCSM通过活跃集将成对比较复杂度从O(|V|²)降至O(K²)，再通过数学因子化将最终目标的计算复杂度降为O(K)。
50%待验证BCSM引入跨时间步转移对齐（cross-timestep transition alignment），确保学生模型在不同去噪步之间的转移行为与教师一致。
50%待验证在单步推理设置下，BCSM相比基线将神经函数评估次数（NFE）最多减少6倍，同时在HumanEval上获得16.9%的相对提升。
50%待验证在单步推理设置下，BCSM在MMMU上获得15.1%的相对提升。
50%待验证BCSM的优化几何更关注相对排序而非绝对概率，有助于学生在教师截断之外探索合理输出。
50%待验证未来工作或可探索活跃集大小K的自适应选择，以及将BCSM推广到连续扩散模型。
50%待验证论文提出双向中心化分数匹配（Bidirectional Centered Score Matching, BCSM），一种高效的位内蒸馏目标。
50%