概念Reverse KL Divergence / D_KL(q||p)
反向KL散度
变分推断中用于衡量近似分布与目标分布差异的散度度量，具有零强制性质，会使近似分布倾向于覆盖目标分布的少数高概率模式，导致模式坍塌
时间轴 (近 90 天)
10月20日
反向KL散度具有“寻模”特性，当教师分布多峰时，学生会被拉向教师的某个主要模态。
待验证50%
10月16日
KL散度定义为D_KL(P||Q)=∫log(dP/dQ)dP，反向KL散度交换P和Q的位置即D_KL(Q||P)。
待验证50%
10月14日
反向KL散度是零强制的，倾向于模式搜索，导致变分推断训练扩散采样器时模式坍塌现象严重。
待验证50%
10月14日
SeTPO仅对低奖励轨迹引入教师信号，利用反向KL散度导出token级别的教师反馈，并将其融入策略优势函数。
待验证50%
9月12日
反向KL散度是模式寻找的，前向KL散度是均值寻找的
待验证50%