ConceptKL Divergence / Kullback-Leibler Divergence / KL散度
KL散度
信息论中衡量两个概率分布差异的非对称度量，在VAE损失函数中作为正则化项，约束编码器输出分布接近标准正态先验，防止潜在空间碎片化
Timeline (last 90 days)
Aug 23
Wasserstein距离是一个真正的度量，满足对称性和三角不等式，而KL散度不对称且在分布支撑不重叠时为无穷大
Unverified50%
信息论中衡量两个概率分布差异的非对称度量，在VAE损失函数中作为正则化项，约束编码器输出分布接近标准正态先验，防止潜在空间碎片化
Wasserstein距离是一个真正的度量，满足对称性和三角不等式，而KL散度不对称且在分布支撑不重叠时为无穷大