待验证50% 置信事实精确时间
KLD 是分布层面的平均量，与下游任务准确率并非严格单调对应；一个 KLD 略高的模型可能恰好在某类任务上分数更好。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证KL 散度用于比较微调后模型与原始模型在相同输入下的输出概率分布差异，数值越大表示偏离越严重，0.0244 的 KLD 意味着微调几乎没有改变模型的整体行为分布80% 相似待验证KLD（KL散度）衡量两个概率分布之间的差异，公式为 D_KL(P||Q)=∑_x P(x)log(P(x)/Q(x))。73% 相似待验证KLD衡量的是相对熵，即用量化模型分布编码原始模型输出时额外需要的比特数，因此单位是比特/Token。71% 相似待验证KL散度是衡量两个概率分布差异的非对称指标，在强化学习中被用来约束新旧策略的偏离程度（如PPO的trust region）。68% 相似待验证调度平均散度是先算每个调度下的KL散度再取期望，即E_U D_KL(p||q_U)65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1116901API
curl https://kongchang.com/api/v1/knowledge/claims/1116901MCP
get_claim(id=1116901)