待验证50% 置信事实精确时间
KLD（KL散度）衡量两个概率分布之间的差异，公式为 D_KL(P||Q)=∑_x P(x)log(P(x)/Q(x))。
1
来源数
50%
置信度
长期有效
时效性
2026/10/24
首次发现
来源
涉及实体
相关事实
待验证KL 散度用于比较微调后模型与原始模型在相同输入下的输出概率分布差异，数值越大表示偏离越严重，0.0244 的 KLD 意味着微调几乎没有改变模型的整体行为分布78% 相似待验证调度平均散度是先算每个调度下的KL散度再取期望，即E_U D_KL(p||q_U)74% 相似待验证KLD衡量的是相对熵，即用量化模型分布编码原始模型输出时额外需要的比特数，因此单位是比特/Token。71% 相似待验证KL散度定义为D_KL(P||Q)=∫log(dP/dQ)dP，反向KL散度交换P和Q的位置即D_KL(Q||P)。70% 相似待验证KL散度是衡量两个概率分布差异的非对称指标，在强化学习中被用来约束新旧策略的偏离程度（如PPO的trust region）。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1094692API
curl https://kongchang.com/api/v1/knowledge/claims/1094692MCP
get_claim(id=1094692)