待验证50% 置信事实精确时间
在 PIVOT 中，token 级 KL 监督最小化学生模型在纠正片段位置上的下一 token 分布与教师分布的 KL 散度，即 KL(学生‖教师)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证反向KL散度具有“寻模”特性，当教师分布多峰时，学生会被拉向教师的某个主要模态。78% 相似待验证KL散度衡量两个概率分布之间的差异，在知识蒸馏中直接出现在训练目标里，学生模型输出分布被要求逼近教师分布以最小化二者的KL散度75% 相似待验证研究者在理想化的双向KL目标下给出了理论分析，证明最优策略的期望奖励不低于教师，同时保留了教师概率质量的一个有保证的比例。60% 相似已验证Krashen的输入假说认为学习者需要接触略高于当前水平的可理解输入（i+1）60% 相似待验证与域随机化互补的手段还包括系统辨识（先测量真实系统关键参数再校准仿真）以及教师—学生蒸馏（让在特权信息下训练的教师策略把知识迁移给仅依赖真实可观测输入的学生策略）。60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115282API
curl https://kongchang.com/api/v1/knowledge/claims/1115282MCP
get_claim(id=1115282)