待验证50% 置信事实精确时间
D²-OPD使用前向KL散度优化学生模型，以同时覆盖教师分布中的低概率token。
1
来源数
50%
置信度
长期有效
时效性
2026/11/6
首次发现
来源
涉及实体
相关事实
待验证GAD-RL用学生对教师Top-1 token的预测概率来加权前向KL散度，当学生对教师推荐token支持度低时抑制局部辅助更新76% 相似待验证SimOPD的核心操作是让学生模型输出的响应表示所诱导的相似性分布逼近教师模型内部表示所诱导的相似性分布，使用KL散度或交叉熵损失拉近两个分布。75% 相似待验证实验显示LoopOPD显著提升了模型的数学推理能力，D-LoopOPD通过动态教师更新带来进一步增益71% 相似待验证DNO-Prct采用迭代式流程：每一轮在策略模型上做在线采样，由LLM对样本和教师模型的黄金回答一起打分，筛选出大间隔的偏好对，最后执行DPO风格的对比更新。71% 相似待验证前向KL倾向于让学生策略覆盖教师策略的所有模式，学得全但可能不够精准；反向KL倾向于让学生策略集中在教师策略的高概率区域，学得精但可能遗漏某些模式。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1141998API
curl https://kongchang.com/api/v1/knowledge/claims/1141998MCP
get_claim(id=1141998)