待验证50% 置信事实精确时间
分布匹配蒸馏(DMD)通过教师模型的评分与在线批评者对学生分布评分的差异来训练学生模型。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
待验证Squint OPSD中教师在token层面的分布沿on-policy轨迹监督学生模型学习69% 相似待验证KL散度衡量两个概率分布之间的差异,在知识蒸馏中直接出现在训练目标里,学生模型输出分布被要求逼近教师分布以最小化二者的KL散度67% 相似待验证论文《Edu-QuRating: Multi-Dimensional Educational Data Curation with Distilled Pairwise Judgements》提出了多维度教育数据评分与筛选的流水线66% 相似待验证与域随机化互补的手段还包括系统辨识(先测量真实系统关键参数再校准仿真)以及教师—学生蒸馏(让在特权信息下训练的教师策略把知识迁移给仅依赖真实可观测输入的学生策略)。66% 相似待验证2022年吴恩达在Coursera更新推出了新版机器学习专项课程,融入了偏差-方差权衡、误差分析等模型调优方法论64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125598API
curl https://kongchang.com/api/v1/knowledge/claims/1125598MCP
get_claim(id=1125598)