已验证75% 置信事实精确时间
知识蒸馏最早由Hinton、Vinyals与Dean于2015年在Google提出，核心思想是让小型学生模型学习大型教师模型输出的软标签
3
来源数
75%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
已验证知识蒸馏由Hinton等人在2015年提出，核心思想是让小型学生模型模仿大型教师模型的输出分布84% 相似已验证知识蒸馏的核心思想是让学生模型模仿教师模型输出的软标签（各类别概率分布），软标签被Hinton称为暗知识（dark knowledge）76% 相似已验证知识蒸馏由Hinton等人提出，让学生模型通过学习教师模型输出的软概率分布继承隐性知识75% 相似待验证知识蒸馏最早由Hinton等人在2015年提出，DiffusionGemma创造性地将其用于步数压缩，教师模型用较多步数（如48步）生成，学生模型用更少步数（如12步）达到相近质量70% 相似已验证知识蒸馏由Hinton、Vinyals和Dean于2015年在论文《Distilling the Knowledge in a Neural Network》中正式提出69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/593851API
curl https://kongchang.com/api/v1/knowledge/claims/593851MCP
get_claim(id=593851)