Verified90% confidenceFactExact time
知识蒸馏由Hinton等人于2015年提出，原指用大模型的软标签输出训练小模型
12
Sources
90%
Confidence
Long-term
Relevance
7/8/2026
First Seen
Sources
Fable 5对决GPT-5.6 Sol：基准测试、定价与AI权力博弈深度解析
bilibili黑纹白斑马7/3/2026
Related Claims
Verified模型蒸馏（Knowledge Distillation）最初由 Hinton 等人于2015年提出，核心思想是让小模型学习大模型的软标签而非硬标签84% similarUnverified知识蒸馏（Knowledge Distillation）由Hinton等人在2015年系统提出，核心思想是用大模型的输出概率分布指导小模型训练84% similarUnverified模型蒸馏由Hinton等人于2015年系统化提出，核心是将大模型的暗知识转移给小模型，使用软概率分布作为监督信号78% similarVerified模型蒸馏技术由Geoffrey Hinton团队于2015年提出，最初用于模型压缩，通过让学生模型拟合教师模型的软标签输出70% similarUnverified知识蒸馏技术使小模型可从大模型中提取相当比例能力，动摇了固定算力阈值作为能力代理指标的有效性68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/243172API
curl https://kongchang.com/api/v1/knowledge/claims/243172MCP
get_claim(id=243172)