Verified65% confidenceFactExact time
模型蒸馏技术由Geoffrey Hinton团队于2015年提出，最初用于模型压缩，通过让学生模型拟合教师模型的软标签输出
3
Sources
65%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
Verified模型蒸馏（Knowledge Distillation）最初由 Hinton 等人于2015年提出，核心思想是让小模型学习大模型的软标签而非硬标签78% similarUnverified硬蒸馏是指学生模型直接学习教师模型的最终输出标签或生成文本，软蒸馏则要求学生模型学习教师模型输出的完整概率分布（logits）73% similarVerified模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力71% similarVerified知识蒸馏由Hinton等人于2015年提出，原指用大模型的软标签输出训练小模型70% similarUnverified模型蒸馏是指用大型教师模型的输出训练更小的学生模型，仅需调用API获取输出，不涉及权重复制，其法律边界模糊，全球尚无先例性司法判决明确定性66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/538841API
curl https://kongchang.com/api/v1/knowledge/claims/538841MCP
get_claim(id=538841)