Verified65% confidenceFactExact time
知识蒸馏的核心思想是让学生模型模仿教师模型输出的软标签（各类别概率分布），软标签被Hinton称为暗知识（dark knowledge）
3
Sources
65%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
Unverified知识蒸馏由Hinton等人提出，让学生模型通过学习教师模型输出的软概率分布继承隐性知识83% similarUnverified知识蒸馏由Hinton等人2015年提出，通过温度参数软化概率分布，使低概率类别的暗知识更显著供学生模型学习82% similarVerified知识蒸馏由Hinton等人在2015年提出，核心思想是让小型学生模型模仿大型教师模型的输出分布77% similarUnverified知识蒸馏最早由Hinton、Vinyals与Dean于2015年在Google提出，核心思想是让小型学生模型学习大型教师模型输出的软标签76% similarUnverified教材知识编排应先学传统机器学习再学深度学习，因为传统ML帮助建立特征工程、模型评估、偏差-方差权衡等核心概念直觉70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/508975API
curl https://kongchang.com/api/v1/knowledge/claims/508975MCP
get_claim(id=508975)