待验证50% 置信事实精确时间
知识蒸馏由Hinton等人提出,让学生模型通过学习教师模型输出的软概率分布继承隐性知识
1
来源数
50%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
已验证知识蒸馏由Hinton等人在2015年提出,核心思想是让小型学生模型模仿大型教师模型的输出分布83% 相似待验证知识蒸馏由Hinton等人2015年提出,通过温度参数软化概率分布,使低概率类别的暗知识更显著供学生模型学习83% 相似已验证知识蒸馏的核心思想是让学生模型模仿教师模型输出的软标签(各类别概率分布),软标签被Hinton称为暗知识(dark knowledge)83% 相似待验证知识蒸馏最早由Hinton、Vinyals与Dean于2015年在Google提出,核心思想是让小型学生模型学习大型教师模型输出的软标签75% 相似待验证本项目的蒸馏是将人类专家的非结构化经验作为教师,通过LLM将隐性知识转化为显性的可执行规则,与传统模型蒸馏(大模型教小模型)不同71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/533431API
curl https://kongchang.com/api/v1/knowledge/claims/533431MCP
get_claim(id=533431)