待验证50% 置信事实精确时间
渐进蒸馏（Progressive Distillation）由Salimans和Ho在2022年提出，通过迭代地将教师模型的两步合并为学生模型的一步，逐步将步数减半
1
来源数
50%
置信度
长期有效
时效性
2026/9/6
首次发现
来源
涉及实体
相关事实
待验证知识蒸馏最早由Hinton等人在2015年提出，DiffusionGemma创造性地将其用于步数压缩，教师模型用较多步数（如48步）生成，学生模型用更少步数（如12步）达到相近质量74% 相似已验证Knowledge Distillation is a technique for transferring knowledge from a large teacher model to a smaller student model, proposed by Geoffrey Hinton et al. in 201560% 相似已验证知识蒸馏由Hinton等人在2015年提出，核心思想是让小型学生模型模仿大型教师模型的输出分布60% 相似待验证本项目的蒸馏是将人类专家的非结构化经验作为教师，通过LLM将隐性知识转化为显性的可执行规则，与传统模型蒸馏（大模型教小模型）不同57% 相似待验证2022年吴恩达在Coursera更新推出了新版机器学习专项课程，融入了偏差-方差权衡、误差分析等模型调优方法论55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/868229API
curl https://kongchang.com/api/v1/knowledge/claims/868229MCP
get_claim(id=868229)