待验证50% 置信事实精确时间
传统蒸馏或师生框架需要两个独立模型：教师负责生成高质量信号，学生负责学习。
1
来源数
50%
置信度
长期有效
时效性
2026/10/22
首次发现
来源
涉及实体
相关事实
待验证自蒸馏与传统知识蒸馏的核心区别在于教师和学生可以是同一个模型，或是模型自身在不同训练阶段、不同视角下产生的输出80% 相似待验证蒸馏的教师模型不一定比学生模型更大，可以是尺寸相当的领域专家模型76% 相似待验证本项目的蒸馏是将人类专家的非结构化经验作为教师，通过LLM将隐性知识转化为显性的可执行规则，与传统模型蒸馏（大模型教小模型）不同72% 相似待验证自蒸馏（Self-Distillation）省去独立教师模型，让模型向自身历史检查点或当前推理中产生的高质量输出学习72% 相似待验证教师-学生蒸馏管线：用云端大模型标注边缘案例，然后蒸馏到设备端小模型，并人工审核两者不一致的样本。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1084761API
curl https://kongchang.com/api/v1/knowledge/claims/1084761MCP
get_claim(id=1084761)