Unverified50% confidenceFactExact time
硬蒸馏是指学生模型直接学习教师模型的最终输出标签或生成文本，软蒸馏则要求学生模型学习教师模型输出的完整概率分布（logits）
1
Sources
50%
Confidence
Long-term
Relevance
8/7/2026
First Seen
Sources
Related Claims
Verified模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力74% similarUnverified模型蒸馏技术由Geoffrey Hinton团队于2015年提出，最初用于模型压缩，通过让学生模型拟合教师模型的软标签输出73% similarUnverified模型蒸馏是指用大型教师模型的输出训练更小的学生模型，仅需调用API获取输出，不涉及权重复制，其法律边界模糊，全球尚无先例性司法判决明确定性73% similarUnverified知识蒸馏通过软标签传递教师模型输出的完整概率分布信息，起到隐式数据增强效果71% similarUnverifiedFlash模型通常采用知识蒸馏技术，以旗舰模型为教师模型训练出参数量更小、推理速度更快的学生模型67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/704190API
curl https://kongchang.com/api/v1/knowledge/claims/704190MCP
get_claim(id=704190)