待验证50% 置信事实精确时间
输出蒸馏是直接用教师模型生成的对话、推理链等文本作为训练数据微调学生模型,无需访问教师内部参数
1
来源数
50%
置信度
长期有效
时效性
2026/9/28
首次发现
来源
涉及实体
相关事实
待验证离线蒸馏中训练数据由教师模型一次性生成并固定,学生模型在静态数据集上学习79% 相似待验证合成数据通常由一个强大的教师模型生成问答对、推理链或代码样本,再用于训练学生模型75% 相似已验证硬蒸馏是指学生模型直接学习教师模型的最终输出标签或生成文本,软蒸馏则要求学生模型学习教师模型输出的完整概率分布(logits)75% 相似待验证模型蒸馏是指用大型教师模型的输出训练更小的学生模型,仅需调用API获取输出,不涉及权重复制,其法律边界模糊,全球尚无先例性司法判决明确定性74% 相似待验证模型蒸馏(Model Distillation)在机器学习领域指用大型教师模型的输出训练小型学生模型,以压缩模型规模同时保留能力72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/956807API
curl https://kongchang.com/api/v1/knowledge/claims/956807MCP
get_claim(id=956807)