待验证50% 置信事实精确时间
模型蒸馏是指通过大量查询目标模型、收集其输入输出对，进而训练出能力相近的学生模型
1
来源数
50%
置信度
长期有效
时效性
2026/10/2
首次发现
来源
涉及实体
相关事实
已验证模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力77% 相似待验证对抗性蒸馏攻击者通过大量系统化地向目标模型发起请求，采集输入-输出对，尤其是包含完整推理链的响应，用于训练自己的模型以复刻目标模型能力77% 相似待验证合成数据通常由一个强大的教师模型生成问答对、推理链或代码样本，再用于训练学生模型75% 相似待验证当前大模型评测流程往往把完整题目和条件提供给模型，并针对特定题库进行定向训练，导致高分容易获得74% 相似待验证模型蒸馏最早由Hinton等人在2015年提出，让小模型学习大模型的输出分布，学生模型往往能保留教师模型80%-95%的性能74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/967871API
curl https://kongchang.com/api/v1/knowledge/claims/967871MCP
get_claim(id=967871)