已验证65% 置信事实精确时间

模型蒸馏（Model Distillation）在机器学习领域指用大型教师模型的输出训练小型学生模型，以压缩模型规模同时保留能力

3

来源数

65%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

aegis-skills开源项目：40个防御性安全审计技能详解

涉及实体

模型蒸馏concept

相关事实

待验证模型蒸馏（Model Distillation）是用一个强大模型的输出作为训练数据来训练另一个模型，主流模型服务条款普遍禁止将API输出用于训练竞品模型79% 相似已验证模型蒸馏通过温度缩放软化教师模型的softmax输出，使低概率类别信息得以传递给学生模型75% 相似已验证模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力75% 相似已验证模型蒸馏（Knowledge Distillation）是将大型模型的知识迁移至小型轻量模型的技术，可在参数量缩减数十倍的同时保留大部分性能74% 相似待验证蒸馏是训练一个小模型去模仿大模型行为的技术74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/915899

API

curl https://kongchang.com/api/v1/knowledge/claims/915899

MCP

get_claim(id=915899)