待验证50% 置信事实精确时间
SDFT指Self-Distillation Fine-Tuning，即在微调阶段引入自蒸馏目标，教师与学生同步演化，属于在线自蒸馏范畴。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
已验证蒸馏可以被看作一种隐式的、受数据约束的模型合并——用多个教师模型的平均输出蒸馏学生实际上是在输出分布层面做软合并63% 相似待验证策略内蒸馏（on-policy distillation）让学生模型先自己生成轨迹，再由教师模型对这些路径提供监督信号，从而避免离线数据与学生行为之间的分布偏移。63% 相似待验证论文《Beyond the Answer: Student-Conditioned Trace Construction for Reasoning Distillation》提出ReDiST框架，用于构建推理蒸馏中能提升学习效果的推理轨迹。62% 相似已验证蒸馏技术让学生模型学习并复现教师的多步生成轨迹，将数百步的生成过程压缩到几步62% 相似待验证输出蒸馏是直接用教师模型生成的对话、推理链等文本作为训练数据微调学生模型，无需访问教师内部参数62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1101810API
curl https://kongchang.com/api/v1/knowledge/claims/1101810MCP
get_claim(id=1101810)