推理蒸馏

传统推理蒸馏将教师模型的完整推理轨迹连同正确答案一起提供给学生模型，但一条推理轨迹即使伴随正确答案，也未必能为特定学生提供有效的监督信号。

推理蒸馏是知识蒸馏的一个分支，指用大型教师模型生成的推理过程（而非仅最终答案）来训练较小的学生模型，使其习得逐步推理的能力。