概念Self-Taught Reasoner
STaR
一种让语言模型通过自生成推理链进行自我迭代训练的方法,模型利用正确解答的推理过程作为监督信号逐步提升推理能力,是模仿学习在LLM推理微调中的代表性方案
时间轴 (近 90 天)
10月7日
RISED 的自蒸馏机制与 STaR、ReST 等迭代自改进方法思路一脉相承,核心都是用模型自己的成功案例引导自身进步
待验证50%
9月18日
STaR(Self-Taught Reasoner)及各类蒸馏方案是模仿学习方法的代表
待验证50%
一种让语言模型通过自生成推理链进行自我迭代训练的方法,模型利用正确解答的推理过程作为监督信号逐步提升推理能力,是模仿学习在LLM推理微调中的代表性方案
RISED 的自蒸馏机制与 STaR、ReST 等迭代自改进方法思路一脉相承,核心都是用模型自己的成功案例引导自身进步
STaR(Self-Taught Reasoner)及各类蒸馏方案是模仿学习方法的代表