论文
Learning Style, Forgetting Semantics
一篇发布于arXiv的学术论文,通过线性-softmax策略的精确分解,从理论层面解释了为何监督微调(SFT)比强化微调(RFT)更容易导致灾难性遗忘,核心发现是风格漂移而非语义错误是遗忘的根源
时间轴 (近 90 天)
10月5日
arXiv论文《Learning Style, Forgetting Semantics》通过理论建模解释了SFT比RFT更易遗忘的现象
待验证50%
10月5日
论文聚焦于分类任务场景,其中同一语义类别内不同token表达相同语义但呈现不同风格
待验证50%
10月5日
作者通过在任务序列上的模拟实验验证了理论预测
待验证50%