概念distribution mismatch
分布错配
教师-学生框架中,教师和学生推理分布不一致的问题,随序列长度累积导致监督信号噪声化。
时间轴 (近 90 天)
11月3日
前缀越长,学生生成的前缀与老师熟悉分布的错配越严重。
待验证50%
11月3日
任务级RLVR虽然提升了老师的独立解题能力,但没有解决教师-学生间的分布错配问题。
待验证50%
教师-学生框架中,教师和学生推理分布不一致的问题,随序列长度累积导致监督信号噪声化。
前缀越长,学生生成的前缀与老师熟悉分布的错配越严重。
任务级RLVR虽然提升了老师的独立解题能力,但没有解决教师-学生间的分布错配问题。