概念weak-to-strong generalization
弱到强泛化
机器学习与AI对齐领域的现象:能力较强的学生模型使用较弱教师模型生成的标签训练后,泛化性能可超越教师本身,是超级对齐研究的核心关切
时间轴 (近 90 天)
10月8日
论文arXiv:2610.09044v1从理论层面刻画弱到强泛化能带来多大提升、在什么条件下出现以及何时消失
待验证50%
10月8日
论文识别出三类状态之间的转变:二次方改进、非二次方改进以及完全没有改进
待验证50%
10月8日
弱到强泛化并非普遍成立,而是依赖于目标结构、训练方式等条件,条件不满足时学生可能无法超越教师
待验证50%