概念Generalized Teacher Forcing / 广义教师强制
GTF
广义教师强制,一种针对动力学系统重建的RNN训练技术,通过可调混合系数将真实观测与模型预测按比例混合输入,减少暴露偏差并在混沌系统中发挥吸引子正则化作用
时间轴 (近 90 天)
10月1日
研究团队引入广义教师强制(GTF)来稳定DEER,使其迭代过程重新可控、可收敛
待验证50%
10月1日
相比传统教师强制,GTF能够减少暴露偏差(训练时依赖真实数据、推理时依赖自身预测造成的分布错配问题)
待验证50%
10月1日
GTF通过可调的混合系数将真实观测与模型自身预测按比例混合后输入下一步,在训练早期偏向真实数据,随训练推进逐渐增大模型自预测比重
待验证50%