[控场AI]
概念Generalized Advantage Estimation / 广义优势估计

GAE

强化学习中用于估计优势函数的经典算法,通过对TD误差的指数加权平均在偏差与方差之间取得平衡,广泛应用于策略梯度类算法的实现中

时间轴 (近 90 天)

10月16日

Waypoint-OPD可以看作把'多步差分'(类似GAE中降低单步估计方差的思想)引入跨模型蒸馏中,用中间检查点检验偏移方向的稳定性。

待验证50%
10月13日

当并行环境数从10扩展到1000且buffer_size不变时,分摊到每个环境的轨迹长度会被压缩到原来的1/100,导致轨迹严重截断,破坏GAE对回报的估计。

待验证50%

全部知识事实 (2)

来源文章