RV-PI
一种用于优化神经算子PDE求解的强化学习策略改进方法,通过真实轨迹rollout评估修正的长程收益,并采用保守的验证门槛来稳定策略更新
时间轴 (近 90 天)
论文最关键的贡献是提出了rollout-verified policy improvement(RV-PI,Rollout验证的策略改进)
RV-PI通过真实延续rollout评估修正方案,将长程优势转化为保守的策略目标,并只有在留出轨迹误差改善时才接受更新
RV-PI放弃了价值网络的估计,直接用已学习的PDE求解器过一遍真实后续轨迹来获得真实优势信号
在浅水方程基准、32次干预预算下,RV-PI三随机种子平均轨迹相对L2误差为0.6910,相比即时策略改进提升5.37%,相比随机宏观策略提升2.41%
RV-PI在两类基准上都稳定优于即时策略改进和随机宏观策略两个对照方法
在固定修正预算下,一次局部纠偏的价值取决于它对自回归轨迹的下游效应,而不仅仅是即时误差削减
RV-PI的保守接受机制在精神上类似PPO的裁剪机制,但将安全性判据从参数空间的KL散度换成了任务空间的轨迹误差
全部知识事实 (7)
论文最关键的贡献是提出了rollout-verified policy improvement(RV-PI,Rollout验证的策略改进)
50%待验证RV-PI通过真实延续rollout评估修正方案,将长程优势转化为保守的策略目标,并只有在留出轨迹误差改善时才接受更新
50%待验证RV-PI放弃了价值网络的估计,直接用已学习的PDE求解器过一遍真实后续轨迹来获得真实优势信号
50%待验证在浅水方程基准、32次干预预算下,RV-PI三随机种子平均轨迹相对L2误差为0.6910,相比即时策略改进提升5.37%,相比随机宏观策略提升2.41%
50%待验证RV-PI在两类基准上都稳定优于即时策略改进和随机宏观策略两个对照方法
50%待验证在固定修正预算下,一次局部纠偏的价值取决于它对自回归轨迹的下游效应,而不仅仅是即时误差削减
50%待验证RV-PI的保守接受机制在精神上类似PPO的裁剪机制,但将安全性判据从参数空间的KL散度换成了任务空间的轨迹误差
50%