概念
SARSA
一种 on-policy 的时序差分(TD)控制算法,使用实际执行的动作来更新动作价值函数 Q(s,a),行为策略与目标策略一致。
时间轴 (近 90 天)
10月14日
在探索性强、风险高的环境中,Q-learning 更激进,SARSA 更保守,两者可能收敛到不同的策略。
待验证50%
8月29日
SARSA是一种在策略(on-policy)的时序差分学习算法,根据智能体实际采取的动作序列来更新价值估计
待验证50%
8月26日
Q-Learning 是 off-policy 的 TD 控制方法,直接学习最优动作价值函数;SARSA 是 on-policy 方法,更新时使用智能体实际选择的下一个动作
待验证50%
8月26日
Q-Learning 与 SARSA 的核心区别在于更新目标中是取 max(Q-Learning)还是取实际执行的动作值(SARSA),SARSA 在悬崖行走等环境中会学习到更保守但更安全的策略
待验证50%
全部知识事实 (4)
待验证
在探索性强、风险高的环境中,Q-learning 更激进,SARSA 更保守,两者可能收敛到不同的策略。
50%待验证SARSA是一种在策略(on-policy)的时序差分学习算法,根据智能体实际采取的动作序列来更新价值估计
50%待验证Q-Learning 是 off-policy 的 TD 控制方法,直接学习最优动作价值函数;SARSA 是 on-policy 方法,更新时使用智能体实际选择的下一个动作
50%待验证Q-Learning 与 SARSA 的核心区别在于更新目标中是取 max(Q-Learning)还是取实际执行的动作值(SARSA),SARSA 在悬崖行走等环境中会学习到更保守但更安全的策略
50%