概念Occupancy Measure
占用度量
刻画策略在MDP中访问状态-动作对频率的分布,策略π的占用度量d^π(s,a)表示状态-动作对的期望访问次数,基于其的算法可全局控制误差累积。
时间轴 (近 90 天)
10月12日
占用度量d^π(s,a)刻画策略π在MDP中访问状态-动作对(s,a)的期望次数或归一化分布,在情景式MDP中同时编码了策略的长期行为。
待验证50%
10月12日
基于占用度量的算法将策略优化问题重写为在占用度量多面体上的凸优化,从而全局控制所有状态-动作对上的误差累积,这是其遗憾界少一个H因子的根本原因。
待验证50%