概念
time_horizon
强化学习中每个环境在策略更新前收集的时间步数,影响轨迹长度和优势估计。
时间轴 (近 90 天)
10月13日
time_horizon不能无限缩短,对于四足行走这类需要多步协调动作的任务,过短的horizon会让智能体难以观察到完整步态周期,优势估计会因频繁bootstrap而偏差。
待验证50%
强化学习中每个环境在策略更新前收集的时间步数,影响轨迹长度和优势估计。
time_horizon不能无限缩短,对于四足行走这类需要多步协调动作的任务,过短的horizon会让智能体难以观察到完整步态周期,优势估计会因频繁bootstrap而偏差。