基准
Safety Gym
OpenAI 提出的安全强化学习基准环境,用于评估智能体在满足安全约束的同时完成任务的能力。
时间轴 (近 90 天)
10月13日
在双积分器示例和 Safety Gym 环境中,FAITH 在无可行起点违规的方法里取得最高回报,同时在不可行起点下匹配了最低伤害水平。
待验证50%
10月13日
Safety Gym 是 OpenAI 提出的安全强化学习基准套件,包含 Point、Car、Ant 等智能体,任务中有危险区域和目标,并用可行/不可行起点区分策略是否处于安全边界内。
待验证50%