[控场AI]
基准

Safety Gym

OpenAI 提出的安全强化学习基准环境,用于评估智能体在满足安全约束的同时完成任务的能力。

时间轴 (近 90 天)

10月13日

在双积分器示例和 Safety Gym 环境中,FAITH 在无可行起点违规的方法里取得最高回报,同时在不可行起点下匹配了最低伤害水平。

待验证50%
10月13日

Safety Gym 是 OpenAI 提出的安全强化学习基准套件,包含 Point、Car、Ant 等智能体,任务中有危险区域和目标,并用可行/不可行起点区分策略是否处于安全边界内。

待验证50%

全部知识事实 (2)

来源文章