[控场AI]
概念Safe RL

安全强化学习

强化学习的一个分支,旨在学习策略时同时满足安全约束,避免产生不可接受的违规行为,通常基于约束马尔可夫决策过程框架。

时间轴 (近 90 天)

10月13日

FAITH 是一个无模型的安全强化学习框架,它近似最优状态-动作安全价值,并用前馈网络摊销最小干预过滤过程。

待验证50%
9月12日

安全强化学习(Safe RL)在优化目标中显式加入安全约束,确保智能体探索时不越过危险边界

待验证50%

全部知识事实 (2)

来源文章