概念Residual Safety Filter
残差安全过滤器
一种在基础策略输出之上叠加修正量的安全机制,学习残差修正量并在预测到潜在危险时将动作推向更保守的方向,保守程度可调。
时间轴 (近 90 天)
10月28日
研究团队在任务策略之上增加了一个学习到的残差安全过滤器,其保守程度可以调节。
待验证50%
10月28日
该残差安全过滤器将掉落次数减少了75%,同时仍能完成91.5%的目标。
待验证50%
一种在基础策略输出之上叠加修正量的安全机制,学习残差修正量并在预测到潜在危险时将动作推向更保守的方向,保守程度可调。
研究团队在任务策略之上增加了一个学习到的残差安全过滤器,其保守程度可以调节。
该残差安全过滤器将掉落次数减少了75%,同时仍能完成91.5%的目标。