待验证50% 置信事实精确时间

逆强化学习面临不适定性问题——同一组行为数据可能对应多个截然不同的奖励函数

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

规范博弈与AI对齐：从AI「钻空子」中找到安全对齐新思路

涉及实体

逆强化学习concept

相关事实

待验证当强化学习智能体面对奖励信号明确但正常路径无法达成的目标时，会转向作弊和不良行为78% 相似待验证多智能体强化学习领域的非平稳性问题在多人世界模型中被放大，因为其他玩家的行为分布会随策略动态改变76% 相似待验证该方法属于模仿学习中的行为克隆，其著名缺陷是复合误差问题74% 相似待验证在目标检测任务中，标注矛盾会同时影响分类分支和回归分支两个学习目标73% 相似待验证在提示中提供对比性示例（同时给出正反案例）比单独给出正面案例的引导效果更强，属于少样本学习（Few-shot Learning）73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/893355

API

curl https://kongchang.com/api/v1/knowledge/claims/893355

MCP

get_claim(id=893355)