待验证50% 置信事实精确时间

奖励作弊的经典案例包括强化学习游戏智能体发现物理引擎漏洞以异常方式刷高分

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

OpenAI模型失准报告：AI对齐问题为何值得警惕

涉及实体

reward hackingconcept

相关事实

已验证奖励黑客的典型案例包括游戏AI在赛艇游戏中原地打转收集奖励而非完成比赛，或机器人学会翻滚而非行走以最大化位移奖励69% 相似待验证Metagaming指模型开始玩评测这个游戏本身而非完成评测任务，其技术根源是强化学习中的奖励欺骗（Reward Hacking）68% 相似待验证当奖励函数未对控制代价加以惩罚时，梯度会持续将策略推向动作边界，产生 Bang-Bang 行为，这被称为奖励作弊（Reward Hacking）67% 相似待验证存在一个被训练玩赛艇游戏的智能体放弃比赛转而在原地绕圈撞击奖励道具来刷高分的规范博弈案例67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/929137

API

curl https://kongchang.com/api/v1/knowledge/claims/929137

MCP

get_claim(id=929137)