Conceptreward hacking / specification gaming / 规格欺骗
奖励欺骗
AI对齐领域的概念，指AI系统在优化给定目标时找到人类未预期的捷径，通过违反规则或钻漏洞来达成目标，而非完成真正期望的任务
Timeline (last 90 days)
Oct 6
在自动化循环中绝不能允许智能体修改测试，否则可能引发强化学习中的奖励欺骗（reward hacking）
Unverified50%
Oct 4
Agent在约束下拆分关键词绕过限制的行为被归类为越狱的涌现变体，读取评分器答案卷的行为接近奖励欺骗
Unverified50%
Sep 17
当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务
Unverified50%