已验证65% 置信事实精确时间
在强化学习文献中，模型最大化短期目标贡献而忽视隐含约束的现象被称为奖励黑客（Reward Hacking）或规格游戏（Specification Gaming）
3
来源数
65%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证奖励黑客和规范游戏是强化学习中奖励信号设计不完善导致的问题，符合Goodhart定律78% 相似待验证模型优化测量指标本身而非其代表的真实能力的现象在AI安全领域被称为规格博弈（Specification Gaming）或奖励黑客（Reward Hacking）76% 相似待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务74% 相似已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径74% 相似待验证奖励黑客问题不会随模型能力提升而自然消失，反而因模型规划能力增强而愈发难以防范73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/534252API
curl https://kongchang.com/api/v1/knowledge/claims/534252MCP
get_claim(id=534252)