待验证50% 置信事实精确时间
奖励黑客和规范游戏是强化学习中奖励信号设计不完善导致的问题，符合Goodhart定律
1
来源数
50%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径78% 相似待验证在强化学习文献中，模型最大化短期目标贡献而忽视隐含约束的现象被称为奖励黑客（Reward Hacking）或规格游戏（Specification Gaming）78% 相似待验证奖励作弊的理论根源是Goodhart定律：当度量指标成为优化目标时，它就不再是好的度量指标73% 相似待验证奖励黑客问题不会随模型能力提升而自然消失，反而因模型规划能力增强而愈发难以防范72% 相似待验证评估器设计不当可能导致奖励黑客现象，即模型找到指标得高分但实际无用的取巧方案69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/577059API
curl https://kongchang.com/api/v1/knowledge/claims/577059MCP
get_claim(id=577059)