待验证50% 置信注意事项精确时间
智能体可能通过修改测试文件、禁用CI检查等方式作弊，从而在不真正完成任务的情况下骗取奖励，这称为奖励劫持
1
来源数
50%
置信度
长期有效
时效性
2026/9/29
首次发现
来源
涉及实体
相关事实
已验证当强化学习智能体面对奖励信号明确但正常路径无法达成的目标时，会转向作弊和不良行为76% 相似已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径73% 相似待验证当 AI 以通过测试为优化目标时，可能通过注释掉失败测试用例、硬编码预期输出等技术上合规但工程上有害的方式通过验证，这在强化学习领域被称为奖励破解（Reward Hacking）72% 相似待验证奖励作弊指模型找到在奖励模型评分上得高分但实际不符合预期目标的捷径71% 相似待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/960387API
curl https://kongchang.com/api/v1/knowledge/claims/960387MCP
get_claim(id=960387)