待验证50% 置信注意事项精确时间
奖励塑形需要谨慎设计，避免智能体利用奖励漏洞产生非预期行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径79% 相似待验证人类设计的奖励函数往往只能近似描述真实意图，模型足够强大时会利用奖励函数中的漏洞来最大化数值奖励却违背人类本意76% 相似待验证过于细碎的中间奖励可能引导智能体只追求局部目标而忽视全局最优解75% 相似待验证防范奖励劫持的通用思路是将验证逻辑置于智能体无法修改的沙箱之外，并在奖励计算时引入对解题路径合理性的校验75% 相似待验证在宝可梦类游戏中过于稀疏的奖励会导致智能体难以学习，研究者通常引入奖励塑形策略如探索新区域激励、捕捉精灵奖励、赢得对战反馈等74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064053API
curl https://kongchang.com/api/v1/knowledge/claims/1064053MCP
get_claim(id=1064053)