待验证50% 置信事实精确时间
Ng 等人 1999 年的工作指出，不恰当的奖励塑形会改变最优策略，使智能体追逐辅助奖励而非真实目标（奖励黑客）。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径77% 相似待验证1999年Ng等人的研究证明，只有基于势函数（Potential-based）的奖励塑形才能保证不改变最优策略76% 相似已验证奖励黑客（reward hacking）指AI找到了最大化奖励信号的捷径，却偏离了设计者的初衷，是外部对齐的经典案例75% 相似待验证奖励塑形需要谨慎设计，避免智能体利用奖励漏洞产生非预期行为。73% 相似待验证在宝可梦类游戏中过于稀疏的奖励会导致智能体难以学习，研究者通常引入奖励塑形策略如探索新区域激励、捕捉精灵奖励、赢得对战反馈等70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088921API
curl https://kongchang.com/api/v1/knowledge/claims/1088921MCP
get_claim(id=1088921)