Unverified60% confidenceTradeoffExact time
自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）
2
Sources
60%
Confidence
Long-term
Relevance
8/7/2026
First Seen
Sources
Related Claims
Unverified奖励塑形能否生效取决于它是否改变了样本间的相对优势，而非绝对奖励值79% similarUnverified在有客观成败标准的领域，把主观满意度当作优化目标是危险的，评估信号应贴近业务真值78% similarUnverified激励功能有效性因人而异：站立提醒、久坐提醒、目标达成勋章对自律性弱者效果有限，社交排行榜（好友PK）对有竞争心理的用户激励更持久，选购时匹配自身性格74% similarUnverifiedTRACER 设计层次化奖励，同时在结果层面和轨迹层面给出奖励信号，并结合偏差感知的优势调制以缓解奖励稀疏和信用分配问题74% similarUnverified奖励塑形（Reward Shaping）通过设计中间奖励引导学习方向，如将对Boss造成每点伤害设为中间奖励74% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/701165API
curl https://kongchang.com/api/v1/knowledge/claims/701165MCP
get_claim(id=701165)