Unverified50% confidenceTradeoffExact time
自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）
1
Sources
50%
Confidence
Long-term
Relevance
8/7/2026
First Seen
Sources
Related Claims
Unverified激励功能有效性因人而异：站立提醒、久坐提醒、目标达成勋章对自律性弱者效果有限，社交排行榜（好友PK）对有竞争心理的用户激励更持久，选购时匹配自身性格74% similarUnverified奖励塑形（Reward Shaping）通过设计中间奖励引导学习方向，如将对Boss造成每点伤害设为中间奖励74% similarUnverified人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一71% similarUnverified元认知反馈的奖励机制：对正确答案高置信度给予奖励，对错误答案高置信度给予惩罚，对不确定问题恰当表达犹豫也予以鼓励70% similarUnverifiedAlpha优势具有自我消亡属性，一旦被广泛发现和使用，套利行为会消除价差，导致因子随市场参与者增加而衰减70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/701165API
curl https://kongchang.com/api/v1/knowledge/claims/701165MCP
get_claim(id=701165)