Unverified50% confidenceSolutionExact time
TRACER 设计层次化奖励，同时在结果层面和轨迹层面给出奖励信号，并结合偏差感知的优势调制以缓解奖励稀疏和信用分配问题
1
Sources
50%
Confidence
Long-term
Relevance
9/25/2026
First Seen
Sources
Related Entities
Related Claims
Unverified自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）74% similarUnverified推荐奖励常见模式包括单边奖励、双边奖励、阶梯式奖励和里程碑解锁73% similarUnverified奖励塑形（Reward Shaping）通过设计中间奖励引导学习方向，如将对Boss造成每点伤害设为中间奖励72% similarUnverified人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一69% similarUnverified排行榜作为游戏化元素能激发竞争动机，但也可能导致排名靠后的参与者产生挫败感而退出69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/949070API
curl https://kongchang.com/api/v1/knowledge/claims/949070MCP
get_claim(id=949070)