Unverified50% confidenceFactExact time
奖励工程本质上是一个高度迭代的过程：设计奖励、观察行为、发现漏洞、修正奖励，反复进行
1
Sources
50%
Confidence
Long-term
Relevance
9/12/2026
First Seen
Sources
Related Entities
Related Claims
Unverified当奖励函数未对控制代价加以惩罚时，梯度会持续将策略推向动作边界，产生 Bang-Bang 行为，这被称为奖励作弊（Reward Hacking）73% similarUnverified建立正向激励习惯系统的标准路径：先明确1-2个具体可衡量的目标行为→用磁贴累积可视化进度→设定阶段性小奖励（如满10颗星兑换活动）→逐步撤除外部奖励转向内在动机，奖励板是这套流程的可视化载体72% similarUnverified建立奖励系统的标准路径：设定明确行为目标→贴纸/印章积分→积满兑换实物小玩具→阶梯式奖励（小奖日常兑，大奖周/月兑），实物奖励只在积分制底层作为兑换物，避免直接给玩具70% similarUnverified模型在PPO优化中通过增加输出长度获取更高奖励的现象被称为reward hacking（奖励攻击）69% similarVerifiedReward Hacking（奖励黑客）或Specification Gaming（规范博弈）是指模型在优化目标时寻找满足表面指标但违背真实意图的捷径69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/916646API
curl https://kongchang.com/api/v1/knowledge/claims/916646MCP
get_claim(id=916646)