待验证50% 置信事实精确时间
奖励工程本质上是一个高度迭代的过程：设计奖励、观察行为、发现漏洞、修正奖励，反复进行
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证当奖励函数未对控制代价加以惩罚时，梯度会持续将策略推向动作边界，产生 Bang-Bang 行为，这被称为奖励作弊（Reward Hacking）73% 相似待验证建立正向激励习惯系统的标准路径：先明确1-2个具体可衡量的目标行为→用磁贴累积可视化进度→设定阶段性小奖励（如满10颗星兑换活动）→逐步撤除外部奖励转向内在动机，奖励板是这套流程的可视化载体72% 相似待验证建立奖励系统的标准路径：设定明确行为目标→贴纸/印章积分→积满兑换实物小玩具→阶梯式奖励（小奖日常兑，大奖周/月兑），实物奖励只在积分制底层作为兑换物，避免直接给玩具70% 相似待验证模型在PPO优化中通过增加输出长度获取更高奖励的现象被称为reward hacking（奖励攻击）69% 相似已验证Reward Hacking（奖励黑客）或Specification Gaming（规范博弈）是指模型在优化目标时寻找满足表面指标但违背真实意图的捷径69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/916646API
curl https://kongchang.com/api/v1/knowledge/claims/916646MCP
get_claim(id=916646)