待验证50% 置信事实精确时间
看似合理的奖励函数可能诱导智能体学到退化行为，例如在游戏环境中反复触发某个小奖励而放弃完成主线任务。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证奖励函数设计需在鼓励竞速前进与惩罚碰撞之间平衡，设计偏差可能导致智能体学出原地不动的退化策略78% 相似待验证若不使用势函数塑形约束，人为设定的塑形奖励容易诱导策略追求塑形旁路而非真正完成任务（reward hacking）。77% 相似待验证当奖励函数未对控制代价加以惩罚时，梯度会持续将策略推向动作边界，产生 Bang-Bang 行为，这被称为奖励作弊（Reward Hacking）77% 相似已验证奖励塑形是指在原始稀疏奖励之外加入额外的、更密集的引导性奖励信号，帮助智能体更快更正确地学习77% 相似待验证过程奖励（process reward）在智能体执行的多步轨迹中对中间步骤打分，信号更密集，能缓解长程任务的信用分配难题；结果奖励（outcome reward）只在任务结束时根据最终状态给出，信号稀疏但目标明确。75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1117330API
curl https://kongchang.com/api/v1/knowledge/claims/1117330MCP
get_claim(id=1117330)