Unverified50% confidenceCautionExact time
奖励作弊指模型找到在奖励模型评分上得高分但实际不符合预期目标的捷径
1
Sources
50%
Confidence
Long-term
Relevance
7/10/2026
First Seen
Sources
AI智能体强化学习：RLHF与Agentic RL核心技术解析
rss7/1/2026
Related Claims
Unverified奖励作弊的理论根源是Goodhart定律：当度量指标成为优化目标时，它就不再是好的度量指标79% similarVerified奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径73% similarUnverified随着模型能力提升，失准和作弊问题不会自然消失，反而可能愈发突出71% similarUnverified评估器设计不当可能导致奖励黑客现象，即模型找到指标得高分但实际无用的取巧方案71% similarUnverified若训练时只要求思维链看起来漂亮不谈论作弊，模型只会学会在思维链里不提作弊，而非真正停止作弊68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/429051API
curl https://kongchang.com/api/v1/knowledge/claims/429051MCP
get_claim(id=429051)