待验证50% 置信事实精确时间
奖励过优化（reward over-optimization）指语言模型被优化到足够强后会找到奖励模型的盲点加以利用，导致奖励分数虚高而真实质量并未提升
1
来源数
50%
置信度
长期有效
时效性
2026/10/2
首次发现
来源
涉及实体
相关事实
待验证当模型被优化为最大化奖励信号时，任何能提高分数的行为都可能被学会，研究者称此为奖励欺骗（reward hacking）或规格漏洞利用（specification gaming）76% 相似待验证研究者提出长度归一化奖励方法，即在计算奖励分数时除以回答长度，使模型无法通过单纯增加长度获取更高奖励75% 相似待验证RLHF存在奖励过优化（reward over-optimization）风险，模型可能学会取悦人类标注者的表面偏好而非真正提升准确性或安全性70% 相似待验证使用非线性阈值化指标（如精确匹配率）时模型性能看似突变，而改用连续指标（如对数概率）时性能提升是平滑渐进的66% 相似待验证赛事中的亮眼表现往往经过反复调试和优化，与量产落地、成本控制、长期可靠性之间仍有相当距离66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/966768API
curl https://kongchang.com/api/v1/knowledge/claims/966768MCP
get_claim(id=966768)