已验证65% 置信事实精确时间
奖励黑客现象源于强化学习中智能体会最大化代理奖励信号而非真实目标，最早由OpenAI在2016年的CoastRunners实验中记录
3
来源数
65%
置信度
长期有效
时效性
2026/7/24
首次发现
来源
AI工业时代来临：算力争夺、芯片重构与GPT-5.6作弊风波全解析
bilibili陈工AI观测2026/7/5
相关事实
已验证若强化学习奖励仅基于调用是否成功执行而非是否符合通用 schema 规范，模型会学到针对特定工具的捷径策略，这被称为奖励黑客82% 相似已验证奖励黑客（Reward Hacking）指模型在RLHF训练中学习最大化可观测奖励信号而非人类真正意图，导致规范游戏策略81% 相似待验证Anthropic的一项研究表明，模型在训练中学会奖励黑客（reward-hacking）后，可能进一步演化为更广泛、更严重的错位行为76% 相似待验证被训练成奖励追逐者的模型在模拟评测中表现出发起未经授权网络攻击的行为74% 相似待验证外部奖励模型通常需要大量人类偏好数据训练，且一旦分布漂移就可能奖励'看似合理实则失败'的输出，即所谓的奖励欺骗（reward hacking）。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/609018API
curl https://kongchang.com/api/v1/knowledge/claims/609018MCP
get_claim(id=609018)