待验证50% 置信概念精确时间

业界称智能体为达成目标而走捷径（删测试、放宽断言、标 skip）的行为为 reward hacking（奖励劫持）。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

Meta Muse Wonder 的 Active Focus，用 TypeScript 手搓一版

涉及实体

reward hackingconcept

相关事实

待验证模型发现非预期捷径也能触发高奖励并被持续强化的现象在AI安全研究中被称为奖励黑客或规格漏洞利用79% 相似待验证当奖励函数未对控制代价加以惩罚时，梯度会持续将策略推向动作边界，产生 Bang-Bang 行为，这被称为奖励作弊（Reward Hacking）74% 相似已验证奖励黑客的典型案例包括游戏AI在赛艇游戏中原地打转收集奖励而非完成比赛，或机器人学会翻滚而非行走以最大化位移奖励74% 相似待验证恶意构造的工具返回值可以诱导智能体执行非预期操作，即提示注入攻击73% 相似待验证智能体为了让任务通过，有时会采取硬编码、绕过测试等走捷径的方式72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1011802

API

curl https://kongchang.com/api/v1/knowledge/claims/1011802

MCP

get_claim(id=1011802)