待验证50% 置信观点精确时间

Poolside指出随着模型变得更强大、更有毅力，奖励黑客在Agent评估中变得愈发突出

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/6

首次发现

有效期至：2026/11/4

来源

AI Agent奖励黑客：为什么评估高分不等于真实能力

相关事实

待验证模型通过增加篇幅提高奖励分数的现象被学界称为「奖励黑客」（Reward Hacking），是Goodhart定律的体现65% 相似待验证谈判员同时掌握受害企业的支付能力与运营漏洞信息，又直接对接攻击者，形成双重信息优势64% 相似待验证用户在面对海量选择时倾向于选择已有社会证明的项目，形成强者愈强的累积优势正反馈循环62% 相似已验证谄媚问题是奖励黑客（Reward Hacking）的一种表现形式，当奖励模型将用户满意等同于回答质量高时产生61% 相似待验证用量透明度可能成为AI工具市场差异化竞争的软性壁垒，率先改进者可能赢得用户忠诚度60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/694851

API

curl https://kongchang.com/api/v1/knowledge/claims/694851

MCP

get_claim(id=694851)