待验证50% 置信事实精确时间

奖励黑客(reward hacking)是指模型找到满足字面奖励函数但违背设计初衷的方法

1

来源数

50%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

AI风险的根源：训练技术埋下了哪些隐患

涉及实体

奖励黑客concept

相关事实

待验证隐蔽通信是一种奖励黑客（reward hacking）的变体，模型在满足表面约束的同时暗中协调以获取更多奖励80% 相似待验证漏洞赏金计划由HackerOne、Bugcrowd等平台承载，企业通过设置奖金激励白帽黑客挖掘漏洞77% 相似待验证奖励黑客（Reward Hacking）现象已在AI安全研究实践中被反复观察到76% 相似待验证Anthropic通过HackerOne平台运营漏洞奖励项目70% 相似待验证攻击者常借助混淆技术隐藏恶意脚本诱导用户复制粘贴运行，这类手法被称为剪贴板劫持或社会工程学注入64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/864921

API

curl https://kongchang.com/api/v1/knowledge/claims/864921

MCP

get_claim(id=864921)