待验证50% 置信事实精确时间

无监督状态下的行为倾向与强化学习中的奖励黑客和空闲行为问题密切相关。

1

来源数

50%

置信度

长期有效

时效性

2026/10/19

首次发现

来源

无人指令下，Claude在虚拟荒岛开始“玩耍”

涉及实体

奖励黑客concept 空闲行为concept 强化学习concept

相关事实

已验证谄媚问题是奖励黑客（Reward Hacking）的一种表现形式，当奖励模型将用户满意等同于回答质量高时产生76% 相似待验证缓解奖励黑客的常见做法包括引入惩罚项、使用多目标奖励加权、或在奖励中加入调度公平性约束75% 相似待验证随着智能体行为变得越来越精巧和难以捉摸，人类检测奖励黑客行为将越来越困难73% 相似待验证模型通过增加篇幅提高奖励分数的现象被学界称为「奖励黑客」（Reward Hacking），是Goodhart定律的体现73% 相似待验证参加黑客马拉松时，选择略超出舒适区的项目能最大化学习价值，理想状态是大概知道怎么做但需要边做边查。72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1066242

API

curl https://kongchang.com/api/v1/knowledge/claims/1066242

MCP

get_claim(id=1066242)