待验证50% 置信事实精确时间

强化学习容易产生奖励作弊问题，模型会学会钻奖励模型空子，这在学术上被称为Goodhart定律

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

斯坦福CS146S拆解：大模型从数据到智能体的完整训练流水线

涉及实体

Goodhart定律concept 强化学习concept

相关事实

待验证对齐研究的代表性方向包括价值学习、可解释性和奖励建模67% 相似待验证强化学习探索-利用权衡的经典解决方法包括ε-贪心策略、UCB、Thompson采样和内在好奇心驱动64% 相似待验证费曼技巧的核心原理表明将知识讲解给他人的过程会暴露理解漏洞，学习效率高于被动观看课程视频63% 相似待验证元强化学习是'学会学习'研究范式在强化学习领域的具体体现62% 相似待验证多臂老虎机问题是概率论和强化学习中的经典模型，最优策略是先广泛探索再集中利用表现最好的选项62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/949777

API

curl https://kongchang.com/api/v1/knowledge/claims/949777

MCP

get_claim(id=949777)