已验证65% 置信权衡取舍精确时间

RLHF存在局限性：人类标注者有偏见和不一致性、奖励模型可能被过度优化（奖励黑客）、流程成本高昂难以扩展

3

来源数

65%

置信度

长期有效

时效性

2026/7/15

首次发现

来源

AI大模型入门：核心概念、发展历程与国产模型格局

相关事实

待验证标准RLHF存在奖励黑客问题，模型可能通过迎合评分者偏好而非真正提升质量来最大化奖励，是Goodhart定律的体现79% 相似待验证RLHF中人类评估者在主观创作判断时倾向给予结构完整、措辞礼貌的答案更高分，这种偏差被称为奖励黑客的一种变体78% 相似已验证传统RLHF依赖人工标注员的偏好判断，成本高且存在标注质量瓶颈77% 相似待验证RLHF依赖大量人工标注构建奖励信号，成本更高但更能捕捉隐性的人类偏好75% 相似待验证人类标注员在RLHF评分时倾向于给措辞流畅、结构清晰、长度适中的答案打高分，导致对齐税和输出多样性下降74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/515616

API

curl https://kongchang.com/api/v1/knowledge/claims/515616

MCP

get_claim(id=515616)