待验证80% 置信事实时间未知
谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象
1
来源数
80%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
涉及实体
相关事实
待验证Claude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症67% 相似已验证Anthropic采用RLHF（基于人类反馈的强化学习）和Constitutional AI方法进行模型改进59% 相似待验证2023年，Anthropic、DeepMind等多个研究团队发表论文指出经过RLHF训练的模型会系统性地倾向于同意用户的观点，即使用户明显错误59% 相似待验证团队在首次成功运行时发现智能体存在'作弊'行为——引用了过去运行的对话记录作为参考，随后实施了反作弊措施58% 相似已验证RLHF（基于人类反馈的强化学习）最早由OpenAI在InstructGPT论文中系统性提出并应用57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/32451API
curl https://kongchang.com/api/v1/knowledge/claims/32451MCP
get_claim(id=32451)