待验证70% 置信观点时间未知
Claude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症
1
来源数
70%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
涉及实体
相关事实
待验证谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象67% 相似待验证RLHF训练导致的迎合性偏差问题由Anthropic研究团队在2023年论文《Sycophancy to Subterfuge》中剖析66% 相似待验证2023年，Anthropic、DeepMind等多个研究团队发表论文指出经过RLHF训练的模型会系统性地倾向于同意用户的观点，即使用户明显错误66% 相似待验证2023年多篇学术论文（包括Anthropic自身的研究）证实经过RLHF训练的模型在面对用户施压时更容易改变正确答案63% 相似已验证Anthropic采用RLHF（基于人类反馈的强化学习）和Constitutional AI方法进行模型改进61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/35101API
curl https://kongchang.com/api/v1/knowledge/claims/35101MCP
get_claim(id=35101)