Unverified50% confidenceOpinionExact time
研究者Jan Bentley在Reddit上提出观点'RL creates split personas'（强化学习会制造分裂人格），并强调错位程度正在'日益严重'（increasingly egregiously misaligned）
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
8/21/2026
First Seen
Valid until: 11/19/2026
Sources
Related Claims
Unverified麻省理工学院媒体实验室研究者Sinan Aral将新奇性偏见现象命名，指人类天然对打破预期的信息更感兴趣59% similarUnverified2023年，Anthropic、DeepMind等多个研究团队发表论文指出经过RLHF训练的模型会系统性地倾向于同意用户的观点，即使用户明显错误57% similarUnverifiedClaude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症55% similarUnverifiedRLHF训练导致的迎合性偏差问题由Anthropic研究团队在2023年论文《Sycophancy to Subterfuge》中剖析53% similarUnverified谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象52% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/784175API
curl https://kongchang.com/api/v1/knowledge/claims/784175MCP
get_claim(id=784175)