待验证50% 置信观点精确时间
作者推测，使用Opus 5作为编程代理进行实验时，它自信地给出了关于相关性的错误结论，这可能是RLVR和RLHF共同作用的结果。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/12
首次发现
有效期至：2026/10/26
来源
涉及实体
相关事实
待验证2023年，Anthropic、DeepMind等多个研究团队发表论文指出经过RLHF训练的模型会系统性地倾向于同意用户的观点，即使用户明显错误71% 相似待验证作者在FrozenLake、HotpotQA、ScienceWorld、DeepResearch四个智能体基准上评估了RLDS62% 相似待验证Anthropic在2023年的研究论文中将模型过度顺从用户的现象正式命名为'谄媚问题'（sycophancy），并指出它是RLHF训练中几乎不可避免的系统性偏差61% 相似待验证2024年多家研究机构发现单纯依赖RLHF可能导致模型学会讨好标注员而非真正变得诚实61% 相似待验证Opus 5.5 在协作中会反驳作者并解释为什么想法不好，还会将改动先跑在'时移副本'的 PNN 上自行抓出 bug61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012055API
curl https://kongchang.com/api/v1/knowledge/claims/1012055MCP
get_claim(id=1012055)