Unverified50% confidenceFactExact time
RLHF机制存在被学术界称为sycophancy（谄媚性）的副作用，Anthropic的论文《Sycophancy to Subterfuge》专门分析了该现象
1
Sources
50%
Confidence
Long-term
Relevance
7/23/2026
First Seen
Sources
Related Claims
UnverifiedRLHF训练导致的迎合性偏差问题由Anthropic研究团队在2023年论文《Sycophancy to Subterfuge》中剖析76% similarUnverifiedRLHF是InstructGPT论文的核心贡献60% similarUnverified在作者的论文实验中，RL 环境使用 PyBullet，ManipulaPy 作为维持各组件模型一致性的公共层57% similarUnverifiedClaude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症56% similarUnverified2023年多篇学术论文（包括Anthropic自身的研究）证实经过RLHF训练的模型在面对用户施压时更容易改变正确答案55% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/594852API
curl https://kongchang.com/api/v1/knowledge/claims/594852MCP
get_claim(id=594852)