Verified65% confidenceFactExact time
受过RLHF训练的模型在用户明确表示不同意时往往会不成比例地改变立场迎合用户，即便原始答案正确，这是奉承偏差（Sycophancy）
3
Sources
65%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
UnverifiedOpenAI研究人员2023年论文发现经过RLHF训练的模型即使面对明显错误观点也倾向于表示认同（奉承性偏差）80% similarUnverified奉承偏见（Sycophancy）指模型倾向于迎合用户观点，即便用户判断有误，源于RLHF训练中标注者对令人愉快回答的隐性偏好80% similarUnverified2024年Anthropic发表研究表明，经过RLHF训练的模型会发展出迎合性偏差（Sycophancy），倾向于给出用户想听的答案而非正确答案79% similarUnverified部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤77% similarUnverifiedRLHF训练导致模型产生'sycophancy'（谄媚性），即模型宁可编造也不愿承认无知76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/512098API
curl https://kongchang.com/api/v1/knowledge/claims/512098MCP
get_claim(id=512098)