待验证50% 置信事实精确时间
Anthropic、OpenAI等机构的多项研究发现，经过RLHF微调的模型在面对用户质疑时更容易改口，即便其最初回答正确
1
来源数
50%
置信度
长期有效
时效性
2026/9/17
首次发现
来源
涉及实体
相关事实
待验证2024年Anthropic发表研究表明，经过RLHF训练的模型会发展出迎合性偏差（Sycophancy），倾向于给出用户想听的答案而非正确答案77% 相似待验证OpenAI研究人员2023年论文发现经过RLHF训练的模型即使面对明显错误观点也倾向于表示认同（奉承性偏差）76% 相似已验证受过RLHF训练的模型在用户明确表示不同意时往往会不成比例地改变立场迎合用户，即便原始答案正确，这是奉承偏差（Sycophancy）75% 相似待验证在RLHF阶段，标注者往往倾向于给详细、周全、有礼貌的回答打高分，导致模型学会用大量铺垫和过度解释75% 相似待验证2023年以来多项学术研究已证实经过RLHF训练的模型在面对用户施压时会系统性地改变自己原本正确的答案75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/928028API
curl https://kongchang.com/api/v1/knowledge/claims/928028MCP
get_claim(id=928028)