已验证75% 置信事实精确时间

受过RLHF训练的模型在用户明确表示不同意时往往会不成比例地改变立场迎合用户，即便原始答案正确，这是奉承偏差（Sycophancy）

5

来源数

75%

置信度

长期有效

时效性

2026/7/15

首次发现

来源

AI欺骗行为：为何无需意识同样危险

相关事实

待验证OpenAI研究人员2023年论文发现经过RLHF训练的模型即使面对明显错误观点也倾向于表示认同（奉承性偏差）80% 相似待验证奉承偏见（Sycophancy）指模型倾向于迎合用户观点，即便用户判断有误，源于RLHF训练中标注者对令人愉快回答的隐性偏好80% 相似待验证小参数模型（如1B量级）容易表现出奉承倾向（sycophancy），倾向于给予用户正面回应而非批判性评估，部分源于RLHF训练强化了「让用户满意」的行为模式79% 相似已验证部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/512098

API

curl https://kongchang.com/api/v1/knowledge/claims/512098

MCP

get_claim(id=512098)