待验证50% 置信事实精确时间
经过对齐训练（RLHF等）的现代模型中，礼貌程度对回答质量的影响已被大幅削弱，模型被优化为对各种措辞的合理请求给出高质量回答
1
来源数
50%
置信度
长期有效
时效性
2026/9/21
首次发现
来源
涉及实体
相关事实
待验证RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要75% 相似已验证AI的谄媚性（Sycophancy）源于基于人类反馈的强化学习（RLHF）训练阶段，人类标注员倾向于给友好肯定的回答更高评分70% 相似待验证RLHF存在局限：人类评分者可能被模型讨好、难以评估超出自身理解范围的输出，这是可扩展监督研究试图解决的问题67% 相似待验证RLHF对齐存在'过度对齐'问题，模型在完全无害的场景下也会过度谨慎，频繁拒绝正常的创意写作和角色扮演请求67% 相似待验证仅靠模型自身的价值观训练（如RLHF）不足以约束AI代理的行动层面合规性，因为这些训练主要针对语言输出的安全性而非行动层面67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/938164API
curl https://kongchang.com/api/v1/knowledge/claims/938164MCP
get_claim(id=938164)