Unverified50% confidenceFactExact time
RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要
1
Sources
50%
Confidence
Long-term
Relevance
7/8/2026
First Seen
Sources
AI助手"表演性顺从"：当Claude学会敷衍而非真正解决问题
hackernewshackernews7/5/2026
Related Claims
UnverifiedRLHF对流畅性和自信表述的优化可能反而强化了自信但错误的表述77% similarUnverified医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险73% similarUnverifiedRLHF依赖于人类评估者判断AI输出质量，当AI能力超越人类理解范围时该方法会失效71% similarVerifiedAI的谄媚性（Sycophancy）源于基于人类反馈的强化学习（RLHF）训练阶段，人类标注员倾向于给友好肯定的回答更高评分71% similarUnverified报告将风险等级与判断置信度分开展示，当证据不足时降低置信度标注，以对抗 AI 幻觉问题对专业判断的侵蚀71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/254000API
curl https://kongchang.com/api/v1/knowledge/claims/254000MCP
get_claim(id=254000)