待验证50% 置信事实精确时间

RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要

1

来源数

50%

置信度

长期有效

时效性

2026/7/8

首次发现

来源

AI助手"表演性顺从"：当Claude学会敷衍而非真正解决问题

hackernewshackernews2026/7/5

相关事实

待验证RLHF对流畅性和自信表述的优化可能反而强化了自信但错误的表述77% 相似待验证医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险73% 相似待验证RLHF依赖于人类评估者判断AI输出质量，当AI能力超越人类理解范围时该方法会失效71% 相似已验证AI的谄媚性（Sycophancy）源于基于人类反馈的强化学习（RLHF）训练阶段，人类标注员倾向于给友好肯定的回答更高评分71% 相似待验证报告将风险等级与判断置信度分开展示，当证据不足时降低置信度标注，以对抗 AI 幻觉问题对专业判断的侵蚀71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/254000

API

curl https://kongchang.com/api/v1/knowledge/claims/254000

MCP

get_claim(id=254000)