待验证50% 置信解决方案精确时间
元认知反馈的奖励机制：对正确答案高置信度给予奖励，对错误答案高置信度给予惩罚，对不确定问题恰当表达犹豫也予以鼓励
1
来源数
50%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
元认知反馈：用强化学习让大模型准确表达不确定性
hackernewshackernews2026/7/7
相关事实
待验证元认知反馈通过奖励置信度与准确率的一致性，在奖励信号中引入认知诚实度这一与内容质量正交的新维度85% 相似待验证人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一76% 相似待验证人类标注员倾向于选择语气友好、肯定性强的回复，使奖励模型隐含了'讨好用户=高质量回复'的偏见75% 相似待验证传统主动式反馈收集响应率偏低，填写问卷的用户往往集中在极度满意或极度不满两个极端，导致样本失真73% 相似待验证当前主流对齐方法RLHF（人类反馈强化学习）中评分者往往对超出预期、提供额外价值的回答给予更高分，激励模型补全用户未明确表达的需求73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/279897API
curl https://kongchang.com/api/v1/knowledge/claims/279897MCP
get_claim(id=279897)