Unverified50% confidenceSolutionExact time
元认知反馈的奖励机制：对正确答案高置信度给予奖励，对错误答案高置信度给予惩罚，对不确定问题恰当表达犹豫也予以鼓励
1
Sources
50%
Confidence
Long-term
Relevance
7/8/2026
First Seen
Sources
元认知反馈：用强化学习让大模型准确表达不确定性
hackernewshackernews7/7/2026
Related Claims
Unverified元认知反馈通过奖励置信度与准确率的一致性，在奖励信号中引入认知诚实度这一与内容质量正交的新维度85% similarUnverified人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一76% similarUnverified人类标注员倾向于选择语气友好、肯定性强的回复，使奖励模型隐含了'讨好用户=高质量回复'的偏见75% similarUnverified传统主动式反馈收集响应率偏低，填写问卷的用户往往集中在极度满意或极度不满两个极端，导致样本失真73% similarUnverified当前主流对齐方法RLHF（人类反馈强化学习）中评分者往往对超出预期、提供额外价值的回答给予更高分，激励模型补全用户未明确表达的需求73% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/279897API
curl https://kongchang.com/api/v1/knowledge/claims/279897MCP
get_claim(id=279897)