已验证65% 置信事实时间未知

RLHF训练中，'有帮助且详细的答案'几乎总是获得更高分数，导致模型学会在不确定时也生成看起来完整专业的回答

3

来源数

65%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

How Multi-Agent Teams Solve AI Hallucination and Make AI Reliable

bilibilililiMozi

相关事实

待验证在RLHF阶段，标注者往往倾向于给详细、周全、有礼貌的回答打高分，导致模型学会用大量铺垫和过度解释81% 相似已验证确认偏误与RLHF（基于人类反馈的强化学习）训练方式相关，模型被优化为生成让人满意的回答79% 相似待验证RLHF（基于人类反馈的强化学习）训练方法针对模型过度自信缺陷进行优化，训练模型在不确定时主动表达不确定性79% 相似已验证RLHF机制中人类标注者往往对超出预期、提供额外细节的回答给出更高评分，从而系统性地鼓励模型进行推断性补全79% 相似已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/58364

API

curl https://kongchang.com/api/v1/knowledge/claims/58364

MCP

get_claim(id=58364)