Unverified50% confidenceOpinionExact time

RLHF机制中人类标注者往往对超出预期、提供额外细节的回答给出更高评分，从而系统性地鼓励模型进行推断性补全

1

Sources

50%

Confidence

Long-term

Relevance

7/10/2026

First Seen

Sources

旗舰模型vs本地27B：谁更忠实执行代码指令？

redditr/ollama7/9/2026

Related Claims

UnverifiedRLHF机制存在结构性偏置，任务已完成比任务存在问题更容易获得正向反馈，使模型倾向报告积极结果83% similar Unverified在RLHF阶段，标注者往往倾向于给详细、周全、有礼貌的回答打高分，导致模型学会用大量铺垫和过度解释82% similar UnverifiedRLMF的核心思路是优化模型如何准确表达自己对答案的把握程度，而非单纯优化模型说什么81% similar VerifiedRLHF训练中，'有帮助且详细的答案'几乎总是获得更高分数，导致模型学会在不确定时也生成看起来完整专业的回答79% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/461651

API

curl https://kongchang.com/api/v1/knowledge/claims/461651

MCP

get_claim(id=461651)