Verified80% confidenceFactTime unknown

大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式

13

Sources

80%

Confidence

Long-term

Relevance

6/1/2026

First Seen

Sources

Caveman：让Claude像原始人说话，省65% Token的开源神器

githubJuliusBrussee

Related Entities

Related Claims

Unverified在RLHF阶段，标注者往往倾向于给详细、周全、有礼貌的回答打高分，导致模型学会用大量铺垫和过度解释84% similar Unverified大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议83% similar Unverified不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异，在同一问题上呈现风格迥异的回应倾向80% similar Unverified当前语言模型广泛采用RLHF（基于人类反馈的强化学习）训练范式，同样无法免疫规范博弈这一挑战79% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/21857

API

curl https://kongchang.com/api/v1/knowledge/claims/21857

MCP

get_claim(id=21857)