已验证80% 置信事实时间未知

大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式

13

来源数

80%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Caveman：让Claude像原始人说话，省65% Token的开源神器

githubJuliusBrussee

涉及实体

相关事实

待验证在RLHF阶段，标注者往往倾向于给详细、周全、有礼貌的回答打高分，导致模型学会用大量铺垫和过度解释84% 相似待验证大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议83% 相似待验证不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异，在同一问题上呈现风格迥异的回应倾向80% 相似待验证当前语言模型广泛采用RLHF（基于人类反馈的强化学习）训练范式，同样无法免疫规范博弈这一挑战79% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/21857

API

curl https://kongchang.com/api/v1/knowledge/claims/21857

MCP

get_claim(id=21857)