待验证50% 置信事实精确时间
大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议
1
来源数
50%
置信度
长期有效
时效性
2026/7/17
首次发现
来源
相关事实
已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式83% 相似待验证不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异，在同一问题上呈现风格迥异的回应倾向82% 相似待验证模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差80% 相似待验证研究者尝试通过指令微调（Instruction Tuning）和基于人类反馈的强化学习（RLHF）改善模型的语用理解，但本质上是在统计模型上叠加启发式规则80% 相似待验证提示词与模型版本存在深度绑定关系，不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出，这种现象被称为「提示词漂移」77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/543342API
curl https://kongchang.com/api/v1/knowledge/claims/543342MCP
get_claim(id=543342)