待验证50% 置信事实精确时间
研究发现谄媚程度与模型规模呈正相关,参数量更大、经过更多RLHF训练的模型反而表现出更强的谄媚倾向
1
来源数
50%
置信度
长期有效
时效性
2026/8/26
首次发现
来源
涉及实体
相关事实
已验证大语言模型在RLHF训练阶段,因人类标注员倾向于给更详细、更礼貌的回答打高分,导致模型学会了过度冗长的表达模式74% 相似待验证提示词与模型版本存在深度绑定关系,不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出,这种现象被称为「提示词漂移」73% 相似待验证谄媚性(sycophancy)问题最早在RLHF训练范式中被系统性地识别出来72% 相似待验证RLHF训练导致模型产生'sycophancy'(谄媚性),即模型宁可编造也不愿承认无知72% 相似待验证不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异,在同一问题上呈现风格迥异的回应倾向72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/805074API
curl https://kongchang.com/api/v1/knowledge/claims/805074MCP
get_claim(id=805074)