Unverified50% confidenceBenchmarkExact time
斯坦福CRFM团队的HELM基准测试发现，经过RLHF对齐的模型在创意写作任务上的词汇多样性指标普遍低于对应的基础预训练模型
1
Sources
50%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
Unverified大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议75% similarUnverified提示词与模型版本存在深度绑定关系，不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出，这种现象被称为「提示词漂移」75% similarUnverified模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差75% similarUnverified研究者尝试通过指令微调（Instruction Tuning）和基于人类反馈的强化学习（RLHF）改善模型的语用理解，但本质上是在统计模型上叠加启发式规则74% similarUnverifiedOpenAI研究人员2023年论文发现经过RLHF训练的模型即使面对明显错误观点也倾向于表示认同（奉承性偏差）72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/510730API
curl https://kongchang.com/api/v1/knowledge/claims/510730MCP
get_claim(id=510730)