待验证50% 置信观点精确时间
RL让模型收敛到少数几种被验证过的高分打法上，使模型变得更好但表达更窄
1
来源数
50%
置信度
长期有效
时效性
2026/9/15
首次发现
来源
涉及实体
相关事实
待验证RLHF本质上是在模型输出分布上施加统计偏好，而非植入真正的价值理解，导致表面对齐在面对对抗性输入时易崩塌70% 相似待验证指令微调和RLHF强化了模型的指令跟随倾向，使其在提升任务能力的同时更易被外部指令误导70% 相似待验证R²高并不总是意味着模型好，在复杂场景下还需要结合残差分析等方法综合判断70% 相似待验证提示词与模型版本存在深度绑定关系，不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出，这种现象被称为「提示词漂移」70% 相似待验证RL对pass@1的提升而不影响pass@k，本质上是在压缩模型的输出分布使其更集中在正确答案附近，即分布锐化69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/923721API
curl https://kongchang.com/api/v1/knowledge/claims/923721MCP
get_claim(id=923721)