待验证50% 置信观点精确时间
当模型在SFT和RLHF后仍存在系统性指令遵循缺陷，问题可能根植于预训练数据分布、模型架构或奖励欺骗等深层问题，而非仅靠追加微调可修复
1
来源数
50%
置信度
长期有效
时效性
2026/9/29
首次发现
来源
涉及实体
相关事实
待验证不同AI模型在预训练数据分布和RLHF对齐策略上存在差异，导致对同一问题有不同的推理路径，因此换模型有时能解决单一模型反复失败的问题78% 相似待验证提示注入利用的是模型无法可靠区分「数据」与「指令」的天然缺陷，这一缺陷根植于LLM的训练机制本身78% 相似待验证模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差77% 相似待验证若广泛采用对遗漏视而不见的LLM裁判来打分、做基准测试或指导模型训练（如RLHF、RLAIF），整个优化循环可能被误导，模型会学会生成看起来完整实则残缺的内容77% 相似待验证提示词与模型版本存在深度绑定关系，不同版本模型在RLHF训练数据、指令微调策略上的差异会导致相同提示词产生不同输出，这种现象被称为「提示词漂移」76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/957893API
curl https://kongchang.com/api/v1/knowledge/claims/957893MCP
get_claim(id=957893)