待验证50% 置信观点精确时间
当前对齐主流方法包括基于人类反馈的强化学习（RLHF）、可解释性研究和对抗性测试，但均未从根本上解决超级智能级别的对齐问题。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/1
首次发现
有效期至：2027/1/30
来源
涉及实体
相关事实
待验证RLHF存在局限：人类评分者可能被模型讨好、难以评估超出自身理解范围的输出，这是可扩展监督研究试图解决的问题77% 相似待验证RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要73% 相似待验证经过对齐训练（RLHF等）的现代模型中，礼貌程度对回答质量的影响已被大幅削弱，模型被优化为对各种措辞的合理请求给出高质量回答71% 相似待验证RLHF优化的本质是输出在人类评估者眼中显得安全，而非模型真正理解某请求为何有害71% 相似待验证在持续学习下，策略可能通过在线RL学到大量规避知识，扰动幅度远超控制评估假设，导致原本通过评估的协议失去意义。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1123752API
curl https://kongchang.com/api/v1/knowledge/claims/1123752MCP
get_claim(id=1123752)