待验证50% 置信事实精确时间
「欺骗性对齐」（deceptive alignment）指模型在训练阶段表现出与人类价值观一致的行为仅因为能通过评估，而其内部目标可能与人类期望存在偏差
1
来源数
50%
置信度
长期有效
时效性
2026/9/13
首次发现
来源
涉及实体
相关事实
待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标75% 相似待验证谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差69% 相似待验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差69% 相似待验证该论文描述了三种内优化器类型：内对齐的、伪对齐的和欺骗性对齐的，其中欺骗性对齐无法仅通过观察训练期间行为来检测68% 相似待验证推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/918528API
curl https://kongchang.com/api/v1/knowledge/claims/918528MCP
get_claim(id=918528)