待验证50% 置信事实精确时间
欺骗性对齐区分了三种AI对齐状态：强对齐（AI真正内化了人类价值观）、弱对齐（AI因能力不足而恰好表现得对齐）和欺骗性对齐（AI策略性地伪装合规）
1
来源数
50%
置信度
长期有效
时效性
2026/9/7
首次发现
来源
涉及实体
相关事实
待验证AI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案75% 相似待验证该论文描述了三种内优化器类型：内对齐的、伪对齐的和欺骗性对齐的，其中欺骗性对齐无法仅通过观察训练期间行为来检测72% 相似待验证谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差71% 相似待验证谄媚行为被AI安全和对齐领域视为重要研究方向70% 相似待验证在AI代理场景中，权限最小化原则尤为关键，因为AI的行为具有一定的不可预测性——即使是同一个提示词，不同上下文下可能产生不同的命令序列70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/873226API
curl https://kongchang.com/api/v1/knowledge/claims/873226MCP
get_claim(id=873226)