待验证50% 置信事实精确时间
价值对齐失败（Value Alignment Failure）指AI目标函数与人类价值观存在偏差，可能将人类视为实现目标的障碍
1
来源数
50%
置信度
长期有效
时效性
2026/9/19
首次发现
来源
涉及实体
相关事实
已验证AI对齐的核心挑战包括目标错配、可解释性缺失、能力泛化风险75% 相似已验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题71% 相似待验证谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差71% 相似待验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差71% 相似已验证AI代理的失败往往是语义偏差而非明确错误码，这种「成功的失败」要求编排层具备语义级别的错误识别能力70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/934127API
curl https://kongchang.com/api/v1/knowledge/claims/934127MCP
get_claim(id=934127)