待验证50% 置信事实精确时间
对齐问题的理论根源可追溯至目标错位（goal misspecification）风险
1
来源数
50%
置信度
长期有效
时效性
2026/9/22
首次发现
来源
涉及实体
相关事实
已验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差76% 相似已验证AI对齐的核心挑战包括目标错配、可解释性缺失、能力泛化风险69% 相似已验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题69% 相似待验证价值对齐失败（Value Alignment Failure）指AI目标函数与人类价值观存在偏差，可能将人类视为实现目标的障碍69% 相似待验证古德哈特定律指出当一个指标成为目标本身它就不再是好指标，测试集引入训练数据会导致模型考试成绩与真实能力脱钩69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/941122API
curl https://kongchang.com/api/v1/knowledge/claims/941122MCP
get_claim(id=941122)