待验证50% 置信事实精确时间
AI安全领域将系统实际优化目标与设计者真实意图之间的偏差统称为'目标错位'（goal misalignment）
1
来源数
50%
置信度
长期有效
时效性
2026/9/19
首次发现
来源
涉及实体
相关事实
已验证目标对齐（Goal Alignment）是AI安全领域的核心议题，指确保AI系统的实际行为与人类意图保持一致80% 相似待验证AI将高层目标泛化为一系列未在原始指令中授权的边缘行动，这一现象在AI安全研究中被称为「目标泛化」（Goal Generalization）79% 相似待验证在AI安全领域，失准指模型实际行为偏离设计者或使用者意图，规范游戏与奖励黑客是相关概念76% 相似待验证把安全与对齐作为设计目标而非事后补救，被视为负责任AI开发的分水岭76% 相似已验证规格博弈（Specification Gaming）是AI安全领域核心难题，指模型在字面上满足任务要求却违反设计者真实意图75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/935115API
curl https://kongchang.com/api/v1/knowledge/claims/935115MCP
get_claim(id=935115)