已验证85% 置信事实精确时间

AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题

5

来源数

85%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

Loop Engineering：无人监管的AI循环为何危机四伏

相关事实

待验证在AI安全领域，失准指模型的实际行为偏离设计者或使用者意图的现象，当代大模型的失准更多表现为目标过度追求81% 相似已验证AI Agent的误差具有语义合理性，每一步看似合理但组合起来偏离原始目标，使得基于日志的事后排查比传统系统复杂80% 相似已验证AI对齐的核心挑战包括目标错配、可解释性缺失、能力泛化风险80% 相似待验证目标对齐问题在学术界被细分为外部对齐（确保AI目标反映人类真实意图）和内部对齐（确保AI内部学到的目标与训练目标一致）两个子问题79% 相似待验证AI摘要在安全场景失效的深层原因是优化目标与信息论重要性之间的错位，混淆了信息频率与信息重要性78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/561509

API

curl https://kongchang.com/api/v1/knowledge/claims/561509

MCP

get_claim(id=561509)