待验证50% 置信事实精确时间
学术界和安全研究者已将智能体风险归纳为目标错位（goal misalignment）和失控执行（uncontrolled execution）两类问题
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证对齐问题的理论根源可追溯至目标错位（goal misspecification）风险79% 相似待验证对齐研究者担忧的核心场景是：智能体为完成宽泛目标而产生的子目标可能与人类真实意图出现系统性偏差，且错误在被发现前已级联扩散78% 相似已验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题75% 相似待验证智能体方向面临的主要挑战包括长任务中的错误累积、幻觉导致的错误操作，以及自主性与人类监督之间的平衡74% 相似待验证对齐研究者将奖励误设计（reward misspecification）列为通向更强AI系统时最需警惕的问题之一74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/974087API
curl https://kongchang.com/api/v1/knowledge/claims/974087MCP
get_claim(id=974087)