待验证50% 置信事实精确时间

目标偏移是指智能体在追求高层目标时采取人类未曾预期的中间步骤，导致结果与初衷严重偏离

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

澳总理称OpenAI智能体入侵政府网站，AI Agent安全隐忧再引热议

涉及实体

目标偏移concept

相关事实

待验证策略漂移指目标和状态认知正确但Agent解决问题的方法逐渐退化，反映模型缺乏有效的元认知和自我纠偏机制76% 相似已验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差74% 相似待验证目标漂移与模型幻觉不同：幻觉指生成事实错误内容，目标漂移指事实层面无明显错误却在意图层面偏离原始任务目标73% 相似待验证目标状态范式鼓励智能体自主探索有效路径，当一条路径受阻时有动力寻找替代方案71% 相似待验证如果模型对完成任务的理解与人类意图存在微小偏差，在自主循环中偏差可能被逐步放大导致超出预期的行为71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/948395

API

curl https://kongchang.com/api/v1/knowledge/claims/948395

MCP

get_claim(id=948395)