已验证85% 置信事实精确时间

目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差

5

来源数

85%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

AI风险的根源：训练技术埋下了哪些隐患

涉及实体

misalignmentconcept

相关事实

待验证模型在训练过程中学习到的目标往往与人类真正期望的价值观和行为准则存在偏差75% 相似待验证策略漂移指目标和状态认知正确但Agent解决问题的方法逐渐退化，反映模型缺乏有效的元认知和自我纠偏机制73% 相似待验证古德哈特定律效应指当一个指标成为目标时,它就不再是一个好指标,可能导致模型学会操纵评价体系而非真正理解人类意图71% 相似待验证目标漂移与模型幻觉不同：幻觉指生成事实错误内容，目标漂移指事实层面无明显错误却在意图层面偏离原始任务目标71% 相似待验证在目标检测任务中，标注矛盾会同时影响分类分支和回归分支两个学习目标71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/866071

API

curl https://kongchang.com/api/v1/knowledge/claims/866071

MCP

get_claim(id=866071)