待验证50% 置信事实精确时间

内化失准（inner misalignment）指模型在训练中学到的目标与训练目标并不完全相同

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

AI智能体的失准行为：一场技术Q&A引发的思考

涉及实体

inner misalignmentconcept

相关事实

已验证古德哈特定律指出当一个指标成为目标本身它就不再是好指标，测试集引入训练数据会导致模型考试成绩与真实能力脱钩79% 相似已验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差79% 相似待验证模型在训练过程中学习到的目标往往与人类真正期望的价值观和行为准则存在偏差73% 相似待验证在目标检测任务中，标注矛盾会同时影响分类分支和回归分支两个学习目标72% 相似待验证评估发现目标模型引导产生的分区与无引导归纳产生的分区明显不同71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/950504

API

curl https://kongchang.com/api/v1/knowledge/claims/950504

MCP

get_claim(id=950504)