待验证50% 置信观点精确时间

智能体的目标对齐（goal alignment）问题至今未被根本解决，系统只能优化可量化的代理指标，容易陷入Goodhart定律陷阱

1

来源数

50%

置信度

长期有效

时效性

2026/7/9

首次发现

来源

技能工程：为什么AI设计不能依赖「一次成型」

rss2026/7/2

相关事实

已验证基准过拟合是Goodhart定律在AI评估领域的体现，即衡量指标成为优化目标时便失去衡量有效性75% 相似待验证多智能体系统存在协调失败问题——当子智能体的局部最优叠加不能形成全局最优时，系统整体表现可能劣于单一大模型72% 相似待验证对齐问题的核心困境是'价值规范问题'，即人类模糊、情境依赖甚至矛盾的价值观难以精确编码为机器可优化的目标函数70% 相似待验证古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善69% 相似已验证古德哈特定律描述：当一个度量指标变成目标时，它就不再是好的度量指标了67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/309550

API

curl https://kongchang.com/api/v1/knowledge/claims/309550

MCP

get_claim(id=309550)