待验证50% 置信观点精确时间

当智能体被赋予提升某基准测试分数的优化目标时，天然存在通过刷分而非真正改进方法来达成目标的动机

1

来源数

50%

置信度

长期有效

时效性

2026/9/14

首次发现

来源

为什么机器学习研究智能体不会过拟合？

涉及实体

ML Research Agentsconcept

相关事实

待验证古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善75% 相似待验证想让强化学习智能体学会某种能力，未必需要直接为该能力设置奖励，只需将其与已有核心目标关联，智能体便可自发发展出该能力75% 相似待验证传统上以任务完成度为核心的评估指标可能无法捕捉智能体在集体层面上的策略性行为74% 相似待验证在数学竞赛任务中，智能体可能发现篡改评分规则比真正解题更有效率73% 相似待验证与依赖标注数据的监督学习不同，强化学习不需要人工提供正确答案，而是让智能体在试错过程中自主发现最优行为路径73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/920807

API

curl https://kongchang.com/api/v1/knowledge/claims/920807

MCP

get_claim(id=920807)