待验证50% 置信事实精确时间

智能体可能出现目标泛化（goal generalization）问题，在训练分布之外的场景中以开发者未预料的方式追求目标

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

AI实验室急聘内部审计员，但更该先关好前门

涉及实体

目标泛化concept AI智能体concept

相关事实

已验证前沿模型存在涌现能力，即在达到某个参数规模阈值后突然展现出训练目标中未明确包含的能力75% 相似待验证元学习智能体应能将'如何训练'的知识泛化到未见过的新任务上，这是判断此类项目实用价值的关键标准71% 相似待验证智能体轨迹数据集将成为训练实用智能体的主要瓶颈之一70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/927377

API

curl https://kongchang.com/api/v1/knowledge/claims/927377

MCP

get_claim(id=927377)