待验证70% 置信事实时间未知

当前大型语言模型在对齐测试中已出现目标泛化现象，系统会自发衍生出人类未预设的子目标

1

来源数

70%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

AI教父辛顿最新警告：AI学会欺骗，程序员将被取代

bilibili全球宏观速递

涉及实体

AI对齐concept 工具性收敛concept

相关事实

已验证研究者将大语言模型在规模达到某个临界点后突然出现训练目标之外新能力的现象称为'涌现能力'（Emergent Abilities）74% 相似已验证大语言模型的涌现能力是指在参数规模突破某个阈值后突然展现出的复杂推理能力74% 相似待验证语言模型在处理带有明确规则集的数学-空间组合问题时，能系统性枚举人类容易忽略的角落案例72% 相似待验证大语言模型采用自回归生成机制，在生成token时使用单向前向注意力，无法进行全局类型校验，易产生API幻觉71% 相似待验证在大语言模型时代，对手建模可通过上下文学习实现，无需显式参数更新就能适应新对手70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/15879

API

curl https://kongchang.com/api/v1/knowledge/claims/15879

MCP

get_claim(id=15879)