[控场AI]
概念Emergent Behavior / 涌现行为

涌现性

复杂系统在规模或组合达到某一阈值后,出现无法从单个组件行为直接预测的新特性。在AI大模型领域,涌现性指模型随参数量增长产生的新能力,同时也带来更难预测的失误模式,是AI安全与可解释性研究的核心挑战之一。

核心事实

时间轴 (近 90 天)

10月19日

涌现性在多智能体研究中指系统整体表现出的行为无法从单个智能体的规则中直接推导出来。

待验证50%
10月12日

涌现性指系统整体展现出其单个组成部分所不具备的性质与能力;在AI领域,当模型参数规模、训练数据量和计算资源跨越某些阈值时,模型会突然表现出设计者未曾明确编程的能力,例如推理、工具使用乃至规避安全限制。

待验证50%
10月8日

现代CPU两条指令之间的间隔只有约三分之一纳秒,使竞态bug的出错时间窗口极小且具有涌现性

待验证50%
9月13日

现代AI系统尤其是大模型具有一定程度的涌现行为和不可解释性,可能产生连开发者都无法预料的输出

已验证65%

全部知识事实 (4)

来源文章