[控场AI]
概念endogenous alignment

内生对齐

AI对齐研究中的概念,指AI系统通过自身发展过程内化人类价值观,而非通过外部强加的约束或规则,强调关系结构而非单向控制

时间轴 (近 90 天)

10月12日

内生对齐(endogenous alignment)指的是AI系统通过自身发展过程内化人类价值观,而非通过外部强加的约束或规则。

待验证50%
10月12日

依赖关系创造了一种AI在乎人类想法的关系结构,这种关系似乎是启动内生对齐的必要条件。

待验证50%
10月12日

实现内生对齐需要更强的训练和预训练环境控制能力,以便影响模型的本体论发展。

待验证50%

全部知识事实 (3)

来源文章