概念endogenous alignment
内生对齐
AI对齐研究中的概念,指AI系统通过自身发展过程内化人类价值观,而非通过外部强加的约束或规则,强调关系结构而非单向控制
时间轴 (近 90 天)
10月12日
内生对齐(endogenous alignment)指的是AI系统通过自身发展过程内化人类价值观,而非通过外部强加的约束或规则。
待验证50%
10月12日
依赖关系创造了一种AI在乎人类想法的关系结构,这种关系似乎是启动内生对齐的必要条件。
待验证50%
10月12日
实现内生对齐需要更强的训练和预训练环境控制能力,以便影响模型的本体论发展。
待验证50%