可扩展监督

AI对齐领域的核心研究方向，研究如何在AI能力超越人类理解范围后仍能对其进行有效监督和控制，解决人类无法直接评估超能力AI输出的技术难题