Superalignment
OpenAI曾设立的专注于超级智能对齐问题的研究团队和研究方向，旨在解决超越人类智能的AI系统的安全对齐问题
核心事实
时间轴 (近 90 天)
此前OpenAI的超级对齐团队（Superalignment）核心成员相继离职
Anthropic的Constitutional AI、OpenAI的Superalignment计划在宏观层面探索AI安全和对齐问题
OpenAI在过去一年多时间里有多位专注于AI安全与对齐研究的核心人员相继离职，包括曾领导超级对齐团队的关键成员
OpenAI曾设立超级对齐（Superalignment）团队，由联合创始人Ilya Sutskever共同领导，计划四年投入公司20%计算资源解决超级智能控制问题
OpenAI的超级对齐项目探索用较弱的AI系统监督较强AI系统的弱到强泛化方案
OpenAI设有超级对齐（Superalignment）团队，由联合创始人Ilya Sutskever共同领导，计划用四年时间投入公司20%的计算资源解决超级智能控制问题
OpenAI的超级对齐（Superalignment）团队由联合创始人Ilya Sutskever共同领导
全部知识事实 (10)
2024年5月，OpenAI超级对齐团队联合负责人Ilya Sutskever和Jan Leike相继离职
80%已验证OpenAI设有超级对齐（Superalignment）团队，由联合创始人Ilya Sutskever共同领导，计划用四年时间投入公司20%的计算资源解决超级智能控制问题
75%已验证OpenAI曾设立专门的超级对齐（Superalignment）团队，但该团队在2024年经历了核心成员离职的动荡
75%待验证OpenAI超级对齐团队原本获得了公司20%的算力资源承诺，但据报道这一承诺从未完全兑现
60%待验证Anthropic的Constitutional AI、OpenAI的Superalignment计划在宏观层面探索AI安全和对齐问题
50%待验证OpenAI在过去一年多时间里有多位专注于AI安全与对齐研究的核心人员相继离职，包括曾领导超级对齐团队的关键成员
50%待验证OpenAI曾设立超级对齐（Superalignment）团队，由联合创始人Ilya Sutskever共同领导，计划四年投入公司20%计算资源解决超级智能控制问题
50%待验证OpenAI的超级对齐项目探索用较弱的AI系统监督较强AI系统的弱到强泛化方案
50%待验证OpenAI的超级对齐（Superalignment）团队由联合创始人Ilya Sutskever共同领导
50%部分验证此前OpenAI的超级对齐团队（Superalignment）核心成员相继离职
65%