Paul Christiano
AI对齐研究领域的关键学者，RLHF技术路线的奠基者之一，曾在OpenAI工作，后创立对齐研究中心(ARC)，专注于前沿AI模型危险能力评估
核心事实
时间轴 (近 90 天)
研究者Paul Christiano对P(doom)给出相对保守的估计
OpenAI CEO Sam Altman在X上发文确认前AI安全研究所主管Paul Christiano加入公司
Paul Christiano同时担任OpenAI的安全与安全委员会成员
Christiano的加入可能预示OpenAI将更重视可解释性研究、降低对齐税和AI系统可控性验证
Paul Christiano创立了Alignment Research Center（ARC）
Paul Christiano早年在OpenAI从事对齐研究，是RLHF（人类反馈强化学习）技术路线的重要推动者
Paul Christiano将以非投票观察员身份出席OpenAI Group PBC董事会，能获取信息发表意见但不参与表决
Paul Christiano曾在美国国家标准与技术研究院（NIST）任职多年
Christiano于2017年与同事发表论文《Deep Reinforcement Learning from Human Preferences》，奠定了RLHF方向的理论基础
Paul Christiano创立了对齐研究中心（ARC），专注研究如何确保未来更强大的AI系统与人类价值保持一致
还有 13 条时间轴事件
全部知识事实 (20)
Christiano于2017年与同事发表论文《Deep Reinforcement Learning from Human Preferences》，奠定了RLHF方向的理论基础
70%待验证Paul Christiano曾在OpenAI工作,主导过多项关于AI对齐的研究
70%待验证研究者Paul Christiano对P(doom)给出相对保守的估计
50%待验证Paul Christiano创立了Alignment Research Center（ARC）
50%待验证Paul Christiano早年在OpenAI从事对齐研究，是RLHF（人类反馈强化学习）技术路线的重要推动者
50%待验证Paul Christiano将以非投票观察员身份出席OpenAI Group PBC董事会，能获取信息发表意见但不参与表决
50%待验证Paul Christiano曾在美国国家标准与技术研究院（NIST）任职多年
50%待验证Paul Christiano创立了对齐研究中心（ARC），专注研究如何确保未来更强大的AI系统与人类价值保持一致
50%待验证迭代放大（Iterated Amplification）由Paul Christiano在2018年提出，将复杂对齐任务分解为子任务由人类与较弱AI组合完成后聚合训练更强AI
50%待验证Paul Christiano曾在OpenAI工作,主导过多项关于AI系统行为与人类意图对齐的研究
50%待验证Christiano参与了美国AI安全研究所(AISI)的相关工作
50%待验证迭代放大由Paul Christiano在2018年提出，基本思想是将复杂对齐评估任务分解为多个子任务
50%待验证Paul Christiano曾在OpenAI工作，主导过多项关于AI系统行为与人类意图保持一致的研究
50%待验证Christiano参与了美国AI安全研究所的相关工作
50%待验证Christiano属于AI安全派中主张通过技术手段解决对齐问题、较为务实的一派
50%待验证Christiano离开OpenAI后创立了对齐研究中心(Alignment Research Center, ARC)，专注于评估前沿AI模型可能带来的危险能力
50%待验证Christiano在2017年发表论文《Deep Reinforcement Learning from Human Preferences》，被认为是RLHF技术路线的奠基性工作之一
50%待验证「对齐税」（alignment tax）概念由AI安全研究者Paul Christiano等人提出，用于描述安全措施对模型实际效用的折损
50%部分验证OpenAI宣布Paul Christiano将加入OpenAI基金会董事会
75%待验证OpenAI CEO Sam Altman在X上发文确认前AI安全研究所主管Paul Christiano加入公司
50%