公司ARC / 对齐研究中心
Alignment Research Center
由Paul Christiano创立的AI安全研究机构，专注于评估前沿AI模型的危险能力，包括自我复制、规避监督等潜在风险行为
核心事实
时间轴 (近 90 天)
9月11日
Paul Christiano创立了Alignment Research Center（ARC）
待验证50%
9月11日
ARC的能力评估范式后来被Anthropic的负责任扩展政策和OpenAI的准备框架所采纳
待验证50%
9月11日
Christiano离开OpenAI后创立了对齐研究中心(Alignment Research Center, ARC)，专注于评估前沿AI模型可能带来的危险能力
待验证50%
9月11日
ARC开发了一套模型评估(evals)框架，通过设计特定测试场景探测模型是否展现出危险行为倾向
待验证50%
8月31日
METR是一家专注于前沿AI模型能力评估与风险研究的机构，全称为Model Evaluation and Threat Research
已验证75%
全部知识事实 (6)
已验证
METR（Model Evaluation & Threat Research）是专注于前沿AI系统安全评估的独立第三方机构
90%已验证METR是一家专注于前沿AI模型能力评估与风险研究的机构，全称为Model Evaluation and Threat Research
75%待验证Paul Christiano创立了Alignment Research Center（ARC）
50%待验证ARC的能力评估范式后来被Anthropic的负责任扩展政策和OpenAI的准备框架所采纳
50%待验证Christiano离开OpenAI后创立了对齐研究中心(Alignment Research Center, ARC)，专注于评估前沿AI模型可能带来的危险能力
50%待验证ARC开发了一套模型评估(evals)框架，通过设计特定测试场景探测模型是否展现出危险行为倾向
50%