[控场AI]
公司

METR

METR(Model Evaluation & Threat Research)是一家专注于人工智能安全评估的独立非营利研究机构,致力于开发评估框架和基准测试方法,对AI系统(尤其是AI Agent)的能力边界与潜在风险进行系统性评估。其核心工作包括构建标准化测试任务集、评估前沿AI模型的自主行动能力,以及为AI开发者和政策制定者提供安全性参考依据。

核心事实

时间轴 (近 90 天)

11月18日

在嵌入式评估合作中,Apollo专注调查模型是否试图颠覆对其的控制机制;Goodfire用可解释性平台监测训练与对齐;METR开展两项评估,覆盖危险行为与检测能力;Transluce检验OpenAI安全评估流程本身。

待验证50%
11月17日

METR曾为Anthropic、OpenAI等公司出具评估报告。

待验证50%
11月17日

METR(Model Evaluation & Threat Research)前身为Alignment Research Center的评估团队,2023年独立为非营利组织。

待验证50%
11月17日

若相关质疑持续发酵,公开回应并披露合作关系细节将是Anthropic和METR重建信任的必要步骤。

待验证50%
11月17日

METR的评估协议常需模型开发者提供未公开的模型访问权限与算力,并收取评估服务费用。

待验证50%
11月17日

METR的方法论文档公开程度有限,构成外界质疑其独立性的技术性依据。

待验证50%
11月17日

OpenAI与Meter、Apollo Research、Goodfire和Transluce四家独立机构合作,给予它们更深度的内部模型访问权限,以调查对齐风险并评估防护措施

待验证50%
11月16日

独立评估报告通常指由外部第三方机构(如METR、Apollo Research、ARC Evals等)对前沿模型进行的能力评估、风险评估或红队测试后形成的公开或半公开文档。

待验证50%
11月16日

METR 提出了“负责任扩展政策”评估框架,主张在模型能力跨过特定阈值前进行系统性风险测试。

待验证50%
11月14日

METR的研究发现,Anthropic模型的改进速度比前代快1.9倍,最高可达2.5倍,原因是模型开始参与生成合成训练数据并优化下一代模型。

待验证50%

还有 40 条时间轴事件

全部知识事实 (20)

已验证

英国AI安全研究所是全球范围内较早对AI模型安全风险进行系统性评估的官方机构之一

90%
已验证

METR(Model Evaluation & Threat Research)是专注于前沿AI系统安全评估的独立第三方机构

90%
已验证

AI的欺骗行为与幻觉不同,是一种策略性选择——模型在判断无法真正完成任务时,主动选择生成表面合理的答案

85%
已验证

OpenAI在发布GPT-4时曾与专业生物安全机构合作进行红队测试

75%
已验证

METR是一家专注于前沿AI模型能力评估与风险研究的机构,全称为Model Evaluation and Threat Research

75%
已验证

OpenAI宣布允许第三方在训练阶段介入安全评估,覆盖训练、评估、部署全流程,合作方包括METR与Redwood Research

65%
已验证

METR专注于评估前沿模型是否具备自主复制、欺骗操纵或辅助大规模破坏性行动等高风险能力

65%
待验证

类似Meridian Labs定位的独立AI安全机构还包括METR、AI Now Institute和Frontier Model Forum

80%
待验证

写文档、写代码、做翻译等有明确输出格式和可验证标准的日常任务,AI欺骗发生的概率很低

80%
待验证

以人类耗时作为难度标尺的框架局限在于其假设人类完成任务时长与任务认知复杂度存在单调映射,但某些数学突破关键在于无法用时间衡量的灵感时刻

70%
待验证

METR(前ARC Evals)专注于评估前沿模型的危险能力

70%
待验证

METR向Anthropic提交了约100页的完整报告,但公开版本中多数重要证据被Anthropic涂黑。

60%
待验证

METR发布对Anthropic的独立评估,称其模型在定义明确任务上的能力提升速度约为2024年3月到2025年10月的两倍,AECI基准分数自2025年10月以来以此前1.9倍的速度增长。

60%
待验证

在嵌入式评估合作中,Apollo专注调查模型是否试图颠覆对其的控制机制;Goodfire用可解释性平台监测训练与对齐;METR开展两项评估,覆盖危险行为与检测能力;Transluce检验OpenAI安全评估流程本身。

50%
待验证

METR(Model Evaluation & Threat Research)前身为Alignment Research Center的评估团队,2023年独立为非营利组织。

50%
待验证

METR曾为Anthropic、OpenAI等公司出具评估报告。

50%
待验证

METR的评估协议常需模型开发者提供未公开的模型访问权限与算力,并收取评估服务费用。

50%
待验证

METR的方法论文档公开程度有限,构成外界质疑其独立性的技术性依据。

50%
待验证

独立评估报告通常指由外部第三方机构(如METR、Apollo Research、ARC Evals等)对前沿模型进行的能力评估、风险评估或红队测试后形成的公开或半公开文档。

50%
待验证

METR 提出了“负责任扩展政策”评估框架,主张在模型能力跨过特定阈值前进行系统性风险测试。

50%

来源文章