Anthropic让METR员工级准入，AI风险评估透明度升级

AI安全评估领域迎来一次罕见的透明化实验。据RSS源消息，Anthropic正在向独立研究机构METR（Model Evaluation & Threat Research）开放员工级别的内部访问权限，允许其研究人员深入查看模型开发流程、内部风险记录和事故处理机制。更关键的是，Anthropic放弃了阻止METR发布评估结论的权利。

员工级准入到底意味着什么

“员工级访问”（employee-level access）是这次合作中最值得关注的细节。通常，外部研究机构对AI公司的评估停留在API调用、公开文档或有限的黑盒测试层面。而员工级准入意味着METR研究员可以像Anthropic内部员工一样，接触到训练日志、内部通讯、风险事件报告甚至部分决策流程。

这种深度在AI行业几乎没有先例。即便是与政府机构的安全合作，AI公司通常也会保留对敏感信息的过滤权。Anthropic选择开放到这个层级，相当于把内部治理的“后厨”直接展示给外部审计者。

METR（Model Evaluation & Threat Research，模型评估与威胁研究）是一家专注于前沿AI模型能力与风险独立评估的非营利研究机构，前身为ARC（Alignment Research Center）的评估团队，在GPT-4发布前曾获得OpenAI的早期访问权并对其进行了红队测试。METR的工作重点是测量模型在自主复制、网络攻击、欺骗等高风险能力上的表现。

在AI安全评估的通行做法中，黑盒测试指评估者只能通过API输入输出观察模型行为，无法查看训练数据、权重更新或内部决策记录；而白盒访问则允许评估者深入模型内部。Anthropic此次开放的范围甚至超越了白盒，延伸到组织层面的治理文档和事故记录，这在行业尚属首次。

放弃否决权：信任还是策略

比访问权限更具信号意义的是Anthropic放弃了对METR发布内容的审查否决权。根据原始信息，METR将自行发布对Anthropic风险、事故和实践的评估，Anthropic无权阻止。

这意味着如果METR发现Anthropic在模型安全上的漏洞或治理缺陷，可以独立公之于众。对于一家正在竞逐前沿模型能力边界的公司来说，这需要相当的底气——或者说，这是一种将透明度本身转化为竞争壁垒的策略。

在AI监管呼声日益高涨的背景下，主动让渡叙事控制权，可能比被动接受监管更有利于建立公众信任。

在AI公司与外部评估者的既往合作中，发布否决权（publication veto）几乎是默认条款。公司通常会要求审阅评估报告的草稿，并有权要求删除涉及商业机密或安全敏感信息的内容，甚至直接阻止发布。OpenAI与微软、DeepMind与外部审计方之间的合作均保留了不同程度的审查权。

Anthropic放弃这一权利，意味着METR的评估报告将以完全未经Anthropic修改的形态进入公共领域。这种安排在学术审计中被称为无限制发布权（unrestricted publication right），但在商业AI实验室中极为罕见，因为报告可能暴露竞争劣势或引发监管关注。

独立评估的价值与张力

METR作为第三方评估机构，其核心价值在于独立性。员工级准入让评估从“访谈+文档审阅”升级为“沉浸式观察”，能够捕捉到官方报告中被过滤或未被识别的风险信号。

但这种安排也内含张力。研究者在获得深度访问的同时，如何保持分析框架的独立性？Anthropic虽然放弃了发布否决权，但访问权限本身仍由Anthropic授予，这种权力不对称是否会影响评估的尖锐程度，值得持续观察。

从行业角度看，这次合作为“AI公司如何与独立评估者共处”提供了一个可参照的样本。如果METR的评估报告能够保持实质性的批判力度，这将成为AI安全治理的一个里程碑；如果报告流于温和，则可能削弱此类安排的示范意义。

对AI安全治理的启示

前沿AI实验室的安全实践长期面临“自我评估”的信任困境。公司自己发布的安全报告，无论多么详尽，都难以完全消除外界对其选择性的质疑。引入具备深度访问权的独立机构，是打破这一困境的可行路径之一。

Anthropic此举也向同行施加了某种压力：当一家公司愿意开放到员工级别且放弃否决权，其他实验室面对类似要求时，拒绝的理由会变得更难站住脚。

当然，一次合作不足以定义行业标准。METR即将发布的评估内容是否足够深入、是否揭示出实质性问题，才是检验这套机制是否有效的真正标尺。

自我评估困境是AI安全治理中的核心难题：模型开发者既是运动员又是裁判员，其发布的安全报告难免被质疑存在选择性披露。类似于金融审计中要求外部会计师事务所独立于被审计公司，AI安全领域也在探索类似的第三方制衡机制。

目前已有的尝试包括：英国AI安全研究所（AISI）与多家实验室签订的评估协议、美国NIST的AI风险评估框架，以及欧盟AI法案中规定的第三方合规评估。但这些安排的访问深度通常远不及员工级准入，且多数仍保留公司的信息过滤权。Anthropic-METR合作如果被证明有效，可能推动行业形成更深层外部访问的惯例。