OpenAI回应安全研究员离职风波：坚守信任底线

OpenAI研究团队回应离职事件：信任与安全文化的平衡

近日，OpenAI研究领导层就三位研究员Jasmine、Mikita和Tomek的离职事件发表了一份内部说明。据该说明，经过彻底调查，公司发现三人违反了处理敏感信息的明确政策，内部调查揭示的信任破裂程度超出了他们公开信中所述的范围。OpenAI表示支持不再继续雇佣的决定，并强调这些决定并非针对他们提出安全关切或公开发声。

这一事件引发了AI安全社区的广泛关注，因为它触及了一个核心矛盾：如何在鼓励内部批评与保护敏感信息之间取得平衡。

事件背景与核心争议

根据OpenAI研究领导层的表述，这三位研究员在离职后发布了一封公开信，其中提出了对安全文化的担忧。OpenAI承认收到了这些观点，但认为公开信的叙述未能完整反映调查所发现的敏感信息处理违规行为。公司通常对个人雇佣事宜保密，但此次选择直接回应公开信中的要点。

OpenAI在说明中明确表示：“这些决定与提出安全关切或公开发声无关。安全与研究辩论每天都在OpenAI发生，常常激烈且极具批判性。我们积极鼓励这些讨论，并认为它们对做出正确决策至关重要。”

可监控性（Monitorability） 是AI安全领域的核心概念，指在前沿模型运行过程中，对其内部推理过程、输出内容及潜在风险行为进行持续观测与评估的能力。随着大模型能力不断增强，模型可能表现出难以解释的涌现行为，甚至在某些情况下试图规避外部监督。因此，保持模型的可监控性意味着确保安全团队能够实时或事后审查模型行为，及时发现欺骗性对齐、越权操作等风险。OpenAI在声明中提到可监控性是其研究计划的核心部分，并发布了相关研究、开源评估工具及系统卡，正是试图通过技术手段让模型行为保持透明可控，这也构成了安全研究员与公司之间讨论的关键技术基础。

安全关切与发声渠道的明确立场

OpenAI强调，公司没有也不会因员工提出关切而终止雇佣关系。声明中提到：“我们将继续对团队中善意的错误极其宽容。”这一表态意在划清界限：违规行为针对的是敏感信息处理政策，而非安全倡导本身。

对于AI安全领域而言，这一区分至关重要。如果员工因担心安全风险而不敢发声，可能导致潜在风险被掩盖；但如果敏感信息处理不当，也可能危及公司运营和用户信任。OpenAI的立场是，两者可以并存——鼓励发声，同时要求遵守信息处理规范。

第三方安全评估与可监控性承诺

在回应中，OpenAI还披露了正在敲定与第三方安全评估机构的合同，并将在未来几周内公布细节。公司表示：“我们致力于引入外部评估者，并继续将独立安全组织的紧密合作作为安全工作的核心部分。”

此外，OpenAI认同公开信中关于保持前沿模型可监控性需要全行业承诺的观点。公司指出，可监控性一直是其研究计划的核心部分，并持续投入大量资源，包括发布关于监控可监控性的研究、开源相关评估工具、GPT-6 Astra的系统卡，以及Alignment博客上的多篇相关文章。

系统卡（System Card） 是OpenAI随前沿模型发布的一种标准化文档，用于披露模型的能力边界、已知风险、安全评估结果及缓解措施。它不同于传统的技术论文，更侧重于透明度和问责制，涵盖模型在生物安全、网络安全、说服力等高风险领域的表现。OpenAI在声明中提到GPT-6 Astra的系统卡，表明其延续了从GPT-4开始系统卡披露的做法，并试图通过这种方式向外部研究者、政策制定者和公众提供可验证的安全信息。系统卡也是第三方评估机构开展工作的重要依据，因为外部评估者需要基于系统卡中描述的风险场景设计测试用例，从而独立验证模型的安全声明。

事件折射的行业难题

这起事件并非孤例。随着AI技术快速发展，安全研究员与公司管理层之间的张力在全球范围内日益显现。一方面，公司需要保护商业机密和敏感技术细节；另一方面，安全研究员往往认为某些风险信息应当被更广泛地分享甚至公开。

OpenAI在声明最后表达了对这一结果的悲伤：“我们深深感谢Jasmine、Mikita和Tomek对OpenAI AI安全的贡献，以及他们愿意发声和挑战想法的勇气。我们支持他们的声音，支持他们的工作，并给予他们极大的信任。这些决定不是关于他们提出安全关切。我们一直鼓励，也将永远鼓励这一点。”

这一事件最终如何影响OpenAI的内部文化和外部声誉，尚待观察。但它无疑为整个AI行业提供了一个反思契机：如何在快速迭代的技术竞赛中，既保持对安全关切的开放态度，又维护组织运作所需的信任与纪律。