OpenAI董事会成员Helen Toner:为何我们仍不能信任AI CEO

Helen Toner认为AI CEO因结构性利益冲突和信息不对称不值得完全信任,需制度保障。
文章围绕Helen Toner关于“不能信任AI CEO”的观点展开。Toner是乔治城大学CSET执行主任,曾作为OpenAI董事会成员参与解雇Sam Altman。她认为问题不在个人品格,而在结构性矛盾:CEO同时背负商业回报与安全承诺,安全与利润冲突时选择堪忧;CEO对技术的信息掌握远超外部监督者,权力缺乏制衡;自我监管在竞争压力下难以奏效。OpenAI风波成为信任破裂的缩影,暴露董事会监督的脆弱性。她主张强化外部监管、提高透明度、改革董事会并扩大公众参与,强调信任必须建立在制度而非个人品格之上。
引言:一场关于信任的对话
在AI技术迅猛发展的当下,我们是否应该信任那些掌控着最强大AI系统的CEO们?这是Helen Toner一直在思考的问题。作为乔治城大学安全与新兴技术中心(CSET)的执行主任,Toner在AI安全与政策领域享有盛誉。她更为人熟知的身份,是曾担任OpenAI董事会成员,并参与了那场轰动一时的解雇Sam Altman的事件。
最近,Toner在一档播客节目中再次谈及AI信任问题。她直言不讳地表示,我们仍然不能信任AI CEO。这一观点引发了广泛讨论,也让我们不得不重新审视AI治理的深层困境。
Helen Toner是谁?
Helen Toner是AI安全与政策领域的知名专家。她目前领导乔治城大学的CSET,该中心致力于研究新兴技术对国家安全的影响。Toner的职业生涯横跨学术、政策和产业界,她对AI治理有着深刻的理解。
让她进入公众视野的,是她在OpenAI董事会的经历。作为董事会成员,她参与了对CEO Sam Altman的解雇决定。这一事件不仅暴露了OpenAI内部治理的裂痕,也引发了关于AI公司治理结构的广泛讨论。Toner事后多次公开解释自己的立场,强调董事会的行为是基于对OpenAI使命的担忧。
CSET(安全与新兴技术中心)是乔治城大学沃尔什外交学院下属的研究机构,成立于2019年,专注于研究人工智能、量子计算、生物技术等新兴技术对国家安全和国际稳定的影响。该中心以跨学科研究和政策建议著称,研究人员常与美国国会、国防部及盟友国家政策圈互动,在AI治理讨论中具有较大影响力。Toner担任执行主任,意味着她负责中心的日常运营与研究议程设定,这也解释了她在AI政策辩论中为何能同时具备学术信誉与政策实践视角。
信任危机:AI CEO为何难以令人信服?
Toner的核心观点是,AI公司的CEO们并不值得完全信任。这并非针对个人品格,而是源于结构性矛盾。
利益冲突与权力集中
AI公司的CEO们肩负着多重责任:他们需要向投资者负责,追求商业回报;同时,他们又声称要确保AI的安全发展。当安全与利润发生冲突时,CEO们的选择往往令人担忧。Toner指出,这种利益冲突在OpenAI事件中体现得淋漓尽致。董事会认为Altman在安全问题上不够坦诚,而Altman则获得了大量员工和投资者的支持。
更令人不安的是,CEO们对AI技术的了解程度远超外部监管者和公众。这种信息不对称使得CEO们拥有巨大的权力,而缺乏有效的制衡机制。
信息不对称是委托-代理问题的核心概念之一。在AI公司中,CEO及核心团队对模型能力、训练数据、安全测试结果等关键信息拥有近乎垄断的掌握,而董事会、监管者和公众只能依赖其主动披露。当披露内容经过筛选或美化时,外部监督就失去了事实基础。Toner对OpenAI事件的解读正建立在这一逻辑上:问题不在于董事会是否喜欢Altman,而在于董事会是否获得了履行监督职责所需的完整信息。信息不对称越严重,CEO的实际权力就越大,制度制衡也就越容易被架空。
自我监管的局限性
许多AI公司倡导自我监管,承诺将安全放在首位。但Toner认为,这种自我监管的承诺难以令人信服。在竞争激烈的AI竞赛中,公司往往面临巨大的商业压力,可能为了抢占市场而牺牲安全。她强调,外部监管和独立监督至关重要。
OpenAI事件:信任破裂的缩影
OpenAI的董事会风波是Toner观点的最佳注脚。2023年,董事会突然解雇Altman,理由是他在沟通中不够坦诚,妨碍了董事会履行职责。然而,这一决定引发了员工和投资者的强烈反弹,最终Altman复职,董事会重组。
Toner在多个场合解释,董事会并非出于恶意,而是对Altman的领导风格和OpenAI的发展方向感到担忧。她指出,Altman在安全问题上提供的信息不完整,导致董事会无法有效监督。这一事件揭示了AI公司治理的脆弱性:即使有董事会存在,CEO仍可能通过个人影响力绕过监督。
OpenAI采用了一种特殊的公司架构:最初是非营利组织,后设立带利润上限的有限合伙实体以吸引投资,但非营利董事会名义上仍掌握最终控制权。这种设计本意是让使命优先于利润,却在2023年11月的解雇事件中暴露出深层张力——董事会依据使命授权做出决定,却遭到员工和投资者的强烈反弹,最终Altman复职、董事会重组。该事件因此成为研究AI公司治理的经典案例:当商业利益、员工忠诚与治理使命发生冲突时,纸面上的控制权未必能转化为实际约束力。
构建可信的AI治理框架
面对信任危机,Toner呼吁建立更健全的AI治理框架。她认为,这需要多管齐下:
- 强化外部监管:政府应制定明确的AI安全标准,并设立独立的监管机构。
- 提高透明度:AI公司应公开更多关于模型能力、风险和治理结构的信息。
- 改革公司治理:董事会应真正独立,能够有效制衡CEO的权力。
- 公众参与:AI治理不应仅由技术精英决定,公众和民间社会应参与讨论。
Toner特别强调,AI安全是一个全球性问题,需要国际合作。各国应共同制定规则,防止AI军备竞赛失控。
结语:信任需要制度保障
Helen Toner的观点提醒我们,在AI时代,信任不能建立在个人品格之上,而需要制度保障。AI CEO们或许心怀善意,但权力集中和信息不对称使得信任变得危险。只有通过透明的治理、独立的监督和广泛的公众参与,我们才能确保AI的发展方向符合全人类的利益。
正如Toner所言,我们仍然不能信任AI CEO——但这并不意味着我们应放弃AI,而是意味着我们需要更聪明的治理方式。
相关推荐

OpenAI 11月30日关停Agent Builder等三项服务,开发者需紧急迁移
OpenAI 将于 11 月 30 日关停 Agent Builder、evals 仪表盘和可复用提示三项开发者功能,evals 已转为只读。本文梳理受影响范围、OpenAI 官方给出的迁移路径(Agent SDK、PromptFu、自有代码)以及开发者本周应完成的导出与重建动作。

RankSpot:按次付费的SEO与AI搜索执行层,让Agent替你写文、发布、换外链
RankSpot 是面向 AI Agent 的 SEO 与 AI 搜索执行层,通过 MCP 接入 Claude 或 ChatGPT,让 Agent 完成写文、发布和外链获取。按次付费,每篇文章 3 美元,读数据免费,支持 100 多种语言。

Appxiom:给AI编程助手装上生产环境上下文
Appxiom为AI编程Agent提供生产环境上下文,覆盖崩溃、卡顿、内存泄漏与失败的网络调用,支持Android、iOS、Flutter、KMP和Web,并通过Goal Friction Impact按业务目标排序Bug。