Yoshua Bengio谈AI安全：LawZero获加德政府支持

图灵奖得主Yoshua Bengio近日在社交媒体上宣布，他将做客加拿大知名电视节目《Tout le monde en parle》（TLMEP），讨论其非营利AI安全创业项目LawZero获得的政府支持，以及近期发生的AI安全事件所暴露的行业风险。这条简短的动态背后，折射出当前AI发展路径中日益尖锐的安全与商业博弈。

LawZero获得加德两国政府背书

Bengio透露，他创立的非营利机构LawZero获得了加拿大和德国两国政府的新一轮支持。作为深度学习领域的奠基人之一，Bengio近年来将大量精力投入到AI安全研究中。LawZero正是他推动这一议题的核心载体——一个以公共利益而非商业回报为导向的组织。

政府层面的介入具有标志性意义。它表明AI安全已不再是学术圈的自娱自乐，而是逐步进入国家政策视野。当一位顶尖科学家选择以非营利形式开展安全研究，并获得跨国政府资金支持时，这本身就是对纯商业化AI发展模式的一种回应与制衡。

LawZero成立于2024年，全称为"Law Zero for AI Safety"，是Bengio联合多位AI安全研究者共同发起的非营利研究机构，总部设于蒙特利尔。其名称寓意在于将AI安全视为凌驾于其他一切规则之上的"第零定律"——类似于阿西莫夫机器人定律中对人类整体利益的最高守护。该机构聚焦于可验证的AI对齐（alignment）方法、监控机制及政策框架研究，旨在提供独立于商业利益的安全评估与建议。与OpenAI、Anthropic等以商业模式支撑安全研究的机构不同，LawZero的非营利定位使其能够在不受投资回报压力影响的前提下发声，这也是其获得政府信任的重要原因之一。

Hugging Face遭遇网络攻击敲响警钟

Bengio特别提到了近期针对Hugging Face的网络攻击事件。作为全球最大的开源AI模型托管平台之一，Hugging Face汇聚了海量的模型、数据集与开发者社区。对这样一个基础设施级平台的攻击，暴露出AI生态在安全防护上的脆弱性。

他将此事件视为"当前AI发展轨迹风险"的一个缩影。当越来越多的能力被开放、被托管、被集成到各类应用中，任何一个环节的安全漏洞都可能被放大。Bengio的担忧并非空穴来风：模型能力的快速扩张，往往跑在安全保障措施的前面。

Hugging Face创立于2016年，最初是一家聊天机器人公司，后转型为AI开源社区平台，目前托管超过90万个预训练模型和18万个数据集，被业界称为"AI领域的GitHub"。2024年，该平台Spaces服务遭遇安全入侵，攻击者获取了部分用户的访问令牌（access token），可能导致私有模型或数据集被未授权访问。这一事件的深层风险在于：大量企业和开发者将Hugging Face作为模型分发与集成的核心节点，一旦恶意行为者在此植入后门模型或篡改权重，下游应用将在不知情的情况下继承这些安全隐患，形成供应链攻击（supply chain attack）。这与软件领域的SolarWinds事件在逻辑上高度相似，只是作用于AI生态而非传统IT基础设施。

商业竞赛与安全保障的失衡

Bengio观点的核心，在于批评当前这场"商业竞赛"。他指出，激烈的市场竞争正推动前沿模型的能力不断突破，却缺乏足够的安全保障（sans garanties suffisantes）。这是一种典型的"能力优先、安全滞后"的发展节奏。

在他看来，破解这一困局需要两条腿走路：一是从技术层面开发真正有效的安全解决方案，二是让公众和政策制定者充分理解并参与到这些议题中来。这也正是他愿意走上电视节目、面向大众发声的原因——AI安全不应只在实验室和董事会里讨论，而需要更广泛的社会共识。

为何公众参与如此关键

技术专家的呼吁若无政策与公众的呼应，往往难以转化为实际约束。Bengio选择在大众媒体平台而非专业会议上讨论这些问题，反映出他对"民主化AI治理"的重视。当citoyens（公民）和décideurs politiques（政策制定者）真正"抓住"（se saisissent）这些议题时，才有可能形成对商业冲动的有效制衡。

"能力优先、安全滞后"的现象在AI领域有其结构性根源。当前主流前沿实验室（如OpenAI、Google DeepMind、Anthropic）普遍面临"竞争诅咒"：率先发布能力更强的模型可带来用户、资本与人才的聚集效应，而安全评估与红队测试（red-teaming）则需要时间成本，形成先发劣势。部分研究者将这种动态类比为"囚徒困境"——即便每家机构都认同应放慢速度做好安全，单方面减速却可能导致市场份额的流失。Bengio等人倡导的出路之一是引入外部强制协调机制，例如政府设定的发布前安全评估标准，从而将安全成本内化为行业统一门槛，而非单个企业的竞争负担。

一位科学家的立场转变

从推动深度学习技术边界的先驱，到如今高声疾呼AI安全，Bengio的角色转变本身就是行业变化的注脚。他没有停留在技术乐观主义，而是以实际行动——创办非营利机构、争取政府支持、走上公共平台——来推动一种更负责任的AI发展范式。

这条简短的社交媒体动态虽未展开太多细节，但传递的信号清晰：在AI能力狂飙突进的当下，如何建立与之匹配的安全护栏，正成为学界、政界与公众必须共同面对的命题。