恐惧的传染：当AI专家渲染末日论时该被质疑

系统工程师、Oxide公司联合创始人 Bryan Cantrill 最近撰文回应了一则引发广泛讨论的言论——前 Anthropic 员工 Jacob Coxon 在社交平台上确认，Anthropic 内部许多研究人员相信 AI "可能在十年内让我们全部灭绝"。Cantrill 的文章标题一针见血：《恐惧的传染》（The contagion of fear）。他没有直接反驳末日论的对错，而是把矛头指向了一个更本质的问题：当技术专家向公众发出灾难警报时，他们究竟应该承担怎样的责任。

末日论的"手挥式"论证

Coxon 在其言论中列举了 AI 可能带来毁灭的两条路径："入侵关键基础设施"和"制造灭绝级别的生物武器"。听上去足够骇人，但 Cantrill 敏锐地指出了问题所在——这些论断缺乏任何进一步的技术阐述。

"这些令人毛骨悚然的论断毫不掩饰地击中了人们内心最脆弱的地方，"Cantrill 写道，"鉴于 AI 显然的重要性，它们迅速进入主流话语并不令人意外，人们自然会追问：这到底会怎样发生？而答案总是依赖于对未来的手挥式（hand-wavy）推断。"

他进一步质疑了发言者的专业资质：Coxon 既不是关键基础设施领域的专家，也不是生物武器专家，更不是灭绝生物学的专家。换言之，一位 AI 研究人员在自己专业范畴之外发出灭绝级别的警告，其论断的可信度值得打上一个大大的问号。

专家的信任不能被滥用

Cantrill 文章中最具分量的观点，来自他自己年轻时的一段经历。他坦承数十年前曾因自己的鲁莽犯下错误，在技术水平不如自己的同侪中引发了没有根据的恐慌。这段"羞愧"的往事让他领悟到一条重要教训。

"领域专家凭借其专业性，隐含地握有公众的信任——而我们绝不能滥用这份信任，"他写道，"我们有责任在自己的论断上保持审慎——尤其是在拉响警报的时候，更要审慎到极致。"

这一论点触及了 AI 安全讨论中一个常被忽视的伦理维度。公众不可能理解大语言模型、关键基础设施、生物武器、灭绝生物学等复杂领域的全部细节，因此举证的负担理应落在提出主张的一方身上。当一个具备专家光环的人抛出"AI 会杀死我们所有人"这样的论断，却拿不出扎实的机制说明时，他实际上是在透支整个技术群体的公信力。

生物武器恐慌：想象力填补了证据的空白

Cantrill 对生物武器这一具体担忧的批评尤为犀利。在他与 Simon Willison 共同参与的 Oxide and Friends 播客节目中，他详细阐述了自己的怀疑（相关讨论从节目 51 分 44 秒开始）。

"我真的认为我们需要小心，因为当我们编造这些说法时，实在太容易被恐惧吞噬了……'它能给你生物武器'。怎么给？我是说，能不能请一位生物学家来发表意见？或者请一位有生物武器实际经验的人？"Cantrill 在节目中说道，"生物武器这件事最让我抓狂，因为它留下了太多想象空间，而我们用恐惧填满了这些空白。"

这段话点出了末日叙事的传播机制：越是语焉不详、越是留白，越能激发人们的恐惧想象。一个缺乏具体技术路径的警告，反而因其模糊性而更容易在公众间扩散——这正是"恐惧的传染"的核心。

争论背后的更大命题

Cantrill 的批评并非否认 AI 存在风险，也不是主张对潜在危害视而不见。他真正反对的是那种脱离专业依据、诉诸恐惧的表达方式。在 AI 能力快速演进、公众关注度空前高涨的当下，技术从业者的每一次公开表态都可能被放大。

值得思考的是，Anthropic 作为一家以 AI 安全为核心使命的公司，其内部研究人员的末日担忧本身就带有某种立场色彩。这类论断究竟是基于严谨的风险评估，还是无意间成为了塑造行业话语和监管方向的工具，公众很难分辨。这也正是 Cantrill 强调"举证责任在于发言者"的现实意义所在。

对于关注 AI 伦理与安全的读者而言，这场讨论提供了一个有价值的思考框架：面对任何灾难性预言，不妨追问一句——发言者是否是该领域的真正专家？其论断是否给出了可检验的机制？还是仅仅依靠对未来的模糊推断，来激起我们心底的恐惧？

在信息传播速度极快的时代，保持这份审慎，或许比任何一次警报都更重要。