AI竞赛的代价：数学家警告超级智能或致人类灭绝

一位自称站在数学与物理学前沿的研究者，在最新一期访谈中抛出了一连串令人不安的论断。他声称与50位不同背景的人——包括高层政客——交谈后，发现他们都在描述同一个被掩盖的故事：外星物种在地球上空交战，而我们正生活在一个被精心管理的现实中。但真正让他感到紧迫的，不是不明飞行物，而是人工智能。

被管理的现实与信任崩塌

这位研究者认为，从新冠疫情的管理方式到哈佛大学的公信力，再到爱泼斯坦案件的悬而未决，整个社会的信息环境已经彻底失真。他用"完全虚构化"来形容我们的日常生活。

这种不信任感并非孤立存在。他提到"没有人真正信任哈佛"，指向的是精英机构在公众心中权威性的瓦解。当一个社会的核心叙事被普遍质疑时，人们会转向寻找替代解释——无论是外星人、阴谋论，还是技术救赎。

这种认知背景为理解他对AI的警告提供了语境：在一个连基本事实都难以达成共识的世界里，超级智能的竞赛正在不受公众监督地进行。

AI：真正的"海啸"

在访谈中，他明确区分了地缘政治危机与AI威胁的层级。伊朗局势、乌克兰战争、普京可能动用核武器的风险、中国观望美国的衰退——这些都是严重的地缘政治紧张，但他将AI称为"真正的大海啸"。

这个判断值得认真对待。地缘冲突即便升级，其破坏力仍有边界；而超级智能一旦失控，理论上可能终结人类物种。他直接指出："你也知道AI可能导致人类灭绝。"

问题在于，这种风险认知与实际行动之间存在巨大鸿沟。他形容这是"地毯下的巨大隆起"，所有人都能感觉到，却没有人真正去掀开它。

什么是"存在性风险"（existential risk）？

访谈中"AI可能导致人类灭绝"的论断，指向的是学术界所说的"存在性风险"（existential risk，简称x-risk）。这一概念由牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）在2002年系统提出，指的是"一种能够永久摧毁地球生命起源智能的威胁"。它与普通风险的差别在于不可逆性：核战争、气候灾难即使再严重，人类文明仍有重建的可能；但一个不受控制且目标与人类不一致的超级智能，理论上可以在人类来不及反应的时间尺度内终结这一可能性。

博斯特罗姆2014年的著作《超级智能》进一步提出了"对齐问题"（alignment problem）：如何确保一个远比人类聪明的系统，其目标始终与人类真正想要的东西保持一致。这正是访谈者所说"地毯下的巨大隆起"所指的技术内核——问题已被清晰识别，却缺乏被广泛接受的解决方案。

灵魂的疤痕：竞赛者的道德困境

访谈中最具冲击力的部分，是他对AI竞赛参与者心理状态的描述。他点名Dario（Anthropic CEO）和Sam（OpenAI CEO），认为他们被迫参与一场"残酷的人性最大化竞赛"，必须赢得通往超级智能的竞赛。

他的原话是："这些人被迫做出不该由任何人做出的决定。他们的灵魂将会……留下疤痕，这是肯定的。"最终，其中一人会胜出，而在理论上，这意味着"召唤恶魔"。

这个比喻的力度在于，它把技术竞赛重新定义为某种道德献祭。竞赛者并非不知道风险，而是在结构性压力下不得不继续推进。他进一步指出一个令人不适的事实：任何订阅这些AI服务的人，都在为"恶魔的召唤"付费。

"我们不要装作双手干净。"这句话把责任从实验室扩展到了每一个用户。

什么是"残酷的人性最大化竞赛"？

访谈者用"人性最大化"描述AI竞赛的结构性压力，这一表述接近AI安全领域所说的"赢者通吃"（winner-take-all）动态。当多家实验室都相信"谁先抵达超级智能，谁就能决定它的价值取向"时，任何一方单方面减速都意味着把决定权让给对手。于是即便每个参与者都清楚风险，理性选择仍然是加速。

这一困境被博斯特罗姆称为"单边主义者的诅咒"（singleton curse）的反面：本应由全球协调解决的问题，被压缩成一场无法退出的竞赛。他点名Dario和Sam，正因为他们既是这一结构的受益者，也是其囚徒。所谓"灵魂留下疤痕"，指的正是这种知情却无法停止的道德代价。

他能停止这一切吗？

访谈结尾，当被问及"如果能够阻止这一切，你会阻止吗"时，他的回答是："我要说一些非常痛苦的话。"这个未完成的回答本身就是一个信号——即便是一位声称站在科学前沿、看穿了"管理现实"的人，面对AI竞赛的惯性，也未必能给出一个轻松的答案。

他的整体论述框架可以概括为：人类已经失去了对现实的共同认知基础，而在这个基础上，一场可能决定物种存亡的技术竞赛正在全速推进。没有人知道如何刹车。

这期访谈的价值不在于它提供了答案，而在于它把几个通常被分开讨论的问题——信息环境的崩坏、机构信任的瓦解、地缘政治风险、AI的生存性威胁——放在同一个叙事框架里。无论你是否认同他的外星人说法或"管理现实"的断言，他所描述的AI竞赛道德困境，是行业内部越来越难以回避的议题。