AI末日论是营销话术？拆解科技巨头的"危险叙事"

当"AI太危险"成为一门生意

一则在Reddit上引发热议的帖子把矛头指向了近年愈演愈烈的AI末日论。发帖者提出了一个尖锐的观点：那些关于AI将"毁灭世界"或"重塑文明"的宏大叙事，本质上可能是一场精心设计的营销话术，而非真正的技术判断。

这一质疑并非空穴来风。OpenAI曾在早期声称GPT-2"太危险以至于不能公开发布"，随后又逐步放出了完整模型；Anthropic的CEO Dario Amodei则预言AI可能在1到5年内消灭50%的初级白领工作。类似的戏剧化预测，我们已经听了很多年。

"危险叙事"背后的商业逻辑

帖子的核心论点值得深思：夸大AI的危险性，恰好为这些公司提供了双重便利。

一方面，"我们的技术强大到危险"本身就是最好的产品广告——它暗示着能力的领先与稀缺性。另一方面，这种叙事还埋下了一个巧妙的伏笔：如果在IPO之前增长开始放缓，公司可以将"刻意放慢脚步"归因于"出于安全考虑"，而非技术触及了天花板。

换句话说，末日论既是营销，也是一种风险对冲的说辞。当增长曲线趋于平缓时，"我们本可以更快，只是为了人类安全而克制"远比"我们遇到了瓶颈"听起来体面得多。

GPT-2事件是理解这一叙事的重要案例。2019年2月，OpenAI发布GPT-2时以"存在被滥用于生成虚假信息的风险"为由，拒绝公开完整模型权重，采取分阶段"受控发布"策略。这一决定在当时引发了广泛讨论——支持者认为是负责任的安全实践，批评者（包括部分AI安全研究者）则认为此举更像是一次精心设计的发布营销，人为制造稀缺感与神秘性，因为GPT-2在当时的实际能力远未达到真正危险的阈值。数月后，完整模型被陆续公开，并未引发预警中的严重后果。这一事件为后来审视AI公司"危险论"叙事提供了一个可参照的先例。

技术进步是否真的会"造神"？

发帖者并未否认AI模型存在变得危险的可能性，但他对一个流行假设提出了强烈质疑：即引入某种新的学习技术——比如持续自我改进（continuous self-improvement）——就会突然催生出"神一般"的智能体。

他认为这种线性外推式的想象过于天真。更符合规律的图景是：新技术带来一次显著的性能跃升，随后进入收敛阶段，最终陷入边际收益递减。这不仅是AI发展史反复出现的模式，也普遍存在于技术、生物乃至进化的各个领域。

优化过程的普遍规律

从生物进化到工业技术，几乎所有优化过程都遵循S型曲线：早期缓慢积累，中期爆发式增长，后期趋于饱和。指望某一项技术突破就能打破这一规律、实现无限自我增强，缺乏足够的经验支撑。

这一视角提供了一个更冷静的参照系。与其相信AI会以指数级速度失控走向"超级智能"，不如预期它会像其他技术一样，在若干次跃升后逐渐逼近某个实际上限。

这里的关键概念是"递归自我改进"（Recursive Self-Improvement），它是AI末日论的核心技术依据之一。其基本逻辑是：一旦AI足够智能，它就能优化自身的算法与架构，产生更强的新版本，新版本再进一步自我优化，循环往复，最终在极短时间内远超人类智能——这一假想的引爆点通常被称为"技术奇点"（Technological Singularity），最早由数学家弗农·文奇（Vernor Vinge）在1993年系统阐述，后经雷·库兹韦尔（Ray Kurzweil）等人广泛传播。

然而批评者指出，这一推论存在几个未经证实的前提：自我改进是否真的能绕开训练数据、算力等物理瓶颈；更聪明的系统是否必然更擅长改进自身；以及"智能"本身是否是可以无限叠加的单一维度。现实中，即便是最先进的模型，其迭代依然严重依赖人类设计的训练流程与大量标注数据，距离"自主闭环改进"仍有相当距离。

S型曲线（Sigmoid Curve）在技术预测领域有具体的应用背景，值得稍加说明。技术经济学家常用它描述一项技术从诞生到普及的完整生命周期：萌芽期增长缓慢，成长期呈现类指数爆发，成熟期趋于饱和。这与纯粹的指数增长（Exponential Growth）有本质区别——后者假设增速本身持续加快且无上限，而S曲线内嵌了资源约束、边际报酬递减等现实因素。

在AI领域，Scaling Law（规模扩展定律）的讨论近年来高度相关：研究者发现，在算力和数据按比例增加时，模型性能确实持续提升，但提升幅度本身是否会衰减，目前仍存在争议。部分实验室的内部数据已显示，新一代大模型的能力增益正在收窄，这与S曲线进入平台期的预测相吻合，也为文章的核心论点提供了现实佐证。

如何理性看待AI风险讨论

这场讨论的价值不在于给出"AI到底危不危险"的定论，而在于提醒我们区分两类信息：基于技术事实的判断，与服务于商业目标的叙事。

对于关注AI行业的观察者而言，几个原则或许有用：

• 警惕时间表精确的宏大预言。"1到5年消灭50%工作"这类断言往往缺乏可验证的推导路径。
• 关注公司的利益结构。当"危险论"恰好能提升估值或掩盖增长放缓时，需要多一分审慎。
• 回归技术本身的规律。收敛与边际递减是常态，突破式"造神"是例外中的例外。

当然，保持怀疑并不等于全盘否定。AI确实可能带来真实的风险，只是这些风险更可能是渐进、具体、可管理的，而非好莱坞式的一夜降临。真正的挑战，是在营销噪音中辨认出那些值得认真对待的信号。