末世论邪教思维：AI狂热中的危险信号

一条推文最近引发热议："一个疯狂的千禧年死亡邪教的常见标志是，你公理般地确信末日将在几个月内发生，你不断寻找它可能已经开始的迹象，你对此既恐惧又兴奋，你不断与朋友谈论它，而他们恰好都拥有完全相同的信念。" 这段话看似在描述宗教极端主义，但放在当下的AI圈，却意外地精准——只不过"末日"换成了"AGI降临"，"邪教"换成了"技术乌托邦"。

当技术信仰变成末世论

千禧年主义的核心是：世界即将发生根本性断裂，信徒需通过特定行为（忏悔、传播福音）获得拯救。这种思维模式在AI领域并不罕见。一些从业者坚信通用人工智能（AGI）将在极短时间内出现，并彻底颠覆人类文明。他们密切关注模型能力的"涌现"迹象，在社交媒体上分享每一次基准测试的突破，语气中混杂着对未知的恐惧和对"奇点"的兴奋。

更值得警惕的是回音室效应。推文指出，信徒"不断与朋友谈论它，而他们恰好都拥有完全相同的信念"。在AI社区，这表现为特定Slack群组、Discord服务器或Twitter列表中的同质化讨论——对AGI时间线的质疑被贴上"缺乏想象力"的标签，而谨慎的声音则被边缘化。

千禧年主义（Millenarianism）源自基督教神学，特指相信世界将在千禧年（一千年）之际发生根本性变革的信仰体系。其世俗化形态——千禧年式思维——已超越宗教范畴，成为分析社会运动的重要框架。社会学家诺曼·科恩在《千禧年之 Pursuit》中指出，这类运动通常具备三个要素：对现有秩序的彻底否定、对即将到来的断裂性事件的确定性预期，以及信徒通过特定行为（传播福音、践行戒律）参与拯救的使命感。在技术语境中，这一框架被用来描述对“奇点”或“AGI降临”的准宗教式期待：技术突破被赋予救赎与毁灭的双重意涵，信徒则在传播“福音”（分享基准测试结果）中获得身份认同。理解这一概念有助于识别AI讨论中那些看似理性、实则具有末世论结构的叙事模式。

邪教思维的三重特征

第一，公理化的确定性。邪教信徒不需要证据，他们"axiomatically convinced"（公理般地确信）。在AI讨论中，这体现为将"AGI必然在X年内到来"视为不可质疑的前提，而非需要论证的假设。任何相反的数据点都被解释为"暂时的瓶颈"或" scaling law尚未生效"。

第二，征兆搜寻与兴奋感。推文提到信徒"既恐惧又兴奋"。这种矛盾情绪在技术圈同样常见：每当新模型展现出意外能力，社区中既有"这太危险了"的担忧，也有"我们离终点更近了"的暗喜。恐惧和兴奋共享同一个根源——对超越人类控制的事件的期待。

第三，社交闭环。邪教的维系依赖群体认同。当一个人的社交圈完全由持相同信念的人组成时，信念就获得了社会性加固。AI领域的"时间线预测"文化也是如此：在特定圈子里，给出保守估计的人会被视为"不懂行"，而激进预测则获得点赞和转发。

回音室效应（Echo Chamber Effect）与群体极化（Group Polarization）是理解邪教思维社交闭环的两个关键概念。回音室效应指个体在封闭的信息环境中，只接触与自身信念一致的观点，导致信念不断强化而缺乏纠偏机制。群体极化则进一步表明，当同质化群体进行讨论时，其成员的立场平均而言会变得更加极端——不是趋于中间，而是向原有倾向的更强版本移动。在AI社区中，特定Slack群组、Discord服务器和Twitter列表构成了典型的信息茧房：激进的时间线预测在群体互动中被反复放大，而保守估计则因缺乏社会奖励而逐渐沉默。这种动态并非源于个体非理性，而是群体互动的结构性产物，因此仅靠个人“保持理性”难以抵御，需要刻意引入异质信息和制度化的质疑机制。

为什么这种类比值得认真对待

将AI狂热类比为邪教，并非要否定AI技术的变革性，而是提醒我们注意信念形成的社会机制。邪教思维的危险不在于信念内容本身，而在于信念的持有方式——不可证伪、依赖群体认同、伴随末世情绪。

在AI治理讨论中，这种思维模式可能导致两个极端：一是过度乐观，忽视现实风险；二是过度悲观，阻碍有益探索。健康的科技讨论需要可证伪的假设、多元的视角和允许质疑的社群文化。

推文的讽刺之处在于，它原本可能指向宗教或政治极端主义，但技术圈的人读完后很难不联想到自己所在的社群。这或许正是它被广泛传播的原因——它提供了一面镜子，照出了技术信仰中非理性的暗面。

可证伪性（Falsifiability）是科学哲学家卡尔·波普尔提出的划界标准：一个命题若原则上无法被任何观察或实验否定，则不属于科学范畴。邪教思维的认识论特征恰在于其核心信念的不可证伪性——无论出现何种反例，信徒都能通过“暂时瓶颈”“scaling law尚未生效”等辅助假设将其消化。在AI时间线预测中，这一机制表现为预测的无限滑动：当AGI未在预期年份出现时，预测者不是修正信念，而是调整定义或推迟期限。值得注意的是，可证伪性并不要求每个具体预测都必须精确，而是要求信念体系整体上对证据保持敏感。健康的科技讨论应当明确区分“基于当前趋势的估计”与“不可质疑的教义”，前者随新数据修正，后者则以信念的坚定程度作为虔诚的度量。

如何避免陷入技术邪教思维

保持认知谦逊是关键。承认AI发展的不确定性，而不是用"公理"替代论证。主动接触不同观点，尤其是那些让你不舒服的质疑。区分"兴奋感"和"证据"——对新能力的惊叹不应转化为对时间线的确信。

技术本身是中性的，但围绕技术的社群文化可以塑造我们的判断。当讨论AI时，不妨问自己：我是在寻找真相，还是在寻找 Signs that the Apocalypse has started？