AI巨头联名请愿背后：一场精心设计的圈地游戏

一封请愿书引发的思考

最近科技圈流传着一件颇具争议的事：OpenAI、谷歌、Anthropic等头部AI公司内部，上千名员工联名向美国政府发起请愿，呼吁监管机构介入，控制AI发展的速度。表面看来，这是一场为全人类安全负责的正义之举，充满了理想主义色彩。

但如果我们拨开这层温情脉脉的面纱，就会发现一个更值得玩味的逻辑：这套操作，恰恰是商业世界里被反复使用的经典套路——跑在最前面的几个玩家，主动把裁判喊来，要求在身后画一条红线。

这种策略在经济学中有一个专业术语叫"监管俘获"（Regulatory Capture）。这一概念最早由诺贝尔经济学奖得主乔治·斯蒂格勒在1971年提出，指的是监管机构被其所监管的行业所控制，最终制定出有利于既有企业而非公众利益的政策。历史上，从电信行业的AT&T通过复杂的牌照制度排斥竞争者，到金融领域的大型银行推动巴塞尔协议抬高资本门槛，这种通过推动高合规要求来阻止新进入者的策略屡见不鲜。

监管俘获在AI领域呈现出比传统行业更为隐蔽的特征。在电信或金融行业，监管壁垒通常以牌照、资本金等显性门槛出现，公众容易识别其排他性质。但在AI领域，安全叙事赋予了监管诉求道德正当性——谁能反对"安全"呢？这使得监管俘获可以披着公共利益的外衣推进。值得注意的是，OpenAI CEO山姆·奥特曼在2023年5月的美国国会听证会上主动呼吁建立AI许可制度，而彼时OpenAI已凭借GPT-4确立了技术领先地位。欧盟的《AI法案》（EU AI Act）虽然初衷是保护公民权利，但其分级监管框架中对"高风险AI系统"的严格合规要求，客观上有利于拥有庞大法务和合规团队的大型科技公司，而对资源有限的初创企业构成了不成比例的负担。

在AI领域，当训练一个前沿大模型的成本已经从数千万攀升至数亿美元时，任何额外的合规要求——无论是强制安全审计、算力使用报备还是模型上线前的政府审批——都会进一步抬高准入门槛，客观上巩固了头部玩家的市场地位。

他们已经越过了那条线，而红线一旦落地，后来者便再难追赶。原本开放的赛道，就这样被悄然圈成了自家的院子。这不是在保护人类，而是在用规则筑起护城河。

AI真能关起门自我进化吗？一个危险的认知幻觉

抛开商业博弈不谈，这件事背后其实暴露了一个更深层的认知误区。

如今谈论AI，人们张口就是「递归迭代」「奇点降临」「AI生成AI」，仿佛只要让机器不停地自我运转、关起门来憋大招，就能憋出一个全知全能的「上帝」。但这个前提，从根本上就站不住脚。

人和大模型不是一个「物种」

人与当前的大模型，在思考逻辑上存在本质差异。差的不是参数规模，而是天生缺失了半套系统。

人做事，是两套机制同时运行的：一套是往前冲的正反馈，一套是踩刹车的负反馈。人知道疼、知道怕、知道话说多了会得罪人、知道某件事不对就赶紧停下来。这种「分寸感」和「止损意识」，是在真实世界里摔打、疼痛中习得的，而不是计算出来的。

而大模型呢？它只会顺着概率去预测下一个词。以GPT系列为代表的Transformer模型，其核心工作原理是自回归生成（Autoregressive Generation）——基于已有的上下文序列，通过softmax概率分布预测下一个token。Transformer架构由Google在2017年的论文《Attention Is All You Need》中提出，其核心创新是自注意力机制（Self-Attention），允许模型在处理序列时同时关注所有位置的信息。但这种架构上的优雅并不等同于理解力。自回归生成的本质是条件概率链：P(x₁,x₂,...,xₙ) = P(x₁)·P(x₂|x₁)·...·P(xₙ|x₁,...,xₙ₋₁)。模型在每一步都是在做统计推断，而非语义推理。

这个过程本质上是一个单向的前馈过程，模型没有内在的"停止判断"机制，只有当生成出特定的结束标记（EOS token）时才会停止输出。这也解释了为何大模型在面对需要因果推理或反事实思考的问题时表现不稳定——它缺乏人类那种基于世界模型（World Model）进行心理模拟的能力。认知科学家将人类思维分为"系统1"（快速直觉）和"系统2"（慢速推理），当前大模型更接近一个极度强化的系统1，而缺乏真正的系统2深度思考能力。

相比之下，人类大脑拥有前额叶皮层负责的执行控制功能和杏仁核驱动的情绪反馈系统，这套神经回路让人类能够在行动前评估风险、在行动中感知不适并及时调整方向。当前业界广泛使用的RLHF（基于人类反馈的强化学习）技术试图弥补这一缺陷，但它本质上仍是对输出结果的事后修正——相当于在生产线末端加了一道人工质检，而非真正内生的自我约束机制。

它没有「这件事不能做」的概念，只要持续供电，它就能一直生成下去。缺少了那套负反馈的刹车系统，这就是它与人类最根本的分野。

近亲繁殖的封闭系统：AI自我迭代的致命缺陷

更值得警惕的是，那套所谓的「自我迭代」，本质上是一个彻底的封闭系统。

AI生成的数据再喂给AI训练，这无异于「近亲繁殖」。这并非仅仅是一个形象的比喻——2023年，牛津大学和剑桥大学的研究团队在《Nature》上发表论文，正式提出了"模型崩塌"（Model Collapse）的概念。研究发现，当语言模型反复在自身生成的数据上训练时，输出的多样性会逐代递减，分布的尾部信息（即那些低频但极其重要的知识和表达方式）会被逐步丢失，最终模型会退化为只能输出少数高频模式的"退化态"。这就像复印件再复印，每一代都会损失细节，最终变成一张模糊不清的纸。

模型崩塌的数学本质与统计学中的"方差缩减"现象密切相关。当模型A生成的数据用于训练模型B时，模型A输出中的高概率区域会被过度采样，而低概率但信息量丰富的尾部分布则被系统性忽略。经过多代迭代，这种信息损失是累积且不可逆的。研究者Shumailov等人的实验表明，仅经过5-10代递归训练，模型的困惑度（Perplexity）就会显著上升，输出多样性指标急剧下降。这一现象在图像生成领域同样存在——用AI生成的图片训练下一代图像模型，会导致特定纹理和色彩模式的过度重复。这也是为什么高质量的人类原创数据被称为AI时代的"新石油"——它是不可替代的训练燃料。

你在恒温恒湿的玻璃房里，哪怕看一万遍「手指被火烧」的视频，也永远无法体会火苗舔到皮肤那一瞬间钻心的疼痛。

真实世界是一个混沌系统：没有标准答案，随时会有意外，任何决策都伴随着真金白银的代价，还有无数你在训练数据里从未见过的意外状况。混沌系统理论指出，真实世界中的非线性动力学特征——如蝴蝶效应（初始条件的微小差异导致截然不同的结果）、分岔现象（系统在临界点突然改变行为模式）——根本无法通过封闭数据集来完整捕捉。混沌系统的核心特征是对初始条件的极端敏感性，这意味着即使拥有完美的物理模型，长期预测仍然是不可能的——这就是气象学家洛伦兹在1963年发现的著名结论。对AI而言，这意味着真实世界中大量决策场景本质上是不可从历史数据中完整学习的。金融市场的黑天鹅事件、地缘政治的突变、社会舆论的非线性传播，这些现象的共同特征是它们在发生之前几乎没有统计先例。塔勒布在《反脆弱》中指出，真正的韧性不是来自对已知风险的优化（这是大模型擅长的），而是来自在未知冲击中存活并成长的能力——这需要实体在真实环境中承受真实后果。

这从数学上解释了为什么纯粹的内循环训练，无论迭代多少轮、堆叠多少参数，都无法替代真实世界中那些带着不确定性和真实代价的反馈。

缺少了这些带着「痛感」的真实反馈，模型练一辈子，也练不出那种「知道什么时候该停」的分寸。

技术从来都是「用」出来的，而非「算」出来的

回顾人类历史，没有任何一项重大技术是天才在实验室里关起门来自我迭代、憋成最终形态的。科技哲学家布莱恩·阿瑟（W. Brian Arthur）在《技术的本质》一书中提出，技术演化的核心驱动力是"组合进化"——新技术总是在旧技术的组合与真实场景的碰撞中涌现，而非在封闭环境中自发生长。

阿瑟的组合进化理论认为，技术不是被"发明"的，而是从已有技术的组合中"涌现"的。蒸汽机的发展依赖于冶金术的进步；半导体革命建立在量子力学理论和材料科学的交汇之上；互联网则是分组交换网络、TCP/IP协议栈和超文本系统的组合产物。每一项组合的成功，都经过了真实应用场景中大量失败尝试的筛选。这一理论对AI发展的启示是：AGI——如果它最终能够实现——大概率不会从某个实验室的封闭迭代中诞生，而是会从AI与机器人技术、生物传感器、边缘计算、人机交互等多种技术在真实场景中的碰撞融合中涌现。

克莱顿·克里斯坦森的"颠覆式创新"理论同样表明，真正改变产业格局的技术往往不是实验室中最先进的方案，而是在边缘市场经过反复试错、被真实用户反复锤炼后才最终爆发的。

安全带不是发动机转出来的

以汽车为例：安全带、安全气囊、交通规则，没有哪一样是发动机自己「转」出来的。它们全都是汽车开上了路、发生了碰撞、翻了车、出了事故甚至死了人之后，人们根据血淋淋的反馈，才一点点补充完善的。沃尔沃工程师尼尔斯·博林发明三点式安全带，正是基于对大量真实车祸中人体受伤模式的详细分析——如果没有那些惨痛的真实事故数据，再精妙的工程设计也无从谈起。

互联网同样如此。从最初的局域网，到后来的直播带货、知识付费，没有哪一种业态是产品经理在办公室里拍脑袋想出来的，而是千千万万的用户亲自试出来、用脚投票筛选出来的。TCP/IP协议也是在ARPANET的实际运行中，经过无数次网络中断和数据丢包后才迭代成熟的；万维网的超链接设计在蒂姆·伯纳斯-李的最初构想中只是为了方便CERN的物理学家共享论文，其后来的爆发式演化完全由真实用户的使用行为所驱动。

技术从来都是被人「用」出来的，而不是几个天才在房间里「算」出来的。

真正的刹车来自市场，而非政府监管

真正的速度调节，其实从来不需要政府出面来踩刹车。商业社会本身，就自带最实在的调节器。

这背后的理论基础，可以追溯到哈耶克的"分散知识"理论——市场价格机制能够汇聚千百万参与者的局部信息，形成任何中央计划者都无法企及的信息处理和资源配置能力。哈耶克在1945年的经典论文《知识在社会中的运用》中指出，经济活动所需的关键知识是分散的、局部的、往往不可言说的——没有任何中央机构能够收集和处理这些信息。市场价格机制的伟大之处在于它能将这些分散信息编码为价格信号，引导资源的高效配置。将这一逻辑应用于AI治理：关于AI应该如何被使用、哪些应用有价值、哪些存在风险，这些知识同样是高度分散的——它存在于每一个开发者的实践中、每一个用户的体验里、每一个行业的具体场景中。试图由少数监管者从上至下规定AI的发展路径，面临着与计划经济相同的"知识问题"。

在AI行业，这种机制以多种形式发挥着作用：

模型总是产生幻觉、坑了客户？用户自然会用脚投票，不再买单。数据安全出了漏洞、赔到肉疼？企业自己就会慢下来修补。2023年三星因员工将机密代码输入ChatGPT而全面禁用外部AI工具，就是市场自发调节的典型案例——不需要任何政府文件，企业在遭受实际损失后会迅速调整策略。你吹嘘的AGI迟迟不能兑现？资本也不会容许你无限制地烧钱——投资人的耐心本身就是最严格的进度考核。

真金白银的损失，比一百份请愿书都要管用得多。

当然，也需要诚实地指出市场调节的局限性：市场反馈存在滞后性，某些系统性风险（如AI被用于大规模深度伪造和虚假信息传播、或被用于自主武器开发）可能在市场反应之前就已造成不可逆的社会损害。这也是为什么关于监管边界的讨论本身是有价值的——关键在于，监管的设计应当促进竞争而非限制竞争，保护公众而非保护既得利益者。

结论：别把开放的赛道走成垄断的院子

基于以上分析，我的判断很直接：那些天天喊着「需要别人来管我们才能发展」的声音，要么是自己心里发虚、怕担责任，要么就是想借规则走捷径。这两者，都不是真心想把事情做好。

如果真的顺着他们的意，把AI变成几家巨头关起门来垄断的封闭游戏，那才是真正把路越走越窄。

AI的未来，应该是被扔进开放的世界，让千千万万的人去使用、去试错、去摔跤。摔了自然会疼，疼了自然会慢下来改规则。这才是所有技术走过几百年、从无例外的正道。

当然，这只是一种视角。监管与创新的平衡，本身就是一个没有标准答案的复杂议题。但至少，我们不应轻易把「安全」的口号，等同于「垄断」的许可证。