[控场AI]
· 7 分钟阅读· 3,770 字

Jonathan Blow:AI编程神话与软件质量的真相

Jonathan Blow:AI编程神话与软件质量的真相

Blow 认为 AI 编程缺乏判断力,十倍生产力无证据,行业经验断层是质量问题的深层根源。

Jonathan Blow 在访谈中系统批评了软件行业的积弊与 AI 编程的边界。他指出软件工程从未建立真正的职业问责文化,方法论潮流轮转但工程质量未见实质提升。行业高速扩张导致平均经验被稀释、知识传承断裂,叠加系统复杂性的只增不减,使得软件质量长期停滞。对于 AI 编程,他认为当前大模型本质是高效搜索算法,擅长快速产出但缺乏判断力,生成的冗余代码会累积为技术债,所谓十倍生产力缺乏证据。唯一务实的增量是用 AI 大规模扫描漏洞。他警告当前 AI 创业潮呈现泡沫特征,并主张建立“程序员修士会”式的知识守护机制和定期还技术债的工程纪律。

为什么AI写代码越多,软件反而越糟?

传奇游戏开发者、《时空幻境》与《见证者》作者 Jonathan Blow 在一场深度访谈中抛出了一个尖锐的观察:如果 AI 真如所有人所说那样擅长写代码,那做出这种产品的公司应该是世界上最值钱的公司。可现实是,他环顾四周,软件还是老样子——该崩溃的崩溃,该有漏洞的有漏洞。

这场对话围绕软件工程的积弊、AI 编程的真实边界,以及整个行业为何在投入暴增的同时看不到对等的产出,展开了少见的坦率讨论。

软件工程从未建立真正的职业约束

Blow 把矛头指向了软件行业长期缺失的问责文化。在土木工程里,桥塌了工程师要负责,历史上甚至有"先住在桥下"的传统;但在商业软件领域,几十年来始终是一片蛮荒。数据泄露、性能问题、一个网页按钮都点不出可预期的结果——这些失败太常见,以至于所有人都默认"软件本来就这样"。

他对各种方法论的"自大"也毫不客气:八十年代不做面向对象就是坏工程师,九十年代换成函数式,每隔十年轮回一次,Rust 信徒又是新一批。这些范式争论的热闹程度,与实际工程质量脱节得厉害。

访谈截图

软件工程与土木工程等传统工程学科的关键差异之一在于职业问责机制。传统工程领域通常有执照制度、行业规范和法律追责体系:工程师若因设计缺陷导致事故,可能面临吊销执照、民事赔偿甚至刑事责任。软件行业则缺乏对等的约束——没有统一的执业资格认证,代码缺陷导致的数据泄露或系统崩溃往往以“行业常态”被接受,极少追溯到具体个人。这种结构性差异使得软件质量问题的成本被外部化给用户和社会,而非由开发者承担。Blow 所批评的“蛮荒”状态,正是指这种缺乏成熟职业伦理与责任框架的行业生态。

经验断层:快速增长稀释了整个行业的判断力

为什么老系统反而更稳?Blow 给出一个直观的算术:软件行业长期高速扩张,如果人数持续翻倍,那么一半从业者是零年经验,四分之一只有一年,平均经验值会收敛到一个很低的数字。他自己的经历也印证了这点——在伯克利读了四五年计算机,自认是最优秀的学生之一,毕业后真正做难的东西才发现"大部分我根本不会",大约工作五六年才感觉自己上了一个台阶。

这意味着,当整个行业没人攒够六年经验时,就没人真正知道事情该怎么做。公司里"那位待了五年、记得当初为什么做这个决定的人"越来越少,知识传承断裂,剩下的就是在巨大的技术垃圾堆上层层堆叠。

复杂性只增不减,而且越来越难拆

Blow 用一个节点图来描述程序:节点是代码,连线是代码之间的隐含约束与后果。好程序员的工作,就是在脑子里维护这张越来越密的图,理解每个决定的连锁影响。而软件有个特性——它会随时间硬化。系统越大,任何改动越可能牵动全身,所谓"解耦"在极限情况下根本做不到。

他举了两个例子。其一是 Unix 的"一切皆文件"设计:初衷是简单快速,如今却复杂得面目全非,可因为锁定效应,没人有动力推倒重来。其二是 systemd,从一个简单的 init 脚本膨胀到超过 150 万行代码,把登录、消息传递等统统吞进去。他的评价很直接:这是整个行业问题的典型样本。

访谈截图

Systemd 是 Linux 系统中用于初始化和管理系统服务的核心组件,最初设计目标是替代传统的 SysVinit 脚本,提供更快的启动速度和更统一的进程管理。然而随着版本迭代,systemd 不断扩展功能边界,逐渐接管了日志管理、网络配置、登录会话、定时任务等原本由独立工具负责的领域,代码量膨胀至超过 150 万行。这种“功能蠕变”在软件工程中是一个典型现象:一个为解决特定问题而生的组件,因缺乏边界约束和替代竞争,不断吞噬周边功能,最终演变为难以替换的庞然大物。Blow 将其视为行业系统性问题的缩影——复杂性一旦积累到临界点,重构的成本远超容忍它的成本。

AI 是强大的搜索算法,不是会推理的工程师

谈到 AI 编程,Blow 的态度并非全盘否定,而是精确划界。他认为当前大模型本质上是一个"特别擅长理解你想要什么、然后做大规模搜索"的系统,速度快、成本低,但在创造力和判断力上乏善可陈。他提到让 AI 解释自己的思路时,它会给出"我这样权衡是因为……"的叙事,可一看输出就知道,好的权衡根本没有发生。

他用自己的一次经历说明 AI 的真实价值区间:需要给表格单元格上色,用 AI 生成约三十行 Visual Basic 代码,一次成型,效果不错。若从零学起可能要五小时,实际约一小时搞定。但关键前提是——这段代码用完就扔,不进任何需要健壮性的系统。

一旦复杂度上来,问题就暴露。AI 面对同一个问题会产出比优秀人类程序员多得多的代码,多出来的部分全是下一轮要还的技术债。"让 AI 来还债"的乐观论调,在 Blow 看来没有考虑到误差率会随规模累积,纯靠 vibe coding 的人很快就会撞到天花板。

Vibe coding 是近年来随大语言模型普及而流行的一种编程方式,指开发者不深入理解代码逻辑,仅凭自然语言描述需求、由 AI 生成代码并直接运行,依据“感觉”而非严谨推理来推进开发。这种方式在原型搭建和一次性脚本中效率极高,但缺乏对边界条件、错误处理和系统约束的系统性考量。当项目规模扩大或需要长期维护时,未经审查的 AI 生成代码会引入大量隐性缺陷,且由于开发者本人并未真正理解代码,调试和修复的成本反而更高。Blow 所警告的“撞到天花板”,正是指 vibe coding 在复杂度上升后必然遭遇的可靠性瓶颈。

生产力暴涨的证据在哪里?

这是整场对话最锋利的一问。如果 AI 真带来了十倍生产力,且已经持续了几年,那我们应该看到相当于数十年份的软件进步。可 Blow 作为外部观察者的结论是:几乎为零。软件没有变得更好,也没有出现过去无法存在的新品类,消费者端感受不到任何生产力爆炸。

他承认 AI 本身是真实的技术进步,只是"应用到软件生产"这一环看不到产出。有两种可能:要么生产力被行业结构吞掉了,要么这个说法本身站不住。他倾向于后者。

访谈截图

唯一的务实增量:用 AI 找漏洞

剥离所有宏大叙事,Blow 承认一件事是真的有用——用 AI 大规模扫描代码找 bug。这和 linter、fuzzer 属于同一类"围绕编程过程的脚手架工具",作为一种新工具显然有价值。

但他也提醒,最近一段时间暴露出的问题不只是找到漏洞,还包括极其糟糕的披露流程,导致攻击者的速度跑赢了补丁更新的速度。工具本身中立,怎么用是另一回事。

Linter 是静态代码分析工具,在不运行程序的情况下扫描源码,检测语法错误、风格违规和潜在缺陷;fuzzer(模糊测试器)则通过向程序输入大量随机或半随机数据,观察是否触发崩溃或异常行为,从而发现边界条件漏洞。两者都属于“围绕编程过程的脚手架工具”——它们不直接参与功能实现,而是以自动化的方式扩展开发者对代码质量的感知能力。Blow 将 AI 找漏洞归入同一类别,意味着其价值在于作为新型检测工具嵌入现有工程流程,而非替代开发者的判断与设计。这一类比也暗示了 AI 在该场景中的局限:工具能发现已知模式的问题,但无法理解系统意图或做出架构层面的权衡。

这是又一个泡沫吗?

Blow 说自己成年后至少亲历过两轮软件泡沫:dot-com 时代,以及 2010 到 2017 年间的创业加速器热潮。他提到 2010 年去 Y Combinator demo day,因觉得公司点子太蠢而中途离场。当前这轮 AI 热潮符合泡沫的模式,只是上升浪比以往都大。

他观察到的一个信号是野心缺失:几乎所有软件侧的 AI 创业公司都在"用 agent 做某件事",而这件事只要打开 ChatGPT 让 agent 做就能完成。你骑在别人的底座上,就算做大了也会被底座方拿走。

访谈截图

他的诊断与解药

Blow 给出的方向并不激进。如果让他改进编程行业,他不会主张监管,而是希望建立某种"程序员修士会"——哪怕百里挑一,专门负责维护那份"为什么当初这样设计"的典籍,抵抗知识的消散。

他也反复强调一个被忽视的工程纪律:定期停下来还技术债。他自己的项目里经常这么做。把功能推到能跑通、接近目标的程度,然后暂停,清理,再继续。这种压缩在行业层面几乎不存在,因为没人有权力说"我们先停下来把系统重做一遍"。

至于 AI 编程的终极形态,他抛出一个反直觉的设想:真正能做成的系统,可能不是今天的大语言模型路线,而是回到 AlphaZero 式的、在规则与自身经验中训练的系统,再用 LLM 作为对话界面桥接。"如果真能做到大家说的那样,那会是世界上最值钱的公司——但我认为概率不到一半。"

分享:

相关推荐