[控场AI]
· 4 分钟阅读· 2,434 字

AI为AI写代码,人类可读性还重要吗?

AI为AI写代码,人类可读性还重要吗?

当AI为AI写代码,人类可读性是否应从代码设计中移除?

文章围绕Reddit上一则讨论展开:当AI同时成为代码的生产者和消费者,传统为人类认知服务的可读性设计是否变成冗余开销?发帖者提出让AI生成机器友好的中间表示,但质疑去掉可读性是否真能带来收益。文章指出编译器早已使用中间表示,AI的介入可能改变其设计目标,使其从过渡形态变为主要沟通载体。更棘手的难题在于控制权:人类看不懂代码后,传统审计和代码审查将失效,行为级验证和形式化方法尚不能完全替代人工阅读的理解深度。核心判断是,可读性不仅是便利性,更是人类保持对系统控制权的基础,放弃它需要可靠的替代审计手段。

reddit source: If AI writes code for AI, does human readability still matter?

当AI开始为另一个AI生成代码,我们习以为常的“代码首先是写给人看的”这条原则,正在被重新审视。最近Reddit上一位长期接触AI与底层Rust系统的开发者抛出了这个问题:如果代码的读者从人类变成了机器,我们是否应该设计一种面向机器的语言或中间表示?

讨论的核心并不止于“要不要可读性”,而是牵出了一连串更实际的问题:编译器早已使用中间表示,AI会如何改变这类表示的设计?一旦人类难以理解代码,审计、验证和行为控制又该如何进行?

可读性从来不是免费的

传统编程语言的设计前提,是开发者需要阅读、理解、调试和维护代码。变量命名、缩进、模块划分,这些约定俗成的做法都在为人类认知服务。但这位发帖者指出,当代码的生产者和消费者都是AI时,这些为人类优化的设计可能变成纯粹的开销。

一个更直接的设想是:让AI生成某种机器友好的中间表示,而不是给人看的源代码。这样做理论上能去掉大量只为人类服务的冗余结构,让机器之间的信息传递更高效。

但问题在于,去掉可读性不一定能换来实际收益。发帖者自己也提出了反向疑问——“或者我们只是失去了可读性的好处,却什么也没得到?”这个疑问很关键,因为可读性除了方便人看,还间接承担着调试和验证的功能。

中间表示不是新概念,AI才是变量

发帖者特别提到,编译器已经使用中间表示,所以“面向机器的代码形式”本身并不新鲜。真正让他感兴趣的是,AI是否应该改变我们设计这些表示的方式。

在传统编译流程中,中间表示是编译器内部的过渡形态,最终仍要映射回人类可理解的行为。但当AI参与生成和消费代码时,中间表示可能从“过渡形态”变成“主要沟通载体”。这意味着它的设计目标会发生变化:不再需要向人类解释,而是需要让另一个AI能准确解析意图、少出错、便于组合。

不过,这条路径目前缺少明确的工程共识。发帖者没有给出具体方案,讨论也停留在问题层面。可以确定的是,如果中间表示成为AI之间的主要语言,它的语法和语义设计会与今天的编程语言有显著差异。

中间表示(IR) 是编译器将源代码转换为目标代码过程中的一种内部数据结构,介于源语言与目标机器之间。典型例子包括 LLVM IR、GCC 的 GIMPLE 以及 Java 字节码。IR 的设计目标通常是:保留足够语义以便优化,同时抽象掉源语言细节以便跨平台生成。传统上,IR 被视为“编译器的私有格式”,人类很少直接编写或阅读它,但其正确性由形式化规范、编译器测试套件和优化验证工具共同保证。当 AI 成为 IR 的生成者和消费者时,IR 可能从“内部过渡形态”变为“AI 间的通信协议”,其设计重心会从“便于编译器优化”转向“便于模型解析与组合”,例如需要更显式的意图标注、更少的隐含上下文依赖,以及可组合的模块边界。

真正的难题:看不懂的代码怎么审计

讨论中更棘手的问题来自控制权。发帖者直言:如果人类不再能轻松理解代码,我们如何审计它、验证它的行为、并保持对它的控制?

这不是杞人忧天。软件系统的风险往往来自人类意料之外的交互,而审计的前提是有人能读懂系统在做什么。如果代码由AI生成、由AI消费,人类被排除在阅读环节之外,传统的代码审查就失效了。

可能的替代路径包括行为级验证、形式化方法和运行时监控,但这些手段目前都无法完全替代人工阅读带来的理解深度。发帖者没有展开具体技术方案,而是把这个问题留给了编译器、编程语言和AI领域的从业者。

形式化验证 与 行为级验证 是应对“代码不可读”的两种主要替代思路。形式化验证通过数学规约证明系统满足某些性质(如内存安全、无死锁),不依赖人工阅读代码逻辑;行为级验证则通过测试、模糊测试或运行时监控观察系统输入输出是否符合预期。然而两者都有局限:形式化验证需要人工编写规约,且难以覆盖复杂系统的全部行为;行为级验证只能抽样,无法证明“不存在意外行为”。传统代码审查之所以有效,是因为人类可以借助可读性建立对系统意图的全局理解,而上述替代手段目前难以完全复现这种理解深度,这正是发帖者担忧的核心。

可读性的价值可能被低估了

从讨论的走向看,一个隐含的判断是:人类可读性不只是“方便”,它还是控制权的基础。编译器的中间表示之所以不需要人类直接阅读,是因为有完整的工具链和规范保证其正确性。而当AI生成的代码缺乏这种保障时,可读性可能是少数能让人类介入并理解系统的入口。

发帖者提出的问题没有标准答案,但它指出了一个容易被忽视的权衡:为机器优化代码形态,可能提升效率,也可能让人类失去对系统的理解能力。在找到可靠的替代审计手段之前,放弃可读性需要非常谨慎。

对于从事编译器和编程语言设计的人来说,这或许是一个值得提前思考的方向:AI参与代码生成后,语言和中间表示的设计目标是否需要分层——面向机器的效率和面向人类的可理解性,是否应该由不同的表示来承担。

工具链与规范 是编译器 IR 不需要人类直接阅读却仍可信的前提。以 LLVM 为例,其 IR 有正式的 LangRef 规范、逐版本的兼容性测试、大量优化 pass 的验证器(verifier),以及活跃社区对 bug 的持续修复。这套基础设施保证了即使无人逐行阅读 IR,其语义仍然可控。相比之下,AI 生成的代码或中间表示目前缺乏同等级别的规范与验证生态:模型输出具有概率性,同一意图可能对应多种形态,且没有统一的“正确性”定义。因此,发帖者隐含的对比是:编译器 IR 的“不可读但可信”建立在数十年工程积累之上,而 AI 代码要获得同等信任,需要先建立类似的规范与验证体系。

#AI写代码#代码可读性#中间表示#AI代码审计#编程语言设计#编译器#AI生成代码
分享:

相关推荐