[控场AI]
· 4 分钟阅读· 2,477 字

AlphaProof Code:AI代理为Signal代码做形式化验证

AlphaProof Code:AI代理为Signal代码做形式化验证

DeepMind 用 AI 代理在 Lean 中证明 libsignal 机器码安全属性,开启代理生成与形式化验证的新工程路径。

Google DeepMind 将 AI 代理与 Lean 定理证明器结合,针对 Signal 使用的 libsignal 库的机器码形式化验证了若干安全属性。验证对象下沉到二进制层面,绕过了源码到产物的信任缺口。形式化证明能覆盖所有可能输入,与测试和模糊测试有量级差别。文章强调,论文结论有明确边界:规范正确性、Lean 内核可靠性、代理覆盖范围、验证范围及构建链路仍是必须保留的信任假设,这是信任的转移而非消除。对开发者而言,可借鉴的思路包括验证实际产物、用独立检查器兜底、优先在高风险模块试点、规范先行。形式化验证门槛高,Signal 案例证明路径可行但不等于可低成本复制。

Google DeepMind 用 AI 代理在 Lean 中证明了 libsignal 机器码的安全属性。这件事的意义不在于「AI 会写证明」本身,而在于它指向了一条新的工程路径:当代码越来越多由代理生成,验证手段也必须同步升级。

论文到底做了什么

据 Google DeepMind 公布的论文,研究团队将 AI 代理与 Lean 定理证明器结合,针对 Signal 使用的 libsignal 库的机器码,形式化验证了若干安全属性。关键在于「机器码」三个字——验证对象不是高层源码,而是实际运行的二进制指令层面,理论上绕过了编译器正确性、源码与产物不一致等中间环节的信任缺口。

这里的验证方式是形式化证明:在 Lean 中构造命题,由 AI 代理搜索证明项,最终得到可被机器检查的证明。相比测试或模糊测试只能覆盖有限输入,形式化证明试图覆盖所有可能性,这是量级上的差别。

Lean 定理证明器:Lean 是一个交互式定理证明器,同时是一种依赖类型编程语言,由微软研究院的 Leonardo de Moura 发起。它允许用户用形式化语言陈述数学命题或程序性质,并构造机器可检查的证明项。Lean 4 进一步强化了作为通用编程语言的能力,并提供元编程框架,便于自动化证明搜索。其内核非常小,负责检查证明项的类型正确性,因此可信基础(trusted base)相对可控——这也是 AI 代理生成的证明能被独立验证的前提。

形式化证明与测试的本质区别:测试和模糊测试只能覆盖有限输入,即使随机化也只能提高发现错误的概率;形式化证明则通过逻辑推理覆盖所有可能输入(在模型假设下),属于全称量化。代价是需要人工或 AI 构造证明,且规范必须精确。对于密码学实现这类边界条件敏感的场景,形式化证明能排除测试难以触及的角落。

为什么这件事值得关注

libsignal 是 Signal 协议的参考实现,承载端到端加密的核心逻辑,被大量下游项目复用。密码学实现的错误往往隐蔽且后果严重,传统审计依赖人工和测试,难以穷尽边界情况。

更值得关注的是趋势:代码正越来越多地由 AI 代理编写,而代理生成的代码同样需要被验证。用 AI 去验证 AI 写的代码,形成了一个闭环,这可能是未来软件工程的基础设施之一。Signal 这类高安全要求的场景,恰好是这套方法最合适的试验田。

libsignal 与 Signal 协议:Signal 协议是一套端到端加密通信规范,包含 X3DH 密钥协商、Double Ratchet 消息加密等机制,被 WhatsApp、Google Messages 等广泛采用。libsignal 是 Signal 官方维护的参考实现库,提供 Rust、Java、Swift 等多语言绑定,承载核心密码学逻辑。由于下游复用广泛,其实现错误可能影响大量应用,因此成为形式化验证的高价值目标。

你必须仍然信任的东西

论文的结论有明确的边界,把这些边界说清楚比复述结论更重要:

  • 规范本身的正确性:形式化证明的是「代码满足规范」,规范是否符合真实安全需求,仍需人来判断。
  • Lean 内核与工具链:证明最终由 Lean 内核检查,内核本身的可靠性是一个信任假设。
  • 模型与代理的行为:AI 代理负责搜索证明,证明是否被接受由检查器决定,但代理的输出仍需人工审查其覆盖范围。
  • 验证覆盖的范围:被证明的属性是特定的安全属性,不等于整个库在所有维度上都被证明安全。
  • 构建与部署链路:机器码验证减少了源码到二进制的信任缺口,但构建环境、依赖引入等环节仍需要独立保障。

换句话说,这是把信任从「相信代码写对了」部分转移到「相信规范和内核」,转移而非消除。

信任基(Trusted Base)的概念:在形式化验证中,信任基指未被证明、但必须假定正确的组件集合。对 Lean 验证而言,信任基通常包括 Lean 内核、编译器、运行时以及规范本身。验证只能将信任从「相信代码正确」转移到「相信信任基正确」。因此,明确列出信任基是评估验证结论强度的关键步骤——信任基越小、越简单,结论越可靠。

开发者可以借鉴什么

对于把 AI 代理纳入开发流程的团队,这件事提供了几个可操作的思路:

  1. 把验证对象下沉到实际产物。代理生成的代码经过编译、打包后,行为可能与源码审查时的预期不同,验证机器码是更接近真实运行状态的切入点。
  2. 用证明检查器兜底。让代理自由生成,但最终结果必须通过一个独立、可机械检查的关卡,这比人工逐行审查更可扩展。
  3. 优先在高风险模块试点。密码学、权限、资金流转等模块错误代价高,形式化验证的投入产出比更合理;普通业务代码则未必值得。
  4. 规范先行。没有清晰规范,形式化验证无从谈起;让代理参与编码之前,先把「什么算对」写清楚。

冷静看待局限

这项工作的门槛依然很高:形式化验证需要专业知识和大量工程投入,Lean 生态与主流开发工具链的衔接并不顺畅,AI 代理在证明搜索上的能力边界也尚未被充分刻画。Signal 的案例证明这条路走得通,但不等于可以低成本复制到任意项目。

对大多数团队而言,更现实的收益是理解这套方法论:代理负责生成,检查器负责把关,规范负责定义正确。三者分工清晰,才是 AI 编码时代可持续的工程实践。

常见问题

AI 代理能替代人工安全审计吗? 不能。形式化验证覆盖的是被形式化的属性,审计还要处理需求理解、威胁建模等无法完全形式化的问题。两者互补。

普通项目需要形式化验证吗? 多数项目不需要。高风险模块优先,先用测试和静态分析覆盖大部分场景,再考虑形式化手段。

为什么选择 Lean? Lean 提供了一个可机械检查证明的内核,以及相对活跃的数学与形式化生态,适合承载代理生成的证明产物。

#AlphaProof Code#AI代理形式化验证#libsignal 安全验证#Lean 定理证明#AI编程#机器码验证#Google DeepMind
分享:

相关推荐