[控场AI]
· 5 分钟阅读· 2,840 字

英国政府用前沿AI排查漏洞:修复周期从50天压缩至8天

英国政府用前沿AI排查漏洞:修复周期从50天压缩至8天

英国前沿AI漏洞计划两试点发现逾千漏洞,并将修复时间从50天压缩至8天。

英国人工智能部长公布国家级前沿AI漏洞挖掘计划,将前沿模型投入公共部门系统弱点排查。两个试点累计发现并处置超过一千个漏洞,而6月黑客松案例研究给出可核查细节:九个国家政府组织一个月内识别407项发现,含认证绕过、数据暴露、远程代码执行等关键弱点,全部修复且未见被利用证据,token成本仅13,000英镑。更值得安全团队关注的是修复效率——中央漏洞监控服务将已识别弱点的修复时间从50天压缩到8天。案例研究强调,真正瓶颈在分诊:智能体生成候选发现的速度远超人类验证速度,模型本身不如使用方式重要。公告同时确认AI安全研究所正对包括Gemini 4 Argon在内的前沿模型进行发布前评估,并推动立法与智能体事件应对能力建设。

英国人工智能部长近日公布了一项国家级前沿AI漏洞挖掘计划,将前沿模型直接投入公共部门系统的弱点排查。根据官方披露的数据,两个试点项目已累计发现并处置超过一千个漏洞,而更值得安全团队关注的是修复效率的变化:中央漏洞监控服务将已识别弱点的修复时间从50天压缩到了8天。

一千个漏洞背后的细节

据英国政府AI部长在帝国理工学院Base One的演讲记录,该计划包含三个部分:用前沿模型发现政府系统中的弱点、强化AI相关事件的法律制度、以及为自主系统失控做好准备。内阁办公室同日发布了配套新闻稿。

演讲公布了一个总数——两个政府试点中前沿AI帮助识别和处置了超过一千个漏洞。但真正提供细节的是一份6月黑客松案例研究:政府网络协调中心记录了每周一次的线下黑客松系列活动,团队使用前沿模型扫描政府公共代码库,AI安全研究所和英国国家网络安全中心的专家共同参与。

该案例研究给出了可核查的数字:参与者在九个国家政府组织中一个月内共识别407项发现,包括导致认证绕过、数据暴露和远程代码执行的关键弱点。所有关键弱点均已修复,且未发现任何漏洞被实际利用的证据。成本方面,案例研究写明:跨九个政府组织一个月的扫描仅花了13,000英镑的token费用。

一千对407,演讲并未将总数与两个试点中的任何一个直接对应。严谨的读者自然会追问:总数覆盖了哪些试点,它们的完整报告在哪里。

前沿AI模型在此语境中指的是具备高度通用推理与代码理解能力的大规模基础模型,如 Gemini、GPT 系列等。与传统静态扫描工具不同,前沿模型能够阅读跨文件的源码上下文,把零散告警串成攻击链,并推测开发者意图,从而识别逻辑漏洞、认证绕过等扫描器难以覆盖的弱点。它们通常通过 API 以 token 计费调用,因此成本可按扫描代码量与调用轮次估算。这也解释了案例研究中 13,000 英镑 token 费用的来源。需要强调的是,前沿模型的输出是概率性候选,而非确定性结论,必须经过人工或次级模型复核才可确认,这正是后文分诊瓶颈的技术根源。

修复时钟:比发现数量更值得关注的数字

演讲中有一句话涉及修复速度,但并未将这一数字归因于前沿AI试点本身。部长表示:中央漏洞监控服务已将已识别弱点的修复时间从50天缩短至仅8天。

这个数字比漏洞发现数量更值得安全负责人关注,原因很简单:一个漏洞在被修复前没有风险价值,从识别到修复的间隔就是攻击者眼中的暴露窗口。把修复时间从七周压缩到八天,意味着已知弱点被利用的时间窗大幅收窄。

运行修复时钟同时也在倒逼流程纪律。八天内完成修复,只有在责任明确到人、严重性可比较、队列在到达工程师之前已经被过滤的前提下才可能实现。这正是案例研究中反复指向的那一层能力——分诊。

分诊才是智能体辅助项目的真正瓶颈

案例研究的方法部分是整个公告中最具可迁移价值的内容。一个团队先运行确定性扫描器(Gitleaks、Trivy、Semgrep、Hadolint)生成排序后的发现文档,再叠加三个模型阶段:发现阶段将扫描器输出视为线索、对照OWASP和CWE框架阅读源码;链路调查阶段通过每个链路的子智能体将单个发现组合成攻击路径;分诊阶段确认发现是否可行。

该部分的两个结论都对工具热情泼了冷水。第一,智能体生成候选发现的速度远超人类验证的速度。第二,模型本身不如使用方式重要。报告补充说,范围界定不当的运行会在低价值目标上烧掉token,而审查能力薄弱则会把负载倾泻到已经捉襟见肘的安全团队身上。

对安全团队而言,这个判断重新定位了投资方向。扫描器和模型生成候选发现的成本很低,真正的稀缺资源是能够判断一个候选是否真实、可利用、且归属于某人的审查者。

分诊(Triage) 源于医疗急救,指在资源有限时按严重性与可处置性对病例排序。在漏洞管理中,分诊是判断一个候选发现是否真实、是否可利用、影响范围多大、应归谁负责、以及在哪个时间窗内修复的决策过程。它位于发现与修复之间,决定了整个漏洞漏斗的吞吐率。分诊之所以成为瓶颈,是因为它依赖稀缺的人类判断与领域上下文,无法像扫描或模型生成那样线性扩展。若分诊能力不足,上游大量候选发现会堆积成噪声,既消耗工程师时间,也掩盖真正的高危弱点。因此成熟的漏洞项目通常先过滤去重、映射 CWE/OWASP 分类、再按可利用性排序,把有限审查者集中到最具风险的少数发现上。

模型评估与发布前访问

同一演讲确认了技术评估工作的归属。AI安全研究所汇集了一百多位技术专家,部长表示其科学家正在对最新一代模型进行严格评估,包括Gemini 4 Argon,以尽早识别风险、测试防护措施。他还表示英国一直在与美国政府和实验室合作,为研究所在模型发布前保留访问权限。

这一访问安排是AI治理中不起眼但关键的基础设施。模型发布后再运行的评估只能服务于事件响应;发布前运行的评估才能影响部署决策——而这需要厂商按时间表交出模型。

发布前访问(Pre-release Access) 指模型厂商在正式公开发布之前,允许特定评估机构在受控条件下提前接触模型权重或接口。这对 AI 安全治理至关重要:发布后评估只能事后复盘已发生的事件,而发布前评估能够在模型部署决策前识别危险能力、测试防护措施、并给厂商留出修补窗口。该机制依赖厂商自愿配合与明确的时间表,因此治理效果取决于厂商的透明度与遵守程度。英国 AI 安全研究所与美国政府及实验室的合作,正是试图把这种一次性的善意安排固化为可预期的制度基础设施,使评估结果能真正影响模型是否、以及以何种限制条件进入市场。

国家网络行动计划与法案

两项承诺涉及国家如何学习。部长表示即将启动国家网络行动计划,并将与议会和技术专家合作,加强网络安全与韧性法案中针对AI驱动网络威胁和失控风险的制度,包括识别和报告严重事件及未遂事件。

新闻稿在智能体事件方面更进一步:涉及AI智能体的重大事件可能比政府惯常应对的重大事件发展更快、波及更广,需要新的专业能力。部长提出的框架性问题对任何运营者都适用:政府必须能够确定智能体被要求做什么、访问了什么、为何如此行动、以及同样的失败是否会在别处发生。

欧洲安全团队能复制的模板

剥离政策语言,公告中蕴含一个适用于任何规模的项目模板:用扫描器和模型发现候选,过滤为已确认发现,为每个发现指定负责人,测量识别到修复的间隔。在内部分布式地公布漏斗数据,让数字可以被质疑,并把分诊能力视为决定可达速率的核心约束。

案例研究提供了成本侧参考:跨九个组织一个月的扫描花了13,000英镑token。50到8天的数字属于中央漏洞监控服务,演讲未说明试点是否为其提供了输入。对欧洲安全团队来说,可复制的不是工具选择本身,而是漏斗的度量方式——候选发现、确认发现、已修复弱点、修复时间,四个数字一起发布,项目才可被审计。

#前沿AI安全#漏洞修复时间#AI网络安全#英国AI政策#漏洞分诊#智能体安全#AI漏洞扫描#公共部门网络安全
分享:

相关推荐