量子与光学图像分类器的精确证据图:BEM如何打开黑箱

线性量子与光学分类器可实现闭式精确的像素级证据图,并在硬件上直接测量。
本文介绍了一种为线性量子分类器和全光学分类器提供精确可解释性的方法——Born证据图(BEM)。由于这类模型对幅度编码图像进行线性操作,类别概率可表示为编码幅度的二次型,因此其贡献分解是闭式精确的,等价于零基线Integrated Gradients。删除实验表明,移除证据最高的5%像素可使准确率从73%降至9%,远优于梯度显著图,且无需遮挡法所需的每图1024次额外运行。同一架构(傅里叶掩膜+砖墙电路/相位板+Born读出)可同时实现于量子硬件和光学实验台。在IBM量子芯片上,300张Caltech-10图片分类准确率达37.7%(随机为10%),芯片估计的证据图与精确值相关系数r=0.77。BEM还揭示了数据集中的捷径,展示了精确证据图在数据审查中的额外价值。
当图像分类器做出决策时,我们通常只能猜测其原因。但对于量子分类器和全光学分类器——它们在线性作用于幅度编码图像、直至测量之前,前后都没有训练过的经典网络——这种分解无需近似。每个类别高于其无信息份额的概率,可以精确拆解为编码幅度的贡献,并以Born证据图(BEM)的形式呈现在图像上,且可在执行分类的硬件上直接测量。

为什么精确证据图如此难得
在经典深度学习中,解释模型决策的方法大多依赖近似。Integrated Gradients、SHAP、Grad-CAM 等工具通过梯度或采样来估计特征重要性,计算成本高且结果受基线选择影响。对于量子分类器和全光学分类器,情况则不同:由于模型本身是线性操作,分类概率可以写成编码幅度的二次型,其分解是闭式精确的。
论文作者指出,对于每个类别概率背后的二次型,其BEM等价于从零基线出发的Integrated Gradients,并且存在闭式解。这意味着无需额外训练、无需大量采样,就能得到像素级精确的贡献图。
幅度编码图像是指将图像的像素值映射为量子态或光场复振幅的编码方式。在量子情形下,每个像素的亮度对应一个量子比特的振幅(例如通过旋转角度编码);在光学情形下,像素值调制光场的复振幅。由于分类器对幅度进行线性操作,类别概率最终可表示为编码幅度的二次型(即 (p_c = \mathbf{a}^\dagger M_c \mathbf{a}),其中 (\mathbf{a}) 为幅度向量,(M_c) 为与类别相关的厄米矩阵)。这种二次型结构是BEM能够闭式分解的根本原因:贡献可精确归因到每个幅度分量,无需梯度近似或采样。
Born证据图(BEM) 得名于量子力学中的Born规则:测量得到某个结果的概率等于态矢量投影的模平方。在分类器中,每个类别的概率由幅度向量的二次型给出,BEM将这一概率相对于无信息基线(均匀分布)的超出部分,精确分解为每个像素幅度的贡献,并以热图形式叠加在原图上。由于分解是闭式的,BEM无需额外训练或采样,且可在执行分类的硬件上直接测量(例如通过多次测量估计二次型各分量的期望)。
BEM的实际效力:删除实验
作者通过删除实验验证了BEM的忠实度。删除证据最高的5%像素后,分类准确率从73%下降到9%。作为对比,遮挡法要达到类似效果,每张图片需要额外执行1,024次前向运行,而梯度显著图删除同样比例像素后准确率下降幅度小得多。
这组数据说明,BEM不仅精确,而且在识别关键像素方面显著优于常见近似方法。对于需要可解释性的高风险应用,这种精确性具有实际价值。
一套架构,两种实现路径
研究中最具工程美感的部分,是同一套架构可以同时服务于量子计算和光学计算。具体而言:傅里叶平面掩膜之后,接一个砖墙电路(作用于量子比特)或相位板(作用于透镜实验台),最后由一个无需训练参数的Born余量读出器读取结果。
将每张图片以其自身均值为中心进行归一化,是另一个关键设计。这样做让暗特征和亮特征获得同等权重,避免了亮度偏差对分类的干扰。
傅里叶平面掩膜是指在透镜系统的傅里叶面(焦平面)上放置一个可训练或固定的掩膜(如相位板),对图像的 spatial frequency 成分进行调制。在光学实现中,透镜自然完成傅里叶变换,掩膜在频域对光场进行线性滤波;在量子线路中,则通过幺正操作模拟等效的频域调制。这种设计将图像分类转化为对频域特征的线性加权,与后续的砖墙电路或相位板共同构成线性分类器。
砖墙电路(brick-wall circuit) 是一种量子线路 ansatz,其双量子比特门以交错方式排列,形如砖墙:第一层门作用于相邻量子比特对 (0,1)、(2,3)…,第二层作用于 (1,2)、(3,4)…,交替重复。这种结构易于在超导量子芯片上实现,且具有较好的表达能力和硬件友好性。在本文架构中,砖墙电路作用于幅度编码后的量子比特,实现类别之间的线性混合,其参数可训练(或固定),最终由Born读出器测量。
模拟与真实硬件上的表现
在模拟环境中,四块相位板在单一波长下对Caltech-10彩色照片达到72.3%的准确率,MNIST上为96.8%,Fashion-MNIST为86.7%,彩色CIFAR-10为47.9%。这些结果展示了该架构在标准数据集上的竞争力,尤其是在简单数据集上的高准确率。
在IBM的ibm_kingston量子计算机上,掩膜在近似加载之前应用,300张Caltech-10测试图片的分类准确率为37.7%,而随机猜测为10%。同一配置在精确模拟中可达56.3%。此外,十张被正确且高置信度分类的图片,其2x2证据图在芯片上估计的结果与精确结果一致,相关系数r=0.77。
真实硬件上的准确率下降主要来自近似加载误差,但证据图的一致性表明BEM在芯片上仍然有效。
BEM揭示数据捷径
除了验证分类依据,BEM还暴露了数据中的捷径。作者提到,证据图揭示了数据集中的一个捷径——分类器可能依赖与类别无关的伪特征来做出判断。这类发现在经典模型中通常需要额外的测试或人工审查,而BEM可以直接从证据图中读出。
对可解释AI的启示
这项工作提供了几个值得关注的信号。首先,对于线性或近线性模型,精确解释是可行的,不必满足于近似归因。其次,量子计算和光学计算虽然硬件路径不同,但在算法层面可以共享同一套可解释框架,这降低了跨平台迁移的成本。第三,硬件上直接测量证据图的能力,意味着可解释性可以成为推理过程的一部分,而非事后附加的分析步骤。
对于关注AI安全和可解释性的研究者,BEM提供了一种在特定架构下超越近似方法的思路。尽管当前实验规模有限,但其精确性和硬件可实现性值得进一步探索。
相关推荐

Cloudflare开源AI代码安全审计工具,获6万星
Cloudflare开源Security Audit,为AI编码Agent提供免费安全审计。三步工作流:应用测绘、多Agent对抗找Bug、三级分类报告,源自内部漏洞狩猎系统,近6万星标。

GPT-6 Astra读权重绝技:仅限小网络,实用靠写代码
GPT-6 Astra能直接读网络权重,但无工具设置仅限约17万权重的小网络。修复QUEN 3.5 0.8b推理循环靠写Python和50批练习,实测识别游戏耗时近一小时。本文梳理能力边界与两个安全提醒。

GPT-6 Astra 改写 Qwen 权重:7.9% 到 48.1%,是学会了数学还是学会了停?
MIT研究者用GPT-6 Astra直接编辑Qwen权重,数学得分从7.9%升至48.1%,全程无训练。但独立复现显示,提升主要来自修复循环、让模型学会终止作答,而非新增数学能力。