GNN规则定价新方法：用互信息精准量化符号规则价值

图神经网络（GNN）的表达能力有限，这常被用来解释为何要引入符号知识（如模体计数、环计数、标签约束）。但一项新研究提出了更精确的衡量标准：规则的价值应取决于模型未能从数据中学到的标签信息量。该方法将规则设计转化为规则发现，并在实验中成功发现了隐藏的环项，性能超越专家规则。

传统方法的局限与互信息视角

以往研究常以GNN表达能力的理论上限作为引入符号规则的依据，但这种“尺子”不够精确。新研究指出，规则$S$能为模型家族带来的最大对数损失减少量是$I(Y;S|\sigma)$，即在给定模型计算能力下，规则与标签之间的互信息。实际获得的增益可精确分解为该互信息项加上“偿还的神经债务”——模型原本因表达能力不足而欠下的信息缺口。对于已训练的网络，其表示$T$下规则的价值为$I(Y;S|T)$，即训练未能提取的标签信息。这一视角将规则的价值与模型的实际学习状态直接挂钩，而非依赖泛化上界。

互信息是信息论中衡量两个随机变量之间统计依赖程度的量，定义为 $I(X;Y)=H(Y)-H(Y|X)$，其中 $H$ 为熵。在本文语境下，$I(Y;S|\sigma)$ 表示在模型计算能力 $\sigma$ 给定的条件下，规则 $S$ 所包含的关于标签 $Y$ 的信息量，即规则能帮助减少的标签不确定性。条件互信息 $I(Y;S|T)$ 则进一步以模型已学表示 $T$ 为条件，刻画规则中尚未被模型捕获的标签信息。互信息是非负的，且为零当且仅当两变量条件独立，因此它天然适合作为规则价值的度量：若规则与标签在给定模型表示后仍统计相关，则说明模型未能提取这部分信息，规则具有增量价值。

规则发现：基于残差的统计检验

基于上述理论，研究者将规则设计转变为规则发现：在网络输出的折外残差上对候选规则进行评分，并采用校准的置换零分布控制族系误差。具体而言，他们利用训练好的GNN计算每个样本的残差，然后评估候选规则（如环计数、模体计数）能否显著解释残差中的标签信息。通过置换检验生成零分布，确保发现的规则具有统计显著性。这种方法不依赖专家先验，而是让数据“说话”。

折外残差（out-of-fold residuals）是指通过交叉验证方式获得的、模型对未参与训练样本的预测误差。具体做法是将数据分为若干折，轮流用其余折训练模型并对当前折预测，从而保证每个样本的残差都来自未见过该样本的模型。这样可避免过拟合导致的残差偏小，使残差更真实地反映模型未能解释的标签变异。在规则发现中，对折外残差与候选规则进行关联分析，能更可靠地识别出规则是否携带了模型遗漏的信息。

置换检验是一种非参数统计检验方法，通过随机打乱样本的标签（或规则取值）来生成检验统计量的零分布，从而在不依赖分布假设的情况下计算 p 值。在本文中，对每个候选规则，研究者多次置换标签并重新计算残差与规则的关联统计量，构建零分布，再比较实际统计量以判断显著性。为控制同时检验多个规则带来的假阳性，他们采用族系误差率（family-wise error rate）控制，如 Bonferroni 校正或 max-T 置换方法，确保整体错误率不超过预设水平。

实验验证：ZINC数据集上的环项发现

在ZINC分子数据集上，该方法在三次独立运行中均发现了目标中隐藏的环项$\max(0,\ell_{\max}-6)$（调整后p值=0.001），且性能优于专家设计的环计数规则。这表明该方法能自动识别出对预测任务真正有用的符号特征。更你可能没注意到，将该规则冻结并应用于五个未见数据集时，其性能从未显著差于普通网络或专家规则，在BBBP数据集上甚至显著优于两者。这证明了发现的规则具有良好的泛化能力。

ZINC数据集是图神经网络领域常用的分子性质预测基准，包含约 25 万个类药分子，任务通常是预测分子的水溶性（logP 或 logD）。该数据集中的分子以图结构表示，原子为节点、化学键为边。环结构是分子图的重要拓扑特征，环的大小和数量常与理化性质相关。本文发现的规则 $\max(0,\ell_{\max}-6)$ 意为：当分子中最大环的尺寸 $\ell_{\max}$ 超过 6 时，取超出部分作为特征值，否则为零。该规则编码了“大环对性质的非线性影响”，是专家规则中未显式包含的隐藏项。

BBBP数据集（Blood-Brain Barrier Penetration）是另一个分子图数据集，用于预测化合物能否穿透血脑屏障，属于二分类任务。该数据集样本量较小、类别不平衡，对模型泛化能力要求较高。本文中发现的规则在 BBBP 上显著优于普通 GNN 和专家规则，说明其捕捉到了跨数据集的通用化学规律。

意义与展望

这项研究为符号规则与GNN的融合提供了理论严谨的定价框架。通过互信息分解，规则的价值变得可计算、可比较，规则发现过程也具备了统计严谨性。未来，该方法或可推广至更复杂的符号知识类型，推动可解释且高效的图学习系统发展。

据研究团队透露，他们计划进一步探索该框架在更多领域图数据上的适用性，并开源相关代码以促进社区验证。