贝叶斯符号回归：因果发现的新范式

因果发现是科学推理的核心，但传统方法在双变量或强自相关场景下往往只能识别出马尔可夫等价类，无法给出明确的因果方向。近期一篇论文提出将因果发现重新表述为贝叶斯符号回归问题，通过采样后验分布中的符号表达式来量化因果强度。该方法在多个基准测试中表现优异，并能返回可解释的闭式机制。

传统因果发现方法的局限

基于约束和基于分数的方法是因果发现的两大主流，但它们存在固有局限。基于约束的方法（如PC算法）依赖条件独立性检验，通常只能恢复马尔可夫等价类，无法区分等价类中的不同因果方向。基于分数的方法（如GES）虽能给出更精细的结构，但在双变量或强自相关数据中信号微弱，难以奏效。这些局限在气候科学、生物地球化学等领域尤为突出，因为这些领域的数据往往具有强自相关性且变量维度较低。

论文指出，现有方法在这些场景下“往往只恢复马尔可夫等价类，且在双变量或强自相关机制中不提供信号”。这促使研究者探索新的范式。

马尔可夫等价类是因果图结构学习中一个基础而关键的概念。给定一组观测数据，多个不同的有向无环图（DAG）可能在统计上完全不可区分——它们蕴含相同的条件独立关系，这些图便构成一个马尔可夫等价类。例如，链式结构 X→Y→Z 与共因结构 X←Y→Z 都意味着 X 与 Z 在给定 Y 时条件独立，仅凭观测数据无法区分两者。基于约束的方法（如 PC 算法）的输出本质上就是等价类的一种紧凑表示（如部分有向无环图 PDAG），其中某些边的方向无法确定。要打破这种等价性，通常需要额外的假设（如线性非高斯噪声、非线性可加噪声）或干预数据。文章所讨论的双变量场景正是等价类退化的极端情形：两个变量之间只有两种可能方向，而条件独立检验完全无法提供区分信号。

贝叶斯符号回归如何用于因果发现

该方法的核心思想是将因果发现转化为贝叶斯符号回归问题。对于每个目标变量，给定一组候选父变量，贝叶斯符号回归从符号模型的后验分布中采样闭式表达式。每个候选变量在采样表达式中出现的频率被定义为后验包含概率，并作为因果分数。

这一设计用“合理机制的集成”替代了传统的逐点模型选择。具体来说，传统方法通常选择单个最佳模型，而该方法通过采样大量表达式来评估每个候选变量的重要性。后验包含概率越高，说明该变量作为因果父变量的证据越强。这种方法不仅适用于双变量场景，还能处理非线性、混沌和高噪声数据。

符号回归是一类从数据中自动搜索数学表达式的方法，其搜索空间由运算符（加减乘除、幂、三角函数等）和变量组成的表达式树构成。与传统回归拟合固定形式的参数不同，符号回归同时学习模型结构和参数，输出的是可读的闭式公式，因而具有天然的可解释性。然而，符号回归的搜索空间随表达式复杂度呈组合爆炸式增长，传统方法（如遗传编程）容易陷入局部最优且难以量化不确定性。贝叶斯符号回归通过定义表达式上的先验分布并结合似然进行后验推断，用概率分布刻画“哪些表达式是合理的”，从而在搜索过程中自然实现了对模型不确定性的量化。文章正是利用这一特性：从后验中采样大量表达式，统计每个候选变量在表达式中出现的频率，即得到后验包含概率。这一思路与贝叶斯模型平均（BMA）一脉相承，但将模型空间从固定结构的回归模型扩展到了任意符号表达式。

实验评估与结果

研究者在多个数据集上评估了该方法。首先是在耦合非线性双变量动力学数据上测试，该场景下传统方法难以提供信号。其次，在CauseMe基准套件上测试，涵盖线性、混沌、非线性、高维和高噪声等多种设置。最后，在一个四变量生物地球科学结构因果模型上测试，涉及高斯、重尾和混合噪声机制。

结果显示，该方法与专门设计的因果发现算法相比具有竞争力，且经常优于它们。论文强调：“我们的方法与专门的因果发现算法相比具有竞争力，并经常超越它们。”此外，该方法能返回闭式机制，从而实现明确的因果性和可解释性。

优势与意义

该方法的优势体现在三个方面。第一，它克服了传统方法在双变量和强自相关场景下的局限，能够给出明确的因果方向而非等价类。第二，它提供了可解释的闭式表达式，有助于理解变量间的因果关系机制。第三，它通过集成后验采样提高了稳健性，避免了单一模型选择带来的偏差。

这项研究为因果发现提供了新思路，尤其适用于那些传统方法失效的科学领域。未来，该方法有望在气候科学、生态学、生物地球化学等依赖观测数据的学科中发挥重要作用。

未来展望

尽管该方法在基准测试中表现良好，但作者也指出其计算成本可能较高，因为需要采样大量符号表达式。未来工作可以探索更高效的采样策略，或将其扩展到更大规模的因果图学习。此外，如何将领域知识融入先验分布也是一个值得探索的方向。

总之，贝叶斯符号回归为因果发现开辟了新路径，通过结合贝叶斯推理与符号回归，在挑战性场景中实现了更准确、可解释的因果推断。