ZENO：基于Zakai方程的神经算子实现非线性滤波

非线性滤波是科学机器学习和工程、神经科学中的核心计算问题。传统方法在高维场景下往往面临解析不可解、数值不可行的困境。近期提出的ZENO（Zakai Equation Neural Operator）模型，通过神经算子与物理信息损失相结合，为逼近精确的非归一化滤波分布提供了新思路。该方法不仅在多个模拟动力系统中验证了有效性，还成功应用于秀丽隐杆线虫的全脑成像数据，揭示了与运动相关的极限环。

背景与挑战：非线性滤波与Zakai方程

非线性滤波的目标是从带噪声的观测中推断潜在随机动力系统的状态与参数。其核心分布由Zakai方程描述——一个融合了前向Kolmogorov算子（即Fokker-Planck方程）与观测似然更新的随机偏微分方程（SPDE）。然而，高维SPDE的解析求解几乎不可能，数值求解也因维度灾难而难以承受。

近年来，算子学习和物理信息机器学习的进展为解决此类高维PDE提供了可能。ZENO正是利用这些技术，将Zakai方程作为物理约束嵌入神经算子的训练中，从而直接逼近精确的非归一化滤波分布。

Zakai方程是描述非线性滤波中非归一化后验分布演化的核心随机偏微分方程。与著名的Kushner-Stratonovich方程不同，Zakai方程针对的是非归一化的滤波密度，其优势在于方程是线性的（相对于滤波分布），从而避免了Kushner方程中的非线性项带来的数学处理困难。Zakai方程通过将观测过程视为连续时间扩散过程，利用Girsanov定理进行测度变换，将滤波问题转化为对非归一化密度的线性SPDE求解。该方程由前向Kolmogorov算子（描述状态转移）和观测似然项共同构成，形式上可写为：( d\rho_t = \mathcal{L}^* \rho_t dt + h(x) \rho_t dY_t )，其中(\mathcal{L}^*)是Fokker-Planck算子，(h(x))是观测函数，(Y_t)是观测过程。求解Zakai方程即可得到非归一化后验，再归一化即得滤波分布。

ZENO架构：物理信息神经算子

ZENO的核心是优化一个神经算子，使其满足由Zakai方程导出的物理信息损失。该损失函数确保网络输出的分布符合Zakai方程的演化规律，从而在无需大量标注数据的情况下学习到隐含的滤波分布。具体而言，模型通过最小化Zakai方程残差来训练神经算子，使其能够泛化到不同初始条件和参数设置。

在获得后验分布后，ZENO将其嵌入期望最大化（EM）框架，实现参数学习和状态推断。EM框架交替进行E步（利用当前参数估计后验分布）和M步（最大化完全数据对数似然以更新参数），而ZENO提供的精确后验近似使得EM迭代更加稳定和准确。

神经算子（Neural Operator）是一类用于学习无限维函数空间之间映射的深度学习架构，其代表包括傅里叶神经算子（FNO）和DeepONet。与传统神经网络学习有限维向量到向量的映射不同，神经算子直接学习从函数到函数的映射，因此具有分辨率不变性和泛化到不同离散化的能力。在ZENO中，神经算子被设计为逼近从初始分布和观测序列到滤波分布的映射。物理信息损失则借鉴了物理信息神经网络（PINN）的思想，将Zakai方程的残差作为正则项加入损失函数，使得网络输出在训练过程中满足物理约束，从而减少对标注数据的依赖并提高泛化性。

实验验证：从模拟系统到真实神经数据

为评估ZENO的性能，研究者在三个模拟随机动力系统上进行了测试：双井双稳态系统、范德波尔振荡器和洛伦兹系统。这些系统涵盖了多稳态、极限环和混沌等典型非线性现象。与现有的潜在SDE推断方法相比，ZENO在准确恢复后验分布和学习SDE参数方面均表现出优势，尤其在分布形状和参数一致性上更为精确。

更引人注目的是，ZENO被应用于秀丽隐杆线虫（C. elegans）的全脑成像数据集。该数据集记录了被固定线虫的神经活动，ZENO成功恢复了先前观察到的极限环，这些极限环分别对应线虫的前向和后向运动。这表明ZENO能够从高维神经数据中提取出具有生物学意义的动力学模式，验证了其在实际科学场景中的实用性。

期望最大化（EM）框架在潜在变量模型中用于参数估计。在ZENO的上下文中，E步需要计算潜在状态的后验分布，而由于非线性滤波问题通常难以解析求解，ZENO提供的神经算子近似成为E步的关键。M步则通过最大化完全数据对数似然来更新参数。EM算法保证似然函数单调不减，但可能收敛到局部最优。ZENO的精确后验近似使得E步更加准确，从而改善了EM的整体收敛性和参数估计质量。这种将神经算子与EM结合的方式，为复杂动力系统的参数学习提供了一种有效的迭代优化策略。

意义与展望

ZENO将非线性滤波问题转化为PDE视角下的算子学习问题，为动力系统推断提供了新范式。其物理信息损失的设计避免了对大量标注数据的依赖，同时保持了对复杂高维系统的可扩展性。未来，该方法有望进一步推广到更广泛的科学机器学习任务中，例如气候建模、金融时间序列分析和脑机接口等领域。

尽管ZENO在实验中表现良好，但其计算成本和对物理方程的依赖性仍是实际部署时需要考虑的因素。此外，如何将ZENO扩展到非高斯噪声或时变参数系统，也是值得探索的方向。

秀丽隐杆线虫（C. elegans） 是神经科学中重要的模式生物，其神经系统仅有302个神经元，连接组已被完整测绘。全脑成像技术能够同时记录大量神经元的活动，为研究神经动力学提供了前所未有的数据。然而，从高维神经数据中推断潜在动力学极具挑战。ZENO成功从线虫数据中恢复出与运动相关的极限环，这些极限环对应前向和后向运动的神经活动模式，表明神经群体活动可以低维动力学系统来描述。这一应用不仅验证了ZENO的有效性，也为理解神经计算原理提供了新工具。