[控场AI]
· 4 分钟阅读· 2,472 字

KAN架构如何让强化学习节省40%样本?

KAN架构如何让强化学习节省40%样本?

KAN架构让强化学习训练样本需求降低40%,且对奖励噪声更鲁棒。

一项发布于arXiv的最新研究系统验证了Kolmogorov-Arnold Networks(KAN)在强化学习中的样本效率优势。与主流的多层感知机(MLP)不同,KAN将可学习的激活函数置于网络边上,理论基础源自Kolmogorov-Arnold数学定理,赋予其更高的参数效率与可解释性。实验在Feynman物理公式数据集和Gymnasium强化学习基准上展开,核心发现是:KAN可在减少约40%样本量的前提下达到与MLP相当的性能,训练中期的相对性能提升最高可达50%,且这一优势在奖励信号含噪的条件下依然稳定。作者已开源代码,但论文也指出,KAN在更复杂真实环境中的可扩展性仍待进一步验证。

样本效率:强化学习落地的核心瓶颈

深度强化学习(Deep RL)在诸多控制任务上已经超越了传统控制方法,但它始终有一个绕不开的痛点——样本成本。在现实世界的应用中,无论是机器人操作、工业控制还是自动驾驶,采集训练样本往往意味着高昂的时间、金钱甚至安全代价。一篇最新发布在arXiv上的研究(arXiv:2610.10627)系统性地探讨了Kolmogorov-Arnold Networks(KAN)这一新兴架构在提升样本效率方面的潜力,给出了相当有说服力的实验数据。

Sample-Efficiency of Kolmogorov-Arnold Networks

论文的核心结论直截了当:使用KAN架构,可以在样本量减少40%的情况下达到与传统多层感知机(MLP)相当的性能表现。对于任何需要在真实环境中训练智能体的团队来说,这个数字意味着实打实的成本节省。

什么是Kolmogorov-Arnold Networks

KAN是近期提出的一种神经网络架构,其理论基础源自Kolmogorov-Arnold表示定理。与传统MLP在节点上使用固定激活函数、在边上使用可学习权重的做法不同,KAN将可学习的激活函数放在网络的边(连接)上。这种设计带来了两个关键优势。

第一是参数效率。论文指出,相比MLP架构,KAN在学习控制问题中的物理关系时,能以显著更高的参数效率完成任务。换句话说,用更少的参数就能捕捉到系统背后的规律。

第二是可解释性。由于KAN学习的是边上的函数形式,研究者可以更直观地观察网络学到了怎样的数学关系,这在需要理解和验证模型行为的控制场景中尤为重要。

为什么这对强化学习很关键

强化学习的训练过程本质上是智能体通过与环境大量交互来积累经验。如果一个架构能够用更少的交互次数学到同样好的策略,就直接降低了训练的现实门槛。KAN在物理关系建模上的高效率,恰好契合了控制类强化学习任务对数据的渴求。

Kolmogorov-Arnold表示定理(1957年由苏联数学家柯尔莫哥洛夫和阿诺德分别独立证明)指出:任意连续多变量函数都可以被表示为有限个单变量连续函数的复合与求和。用数学语言说,对任意连续函数 $f(x_1,\ldots,x_n)$,存在外函数 $\Phi_q$ 和内函数 $\phi_{q,p}$,使得 $f$ 可以被精确分解。这一定理从理论上保证了KAN的表达能力——它不是启发式地堆叠层数,而是以有数学保障的方式分解函数结构。传统MLP则依赖通用近似定理,理论上也能拟合任意函数,但需要足够多的神经元,且无法保证学习到函数的内在结构。KAN最初在2024年由MIT等机构的研究者提出(Liu et al., 2024),其核心实现通常采用B样条或其他可学习基函数来参数化边上的激活函数,使得网络既保持灵活性,又能在训练后被"符号化"为可读的数学表达式。

实验设计与关键发现

研究者在两类基准上进行了系统的计算实验:一是Feynman数据集(涵盖物理公式回归任务),二是Gymnasium强化学习基准(经典的RL测试环境)。这样的组合既能验证KAN对物理关系的拟合能力,也能检验其在真实决策任务中的表现。

实验得出了几个值得关注的结果:

  • 样本减少40%:在达到相似性能的前提下,KAN架构所需的样本量比MLP少约40%。
  • 训练过程中的相对性能提升高达50%:在训练的某些阶段,KAN相对MLP的性能改进可达50%。
  • 对奖励噪声具有鲁棒性:当奖励信号中存在不同程度的噪声时,KAN带来的收益依然稳定,这一点对现实应用意义重大,因为真实环境的奖励往往是嘈杂的。

奖励噪声鲁棒性这一发现尤其值得强调。现实中的强化学习很少能得到干净、精确的奖励反馈,传感器误差、延迟和环境干扰都会污染信号。如果KAN能在这种条件下保持优势,那它的实用价值会比理想实验环境下的数字更有分量。

Feynman数据集是物理信息机器学习领域常用的回归基准,来源于费曼物理讲义,包含超过100个真实物理公式(如牛顿第二定律、库仑定律、相对论动能等)。每条数据由随机采样的物理量输入和对应公式输出组成,挑战在于从纯数据中还原出底层的符号公式。该数据集被广泛用于评估神经网络捕捉物理规律的能力,尤其适合考察参数效率和泛化能力。Gymnasium(前身为OpenAI Gym)则是强化学习社区最通用的基准环境库,提供从经典控制(CartPole摆杆、MountainCar爬坡、Pendulum倒立摆)到更复杂的连续动作控制任务。将这两类基准组合使用,使得论文可以分别验证KAN的函数拟合能力(Feynman)和策略学习能力(Gymnasium),从不同角度为"KAN更高效"的核心论点提供支撑。

对行业与研究的启示

这项工作为更具样本效率的强化学习提供了一个有前景的方向。长期以来,MLP是深度强化学习的默认骨干网络,而KAN展示出的参数效率和样本效率,提示我们或许存在更适合控制问题的网络结构选择。

当然,论文的结论主要建立在Feynman数据集和Gymnasium基准之上,这些环境相对标准化。KAN在更复杂、更高维的真实机器人或工业系统中能否复现同样的40%样本节省,仍需进一步验证。架构本身的训练稳定性、计算开销以及在大规模任务上的扩展性,也是后续研究需要回答的问题。

对于希望复现或在此基础上展开实验的研究者,作者已经开源了相关代码(GitHub: DerKevinRiehl/neurips26_kan_training),这为社区验证和拓展这些结论提供了便利。

总体来看,KAN为强化学习领域提供了一个在样本成本敏感场景中值得认真评估的候选架构。随着更多独立验证的出现,它是否能从一个有趣的新想法成长为主流工具,将取决于它在更广泛任务中的稳健表现。

#Kolmogorov-Arnold Networks#KAN架构#强化学习#样本效率#深度强化学习#MLP#参数效率
分享:

相关推荐