KL-DRO新范式：围绕学习密度模型的自适应场景生成

当DRO的“球心”从经验分布移向学习模型

两阶段随机规划依赖从有限数据中估计的分布，而估计误差可能让决策在实际部署中付出高昂代价。分布鲁棒优化（DRO）通过在分布周围构造“模糊集”来对冲这种风险，但标准模糊集的选择暗含了对未观测实现的处理方式差异：基于散度的球只包含对历史记录的重新加权，而传输球还会纳入记录之外、甚至数据生成过程根本无法产生的实现——决策因此对这些不可能事件也进行了对冲，带来不必要的保守性。

一项最新研究提出将KL球居中于拟合到记录上的密度模型（即“学习名义分布”），而非居中于经验分布。这一改动让对手能够按模型赋予的概率成比例地调高代价高昂的未观测实现的权重，从而在保留结构外推能力的同时，避免对不可能事件的过度对冲。

分布鲁棒优化（DRO）与模糊集：DRO 是一类在分布信息不完全时做决策的建模范式。它不假设真实分布就是经验分布，而是在经验分布（或某个名义分布）周围构造一个“模糊集”（ambiguity set），要求决策在该集合内所有分布下都表现良好，从而对冲估计误差。模糊集的大小与形状决定了保守程度：集合越大，决策越稳健但可能越保守。常见构造包括基于散度（如 KL 散度）的球和基于传输距离（如 Wasserstein 距离）的球。前者只对原分布做重加权，后者允许质量在支撑集上移动，因而可能纳入原分布根本无法产生的实现。

KL 散度与 KL 球：KL 散度（Kullback-Leibler divergence）衡量两个概率分布之间的有向差异，定义为 (D_{KL}(P|Q)=\mathbb{E}P[\log(dP/dQ)])。它非负且不对称，当且仅当两分布几乎处处相等时为零。在 DRO 中，以名义分布 (P_0) 为中心、半径 (\rho) 的 KL 球定义为 ({P: D{KL}(P|P_0)\le \rho})。关键性质是：KL 球内的分布必须关于 (P_0) 绝对连续，即只能对 (P_0) 的支撑集内的实现重新分配概率质量，不能赋予 (P_0) 下概率为零的事件以正概率。因此当 (P_0) 是经验分布时，KL 球只能重加权历史记录；而当 (P_0) 是学习密度模型时，模型可能赋予未观测实现正密度，从而允许对手调高这些实现的权重。

两阶段求解难题与自适应场景构建

将KL球居中于学习模型后，求解面临第二重困难：该问题只能容纳少量场景，而同等规模的独立采样很可能遗漏最坏情况所集中的稀有实现。研究人员因此设计了自适应场景集构建方法——在求解有限问题与从学习名义分布中抽取新实现之间交替进行。

新样本的抽取被引导向当前决策下的最坏情况，并通过重要性权重校正回模型分布。这一交替过程使场景集逐步聚焦于真正驱动最坏情况的区域，而非均匀覆盖整个支撑集。

重要性采样与重要性权重：重要性采样是一种用另一个分布（提议分布）的样本估计目标分布下期望的技术。若目标分布为 (P)，提议分布为 (Q)，则 (\mathbb{E}_P[f(X)] = \mathbb{E}_Q[f(X), w(X)])，其中重要性权重 (w(X)=dP/dQ(X))。在 DRO 的样本平均近似中，若场景是从学习名义分布 (P_0) 中抽取的，但目标是在某个由对手选出的最坏分布 (P) 下评估代价，则需要对样本按 (dP/dP_0) 加权。文中“将新样本的抽取引导向当前决策下的最坏情况，并通过重要性权重校正回模型分布”正是这一思想：用引导采样提高稀有最坏事件的命中率，再用权重修正偏差，从而在不增加场景数的前提下更准确地近似最坏情况。

实验证据：分布偏移下的成本优势

在多物品报童问题和基于真实电网数据的容量扩展问题上的实验表明，当记录稀缺且模型类能够捕捉结构、从而外推至记录之外时，将球心设在学习名义分布而非记录上，可在分布偏移下降低总成本，而分布内成本保持可比。

这种优势并非无条件成立。随着记录规模增长，或当分布偏移偏离模型所学到的结构时，学习名义分布带来的增益会逐渐消退——此时经验分布本身已足够可靠，或模型的外推假设不再成立。

实践启示与边界条件

该工作的核心洞见在于：DRO中模糊集的“中心”选择本身就是一个建模决策，它编码了我们对数据生成过程结构的先验知识。当数据稀缺但结构可学时，以学习模型为锚点能让鲁棒优化更精准地对冲真实风险；当数据充足或偏移方向超出模型认知时，回归经验分布或更保守的模糊集更为稳妥。

对于从事随机规划与鲁棒决策的实践者，这意味着在数据有限场景下，值得评估密度模型的结构外推能力，并将其作为DRO模糊集的中心，而非默认采用经验分布。