Finite-Sample Guarantees for Wasserstein Distributionally Robust Optimization: Breaking the Curse of Dimensionality
University of Texas at Austin（德克萨斯大学奥斯汀分校）
Wasserstein分布鲁棒优化（DRO）旨在通过对冲Wasserstein距离中的数据扰动来找到鲁棒和可推广的解决方案。尽管最近在运筹学和机器学习方面取得了经验性的成功，但由于维数灾难，通用损失函数的现有性能保证要么过于保守，要么仅在大样本渐近中合理。在本文中，我们开发了一个非渐近的框架分析的样本外性能的Wasserstein鲁棒学习和推广界相关的Lipschitz和梯度正则化问题。据我们所知，这给出了通用Wasserstein DRO问题的第一个有限样本保证，而不会遭受维数灾难。我们的研究结果强调，Wasserstein DRO，与一个适当选择的半径，平衡之间的经验平均值的损失和损失的变化，衡量的Lipschitz范数或梯度范数的损失。我们的分析是基于两个新的方法的发展，是独立的利益：1）一个新的浓度不等式控制衰减率的大偏差概率的变化的损失，2）本地化的Rademacher复杂性理论的基础上的变化的损失。
2022-04-30 cs.LG math.PR stat.ML
On Generalization and Regularization via Wasserstein Distributionally Robust Optimization
University of Science and Technology of China（中国科学技术大学）；University of Ottawa（渥太华大学）
本文证明在更一般的Wasserstein球和任意决策准则下可获得不受维度灾难影响的泛化界限与精确正则化等价性，为数据驱动决策问题提供了理论基础。
2024-12-19 cs.LG math.OC
Bridging Bayesian and Minimax Mean Square Error Estimation via Wasserstein Distributionally Robust Optimization
Stanford University（斯坦福大学）；EPFL（洛桑联邦理工学院）；Delft University of Technology（代尔夫特理工大学）
我们引入了一个分布鲁棒的最小均方误差估计模型与Wasserstein模糊集恢复一个未知的信号从噪声观测。所提出的模型可以被看作是一个统计学家之间的零和对策选择一个估计-也就是说，一个可测函数的观察-和一个虚构的对手选择一个先验-也就是说，一对信号和噪声分布范围内的独立Wasserstein球-的目标是最小化和最大化的预期平方估计误差，分别。我们表明，如果Wasserstein球的正态分布的中心，那么零和对策承认一个纳什均衡，其中玩家的最优策略分别由{ \em仿射}估计和{ \em正常}先验。我们进一步证明了这个纳什均衡可以通过求解一个易处理的凸规划来计算。最后，我们开发了一个Frank-Wolfe算法，它可以比最先进的通用求解器更快地解决这个凸程序。我们证明了该算法具有线性收敛速率，并且其测向子问题可以用准封闭形式求解。
2021-01-27 cs.LG math.OC math.ST
$\texttt{skwdro}$: a library for Wasserstein distributionally robust machine learning
Univ. Grenoble Alpes, CNRS, Grenoble INP, LJK（格勒诺布尔阿尔卑斯大学、国家科学研究中心、格勒诺布尔INP、LJK研究中心）
skwdro是一个基于Wasserstein距离的分布鲁棒优化库，通过PyTorch封装器简化鲁棒机器学习模型的训练。
2026-01-09 cs.LG cs.MS math.OC
Statistical Analysis of Wasserstein Distributionally Robust Estimators
Stanford University（斯坦福大学）；Singapore University of Technology and Design（新加坡科技设计大学）；VinAI Research（VinAI研究院）
我们认为，统计方法调用一个最小-最大分布鲁棒配方提取良好的样本性能数据驱动的优化和学习问题。认识到从有限样本中学习的分布不确定性，最小-最大公式引入了一个对抗性的内部参与者来探索看不见的协变量数据。由此产生的分布鲁棒优化（DRO）配方，其中包括Wasserstein DRO配方（我们的主要重点），指定使用最佳运输现象。在描述了如何通过有限维对偶重构来处理这些无限维最小-最大问题后，本教程进入了它的主要部分，即解释了一个最佳选择对手预算大小的通用配方。这是通过研究极限行为的最优输运投影公式所产生的查询最小的置信区域，包括未知的人口风险最小化。顺便说一句，这个系统的处方符合在高维统计的具体例子，并在误差界，是免费的维数灾难的结果。配备了这个处方，我们提出了一个中心极限定理的DRO估计，并提供了一个配方，用于构建兼容的置信区域，是有用的不确定性量化。本教程的其余部分致力于深入了解由最小-最大公式选择的优化器的性质以及最优输运预测的其他应用。
2021-08-04 cs.LG math.OC math.ST
Distributionally and Adversarially Robust Logistic Regression via Intersecting Wasserstein Balls
Imperial Business School, Imperial College London（帝国理工学院伦敦校区商业学校）；JP Morgan AI Research（摩根大通人工智能研究）
针对对抗鲁棒 Logistic 回归易过拟合的问题，提出利用辅助数据集相交 Wasserstein 模糊集的分布鲁棒优化方法，并给出凸重构与高效算法，实验表现优于基准。
2025-06-11 cs.LG math.OC
A Distributionally Robust Approach to Fair Classification
EPFL（洛桑联邦理工学院）；Stanford University（斯坦福大学）
我们提出了一个分布鲁棒的逻辑回归模型与不公平的惩罚，防止歧视方面的敏感属性，如性别或种族。这个模型相当于一个易于处理的凸优化问题，如果Wasserstein球集中在经验分布的训练数据是用来模拟分布的不确定性，如果一个新的凸不公平措施是用来激励均衡的机会。我们证明，由此产生的分类提高公平性在合成和真实数据集的预测精度的边际损失。我们还通过利用Wasserstein球上的最佳不确定性量化技术，推导出任何预训练分类器的不公平水平上基于线性规划的置信区间。
2020-07-18 cs.LG stat.ML
Wasserstein Distributionally Robust Nonparametric Regression
Institute for Math and AI（数学与人工智能研究所）；Wuhan University（武汉大学）；School of Artificial Intelligence（人工智能学院）；Department of Statistics and Data Science（统计与数据科学系）；The Chinese University of Hong Kong（香港中文大学）；The Hong Kong Polytechnic University（香港理工大学）
针对WDRO在非参数框架理论性质未充分探索的问题，本文研究非参数回归的WDRO，通过分析结构区分、误差界等，提出极小极大最优的估计器，确保对模糊集内分布的鲁棒性，且框架适用于回归和分类问题。
2025-11-11 cs.LG stat.ML
A Distributionally Robust Approach to Regret Optimal Control using the Wasserstein Distance
Cornell University（康奈尔大学）
针对未知随机扰动下的离散时间线性系统，本文基于 type-2 Wasserstein 分布球和最优传输对偶，将最坏情况期望遗憾控制转化为半定规划，并刻画最坏分布。
2023-08-16 cs.LG cs.SY eess.SY
Improving Mixup Calibration with Wasserstein Distributionally Robust Optimization
Department of Mathematics & Statistics（数学与统计学系）；Boston University（波士顿大学）；Department of Electrical and Computer Engineering, Division of Systems Engineering（电气与计算机工程系，系统工程 division）；Department of Biomedical Engineering（生物医学工程系）；Faculty of Computing & Data Sciences（计算与数据科学学院）
本文提出DRO-Augment框架，通过协同Wasserstein分布鲁棒优化与数据增强策略，显著提升了深度神经网络在数据损坏和对抗攻击下的鲁棒性，并保持了干净数据集上的准确率，同时提供了理论泛化误差界限。
2026-10-07 cs.CV cs.LG stat.ML
Generalization Bounds on Optimal Control for Transformer Training and Wasserstein Distributional Robustness
Bilkent University（比尔肯特大学）
该研究推导了Transformer训练的有限样本泛化界，通过将训练问题转化为马尔可夫控制问题，结合量化模型与Wasserstein分布鲁棒优化，建立了Transformer泛化与分布鲁棒控制的关联。
2026-07-31 cs.LG math.OC
Flow-based Distributionally Robust Optimization
Georgia Institute of Technology（佐治亚理工学院）；Duke University（杜克大学）
本文提出 FlowDRO 框架，利用连续时间可逆流模型与 Wasserstein 近端梯度流求解连续 LFD，并通过理论等价性和分块神经网络训练验证其在多类鲁棒任务中的效果。
2024-02-24 cs.LG stat.ME stat.ML
Statistical Guarantees for Distributionally Robust Optimization with Optimal Transport and OT-Regularized Divergences
Texas State University（德克萨斯州立大学）
本文研究了基于最优传输和OT正则化分歧的分布鲁棒优化在有限样本下的统计性能保障，推导了基于DRO的对抗训练的集中不等式，并首次覆盖了软约束范数球OT成本函数，提升了对抗训练的鲁棒性。
2026-03-29 cs.LG stat.ML
Online Optimization and Ambiguity-based Learning of Distributionally Uncertain Dynamic Systems
University of California San Diego（加利福尼亚大学圣迭戈分校）；University of California at Berkeley（加利福尼亚大学伯克利分校）
本文提出一种基于分布鲁棒优化的在线决策框架，利用控制依赖模糊集同时学习系统不确定性并做出具有概率遗憾界保证的决策，并引入在线Nesterov加速梯度算法求解。
2024-07-21 cs.LG cs.SY eess.SY
A Short and General Duality Proof for Wasserstein Distributionally Robust Optimization
Columbia University（哥伦比亚大学）；University of Chicago（芝加哥大学）
本文为Wasserstein分布鲁棒优化提出了一个仅依赖一维凸分析的通用对偶性证明，并刻画了可交换性原理成立的充要条件，同时将结果推广到分布鲁棒Markov决策过程、多阶段随机规划及其他相关优化问题。
2024-06-05 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Kalman Filtering
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；TU Delft（代尔夫特理工大学）
研究了仅含正态分布的非凸Wasserstein模糊度集上的分布鲁棒均方误差估计问题。我们表明，最佳估计和最不利的分布形成一个纳什均衡。尽管非凸性质的模糊集，我们证明了估计问题是等价于一个听话的凸规划。我们进一步设计了一个Frank-Wolfe算法的凸规划，其方向搜索子问题可以解决的准封闭形式。使用这些成分，我们引入了一个分布式鲁棒卡尔曼滤波器，对冲模型风险。
2018-10-01 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Optimization and Variation Regularization
University of Texas at Austin（德克萨斯大学奥斯汀分校）；New York University（纽约大学）；Georgia Institute of Technology（佐治亚理工学院）
Wasserstein分布鲁棒优化（DRO）最近在运筹学和机器学习的各种应用中取得了经验上的成功，部分原因是它的正则化效应。虽然Wasserstein DRO和正则化之间的联系已经建立在几个设置，现有的结果往往需要限制性的假设，如光滑性或凸性，这是不满意的许多问题。在本文中，我们开发了一个一般理论的变化正则化效果的Wasserstein DRO -一种新的形式的正则化，推广总变差正则化，Lipschitz正则化和梯度正则化。我们的结果涵盖可能的非凸和非光滑的损失和损失的非欧几里德空间。例子包括多项报童，投资组合选择，线性预测，神经网络，流形学习，泊松过程的强度估计等，作为我们的变分正则化理论的应用，我们得到新的泛化保证对抗性鲁棒学习。
2020-10-30 cs.LG math.OC stat.ML
Adjusted Wasserstein Distributionally Robust Estimator in Statistical Learning
Georgia Institute of Technology（佐治亚理工学院）；School of Industrial and Systems Engineering（工业与系统工程学院）
本文通过对经典WDRO估计量作非线性变换，提出渐近无偏且均方误差更小的调整型Wasserstein分布鲁棒估计量，并在广义线性模型与数值实验中验证其优势。
2024-05-10 cs.LG stat.ML
Wasserstein Distributionally Robust Regret Optimization
本文研究了基于Wasserstein模糊集的先验分布鲁棒遗憾优化，提出理论框架并开发算法，解决非光滑损失、离散参考和大半径等场景下的计算难题。
2026-08-11 cs.LG math.OC
Exact Generalization Guarantees for (Regularized) Wasserstein Distributionally Robust Models
Univ. Grenoble Alpes, CNRS, Grenoble INP（格勒诺布尔阿尔卑斯大学，法国国家科学研究中心，格勒诺布尔国立理工学院）
针对现有Wasserstein分布鲁棒估计器泛化保证存在维度灾难、适用场景受限等问题，证明其泛化保证适用于通用模型、无维度灾难且可覆盖测试分布偏移，并可推广至正则化版本。
2023-11-06 cs.LG stat.ML
Distributionally Robust Prescriptive Analytics with Wasserstein Distance
Tsinghua University（清华大学）；University of Toronto（多伦多大学）
在规范分析中，决策者观察$(X, Y)$的历史样本，其中$Y$是不确定的问题参数，$X$是并发协变量，而不知道联合分布。给定一个额外的协变量观测$x$，目标是根据该观测选择一个决策$z$，以最小化成本$\mathbb{E}[c(z,Y)|X=x]$。提出了一种新的Wasserstein模糊集下的分布鲁棒方法，该方法基于Nadaraya-Watson核估计量构造$Y|X=x$的名义分布，并考虑历史数据.我们证明了在Wasserstein距离下名义分布收敛于实际条件分布。我们建立了样本外的保证和计算框架的易处理性。通过报童问题和投资组合优化问题的综合实验和实证实验，证明了该框架的强大性能和实用价值。
2021-06-10 cs.LG math.OC
Robustified Multivariate Regression and Classification Using Distributionally Robust Optimization under the Wasserstein Metric
Boston University（波士顿大学）
当协变量和响应/标签都可能被离群值污染时，我们为多元线性回归（MLR）和多类逻辑斯谛回归（MLG）开发了分布鲁棒优化（DRO）公式。DRO框架使用概率模糊集，其被定义为在Wasserstein度量的意义上接近训练集的经验分布的分布球。我们放松的DRO制定成一个正则化的学习问题，其正则化是一个规范的系数矩阵。我们为模型的解决方案建立样本外性能保证，提供关于正则化器在控制预测误差中的作用的见解。实验结果表明，我们的方法将MLR的预测误差提高了7% - 37%，将MLG的鲁棒性指标提高了100%。
2020-06-10 cs.LG stat.ML
Principled learning method for Wasserstein distributionally robust optimization with local perturbations
Stanford University（斯坦福大学）；Seoul National University（首尔国立大学）
Wasserstein分布鲁棒优化（WDRO）试图学习一个模型，使Wasserstein球定义的经验数据分布附近的局部最坏情况风险最小化。虽然WDRO自推出以来就作为一种有前途的推理工具而受到关注，但其理论理解尚未完全成熟。Gao等人（2017）提出了一种基于局部最差情况风险的易于处理的近似值的最小值，但未显示风险一致性。在本文中，我们提出了一个新的逼近定理的基础上的极小化，并提供相应的风险一致性结果。此外，我们为包括Mixup的局部扰动数据开发了WDRO推断（Zhang等人，2017年，作为特例。我们表明，我们的近似和风险一致性结果自然延伸到数据局部扰动的情况下。数值实验表明，该方法使用图像分类数据集的鲁棒性。我们的研究结果表明，该方法实现了显着更高的精度比基线模型在嘈杂的数据集。
2020-06-22 cs.LG stat.ML
Wasserstein Distributionally Robust Shallow Convex Neural Networks
Department of Electrical Engineering（电气工程系）；Polytechnique Montréal（蒙特利尔理工学院）；GERAD（GERAD研究中心）；Mila（Mila研究中心）
本文提出Wasserstein分布鲁棒浅层凸神经网络，将ReLU浅层网络训练重构为凸优化并纳入分布鲁棒框架，以低随机性、可扩展方式实现可靠非线性预测，并通过实验验证其在能源预测等任务中的性能与稳定性。
2025-08-21 cs.LG math.OC
Regularization Helps with Mitigating Poisoning Attacks: Distributionally-Robust Machine Learning Using the Wasserstein Distance
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61中心）；University of Melbourne（墨尔本大学）
我们使用分布式鲁棒优化机器学习，以减轻数据投毒攻击的影响。我们通过在使用Wasserstein距离定义的经验分布（从中毒攻击损坏的训练数据集中提取）周围的邻域上训练模型的最坏情况分布，为原始数据（不包括中毒记录）上的训练模型提供性能保证。我们放松的分布鲁棒机器学习问题，找到一个上限的最坏情况下的适应度的基础上的经验采样平均适应度和Lipschitz常数的适应度函数（给定的模型参数的数据）作为正则化。对于回归模型，我们证明了这个正则化子等于模型参数的对偶范数。我们使用葡萄酒质量数据集，波士顿住房市场数据集和成人数据集来展示本文的结果。
2020-01-29 cs.CR cs.LG eess.SP
Fast Distributionally Robust Learning with Variance Reduced Min-Max Optimization
University of California, Berkeley（加州大学伯克利分校）
分布式鲁棒监督学习（DRSL）正在成为为现实世界应用构建可靠机器学习系统的关键范例-反映了对分类器和预测模型的需求，这些模型对由选择偏差或非平稳性等现象引起的分布偏移具有鲁棒性。解决Wasserstein DRSL的现有算法--基于对Wasserstein距离扰动的鲁棒性的最流行的DRSL框架之一--具有严重的局限性，限制了它们在大规模问题中的使用--特别是它们涉及解决复杂的子问题，并且它们未能利用随机梯度。我们重新Wasserstein DRSL通过镜头的最小-最大优化，并获得可扩展和有效实施的随机额外梯度算法，可证明实现更快的收敛速度比现有的方法。我们证明了他们的有效性合成和真实数据相比，现有的DRSL方法。我们的研究结果的关键是使用方差减少和随机改组，以加速随机最小-最大优化，其中的分析可能是独立的利益。
2022-01-25 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Risk-Sensitive Estimation via Conditional Value-at-Risk
Cornell University（康奈尔大学）
本文提出了一种分布鲁棒的风险敏感估计方法，通过求解可解的半正定规划计算最小化最坏情况下的条件风险值，应用于批发电力价格预测，降低样本外风险值。
2026-07-01 cs.LG eess.SP math.OC
A stochastic smoothing framework for nonconvex-nonconcave minEmax problems with applications to Wasserstein distributionally robust optimization
Department of Applied Mathematics, Hong Kong Polytechnic University, Hong Kong, China（应用数学系，香港理工大学）；Institute for Math & AI, Wuhan (IMAI), Wuhan university, China（数学与人工智能研究院，武汉大学）；Department of Mathematical Sciences Rensselaer Polytechnic Institute, Troy, NY, USA（数学科学系，伦斯勒理工学院）
研究非凸-非凹minEmax随机优化问题，提出基于对数均值指数平滑的随机平滑近端梯度法，经非渐近分析表明该方法生成的聚点是克拉克平稳点，数值实验显示其在相关问题上与现有基线有竞争力。
2026-07-17 cs.LG math.OC
Distributionally robust linear regression through the lens of adversarial training
Uppsala University（乌普萨拉大学）；Science for Life Laboratory（生命科学实验室）
本文研究Wasserstein DRO线性回归，统一平方根Lasso与对抗线性回归，证明其误差界、枢轴性质及解等价性，并验证高效求解。
2026-10-01 cs.LG math.OC stat.ML
Adversarial Classification via Distributional Robustness with Wasserstein Ambiguity
The University of Sydney（悉尼大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
我们研究了一个基于分布鲁棒机会约束的对抗分类模型。我们表明，在Wasserstein歧义下，该模型的目标是最小化错误分类距离的条件风险值，我们探索了与早期提出的对抗性分类模型和最大边缘分类器的联系。我们还提供了一个重新制定的分布鲁棒模型的线性分类，并表明它是等价于最小化正则化斜坡损失的目标。数值实验表明，尽管这个公式的非凸性，标准下降方法似乎收敛到这个问题的全局极小值。受此观察的启发，我们表明，对于某一类分布，正则化斜坡损失最小化问题的唯一稳定点是全局最小值。
2021-11-04 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Regret Optimization for Reinforcement Learning from Human Feedback
Department of Statistics and Operations Research, University of North Carolina（统计与运筹学系，北卡罗来纳大学）；Imperial Business School, Imperial College London（帝国理工学院伦敦商学院）；Department of Management Science and Engineering, Stanford University（管理科学与工程系，斯坦福大学）
本文提出Wasserstein分布鲁棒遗憾优化（DRRO）用于强化学习从人类反馈，通过简单分配模型研究提示问题，展示在ℓ1-地面成本Wasserstein模糊集下，内最坏遗憾有精确解，最优策略具有水填充结构，从而实现高效政策梯度算法。
2026-08-11 cs.CL cs.LG math.OC
Wasserstein Distributionally Robust Nash Equilibrium Seeking with Heterogeneous Data: A Lagrangian Approach
Division of Decision and Control Systems, School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology（决策与控制系统系，电气工程与计算机科学学院，皇家理工学院）；Delft Center for Systems and Control, Delft University of Technology（系统与控制中心，代尔夫特理工大学）；Department of Mechanical Engineering and Materials Science, Duke University（机械工程与材料科学系，杜克大学）
本文提出了一种基于拉格朗日方法的分布鲁棒纳什均衡寻求算法，通过异质Wasserstein球约束处理异质数据，证明算法在迭代次数增加时收敛至设定精度的均衡。
2025-12-05 cs.LG cs.SY eess.SY
Distributionally Robust Learning
Boston University（波士顿大学）
本专著开发了一个全面的统计学习框架，该框架在Wasserstein度量下使用分布鲁棒优化（DRO）对数据中的（分布）扰动具有鲁棒性。从Wasserstein度量和DRO公式的基本性质开始，我们探索对偶性，以达到易于处理的公式，并开发有限样本，以及渐近性能保证。我们考虑了一系列的学习问题，包括（i）分布鲁棒线性回归，（ii）预测变量具有群结构的分布鲁棒回归，（iii）分布鲁棒多输出回归和多类分类，（iv）结合分布鲁棒回归和最近邻估计的最优决策，（iv）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计。（v）分布式鲁棒半监督学习，以及（vi）分布式鲁棒强化学习。一个易于处理的DRO松弛每个问题的推导，建立鲁棒性和正则化之间的连接，并获得解决方案的预测和估计误差的界限。除了理论，我们还包括使用合成和真实数据的数值实验和案例研究。真实的数据实验都与各种健康信息学问题有关，这是一个为这项工作提供最初动力的应用领域。
2021-08-20 cs.LG stat.ML
FDR-SVM: A Federated Distributionally Robust Support Vector Machine via a Mixture of Wasserstein Balls Ambiguity Set
H. Milton Stewart School of Industrial and Systems Engineering（H. Milton Stewart工业与系统工程学院）；Georgia Institute of Technology（佐治亚理工学院）；Department of Electrical Engineering（电气工程系）；University of Chile（智利大学）
本文提出联邦分布鲁棒支持向量机FDR-SVM，通过Wasserstein球混合模糊集处理多客户端数据异质性与不确定性，并给出理论保证和两种求解算法，在工业数据及UCI数据集上优于现有方法。
2025-08-18 cs.LG stat.ML
Wasserstein Robust Classification with Fairness Constraints
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Stanford University（斯坦福大学）
我们提出了一个分布式的强大的分类模型，公平性约束，鼓励分类器是公平的机会均等的标准。我们使用一个类型的$\infty$ Wasserstein模糊集集中在经验分布模型分布的不确定性，并得出一个保守的最坏情况下的机会均等不公平措施的重新制定。我们建立的模型是等价的混合二元优化问题，可以解决标准的现成的求解器。为了提高可扩展性，我们进一步提出了一个凸的，铰链损失为基础的模型，大的问题实例，其重新制定不会产生任何二进制变量。此外，我们还考虑了分布式鲁棒学习问题与一般的地面运输成本，以对冲标签和敏感属性的不确定性。最后，我们数值证明，我们提出的方法提高了公平性，预测精度的损失可以忽略不计。
2021-07-12 cs.LG math.OC stat.ML
Distributionally Robust Learning in Survival Analysis
Boston University（波士顿大学）
本文将基于 Wasserstein 模糊集的 DRL 融入 Cox 回归，转化为可由指数锥规划求解的正则化经验风险问题，并以理论保证和实验验证其预测准确性与鲁棒性。
2025-06-07 cs.LG math.OC stat.ML
Knowledge-Guided Wasserstein Distributionally Robust Optimization
Columbia University（哥伦比亚大学）；Northwestern University（西北大学）；Columbia Mailman School of Public Health（哥伦比亚大学梅尔曼公共卫生学院）；Hong Kong University of Science and Technology（香港科技大学）
针对普通WDRO在小样本迁移学习中过度保守的问题，提出KG-WDRO框架，通过源知识引导构建更小模糊集减轻协变量预测投影扰动，理论证明其与收缩估计等价，模拟验证其在小样本迁移学习中的优越性能与适应性。
2025-02-12 cs.LG stat.ME stat.ML
Wasserstein Distributionally Robust Multiclass Support Vector Machine
Georgia Institute of Technology（佐治亚理工学院）
针对数据特征与标签不确定、不平衡数据下一对多分布鲁棒分类器表现不佳的问题，提出基于Crammer-Singer损失的Wasserstein分布鲁棒多分类SVM，含核版本与投影次梯度优化算法，在不平衡数据及真实数据集上表现更优。
2024-09-12 cs.LG stat.ML
Sinkhorn Distributionally Robust Optimization
School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程学院）；Department of Information, Risk, and Operations Management, University of Texas at Austin（德克萨斯大学奥斯汀分校信息、风险与运营管理系）
本文提出Sinkhorn分布鲁棒优化的凸对偶重构，并开发带偏次梯度的随机镜像下降算法求解，数值实验验证其优越性能。
2025-03-26 cs.LG math.OC stat.ML
Safe Wasserstein Constrained Deep Q-Learning
University of California, Berkeley（加州大学伯克利分校）
本文提出了一种分布式鲁棒Q-学习算法（DrQ），它利用Wasserstein模糊集在在线学习过程中提供理想的概率样本外安全保证。首先，我们遵循过去的工作，通过分离的约束功能的主要目标，以创建一个层次的机器，估计可行的状态动作空间内的约束马尔可夫决策过程（CMDP）。DrQ的工作原理在这个框架内，通过Wasserstein分布鲁棒优化（DRO）获得的收紧补偿变量增加约束成本。这些偏移变量对应于由约束Q函数的TD误差表征的建模误差的最坏情况分布。这个过程使我们能够安全地接近名义约束边界。我们使用锂离子电池快速充电的案例研究，探索理想的安全保证如何转化为相对于传统方法的普遍提高的安全性。
2021-10-25 cs.LG stat.ML
Wasserstein Distributionally Robust Estimation in High Dimensions: Performance Analysis and Optimal Hyperparameter Tuning
Automatic Control Lab, ETH Zürich, Switzerland（苏黎世联邦理工学院自动控制实验室）；Operations Research and Information Engineering, Cornell University, USA（康奈尔大学运筹学与信息工程）
本文针对高维线性回归中的分布鲁棒优化问题，利用高维渐近统计将估计误差刻画为仅含四个标量的凸凹优化问题，从而实现与交叉验证等效但计算成本极低的最优鲁棒半径选择。
2025-05-03 cs.IT cs.LG math.IT
Distributionally Robust Optimization with Correlated Data from Vector Autoregressive Processes
University of Chicago（芝加哥大学）；Argonne National Laboratory（阿贡国家实验室）
针对非独立同分布向量自回归数据的随机最优化问题，提出了一种分布鲁棒公式。我们使用Wasserstein距离定义的分布空间中的鲁棒性，我们表明，使用对偶理论，该问题是等价于一个有限的凸-凹鞍点问题。该方法的性能证明合成和真实数据。
2019-09-08 cs.LG math.OC stat.CO
Smoothed $f$-Divergence Distributionally Robust Optimization
本文提出一种基于平滑$f$-散度的分布鲁棒优化方法，能有效纠正样本平均近似的“优化者诅咒”，在统计上达到近乎最优的样本外性能界限，且计算复杂度不高于现有DRO方法。
2023-10-12 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Optimization Through the Lens of Structural Causal Models and Individual Fairness
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（图宾根人工智能中心）；Mila Québec AI Institute（魁北克人工智能研究所）；McGill University（麦吉尔大学）
该研究从因果结构与个体公平性角度重构 Wasserstein DRO，利用对偶形式、闭式正则化及有限样本误差界提升其可计算性与鲁棒性。
2025-09-30 cs.LG
Provable Robust Overfitting Mitigation in Wasserstein Distributionally Robust Optimization
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Kaiyuan International Mathematical Sciences Institute（开元国际数学科学研究院）
针对Wasserstein分布鲁棒优化（WDRO）因未考虑统计误差而存在的鲁棒过拟合问题，提出结合Wasserstein距离与Kullback-Leibler散度的统计鲁棒WDRO框架，建立泛化界并推导均衡条件，有效缓解了过拟合并增强了鲁棒性。
2025-03-06 cs.AI cs.LG math.ST
Wasserstein Distributionally Robust Policy Evaluation and Learning for Contextual Bandits
Duke University（杜克大学）
本文针对上下文赌博机中环境分布不匹配问题，提出基于Wasserstein距离的分布鲁棒策略评估与学习方法，并给出正则化随机梯度下降优化算法及理论复杂度分析，在卒中试验公开数据上验证了有效性。
2024-01-17 cs.LG
Multi-Source Wasserstein Distributionally Robust Graph Learning
School of Mathematics, Sichuan University（四川大学数学学院）；School of Statistics and Data Science, Southwestern University of Finance and Economics（西南财经大学统计与数据科学学院）
该研究针对图信号处理中异质源域数据融合难题，提出MS-WDRO多源Wasserstein分布鲁棒图学习框架，经实验验证其在图恢复等任务上优于多个基线方法。
2026-09-14 cs.LG
Certified Safety Radii in Forecast-Error Space for Wasserstein Distributionally Robust Small Signal Stability-Constrained AC Optimal Power Flow via Lifted Spectrahedral Containment
College of Automation Engineering, Nanjing University of Aeronautics and Astronautics（南京航空航天大学自动化学院）
本文针对交流最优潮流中小信号稳定性鲁棒化的难题，通过提升谱面体包含性，在预测误差空间中优化可证安全半径，结合Perron证书等技术实现Wasserstein分布鲁棒机会约束的重构，数值验证了框架有效性。
2026-09-01 cs.LG
Generalized Wasserstein Dice Score, Distributionally Robust Deep Learning, and Ranger for brain tumor segmentation: BraTS 2020 challenge
King's College London（伦敦国王学院）
训练深度神经网络是一个优化问题，有四个主要组成部分：深度神经网络的设计，每样本损失函数，群体损失函数和优化器。然而，在最近的BraTS挑战赛中，为竞争而开发的方法往往只关注深度神经网络架构的设计，而对其他三个方面的关注较少。在本文中，我们尝试采用相反的方法。我们坚持使用一个通用的、最先进的3D U-Net架构，并尝试了一个非标准的每样本损失函数、广义Wasserstein Dice损失、一个非标准的种群损失函数（对应于分布鲁棒优化）和一个非标准优化器Ranger。这些变化是专门为多类脑肿瘤分割的问题而选择的。广义Wasserstein Dice损失是允许利用BraTS中标记的肿瘤区域的分层结构的每样本损失函数。分布鲁棒优化是经验风险最小化的推广，它考虑了训练数据集中代表性不足的子域的存在。Ranger是广泛使用的Adam优化器的推广，它在小批量和噪声标签的情况下更稳定。我们发现，用于脑肿瘤分割的深度神经网络优化的每一种变化都导致了Dice分数和Hausdorff距离的改进。通过使用各种优化程序训练的三个深度神经网络的集合，我们在BraTS 2020挑战的验证数据集上取得了令人鼓舞的结果。我们的团队在693支注册团队中排名第四，参加了BraTS 2020挑战赛的细分任务。
2021-01-25 cs.CV cs.LG eess.IV
Coresets for Wasserstein Distributionally Robust Optimization Problems
School of Data Science（数据科学学院）；School of Computer Science and Technology（计算机科学与技术学院）；City University of Hong Kong（香港城市大学）；University of Science and Technology of China（中国科学技术大学）
本文提出一种统一框架，利用强对偶性质为一般Wasserstein分布鲁棒优化问题构建ε-核心集，并设计网格采样方法，以降低计算复杂度并保证误差。
2023-05-09 cs.LG
Wasserstein Distributionally Robust Control Barrier Function using Conditional Value-at-Risk with Differentiable Convex Programming
Mississippi State University（密西西比州立大学）
本文提出分布鲁棒控制屏障函数DR-CBF，通过单层凸重构估计Wasserstein分布偏移下的CVaR，并利用可微凸规划实现前向不变性，在保持计算效率的同时提升安全控制器对分布偏移的鲁棒性。
2023-09-15 cs.LG cs.RO cs.SY
A Unified Perspective on Conformal Prediction and Wasserstein Distributionally Robust Optimization for Uncertainty Quantification
Contextual Robotics Institute, University of California San Diego（加州大学圣迭戈分校语境机器人研究所）；University of Southern California（南加州大学）；California Institute of Technology（加州理工学院）；ETH Zürich（苏黎世联邦理工学院）
该研究建立了共形预测与Wasserstein分布鲁棒优化的统一概率视角，分析了两者校正经验分位数的不同方式、构造差异及尾部表现，指出DRO可避免CP的过冲问题。
2026-09-01 cs.LG cs.SY eess.SY
Distributionally Robust Formulation and Model Selection for the Graphical Lasso
University of California, Santa Barbara（加州大学圣巴巴拉分校）
建立在最近的框架分布鲁棒优化，我们考虑估计的逆协方差阵的多元数据。我们提供了一个新的概念Wasserstein模糊集专门针对这个估计问题，导致一个易于处理的一类正规化估计。特殊情况包括高斯数据的惩罚似然估计，特别是图形套索估计。作为该公式的结果，Wasserstein模糊度集的半径与估计问题中的正则化参数直接相关。使用这种关系，估计过程的鲁棒性水平可以被示出为对应于模糊度集合包含具有总体协方差的分布的置信水平。此外，我们的配方的一个独特的功能是，半径可以表示为一个普通的样本协方差阵的函数的封闭形式。利用这一发现，我们开发了一个简单的算法来确定图形套索的正则化参数，只使用自举的样本协方差阵，这意味着计算昂贵的图形套索算法的重复评估是没有必要的。或者，如果使用现成的方法（如交叉验证），则分布鲁棒公式也可以量化相应估计量的鲁棒性。最后，我们数值研究得到的正则化准则和分析的鲁棒性的其他自动调整程序在实践中使用。
2019-10-05 cs.LG math.ST stat.ML
Distributionally Robust Inverse Reinforcement Learning for Identifying Multi-Agent Coordinated Sensing
Cornell University（康奈尔大学）
本文提出一种极小极大分布鲁棒逆强化学习算法，通过在Wasserstein模糊集上最小化最坏预测误差来重构多智能体感知系统的效用函数，并证明了其与半无限优化的等价性且在认知雷达网络实验中验证了有效性。
2024-09-22 cs.LG cs.MA eess.SP
