On Generalization and Regularization via Wasserstein Distributionally Robust Optimization
University of Science and Technology of China（中国科学技术大学）；University of Ottawa（渥太华大学）
本文证明在更一般的Wasserstein球和任意决策准则下可获得不受维度灾难影响的泛化界限与精确正则化等价性，为数据驱动决策问题提供了理论基础。
2024-12-19 cs.LG math.OC
Bridging Bayesian and Minimax Mean Square Error Estimation via Wasserstein Distributionally Robust Optimization
Stanford University（斯坦福大学）；EPFL（洛桑联邦理工学院）；Delft University of Technology（代尔夫特理工大学）
我们引入了一个分布鲁棒的最小均方误差估计模型与Wasserstein模糊集恢复一个未知的信号从噪声观测。所提出的模型可以被看作是一个统计学家之间的零和对策选择一个估计-也就是说，一个可测函数的观察-和一个虚构的对手选择一个先验-也就是说，一对信号和噪声分布范围内的独立Wasserstein球-的目标是最小化和最大化的预期平方估计误差，分别。我们表明，如果Wasserstein球的正态分布的中心，那么零和对策承认一个纳什均衡，其中玩家的最优策略分别由{ \em仿射}估计和{ \em正常}先验。我们进一步证明了这个纳什均衡可以通过求解一个易处理的凸规划来计算。最后，我们开发了一个Frank-Wolfe算法，它可以比最先进的通用求解器更快地解决这个凸程序。我们证明了该算法具有线性收敛速率，并且其测向子问题可以用准封闭形式求解。
2021-01-27 cs.LG math.OC math.ST
$\texttt{skwdro}$: a library for Wasserstein distributionally robust machine learning
Univ. Grenoble Alpes, CNRS, Grenoble INP, LJK（格勒诺布尔阿尔卑斯大学、国家科学研究中心、格勒诺布尔INP、LJK研究中心）
skwdro是一个基于Wasserstein距离的分布鲁棒优化库，通过PyTorch封装器简化鲁棒机器学习模型的训练。
2026-01-09 cs.LG cs.MS math.OC
Statistical Analysis of Wasserstein Distributionally Robust Estimators
Stanford University（斯坦福大学）；Singapore University of Technology and Design（新加坡科技设计大学）；VinAI Research（VinAI研究院）
我们认为，统计方法调用一个最小-最大分布鲁棒配方提取良好的样本性能数据驱动的优化和学习问题。认识到从有限样本中学习的分布不确定性，最小-最大公式引入了一个对抗性的内部参与者来探索看不见的协变量数据。由此产生的分布鲁棒优化（DRO）配方，其中包括Wasserstein DRO配方（我们的主要重点），指定使用最佳运输现象。在描述了如何通过有限维对偶重构来处理这些无限维最小-最大问题后，本教程进入了它的主要部分，即解释了一个最佳选择对手预算大小的通用配方。这是通过研究极限行为的最优输运投影公式所产生的查询最小的置信区域，包括未知的人口风险最小化。顺便说一句，这个系统的处方符合在高维统计的具体例子，并在误差界，是免费的维数灾难的结果。配备了这个处方，我们提出了一个中心极限定理的DRO估计，并提供了一个配方，用于构建兼容的置信区域，是有用的不确定性量化。本教程的其余部分致力于深入了解由最小-最大公式选择的优化器的性质以及最优输运预测的其他应用。
2021-08-04 cs.LG math.OC math.ST
Distributionally Robust Learning
Boston University（波士顿大学）
本专著开发了一个全面的统计学习框架，该框架在Wasserstein度量下使用分布鲁棒优化（DRO）对数据中的（分布）扰动具有鲁棒性。从Wasserstein度量和DRO公式的基本性质开始，我们探索对偶性，以达到易于处理的公式，并开发有限样本，以及渐近性能保证。我们考虑了一系列的学习问题，包括（i）分布鲁棒线性回归，（ii）预测变量具有群结构的分布鲁棒回归，（iii）分布鲁棒多输出回归和多类分类，（iv）结合分布鲁棒回归和最近邻估计的最优决策，（iv）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计，（v）分布鲁棒回归和最优决策的最优估计。（v）分布式鲁棒半监督学习，以及（vi）分布式鲁棒强化学习。一个易于处理的DRO松弛每个问题的推导，建立鲁棒性和正则化之间的连接，并获得解决方案的预测和估计误差的界限。除了理论，我们还包括使用合成和真实数据的数值实验和案例研究。真实的数据实验都与各种健康信息学问题有关，这是一个为这项工作提供最初动力的应用领域。
2021-08-20 cs.LG stat.ML
Distributionally and Adversarially Robust Logistic Regression via Intersecting Wasserstein Balls
Imperial Business School, Imperial College London（帝国理工学院伦敦校区商业学校）；JP Morgan AI Research（摩根大通人工智能研究）
针对对抗鲁棒 Logistic 回归易过拟合的问题，提出利用辅助数据集相交 Wasserstein 模糊集的分布鲁棒优化方法，并给出凸重构与高效算法，实验表现优于基准。
2025-06-11 cs.LG math.OC
A Distributionally Robust Approach to Fair Classification
EPFL（洛桑联邦理工学院）；Stanford University（斯坦福大学）
我们提出了一个分布鲁棒的逻辑回归模型与不公平的惩罚，防止歧视方面的敏感属性，如性别或种族。这个模型相当于一个易于处理的凸优化问题，如果Wasserstein球集中在经验分布的训练数据是用来模拟分布的不确定性，如果一个新的凸不公平措施是用来激励均衡的机会。我们证明，由此产生的分类提高公平性在合成和真实数据集的预测精度的边际损失。我们还通过利用Wasserstein球上的最佳不确定性量化技术，推导出任何预训练分类器的不公平水平上基于线性规划的置信区间。
2020-07-18 cs.LG stat.ML
Wasserstein Distributionally Robust Nonparametric Regression
Institute for Math and AI（数学与人工智能研究所）；Wuhan University（武汉大学）；School of Artificial Intelligence（人工智能学院）；Department of Statistics and Data Science（统计与数据科学系）；The Chinese University of Hong Kong（香港中文大学）；The Hong Kong Polytechnic University（香港理工大学）
针对WDRO在非参数框架理论性质未充分探索的问题，本文研究非参数回归的WDRO，通过分析结构区分、误差界等，提出极小极大最优的估计器，确保对模糊集内分布的鲁棒性，且框架适用于回归和分类问题。
2025-11-11 cs.LG stat.ML
A Distributionally Robust Approach to Regret Optimal Control using the Wasserstein Distance
Cornell University（康奈尔大学）
针对未知随机扰动下的离散时间线性系统，本文基于 type-2 Wasserstein 分布球和最优传输对偶，将最坏情况期望遗憾控制转化为半定规划，并刻画最坏分布。
2023-08-16 cs.LG cs.SY eess.SY
Improving Mixup Calibration with Wasserstein Distributionally Robust Optimization
Department of Mathematics & Statistics（数学与统计学系）；Boston University（波士顿大学）；Department of Electrical and Computer Engineering, Division of Systems Engineering（电气与计算机工程系，系统工程 division）；Department of Biomedical Engineering（生物医学工程系）；Faculty of Computing & Data Sciences（计算与数据科学学院）
本文提出DRO-Augment框架，通过协同Wasserstein分布鲁棒优化与数据增强策略，显著提升了深度神经网络在数据损坏和对抗攻击下的鲁棒性，并保持了干净数据集上的准确率，同时提供了理论泛化误差界限。
2026-10-07 cs.CV cs.LG stat.ML
Provable Robust Overfitting Mitigation in Wasserstein Distributionally Robust Optimization
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Kaiyuan International Mathematical Sciences Institute（开元国际数学科学研究院）
针对Wasserstein分布鲁棒优化（WDRO）因未考虑统计误差而存在的鲁棒过拟合问题，提出结合Wasserstein距离与Kullback-Leibler散度的统计鲁棒WDRO框架，建立泛化界并推导均衡条件，有效缓解了过拟合并增强了鲁棒性。
2025-03-06 cs.AI cs.LG math.ST
Generalization Bounds on Optimal Control for Transformer Training and Wasserstein Distributional Robustness
Bilkent University（比尔肯特大学）
该研究推导了Transformer训练的有限样本泛化界，通过将训练问题转化为马尔可夫控制问题，结合量化模型与Wasserstein分布鲁棒优化，建立了Transformer泛化与分布鲁棒控制的关联。
2026-07-31 cs.LG math.OC
Flow-based Distributionally Robust Optimization
Georgia Institute of Technology（佐治亚理工学院）；Duke University（杜克大学）
本文提出 FlowDRO 框架，利用连续时间可逆流模型与 Wasserstein 近端梯度流求解连续 LFD，并通过理论等价性和分块神经网络训练验证其在多类鲁棒任务中的效果。
2024-02-24 cs.LG stat.ME stat.ML
Statistical Guarantees for Distributionally Robust Optimization with Optimal Transport and OT-Regularized Divergences
Texas State University（德克萨斯州立大学）
本文研究了基于最优传输和OT正则化分歧的分布鲁棒优化在有限样本下的统计性能保障，推导了基于DRO的对抗训练的集中不等式，并首次覆盖了软约束范数球OT成本函数，提升了对抗训练的鲁棒性。
2026-03-29 cs.LG stat.ML
Distributionally Robust Optimization and Generalization in Kernel Methods
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
分布鲁棒优化（DRO）由于其与正则化、泛化和鲁棒性的联系而在机器学习中受到关注。现有的工作已经考虑了不确定性集的基础上，φ发散和Wasserstein距离，其中每一个都有缺点。在本文中，我们研究了DRO的不确定性集通过最大平均差异（MMD）测量。我们表明，MMD DRO大致相当于希尔伯特范数的正则化，并且作为副产品，揭示了与统计学习中经典结果的深层联系。特别是，我们得到了另一种证明高斯核岭回归的泛化界通过一个DRO？这个证明还提出了一个新的正则化子。我们的结果适用于超越核方法：我们推导出一个通用的近似MMD DRO，并表明它概括了最近的工作方差为基础的正则化。
2019-05-27 cs.LG stat.ML
A Short and General Duality Proof for Wasserstein Distributionally Robust Optimization
Columbia University（哥伦比亚大学）；University of Chicago（芝加哥大学）
本文为Wasserstein分布鲁棒优化提出了一个仅依赖一维凸分析的通用对偶性证明，并刻画了可交换性原理成立的充要条件，同时将结果推广到分布鲁棒Markov决策过程、多阶段随机规划及其他相关优化问题。
2024-06-05 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Kalman Filtering
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；TU Delft（代尔夫特理工大学）
研究了仅含正态分布的非凸Wasserstein模糊度集上的分布鲁棒均方误差估计问题。我们表明，最佳估计和最不利的分布形成一个纳什均衡。尽管非凸性质的模糊集，我们证明了估计问题是等价于一个听话的凸规划。我们进一步设计了一个Frank-Wolfe算法的凸规划，其方向搜索子问题可以解决的准封闭形式。使用这些成分，我们引入了一个分布式鲁棒卡尔曼滤波器，对冲模型风险。
2018-10-01 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Online Learning
University of Michigan（密歇根大学）；Cornell University（康奈尔大学）
本文提出了一种基于Wasserstein分布鲁棒优化的在线学习框架，通过将问题建模为随机博弈并利用问题几何特性，实现对最坏情况分布的鲁棒优化，同时提高了计算效率。
2026-10-30 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Optimization and Variation Regularization
University of Texas at Austin（德克萨斯大学奥斯汀分校）；New York University（纽约大学）；Georgia Institute of Technology（佐治亚理工学院）
Wasserstein分布鲁棒优化（DRO）最近在运筹学和机器学习的各种应用中取得了经验上的成功，部分原因是它的正则化效应。虽然Wasserstein DRO和正则化之间的联系已经建立在几个设置，现有的结果往往需要限制性的假设，如光滑性或凸性，这是不满意的许多问题。在本文中，我们开发了一个一般理论的变化正则化效果的Wasserstein DRO -一种新的形式的正则化，推广总变差正则化，Lipschitz正则化和梯度正则化。我们的结果涵盖可能的非凸和非光滑的损失和损失的非欧几里德空间。例子包括多项报童，投资组合选择，线性预测，神经网络，流形学习，泊松过程的强度估计等，作为我们的变分正则化理论的应用，我们得到新的泛化保证对抗性鲁棒学习。
2020-10-30 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Regret Optimization
本文研究了基于Wasserstein模糊集的先验分布鲁棒遗憾优化，提出理论框架并开发算法，解决非光滑损失、离散参考和大半径等场景下的计算难题。
2026-08-11 cs.LG math.OC
Regularization for Wasserstein Distributionally Robust Optimization
最优输运最近已被证明是在需要比较概率测度的各种机器学习应用中的有用工具。其中，分布鲁棒优化的应用自然会在其不确定性模型中涉及Wasserstein距离，捕获数据偏移或最坏情况。受最优输运中Wasserstein距离正则化成功的启发，本文研究了Wasserstein分布鲁棒优化的正则化问题。首先，我们得到了正则化Wasserstein分布鲁棒问题的一般强对偶结果。其次，我们改进了这个对偶结果的熵正则化的情况下，并提供了一个近似结果时，正则化参数消失。
2023-03-23 math.OC
Confidence Regions in Wasserstein Distributionally Robust Estimation
Wasserstein分布鲁棒优化估计量作为最小-最大问题的解决方案获得，其中统计学家选择一个参数，使所有概率模型中最坏情况下的损失最小化，在一定的距离内（在Wasserstein意义上），从底层的经验措施。虽然出于需要确定最佳的模型参数或决策选择，是强大的模型误指定，这些分布鲁棒估计恢复了广泛的正则化估计，包括平方根套索和支持向量机，等等，作为特殊情况。本文研究了这些分布稳健估计的渐近正态性以及由Wasserstein分布稳健优化公式导出的最优（在适当意义下）置信区域的性质。此外，还研究了min-max分布鲁棒最优化问题的关键性质，例如，我们证明了分布鲁棒估计基于其导数正则化损失，并给出了min-max分布鲁棒最优化问题与相应的max-min公式等价的一般充分条件.
2021-03-03 math.OC math.ST stat.ML
Unregularized limit of stochastic gradient method for Wasserstein distributionally robust optimization
Université Paris Cité（巴黎西岱大学）
研究通过熵平滑近似Wasserstein分布鲁棒优化问题，证明正则化参数趋于零时近似梯度收敛到非正则化目标的次梯度，并给出随机梯度方法的收敛保证和速率。
2026-05-27 math.OC stat.ML
Universal generalization guarantees for Wasserstein distributionally robust models
本文针对Wasserstein分布鲁棒优化模型，建立了精确的泛化保证，适用于任意传输代价和参数化损失函数（包括非光滑激活的深度学习目标），并提供了超额界及熵正则化扩展。
2025-01-27 math.OC stat.ML
Comparative Analysis of Two-Stage Distributionally Robust Optimization over 1-Wasserstein and 2-Wasserstein Balls
针对右端项不确定的两阶段分布鲁棒优化，论文比较1-Wasserstein与2-Wasserstein模糊集，通过最坏情况分布分析、报童闭式解和惩罚对偶解释，证明2-Wasserstein球可避免病态行为并支持更优决策。
2025-01-09 math.OC
Distributionally Robust Prescriptive Analytics with Wasserstein Distance
Tsinghua University（清华大学）；University of Toronto（多伦多大学）
在规范分析中，决策者观察$(X, Y)$的历史样本，其中$Y$是不确定的问题参数，$X$是并发协变量，而不知道联合分布。给定一个额外的协变量观测$x$，目标是根据该观测选择一个决策$z$，以最小化成本$\mathbb{E}[c(z,Y)|X=x]$。提出了一种新的Wasserstein模糊集下的分布鲁棒方法，该方法基于Nadaraya-Watson核估计量构造$Y|X=x$的名义分布，并考虑历史数据.我们证明了在Wasserstein距离下名义分布收敛于实际条件分布。我们建立了样本外的保证和计算框架的易处理性。通过报童问题和投资组合优化问题的综合实验和实证实验，证明了该框架的强大性能和实用价值。
2021-06-10 cs.LG math.OC
Decomposition Algorithm for Distributionally Robust Optimization using Wasserstein Metric
我们研究分布鲁棒优化（DRO）问题的模糊集定义使用Wasserstein度量。我们表明，这类DRO问题可以重新表述为半无限的程序。对于一般的非线性模型，我们给出了一个交换方法来解决重构问题;对于凸模型，我们给出了一个中心切割面方法，假设我们有一个分离预言。我们使用了一个分布鲁棒推广的逻辑斯谛回归模型来测试我们的算法。分布鲁棒逻辑斯谛回归模型的数值实验表明，oracle调用的数量通常为20？50，达到5位精度。通过模型找到的解决方案通常在预测能力方面更好，具有较小的标准误差。
2017-04-12 math.OC
A General Wasserstein Framework for Data-driven Distributionally Robust Optimization: Tractability and Applications
数据驱动的分布式鲁棒优化是一种新的研究范式，其目标是寻找一种由样本数据驱动但不受采样误差影响的解决方案。一种越来越流行的方法，称为Wasserstein分布鲁棒优化（DRO），通过应用Wasserstein度量来构建一个以经验分布为中心的球，并找到一个解决方案，该解决方案可以很好地对抗来自球的最具对抗性的分布。在本文中，我们提出了一个一般的框架，研究不同的选择的Wasserstein度量，并指出现有的选择的局限性。特别是，虽然从数据驱动的角度来看，选择更高阶的Wasserstein度量是可取的，但鉴于其不太保守的性质，这样的选择从鲁棒性的角度来看代价很高-它不再适用于许多实际关注的重尾分布。我们表明，这种看似不可避免的权衡可以解决我们的框架，在那里引入了一类新的Wasserstein指标，称为连贯的Wasserstein指标。像Wasserstein DRO一样，使用一致Wasserstein度量的分布鲁棒优化，称为广义Wasserstein分布鲁棒优化（GW-DRO），具有所有期望的性能保证：有限样本保证，渐近一致性和计算易处理性。GW-DRO中的最坏情况期望问题通常是一个非凸的最优化问题，但我们提供了新的分析来证明它的易处理性，而不依赖于常见的对偶方案。我们的框架，如本文所示，提供了一个富有成效的机会，设计新颖的Wasserstein DRO模型，可应用于各种情况下，如运营管理…
2022-07-19 math.OC
Higher-Order Sensitivity Analysis of Wasserstein and Adapted Wasserstein Distributionally Robust Optimization Problems
New York University, Tandon School of Engineering（纽约大学坦登工程学院）
本文研究概率测度泛函灵敏度的高阶展开，推广至更广泛的Wasserstein空间泛函，给出二阶展开显式公式及高阶构造方法，并拓展至鞅约束下的分布鲁棒优化。
2026-09-23 math.OC
Data-Driven Bayesian Nonparametric Wasserstein Distributionally Robust Optimization
本研究提出数据驱动的贝叶斯非参数Wasserstein分布鲁棒优化框架，结合贝叶斯非参数方法与Wasserstein度量构建数据驱动模糊集，证明其有限样本保证与渐近一致性，推导等价可解重构形式，经机组组合实验验证其有效性优于现有方法。
2023-11-06 math.OC
Data-driven distributionally robust MPC using the Wasserstein metric
提出了一种基于分布鲁棒优化的数据驱动MPC方案，用于安全控制约束随机线性系系统。基于Wasserstein度量的分布鲁棒约束被施加到存在过程扰动的状态约束违反。一个反馈控制法律解决，以保证预测的状态符合约束。关于Wasserstein球内以其离散经验概率分布为中心的最坏情况分布，满足随机约束。所得到的分布式鲁棒MPC框架是计算上易处理的和高效的，以及递归可行的。这种方法的创新之处在于，所有关于不确定性的信息都可以从数据中凭经验确定。通过数值算例验证了该方法的有效性。
2021-05-18 cs.SY eess.SY math.OC
Wasserstein distributionally robust optimization and its tractable regularization formulations
本文研究Wasserstein分布鲁棒优化问题，利用弱Lipschitz性质推导最坏情况损失量的上下界及与正则化形式一致的充分条件，并给出近似最坏情况分布的闭式形式，适用于回归、分类和风险度量等问题。
2024-02-06 math.OC
Wasserstein Distributionally Robust Shallow Convex Neural Networks
Department of Electrical Engineering（电气工程系）；Polytechnique Montréal（蒙特利尔理工学院）；GERAD（GERAD研究中心）；Mila（Mila研究中心）
本文提出Wasserstein分布鲁棒浅层凸神经网络，将ReLU浅层网络训练重构为凸优化并纳入分布鲁棒框架，以低随机性、可扩展方式实现可靠非线性预测，并通过实验验证其在能源预测等任务中的性能与稳定性。
2025-08-21 cs.LG math.OC
First-Order Methods for Wasserstein Distributionally Robust Constrained Optimization
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家数字科学研究所）；CNRS（法国国家科学研究中心）；LIG（格勒诺布尔信息学实验室）；LJK（洛朗·施瓦茨数学实验室）
针对输入数据受误差影响的约束优化问题，提出基于熵正则化和随机弗兰克 - 沃尔夫算法结合的可处理随机方法，用于解决瓦瑟斯坦分布鲁棒优化问题，并在两个经典问题上验证其优势，提供通用实用的处理方法。
2026-09-18 math.OC
Regularization Helps with Mitigating Poisoning Attacks: Distributionally-Robust Machine Learning Using the Wasserstein Distance
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61中心）；University of Melbourne（墨尔本大学）
我们使用分布式鲁棒优化机器学习，以减轻数据投毒攻击的影响。我们通过在使用Wasserstein距离定义的经验分布（从中毒攻击损坏的训练数据集中提取）周围的邻域上训练模型的最坏情况分布，为原始数据（不包括中毒记录）上的训练模型提供性能保证。我们放松的分布鲁棒机器学习问题，找到一个上限的最坏情况下的适应度的基础上的经验采样平均适应度和Lipschitz常数的适应度函数（给定的模型参数的数据）作为正则化。对于回归模型，我们证明了这个正则化子等于模型参数的对偶范数。我们使用葡萄酒质量数据集，波士顿住房市场数据集和成人数据集来展示本文的结果。
2020-01-29 cs.CR cs.LG eess.SP
Conic Programming Reformulations of Two-Stage Distributionally Robust Linear Programs over Wasserstein Balls
自适应鲁棒最优化问题通常通过将自适应决策限制为简单的参数决策规则来近似求解。然而，相应的近似误差可能是相当大的。在本文中，我们表明，两个阶段的强大的和分布强大的线性规划往往可以重新精确的圆锥规划，规模多项式的问题的尺寸。具体地说，当模糊集构成一个2-Wasserstein球中心在一个离散分布，然后分布鲁棒线性规划是等价于一个共正规划（如果问题有完全追索权）或可以近似任意接近的一系列共正规划（如果问题有足够昂贵的追索权）。这些结果直接扩展到经典的鲁棒设置和激励强易于处理的近似的两阶段问题的半定近似的共正锥。我们还证明了两阶段分布鲁棒最优化问题是等价于一个易于处理的线性规划时，模糊度集构成一个1-Wasserstein球中心的离散分布，有没有支持约束。
2020-08-12 math.OC
Distributionally robust second-order stochastic dominance constrained optimization with Wasserstein ball
研究了一类分布鲁棒二阶随机优势约束最优化问题。我们要求优势约束对于以经验分布为中心的Wasserstein球中的所有概率分布都成立。我们采用样本近似的方法来开发一个线性规划配方，提供了一个下界。我们提出了一种新的分裂和对偶分解框架，提供了一个上界。我们建立定量收敛的上下近似给定一些约束规格条件。为了有效地解决非凸的上界问题，我们使用一个顺序凸近似算法。最后通过一个证券投资组合问题的数值算例验证了所提出的两种近似方法的收敛性和有效性。
2021-10-19 math.OC
Consistency of Distributionally Robust Risk- and Chance-Constrained Optimization under Wasserstein Ambiguity Sets
我们研究了具有机会和风险约束的随机最优化问题，在后者中，风险被量化为条件风险价值（CVaR）。我们考虑这些问题的分布鲁棒版本，其中的约束条件是必须持有的家庭的分布构造从观察到的实现的不确定性通过Wasserstein距离。我们的主要研究结果表明，如果样本是独立地从一个潜在的分布和问题满足适当的技术假设，那么这些问题的分布鲁棒版本的最优值和优化收敛到各自的数量的原始问题，作为样本量的增加。
2020-12-16 cs.SY eess.SY math.OC
Distributionally Robust Inverse Covariance Estimation: The Wasserstein Shrinkage Estimator
我们引入了一个具有Wasserstein模糊集的分布鲁棒极大似然估计模型，从$n$独立样本中推断$p$维高斯随机向量的逆协方差阵。所提出的模型最大限度地减少了最坏的情况下（最大值）的Stein的损失在所有正常的参考分布在规定的Wasserstein距离的正态分布的特征在于样本均值和样本协方差阵。我们证明，这个估计问题是相当于一个半定的程序，是听话的理论，但超出了通用的解决方案，实际相关的问题尺寸$p$。在没有任何先验结构信息的情况下，估计问题具有自然地被解释为非线性收缩估计的解析解。新的收缩估计量不仅是可逆的，而且对于$p>n$也是条件良好的，而且是旋转等变的，并且保持了样本协方差阵特征值的阶数.这些理想的属性并不是特别强加的，而是从底层的分布鲁棒最优化模型中自然出现的。最后，我们开发了一个序列二次近似算法，有效地解决了一般的估计问题的条件独立约束通常遇到高斯图形模型。
2018-05-18 math.OC q-fin.PM stat.ML
Fast Distributionally Robust Learning with Variance Reduced Min-Max Optimization
University of California, Berkeley（加州大学伯克利分校）
分布式鲁棒监督学习（DRSL）正在成为为现实世界应用构建可靠机器学习系统的关键范例-反映了对分类器和预测模型的需求，这些模型对由选择偏差或非平稳性等现象引起的分布偏移具有鲁棒性。解决Wasserstein DRSL的现有算法--基于对Wasserstein距离扰动的鲁棒性的最流行的DRSL框架之一--具有严重的局限性，限制了它们在大规模问题中的使用--特别是它们涉及解决复杂的子问题，并且它们未能利用随机梯度。我们重新Wasserstein DRSL通过镜头的最小-最大优化，并获得可扩展和有效实施的随机额外梯度算法，可证明实现更快的收敛速度比现有的方法。我们证明了他们的有效性合成和真实数据相比，现有的DRSL方法。我们的研究结果的关键是使用方差减少和随机改组，以加速随机最小-最大优化，其中的分析可能是独立的利益。
2022-01-25 cs.LG math.OC stat.ML
Distributionally Robust Logistic Regression
本文提出了一种分布鲁棒的逻辑斯谛回归方法。我们使用Wasserstein距离在训练样本上以均匀分布为中心的概率分布空间中构造一个球。如果这个球的半径被明智地选择，我们可以保证它包含具有高置信度的未知数据生成分布。然后，我们制定了一个分布鲁棒的逻辑斯谛回归模型，最大限度地减少了最坏情况下的预期对数损失函数，其中最坏的情况下，在Wasserstein球的所有分布。我们证明，这个最优化问题承认一个易于处理的重新制定和封装的经典以及流行的正则化逻辑斯谛回归问题的特殊情况。我们进一步提出了一种基于Wasserstein球的分布式鲁棒方法来计算所得分类器的误分类概率的置信上限和置信下限。这些界限由两个高度易处理的线性规划的最优值给出。我们通过模拟和实证实验验证了我们的理论样本外保证。
2015-12-01 math.OC stat.ML
Data-driven Distributionally Robust Optimization Using the Wasserstein Metric: Performance Guarantees and Tractable Reformulations
我们考虑随机程序的不确定参数的分布只能通过有限的训练数据集观察。使用Wasserstein度量，我们在（多变量和非离散）概率分布的空间中构建一个球，该球以训练样本的均匀分布为中心，并且我们在这个Wasserstein球内寻找最差情况分布的最佳决策。用于解决由此产生的分布鲁棒最优化问题的最先进的方法依赖于全局优化技术，这很快变得计算上的折磨。在本文中，我们证明了，在温和的假设下，分布鲁棒最优化问题在Wasserstein球实际上可以重新制定为有限凸规划-在许多有趣的情况下，甚至作为易处理的线性规划。利用最近的测量浓度结果，我们还表明，他们的解决方案享有强大的有限样本性能保证。我们的理论结果在均值-风险投资组合优化和不确定性量化中得到了验证。
2017-06-13 math.OC stat.CO
Nonlinear Wasserstein Distributionally Robust Optimal Control
本文针对动态 Wasserstein 分布鲁棒非线性模型预测控制缺乏实用算法的问题，提出基于约束迭代线性二次调节器的 DRNMPC 方案，动态控制模糊性传播，并通过质量-弹簧系统实验验证其有效性。
2023-04-14 math.OC
Two-Stage Distributionally Robust Conic Linear Programming over 1-Wasserstein Balls
本文研究1型Wasserstein球上的两阶段分布鲁棒锥线性规划，给出最坏情况期望问题对偶的最优性条件，提出带有限收敛证明的割平面算法及改进，验证了特定距离度量的样本外性能优势。
2024-02-02 math.OC
Wasserstein Distributionally Robust Optimization with Expected Value Constraints
本文利用Wasserstein距离的分布鲁棒优化方法处理带期望值约束的随机规划问题，将其重构为有限维优化问题，给出可行性判定准则，并通过投资组合优化的模拟与真实数据验证了方法的有效性。
2023-04-15 math.OC math.PR
On Distributionally Robust Chance Constrained Programs with Wasserstein Distance
本文研究了Wasserstein模糊集下的分布鲁棒机会约束规划（DRCCP），其中不确定性约束应满足：对于离经验分布一定Wasserstein距离内的所有不确定性参数的概率分布，其概率至少满足给定的阈值.在这项工作中，我们研究等价的重新和近似的这样的问题。首先，我们证明了DRCCP可以被重新表述为一个条件风险值约束的最优化问题，从而承认紧密的内部和外部近似。通过引入大M系数和附加二元变量，证明了有界可行域的DRCCP是混合整数可表示的。对于具有纯二元决策变量的DRCCP，通过探索其子模结构，证明了它存在一个大M自由公式，并可通过分支切割算法求解.最后，我们提出了一个数值研究来说明所提出的配方的有效性。
2020-02-14 math.OC
Wasserstein Distributionally Robust Risk-Sensitive Estimation via Conditional Value-at-Risk
Cornell University（康奈尔大学）
本文提出了一种分布鲁棒的风险敏感估计方法，通过求解可解的半正定规划计算最小化最坏情况下的条件风险值，应用于批发电力价格预测，降低样本外风险值。
2026-07-01 cs.LG eess.SP math.OC
A stochastic smoothing framework for nonconvex-nonconcave minEmax problems with applications to Wasserstein distributionally robust optimization
Department of Applied Mathematics, Hong Kong Polytechnic University, Hong Kong, China（应用数学系，香港理工大学）；Institute for Math & AI, Wuhan (IMAI), Wuhan university, China（数学与人工智能研究院，武汉大学）；Department of Mathematical Sciences Rensselaer Polytechnic Institute, Troy, NY, USA（数学科学系，伦斯勒理工学院）
研究非凸-非凹minEmax随机优化问题，提出基于对数均值指数平滑的随机平滑近端梯度法，经非渐近分析表明该方法生成的聚点是克拉克平稳点，数值实验显示其在相关问题上与现有基线有竞争力。
2026-07-17 cs.LG math.OC
Distributionally robust linear regression through the lens of adversarial training
Uppsala University（乌普萨拉大学）；Science for Life Laboratory（生命科学实验室）
本文研究Wasserstein DRO线性回归，统一平方根Lasso与对抗线性回归，证明其误差界、枢轴性质及解等价性，并验证高效求解。
2026-10-01 cs.LG math.OC stat.ML
Distributionally Robust Joint Chance-Constrained Programming with Wasserstein Metric
在本文中，我们开发了一个精确的重新制定和一个确定性近似的分布鲁棒联合机会约束规划（DRCCP）与一般类的凸不确定性约束下的数据驱动Wasserstein模糊集。已知鲁棒机会约束可以保守地近似为最坏情况条件风险价值（CVaR）约束。结果表明，所提出的最坏情况CVaR近似模型可以转化为一个联合DRCCP的双凸约束最优化问题.然后，我们推导出一个凸松弛的近似模型，通过构造新的决策变量，使我们能够消除双凸项。具体地说，当约束函数是仿射的决策变量和不确定性，然后得到的近似模型是相当于一个易于处理的混合整数凸联合二进制DRCCP重新制定。数值结果表明了所提出的公式的计算有效性和优越性。
2022-09-05 math.OC
Adversarial Classification via Distributional Robustness with Wasserstein Ambiguity
The University of Sydney（悉尼大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
我们研究了一个基于分布鲁棒机会约束的对抗分类模型。我们表明，在Wasserstein歧义下，该模型的目标是最小化错误分类距离的条件风险值，我们探索了与早期提出的对抗性分类模型和最大边缘分类器的联系。我们还提供了一个重新制定的分布鲁棒模型的线性分类，并表明它是等价于最小化正则化斜坡损失的目标。数值实验表明，尽管这个公式的非凸性，标准下降方法似乎收敛到这个问题的全局极小值。受此观察的启发，我们表明，对于某一类分布，正则化斜坡损失最小化问题的唯一稳定点是全局最小值。
2021-11-04 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Control of Partially Observable Linear Stochastic Systems
分布鲁棒控制旨在有效地处理随机系统中的分布模糊性。虽然大多数现有的作品解决不准确的分布信息在完全可观察的设置，我们认为部分可观察的离散时间线性系统使用Wasserstein度量的DRC问题。对于一个易于处理的解决方案，我们提出了一种新的近似方法，利用Wasserstein距离的Gelbrich界。利用现代分布鲁棒优化技术，我们推导出一个封闭形式的最优控制策略的表达式和一个易于处理的半定规划问题的最坏情况下的分布政策，在有限的地平线和无限地平线的平均成本设置。所提出的方法具有几个突出的理论特性，如保证成本属性和概率样本外的性能保证，证明了我们的控制器的分布鲁棒性。此外，所得到的控制器，以确保闭环稳定的平均状态系统。通过对一个电力系统频率控制问题的数值实验，检验了该方法的经验性能。
2022-12-22 cs.SY eess.SY math.OC
Wasserstein Distributionally Robust Nash Equilibrium Seeking with Heterogeneous Data: A Lagrangian Approach
Division of Decision and Control Systems, School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology（决策与控制系统系，电气工程与计算机科学学院，皇家理工学院）；Delft Center for Systems and Control, Delft University of Technology（系统与控制中心，代尔夫特理工大学）；Department of Mechanical Engineering and Materials Science, Duke University（机械工程与材料科学系，杜克大学）
本文提出了一种基于拉格朗日方法的分布鲁棒纳什均衡寻求算法，通过异质Wasserstein球约束处理异质数据，证明算法在迭代次数增加时收敛至设定精度的均衡。
2025-12-05 cs.LG cs.SY eess.SY
Moment Relaxations for Data-Driven Wasserstein Distributionally Robust Optimization
Texas A&M University（德克萨斯农工大学）
针对多项式定义的数据驱动p-WDRO问题，提出带Benders分解的矩松弛方法，确定渐近一致性条件，经两类数值实验验证其可扩展性与有效性。
2026-09-07 math.OC
