A Multistage Distributionally Robust Optimization Approach to Water Allocation under Climate Uncertainty
本文研究了气候不确定性条件下的多阶段分布鲁棒优化(MDRO)水资源配置方法。MDRO是通过在有限场景树上创建条件分布集(称为条件模糊集)而形成的。根据$ϕ$ -发散(例如,Kullback-Liebler散度、Hellinger距离、Burg熵等)。本文讨论了一种分解算法来解决由此产生的MDRO和应用的建模和解决方案的技术来分配水在亚利桑那州图森市的一个快速发展的地区。图森和世界上许多干旱和半干旱地区一样,未来为公民供水的能力面临着相当大的不确定性。图森地区不确定性的主要来源包括:(1)不可预测的人口增长,(2)科罗拉多河的可用水,以及(3)气候变化对水消费的影响。本文将所有这些不确定性来源的预测集成到一个单一的最优化模型中,以实现稳健和可持续的水资源分配。然后,它使用这个模型来分析建设额外的处理设施,以减少未来的水资源短缺的价值。结果表明,MDRO方法可以为水资源管理者提供见解,以最大限度地减少风险,并帮助他们规划未来,是非常有价值的。
2020-05-19 math.OC
Distributionally robust chance-constrained Markov decision processes
马尔可夫决策过程(MDP)是一种决策框架,其中决策者感兴趣的是最大化在根据受控马尔可夫链访问的各种状态下在未来阶段接收的奖励流的期望贴现值。当报酬和转移概率是确定性的时,在文献中可以使用包括线性规划方法在内的许多算法来计算最优策略。在本文中,我们考虑的MDP问题的转移概率是已知的,奖励向量是一个随机向量,其分布是部分已知的。我们制定的MDP问题使用分布鲁棒的机会约束优化框架下的各种类型的矩为基础的不确定性集,和圆周距离为基础的不确定性集定义使用φ-发散和Wasserstein距离度量。对于每种类型的不确定性集,我们考虑的情况下,随机奖励向量有一个完全支持或非负支持。对于完全支持的情形,证明了分布鲁棒机会约束马尔可夫决策过程等价于基于矩和φ-散度距离的不确定集的二阶锥规划问题,等价于基于Wasserstein距离的不确定集的混合整数二阶锥规划问题.在非负支撑的情况下,它分别等价于基于矩的不确定集和基于Wasserstein距离的不确定集的共正最优化问题和双凸最优化问题.作为应用,我们研究了机器替换问题,并说明了随机生成的实例的数值实验。
2022-12-15 math.OC
Smoothed $f$-Divergence Distributionally Robust Optimization
本文提出一种基于平滑$f$-散度的分布鲁棒优化方法,能有效纠正样本平均近似的“优化者诅咒”,在统计上达到近乎最优的样本外性能界限,且计算复杂度不高于现有DRO方法。
2023-10-12 cs.LG math.OC stat.ML
Distributionally Robust Bayesian Optimization with $φ$-divergences
Amazon(亚马逊)
本文研究基于φ-散度的分布鲁棒贝叶斯优化问题,将其转化为有限维优化问题,提出计算易处理且具有次线性遗憾界的算法,并通过实验验证其优于现有方法。
2023-10-28 cs.LG math.OC stat.ML
Distributionally Robust Optimization with Multimodal Decision-Dependent Ambiguity Sets
The Ohio State University(俄亥俄州立大学);University of Iowa(爱荷华大学)
本文提出了一种基于ϕ-分歧度的多模决策依赖分布鲁棒优化框架,通过引入多模不确定集和分解算法,改进了DRO模型的求解方法,并通过案例验证了多模性对优化性能的提升作用。
2026-01-31 math.OC
A Distributionally Robust Optimization Approach for Unit Commitment in Microgrids
提出了一种在电力市场价格不确定性和净负荷不确定性下的分布式鲁棒微电网机组组合方法。所提出的方法的关键推力是利用Kullback-Leibler散度来构造一个模糊度集的概率分布和制定一个最优化问题,最小化所带来的最坏情况下的分布在模糊度集中的预期成本。所提出的方法有效地利用历史数据和资本化的k-means聚类算法,结合软动态时间弯曲得分,形成名义概率分布及其相关的支持。一个两级分解方法,使设计的问题的有效解。我们进行了有代表性的研究,并量化了所提出的方法相对于随机最优化为基础的模型在不同的发散容差值的相对优点。
2020-12-13 cs.SY eess.SY math.OC
Sample Average Approximation for Distributionally Robust Optimization with $ϕ$-divergences
Texas A&M University(德克萨斯农工大学)
本文研究了在ϕ-分歧度球内评估随机变量最坏期望的样本复杂性,证明了当分歧函数具有超线性增长时,样本复杂性与名义测度无关,且提供了常用ϕ-分歧度的最优界。
2026-09-03 math.OC math.ST stat.TH
A Geometric Unification of Distributionally Robust Covariance Estimators: Shrinking the Spectrum by Inflating the Ambiguity Set
本文提出了一种基于几何方法的分布鲁棒协方差估计器,通过优化分歧度量来实现收缩估计,具有高效计算和渐近一致性。
2025-11-23 cs.LG math.OC stat.ML
Statistical Limit Theorems in Distributionally Robust Optimization
本文的目标是发展的方法,系统分析的渐近统计性质的数据驱动的DRO配方的基础上,其相应的非DRO同行。我们说明了我们的方法在各种设置,包括φ发散和Wasserstein不确定性集。不同类型的渐近行为得到的不确定性半径作为一个函数的样本量和几何形状的不确定性集减少到零的速度。
2023-03-27 math.OC math.ST stat.TH
Residuals-based distributionally robust optimization with covariate information
我们考虑数据驱动的方法,该方法将机器学习预测模型集成到分布式鲁棒优化(DRO)中,给出了不确定参数和协变量的有限联合观测。我们的框架是灵活的,因为它可以适应各种回归设置和DRO模糊集。我们调查的渐近和有限样本性质的解决方案,使用Wasserstein,样本鲁棒优化,并在我们的DRO配方基于φ发散的模糊集,并探讨交叉验证方法,这些模糊集的大小。通过数值实验,我们验证了我们的理论结果,研究我们的方法的有效性大小的模糊集,并说明我们的DRO配方在有限的数据制度的好处,即使当预测模型是错误的。
2022-05-25 math.OC stat.ML
Distributionally Robust Resource Planning Under Binomial Demand Intakes
在本文中,我们考虑一个分布式鲁棒资源规划模型的启发,现实世界的服务业问题。在这个问题中,存在已知需求和不确定未来需求的混合。在充分了解需求之前,我们必须决定在计划范围内每天计划完成多少工作。任何在到期日未完成的工作都会产生成本,并在第二天到期。我们提出了两个分布鲁棒优化(DRO)模型,这个问题。第一个是一个非参数模型,具有基于φ散度的模糊度集。第二种是参数模型,我们把每天到期的不确定工作数量作为一个具有未知成功概率的二项式随机变量。我们重新制定的参数模型作为一个混合整数规划,并发现它的规模与模糊性和不确定性集的大小不佳。因此,我们利用二项分布的理论性质,推导出基于降维的快速算法。一个是基于切割表面算法中常见的DRO文献。另一个是对未来需求的不确定性集合的一小部分进行操作。我们进行了广泛的计算实验,以建立我们的算法的性能。我们比较了参数和非参数模型的决策,以评估包括二项式信息的好处。
2022-07-06 math.OC
Stochastic First-Order Algorithms for Constrained Distributionally Robust Optimization
本文针对约束分布鲁棒优化问题提出一种随机一阶元算法,分别用近似随机镜像下降和赌博机镜像下降更新决策变量与分布参数,使迭代次数与变量维度无关、对约束数仅呈对数依赖,并通过实验验证其在高维分布参数下的有效性。
2023-05-26 math.OC
Higher-Order Expansion and Bartlett Correctability of Distributionally Robust Optimization
分布鲁棒优化(DRO)是不确定性条件下随机最优化的一种最坏情况框架,近年来得到了广泛的研究。当基础概率分布未知并从数据中观察到时,DRO建议在所谓的不确定性集中计算最差情况分布,该不确定性集捕获所涉及的统计不确定性。特别地,DRO与不确定性集构造为一个统计发散邻域球已被证明是一个工具,用于构建有效的置信区间的非参数泛函,并承担与经验似然(EL)的对偶。在本文中,我们将展示如何调整这种类型的DRO的球的大小可以减少类似于巴特利特校正的高阶覆盖误差。我们的修正,适用于一般冯米塞斯可微泛函,是更普遍的比现有的EL文献,只专注于光滑函数模型或$M$ -估计。此外,我们证明了一个高阶的“自我规范化”的DRO属性,无论选择的分歧。我们的方法建立在发展的高阶扩展的DRO,这是通过渐近分析产生的Karush-Kuhn-Tucker条件的不动点方程。
2021-08-11 math.OC math.PR stat.ME
Unifying Distributionally Robust Optimization via Optimal Transport Theory
Stanford University(斯坦福大学);EPFL(洛桑联邦理工学院);Sauder School of Business, University of British Columbia(不列颠哥伦比亚大学 Sauder 商学院);Booth School of Business, University of Chicago(芝加哥大学 Booth 商学院)
本文通过最优传输理论与条件矩约束,提出统一分布鲁棒优化的框架,结合对抗分布扰动似然比和结果,提升优化方法的实用性。
2025-12-19 math.OC stat.ML
Distributionally Robust Optimization via Ball Oracle Acceleration
我们开发和分析算法的凸损失的分布鲁棒优化(DRO)。特别是,我们考虑组结构和有界$f$ -发散不确定集。我们的方法依赖于一个加速的方法,查询一个球优化预言,即,一个子程序,最小化目标在一个小球周围的查询点。我们的主要贡献是有效地实现这个预言的DRO目标。对于具有$N$非光滑损失函数的DRO,所得到的算法使用对各个损失函数的$\widetilde{O}\left(Nε^{-2/3} + ε^{-2}\right)$一阶Oracle查询找到$ε$精确解。与现有的算法相比,这个问题,我们提高了复杂性的一个因素高达$ε^{-4/3}$。
2022-03-24 cs.DS cs.LG math.OC
Optimality of Linear Policies in Distributionally Robust Linear Quadratic Control
Booth School of Business, University of Chicago(芝加哥大学布斯商学院);Operations, Information & Technology, Graduate School of Business, Stanford University(斯坦福大学商学院运营、信息与技术系);Luxembourg Centre for Logistics and Supply Chain Management, University of Luxembourg(卢森堡大学卢森堡物流与供应链管理研究中心);Risk Analytics and Optimization Chair, EPFL(洛桑联邦理工学院风险分析与优化讲席)
本文研究未知噪声下的分布鲁棒 LQG 控制,证明仿射/线性策略与高斯最坏情形分布的最优性,并提出基于 Kalman 滤波和动态规划的 Frank-Wolfe 算法。
2025-09-27 cs.SY eess.SY math.OC
Mean-Variance Portfolio Selection: Statistical Properties and Distributionally Robust Optimization
School of Economics and Management, Tongji University(同济大学经济与管理学院)
本文研究马科维茨均值-方差投资组合问题,分析三种常用模型的渐近性质,针对φ-散度和Wasserstein距离构造的模糊集构建分布鲁棒优化的可处理形式,通过实验验证相关性质。
2026-10-14 math.OC
On Over-Conservatism Under Low-Probability Extreme Events: A KL-Regularized Wasserstein Distributionally Robust Planning Method
针对低概率极端事件下Wasserstein分布鲁棒规划的过度保守问题,提出KL正则化Wasserstein模糊集,构建两阶段规划模型并通过指数锥规划求解,在标准测试系统上验证了方法的有效性。
2026-10-14 cs.SY eess.SY math.OC
Robust Utility Maximization with Intractable Claims under Distributional Ambiguity: A Random Distributionally Robust Optimization Approach
本文研究了在分布不确定性下不可 tractable 权益的稳健效用最大化问题,扩展了现有框架,允许权益边际分布在φ-散度不确定性集中变化,并考虑一般双变量效用函数,提出随机分布鲁棒优化方法。
2026-04-16 math.OC
Bayesian Distributionally Robust Nash Equilibrium and Its Application
The Chinese University of Hong Kong(香港中文大学)
本文提出基于贝叶斯分布鲁棒优化的纳什均衡模型,通过参数后验分布更新和KL散度构建模糊集,应用于多选logit需求的价格竞争问题,验证了模型的有效性。
2025-08-15 math.OC
Bounds for Distributionally Robust Optimization Problems
University of Toronto(多伦多大学)
本文研究了分布鲁棒优化问题的界限,通过多变量Wasserstein距离和Bregman-Wasserstein散度,提出计算可行的上界和下界方法,并推导了风险度量准则下的半解析公式。
2026-08-18 math.OC q-fin.RM
Distributionally robust decision-making under ambiguity: case study of water environmental management
Japan Advanced Institute of Science and Technology(日本科学技术高级研究院);Doshisha University(同志社大学);Gifu University(岐阜大学);Okayama University(冈山大学)
针对水环境管理中模型模糊性和长记忆性挑战,提出基于混合移动平均过程的分布鲁棒随机优化方法,采用平滑正则化和散度惩罚实现凸优化,并通过案例验证效果。
2026-06-16 math.OC
Perturbation Duality for Robust and Distributionally Robust Optimization: Short and General Proofs
Naval Postgraduate School(海军研究生院);University of Minnesota(明尼苏达大学);University of Southern California(南加州大学)
本文利用扰动对偶性统一推导鲁棒和分布鲁棒优化的对偶公式,解决了一个关于分布鲁棒对偶性的开放猜想,并简化了鲁棒对偶性的证明。
2026-08-07 math.OC
Inverse Potential Problems for Divergence of Measures with Total Variation Regularization
研究了泊松方程的反问题,其源项为$\mathbf{R}^3$值测度的散度,即势$Φ$满足$$ ΔΦ= \text{div} \boldsymbolμ, $$,且$\boldsymbolμ$在已知场梯度$Φ$(的一个分量)与$\boldsymbolμ$的支撑不相交的集合上重构.这种问题出现在几个电磁场在准静态制度,例如,当恢复reversible磁化从测量其磁场。我们开发了基于全变差正则化的$\boldsymbolμ$恢复方法。我们提供了充分条件,唯一的恢复$\boldsymbolμ$,渐近时的正则化参数和噪声趋于零的组合方式,当它是单向的或当磁化有一个支持,这是稀疏的意义上说,它是纯粹的1-unrectifiable。数值例子来说明主要的理论结果。
2018-09-21 math.OC
Distributionally Robust Optimization via Targeted Integral Probability Metrics for General Data Processes
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Arizona(亚利桑那大学);Tongji University(同济大学)
研究在分布不确定性下的决策问题,提出基于目标积分概率度量的任务感知DRO框架,通过直接由可行决策诱导的损失函数定义模糊集,控制损失差异,推导对偶公式,建立保证,开发近似方案,实验显示其优于现有方法。
2026-07-08 math.OC
Large-Scale Methods for Distributionally Robust Optimization
我们提出并分析了分布鲁棒优化算法的凸损失与条件风险价值(CVaR)和$χ^2$发散不确定性集。我们证明,我们的算法需要许多梯度评估,与训练集大小和参数数量无关,使它们适合大规模应用。对于$χ^2$的不确定性集,这些是第一个这样的保证在文献中,和CVaR我们的保证规模线性的不确定性水平,而不是二次在以前的工作。我们还提供了下界证明我们的算法CVaR和惩罚版本的$χ^2$问题的最坏情况下的最优性。我们的主要技术贡献是批量稳健风险估计偏差的新界限和[Blanchet & Glynn,2015]的多级Monte Carlo梯度估计的方差。在MNIST和ImageNet上的实验证实了我们算法的理论扩展性,比全批方法的效率高9- 36倍。
2020-12-11 cs.LG math.OC stat.ML
Distributionally Robust Optimization with Bias and Variance Reduction
University of Washington(华盛顿大学);Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
针对分布鲁棒优化问题,提出仅需单参数调优的随机梯度算法 Prospect,实现线性收敛,在多领域基准上比基线快 2-3 倍。
2023-10-21 cs.LG math.OC stat.ML
Parametric Scenario Optimization under Limited Data: A Distributionally Robust Optimization View
我们考虑最优化问题与不确定的约束,需要满足概率。当数据可用时,获得此类问题的可行解的常用方法是施加采样约束,遵循所谓的情景优化方法。然而,当数据大小是小的,采样的约束可能不支持统计上的可行性保证所获得的解决方案。本文研究了如何利用参数信息和蒙特卡罗模拟的力量,以获得小数据情况下的可行解。我们的方法利用了一个分布式鲁棒优化(DRO)配方,将数据大小的要求转化为蒙特卡洛样本量的要求,我们称之为生成分布。我们表明,虽然这个生成分布的最佳选择是一个引出的数据或基线分布在一个非参数的分歧为基础的DRO,它不一定是这样的参数的情况下。相应地,我们开发的程序,以获得生成分布,改善这些基本的选择。我们支持我们的研究结果与几个数值例子。
2020-07-08 math.OC math.ST stat.TH
Duality and Policy Evaluation in Distributionally Robust Bayesian Diffusion Control
Stanford University(斯坦福大学);New York University(纽约大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出分布鲁棒贝叶斯控制方法,通过强对偶性结果解决参数不确定性下的策略评估与学习问题,提升鲁棒性和效率。
2026-08-17 math.OC math.PR q-fin.PM
Sequential Domain Adaptation by Synthesizing Distributionally Robust Experts
Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);The Hong Kong Polytechnic University(香港理工大学);Stanford University(斯坦福大学);VinAI Research(VinAI研究院)
最小二乘估计,当在几个目标域样本上训练时,可能预测不佳。有监督的领域自适应旨在通过利用来自接近目标分布的源分布的附加标记的训练样本来提高预测精度。鉴于现有的数据,我们研究新的策略,合成一个家庭的最小二乘估计专家,是强大的矩条件。当这些矩条件指定使用Kullback-Leibler或Wasserstein型分歧,我们可以找到有效地使用凸优化的鲁棒估计。我们使用伯恩斯坦在线聚合算法的建议家庭的强大的专家生成预测的顺序流的目标测试样本。对实际数据的数值实验表明,稳健策略可以优于经验最小二乘估计的非稳健插值。
2021-06-01 cs.LG math.OC stat.ML
Optimistic Distributionally Robust Optimization for Nonparametric Likelihood Approximation
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);The Hong Kong Polytechnic University(香港理工大学);Imperial College Business School(帝国理工商学院)
似然函数是贝叶斯统计中的一个基本组成部分。然而,在许多应用中,评估观测的可能性在计算上是难以处理的。在本文中,我们提出了一个非参数近似的可能性,确定一个概率测度,它位于附近的标称措施,并最大限度地提高观察给定的样本点的概率。我们表明,当附近的构造由Kullback-Leibler分歧,矩条件或Wasserstein距离,那么我们的\textit{optimistic likelihood}可以确定通过凸优化问题的解决方案,它承认在特定情况下的解析表达式。我们还表明,我们的乐观似然近似的后验推理问题具有很强的理论性能保证,它在概率分类任务中具有竞争力。
2019-10-23 cs.LG math.OC stat.ML
Distributionally Robust Average-Reward Reinforcement Learning: Finite-Sample Guarantees under Weak Communication
本文研究弱通信平均奖励分布鲁棒强化学习,提出无需先验知识的算法,给出估计鲁棒最优平均奖励和学习的样本复杂度保证,并验证了$n^{-1/2}$收敛速率。
2026-09-29 cs.LG math.OC stat.ML
Compositional federated learning: Applications in distributionally robust averaging and meta learning
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);University of Pittsburgh(匹兹堡大学)
本文提出ComFedL算法解决组合联邦学习框架,通过将分布鲁棒FL和MAML等极小极大优化问题转化为组合优化问题,并证明其$O(1/\sqrt{T})$的收敛速率。
2023-07-26 cs.DC cs.LG math.OC
Nested Stochastic Algorithm for Generalized Sinkhorn distance-Regularized Distributionally Robust Optimization
本文针对广义Sinkhorn距离正则化的非凸分布鲁棒优化问题,推导出嵌套随机优化的对偶形式,提出嵌套SGD算法并证明其多项式复杂度,数值实验验证了算法的效率与鲁棒性。
2025-06-26 cs.LG math.OC stat.ML
Generalization Bounds with Minimal Dependency on Hypothesis Class via Distributionally Robust Optimization
Columbia University(哥伦比亚大学)
在数据驱动优化和机器学习中获得泛化边界的既定方法主要建立在经验风险最小化(ERM)的解决方案上,这在很大程度上取决于假设类的函数复杂性。在本文中,我们提出了一种替代路线,以获得这些边界的解决方案,从分布鲁棒优化(DRO),最近的数据驱动的优化框架的基础上,最坏情况下的分析和模糊集的概念,以捕捉统计不确定性。与ERM中的假设类复杂性相反,我们的DRO界限取决于模糊集几何及其与真实损失函数的兼容性。值得注意的是,当使用统计距离,如最大平均差异,Wasserstein距离,或$ϕ$ -DRO中的分歧,我们的分析意味着泛化边界的依赖性的假设类似乎是最小的可能性:边界仅取决于真正的损失函数,独立于任何其他候选人的假设类。据我们所知,这是文献中第一个这种类型的推广界,我们希望我们的发现可以为更好地理解DRO打开大门,特别是它在损失最小化和其他机器学习应用方面的好处。
2022-10-12 cs.LG math.OC stat.ME
Generative Distributionally Robust Optimization
Telfer School of Management, University of Ottawa(渥太华大学泰尔弗管理学院);Department of Electrical and Computer Engineering, Western University(西安大略大学电气与计算机工程系)
研究提出生成式分布鲁棒优化(GDRO)框架,接受可采样条件生成器为名义模型,通过采样器-辛科恩配对限制最坏情况法则,可直接有限样本近似和可微实现,相比名义决策降低了罕见上下文库存遗憾和SocialGAN导航碰撞。
2026-07-29 cs.AI cs.LG math.OC
DR-SAC: Distributionally Robust Soft Actor-Critic for Reinforcement Learning under Uncertainty
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);New York University(纽约大学)
本文提出DR-SAC,首个基于Actor-Critic的分布鲁棒强化学习算法,用于连续动作空间的离线学习。通过最大化熵正则化奖励,对抗最坏可能的转移模型,在KL散度约束的不确定性集内实现收敛保证,并结合生成建模方法估计未知的名义转移模型。
2026-04-18 cs.AI cs.LG math.OC
Doubly Robust Distributionally Robust Off-Policy Evaluation and Learning
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技校区);Tsinghua University(清华大学);Arena Technologies(Arena科技公司);New York University(纽约大学)
离线评估和学习(OPE/L)使用离线观察数据来做出更好的决策,这在在线实验有限的应用中至关重要。但是,OPE/L完全依赖于记录的数据,对环境分布偏移-数据生成环境和部署策略的环境之间的差异-很敏感。\citet{si2020distributional}提出了分布鲁棒OPE/L(DROPE/L)来解决这个问题,但该建议依赖于逆倾向加权,如果倾向是非参数估计的,其估计误差和遗憾将恶化,即使不是,其方差也是次优的。对于标准的、非鲁棒的OPE/L,这是通过双重鲁棒(DR)方法解决的,但它们不会自然地扩展到更复杂的DROP/L,这涉及最坏情况的期望。本文提出了第一个具有KL-发散不确定集的DROPE/L DR算法。为了评估,我们提出了本地化的双重鲁棒DROPE(LDR $^2$ OPE),并表明它在弱产品率条件下实现了半参数效率。由于采用了定位技术,LDR $^2$ OPE仅需要拟合少量回归,就像标准OPE的DR方法一样。对于学习,我们提出了连续双鲁棒DROPL(CDR $^2$ OPL),并表明,在涉及连续回归的产品率条件下,它享有快速的后悔率$\mathcal{O}\left(N^{-1/2}\right)$,即使未知的倾向是非参数估计。我们经验验证我们的算法在模拟和进一步扩展我们的结果一般$f$发散不确定性集。
2022-07-18 cs.LG math.OC math.ST
A Distributionally Robust Framework for Learned Reconstructions in Inverse Problems
University of Twente(特文特大学);IIT Kharagpur(印度理工学院哈里科特)
提出一种结构化分布鲁棒优化框架,通过约束扰动与数据采集过程对齐,学习对分布偏移鲁棒的重建算子,并建立强对偶性和显式最坏情况风险界,在去模糊和正弦图到CT重建中优于标准DRO和MSE基线。
2026-06-29 cs.LG math.OC
SCOPE: Spectral Concentration by Distributionally Robust Joint Covariance-Precision Estimation
Chinese University of Hong Kong(香港中文大学)
针对随机向量的协方差矩阵与精度矩阵联合估计问题,提出基于凸谱散度模糊集的分布鲁棒模型,将其简化为凸优化问题得到准解析非线性收缩估计器,通过调参纠正谱偏差并改善条件数,实验显示其性能优于现有方法。
2025-11-18 cs.LG math.OC stat.ML
Risk Quadrangle and Robust Optimization Based on Extended $φ$-Divergence
该研究提出扩展φ-散度与扩展φ-散度四边形,将分布鲁棒优化整合进基础风险四边形框架,推导相关元素的原始与对偶表示,证明其可涵盖多种常见优化问题,并通过案例可视化内部最大化的最优解。
2024-12-10 math.OC stat.OT
Sample Complexity of Distributionally Robust Average-Reward Reinforcement Learning
本文提出两种算法,实现了分布鲁棒平均奖励强化学习的近最优样本复杂度,通过锚定状态稳定转移核并保证收敛性。
2026-02-01 cs.LG math.OC stat.ML
Generative Neural Networks for Sinkhorn Distributionally Robust Hypothesis Testing
School of Artificial Intelligence, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)人工智能学院);College of Business, City University of Hong Kong(香港城市大学商学院);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院)
本文针对现有Sinkhorn分布鲁棒假设检验方法可扩展性不足的问题,提出基于超输入凸神经网络的生成式框架,实现了更优的检测精度与鲁棒性,且具备良好的可扩展性。
2026-08-25 cs.LG math.OC stat.ML
Riemannian ascent--descent for nonconvex nonconcave minimax landscapes: convergence to basin saddle points and applications to distributionally robust optimization
UC San Diego(加州大学圣地亚哥分校)
针对非凸非凹极小极大景观,提出盆地鞍点概念及黎曼梯度上升多步下降迭代的收敛框架,应用于高斯分布鲁棒优化,获得线性或多项式收敛速率。
2026-09-15 cs.LG math.OC stat.ML
Improved Stochastic Optimization of LogSumExp
HSE University(莫斯科高等经济学院);Department of Mathematics, KTH Royal Institute of Technology(皇家理工学院数学系)
针对LogSumExp函数在大规模指数项下的优化难题,提出一种保持凸性和光滑性的近似方法,基于Safe KL散度,在分布鲁棒优化和连续最优传输中优于现有基线。
2026-06-19 cs.LG math.OC
Proximal optimal transport divergences
我们提出近端最优传输散度,一种插值信息散度与最优传输距离的新差异度量,为生成建模提供近端优化基础,并建立动态平均场博弈公式,推广现有方法。
2025-08-07 math.OC math.PR stat.ME
Optimal Bounds between $f$-Divergences and Integral Probability Metrics
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
$f$ -发散(例如Kullback-Leibler发散)和积分概率距离(例如全变差距离或最大平均差异)的族广泛用于量化概率分布之间的相似性。本文从凸对偶的角度系统地研究了这两个族之间的关系。从紧变分表示的$f$ -发散,我们推导出一个推广的矩母函数,我们表明正是表征的最佳下界的$f$ -发散作为一个给定的IPM的功能。使用此特征,我们得到新的界限,同时也恢复在一个统一的方式众所周知的结果,如Hoeffding引理,Pinsker的不等式及其扩展到亚高斯函数,和Hammersley查普曼罗宾斯界。这一特征也使我们能够证明新的结果的拓扑性质的分歧,这可能是独立的利益。
2021-06-05 cs.IT cs.LG math.IT
Regularization for Adversarial Robust Learning
Georgia Institute of Technology(佐治亚理工学院);The University of Texas at Austin(得克萨斯大学奥斯汀分校)
针对基于$\infty$-Wasserstein度量的分布鲁棒风险计算不可行问题,提出一种整合$\phi$-散度正则化的对抗训练方法,利用带偏置预言机的随机梯度算法实现近最优样本复杂度,并在多种学习任务中达到最先进的防御性能。
2024-08-22 cs.LG math.OC stat.ML
Robust Mean Estimation for Optimization: The Impact of Heavy Tails
CWI Amsterdam(荷兰数学和计算机科学研究中心);TU Eindhoven(埃因霍温理工大学)
本文研究了非负厚尾随机变量期望值的稳健估计问题,通过分布鲁棒优化方法结合KL散度,提出最优估计策略,并证明其统计性质优于截断、方差正则化和Wasserstein DRO方法。
2026-04-20 math.OC math.PR math.ST
High Probability and Risk-Averse Guarantees for a Stochastic Accelerated Primal-Dual Method
本文研究随机强凸-强凹鞍点问题,为SAPD建立高概率收敛保证、极限协方差公式与紧下界,并从CVaR、EVaR和$χ^2$-散度角度分析风险规避权衡。
2023-07-14 math.OC
Understanding Distributional Ambiguity via Non-robust Chance Constraint
City University of Hong Kong(香港城市大学);Tencent(腾讯);JD Digits(京东数科)
本文通过将分布不确定性与机会概率联系起来,给出了分布鲁棒优化(DRO)问题的非鲁棒解释。我们的分析允许决策者通过机会参数约束目标函数来解释模糊集的大小,这通常缺乏商业意义。我们首先证明,一般的$ϕ$ -发散,DRO问题是渐近等价于一类均值偏差问题。这些均值-偏差问题不受不确定分布的影响,并且原始DRO问题中的模糊半径现在起着控制决策者风险偏好的作用。然后,我们证明了一个DRO问题可以被铸造作为一个机会约束优化(CCO)问题时,有界性约束添加到决策变量。在没有有界性约束的情况下,CCO问题表现出一致优于DRO问题,无论模糊度集的半径,发散度的选择,或中心分布的尾部沉重。由于我们的高阶扩展结果,我们的分析的一个显着特点是,它适用于发散措施,以及适应重尾分布,如学生$t$分布和对数正态分布,除了广泛使用的Kullback-Leibler(KL)发散,这需要分布的目标函数是指数有界的。以投资组合选择问题为例,我们对多变量重尾数据集(包括合成数据集和真实数据集)的综合测试表明,这种业务解释方法确实有用且有见地。
2020-09-21 cs.LG math.OC q-fin.PM
From Distributional Robustness to Robust Statistics: A Confidence Sets Perspective
CWI Amsterdam(阿姆斯特丹国家数学与计算机科学研究所);Massachusetts Institute of Technology(麻省理工学院)
本文从置信集视角建立分布鲁棒优化与经典稳健统计的联系,证明基于KL散度和全变差距离的DRO模糊集是一致最小置信集,并揭示DRO的保守性源于非参数框架而非公式本身。
2024-10-17 cs.LG math.OC
When AUC meets DRO: Optimizing Partial AUC for Deep Learning with Non-Convex Convergence Guarantee
University of Iowa(爱荷华大学)
本文针对深度学习中的单向和双向偏AUC最大化问题,提出基于CVaR和KL散度正则化DRO的两种代理目标形式及相应优化算法,并给出非凸收敛保证,实验验证了其有效性。
2023-09-18 cs.LG math.OC stat.ML
Robust Optimization of Rank-Dependent Models with Uncertain Probabilities
本文针对由 $ϕ$-散度模糊集刻画的不确定概率下的秩依赖风险度量,提出将鲁棒优化问题转化为秩独立问题,并开发两类算法以规避维度灾难,给出渐近收敛的紧上下界。
2025-04-14 econ.TH math.OC