Distributionally Robust Multiclass Classification and Applications in Deep Image Classifiers
Amazon SCOT(亚马逊SCOT);Boston University(波士顿大学)
针对多类逻辑斯谛回归(MLR)问题,提出了一种分布鲁棒优化(DRO)方法。DRO框架使用概率模糊集,其被定义为在Wasserstein度量的意义上接近训练集的经验分布的分布球。我们放松的DRO制定成一个正则化的学习问题,其正则化是一个规范的系数矩阵。我们为模型的解决方案建立样本外性能保证,提供关于正则化器在控制预测误差中的作用的见解。我们将所提出的方法应用于渲染基于深度Vision Transformer(ViT)的图像分类器,该分类器对随机和对抗性攻击具有鲁棒性。具体来说,使用MNIST和CIFAR-10数据集,我们证明了通过采用一种新的随机训练方法,与基线方法相比,测试错误率降低了83.5%,损失率降低了91.3%。
2023-03-25 cs.LG stat.ML
Distributionally Adversarial Attack
State University of New York at Buffalo(纽约州立大学布法罗分校);Zhejiang University(浙江大学)
最近的对抗攻击研究表明,投影梯度下降(PGD)Adjunct是一种通用的一阶攻击,由PGD对抗训练的分类器对各种一阶攻击具有鲁棒性。值得注意的是,攻击/防御模型的原始目标依赖于数据分布$p(\mathbf{x})$,通常以风险最大化/最小化的形式,例如,$\max/\min\mathbb{E}_{p(\mathbf(x))}\mathcal{L}(\mathbf{x})$具有$p(\mathbf{x})$一些未知数据分布和$\mathcal{L}(\cdot)$损失函数。然而,由于PGD基于$\mathcal{L}(\cdot)$为每个数据样本独立地生成攻击样本,因此该过程不一定导致风险优化方面的良好泛化。在本文中,我们通过提出分布式对抗攻击(DAA)来实现这一目标,DAA是一个解决最佳{ \em对抗数据分布}的框架,该分布满足$L_\infty$约束,但偏离原始数据分布,以最大限度地增加泛化风险。从理论上讲,DAA对潜在数据分布的空间进行优化,这在生成对抗样本时引入了所有数据点之间的直接依赖性。DAA通过攻击最先进的防御模型进行评估,包括{ \em MIT MadryLab}提供的对抗训练模型。值得注意的是,DAA在MadryLab的白盒排行榜上将{ \em排名第一},将其秘密MNIST模型的准确性降低到$88.79\%$(具有$ε= 0.3$的$l_\infty$扰动),并将其…
2018-12-06 cs.CR cs.LG stat.ML
Distributionally Robust and Safe Imitation Learning
University of California Berkeley(加利福尼亚大学伯克利分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
研究针对模仿学习对分布变化敏感及安全风险问题,提出分布鲁棒且安全的模仿学习框架,利用泰勒级数模仿学习和分布鲁棒自适应控制应对不同诱导变化,在无人机案例中验证了方法有效性。
2026-07-16 cs.LG cs.SY eess.SY
Distributionally Robust Learning with Stable Adversarial Training
Tsinghua University(清华大学);Zhejiang University(浙江大学)
具有经验风险最小化的机器学习算法由于贪婪地采用在训练数据中发现的所有相关性而在分布移位下是脆弱的。有一个新兴的文献,解决这个问题,最大限度地减少最坏情况下的风险超过不确定性集。然而,现有的方法大多数都是通过平等对待所有变量来构建歧义集,而不管它们与目标的相关性是否稳定,这导致了极大的不确定性集和低置信度的学习器。在本文中,我们提出了一种新的稳定对抗学习(SAL)算法,该算法利用异构数据源来构建更实用的不确定性集并进行差异化鲁棒性优化,其中协变量根据其与目标的相关性的稳定性进行区分。我们从理论上表明,我们的方法是易于处理的随机梯度为基础的优化,并提供我们的方法的性能保证。仿真和真实数据集的实证研究验证了我们的方法在未知分布变化方面的一致良好性能的有效性。
2022-11-21 cs.LG
Distributionally Robust Models with Parametric Likelihood Ratios
Centre Sciences des Données(数据科学中心);École normale supérieure PSL(巴黎高等师范学院(PSL大学));Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学)
随着机器学习模型的部署越来越广泛,它们不仅能够在训练分布上表现良好,而且在遇到分布偏移时也能产生准确的预测,这一点变得越来越重要。分布式鲁棒优化(DRO)框架提出通过训练模型来解决这个问题,以最大限度地减少分布集合下的预期风险,以模仿测试时间偏移。这通常是通过训练目标的实例级重新加权来模拟可能的测试分布的似然比来实现的,这允许通过重要性采样来估计它们的经验风险(假设它们是训练分布的子群体)。然而,在文献中的重新加权计划通常是有限的,由于难以保持的优化问题易于处理和执行规范化约束的复杂性。在本文中,我们表明,三个简单的想法-小批量水平归一化,KL惩罚和同步梯度更新-允许我们训练模型与DRO使用更广泛的类参数似然比。在对图像和文本分类基准的一系列实验中,我们发现,与其他DRO方法相比,使用所得到的参数对手训练的模型对子群体变化的鲁棒性始终更强,并且该方法在几乎没有超参数调整的情况下可靠地表现良好。可以在https://github.com/pmichel31415/P-DRO上找到重现我们实验的代码。
2022-04-13 cs.LG
Iterative Sampling Methods for Sinkhorn Distributionally Robust Optimization
School of Artificial Intelligence, School of Data Science(人工智能学院、数据科学学院)
本文提出基于迭代采样的方法,从原问题视角解决Sinkhorn分布鲁棒优化问题,同时获得最优鲁棒决策和最坏分布,通过数值实验验证有效性。
2025-12-14 cs.LG stat.ML
Fundamental Tradeoffs in Distributionally Adversarial Training
University of Southern California(南加州大学);Adobe Research(奥多比研究院)
对抗性训练是提高模型对对抗性扰动的鲁棒性的最有效技术之一。然而,这种方法对模型的全部影响还没有得到很好的理解。例如,虽然对抗性训练可以降低对抗性风险(对对手的预测误差),但有时会增加标准风险(当没有对手时的泛化误差)。更重要的是,这种行为受到学习问题的各种元素的影响,包括训练数据的大小和质量,输入中对抗性扰动的具体形式,模型过度参数化和对手的力量等。在本文中,我们专注于\emph{distribution perturbing}对手的框架,其中对手可以改变测试分布在附近的训练数据分布。通过分布之间的Wasserstein距离定义邻域,并且邻域的半径是对手操纵能力的度量。我们研究了标准风险和对抗风险之间的权衡,并推导出帕累托最优权衡,在特定类别的模型中,在无限数据限制下,特征维度保持固定。我们考虑三种学习设置:1)线性模型类的回归; 2)高斯混合数据模型下的二元分类,线性分类器类; 3)随机特征模型类的回归(可以等效地表示为具有随机第一层权重的两层神经网络)。我们发现,标准和对抗风险之间的权衡表现在所有三种设置。我们进一步描述了Pareto最优的权衡曲线,并讨论了各种因素,如特征相关性,对手的力量或两层神经网络的宽度将如何影响这种权衡。
2021-01-15 cs.LG math.ST stat.ML
Adaptive Sample-Level Framework Motivated by Distributionally Robust Optimization with Variance-Based Radius Assignment for Enhanced Neural Network Generalization Under Distribution Shift
Bangladesh University of Engineering and Technology (BUET)(孟加拉国工程技术大学)
本文提出Var-DRO框架,通过样本级在线损失方差自动分配个性化鲁棒性预算,结合KL散度约束与注水解法,在无群体标签条件下提升分布偏移时的神经网络泛化性能。
2025-11-04 cs.CV cs.LG
Regularized and Distributionally Robust Data-Enabled Predictive Control
本文研究了一种应用于未知随机线性定常系统的数据使能预测控制(DeePC)算法。该算法使用噪声损坏的输入/输出数据来预测未来的轨迹和计算最优控制策略。为了对输入/输出数据中的不确定性进行鲁棒化,计算控制策略以最小化给定目标函数的最坏情况期望。使用来自分布鲁棒随机最优化的技术,我们证明了对于某些目标函数,最坏情况下的最优化问题与DeePC算法的正则化版本一致。这些结果支持了正则化算法先前观察到的优点,并为其性能提供了概率保证。我们通过一个数值算例说明了正则化算法的鲁棒性。
2019-11-01 math.OC
Incorporating Unlabeled Data into Distributionally Robust Learning
Massachusetts Institute of Technology(麻省理工学院)
我们研究了一个强大的替代经验风险最小化称为分布式鲁棒学习(DRL),其中一个学习执行对手谁可以选择数据分布从一组指定的分布。我们说明了一个问题,目前的DRL配方,它依赖于一个过于广泛的定义,允许分布的对手,导致学习分类器,无法预测与任何信心。我们提出了一个解决方案,将未标记的数据到DRL问题,以进一步约束对手。我们表明,这种新的配方是易于处理的随机梯度为基础的优化,并产生一个可计算的保证学习分类器的未来性能,类似于-但比-从传统的DRL保证更严格。我们研究了14个真实数据集上的这种新配方的性能,发现它通常会产生有效的分类器,在传统DRL不产生的情况下,具有非平凡的性能保证。受这些结果的启发,我们扩展我们的DRL制定主动学习与一个新的,分布鲁棒的版本的标准模型变化启发式。我们的主动学习算法在真实数据集上往往比原始启发式算法具有更好的学习性能。
2019-12-18 cs.LG stat.ML
On Regularized Square-root Regression Problems: Distributionally Robust Interpretation and Fast Computations
本文统一证明范数加半范数惩罚的平方根回归等价于最小二乘的DRO形式,并提出邻近点对偶半光滑Newton算法高效求解两类非光滑问题。
2023-10-05 math.OC
Nested Stochastic Algorithm for Generalized Sinkhorn distance-Regularized Distributionally Robust Optimization
本文针对广义Sinkhorn距离正则化的非凸分布鲁棒优化问题,推导出嵌套随机优化的对偶形式,提出嵌套SGD算法并证明其多项式复杂度,数值实验验证了算法的效率与鲁棒性。
2025-06-26 cs.LG math.OC stat.ML
Model Risk Static-Hedging a Constrained Distributionally Robust Optimization approach
New York University, Tandon School of Engineering(纽约大学坦登工程学院)
本文提出了一种约束性分布鲁棒优化方法,用于解决模型风险下的静态对冲问题,推导了闭合形式的敏感性公式并表征了对应的对冲策略。
2026-10-02 math.OC math.PR
Entropy-regularized Wasserstein distributionally robust shape and topology optimization
本文旨在介绍形状和拓扑优化领域的分布鲁棒性的最新范例。承认不确定的物理数据的概率法是很少知道的,超出了从观察到的样本构建的粗略近似,我们优化设计的预期成本的最坏情况下的值时,不确定性的概率法是“接近”的估计一个规定的阈值。概率定律之间的"接近性“由瓦瑟斯坦距离(Wasserstein distance)量化,这是一个与最优输运理论有关的概念。结合经典的熵正则化技术在这一领域的凸对偶理论的最新成果,允许重新制定的分布鲁棒最优化问题的方式是易于处理的计算。在基于密度的拓扑优化和几何形状优化的不同设置下,给出了两个数值例子。无论所选的最优设计框架如何,他们都证明了所提出的公式的相关性和适用性。
2023-01-11 cs.NA math.NA math.OC
Mathematical Foundations of Distributionally Robust Multistage Optimization
分布鲁棒优化在其问题公式化中涉及各种概率测度。它们可以被捆绑起来构成一个风险函数。对于这种等价性,风险泛函构成了分布鲁棒随机规划的基本组成部分。多阶段规划需要风险泛函的条件版本,以重新评估未来的风险后,部分实现和先前的决定。本文讨论了通过将风险泛函的真特征传递给其条件对偶来构造风险泛函的条件对偶。条件风险泛函原来是不同的嵌套类似物的原始(法律不变)的风险措施。证明了初始测度及其嵌套分解可用于分布鲁棒多阶段环境。
2021-05-13 math.OC
On the risk levels of distributionally robust chance constrained problems
Universidad de Sevilla(塞维利亚大学)
本文提出了一种新的相对变化距离(RVD)差异函数,用于解决分布鲁棒机会约束问题,并推导了一级和二级保证以提高随机MPC在分布不确定性下的可靠性。
2025-12-11 math.OC math.PR
Risk-Averse MDPs under Reward Ambiguity
City University of Hong Kong(香港城市大学)
本文提出了一个风险和报酬模糊条件下的分布鲁棒收益-风险马尔可夫决策过程模型。该模型优化了平均和百分位绩效的加权平均值,并将分布鲁棒MDP和分布鲁棒机会约束MDP(均在奖励模糊下)作为特例。通过考虑未知的奖励分布位于Wasserstein模糊集,我们得到了我们的模型的易处理的重新制定。特别是,我们表明,回报风险模型也可以考虑风险从不确定的过渡内核时,只寻求确定性的政策,和一个分布稳健的MDP下的百分位数准则可以重新制定为它的名义上的对应调整后的风险水平。设计了一个可扩展的一阶算法来求解大规模问题,并通过数值实验验证了所提模型和算法的优越性。
2023-01-04 cs.LG math.OC
Wasserstein Distributionally Robust Online Learning
University of Michigan(密歇根大学);Cornell University(康奈尔大学)
本文提出了一种基于Wasserstein分布鲁棒优化的在线学习框架,通过将问题建模为随机博弈并利用问题几何特性,实现对最坏情况分布的鲁棒优化,同时提高了计算效率。
2026-10-30 cs.LG math.OC stat.ML
Integer Programming Approaches for Distributionally Robust Chance Constraints with Adjustable Risks
本文研究Wasserstein模糊性下具有可调风险容差的分布鲁棒机会约束规划,针对由此产生的NP-hard问题,为左右侧不确定性推导了混合整数规划重构及有效不等式,并通过多规模实例验证了方法有效性。
2024-07-24 math.OC
Distributionally Robust Covariance Steering with Optimal Risk Allocation
本文将离散时间线性随机系统的最优协方差控制问题推广到基于矩模糊集的离散时间线性随机系统。为了在执行协方差操纵的同时对冲状态分布中的不确定性,在风险的最优分配期间采用分布鲁棒风险约束。具体而言,分布式鲁棒迭代风险分配(DR-IRA)的形式主义是用来解决CS问题的最优风险分配问题,使用两个阶段的方法。DR-IRA的上层是一个凸问题,优化的风险,而下层优化控制器与新的分布鲁棒风险约束。所提出的框架的结果在解决方案中,是强大的任意分布在所考虑的模糊集。最后,我们使用数值模拟证明我们提出的方法。通过分布式鲁棒性的镜头解决协方差转向问题标志着本文的新贡献。
2022-11-07 cs.SY eess.SY math.OC
Consistency of Distributionally Robust Risk- and Chance-Constrained Optimization under Wasserstein Ambiguity Sets
我们研究了具有机会和风险约束的随机最优化问题,在后者中,风险被量化为条件风险价值(CVaR)。我们考虑这些问题的分布鲁棒版本,其中的约束条件是必须持有的家庭的分布构造从观察到的实现的不确定性通过Wasserstein距离。我们的主要研究结果表明,如果样本是独立地从一个潜在的分布和问题满足适当的技术假设,那么这些问题的分布鲁棒版本的最优值和优化收敛到各自的数量的原始问题,作为样本量的增加。
2020-12-16 cs.SY eess.SY math.OC
Wasserstein Distributionally Robust Risk-Sensitive Estimation via Conditional Value-at-Risk
Cornell University(康奈尔大学)
本文提出了一种分布鲁棒的风险敏感估计方法,通过求解可解的半正定规划计算最小化最坏情况下的条件风险值,应用于批发电力价格预测,降低样本外风险值。
2026-07-01 cs.LG eess.SP math.OC
On Over-Conservatism Under Low-Probability Extreme Events: A KL-Regularized Wasserstein Distributionally Robust Planning Method
针对低概率极端事件下Wasserstein分布鲁棒规划的过度保守问题,提出KL正则化Wasserstein模糊集,构建两阶段规划模型并通过指数锥规划求解,在标准测试系统上验证了方法的有效性。
2026-10-14 cs.SY eess.SY math.OC
Concave Certificates: Geometric Framework for Distributionally Robust Risk and Complexity Analysis
College of Engineering and Computer Science, VinUniversity(VinUniversity工程与计算机科学学院)
本文提出基于增长速率函数最小凹包的几何框架,用于分布鲁棒优化中风险的紧界分析,并扩展至复杂性分析,引入最坏情况泛化界,消除输入直径、网络宽度和深度的依赖。
2026-04-08 cs.LG math.OC
Distributionally robust shortfall risk portfolio model with moment ambiguity sets
Xiangtan University(湘潭大学);Hunan City University(湖南城市学院);Shanghai Jiao Tong University(上海交通大学)
提出基于矩的分布鲁棒优化短缺风险投资组合模型,将分段线性损失函数问题转化为可处理的线性锥优化问题,并设计Moment-SOS松弛算法求解。
2026-06-04 math.OC
Distributionally Robust Optimization: A Review
Northwestern University(西北大学)
风险规避、机会约束优化和鲁棒优化的概念在过去十年中得到了显著的发展。统计学习共同体也见证了依靠这些概念的理论和应用的快速增长。一种称为分布式鲁棒优化(DRO)的建模框架最近在运筹学和统计学习界受到了广泛关注。本文综述了DRO的主要概念和贡献,以及它与鲁棒优化、风险规避、机会约束优化和函数正则化的关系。
2019-08-13 cs.LG math.OC stat.ML
Data-driven distributionally robust risk parity portfolio optimization
我们提出了一个传统的风险平价投资组合最优化问题的分布鲁棒公式。分布鲁棒性是通过在参数估计过程中使用的每个观测值的离散概率来引入的。而不是假设所有的观察是同样可能的,我们考虑一个模糊集,为我们提供了灵活性,找到最具对抗性的概率分布的基础上,投资者的期望程度的鲁棒性。这使我们能够获得稳健的估计来参数化资产收益率的分布,而不必对数据施加任何特定的结构。由此产生的分布鲁棒最优化问题是一个约束凹凸极大极小问题。我们的方法在财务上是有意义的,并试图实现投资组合风险度量的最坏情况下的完全风险分散。我们提出了一种新的算法方法来解决这个极大极小问题,它融合了投影梯度上升与顺序凸规划。通过设计,该算法是高度灵活的,并允许用户选择替代的统计距离测量来定义模糊集。此外,该算法是高度易处理和可扩展的。我们的数值实验表明,与名义投资组合相比,分布稳健的风险平价投资组合可以产生更高的风险调整收益率。
2021-10-13 math.OC q-fin.CP q-fin.PM
Regularization for Wasserstein Distributionally Robust Optimization
最优输运最近已被证明是在需要比较概率测度的各种机器学习应用中的有用工具。其中,分布鲁棒优化的应用自然会在其不确定性模型中涉及Wasserstein距离,捕获数据偏移或最坏情况。受最优输运中Wasserstein距离正则化成功的启发,本文研究了Wasserstein分布鲁棒优化的正则化问题。首先,我们得到了正则化Wasserstein分布鲁棒问题的一般强对偶结果。其次,我们改进了这个对偶结果的熵正则化的情况下,并提供了一个近似结果时,正则化参数消失。
2023-03-23 math.OC
Regularized Q-learning through Robust Averaging
University of Konstanz(康斯坦茨大学)
提出2RA Q-learning算法,通过分布稳健估计器控制估计偏差,在计算成本相当的情况下收敛于最优策略,性能优于现有方法。
2024-05-29 cs.LG math.OC
Distributionally Risk-Receptive and Robust Multistage Stochastic Integer Programs and Interdiction Models
本文研究分布风险接受与鲁棒的多阶段随机混合整数规划,提出基于割平面和重构的有限收敛求解算法,计算表明割平面法速度提升超2400%,并验证了其在揭示网络漏洞和缓解数据损坏方面的作用。
2024-09-24 math.OC
A Stochastic Subgradient Method for Distributionally Robust Non-Convex Learning
Rutgers Business School(罗格斯商学院)
我们认为,在统计学习中出现的随机最优化问题,鲁棒性是相对于底层数据分布的不确定性的分布鲁棒制定。我们的配方建立在风险厌恶的优化技术和一致的风险措施的理论。它使用半偏差风险来量化不确定性,使我们能够计算出对人口数据分布扰动具有鲁棒性的解决方案。我们考虑了一个大的家庭的损失函数,可以是非凸的和非光滑的,并开发了一个有效的随机次梯度方法。我们证明了它收敛于一个满足最优性条件的点。据我们所知,这是第一个方法,严格的收敛保证的背景下,非凸非光滑分布鲁棒随机最优化。我们的方法可以实现任何所需的鲁棒性水平,与人口风险最小化相比,几乎没有额外的计算成本。我们还说明了我们的算法在凸和非凸监督学习问题中产生的真实数据集上的性能。
2021-06-08 cs.LG math.OC math.ST
Data-Driven Distributionally Robust Mitigation of Risk of Cascading Failures
提出一种数据驱动的分布鲁棒有限时域最优控制方法,通过求解DRMPC问题的凸公式,在输入时间延迟下有效缓解LTI系统的级联失效风险并维持性能。
2023-10-18 cs.SY eess.SY math.OC
Risk-Based Distributionally Robust Optimal Power Flow With Dynamic Line Rating
本文提出了一种基于风险的数据驱动的动态线路额定值最优潮流算法。风险条款,包括切负荷,风力发电削减和线路过载的处罚,被嵌入到目标函数。为了对冲风力发电数据和线路额定数据的不确定性,我们考虑了一个分布式鲁棒方法。模糊集是基于二阶矩和Wasserstein距离,它捕捉风力发电输出和线路额定值之间的相关性,是强大的数据扰动。我们表明,建议的DROPF模型可以重新制定为一个圆锥形的程序。考虑到所涉及的相对大量的约束,建议的DROPF模型的近似,这显着降低了计算成本。一个Wasserstein距离约束的DROPF和它的易处理的重组也提供了实际的大规模测试系统。5节点、IEEE 118节点和波兰2736节点测试系统的仿真结果验证了所提模型的有效性。
2017-12-21 math.OC
Variable Clustering via Distributionally Robust Nodewise Regression
Department of Industrial Engineering and Operations Research & The Data Science Institute, Columbia University(工业工程与运筹学系及数据科学研究院,哥伦比亚大学)
本文提出一种分布鲁棒节点回归方法,通过凸松弛、数据驱动鲁棒区域选择和ADMM算法,实现多因子块模型下的变量聚类,并在数值实验中展示其优越性能。
2026-06-01 cs.LG math.OC q-fin.CP
Distributionally Time-Varying Online Stochastic Optimization under Polyak-Łojasiewicz Condition with Application in Conditional Value-at-Risk Statistical Learning
The Australian National University(澳大利亚国立大学);The University of Melbourne(墨尔本大学)
本文在 Polyak-Łojasiewicz 条件下研究分布时变的在线随机优化问题,利用 Wasserstein 距离度量分布漂移,建立在线随机梯度下降及近端梯度下降的动态遗憾界,并将其应用于条件风险价值统计学习问题。
2023-09-18 cs.LG math.OC
Distributionally Robust Reinsurance under Robust Optimized Certainty Equivalent Risk Measure
School of Management, University of Science and Technology of China(中国科学技术大学管理学院)
提出鲁棒优化等价确定性(ROCE)风险度量类,涵盖CVaR和expectiles,并研究其在均值-方差和Wasserstein不确定性集下的分布鲁棒再保险问题,得到有限维可解公式。
2026-06-11 math.OC
Distributionally Robust End-to-End Portfolio Construction
Columbia University(哥伦比亚大学)
我们提出了一个端到端的分布式鲁棒系统的投资组合建设,集成了资产收益预测模型与分布式鲁棒投资组合优化模型。我们还展示了如何直接从数据中学习风险容忍参数和鲁棒性程度。端到端系统的优势在于,在训练过程中,信息可以在预测层和决策层之间进行通信,从而允许为最终任务而不是仅为预测性能而训练参数。然而,现有的端到端系统无法量化和纠正模型风险对决策层的影响。我们提出的分布式鲁棒端到端投资组合选择系统明确考虑了模型风险的影响。决策层通过解决极大极小问题来选择投资组合,其中假设资产收益率的分布属于以名义分布为中心的模糊集。使用凸对偶,我们重铸的形式,允许有效的训练的端到端系统的极大极小问题。
2022-06-10 cs.LG math.OC q-fin.CP
Data-driven distributionally robust iterative risk-constrained model predictive control
本文考虑了一个风险约束的无限期最优控制问题,并提出了一种迭代求解的方法。算法的每次迭代通过实施分布式鲁棒风险约束模型预测控制(MPC)方案来生成从起始点到目标平衡态的轨迹。在每次迭代中,一组安全状态(以高概率满足风险约束)和一定数量的独立和相同分布的样本的不确定性管理的风险约束是可用的。这些状态和样本在先前的迭代中累积。安全状态被用作MPC方案中的终端约束,并且样本被用于构造一组分布,称为模糊集,使得它包含具有高概率的不确定性的潜在分布。每次迭代中的风险约束要求对模糊度集中的所有分布都成立。我们建立我们的迭代过程中产生的轨迹是可行的,安全的,并渐近收敛到平衡。仿真例子说明了我们的结果的情况下,找到一个风险约束路径的移动机器人在存在不确定的障碍。
2021-11-25 cs.SY eess.SY math.OC
Tight Bounds for a Class of Data-Driven Distributionally Robust Risk Measures
本文扩展了鲁棒矩问题的概念,采用Wasserstein距离作为模糊度度量,将分布模糊度纳入其中。研究了一维空间中经典的Chebyshev-Cantelli(零阶部分矩)不等式、Scarf和Lo(一阶部分矩)界以及半恒等式(二阶部分矩).给出了无限维原问题的形式,并导出了更简单的有限维对偶问题。一个主要的激励问题是如何数据驱动的分布模糊性影响的时刻界限。为了回答这个问题,一些理论的发展和计算实验进行了具体的问题实例在库存控制和投资组合管理。最后,本文提出了一些有待解决的问题和对未来研究的建议。
2020-10-13 math.OC q-fin.MF
Drago: Primal-Dual Coupled Variance Reduction for Faster Distributionally Robust Optimization
University of Washington(华盛顿大学);University of Wisconsin(威斯康星大学)
针对含闭合凸不确定性集的惩罚分布式鲁棒优化(DRO)问题,提出随机原对偶算法Drago,结合循环与随机组件及正则化原更新实现对偶方差减少,在强凸-强凹DRO问题上获线性收敛速率,数值基准验证了理论结果。
2025-02-11 cs.LG math.OC stat.ML
Building Load Control using Distributionally Robust Chance-Constrained Programs with Right-Hand Side Uncertainty and the Risk-Adjustable Variants
供暖、通风和空调(HVAC)负荷的聚集可以提供储备以吸收挥发性的可再生能源,特别是太阳能光伏(PV)发电。在本文中,我们决定在不确定的光伏发电暖通空调控制计划,使用分布鲁棒机会约束(DRCC)建筑负荷控制模型下的两个典型的模糊集:基于矩和Wasserstein模糊集。我们推导出混合整数线性规划(MILP)下的DRCC问题的重新制定。特别是,对于Wasserstein模糊集,我们利用右手边(RHS)的不确定性,推导出一个更紧凑的MILP重新比通常已知的MILP重新与大M常数。所有的结果也适用于一般的个人机会约束与RHS的不确定性。此外,我们提出了一个可调整的机会约束的变体,以实现操作风险和成本之间的权衡。我们推导出Wasserstein模糊集下的MILP重构和基于矩集下的二阶锥规划(SOCP)重构。使用真实世界的数据,我们进行计算研究,以证明解决方案的方法和解决方案的有效性的效率。
2022-01-24 math.OC
Distributionally Robust Safety Verification of Neural Networks via Worst-Case CVaR
National Institute of Informatics(国立信息研究所)
本文将最坏情况CVaR整合到基于二次约束和半定规划的神经网络验证框架中,提出一种分布鲁棒且关注尾部风险的安全性验证方法,并通过数值实验验证其在控制系统可达性和分类任务中的有效性。
2025-09-22 cs.AI cs.LG cs.SY
Nonlinear Distributionally Robust Optimization
Delft University of Technology(代尔夫特理工大学);Delft Center for Systems and Control(代尔夫特系统与控制中心)
本文针对目标函数在分布上非线性的分布鲁棒优化问题,提出基于Gateaux导数的光滑性概念和Frank-Wolfe算法,实现独立于范数的收敛,并应用于投资组合选择中的熵风险与方差风险,验证了理论结果。
2024-11-05 cs.LG math.OC stat.ML
Confidence Regions in Wasserstein Distributionally Robust Estimation
Wasserstein分布鲁棒优化估计量作为最小-最大问题的解决方案获得,其中统计学家选择一个参数,使所有概率模型中最坏情况下的损失最小化,在一定的距离内(在Wasserstein意义上),从底层的经验措施。虽然出于需要确定最佳的模型参数或决策选择,是强大的模型误指定,这些分布鲁棒估计恢复了广泛的正则化估计,包括平方根套索和支持向量机,等等,作为特殊情况。本文研究了这些分布稳健估计的渐近正态性以及由Wasserstein分布稳健优化公式导出的最优(在适当意义下)置信区域的性质。此外,还研究了min-max分布鲁棒最优化问题的关键性质,例如,我们证明了分布鲁棒估计基于其导数正则化损失,并给出了min-max分布鲁棒最优化问题与相应的max-min公式等价的一般充分条件.
2021-03-03 math.OC math.ST stat.ML
Near-Optimal Algorithms for Group Distributionally Robust Optimization and Beyond
Institute of Statistical Mathematics(统计数学研究所);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
本文针对群体DRO、子群体公平性及经验CVaR优化等分布鲁棒优化问题设计了随机算法,实现了比现有算法更快的收敛速度,提出了信息论下界证明其近最优性,并在实验中优于已知方法。
2025-01-31 cs.LG math.OC
Learning-based distributionally robust motion control with Gaussian processes
Seoul National University(首尔国立大学)
安全是基于学习的机器人和自主系统中的一个关键问题,因为有关其环境的学习信息通常不可靠且不准确。在本文中,我们提出了一个风险意识的运动控制工具,是强大的对错误的学习分布信息与未知动态的障碍物移动。我们的模型预测控制(MPC)方法的显着特点是它的能力,限制不安全的风险,即使当真正的分布偏离高斯过程(GP)回归估计的分布,在一个模糊集。不幸的是,分布鲁棒MPC问题与GP是棘手的,因为最坏情况下的风险约束涉及到一个无限维的模糊集的优化问题。为了消除无限维的问题,我们开发了一个系统的重构方法,利用现代分布鲁棒优化技术。我们的方法的性能和效用,通过使用非线性汽车自动驾驶模型的模拟证明。
2020-03-05 cs.RO cs.SY eess.SY
Iterative risk-constrained model predictive control: A data-driven distributionally robust approach
本文提出迭代分布鲁棒MPC方案求解带风险约束的无限时域最优控制问题,通过累积数据逐步优化轨迹代价与安全性,证明了递归可行性与收敛性,并给出可计算重构与仿真验证。
2023-08-22 cs.SY eess.SY math.OC
Wasserstein Distributionally Robust Kalman Filtering
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);TU Delft(代尔夫特理工大学)
研究了仅含正态分布的非凸Wasserstein模糊度集上的分布鲁棒均方误差估计问题。我们表明,最佳估计和最不利的分布形成一个纳什均衡。尽管非凸性质的模糊集,我们证明了估计问题是等价于一个听话的凸规划。我们进一步设计了一个Frank-Wolfe算法的凸规划,其方向搜索子问题可以解决的准封闭形式。使用这些成分,我们引入了一个分布式鲁棒卡尔曼滤波器,对冲模型风险。
2018-10-01 cs.LG math.OC stat.ML
The value of randomized strategies in distributionally robust risk averse network interdiction games
条件风险价值(CVaR)被广泛用于解释极端损失情景下风险厌恶者的偏好。为了研究随机化在阻断博弈中的有效性,阻断者是风险和模糊厌恶的,我们引入了一个分布鲁棒的网络阻断博弈,阻断者随机化可行的阻断计划,以最小化最坏情况下的CVaR的流量相对于两个未知的分布的能力的弧和他的混合策略阻断弧。相反,流量参与者最大化网络中的总流量。通过引入预算不确定性集,控制模型的保守性,将拦截器的非线性问题转化为双凸优化问题。为了解决这个问题的任何给定的最优水平,我们设计了一个空间的分支定界算法,使用麦考密克不等式和减少重新制定线性化技术(RRLT),以获得凸松弛的问题。我们还开发了一个列生成算法来确定凸松弛的最佳支持,然后在坐标下降算法中使用,以确定上界。数值实验证明了空间分支定界算法的有效性和收敛性。此外,我们的数值实验表明,随机策略可以有显着更好的样本内和样本外的性能比最佳的确定性。
2020-03-17 cs.GT math.OC
A Short and General Duality Proof for Wasserstein Distributionally Robust Optimization
Columbia University(哥伦比亚大学);University of Chicago(芝加哥大学)
本文为Wasserstein分布鲁棒优化提出了一个仅依赖一维凸分析的通用对偶性证明,并刻画了可交换性原理成立的充要条件,同时将结果推广到分布鲁棒Markov决策过程、多阶段随机规划及其他相关优化问题。
2024-06-05 cs.LG math.OC stat.ML
Large-Scale Methods for Distributionally Robust Optimization
我们提出并分析了分布鲁棒优化算法的凸损失与条件风险价值(CVaR)和$χ^2$发散不确定性集。我们证明,我们的算法需要许多梯度评估,与训练集大小和参数数量无关,使它们适合大规模应用。对于$χ^2$的不确定性集,这些是第一个这样的保证在文献中,和CVaR我们的保证规模线性的不确定性水平,而不是二次在以前的工作。我们还提供了下界证明我们的算法CVaR和惩罚版本的$χ^2$问题的最坏情况下的最优性。我们的主要技术贡献是批量稳健风险估计偏差的新界限和[Blanchet & Glynn,2015]的多级Monte Carlo梯度估计的方差。在MNIST和ImageNet上的实验证实了我们算法的理论扩展性,比全批方法的效率高9- 36倍。
2020-12-11 cs.LG math.OC stat.ML
Data-Driven Distributionally Robust Optimization for Long-Term Contract vs. Spot Allocation Decisions: Application to Electricity Markets
本文提出数据驱动的分布鲁棒优化方法,平衡长期合同与现货市场决策,通过对比风险中性、CVaR和Wasserstein模型,展示其对价格接受型决策者的优势。
2025-01-25 econ.GN math.OC q-fin.EC
Adversarial Classification via Distributional Robustness with Wasserstein Ambiguity
The University of Sydney(悉尼大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
我们研究了一个基于分布鲁棒机会约束的对抗分类模型。我们表明,在Wasserstein歧义下,该模型的目标是最小化错误分类距离的条件风险值,我们探索了与早期提出的对抗性分类模型和最大边缘分类器的联系。我们还提供了一个重新制定的分布鲁棒模型的线性分类,并表明它是等价于最小化正则化斜坡损失的目标。数值实验表明,尽管这个公式的非凸性,标准下降方法似乎收敛到这个问题的全局极小值。受此观察的启发,我们表明,对于某一类分布,正则化斜坡损失最小化问题的唯一稳定点是全局最小值。
2021-11-04 cs.LG math.OC stat.ML
A framework of distributionally robust possibilistic optimization
本文提出一个分布鲁棒可能性优化框架,利用可能性理论建模不确定约束系数,通过条件风险价值将不精确约束转化为确定性等价,并识别可多项式求解的情况。
2023-09-06 cs.DS math.OC