Distributionally robust second-order stochastic dominance constrained optimization with Wasserstein ball
研究了一类分布鲁棒二阶随机优势约束最优化问题。我们要求优势约束对于以经验分布为中心的Wasserstein球中的所有概率分布都成立。我们采用样本近似的方法来开发一个线性规划配方,提供了一个下界。我们提出了一种新的分裂和对偶分解框架,提供了一个上界。我们建立定量收敛的上下近似给定一些约束规格条件。为了有效地解决非凸的上界问题,我们使用一个顺序凸近似算法。最后通过一个证券投资组合问题的数值算例验证了所提出的两种近似方法的收敛性和有效性。
2021-10-19 math.OC
Wasserstein Contraction of Coordinate Ascent Variational Inference
Department of Statistics, University of Warwick(沃里克大学统计系);School of Mathematics, University of Bristol(布里斯托大学数学学院)
研究坐标上升变分推断算法在Wasserstein距离下的收缩性,通过不动点处的传输-信息不等式和函数光滑性条件给出局部收敛保证,并应用于贝叶斯高斯混合模型、高维贝叶斯Probit回归及Pólya-Gamma逻辑回归。
2026-07-02 cs.LG math.FA math.OC
Lipschitz Regularity in Wasserstein Robust Stochastic Optimal Control
University of Southern California(南加州大学);Stanford University(斯坦福大学)
研究Wasserstein鲁棒随机最优控制中值函数的Lipschitz正则性,证明鲁棒性假设可确保值函数Lipschitz连续,从而利于近似和学习。
2026-06-26 math.OC
Distributionally Fair Stochastic Optimization using Wasserstein Distance
本文提出基于Wasserstein距离的分布公平随机优化(DFSO)框架,最小化群体间效用分布差异,兼顾效率,并给出下界与可表示性分析。
2024-02-09 math.OC
Fully Coupled Nonlinear Forward-Backward Stochastic Difference Equations: Spectral Contraction and Infinite-Horizon Maximum Principle
Fudan University(复旦大学);Shandong University(山东大学)
本文提出显式谱压缩方法,研究无穷时域全耦合非线性正倒向随机差分方程,推导随机最大值原理及验证定理,并用投资组合示例展示应用。
2026-09-11 math.OC
Contraction analysis of nonlinear random dynamical systems
为了使收缩分析到非常富有成效的和专题领域的随机和贝叶斯系统,我们在这里扩展的理论描述在\cite{Lohmiller98}随机微分方程。我们提出了新的定义的收缩(几乎必然收缩和收缩均方),它允许掌握一个随机系统的演变以两种方式。第一个保证了几乎所有的绘制系统的最终指数收敛,而另一个保证了$L_2$中的指数收敛到唯一的轨迹。然后,我们说明了这种扩展的相对简单性,通过分析常见的确定性属性存在的噪声。具体而言,我们分析了随机梯度下降,噪声对振荡器同步的影响和扩展的组合属性的合同系统的随机情况。这是将收缩系统的有趣和简化性质与概率方法相结合的第一步。
2013-09-26 math.OC
Tractable Reformulations of Distributionally Robust Two-stage Stochastic Programs with $\infty-$Wasserstein Distance
在不确定性下的优化中,决策者在认识到不确定性之前首先选择观望政策,然后在观察到不确定性之后做出此时此刻的决策。两阶段随机规划是一种流行的不确定性优化建模范式,决策者首先指定一个概率分布,然后寻求最佳决策,以联合优化确定性的观望成本和期望此时此刻成本。在实践中,这样的概率分布可能不是完全可用的,但可能是通过经验数据集可观察到的。因此,本文研究了分布鲁棒两阶段随机规划(DRTSP)问题,该问题联合优化确定性观望成本和最坏情况此时此刻期望成本,其概率分布来自于一个以经验分布为中心的分布族,该分布族采用$\infty-$ Wasserstein度量.在推导DRTSP中最坏情况下此时此刻的期望成本的易处理的近似值方面已经有了成功的发展。不幸的是,有限的结果精确易处理的重新制定的DRTSP。本文填补了这一空白,提供了充分条件下,最坏情况下的期望此时此刻的成本在DRTSP可以有效地计算通过一个易于处理的凸规划。通过探索二进制变量的属性,开发的重构技术扩展到二进制随机参数的DRTSP。本文中的主要易处理的重构被投影到原始决策空间,因此可以被解释为传统的两阶段随机规划下的离散支持与额外的惩罚条款,加强鲁棒性。通过复杂性分析进一步证明了这些结果的尖锐性。
2019-08-22 math.OC
Wasserstein Saddle-Free Newton: Saddle Escape and Local Spectral Convergence
RIKEN(理化学研究所);The University of Tokyo(东京大学)
本文研究了在Wasserstein空间上非凸泛函的最小化问题,提出了一种Wasserstein无鞍点牛顿(WSFN)方法,通过正则化的WassersteinHessian平方根预条件Wasserstein梯度,从而克服了标准Wasserstein牛顿动力学倾向于鞍点的倾向,并在多项式时间内达到全局极小值的α-邻域。
2026-09-29 math.OC stat.ML
Distributionally Robust Stochastic Optimization with Wasserstein Distance
分布鲁棒随机最优化(DRSO)是一种在不确定性下进行优化的方法,其中,不是假设存在已知的真实潜在概率分布,而是针对一组选定的分布进行对冲。在本文中,我们首先指出,一组分布应选择适合手头的应用程序,并一直流行的一些选择,直到最近,对于许多应用程序,不是很好的选择。接下来,我们考虑与标称分布在选定的Wasserstein距离内的分布集。这样的集合选择有两个优点:(1)所得到的对冲分布比其他流行的集合选择所得到的分布更合理。(2)确定最坏情况下的期望分布的结果集的问题具有理想的易处理性。我们推导出一个强对偶的相应DRSO问题的重新表述和构造近似的最坏情况下的分布显式通过一阶最优性条件的对偶问题。我们的贡献是四方面的。(i)我们确定的充要条件存在的最坏情况下的分布,这是自然相关的增长率的目标函数。(ii)我们表明,从一个适当的Wasserstein距离产生的最坏情况下的分布有一个简洁的结构和清晰的解释。(iii)使用这种结构,我们表明,数据驱动的DRSO问题可以近似到任何精度的鲁棒最优化问题,从而许多DRSO问题变得易于处理的工具,从鲁棒优化。(iv)我们的强对偶性结果在一个非常一般的背景下成立。作为例子,我们表明,它可以应用于无限维过程控制和强度估计点过程。
2022-04-30 math.OC
Entropic smoothing and gradient approximation for Wasserstein distributionally robust optimization
Université Paris Cité(巴黎西岱大学)
研究通过熵平滑近似Wasserstein分布鲁棒优化问题,证明正则化参数趋于零时近似梯度收敛到非正则化目标的次梯度,并给出随机梯度方法的收敛保证和速率。
2026-11-16 math.OC stat.ML
Fused ultrametric Gromov-Wasserstein for Scenario Tree generation in Multistage Stochastic Programming
University of Milano-Bicocca(米兰比可卡大学)
本文提出融合超度量Gromov-Wasserstein与融合Gromov-Wasserstein距离,用于多阶段随机规划场景树生成,同时保证边际保真度和非预期性,并给出稳定性定理及块坐标下降算法。
2026-09-30 math.MG math.OC
Analysis of Discrete and Hybrid Stochastic Systems by Nonlinear Contraction Theory
研究离散和混合随机非线性动力系统的稳定性。更确切地说,我们扩展的随机收缩定理(这是制定连续系统)的情况下,离散和混合重置系统。特别是,我们表明,任何两个轨迹之间的离散(或混合重置)收缩随机系统的均方距离的上限由一个常数后,指数瞬变。利用这些结果,我们研究了由离散噪声相互作用耦合的噪声非线性振子的同步。
2008-04-06 math.OC math.PR
Entropic adapted Wasserstein distance on Gaussians
TU Graz(格拉茨工业大学)
本文将Gunasingam--Wong关于高斯过程自适应Wasserstein距离的闭式解推广到多维情形并引入熵正则化,为两类设置提供闭式解。
2025-10-09 math.OC math.PR
Stochastic Wasserstein Barycenters
Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个随机算法来计算重心的一组概率分布下的Wasserstein度量从最佳运输。与以前的方法不同,我们的方法扩展到连续的输入分布,并允许在每次迭代中调整重心的支持。我们在没有正则化的情况下解决了这个问题,使我们能够恢复一个尖锐的输出,其支持包含在真正的重心的支持之内。我们给出的例子,我们的算法恢复比以前的工作更有意义的重心。我们的方法是通用的,可以扩展到应用程序,如从一个给定的分布生成超级样本和恢复蓝噪声近似。
2018-06-07 cs.LG math.OC stat.ML
A Viscosity Solution Theory of Stochastic Hamilton-Jacobi-Bellman equations in the Wasserstein Space
本文研究了Wasserstein空间中允许随机系数的非马尔可夫平均场型控制问题的随机Hamilton-Jacobi-Bellman方程,证明了值函数是其唯一粘性解,并克服了空间局部紧性缺失与非马尔可夫设定的挑战。
2023-10-22 math.AP math.OC math.PR
Wasserstein Hamiltonian flow with common noise on graph
本文研究了有限图的密度流形上具有公共噪声的Wasserstein Hamilton流。在随机变分原理的框架下,我们首先建立了随机Wasserstein Hamilton流的形式,并证明了局部唯一解的存在性。我们还建立了解整体存在的一个充分条件。从而得到了图上带公共噪声的非线性薛定谔方程的整体适定性。此外,利用Wong-Zakai近似,我们证明了具有共同噪声的最优控制问题的最小值的存在性。我们证明了它的极小元也满足图上的随机Wasserstein Hamilton流。
2022-04-03 math.DS math.OC math.PR
Perov's Contraction Principle and Dynamic Programming with Stochastic Discounting
本文证明了Perov收缩原理的实用性,它将Banach收缩原理推广到向量值度量,用于研究折扣因子可以是随机的动态规划问题。贴现条件$β<1$由$ρ(B)<1$代替,其中$B$是适当的非负矩阵,$ρ$表示谱半径。Blackwell的充分条件也推广到了这种情况。资产定价和最优储蓄的应用进行了讨论。
2021-09-07 econ.TH math.FA math.OC
An Accelerated Stochastic Variance-Reduced Algorithm for Entropic Wasserstein Barycenters
City University of Hong Kong(香港城市大学);Google(谷歌);Georgia Institute of Technology(佐治亚理工学院)
研究固定正则化参数下的熵正则化Wasserstein重心问题,提出加速随机方差减少原始对偶算法,该算法利用半对偶有限和结构,有维度无关平滑界,实验验证其优势。
2026-07-07 cs.DS math.OC stat.ML
Stochastic Saddle-Point Optimization for Wasserstein Barycenters
HSE University(俄罗斯高等经济大学);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems(信息传输问题研究所);Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机研究所)
我们考虑人口Wasserstein重心问题的随机概率测度支持上的有限集的点和在线数据流产生的。这导致了一个复杂的随机最优化问题,其中的目标是作为一个随机最优化问题的解决方案给出的函数的期望。我们采用的结构的问题,并获得一个凹凸随机鞍点重新制定这个问题。在随机概率测度分布为离散分布的情况下,提出了一种随机最优化算法,并估计了算法的复杂度。第二个结果,基于核方法,将前一个结果推广到任意分布的随机概率测度。此外,在许多情况下,这种新算法的总复杂度优于随机逼近方法与Sinkhorn算法相结合。我们还说明了我们的发展由一系列的数值实验。
2021-12-02 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Control of Partially Observable Linear Stochastic Systems
分布鲁棒控制旨在有效地处理随机系统中的分布模糊性。虽然大多数现有的作品解决不准确的分布信息在完全可观察的设置,我们认为部分可观察的离散时间线性系统使用Wasserstein度量的DRC问题。对于一个易于处理的解决方案,我们提出了一种新的近似方法,利用Wasserstein距离的Gelbrich界。利用现代分布鲁棒优化技术,我们推导出一个封闭形式的最优控制策略的表达式和一个易于处理的半定规划问题的最坏情况下的分布政策,在有限的地平线和无限地平线的平均成本设置。所提出的方法具有几个突出的理论特性,如保证成本属性和概率样本外的性能保证,证明了我们的控制器的分布鲁棒性。此外,所得到的控制器,以确保闭环稳定的平均状态系统。通过对一个电力系统频率控制问题的数值实验,检验了该方法的经验性能。
2022-12-22 cs.SY eess.SY math.OC
Langevin dynamics for the probability of finite state Markov processes
本文提出用Wasserstein共同噪声扰动有限状态马尔可夫过程,引入随机可逆马尔可夫过程,并推导其泛函Fokker-Planck方程,其平稳分布为熵泛函的吉布斯分布。
2024-09-19 math.OC math.PR
Hamilton--Jacobi--Bellman equation for optimal control of stochastic Wasserstein--Hamiltonian system on graphs
The Hong Kong Polytechnic University(香港理工大学)
针对图上随机 Wasserstein–Hamiltonian 系统的最优控制,本文提出含 Wasserstein 与 Euclidean 几何的新型 HJB 方程,并用能量截断和变量加倍法证明其粘性解适定性。
2025-09-30 math.AP math.OC math.PR
Contraction Analysis of Discrete-time Stochastic Systems
在本文中,我们发展了一个新的收缩框架的稳定性分析的离散时间非线性系统的参数随机过程。对于一般随机过程,首先给出了关于黎曼度量的一阶矩一致增量指数稳定的充分条件。然后,重点研究了欧氏距离,给出了二阶矩下UIES的一个充要条件。通过研究一般的随机过程,我们可以很容易地推导出特殊类型过程的UIES条件,例如,i.i.d.过程和马尔可夫过程,这是证明我们的结果的选择应用。
2021-06-10 cs.SY eess.SY math.OC
The Wasserstein Space of Stochastic Processes in Continuous Time
本文统一了多种适应弱拓扑定义,提出用适应Wasserstein距离度量连续时间随机过程,并证明其完备化空间具有Polish等优良性质。
2025-01-23 math.OC math.PR
A stochastic smoothing framework for nonconvex-nonconcave minEmax problems with applications to Wasserstein distributionally robust optimization
Department of Applied Mathematics, Hong Kong Polytechnic University, Hong Kong, China(应用数学系,香港理工大学);Institute for Math & AI, Wuhan (IMAI), Wuhan university, China(数学与人工智能研究院,武汉大学);Department of Mathematical Sciences Rensselaer Polytechnic Institute, Troy, NY, USA(数学科学系,伦斯勒理工学院)
研究非凸-非凹minEmax随机优化问题,提出基于对数均值指数平滑的随机平滑近端梯度法,经非渐近分析表明该方法生成的聚点是克拉克平稳点,数值实验显示其在相关问题上与现有基线有竞争力。
2026-07-17 cs.LG math.OC
Stochastic control, entropic interpolation and gradient flows on Wasserstein product spaces
自90年代初以来,人们已经观察到,薛定谔桥问题可以用非典型边界约束的随机控制问题来表示。这反过来又有一个流体动力学对应,其中概率密度流表示给定的初始和最终边缘之间的熵插值。在零噪声极限下,这种熵插值在适当的意义上收敛于最优质量输运(OMT)的位移插值。考虑Wasserstein空间${\cal W}_2$中两条绝对连续的曲线,研究了有限时间区间上${\cal W}_2\times {\cal W}_2$上相对熵的演化.因此,这项研究不同于以前的工作,在OMT理论有关相对熵从一个固定的(往往是平衡)分布(密度)。本文导出了Wasserstein积空间上的梯度流。我们发现这两个分量的通量是相反的显着性质。把“最速下降“代入相对熵的演化中,我们得到了一个新的公式:两个流以比同一个福克-普朗克方程的两个解更快的速度相互接近。然后,我们研究的相对熵的演变的情况下,不受控制的控制扩散。在薛定谔桥问题的两种特殊情况下,我们证明了这样的相对熵可以是单调递减的或单调递增的。
2016-01-19 math.OC math.PR
Stochastic Optimization for Regularized Wasserstein Estimators
University of Cambridge(剑桥大学);Google Research(谷歌研究院);INRIA - DI, ENS, PSL Research University Paris(法国国家信息与自动化研究所 - 数据信息学部、巴黎高等师范学院、巴黎文理研究大学)
最优运输是优化中的一个基本问题,它允许在考虑几何方面的同时比较概率分布。它的最佳目标值,Wasserstein距离,提供了分布之间的重要损失,已在整个机器学习和统计的许多应用中使用。最近在这个问题上的算法进展及其正则化版本使这些工具越来越受欢迎。然而,现有的技术需要解决一个优化问题,以获得一个单一的梯度的损失,从而减慢一阶方法,以最大限度地减少损失的总和,这需要许多这样的梯度计算。在这项工作中,我们引入了一个算法来解决这个问题的正则化版本的Wasserstein估计,每一步的时间是次线性的自然尺寸的问题。我们引入了一个对偶公式,并使用可以直接从样本计算的随机梯度步骤对其进行优化,而无需在每个步骤中解决额外的优化问题。这样,估计和计算任务被联合执行。我们表明,该算法可以扩展到其他任务,包括估计Wasserstein重心。我们提供了理论保证,并说明我们的算法的性能与实验上的合成数据。
2020-02-20 cs.LG math.OC stat.ML
Fractional Sobolev processes on Wasserstein spaces and their energy-minimizing particle representations with applications
Bielefeld University(比勒费尔德大学)
研究给定概率测度值过程下,在路径连续随机过程中找期望能量最小化的过程,基于已有研究扩展到随机设置,给出两应用,包括用最优运输为$\mathbb{R}$上过程构造最小化粒子表示及证明$\mathbb{R}^d$上方程解的最小化粒子表示存在性。
2026-09-30 math.OC math.PR
Wasserstein Distributionally Robust Stochastic Control: A Data-Driven Approach
Department of Electrical and Computer Engineering, Automation and Systems Research Institute, Seoul National University(首尔国立大学电气与计算机工程系、自动化与系统研究所)
本文研究了在数据驱动下设计鲁棒于经验分布误差的控制策略问题,通过将问题转化为零和动态博弈,提出可计算的价值和策略迭代算法,并为构造ε-最优策略提供迭代次数的显式估计。
2020-11-30 cs.SY eess.SY math.OC
Minimax Q-learning Control for Linear Systems Using the Wasserstein Metric
随机最优控制通常需要一个具有概率分布的显式动力学模型,而这在实际中是很难获得的。本文研究了未知线性系的线性二次型调节器(LQR)问题,并采用Wasserstein罚函数来处理加性随机扰动的分布不确定性。通过构造惩罚LQR问题的一个等价的确定性博弈,我们提出了一种具有收敛保证的Q-学习方法来学习最优极小极大控制器。
2023-01-16 cs.SY eess.SY math.OC
Stochastic Gradient Descent for Barycenters in Wasserstein Space
提出一种2-Wasserstein空间中计算总体重心的在线随机梯度下降算法,证明了其几乎必然收敛性,并给出确保Karcher均值唯一性及显式收敛速率的条件。
2023-10-21 math.OC math.PR
Convergence of Recursive Stochastic Algorithms using Wasserstein Divergence
The Ohio State University(俄亥俄州立大学);Purdue University(普渡大学)
基于迭代随机算子理论,建立了一个统一的框架来分析常步长递归随机算法的收敛性。RSA使用随机化来有效地计算期望值,因此它们的迭代形成了一个随机过程。我们分析的关键思想是将RSA提升到适当的高维空间,然后将其表示为等价的马尔可夫链。而不是确定这个马尔可夫链的收敛性(这可能不会收敛于恒定步长下),我们研究这个马尔可夫链的分布的收敛性。为了研究这一点,我们定义了一个新的概念Wasserstein分歧。我们证明了,如果分布的马尔可夫链的迭代满足收缩性质的Wasserstein分歧,那么马尔可夫链承认一个不变的分布。我们表明,收敛的一个大家庭的恒定步长的RSA可以理解使用这个框架,我们提供了几个详细的例子。
2021-01-05 cs.LG cs.SY eess.SY
Minimax control of ambiguous linear stochastic systems using the Wasserstein metric
针对实际随机系统中分布信息不准确的问题,提出了一种极大极小线性二次型控制方法。为了构建一个控制策略,是强大的不确定性的经验分布的错误,我们的方法是采用对手,选择最坏的情况下的分布。为了系统地调整我们的方法的保守性,对手会收到与Wasserstein度量偏离经验分布的量成比例的惩罚。在有限时域的情况下,使用Riccati方程,我们推导出一个封闭形式的表达的唯一的最优策略和对手的政策,产生的最坏情况下的分布。这个结果,然后扩展到无限地平线设置识别条件下,Riccati递归收敛到唯一的半正定解相关的代数Riccati方程(ARE)。所得到的最优策略,以稳定的期望值的系统状态下的最坏情况下的分布。我们还讨论了我们的方法可以被解释为分布推广的$H_\infty$ -方法。
2020-03-30 cs.SY eess.SY math.OC
Stochastic Approximation versus Sample Average Approximation for population Wasserstein barycenters
Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机研究所);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems(信息传输问题研究所)
在机器学习和优化领域,凸风险最小化问题主要有两种方法,即随机逼近(SA)和样本平均逼近(SAA)。就oracle复杂性(所需的随机梯度评估次数)而言,这两种方法被认为是平均等效的(直到对数因子)。总的复杂性取决于具体的问题,但是,从工作开始\cite{nemirovski2009robust}它被普遍接受的SA是优于SAA。然而,在大规模问题的情况下,SA可能会耗尽内存,因为在一台机器上存储所有数据并在没有与其他机器通信的情况下组织在线访问是不可能的。SAA与SA不同,允许并行/分布式计算。我们表明,对于Wasserstein重心问题,这种优势可以被逆转。我们提供了一个详细的比较,说明SA和SAA实现计算重心相对于最优输运距离和熵正则化最优输运距离的复杂性界限。作为一个副产品,我们还构建了置信区间的重心定义相对于熵正则化的最优输运距离的$\ell_2$规范。对由期望给出的一般凸优化问题,给出了初步结果,以便在Wasserstein重心问题之外有其它应用。
2021-10-25 cs.LG math.OC stat.ML
Provably convergent stochastic fixed-point algorithm for free-support Wasserstein barycenter of continuous non-parametric measures
INSEAD(INSEAD商学院);Nanyang Technological University(南洋理工大学)
本文提出一种基于估计器的随机固定点框架,用于近似计算连续非参数概率测度的2-Wasserstein均值,并首次严谨分析了该算法的收敛性,提出了一种可证明收敛且计算可行的随机算法。
2026-10-07 cs.NA math.NA math.OC
Neural Stochastic Contraction Metrics for Learning-based Control and Estimation
California Institute of Technology(加州理工学院);Massachusetts Institute of Technology(麻省理工学院)
针对一类随机非线性系统,提出了一种新的可证明稳定的鲁棒控制与估计设计框架--神经随机收缩神经网络(NSCM)。它使用频谱归一化深度神经网络来构建收缩度量,通过随机设置中的简化凸优化进行采样。谱归一化约束的度量的状态导数是Lipschitz连续的,从而确保指数有界的随机干扰下的系统轨迹的均方距离。NSCM框架允许自主智能体实时逼近最优稳定控制和估计策略,并优于现有的非线性控制和估计技术,包括状态相关的Riccati方程,迭代LQR,EKF和确定性神经收缩度量,如仿真结果所示。
2021-01-03 cs.AI cs.LG cs.RO
Concentration of Stochastic System Trajectories with Time-varying Contraction Conditions
Georgia Institute of Technology(佐治亚理工学院);PlusAI
本文基于时间变化收缩条件,利用平均矩生成函数建立两个随机系统集中不等式,通过增量稳定性分析和鞅方法改进轨迹集中不等式,给出概率水平下轨迹偏差的紧界。
2026-04-01 cs.SY eess.SY math.OC
Data-driven distributionally robust MPC using the Wasserstein metric
提出了一种基于分布鲁棒优化的数据驱动MPC方案,用于安全控制约束随机线性系系统。基于Wasserstein度量的分布鲁棒约束被施加到存在过程扰动的状态约束违反。一个反馈控制法律解决,以保证预测的状态符合约束。关于Wasserstein球内以其离散经验概率分布为中心的最坏情况分布,满足随机约束。所得到的分布式鲁棒MPC框架是计算上易处理的和高效的,以及递归可行的。这种方法的创新之处在于,所有关于不确定性的信息都可以从数据中凭经验确定。通过数值算例验证了该方法的有效性。
2021-05-18 cs.SY eess.SY math.OC
Accelerated Linear Convergence of Stochastic Momentum Methods in Wasserstein Distances
Rutgers Business School(罗格斯商学院);Florida State University(佛罗里达州立大学)
在机器学习实践中常用的动量方法有Polyak的重球(HB)方法、Nesterov的加速梯度(AG)方法和加速投影梯度(APG)方法,但它们的性能对梯度中的噪声非常敏感。我们研究这些方法下的一阶随机预言模型的噪声估计的梯度。对于强凸问题,我们表明,分布的AG迭代收敛加速$O(\sqrtκ\log(1/\varepsilon))$线性速率的半径$\varepsilon$球集中在一个独特的不变分布在1-Wasserstein度量,其中$κ$是条件数,只要噪声方差小于一个明确的上限,我们可以提供。我们的分析还证明了线性收敛率作为步长,动量参数和噪声方差的函数;在无噪声的情况下恢复加速速率,并量化可以容忍的噪声水平,以实现给定的性能。在强凸二次目标的特殊情况下,我们可以通过对噪声结构的一些附加假设下的非渐近分析,显示出任何$p\geq 1$的$p$ -Wasserstein度量中的加速线性速率,并改善了AG和HB对噪声的敏感性。我们对HB和AG的分析也导致了确定性和随机性设置的次优性的非渐近收敛界的改进,这是独立的兴趣。据我们所知,这是随机预言模型下随机动量方法的第一个线性收敛结果。我们还将我们的结果扩展到APG方法和弱凸函数,当噪声幅度足够小时,显示加速率。
2019-05-17 cs.LG math.OC stat.ML
A Contraction Framework for Stochastic Operators with Bootstrapping: Application to TD Learning
Delft University of Technology(代尔夫特理工大学);Rey Juan Carlos University(胡安卡洛斯国王大学)
本文提出一个通用收缩框架,将带自举的随机更新建模为随机算子,在无需梯度结构且允许采样误差增长的情况下,推导出TD学习等算法的有限时间收敛界,并统一了现有确定性及随机梯度型结果。
2026-09-25 cs.LG eess.SP math.OC
Stochastic Inverse Problem: stability, regularization and Wasserstein gradient flow
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Cornell University(康奈尔大学);University of Minnesota Twin Cities(明尼苏达大学双城分校)
本文研究随机逆问题,在概率空间中借助测度传输理论分析直接反演、正则化变分形式和梯度流优化,揭示度量选择对优化器稳定性的关键影响。
2026-10-26 cs.LG math.OC math.PR
A notion of BSDE on the Wasserstein space and its applications to control problems and PDEs
本文引入了Wasserstein空间上的BSDE新概念,将其推广至平均场设定,并证明其与平均场控制问题和PDEs的对应关系,建立了比较原理与存在性结果。
2025-06-29 math.AP math.OC math.PR
Stochastic Gradient Variational Inference with Price's Gradient Estimator from Bures-Wasserstein to Parameter Space
University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学);University of British Columbia(不列颠哥伦比亚大学);University of California San Diego(加州大学圣地亚哥分校)
本文研究了在仅给定目标分布无规范化的对数密度时,利用随机梯度的变分推断方法。通过比较Wasserstein VI和Black-Box VI,发现WVI在使用Price梯度估计时具有更优的收敛性,本文进一步证明两者在迭代复杂度上可以达到一致的最优结果。
2026-05-19 cs.LG math.OC stat.CO
On the Convexity of Discrete Time Covariance Steering in Stochastic Linear Systems with Wasserstein Terminal Cost
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California, Santa Cruz(加州大学圣克鲁兹分校)
在这项工作中,我们分析了离散时间高斯线性系的协方差导向问题的解决方案的平方Wasserstein距离终端成本的性质。在我们以前的工作中,我们已经表明,通过利用状态反馈控制政策参数化,这个随机最优控制问题可以与一个凸函数程序的差异。在这里,我们重新审视相同的协方差控制问题,但这次我们专注于问题的分析。具体来说,我们建立的最优化问题的解决方案的存在性,并推导出一阶和二阶条件的最优性。我们利用矩阵微积分的专门工具,提供了性能指标的梯度和Hessian的解析表达式。随后,我们证明了最优化问题总是允许一个全局极小,最后,我们提供了一个充分条件的性能指标是一个严格凸函数(在后一个条件下,问题允许一个唯一的全局极小)。特别是,我们表明,当终端状态的协方差是上界的,相对于Löwner偏序,所需的终端正态分布的协方差阵,那么我们的问题承认一个唯一的全球最小化状态反馈增益。本文的研究结果为开发专门的控制设计工具奠定了基础,这些工具利用协方差转向问题的解决方案的结构,具有平方Wasserstein距离终端成本。
2021-03-25 cs.LG cs.SY eess.SY
Fractional Sobolev paths on Wasserstein spaces and their energy-minimizing particle representations
Bielefeld University(比勒费尔德大学)
该研究推广Monge–Kantorovich最优输运问题,针对Wasserstein空间上具分数阶Sobolev正则性的确定性测度路径,证明能量最小化随机过程的存在性并构造实现其正则性的过程,为后续随机情形及SPDEs应用研究奠定基础。
2025-10-01 math.MG math.OC math.PR
Online Stochastic Convex Optimization: Wasserstein Distance Variation
Department of Electrical and Electronic Engineering, The University of Melbourne(墨尔本大学电气与电子工程学院)
分布鲁棒优化通常是针对一组固定的分布而不是随时间推移而显著漂移的时变分布进行研究(例如,由于经济的潜在扩张和人口统计的演变,金融和社会学中的情况)。这激发了对概率分布的理解条件,使用Wasserstein距离,可用于对时变环境进行建模。然后,我们可以将这些条件与在线随机最优化结合使用,以调整决策。我们考虑了一个在线的近似梯度法来跟踪光滑凸函数的期望值的最小化,该函数由一个随机变量参数化,其概率分布随着时间的推移以与决策者行为的速率相似的速率连续演化。我们重新审视的概念,估计和跟踪误差的启发系统和控制文献,并提供他们的边界下强凸性,Lipschitz的梯度,和界限上的概率分布漂移。此外,注意到计算预测的一般可行集可能不适合在线实现(由于计算的限制),我们提出了一个精确惩罚法。这样做使我们能够放松梯度的一致有界性,并建立跟踪和估计误差的动态遗憾界。我们进一步引入了一个约束收紧的方法,并与收紧量满足约束的概率。
2020-09-29 cs.LG cs.SY eess.SY
On the Contraction Coefficient of the Schrödinger Bridge for Stochastic Linear Systems
University of California, Santa Cruz(加州大学圣克鲁兹分校);Georgia Institute of Technology(佐治亚理工学院);Iowa State University(爱荷华州立大学)
本文研究了随机线性系统 Schrödinger 桥问题中收缩系数的先验估计,为其提供了新的几何与控制理论解释,并指出通过对端点支撑集进行预处理可改进最坏情况收缩系数的计算。
2023-09-12 cs.LG cs.SY eess.SY