Upper and lower bounds of the value function for optimal control in the Wasserstein space
本文在Wasserstein空间中利用非光滑分析,通过$\u0003varepsilon$-次微分和超微分将值函数刻画为Bellman方程的严格粘性解,并证明连续次解和超解给出值函数的上下界,上界估计还提供了近似最优反馈策略。
2025-04-25 math.AP math.OC math.PR
Non-Exchangeable Mean Field Markov Decision Processes with common noise : from Bellman equation to quantitative propagation of chaos
Ecole Polytechnique(巴黎综合理工学院)
本文研究了非交换性均场马尔可夫决策过程,提出了一种新的框架并分析了共同噪声下的混沌传播问题。
2026-01-26 math.OC math.PR
A finite-dimensional approximation for partial differential equations on Wasserstein space
本文提出 Wasserstein 空间上偏微分方程的有限维逼近方法,利用 Barles & Souganidis 单调格式与半鞅测度预紧性证明粘性解的收敛性,并应用于随机控制和微分博弈中的 HJB 与 Bellman-Isaacs 方程及路径依赖 PDE。
2024-07-23 math.PR
On randomized stopping
证明了随机停止法的一个一般结果。将其应用于具有无界系数的受控扩散过程的最优停止问题,将其归结为无停止的最优控制问题。这是出于最近的结果Krylov的数值解贝尔曼方程。
2008-05-15 math.OC math.PR
Rate of convergence for particle approximation of PDEs in Wasserstein space
本文证明了概率测度空间中二阶偏微分方程(如一般噪声下的平均场控制问题的Master方程或Bellman方程)的$N$ -粒子逼近的收敛速率.该速率对于解$v$上的路径误差为$1/N$阶,对于$L^2$ -其$L$ -导数$\partial_μv$上的误差为$1/\sqrt{N}$阶。证明依赖于向后随机微分方程技术。
2021-11-16 math.OC math.PR q-fin.CP
Optimal control of path-dependent McKean-Vlasov SDEs in infinite dimension
研究了希尔伯特空间中由随机偏微分方程驱动的非马尔可夫平均场模型下的路径依赖McKean-Vlasov方程的最优控制.我们首先建立状态方程的适定性,然后在这样的一般框架下证明了动态规划原理。严格地得到了值函数V的临界律不变性,这意味着V可以看作是取值于希尔伯特空间的连续函数集合上的概率测度在Wasserstein空间上的函数.然后定义了一个路径测度导数的概念,它推广了Lions [41]的Wasserstein导数,并在Dupire [24]和Wu,Zhang [51]的基础上证明了一个相关的泛函It{<$}公式.通过适当的黏性解概念,从DPP导出了主Bellman方程。我们提供了不同的配方和简化这样一个贝尔曼方程特别是在特殊情况下,没有依赖于法律的控制。
2022-12-20 math.OC math.PR
Optimal control problems with generalized mean-field dynamics and viscosity solution to Master Bellman equation
针对常规值函数不满足动态规划原理的广义平均场开环控制最优问题,引入关联新值函数并建立其DPP,证明其为Master Bellman方程的粘性解且在特定系数下唯一,推广了已有平均场PDE结果。
2024-08-15 math.OC math.PR
Extended mean-field control problems with Poissonian common noise: Stochastic maximum principle and Hamiltonian-Jacobi-Bellman equation
Xidian University(西安电子科技大学);University of Science and Technology of China(中国科学技术大学);Harbin Institute of Technology(哈尔滨工业大学);The Hong Kong Polytechnic University(香港理工大学)
本文研究了具有状态-控制联合律依赖和泊松共同噪声的均场控制问题,推导了随机最大原理并将其与Wasserstein空间上的哈密顿-雅可比-贝尔曼方程联系起来,克服了联合律和泊松噪声带来的技术挑战。
2026-04-24 math.OC math.PR
Viscosity solutions to HJB equations associated with optimal control problem for McKean-Vlasov SDEs
本文针对 McKean-Vlasov SDEs 的最优控制问题,在 Wasserstein 空间上建立 HJB 方程的粘性解理论,并利用 Borwein-Preiss 变分原理证明比较原理,从而刻画值函数。
2023-10-17 math.OC math.PR
Optimal control problem for reflected McKean-Vlasov SDEs
本文研究了反射型McKean-Vlasov SDE的最优控制问题,利用解耦方法与热核估计证明了值函数是Wasserstein空间上HJB方程的粘性解,并通过推广类距离函数构造确立了粘性解的唯一性。
2023-09-15 math.AP math.OC math.PR
Robust $Q$-learning for mean-field control under Wasserstein uncertainty in common noise
Shanghai Center for Data Science(上海数据科学研究中心);NYU-ECNU Institute of Mathematical Sciences, NYU Shanghai(纽约大学-复旦大学数学科学研究所,纽约上海);Division of Mathematical Sciences, Nanyang Technological University(南洋理工大学数学科学学院)
提出一种针对公共噪声分布Wasserstein不确定性的离散时间平均场控制鲁棒$Q$-学习算法,结合量化投影与Wasserstein对偶,证明同步和异步学习的收敛性及有限时间界,并在系统风险和流行病模型中验证鲁棒性-性能权衡。
2026-06-19 cs.AI cs.LG math.OC
Existence of optimal feedback controls for McKean-Vlasov SDEs
本文为McKean-Vlasov随机微分方程的最优控制问题提供最优马尔可夫反馈控制存在的显式条件,并基于流性质建立动态规划原理,以通过Wasserstein空间上的HJB方程刻画值函数。
2023-10-17 math.OC math.PR
WHOMP: Optimizing Randomized Controlled Trials via Wasserstein Homogeneity
University of California Davis(加利福尼亚大学戴维斯分校);Center of Data Science and Artificial Intelligence Research(数据科学与人工智能研究中心)
本文提出Wasserstein同质性划分方法WHOMP,通过最优最小化偶然偏倚导致的I型和II型错误来优化随机对照试验中的子组划分,并从理论上刻画最优解及均值-方差稳定性权衡,设计算法支持实践者选择,数值实验验证其优于传统方法。
2024-10-03 cs.LG math.PR math.ST
Control Problem on Space of Random Variables and Master Equation
本文研究随机变量空间中的控制问题。我们证明了它的Hamilton Jacobi Bellman方程与平均域论中的Master方程是相关的。P.L. Lions在[14,15]中引入了平方可积〔的〕随机变量的希尔伯特空间作为写平均域论中Master方程的自然空间。W. Gangbo和A. Escherwienrich [10]在配备Wasserstein度量的概率测度空间中考虑了这类方程,并使用了Wasserstein梯度的概念。我们比较了这两种方法,并提供了一些推广的结果的Gangbo和Gangwienrich。
2015-08-04 math.AP math.OC math.PR
Viscosity Solutions of Fully second-order HJB Equations in the Wasserstein Space
本文在类Crandall-Lions框架下证明带公共噪声的平均场控制问题值函数是状态依赖无限维完全二阶HJB方程的唯一粘性解,首次处理无界动力学与状态依赖公共噪声波动率。
2025-01-03 math.AP math.OC math.PR
Efficient Learning for Entropy-Regularized Markov Decision Processes via Multilevel Monte Carlo
Mathematical Institute, University of Oxford(牛津大学数学研究所);Department of Mathematics, Imperial College London(伦敦帝国学院数学系)
针对大规模或连续状态动作空间的熵正则化MDPs,提出结合不动点迭代与多层蒙特卡洛的算法族,通过误差分析证明无偏随机化多层近似可实现与状态动作空间规模无关的多项式样本复杂度,并用实验验证了理论保证。
2025-06-04 cs.LG math.OC math.PR
Error estimates for tamed Euler and Randomized Euler schemes for SDEs with locally Lipschitz drift with applications to non-logconcave sampling and optimization
Archimedes, Athena Research Center(阿基米德雅典研究中心);National Technical University of Athens(雅典国立技术大学)
针对具有局部Lipschitz超线性增长漂移的随机微分方程,提出KL加速驯服未调整Langevin算法(kTULA)和驯服随机中点方案(tRLMC),基于移位-组合方法建立局部误差框架,得到有限时间非渐近误差估计,并在对数Sobolev不等式下实现近最优迭代复杂度。
2026-05-24 cs.NA math.NA math.OC
The Mortensen observer on the space of probability measures
CMAP, CNRS, INRIA, École polytechnique, Institut Polytechnique de Paris(CMAP,法国国家科学研究中心,法国国家信息与自动化研究所,巴黎综合理工学院,巴黎理工学院)
在Wasserstein概率测度空间上研究确定性滤波问题,通过最小化包含动能输运和观测误差的作用泛函重构演化概率密度,建立了动态规划原理、粘性解性质及半拉格朗日格式的Γ-收敛性。
2026-06-23 math.AP math.OC math.PR
BSDE Representation and Randomized Dynamic Programming Principle for Stochastic Control Problems of Infinite-Dimensional Jump-Diffusions
我们考虑一类随机最优控制问题,其中状态过程存在于实可分Hilbert空间中,由圆柱布朗运动和Poisson随机测度驱动;系数没有特殊结构,也允许是路径依赖的;此外,扩散系数可以退化。对于这样一类随机控制问题,我们利用基于随机化方法的纯概率技巧,证明了控制问题的值可以用一个合适的倒向随机微分方程表示,并具有一个概率表示公式(称为非线性Feynman-Kac公式).这种概率表示大大扩展了目前的结果在文献中的无限维的情况下,它也是相关的有限维。这样的表示允许在非路径依赖(或马尔可夫)的情况下示出值函数满足所谓的随机动态规划原理。由此证明了该值函数是相应的Hamilton-Jacobi-Bellman方程的黏性解,该方程是Hilbert空间中的一个二阶完全非线性积分微分方程.
2018-10-03 math.PR
Importance Sampling for the Empirical Measure of Weakly Interacting Diffusions
提出基于Wasserstein空间上HJB方程子解的重要性采样方法,用于高效计算弱相互作用扩散罕见事件统计量,并证明其在多粒子极限下渐近最优且相对误差趋近于零。
2023-11-16 math.PR
A comparison principle for Wasserstein PDEs with state- and law-dependent common noise
University of Michigan(密歇根大学);University of Southern California(南加州大学);New York University(纽约大学)
针对Wasserstein空间上带有一般共同噪声Hessian的二阶Hamilton-Jacobi-Bellman方程,通过引入非线性测度流并建立空间、测度导数和负Sobolev估计,证明了半连续粘性次解和超解的比较原理,首次为滤波驱动方程提供了此类粘性比较框架,并应用于受控随机滤波问题的值函数唯一性。
2026-06-03 math.AP math.OC math.PR
Comparison of viscosity solutions for a class of non-linear PDEs on the space of finite nonnegative measures
University of Michigan(密歇根大学);The Chinese University of Hong Kong(香港中文大学)
本文研究了非线性PDE在有限非负测度空间上的粘性解比较原理,并应用该方法分析了分支过程的最优控制问题。
2026-01-15 math.PR
Optimal control of McKean-Vlasov systems under partial observation and hidden Markov switching
本文研究了在部分观测下麦金-沃拉斯科夫系统最优控制问题,通过概率变换框架处理分布依赖性,推导出扎卡伊方程和贝尔曼方程,解决均场控制问题。
2026-01-14 math.OC math.PR
Dimensionality Reduction for Wasserstein Barycenter
Stanford University(斯坦福大学);MIT(麻省理工学院);Carnegie Mellon University(卡内基梅隆大学)
Wasserstein重心是一种几何构造,它捕获了概率分布之间的中心性概念,并且在机器学习中有许多应用。然而,大多数算法,甚至找到一个近似的重心遭受指数依赖的维度$d$的底层空间的分布。为了应对这种“维数灾难”,我们研究了Wasserstein重心问题的降维技术。当重心被限制为支持的大小$n$,我们表明,随机降维可以用来映射到一个空间的尺寸$O(\log n)$独立的$d$和$k$的问题,和\emph{any}解决方案中发现的减少的维度将其成本保存到任意小的错误在原始空间。我们提供了匹配的上界和下界的大小减少的维度,表明我们的方法是最佳的常数因子。我们还提供了一个coreset建设的Wasserstein重心问题,显着减少了输入分布的数量。核心集可以与随机投影结合使用,从而进一步提高计算时间。最后,我们的实验结果验证了降维提供的加速,同时保持解决方案的质量。
2021-10-19 cs.DS cs.LG math.PR
Dynamic programming for optimal control of stochastic McKean-Vlasov dynamics
研究一般随机McKean-Vlasov方程的最优控制.这个问题的动机最初来自于在普通噪声下的平均场相互作用中的大量粒子(参与者)的合作平衡的渐近公式。本文的第一个主要结果是陈述了概率测度的Wasserstein空间中的值函数的一个动态规划原理,并从受控状态过程的条件律的一个流性质证明了这一原理。其次,通过依赖于概率测度的可微性的概念,由于P.L. Lions [32]和It{<$}的公式,导出了动态规划的Hamilton-Jacobi-Bellman方程,并证明了其值函数的粘性和唯一性。最后,我们显式地解决了线性二次随机McKean-Vlasov控制问题,并给出了一个应用于银行间系统性风险模型的共同噪声。
2017-01-05 math.OC math.PR
Randomized dynamic programming principle and Feynman-Kac representation for optimal control of McKean-Vlasov dynamics
我们分析了一个随机最优控制问题,其中状态过程遵循McKean-Vlasov动力学,扩散系数可以退化。我们证明了它的值函数V可由一类正倒向随机微分方程的非线性Feynman-Kac表示来表示,其中正倒向过程是自治的.我们利用这种概率表示来严格证明V的动态规划原理(DPP)。我们获得的Feynman-Kac表示在获得我们的主要结果时具有超越其中介作用的重要作用:实际上,它在发展V的概率数值方案时是有用的。DPP在获得作为非线性偏微分方程的解的值函数的特征方面是重要的(所谓的Hamilton-Jacobi-Belman方程),在这种情况下,在Wasserstein测度空间上。我们应该注意到,求解这些方程的通常方法是通过庞特里亚金最大值原理,这需要一些凸性假设。以前也有使用动态规划方法的尝试,但是这些工作事先假定控制是马尔可夫反馈型的,这有助于仅根据状态过程的分布来编写问题(并且控制问题变成确定性问题)。在本文中,我们将考虑开环控制,并在这种最一般的情况下推导出动态规划原理。为了获得Feynman-Kac表示和随机动态规划原理,我们实现了所谓的随机化方法,该方法包括制定一个新的McKean-Vlasov控制问题,以弱形式表示,在一个家庭的等价概率测度的上确界。本文的主要结果之一是证明后一个控制问题具有相同的价值函数V的原始控制问题。
2016-11-14 math.OC math.PR
Mean-field control of non exchangeable systems
研究具有异质和非对称相互作用的Mean-field系统的最优控制,证明值函数的适定性与律不变性,结合动态规划原理与链式法则,证明值函数是Bellman动态规划方程的粘性解。
2024-07-26 math.OC math.PR
Degenerate Mean Field Type Control with Linear and Unbounded Diffusion, and their Associated Equations
本文针对退化平均场类型控制问题,通过提升方法嵌入Hilbert空间,利用延拓法证明相关FBSDEs及其导数的可解性,进而得到值函数的正则性、Bellman方程唯一经典解及主方程的经典解。
2023-11-15 math.OC math.PR
Randomized Midpoint Method for Log-Concave Sampling under Constraints
Department of Mathematical Sciences, Tsinghua University(清华大学数学科学系);Artificial Intelligence Research Institute, Shenzhen MSU-BIT University(深圳MSU-BIT大学人工智能研究院);Department of Data Science, City University of Hong Kong(香港城市大学数据科学系)
提出约束域中过阻尼和动能朗之万扩散的随机中点离散化方法,通过投影算子建立统一框架,证明Wasserstein-q距离下的收敛保证并得到近最优下界。
2026-06-17 cs.LG math.PR math.ST
Non-asymptotic Analysis of Poisson randomized midpoint Langevin Monte Carlo
针对高维分布采样问题,本文对泊松随机化中点朗之万蒙特卡洛(PRLMC)进行非渐近分析,证明其作为马尔可夫链的平稳分布唯一性及收敛速率,建立2-瓦瑟斯坦距离下的误差界,并提出近最优的递减步长版本。
2025-11-17 math.PR math.ST stat.TH
Control on Hilbert Spaces and Application to Some Mean Field Type Control Problems
本文通过P.-L. Lions提升思想的新形式,在特殊构造的希尔伯特空间上研究随机控制问题,以经典控制理论求解平均场型控制问题的Bellman和Master方程,保留提升优点并减少困难。
2023-05-09 math.AP math.OC math.PR
The Randomized Midpoint Method for Log-Concave Sampling
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
对数凹分布的抽样是一个在统计学和机器学习中有许多应用的研究问题。本文研究了$p^{*}\propto\exp(-f(x))$型的分布,其中$f:\mathbb{R}^{d}\rightarrow\mathbb{R}$具有$L$ -Lipschitz梯度,并且是$m$ -强凸的.本文提出了一种基于欠阻尼朗之万扩散(ULD)的马尔可夫链蒙特卡罗(MCMC)算法。它可以在$\tilde{O}\left(κ^{7/6}/ε^{1/3}+κ/ε^{2/3}\right)$步骤中实现$ε\cdot D$误差(以2-Wasserstein距离计),其中$D\overset{\mathrm{def}}{=}\sqrt{\frac{d}{m}}$是问题的有效直径,$κ\overset{\mathrm{def}}{=}\frac{L}{m}$是条件数。我们的算法执行速度显着比以前最好的已知算法解决这个问题,这需要$\tilde{O}\left(κ^{1.5}/ε\right)$的步骤。此外,我们的算法可以很容易地并行化,只需要$O(κ\log\frac{1}ε)$并行步骤。为了解决抽样问题,我们提出了一个新的框架来离散随机微分方程。我们应用这个框架离散和模拟ULD,它收敛到目标分布$p^{*}$。该框架不仅可用于解决对数凹抽样问题,还可用于解决涉及模拟(随机)微分方程的任何问题。
2019-09-12 cs.DS cs.LG math.PR
Infinite Time Horizon Optimal Control of McKean-Vlasov SDEs
本文提出无限时间折扣McKean-Vlasov随机微分方程最优控制理论,证明值函数的时间不变性及其对初始分布的二阶Wasserstein空间依赖性,建立动态规划原理并推导椭圆HJB方程的粘性解唯一性。
2025-03-26 math.OC math.PR
A Dynamical System View of Langevin-Based Non-Convex Sampling
ETH Zürich(苏黎世联邦理工学院)
针对非凸采样理论中末次迭代收敛性、Wasserstein距离指标缺失等问题,提出基于动力系统理论的新框架,证明多类先进采样方案的末次迭代Wasserstein收敛性,并可启发更高效的采样方案设计。
2024-09-17 cs.LG math.PR math.ST
Dynamic programming equation for the mean field optimal stopping problem
研究了McKean-Vlasov扩散的最优停止问题,当准则是停止过程律的函数时.一个显着的新功能,在这种设置是,停时也影响的动态停止过程中,通过依赖的系数的法律。利用停止过程和生存过程的联合边缘律,在弱形式下引入了平均场停止问题。该规范满足动态规划原则。相应的动态规划方程是Wasserstein空间上的一个障碍问题,并借助于cadlàg半鞅的边际律流的一个一般Itô公式得到.我们的验证结果表征了最优停止策略的性质,突出了随机停止的关键需求。我们的动态规划方程的有效性说明了各种例子,包括均值-方差最优停止问题。
2023-01-15 math.PR
Stochastic Control Methods for Optimization
Department of Mathematics & Statistics, University of Calgary(卡莱尔大学数学与统计学系)
本文研究了在欧几里得空间和概率测度的Wasserstein空间中使用随机控制框架进行全局优化的方法,通过动态规划分析哈密顿-雅可比-贝尔曼方程,并提出基于蒙特卡洛的数值方案。
2026-04-18 cs.LG cs.NA math.NA