Viscosity Solutions of Stochastic Hamilton-Jacobi-Bellman Equations
本文研究了具有随机系数的随机微分方程的最优随机控制问题的完全非线性随机Hamilton-Jacobi-Bellman(HJB)方程.引入粘性解的概念,证明了最优随机控制问题的值函数是相应随机HJB方程的最大黏性解。对于超抛物情形,当扩散系数是时间、状态和控制的确定性函数时,也讨论了唯一性。
2018-07-12 math.AP math.OC math.PR
Bellman equation and viscosity solutions for mean-field stochastic control problem
考虑McKean-Vlasov随机微分方程的随机最优控制问题,其中系数依赖于状态和控制的联合律.利用反馈控制,将该问题转化为仅以过程的边缘分布为被控状态变量的确定性控制问题,并证明了动态规划原理的一般形式。然后,借助于P.L. Lions在[32]中的方法和概率测度流的一个特殊It{}公式,导出了平均场随机控制问题的动态规划Bellman方程,并在McKean-Vlasov框架下证明了一个验证定理.我们给出了线性二次平均场控制问题的Bellman方程的显式解,并将其应用于均值-方差投资组合选择和系统风险模型。我们还考虑了Bellman方程的提升粘性解的概念,并证明了McKean-Vlasov控制问题的值函数的粘性性质和唯一性。最后,我们考虑的情况下,McKean-Vlasov控制问题的开环控制和讨论相关的动态规划方程,我们比较的情况下,闭环控制。
2017-03-08 math.OC math.PR
A Class of Delay Optimal Control Problems and Viscosity Solutions to Associated Hamilton-Jacobi-Bellman Equations
本文研究了一类时滞微分方程的最优控制问题,其对应的Hamilton-Jacobi-Bellman(HJB)方程为非线性偏微分方程.这类HJB方程以前没有被研究过,并且由于状态方程不具有光滑性质而难以求解。我们引入了一个略有不同的概念的粘度解决方案,并确定的价值功能的最优控制问题作为一个独特的黏性解相关的HJB方程。
2015-07-15 math.OC
Regularity Properties of Viscosity Solutions of Integro-Partial Differential Equations of Hamilton-Jacobi-Bellman Type
研究了具有终端条件的Hamilton-Jocobi-Bellman型积分-偏微分方程的正则性,该方程可以通过一个由前向和后向随机微分方程组成的随机控制系统来解释,前向和后向随机微分方程都由布朗运动和补偿Poisson随机测度驱动.更精确地说,我们证明,在适当的假设下,这样的方程的黏性解是联合Lipschitz和联合Lipschitz洞穴$(t,x)\inΔ\times\R^d$,所有紧凑的时间间隔$Δ$不包括终端时间。我们的方法是基于时变的布朗运动和库利克变换的泊松随机措施。
2011-10-07 math.AP math.OC math.PR
Viscosity solutions of Hamilton-Jacobi-Bellman-Isaacs equations for time-delay systems
研究了一类动力系统的零和微分对策问题,该动力系统的运动由一个非线性时滞微分方程描述,其初始条件由一个分段连续函数定义。导出了具有共不变导数的Hamilton-Jacobi-Bellman-Isaacs方程的相应Cauchy问题,并考虑了该问题的黏性解的定义.证明了微分对策存在唯一的黏性解。此外,基于对应于共不变导数的次微分和上微分的概念,得到了该黏性解的无穷小描述。给出了应用这些结果的例子。
2020-01-22 math.OC
Minimax and Viscosity Solutions of Hamilton-Jacobi-Bellman Equations for Time-Delay Systems
研究了一类动力系统的Bolza最优控制问题,该动力系统的运动由时滞微分方程描述,初始条件由分段连续函数定义。对于该问题中的值泛函,考虑了具有共不变导数的Hamilton-Jacobi-Bellman方程的Cauchy问题。研究了该问题的极大极小解和黏性解。证明了这两个解的存在性、唯一性和与值泛函的一致性。
2019-01-15 math.OC
Path-Dependent Optimal Stochastic Control and Viscosity Solution of Associated Bellman Equations
本文研究了一类路径依赖随机系统在递归路径依赖代价泛函下的最优随机控制问题,其对应的动态规划原理的Bellman方程是一个路径依赖的二阶完全非线性偏微分方程.提出了黏性解的新概念。利用Dupire泛函Itô演算,我们将最优随机控制问题的值泛函刻画为路径依赖Bellman方程的唯一黏性解.
2013-03-05 math.AP math.OC
A Viscosity Solution Theory of Stochastic Hamilton-Jacobi-Bellman equations in the Wasserstein Space
本文研究了Wasserstein空间中允许随机系数的非马尔可夫平均场型控制问题的随机Hamilton-Jacobi-Bellman方程,证明了值函数是其唯一粘性解,并克服了空间局部紧性缺失与非马尔可夫设定的挑战。
2023-10-22 math.AP math.OC math.PR
Viscosity Solutions of a class of Second Order Hamilton-Jacobi-Bellman Equations in the Wasserstein Space
本文研究了Wasserstein空间中涉及共同噪声的平均场控制相关的二阶HJB方程,通过引入新概念并采用光滑度量作为度量函数,结合二阶导数估计,在一般假设下确立了粘性解的适定性。
2024-08-26 math.AP math.OC math.PR
Master Bellman equation in the Wasserstein space: Uniqueness of viscosity solutions
本文研究了Wasserstein空间中的Bellman方程,该方程是在平均场控制问题即McKean-Vlasov扩散过程的随机最优控制问题的研究中得到的.利用标准的Crandall-Lions黏性解的概念推广到Wasserstein空间中,结合动态规划原理,我们证明了在一般条件下关于漂移系数和报酬系数的一个比较结果,这意味着该值函数是Master Bellman方程的唯一黏性解,这是在这种二阶情形下的第一个唯一性结果.在有限维空间或无限维可分希尔伯特空间中的方程的标准情形中所使用的经典论证并不扩展到本框架中,这是由于基础的沃瑟斯坦空间的笨拙性质。所采用的策略是基于有限维近似的价值函数获得的相关合作$n$ -玩家游戏,并在建设一个光滑的规范型功能,建立从一个正规化的尖锐估计的Wasserstein度量;这种规范型函数用于通过Borwein的适当扩展来产生最大值/最小值。Ekeland变分原理在Wasserstein空间上的Preiss推广。
2022-02-09 math.AP math.OC math.PR
The existence and uniqueness of viscosity solution to a kind of Hamilton-Jacobi-Bellman equations
结合代数方程研究了一类Hamilton-Jacobi-Bellman(HJB)方程的黏性解的存在唯一性.该HJB方程与一个随机最优控制问题有关,其状态方程由一个完全耦合的正倒向随机微分方程描述。将Peng的向后半群方法推广到该问题,得到了动态规划原理,并证明了该值函数是该HJB方程的一个黏性解。对于黏性解唯一性的证明,Barles,Buckdahn和Pardoux<cite>Baeles-BP</cite>中的分析方法通常不适用于这种完全耦合的情形。借助于FBSDES解的唯一性,我们提出了一种新的概率方法来研究该HJB方程解的唯一性。得到了该值函数是该HJB方程的最小黏性解。特别地,当系数与控制变量无关或解是光滑的时,值函数是唯一的黏性解。
2019-06-18 math.OC
Recursive stochastic differential games with non-Lipschitzian generators and viscosity solutions of Hamilton-Jacobi-Bellman-Isaacs equation
本文研究两人零和随机微分博弈,其代价函数由带单调生成元的BSDE刻画,通过验证定理、DPP和粘性解理论建立HJBI方程的可解性,并给出三个例子包括金融应用。
2024-04-18 math.OC
Stochastic Path-Dependent Hamilton-Jacobi-Bellman Equations and Controlled Stochastic Differential Equations with Random Path-Dependent Coefficients
本文提出并研究了随机路径依赖Hamilton-Jacobi-Bellman(SPHJB)方程,该方程源于具有路径依赖和可测随机性的随机微分方程的最优随机控制问题.提出了粘性解和经典解的概念,证明了最优随机控制问题的值函数是SPHJB方程的黏性解.对于某些超抛物情形,给出了黏性解的唯一性结果,而对于一般情形,给出了经典解的唯一性结果.另外,在路径依赖的情形下,证明了随机场和随机微分方程的合成的Ito-Kunita-Wentzell-Krylov公式.
2020-06-22 math.AP math.OC math.PR
Optimal control problems of fully coupled FBSDEs and viscosity solutions of Hamilton-Jacobi-Bellman equations
本文研究了完全耦合正倒向随机微分方程的随机最优控制问题。递归的成本泛函被定义为受控的全耦合FBSDES。我们研究了两种情况下的扩散系数$σ$的FSDES。我们用一种新的方法证明了值函数是确定的,满足动态规划原理(DPP),并且是相应的广义Hamilton-Jacobi-Bellman(HJB)方程的黏性解.当$σ$依赖于控制系统解$(Y, Z)$的第二分量而不依赖于控制系统时,相应的广义HJB方程与代数方程有关.为此,我们采用了Peng的Besides方法,特别是[16]中的随机向后半群的概念。我们强调,事实上,$σ$也依赖于$Z$使随机控制更加复杂,其结果是,相关的HJB方程与一个代数方程相结合,这是由吴和余[19]启发的。利用延拓方法结合不动点定理证明了该代数方程存在唯一解,并给出了该解的表示.另一方面,我们证明了一些新的基本估计的单调假设下,完全耦合FBSDES。特别是,我们证明了在Lipschitz和线性增长条件下,完全耦合FBSDES有一个唯一的解决方案的小时间间隔,如果Lipschitz常数$σ$ \相对于$z$是足够小的。我们还建立了这样的全耦合FBSDES的广义比较定理。
2013-02-05 math.OC math.PR
Stochastic Representations for Solutions to Parabolic Dirichlet Problems for Nonlocal Bellman Equations
证明了有界区域上退化Hamilton-Jacobi-Bellman积分偏微分方程Dirichlet端边值问题黏性解的随机表示公式.我们证明了唯一的黏性解是相应的随机最优控制问题的值函数。我们还得到了相关的随机最优控制问题的动态规划原理。
2018-08-21 math.AP math.OC math.PR
Viscosity solutions to Hamilton-Jacobi-Bellman equations associated with sublinear Lévy(-type) processes
利用概率方法研究非线性积分微分方程$$\partial_t u(t,x) - \sup_{α\in I} \bigg( b_α(x) \cdot \nabla_x u(t,x) + \frac{1}{2} \text{tr}\left(Q_α(x) \cdot \nabla^2_x u(t,x)\right) +\int_{y \neq 0} \big(u(t,x+y)-u(t,x)-\nabla_x u(t,x) \cdot h(y) \big) \, ν_α(x,dy) \bigg) = 0$$在初始条件$u(0,x)= φ(x)$下粘性解的存在性;这里$(b_α(x),Q_α(x),ν_α(x,dy))$、$α\in I$、$x \in \mathbb{R}^d$是Lévy三重态族,$h$是某个截断函数。我们所构造的解的形式是次线性马尔可夫半群$(T_t)_{t \geq 0}$的$u(t,x) = T_t φ(x)$,其表示为$$T_t φ(x) = \mathcal{E}^x φ(X_t):= \sup_{\mathbb{P} \in \mathfrak{P}_x} \int_Ω φ(X_t) \, d\mathbb{P}$$,其中$(X_t)_{t \geq 0}$是随机过程,$\mathfrak{P}_x$,$x \in \mathbb{R}^d$是概率测度族。其关键…
2019-03-06 math.OC math.PR
Path-dependent Hamilton-Jacobi-Bellman equations related to controlled stochastic functional differential systems
研究了一类由随机泛函微分方程控制的随机最优控制问题。在泛函伊藤演算的框架下,建立了动态规划原理和相应的路径依赖Hamilton-Jacobi-Bellman(HJB)方程.证明了该值函数是路径依赖HJB方程的黏性解。
2013-01-01 math.OC math.PR
On viscosity solutions of path-dependent Hamilton--Jacobi--Bellman--Isaacs equations for fractional-order systems
本文研究了 Caputo 分数阶微分方程描述的动力系统的两人零和微分博弈,引入了依赖路径的 Hamilton--Jacobi--Bellman--Isaacs 方程 Cauchy 问题的粘性解概念,并将博弈的值泛函刻画为该问题的唯一粘性解。
2021-09-06 math.AP math.OC
Viscosity Solutions to Path-Dependent HJB Equation and Applications
本文对与路径依赖随机微分方程最优控制问题相关的路径依赖Hamilton-Jacobi-Bellman(PHJB)方程引入黏性解的概念.我们将最优控制问题的值泛函确定为相关PHJB方程的唯一黏性解。应用倒向随机Hamilton-Jacobi-Bellman方程。
2020-04-05 math.OC
Stochastic optimal transport and Hamilton-Jacobi-Bellman equations on the set of probability measures
该研究提出概率测度集上的随机最优输运问题,通过定义新的HJB方程粘性解得到一般比较原理,结合随机最优输运能控性结果,证明了粘性解的存在唯一性。
2024-05-21 math.AP math.OC math.PR
Dynamic programming principle for one kind of stochastic recursive optimal control problem and Hamilton-Jacobi-Bellman equations
本文研究了一类费用函数函数为一个反射倒向随机微分方程的解的带障碍约束的随机递归最优控制问题。我们将给出这类最优控制问题的动态规划原理,并证明其值函数是相应的Hamilton-Jacobi-Bellman方程的障碍问题的唯一黏性解。
2007-04-28 math.OC math.PR
The Finite Horizon impulse control Problem with arbitrary cost functions : the Viscosity Solution Approach
考虑脉冲费用函数为任意值时的随机脉冲控制问题。利用动态规划原理和黏性解方法证明了随机脉冲控制问题的Hamilton-Jacobi-Bellman方程(HJB)偏微分方程(PDE)的值函数是唯一的黏性解
2019-01-15 math.OC math.PR
Existence and Uniqueness of Viscosity Solutions for Stochastic Hamilton--Jacobi--Bellman Equations
University of Calgary(卡尔加里大学)
该研究针对带随机系数的退化随机最优控制问题对应的随机哈密顿-雅可比-贝尔曼方程,证明了其粘性解的存在性与唯一性,放宽了此前对扩散项的结构限制。
2026-10-09 math.AP math.OC math.PR
Weak solutions to the master equation of potential mean field games
本文的目的是在势场对策的主方程中引入弱解的概念,并在相当一般的假设下证明其存在唯一性。值得注意的是,这是在系数没有任何单调性约束的情况下实现的。关键是在保守意义下解释主方程,然后适应于无穷维设置的早期参数的双曲型系统从Hamilton-Jacobi-Bellman方程。在这里,主方程确实被认为是一个无限维系统的概率测度的空间上设置,并正式书面的衍生物的Hamilton-Jacobi-Bellman方程的平均场控制问题躺在平均场游戏。为了使分析更容易,我们假设系数是周期性的,这允许通过它们的傅里叶系数来表示概率测度。大部分的分析,然后包括在重写的主方程和相应的Hamilton-Jacobi-Bellman方程的平均场控制问题的偏微分方程设置在傅里叶系数本身。最后,我们建立了在适当的广义意义下解Hamilton-Jacobi-Bellman方程的位移半凹函数的存在性和唯一性,以及在适当的弱意义下解主方程的满足弱单边Lipschitz不等式的函数的存在性和唯一性.作为另一个新的结果,我们还证明了相关的平均场控制问题的最优轨迹是唯一的几乎每个起始点,对于一个合适的概率测度空间上的概率测度。
2022-06-29 math.AP math.OC math.PR
Finite Element Approximation of Hamilton-Jacobi-Bellman equations with nonlinear mixed boundary conditions
我们证明了单调P1有限元法在非结构网格上对具有混合边界条件的各向同性抛物型Hamilton-Jacobi-Bellman方程的黏性解和可能退化的扩散的强一致收敛性。边界算子通常在面边界和类型变化上是不连续的。罗宾型边界条件通过一个较低的Dini导数离散。在时间上Bellman方程近似通过IMEX计划。通过霍华德算法可以得到数值解的存在性和唯一性。关键词:有限元法,Hamilton-Jacobi-Bellman方程,混合边界条件,完全非线性方程,黏性解
2021-05-20 cs.NA math.NA math.OC
Two Person Zero-sum Game in Weak Formulation and Path Dependent Bellman-Isaacs Equation
本文研究了两人零和随机微分对策的弱形式。不像标准文献中使用的策略类型的控制,弱制定允许我们考虑控制对控制的游戏。我们将在自然条件下证明博弈值的存在性。本文的另一个主要特点是,我们允许非马尔可夫结构,因此游戏值是一个随机过程。我们将价值过程刻画为相应的路径依赖Bellman-Isaacs方程的唯一黏性解,这是Ekren,Keller,Touzi和Zhang(arXiv:1109.5971)以及Ekren,Touzi和Zhang最近提出的一个概念.
2012-09-28 math.OC math.PR
Some non monotone schemes for time dependent Hamilton-Jacobi-Bellman equations in stochastic control
本文介绍了线性和完全非线性Bellman-Isaacs型扩散方程的几种逼近格式。虽然它们不是单调的,但可以证明它们收敛于问题的黏性解。这些计划的有效实施进行了讨论,并进行了广泛的测试。
2015-01-21 math.OC
Backward stochastic differential equations under super linear G-expectation and associated Hamilton-Jacobi-Bellman equations
本文首先研究了超线性G-期望。建立了超线性期望下倒向随机微分方程(BSDEs)解的唯一性和存在性定理,为金融数学中不确定波动模型中的一类Hamilton-Jacobi-Bellman方程(包括著名的Black-Scholes-Barrenblett方程)的黏性解提供了概率解释.我们还证明了超线性期望下的倒向随机微分方程可以刻画一类随机控制问题。给出了具有相互奇异概率测度的递归超(子)策略与经典随机控制问题之间的直接联系。利用这一结果给出了Black-Scholes-Barrenblett方程和G-热方程解的表示。
2010-09-06 math.OC math.PR
Dynamic Programming Principle and Associated Hamilton-Jacobi-Bellman Equation for Stochastic Recursive Control Problem with Non-Lipschitz Aggregator
本文研究了随机递归控制问题,其中描述运行费用的后向随机微分方程的聚集子(或称生成元)关于第一个未知变量和控制是连续的但不一定是Lipschitz的,并且关于第一个未知变量是单调的.在此基础上,利用倒向随机微分方程的广义比较定理和黏性解的稳定性,建立了动态规划原理以及相应的Hamilton-Jacobi-Bellman方程的值函数与粘性解之间的联系.最后以非Lipschitz聚集器的连续时间Epstein-Zin效用函数的控制问题为例说明了本文研究的应用。
2015-09-12 math.OC
Optimal control of coupled forward-backward stochastic system with jumps and related Hamilton-Jacobi-Bellman equations
本文研究了一类带跳的耦合正倒向随机系统的最优控制问题,其代价泛函通过一个带布朗运动和Poisson随机测度的耦合正倒向随机微分方程来定义.为此,我们首先研究了这类正倒向随机微分方程解的正则性。对于这类最优控制问题,我们得到了值函数是确定性函数,且满足动态规划原理。此外,还证明了该值函数是含积分-微分算子的Hamilton-Jacobi-Bellman方程的黏性解.
2020-09-13 math.OC math.PR
Some non monotone schemes for Hamilton-Jacobi-Bellman equations
我们扩展了Barles Jakobsen的理论,发展了Hamilton Jacobi Bellman方程的数值格式。我们表明,该计划的单调性可以放松,仍然导致收敛到黏性解的方程。我们给出了一些这样的数值方案的例子,并表明,开发的框架所获得的界限是不紧的。最后对一些数值格式进行了检验。
2018-09-03 math.OC
Hamilton-Jacobi-Bellman equations for the optimal control of a state equation with memory
本文研究具有记忆形式的状态方程的最优控制:?[x(t)= F(x(t),u(t),\int_0^{+\infty} A(s)x(t-s)ds),t>0,初始条件x(0)=x,x(-s)=z(s),s>0.]用$y_{x,z,u}$表示前一个Cauchy问题的解和:\[v(x,z):=\inf_{u\in V} \{\int_0^{+\infty} e^{-λs} L(y_{x,z,u}(s), u(s))ds \}\]其中$V$是一类容许控制,我们证明了$v$是形式为:\[λv(x,z)+H(x,z,\nabla_x v(x,z))+D_z v(x,z), \dot{z} >=0\]的Hamilton-Jacobi-Bellman方程的唯一粘性解,在M的无穷维黏性解理论的意义下。Crandall和P. - L.狮子
2009-02-25 math.OC
Viscosity Solutions of Hamilton--Jacobi--Bellman Equations for Control Systems Driven by Teugels Martingales
Huzhou University(湖州大学)
本文研究了具有随机系数的离散时间双人非零和线性二次随机博弈,利用凸变分分析推导了开环纳什均衡存在的必要充分条件,引入全局非负性条件以恢复充分性,并发展了耦合前向后向随机差分方程和非对称随机里茨方程体系。
2026-04-06 math.OC
Adaptive sparse grids for time dependent Hamilton-Jacobi-Bellman equations in stochastic control
介绍了随机控制中线性和完全非线性扩散Hamilton Jacobi Bellman方程的半拉格朗日格式中的稀疏网格插值方法。我们证明了引入的方法收敛到黏性解的问题,我们表明,一些潜在的高阶计划可以有效地实现。通过对$2$到$5$维的数值试验,表明确定性方法可以有效地应用于中等维的随机控制。
2014-08-19 math.OC
Singular Optimal Controls of Stochastic Recursive Systems and Hamilton-Jacobi-Bellman Inequality
本文研究了随机递归系统的最优奇异控制,其中控制由正则控制和奇异控制两部分组成。在一定的假设下,建立了这类最优奇异控制问题的动态规划原理,并证明了在给定的有界连续函数中,值函数是相应的Hamilton-Jacobi-Bellman不等式的唯一黏性解.最后给出了一个实例。
2018-11-04 math.OC
Hamilton-Jacobi-Bellman Equations for Q-Learning in Continuous Time
Seoul National University(首尔国立大学)
本文在具有Lipschitz连续控制的连续时间最优控制问题中引入了Q函数的Hamilton-Jacobi-Bellman(HJB)方程。强化学习中使用的标准Q函数被证明是HJB方程的唯一黏性解。利用黏性解的框架,给出了最优性的充要条件。利用HJB方程,我们发展了一种连续时间动力系统的Q-学习方法。一个DQN类算法也提出了高维状态和控制空间。所提出的Q-学习算法的性能证明使用1,10和20维动力系统。
2020-05-02 cs.LG cs.SY eess.SY
Verification by stochastic Perron's method in stochastic exit time control problems
我们应用随机Perron方法,创建的Bayraktar和Sürbu,随机退出时间控制问题。我们的主要假设是相关的Hamilton-Jacobi-Bellman(HJB)方程的强比较结果的有效性。在不依赖Bellman最优性原理的情况下,我们证明了在该区域内,该值函数是连续的,并且与HJB方程Dirichlet边值问题的黏性解一致.
2013-10-31 math.OC math.PR
Viscosity solutions to HJB equations associated with optimal control problem for McKean-Vlasov SDEs
本文针对 McKean-Vlasov SDEs 的最优控制问题,在 Wasserstein 空间上建立 HJB 方程的粘性解理论,并利用 Borwein-Preiss 变分原理证明比较原理,从而刻画值函数。
2023-10-17 math.OC math.PR
A viscosity solution approach to the infinite dimensional HJB related to boundary control problem in transport equation
本文研究了具有边界控制的迁移方程的最优控制问题所涉及的无穷维Hamilton-Jacobi-Bellman方程。考虑到希尔伯特状态方程中与控制相关的无界项的存在,需要一种合适的黏性解方法。得到了存在唯一性结果。
2006-09-26 math.OC
Dynamic programming principle and Hamilton-Jacobi-Bellman equation under nonlinear expectation
本文研究了一类随机递归最优控制问题,其中值泛函由$\tilde{G}$ -期望下的倒向随机微分方程(Besides)的解定义。在标准假设下,建立了这类问题的比较定理,并给出了一种新的、简单的方法来获得动态规划原理。最后证明了该值函数是一类完全非线性HJB方程的唯一黏性解。
2021-06-05 math.OC
Minimal solutions of master equations for extended mean field games
本文针对扩展平均场博弈提出概率测度流偏序,构造最小与最大均衡,引入弱粘性解概念并建立比较原理,证明相应值函数为最小和最大弱粘性解,重合时即为唯一解。
2023-09-17 math.AP math.OC math.PR
Hamilton-Jacobi-Bellman Equation for Control Systems with Friction
本文提出了一种新的框架来建模控制系统,其中的动态摩擦发生。该模型包含一个控制微分包含,其右端为不连续的,对于每个给定的输入函数$u(t)$,该包含仍然保持解的存在性和唯一性.在一般的假设下,我们能够导出相应的自由时间最优控制问题的Hamilton-Jacobi-Bellman方程,并将其值函数表示为唯一的局部Lipschitz连续的黏性解.
2020-12-01 math.DS math.OC
Randomized filtering and Bellman equation in Wasserstein space for partial observation control problem
研究了部分可观测扩散的随机最优控制问题。利用文献[4]中的控制随机化方法,证明了一个相应的值函数的随机化动态规划原理(DPP),该值函数是由相关过滤过程的流性质得到的。这个DPP是我们的主要结果的关键一步:部分观测控制问题的值函数作为唯一的黏性解,相应的动态规划Hamilton-Jacobi-Bellman(HJB)方程的特征。后者被表述为一个新的,完全非线性偏微分方程的Wasserstein空间的概率测度。我们的方法的一个重要特点是,它不需要任何非退化条件的扩散系数,并没有施加任何条件,以保证存在的密度的过滤过程解决方案的控制Zakai方程,通常做的分离问题。最后,在部分可观测的非高斯线性二次模型的情况下,给出了HJB方程的显式解。
2016-09-09 math.OC math.PR
Existence and Uniqueness of viscosity solutions of Value function of Local Cahn-Hilliard-Navier-Stokes system
本文针对二维有界区域带正则势的局部Cahn-Hilliard-Navier-Stokes系统的最优控制问题,定义值函数并证明其满足动态规划原理,通过粘性解方法证明值函数是对应无限维Hamilton-Jacobi-Bellman方程的唯一粘性解。
2024-03-07 math.AP math.OC
Policy Iteration for Stationary Discounted Hamilton--Jacobi--Bellman Equations: A Viscosity Approach
Gachon University(嘉泉大学);Yonsei University(延世大学)
本文提出了一种针对 stationary 折扣 HJB 方程的策略迭代方法,通过引入人工粘性阶 O(h) 的空间离散方案,恢复了比较性并保证了单调性,实现了几何收敛到唯一解,并推导了误差分解与非平凡耦合机制。
2026-09-16 cs.NA math.NA math.OC
Viscosity Solutions to Parabolic Master Equations and McKean-Vlasov SDEs with Closed-loop Controls
主方程是一类状态变量包含了某种基本状态过程分布的偏微分方程。它是研究大型相互作用系统极限行为的有力工具,包括平均场博弈和系统风险。它也自然地出现在具有部分信息的随机控制问题和时间不一致问题中。本文提出了抛物型主方程黏性解的新概念,并证明了它的适定性。我们的主要创新之处是将所涉及的测度限制为满足所需紧性的某个半鞅测度集。作为一个重要的例子,我们研究了HJB主方程与McKean-Vlasov随机微分方程的控制问题。出于实际考虑,我们考虑闭环控制。事实证明,价值函数的正则性在这个框架中比在标准控制问题中的对应物更加复杂。最后,我们建立了整个理论中的路径依赖的设置,这是经常看到的应用。这一部分的主要结果是Dupire \cite{Dupire}的泛函伊藤公式的推广。这个伊藤公式要求导数关于测度的特殊结构,这最初是由于Lions \cite{Lions4}在状态依赖的情况下提出的。我们在短注\cite{WZ}中给出了这个著名结果的一个初等证明,并且在这里的路径依赖设置中也有相同的论证。
2019-04-25 math.AP math.OC math.PR
Hamilton-Jacobi-Bellman Equations in the Wasserstein Space for the Optimal Control of the Kushner-Stratonovich Equation
本文为Wasserstein空间中K-S方程支配的分离问题建立了一类新HJB方程粘性解的比较定理,通过引入双变量泛函及推导二阶导数,首次证明了该类二阶HJB方程解的唯一性。
2025-03-04 math.AP math.OC math.PR
Control Problem on Space of Random Variables and Master Equation
本文研究随机变量空间中的控制问题。我们证明了它的Hamilton Jacobi Bellman方程与平均域论中的Master方程是相关的。P.L. Lions在[14,15]中引入了平方可积〔的〕随机变量的希尔伯特空间作为写平均域论中Master方程的自然空间。W. Gangbo和A. Escherwienrich [10]在配备Wasserstein度量的概率测度空间中考虑了这类方程,并使用了Wasserstein梯度的概念。我们比较了这两种方法,并提供了一些推广的结果的Gangbo和Gangwienrich。
2015-08-04 math.AP math.OC math.PR
A comparison principle for semilinear Hamilton-Jacobi-Bellman equations in the Wasserstein space
本文在概率测度空间证明半线性 Hamilton-Jacobi-Bellman 方程粘性解的比较原理,通过熵惩罚利用 Wasserstein 距离可微性,实现唯一性与稳定性,并适用于非凸情形。
2023-08-29 math.AP math.OC
Viscosity Solutions to First Order Path-Dependent HJB Equations
本文针对与路径相关微分方程最优控制问题相关的一阶路径相关Hamilton-Jacobi-Bellman(HJB)方程引入了黏性解的概念。我们将最优控制问题的值泛函确定为相关HJB方程的唯一黏性解。我们还证明了我们的黏性解的概念与相应的经典解的概念是一致的,并且满足稳定性。
2020-09-10 math.AP math.OC
Stochastic Recursive Optimal Control Problem with Mixed Delay under Viscosity Solution's Framework
研究了一类具有混合时滞的随机递归最优控制问题。讨论了庞特里亚金最大值原理与贝尔曼动态规划原理之间的联系。在不包含值函数导数的情况下,利用定义黏性解时引入的超喷流和次喷流的概念,研究了伴随过程与值函数之间的关系.同时给出了随机验证定理,用以验证给定的容许控制是否真的是最优的。
2019-12-22 math.OC
Generalized Hamilton-Jacobi-Bellman equations with Dirichlet boundary and stochastic exit time optimal control problem
考虑一类随机退出时间最优控制问题,其代价函数由非线性倒向随机微分方程定义。我们研究了这样一个控制问题的值函数的正则性。然后推广了Peng的向后半群方法,给出了动态规划原理。此外,我们还证明了以下具有Dirichlet边界的广义Hamilton-Jacobi-Bellman方程的值函数是粘性解:\[ \left\{ \begin{array} [c]{l} \inf\limits_{v\in V}\left\{\mathcal{L}(x,v)u(x)+f(x,u(x),\nabla u(x) σ(x,v),v)\right\}=0, \quad x\in D,\medskip\\ u(x)=g(x),\quad x\in \partial D, \end{array} \right. \]其中$D$是$\mathbb{R}^{d}$中的有界集,$V$是$\mathbb{R}^{k}$中的紧度量空间,对于$u\in C^{2}(D)$和$(x,v)\in D\times V$,\[\mathcal{L}(x,v)u(x):=\frac{1}{2}\sum_{i,j=1}^{d}(σσ^{\ast})_{i,j}(x,v)\frac{\partial^{2}u}{\partial x_{i}\partial x_{j}}(x) +\sum_{i=1}^{d}b_{i}(x,v)\frac…
2015-07-05 math.OC math.PR
$L^2(H^1_γ)$ Finite Element Convergence for Degenerate Isotropic Hamilton-Jacobi-Bellman Equations
本文研究退化各向同性HJB方程单调$P1$有限元方法的收敛性,证明数值解在加权Sobolev空间$L^2(H^1_γ(Ω))$中强收敛于粘性解,无需假设HJB算子的均匀抛物性。
2015-07-01 cs.NA math.NA math.OC
Continuity of the Value Function for Deterministic Optimal Impulse Control with Terminal State Constraint
研究了具有终态约束的确定性最优脉冲控制问题。由于终态约束的出现,值函数一般可能是不连续的。本文的主要贡献是引入了一个内在条件,在该条件下,值函数是连续的。然后利用Bellman动态规划方法,得到了相应的Hamilton-Jacobi-Bellman型拟变分不等式(简称QVI),其值函数是一个黏性解.价值函数是否被表征为该QVI的唯一黏性解的问题被仔细地解决,并且答案是具有挑战性的。
2020-11-08 math.OC