On an Ergodic Two-Sided Singular Control Problem
受自然资源管理、风险管理和金融等领域应用的启发,本文研究了一般一维扩散过程的遍历双边奇异控制问题。控制是由一个有界变差过程。在较弱的条件下,利用消失折扣法得到了系统的最优报酬值和最优控制策略。此外,建立了阿贝尔和切萨罗极限。最后给出了一种直接求解的方法。
2022-02-25 math.OC math.PR
Ergodic Control of Resource Sharing Networks: Lower Bound on Asymptotic Costs
本文研究重流量下资源分享网络的动态容量分配,证明相关布朗控制问题的最优成本为渐近遍历成本提供下界,并指出分层贪婪策略在单调成本下渐近最优。
2023-12-22 math.OC math.PR
An ergodic control problem for many-server multiclass queueing systems with cross-trained servers
AM/M/N+在Halfin-Whitt机制中,考虑独立的客户类和d个服务器池。第i类客户具有池i中的服务的优先级,其中i = 1,. . .、d,并且如果某个其他池有空闲服务器并且池i中的所有服务器都很忙,则可以访问该池。我们建立了一个遍历控制问题,其中运行成本由多项式增长的非负凸函数给出。我们表明,限制受控扩散模型的动作空间,它取决于状态变量。我们对极限遍历控制问题进行了完整的分析,并建立了排队模型的值函数的渐近收敛
2017-07-15 math.OC math.PR
Ergodic Risk-Sensitive Control of Markov Processes on Countable State Space Revisited
本文考虑了一类离散和连续时间控制的马氏过程,研究了遍历风险敏感极小化问题。在一个全面的稳定性假设下,我们提供了一个完整的分析。特别地,我们建立了最优平稳马尔可夫控制的值函数的唯一性和验证结果,除了存在性结果。我们也重新审视这个问题的近似单调性条件下,但没有任何稳定性假设。我们的研究结果还包括离散和连续时间框架中的政策改进算法。
2021-11-01 math.OC math.PR
On the policy improvement algorithm for ergodic risk-sensitive control
本文研究了一类全空间上的多维受控扩散过程的遍历风险敏感控制问题。我们研究的最小化和最大化问题下,无论是一个毯子的稳定性假设,或近似单调的假设上的运行成本。我们建立了这些模型的政策改进算法的收敛性。我们还提出了一个更一般的结果有关的区域的吸引力的算法的平衡。
2020-08-01 math.OC math.PR
Diffusions with resetting boundaries: ergodic control and renewal optimization
研究带重置边界的一维扩散的遍历优化问题,推导带非局部边界条件的HJB方程,并给出最优平稳马尔可夫控制的验证定理,通过更新结构得到遍历成本的显式公式。
2026-06-23 math.OC math.PR
Ergodic Control of Infinite Dimensional SDEs with Degenerate Noise
本文研究有限和无限时域随机控制问题的值函数的渐近性态,并研究它们与适当的随机遍历控制问题的关系。我们的方法仅基于概率技术,例如所谓的控制方法的随机化,从而避免了来自黏性解理论的完全分析工具。然后,我们能够处理的情况下,状态过程采取的值在一般(可能是无限维)实可分希尔伯特空间和扩散系数允许退化。
2018-04-05 math.OC math.PR
The Ergodic Linear-Quadratic Optimal Control Problems for Stochastic Mean-Field Systems with Periodic Coefficients
本文研究具有周期系数的随机平均场系统的遍历线性二次闭环最优控制问题,通过周期测度和周期Riccati方程将无限时域代价转化为单周期等价代价,并给出闭环最优控制。
2025-05-08 math.OC math.PR
Path-Dependent Ergodic Optimal Control and Backward Stochastic Differential Equations
New York University, Tandon School of Engineering(纽约大学坦登工程学院)
研究一类无限时域倒向随机微分方程,用于处理时间和路径依赖的遍历最优控制问题,通过确定性函数的渐近行为刻画最优遍历成本,并推广了马尔可夫情形下的适定性、验证和稳定性结果。
2026-06-04 math.OC math.PR
Optimal Policy Characterization for a Class of Multi-Dimensional Ergodic Singular Stochastic Control Problems
Politecnico di Milano(米兰理工大学);Bielefeld University, Center for Mathematical Economics (IMW)(比勒费尔德大学,数学经济中心(IMW))
本文研究多维ergodic奇异随机控制问题,通过Skorokhod反射在Y依赖自由边界中确定最优策略,并解决两个二维最优库存管理问题,首次将多维ergodic奇异随机控制与最优停止联系起来。
2026-06-28 math.OC math.PR
Some new results on sample path optimality in ergodic control of diffusions
对一类受漂移控制的非退化扩散过程的遍历控制问题,给出了样本路径最优性的一些新结果。文献中最常使用的假设,以确保a.s.的存在。样本路径最优平稳马尔可夫控制要求所有容许控制上有界域的首中时$τ$的二阶矩是有限的。我们表明,这可以大大削弱:${\mathrm E}[τ^2]$可以取代${\mathrm E}[τ\ln^+(τ)]$,从而减少所需的收敛速率的平均值从多项式对数。一个福斯特-李雅普诺夫条件,保证这一点也展出。此外,我们研究了一个大类的模型,既不是一致稳定的,也没有一个近单调的运行成本,我们表现出充分条件的样本路径最优平稳马尔可夫控制的存在。
2017-01-02 math.OC math.PR
Ergodic control of diffusions with compound Poisson jumps under a general structural hypothesis
研究了一类由复合泊松过程驱动的受控跳跃扩散过程的遍历控制问题。这扩展了[SIAM J. Control Optim. 57(2019),No. 2,1516-1540]到不是接近单调的运行成本。这种普遍性是需要在应用程序,如大规模并行服务器网络的优化调度。我们通过Hamilton-Jacobi-Bellman(HJB)方程提供了一个完整的最优性表征,在温和的假设下,我们还表现出解的正则性。此外,我们还证明了最优平稳马尔可夫控制是a.s.路径最优最后,我们证明了在一个足够大的有界域上求解HJB,可以在紧集之外固定一个稳定控制,并获得近最优解。这对于构造多类并行服务器网络的渐近最优调度策略是有用的。
2019-08-02 math.OC math.PR
A risk-sensitive ergodic singular stochastic control problem
本文研究风险敏感遍历准则下的双边奇异随机控制问题,通过HJB方程的C2解和Sturm-Liouville特征值问题,给出完整解,应用于央行汇率目标区间控制。
2025-09-11 math.OC math.PR
Stationary Ergodic Mean-field Games of Constrained Singular Controls
Bielefeld University(比勒费尔德大学);University of Turku(图尔库大学);University College London(伦敦大学学院);Turku School of Economics, University of Turku(图尔库经济学院)
该研究针对带约束奇异控制的平稳遍历平均场博弈,推导了泊松阈值奇异控制的平稳分布,证明了平稳平均场均衡的存在唯一性,为相关投资案例研究提供了易处理框架。
2026-10-12 math.OC math.PR
Ergodic Risk-Sensitive Control for Regime-Switching Diffusions
在本文中,我们研究了受控状态切换扩散的遍历风险敏感控制问题。在覆盖稳定性假设下,我们解决了弱耦合系统的相关非线性本征值问题,并通过适当的验证定理刻画了最优平稳马尔可夫控制。我们还考虑了近单调的情况,并获得了主特征函数和最优平稳马尔可夫控制的存在性。
2022-07-15 math.OC
Ergodic behavior of control and mean field games problems depending on acceleration
研究了加速度控制下一阶平均场对策系统解的长时间行为。主要的问题是缺乏小的时间可控性的问题,这将阻止定义相关的遍历平均场博弈问题的标准方式。为了克服这个问题,我们首先研究了长时间平均的最优控制问题的加速度控制:我们证明了时间平均值函数收敛到一个遍历常数,并表示这个遍历常数作为一个最小的拉格朗日在一个合适的类封闭的概率测度。这个特征使我们定义遍历MFG问题作为一个不动点问题的一组封闭的概率测度。然后,我们还表明,这个MFG遍历问题至少有一个解决方案,相关的遍历常数是唯一的标准的单调性假设下,时间依赖的MFG问题的值函数的时间平均值与加速度控制收敛到这个遍历常数。
2020-07-06 math.OC
Ergodic Risk Sensitive Control of Markovian Multiclass Many-Server Queues with Abandonment
本文研究 Halfin--Whitt 机制下带弃单的多类多服务器队列的遍历风险敏感最优调度问题,通过引入辅助控制并利用变分表示,证明了扩散尺度化排队过程的最优 ERSC 值渐近收敛到极限扩散的最优值。
2024-10-22 math.OC math.PR
Optimal control on finite graphs: asymptotic optimal controls and ergodic constant in the case of entropic costs
对于连续时间有限图上的最优控制问题,动态规划原理导致了以非线性常微分方程系统为特征的值函数。在本文中,我们考虑的情况下,熵成本的非线性微分方程可以转化为线性的,由于变量变换与熵和指数之间的经典对偶。当图是连通的时,我们证明了用经典的矩阵分析工具可以很容易地计算渐进最优控制和各态历经常数。
2022-12-28 math.OC
Robust Ergodic Control of Jump-Diffusion Systems under Drift and Intensity Uncertainty
CUNEF Universidad(CUNEF大学);University of Padova(帕多瓦大学);Bielefeld University(比勒费尔德大学)
针对同时存在连续波动和罕见冲击的跳扩散系统,考虑漂移和跳跃强度不确定性,提出一种鲁棒遍历奇异控制方法,通过熵惩罚扭曲处理模型模糊性,并证明最优策略由反射屏障表征。
2026-06-08 math.OC math.PR
Ergodic inventory control with diffusion demand and general ordering costs
在这项工作中,我们考虑了一个连续时间的库存系统的需求过程遵循库存依赖的扩散过程。每个订单的订购成本取决于订购量,并由一般函数给出,该函数甚至不一定是连续和单调的。通过应用一个下界的方法与比较定理,我们显示了全局最优的$(s,S)$政策,这个遍历库存控制问题。
2020-12-05 math.OC
Jacobi-like relative value iteration algorithms for ergodic risk-sensitive control of Markov chains
Rice University(莱斯大学)
针对有限状态空间上受控离散时间马尔可夫链的遍历风险敏感控制问题,提出类雅可比相对值迭代算法,通过建立局部收缩和双利普希茨连续性性质证明迭代几何收敛,并在两个实例上实现该算法。
2026-07-09 math.OC math.PR
Ergodic Risk Sensitive Control of Diffusions under a General Structural Hypothesis
Institut Für Mathematik, Technische Universität Ilmenau(伊尔梅瑙工业大学);Department of Computational Applied Mathematics and Operations Research, George R. Brown School of Engineering, Rice University(莱斯大学)
本文在一般结构假说下研究扩散过程的遍历风险敏感控制问题,通过引入inf-紧扰动和变分公式,刻画最优平稳马尔可夫控制并解决紧性问题。
2026-10-05 math.OC math.PR
Ergodic Stochastic Optimal Control Problems
Research Center for Mathematics and Interdisciplinary Sciences, Shandong University(山东大学数学与交叉科学研究中心);Durham University(杜伦大学);School of Mathematics, Shandong University(山东大学数学学院)
本文提出一种求解由非自治周期系数受控随机微分方程驱动的遍历随机最优控制问题的新方法,证明了其遍历性并构造辅助函数,将结果应用于遍历倒向随机微分方程研究,该方法在齐次情形下亦属首次。
2026-08-18 math.OC
Singular stochastic control problems motivated by the optimal sustainable exploitation of an ecosystem
本文研究由生态系统最优可持续开发驱动的单调跟随者型奇异随机控制问题,推导了期望折扣、期望遍历和路径遍历三种准则下的显式解,证明最优策略为阈值型,并揭示折扣解向遍历解的收敛性。
2025-02-04 math.OC math.PR
Two sided ergodic singular control and mean field game for diffusions
本文研究线性扩散驱动的平均场博弈,先求解无相互作用的双边遍历奇异控制问题,证明双阈值反射策略最优,并据此建立反射型总体控制下均衡存在判据、非线性方程及有限Nash均衡的逼近结果。
2024-06-11 math.OC math.PR
LP Formulations of Discrete Time Long-Run Average Optimal Control Problems: The Non-Ergodic Case
研究了与确定性离散时间长期平均准则最优控制问题相联系的无穷维线性规划问题。随着其对偶,这个LP问题允许一个特点的最优值的最优控制问题。我们的方法的新颖之处在于,我们专注于一般情况下,其中的最优值可能取决于系统的初始条件。
2019-05-28 math.OC
On ergodic control problem for viscous Hamilton--Jacobi equations for weakly coupled elliptic systems
本文研究具有强制右端的粘性Hamilton-Jacobi方程组的弱耦合系统在全空间$\mathbb{R}^N$中的遍历问题。假设哈密顿算子具有相当一般的结构,并且开关速率不需要是常数。证明了存在一个临界值$λ^*$,使得遍历本征值问题对每个$λ\leqλ^*$都有解,对$λ>λ^*$都无解.此外,还证明了对应于$λ^*$的非负解的存在唯一性.我们还展示了这些结果的含义控制切换扩散的遍历最优控制问题。
2021-11-22 math.AP math.OC
Diffusive limit approximation of pure jump optimal ergodic control problems
受快速强化学习算法设计的启发,研究了一类纯跳遍历随机控制问题的扩散极限。我们证明了,当跳跃的强度足够大时,近似误差由极限遍历偏微分方程解的Hessian矩阵的H {<$} lder连续性决定.这推广了文[1]关于有限时域问题的结果。我们还解释了如何在适当的平滑性假设下构造一阶误差校正项。最后,我们量化的误差所引起的使用马尔可夫控制策略构造的数值有限差分格式相关联的极限扩散问题,这似乎是新的文献和自己的兴趣。这种方法允许非常显著地降低数值分辨率成本。
2022-09-30 math.OC
Reinforcement Learning for Discounted and Ergodic Control of Diffusion Processes
University of Michigan(密歇根大学);Florida State University(佛罗里达州立大学);Indian Institute of Science Education and Research Bhopal(印度科学教育研究学院博帕尔分校);Queen’s University(女王大学)
本文提出量化Q学习算法,用于连续时间扩散过程的折扣与ergodic控制,证明其在近优策略下几乎必然收敛,并在温和条件下保证近优性速率。
2026-03-13 math.OC
The Ergodic Linear-Quadratic Optimal Control Problems with Random Periodic Coefficients
School of Mathematical Sciences, Fudan University(复旦大学数学科学学院);Laboratory of Mathematics for Nonlinear Science, Fudan University(复旦大学非线性科学数学实验室);State Key Laboratory of Cryptography and Digital Economy Security, Shandong University(山东大学密码学与数字经济安全国家重点实验室)
本文研究了具有随机周期系数的ergodic线性二次最优控制问题,提出了随机周期均方指数稳定的条件,并通过证明状态方程和随机Riccati方程的随机周期性,将无限时间 horizon上的ergodic成本函数简化为单周期区间上的成本函数,从而显式给出了闭环最优控制。
2026-01-13 math.OC
Optimal Ergodic Control of Linear Stochastic Differential Equations with Quadratic Cost Functionals Having Indefinite Weights
研究了一类具有二次代价泛函的线性随机微分方程的最优遍历控制问题(简称EC问题)。在状态方程中出现了常非齐次项,但不全为零,这导致了状态非零的渐近极限。在可稳定性条件下,证明了对于任意(容许的)闭环策略,存在一个不变测度,从而使得遍历代价泛函得到了良好的定义,EC问题得到了良好的形式化。给出了EC问题有限性和可解性的充分条件,包括允许代价泛函的权矩阵不定的条件。对EC问题的可解性与无限时域随机线性二次最优控制问题的闭环可解性进行了比较。引入正则化EC问题来求解EC问题的最优值。
2020-04-23 math.OC
Ergodic Mean-Field Games of Singular Control with Regime-Switching (Extended Version)
本文研究带状态切换的奇异控制平稳平均场博弈,通过构造性方法证明平稳平均场均衡的存在唯一性,并借助辅助Dynkin博弈刻画最优解,进而实现对称的$\varepsilon_N$-纳什均衡。
2024-12-30 math.OC
Ergodic control of a class of jump diffusions with finite Lévy measures and rough kernels
研究了$\mathbb{R}^d$中一类跳跃扩散过程的遍历控制问题,该过程是通过有界控制的漂移来控制的。Levy测度是有限的,但没有特殊的结构;它可以是各向异性的和奇异的。此外,对于受控过程,不存在覆盖遍历性假设。不稳定的行为是"劝阻"的运行成本,满足一个温和的强制性假设(即,几乎是单调的)。首先,我们研究的问题,在其弱制定为一个最优化问题的空间上的无穷小遍历占领措施,并推导出Hamilton-Jacobi-Bellman方程的参数,包括验证的最优性结果,仅使用分析参数的最小假设。我们还研究了不变测度的正则性。然后,我们讨论了跳跃扩散模型,并得到了最优性的完整刻画。
2018-01-24 math.AP math.OC
Impulse control maximising average cost per unit time: a non-uniformly ergodic case
本文针对非一致遍历的Feller-Markov过程,研究单位时间平均成本最大化的脉冲控制问题,允许无界脉冲成本,证明最优值与初始状态无关并给出最优或近似最优策略。
2016-07-21 math.OC
Ergodic Diffusion Control of Multiclass Multi-Pool Networks in the Halfin-Whitt Regime
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Pennsylvania State University(宾夕法尼亚州立大学)
本文研究了在Halfin-Whitt regime下,多类多池网络在遍历平均成本准则下的极限扩散控制问题,提出了两种控制形式:最小化排队和空闲成本,以及仅最小化排队成本并约束所有服务器池的空闲率。通过递归叶消除算法,得到了受控扩散过程的漂移表达式,并证明了存在稳定的马尔可夫控制使扩散过程几何平稳。
2015-08-19 cs.SY eess.SY math.OC
Ergodicity, Output-Controllability, and Antithetic Integral Control of Uncertain Stochastic Reaction Networks
随机反应网络的遍历性和输出可控性已被证明是实现其控制的基本属性,例如,使用对偶积分控制。在这里,我们建议将这些属性扩展到不确定网络的情况。为此,区间,鲁棒,符号,结构遍历性/输出可控性的概念被引入。所获得的结果与[Briat,Gupta & Khammash,Cell Systems,2016]中所获得的结果具有相同的精神,其中这些特性的特征在于控制理论概念,线性代数条件,线性规划和图论/代数条件。一个重要的结论是,所有这些性质都可以用线性规划来刻画。文中给出了两个例子。
2020-06-23 cs.SY eess.SY math.OC
On the Ergodic Control of Ensembles in the Presence of Non-linear Filters
针对共享经济与传统经济中多智能体集合体的总体调节及个体收益或服务质量保证问题,本文将已有线性滤波器下的唯一遍历性结果推广到含非线性滤波器等非线性元件的系统。
2022-09-12 math.OC
Ergodic Mean Field Games of Controls with State Constraints
本文研究了具有状态约束的二阶均场博弈控件的ergodic问题,通过分析价值函数在边界处发散、玩家密度以协调速率消失以及状态与控制的联合分布满足固定点关系的系统,证明了在单调耦合和二次增长哈密顿量条件下问题的适定性。
2026-04-08 math.AP math.OC
Ergodic control of multi-class $M/M/N+M$ queues in the Halfin-Whitt regime
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Pennsylvania State University(宾夕法尼亚州立大学)
研究多类队列网络在大量统计相同服务器池中的动态调度问题,通过遍历扩散控制问题近似最优解,建立完全最优性特征并证明多类队列控制问题值的渐近收敛性。
2015-10-29 cs.SY eess.SY math.OC
Stationary Discounted and Ergodic Mean Field Games of Singular Control
本文研究奇异控制下的平稳平均场博弈,证明贴现与遍历两种准则下均衡的存在唯一性,并通过阿贝尔极限建立二者联系,从而用贴现博弈的平均场均衡近似对称N人遍历博弈的纳什均衡。
2021-05-15 math.OC q-fin.MF
Ergodic control of McKean-Vlasov systems on the Wasserstein space
本文研究了在Wasserstein空间上麦肯-瓦拉斯科系统耗散控制问题,通过构建值函数和相关函数,解决耗散哈密顿-雅可比-贝尔曼方程,并探讨了优化问题的极限行为。
2025-11-24 math.OC
On asymptotic relations between singular and constrained control problems of one-dimensional diffusions
本文研究了具有折扣目标和遍历目标的一维奇异和约束控制问题之间的渐近关系。通过约束控制问题,我们的意思是控制只允许在独立的泊松到达时间。我们表明,当潜在的扩散是经常性的,折扣问题的解决方案收敛于阿贝尔意义下的遍历对应。此外,我们还证明了当Poisson率趋于无穷大时,约束问题的解收敛到奇异问题的解。我们用漂移的布朗运动和Ornstein-Uhlenbeck过程来说明结果。
2020-11-01 math.OC math.PR
Cooperation, Correlation and Competition in Ergodic N-player Games and Mean-field Games of Singular Controls: A Case Study
研究具有遍历性能准则的奇异控制N人博弈与均场博弈,探讨均场控制、粗相关均衡和Nash均衡三种最优性,通过Lagrange乘子法等方法显式计算并比较均衡,证明均场均衡可近似大规模N人博弈的合作与竞争均衡。
2025-04-29 math.OC math.PR q-fin.MF
Analytical and numerical solutions to ergodic control problems arising in environmental management
优化长期目标的环境管理是一个遍历控制问题,其解决方案可以通过求解相关的非局部Hamilton-Jacobi-Bellman(HJB)方程来实现。泥沙存储管理作为一个现代工程问题,我们制定,分析和计算离散观测下的一个新的遍历控制问题:一个简单但不平凡的数学问题。我们给出了相应的具有唯一非光滑性和间断性的HJB方程的最优性和比较结果。为了数值计算HJB方程,我们提出了一种新的快速扫描方法,该方法既不需要伪时间积分,也不需要消失折扣。最优策略和有效的哈密顿量,然后同时计算。计算分析了数值解的收敛速度。一个先进的鲁棒控制对应的动态涉及的不确定性也被认为是数字。
2021-04-25 cs.NA math.NA math.OC
Exponential rate of convergence of relative value iteration algorithms for ergodic controls of diffusions
Institut Für Mathematik, Technische Universität Ilmenau(蒂宾根工业大学);Rice University(莱斯大学)
针对扩散过程在均匀指数稳定条件下的遍历成本和遍历风险敏感成本问题,提出基于偏微分方程修正的离散时间相对值迭代算法,并证明在加权上确界范数下具有指数收敛速率。
2026-09-15 math.OC math.PR
Quasi-Ergodic Control of Multi-Periodic Autoregressive Processes: Formulation and Examples
针对周期自回归滑动平均噪声驱动系统的控制难题,提出显式强制状态分布时间周期性的公式化,以周期随机过程基离散化并避免指数扩展。
2025-09-29 math.OC
Model predictive altitude and velocity control in ergodic potential field directed multi-UAV search
Faculty of Engineering, University of Rijeka(里耶卡大学工程学院)
本研究提出一种结合二维ergodic搜索与模型预测控制的多无人机高度和速度控制方法,以提高复杂地形中的搜索效率。
2024-01-05 cs.MA cs.RO math.OC
Convergence of The Relative Value Iteration for the Ergodic Control Problem of Nondegenerate Diffusions under Near-Monotone Costs
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Indian Institute of Technology, Powai, Mumbai 400076, India(印度理工学院)
针对漂移控制的非退化扩散过程,在近单调运行成本结构下,研究相对值迭代算法(拟线性抛物型柯西初值问题)的解对任意有界初始条件收敛到遍历控制问题对应的Hamilton-Jacobi-Bellman方程的解。
2013-04-02 cs.SY eess.SY math.AP
Spectral Theorem for Convex Monotone Homogeneous Maps, and Ergodic Control
我们考虑单调的凸映射f:R^n -> R^n(即,保持R^n)的乘积序,并且对于超范数是非扩张的。这包括加性齐次的凸单调映射(即,这与常数的加法交换)。证明了当f非空时,f的不动点集同构于R^n的凸下半格,其维数至多等于由f的切仿射映射定义的临界图的强连通分支数.这产生特别是一个独特的结果,遍历控制问题的偏置向量。这推广了Lanery,Romanovsky,Schweitzer和Federgruen以前得到的结果,遍历控制问题的有限状态和动作空间,对应于特殊情况下的分段仿射映射f。我们还证明了f的周期轨道的长度受其临界图的圈性的限制,这意味着f的可能轨道长度恰好是n个字母上的对称群的元素的阶.
2001-10-10 math.OC math.SP
On the Ergodic Control of Ensembles
IBM
本文研究了在智能电网和智能城市应用中,如何通过控制代理集合来保证整体行为和个体层面的系统性能均可接受。传统PI控制可能不总是适合此类控制,有时会导致闭环系统遍历性的丧失。本文提出了一种理论框架,用于分析和设计具有概率意图的大规模代理集合的控制系统。
2019-06-23 cs.SY eess.SY math.OC
Ergodic control of a heterogeneous population and application to electricity pricing
针对可在选项间切换的无限异质智能体总体,研究平均场Markov决策过程的遍历控制,证明特征问题解的存在性与非唯一性,并提出适配可分解模型的即时转移策略迭代算法,应用于电力定价并发现循环促销策略。
2024-04-04 math.OC
Linear PDEs and eigenvalue problems corresponding to ergodic stochastic optimization problems on compact manifolds
考虑具有特殊结构的长期平均或“遍历”最优控制方案:控制作用于所有方向,控制代价正比于控制域范数的平方,且控制域范数与噪声度量成正比.流形上的长期随机动力学将完全由长期密度$ρ$和长期电流密度$J$表征。因此,控制问题可以重新表述为$ρ$和$J$上的变分问题。我们讨论了几个最优化问题:其中$ρ$和$J$都是自由变化的问题,其中$ρ$是固定的问题和其中$J$是固定的问题。这些问题导致不同类型的运营商的问题:线性偏微分方程在前两种情况下,在后一种情况下的非线性偏微分方程。这些结果是通过变分原理,利用无穷维Lagrange乘子得到的。在初始动力学是可逆的情况下,我们得到的结果,最佳控制扩散也是对称化的。约束的动态可逆的最优控制过程的特定情况下,导致一个线性本征值问题的平方根的密度过程。
2016-01-29 math-ph math.MP math.OC
Optimal Bias Potentials via Ergodic Optimal Control and Generator Learning
Otto-von-Guericke Universität(奥托·冯·格里克大学);Max-Planck-Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Brandenburg University of Technology Cottbus-Senftenberg(勃兰登堡工业大学科特布斯-森夫滕贝格分校);Martin-Luther-Universität Halle-Wittenberg(马丁·路德·哈雷-维滕贝格大学);LAAS-CNRS, Université de Toulouse(图卢兹大学法国国家科学研究中心实验室)
本文通过将最优偏置势计算转化为遍历最优控制问题,并利用生成元学习求解,以加速分子动力学中的状态跃迁和平衡性质计算。
2026-09-24 math.DS math.OC physics.comp-ph
Convergence Analysis of Machine Learning Algorithms for the Numerical Solution of Mean Field Control and Games: I -- The Ergodic Case
本文提出了两种求解遍历McKean-Vlasov动力学最优控制的算法。这两种算法都是基于神经网络的理论解的近似,后者的特征在于它们的结构和一组参数。这允许使用现代机器学习工具,并有效地实现随机梯度下降。第一个算法是基于遍历最优控制问题的特质。我们提供了一个数学证明的逼近方案的收敛性,我们严格分析的近似控制不同来源的错误。第二种方法是将深度伽辽金方法应用于由最优性条件产生的偏微分方程组。我们证明了这些算法的效率在几个数值例子中,其中一些被选择来表明,我们的算法成功的地方现有的失败。我们还认为,这两种方法可以很容易地应用到问题的尺寸大于可以在现有的文献中找到的。最后,我们说明了这样一个事实,即,虽然第一个算法是专门设计的平均场控制问题,第二个是更一般的,也可以适用于偏微分方程系统中产生的平均场博弈理论。
2021-03-29 cs.LG cs.NA math.NA