Regularized Jacobi iteration for decentralized convex optimization with separable constraints
我们考虑多智能体,凸优化程序受到可分离的约束,每个代理的约束函数只涉及其本地的决策向量,而所有代理的决策向量耦合通过一个共同的目标函数。我们专注于一个正则化的所谓的雅可比算法分散计算在这样的问题。我们首先考虑的情况下,目标函数是二次的,并提供了一个不动点理论分析表明,该算法收敛到一个最小的集中式问题。此外,我们量化的潜在好处,这样一个迭代方案进行比较,它对缩放投影梯度算法。然后,我们考虑一般情况下,并表明,所有的极限点的建议迭代的最优解的集中问题。所提出的算法的有效性说明了将其应用到电动汽车的最佳充电的问题,在那里,相对于早期的方法,我们显示收敛到一个最佳的充电方案有限,可能很大,数量的车辆。
2017-04-04 math.OC
A Policy Iteration Method for Inverse Mean Field Games
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种策略迭代方法,用于高效求解均场博弈的反问题,通过价值函数数据重建障碍函数,并证明了其线性收敛性。
2026-02-11 cs.GT cs.NA math.AP
Kinetic-type Mean Field Games with Non-separable Local Hamiltonians
本文通过能量方法与向量场方法,证明了非可分局部哈密顿量下动力学型平均场博弈的适定性,允许非光滑最终数据,并在小性条件下成立。
2024-03-19 math.AP math.OC
Multigrid methods for two-player zero-sum stochastic games
提出结合策略迭代与代数多重网格的快速数值算法,用于大规模完美信息零和随机博弈,并应用于Isaacs方程离散化。
2011-11-22 cs.NA math.NA math.OC
Rates of convergence for the policy iteration method for Mean Field Games systems
离散和连续最优控制问题的策略迭代法的收敛性在一般假设下成立。此外,在某些情况下,还可以显示算法的二次收敛速率。对于平均场对策,最近在[9]中证明了策略迭代法的收敛性。在这里,我们提供了它的收敛速率的估计。
2022-03-01 math.AP math.OC
Tauberian theorems for general iterations of operators: applications to zero-sum stochastic games
本文证明了算子一般迭代的几个Tauberian定理,并给出了两个应用于总收益是阶段收益加权和的零和随机对策。第一个应用是提供条件,在该条件下,当玩家变得越来越耐心时,渐近值的存在意味着加权博弈的值的收敛。第二个应用涉及有限状态空间和行动集的随机对策。本文建立了一类简单的加权博弈的渐近最优策略,即在每一阶段都在一个折扣博弈中进行最优博弈,折扣因子对应于当前阶段的相对权重。
2016-09-07 math.OC
Efficient Black-Box Reductions for Separable Cost Sharing
在具有延迟的成本分担博弈中,一组代理人共同分配有限的资源子集。每个资源都有一个固定的成本,必须由玩家共享,每个代理对每个资源都有一个不可共享的玩家特定延迟。一个突出的例子是无容量限制的设施位置(UFL),其中设施需要开放(以可分摊的成本),客户希望连接到开放的设施。每个客户端支付成本份额和他的不可共享的物理连接成本。给定由代理分配的子集的任何简档,可分离的成本分担协议确定满足每个资源上的预算平衡和资源上的可分离性的成本分担。此外,一个可分离的协议保证纯纳什均衡的存在性,在诱导策略博弈的代理。本文研究了几个一般组合域上的可分费用分担协议。我们提供黑盒减少,以减少一个可分离的成本分担协议的设计,一个近似算法的设计,为底层的成本最小化问题。通过这种方式,我们获得了新的可分离的成本分担协议的游戏基于任意玩家特定拟阵,单源连接游戏没有延迟,和连接游戏的$n$ -串-并图延迟。所有这些减少是有效的计算-给定一个初始分配配置文件,我们得到一个更便宜的配置文件和可分离的成本份额变成一个纯粹的纳什均衡。因此,在这些域中,任何近似算法都可以用于获得可分离的成本共享协议,其稳定性代价由近似因子限定。
2018-02-28 cs.DM cs.DS cs.GT
Deep Policy Iteration for High-Dimensional Mean Field Games
针对传统策略迭代受维数灾难限制难以求解高维平均场博弈的问题,提出融合神经网络与策略迭代优势的深度策略迭代方法,通过迭代训练三个网络求解迭代方程,实现与MFDGM相当的收敛效果,拓展了策略迭代的适用场景。
2024-07-11 math.OC
Convergence and Margin of Adversarial Training on Separable Data
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
对抗训练是一种用于训练鲁棒机器学习模型的技术。为了增强鲁棒性,它迭代地计算模型的对抗性示例,然后通过一些更新规则重新训练这些示例。这项工作分析了线性可分数据上对抗训练的性能,并提供了大幅度所需迭代次数的界限。我们表明,当更新规则由任意经验风险最小化器给出时,对抗训练可能需要指数级多次迭代才能获得较大的保证金。然而,如果使用梯度或随机梯度更新规则,则仅需要多项式多次迭代来找到大余量分离器。相比之下,在不使用对抗性示例的情况下,梯度方法可能需要指数级多次迭代才能实现大的裕度。我们的结果是通过显示具有梯度更新的对抗训练以$\mathcal{O}(\ln(t)^2/t)$速率最小化经验风险的鲁棒版本而得出的,尽管不平滑。我们从经验上证实了我们的理论。
2019-05-22 cs.LG math.OC stat.ML
Solving irreducible stochastic mean-payoff games and entropy games by relative Krasnoselskii-Mann iteration
本研究结合相对值迭代与Krasnoselskii-Mann阻尼提出求解不可约随机平均收益博弈的算法,证明其ε-近似迭代复杂度为O(|logε|),还将方法拓展至熵博弈并通过变分分析验证收缩性质。
2023-05-03 cs.GT math.OC
Value Iteration Algorithm for Mean-field Games
在文献中,平均场均衡的存在性已经建立了离散时间的平均场博弈下的折扣成本和平均成本最优性标准。在本文中,我们提供了一个值迭代算法来计算平均场平衡的贴现成本和平均成本的标准,其存在性已被证明。我们建立了值迭代算法收敛到平均场平衡算子的不动点。然后,利用这个不动点,我们构造一个平均场均衡。在我们的值迭代算法中,我们使用$Q$ -函数代替值函数。
2020-04-01 cs.SY eess.SY math.OC
Policy iteration for perfect information stochastic mean payoff games with bounded first return times is strongly polynomial
Ye和Hansen,Miltersen和Zwick的最新结果表明,一个或两个玩家(完美信息)零和随机对策的政策迭代,限制在一个固定的折扣率的情况下,是强多项式。我们表明,平均支付零和随机对策的策略迭代也是强多项式时,限制到给定状态的第一个有界的平均返回时间的情况下。证明是基于非线性Perron-Frobenius理论的方法,使我们能够减少平均支付问题的状态依赖贴现率的贴现问题。我们的分析还表明,政策迭代仍然是强多项式的贴现问题,其中的贴现率可以在某些状态下的状态依赖(甚至是负的),提供的非负矩阵的谱半径相关的所有战略是有界的从上面严格小于1的固定常数。
2013-10-18 math.OC
Two-Person Additively-Separable Sum Games
本文提出双人可加分离和(TPASS)博弈,证明其均衡存在性,并利用线性规划对偶与互补松弛定理揭示均衡集合与对偶线性规划解的投影等价关系,推广了双人零和博弈的经典结论。
2025-10-31 cs.GT math.OC
A fixed-point policy-iteration-type algorithm for symmetric nonzero-sum stochastic impulse control games
具有脉冲控制的非零和随机微分对策为金融、能源市场和其他领域的应用提供了一个现实而深远的建模框架,但解决这些问题的困难阻碍了它们的扩散。半分析性方法对非常特殊的情况作了强有力的假设。据作者所知,文献中唯一的数值方法是我们提出的求解拟变分不等式的启发式方法。针对对称对策问题,提出了一种简单、精确、高效的不动点策略迭代型算法,该算法消除了以往算法对初始猜想和松弛方案的强依赖性.一个严格的收敛性分析进行自然假设的球员的战略,承认图论的解释弱链对角占优矩阵的背景下。还提供了一种新的可证明收敛的单人脉冲控制求解器。主要算法用于高精度计算其他非常具有挑战性的问题的均衡收益和纳什均衡,甚至一些超出了当前可用理论的范围。
2020-06-15 cs.NA econ.GN math.NA
A neural network based policy iteration algorithm with global $H^2$-superlinear convergence for stochastic games on domains
North Carolina State University(北卡罗来纳州立大学);University of Oxford(牛津大学)
本文提出了一类求解半线性Hamilton-Jacobi-Bellman-Isaacs(HJBI)边值问题的数值格式,该边值问题是由具有受控漂移的扩散过程的出口时间问题自然产生的.我们利用策略迭代将半线性问题转化为一系列线性狄利克雷问题,然后用多层前向神经网络逼近。我们建立的数值解全局收敛的$H^2$ -范数,并进一步证明,这种收敛是超线性的,通过解释算法作为一个不精确的牛顿迭代的HJBI方程。此外,我们构造了最优反馈控制的数值函数,并证明了收敛性。然后将数值格式和收敛结果推广到具有斜边界反射的受控扩散过程的HJBI边值问题。随机Zermelo导航问题的数值实验说明了理论结果,并证明了该方法的有效性。
2020-02-13 cs.LG cs.NA math.NA
A Policy Iteration Algorithm for N-player General-Sum Linear Quadratic Dynamic Games
本文提出一种用于N玩家一般和线性二次动态博弈的策略迭代算法,证明其不同于高斯-牛顿策略梯度方法,并通过数值实验表明其收敛更快且对初始策略和玩家数量变化更鲁棒。
2024-10-04 cs.SY eess.SY math.OC
Solving separable convex optimization problems: Faster prediction-correction framework
本文提出一个更快的预测-校正框架,用于求解可分离凸优化问题,在非遍历和逐点意义上分别达到 $O(1/t)$ 和 $O(1/t^2)$ 的收敛速率,并给出三种基于该框架的算法,分别处理两块、多块和极小极大问题。
2024-02-03 math.OC
Learning optimal policies in potential Mean Field Games: Smoothed Policy Iteration algorithms
本文提出两种平滑策略迭代算法,用于求解二阶势平均场博弈的纳什均衡,并在Lasry Lions单调性条件下证明全局收敛性,同时揭示其与虚拟对局算法的联系。
2023-04-17 math.OC
Limited Resource Optimal Distribution Algorithm Based on Game Iteration Method
本文给出了线性规划问题的一种求解算法,并将线性规划问题描述为一个对抗矩阵对策问题,从而用迭代法进一步求解。该算法是作为一个计算机程序。在应用必要的精度后,作者研究了与实际值有关的解的评估收敛速度。程序实施表明LPP解决方案的接收率很高,可接受的精度是分数或单位。它允许在集成系统中使用该算法,用于其最优控制的目的。
2019-05-11 cs.GT math.OC
Distributed Optimization via Adaptive Regularization for Large Problems with Separable Constraints
许多实际应用需要解决大型高维数据集的优化问题,这使得这些问题难以解决并且非常耗时。在本文中,我们提出了一个并行分布式算法,使用自适应正则化(PDAR)解决可分离约束的联合优化问题。正则化器是自适应的,并且取决于迭代之间的步长和迭代次数。理论上证明了算法收敛于最优解,并通过一个多智能体三箱资源分配问题的算例说明了算法的有效性.数值模拟表明,我们的算法收敛到相同的最优解,与其他分布式方法,显着减少计算时间。
2012-11-30 cs.DC math.OC
Policy iteration algorithm for zero-sum multichain stochastic games with mean payoff and perfect information
我们考虑零和随机对策与有限的状态和行动空间,完美的信息,平均支付标准,没有任何不可约的假设,马尔可夫链相关的战略(多链游戏)。这种游戏的价值可以用一个非线性方程组来描述,包括平均支付向量和一个辅助向量(相对价值或偏差)。我们在这里开发了一个策略迭代算法的零和随机对策的平均回报,以下的两个作者的想法(Cochet-Terrasson和Gaubert,C。R.数学学院Sci.巴黎,2006年)。该算法依赖于非线性谱投影的概念(Akian和Gaubert,Nonlinear Analysis TMA,2003),其类似于线性位势论中的超调和函数的约化的概念。为了避免循环,在每次退化迭代(其中平均支付向量没有改进),通过减少先前的相对值来获得新的相对值。我们表明,序列的值和相对值满足字典序单调性,这意味着该算法不终止。我们说明了算法的平均支付版本的里奇曼游戏(随机拔河或离散无穷拉普拉斯型方程),其中退化迭代是频繁的。我们报告的数值实验大规模的情况下,从后者的游戏,以及从单调离散化的平均回报追求逃避确定性微分对策。
2012-08-02 cs.GT math.OC
Relative Value Iteration for Stochastic Differential Games
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究非退化受控扩散过程驱动的零和随机微分博弈,在均匀稳定性假设下建立遍历博弈Isaacs方程解的存在性并刻画最优平稳策略,同时提出相对值迭代格式并证明其在几何遍历性假设下收敛到椭圆Isaacs方程。
2013-04-02 cs.SY eess.SY math.OC
Solving Ergodic Markov Decision Processes and Perfect Information Zero-sum Stochastic Games by Variance Reduced Deflated Value Iteration
最近,Sidford,Wang,Wu和Ye(2018)开发了一种将方差缩减技术与值迭代相结合的算法来求解折扣马尔可夫决策过程。当折扣因子固定时,该算法具有次线性复杂度。在这里,我们将这种方法推广到均值支付问题,包括马尔可夫决策过程和完美信息零和随机对策。我们得到次线性复杂性界,假设有一个区别的状态,这是从所有的初态和所有的政策。我们的方法是基于减少从平均支付问题的折扣问题的Doob h-变换,结合通货紧缩技术。该算法的复杂性分析同时使用Sidford等人开发的技术。在折扣情况下和非线性谱理论技术(Collatz-Wielandt特征值)。
2019-09-13 math.OC
Equilibrium Correction Iteration for A Class of Mean-Field Game Inverse Problem
研究逆向平均场博弈中的势能识别问题,提出利用MFG结构的均衡校正迭代法(ECI)及两种加速变体,并通过数值实验揭示参数对反问题适定性的影响。
2025-10-12 math.OC
Efficient parallel coordinate descent algorithm for convex optimization problems with separable constraints: application to distributed MPC
在本文中,我们提出了一个并行坐标下降算法求解光滑凸优化问题的可分离的约束,可能会出现,例如在分布式模型预测控制(MPC)的线性网络系统。我们的算法是基于块坐标下降并行更新,并有一个非常简单的迭代。在光滑凸优化的标准假设下,我们证明了新算法的(亚)线性收敛速率。此外,我们的算法使用本地信息,因此适合分布式实现。此外,它具有较低的迭代复杂度,这使得它适合嵌入式控制。基于这种新的并行算法,推导出一种MPC方案,使网络中的每个子系统都可以使用分布式和廉价的计算来计算可行的和稳定的控制输入。为了确保MPC方案的稳定性,我们使用来自分布式合成的终端成本公式。初步的数值试验表明,我们的优化算法比其他现有的方法有更好的性能。
2014-11-18 math.OC
Policy Iteration for Two-Player General-Sum Stochastic Stackelberg Games
本文提出了一种新的策略迭代算法,保证领导者策略的单调改进,并引入帕累托最优作为SSE的扩展最优性,证明在领导者短视时算法收敛到帕累托前沿。
2026-03-16 cs.GT cs.LG cs.MA
The Golden Ratio Proximal ADMM with Norm Independent Step-Sizes for Separable Convex Optimization
Indian Institute of Technology Madras(印度马德拉斯理工学院);The University of Melbourne(墨尔本大学)
提出两种无需算子范数估计的黄金比例近端ADMM步长策略,证明全局收敛性和次线性收敛率,并通过数值实验验证其有效性。
2026-06-17 math.OC
Large-scale randomized-coordinate descent methods with non-separable linear constraints
我们发展了线性约束凸优化的随机(块)坐标下降(CD)方法。与大多数CD方法不同,我们不假设约束是可分离的,而是让它们线性耦合。据我们所知,我们是第一个CD方法,允许线性耦合约束,而不会使全局迭代复杂性有一个指数依赖于约束的数量。我们目前的算法和分析四个关键问题的情况下:(一)光滑;(二)光滑+非光滑可分离;(三)异步并行;(四)随机。我们通过仿真实验说明了我们的算法的经验行为。
2015-06-10 math.OC stat.ML
Distributed Asynchronous Policy Iteration for Sequential Zero-Sum Games and Minimax Control
我们介绍了一个压缩抽象动态规划框架和相关的政策迭代算法,专门设计的顺序零和游戏和极大极小问题的一般结构。除了更大的一般性,我们的算法优于替代方案的优点是,它们解决了一些长期存在的收敛困难的“自然”的政策迭代算法,这是已知的,因为Pollatschek和Avi-Itzhak方法[PoA 69]有限状态马尔可夫博弈。在数学上,这种“自然”算法是牛顿方法的一种形式,用于求解贝尔曼方程,但牛顿方法,与单人DP问题的情况相反,在极大极小问题的情况下不是全局收敛的,因为贝尔曼算子可能具有既不是凸也不是凹的分量。我们的算法通过引入交替的玩家选择来解决这个困难,并通过使用具有统一超范数收缩属性的策略依赖映射,类似于Bertsekas和Yu的早期作品[BeY 10],[BeY 12],[YuB 13]。此外,我们的算法允许一个收敛和高度并行化的实现,这是基于状态空间分区,和分布式异步策略评估和策略改进操作内的每一组分区。我们的框架也适合使用基于聚合的强化学习方法,这可能对大规模问题实例有用。
2021-10-20 cs.GT cs.SY eess.SY
Conservation laws of mean field games equations
本文研究平均场博弈方程组的守恒律,利用其变分结构,通过Noether定理从变分和散度对称性推导守恒律,并识别出具有额外对称性的特殊情形。
2023-05-11 math-ph math.MP math.OC
A parameterized proximal point algorithm for separable convex optimization
本文提出了求解一类线性和凸约束可分凸规划问题的参数化邻近点法(P-PPA)。该算法是全局收敛的,最坏情况下的收敛速度为O(1/t)收敛速度,其中t表示迭代次数.通过合理选择算法参数,对一个由统计学习引起的稀疏最优化问题的数值实验表明,该算法的性能明显优于其他最先进的方法,如交替方向法和松弛邻近点法.
2018-12-10 math.OC
An inexact perturbed path-following method for Lagrangian decomposition in large-scale separable convex optimization
本文在拉格朗日对偶分解的框架下,提出了一种求解大规模结构凸优化问题的不精确扰动路径跟踪算法。与文献中考虑的确切版本不同,我们允许一个解决原始问题不精确到一个给定的精度。不精确扰动算法允许使用近似黑塞矩阵和近似梯度向量来计算对偶问题的牛顿型方向。该算法分为两个阶段。第一阶段利用不精确扰动阻尼牛顿型迭代计算初始点,而第二阶段利用不精确扰动全步牛顿型迭代执行路径跟踪算法。我们分析了这两个阶段的收敛性,并估计了最坏情况下的复杂度。作为一种特殊情况,导出了拉格朗日松弛的精确路径跟踪算法,并估计了其最坏情况的复杂度。该变体与先前已知的方法相比具有一些差异。实施细节进行了讨论和数值结果报告。
2011-09-15 math.OC
Mean Field Games systems under displacement monotonicity
该研究提出适用于不可分哈密顿量的位移单调性条件,证明了带退化个体噪声的平均场博弈系统解的唯一性、存在性与正则性,结果适用于任意长时间范围,且分析不依赖主方程适定性。
2023-08-22 math.AP math.OC
Fast Inexact Decomposition Algorithms For Large-Scale Separable Convex Optimization
本文提出了一种新的求解可分凸优化问题的不精确对偶分解算法。该算法结合了对偶拉格朗日分解、平滑和过度间隔三种技术。该算法在每次迭代中只需要一个原始步骤和两个对偶步骤,并允许不精确地并行求解每个分量的子问题。此外,算法参数自动更新,没有任何调整策略,在增广拉格朗日方法。我们分析了算法的收敛性,并估计了其$O(\frac{1}{\varepsilon})$最坏情况的复杂度。数值算例验证了理论结果。
2013-02-07 math.OC
On the Convergence of Stochastic Extragradient for Bilinear Games using Restarted Iteration Averaging
University of California, Berkeley(加州大学伯克利分校);Johns Hopkins University(约翰斯·霍普金斯大学);Mila(米拉研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学);Microsoft Research(微软研究院)
我们研究了随机双线性极大极小最优化问题,提出了一种分析相同的样本随机ExtraGradient(SEG)方法与恒定的步长,并提出了变化的方法,产生良好的收敛性。与最后一次迭代仅收缩到纳什均衡的固定邻域的基本SEG方法形成鲜明对比,在相同的标准设置下,通过迭代平均增强的SEG可证明收敛到纳什均衡,并且通过结合预定的重新启动过程进一步提高了这样的速率。在插值设置噪声消失的纳什均衡,我们实现了最佳的收敛速度紧常数。我们提出了数值实验,验证我们的理论研究结果,并证明了SEG方法的有效性时,配备迭代平均和重新启动。
2022-04-08 cs.GT cs.LG math.OC
A preconditioned Forward-Backward method for partially separable SemiDefinite Programs
我们提出了半分散和分布式算法,设计通过一个预处理的向前向后操作分裂,解决大规模的,可分解的半定规划(SDP)。我们利用弦聚集稀疏模式假设的原始SDP,以获得一组相互耦合的SDPs上定义的半正定(PSD)锥的降维。我们表明,所提出的算法收敛到原来的SDP通过合理的计算成本迭代的解决方案。最后,我们比较了这两个算法的性能与其他文献中。
2019-11-17 cs.MA math.OC
A Constant Step Stochastic Douglas-Rachford Algorithm with Application to Non Separable Regularizations
Douglas Rachford算法是收敛于两个凸函数之和的最小值的算法。该算法包括在不动点迭代涉及的两个函数的邻近算子的计算分别。本文研究了一个随机版本的算法,其中两个功能是随机的,步长是常数。我们证明了当步长足够小时,算法的迭代次数以高概率接近解集。结构正则化的应用被认为是。
2018-04-03 math.OC stat.ML
Gaussian process policy iteration with additive Schwarz acceleration for forward and inverse HJB and mean field game problems
Department of Computing and Mathematical Sciences, California Institute of Technology, CA, USA(计算与数学科学系,加州理工学院,CA,美国);Department of Mathematics and Risk Management Institute, National University of Singapore, Singapore(数学与风险管理研究所,新加坡国立大学,新加坡)
提出高斯过程策略迭代框架,通过线性PDE配位约束和Legendre变换求解HJB方程和平均场博弈的正向与逆向问题,并利用加性Schwarz加速提高收敛效率。
2026-06-23 cs.LG math.OC
The Simple Strategy-Iteration Method is Strongly Polynomial for the Turn-Based Deterministic Forward Game
Hong Kong University of Science and Technology(香港科技大学);Stanford University(斯坦福大学);Shanghai Jiao Tong University(上海交通大学);Shanghai Institute for Mathematics and Interdisciplinary Sciences(上海数学与交叉学科研究院)
研究回合制确定性前向博弈(TBDFGs),提出两种算法:结构无关的策略迭代方法在强多项式时间内收敛,而结构感知的后向SCC传播算法进一步降低复杂度。
2026-06-28 cs.CC math.OC
Algorithms for zero-sum stochastic games with the risk-sensitive average criterion
本文针对零和风险敏感平均随机博弈,引入不可约系数并建立其与不可约条件的等价性,提出两种迭代算法分别计算值的ε-近似和有限步内获得ε-鞍点,并通过智能电网能量管理数值例子验证了结果。
2025-05-07 math.OC
A primal-dual fixed-point algorithm for minimization of the sum of three convex separable functions
图像处理和信号恢复中的许多问题都可以归结为三个凸可分函数之和的最小化问题。通常,目标函数包括具有Lipschitz连续梯度的光滑函数、线性复合非光滑函数和非光滑函数。在本文中,我们提出了一个原始-对偶不动点(PDFP)计划来解决上述问题。当非光滑函数可以通过其邻近算子(如$\ell_1$型正则化)求解时,该算法是一种完全分裂的对称格式,只涉及显式梯度算子和线性算子,不需要内迭代.我们研究了该算法的收敛性,并通过融合LASSO和图像恢复与非负约束和稀疏正则化的例子来说明它的效率。
2015-12-31 math.OC
Robustness and Approximation of Discrete-time Mean-field Games under Discounted Cost Criterion
University of Connecticut(康涅狄格大学);Bilkent University(比尔肯特大学)
本文研究了在模型不确定性下离散时间均场均衡的鲁棒性,通过价值迭代算法的收敛条件,证明了系统动态误标情况下均场均衡的鲁棒性,并展示状态空间量化足够精细时有限模型的均场均衡近似于名义解。
2023-10-16 cs.SY eess.SY math.OC
Iterative Minimax Games with Coupled Linear Constraints
Department of Mathematics, Shanghai University, Shanghai 200444, People’s Republic of China(上海大学数学系);LSEC, ICMSEC, Academy of Mathematics and Systems Science, Chinese Academy of Sciences, Beijing 100190, China(中国科学院数学与系统科学研究院);Newtouch Center for Mathematics of Shanghai University, Shanghai 200444, People’s Republic of China(上海大学数学中心)
本文提出原始-对偶交替近端梯度算法,解决非凸非光滑且带耦合线性约束的迭代极小极大博弈,给出强凹与凹情形下的首次迭代复杂度界。
2025-06-24 cs.LG math.OC stat.ML
Sensitivity Analysis for Convex Separable Optimization over Integral Polymatroids
我们研究了凸可分优化问题的最优解在一个整多项式拟阵基多面体上对决定每个元素和多面体的代价的参数的灵敏度。根据凸性和正则性假设的功能依赖的成本函数相对于参数,我们表明,重新优化后的参数变化可以通过初等局部操作。应用这一结果,我们得出,从任何最优解开始,有一个新的最优解,新的参数,使两个解决方案的差异的L1范数最多是两倍的L1范数的参数的差异。我们将这些灵敏度结果应用到一类非合作多拟阵博弈中,得到了纯纳什均衡的存在性。我们补充我们的结果表明,多拟阵是最大的组合结构,使这些结果。对于任何非多拟阵区域,存在相应的优化问题,灵敏度结果不成立。此外,有一个游戏,其中的球员战略同构的非多拟阵区域,不承认一个纯粹的纳什均衡。
2016-12-08 cs.DM cs.DS cs.GT
Robust policy iteration for continuous-time stochastic $H_\infty$ control problem with unknown dynamics
本文针对动态未知的连续时间随机H∞控制问题,提出一种基于强化学习的策略迭代算法,仅需一次数据采集即可迭代求解随机博弈代数Riccati方程,并证明了算法的鲁棒收敛性,最终通过仿真验证其有效性。
2024-10-01 math.OC
Provably Fast Convergence of Independent Natural Policy Gradient for Markov Potential Games
Northeastern University(东北大学);Texas A&M University(德克萨斯A&M大学)
本文研究马尔可夫势博弈中多智能体强化学习的独立自然策略梯度算法,通过引入次优性间隙,证明其在O(1/ε)次迭代内达到ε-纳什均衡,改进了此前O(1/ε^2)的结果,并通过合成势博弈和拥堵博弈实验验证了理论界。
2023-10-27 cs.LG math.OC