Asynchronous Distributed Optimization via Randomized Dual Proximal Gradient
Università del Salento（萨伦托大学）
本文提出基于对偶问题的近似梯度方法，通过选择合适的原变量副本，使对偶问题分离，并开发异步算法以实现非重叠块的分布式优化。
2016-06-24 cs.SY eess.SY math.OC
The Sound of APALM Clapping: Faster Nonsmooth Nonconvex Optimization with Stochastic Asynchronous PALM
本文介绍了随机异步近似交替线性化最小化（SAPALM）方法，它是一种求解非凸、非光滑最优化问题的块坐标随机近似梯度法. SAPALM是第一个异步并行最优化方法，可证明收敛于一大类非凸，非光滑的问题。我们证明，SAPALM匹配最知名的收敛速度-同步或异步方法-在这个问题类。我们提供了上界的工人的数量，我们可以期望看到一个线性加速，这符合已知的最佳界限不太复杂的问题，并表明在实践中SAPALM实现这种线性加速。我们展示了几个矩阵分解问题的最先进的性能。
2016-06-07 math.OC
An asynchronous distributed and scalable generalized Nash equilibrium seeking algorithm for strongly monotone games
本文提出了三种分布式算法来求解一类强单调对策中的广义纳什均衡（GNE）寻求问题。第一个（SD-GENO）是基于代理的同步更新，而第二个和第三个（AD-GEED和AD-GENO）代表异步解决方案，是强大的通信延迟。AD-GENO可以看作是AD-GEED的一个改进，因为它只需要节点辅助变量，增强了算法的可扩展性。我们的主要贡献是证明收敛到一个变分GNE的游戏通过运营商理论的方法。最后，我们将算法应用到网络古诺博弈中，并展示了不同的激活序列和延迟如何影响收敛。我们还比较了所提出的算法，只有其他文献（ADAGNES），并观察到，AD-GENO优于替代品。
2020-05-06 cs.GT math.OC
Projective Splitting as a Warped Proximal Algorithm
我们证明了P.L. Combettes和J. Eckstein在他们的2018年数学课程中。论文可以被看作是最近提出的翘曲邻近算法的实例。
2021-06-04 math.OC
Time-varying constrained proximal type dynamics in multi-agent network games
在本文中，我们研究了仿射时变耦合约束和时变通信网络下的多智能体网络博弈。我们专注于采用近端动态的游戏类，并研究其收敛到一个持久的均衡。考虑解决问题的假设进行了讨论和动机。我们开发了一个迭代均衡寻求算法，只使用本地信息，收敛到一类特殊的游戏均衡。它的推导是出于几个例子，表明原来的游戏动态收敛失败。最后，我们应用所设计的算法来解决一个有约束的一致性问题，验证了理论结果。
2019-11-19 cs.GT cs.MA math.OC
Asynchronous Delay-Aware Accelerated Proximal Coordinate Descent for Nonconvex Nonsmooth Problems
University of Central Florida（中佛罗里达大学）
非凸和非光滑问题最近在机器学习中引起了相当大的关注。然而，对于非凸和非光滑最优化问题，在保证一定性能的前提下，开发有效的方法仍然是一个挑战。近点坐标下降法（PCD）已被广泛应用于求解最优化问题，但对非凸环境下的PCD方法的认识非常有限。另一方面，异步最近坐标下降（APCD）最近受到了广泛的关注，以解决大规模的问题。然而，APCD算法的加速变体很少被研究。在本文中，我们扩展APCD方法的加速算法（AAPCD）的非光滑和非凸的问题，满足充分下降的性质，通过比较在最近的更新和线性外推点使用延迟感知动量值的函数值。据我们所知，我们是第一个提供随机和确定性加速扩展APCD算法一般非凸和非光滑问题，确保有界延迟和无界延迟的每一个极限点是一个临界点。利用Kurdyka-Lojasiewicz性质，我们将证明线性和次线性收敛速度的确定性AAPCD与有界延迟。数值结果表明，我们的算法在速度上的实际效率。
2019-02-05 cs.DC cs.LG math.OC
Asynchronous Accelerated Proximal Stochastic Gradient for Strongly Convex Distributed Finite Sums
本文研究了$n$节点网络上强凸函数和的极小化问题。我们提出了分散和异步算法ADFS来解决的情况下，当地的功能本身是有限和$m$组件。当局部函数光滑时，ADFS线性收敛，并且在单机上执行时与最知名的有限和算法的速度相匹配。在几台机器上，ADFS享受$O (\sqrt{n})$或$O(n)$的加速，这取决于前导复杂度项，只要网络的直径相对于$m$不是太大。这也导致了$\sqrt{m}$的速度超过了最先进的分布式批处理方法，这是有限和算法的预期速度。在通信时间和网络参数方面，ADFS规模以及最佳分布式批处理算法。作为一个侧面的贡献，我们给出了一个广义版本的加速近端坐标梯度算法使用任意采样，我们适用于一个精心挑选的对偶问题，以获得ADFS。然而，ADFS使用原始邻近更新，仅需要解决许多标准机器学习应用程序的一维问题。最后，ADFS可以制定为非光滑的目标具有同样良好的缩放性能。我们说明了改进的ADFS国家的最先进的方法与模拟。
2019-07-17 cs.DC math.OC
First- and Zeroth-Order Learning in Asynchronous Games
本文研究了部分异步假设下的离散时间非合作博弈，通过线性控制理论推导出二次博弈的紧收敛条件，为一般凸博弈提出准占优条件，并基于反馈类型设计了一阶与零阶学习算法，分析了最后迭代收敛率且经数值实验验证。
2025-08-12 math.OC
Proximal Calculus and Universal Feedback Strategies in Two Person Non-Zero Sum Differential Games
本文对二人非零和微分对策的Nash均衡问题引入了间断泛反馈。假设存在满足类似于零和微分对策中值函数无穷小条件的函数。在此假设下，我们证明了泛反馈纳什均衡的存在性。
2013-01-21 math.OC
Nonconvex optimization and convergence of stochastic gradient descent, and solution of asynchronous game
本文回顾了凸与非凸优化中随机梯度下降的收敛性与行为，建立了梯度方差收敛至零的条件，并通过示例展示了迭代下概率密度的近似演化及其在经典双人及异步多人博弈中的应用。
2025-03-05 math.OC
Towards Robust Calculation of index-$k$ Saddle Point: Iterative Proximal-Minimization and Differential Game Model
势能面上具有给定Morse指数的鞍点是物理学和化学中与能量景观相关的重要对象。基于迭代极小化公式的有效数值方法已经以极小化子问题序列或连续动力学的形式被提出。我们在这里提出了一个微分对策解释这个提法，并从理论上探讨了建议的游戏和原来的鞍点势能面上的纳什均衡。为了定义这种微分对策，在对策的费用函数中引入了一个比二次增长更快的邻近函数，并推导出一个鲁棒的迭代邻近极小化算法（IPM）来计算鞍点.我们证明了博弈的Nash平衡点就是鞍点，并证明了新算法在保持相同的收敛速度和计算代价的同时，比以前的迭代极小化算法更鲁棒.一个二维问题和Cahn-Hillard问题进行了测试，以证明这种数值优势。
2022-12-16 math.OC
Solving Non-Convex Non-Differentiable Min-Max Games using Proximal Gradient Method
University of Southern California（南加利福尼亚大学）
极小极大鞍点对策在机器学习和信号处理中有着广泛的应用。尽管它们具有广泛的适用性，但理论研究大多局限于特殊的凹凸结构。虽然最近的一些工作将这些结果推广到特殊的光滑非凸的情况下，我们的理解非光滑的情况下仍然是有限的。本文研究了当目标函数关于局中人的决策变量之一是（强）凸时的非光滑极大极小对策的特殊形式。我们证明了一个简单的多步近似梯度下降-上升算法收敛到$ε$ -一阶纳什均衡的最小-最大游戏的梯度评价是多项式的数量在$1/ε$。我们还将表明，我们的平稳性的概念是强于现有的文献中。最后，我们评估所提出的算法的性能，通过对抗攻击的LASSO估计。
2020-03-18 cs.GT cs.LG math.OC
Asynchronous Schemes for Stochastic and Misspecified Potential Games and Nonconvex Optimization
分布式计算的均衡和最优已经看到越来越多的兴趣在广泛收集的网络问题。本文研究了由可能非凸的势函数刻画的凸随机Nash对策的平衡点的计算。我们的重点是两类随机纳什博弈：（P1）：一个潜在的随机纳什博弈，其中每个玩家解决一个参数化的随机凸规划;和（P2）：一个错误指定的推广，其中玩家特定的随机规划是复杂的参数错误指定。在这两种情况下，精确的近端BR解决方案通常是不可用的有限时间，因为它们需要解决参数化的随机程序。因此，我们设计了两个异步的不精确的邻近BR计划来解决问题，在每次迭代中，一个单一的球员被随机选择计算一个不精确的邻近BR解决方案与竞争对手的可能过时的信息。然而，在错误指定的制度（P2），每个球员拥有一个额外的估计错误指定的参数，并更新其估计的投影随机梯度（SG）算法。由于任何固定点的势函数是一个纳什均衡的相关游戏，我们相信本文是第一个随机非凸（但块凸）最优化问题配备了几乎必然收敛的保证。这些陈述可以扩展到允许容纳加权势博弈和广义势博弈。最后，我们提出了初步的数值应用所提出的方案的基础上，拥塞控制和纳什古诺游戏。
2019-08-02 math.OC
Distributed generalized Nash equilibria computation of monotone games via a preconditioned proximal point algorithm
本文研究了具有仿射耦合约束的单调对策的分布式广义纳什均衡（GNE）计算。每个局中人只能利用其局部目标函数、局部可行集和耦合约束的局部块，并且只能与其邻居进行通信。我们假设博弈具有单调伪次微分，没有Lipschitz连续性限制。我们分别针对等式和不等式仿射耦合约束设计了新的无中心分布式GNE搜索算法。对于等式情形，提出了一种近似乘子交替方向法;对于不等式情形，提出了一种并行分裂型算法。在这两种算法中，GNE寻求任务被分解为一个有序的NE计算的正则化子博弈和分布式更新的乘数和辅助变量，基于本地数据和本地通信。我们的两个双层GNE算法不需要指定内循环NE搜索算法，而且，只要求强单调子对策不精确求解。我们证明了它们的收敛性，表明这两个算法可以被看作是特定的情况下，预处理邻近点法}（PPPA）寻找零的单调算子。最后给出了应用实例和数值模拟。
2017-09-30 math.OC
Towards time-varying proximal dynamics in Multi-Agent Network Games
University of Groningen（格罗宁根大学）；TU Delft（代尔夫特理工大学）
本文研究了多智能体网络博弈中时间变化的近端动力学，通过算子理论分析了固定通信网络下的收敛性，并考虑了具有驻留时间的时变邻接矩阵情况，通过分布式机器人探索示例进行了验证。
2018-11-11 cs.GT cs.SY eess.SY
Asynchronous Networked Aggregative Games
我们提出了一个完全异步的网络聚合游戏（Asy-NAG），每个球员最小化的费用函数，取决于其本地行动和所有球员的行动的总和。与现有的NAG形成鲜明对比的是，我们的Asy-NAG中的每个参与者都可以通过仅使用来自有向网络的附近参与者的（可能是陈旧的）信息来计算在任何挂钟时间的聚合动作的估计。这种异步更新不需要参与者之间的任何协调。此外，我们设计了一种新的分布式算法与积极的机制，每个球员自适应调整每次更新的优化步长。特别是，在更新他们的估计方面，慢的玩家会聪明地增加他们的步长以赶上快的玩家。然后，我们开发了一个增广系统的方法来解决的竞争力和球员之间的信息延迟，并严格显示收敛到纳什均衡的Asy-NAG通过扰动坐标算法，这也是独立的利益。最后，我们通过数值模拟来评估分布式算法的性能。
2021-01-22 math.OC
Proximal-like algorithms for equilibrium seeking in mixed-integer Nash equilibrium problems
我们考虑潜在的游戏与混合整数变量，我们提出了两个分布式的，近似的均衡寻求算法。具体来说，我们专注于两种情况：i）底层游戏是广义序数和代理更新通过迭代选择一个确切的最优策略; ii）游戏承认一个确切的潜力和代理采用近似的最优响应。通过利用整数兼容的正则化函数作为惩罚项的属性，我们表明，这两种算法收敛到一个精确的或$ε$ -近似平衡。我们证实了我们的研究结果的古诺寡头垄断模型的数值实例。
2022-10-27 cs.GT cs.MA cs.SY
Distributed Asynchronous Policy Iteration for Sequential Zero-Sum Games and Minimax Control
我们介绍了一个压缩抽象动态规划框架和相关的政策迭代算法，专门设计的顺序零和游戏和极大极小问题的一般结构。除了更大的一般性，我们的算法优于替代方案的优点是，它们解决了一些长期存在的收敛困难的“自然”的政策迭代算法，这是已知的，因为Pollatschek和Avi-Itzhak方法[PoA 69]有限状态马尔可夫博弈。在数学上，这种“自然”算法是牛顿方法的一种形式，用于求解贝尔曼方程，但牛顿方法，与单人DP问题的情况相反，在极大极小问题的情况下不是全局收敛的，因为贝尔曼算子可能具有既不是凸也不是凹的分量。我们的算法通过引入交替的玩家选择来解决这个困难，并通过使用具有统一超范数收缩属性的策略依赖映射，类似于Bertsekas和Yu的早期作品[BeY 10]，[BeY 12]，[YuB 13]。此外，我们的算法允许一个收敛和高度并行化的实现，这是基于状态空间分区，和分布式异步策略评估和策略改进操作内的每一组分区。我们的框架也适合使用基于聚合的强化学习方法，这可能对大规模问题实例有用。
2021-10-20 cs.GT cs.SY eess.SY
Asynchronous Gradient Play in Zero-Sum Multi-agent Games
Peking University（北京大学）；Carnegie Mellon University（卡内基梅隆大学）
近年来，在竞争性多智能体博弈中通过梯度博弈寻找均衡吸引了越来越多的关注，重点是设计有效的策略，其中智能体以分散和对称的方式运行，并保证收敛。虽然在理解零和两人矩阵游戏方面已经做出了重大努力，但零和多智能体游戏的性能仍然没有得到充分的探索，特别是在存在延迟反馈的情况下，这使得梯度游戏的可扩展性和弹性受到质疑。在本文中，我们取得了进展，通过研究异步梯度播放零和多矩阵对策下的延迟反馈。我们首先建立了熵正则化的乐观乘性权重更新（OMWU）方法的最后一步线性收敛到量子响应平衡（QRE），有限理性下的解决方案的概念，在没有延迟。虽然在温和的统计假设下，即使反馈被随机延迟，线性收敛也继续保持，但由于学习率的可容忍范围较小，它以明显较慢的速度收敛。此外，我们证明了熵正则化OMWU -通过采用两个时间尺度的学习率在延迟感知的方式-享有更快的最后一个收敛在固定的延迟，并继续可证明收敛，即使当延迟是任意有界的平均时间的方式。我们的方法还导致有限的时间保证近似的纳什均衡（NE），通过缓和的正则化量。据我们所知，这项工作是第一个，旨在了解异步梯度发挥在零和多矩阵游戏在广泛的延迟假设下，突出了学习率分离的作用。
2022-11-16 cs.GT cs.IT cs.LG
Equilibrium Invariance, Proximality, and Surrogation: Moreau-Smoothed Best-Response Pathways in Stochastic Nonsmooth Games
University of Michigan（密歇根大学）
本文提出Moreau平滑的最佳响应方案，用于解决非光滑和非凸博弈中的均衡问题，通过引入平滑技术实现线性和亚线性收敛率保证。
2026-03-01 math.OC
Linearly Convergent Variable Sample-Size Schemes for Stochastic Nash Games: Best-Response Schemes and Distributed Gradient-Response Schemes
本文研究了一个$N$ -局中人随机Nash对策，其中第一局中人$i$最小化一个复合目标$f_i(x) + r_i(x_i)$，其中$f_i$是期望值，$r_i$有一个有效的最优估计.在这方面，我们作出以下贡献。(i)在一个强单调性假设的级联梯度图，我们推导出（{ \bf最优}）率报表和Oracle的复杂性界限，建议可变样本量近端随机梯度响应（VS-PGR）计划;（ii）我们覆盖（VS-PGR）的共识阶段，以期发展分布式协议的聚合随机纳什博弈。值得注意的是，当样本量和共识步骤的数量在每次迭代增长在一个合适的速度，线性收敛速率可以实现;（iii）最后，根据一个合适的收缩属性与近端最佳响应（BR）地图，我们设计了一个可变的样本量近端BR（VS-PBR）计划，其中近端BR计算通过解决一个样本平均问题。如果计算样本平均值的批量大小以合适的速率提高，我们证明了所得到的迭代以线性速率收敛，并推导出预言机的复杂性。
2018-10-25 math.OC
Nash equilibrium seeking under partial decision information: Monotonicity, smoothness and proximal-point algorithms
我们解决纳什均衡问题的部分决策信息的情况下，每个代理只能与一些邻居交换信息，而其费用函数可能取决于所有代理的策略。我们刻画了文献中假设的几个单调性和光滑性条件之间的关系。此外，我们证明了一个预处理的邻近点法的收敛性，在限制单调性属性，允许非Lipschitz，非连续对策映射。
2022-06-23 cs.GT cs.MA math.OC
On the computation of equilibria in monotone and potential stochastic hierarchical games
我们考虑一类分层非合作$N$ -局中人博弈，其中第$i$局中人求解一个带平衡约束的参数化随机数学规划（MPEC），并指出在给定对手决策的情况下，MPEC中第$i$局中人的隐式形式在局中人策略是凸的.我们在两个不同的制度：（a）{ \em单调制度。}当局中人特定的隐式问题是凸的时，则平衡的充要条件由随机包含给出。在算子的单调性假设下，我们提出了一种方差减少的随机逼近点方案，该方案在单调/强单调制度下解决逼近点问题时达到了确定的收敛速度，并且该方案的特征在于最佳或接近最佳的样本复杂性保证。(b){ \em潜力。}当游戏的隐式形式承认一个势函数，我们开发了一个异步放松不精确平滑最近的最佳反应框架。我们考虑这个游戏的平滑对应，每个玩家的问题是通过随机平滑平滑。值得注意的是，在适当的假设下，我们证明了一个$η$ -平滑的游戏承认一个$η$ -近似纳什均衡的原始游戏。我们提出的方案产生的序列，几乎肯定收敛到一个$η$ -近似纳什均衡。平滑框架允许开发一个方差减少零阶计划，这样的问题，承认一个快速的收敛速率。对一类多领导者多跟随者对策的数值研究表明，方差减小的邻近方案提供了显着更好的精度和更低的运行时间。放松的最佳反应计划规模以及将问题的大小，一般表现出更大的稳定性比其非放松对应。
2022-02-22 math.OC
High-Probability Nash Regret for Decentralized Learning in Markov $α$-Potential Games: Episodic and Fully Online Asynchronous Algorithms with Applications to Markov Congestion Games
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对马尔可夫α-势博弈，提出KL投影自然策略梯度算法，在情节式和完全在线异步设置下实现高概率纳什遗憾界，消除分布不匹配系数，并应用于马尔可夫拥塞博弈的在线作业调度。
2026-09-15 cs.GT cs.LG cs.MA
An asynchronous, forward-backward, distributed generalized Nash equilibrium seeking algorithm
本文提出一种基于预处理前向-后向分裂的异步分布式算法，通过节点辅助变量重新设计更新规则，高效求解高度互联非合作博弈的广义纳什均衡，提升可扩展性并增强对通信延迟的鲁棒性。
2019-01-14 cs.GT cs.SY eess.SY
Bregman Proximal Method for Efficient Communications under Similarity
本文提出一种基于Bregman近端映射的随机分布式方法，利用相似性在任意问题几何下求解单调及强单调变分不等式，达到最优通信复杂度并填补了现有研究空白。
2024-10-04 math.OC
Randomized dual proximal gradient for large-scale distributed optimization
在本文中，我们考虑分布式最优化问题，其中费用函数是可分离的（即，所有共享公共变量的可能非光滑函数的和），并且可以被分成强凸项和凸项。第二项通常用于编码约束或正则化解。我们提出了一个异步的，分布式优化算法在无向拓扑结构，基于最近的梯度更新的对偶问题。我们表明，通过适当的原始变量的选择，对偶问题是可分离的和对偶变量可以堆叠成单独的块。这使我们能够表明，一个分布式的八卦更新，可以通过一个随机块坐标的对偶函数的近端梯度。
2016-09-19 cs.DC math.OC
On Synchronous, Asynchronous, and Randomized Best-Response schemes for computing equilibria in Stochastic Nash games
本文考虑了一个随机纳什博弈，其中每个参与者都解决了一个参数化的随机最优化问题。在确定性的制度，最佳反应计划已被证明是收敛的一个合适的频谱属性与最近的最佳反应地图。然而，该方案的随机设置的直接应用需要在每次迭代中获得随机最优化的精确解。相反，我们提出了一个不精确的推广，其中一个不精确的解决方案是通过越来越多的投影随机梯度步骤计算。在此基础上，我们提出了三个不精确的最佳对策方案：（i）首先，我们提出了一个同步方案，所有的球员同时更新他们的策略;（ii）随后，我们将其扩展到一个随机设置，其中一个子集的球员是随机选择他们的更新策略，而其他人保持他们的策略不变;（iii）最后，我们提出了一个异步方案，每个玩家决定自己的更新频率，并可能使用过时的竞争对手的特定数据更新其策略。在一个适当的收缩性质的最近最佳反应映射，我们得到a.s.（i）和（ii）的迭代的收敛性和（i）-（iii）的平均收敛性。此外，我们证明了对于（i）-（iii），迭代收敛到唯一的平衡点的平均在一个指定的线性速率。最后，我们根据用于计算$ε-$纳什均衡的投影随机梯度步骤来建立总体迭代复杂度，并且在所有设置中，迭代复杂度为${\cal O}(1/ε^{2(1+c) + δ})$，其中$c = 0$在（i）的上下文中表示随机化的正成本（在（ii）中）以及随机性和延迟（在（iii）中）。该计划进一步扩展到线性和二次资源为基础的随机纳…
2018-02-06 math.OC
Proximal methods for stationary Mean Field Games with local couplings
Universidad Técnica Federico Santa María（费德里科·圣玛丽亚技术大学）；Johann Radon Institute for Computational and Applied Mathematics, Austrian Academy of Sciences（奥地利科学院约翰·拉顿计算与应用数学研究所）；Institut de recherche XLIM-DMI, UMR-CNRS 7252 Faculté des sciences et techniques Université de Limoges（利摩日大学理学院XLIM-DMI研究中心）
本文研究了具有局部耦合的 stationary Mean Field Games 的数值近似，通过变分方法分析了有限差分离散化后的优化问题，并比较了多种 proximal 类型方法的性能。
2019-02-06 cs.NA math.NA math.OC
Asynchronous Optimization Over Heterogeneous Networks via Consensus ADMM
本文研究了一类局部可观测的非凸函数的分布优化问题。优化是在多智能体网络系统上进行的，每个局部函数只依赖于变量的一个子集。本文提出了一种异步分布式交替方向乘法器方法（ADMM），允许节点延迟或跳过更新的计算和传输。该算法利用不同的近似在更新步骤中，导致近端和优化ADMM的变种。这两个变种收敛到一个局部极小值，在一定的规律性条件下。所提出的异步算法也适用于在无线ad hoc网络中的合作定位的问题，在那里它被证明优于其他国家的最先进的定位算法。
2016-04-30 cs.IT math.IT math.OC
Bregman proximal gradient method for linear optimization under entropic constraints
Univ. Rennes, CNRS, Inria, IRISA UMR 6074（雷恩大学、法国国家科学研究中心、Inria、IRISA）；Universidad Técnica Federico Santa María Departamento de Matemática（费德里科·圣玛丽亚技术大学数学系）
本文提出一种高效算法解决带有熵约束的线性优化问题，通过Bregman近端梯度法分析活跃与非活跃约束，建立O(1/n)收敛率，理论支持Blahut-Arimoto算法并证明熵约束的Lagrange乘子唯一性。
2026-04-28 math.OC
Delay-tolerant distributed Bregman proximal algorithms
针对机器学习中梯度非 Lipschitz 连续的优化问题，提出了一种适应任意集中式计算系统且能容忍任意长延迟的异步 Bregman 近端梯度算法，并在分布式 Poisson 逆问题上验证了其有效性。
2024-04-26 math.OC
A Distributed Flexible Delay-tolerant Proximal Gradient Algorithm
我们开发和分析了分布式凸优化的异步算法时，目标写的光滑函数，本地每个工人，和一个非光滑函数的总和。与许多现有的方法不同，我们的分布式算法是可调的通信成本，延迟，机器的计算能力，和功能的平滑度的各种水平。一个独特的特点是，步长不依赖于通信延迟或机器的数量，这是非常可取的可扩展性。我们证明了算法在强凸情形下线性收敛，并保证了算法在非强凸情形下的收敛性。所得到的速率是相同的香草近端梯度算法在一些引入的历元序列，包含系统的延迟。我们提供了大规模机器学习问题的数值结果，以证明所提出的方法的优点。
2019-12-12 math.OC stat.ML
A New Randomized Block-Coordinate Primal-Dual Proximal Algorithm for Distributed Optimization
本文提出了一种新的原始对偶法TriPD，用于极小化一个Lipschitz可微凸函数和两个可能非光滑的凸函数之和，其中一个凸函数由一个线性映射组成.我们设计了一个随机块坐标版本的算法收敛在相同的步长条件下的完整算法。它表明，无论是原来的，以及块坐标计划功能线性收敛速率时，所涉及的功能是分段线性二次，或当他们满足一定的二次增长条件（这是弱于强凸性）。此外，我们将开发的算法应用到图上的多智能体优化问题，从而获得新的同步和异步分布式方法。所提出的算法是完全分布式的意义上说，每个代理的更新和步长只依赖于本地信息。事实上，不需要事先进行全球协调。最后，我们展示了我们的算法在分布式编队控制中的应用。
2019-09-30 math.OC
Iterative Proximal-Minimization for Computing Saddle Points with Fixed Index
针对势能面上固定Morse指标的鞍点计算，提出在迭代最小化框架的代价函数中加入超二次近端项，形成稳健的IPM算法，在不损失收敛速度且不增加计算成本的前提下提升鲁棒性，并通过二维问题和Allen-Cahn、Cahn-Hilliard方程验证。
2025-01-24 cs.NA math.NA math.OC
Asynchronous Replanning in Two Population Linear Quadratic Mean Field Games: Information Requirements and Stability
Beihang University（北京航空航天大学）；School of Mathematical Sciences, Beihang University（北京航空航天大学数学科学学院）；Key Laboratory of Mathematics, Informatics and Behavioral Semantics, Ministry of Education, Beihang University（北京航空航天大学教育部数学、信息学与行为语义重点实验室）；LMIB, Beihang University（北京航空航天大学数学系）；Hangzhou International Innovation Institute of Beihang University（北京航空航天大学杭州创新研究院）
本文研究两群体线性二次平均场博弈中的异步重规划，识别所需信息为状态-计划对，提出局部算法并分析其稳定性与误差界。
2026-10-05 cs.SY eess.SY math.OC
On the Heterogeneity of Independent Learning Dynamics in Zero-sum Stochastic Games
研究了学习率依赖于局中人的二人零和随机对策的Q学习与经典虚拟对策相结合的两时标虚拟对策的收敛性.在两时标随机逼近方法的标准假设下，当折扣因子小于参与者相关步长之比的乘积时，证明了其几乎必然收敛性.为此，我们制定了一个新的李雅普诺夫函数制定和提出了一个单边异步收敛的结果。
2022-04-04 cs.GT math.DS math.OC
Asynchronous Optimization Methods for Efficient Training of Deep Neural Networks with Guarantees
异步分布式算法是一种在大规模优化中减少同步成本的流行方法，特别是对于神经网络训练。然而，对于非光滑和非凸的目标，除了封闭形式的近似算子解可用的情况外，几乎没有收敛保证。由于大多数流行的当代深度神经网络导致非光滑和非凸目标，现在迫切需要这种收敛保证。在本文中，我们分析了第一次收敛的随机异步优化这一类一般的目标。特别是，我们专注于随机次梯度方法允许块变量分区，其中基于共享内存的模型异步更新的并发进程。为此，我们首先引入了一个概率模型，捕捉并发进程之间的真正的异步调度的关键特征，在这个模型下，我们建立收敛概率为1的不变集的随机次梯度方法与动量。从实践的角度来看，我们考虑的方法家族的一个问题是，它没有得到机器学习框架的有效支持，因为它们主要关注分布式数据并行策略。为了解决这个问题，我们提出了一种新的基于共享内存的深度神经网络训练实现策略，利用并发参数服务器在单GPU和多GPU设置中训练分区但共享的模型。基于这种实现，与流行的图像分类任务的最先进的训练方法相比，我们实现了平均1.2倍的速度提升，而不影响准确性。
2020-07-11 math.OC
A fully-distributed proximal-point algorithm for Nash equilibrium seeking with linear convergence rate
我们解决纳什均衡问题的部分决策信息的情况下，每个代理只能观察一些邻居的行动，而其成本可能取决于其他代理的策略。我们的主要贡献是设计一个完全分布式的，单层的，固定步骤的算法，基于一个近端的最佳反应增强共识条款。为了得到我们的算法，我们遵循算子理论方法。首先，我们将纳什均衡问题转化为寻找单调算子的零点问题。然后，我们证明，所产生的包含可以通过一个接近点的方法，由于使用了一种新的预处理矩阵，在一个完全分布式的方式来解决。在博弈映射的强单调性和Lipschitz连续性下，证明了算法的线性收敛到一个Nash均衡。此外，我们表明，我们的方法优于最快的已知的基于梯度的计划，无论是在保证收敛速度方面，通过理论分析，并在实践中，通过数值模拟。
2020-09-10 cs.DC cs.GT math.OC
Gradient-free Online Learning in Games with Delayed Rewards
出于对在线广告和推荐系统的应用，我们考虑了一个具有延迟奖励和异步的基于回报的反馈的博弈模型。与以前的工作相比，延迟多武装土匪，我们专注于多人游戏与连续的动作空间，我们研究的长期行为的战略代理遵循无悔的学习政策（但在其他方面不知道正在玩的游戏，他们的对手的目标等）。为了解释缺乏一致的信息流（例如，奖励可能无序到达，具有先验无限延迟等），我们引入了一种无梯度的学习策略，其中收益信息在到达时被放置在优先级队列中。在此一般情况下，我们得到新的代理人的遗憾的界限，此外，在一个标准的对角线假设下，我们表明，诱导序列的发挥收敛到纳什均衡的概率$1$，即使选择一个行动和接收相应的奖励之间的延迟是无界的。
2020-06-19 cs.GT math.OC
Stochastic generalized Nash equilibrium seeking in merely monotone games
本文研究了具有期望值费用函数的单调博弈中的随机广义纳什均衡问题。具体来说，我们提出了第一个分布式SGNE寻求算法的单调游戏，需要一个邻近计算（例如，一个投影步骤）和每次迭代一个伪梯度评估。我们的主要贡献是将Malitsky（数学规划，2019）的放松的前向-后向算子分裂扩展到随机情况，并且当伪梯度的期望值近似于多个随机样本的平均值时，又显示出几乎必然收敛到SGNE。
2021-07-14 cs.GT cs.SY eess.SY
Fast generalized Nash equilibrium seeking under partial-decision information
我们解决的广义纳什均衡寻求问题的部分决策信息的情况下，每个代理只能与一些邻居交换信息，虽然其费用函数可能取决于所有代理的策略。现有的几种方法建立在投影伪梯度动力学的基础上，并且需要双层迭代或对步长的保守条件。为了克服这两个缺陷，提高效率，我们设计了第一个完全分布式的单层算法的基础上接近最佳反应。我们的计划是固定的步骤，并允许不精确的更新，这是至关重要的，以减少计算复杂性。在游戏原语的标准假设下，我们建立了收敛到变分均衡（线性速率的游戏没有耦合约束），通过重铸我们的算法作为近似点的方法，适时地预处理分配计算代理之间。由于我们的分析取决于一个受限制的单调性属性，我们还提供了新的一般结果，显着扩展域的适用性的邻近点方法。此外，算子理论的方法有利于可证明正确的加速方案，可以进一步提高收敛速度的实施。最后，我们的算法的潜力是数值证明，揭示了更快的收敛速度相对于投影伪梯度法和验证我们的理论研究结果。
2021-12-11 cs.GT cs.MA math.OC
A Gauss-Seidel method for solving multi-leader-multi-follower games
本文提出一种基于混合整数优化和卡罗需-库恩-塔克条件的近端高斯-赛德尔方法，用于求解具有层次结构的纳什博弈均衡，并在势博弈下保证全局收敛，且通过网约车市场实例验证了数值性能。
2024-11-11 math.OC
Competitive Design of Multiuser MIMO Systems based on Game Theory: A Unified View
本文利用博弈论的方法研究了高斯干扰信道中互信息的非合作最大化问题。在过去的十年中，这个问题已经在许多论文中研究了频率选择性信道的情况。保证纳什均衡（NE）的唯一性和许多不同的分布式算法的收敛性的各种条件已被推导出来。在本文中，我们提供了一个统一的视图的国家的最先进的结果，表明大多数的技术在文献中提出的研究游戏，即使显然不同，可以统一使用我们最近的解释注水运营商作为一个投影到一个适当的多面体集。基于这种解释，然后，我们提供了一个数学框架，得到一组统一的充分条件，保证唯一性的NE和基于注水的异步分布式算法的全局收敛性。建议的数学框架也有助于研究更一般的MIMO情况下，只有少数结果是在目前的文献中的游戏扩展。所得到的算法是，类似于频率选择性的情况下，迭代异步MIMO注水算法。收敛性的证明再次取决于MIMO注水作为矩阵投影的解释，这是我们在频率选择性情况下获得的注水映射结果的自然推广。
2008-06-10 cs.GT cs.IT math.IT
Distributed Algorithms for Aggregative Games on Graphs
我们考虑一类纳什博弈，称为聚合博弈，在网络系统中进行。在聚合博弈中，参与者的目标是所有参与者决策总和的函数。每个参与者都保持对这个聚合的估计，并且参与者通过连接的网络与他们的本地邻居交换这个信息。我们研究分布式同步和异步算法的信息交换和平衡计算在这样的网络。在标准条件下，我们建立了所得到的序列到平衡点的几乎必然收敛。我们还考虑我们的计划扩展到聚合游戏，玩家的目标是通过更一般形式的聚合函数耦合。最后，我们提出的数值结果表明所提出的计划的性能。
2016-06-08 math.OC
Semi-decentralized generalized Nash equilibrium seeking in monotone aggregative games
我们解决了广义纳什均衡寻求问题的人口的代理人玩聚合游戏与仿射耦合约束。我们专注于半分散的通信架构，其中有一个中央协调员能够收集和广播信号的聚合性质的代理。通过利用单调算子理论和算子分裂的框架，我们首先批判性地回顾了最相关的可用算法，然后设计了两个新的方案：（i）一个单层，固定步长的收敛保证一般（非强制，非严格）单调聚合对策的算法和（ii）一个单层近似型算法的一类单调聚合对策的线性耦合费用函数。我们还通过（交替）惯性和超松弛步骤设计了新的加速算法的变种。最后，我们通过数值模拟表明，所提出的算法优于文献中的收敛速度。
2021-07-06 math.OC
A Fast Proximal Gradient Method and Convergence Analysis for Dynamic Mean Field Planning
在本文中，我们提出了一个有效的和灵活的算法来解决动态平均场规划问题的基础上加速最近梯度法。该算法除了简单易行的梯度下降步骤外，关键的投影步骤是求解一个椭圆型方程，而该方程的解可以用常规方法有效地求得。通过对算法迭代过程的归纳，我们从理论上证明了随着网格尺寸的增加，离散解收敛到连续解。此外，我们将我们的算法推广到平均场博弈问题，并使用多级和多重网格策略加速它。我们进行了全面的数值实验，以确认所提出的算法的收敛性分析，通过与最先进的方法进行比较，显示其效率和质量保持属性，并说明其处理各种平均场变分问题的灵活性。
2021-02-26 cs.NA math.NA math.OC
Proximal optimal transport divergences
我们提出近端最优传输散度，一种插值信息散度与最优传输距离的新差异度量，为生成建模提供近端优化基础，并建立动态平均场博弈公式，推广现有方法。
2025-08-07 math.OC math.PR stat.ME
Asynchronous distributed algorithms for seeking generalized Nash equilibria under full and partial decision information
本文研究了多智能体网络中具有延迟信息的异步分布式广义纳什均衡求解算法。所考虑的对策模型具有所有参与者的局部决策以及共享的仿射约束。我们假设每个参与者只能访问其局部目标函数、局部约束和仿射约束的局部块矩阵。我们首先给出算法的情况下，每个代理都能够完全访问所有其他球员的决定。借助于辅助边变量和边拉普拉斯矩阵，每个参与者可以以异步方式进行其局部迭代，仅使用局部数据和可能延迟的邻居信息。然后我们研究了当代理人不能知道所有其他参与人的决策时的情况，这被称为部分决策情况。我们引入局部估计的整体决策的情况下，每个代理，并开发另一个异步算法，将共识动态的整体决策的局部估计。由于这两种算法都不需要任何集中的时钟协调，算法充分利用了每个参与者的本地计算资源，并消除了由于等待“最慢”代理而导致的空闲时间。这两种算法都是由一个预处理的向前向后算子分裂方法，而收敛性的异步不动点迭代的帮助下，适当的假设和固定的步长选择。数值实验验证了算法的收敛性和有效性。
2018-07-24 math.OC
Game-Theoretic Analysis of the Hegselmann-Krause Model for Opinion Dynamics in Finite Dimensions
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们认为Hegselmann-Krause模型的意见动态和研究系统的演变在各种设置。我们首先分析了任意有限维的同步Hegselmann-Krause动力学的终止时间，并表明终止时间一般只取决于参与动力学的代理的数量。据我们所知，这是这种动力学的终止时间的最尖锐的界限，它消除了终止时间与周围空间维度的依赖性。这回答了[1]中关于如何获得更严格的终止时间上界的公开问题。此外，我们研究了异步Hegselmann-Krause模型从一个新的博弈论的方法，并表明，异步Hegselmann-Krause模型的演变是等价于一个序列的最佳反应更新在一个精心设计的潜在的游戏。然后，我们提供了一个多项式上限的预期时间和预期数量的切换拓扑结构，直到动态达到一个任意小的邻域的平衡点，只要代理随机均匀更新。这是对异质Hegselmann-Krause动力学分析的一步。最后，我们考虑了异质Hegselmann-Krause动力学，并给出了这种动力学的有限终止时间的必要条件。特别是，我们勾勒出一些未来的方向更详细的分析异质Hegselmann-Krause模型。
2014-12-19 cs.DM cs.GT cs.MA
Distributed Stochastic Nash Equilibrium Learning in Locally Coupled Network Games with Unknown Parameters
在随机纳什均衡问题（SNEPs）中，参与者对所处的复杂环境具有不确定性，模型中的参数具有多维未知性。在各种SNEP中，本文重点研究了局部耦合网络博弈，其中每个理性参与者的目标都受到其邻居的综合影响。我们提出了一个分布式学习算法的基础上的邻近点迭代和普通最小二乘估计，其中每个球员反复更新的本地估计的邻居的决定，使其增广的最佳反应的决定，给定当前的估计参数，接收实现的目标值，并学习未知的参数。利用Robbins-Siegmund定理和M-估计量的大偏差定律，证明了当更新步长以适当的速率衰减时，该算法对SNEP解的几乎必然收敛.
2022-04-05 math.OC
Proximal Point Method for Online Saddle Point Problem
Department of Automation, College of Artificial Intelligence China University of Petroleum, Beijing, China（自动化系，人工智能学院中国石油大学，北京，中国）
本文研究在线鞍点问题，提出三种近端点方法变体，在对偶间隙和动态纳什均衡遗憾上保证上界，并在良性环境中维持近乎恒定的界限，实验验证了其有效性。
2025-06-26 cs.LG math.OC
Stochastic Shortest Path Games and Q-Learning
考虑一类状态有限、控制空间紧的二人零和随机对策，我们称之为随机最短路对策。它们是具有无成本终止状态的非贴现总成本随机动态博弈。利用这些游戏的密切联系，单人SSP问题，我们引入新的模型条件下，我们表明，SSP游戏具有较强的最优性，包括存在一个唯一的解决方案的动态规划方程，最佳的平稳策略的存在，和收敛的价值和政策迭代。然后，我们专注于有限状态和控制SSP游戏和经典的Q-学习算法计算值函数。Q学习是一种无模型的异步随机迭代算法。利用单调非扩张映象的随机逼近理论，证明了当相应的动态规划方程有唯一解且迭代序列以概率1有界时，随机逼近是收敛的.对于SSP情形，作为本文的主要结果，我们证明了在我们提出的模型条件下Q-学习迭代的有界性，从而完全建立了一类总费用有限空间随机对策Q-学习的收敛性.
2014-12-30 math.OC
Linear Quadratic Mean-Field Games with Communication Constraints
在本文中，我们研究了一个具有异质动态和代价函数的大种群对策解决一致性问题。此外，代理具有通信约束，其表现为：（1）加性高斯白噪声（AWGN）信道，以及（2）经由固定调度策略的异步数据传输。由于求解博弈的复杂性随着代理数量的增加而增加，本文采用均值场博弈的方法来求解，在对代理信息结构的标准假设下，证明了在MFG环境下代理的控制不受双重效应的影响。这使我们能够获得一个均衡的控制政策的通用代理，这是一个功能，只有本地观察的代理。此外，平衡平均场轨迹示出遵循线性动力学，因此使其可计算。我们表明，在有限人口的游戏中，由MFG分析规定的均衡控制策略构成了$ε$ -纳什均衡，其中$ε$趋于零的代理人的数量趋于无穷大。本文的结论是与模拟演示的平衡控制策略的性能。
2022-08-25 cs.MA cs.SY eess.SY
