Decentralized Resource Allocation via Dual Consensus ADMM
我们考虑一个无向网络的代理，网络的边缘定义的通信链路的资源分配问题。目标是最小化特定于代理的凸目标函数的总和，而代理的决策通过凸圆锥约束耦合。我们推导出两种方法，通过应用交替方向法的乘法器（ADMM）分散共识优化我们的资源分配问题的对偶。这两种方法都是完全并行和分散的，在这个意义上，每个代理只与网络中的邻居交换信息，只需要自己的数据来更新决策。我们证明了所提出的方法的收敛性，并证明了它们的有效性与数值例子。
2019-03-04 math.OC
Distributed Constraint-Coupled Optimization: Harnessing ADMM-consensus for robustness
本文针对智能体网络中的分布式约束耦合优化问题，提出一种基于原始-对偶架构的新算法，利用时间尺度分离理论证明其线性收敛，并验证了其在异步通信和丢包场景下的鲁棒性以及在微电网辅助服务中的有效性。
2025-02-10 cs.DC math.OC
A Consensus-ADMM Approach for Strategic Generation Investment in Electricity Markets
本文研究了电力市场中战略（定价者）发电商的多阶段发电投资问题。这个问题暴露于不同的不确定性来源，包括短期运营（例如，竞争对手的提供策略）和长期宏观（例如，需求增长）的不确定性。将该问题转化为一个随机双层最优化问题，并最终转化为一个计算量有限的大规模随机混合整数线性规划（MILP）问题。为了应付计算问题，我们提出了一个共识版本的交替方向法的乘数（ADMM），分解的原始问题的短期和长期的情况。虽然ADMM的收敛到全局解一般不能保证MILP问题，我们引入了两个界限的最优解，允许的解决方案的质量评估迭代。我们的数值结果表明，有一个权衡计算时间和解决方案的质量。
2018-10-30 math.OC
Quantized Consensus ADMM for Multi-Agent Distributed Optimization
网络上的多智能体分布式优化仅使用局部计算和通信来最小化由局部凸函数的和形成的全局目标。我们开发和分析了一个量化的分布式算法的基础上的交替方向法的乘法器（ADMM）时，代理间的通信受到有限的容量和其他实际约束。虽然现有的量化ADMM方法只适用于二次局部目标，所提出的算法可以处理更一般的目标函数（可能是非光滑的），包括LASSO。在一定的凸性假设下，我们的算法收敛到一个共识内$\log_{1+η}Ω$迭代，其中$η>0$依赖于本地目标和网络拓扑结构，和$Ω$是一个多项式确定的量化分辨率，初始和最佳变量值之间的距离，本地目标函数和网络拓扑结构。一致性误差的紧上界也得到了不依赖于网络的大小。
2015-10-29 math.OC
Multi-Agent Distributed Optimization via Inexact Consensus ADMM
National Taiwan University of Science and Technology（台湾科技大学）；University of Minnesota（明尼苏达大学）；East China Normal University（华东师范大学）
本文提出低复杂度算法，通过在ADMM更新中引入近似步骤，显著降低大规模共识ADMM的计算成本，且在凸性假设下保证收敛性。
2014-09-11 cs.SY eess.SY math.OC
A Bi-level Globalization Strategy for Non-convex Consensus ADMM and ALADIN
针对非凸共识优化，提出双层全局化策略，以温和假设简洁证明C-ADMM与C-ALADIN的全局收敛，并补充了C-ALADIN局部收敛研究的空白。
2023-09-06 math.OC
Consensus-ADMM for General Quadratically Constrained Quadratic Programming
非凸二次约束二次规划（QCQP）问题在信号处理、机器学习和无线通信中有着广泛的应用，尽管一般的QCQP是NP难的，并且一些有趣的特殊情况也是NP难的。本文提出了一种新的通用QCQP算法。该问题首先被重新表述为共识优化形式，其中的交替方向法的乘法器（ADMM）可以应用。重新制定是这样一种方式，每个子问题是一个QCQP只有一个约束（QCQP-1），这是有效地解决（非）凸性无关。核心组件经过精心设计，使整个算法更具可扩展性，包括求解QCQP-1的有效方法，内存高效实现，并行/分布式实现和智能初始化。该算法，然后在两个应用程序中进行测试：多播波束形成和相位检索。结果表明优于现有技术的方法的性能。
2016-07-07 math.OC
DTAC-ADMM: Delay-Tolerant Augmented Consensus ADMM-based Algorithm for Distributed Resource Allocation
延迟是几乎所有现实世界的网络应用程序所固有的。在本文中，我们提出了一个分布式分配策略的多智能体网络与延迟通信。每个代理（或节点）的状态表示其在固定数量（等于总需求）中分配的资源份额。即使当网络上的数据交换在不同链路上不均匀地延迟时，每个节点也通过其相邻节点的接收信息局部地更新其状态以优化全局分配代价函数。更新是基于交替方向的乘子法（ADMM）制定的总和保持耦合约束和本地箱约束。该解决方案是无导数的，适用于一般（不一定是可微的）凸成本模型。我们使用无向网络上的增强共识的概念来模拟延迟的信息交换和收敛性分析。我们模拟我们的\textit{delay-tolerant}算法，
2022-08-30 cs.SY eess.SP eess.SY
Decentralized Linearized Consensus ADMM with Efficient Quantized Communication
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）
本文针对分布式优化问题，提出将IC - ADMM与有限时间去中心化量化通信算法结合的新型去中心化优化算法，该算法在有向图运行，仅需量化局部信息，不依赖精确求解局部子问题，实验表明其在收敛速度和通信效率上优于现有方法。
2026-07-22 math.OC
Consensus ADMM for Inverse Problems Governed by Multiple PDE Models
乘子交替方向法（ADMM）提供了一种求解多个偏微分方程（PDE）正演模型和非光滑正则化反问题的自然方法。ADMM允许将这些大规模的逆问题拆分为更小、更简单的子问题，从而提供计算效率高的求解器。特别是，我们采用大规模的二阶最优化方法来解决完全解耦的Tikhonov正则化反问题，从每个PDE正演模型。我们使用快速近似方法来处理非光滑正则化项。在这项工作中，我们讨论了几个适应（如选择的共识规范）需要保持一致性与下划线的无限维问题。我们提出了两个成像应用程序的启发电阻抗层析成像和定量光声层析成像，以证明所提出的方法的有效性。
2021-04-28 cs.NA math.NA math.OC
Nonlinear Set Membership Filter with State Estimation Constraints via Consensus-ADMM
本文研究了带有未知但有界噪声的非线性动态系统的状态估计问题。集员过滤器（SMF）是一种流行的算法来解决这个问题。在集员设置中，我们研究了状态估计需要由线性或非线性等式约束的滤波器问题。提出了一种基于一致交替方向法的非线性动态系统SMF算法。针对非线性的困难，采用半无限规划（SIP）方法将非线性系统转化为线性系统，而不是将非线性系统线性化，从而得到更精确的估计椭球。针对SIP问题的求解，提出了一种ADMM算法来处理状态估计约束，该算法的每次迭代都能有效求解。最后，通过典型算例验证了该滤波器的有效性.
2022-11-09 math.OC stat.ME
Asynchronous Optimization Over Heterogeneous Networks via Consensus ADMM
本文研究了一类局部可观测的非凸函数的分布优化问题。优化是在多智能体网络系统上进行的，每个局部函数只依赖于变量的一个子集。本文提出了一种异步分布式交替方向乘法器方法（ADMM），允许节点延迟或跳过更新的计算和传输。该算法利用不同的近似在更新步骤中，导致近端和优化ADMM的变种。这两个变种收敛到一个局部极小值，在一定的规律性条件下。所提出的异步算法也适用于在无线ad hoc网络中的合作定位的问题，在那里它被证明优于其他国家的最先进的定位算法。
2016-04-30 cs.IT math.IT math.OC
Distributed Covariance Steering via Non-Convex ADMM for Large-Scale Multi-Agent Systems
Georgia Institute of Technology（佐治亚理工学院）；Massachusetts Institute of Technology（麻省理工学院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文研究在概率碰撞避免约束下，通过非凸ADMM实现分布式协方差控制，提出三种方法在保守性和计算效率间平衡，验证了算法的收敛性和可扩展性。
2026-04-06 cs.SY eess.SY math.OC
A Distributed Algorithm for Measure-valued Optimization with Additive Objective
University of California, Santa Cruz（加州大学圣克鲁兹分校）
提出了一种求解可加目标测度值最优化问题的分布式非参数算法。这些问题出现在随机学习和控制中的几个上下文中，包括从非归一化先验的Langevin采样，平均场神经网络学习和Wasserstein梯度流。该算法包括一个两层的交替方向法的乘法器（ADMM）。外层ADMM将欧几里德共识ADMM推广到Wasserstein共识ADMM及其熵正则化版本Sinkhorn共识ADMM。内层ADMM原来是标准欧几里得ADMM的一个特定实例。整个算法实现了概率测度流形上梯度流的算子分裂。
2022-02-17 cs.LG cs.SY eess.SY
On the Relationship Between CoCoA and ADMM for Distributed Empirical Risk Minimization
Department of Industrial & Systems Engineering, University of Wisconsin–Madison（工业与系统工程系，威斯康星大学麦迪逊分校）
本文从统一原始-对偶视角揭示CoCoA与ADMM两类分布式ERM算法的内在联系，证明岭正则化下CoCoA等价于特定近端ADMM方案，并给出ADMM型方法的统一收敛分析和早停准则。
2026-06-28 cs.LG math.OC stat.ML
Communication-Censored Linearized ADMM for Decentralized Consensus Optimization
在本文中，我们提出了一个通信和计算效率的算法来解决一个凸共识最优化问题定义在一个分散的网络。已有的一种求解该问题的算法是乘子交替方向法（ADMM），该算法在每次迭代中，每个节点通过合并相邻变量并求解一个优化子问题来更新其局部变量。该算法称为通信删失线性ADMM（COLA），利用线性化技术来减少ADMM的迭代计算成本，并使用通信删失策略来减轻通信成本。具体地说，COLA引入连续线性化近似的本地费用函数，从而得到的计算是一阶和轻量级的。由于线性化技术降低了收敛速度，COLA进一步采用通信审查策略，以避免传输信息量较少的消息。只有当当前局部变量与其先前传输的局部变量之间的距离大于删失阈值时，节点才被允许传输。当局部费用函数具有Lipschitz连续梯度且删失阈值可和时，证明了COLA算法是收敛的.当局部费用函数进一步强凸时，我们建立了COLA的线性（次线性）收敛速度，假设删失阈值线性（次线性）衰减到0。数值实验证实了理论研究结果，并证明了令人满意的通信计算权衡COLA。
2019-09-15 math.OC stat.ML
How is Distributed ADMM Affected by Network Topology?
当求解图上的一致性优化问题时，通常使用图拉普拉斯算子的谱来明确描述梯度下降（GD）的收敛速度。然而，在交替方向乘法（ADMM）下的相同类型的问题却知之甚少。例如，简单但重要的非强凸一致性问题还没有被分析，特别是关于图的拓扑结构上的收敛速度的依赖性。最近，针对一个非强凸一致性问题，提出了分布式ADMM和提升马尔可夫链之间的联系，并推测ADMM比GD在收敛时间上快一个平方根因子，这与提升多个马尔可夫链所获得的混合加速效果非常相似.然而，这种说法的证据仍然缺乏。在这里，我们提供了一个完整的表征的收敛性的分布式超松弛ADMM为同一类型的共识问题的底层图的拓扑结构。我们的结果提供了明确的公式，最佳参数选择的第二大特征值的图的随机游动的转移矩阵。我们的结果的另一个后果是上述猜想的证明，有趣的是，我们表明它是有效的任何图，即使是那些随机游动不能通过马尔可夫链提升加速。
2017-10-02 math.OC stat.ML
Adaptive Uncertainty-Weighted ADMM for Distributed Optimization
提出了一种求解大规模凸优化问题的自适应不确定加权一致ADMM方法AUQ-ADMM。我们的主要贡献是一种新的自适应加权方案，经验上增加了共识ADMM计划取得的进展，是有吸引力的，当使用大量的子问题。权重与每个子问题的解决方案相关的不确定性，并使用低秩近似有效地计算。我们证明了AUQ-ADMM可证明收敛，并证明了其在一系列机器学习应用中的有效性，包括弹性网络回归，多项式逻辑斯谛回归和支持向量机。我们提供了一个基于PyTorch包的实现。
2022-04-19 cs.NA math.NA math.OC
Nonconvex Consensus ADMM for Cooperative Lane Change Maneuvers of Connected Automated Vehicles
互联和自动化车辆（CAV）为改善没有通信能力的自动化车辆（AV）的性能提供了巨大的潜力，特别是在车辆（或代理）需要合作以完成其操纵的情况下。密集交通中的变道机动，例如，对于非联网的自动驾驶汽车来说是非常具有挑战性的。为了缓解这个问题，我们提出了一个整体的分布式变道控制方案的CAV依赖于车辆到车辆的通信。将原来集中式的最优控制问题嵌入到基于共识的乘子框架的交替方向法中，以分布式滚动时域方式求解。虽然代理动力学使基本的最优控制问题的非凸，我们提出了一个问题的重新制定，允许获得收敛保证。在分布式环境中，每个智能体需要在本地求解一个非线性规划（NLP）。为了获得局部NLP的实时解，我们利用优化引擎OpEn，其实现用于最优控制的近似平均牛顿法（PANOC）。仿真结果证明了该方法的有效性和实时性。
2020-05-24 cs.SY eess.SY math.OC
Seeking Consensus on Subspaces in Federated Principal Component Analysis
针对联邦PCA中隐私保护与通信效率难以兼顾的问题，提出通过子空间相等达成共识的类ADMM算法，并证明其隐私性、收敛性及更低通信开销。
2022-12-02 cs.CR cs.DC math.OC
An Asynchronous Approximate Distributed Alternating Direction Method of Multipliers in Digraphs
在这项工作中，我们考虑异步分布式最优化问题，其中每个节点都有自己的凸费用函数，可以直接与它的邻居，由一个有向通信拓扑（有向图或有向图）。首先，我们重新制定的最优化问题，使交替方向法的乘数（ADMM）可以利用。在此基础上，提出了一种基于有限时间异步近似比率一致性的多节点凸最优化问题的求解算法--异步近似分布式乘子交替方向法（AsyAD-ADMM），该算法中每个节点进行迭代计算，并与相邻节点异步交换信息.更具体地说，在AsyAD-ADMM的每次迭代中，每个节点为原始变量之一求解局部凸优化问题，并利用有限时间异步近似共识协议来获得接近最优值的另一变量的值，因为第二原始变量的费用函数是不可分解的。如果各个费用函数是凸的但不一定是可微的，则所提出的算法以$\mathcal{O}(1/k)$的速率收敛，其中$k$是迭代计数器。AsyAD-ADMM的功效是通过一个分布式最小二乘最优化问题的概念验证与不同的性能影响因素的调查。
2021-04-24 cs.DC math.OC
Tracking-ADMM for Distributed Constraint-Coupled Optimization
我们考虑约束耦合的最优化问题，其中代理的网络的目标是合作最小化的总和，局部目标函数受到个人的约束和一个共同的线性耦合约束。我们提出了一种新的优化算法，嵌入一个动态平均共识协议的并行交替方向法的乘法器（ADMM）设计一个完全分布式的计划所考虑的设置。动态平均机制允许代理跟踪随时间变化的耦合约束违反（在当前的解决方案估计）。然后使用约束违反的跟踪版本来更新基于共识的方案中的局部对偶变量，该方案模仿并行ADMM步骤。在凸性条件下，我们证明了主体原解估计的所有极限点构成约束耦合（原）问题的最优解。通过基于Lyapunov的分析证明了该结果，同时证明了对偶估计对对偶最优解的一致性、跟踪方案的收敛性和原迭代的渐近最优性.插电式电动汽车最优充电方案的数值研究证实了理论结果。
2019-07-25 cs.SY eess.SY math.OC
A Proximal Dual Consensus ADMM Method for Multi-Agent Constrained Optimization
National Taiwan University of Science and Technology（台湾科技大学）
本文提出一种新的分布式优化方法，通过将凸优化问题中的多面体约束作为惩罚项处理，提高了求解效率，并分析了其收敛性。
2014-09-11 cs.SY eess.SY math.OC
Distributed Average Consensus with Bounded Quantizer and Unbounded Input
本文考虑分布式平均共识使用有限位有界量化器与可能的无界数据。在乘子的交替方向法（ADMM）框架下，我们开发了分布式平均算法，其中每个节点仅使用其邻居的局部信息和重复量化输出迭代更新。它示出，所有的代理变量收敛到相同的量化水平或循环后的数据平均有限的迭代。建立了一致值的误差界，其结果与使用无界舍入量化器的误差界相同，只要算法参数（即，ADMM步长）足够小。我们还分析了算法参数的影响，并提出了一个自适应的参数选择策略，只需要知道的代理的数量，以加快算法与一定的共识精度保证。最后，通过仿真验证了所提算法的有效性.
2017-08-20 math.OC
A Distributed Newton Method for Large Scale Consensus Optimization
在本文中，我们提出了一个分布式牛顿算法的共识优化。我们的方法优于最先进的方法，包括ADMM。其核心思想是利用对偶Hessian的稀疏性，将牛顿步的计算转化为求解对称对角占优线性方程组的有效计算。我们验证我们的算法在理论上和经验。在理论方面，我们证明了我们的算法在最优邻域内具有超线性收敛性。经验上，我们展示了这种新方法在各种机器学习问题上的优越性。所提出的方法是可扩展的非常大的问题，并具有较低的通信开销。
2016-06-21 cs.DC math.OC
ADMM-Tracking Gradient for Distributed Optimization over Asynchronous and Unreliable Networks
该研究提出一种嵌入分布式ADMM、结合局部比例动作的分布式一致性优化算法及其鲁棒扩展，证明其在理想、异步丢包场景下的线性收敛性与通用误差鲁棒性，仿真验证了性能优势。
2025-02-04 math.OC
Distributed and Constrained $ \mathcal{H}_2 $ Control Design via System Level Synthesis and Dual Consensus ADMM
设计最优的分布线性反馈控制器以达到期望的聚集行为，同时满足状态和输入约束，在许多应用中是一个具有挑战性但重要的问题。系统级综合是一种新的技术，它已被用来重新参数化的最优控制问题作为一个凸规划。先前关于具有状态和输入约束的系统级合成的工作包括闭环有限冲激响应和局部约束，或者在使用单极点近似解除这些约束的情况下，仅考虑集中式设计。然而，闭环有限冲激响应和局部约束在许多应用中不能满足。此外，使用单极点近似的集中式设计缺乏对通信故障和干扰的鲁棒性，具有高计算成本，并且不保护本地控制器的数据隐私。这项工作的主要贡献是开发一个分布式的解决方案，系统级的合成与单极点近似，以将状态和输入约束，而无需闭环有限冲激响应或局部约束，并在分布式实现。为了实现这一点，它首先表明，这个问题的对偶是一个分布式的共识问题。在此基础上，提出了一种基于乘子的交替方向法求解对偶问题的算法，并给出了收敛性证明。最后，该方法的性能证明了分布式能源的控制设计，共同提供稳定服务的电网的测试案例。
2022-11-04 math.OC
Second-Order KKT Guarantees for Bregman ADMM in Nonconvex and Non-Lipschitz Optimization
Department of Electrical and Computer Engineering, Iowa State University（电气与计算机工程系，爱荷华州立大学）；Department of Computer Science and Engineering, Ohio State University（计算机科学与工程系，俄亥俄州立大学）；DAMO Academy, Alibaba Group US（阿里巴巴集团美国DAMO研究院）
针对非凸线性约束问题，在双侧相对光滑条件下分析Bregman ADMM，证明其不动点映射的严格鞍点不稳定，结合一阶收敛结果得到几乎必然二阶KKT点收敛。
2026-06-29 cs.LG math.OC
Distributed ADMM with linear updates over directed networks
本文针对有向网络提出一种具有线性更新的分布式ADMM算法，在目标函数光滑强凸时实现几何收敛，并通过不强制精确一致性显著提升收敛速度。
2023-09-20 cs.SY eess.SY math.OC
An Inexact Accelerated Stochastic ADMM for Separable Convex Optimization
提出了一种求解带线性约束的结构可分凸优化问题的非精确加速随机交替方向法（AS-ADMM）格式。目标函数是一个可能非光滑的凸函数和一个光滑函数的和，光滑函数是许多分量凸函数的平均。具有这种结构的问题经常出现在机器学习和数据挖掘应用中。AS-ADMM结合了ADMM和使用方差缩减技术的随机梯度法的思想。其中一个ADMM子问题采用线性化技术，而类似的线性化可以引入其他子问题。对于一个指定的选择的算法参数，它示出的目标误差和约束违反是$\mathcal{O}(1/k)$相对于外部迭代$k$的数量。在强凸性假设下，期望误差线性收敛到零。还讨论了AS-ADMM的线性化变体和增量采样策略。随机和确定性ADMM算法的数值实验表明，AS-ADMM可以特别有效的大数据应用中出现的结构化优化。
2020-10-24 math.OC
Fully Distributed Alternating Direction Method of Multipliers in Digraphs via Finite-Time Termination Mechanisms
在这项工作中，我们考虑分布式最优化问题，其中每个节点都有自己的凸费用函数，可以直接与它的邻居，所确定的有向通信拓扑结构（有向图或有向图）。首先，我们重新制定的最优化问题，使交替方向法的乘数（ADMM）可以利用。在此基础上，提出了一种多节点凸最优化问题的分布式乘子交替方向法（D-ADMM-FTERC），每个节点进行迭代计算，并与相邻节点进行信息交换。在D-ADMM-FTERC的每次迭代中，每个节点解决原始变量之一的局部凸优化问题，并利用有限时间精确一致性协议来获得另一个变量的最优值，因为第二原始变量的费用函数是不可分解的。由于D-ADMM-FTERC需要知道网络中节点数的上界，因此我们进一步提出了一种新的算法，称为全D-ADMM瞬时分布式终止（FD-ADMM-FTDT）算法，该算法不需要任何全局信息。如果各个费用函数是凸的并且不一定是可微的，则所提出的算法以O（1/k）的速率收敛，其中k是迭代计数器。此外，如果全局目标函数是强凸和光滑的，所提出的算法具有“近似”R-线性收敛速率。FD-ADMM-FTDT的有效性通过分布式L1正则化逻辑斯谛回归优化示例来证明。此外，与其他国家的最先进的算法的比较提供了对大规模网络显示优越的精度和时间效率的性能FD-ADMM-FTDT。
2021-10-06 math.OC
Distributed Prediction-Correction ADMM for Time-Varying Convex Optimization
本文提出基于预测-校正框架的对偶正则化ADMM，用于分布式时变凸优化，并通过数值实验证明其在渐近误差和一致性约束违反方面优于非精确梯度法和精确对偶分解方法。
2020-11-17 math.OC
Distributed Model Predictive Consensus via the Alternating Direction Method of Multipliers
ETH Zurich（苏黎世联邦理工学院）
提出一种分布式优化方法，利用交替方向乘子法（ADMM）解决分布式模型预测一致性问题，实现双积分器网络的位置和速度一致性，并通过少量迭代达到接近集中式优化的闭环性能。
2012-12-06 cs.SY eess.SY math.OC
Convergence Analysis of Alternating Direction Method of Multipliers for a Family of Nonconvex Problems
乘子交替方向法（ADMM）在求解大规模线性约束最优化问题（凸或非凸）中有着广泛的应用。然而，当目标函数为非凸函数时，该算法的理论认识普遍缺乏。在本文中，我们分析了ADMM解决某些非凸的共识和共享问题的收敛性，并表明，经典的ADMM收敛到固定的解决方案，提供增广拉格朗日的罚参数选择足够大。对于共享问题，我们证明了ADMM是收敛的，无论可变块的数量。我们的分析不施加任何假设的算法产生的迭代，并广泛适用于许多ADMM变种，涉及近端更新规则和各种灵活的块选择规则。
2015-11-30 math.OC
D-ADMM: A Communication-Efficient Distributed Algorithm For Separable Optimization
本文提出了一种分布式算法--分布式乘子交替方向法（D-ADMM），用于求解由多个节点或代理组成的网络中的可分离最优化问题。在一个可分离的最优化问题中，在每个节点上都有一个私有的费用函数和一个私有的约束集。目标是最小化所有费用函数的和，将解约束在所有约束集的交集中。D-ADMM被证明收敛时，网络是二分或当所有的功能是强凸的，虽然在实践中，收敛观察，即使当这些条件不满足。我们使用D-ADMM来解决信号处理和控制中的以下问题：平均一致性，压缩感知和支持向量机。我们的模拟表明，D-ADMM需要更少的通信比国家的最先进的算法，以达到给定的精度水平。例如，在传感器网络中，具有低通信要求的算法是重要的，其中传感器通常是电池供电的，并且通信是最耗能的操作。
2013-04-22 math.OC
BFGS-ADMM for Large-Scale Distributed Optimization
考虑一类分布式最优化问题，其中目标函数由强凸函数和光滑函数以及（可能非光滑）凸正则化子组成。假设一个多智能体网络，其中每个智能体拥有一个私有的费用函数，并与它的邻居合作，以计算最优的聚合目标。本文提出了一种准牛顿乘子交替方向法（ADMM），其中原始更新是用近似曲率信息不精确求解的。通过引入一个中间一致性变量，我们实现了一个块对角Hessian，它消除了在计算更新方向时网络内部通信环路的需要。我们建立了全局线性收敛的最佳原始-对偶解决方案，而不需要回溯线搜索，假设组件费用函数是强凸的Lipschitz连续梯度。真实数据集上的数值模拟表明了所提出的方法优于现有技术。
2021-09-30 math.OC
Fast Decentralized Optimization over Networks
目前的工作介绍了混合共识交替方向法的乘法器（H-CADMM），一个新的框架，优化网络，统一现有的分布式优化方法，包括集中式和分散式的共识ADMM。H-CADMM提供了一种灵活的工具，该工具利用底层图形拓扑，以便在节点到节点通信开销和收敛速率之间实现所需的最佳点--从而减轻C-CADMM和D-CADMM两者的已知限制。对新方法的严格分析建立了线性收敛速率，并且还指导参数的选择以优化该速度。H-CADMM的新型混合更新规则有助于“网络内加速”，这被证明可以显著提高完全分散的ADMM的性能，而且基本上是“免费的”。全面的数值测试验证了分析，并展示了该方法在处理有效，广泛有用的学习任务的潜力。
2018-05-09 cs.DC eess.SP math.OC
Affine-coupled Distributed Optimization via Distributed Proximal Jacobian ADMM with Quantized Communication
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；University of Bologna（博洛尼亚大学）；KTH Royal Institute of Technology（皇家理工学院）；The Hong Kong University of Science and Technology（香港科技大学）
本文提出一种结合集中式近端雅可比交替方向乘子法与有限级量化共识方案的分布式算法，用于解决受限通信带宽下的分布式资源分配优化问题，证明其在凸目标函数下具有亚线性收敛性。
2026-04-16 cs.SY eess.SY math.OC
A distributed ADMM-like method for resource sharing over time-varying networks
我们考虑合作的多智能体资源共享问题在时变通信网络，只允许本地通信。我们的目标是最小化的总和代理特定的复合凸函数受到圆锥约束，耦合代理的决定。我们提出了一个分布式的原始对偶法DPDA-D解决鞍点公式的共享问题的时变（非）有向通信网络，我们表明，原始对偶序列收敛到一个点定义的原始最优解和一个共识的双重价格的耦合约束。此外，我们提供了收敛速度的次优，不可行性和共识违反代理的双重价格评估;检查底层网络拓扑结构的影响，建议分散算法的收敛速度;并比较DPDA-D与集中式方法的基础上追求去噪和多通道功率分配问题。
2019-08-25 math.OC
Fast ADMM Algorithm for Distributed Optimization with Adaptive Penalty
Rutgers, The State University of New Jersey（罗格斯大学，新泽西州立大学）
我们提出了新的方法来加快收敛的交替方向乘法（ADMM），一个常见的优化工具，在大规模和分布式学习的背景下。该方法通过在每次迭代中自动确定参数一致性所需的约束惩罚，加快了收敛速度。此外，我们还提出了一个扩展的方法，自适应地确定最大迭代次数来更新惩罚。我们表明，这种方法有效地导致一个自适应的，动态的网络拓扑结构的分布式优化。新的惩罚更新计划的实用程序证明了合成和真实的数据，包括计算机视觉应用的分布式运动恢复结构。
2015-06-30 cs.CV cs.LG math.OC
Stochastic Proximal Gradient Consensus Over Random Networks
我们考虑解决一个凸的，可能的随机最优化问题的随机时变多智能体网络。每个代理都可以访问一些局部目标函数，并且它只具有平滑分量的梯度的无偏估计。我们开发了一个动态随机近似梯度一致性（DySPGC）算法，该算法具有以下主要特点：i）它适用于静态和某些随机时变网络，ii）它允许代理利用精确或随机梯度信息，iii）它以可证明的速度收敛。特别地，我们证明了该算法收敛到全局最优解，速度为$\mathcal{O}(1/r)$ [resp. [001 pdf 1st-31 files]当正确的时候，随机）梯度是可用的，其中r是迭代计数器。有趣的是，开发的算法桥接了许多（看似无关的）分布式优化算法，例如EXTRA（Shi et al. 2014），PG-EXTRA（Shi et al. 2015），IC/IDC-ADMM（Chang et al. 2014）和DLM（Ling et al. 2015）以及经典的分布式次梯度方法。识别这种关系允许这些方法的显著推广。我们还讨论了一个这样的推广，加速DySPGC（因此加速EXTRA，PG-EXTRA，IC-ADMM）。
2016-11-26 cs.IT math.IT math.OC
A Dynamically Weighted ADMM Framework for Byzantine Resilience
本文提出动态加权ADMM框架，用于在拜占庭攻击下实现鲁棒的分布式优化，证明其在无误差和存在攻击情况下均能保持解的稳定性。
2025-08-15 cs.MA cs.SY eess.SY
Perturbed Proximal Gradient ADMM for Nonconvex Composite Optimization
PPG-ADMM通过引入扰动机制解决非凸复合优化问题，实现子线性收敛并提供更强的最优性保证。
2026-01-05 math.OC
Particle Image Velocimetry Refinement via Consensus ADMM for Active Fluid Control
ETH Zürich（苏黎世联邦理工学院）
研究针对传统粒子图像测速法及机器学习方法在流量量化中的不足，提出将其作为多估计器融合问题，采用基于交替方向乘子法的共识框架，经实验验证该方法能提升性能，并成功应用于实际主动流体控制中。
2026-08-25 cs.CV eess.IV math.OC
Online Distributed ADMM on Networks
研究了在线分布式乘子交替方向法。目标是在线性约束下，在决策者网络上分布式优化全局目标函数。全局目标函数由与每个代理相关联的凸费用函数组成。另一方面，当地的费用函数，假设已被分解成两个不同的凸函数，其中之一是揭示了决策者随着时间的推移和一个已知的先验。此外，代理必须通过线性约束在与私有局部变量相关的全局变量上达成共识。在这项工作中，我们将在线ADMM扩展到基于双平均和分布式梯度下降的分布式设置。然后，我们提出了一个性能指标，这样的在线分布式算法和探索的算法所产生的决策序列的性能相比，最好的固定的决定在事后。这种表现指标被称为社交遗憾。一个次线性上界的社会遗憾的算法，然后得到强调的作用，底层网络拓扑结构和某些条件的措施与线性约束。在线分布式ADMM算法，然后施加到一个编队捕获问题，证明了分布式机器人的应用程序，建议的设置。
2015-10-02 cs.DC cs.DS cs.MA
Distributed optimization on directed graphs based on inexact ADMM with partial participation
针对有向图网络中的分布式成本函数求和最小化问题，提出基于非精确 ADMM 与部分参与机制的分布式优化算法，在标准假设下证明了线性收敛性，其收敛速率优于 Push-DIGing 且显著节省计算与通信开销。
2023-04-01 math.OC
Distributed Event-Triggered Leader-Follower Consensus of Nonlinear Multi-Agent Systems
我们考虑分布式领导者-追随者的共识问题与事件触发的通信。所考虑的系统是一个非线性输入仿射多智能体系统。该方法假设智能体具有相同的动力学结构，且参数不确定，满足增量稳定性条件。提出了一种分布式控制律，它基于两个新的通信触发条件（CTC）实现一致性：第一个条件实现渐近一致性，但不保证Zeno行为;第二个条件排除Zeno行为，但具有实际一致性.
2023-03-03 math.OC
A Decentralized Primal-Dual Framework for Non-convex Smooth Consensus Optimization
在这项工作中，我们介绍了ADAPD，$\textbf{A}$ $\textbf{D}$ ecentr $\textbf{A}$ lized $\textbf{P}$ rimal- $\textbf{D}$ ual算法框架解决非凸和光滑的共识最优化问题在网络上的分布式代理。建议的框架依赖于一个新的问题制定，elancialADMM型更新，每个代理首先不精确地解决了一个局部强凸子问题，其选择的任何方法，然后执行邻居通信更新一组对偶变量。我们提出了两种变体，允许一个单一的梯度步骤的原始更新或多个通信的双重更新，利用每次迭代的成本和迭代次数之间的权衡。当多个通信被执行时，ADAPD可以实现理论上最优的通信复杂度结果的非凸和光滑的共识问题。在几个应用程序（包括深度学习应用程序）上进行的数值实验证明了ADAPD优于几种常用的分散式方法。
2023-02-03 math.OC
Distributed Optimization of Average Consensus Containment with Multiple Stationary Leaders
在本文中，我们考虑的问题包含多个固定的领导者，在有向网络上相互作用的多智能体系统的控制。而包容控制是指仅仅保证跟随者到达领导者状态的凸包，我们关注的问题是跟随者达到共识的领导者状态的平均值。我们提出了一种算法，可以实现分布式的方式来实现上述共识的追随者。接下来，我们通过适当选择交互图的权重来优化追随者到平均共识的收敛速度。该优化也使用乘法器的交替方向法（ADMM）以分布式方式执行。最后，我们补充我们的结果，说明他们与数值例子。
2022-03-30 cs.SY eess.SY math.OC
Scalable Plug-and-Play ADMM with Convergence Guarantees
Washington University in St. Louis（圣路易斯华盛顿大学）；California Institute of Technology（加州理工学院）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
即插即用先验（Plug-and-Play Priors，PIPE）是一种广泛适用的方法，通过利用指定为降噪器的统计先验来解决逆问题。最近的工作报告了PADER算法的最新性能，该算法使用预先训练的深度神经网络作为许多成像应用中的去噪器。然而，目前的Pestrian算法是不切实际的，在大规模的设置，由于其沉重的计算和内存的要求。这项工作通过提出广泛使用的PnP-ADMM算法的增量变体来解决这个问题，使其可扩展到大规模数据集。我们从理论上分析了一组明确的假设下，该算法的收敛性，扩展最近的理论结果在该地区。此外，我们展示了我们的算法的有效性与非光滑的数据保真度条款和深度神经网络先验，其快速收敛相比，现有的Pestrian算法，其可扩展性方面的速度和内存。
2021-01-22 cs.LG math.OC stat.ML
Faster Stochastic Alternating Direction Method of Multipliers for Nonconvex Optimization
University of Pittsburgh（匹兹堡大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；MIIT Key Laboratory of Pattern Analysis & Machine Intelligence（工业和信息化部模式分析与机器智能重点实验室）；JD Finance America Corporation（京东金融美国公司）
本文利用一种新的随机路径积分微分估计器（SPIDER），提出了一种求解非凸优化问题的快速随机交替方向法（SPIDER-ADMM）.此外，我们证明了SPIDER-ADMM实现了破纪录的增量一阶oracle（IFO）的复杂度为$\mathcal{O}(n+n^{1/2}ε^{-1})$寻找一个$ε$ -近似平稳点，这提高了确定性ADMM的一个因素$\mathcal{O}(n^{1/2})$，其中$n$表示的样本大小。作为本文的主要贡献之一，我们为非凸随机ADMM方法提供了一个新的理论分析框架，并给出了最优的IFO复杂度。基于这一新的分析框架，我们研究了现有非凸SVRG-ADMM和SAGA-ADMM方法的最优IFO复杂度，证明了它们具有$\mathcal{O}(n+n^{2/3}ε^{-1})$的最优IFO复杂度.因此，SPIDER-ADMM通过因子$\mathcal{O}(n^{1/6})$改进了现有的随机ADMM方法。此外，我们扩展了SPIDER-ADMM的在线设置，并提出了一个更快的在线SPIDER-ADMM。我们的理论分析表明，在线SPIDER-ADMM具有$\mathcal{O}(ε^{-\frac{3}{2}})$的IFO复杂度，这将现有的最佳结果提高了$\mathcal{O}(ε^{-\frac{1}{2}})$倍。最后，在基准数据集上的实验结果验证了所提出的算法具有更快的…
2020-08-10 cs.CV cs.LG math.OC
A Distributed Parallel Optimization Algorithm via Alternating Direction Method of Multipliers
乘子交替方向法（ADMM）算法是求解分布式最优化问题（DOP）的常用算法。本文提出了一种新的分布式并行ADMM算法，该算法通过修改现有的分布式顺序ADMM，允许代理以完全分布式和并行的方式更新其局部状态和对偶变量。此外，还说明了变量的更新规则和存储方法。结果表明，所有的智能体可以达成共识，渐近收敛到最优解。此外，全局费用函数将以O（1/k）的速度收敛到最优值。数值算例的仿真结果表明了该算法的有效性。
2021-11-20 cs.SY eess.SY math.OC
Limited Communications Distributed Optimization via Deep Unfolded Distributed ADMM
School of ECE, Ben-Gurion University of the Negev（内盖夫本-古里安大学电子与计算机工程学院）
本文提出展开的D-ADMM算法，通过深度展开方法在有限通信下实现分布式优化，保留原算法性能并减少通信次数，适用于分布式估计和学习任务。
2024-08-20 cs.LG eess.SP math.OC
A Sequential Operator-Splitting Framework for Exploration of Nonconvex Trajectory Optimization Solution Spaces
针对传统轨迹优化方法易收敛至初始猜测邻域局部解的问题，提出基于ADMM的序列算子分裂框架，在SCP框架内增强非凸解空间探索能力，仿真验证其可在同等或更少智能体下得到更优或同等成本的解。
2025-11-18 cs.SY eess.SY math.OC
