Fast model averaging via buffered states and first-order accelerated optimization algorithms
在这封信中,我们研究的问题,加速达成平均共识的连通图在离散时间通信设置。文献表明,可以通过增加图的连通性或优化代理对从邻居接收的信息所设置的权重来加速共识算法。在这里,我们研究了两种使用缓冲状态来加速在给定图上达到平均共识的方法,而不是改变通信图。在第一种方法中,我们研究了著名的一阶拉普拉斯平均一致性算法的收敛速度如何变化时,协议反馈产生的缓冲状态。对于这项研究,我们得到了一个充分条件的缓冲状态的范围,导致更快的收敛。在第二种方法中,我们展示了如何将平均共识问题转化为一个凸优化问题,并通过一阶加速优化算法求解强凸费用函数。我们构造了一个加速平均共识算法,使用所谓的三重动量优化算法。第一种方法需要较少的全局知识来选择步长,而第二种方法通过使用来自图拓扑的额外信息来加快数值结果的收敛。我们证明了我们的结果,通过实施所提出的算法在传感器网络中使用的高斯混合模型(GMM)估计问题。
2022-11-11 cs.MA math.OC
Convergence Rates of Accelerated Markov Gradient Descent with Applications in Reinforcement Learning
受机器学习中广泛应用的启发,我们研究了流行的加速随机梯度下降(ASGD)算法来解决(可能是非凸的)最优化问题。我们的特点是这种方法的有限时间性能时,梯度采样马尔可夫过程,因此有偏和依赖于从时间步到时间步;相比之下,在现有的工作中的分析在很大程度上依赖于随机梯度是独立的,有时无偏的。我们的主要贡献表明,在某些(标准)的假设下,底层的马尔可夫链产生的梯度,ASGD收敛在几乎相同的速度与马尔可夫梯度样本与独立的梯度样本。唯一的区别是一个对数因子,它说明了马尔可夫链的混合时间。这项研究的主要动机之一是复杂的控制问题,可以通过马尔可夫决策过程建模,并使用强化学习来解决。我们将加速方法应用于OpenAI Gym和Mujoco中的几个具有挑战性的问题,并表明加速可以显着提高经典时间差学习和REINFORCE算法的性能。
2020-10-19 math.OC
A Dual Accelerated Method for Online Stochastic Distributed Averaging: From Consensus to Decentralized Policy Evaluation
出于分散的传感和政策评估问题,我们考虑一种特殊类型的分布式随机最优化问题的网络,称为在线随机分布平均问题。我们设计了一个基于对偶的方法来解决这个带有Polyak-Ruppert平均的分布式一致性问题,并分析了它的行为。我们表明,该算法达到了加速确定性误差最佳依赖于网络的条件数,也有一个顺序最优的随机误差。这提高了保证国家的最先进的分布式随机最优化算法时,专门为此设置,并产生-除其他事项外-推论分散的政策评估。我们的证明依赖于明确地研究几个相关的线性系的演化,可能是独立的利益。数值实验,验证了我们的理论结果,并表明,我们的方法优于现有的方法在有限样本的情况下,几个自然的网络拓扑结构。
2022-08-08 cs.MA cs.SY eess.SY
Convergence Rate of Accelerated Average Consensus with Local Node Memory: Optimization and Analytic Solutions
先前的研究表明,增加局部记忆可以加速共识。人们自然会问这样的问题:$M$ -tap内存加速可实现的最快速率是多少,以及相应的控制参数是什么。本文介绍了一套有效的和以前没有使用过的技术来分析收敛速度的加速共识与$M$ -抽头内存的本地节点和设计的控制协议。这些有效的方法,包括Kharitonov稳定性定理、Routh稳定性判据和鲁棒稳定裕度,得到了如下新结果:1)收敛速度与控制参数之间的直接联系,2)在给定图上$M \leq 2$的最优收敛速度和相应的最优控制参数的显式表达式; 3)不确定图集上记忆$M \geq 1$的最优最坏情况收敛速度及相应的最优控制参数。我们表明,加速与内存$M = 1$提供了最佳的收敛速度的意义上的最坏情况下的性能。数值算例验证了理论结果的正确性和有效性。
2021-12-10 cs.SY eess.SY math.OC
Decentralized Proximal Optimization Method with Consensus Procedure
针对分散复合优化问题,提出基于加速近向梯度下降并在计算间进行多次共识迭代的方法,证明共识过程适用于复合优化且结构分析简单。
2023-04-07 math.OC
Accelerated Alternating Direction Method of Multipliers Gradient Tracking for Distributed Optimization
本文提出一种结合动量、ADMM与梯度跟踪的新型加速分布式优化算法,理论证明其收敛速度快于非加速同类算法,仿真验证其性能优于现有分布式共识一阶优化协议。
2024-05-14 cs.SY eess.SY math.OC
On the Convergence of Consensus Algorithms with Markovian Noise and Gradient Bias
本文给出了一个分散随机逼近(SA)格式的有限时间收敛性分析。该方案概括了分散式机器学习和多智能体强化学习的几种算法。我们的证明技术包括将迭代分为各自的共识部分和共识错误。一致性误差是有界的平稳性的一致性的一部分,而更新的一致性的一部分,可以分析作为一个扰动SA计划。在马尔可夫噪声和时变通信图假设下,分散SA方案具有${\cal O}(\log T/ \sqrt{T} )$的预期收敛速度,其中$T$是迭代次数,对于具有光滑但非凸费用函数的非线性SA,以梯度的平方范数表示。该速率与具有非凸势函数的集中式设置中SA的最佳已知性能相当。
2020-11-05 math.OC stat.ML
Is Consensus Acceleration Possible in Decentralized Optimization over Slowly Time-Varying Networks?
我们考虑分散最优化问题,其中一个目的是最小化的凸光滑目标函数分布在网络中的节点之间的总和。网络中的链接可能会随时发生变化。对于任意变化量的设置,较低的复杂度界限和相应的最优算法是已知的,并且共识加速是不可能的。然而,在实践中,网络变化的幅度可能是有限的。我们得出较低的通信复杂性界限的几个制度的速度网络的变化。此外,我们展示了如何使用特定的共识算法来获得某一类时变图的加速通信速率。
2023-01-27 math.OC
Decentralized Inexact Cubic Newton Method with Consensus Procedure
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学);Moscow Independent Research Institute of Artificial Intelligence(莫斯科独立人工智能研究院);Trusted AI Research Center, RAS(俄罗斯科学院可信人工智能研究中心);Innopolis University(因诺波利斯大学)
本文研究了去中心化的二次优化问题,提出了一种适用于凸优化的去中心化三次牛顿方法,并开发了能够准确跟踪共识和局部迭代不一致性的理论。该方法在L1梯度光滑性和L2Hessian Lipschitz连续性假设下,与精确三次牛顿方法具有相同的迭代复杂度,并通过额外的多项式对数通信轮次开销达到所需的共识精度。此外,还提出了适用于强凸目标的加速去中心化三次牛顿方法,其迭代复杂度与精确加速三次牛顿方法一致。最后,尽管通用方法需要交换完整的d×dHessian矩阵,但通过仅传输向量的方式实现了在高维情况下更实用的实现。
2026-05-21 math.OC
The fastest linearly converging discrete-time average consensus using buffered information
在这封信中,我们研究的问题,加速达成平均共识的连通图在离散时间通信设置。文献表明,可以通过增加图的连通性或优化代理对从邻居接收的信息所设置的权重来加速共识算法。在这封信中,我们没有改变通信图,而是研究了两种使用缓冲状态来加速在给定图上达到平均共识的方法。在第一种方法中,我们研究了著名的一阶Laplacian平均一致性算法的收敛速度如何随延迟反馈的变化,并得到了一个关于延迟范围的充分条件,导致更快的收敛。在第二种方法中,我们展示了如何将平均一致性问题转化为一个凸优化问题,并通过一阶加速优化算法求解强凸费用函数。我们使用所谓的三重动量优化算法构造最快收敛的平均一致性算法。我们证明了我们的结果使用网络内的线性回归问题,这是制定为两个平均共识问题。
2022-06-20 cs.MA math.OC
Multi-consensus Decentralized Accelerated Gradient Descent
Xi’an Jiaotong University(西安交通大学);Fudan University(复旦大学);The Hong Kong Polytechnic University(香港理工大学);The Hong Kong University of Science and Technology(香港科技大学)
针对去中心化凸优化问题,提出融合Nesterov加速、多共识与梯度跟踪的新型算法,实现最优计算复杂度和近似最优通信复杂度,收敛仅依赖全局强凸性,在机器学习任务中表现更优。
2023-10-10 cs.LG math.OC stat.ML
Decentralized Optimization Over Slowly Time-Varying Graphs: Algorithms and Lower Bounds
针对缓慢时变网络上的去中心化凸优化,本文分别研究 Markov 随机变化与确定性变化图,提出随机情形的加速共识算法,并证明最坏情况下每轮仅改两条边也会使加速共识不可能。
2023-07-24 math.OC
Dynamical Primal-Dual Accelerated Method with Applications to Network Optimization
针对一类带仿射等式约束的凸优化问题,提出了一种带阻尼系数的连续时间原-对偶加速算法。本文分析了该方法中参数的临界值,并证明了通过选择合适的参数,以对偶间隙函数表示的收敛速率为$O(\tfrac{1}{t^2})$。据我们所知,这是第一个连续时间的原始-对偶加速方法,可以获得最优的速度。然后将该方法应用于两个网络最优化问题,一个带一致性约束的分布式最优化问题和一个分布式扩展单变量最优化问题,得到了两种不同的分布式算法。最后,通过数值模拟验证了该方法的有效性.
2022-02-15 math.OC
Consensus Algorithms and the Decomposition-Separation Theorem
分析了基于时间非齐次马尔可夫链的离散和连续时间线性一致性算法的收敛性。假设底层链满足所谓的无限喷流性质,建立了一致性和多重一致性的必要条件。Sonin将齐次马氏链的经典Kolmogorov-Doeblin分解-分离推广到非齐次马氏链的情形,证明了当马氏链是Touri和Nedic定义的P* 类马氏链时,所得到的分解-分离的必要条件也是充分的.它还表明,Sonin的定理导致重新发现和推广的大多数现有的相关共识的结果在文献中。
2014-09-24 cs.SY eess.SY math.DS
Accelerated Primal-Dual Mirror Dynamics for Centrailized and Distributed Constrained Convex Optimization Problems
本文研究了两种原-对偶镜像动力学加速算法,分别用于求解具有仿射约束和闭凸集约束的光滑和非光滑凸优化问题。在光滑情形下,提出了一种基于加速镜下降和原-对偶框架的加速原-对偶镜动力学方法(APDMD),并利用李雅普诺夫分析方法推导了原-对偶间隙、可行性测度和目标函数值随APDMD轨迹的加速收敛性质.然后,我们将APDMD扩展为两种分布式动力学方法,分别处理两类分布式光滑最优化问题,即,分布式约束一致性问题(DCCP)和分布式扩展单调优化(DEMO)与加速收敛保证。此外,在非光滑情形下,我们提出了一种光滑加速原对偶镜像动力学方法(SAPDMD),该方法利用光滑近似技术和上述APDMD。通过选取适当的光滑逼近参数,证明了SAPDMD的原-对偶间隙、目标函数值和可行性测度具有与APDMD相同的加速收敛性质.之后,我们提出了两个平滑加速分布式动力学方法来处理非光滑DEMO和DCCP,以获得加速和有效解。最后,数值实验证明了所提出的加速镜动力学方法的有效性。
2022-09-14 math.OC
On Lyapunov functions and gradient flow structures in linear consensus systems
二次型李雅普诺夫函数在线性一致系统的稳定性分析中很常见。本文证明了不可约一致系统的不同坐标下的凸函数的加权和是李雅普诺夫函数。我们引入了一类特殊的添加剂凸李雅普诺夫函数,其中包括作为特殊情况下,在RC电路,Kullback-Leiber的信息散度之间的两个概率测度,和吉布斯自由能在化学反应网络中存储的电能。在此基础上,我们建立了一个一般的梯度形式主义,允许表示线性对称共识动力学的梯度下降动力学的任何添加剂凸李雅普诺夫函数,适当选择当地的标量产品。这一结果推广了著名的欧几里得梯度结构的共识一般黎曼。我们还发现自然的非线性共识动力学不同的线性由不同的黎曼结构,共享相同的李雅普诺夫函数。我们还看到如何信息理论的李雅普诺夫函数,常见的马尔可夫链理论,通过适当的梯度下降产生线性共识。从这个统一的角度来看,我们希望开辟途径的线性和非线性的共识收敛的研究。
2015-01-07 math.OC
Towards accelerated rates for distributed optimization over time-varying networks
研究了具有强凸光滑代价函数的时变网络的分散优化问题。在我们的方法中,节点在进行每次梯度更新后运行多步gossip过程,从而确保每次迭代时的近似共识,而外部循环基于加速Nesterov方案。该算法在$O(\sqrt{κ_g}χ\log^2(1/\varepsilon))$通信步骤中实现了精确的$\varepsilon > 0$,并在每个节点上实现了$O(\sqrt{κ_g}\log(1/\varepsilon))$梯度计算,其中$κ_g$是全局函数数,$χ$表征了通信网络的连通性。在静态网络的情况下,$χ= 1/γ$,其中$γ$表示通信矩阵$\mathbf{W}$的归一化频谱间隙。复杂度界限包括$κ_g$,其可以显著优于节点之间的最差情况条件数。
2022-11-07 math.OC
An Output-Feedback Control Approach to the $H_{\infty}$ Consensus Integrated with Transient Performance Improvement Problem
研究了马尔可夫随机切换通信拓扑下网络化一般线性主体在外部干扰下的一致性性能改进问题。共识控制律只能利用其局部输出信息。首先,提出了一类基于全阶观测器的控制协议,解决了这个问题,它只依赖于邻居的相对输出。然后,为了消除全阶观测器的冗余,设计了一类基于降阶观测器的控制协议。给出了构造这两种协议的算法,保证了在不受干扰的情况下,Agent能够在渐近均方意义下达成一致,并且在干扰存在的情况下,Agent具有良好的$H_{\infty}$性能和瞬态性能.最后,将这两种算法应用于四架网络化的Raptor-90直升机,进行了数值模拟,验证了理论结果。
2018-10-15 math.OC
Accelerated Dual Averaging Methods for Decentralized Constrained Optimization
本文研究了网络中的分散凸约束最优化问题。我们专注于双平均为基础的算法框架,是有据可查的是优越的同时处理约束和复杂的通信环境。提出了两种新的分散双平均(DDA)算法。在第一个,二阶动态平均共识协议是专为DDA型算法,它配备了一个可证明的更准确的估计比传统的计划的全球对偶变量每个代理。我们严格证明,该算法达到$\mathcal{O}(1/t)$收敛一般凸和光滑的问题,现有的DDA方法只知道收敛在$\mathcal{O}(1/\sqrt{t})$之前,我们的工作。在第二种方法中,我们使用外推技术来加速DDA的收敛。与现有的加速算法相比,通常两个不同的变量在代理之间交换在每一个时间,所提出的算法只寻求共识的局部梯度。然后,基于分别由在两个连续时刻的梯度的累积确定的两个原始变量序列执行外推。证明了该算法收敛于$\mathcal{O}(1)\left(\frac{1}{t^2}+\frac{1}{t(1-β)^2}\right)$,其中$β$表示混合矩阵的第二大奇异值.我们注意到,该算法的参数,以保证收敛的条件不依赖于混合矩阵的频谱,使自己很容易满足在实践中。最后,数值结果表明所提出的方法的有效性。
2022-08-14 math.OC
Decentralized Computation of Effective Resistances and Acceleration of Consensus Algorithms
将加权无向图中的一对节点之间的有效电阻定义为在第一个节点处注入单位电流并在第二个节点处提取单位电流时在它们之间感应的电势差,将边的权重视为边的电导值。有效电阻是求解线性系、马尔可夫链和连续时间平均网络等许多应用和领域中的一个关键量。我们开发了一个有效的线性收敛分布式算法计算有效电阻,并通过数值研究证明其性能。我们还将我们的算法应用于共识问题,其目标是以分布式方式计算节点值的平均值。我们发现,我们开发的分布式算法的有效电阻可以用来加速收敛的经典共识迭代相当大的一个因素取决于网络结构。
2017-08-23 math.OC
Decentralized State-Dependent Markov Chain Synthesis with an Application to Swarm Guidance
本文提出去中心化状态依赖马尔可夫链综合(DSMC)算法,基于状态依赖共识协议实现指数收敛,并在概率群体引导仿真中验证了比已有算法更快的收敛速度。
2024-04-26 cs.MA math.DS math.OC
Distributed Optimization Over Markovian Switching Random Network
本文研究了具有马尔可夫交换通信网络的多智能体系统上的分布式凸优化问题。目标函数是每个代理的本地目标函数的和,它不能被其他代理知道。假设通信网络在一组具有马尔可夫性质的权值平衡有向图之间切换,提出了一种具有两个时标步长的一致次梯度算法,以处理马尔可夫切换拓扑结构和全局梯度信息缺失所带来的不确定性.在适当选取步长的情况下,证明了当马尔可夫网络状态的并图是强连通的且马尔可夫网络是不可约的时,所有个体的局部估计几乎必然收敛到同一个最优解.仿真结果的说明。
2020-02-23 math.OC
An Accelerated Primal Dual Algorithm with Backtracking for Decentralized Constrained Optimization
Pennsylvania State University(宾夕法尼亚州立大学);Rutgers University(罗格斯大学)
本文提出了一种带回溯的分布式加速对偶算法,用于解决去中心化约束优化问题,实现了最优收敛速率。
2026-03-05 math.OC
Data and Image Prior Integration for Image Reconstruction Using Consensus Equilibrium
Boston University(波士顿大学)
图像域先验模型已被证明可以提高重建图像的质量,特别是在数据有限的情况下。通过隐式或显式包含数据域先验的原始数据的预处理也分别显示出在改善重建中的实用性。在这项工作中,提出了一种原则性的方法,允许数据和图像域先验的统一整合,以改善图像重建。共识均衡框架扩展到集成物理传感器模型,数据模型和图像模型。为了实现这种整合,在共识平衡中使用的传统图像变量与表示数据域量的变量一起增强。总体结果产生数据和重建图像两者的组合估计,其与所利用的物理模型和先验模型一致。本工作中两个领域使用的先验模型都是使用深度神经网络创建的。通过将数据和图像域先验模型结合在一起,证明了两种应用程序的优越质量:有限角度CT和加速MRI。这两个应用程序中的现有数据模型都专注于恢复丢失的数据。实验结果提出了一个90度的有限角度断层扫描问题,从一个真正的检查袋装CT数据集和一个4倍加速MRI问题的模拟数据集。新的框架是非常灵活的,可以很容易地应用到其他计算成像问题的不完善的数据。
2020-08-31 cs.CV eess.IV math.OC
How is Distributed ADMM Affected by Network Topology?
当求解图上的一致性优化问题时,通常使用图拉普拉斯算子的谱来明确描述梯度下降(GD)的收敛速度。然而,在交替方向乘法(ADMM)下的相同类型的问题却知之甚少。例如,简单但重要的非强凸一致性问题还没有被分析,特别是关于图的拓扑结构上的收敛速度的依赖性。最近,针对一个非强凸一致性问题,提出了分布式ADMM和提升马尔可夫链之间的联系,并推测ADMM比GD在收敛时间上快一个平方根因子,这与提升多个马尔可夫链所获得的混合加速效果非常相似.然而,这种说法的证据仍然缺乏。在这里,我们提供了一个完整的表征的收敛性的分布式超松弛ADMM为同一类型的共识问题的底层图的拓扑结构。我们的结果提供了明确的公式,最佳参数选择的第二大特征值的图的随机游动的转移矩阵。我们的结果的另一个后果是上述猜想的证明,有趣的是,我们表明它是有效的任何图,即使是那些随机游动不能通过马尔可夫链提升加速。
2017-10-02 math.OC stat.ML
Provably Accelerated Randomized Gossip Algorithms
The University of Edinburgh, UK(爱丁堡大学);Facebook AI Research, Montreal(脸书人工智能研究);KAUST, KSA(王国立科技大学)
本文提出了一种可证明加速的随机传话算法,用于解决平均一致性问题。该算法受到最近开发的加速随机Kaczmarz方法的启发,该方法是解决线性系统问题的流行方法。在每次传话迭代中,网络中的所有节点都会更新它们的值,但只有成对的节点交换私有信息。还展示了在流行无线传感器网络上的数值实验,展示了我们协议的优势。
2018-10-31 cs.DC cs.LG cs.MA
A GPU-Accelerated Distributed Algorithm for Optimal Power Flow in Distribution Systems
针对有源配电网多相最优潮流控制问题,提出采用分量式分解的GPU加速分布式算法,通过分离等式与不等式约束利用GPU并行性大幅提速,在IEEE多规模测试系统上验证了优于CPU方案的可扩展性。
2025-01-14 cs.DC math.OC
Accelerated Markov Chain Monte Carlo Algorithms on Discrete States
Department of Mathematics University of California Santa Barbara, CA 93106, USA(数学系,加州大学圣巴巴拉分校);Department of Mathematics Florida State University Tallahassee, FL 32306, USA(数学系,佛罗里达州立大学);Department of Mathematics University of California Los Angeles, CA 90095, USA(数学系,加州大学洛杉矶分校);Department of Mathematics University of South Carolina Columbia, SC 29208, USA(数学系,南卡罗来纳大学)
本文提出了一种基于Nesterov加速梯度方法的离散状态采样算法,通过改进的哈密顿流和相互作用粒子系统,有效估计离散得分函数,无需归一化常数。
2026-08-14 cs.LG math.OC stat.CO
Scaling laws for consensus protocols subject to noise
MIT(麻省理工学院);Boston University(波士顿大学)
研究离散时间一致性协议在加性噪声下的性能,通过可逆马尔可夫链的稳态分歧权重表达式,分析图的Kemeny常数以表征形成控制协议的噪声鲁棒性。
2017-03-07 cs.DC cs.SY eess.SY
Random Asynchronous Iterations in Distributed Coordination Algorithms
分布式协调算法(DCA)在一组网络化的代理之间进行信息处理过程,而不需要集中的信息融合。虽然众所周知,DCA的特点是由一个SIA(随机,不可分解,非周期性)矩阵产生共识渐近通过同步迭代,DCA的动态异步迭代尚未得到广泛的研究,特别是当被视为随机过程。本文的目的是表明,对于任何给定的不可约随机阵,即使是非SIA,相应的DCA导致共识成功地通过随机异步迭代在广泛的条件下的转移概率。特别地,转移概率既不需要是独立同分布的,也不需要由马尔可夫链表征。
2018-04-27 math.OC
Revisiting Randomized Gossip Algorithms: General Framework, Convergence Rates and Novel Block and Accelerated Protocols
University of Edinburgh(爱丁堡大学);KAUST(卡塔尔科技大学);MIPT(莫斯科国立信息安全研究学院)
本文提出了一种新的随机广播算法分析和设计框架,用于解决平均共识问题。通过将经典随机迭代方法应用于特殊系统来解释网络结构,展示了其去中心化特性。该框架恢复了多种已知的广播算法作为特殊情况,并允许开发具有证明更快变体的方法。我们还提出了新的块和第一个可证明加速的随机广播协议,以及双随机广播算法。
2019-06-03 cs.DC cs.LG cs.MA
Robust Nash equilibrium seeking based on semi-Markov switching topologies
Harbin Institute of Technology(哈尔滨工业大学);City University of Hong Kong(香港城市大学)
本文研究了在存在外部扰动和不确定动力学的情况下,通过半马尔可夫切换拓扑通信的第二阶玩家的分布式鲁棒纳什均衡寻求问题,提出了一种结合超扭曲积分滑模控制与领导者-跟随者一致性协议的新算法,并引入了基于采样的事件触发机制以减少冗余信息传输,理论分析证明了在均方意义下可以实现领导者-跟随者一致性,最后通过连接性控制游戏验证了算法有效性。
2026-05-21 cs.SY eess.SY math.OC
An Accelerated Fitted Value Iteration Algorithm for MDPs with Finite and Vector-Valued Action Space
研究了求解高维马尔可夫决策过程的一种加速拟合值迭代算法。FVI是一种近似的动态规划算法,具有理想的理论性质。然而,当动作空间是有限的但向量值时,它可能是棘手的。为了通过FVI解决这样的MDP,我们首先通过一个双层神经网络(NN)来近似值函数,其中整流线性单元(ReLU)是激活函数。然后,我们验证,这样的逼近是足够强大的MDP。为了加快FVI,我们重铸的行动选择问题作为一个两阶段的随机规划问题,其中产生的追索权功能来自两层神经网络。然后,动作选择问题的解决与一个专门的多割分解算法。更具体地说,我们设计有效的削减利用近似值函数的结构来更新的行动。我们证明了分解可以在有限次迭代中找到全局最优解,并且整体加速FVI是一致的。最后,我们通过一个多设施容量投资问题(MCIP)验证了FVI算法的性能。一个全面的数值研究实施,结果表明,FVI显着加快,而不会牺牲太多的精度。
2020-11-26 math.OC
An Accelerated Distributed Optimization with Equality and Inequality Coupling Constraints
Stony Brook University(石溪大学)
本文提出了一种加速线性化算法,用于解决具有等式和不等式耦合约束的分布式优化问题,通过理论分析和实验验证,展示了其在收敛速度上的优势。
2025-12-04 cs.SY eess.SY math.OC
Distributed Consensus Algorithms in Sensor Networks: Link Failures and Channel Noise
本文研究了随机拓扑(间歇链路)\emph{and}噪声信道下的平均一致性。网络链接中带有噪声的共识导致了偏差-方差困境-长期运行共识会降低最终平均估计的偏差,但会增加其方差。我们提出了两种不同的折衷方案:$\mathcal{A-ND}$算法通过强制权重满足\emph{persistence}条件来修改传统的共识(缓慢衰减到零);以及$\mathcal{A-NC}$算法,其中权重是恒定的,但一致性运行固定次数的迭代$\hat{\imath}$,然后重新启动并重新运行总共$\hat{p}$次,并且在结束时对$\hat{p}$运行的最终状态进行平均(蒙特卡罗平均)。我们使用受控马尔可夫过程和随机逼近参数证明几乎必然收敛的$\mathcal{A-ND}$所需的平均值(渐近无偏性)和计算明确的m.s.e.(二)共识的界限。我们表明,$\mathcal{A-ND}$代表了两个世界中最好的-低偏差和低方差-以缓慢的收敛速度为代价;重新调整权重.
2008-09-08 cs.IT cs.MA math.IT
Consensus and synchronization in discrete-time networks of multi-agents with stochastically switching topologies and time delays
Fudan University(复旦大学);Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克科学促进部数理研究所);Santa Fe Institute for the Sciences of Complexity(圣塔菲复杂性科学研究所)
针对时变拓扑和时滞的多智能体网络,研究一致性算法的稳定性,证明在自环无延迟条件下网络达到一致,在自环有延迟且满足特定整数模式时算法可能同步到周期轨迹。
2011-02-25 cs.SY eess.SY math.DS
Distributed Stochastic Consensus Optimization with Momentum for Nonconvex Nonsmooth Problems
Sichuan University(四川大学);Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳市大数据研究院);University of Florida(佛罗里达大学)
虽然已经提出了许多分布式优化算法来解决网络上的光滑或凸问题,但很少有人能处理非凸和非光滑问题。基于近似原-对偶方法,提出了一种新的带Nesterov动量的(随机)分布式算法,用于非凸非光滑优化问题的加速优化。理论上,我们证明了该算法在恒定步长下可以获得具有$\mathcal{O}(1/ε^2)$计算复杂度和$\mathcal{O}(1/ε)$通信复杂度的$ε$平稳解.与现有的基于梯度跟踪的方法相比,该算法具有相同数量级的计算复杂度,但通信复杂度较低。据我们所知,所提出的结果是第一个随机算法与$\mathcal{O}(1/ε)$通信复杂性的非凸和非光滑问题。通过对分布式非凸回归问题和基于深度神经网络的分类问题的数值实验,验证了所提算法的有效性。
2020-11-10 cs.LG math.OC
DCatalyst: A Unified Accelerated Framework for Decentralized Optimization
School of Industrial Engineering, Purdue University(普渡大学工业工程学院)
针对无中心服务器的去中心化网络优化问题,提出统一黑盒加速框架 DCatalyst,通过非精确动量近端外循环结合任意去中心化内循环算法,引入非精确估计序列处理共识误差,实现最优通信与计算复杂度。
2025-01-30 cs.LG math.OC
Distributed Consensus Formation Through Unconstrained Gossiping
University of Central Florida(中佛罗里达大学)
针对节点同时接收多个信号导致状态无效的问题,提出冲突解决机制并证明其能达成有效共识,利用吸收马尔可夫链分析收敛概率与时间。
2013-01-12 cs.SY eess.SY math.OC
Distributed Optimization via Energy Conservation Laws in Dilated Coordinates
Data & Decision Sciences division of Tata Consultancy Services Research(塔塔咨询公司数据与决策科学部门);Faculty of Systems & Control group, Indian Institute of Technology Bombay(印度理工学院孟买分校系统与控制学院)
研究分布式优化问题,引入二阶原始对偶流构建守恒能量得\(\mathcal O(t^{-2})\)速率,证明单环离散化下界,开发双环方法结合多项式共识与加速外部更新,实现\(\mathcal O(k^{-2})\)速率,数值比较支持理论并量化通信成本。
2026-07-23 cs.AI cs.LG cs.SY
An Upper Bound on the Convergence Time for Quantized Consensus
本文分析了一类适用于任意网络的分布式量化一致性算法。在初始设置中,网络中的每个节点都具有整数值。节点在网络中交换它们当前的平均值估计,然后通过在异步时钟设置中的有限容量信道中与它们的邻居通信来更新它们的估计。最终,所有节点以量化的精度达成共识。我们从分布式二进制投票算法的一个特例开始分析,然后继续分析Kashyap等人提出的一般量化一致性算法的预期收敛时间。我们利用电网络、随机游动和马尔可夫链耦合的理论推导出一个O(N^3log N)任意大小为N的图上的预期收敛时间的上界,改进了二进制一致性算法的O(N^4logN)和量化一致性算法的O(N^5)的最新界。我们的结果是不依赖于图的拓扑结构。对星形网络、线形图、棒棒糖图和Erdös-Rényi随机图等特殊图进行了仿真,以验证分析的有效性。这项工作的应用负载平衡,自治代理,估计和检测,决策网络,对等系统的协调,等。
2013-05-17 cs.DC cs.PF math.OC
Distributed Algorithms for Consensus and Coordination in the Presence of Packet-Dropping Communication Links - Part II: Coefficients of Ergodicity Analysis Approach
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Cyprus(塞浦路斯大学)
本文通过将鲁棒化共识方案的集体动力学重写为有限非齐次马尔可夫链,并利用遍历性系数方法证明其收敛性,从而解决丢包链路下的分布式平均计算问题。
2011-09-29 cs.SY eess.SY math.OC
Accelerated Information Gradient flow
我们提出了一个框架Nesterov的加速梯度流在概率空间设计有效的平均场马尔可夫链蒙特卡罗(MCMC)算法的贝叶斯逆问题。本文考虑了四种信息度量的例子,包括Fisher-Rao度量、Wasserstein-2度量、Kalman-Wasserstein度量和Stein度量。对于Fisher-Rao和Wasserstein-2度量,我们证明了加速梯度流的收敛性质。在实现中,我们提出了一个采样有效的离散时间算法的Wasserstein-2,Kalman-Wasserstein和Stein加速梯度流与重新启动技术。我们还制定了一个核带宽选择方法,学习密度的对数梯度从布朗运动样本。数值实验,包括贝叶斯逻辑斯谛回归和贝叶斯神经网络,表明所提出的方法相比,国家的最先进的算法的强度。
2022-06-23 cs.IT math.IT math.OC
Uniform {\varepsilon}-Stability of Distributed Nonlinear Filtering over DNAs: Gaussian-Finite HMMs
本文研究了条件高斯噪声中部分观测的有限状态空间马尔可夫链的分布式滤波稳定性。我们考虑一个非线性过滤计划在分布式网络的代理(DNA),它依赖于分布式评估的集中式非线性滤波的似然部分,是基于一个特定的专业化的交替方向法的乘法器(ADMM)的快速平均共识。假设网络中每个传感器的任何两个连续噪声测量之间的一致步骤数相同,我们充分表征了最小数量的此类步骤,使得分布式滤波器在有限的操作范围T内以及在所有传感器上以规定的精度水平{ \varepsilon } \in(0,1]保持一致稳定。稳定性是在每个传感器处以及T内的每个时间处的后验的集中式和分布式版本之间的\ell_1范数的意义上。粗略地说,我们的主要结果表明,一致的{ \varepsilon }-稳定性的分布式过滤过程只依赖于对数线性T和(大致)的网络的大小,并仅在数学上的1/{ \varepsilon }。如果满足该总对数线性界限,则任何额外的共识迭代将导致共识误差的完全量化的进一步指数衰减。我们的边界是普遍的,在这个意义上,他们是独立的高斯隐马尔可夫模型(HMM)的特定结构正在考虑。
2016-09-26 math.OC math.ST stat.ML
Accelerated Dual Descent for Network Optimization
University of Pennsylvania(宾夕法尼亚大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出一种使用近似牛顿方向加速对偶下降收敛的分布式算法,通过矩阵分裂和稀疏泰勒近似实现超线性收敛,数值实验表明收敛速度比现有方法快一到两个数量级。
2011-04-06 cs.SY eess.SY math.OC
Momentum-based Accelerated Algorithm for Distributed Optimization under Sector-Bound Nonlinearity
本文提出一种基于动量和梯度跟踪的加速分布式优化算法,通过处理扇区有界非线性和采用权重平衡网络设计,证明了在局部非凸和动态时变网络环境下的收敛性。
2025-06-28 cs.DC cs.MA cs.SY
Gossip and Distributed Kalman Filtering: Weak Consensus under Weak Detectability
针对传感器网络和网络中传感器之间的通信和观测同时发生的情况,提出了一种用于分布式卡尔曼滤波的流言交互式卡尔曼滤波器(GIKF).传感器之间的通信是随机的;每个传感器偶尔会根据相应网络链路的可用性与邻居交换其过滤状态信息。我们证明了在弱分布可检测性条件下:1。GIKF误差过程保持随机有界,与随机过程动态的不稳定性无关;以及2.网络实现\emph{weak consensus},即,在(均匀)随机选择的传感器处的条件估计误差协方差在分布上收敛到半正定矩阵空间上的唯一不变测度(与初始状态无关)。为了证明这些结果,我们将GIKF中每个节点的过滤状态(估计值和误差协方差)解释为具有局部相互作用的随机粒子。我们分析的误差过程的渐近性质,通过研究作为一个随机动力系统的相关切换(随机)Riccati方程,切换由一个非平稳马尔可夫链的网络图。
2010-04-02 cs.IT math.DS math.IT
Accelerated Decentralized Constraint-Coupled Optimization: A Dual$^2$ Approach
The Hong Kong University of Science and Technology(香港科技大学)
针对去中心化约束耦合优化问题,提出基于双对偶方法的两种加速算法,在更宽松条件下保证渐近收敛,并实现更低的通信与计算复杂度。
2026-06-25 cs.SY eess.SY math.OC
Accelerated Message Passing for Entropy-Regularized MAP Inference
Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校)
离散值马尔可夫随机场的最大后验(MAP)推断是机器学习中的一个基本问题,涉及识别给定分布的随机变量的最可能配置。由于这个组合问题的难度,线性规划(LP)松弛通常用于导出专门的消息传递算法,这些算法通常被解释为对偶LP上的坐标下降。为了实现更理想的计算性能,许多方法用熵项正则化LP,从而产生一类具有收敛保证的平滑消息传递算法。在本文中,我们提出了随机化的方法来加速这些算法,利用经典的加速梯度方法的基础技术。所提出的算法结合了标准平滑消息传递算法的熟悉步骤,这些步骤可以被视为坐标最小化步骤。我们表明,这些加速的变种实现更快的速度寻找$ε$ -最佳点的非正则化问题,当LP是紧的,我们证明了所提出的算法恢复真正的MAP解决方案,在更少的迭代比标准的消息传递算法。
2020-07-01 cs.LG math.OC stat.ML
Accelerated Gossip via Stochastic Heavy Ball Method
School of Mathematics, KAUST, Saudi Arabia(卡士塔大学数学学院,沙特阿拉伯);The University of Edinburgh(爱丁堡大学);The University of Edinburgh, United Kingdom(英国爱丁堡大学);Edinburgh, Scotland, UK(苏格兰爱丁堡,英国);MIPT, Russia(莫斯科国立信息安全大学,俄罗斯)
本文研究了随机重力球方法(SHB)作为随机 gossip 算法的应用,提出了一种新的解决平均共识问题的协议,并通过实验展示了其优势。
2018-09-23 cs.IT cs.LG cs.NA
$QD$-Learning: A Collaborative Distributed Strategy for Multi-Agent Reinforcement Learning Through Consensus + Innovations
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
本文考虑一类多智能体马尔可夫决策过程(MDP),其中网络智能体对全局受控状态和远程控制器的控制行为的响应不同(表现为瞬时单阶段随机代价).本文研究了一种分布式强化学习设置,没有全局状态转移和本地代理成本统计的先验信息。具体地说,与代理的目标,包括最小化的网络平均无限地平线的折扣成本,本文提出了一个分布式版本的$Q$ -学习,$\mathcal{QD}$ -学习,其中网络代理合作,通过本地处理和相互信息交换稀疏(可能是随机的)通信网络,以实现网络目标。在每个Agent只知道其本地在线费用数据且Agent间通信网络是\emph{weakly}连通的假设下,所提出的分布式方案几乎必然(a.s.)所示的收益率渐近期望值函数和最优稳态控制策略在每个网络代理。在本文中开发的分析技术,以解决混合的时间尺度随机动态的\emph{consensus + innovations}形式,这是由于所提出的交互式分布式计划,是独立的利益。
2012-10-25 cs.LG cs.MA math.OC