A Note on the Consensus Finding Problem in Communication Networks with Switching Topologies
本文讨论了具有动态切换拓扑结构的智能体通信网络中的一致性发现问题。特别是,我们考虑的情况下,有向网络与不平衡矩阵的通信速率。我们制定的共识发现的充分条件的基础有向图的强连通性,并证明,在这些条件下,共识是渐近发现。此外,我们表明,这种共识是系统的一个紧急属性,被编码在其动力学,而不仅仅是其初始配置的不变量。
2014-05-05 math.OC
Multi-agent constrained optimization of a strongly convex function over time-varying directed networks
我们认为合作的多智能体共识最优化问题在静态和时变通信网络,只允许本地通信。我们的目标是最小化代理特定的私人圆锥约束集上的代理特定的可能非光滑的复合凸函数的总和,因此,最佳的共识决策应该位于这些私人集合的交集。假设和函数是强凸的,我们提供了收敛速度在次优,不可行性和共识违反,检查底层网络拓扑结构的影响上的收敛速度的建议分散算法。
2017-06-24 math.OC
Decentralized Event-Triggered Consensus of Linear Multi-agent Systems under Directed Graphs
针对具有一般线性动力学的多智能体系统的一致性问题,提出了一种事件触发控制方法。本文扩展了以前的工作,考虑代理商连接使用有向图。此外,这里所示的方法提供了保证正事件间时间间隔的渐近共识。这种事件触发控制方法也用于存在通信延迟的情况。对于通信延迟的情况下,我们还表明,代理实现共识渐近,对于每个代理,连续传输之间的时间间隔是下界的一个正常数。
2015-02-12 math.OC
Distributed Subgradient Projection Algorithm over Directed Graphs: Alternate Proof
本文提出了一种基于多智能体网络的有向分布投影次梯度算法(Directed-Distributed Projected Subgradient,D-DPS)来求解一个约束最优化问题,其中智能体的目标是共同最小化局部已知凸函数的和.网络中的每个代理只拥有其本地目标函数,约束到一个众所周知的凸集。我们专注于代理之间的通信时所描述的\emph{directed}网络的情况。D-DPS结合了剩余的一致性,以克服由有向通信网络引起的不对称性。分析表明收敛速度为$O(\frac{\ln k}{\sqrt{k}})$。
2017-06-21 math.OC
FAB: A First-Order AB-based Gradient Algorithm for Distributed Bilevel Optimization over Time-Varying Directed Graphs
Southern University of Science and Technology(南方科技大学);Peng Cheng Laboratory(鹏城实验室);School of Computer Science and Engineering, Sun Yat-Sen University(中山大学计算机科学与工程学院);School of Artificial Intelligence, Southern University of Science and Technology(南方科技大学人工智能学院);National Center for Applied Mathematics Shenzhen(深圳应用数学国家研究中心);Detection Institute for Advanced Technology Longhua-Shenzhen(深圳龙华先进技术检测研究院)
本文提出一种首次-order分布式梯度算法,结合Push-Pull通信策略和价值函数惩罚法,解决时间变化有向图上的分布式双层优化问题,并建立非渐近收敛性。
2026-05-07 math.OC
Decentralized design of consensus protocols with minimal communication links based on directed spanning tree
College of Artificial Intelligence and Automation, Beijing University of Technology(北京工业大学人工智能与自动化学院);Engineering Research Center of Digital Community, Ministry of Education(教育部数字社区工程研究中心)
本文提出基于有向生成树的去中心化共识协议设计方法,通过线性变换和最小通信链路实现多智能体系统的共识问题转化与稳定控制,验证了去中心化设计的有效性。
2026-03-17 cs.SY eess.SY math.OC
Positive Consensus of Directed Multi-agent Systems using Dynamic Output-feedback Control
研究了具有双端型输出反馈协议的有向多智能体系统的正一致性问题。更具体地说,有向图被用来建模的多智能体系统的通信拓扑结构和线性矩阵不等式(LMI)的一致性分析中使用的。利用正系统理论和图论,提出了一种凸规划算法,用于设计合适的协议,使得多智能体系统能够达成一致,且其状态轨迹始终保持在非负正交点上.最后,通过数值模拟验证了理论结果的有效性。
2020-09-01 math.OC
Constrained multi-cluster game: Distributed Nash equilibrium seeking over directed graphs
本文针对有向图上受约束的多集群博弈,提出结合一致性方法和梯度跟踪技术的分布式纳什均衡寻求算法,引入平均化程序处理约束,实现线性收敛,并在微电网能量管理中验证有效性。
2024-04-22 math.OC
Nash equilibrium seeking under partial-decision information over directed communication networks
我们考虑部分决策信息场景下的纳什均衡问题。具体来说,每个代理只能通过通信网络从一些邻居接收信息,而其费用函数取决于可能所有代理的策略。特别是,虽然现有的方法假设无向或平衡的通信,在本文中,我们允许非平衡,有向图。在博弈映射的强单调性和Lipschitz连续性条件下,我们提出了一个全分布伪梯度格式,该格式保证以线性速度收敛到纳什均衡。我们的算法需要全局知识的通信结构,即Perron-Frobenius特征向量的邻接矩阵和一定的常数有关的图形连接。因此,我们适应的过程中,网络是事先不知道的设置,通过计算的特征向量在线和消失的步长。
2020-09-10 cs.DC cs.GT cs.MA
Distributed optimization on directed graphs based on inexact ADMM with partial participation
针对有向图网络中的分布式成本函数求和最小化问题,提出基于非精确 ADMM 与部分参与机制的分布式优化算法,在标准假设下证明了线性收敛性,其收敛速率优于 Push-DIGing 且显著节省计算与通信开销。
2023-04-01 math.OC
Designing Fully Distributed Consensus Protocols for Linear Multi-agent Systems with Directed Graphs
Peking University(北京大学);Southeast University(东南大学);University of California, Riverside(加州大学河滨分校)
本文提出基于智能体动态和邻近状态的分布式自适应共识协议,实现任意含定向生成树的通信图下的领导者-跟随者共识,且无需全局信息。
2014-08-20 cs.SY eess.SY math.OC
ADD-OPT: Accelerated Distributed Directed Optimization
在本文中,我们考虑分布式最优化问题的目标是最小化的总和目标函数在多智能体网络。我们专注于代理间通信的情况下,描述了一个强连接,\emph{directed}图。所提出的算法,ADD-OPT(加速分布式定向优化),实现了这类问题的最佳已知的收敛速度,~ $O(μ^{k}),0<μ<1$,给定强凸,目标函数的全局Lipschitz连续梯度,其中~ $k$是迭代次数。此外,ADD-OPT支持更广泛和更现实的步长范围与现有的工作。特别是,我们表明,ADD-OPT收敛任意小(正)步长。仿真结果进一步说明了我们的结果。
2017-08-06 math.OC
On Arbitrary Compression for Decentralized Consensus and Stochastic Optimization over Directed Networks
Rice University(莱斯大学)
研究静态有向图上具有压缩通信的分散一致性和随机最优化问题。我们提出了一个迭代的基于梯度的算法,压缩消息根据所需的压缩比。所提出的方法可证明减少了网络上的通信开销,在每一个通信轮。与现有文献相反,我们允许任意的压缩比在通信的消息。我们显示了一个线性收敛速率所提出的方法的共识问题。此外,我们提供了明确的收敛速度分散随机最优化问题的光滑函数是(i)强凸,(ii)凸,或(iii)非凸。最后,我们提供了数值实验来说明在任意压缩比下的收敛性和我们的算法的通信效率。
2022-04-18 cs.LG cs.MA cs.SY
On the Linear Convergence of Distributed Optimization over Directed Graphs
本文提出了一种快速的分布式算法\emph{DEXTRA},用于解决$n$代理在网络上达成一致并协作最小化其局部目标函数之和的优化问题,其中代理之间的通信由~ \emph{directed}图描述.现有的算法解决问题的有向图的收敛速度$O(\ln k/\sqrt{k})$的一般凸目标函数和$O(\ln k/k)$的目标函数是强凸的,其中$k$是迭代次数。我们发现,适当的步长,DEXTRA收敛于线性速度$O(τ^{k})$为$0<τ<1$,给定的目标函数是限制强凸。DEXTRA的实现要求每个代理知道它的本地出度。仿真例子进一步说明了我们的研究结果。
2016-05-27 math.OC
Fully Asynchronous Push-Sum With Growing Intercommunication Intervals
我们提出了一个算法的平均共识有向图,这是完全异步和鲁棒的不可靠的通信。我们表明它的平均收敛,同时允许缓慢增长,但潜在的无限的通信故障。
2018-02-23 math.OC
Quantized Distributed Gradient Tracking Algorithm with Linear Convergence in Directed Networks
通信效率是分布式网络应用的主要瓶颈。为了解决这个问题,量化分布式优化问题引起了人们的广泛关注。然而,现有的量化分布式优化算法大多只能达到次线性收敛。为了实现线性收敛,本文提出了一种新的量化分布式梯度跟踪算法(Q-DGT),以最小化有向网络上局部目标函数的有限和。此外,我们显式地推导出更新规则的量化水平,并证明Q-DGT可以线性收敛,即使交换变量分别为一位。数值结果也证实了该算法的有效性。
2022-10-31 math.OC
Accelerated $AB$/Push-Pull Methods for Distributed Optimization over Time-Varying Directed Networks
本文针对时变有向网络上的分布式优化问题,提出加速的$AB$/Push-Pull算法,融合重球和Nesterov动量,证明线性收敛并给出参数界限,数值实验验证了加速效果。
2023-06-22 math.OC
Rate of Convergence for Distributed Optimization with Uncertain Communications
我们考虑分布式最优化问题的凸函数的总和,其中底层的通信网络连接代理在每个时间是随机抽取的有向图的集合。在早期工作[15]的基础上,其中subgradient-push算法的修改版本被证明几乎必然收敛于随机有向图序列上的优化器,我们找到了我们提出的算法的收敛速度的$\sim O(\frac{1}{\sqrt{t}})$阶的上界,建立了这种随机设置中的第一个收敛界。
2020-09-15 math.DS math.OC
Graph Balancing for Distributed Subgradient Methods over Directed Graphs
我们考虑一个多智能体最优化问题,其中一组智能体共同解决一个全局最优化问题,其目标函数由局部已知凸函数之和给出。我们专注于当代理之间的信息交换发生在一个有向网络的情况下,并提出了一个分布式的次梯度法,其中每个代理进行本地处理的基础上,从他的传入邻居的信息。我们的算法使用权重平衡来克服由有向通信网络引起的不对称性,即,代理用动态更新的权重来缩放它们的输出信息,所述动态更新的权重收敛到图的平衡权重。我们表明,目标函数值和共识违反,在遍历平均的算法产生的估计,收敛率$O(\frac{\log T}{\sqrt{T}})$,其中$T$是迭代次数。我们的算法的一个特例提供了一个新的分布式方法来计算平均共识有向图。
2016-03-10 math.OC
A linear algorithm for optimization over directed graphs with geometric convergence
在这封信中,我们研究分布式优化,代理网络,抽象为一个有向图,合作,以最小化本地已知的平均凸函数。现有的大多数有向图的方法是基于推和(类型)的技术,它使用一个独立的算法来渐近学习的基础权重矩阵的左或右特征向量。这种策略导致算法中的额外计算、通信和非线性。相反,我们提出了一个线性算法的基础上不精确的梯度法和梯度估计技术。在每个局部函数是强凸的Lipschitz连续梯度的假设下,我们证明了该算法以足够小的步长几何收敛到全局极小值。我们提出了模拟来说明的理论研究结果。
2018-05-05 math.OC
Linear convergence in optimization over directed graphs with row-stochastic matrices
本文考虑了多智能体网络上的分布式最优化问题,其中目标函数是各智能体的成本函数之和。我们专注于代理之间的通信时所描述的\emph{directed}图的情况下。现有的有向图的分布式优化算法至少需要知道每个代理的邻居的出度(由于列-随机阵的要求)。相比之下,我们的算法不需要这样的知识。此外,所提出的算法实现了这类问题的最佳已知收敛速率,$O(μ^k)$为$0<μ<1$,其中$k$是迭代次数,给定的目标函数是强凸的,并具有Lipschitz连续梯度。数值实验也提供了说明的理论研究结果。
2017-10-30 math.OC
Decentralized Langevin Dynamics over a Directed Graph
物联网空间中技术的普及以及多处理计算平台的使用,以帮助从大量数据中执行学习和推理所需的计算,使得有必要对分散平台上的算法进行广泛研究。在这些设置中,计算节点通过图结构的通信链路发送和接收数据,并使用本地计算和寻求共识的通信的组合,合作解决感兴趣的问题。最近,Langevin动力学作为一种工具,高维采样和后验贝叶斯推理已被研究的背景下,分散操作。然而,这项工作仅限于无向图,其中所有通信都是双边的,即,如果节点A可以向节点B发送数据,则节点B也可以向节点A发送数据。我们扩展了考虑有向图上的朗之万动力学的现有技术。
2021-03-06 cs.DC math.OC math.PR
Distributed Stochastic Compositional Optimization Problems over Directed Networks
研究了有向通信网络上的分布式随机组合最优化问题,其中智能体私有一个随机组合目标函数,并通过协作来最小化所有目标函数之和.本文提出了一种分布式随机组合梯度下降算法,该算法采用梯度跟踪和随机校正技术,以适应网络的有向结构,提高内函数估计的精度。当目标函数光滑时,该方法的收敛速度和样本复杂度分别为$\mathcal{O}\left(k^{-1/2}\right)$和$\mathcal{O}\left(\frac{1}{ε^2}\right)$,并能找到($ε$)-平稳点.当目标函数为强凸时,收敛速度提高到$\mathcal{O}\left(k^{-1}\right)$ .此外,还给出了该方法的Polyak-Ruppert平均迭代的渐近正态性.我们证明了所提出的方法在模型不可知的元学习问题和逻辑斯谛回归问题上的经验性能。
2022-03-21 math.OC
Distributed Cooperative Multi-Agent Reinforcement Learning with Directed Coordination Graph
North Carolina State University(北卡罗来纳州立大学);Oklahoma State University(俄克拉荷马州立大学);DEVCOM U.S. Army Research Laboratory(美国陆军作战能力发展司令部陆军研究实验室)
现有的分布式协作多智能体强化学习(MARL)框架通常假设无向协调图和通信图,同时通过共识算法估计全局奖励进行策略评估。这样的框架可能会导致昂贵的通信成本,并表现出较差的可扩展性,由于全球共识的要求。在这项工作中,我们研究了MARL与有向协调图,并提出了一个分布式RL算法的本地政策评估是基于本地价值函数。每个Agent的局部价值函数通过有向学习诱导的通信图与其邻居进行局部通信来获得,而不使用任何共识算法。采用基于参数摄动的零阶优化(ZOO)方法实现梯度估计。通过与现有的基于ZOO的RL算法的比较,我们表明,我们提出的分布式RL算法保证了高的可扩展性。一个分布式资源分配的例子来说明我们的算法的有效性。
2022-01-10 cs.AI cs.LG cs.MA
Fault-Tolerant Distributed Optimization (Part IV): Constrained Optimization with Arbitrary Directed Networks
本文研究了多智能体网络中当部分计算智能体可能出现故障时的约束分布式优化问题。在这个问题中,系统的目标是有所有的非故障代理集体最小化的局部成本函数,其中每个是最初已知的非故障代理的加权平均给出的全局目标。特别是,我们感兴趣的情况下,当计算代理连接的任意有向通信网络,一些代理可能遭受崩溃故障或拜占庭故障,每个代理的估计被限制在一个共同的约束集。该问题在社会计算和分布式大规模机器学习中有着广泛的应用。容错多智能体优化问题首先由Su和Vaidya提出,当局部函数定义在整个实数线上,并且网络是完全连接的时,可以求解该问题。在这份报告中,我们考虑任意定向通信网络,并专注于这样的情况下,在非故障代理的本地估计是受约束的,只允许本地通信和最小的内存进行迭代。特别是,我们推广我们以前的结果完全连接的网络和无约束优化任意有向网络和约束优化。作为副产品,我们提供了一个矩阵表示迭代近似崩溃的共识。矩阵表示使我们能够表征碰撞迭代共识的收敛速度。
2015-11-05 cs.DC math.OC
Fully Distributed Adaptive Controllers for Cooperative Output Regulation of Heterogeneous Linear Multi-agent Systems with Directed Graphs
本文考虑了线性多智能体系统的合作输出调节问题,该系统具有有向通信图、异构线性子系统和输出仅可用于子系统子集的外系统。标称和不确定的线性子系统的情况下进行了研究。对于标称线性子系统的情况,设计了一种基于分布式自适应观测器的控制器,其中分布式自适应观测器用于子系统估计外生信号。对于不确定线性子系统的情形,将所提出的分布式观测器与内模原理相结合,解决了鲁棒合作输出调节问题。与现有的工作相比,本文的一个主要贡献是,所提出的控制方案可以设计和实现的一般有向图的每个子系统在一个完全分布式的方式。对于有无向图的特殊情况,进一步给出了分布式输出反馈控制律。
2015-01-23 math.OC
Analysis of Newton-Raphson Consensus for multi-agent convex optimization under asynchronous and lossy communications
我们扩展了一个多代理凸优化算法牛顿-拉夫森共识的网络场景,涉及定向,异步和有损通信。我们从理论上分析了算法的稳定性和性能,特别是,提供充分条件,保证局部指数收敛的节点状态的全局集中式极小,即使在存在数据包丢失。最后,我们补充的理论分析与数值模拟,比较性能的牛顿-拉夫森共识对异步实现的分布式次梯度方法从开源数据库中提取的真实数据集。
2017-04-20 math.OC
A Fast Row-Stochastic Decentralized Method for Distributed Optimization Over Directed Graphs
针对有向图上的一致性优化,本文提出仅用行随机权重的FRSD算法,通过新颖动量项隐式实现梯度跟踪,在线性收敛的同时降低通信与存储开销。
2023-09-28 cs.SY eess.SY math.OC
Stochastic Momentum Tracking Push-Pull for Decentralized Optimization over Directed Graphs
School of Electrical Engineering, Sichuan University(四川大学电气工程学院)
本文提出Stochastic Momentum Tracking Push-Pull算法,通过追踪动量项而非随机梯度,解决有向图上非对称通信和高方差梯度导致的震荡问题,实现收敛。
2026-04-09 math.OC
Ensuring both Provable Convergence and Differential Privacy in Nash Equilibrium Seeking on Directed Graphs
针对有向图上完全分布式纳什均衡寻求中的隐私保护问题,提出一种利用独立噪声且免加密的方法,在有限累积隐私预算下同时实现了精确收敛与严格差分隐私。
2023-04-10 cs.GT cs.SY eess.SY
A Consensus Protocol under Directed Communications with Two Time Delays and Delay Scheduling
Universidad Santo Tomas(圣托马斯大学);University of Connecticut(康涅狄格大学)
本文研究了由二阶动力学驱动的群体共识协议,考虑了定向通信中的两个独立时间延迟对位置和速度信息通道的影响,通过CTCR方法分析稳定性,并提出延迟调度概念以提升系统性能。
2014-07-02 cs.SY eess.SY math.OC
Compressed Gradient Tracking for Decentralized Optimization Over General Directed Networks
Shanghai Center for Mathematical Sciences, Fudan University(复旦大学上海数学中心);Shenzhen Research Institute of Big Data(深圳大数据研究院);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院);Department of Mathematics, Michigan State University(密歇根州立大学数学系)
针对一般有向多智能体网络,提出结合梯度跟踪与通信压缩的 CPP 及异步广播版 B-CPP,二者均对强凸光滑目标实现线性收敛,且 B-CPP 进一步降低通信成本。
2024-04-10 cs.DC cs.LG cs.MA
Fast Quantized Average Consensus over Static and Dynamic Directed Graphs
在本文中,我们研究了分布式平均一致性问题的多智能体系统与有向通信链路,受到量化的信息流。具体来说,我们提出并分析了一种分布式平均算法,该算法专门使用量化值(即,在相邻代理之间存储、处理和交换的信息经受确定性统一量化)并且依赖于事件驱动更新(例如,以减少能量消耗、通信带宽、网络拥塞和/或处理器使用)。该算法的主要思想是每个节点(i)将其初始状态建模为两个量化分数,其分子等于节点的初始状态,并且子数等于1,并且(ii)随机发送一个分数,而另一个分数则保持存储。然后,每当它接收到一个或多个分数时,它就将它们的分子与它存储的分数的分子进行平均,然后将它们发送给随机选择的外邻居。我们的特点所提出的分布式算法的属性,并表明其执行,在任何静态和强连接的有向图,允许每个代理在有限的时间内达到一个固定的状态,等于(在一个量化水平)的平均初始状态。我们扩展了算法的操作,以实现有限时间收敛的存在下,一个动态的有向通信拓扑的一些连接条件。最后,我们提供的例子来说明所提出的算法的操作,性能和潜在的优势。我们比较国家的最先进的量化平均共识算法,并表明我们的算法的收敛速度显着优于大多数现有的协议。
2021-03-09 cs.SY eess.SY math.OC
Delay-Tolerant Augmented-Consensus-based Distributed Directed Optimization
Semnan University(塞姆南大学);Aalto University(阿尔托大学);Oregon State University(俄勒冈州立大学)
针对多智能体网络通信时延影响分布式优化收敛的问题,提出一种可处理强连通有向网络下有界固定异构时延的增广共识优化算法,通过理论证明收敛性并经仿真验证其性能。
2025-10-03 cs.MA cs.SI cs.SY
Distributed optimization over time-varying directed graphs
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对时变有向通信图上的分布式优化问题,提出基于广播的次梯度推送算法,在次梯度有界假设下实现所有节点收敛到最优值,收敛率为O(ln(t)/√t)。
2014-03-16 cs.DC cs.SY eess.SY
Consensus on the average in arbitrary directed network topologies with time-delays
University of Cagliari(卡利亚里大学)
在这篇初步的论文中,我们研究了在任意有向图中关于通信/感测时延的平均算法的一致性的稳定性。所提出的算法添加了一个存储变量的代理的状态,使有关的平均状态的信息被保存,尽管算法的迭代是在一个任意的强连接有向图中执行。我们证明,对于任何网络拓扑结构和设计参数的选择的共识,平均算法是稳定的足够小的延迟。我们提供模拟和数值结果来估计任意不平衡有向网络拓扑所允许的最大延迟。
2015-02-15 cs.DM cs.RO math.DS
DC-DistADMM: ADMM Algorithm for Constrained Distributed Optimization over Directed Graphs
本文提出了一种求解具有公共决策变量、局部线性等式和不等式约束以及集合约束的多智能体分布式优化问题的算法,该算法具有收敛速度保证。\textcolor{black}{The algorithm accrues all the benefits of the Alternating Direction Method of Multipliers (ADMM) approach}。它还克服了现有方法的局限性,凸优化问题的线性不等式,等式和集合约束,允许有向通信拓扑。此外,该算法可以分布式综合。所开发的算法具有:(i)当各个函数是凸的但不一定是可微的时,$O(1/k)$的收敛速率,其中$k$是迭代计数器,以及(ii)当目标函数是光滑的并且在最优解处被限制为强凸的时,收敛到最优解的任意小邻域的几何速率。该算法的有效性进行评估,通过比较与国家的最先进的约束优化算法在解决一个约束分布式$\ell_1$正则化逻辑回归问题,和无约束优化算法在解决一个$\ell_1$正则化Huber损失最小化问题。此外,该算法的性能与其他算法在文献中,利用多个通信步骤的比较。
2022-08-24 cs.SY eess.SY math.OC
Solving Linear Equations with Separable Problem Data over Directed Networks
本文讨论线性代数方程,其中,通过对个体个体的系数矩阵和常数向量求和,分别给出了整体系数矩阵和常数向量。我们的方法是基于重新制定的原始问题作为一个无约束优化。基于这个确切的重新制定,我们首先提供了一个基于梯度的,集中式算法,作为分布式算法的后续设计的参考。我们提出了两套指数稳定的连续时间分布式算法,不需要个别代理矩阵是可逆的,并基于估计非分布项的集中式算法,使用动态平均共识。第一个算法适用于时变权重平衡的有向网络,第二个算法适用于通信图可能不平衡的一般有向网络。数值模拟说明了我们的结果。
2021-05-26 cs.SY eess.SY math.OC
Dynamics Based Privacy Protection for Average Consensus on Directed Graphs
Clemson University(克莱姆森大学)
本文提出了一种用于有向图的新型平均一致性方法,通过在交互节点之间嵌入随机耦合权重的内在鲁棒性,保护参与节点的初始状态隐私,无需第三方或数据聚合器协助,同时保证精确一致性和对恶意节点和外部窃听者的隐私保护。
2018-12-05 cs.SY eess.SY math.OC
Variance reduced stochastic optimization over directed graphs with row and column stochastic weights
本文提出了一种一阶分布式随机最优化算法--AB-SAGA,用于极小化分布在任意有向图上的光滑强凸函数的有限和。AB-SAGA使用节点级方差减少来消除由随机梯度引起的不确定性,并随后采用网络级梯度跟踪来解决节点之间的数据不相似性。与现有的方法,使用非线性推和校正,以消除由定向通信所造成的不平衡,在AB-SAGA的共识更新是线性的,并使用行和列的随机权重。我们表明,对于一个恒定的步长,AB-SAGA线性收敛到全局最优。我们量化的基本图形使用一个明确的方向性常数和特征的制度,其中AB-SAGA实现了线性加速超过其集中的对应的有向性。数值实验表明,AB-SAGA的收敛性强凸和非凸问题。
2022-02-07 cs.MA math.OC stat.ML
Distributed Optimisation With Communication Delays
讨论了有向图上的分布式优化问题。我们从一些众所周知的算法开始,这些算法在代理之间实现共识,包括FROST [1],它具有最快的收敛速度。众所周知,FROST具有线性收敛。然而,FROST只适用于底层网络的固定拓扑结构。此外,其中提出的更新需要节点之间的完全同步的通信。因此,在现实情况下不可避免的节点之间的通信延迟排除了实时实现FROST的可能性。在本文中,我们介绍了一个合作的控制策略,使收敛到最佳的通信延迟的鲁棒性。
2021-02-11 cs.SY eess.SY math.OC
New Results on Delay Robustness of Consensus Algorithms
自治智能体的一致性问题是协作控制中的一个基准问题。在本文中,我们考虑标准的连续时间平均共识政策(或拉普拉斯流)在时变图,并专注于对通信延迟的共识的鲁棒性。这种鲁棒性在图的一致拟强连通性的假设下得到了证明。然而,众所周知,一致的连接性对于共识是不必要的。例如,在无向图和无延迟通信的情况下,共识需要更弱的积分连通性条件。在本文中,我们证明了后者的结果仍然存在未知的,但有界的通信延迟的有效性,而且,无向图的条件可以大大放宽,并取代非瞬时型对称的条件。此外,一致性算法可以证明任何可行的延迟微分不等式的解决方案。这样的不平等自然出现在遏制控制,分布式优化和社会动力学模型的问题。
2020-09-06 cs.MA cs.SY eess.SY
Adaptive Cooperative Tracking and Parameter Estimation of an Uncertain Leader over General Directed Graphs
研究了具有不确定领导者的异构Euler-Lagrange系统的协同跟踪问题。与大多数现有的工作不同,系统的动态知识的领导者节点是不可访问的任何从节点在我们的文件。对所有跟随节点设计分布式自适应观测器,同时估计领导节点的状态和参数。观测器的设计不依赖于领导节点的频率知识,估计误差收敛到零指数。此外,这些结果也适用于一般的有向图,其中Laplacian矩阵的对称性不成立。这是由于两个新开发的李雅普诺夫方程,这完全取决于通信网络拓扑。有趣的是,利用这些李雅普诺夫方程,许多结果的多智能体系统的无向图可以扩展到一般的有向图。最后,本文还提出了自适应控制系统的知识库,为自适应观测器的参数收敛性分析提供了主要工具。
2022-01-31 cs.SY eess.SY math.OC
Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs
School of Cyber Science and Technology Sun Yat-sen University(南方科技大学)
本文提出了一种统一的稳定性框架,用于分析基于推-和的去中心化优化算法在定向图上的稳定性与泛化性能,揭示了问题条件与拓扑结构之间的耦合关系。
2026-02-24 cs.LG math.OC stat.ML
A Robust Gradient Tracking Method for Distributed Optimization over Directed Networks
在本文中,我们考虑的问题,分布式一致性优化多智能体网络与有向网络拓扑结构。假设每个代理有一个局部的成本函数是光滑的和强凸的,全局目标是最小化所有的局部费用函数的平均值。为了解决这个问题,我们引入了一个强大的梯度跟踪方法(R-Push-Pull)适应于最近提出的推挽/AB算法。R-Push-Pull算法继承了Push-Pull算法的优点,具有线性收敛的特点,能够精确地传递信息到最优解。在有噪声的信息交换下,R-Push-Pull算法比现有的基于梯度跟踪的算法具有更强的鲁棒性;在恒定步长策略下,每个智能体获得的解以指数方式快速到达期望最优解的邻域。我们提供了一个数值例子,证明了R-推拉的有效性。
2020-08-20 cs.DC cs.MA cs.SI
Global $H_\infty$ Consensus of Multi-Agent Systems with Lipschitz Nonlinear Dynamics
School of Automation, Beijing Institute of Technology(北京理工大学自动化学院);School of Electrical and Electronic Engineering, Nanyang Technological University(南洋理工大学电气与电子工程学院)
针对具有Lipschitz非线性和有向通信图的多智能体系统,提出基于相邻智能体相对状态的分布式一致性协议,通过两步算法实现无扰动下的全局一致性,并进一步设计协议保证外部扰动下的$H_\infty$性能。
2012-02-24 cs.SY eess.SY math.OC