A dual ascent algorithm for asynchronous distributed optimization with unreliable directed communications
我们证明了Bof-Carli-Schenato在不可靠通信的有向图上的平均一致性算法具有双重优化解释，该解释可以推广到分布式优化的情况.我们报告我们的数值模拟的分布式优化算法的光滑和非光滑的功能。
2019-02-21 math.OC
Distributed Optimal Output Consensus of Uncertain Nonlinear Multi-Agent Systems over Unbalanced Directed Networks via Output Feedback
针对不平衡有向图上规范形式的不确定非线性多智能体系统的分布式最优输出一致性问题，提出了一种新的基于扰动器的输出反馈控制方法.该问题的主要挑战在于不平衡有向图和多智能体系统的非线性，其智能体状态不能用于反馈控制。基于两层控制器结构，首先设计了一个分布式最优协调器，将所考虑的问题转化为参考跟踪问题。然后，分散输出反馈控制器的发展，以稳定所得到的增广系统。在控制器设计中，利用高增益观测器来估计存在不确定性和干扰的代理状态，使得所提出的控制器仅依赖于代理输出。在标准假设下证明了代理输出的半全局收敛性，并使所有局部代价函数之和最小化。所得到的结果的一个关键特点是，所考虑的非线性代理只需要局部Lipschitz，并具有全局渐近稳定和局部指数稳定的零动态。
2021-11-16 cs.SY eess.SY math.OC
Distributed Subgradient Projection Algorithm over Directed Graphs
我们提出了一种分布式算法，称为定向分布式投影次梯度（D-DPS），用于解决多智能体网络上的约束最优化问题，其中智能体的目标是共同最小化局部已知的凸函数之和。网络中的每个代理只拥有其本地目标函数，约束到一个众所周知的凸集。我们专注于代理之间的通信时，描述了一个有向网络的情况。D-DPS为每个Agent增加了一个额外的变量，以克服由有向通信网络引起的不对称性。收敛性分析表明，D-DPS以$O(\frac{\ln k}{\sqrt{k}})$的速度收敛，其中k为迭代次数.
2016-08-28 math.OC
Distributed Gaussian Learning over Time-varying Directed Graphs
Boston University（波士顿大学）；University of Illinois（伊利诺伊大学）
本文提出一种分布式非贝叶斯学习算法，用于高斯噪声下的参数估计，通过显式更新高斯信念参数，证明了收敛率和几乎必然收敛性。
2016-12-07 cs.LG cs.MA cs.SY
Distributed Cooperative Multi-Agent Reinforcement Learning with Directed Coordination Graph
North Carolina State University（北卡罗来纳州立大学）；Oklahoma State University（俄克拉荷马州立大学）；DEVCOM U.S. Army Research Laboratory（美国陆军作战能力发展司令部陆军研究实验室）
现有的分布式协作多智能体强化学习（MARL）框架通常假设无向协调图和通信图，同时通过共识算法估计全局奖励进行策略评估。这样的框架可能会导致昂贵的通信成本，并表现出较差的可扩展性，由于全球共识的要求。在这项工作中，我们研究了MARL与有向协调图，并提出了一个分布式RL算法的本地政策评估是基于本地价值函数。每个Agent的局部价值函数通过有向学习诱导的通信图与其邻居进行局部通信来获得，而不使用任何共识算法。采用基于参数摄动的零阶优化（ZOO）方法实现梯度估计。通过与现有的基于ZOO的RL算法的比较，我们表明，我们提出的分布式RL算法保证了高的可扩展性。一个分布式资源分配的例子来说明我们的算法的有效性。
2022-01-10 cs.AI cs.LG cs.MA
Bilevel Distributed Optimization in Directed Networks
在无线传感器网络和大规模数据处理的新兴应用的动机，我们认为分布式优化有向网络中的代理本地通信他们的信息，他们的邻居合作最小化的全球费用函数。本文提出了一个新的统一的分布式约束最优化模型，它被描述为一个双层最优化问题。该模型涵盖了有向网络上广泛的现有问题，包括：（i）线性约束的分布式优化;（ii）有向网络上的分布式无约束非强凸优化。采用一种新的正则化松弛方法和梯度跟踪计划，我们开发了一个迭代正则化推挽梯度算法。我们建立了共识，并得出新的收敛速度报表的次优和不可行的生成的迭代求解双层模型。所提出的算法和在这项工作中获得的复杂性分析似乎是新的解决双层模型，也为两个子类的问题。所提出的算法的数值性能。
2021-03-19 math.OC
Solving Linear Equations with Separable Problem Data over Directed Networks
本文讨论线性代数方程，其中，通过对个体个体的系数矩阵和常数向量求和，分别给出了整体系数矩阵和常数向量。我们的方法是基于重新制定的原始问题作为一个无约束优化。基于这个确切的重新制定，我们首先提供了一个基于梯度的，集中式算法，作为分布式算法的后续设计的参考。我们提出了两套指数稳定的连续时间分布式算法，不需要个别代理矩阵是可逆的，并基于估计非分布项的集中式算法，使用动态平均共识。第一个算法适用于时变权重平衡的有向网络，第二个算法适用于通信图可能不平衡的一般有向网络。数值模拟说明了我们的结果。
2021-05-26 cs.SY eess.SY math.OC
DC-DistADMM: ADMM Algorithm for Constrained Distributed Optimization over Directed Graphs
本文提出了一种求解具有公共决策变量、局部线性等式和不等式约束以及集合约束的多智能体分布式优化问题的算法，该算法具有收敛速度保证。\textcolor{black}{The algorithm accrues all the benefits of the Alternating Direction Method of Multipliers (ADMM) approach}。它还克服了现有方法的局限性，凸优化问题的线性不等式，等式和集合约束，允许有向通信拓扑。此外，该算法可以分布式综合。所开发的算法具有：（i）当各个函数是凸的但不一定是可微的时，$O(1/k)$的收敛速率，其中$k$是迭代计数器，以及（ii）当目标函数是光滑的并且在最优解处被限制为强凸的时，收敛到最优解的任意小邻域的几何速率。该算法的有效性进行评估，通过比较与国家的最先进的约束优化算法在解决一个约束分布式$\ell_1$正则化逻辑回归问题，和无约束优化算法在解决一个$\ell_1$正则化Huber损失最小化问题。此外，该算法的性能与其他算法在文献中，利用多个通信步骤的比较。
2022-08-24 cs.SY eess.SY math.OC
Distributed continuous-time convex optimization on weight-balanced digraphs
University of California, San Diego（加州大学圣迭戈分校）
针对有向图上的连续时间分布式凸优化问题，本文揭示了基于共识的动力学在无向图上的成功不能直接迁移到有向图，并提出了一种在强连通权平衡有向图上保证收敛的替代分布式动力学。
2012-12-21 cs.SY eess.SY math.OC
Quantized Distributed Gradient Tracking Algorithm with Linear Convergence in Directed Networks
通信效率是分布式网络应用的主要瓶颈。为了解决这个问题，量化分布式优化问题引起了人们的广泛关注。然而，现有的量化分布式优化算法大多只能达到次线性收敛。为了实现线性收敛，本文提出了一种新的量化分布式梯度跟踪算法（Q-DGT），以最小化有向网络上局部目标函数的有限和。此外，我们显式地推导出更新规则的量化水平，并证明Q-DGT可以线性收敛，即使交换变量分别为一位。数值结果也证实了该算法的有效性。
2022-10-31 math.OC
A Fast Row-Stochastic Decentralized Method for Distributed Optimization Over Directed Graphs
针对有向图上的一致性优化，本文提出仅用行随机权重的FRSD算法，通过新颖动量项隐式实现梯度跟踪，在线性收敛的同时降低通信与存储开销。
2023-09-28 cs.SY eess.SY math.OC
The Barzilai-Borwein Method for Distributed Optimization over Unbalanced Directed Networks
针对多智能体分布式优化，提出基于Barzilai-Borwein方法和多共识内循环的ADBB算法，仅用行随机权重矩阵即可在不平衡有向网络上线性收敛到全局最优，并用真实数据验证。
2025-05-23 cs.SY eess.SY math.OC
Fully Distributed Adaptive Controllers for Cooperative Output Regulation of Heterogeneous Linear Multi-agent Systems with Directed Graphs
本文考虑了线性多智能体系统的合作输出调节问题，该系统具有有向通信图、异构线性子系统和输出仅可用于子系统子集的外系统。标称和不确定的线性子系统的情况下进行了研究。对于标称线性子系统的情况，设计了一种基于分布式自适应观测器的控制器，其中分布式自适应观测器用于子系统估计外生信号。对于不确定线性子系统的情形，将所提出的分布式观测器与内模原理相结合，解决了鲁棒合作输出调节问题。与现有的工作相比，本文的一个主要贡献是，所提出的控制方案可以设计和实现的一般有向图的每个子系统在一个完全分布式的方式。对于有无向图的特殊情况，进一步给出了分布式输出反馈控制律。
2015-01-23 math.OC
Distributed Convex Optimization With Coupling Constraints Over Time-Varying Directed Graphs
研究了时变多智能体网络上的分布式凸优化问题，其中每个智能体都有自己的决策变量，这些决策变量的设置应使其个体目标最小化，且受局部约束和全局耦合等式约束.在有向图上，提出了一种将推和协议与对偶次梯度方法相结合的分布式算法。在凸性假设下，首先建立了原始变量、对偶变量和约束违反的最优性。然后给出了算法的显式收敛速度。最后，通过对经济调度问题的数值实验，验证了算法的有效性。
2018-05-21 math.OC
ADD-OPT: Accelerated Distributed Directed Optimization
在本文中，我们考虑分布式最优化问题的目标是最小化的总和目标函数在多智能体网络。我们专注于代理间通信的情况下，描述了一个强连接，\emph{directed}图。所提出的算法，ADD-OPT（加速分布式定向优化），实现了这类问题的最佳已知的收敛速度，~ $O(μ^{k}),0<μ<1$，给定强凸，目标函数的全局Lipschitz连续梯度，其中~ $k$是迭代次数。此外，ADD-OPT支持更广泛和更现实的步长范围与现有的工作。特别是，我们表明，ADD-OPT收敛任意小（正）步长。仿真结果进一步说明了我们的结果。
2017-08-06 math.OC
Graph Balancing for Distributed Subgradient Methods over Directed Graphs
我们考虑一个多智能体最优化问题，其中一组智能体共同解决一个全局最优化问题，其目标函数由局部已知凸函数之和给出。我们专注于当代理之间的信息交换发生在一个有向网络的情况下，并提出了一个分布式的次梯度法，其中每个代理进行本地处理的基础上，从他的传入邻居的信息。我们的算法使用权重平衡来克服由有向通信网络引起的不对称性，即，代理用动态更新的权重来缩放它们的输出信息，所述动态更新的权重收敛到图的平衡权重。我们表明，目标函数值和共识违反，在遍历平均的算法产生的估计，收敛率$O(\frac{\log T}{\sqrt{T}})$，其中$T$是迭代次数。我们的算法的一个特例提供了一个新的分布式方法来计算平均共识有向图。
2016-03-10 math.OC
Distributed Averaging Problems over Directed Signed Networks
本文的目的是解决分布平均问题的签署网络中存在的一般有向拓扑表示的签署有向图。提出了一类新的改进的Laplacian势函数：导出无符号有向图和镜像（无向）符号图，并在此基础上利用最近邻规则设计了两个分布式平均协议.它表明，与任何设计的协议，签名平均共识（分别，状态稳定性）可以实现当且仅当相关的签名网络的签名有向图是结构平衡（分别，不平衡），无论是否满足重量平衡。此外，改进的Laplacian势函数还可以用于求解有向拓扑的签名网络的定时一致性问题，提出了一种非线性分布式协议，以保证在固定时间内的双方一致性或状态稳定性.另外，通过揭示有向符号网络的收敛行为与改进的Laplacian势函数性质之间的紧密联系，利用李雅普诺夫稳定性分析方法可以实现有向符号网络的收敛性分析。说明性的例子来证明我们的理论结果的有效性有向签署网络。
2020-08-13 math.DS math.OC
Distributed support-vector-machine over dynamic balanced directed networks
Semnan University（塞姆南大学）；Aalto University（阿尔托大学）；Georgia State University（佐治亚州立大学）；Tufts University（塔夫茨大学）
在本文中，我们认为通过分布式支持向量机（SVM），其中的想法是训练网络的代理，有限的数据共享，合作学习SVM分类器的全球数据库的二进制分类问题。代理仅共享关于分类器参数和局部损失函数的梯度的处理信息，而不是它们的原始数据。在现有的工作相比，我们提出了一个连续时间的算法，将网络拓扑的离散跳跃的变化。这种混合性质使我们能够消除由于底层CT过程的离散化而产生的抖动。我们表明，该算法收敛到SVM分类器的时变权重平衡有向图，通过使用参数从矩阵扰动理论。
2021-04-01 cs.LG cs.SI cs.SY
On the Distributed Optimization over Directed Networks
在本文中，我们提出了一个分布式算法，称为定向分布式梯度下降（D-DGD），解决多智能体最优化问题在有向图。现有的算法大多在无向网络的假设下处理类似的问题，即，要求权重矩阵是双随机的。权重矩阵的行随机性保证所有代理达成共识，而列随机性确保每个代理的局部梯度对全局目标的贡献相等。然而，在有向图中，可能不可能以分布式方式构造双随机权重矩阵。我们克服了这个困难，增加了一个额外的变量为每个代理记录的状态演变的变化。该算法在每次迭代中同时构造一个行随机阵和一个列随机阵，而不是仅构造一个双随机阵。新的权重矩阵的收敛性依赖于行随机矩阵和列随机阵，保证了智能体达到共识和最优。分析表明，该算法以$O(\frac{\ln k}{\sqrt{k}})$的速度收敛，其中$k$是迭代次数。
2016-02-01 math.OC
Fault-Tolerant Distributed Optimization (Part IV): Constrained Optimization with Arbitrary Directed Networks
本文研究了多智能体网络中当部分计算智能体可能出现故障时的约束分布式优化问题。在这个问题中，系统的目标是有所有的非故障代理集体最小化的局部成本函数，其中每个是最初已知的非故障代理的加权平均给出的全局目标。特别是，我们感兴趣的情况下，当计算代理连接的任意有向通信网络，一些代理可能遭受崩溃故障或拜占庭故障，每个代理的估计被限制在一个共同的约束集。该问题在社会计算和分布式大规模机器学习中有着广泛的应用。容错多智能体优化问题首先由Su和Vaidya提出，当局部函数定义在整个实数线上，并且网络是完全连接的时，可以求解该问题。在这份报告中，我们考虑任意定向通信网络，并专注于这样的情况下，在非故障代理的本地估计是受约束的，只允许本地通信和最小的内存进行迭代。特别是，我们推广我们以前的结果完全连接的网络和无约束优化任意有向网络和约束优化。作为副产品，我们提供了一个矩阵表示迭代近似崩溃的共识。矩阵表示使我们能够表征碰撞迭代共识的收敛速度。
2015-11-05 cs.DC math.OC
Optimization over time-varying directed graphs with row and column-stochastic matrices
在本文中，我们提供了一个分布式优化算法，称为$\mathcal{AB}$，最小化的凸函数的总和随时间变化，随机有向图。与现有的工作相反，我们提出的算法不需要特征向量估计来估计随机阵的（非$\mathbf{1}$）Perron特征向量。相反，所提出的方法依赖于一种新的信息混合的方法，利用行和列随机权重，以实现协议的最优解时，底层图是有方向的。我们证明，当全局目标是光滑且强凸的，并且底层时变图表现出有界连通性时，TV- $\mathcal{AB}$线性收敛到最优解，即，每个$C$连续图的并是强连通的。我们得到的收敛性结果的基础上的稳定性分析的线性系的不等式以及矩阵扰动参数。仿真结果证实了本文的研究结果。
2018-10-17 math.OC
A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
针对时变有向网络中的分布式在线优化问题，提出TV-HSGT算法，通过混合随机梯度跟踪与方差缩减机制，在无需梯度有界假设下提升动态遗憾界，并在实验中验证其有效性。
2025-08-28 cs.DC cs.LG math.OC
Distributed Subgradient Projection Algorithm over Directed Graphs: Alternate Proof
本文提出了一种基于多智能体网络的有向分布投影次梯度算法（Directed-Distributed Projected Subgradient，D-DPS）来求解一个约束最优化问题，其中智能体的目标是共同最小化局部已知凸函数的和.网络中的每个代理只拥有其本地目标函数，约束到一个众所周知的凸集。我们专注于代理之间的通信时所描述的\emph{directed}网络的情况。D-DPS结合了剩余的一致性，以克服由有向通信网络引起的不对称性。分析表明收敛速度为$O(\frac{\ln k}{\sqrt{k}})$。
2017-06-21 math.OC
Distributed Stochastic Compositional Optimization Problems over Directed Networks
研究了有向通信网络上的分布式随机组合最优化问题，其中智能体私有一个随机组合目标函数，并通过协作来最小化所有目标函数之和.本文提出了一种分布式随机组合梯度下降算法，该算法采用梯度跟踪和随机校正技术，以适应网络的有向结构，提高内函数估计的精度。当目标函数光滑时，该方法的收敛速度和样本复杂度分别为$\mathcal{O}\left(k^{-1/2}\right)$和$\mathcal{O}\left(\frac{1}{ε^2}\right)$，并能找到（$ε$）-平稳点.当目标函数为强凸时，收敛速度提高到$\mathcal{O}\left(k^{-1}\right)$ .此外，还给出了该方法的Polyak-Ruppert平均迭代的渐近正态性.我们证明了所提出的方法在模型不可知的元学习问题和逻辑斯谛回归问题上的经验性能。
2022-03-21 math.OC
Multi-agent constrained optimization of a strongly convex function over time-varying directed networks
我们认为合作的多智能体共识最优化问题在静态和时变通信网络，只允许本地通信。我们的目标是最小化代理特定的私人圆锥约束集上的代理特定的可能非光滑的复合凸函数的总和，因此，最佳的共识决策应该位于这些私人集合的交集。假设和函数是强凸的，我们提供了收敛速度在次优，不可行性和共识违反，检查底层网络拓扑结构的影响上的收敛速度的建议分散算法。
2017-06-24 math.OC
On the Linear Convergence of Distributed Optimization over Directed Graphs
本文提出了一种快速的分布式算法\emph{DEXTRA}，用于解决$n$代理在网络上达成一致并协作最小化其局部目标函数之和的优化问题，其中代理之间的通信由~ \emph{directed}图描述.现有的算法解决问题的有向图的收敛速度$O(\ln k/\sqrt{k})$的一般凸目标函数和$O(\ln k/k)$的目标函数是强凸的，其中$k$是迭代次数。我们发现，适当的步长，DEXTRA收敛于线性速度$O(τ^{k})$为$0<τ<1$，给定的目标函数是限制强凸。DEXTRA的实现要求每个代理知道它的本地出度。仿真例子进一步说明了我们的研究结果。
2016-05-27 math.OC
Fully Distributed Continuous-Time Algorithm for Nonconvex Optimization over Unbalanced Directed Networks
研究了非平衡有向网络上分布式连续时间非凸最优化问题。我们的目标是合作驱动所有的代理状态的最优解，最小化的本地费用函数的总和。基于拓扑平衡技术和适应控制方法，提出了一种新的完全分布式算法，该算法既不需要网络连通性的全局先验信息，也不需要局部费用函数的凸性。将该算法看作一个摄动系统，首先建立了该算法在摄动为零时的输入-状态稳定性，然后在松弛条件下证明了决策变量向最优解的渐近收敛.算法设计的一个关键特点是它消除了对局部费用函数的最小强凸性常数的依赖，以及不平衡有向拓扑的拉普拉斯矩阵的零特征值对应的左特征向量。两个例子说明了所提出的全分布式算法的有效性。
2022-11-30 math.OC
Pull-Based Distributed Event-triggered Consensus for Multi-agent Systems with Directed Topologies
Fudan University（复旦大学）；The University of Warwick（华威大学）
本文研究了基于拉式事件触发反馈控制的共识问题，针对一般有向拓扑结构，提出基于邻居最新触发时间和下一次触发时间的扩散耦合反馈策略，并通过数值例子验证了理论结果。
2015-04-24 cs.SY eess.SY math.OC
Optimal Output Consensus of Second-Order Uncertain Nonlinear Systems on Weight-Unbalanced Directed Networks
研究了二阶不确定非线性多智能体系统在权值不平衡有向网络上的分布式最优输出一致性问题。在局部代价函数强凸且具有全局Lipschitz梯度的标准假设下，设计了一种新的分布式动态状态反馈控制器，使得所有智能体的输出均达到最小化全局代价函数的最优解，该全局代价函数是所有局部费用函数之和.控制器的设计是基于一个两层的策略，其中一个分布式的最优协调器和参考跟踪控制器分别提出来解决所带来的挑战，从不平衡的有向网络和不确定的非线性函数。所提出的控制器的一个关键特点是，包含不确定性和干扰的非线性函数不需要全局Lipschitz。此外，利用适应控制技术，不需要任何不确定性或干扰的先验知识。最后通过两个仿真实例验证了所提控制方案的有效性。
2021-07-08 cs.SY eess.SY math.OC
A Robust Gradient Tracking Method for Distributed Optimization over Directed Networks
在本文中，我们考虑的问题，分布式一致性优化多智能体网络与有向网络拓扑结构。假设每个代理有一个局部的成本函数是光滑的和强凸的，全局目标是最小化所有的局部费用函数的平均值。为了解决这个问题，我们引入了一个强大的梯度跟踪方法（R-Push-Pull）适应于最近提出的推挽/AB算法。R-Push-Pull算法继承了Push-Pull算法的优点，具有线性收敛的特点，能够精确地传递信息到最优解。在有噪声的信息交换下，R-Push-Pull算法比现有的基于梯度跟踪的算法具有更强的鲁棒性;在恒定步长策略下，每个智能体获得的解以指数方式快速到达期望最优解的邻域。我们提供了一个数值例子，证明了R-推拉的有效性。
2020-08-20 cs.DC cs.MA cs.SI
FAB: A First-Order AB-based Gradient Algorithm for Distributed Bilevel Optimization over Time-Varying Directed Graphs
Southern University of Science and Technology（南方科技大学）；Peng Cheng Laboratory（鹏城实验室）；School of Computer Science and Engineering, Sun Yat-Sen University（中山大学计算机科学与工程学院）；School of Artificial Intelligence, Southern University of Science and Technology（南方科技大学人工智能学院）；National Center for Applied Mathematics Shenzhen（深圳应用数学国家研究中心）；Detection Institute for Advanced Technology Longhua-Shenzhen（深圳龙华先进技术检测研究院）
本文提出一种首次-order分布式梯度算法，结合Push-Pull通信策略和价值函数惩罚法，解决时间变化有向图上的分布式双层优化问题，并建立非渐近收敛性。
2026-05-07 math.OC
Delay-Tolerant Augmented-Consensus-based Distributed Directed Optimization
针对多智能体网络通信时延影响分布式优化收敛的问题，提出一种可处理强连通有向网络下有界固定异构时延的增广共识优化算法，通过理论证明收敛性并经仿真验证其性能。
2025-10-03 cs.MA cs.SI cs.SY
Fully Distributed Nash Equilibrium Seeking for High-order Players with Bounded Controls and Directed Graphs
本文研究了局中人对其他局中人行动的了解有限的博弈中的分布式纳什均衡寻求问题。特别是，所涉及的球员被认为是高阶积分器，其控制输入约束在一个预先指定的区域内。首先利用一个线性变换的球员的动力学，以方便设计的有界控制输入结合多个饱和功能。通过引入具有自适应和时变增益的共识协议，对参与者的未知行为进行了分布式估计。然后，利用一个完全分布式的纳什均衡寻求策略，展示其显着的性质：i）确保控制输入的有界性; ii）避免任何全局信息/参数; iii）允许图是有向的。基于李雅普诺夫稳定性分析，从理论上证明了所提出的分布式控制策略能够使所有局中人的行动趋于纳什均衡。最后通过算例验证了该方法的有效性。
2021-08-14 math.OC
Nash Equilibrium Seeking Over Directed Graphs
在本文中，我们的目标是开发分布式连续时间算法在有向图上寻找纳什均衡的非合作对策。受最近基于一致性的设计的启发，我们提出了一个分布式算法的权重平衡的有向图的比例增益。通过进一步嵌入一个分布估计的左特征向量与零特征值的图Laplacian，我们将其扩展到任意强连接有向图的情况下，可能有不平衡的重量。在这两种情况下，纳什均衡被证明是完全达到指数收敛速度。最后通过一个算例说明了理论结果的有效性。
2022-04-18 math.OC
A unified framework for distributed optimization algorithms over time-varying directed graphs
在本文中，我们提出了一个框架下，分散的优化算法建议在\cite{JKJJ,MA, NO,NO2}可以被视为在一个统一的方式。更准确地说，我们表明，分布式次梯度下降算法\cite{JKJJ, NO}，次梯度推算法\cite{NO2}，和分布式算法与行随机阵\cite{MA}可以通过适当的选择一致性矩阵，步长和次梯度从分散次梯度下降提出的\cite{NO}。作为这样的统一理解的结果，我们提供了一个收敛性证明，涵盖了算法在\cite{JKJJ,MA, NO,NO2}下一个新的代数条件，严格弱于传统的图论条件在\cite{NO}。这种统一也使我们能够得到一个新的分布式优化方案。
2021-08-04 math.OC
(Corrected Version) Push-LSVRG-UP: Distributed Stochastic Optimization over Unbalanced Directed Networks with Uncoordinated Triggered Probabilities
针对非平衡有向网络下多智能体系统的大规模凸有限和优化问题，提出结合push-sum技术与非协调触发概率分布式LSVRG的Push-LSVRG-UP算法，具备加速线性收敛、低存储与低迭代复杂度优势，经真实数据集实验验证了实用性与性能提升。
2025-05-17 cs.SY eess.SY math.OC
Projected Push-Pull For Distributed Constrained Optimization Over Time-Varying Directed Graphs (extended version)
针对时变有向图下的分布式约束优化问题，提出结合投影梯度下降与惰性更新的投影推拉算法，证明其几何收敛性并推导步长界，通过数值实验验证有效性。
2023-10-10 cs.DC cs.MA math.OC
On Increasing Self-Confidence in Non-Bayesian Social Learning over Time-Varying Directed Graphs
我们研究了对数线性非贝叶斯社会学习更新规则的收敛性，一组代理，共同寻求确定一个参数，最好地描述了一个联合序列的观察。与最近的文献相反，我们专注于代理分配衰减的权重给它的邻居的情况下，网络是不是在每个时刻连接，但在一些有限的时间间隔。我们提供了一个充要条件的速度，在该代理减少的权重，仍然保证社会学习。
2018-12-24 cs.MA cs.SI math.OC
Non-Bayesian Social Learning with Uncertain Models over Time-Varying Directed Graphs
我们研究了具有不确定模型的非贝叶斯社会学习问题，在该模型中，代理网络根据一系列观察到的信号寻求合作识别世界的状态。与现有的文献相比，我们把注意力集中在这样的情况下，由代理人持有的统计模型的可能状态的世界是建立从有限的观察。我们发现，现有的非贝叶斯社会学习方法可能会选择一个错误的假设与非零概率在这些条件下。因此，我们提出了一种新的算法来迭代地构建一组信念，表明某个假设是否得到了经验证据的支持。该算法可以在时变有向图上实现，且权值为非{-}双随机。
2019-09-10 cs.MA cs.SI math.OC
Fully Asynchronous Distributed Optimization with Linear Convergence in Directed Networks
我们考虑的分布式优化问题，其目标是最小化的局部目标函数的总和在一个有向网络。虽然它已经被广泛的研究，最近，大多数现有的算法被设计为同步或随机激活的实现，这可能会产生死锁在实践中。与此形成鲜明对比的是，我们提出了一个\emph{fully}异步推挽梯度算法（APPG），每个节点更新，而无需等待任何其他节点使用（可能陈旧）的信息，从邻居。因此，它是无死锁的，并且对任何有界的通信延迟都是鲁棒的。此外，我们构造了两个新的增广网络，从最坏情况的角度对其性能进行了理论评估，并证明了如果局部函数具有Lipschitz连续梯度，并且它们的和满足Polyak-Jasojasiewicz条件，（不需要凸性），APPG的每个节点以$\mathcal{O}(λ^k)$的线性速率收敛到相同的最优解，其中，无论哪个节点更新，$λ\in(0,1)$和虚拟计数器$k$都增加1。这在很大程度上说明了它的线性加速效率，并显示了它的优势，同步版本。最后，APPG的性能进行了数值验证，通过逻辑回归问题上的\emph{Covertype}数据集。
2021-01-04 cs.DC math.OC
Distributed Stochastic Optimization with Gradient Tracking over Time-Varying Directed Networks
本文提出SAB-TV分布式随机优化方法，在时变有向网络上利用梯度跟踪和行列随机权重实现智能体协同优化，并证明其线性收敛到最优解邻域。
2023-10-30 math.OC
Fast Distributed Optimization over Directed Graphs under Malicious Attacks using Trust
School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院）；Faculty of Engineering, Bar-Ilan University（巴伊兰大学工程学院）；School of Electrical, Computer and Energy Engineering, Arizona State University（亚利桑那州立大学电气、计算机与能源工程学院）
针对有向通信图下含恶意智能体的多智能体系统分布式优化问题，提出结合随机信任值、梯度跟踪与递增约束集的RP3算法，证明其收敛性并通过实验验证其抗攻击效果与几何收敛性能。
2024-07-09 cs.MA cs.RO cs.SY
Cryptography-Based Privacy-Preserving Method for Distributed Optimization over Time-Varying Directed Graphs with Enhanced Efficiency
针对分布式优化中的智能体隐私泄露问题，提出基于AES的隐私保护算法，可应用于时变有向网络，满足初始有合法邻居即可保护隐私，强凸光滑目标下线性收敛，经传感器融合仿真验证有效。
2024-05-14 math.OC
Nonasymptotic Convergence Rates for Cooperative Learning Over Time-Varying Directed Graphs
我们研究的问题，分布式假设检验与网络的代理人，其中一些代理人反复获得正确的假设信息。小组的目标是在所有节点上就最好地描述观测数据的联合假设达成一致。我们假设智能体可以在一个未知的时变有向图序列中与它们的邻居交互。继Jadbabaie，Molavi，Sandroni和Tahbaz-Salehi的开创性工作之后，我们提出了局部学习动态，该动态将每个节点的贝叶斯更新与私有代理信号的局部聚合规则相结合。我们表明，这些学习动态驱动所有代理的假设，最好的解释收集在所有节点的数据，只要序列的互连图是一致的强连接。我们的主要结果建立了一个非渐近的，明确的，几何收敛速度的学习动态。
2015-08-21 math.OC
Solving A Class of Nonsmooth Resource Allocation Problems with Directed Graphs though Distributed Smooth Multi-Proximal Algorithms
针对一类分布式非光滑资源分配问题，提出了两种分布式多邻近原始对偶法。在这些问题中，全局费用函数是局部凸函数和非光滑费用函数之和，每个代价函数由一个二次可微函数和多个非光滑函数组成。底层多智能体系统的通信图是有向和强连接的，但不一定是加权平衡的。多邻近分裂的设计是为了解决这些非光滑函数求和的不可逼近性所带来的困难。此外，它还可以保证所提出的算法的光滑性。在多邻近分裂中引入辅助变量，估计非光滑函数的次梯度。在理论上，利用李雅普诺夫稳定性理论和积分输入状态稳定性（iISS）理论进行了收敛性分析。结果表明，所提算法能使状态收敛到满足资源分配条件的最优点。
2020-03-16 math.OC
Distributed Event-triggered Consensus for Multi-agent Systems with Directed Topologies
本文研究了基于事件触发反馈控制的有向拓扑多智能体系统的一致性问题。也就是说，在每一个代理，扩散耦合反馈是基于从它的最新观察到它的内邻居的信息。我们推导出分布式的标准，以确定下一个观察时间的每个代理，分别触发其在邻居的信息和自己的状态。我们证明了如果网络拓扑是不可约的，那么在事件触发耦合原则下，多智能体系统达成一致。然后，我们将这些结果推广到有生成树的可约拓扑的情形。此外，这些结果也被扩展到自触发控制的情况下，根据每个代理的下一个触发时间是基于当前状态计算的，即，而不需要持续观察系统的状态。数值例子说明了理论结果的有效性。
2015-04-04 math.OC nlin.AO
Distributed Regularized Dual Gradient Algorithm for Constrained Convex Optimization over Time-Varying Directed Graphs
研究了多智能体协作时变网络上的分布式最优化问题，其中每个智能体都有自己的决策变量，这些决策变量的设置应使其个体目标在局部约束和全局耦合约束下最小化.基于推和协议和对偶分解，设计了一种分布式正则化对偶梯度算法，该算法在时变有向图中实现，只需要通信矩阵的列随机性.通过在相应的拉格朗日函数上增加一个二次正则项，我们首先得到了拉格朗日乘子的上界，与大多数基于原-对偶的方法相比，该方法不需要构造包含对偶最优集的紧集.对强凸目标函数，本文方法的收敛速度达到了$\mathcal{O}(\ln T/T)$阶，其中$T$为迭代次数.此外，还给出了约束违反的显式界。最后，通过对网络效用最大化问题的数值计算，验证了算法的有效性。
2018-05-21 math.OC
Distributed Optimization over Directed Graphs with Row Stochasticity and Constraint Regularity
本文讨论了一个多Agent网络上的最优化问题，其中代价函数是多Agent个体目标之和，约束集是局部约束的交集。大多数现有的方法采用次梯度和共识步骤来解决这个问题，要求与网络相关联的权重矩阵是列随机的，甚至是双随机的，这些条件在有向网络中很难安排。此外，已知的分布式次梯度方法的收敛性分析取决于问题是无约束的还是有约束的，以及局部约束集是相同的还是不相同的和紧凑的。本文的主要目标是：（i）删除公共列随机性要求;（ii）放松紧性假设;（iii）提供一个统一的收敛性分析。具体地说，假设通信图是固定的、强连通的，权矩阵（仅）是行随机的，对于凸的、Lipschitz连续的费用函数，给出了一种分布式投影次梯度法及其变形.基于局部约束集的正则性假设，给出了一个统一的收敛性分析，该分析既适用于无约束问题，也适用于有约束问题，且不需要假设约束集是紧的，也不需要假设约束集相交处有内点.此外，我们还建立了一个上界的绝对客观误差评估在每个代理的可用的本地估计下的非递增步长序列。这个界允许我们分析两种算法的收敛速度。
2018-06-19 cs.DC math.OC
Distributed Adaptive Time-Varying Optimization with Global Asymptotic Convergence
针对多智能体时变优化，本文提出由死区算法桥接平均估计器与自适应优化器的分布式算法，证明全局渐近收敛并扩展至一般代价函数。
2024-08-03 cs.SY eess.SY math.OC
Geometrical Convergence Rate for Distributed Optimization with Time-Varying Directed Graphs and Uncoordinated Step-Sizes
研究了一类由多个智能体组成的分布式优化算法，其中每个智能体只能访问自己的局部凸目标函数，并联合最小化函数之和。代理之间的通信被描述为一个序列的时变有向图，假设是一致强连接。该算法采用列随机混合矩阵，即使在步长不协调的假设下，也能精确地控制所有智能体渐近收敛到全局一致的最优解.在假设目标函数是强凸的和具有Lipschitz连续梯度的条件下，建立了获得几何收敛速度的两个相当标准的条件.理论分析表明，只要不协调步长不超过一定的上界，分布式算法能够驱动整个网络几何收敛到凸优化问题的最优解.我们还通过不同的方法给出了我们算法的收敛速度的显式分析。最后，通过仿真实验验证了所提算法的可行性，验证了本文理论分析的正确性。
2016-11-10 math.OC
Constrained multi-cluster game: Distributed Nash equilibrium seeking over directed graphs
本文针对有向图上受约束的多集群博弈，提出结合一致性方法和梯度跟踪技术的分布式纳什均衡寻求算法，引入平均化程序处理约束，实现线性收敛，并在微电网能量管理中验证有效性。
2024-04-22 math.OC
AB/Push-Pull Method for Distributed Optimization in Time-Varying Directed Networks
本文研究了嵌入时变有向通信网络中的代理系统的分布式最优化问题。每个代理都有自己的成本函数和代理合作，以确定全球决策，最大限度地减少所有个人的费用函数的总和。我们考虑所谓的推挽式基于梯度的算法（称为AB/推挽），同时采用行和列随机权重来跟踪最优决策和全局成本的梯度，同时确保共识和最优性。我们表明，该算法线性收敛到最优解时变有向网络的恒定步长时，代理的费用函数是光滑的，强凸的。该方法的线性收敛已在Saadatniaki等人（2020）中显示，其中行和列随机混合矩阵的多步一致收缩参数与底层图结构不直接相关，并且未提供步长值的显式范围。相对于Saadatniaki et al.（2020），这项工作的新颖性是双重的：（1）我们建立了行和列随机混合矩阵的一步一致收缩，收缩参数根据图直径和其他图属性显式给出;以及（2）根据费用函数、混合矩阵和图连通结构的性质，我们提供了步长值的显式上界。
2022-09-26 math.OC
A Note on Optimal Distributed State Estimation for Linear Time-Varying Systems
本文证明 ODEFTC 是连续时间随机线性时变系统的首个最优分布式状态估计器，可渐近达到集中式 Kalman-Bucy 滤波器的误差协方差性能，并给出保证稳定性的一致性增益条件。
2025-10-21 cs.SY eess.SY math.OC
Noise-Robust Distributed Optimization Over Directed Graphs With Row Stochastic Matrices
School of Automation, Southeast University（东南大学自动化学院）；China Industrial Control Systems Cyber Emergency Response Team（中国工业控制系统信息安全应急响应中心）
针对有向不平衡图上信息共享噪声导致梯度跟踪噪声累积和左特征向量缩放失真的问题，提出仅用行随机权重的R-Xi-row算法，通过辅助变量增量更新和衰减增益，实现强凸光滑目标下几乎必然收敛并达到近O(k^{-1/3})期望速率。
2026-09-25 math.OC
