A Poisson Jump-driven SDE Approach to Distributed Gradient Descent with Sparse Communication
本文提出用泊松跳驱动的随机微分方程将异步稀疏通信嵌入分布式梯度下降,并证明了在保证任意指数收敛速度下所需的通信速率界限。
2025-11-09 math.OC
Synchronization Strategies for Multi-agent Networked Control Systems
随着21世纪的到来,技术和连接领域的不断进步,实时互联网络已经变得非常重要。分布式控制和多智能体模式在过去的集中式系统的大时间失败的历史中迅速摸索。在不久的过去,同步和网络控制系统的概念已经被广泛地用于映射、分析和解决定义的目标集。在这篇论文中,一组不同的应用程序从潮流的角度考虑和建模/分析同步为中心的主题。这些系统被建议(或假设)为网络连接,并相应地设计了其控制。它已被证明如何从自然界的一些例子可以帮助重新合成类似的动态,并帮助实现系统的目标。很少的智能世界的应用程序已归因于论文和分布式控制,这些从多智能体的角度来看,已被设计,以更好地设计和实时操作这样的系统。同步恰好是所有网络的核心,因为所有代理都协同工作,以便提供一个共同的目标,并遵守定义的约束。作为一个转折的工作,我建立了一个平台,为传统的和未来的控制系统现有/不存在的文献中的新的分布式和快速反应的控制策略的发展。作为本论文的一个主要贡献,通过结合物理学和电力系统的思想,我打开了各种有趣的现象已经存在于任何领域,以探索对方。
2021-07-04 cs.SY eess.SY math.OC
On reducing the communication cost of the diffusion LMS algorithm
Université Côte d’Azur(蔚蓝海岸大学);OCA(蓝色海岸天文台);CNRS(法国国家科学研究中心)
近年来,数字和移动通信的兴起使世界变得更加互联和网络化,导致数据源、数据中心或流程之间的数据流量达到前所未有的水平。虽然这些数据可以以集中的方式处理,但通常更适合考虑分布式策略,例如扩散,因为它们是可扩展的,并且可以通过在网络代理上分配任务来处理大量数据。尽管在集群上实施扩散策略相对简单,但在通信能源预算有限的自组织网络中部署它们似乎具有挑战性。在本文中,我们介绍了一种扩散LMS策略,显着降低通信成本,而不影响性能。然后,我们分析了所提出的算法在平均值和均方意义上。接下来,我们进行数值实验,以证实理论研究结果。最后,我们进行了大规模的模拟,以测试在能量有限的情况下,算法的效率。
2018-07-23 cs.LG math.OC stat.ML
Distributed Target Tracking based on Localization with Linear Time-Difference-of-Arrival Measurements: A Delay-Tolerant Networked Estimation Approach
本文提出一种分布式单时间尺度目标跟踪方法,基于TDOA测量并容忍异构延迟,通过本地LMI反馈增益确保误差稳定性,降低网络连通性与通信速率要求。
2024-12-22 cs.SI cs.SY eess.SP
Spatiotemporal Response Decay for Near-Optimal Distributed LQR via System Level Synthesis
KU Leuven(荷语鲁汶大学);Department of Chemical Engineering, KU Leuven(荷语鲁汶大学化学工程系)
该研究针对网络化LQR问题,用系统级综合方法证明集中式响应的时空指数衰减界,据此设计近最优分布式控制器,数值实验验证了架构选择的指导因素。
2026-10-09 cs.SY eess.SY math.OC
Asymptotically Efficient Distributed Estimation With Exponential Family Statistics
研究了指数族观测统计量下多智能体网络的分布式参数估计问题。提出了一种一致性+新息形式的确定性等价型分布估计器,在该估计器中,在每个观测采样时期,智能体通过适当地结合从其邻居接收的数据和局部感知的新信息(新息)来更新其局部参数估计.在网络传感模型的全局可观测性下,即,基于联合观测统计和代理间通信网络的平均连通性来区分参数值的不同实例的能力,所提出的估计器被示出为在每个网络代理处产生一致的参数估计。此外,它表明,分布估计是渐近有效的,因为,代理估计的渐近协方差与最佳集中估计,即,集中式Fisher信息率的倒数。从技术的角度来看,建议的分布式估计导致非马尔可夫混合时标随机递归和分析方法的文件有助于分布式随机逼近的一般理论。
2014-02-01 cs.IT math.IT math.OC
SplitVAEs: Decentralized scenario generation from siloed data for stochastic optimization problems
School of Industrial Engineering(工业工程学院);Oklahoma State University(俄克拉荷马州立大学)
本文提出去中心化场景生成框架 SplitVAEs,利用变分自编码器在不移动数据的前提下生成高质量场景,显著降低传输成本并保护隐私,性能优于集中式基准方法。
2025-01-31 cs.LG math.OC stat.ME
Decentralized Feedback Optimization via Sensitivity Decoupling: Stability and Sub-optimality
本文针对网络化系统提出一种基于灵敏度矩阵对角近似的完全分散式反馈优化控制器,以降低通信负担并提升可扩展性,同时证明了闭环稳定性、界定了分散化带来的次优性,并揭示其解对应于非合作博弈的纳什均衡。
2024-03-28 cs.SY eess.SY math.OC
Noise-Induced Limitations to the Scalability of Distributed Integral Control
研究了大规模网络化动力系统分布反馈控制的性能限制。具体来说,我们解决的问题是如何分布式积分控制的性能受到测量噪声。我们认为二阶共识的问题建模在一个复曲面格型网络,并研究渐近缩放(网络大小)的H2性能指标,量化的方差节点状态波动。虽然以前的研究表明,分布式积分控制从根本上提高了这些性能缩放相比,分布式比例反馈控制,我们的研究结果表明,明确包括测量噪声导致相反的结论。随着局部积分状态的节点间对齐程度的增加,噪声对性能的影响会降低。然而,即使控制器可以针对任何给定的网络大小被调谐为可接受的性能,性能也会随着网络的增长而降低,从而限制了任何此类控制器调谐的可扩展性。特别是,对节点间对齐的要求随着网络规模的增加而增加。我们表明,这在实践中意味着,大型和稀疏的网络将需要任何积分控制集中,而不是分布式。在这种情况下,最佳可实现的性能缩放,这是示出的比例反馈控制,检索。
2019-07-22 math.OC
Distributed Optimization of Finite Condition Number for Laplacian Matrix in Multi-Agent Systems
University of California Irvine(加州大学欧文分校)
本文提出一种分布式算法,通过调节节点权重优化多智能体系统中拉普拉斯矩阵的有限条件数,提升共识算法的收敛速度和系统性能。
2025-07-08 cs.SY eess.SY math.OC
Adaptive Federated Learning in Resource Constrained Edge Computing Systems
IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);Imperial College London(帝国理工学院);Pennsylvania State University(宾夕法尼亚州立大学);Army Research Laboratory(陆军研究实验室)
包括物联网(IoT)、社交网络和众包在内的新兴技术和应用在网络边缘产生大量数据。机器学习模型通常从收集的数据中构建,以实现对未来事件的检测、分类和预测。由于带宽、存储和隐私问题,将所有数据发送到一个集中位置通常是不切实际的。在本文中,我们考虑从分布在多个边缘节点的数据中学习模型参数的问题,而无需将原始数据发送到集中的地方。我们的重点是一类通用的机器学习模型,使用基于梯度下降的方法进行训练。从理论上分析了分布式梯度下降算法的收敛界,并在此基础上提出了一种控制算法,该算法在给定的资源预算下确定局部更新和全局参数聚合之间的最佳折衷,以最小化损失函数.该算法的性能进行了评估,通过广泛的实验与真实的数据集,无论是在一个网络化的原型系统,并在一个更大规模的模拟环境。实验结果表明,我们提出的方法执行接近最佳的各种机器学习模型和不同的数据分布。
2019-02-17 cs.DC cs.LG math.OC
Synthesis to Deployment: Cyber-Physical Control Architectures
我们考虑的问题,如何部署一个控制器(联网)的网络物理系统(CPS)。控制CPS是一项复杂的任务,而综合控制器以满足传感、致动和通信约束只是挑战的一部分。除了控制器综合,还应该考虑如何将控制器纳入CPS。换句话说,需要考虑网络层及其与物理层的交互。在这项工作中,我们的目标是弥合理论控制器合成和实际CPS部署之间的差距。我们采用系统级综合(SLS)的框架来合成控制器,无论是状态反馈或输出反馈,并提供部署架构的标准SLS控制器。此外,我们得到新的控制器实现开环稳定系统,并引入不同的状态反馈和输出反馈架构的部署,从完全集中到完全分布式。最后,我们比较他们之间的权衡,在鲁棒性,内存,计算和通信开销。
2021-06-01 cs.SY eess.SY math.OC
Distributed Convex Optimization in Networks of Agents with Single Integrator Dynamics
研究了无向动态网络上的分布式凸优化问题。在这里,网络代理与单积分动态应该会合在一个点,这是一个全局凸优化问题的解决方案与一些局部不等式约束。为此,所有的代理人应与他们的邻居合作,以寻求网络的全局目标函数的最优点。提出了一种基于邻接点法的分布式优化算法,将优化算法与非线性一致性协议相结合,以寻找全局目标函数的最优值。我们解决这个问题,解决它的子问题,即共识问题和凸优化问题。首先,我们提出了一个饱和协议的共识子问题。然后,为了解决分布式优化部分,我们实现了一个集中式控制律,它产生的全局目标函数的最优值,在分布式的方式与分布式估计器的帮助下。基于时变非线性系统的稳定性理论,对该协议进行了收敛性分析。最后给出了一个仿真例子来说明该算法的有效性。
2017-06-30 math.DS math.OC
Parallel and Distributed Successive Convex Approximation Methods for Big-Data Optimization
近年来,人们对大规模系统的并行和分布式最优化方法产生了浓厚的兴趣。特别是非凸大规模最优化问题在许多工程领域有着广泛的应用。这种复杂的大规模系统的设计和分析提出了一些挑战,并要求开发新的最优化模型和算法。本文的主要贡献是提出了一个通用的,统一的,算法框架,连续凸逼近(SCA)技术的基础上,并行和分布式解决方案的一般类的非凸约束(不可分离的,网络)的问题。所提出的框架统一和概括了现有的几种SCA方法,使他们呼吁并行/分布式实现,同时提供了一个灵活的选择函数逼近,步长时间表,和控制的计算/通信效率。本文是根据作者之一在CIME暑期学校集中式和分布式多智能体最优化模型和算法,在Cetraro,意大利,2014年6月23日至27日举行的讲座。这些讲座是:I)连续凸逼近方法:基础; II)并行连续凸逼近方法;和III)分布式连续凸逼近方法。
2018-05-17 cs.DC math.OC
Structured Positive-Definite Optimal Control Synthesis of Closed-Loop Recommendation Systems over Social Networks
Univ. Grenoble Alpes, CNRS, Inria, Grenoble INP, GIPSA-lab(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、Inria、格勒诺布尔理工学院、GIPSA实验室);Univ. Grenoble Alpes, CNRS, Sciences Po Grenoble-UGA, Pacte(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔政治学院、PACTE研究中心)
本研究将社交网络多主题意见动态的推荐策略设计建模为无限时域线性二次最优控制问题,通过结构化正定控制器综合实现性能与局部性的权衡,并给出数值验证。
2026-09-22 math.OC
On the Learning Behavior of Adaptive Networks - Part I: Transient Analysis
University of California, Los Angeles(加州大学洛杉矶分校);Microsoft Research(微软研究院)
本文分析了多智能体网络学习行为的暂态特性,揭示了分布式策略的学习能力,指出组合策略如何影响学习过程及收敛点选择帕累托最优解,发现自适应网络学习过程有三个阶段,前两阶段收敛速率不同,最后阶段达到有限的均方误差。
2015-04-20 cs.MA cs.SY eess.SY
On the Learning Behavior of Adaptive Networks - Part II: Performance Analysis
University of California, Los Angeles(加州大学洛杉矶分校);Microsoft Research, Redmond, WA 98052(微软研究院)
本文研究了分布式学习中网络拓扑对性能的影响,揭示了在小步长情况下,网络能实现与完全连接网络同等的性能。
2015-04-20 cs.MA cs.SY eess.SY