Communication-Efficient Distributed Online Nonconvex Optimization with Time-Varying Constraints
针对时变有向图下带时变约束的分布式在线非凸优化问题,提出两种带压缩通信的分布式 bandit 在线原对偶算法,证明其具有次线性网络遗憾和累积约束违反界,Slater 条件下约束违反界更小,并通过仿真验证。
2025-11-18 cs.SY eess.SY math.OC
Distributed Online Aggregative Optimization for Dynamic Multi-robot Coordination
本文研究动态多机器人协调中的分布式在线聚合优化问题,提出常数步长的 Projected Aggregative Tracking 算法,证明动态遗憾有界且静态情形下线性收敛,数值实验验证其有效性。
2023-09-12 cs.SY eess.SY math.OC
Radial Partitioning with Spectral Penalty Parameter Selection in Distributed Optimization for Power Systems
本文提出基于径向划分和谱参数选择的分布式优化算法,并开发DiCARP软件包,在更少迭代次数下获得比基于组件的DO更精确的最优潮流解。
2024-08-05 cs.SY eess.SY math.OC
Distributed Online Linear Quadratic Control for Linear Time-invariant Systems
Texas A&M University(得克萨斯农工大学)
经典的线性二次(LQ)控制围绕线性时不变(LTI)系统,其中控制状态对引入时不变参数的二次成本。在线优化和控制的最新进展提供了新的工具来研究LQ问题是鲁棒的时变成本参数。受这一研究思路的启发,我们研究了相同LTI系统的分布式在线LQ问题。考虑一个多智能体网络,其中每个智能体都被建模为一个LTI系统。的LTI系统是与解耦,随时间变化的二次成本,揭示顺序。该网络的目标是使所有代理的控制序列与事后看来最好的集中式策略竞争,这是由后悔的概念捕获的。我们开发了一个分布式的在线LQ算法的变体,它运行分布式在线梯度下降与投影到一个半定规划(SDP)生成控制器。我们建立了一个遗憾界缩放的平方根的有限时间范围,这意味着代理达成共识,随着时间的增长。我们进一步提供了数值实验验证我们的理论结果。
2020-09-29 cs.LG cs.SY eess.SY
Online Distributed Algorithm for Optimal Power Flow problem with Regret Analysis
本文针对动态不确定环境下的分布式直流最优潮流问题,提出一种基于改进原对偶方法的分布式在线算法,并证明其静态遗憾和约束违反均具有次线性界,最后在IEEE-14母线系统上验证了算法性能。
2023-08-09 cs.SY eess.SY math.OC
A Dual Accelerated Method for Online Stochastic Distributed Averaging: From Consensus to Decentralized Policy Evaluation
出于分散的传感和政策评估问题,我们考虑一种特殊类型的分布式随机最优化问题的网络,称为在线随机分布平均问题。我们设计了一个基于对偶的方法来解决这个带有Polyak-Ruppert平均的分布式一致性问题,并分析了它的行为。我们表明,该算法达到了加速确定性误差最佳依赖于网络的条件数,也有一个顺序最优的随机误差。这提高了保证国家的最先进的分布式随机最优化算法时,专门为此设置,并产生-除其他事项外-推论分散的政策评估。我们的证明依赖于明确地研究几个相关的线性系的演化,可能是独立的利益。数值实验,验证了我们的理论结果,并表明,我们的方法优于现有的方法在有限样本的情况下,几个自然的网络拓扑结构。
2022-08-08 cs.MA cs.SY eess.SY
Regret Analysis of Distributed Online LQR Control for Unknown LTI Systems
Northeastern University(东北大学)
在线优化最近开辟了途径,研究最优控制的时变费用函数是事先未知的。受此启发,我们研究了动态未知的线性时不变(LTI)系统的分布式在线线性二次型调节器(LQR)问题。考虑一个多智能体网络,其中每个智能体都被建模为一个LTI系统。该网络具有全局时变二次成本,可以逆向演化,并且每个代理只能部分地顺序观察。该网络的目标是共同(i)估计未知的动态和(ii)计算本地控制序列竞争的最佳集中式政策在事后,这最小化网络成本随时间的总和。这个问题被公式化为后悔最小化。我们提出了一个分布式的在线LQR算法的变体,代理计算他们的系统估计在探索阶段。然后,每个代理应用分布式在线梯度下降的半定规划(SDP)的可行集是基于代理系统的估计。我们证明了我们提出的算法的遗憾界的比例为$O(T^{2/3}\log T)$,这意味着随着时间的推移,所有代理的共识的概率很高。我们还提供了仿真结果验证我们的理论保证。
2022-02-06 cs.LG cs.SY eess.SY
Dynamic Regret Analysis of Safe Distributed Online Optimization for Convex and Non-convex Problems
Northeastern University(东北大学);Texas A&M University(得克萨斯农工大学)
本文讨论了一组未知的线性安全约束的安全分布式在线优化。代理网络的目标是共同最小化一个全球性的,时变的功能,这是只有部分观察到每个单独的代理。因此,代理人必须从事本地通信,以产生一个安全的行动序列与最佳的最小化序列在事后的竞争力,和两个序列之间的差距是通过量化的动态遗憾。我们提出了分布式安全在线梯度下降(D-Safe-OGD)与探索阶段,其中所有的代理估计约束参数协作建立估计可行集,确保在优化阶段的行动选择的安全性。我们证明了对于凸函数,D-Safe-OGD实现了$O(T^{2/3} \sqrt{\log T} + T^{1/3}C_T^*)$的动态遗憾界,其中$C_T^*$表示最佳极小序列的路径长度。我们进一步证明了$O(T^{2/3} \sqrt{\log T} + T^{2/3}C_T^*)$对某些非凸问题的动态遗憾界,这建立了一个安全的分布式算法在非凸设置的第一个动态遗憾界。
2023-02-23 cs.LG cs.SY eess.SY
Towards Online Optimization for Power Grids
在本说明中,我们讨论了扩展分布式优化框架的潜在优势,以增强对电网运营商管理大量在线顺序决策的支持。首先,我们回顾了最先进的电力系统分布式优化框架,并解释了分布式算法如何提供可扩展的解决方案。接下来,我们将介绍在线优化的关键概念和范例,并提出一个分布式在线优化框架,突出重要的性能特征。最后,我们讨论了离线和在线分布式优化之间的联系和区别,展示了这种优化技术对电网应用的适用性。
2021-09-26 math.OC
Distributed Online Optimization with Byzantine Adversarial Agents
IIT Madras(印度理工学院马德拉斯分校)
我们研究的问题,无约束,离散时间,在线分布式优化的多代理系统中的一些代理不遵循规定的更新规则,无论是由于故障或恶意。没有一个代理人有关于故障代理人身份的先验信息,任何代理人都只能与它的近邻通信。在每一个时间步,一个局部Lipschitz强凸费用函数被揭示本地所有的代理和非故障代理更新他们的状态使用他们的本地信息和从他们的邻居获得的信息。我们测量的性能比较,它的离线版本,当费用函数是已知的先验在线算法。两者之间的区别被称为后悔。在图的拓扑结构、对手的数量和位置满足充分条件的情况下,定义的后悔度呈次线性增长。我们进一步进行数值实验来验证我们的理论结果。
2022-04-09 cs.LG cs.SY eess.SY
Dynamic Regret of Distributed Online Frank-Wolfe Convex Optimization
本文研究了分布式在线凸约束优化问题,在该问题中,多智能体系统中的多个智能体通过与时变网络中的邻居进行通信来协作以最小化全局费用函数。当最优化问题的约束集是高维的、复杂的时,投影运算的计算量往往变得令人望而却步。为了解决这个问题,我们开发了一个分布式的在线Frank-Wolfe优化算法结合梯度跟踪技术。我们严格建立动态遗憾界的建议优化算法为$\mathcal{O}(\sqrt{T(1+H_T)}+D_T)$,这显式地依赖于迭代轮$T$,功能变化$H_T$,和梯度变化$D_T$。最后,在分布式在线岭回归问题的情况下,对理论结果进行了验证和比较。
2023-02-01 math.OC
Distributed Online Submodular Maximization under Communication Delays: A Simultaneous Decision-Making Approach
University of Michigan(密歇根大学)
本文提出分布式在线贪心算法DOG,解决通信延迟下的子模优化问题,通过结合对抗性带宽学习与延迟反馈,在任意网络拓扑中实现同时决策,分析协调性能与收敛时间的权衡。
2026-08-14 cs.LG cs.MA cs.SY
A Spectral Filtering Approach to Regret Analysis of Distributed Online Control for Linear Dynamical Systems
National Cheng Kung University(成功大学)
本文将在线谱控制框架拓展至分布式场景,通过基于Hankel矩阵前导特征向量的谱控制器与分布式在线梯度下降更新,为线性时不变系统分布式在线控制建立了含稳定裕度、网络特性的次线性悔界。
2026-08-04 cs.LG cs.SY eess.SY
Distributed Online System Identification for LTI Systems Using Reverse Experience Replay
Northeastern University(东北大学)
线性时不变系统的辨识在控制和强化学习中起着重要的作用。渐近和有限时间离线系统辨识在文献中得到了很好的研究。对于在线系统辨识,最近提出了随机梯度下降与反向经验重放(SGD-RER)的思想,其中数据序列存储在多个缓冲器中,并且随机梯度下降(SGD)更新在每个缓冲器中向后执行以打破数据点之间的时间依赖性。受此启发,我们研究了分布式在线系统辨识的LTI系统在多智能体网络。我们认为代理商是相同的LTI系统,网络的目标是通过利用代理商之间的通信来联合估计系统参数。我们提出了DSGD-RER,一个分布式的SGD-RER算法的变种,并从理论上描述了改进的估计误差相对于网络的大小。我们的数值实验证明,随着网络规模的增长,估计误差的减少。
2022-09-15 cs.LG cs.SY eess.SY
Dynamic and Distributed Online Convex Optimization for Demand Response of Commercial Buildings
University of California, Berkeley(加州大学伯克利分校)
本文将在线分布式加权对偶平均(DWDA)算法[1]的遗憾分析扩展到动态设置,并为分布式在线凸优化(OCO)算法提供了迄今为止已知的关于时间范围的最紧动态遗憾界。我们的界限是线性的连续最优值之间的累积差异,并不显着依赖于时间范围。我们使用动态在线DWDA(D-ODWDA),制定了一个性能保证的分布式在线需求响应方法的供热,通风和空调(HVAC)系统的商业建筑。我们展示了我们的方法在数值模拟的快速时间尺度的需求响应的性能,并获得需求响应的决定,密切再现集中的最优。
2020-04-17 cs.LG math.OC
Distributed Charging Control of Electric Vehicles Using Online Learning
提出了一种基于在线学习和在线凸优化的电动汽车分布式充电控制算法。文献中的许多分布式充电控制算法隐含地假设配电公司和EV客户之间的快速双向通信。这种假设目前是不切实际的,并引起了隐私和安全问题。我们的算法不使用这个假设,但是,代价是收敛到最优解的速度较慢。所提出的算法需要单向通信,这是通过分销公司发布前几天的定价配置文件来实现的。我们提供了算法的收敛性结果,并通过数值例子说明结果。
2015-07-25 math.OC
A Zeroth-order Resilient Algorithm for Distributed Online Optimization against Byzantine Edge Attacks
本文针对拜占庭边攻击下的分布式在线优化问题,提出一种仅利用函数值信息的零阶弹性算法,并给出动态遗憾上界及仿真验证。
2025-11-07 math.OC
Quantized Distributed Online Projection-free Convex Optimization
针对时变多智能体网络的在线分布式凸约束优化问题,提出结合随机量化器的无投影优化算法,建立不同量化参数下的动态悔值上界,揭示收敛性能与量化效应的权衡,通过仿真验证理论结果。
2023-05-08 math.OC
Online Stochastic Optimization of Networked Distributed Energy Resources
本文研究了分布式控制和激励机制,以协调分布式能源(DER)与连续和离散决策变量以及设备动态在配电网。我们建立了一个多期社会福利最大化问题,并基于其凸松弛提出了一个分布式随机对偶梯度算法管理DER。我们进一步扩展到一个在线实时设置与时变的操作条件,异步更新的设备,并利用反馈来考虑非线性功率流,以及减少通信开销。由此产生的算法提供了一个通用的在线随机最优化算法,用于协调网络DER与离散功率设定值和动态,以满足操作和经济的目标和约束。我们的收敛性的算法解析和评估其性能数值。
2019-06-14 math.OC
Online Distributed Optimization on Dynamic Networks
University of Washington(华盛顿大学)
本文提出了一种在存在成本不确定性和切换通信拓扑下的分布式优化方案,通过双对偶子梯度平均算法实现合作最小化成本函数,并分析了网络拓扑对收敛速度的影响。
2014-12-22 cs.DS cs.LG cs.MA
Robust Distributed Online Prediction
Microsoft Research(微软研究院)
在线预测的标准模型是通过单个处理器对输入进行串行处理。然而,在大规模在线预测问题中,输入以高速率到达,越来越常见的必要性是将计算分布在多个处理器上。一个不平凡的挑战是设计分布式算法在线预测,保持良好的遗憾保证。在\cite{DMB}中,我们提出了DMB算法,这是一个通用的框架,可以将任何串行的基于梯度的在线预测算法转换为分布式算法。而且,对于光滑凸损失函数和随机输入,它的后悔保证是渐近最优的。另一方面,它对分布式环境中常见的许多类型的故障都很脆弱。在这篇配套论文中,我们提出了DMB算法的变体,它对许多类型的网络故障有弹性,并能容忍计算节点的不同性能。
2010-12-07 cs.LG math.OC
A Survey on Distributed Online Optimization and Game
Tongji University(同济大学);Shanghai Research Institute for Intelligent Autonomous Systems(上海智能自主系统研究院);Nanyang Technological University(南洋理工大学);Harvard University(哈佛大学)
分布式在线优化和博弈在过去十年中得到了越来越多的研究,主要是由于其在传感器网络,机器人(例如,分布式目标跟踪和编队控制)、智能电网、深度学习等等。在这些问题中,有一个可以合作的代理网络(即,分布式在线优化)或非协作(即,网络游戏,通过信息交流。在动态甚至对抗环境中,每个代理的局部成本函数往往是时变的。每一次,决策必须由每个代理人根据手头的历史信息做出,而不知道成本函数的未来信息。对于这些问题,目前还缺乏一个全面的调查。本文旨在从问题设置、通信、计算、算法和性能的角度对分布式在线优化和博弈进行全面的概述。此外,还讨论了一些潜在的未来发展方向。
2023-01-21 cs.LG math.OC
Local Differential Privacy via Dynamic Quantization in Distributed Online Stochastic Optimization
Nanjing University of Science and Technology(南京理工大学);Huazhong University of Science and Technology(华中科技大学)
提出一种使用动态随机量化器实现本地差分隐私的分布式在线随机优化算法,在几乎必然收敛到最优解的同时为每个智能体提供(0,δ^i)-本地差分隐私,并适用于有向图网络。
2026-05-28 math.OC
On Distributed Online Convex Optimization with Sublinear Dynamic Regret and Fit
在这项工作中,我们考虑一个分布式在线凸优化问题,随时间变化(潜在的敌对)的约束。一组节点共同的目标是最小化全局目标函数,该全局目标函数是局部凸函数的和。目标和约束函数在每次采取行动后局部地显示给节点。当然,这些约束不能立即得到满足。因此,我们重新制定的问题,以满足这些限制在长期内。为此,我们提出了一个分布式的原始-对偶镜像下降的方法,其中原始和对偶更新在本地进行的所有节点。这之后是本地节点通过与直接邻居的通信来共享和混合原始变量。为了量化所提出的算法的性能,我们利用具有挑战性的,但更现实的指标动态遗憾和配合。动态后悔衡量的是与最佳动态策略相比,算法所造成的累积损失。另一方面,拟合度量长期累积的约束违反。在不假设限制性斯莱特的条件下,我们表明,该算法实现了次线性的遗憾和温和的,常用的假设下,适合。
2021-05-05 cs.DC cs.SY eess.SY
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时,基于梯度跟踪(GT)的分散方法已成为分散(随机)梯度下降(DSGD)的一种有效可行的替代方法。对GT方法的初步研究表明,GT方法比DSGD方法具有更差的网络依赖率,这与实验结果相矛盾。这一难题最近得到了解决,GT方法的更严格的费率已经建立,这改进了DSGD。在这项工作中,我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比,这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
Distributed Online Generalized Nash Equilibrium Tracking for Prosumer Energy Trading Games
随着分布式发电的普及,配电网络中传统的被动消费者正在演变为既能生产能源又能消费能源的“产消者”。在能源过剩和短缺的情况下,与主电网或产消者之间的能源交易是不可避免的。为此,本文研究了对等(P2P)能源交易市场,这是制定为一个广义纳什博弈。我们首先证明了广义纳什均衡(GNE)的存在唯一性。在此基础上,提出了一种分布式在线跟踪算法。证明了该算法的收敛性受学习时间的次线性函数约束,表明该在线算法在实际应用中具有可接受的精度。最后,通过6个微网格的数值算例验证了算法的有效性。
2022-10-05 math.OC
Improving Dynamic Regret in Distributed Online Mirror Descent Using Primal and Dual Information
我们考虑分布式在线优化的问题,一组学习者通过动态通信图连接。学习器的目标是以分布式的方式跟踪时变损失函数之和的全局最小值。我们提出了一种新的算法,称为分布式在线镜像下降与多个平均决策和梯度共识(DOMD-MADGC),这是基于镜像下降,但结合了多个共识平均迭代局部梯度以及局部决策。其关键思想是允许局部学习器收集足够量的全局信息,这使它们能够更准确地近似时变全局损失,从而使它们能够随着时间的推移密切跟踪动态全局最小值。我们证明了DOMD-MADGC的动态后悔是由路径长度上界的,路径长度定义为连续最小值之间的累积距离。由此产生的界限改善现有的分布式在线算法的界限,并消除了显式依赖$T$。
2021-12-07 cs.DC math.OC
Distributed Optimal Power Flow Algorithm for Balanced Radial Distribution Networks
最优潮流(OPF)问题是电力系统运行和规划的基础。配电网中大规模的可再生能源渗透需要实时反馈控制,因此需要快速和分布式的OPF解决方案。这是困难的,因为OPF是非凸的,基尔霍夫定律是全局的。在本文中,我们提出了一个平衡的辐射状配电网的解决方案。它利用最近的结果,建议通过二阶锥规划(SOCP)松弛求解径向网络上的OPF的全局最优解。我们的分布式算法是基于交替方向法的乘数(ADMM),但不像标准的ADMM算法,往往需要迭代求解优化子问题,在每个ADMM迭代,我们的分解,使我们能够获得封闭形式的解决方案,这些子问题,大大加快了每个ADMM迭代。我们提出了一个现实世界中的2,065总线配电网络的模拟来说明所提出的算法的可扩展性和最优性。
2015-05-20 math.OC
Centralized and distributed online learning for sparse time-varying optimization
在过去的几年里,在线算法的发展,以跟踪时变系统引起了很多关注,特别是在在线凸优化的框架。同时,稀疏时变优化已经成为一个强大的工具,以处理广泛的应用,从动态压缩传感到简约系统辨识。在大多数关于稀疏时变问题的文献中,假设系统演化的一些先验信息是可用的。相比之下,在本文中,我们提出了一种在线学习方法,它不使用给定的模型,适用于对抗框架。具体来说,我们开发集中式和分布式算法,我们从理论上分析他们的动态遗憾,在网上学习的角度来看。此外,我们提出了数值实验,说明其实际有效性。
2020-01-31 cs.LG math.OC
Distributed Online Convex Optimization with Improved Dynamic Regret
在本文中,我们考虑分布式在线凸优化的问题,其中一组代理合作,以在线方式跟踪全局极小值的时变目标函数的总和。具体来说,我们提出了一种新的分布式在线梯度下降算法,依赖于静态优化中使用的梯度跟踪技术的在线适应。我们表明,该算法的动态遗憾界没有明确的时间范围的依赖,因此,可以比现有的界限,特别是对于长期的问题。我们的边界依赖于一个新的正则性度量,该度量量化了每个时刻最佳点处梯度的总变化。此外,当优化近似线性动力学,我们表明,动态遗憾界可以进一步收紧取代的规律性措施,捕获路径长度的优化与累积的预测误差,这可以在这种特殊情况下低得多。我们提出了数值实验来证实我们的理论结果。
2020-10-13 math.OC
A Continuous-Time Nesterov Accelerated Gradient Method for Centralized and Distributed Online Convex Optimization
利用在线连续时间Nesterov加速梯度法(OCT-NAG)研究了在线凸优化问题。我们表明,在线版本的布雷格曼拉格朗日产生的连续时间动态实现了恒定的静态遗憾$\frac{c}σ$独立的$T$,提供了一些有界性假设的目标函数和最优解。据作者所知,这是文献中最低的静态遗憾(低于$O(\text{log}(T))$)。我们进一步证明了在相同的假设条件下,该算法的动态遗憾是$O(T)$,这是与现有的方法相媲美。仿真结果验证了该方法的有效性。此外,仿真结果表明,该算法表现出良好的动态遗憾的一些特定的缩放条件。此外,我们考虑所提出的在线优化方法在分布式在线最优化问题中的应用,并表明所提出的算法实现了$O(\sqrt{T})$静态遗憾,这是与现有的分布式在线最优化方法。与这些方法不同的是,该方法既不需要梯度有界性假设,也不需要紧约束集假设,从而允许与文献中不同的目标函数和最优化问题。一个可比的动态后悔。仿真结果表明了分布式算法的有效性和效率。
2020-09-26 math.OC
Distributed online constrained convex optimization with event-triggered communication
本文针对时变不等式约束下的分布式在线凸优化问题,提出一种基于事件触发通信的分布式原始-对偶算法,并建立了动态网络遗憾和累积约束违反界。
2024-05-03 cs.MA math.OC
Regret Analysis of Distributed Online Control for LTI Systems with Adversarial Disturbances
Northeastern University(东北大学)
本文针对对抗扰动下动力学已知/未知的LTI系统网络分布式在线控制问题,分别提出分布式扰动反馈控制器和分布式探索后执行方法,推导得到不同场景下的悔度上界。
2023-10-04 cs.LG cs.SY eess.SY
Optimal Distributed Online Prediction using Mini-Batches
Microsoft Research(微软研究院)
在线预测方法通常呈现为在单个处理器上运行的串行算法。然而,在网络规模的预测问题的时代,它是越来越常见的情况下,遇到一个单一的处理器无法跟上输入到达的高速率。在这项工作中,我们提出了\emph{distributed mini-batch}算法,一种将许多串行基于梯度的在线预测算法转换为分布式算法的方法。我们证明了这种方法是渐近最优光滑凸损失函数和随机输入的遗憾界。此外,我们的分析明确考虑到在分布式环境中的节点之间的通信延迟。我们展示了如何使用我们的方法来解决密切相关的分布式随机优化问题,实现了多个处理器的渐近线性加速。最后,我们展示了我们的方法的优点在网络规模的在线预测问题。
2012-01-31 cs.DC cs.LG math.OC
On Distributed Online Classification in the Midst of Concept Drifts
University of California(加州大学)
在这项工作中,我们分析了分布式在线学习算法在平稳和非平稳环境下的泛化能力。我们推导出界限的过度风险达到每个节点在一个连接的网络的学习者和研究的性能优势,扩散策略有超过个人的非合作处理。我们进行了大量的模拟来说明结果。
2013-01-01 cs.DC cs.LG cs.SI
Distributed Online Optimization in Time-Varying Unbalanced Networks without Explicit Subgradients
研究了无显式次梯度的时变不平衡有向图上的分布式在线约束最优化问题。与现有算法形成鲜明对比的是,我们设计了一种新的基于共识的分布式在线算法,该算法具有局部随机零阶预言机,然后通过构造行随机阵来重新缩放预言机,旨在解决时变有向图的不平衡性。在温和的条件下,平均动态后悔超过一个时间范围内渐近收敛于一个次线性速率提供的累积变化增长的次线性与特定的顺序。此外,该算法的对应子梯度时,也提供了其动态遗憾界,这反映了我们的算法的收敛性基本上是不受零阶预言。通过对传感器网络中的分布式目标跟踪问题和动态稀疏信号恢复问题的仿真,验证了该算法的有效性。
2022-02-23 math.OC
Distributed Online Optimization for Multi-Agent Networks with Coupled Inequality Constraints
本文研究了多智能体网络中受局部集合约束和耦合不等式约束的分布式在线最优化问题,该问题在无线传感器网络、电力系统和插电式电动汽车等领域有着广泛的应用。在该问题中,每一时间步的费用函数都是局部代价函数之和,每个局部代价函数都是逐渐向其对应的agent揭示的,同时每个agent只能访问耦合不等式约束中的局部函数.针对这一问题,本文提出了一种改进的原始对偶法,称为分布式在线原始对偶推和算法(DOPP),该算法不依赖于任何参数有界性假设,适用于不平衡网络。结果表明,所提出的算法是次线性的动态遗憾和违反耦合不等式约束。最后,通过仿真实例验证了理论分析的正确性.
2020-07-11 math.OC
ISEE.U: Distributed online active target localization with unpredictable targets
针对不可预测目标的定位问题,提出分布式在线主动学习算法ISEE.U,通过局部费希尔信息矩阵估计优化控制以提升定位精度,无需调参,在非预设目标轨迹场景下性能优于现有最优算法且计算速度快百倍。
2023-08-21 cs.LG cs.RO cs.SY
Online Distributed ADMM on Networks
研究了在线分布式乘子交替方向法。目标是在线性约束下,在决策者网络上分布式优化全局目标函数。全局目标函数由与每个代理相关联的凸费用函数组成。另一方面,当地的费用函数,假设已被分解成两个不同的凸函数,其中之一是揭示了决策者随着时间的推移和一个已知的先验。此外,代理必须通过线性约束在与私有局部变量相关的全局变量上达成共识。在这项工作中,我们将在线ADMM扩展到基于双平均和分布式梯度下降的分布式设置。然后,我们提出了一个性能指标,这样的在线分布式算法和探索的算法所产生的决策序列的性能相比,最好的固定的决定在事后。这种表现指标被称为社交遗憾。一个次线性上界的社会遗憾的算法,然后得到强调的作用,底层网络拓扑结构和某些条件的措施与线性约束。在线分布式ADMM算法,然后施加到一个编队捕获问题,证明了分布式机器人的应用程序,建议的设置。
2015-10-02 cs.DC cs.DS cs.MA
Distributed Mirror Descent for Online Composite Optimization
在本文中,我们考虑了一个在线分布式复合最优化问题的时变多智能体网络,由多个相互作用的节点,其中每个节点的目标函数由两部分组成:一个损失函数,随着时间的推移而变化和正则化函数。这个问题自然会出现在从无线传感器网络到信号处理的许多实际应用中。提出了一类基于近似镜像下降的在线分布式优化算法,该算法利用Bregman散度作为距离度量函数,并将欧氏距离作为特例.在设计算法时,我们考虑了两种标准的信息反馈模型,即全信息反馈和强盗反馈。对于全信息反馈模型,第一个算法得到了一个平均的正则化遗憾的顺序为$\mathcal{O}(1/\sqrt{T})$与总轮数$T$。第二种算法只需要两个预测点处的损失函数的值的信息而不需要梯度信息,实现了与第一种算法相同的平均正则化遗憾。一个分布式在线正则化线性回归问题的仿真结果表明了所提出算法的性能。
2020-04-02 math.OC
A Distributed Online Convex Optimization Algorithm with Improved Dynamic Regret
Duke University(杜克大学)
在本文中,我们考虑的问题,分布式在线凸优化,在网络的本地代理的目的是共同优化一个凸函数在一段时间内的多个时间步长。特工们对未来一无所知。现有的算法已经建立了明确的依赖于时间步长的数量的动态遗憾界。在这项工作中,我们表明,我们可以消除这种依赖性,假设当地的目标函数是强凸的。更准确地说,我们提出了一个梯度跟踪算法,代理联合通信和下降的基础上校正梯度步骤。我们通过数值实验验证了我们的理论结果。
2019-11-12 cs.LG math.OC
Distributed Online Randomized Gradient-Free optimization with Compressed Communication
本文提出OCGT-BF算法,通过压缩通信与单点反馈估计解决分布式在线优化中的通信效率和有限反馈问题,并给出动态遗憾界及实验验证。
2025-05-04 math.OC
Randomized Gradient-Free Distributed Online Optimization via a Dynamic Regret Analysis
本文考虑了一个在线分布式最优化问题,其中一组代理的局部目标函数随时间变化。此外,目标函数的值被透露给相应的代理后,决定是执行每个时间步。因此,每个代理只能更新决策变量的基础上透露的价值和信息收集的邻居,没有知识的明确表达的目标函数。为了解决这个问题,提出了一种在线无梯度的分布式投影梯度下降(DPGD)算法,其中每个智能体基于两个点值局部逼近梯度。在通信图和目标函数的一些标准假设下,我们给出了动态后悔的界作为最小路径长度、步长和平滑参数的函数。在适当的步长和平滑参数的选择下,我们证明了动态后悔是次线性的持续时间$T$,如果最小路径长度也增长次线性。最后通过数值模拟说明了该算法的有效性。
2021-08-13 math.OC
Distributed Online Convex Optimization with an Aggregative Variable
研究了多智能体网络中存在聚集变量且没有全局/中心协调器的分布式在线凸优化问题,其中每个智能体只能获得时变全局损失函数的部分信息,因此需要相邻智能体之间进行局部信息交换.受现实中许多应用的启发,所考虑的局部损失函数不仅依赖于它们自己的决策变量,而且依赖于一个聚集变量,例如所有决策变量的平均值。为了解决这个问题,在线分布式梯度跟踪算法(O-DGT)提出了准确的梯度信息,它表明,动态遗憾的上界由三个项:一个次线性项,路径变化项,和梯度变化项。同时,O-DGT算法也分析了随机/噪声梯度,表明预期的动态遗憾有相同的上界的精确梯度的情况下。据我们所知,本文是第一个研究在线凸优化存在的聚集变量,这与传统的情况下,没有聚集变量相比,具有新的特点。最后,数值实验证实了所得到的理论结果。
2020-07-14 math.OC
Distributed Online Randomized Gradient-Free Optimization with Compressed Communication
School of Mathematics, Southeast University(东南大学数学学院)
本文提出了一种分布式在线优化框架,通过压缩通信和梯度-free 技术,在有限反馈下实现高效的优化算法。
2025-12-05 math.OC
Efficient Distributed Online Prediction and Stochastic Optimization with Approximate Distributed Averaging
McGill University(麦吉尔大学)
本文研究了分布式在线预测与随机优化方法,提出基于 gossip 的优化方法,证明在近似分布式平均协议下可达到最优 regret 界,并展示其近线性扩展特性。
2014-03-05 cs.DC cs.IT cs.SY
Distributed Online Optimization for Multi-Agent Optimal Transport
针对大规模多智能体系统的最优传输问题,提出结合分布式在线原始-对偶 Kantorovich 势估计与近端下降的递归算法,并给出理论收敛框架和数值验证。
2024-09-09 math.OC
Distributed and Inexact Proximal Gradient Method for Online Convex Optimization
本文提出在线分布式近端梯度方法(DPGM),用于时变复合凸优化问题,并证明在通信噪声或量化等非精确条件下,跟踪误差受收敛线性系统上界约束,保证收敛到最优解邻域。
2021-04-01 math.OC
Improved Dynamic Regret of Distributed Online Multiple Frank-Wolfe Convex Optimization
针对时变多智能体网络中的高维约束在线凸优化,提出分布式在线多重 Frank-Wolfe 算法,免投影并改进动态遗憾界,揭示计算与通信权衡。
2023-09-24 math.OC
Grid-aware aggregation and realtime disaggregation of distributed energy resources in radial networks
响应于批发能源市场或区域电网信号来调度大型分布式能源(DER)车队需要解决当DER位于配电网络内时具有挑战性的分解问题。本文提出了一种计算上易于处理的凸内近似的最优潮流(OPF)问题,其特征在于馈线聚合DER托管容量,并实现了实时,网格感知调度DER的辐射状配电网。通过考虑交流潮流方程中非线性项的凸包络,推导出了内近似。由此产生的凸公式,然后用于推导可证明的节点注入限制,这样,任何组合的DER调度在各自的节点限制内保证是AC容许的。这些节点注入限制,然后用于构建一个实时的,开环控制策略,调度DER在网络中的每个位置,共同提供网格服务。IEEE-37配电网络用于验证技术结果并突出各种用例。
2021-10-19 math.OC
Online Distributed Learning with Quantized Finite-Time Coordination
Digital Futures, KTH Royal Institute of Technology(KTH皇家理工学院数字未来中心)
本文针对无中央服务器的在线分布式学习场景,提出一种基于量化有限时间协调协议的分布式算法,支持本地随机梯度训练,并从与在线解的平均距离角度分析性能,通过逻辑回归实验验证其有效性。
2023-08-31 cs.DC cs.LG math.OC
Distributed Online Economic Dispatch with Time-Varying Coupled Inequality Constraints
East China Normal University(华东师范大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);Institute of Systems Science, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院系统科学研究所);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院)
本文提出了一种基于对偶方法和约束跟踪的算法,用于解决具有时间变化耦合不等式约束的分布式在线经济调度问题,证明了算法在动态遗憾和约束违反方面的亚线性收敛性。
2025-12-24 math.OC stat.ME
Distributed Online Optimization with Coupled Inequality Constraints over Unbalanced Directed Networks
本文提出DUST算法,解决非平衡有向网络上带耦合约束的分布式在线凸优化,实现次线性动态遗憾和约束违规,并在电动汽车充电仿真中验证优越性。
2023-09-04 math.OC
GTAdam: Gradient Tracking with Adaptive Momentum for Distributed Online Optimization
University of Bologna(博洛尼亚大学)
本文提出GTAdam分布式在线优化算法,结合梯度跟踪与一阶和二阶动量估计,在强凸条件下证明动态遗憾上界并保证静态线性收敛,多智能体实验验证其优于现有方法。
2023-09-12 cs.DC cs.LG math.OC