Distributed Randomized Block Stochastic Gradient Tracking Method
我们考虑网络上的分布式优化，其中每个代理与一个光滑和强凸的局部目标函数。我们假设代理商只能获得其目标函数的梯度的无偏估计。受大数据应用的启发，我们的目标在于当解空间的维数可能很大时解决这个问题，因此，局部梯度映射的计算可能变得昂贵。我们开发了一个随机块坐标最近开发的分布式随机梯度跟踪（DSGT）方法的变体。我们分别在一个最优性度量和一个一致违反度量下得到了阶$1/k$和$1/k^2$的非渐近收敛速度。重要的是，虽然块坐标方案已经研究了分布式最优化问题之前，所提出的算法似乎是第一个随机块坐标梯度跟踪方法，配备了上述收敛速度声明。我们验证了所提出的方法的性能MNIST和不同的网络设置下的合成数据集。
2021-10-13 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时，基于梯度跟踪（GT）的分散方法已成为分散（随机）梯度下降（DSGD）的一种有效可行的替代方法。对GT方法的初步研究表明，GT方法比DSGD方法具有更差的网络依赖率，这与实验结果相矛盾。这一难题最近得到了解决，GT方法的更严格的费率已经建立，这改进了DSGD。在这项工作中，我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比，这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
Robust Output Regulation of the Linearized Boussinesq Equations with Boundary Control and Observation
本文研究了二维房间模型的温度和速度输出跟踪问题，其中流体动力学由线性化的平移Boussinesq方程控制。此外，房间模型包括用于致动和感测动态的有限维模型，因此完整的模型动态由ODE-PDE-ODE系统管理。作为主要结果，我们设计了一个低维内模控制器的鲁棒输出货架的房间模型。通过速度和温度跟踪的数值例子证明了控制器的有效性。
2020-10-02 math.OC
Asynchronous and Distributed Tracking of Time-Varying Fixed Points
本文提出了一个跟踪时变压缩映射不动点的算法框架。跟踪误差的分析结果建立的情况下，其中：（i）基本的收缩自映射在算法的每一步的变化;（ii）只有一个不完美的信息的地图是可用的;和，（iii）该算法是以分布式的方式实现的，与通信延迟和丢包导致异步算法更新。分析结果适用于几类问题，包括时变收缩映射出现的在线和异步实现的基于梯度的方法随时间变化的凸规划。在该领域中，所提出的框架还可以捕获基于反馈的在线算法的操作原理，其中在线梯度步骤被适当地修改以适应来自底层物理或逻辑网络的可操作反馈。提供的应用程序和说明性的数值结果的例子。
2018-09-12 math.OC
Distributed Adaptive Gradient Algorithm with Gradient Tracking for Stochastic Non-Convex Optimization
本文针对分布式随机非凸优化问题，提出一种结合梯度跟踪的自适应步长算法，并给出最优性间隙上界，证明其可达到一阶平稳解。
2024-03-29 math.OC
Distributed Convex Optimization of Time-Varying Cost Functions with Swarm Tracking Behavior for Continuous-time Dynamics
研究了连续时间多智能体系统中具有群体跟踪行为的分布式凸优化问题。智能体的任务是通过局部交互来驱动其中心跟踪最优轨迹，该最优轨迹使局部时变费用函数之和最小化，同时保持连通性并避免智能体之间的碰撞。每个局部费用函数仅为单个代理所知，并且团队的最优解是时变的。这里考虑两种情况，单积分器动态和双积分器动态。对于每种情况下，提出了一种分布式的群体跟踪行为的凸优化算法，每个代理只依赖于自己的位置和相对位置（和速度在双积分的情况下）之间的本身和它的邻居。结果表明，智能体的中心跟踪最优轨迹，智能体之间的连通性将保持和避免智能体间的碰撞。最后，数值例子进行说明。
2015-07-16 math.OC
Distributed Stochastic Optimization with Gradient Tracking over Time-Varying Directed Networks
本文提出SAB-TV分布式随机优化方法，在时变有向网络上利用梯度跟踪和行列随机权重实现智能体协同优化，并证明其线性收敛到最优解邻域。
2023-10-30 math.OC
Distributed Linear Quadratic Tracking Control for Leader-Follower Multi-Agent Systems: A Suboptimality Approach
在本文中，我们将Jiao等人（2019）关于无领导多智能体系统的分布式线性二次控制的结果扩展到领导-跟随多智能体系统的分布式线性二次跟踪控制的情况。给定一个自治的领导者和一些同质的追随者，我们引入了一个相关的全球二次成本功能。我们假设领导者与至少一个跟随者共享其状态信息，并且跟随者之间的通信由连接的简单无向图表示。我们的目标是设计分布式控制律，使受控网络达到跟踪共识，而且，相关的成本小于给定的公差为所有初态有界的范数由一个给定的半径。我们建立了一个集中式的设计方法来计算这样的次优控制律，涉及到一个单一的Riccati不等式的尺寸等于当地代理动力学的尺寸的解决方案，以及最小和最大的特征值的一个给定的正定矩阵涉及到底层图形。仿真实例说明了所提出的设计方法。
2019-11-23 math.OC
Distributed Online Generalized Nash Equilibrium Tracking for Prosumer Energy Trading Games
随着分布式发电的普及，配电网络中传统的被动消费者正在演变为既能生产能源又能消费能源的“产消者”。在能源过剩和短缺的情况下，与主电网或产消者之间的能源交易是不可避免的。为此，本文研究了对等（P2P）能源交易市场，这是制定为一个广义纳什博弈。我们首先证明了广义纳什均衡（GNE）的存在唯一性。在此基础上，提出了一种分布式在线跟踪算法。证明了该算法的收敛性受学习时间的次线性函数约束，表明该在线算法在实际应用中具有可接受的精度。最后，通过6个微网格的数值算例验证了算法的有效性。
2022-10-05 math.OC
Decentralized Min-Max Optimization with Gradient Tracking
针对去中心化极小极大优化，本文提出DGTA与DSGTA两种梯度跟踪算法，并证明其在NC-SC情形下达到与集中式方法相当的复杂度，实验性能更优。
2025-05-15 math.OC
Distributed Zeroth-Order Optimization with Rademacher Perturbations and Momentum Gradient Tracking
School of Artificial Intelligence, Anhui University（安徽大学人工智能学院）；Engineering Research Center of Autonomous Unmanned System Technology, Ministry of Education（教育部无人系统技术工程研究中心）
本文提出ZOMGT方法，结合动量方差缩减与动态梯度跟踪，在分布式异构网络中有效减少结构偏差并提升效率，理论分析证明其收敛性及O(1/T)收敛速率。
2026-04-23 math.OC
Distributed Average Tracking of Heterogeneous Physical Second-order Agents With No Input Signals Constraint
本文研究了具有非均匀非线性动力学的物理二阶智能体的分布式平均跟踪问题，其中对输入信号没有约束。代理动力学中的非线性项是异质的，满足类似Lipschitz的条件，该条件将在后面定义，并且比利普希茨条件更一般。在所提出的算法中，控制输入和过滤器的设计为每个代理。每个代理的过滤器有两个输出，其思想是第一个输出估计输入信号的平均值，第二个输出估计输入速度的平均值。并行地，每个智能体的位置和速度被驱动以分别跟踪第一输出和第二输出。由于智能体动力学中存在非均匀非线性项，需要设计智能体的滤波器。由于智能体动力学中的非线性项可以是无界的，并且输入信号是任意的，因此在智能体的滤波器和控制输入中采用了新的状态依赖时变增益来克服这些无界效应。最后对结果进行了改进，实现了一组双积分智能体的分布式平均跟踪，其中对输入信号没有约束，不再需要滤波器。数值模拟也来说明理论结果。
2017-03-28 math.OC
Distributed Average Tracking for Double-integrator Multi-agent Systems with Reduced Requirement on Velocity Measurements
本文研究了在无向图下一组物理双积分器主体的分布式平均跟踪问题，降低了对速度测量的要求。其思想是，多个代理跟踪多个时变输入信号的平均值，其中每一个都是只有一个代理，与邻居的本地交互下。我们考虑两种情况。首先，提出了一种分布式不连续算法和滤波器，其中每个代理需要其自身与其邻居之间的相对位置以及通过通信获得的邻居的滤波器输出，但不需要绝对或相对速度测量。智能体的位置和速度必须被正确地初始化，但是该算法可以处理具有有界加速度偏差的广泛类别的输入信号。其次，提出了一种分布式间断算法和滤波器，消除了通信和精确初始化的要求。在这里，每个代理需要测量其自身与其邻居之间的相对位置以及其自身的速度，但是去除了其自身与其邻居之间的相对速度测量的要求。该算法可以处理输入信号及其速度和加速度都有界的情况。数值模拟也来说明理论结果。
2015-07-22 math.OC
A Weighted Gradient Tracking Privacy-Preserving Method for Distributed Optimization
Engineering Research Center of Metallurgical Automation and Measurement Technology（冶金自动化与测量技术工程研究中心）；Wuhan University of Science and Technology（武汉科技大学）；College of Control Science and Engineering（控制科学与工程学院）；Zhejiang University（浙江大学）
本文针对分布式优化中的隐私泄露问题，揭示梯度跟踪的固有风险，并提出一种基于衰减权重的加权梯度跟踪隐私保护算法，在时变异构步长下证明其精确收敛，并通过数值仿真验证有效性。
2025-09-14 cs.LG math.OC
Distributed Gradient Tracking Methods with Guarantees for Computing a Solution to Stochastic MPECs
针对分布式场景下智能体仅能获取局部目标和下层均衡不精确最优响应的随机MPEC求解问题，提出随机平滑分布式零阶梯度跟踪方法rs-DZGT，证明收敛性并给出复杂度保证，初步实验显示其在不同网络设置下可与集中式方法性能相比。
2024-03-12 math.OC
Distributed heavy-ball: A generalization and acceleration of first-order methods with gradient tracking
我们研究分布式优化，以最小化的全球目标，这是一个光滑和强凸的本地费用函数的总和。最近，在无向图和有向图上已经提出了几种算法，这些算法使用梯度跟踪方法来实现全局最小值的线性收敛。然而，这些不同方法之间的联系尚不清楚。在本文中，我们首先表明，许多现有的一阶算法实际上与一个简单的状态变换，其中的核心在于$\mathcal{AB}$算法。然后我们描述\textit{distributed heavy-ball}，表示为$\mathcal{AB}m$，即，带有动量项的$\mathcal{AB}$，它将梯度跟踪与动量项相结合，并使用不同的局部步长。通过同时实现行和列随机权重，$\mathcal{AB}m$消除了相关工作中由于双随机权重或特征向量估计而产生的保守性。因此，$\mathcal{AB}m$自然会导致优化和平均共识无向和有向图，铸造一个统一的框架，在几个众所周知的共识算法在任意强连通图。我们发现，$\mathcal{AB}m$有一个全球$R$线性率时，最大的步长是积极的，并充分小。在重球文献的标准做法，我们数值表明，$\mathcal{AB}m$实现加速收敛，特别是当目标函数是病态的。
2018-08-10 math.OC
Adaptive Stepsizes With Certified Convergence in Distributed Gradient Tracking With Quadratic Costs
Southeast University（东南大学）；University of Padova（帕多瓦大学）；University of Stuttgart（斯图加特大学）
针对带异质性曲率的标量二次问题的分布式梯度跟踪，提出一种可证收敛的自适应步长规则，其性能优于现有步长选择规则。
2026-08-05 math.OC
Compressed Gradient Tracking Algorithms for Distributed Nonconvex Optimization
针对分布式非凸优化问题，本文引入三类压缩器并结合梯度跟踪算法提出三种压缩优化算法，证明其在光滑条件下亚线性收敛、P--Ł条件下线性收敛且部分参数无需P--Ł常数先验，数值结果显示算法通信负担低且性能优于现有方法。
2025-02-11 math.OC
Distributed Prediction-Correction Algorithms for Time-Varying Nash Equilibrium Tracking
本文主要研究了动态环境下非合作对策中的时变Nash均衡轨迹跟踪问题。为了解决这个问题，我们提出了一个分布式预测校正算法，称为DPCA，其中每个球员预测未来的战略，根据以前的观察，然后利用预测，有效地跟踪NE轨迹，通过使用一个或多个分布式梯度下降步骤在网络上。我们严格证明，所提出的算法产生的跟踪序列是能够跟踪随时间变化的NE有界误差。我们还表明，跟踪误差可以任意接近零时，采样周期足够小。此外，我们实现了线性收敛的时不变纳什均衡寻求问题作为我们的结果的特殊情况。最后，一个多机器人监控场景的数值模拟验证了所提出的算法的跟踪性能和必要的预测。
2022-12-14 math.DS math.OC
Gradient Tracking: A Unified Approach to Smooth Distributed Optimization
本文研究了有向图上的经典分布式最优化问题，其中目标函数是光滑局部函数之和。受我们早期工作中提出的隐式跟踪机制的启发，我们从纯原始的角度开发了一个统一的算法框架，即，UGT本质上是一种广义梯度跟踪方法，可以统一现有的大多数定步长分布式优化算法。证明了当全局目标函数是强凸的时，两种变形的UGT都能线性收敛。最后，通过数值实验对UGT的性能进行了评估。
2022-02-20 cs.SY eess.SY math.OC
On the Resolution of Stochastic MPECs over Networks: Distributed Implicit Zeroth-Order Gradient Tracking Methods
Rutgers University（罗格斯大学）；University of Michigan（密歇根大学）
本文提出了一种分布式隐式零阶梯度跟踪方法，用于解决网络上的随机MPECs问题，针对单阶段和双阶段问题，提供了具有复杂性保证的迭代方法，改进了集中式随机MPECs的复杂度依赖。
2026-11-10 math.OC
S-DIGing: A Stochastic Gradient Tracking Algorithm for Distributed Optimization
针对大规模分布式凸优化问题，提出融合梯度跟踪与随机平均梯度技术的S-DIGing算法，证明其线性收敛性并通过逻辑回归实验验证有效性。
2020-08-11 math.OC
A Variance-Reduced Aggregation Based Gradient Tracking method for Distributed Optimization over Directed Networks
针对有向网络中噪声信息共享导致的通信不完美问题，提出Push-Pull方法的VRA变体，通过新聚合机制放宽条件，在凸和强凸条件下分别证明几乎必然收敛和O(k^{-(1-ε)})均方收敛速率。
2023-07-27 math.OC
Distributed Riemannian Stochastic Gradient Tracking Algorithm on the Stiefel Manifold
针对多智能体系统在Stiefel流形上的分布式黎曼随机优化问题，提出结合变样本量梯度近似与梯度跟踪的算法，证明了固定步长下的收敛性并分析不同样本量增长模式的收敛速率，通过数值实验验证理论结果。
2025-01-16 math.OC
Exact Worst-case Convergence Rates of Distributed Gradient Tracking Methods
Zhejiang University（浙江大学）
研究给出DIGing和AugDGM两种分布式梯度跟踪算法的精确最坏情况收敛速率，通过特征分解简化分析，得出显式公式并发现图连通性拐点，数值实验验证理论，揭示不同连通性下算法与集中式梯度下降最优收敛速率的关系。
2026-07-28 math.OC
A New Error Analysis for a Point Tracking Elliptic Distributed Optimal Control Problem with Pointwise Control Constraints
Louisiana State University（路易斯安那州立大学）
本文针对带点跟踪和点态控制约束的线性二次椭圆型分布最优控制问题，在统一框架下对标准有限元离散与变分离散开展误差分析，其自包含性依托有限元分析标准技术与椭圆型偏微分方程经典结果。
2026-08-06 cs.NA math.NA math.OC
Gradient-tracking Based Differentially Private Distributed Optimization with Enhanced Optimization Accuracy
针对差分隐私会降低分布式优化精度的问题，提出时变步长与时变噪声方差的鲁棒梯度跟踪算法，并建立统一收敛分析框架，给出更宽松步长界且揭示智能体交互对精度的影响。
2023-04-26 cs.SY eess.SY math.OC
ADMM-Tracking Gradient for Distributed Optimization over Asynchronous and Unreliable Networks
该研究提出一种嵌入分布式ADMM、结合局部比例动作的分布式一致性优化算法及其鲁棒扩展，证明其在理想、异步丢包场景下的线性收敛性与通用误差鲁棒性，仿真验证了性能优势。
2025-02-04 math.OC
Stochastic Model Predictive Control for tracking of distributed linear systems with additive uncertainty
本文针对具有附加随机不确定性的分布式线性定常系统的参考跟踪问题，提出了一种机会约束随机模型预测控制方案。机会约束的均值方差信息的基础上重新解析，我们设计合适的概率可达集约束收紧。此外，机会约束被证明是满足闭环操作。不变集跟踪的设计补充了控制器，并确保收敛到任意容许的参考点，而有条件的初始化方案提供了递归可行性的基本属性。本文最后用一个数值例子，突出了收敛到不断变化的输出参考和经验约束的满足。
2023-03-06 cs.SY eess.SY math.OC
Communication-Efficient Differentially Private Gradient Tracking for Distributed Optimization via Local Updates
University of Virginia（弗吉尼亚大学）
本文提出一种通信高效的差分隐私分布式优化方法，通过局部更新和梯度跟踪扰动实现隐私保护，并证明收敛性与无限时域隐私保证。
2026-10-06 cs.SY eess.SY math.OC
Numerical solution of elliptic distributed optimal control problems with boundary value tracking
JKU, Linz, Austria（林茨约翰内斯·开普勒大学）；TU Graz, Austria（格拉茨工业大学）；University of Vienna, Austria（维也纳大学）
本文提出了一种基于张量积有限元的椭圆分布最优控制问题求解方法，通过数值实验验证了理论结果的准确性。
2026-03-11 cs.NA math.NA math.OC
Extremum Seeking Tracking for Derivative-free Distributed Optimization
本文提出一种结合梯度跟踪与极值搜索的分布式优化算法，在目标函数未知且仅能获取局部测量的场景下，通过李雅普诺夫和平均分析及共识理论实现任意精确的解估计，并用数值模拟验证。
2024-11-07 cs.SY eess.SY math.OC
Distributed stochastic gradient tracking algorithm with variance reduction for non-convex optimization
针对一般光滑非凸有限和优化问题，提出了一种方差缩减的分布式随机算法，该算法在信号处理和机器学习领域有着广泛的应用.在分布式环境中，大量的样本个数被分配给网络中的多个代理。每个智能体计算局部随机梯度，并与其邻居进行通信，以寻求全局最优值。在本文中，我们开发了一种改进的方差缩减技术来处理随机梯度引入的方差。结合梯度跟踪和方差缩减技术，提出了一种求解多智能体网络上大规模非凸有限和优化问题的分布式随机算法GT-VR。证明了GT-VR算法以$O(\frac{1}{k})$收敛速度收敛到一阶稳定点。此外，我们提供了所提出的算法的复杂性分析。与现有的一些一阶方法相比，该算法在一定的条件下具有较低的$\mathcal{O}(PMε^{-1})$梯度复杂度。通过仿真实验比较了现有算法和GT-VR算法，验证了该算法的有效性。
2021-07-22 cs.DC math.OC
Triggered Gradient Tracking for Asynchronous Distributed Optimization
本文提出Asynchronous Triggered Gradient Tracking分布式优化算法，通过Lyapunov方法证明其指数稳定性，设计基于局部条件的异步触发协议避免Zeno行为，并保持线性收敛，仿真验证了其在通信性能上的提升。
2023-09-12 cs.DC math.OC
Distributed Conjugate Gradient Method via Conjugate Direction Tracking
本文提出一种基于共轭方向追踪的分布式共轭梯度法，通过动态共识估计平均共轭方向，允许非协调步长且无需递减步长即可收敛，并在分布式状态估计中验证了其优于一阶方法的性能。
2024-02-26 cs.DC cs.MA math.OC
GTAdam: Gradient Tracking with Adaptive Momentum for Distributed Online Optimization
University of Bologna（博洛尼亚大学）
本文提出GTAdam分布式在线优化算法，结合梯度跟踪与一阶和二阶动量估计，在强凸条件下证明动态遗憾上界并保证静态线性收敛，多智能体实验验证其优于现有方法。
2023-09-12 cs.DC cs.LG math.OC
A System Theoretical Perspective to Gradient-Tracking Algorithms for Distributed Quadratic Optimization
在本文中，我们考虑了最近发展的分布式优化算法的基础上梯度跟踪。我们提出了一个系统理论框架，分析其结构特性的初步，二次优化设置。具体来说，我们专注于一个场景中，代理在一个静态网络要合作最小化二次代价函数的总和。我们发现，梯度跟踪分布式算法的调查程序可以被看作是一个稀疏的闭环线性系统，其中的动态状态反馈控制器包括共识矩阵和优化（步长）参数。闭环系统原来是不完全可达的，渐近稳定性可以限制在一个适当的不变集。收敛到全局最小值，反过来，只能通过一个适当的初始化。分布式算法的拟议系统的解释也提供了其他的结构特性和可能的设计选择，在论文的最后一部分讨论作为未来发展的起点的额外见解。
2019-11-15 cs.MA cs.SY eess.SY
Distributed Stochastic Momentum Tracking with Local Updates: Achieving Optimal Communication Complexities
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出局部动量跟踪（LMT）方法，将局部更新、动量跟踪与无环切比雪夫加速相结合，在分布式优化中同时实现最优通信复杂度和最优迭代复杂度。
2026-10-19 cs.DC math.OC
A Distributed Stochastic Gradient Tracking Method
本文研究了网络上的分布式多智能体优化问题，其中每个智能体具有一个光滑的强凸局部费用函数。全局目标是找到一个共同的解决方案，使所有费用函数的平均值最小化。假设代理人只能获得无偏估计的梯度，他们的本地费用函数，我们考虑一个分布式的随机梯度跟踪方法。我们表明，在预期中，由每个代理生成的迭代被吸引到最优解的邻域，在那里它们以指数速度积累（在恒定的步长选择下）。更重要的是，限制（预期）的误差界的距离的迭代最优解的网络规模，这是一个集中式随机梯度算法的性能下降。数值算例进一步验证了该方法的有效性。
2019-08-01 cs.DC cs.MA math.OC
A Robust Gradient Tracking Method for Distributed Optimization over Directed Networks
在本文中，我们考虑的问题，分布式一致性优化多智能体网络与有向网络拓扑结构。假设每个代理有一个局部的成本函数是光滑的和强凸的，全局目标是最小化所有的局部费用函数的平均值。为了解决这个问题，我们引入了一个强大的梯度跟踪方法（R-Push-Pull）适应于最近提出的推挽/AB算法。R-Push-Pull算法继承了Push-Pull算法的优点，具有线性收敛的特点，能够精确地传递信息到最优解。在有噪声的信息交换下，R-Push-Pull算法比现有的基于梯度跟踪的算法具有更强的鲁棒性;在恒定步长策略下，每个智能体获得的解以指数方式快速到达期望最优解的邻域。我们提供了一个数值例子，证明了R-推拉的有效性。
2020-08-20 cs.DC cs.MA cs.SI
Event-triggered Dual Gradient Tracking for Distributed Resource Allocation
the Hong Kong University of Science and Technology（香港科技大学）；Department of Chemical and Biological Engineering, the Hong Kong University of Science and Technology（香港科技大学化学及生物工程系）
针对不平衡有向网络分布式资源分配的高通信成本问题，提出事件触发双梯度跟踪算法，智能体仅在状态偏差超阈值时通信，理论证明其收敛性并通过实验验证通信量减少且性能相当。
2025-11-17 cs.SY eess.SY math.OC
A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
针对时变有向网络中的分布式在线优化问题，提出TV-HSGT算法，通过混合随机梯度跟踪与方差缩减机制，在无需梯度有界假设下提升动态遗憾界，并在实验中验证其有效性。
2025-08-28 cs.DC cs.LG math.OC
Distributed Personalized Gradient Tracking with Convex Parametric Models
我们提出了一种分布式优化算法，用于解决在线个性化优化问题的计算和通信节点的网络，其中每个节点链接到一个特定的用户。假设局部目标函数具有复合结构，并且由已知的时变（工程）部分和未知的（用户特定的）部分组成。关于未知部分，假设具有已知参数（例如，二次）结构，其参数将随着算法的进化而学习。该算法由两个相互交织的组件组成：（i）一个动态梯度跟踪计划，用于寻找局部解估计和（ii）一个递归最小二乘计划，用于估计未知参数，通过用户的噪声反馈的局部解估计。在适当的假设下，该算法表现出有界遗憾。最后，数值例子验证了理论分析。
2021-04-14 cs.SY eess.SY math.OC
Distributed Big-Data Optimization via Block-wise Gradient Tracking
我们研究多智能体网络中的分布式大数据非凸优化问题。我们考虑光滑（可能）非凸函数之和的（约束）最小化，即，代理的和效用，加上一个凸（可能）非光滑正则化。我们感兴趣的是大数据问题，其中有大量的变量进行优化。如果通过标准的分布式优化算法处理，这些大规模的问题可能是棘手的，由于禁止在每个节点的本地计算和通信负担。我们提出了一种新的分布式解决方案的方法，在每次迭代，代理更新在一个不协调的方式只有一个块的整个决策向量。为了解决费用函数的非凸性问题，该方案采用连续凸近似（SCA）技术，并结合一种新的块扰动推和一致性协议，该协议有助于执行局部块平均操作和跟踪梯度平均值。证明了该非凸问题平稳解的渐近收敛。最后，数值结果表明所提出的算法的有效性和突出的块尺寸的通信开销和实际收敛速度的影响。
2018-08-31 cs.DC cs.MA math.OC
Implicit Tracking-Based Distributed Constraint-Coupled Optimization
针对带全局耦合等式约束与局部约束集的分布式优化问题，提出隐式跟踪方法构建IDEA及其投影变体Proj-IDEA，在更弱条件下实现收敛，填补了相关算法研究的空白。
2024-03-29 cs.SY eess.SY math.OC
Tracking-based distributed equilibrium seeking for aggregative games
Alma Mater Studiorum - Universita‘ di Bologna（博洛尼亚大学）；IMT School for Advanced Studies Lucca（卢卡高等研究学院）；University of Seville（塞维利亚大学）；University of Oxford（牛津大学）
针对网络下聚合博弈的纳什均衡搜索问题，提出两种带跟踪机制的全分布式算法，分别处理局部约束和耦合约束场景，证明其线性收敛性并通过仿真验证有效性与先进性。
2024-02-12 cs.GT cs.SY eess.SY
Perception-latency aware distributed target tracking
针对机器人团队在可变感知延迟下的分布式目标跟踪，提出近最优平滑输出估计器与动态一致性融合方法，解决经典估计导致编队控制无法渐近稳定的问题。
2024-01-24 cs.SY eess.SY math.OC
Distributed Stochastic Gradient Tracking Methods
本文研究了网络上的分布式多智能体优化问题，其中每个智能体具有一个光滑的强凸局部费用函数。全局目标是找到一个共同的解决方案，使所有费用函数的平均值最小化。假设代理人只能获得无偏估计的梯度的本地费用函数，我们考虑了分布式随机梯度跟踪方法（DSGT）和gossip样的随机梯度跟踪方法（GSGT）。我们表明，在预期中，由每个代理生成的迭代被吸引到最优解的邻域，在那里它们以指数速度积累（在恒定步长选择下）。在DSGT下，迭代与最优解的距离上的限制（预期）误差界随着网络大小$n$而减小，这与集中式随机梯度算法的性能相当。此外，我们表明，当网络连接良好时，GSGT比DSGT产生更低的通信成本，同时保持类似的计算成本。数值算例进一步验证了所提方法的有效性。
2020-03-10 cs.DC cs.SI math.OC
Gradient-tracking based Distributed Optimization with Guaranteed Optimality under Noisy Information Sharing
分布式优化使得联网的代理能够协作地解决全局最优化问题，即使每个参与代理仅能够访问目标函数的局部视图。尽管取得了显着的进展，大多数现有的分布式优化的结果依赖于无噪声的信息共享的代理，这是有问题的，当通信信道是嘈杂的，消息被粗略量化，或共享的信息被掩盖的加性噪声的目的，实现差分隐私。信息共享噪声的问题在最先进的基于梯度跟踪的分布式优化算法中特别突出，因为信息共享噪声将随着这些算法的梯度跟踪估计的迭代而累积，并且当噪声持续时，随后的方差甚至将无限增长。本文提出了一种新的基于梯度跟踪的分布式优化方法，可以避免信息共享噪声积累的梯度估计。该方法是适用的，即使当{代理间的相互作用是}时变的，这是关键，使代理间的相互作用的衰减因子的结合，以逐步消除信息共享噪声的影响。事实上，我们严格证明，所提出的方法可以确保几乎必然收敛的所有代理相同的最优解，即使在存在持续的信息共享噪声。该方法适用于一般的有向图。它还能够确保所有代理的几乎必然收敛到一个最优解时，梯度是嘈杂的，这是常见的机器学习应用。数值模拟证实了所提出的方法的有效性。
2022-10-02 cs.SY eess.SY math.OC
Optimal Design of Distributed Inexact Gradient Tracking: Exact Worst-case Convergence Rate and Explicit Parameters
State Key Laboratory of Industrial Control Technology and the College of Control Science and Engineering, Zhejiang University（浙江大学工业控制技术国家重点实验室与控制科学学院）
针对分布式优化算法设计，提出框架以确定DIGing算法的精确最坏情况收敛速率，通过图信号处理与鲁棒控制技术实现子系统解耦，并给出显式参数公式，经数值实验验证。
2026-09-18 cs.SY eess.SY math.OC
An Optimistic Gradient Tracking Method for Distributed Minimax Optimization
针对网络分布式极小极大优化，提出基于替代函数的 DOGT 及加速版 ADOGT，证明强凸-强凹情形下的线性收敛与最优通信复杂度。
2025-08-29 cs.DC math.OC
Accelerated Alternating Direction Method of Multipliers Gradient Tracking for Distributed Optimization
本文提出一种结合动量、ADMM与梯度跟踪的新型加速分布式优化算法，理论证明其收敛速度快于非加速同类算法，仿真验证其性能优于现有分布式共识一阶优化协议。
2024-05-14 cs.SY eess.SY math.OC
Data-Driven Distributed Optimization via Aggregative Tracking and Deep-Learning
Department of Electrical, Electronic and Information Engineering, Alma Mater Studiorum - Universita‘ di Bologna（博洛尼亚大学电气、电子与信息工程学院）
本文提出基于聚合跟踪和深度学习的数据驱动分布式优化方法，通过神经网络学习局部成本下降方向并结合跟踪机制，实现强凸问题的线性收敛。
2026-01-23 cs.SY eess.SY math.OC
Computational Convergence Analysis of Distributed Gradient Tracking for Smooth Convex Optimization Using Dissipativity Theory
University of Illinois, Chicago（伊利诺伊大学芝加哥分校）
本文基于耗散性理论，研究了在目标函数平滑且凸但非强凸的情况下，分布式梯度跟踪方法的$O(1/K)$收敛性，通过构造存储函数和供应率的数值证书，提出了一种新的供应率分析方法，并展示了其在更广泛步长范围内验证收敛性的能力。
2019-03-25 cs.SY eess.SY math.OC
