Recent theoretical advances in decentralized distributed convex optimization
近年来，分散分布凸优化理论取得了重大进展。已经出现了通信轮和oracle调用的下界，以及达到这两个界限的方法。在本文中，我们专注于如何解释这些结果的基础上的非分布式设置的最佳算法。特别是，我们提供了我们最近的结果，这些结果尚未发表，只能在arXiv预印本中找到详细信息。
2021-11-29 math.OC
Sensitivity-Based Distributed Programming for Non-Convex Optimization
Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希·亚历山大大学）
本文提出了一种基于灵敏度的分布式编程方法，用于解决大规模非线性规划问题，通过邻居间通信和并行计算实现非凸问题的局部收敛性分析。
2026-03-27 math.OC
Distributed coordination for nonsmooth convex optimization via saddle-point dynamics
本文考虑连续时间协调算法的代理网络，寻求集体解决一般类的非光滑凸优化问题与固有的分布式结构。我们的算法设计建立在非光滑凸规划的解作为增广拉格朗日量的鞍点的特征上。我们表明，相关的鞍点动力学是渐近正确的，但在一般情况下，不分布，因为存在一个全球罚参数。这促使设计一个不连续的鞍点样算法，享有相同的收敛性能，是完全服从分布式实现。我们的收敛性证明依赖于一个新的全球李雅普诺夫函数的鞍点动态识别。这种新颖性也使我们能够确定温和的凸性和正则性条件的目标函数，保证指数收敛速度的凸优化问题的等式约束的算法。各种例子说明了我们的讨论。
2017-05-16 math.OC
Distributed Convex Optimization With Coupling Constraints Over Time-Varying Directed Graphs
研究了时变多智能体网络上的分布式凸优化问题，其中每个智能体都有自己的决策变量，这些决策变量的设置应使其个体目标最小化，且受局部约束和全局耦合等式约束.在有向图上，提出了一种将推和协议与对偶次梯度方法相结合的分布式算法。在凸性假设下，首先建立了原始变量、对偶变量和约束违反的最优性。然后给出了算法的显式收敛速度。最后，通过对经济调度问题的数值实验，验证了算法的有效性。
2018-05-21 math.OC
Distributed Optimal Gas-Power Flow Using Convex Optimization and ADMM
提出了一种基于凸优化的分布式算法来求解能量耦合配电系统多时段最优气电潮流。在配气系统侧，非凸Weymouth气体流动方程被转化为二次约束。最优气体流量（OGF）子问题的求解采用迭代二阶锥规划方法，其效率比传统的非线性方法高两个数量级。提出了一种基于凸二次规划的起爆方案，该方案有助于找到高质量的起爆点。在配电系统侧，对非凸支路潮流方程进行凸松弛，最优潮流（OPF）子问题转化为二阶锥规划。径向拓扑保证了紧密性。在分布式算法中，OGF和OPF独立求解，并通过交替方向乘子法（ADMM）协调。数值结果证实了显着增强的计算鲁棒性和效率相比，现有的集中式OGPF方法。
2016-10-15 math.OC
Distributed Event-Triggered Algorithm for Convex Optimization with Coupled Constraints
针对一类具有局部集合约束、等式和不等式约束的凸优化问题，提出了一种基于事件触发机制的分布式原始对偶法.与已有的一些分布式算法的逐步减小的步长，我们的算法使用恒定的步长，并实现了一个精确的收敛到最优解的$O(1/k)$收敛速度一般凸目标函数，其中$k>0$是迭代次数.此外，通过采用事件触发通信机制，该算法可以有效地降低通信成本，而不牺牲收敛速度。最后通过数值算例验证了算法的有效性。
2022-10-26 math.OC
Distributed Convex Optimization for Continuous-Time Dynamics with Time-Varying Cost Function
研究了连续时间多智能体系统的时变分布凸优化问题。控制算法的情况下，单积分器和双积分器的动态设计。在每种情况下，提出了两种基于符号函数的不连续算法来解决问题。然后，在双积分动力学的情况下，两个连续的算法的基础上，分别提出了一个时变和固定的边界层连续近似的signum函数。此外，考虑到代理间碰撞的物理代理，一个分布式的群体跟踪行为的凸优化问题的单积分器和双积分器的动态。
2016-09-06 math.OC
Distributed Continuous-Time Algorithm for Constrained Convex Optimizations via Nonsmooth Analysis Approach
本文研究了具有局部约束的非光滑凸费用函数和的分布式最优化问题。首先，我们提出了一种新的分布式连续时间投影算法，其中每个代理知道其本地费用函数和本地约束集，约束最优化问题。然后证明了算法中的所有智能体在寻找最优解时都能找到相同的最优解，同时保持状态有界。利用非光滑李雅普诺夫函数对微分包含的稳定性进行了全收敛分析。最后，我们提供了一个数值例子来说明。
2016-11-28 math.OC
Distributed Circumferential Coverage Control in Non-Convex Annulus Environments
School of Automation, China University of Geosciences（中国地质大学自动化学院）；Hubei Key Laboratory of Advanced Control and Intelligent Automation for Complex Systems（复杂系统先进控制与智能自动化湖北省重点实验室）；Engineering Research Center of Intelligent Technology for Geo-Exploration, Ministry of Education（教育部地球探测与智能技术工程研究中心）
本文提出了一种分布式周向覆盖控制方法，通过构建黎曼度量和虚拟分区杆实现非凸环形区域的负载均衡与覆盖控制。
2026-02-06 math.OC
Fenchel Dual Gradient Methods for Distributed Convex Optimization over Time-varying Networks
在现有的大量凸多智能体优化分布式算法中，只有少数算法能保证智能体网络在时变拓扑下的收敛速度，而这又限制了问题的无约束性.出于这一动机，我们开发了一个家庭的分布式Fenchel双梯度法解决约束，强凸，但不一定光滑的多智能体最优化问题随时间变化的无向网络。所提出的算法构造的基础上应用加权梯度法的Fenchel对偶的多智能体最优化问题，并可以实现在一个完全分散的方式。我们表明，所提出的算法驱动所有的代理原始和对偶最优渐近下的最小连通性条件和次线性速率下的标准连通性条件。最后，通过仿真验证了分布式Fenchel对偶梯度法的良好收敛性能.
2018-04-05 math.OC
Convergence Analysis of Noisy Distributed Gradient Descent for Non-convex Optimization -- Saddle Point Escape
University of Melbourne（墨尔本大学）
研究基于共识的分布式梯度下降变体，通过随机扰动局部梯度项使每个智能体以高概率收敛到公共二阶驻点（局部极小点）的邻域，收敛速率与集中式一阶算法相当。
2026-10-08 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时，基于梯度跟踪（GT）的分散方法已成为分散（随机）梯度下降（DSGD）的一种有效可行的替代方法。对GT方法的初步研究表明，GT方法比DSGD方法具有更差的网络依赖率，这与实验结果相矛盾。这一难题最近得到了解决，GT方法的更严格的费率已经建立，这改进了DSGD。在这项工作中，我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比，这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
An Augmented Lagrangian Coordination-Decomposition Algorithm for Solving Distributed Non-Convex Programs
提出了一种新的增广拉格朗日方法，用于求解分布式框架下具有非线性费用和约束耦合的非凸规划问题。提出的分解算法由两层组成：外层是一个标准的乘子方法，对非线性等式约束进行惩罚，而内层由块坐标下降（BCD）方案组成。基于乘子方法的标准结果和最近的结果在近端正则化BCD技术，它被证明是收敛到一个KKT点的非凸非线性规划下的半代数性假设。数值算例验证了算法的有效性。
2014-07-21 math.OC
An Accelerated Asynchronous Distributed Method for Convex Constrained Optimization Problems
考虑了一类带有局部非线性凸约束的多智能体协作共识最优化问题，其中只有通过边连接的智能体可以直接通信，因此最优共识决策位于这些私有集的交集中.我们开发了一个异步分布式加速原始对偶法来解决所考虑的问题。该计划是第一个异步方法，这类问题的最佳收敛保证，据我们所知。特别是，我们提供了一个最佳的收敛速度的$\mathcal{O(1/K)}$次优，不可行性，共识违反。
2023-02-21 math.OC
Dynamic Regret of Distributed Online Frank-Wolfe Convex Optimization
本文研究了分布式在线凸约束优化问题，在该问题中，多智能体系统中的多个智能体通过与时变网络中的邻居进行通信来协作以最小化全局费用函数。当最优化问题的约束集是高维的、复杂的时，投影运算的计算量往往变得令人望而却步。为了解决这个问题，我们开发了一个分布式的在线Frank-Wolfe优化算法结合梯度跟踪技术。我们严格建立动态遗憾界的建议优化算法为$\mathcal{O}(\sqrt{T(1+H_T)}+D_T)$，这显式地依赖于迭代轮$T$，功能变化$H_T$，和梯度变化$D_T$。最后，在分布式在线岭回归问题的情况下，对理论结果进行了验证和比较。
2023-02-01 math.OC
On the Q-linear convergence of Distributed Generalized ADMM under non-strongly convex function components
求解多智能体网络中的最优化问题已成为一个日益重要的问题，其中每个智能体只有部分知识的问题。本文考虑了最小化$n$凸函数和的问题。我们假设每个函数只有一个智能体知道。我们表明，广义分布式ADMM Q-线性收敛到上述最优化问题的解决方案，如果在所有的目标函数是强凸的，但每个代理已知的功能只允许是凸的。建立Q-线性收敛允许跟踪语句，如果仅保证R-线性收敛，则不能进行跟踪语句。此外，我们建立了广义分布ADMM和P-EXTRA之间的等价性的混合矩阵的子集。这种等价性在P-EXTRA的收敛性方面产生了见解，当过冲以加速收敛时。
2018-05-04 math.OC
Two-timescale EXTRA for Distributed Smooth Non-convex Optimization
本文针对光滑非凸分布式优化问题，提出引入双步长的双时间尺度EXTRA算法，通过Lyapunov分析证明其到共识一阶稳定点的次线性收敛，并给出离线参数选择方法及数值验证。
2025-09-21 math.OC
Distributed and Asynchronous Algorithms for N-block Convex Optimization with Coupling Constraints
本文首先提出了一种N块PCPM算法来求解同时具有线性和非线性约束的N块凸优化问题，并证明了算法的整体收敛性。数值实验表明，在强二阶最优性条件下，该方法具有线性收敛速率。其次，以线性约束N块凸优化问题为出发点，提出了一种异步N块PCPM算法。数值结果表明，在有界时滞假设下，该方法具有亚线性收敛速率，并且比同步迭代法具有更快的收敛速度，只需更多的短时迭代。
2021-03-25 math.OC
Predefined-time distributed non-convex optimization via a time-base generator
本文提出基于时基发生器的预定义时间分布式非凸优化方法，用于资源分配和一致性优化问题，证明了在非强凸、非凸及广义光滑条件下的收敛性，并通过数值仿真验证了其更快的收敛速度和有效性。
2024-09-05 math.OC
A distributed Douglas-Rachford splitting method for solving linear constrained multi-block weakly convex problems
本文将分布式 Douglas-Rachford 分裂方法（DDRSM）扩展至线性约束多块弱凸优化问题，通过引入弱凸性与误差界假设证明了其线性收敛速率，并在压缩感知和 RASL 实验中展现出优于增广拉格朗日算法的性能。
2024-11-18 math.OC
On Primal-Dual Approach for Distributed Stochastic Convex Optimization over Networks
针对网络上的分布式凸优化问题，提出了一种原始-对偶随机梯度预言算法。我们表明，所提出的方法是最佳的通信步骤。此外，我们提出了一种新的分析方法的收敛速率的对偶差距和大偏差的概率。这种分析是基于一种新的技术，允许约束迭代序列和最佳点之间的距离。通过正确选择批量大小，我们可以保证这个距离等于（直到一个常数）起点和解决方案之间的距离。
2019-11-26 math.OC
Efficient parallel coordinate descent algorithm for convex optimization problems with separable constraints: application to distributed MPC
在本文中，我们提出了一个并行坐标下降算法求解光滑凸优化问题的可分离的约束，可能会出现，例如在分布式模型预测控制（MPC）的线性网络系统。我们的算法是基于块坐标下降并行更新，并有一个非常简单的迭代。在光滑凸优化的标准假设下，我们证明了新算法的（亚）线性收敛速率。此外，我们的算法使用本地信息，因此适合分布式实现。此外，它具有较低的迭代复杂度，这使得它适合嵌入式控制。基于这种新的并行算法，推导出一种MPC方案，使网络中的每个子系统都可以使用分布式和廉价的计算来计算可行的和稳定的控制输入。为了确保MPC方案的稳定性，我们使用来自分布式合成的终端成本公式。初步的数值试验表明，我们的优化算法比其他现有的方法有更好的性能。
2014-11-18 math.OC
Localization and Approximations for Distributed Non-convex Optimization
分布式优化在通信网络、传感器网络、信号处理、机器学习和人工智能中有许多应用。分布式凸优化方法得到了广泛的研究，而非凸目标的方法还没有得到很好的理解。任意交互图上的第一个非凸分布式优化框架之一由Di Lorenzo和Scutari提出[IEEE Trans. on Signal and Information Processing over Network，2（2016），pp. 120-136]，其迭代地应用局部最优化与凸近似和局部平均的组合。我们从两个方面推广了已有的结果。当决策变量是可分离的，使得目标之间存在部分依赖关系时，我们降低了算法的通信复杂度，使得节点只保存和通信局部变量，而不是整个变量向量。此外，我们放宽了假设，目标的梯度是有界的和Lipschitz的逐次逼近。开发的方法，然后我们讨论了许多方法来应用我们的算法框架，在多蜂窝网络中的资源分配问题，其中两个概括是有用的和实用的。仿真结果表明，我们的资源分配算法的优越性天真的单细胞方法，此外，我们的近似框架导致算法，数值上更稳定。
2021-06-20 math.OC
Distributed Stochastic Optimization for Non-Smooth and Weakly Convex Problems under Heavy-Tailed Noise
针对重尾噪声下方差无界且现有分布式算法多限于凸光滑问题的不足，提出一种基于裁剪、适用于非光滑弱凸问题的分布式随机优化算法，并证明收敛性、给出参数条件，实验验证其有效性。
2025-05-14 math.OC
Quantized Distributed Online Projection-free Convex Optimization
针对时变多智能体网络的在线分布式凸约束优化问题，提出结合随机量化器的无投影优化算法，建立不同量化参数下的动态悔值上界，揭示收敛性能与量化效应的权衡，通过仿真验证理论结果。
2023-05-08 math.OC
Optimal Distributed Stochastic Mirror Descent for Strongly Convex Optimization
本文研究时变多智能体网络上带约束集的非欧意义下随机强凸优化的收敛速度问题。我们提出了两个有效的非欧随机次梯度下降算法的基础上的Bregman分歧作为距离测量功能，而不是由标准的分布式随机投影次梯度法采用的欧几里德距离。对于非光滑和强凸函数的分布式优化，其唯一的随机次梯度是可用的，第一个算法恢复的最好的以前已知的速度为O（ln（T）/T）（其中T是总的迭代次数）。第二个算法是第一个算法的一个历元变体，它达到O（1/T）的最佳收敛速度，与先前已知的最佳集中式随机次梯度法相匹配。最后，我们报告一些模拟结果来说明所提出的算法。
2018-08-22 math.OC
Newton-Raphson Consensus for Distributed Convex Optimization
本文研究了在可分性假设下的分布式无约束凸优化问题，该框架中，网络的每个代理被赋予局部私有多维凸成本，受到通信约束，并且想要协作以计算局部成本之和的最小化者。我们提出了一种设计方法，结合平均共识算法和时间尺度的想法分离。在适当的假设下，证明了该策略是全局收敛于真极小点的。直观地说，该程序让代理分布式计算和顺序更新的近似牛顿-拉夫森方向通过适当的平均共识比率。我们用数值模拟表明，这种策略的收敛速度与其他优化策略，如乘数的交替方向法。最后，我们提出了一些替代策略，权衡通信和计算的要求与收敛速度。
2015-11-04 math.OC
Distributed Primal Outer Approximation Algorithm for Sparse Convex Programming with Separable Structures
提出了一种分布式原始外近似算法（DiPOA），用于求解具有可分离结构的稀疏凸规划（SCP）问题。DiPOA算法的开发包括将最近提出的松弛混合乘子交替方向法（RH-ADMM）算法嵌入到外近似（OA）算法中。我们还提出了两个主要的改进，以控制质量和切割平面的数量，近似非线性函数。特别地，RH-ADMM算法充当DiPOA算法内部的分布式数值引擎。DiPOA利用现代处理器的多核架构来加速优化算法。提出的分布式算法从应用方面使SCP在学习和控制问题中的解决方案具有实用性。本文最后对分布式稀疏逻辑斯谛回归和二次约束最优化问题的DiPOA算法进行了性能分析。最后，本文的结论与国家的最先进的优化求解器的数值比较。
2022-10-13 math.OC
Distributed Adaptive Gradient Optimization Algorithm
本文研究了单积分器和双积分器多智能体系统中具有一般可微凸目标函数的分布式最优化问题。介绍了两种分布式自适应优化算法，该算法利用相关信息构造交互作用项的增益。基于李雅普诺夫函数、系统解的分析和局部目标函数的凸性进行了分析。结果表明，对于单积分和双积分的多智能体系统，只要凸目标函数的梯度连续，则团队凸目标函数都能随时间的变化而最小化.数值例子显示所得到的理论结果。
2017-03-27 math.OC
Almost Sure Convergence of Random Projected Proximal and Subgradient Algorithms for Distributed Nonsmooth Convex Optimization
描述了两种分布式算法，使所有用户连接在一个网络上，以合作解决的问题，最小化的总和，所有用户的目标函数在所有用户的约束集的交集，其中每个用户有自己的私人非光滑凸目标函数和封闭的凸约束集，这是一些简单的，封闭的凸集的交集。一种算法使每个用户能够通过使用其目标函数的邻近算子和从简单的闭凸集中随机选择的一个集合上的度量投影来调整其估计。另一种是分布式随机投影算法，该算法通过使用用户的目标函数的次梯度而不是邻近算子来确定每个用户的估计。对这两种算法收敛性的研究表明，在一定的假设条件下，这两种算法所产生的所有用户的序列几乎必然收敛到同一个解。此外，对两种算法的收敛速度进行了分析，并讨论了使两种算法具有快速收敛性的步长序列的理想选择。具体的非光滑凸优化的数值比较支持了收敛性分析，并证明了两种算法的有效性。
2015-10-24 math.OC
Convergence Analysis of EXTRA in Non-convex Distributed Optimization
针对非凸分布式优化问题，本文通过将EXTRA更新视为非线性动力系统，分析其收敛性，证明该算法以次线性速率收敛到共识一阶平稳点且避免共识严格鞍点，深化了对其非凸场景性能的理解。
2025-07-08 math.OC
Distributed Continuous-Time and Discrete-Time Optimization With Nonuniform Unbounded Convex Constraint Sets and Nonuniform Stepsizes
研究了一般可微凸目标函数的非一致凸约束集和非一致步长的分布式连续和离散时间最优化问题。该方法不要求通信图在任何时刻都是强连通的，不要求局部目标函数的梯度在其自变量趋于无穷大时有界，也不要求约束集有界.对于连续时间多智能体系统，首先介绍了一种分布式连续算法，其中的步长和凸约束集都是非均匀的。它表明，所有的代理达成共识，同时最小化团队目标函数，即使当约束集是无界的。然后将所得结果推广到离散时间多智能体系统，研究了每个智能体保持在相应的凸约束集中的情况.为了保证所有的代理人保持在一个有界的区域，在算法中引入了切换机制。结果表明，分布式最优化问题可以解决，即使离散化的算法可能会偏离的目标函数的最小值的代理的收敛。最后，数值例子来显示所得到的理论结果。
2020-03-01 math.OC
Distributed Event-Triggered Bandit Convex Optimization with Time-Varying Constraints
针对带时变约束的分布式赌博机凸优化问题，提出带两点赌博机反馈的事件触发在线原始-对偶算法，在节省通信资源的同时取得与全信息反馈算法相当的性能界，并通过数值算例验证。
2024-06-20 math.OC
Accelerated Primal-Dual Mirror Dynamics for Centrailized and Distributed Constrained Convex Optimization Problems
本文研究了两种原-对偶镜像动力学加速算法，分别用于求解具有仿射约束和闭凸集约束的光滑和非光滑凸优化问题。在光滑情形下，提出了一种基于加速镜下降和原-对偶框架的加速原-对偶镜动力学方法（APDMD），并利用李雅普诺夫分析方法推导了原-对偶间隙、可行性测度和目标函数值随APDMD轨迹的加速收敛性质.然后，我们将APDMD扩展为两种分布式动力学方法，分别处理两类分布式光滑最优化问题，即，分布式约束一致性问题（DCCP）和分布式扩展单调优化（DEMO）与加速收敛保证。此外，在非光滑情形下，我们提出了一种光滑加速原对偶镜像动力学方法（SAPDMD），该方法利用光滑近似技术和上述APDMD。通过选取适当的光滑逼近参数，证明了SAPDMD的原-对偶间隙、目标函数值和可行性测度具有与APDMD相同的加速收敛性质.之后，我们提出了两个平滑加速分布式动力学方法来处理非光滑DEMO和DCCP，以获得加速和有效解。最后，数值实验证明了所提出的加速镜动力学方法的有效性。
2022-09-14 math.OC
On the Convergence of a Noisy Gradient Method for Non-convex Distributed Resource Allocation: Saddle Point Escape
University of Melbourne（墨尔本大学）
针对非凸分布式资源分配问题，本文在拉普拉斯加权梯度下降基础上加入随机扰动以实现鞍点逃逸，证明了二阶收敛性，实验显示其性能优于标准加权梯度下降。
2026-08-26 math.OC
Distributed convex optimization via continuous-time coordination algorithms with discrete-time communication
针对网络最优化问题，提出了一类新的分布式连续时间协调算法，其代价函数是与个体Agent相关的局部费用函数之和。我们建立了所提出的算法的指数收敛下（i）强连接和重量平衡的有向图拓扑的局部成本是强凸的全局Lipschitz梯度，和（ii）连通图拓扑的局部成本是强凸的局部Lipschitz梯度。当局部费用函数是凸的，全局费用函数是严格凸的时，我们在连通图拓扑下证明了算法的渐近收敛。我们还描述了算法的正确性下的时变交互拓扑结构，并研究其隐私保护性能。出于实际考虑，我们分析了离散时间通信的算法实现。我们提供了一个上界的步长，保证指数收敛的连通图的实现与定期通信。在此基础上，我们设计了一个可证明正确的集中式事件触发通信方案，是免费的芝诺行为。最后，我们开发了一个分布式的，异步的事件触发的通信方案，也是免费的芝诺渐近收敛保证。几个模拟说明了我们的结果。
2014-08-22 math.OC
Distributed Adaptive Gradient Algorithm with Gradient Tracking for Stochastic Non-Convex Optimization
本文针对分布式随机非凸优化问题，提出一种结合梯度跟踪的自适应步长算法，并给出最优性间隙上界，证明其可达到一阶平稳解。
2024-03-29 math.OC
Alternating Direction Method of Multipliers for nonlinear constrained convex problems and applications to distributed resource allocation and constrained machine learning
Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文提出了一种非线性交替方向乘子法，用于解决非线性约束凸问题，适用于分布式资源分配和约束机器学习，通过保持经典分解结构并利用凸性，实现了更高的通信效率。
2026-02-26 math.OC
On linear convergence of a distributed dual gradient algorithm for linearly constrained separable convex problems
本文提出了求解线性约束可分凸问题的一个分布式对偶梯度算法，并分析了它的收敛速率。特别地，我们证明了在原目标函数的梯度具有强凸性和Lipshitz连续性的假设下，对偶问题具有全局误差界型性质.利用这一误差界的性质，我们设计了一个完全分布式的对偶梯度计划，即梯度计划的基础上加权步长，我们推导出全局线性收敛速率的双重和原始次优和原始可行违反。许多实际应用，如分布式模型预测控制，网络效用最大化或最优潮流，可以被视为线性约束可分离凸问题，文献中的对偶梯度型方法具有次线性收敛速度。在本文中，我们证明了第一次，事实上，我们可以实现线性收敛速率，这样的算法时，他们被用来解决这些应用。数值模拟也证实了我们的理论。
2014-09-30 math.OC
Distributed Convex Optimization of Time-Varying Cost Functions with Swarm Tracking Behavior for Continuous-time Dynamics
研究了连续时间多智能体系统中具有群体跟踪行为的分布式凸优化问题。智能体的任务是通过局部交互来驱动其中心跟踪最优轨迹，该最优轨迹使局部时变费用函数之和最小化，同时保持连通性并避免智能体之间的碰撞。每个局部费用函数仅为单个代理所知，并且团队的最优解是时变的。这里考虑两种情况，单积分器动态和双积分器动态。对于每种情况下，提出了一种分布式的群体跟踪行为的凸优化算法，每个代理只依赖于自己的位置和相对位置（和速度在双积分的情况下）之间的本身和它的邻居。结果表明，智能体的中心跟踪最优轨迹，智能体之间的连通性将保持和避免智能体间的碰撞。最后，数值例子进行说明。
2015-07-16 math.OC
Achieving Acceleration in Distributed Optimization via Direct Discretization of the Heavy-Ball ODE
本文提出了一种求解凸经验风险最小化问题的分布式算法，即网络上最小化大而有限的凸函数和的问题。该算法直接离散二阶重球微分方程，并导致加速的收敛速度，即比分布式梯度下降为基础的方法，强凸的目标，可能不顺利。值得注意的是，我们实现了加速，而没有诉诸著名的涅斯捷罗夫的动量方法。我们提供了数值实验和对比最近提出的最佳分布式优化算法所提出的方法。
2018-11-06 math.OC
Push-Pull Based Distributed Primal-Dual Algorithm for Coupled Constrained Convex Optimization in Multi-Agent Networks
本文研究多智能体网络中的分布式耦合约束凸优化问题，基于推拉方法提出一种保护隐私的分布式原始-对偶算法，并证明其在Slater条件下收敛于Lagrange函数鞍点。
2023-10-24 math.OC
Variance Reduced Distributed Non-Convex Optimization Using Matrix Stepsizes
针对非凸优化问题，本文提出两种融合MARINA、DASHA方法的det-CGD方差缩减变体，经理论与实验验证，其迭代与通信复杂度均优于原有算法。
2024-10-10 math.OC
Column Partition based Distributed Algorithms for Coupled Convex Sparse Optimization: Dual and Exact Regularization Approaches
针对一类大规模凸稀疏最优化问题，提出了基于列划分的分布式算法，基追踪（BP）、LASSO、基追踪去噪（BPDN）及其扩展，例如，融合了LASSO。我们特别感兴趣的情况下，（标量）决策变量的数量远远大于（标量）测量的数量，每个代理有有限的内存或计算能力，使它只知道一个测量矩阵的列数很少。所考虑的这些问题是紧密耦合的，并且不能使用列划分将其公式化为可分离的凸规划。为了克服这一困难，我们考虑他们的对偶问题是可分离的或局部耦合。一旦得到一个对偶解，在适当的正则化条件下，可以从相应的正则化BP类问题的对偶中找到原解。广泛的现有的分布式计划可以用来解决所获得的双重问题。这产生两个阶段的列分区为基础的分布式计划LASSO和BPDN的问题，这些计划的整体收敛性建立使用灵敏度分析技术。数值结果表明了所提出格式的有效性。
2020-03-17 math.OC
Primal Recovery from Consensus-Based Dual Decomposition for Distributed Convex Optimization
对偶分解已成功地应用于各种分布式凸优化问题，这些问题由计算和通信节点组成的网络来解决。通常，当费用函数是可分离的，但约束是耦合的，对偶分解方案涉及本地并行次梯度计算和全局次梯度更新执行的主节点。在本文中，我们提出了一个基于共识的对偶分解，以消除需要这样的主节点，仍然使计算节点生成一个近似的对偶解的基础凸优化问题。此外，我们提供了一个原始的恢复机制，让节点有机会接近接近最优的原始解决方案。我们的计划是基于一个恒定的步长选择和对偶和原始目标的收敛实现了一个有界的错误地板依赖于步长和节点之间的共识步骤的数量。
2015-03-26 math.OC
Stochastic Sensor Scheduling via Distributed Convex Optimization
在本文中，我们提出了一个随机调度策略，估计N离散时间线性时不变（DTLTI）动态系统的状态，其中只有一个系统可以观察到的传感器在每个时刻，由于实际的资源限制。我们的随机策略的想法是，一个系统是随机选择的观察在每个时刻根据预先分配的概率分布。我们的目标是找到最佳的预分配的概率，以最小化动态系统之间的最大估计误差协方差。我们首先表明，在温和的条件下，随机调度问题给出了一个上界的最佳传感器选择问题的性能，出了名的难以解决。接下来，我们放松随机调度问题到一个听话的次优准凸形式。然后，我们表明，新的问题可以分解成耦合的小凸优化问题，它可以在一个分布式的方式解决。最后，对于调度的实现，我们提出了基于最优随机解的集中式和分布式确定性调度策略，并提供了仿真例子。
2015-06-22 math.OC
Distributed and Inexact Proximal Gradient Method for Online Convex Optimization
本文提出在线分布式近端梯度方法（DPGM），用于时变复合凸优化问题，并证明在通信噪声或量化等非精确条件下，跟踪误差受收敛线性系统上界约束，保证收敛到最优解邻域。
2021-04-01 math.OC
Optimization Problems with Nearly Convex Objective Functions and Nearly Convex Constraint Sets
Institute of Mathematics, Vietnam Academy of Science and Technology（越南科学技术院数学研究所）
本文研究了近凸优化问题，通过关联凸优化问题，推导了最优性条件和拉格朗日乘子规则，并通过实例验证了结果。
2026-02-10 math.OC
Distributed Optimization of Convex Sum of Non-Convex Functions
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出了一种分布式求解方法来优化由多个非凸函数组成的凸函数。每个非凸函数都被一个代理私有地存储，而代理与邻居通信以形成一个网络。我们证明了[1]中提出的耦合一致性和投影梯度下降算法在附加梯度Lipschitz性假设下可以优化非凸函数的凸和。我们进一步讨论了这种分析在分布式优化中提高隐私性的应用。
2016-08-18 cs.DC cs.LG math.OC
CADMM-Prox: A Bi-level Consensus ADMM for Non-smooth Non-convex Distributed Consensus Optimization
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；North China University of Water Resources and Electric Power（华北水利水电大学）；KTH Royal Institute of Technology（皇家理工学院）
研究非光滑非凸分布式优化问题，提出CADMM-Prox算法，它结合经典共识ADMM与近端机制，在局部目标函数半凸假设下可全局收敛至克拉克驻点邻域，相位检索实验显示其收敛行为更稳定。
2026-07-21 math.OC
Some notes on continuity in convex optimization
证明了在欧几里得空间中的凸参数化最优化问题的最优值函数本身是延拓实直线上的凸函数。
2021-04-30 math.OC
A Parametric Non-Convex Decomposition Algorithm for Real-Time and Distributed NMPC
针对非线性模型预测控制（NMPC）中的参数非凸规划问题，提出了一种新的分解方法。它由固定数量的交替近端梯度步长和每个时间步长的双重更新组成。因此，所提出的方法是有吸引力的，在一个实时的分布式上下文中。假设非线性规划是半代数的，且其临界点是强正则的，在较弱的假设下，证明了原对偶迭代序列的压缩性，并证明了次优误差的稳定性.此外，它示出的最优跟踪方案的性能可以通过连续技术提高。所提出的分解方法的有效性证明了通过解决一个集中的NMPC问题，以控制直流电机和分布式NMPC程序的协作跟踪独轮车，无论是在一个实时的框架。此外，作为采样周期的函数的次优性误差的分析提出了一个固定的计算能力。
2014-12-24 math.OC
An optimal algorithm for stochastic strongly-convex optimization
我们考虑随机凸优化与强凸（但不一定光滑）的目标。我们给出了一个算法，只执行梯度更新的最佳收敛速率。
2010-06-12 math.OC
One-Point Residual Feedback Algorithms for Distributed Online Convex and Non-convex Optimization
针对局部目标为凸或非凸的分布式在线优化问题，提出基于单点残差反馈梯度估计的分布式算法，推导其次线性遗憾界，并通过数值算例验证算法有效性。
2025-03-21 cs.SY eess.SY math.OC
