On the Perturbed Projection-Based Distributed Gradient-Descent Algorithm: A Fully-Distributed Adaptive Redesign
本研究针对带特定形式受扰投影的分布式梯度下降多智能体系统,提出全分布式自适应增益调整方法,可使网络在最小化局部代价的同时,以任意精度逼近最优一致性集。
2025-09-03 cs.SY eess.SY math.OC
A generalized projection-based scheme for solving convex constrained optimization problems
针对一般凸约束最优化问题,提出了一种新的基于投影的算法实现。一般的思想是通过从上面迭代地约束目标函数,直到可行性问题不一致,将原始的最优化问题转换为一系列可行性问题。对于每一个可行性问题,人们可以应用任何现有的投影方法来解决它。特别是,该计划允许使用次梯度投影,而不需要精确的投影到现有的类似方法的约束集。我们还将新引入的优越化的概念,优化制定和比较其性能,我们的计划。我们提供了一些数值结果凸二次检验问题以及现实生活中的最优化问题来自医疗规划。
2018-03-15 math.OC
Polynomial Optimization via Random Projection and Consensus
提出一种基于随机线性子空间投影的黑盒方法,将大型半定规划约简为多个小规模半定规划,并在多项式优化问题上验证了其可扩展性的提升。
2025-09-16 math.OC
Projection methods in conic optimization
存在将点投影到凸锥和仿射子空间的交点上的有效算法。这些圆锥投影又是圆锥优化中一系列算法的主力,在科学,金融和工程中有各种应用。本章回顾了其中的一些算法,强调了线性锥优化的正则化算法,以及在多项式优化中的应用。这是最近几篇研究文章的材料的介绍;我们在这里的目的是澄清这些想法,在一个总体框架中介绍它们,并指出重要的技术。
2011-03-08 math.OC
Subgradient method with feasible inexact projections for constrained convex optimization problems
本文提出了一种新的求解不可微约束凸优化问题的不精确投影次梯度方法。该方法将$ε$ -次梯度方法与一个过程相结合,以获得一个可行的不精确投影到约束集。采用众所周知的外源步长,Polyak的步长,和动态步长的方法所产生的序列的渐近收敛的结果和迭代复杂性的界限建立。
2020-06-15 math.OC
Projection of polyhedral cones and linear vector optimization
考虑由有限个线性不等式给出的多面体凸锥。我们调查的问题,这个锥投影到一个子空间,并表明这个问题是密切相关的线性向量最优化:我们定义了一个锥投影问题,使用的数据,一个给定的线性向量最优化问题,并考虑这个问题,以确定端方向和基础的线性空间的投影锥$K$。该问题的结果产生线性向量最优化问题的解。类似地,对偶锥投影问题与$K$的极锥相关:得到几何对偶线性向量最优化问题的解。我们勾勒出的想法,由此产生的算法解决任意线性向量最优化问题,并提供了另一种证明的几何对偶定理的基础上的对偶多面体。
2014-06-06 math.OC
Distributed Random Projection Algorithm for Convex Optimization
University of Illinois(伊利诺伊大学)
针对时变网络下的分布式约束凸优化问题,提出分布式随机投影算法,并证明所有智能体迭代几乎必然收敛到最优集,实验表明收敛速度快。
2013-02-14 cs.SY eess.SY math.OC
Projections Onto Convex Sets (POCS) Based Optimization by Lifting
提出了两种新的基于凸空间投影(POCS)框架的优化技术,用于求解凸优化和某些非凸优化问题。将最小化问题的维数提升一个,并定义对应于费用函数的集合。如果费用函数是R^N中的凸函数,则对应的集合是R^(N+1)中的凸集。迭代优化方法从R^(N+1)中的任意初始估计开始,并且在最优化问题的每个步骤中以顺序的方式在集合之一上执行正交投影。该方法提供了全局最优解的总变化,过滤变化,l1,和熵费用函数。还通过实验观察到,可以通过使用支撑超平面概念来处理基于lp,p<1的费用函数。
2013-06-13 math.OC
Distributed Stochastic Block Coordinate Descent for Time-Varying Multi-Agent Optimization
本文研究了时变多智能体网络上的大规模分布式非光滑凸优化问题,提出了一种分布式块坐标下降(DSBCD)方法,每步仅在随机块上执行分布式Bregman投影,实现了期望的 $O(1/\sqrt{T})$ 收敛速率和已知最佳的 $\mathcal{O}(b^2/ε^2)$ 复杂度界限。
2024-10-17 math.OC
A projection-free dynamics for nonsmooth composite optimization
本文提出一种基于镜像下降的无投影原始-对偶动力学,用于求解带等式和不等式约束的非光滑复合优化问题,通过扩展近端增广拉格朗日策略实现指数收敛,并推广了现有收敛结果。
2025-10-25 math.OC
A Conceptual Conjugate Epi-Projection Algorithm of Convex Optimization: Superlinear, Quadratic and Finite Convergence
本文考虑了一个概念性的凸优化算法,它的基础是用近似次微分映射的求根问题代替凸优化问题,而近似次微分映射是通过在共轭函数的上图上的重复投影来求解的。虽然投影问题在有限时空中不是精确可解的,但它可以通过简单的迭代法近似求解到任意精度,该方法使用epigraph的线性支撑函数。因此,它似乎是有用的研究计算特性的理想化版本的算法时,投影上的epigraph精确计算,以估计这种发展的潜在利益。研究的主要结果是:在一般凸情形下,概念算法具有超线性的收敛速率;当目标函数构成强凸函数的超集时,概念算法的收敛速率为二次收敛;当目标函数具有尖锐的极小值时,概念算法的收敛是有限的.在所有情况下,收敛是全局的,不需要目标的可微性。保留字:凸优化,共轭函数,近似次微分,超线性收敛,平方收敛,有限收敛,投影,上图
2018-01-24 math.OC
Tomographic projection optimization for volumetric additive manufacturing with general band constraint Lp-norm minimization
本文提出一种通用损失函数框架,统一了体积增材制造中三种主要投影优化方案,支持二值/灰度目标及局部公差,并通过参数扫描指导优化参数调整。
2024-09-19 math.OC
Distributed Stochastic Subgradient Projection Algorithms for Convex Optimization
我们考虑一个分布式多智能体网络系统,其目标是最小化受一个共同的凸约束集的代理的凸目标函数的总和。每个代理维护一个重复序列,并将迭代传递给它的邻居。然后,每个代理将接收到的迭代的加权平均值与其自己的迭代次数相结合,并通过使用其自己的函数的次梯度信息(已知具有随机误差)和通过投影到约束集上来调整迭代次数。本文的目的是探讨随机次梯度误差对算法收敛性的影响。我们首先考虑算法的平均行为,然后以概率1和均方收敛。我们认为一般的随机误差,有一致有界的二阶矩,并获得的限制性能的算法,平均递减和非递减步长的界限。当误差的平均值减小时,我们证明了代理之间存在平均共识,并且平均收敛到最优函数值以减小步长。当平均误差足够快地减小时,我们将结果加强到一致性,并且迭代以概率1和均方收敛到最优解。
2008-11-16 math.OC
Frank-Wolfe and friends: a journey into projection-free first-order optimization methods
大约65年前,Marguerite Straus-Frank和Philip Wolfe在一篇开创性的论文中发明了Frank-Wolfe方法,由于数据科学和其他相关应用领域对快速可靠的一阶最优化方法的需求,Frank-Wolfe方法最近获得了显着的复兴。这篇评论试图解释这种方法的成功,说明在广泛的背景下的通用性和适用性,结合帐户的最新进展的变体,这两个令人惊讶的简单的一阶优化的原则,提高了速度和效率。
2021-06-18 math.OC
Projection Algorithms for Finite Sum Constrained Optimization
提出了求解希尔伯特空间中有限族闭凸子集交上有限族凸函数和的并行和循环投影算法。这些算法是预测-校正型的,每个主迭代由次梯度下降过程的内循环和投影步骤组成。我们证明了这些方法的收敛到一个最优解的复合最小化问题的调查假设有界的梯度在迭代的局部函数和步长被适当地选择,在有限维设置。我们还讨论了所提出的算法和我们的技术的概括和局限性。
2019-01-07 math.OC
Communication-Efficient Projection-Free Algorithm for Distributed Optimization
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(乔治亚理工学院H. Milton Stewart工业与系统工程学院);Department of Electrical Engineering, Technion(以色列理工学院电气工程系)
近年来,分布式优化获得了极大的兴趣。本文提出了一种无投影的分布式条件梯度滑动算法(DCGS)。与最先进的分布式Frank-Wolfe算法相比,我们的算法在更现实的假设下达到了相同的通信复杂度。与基于共识的算法相比,DCGS基于原始对偶法,产生模块化分析,可以利用该模块化分析来改善线性预言机的复杂性,只要可以改善集中式Frank-Wolfe算法。我们证明了这一优势,并表明,线性预言复杂性可以降低到几乎相同的数量级的通信复杂性,当可行集是多面体。最后,我们提出了实验结果的套索和矩阵完成,表现出显着的性能改善相比,现有的分布式弗兰克-沃尔夫算法。
2018-05-20 cs.DC cs.LG math.OC
A Busemann hybrid projection-proximal point algorithm for optimization problems on Hadamard manifolds
Deakin University(迪肯大学);Federal University of Goias(戈亚斯联邦大学)
本文提出了一种基于Busemann函数的混合投影-近点算法,用于Hadamard流形上的优化问题,实现了几何内禀的迭代方案并证明了全局收敛性。
2026-01-12 math.OC
Scalable Projection-Free Optimization Methods via MultiRadial Duality Theory
本文提出多径向梯度方法,仅需各约束分别严格可行的点即可使用廉价线搜索,并建立收敛理论,数值实验表明性能与参考点选择无关。
2024-04-29 math.OC
Distributed Projection-free Algorithm for Constrained Aggregative Optimization
本文研究了网络中的一个分布式凸聚合最优化问题,其中每个智能体都有自己的费用函数,该成本函数不仅依赖于它自己的决策变量,而且依赖于所有智能体的决策变量的聚合函数.决策变量被约束在可行集内。为了在每个Agent只知道其局部费用函数的情况下最小化费用函数之和,提出了一种基于梯度跟踪的分布式Frank-Wolfe算法,用于求解每个节点保持两个估计的聚集最优化问题,即Agent的决策变量之和的估计和全局函数梯度的估计.该算法是无投影的,但只涉及解决一个线性最优化得到一个搜索方向在每一步。我们证明了所提出的算法的收敛性凸和光滑的目标函数在一个随时间变化的网络。最后,我们通过数值模拟证明了该算法的收敛性和计算效率。
2022-07-25 cs.MA math.OC
Gradient Projection Newton Pursuit for Sparsity Constrained Optimization
基于硬阈值的算法在控制稀疏性和允许快速计算方面具有稀疏优化的各种优势。最近的研究表明,当牛顿型方法的技术集成,其数值性能可以得到惊人的改善。本文提出了一种梯度投影牛顿追踪算法,该算法主要采用硬阈值算子,仅在满足一定条件时才使用牛顿追踪。该算法能够在标准假设下全局收敛和二次收敛。当涉及到压缩感知问题时,强加的假设比许多最先进的算法要弱得多。此外,大量的数值实验证明了其与其他领先求解器相比的高性能。
2022-06-06 math.OC
Linear convergence of a dual optimization formulation for distributed optimization on directed graphs with unreliable communications
这项工作的基础上,我们最近的工作与定向不可靠的通信图的分布式优化算法。当我们取每个函数的最接近点或当函数光滑时取仿射次量时,我们证明了它的线性收敛。
2018-11-28 math.OC
A low-cost alternating projection approach for a continuous formulation of convex and cardinality constrained optimization
我们考虑凸约束最优化问题,也包括基数约束。基数约束的最优化问题是一类复杂的数学规划问题,通常采用离散最优化的全局优化方法求解。我们假设由凸约束定义的区域可以被写为凸集的有限集合的交集,使得投影到它们中的每一个上是容易且廉价的(例如,盒、超平面或半空间)。利用最近开发的连续重新制定,放松基数约束,我们提出了一个专门的惩罚梯度投影方案结合交替投影的想法来解决这些问题。为了说明组合方案,我们集中在标准的均值方差投资组合最优化问题,我们只能投资于一个预先确定的有限数量的资产。对于这些基数约束的投资组合问题,我们提出了一个数值研究的各种数据集,涉及现实世界的资本市场指数从主要股票市场。在这些数据集上,我们说明了所提出的计划的计算性能,以产生不同的值的有限数量的允许资产的有效边界。
2022-09-06 math.OC
A Projection-Free Method for Solving Convex Bilevel Optimization Problems
针对内层极小值集不显式的凸双层优化问题,提出仅需基域线性优化预言机的无投影方法,证明其内外层收敛速率为O(t^{-1/2}),额外假设下可加速,且通过数值研究验证了性能。
2024-10-09 math.OC
Convex Projection and Convex Multi-Objective Optimization
本文考虑一个称为凸投影的问题,即把一个凸集投影到一个子空间上。我们将证明,对于凸投影,可以分配一个特定的多目标凸优化问题,使得该问题的解也解决了凸投影(反之亦然),这类似于arXiv:1507.00228中考虑的多面体凸情况下的结果。然而,在实践中,人们只能计算(有界或自界)凸情况下的近似解,其在给定的误差容限下解决问题。我们将证明,对于近似解,可以证明类似的连接,但需要调整公差水平。也就是说,凸投影的近似解仅以增加的误差来解决多目标问题。类似地,多目标问题的近似解以增加的误差求解凸投影。在这两种情况下,公差都将与乘数成比例增加。这些乘数推导和尖锐。这些结果允许通过计算相应的多目标凸优化问题的近似解来计算凸投影问题的近似解,其中算法存在于有界情况下。为了完整性,我们还将研究以下结果对凸情形的潜在推广。在arXiv:1507.00228中,已经展示了多面体的情况,如何构造与任何给定的向量线性规划相关联的多面体投影以及如何将它们的解联系起来。这又产生了多面体投影、多目标线性规划和向量线性规划之间的等价性。我们将证明这个结果中只有一部分可以推广到凸情形,并讨论其局限性。
2021-10-15 math.OC
Distributed Interval Optimization with Stochastic Zeroth-order Oracle
本文研究了一个分布式区间最优化问题,该问题是由一组凸区间值目标函数在全局凸约束下的最优化问题构成的,对应于时变网络上的智能体.首先通过标量化将分布区间最优化问题转化为分布约束最优化问题。然后,设计了一个随机零阶算法来求解重构后的分布问题,并证明了其最优解也是分布区间最优化问题的Pareto最优解.此外,我们构造了算法的显式收敛性和期望下的收敛速度。最后通过数值算例说明了该算法的有效性。
2019-04-30 math.OC
A Universal Decomposition for Distributed Optimization Algorithms
在多智能体系统的分布式最优化问题中,每个智能体都知道一个局部函数,必须通过局部梯度估计和与相邻智能体之间的信息通信来找到所有智能体局部函数之和的最小值。我们证明了每个分布式优化算法可以分解为一个集中式最优化方法和一个二阶一致性估计器,有效地分离“优化”和“共识”任务。我们说明了这一事实,提供了许多最近提出的分布式优化算法的分解。相反,我们证明,任何最优化方法,收敛于集中式设置可以结合任何二阶共识估计,形成一个分布式的优化算法,收敛于多智能体设置。最后,我们描述了我们的分解可能会导致一个更系统的算法设计方法。
2022-06-14 math.OC
Distributed consensus on minimum time rendezvous via cyclic alternating projection
School of Automation Science and Electrical Engineering, Beihang University(BUAA)(北京航空航天大学自动化科学与电气工程学院);National Key Laboratory of Science and Technology on Aircraft Control, BUAA(北京航空航天大学飞机控制国家重点实验室)
本文提出分布式算法解决非相同速度约束下平面多车最小时间 rendezvous 问题,通过循环交替投影方法将问题转化为位置-时间空间中求解位置平面与二次锥体交集的距离,并证明车辆仅需邻居信息即可异步应用投影。
2014-06-10 cs.SY eess.SY math.OC
Projection-based curve pattern search for black-box optimization over smooth convex sets
本文提出一种基于曲线的模式搜索算法框架,用于在光滑凸集上优化黑箱函数,证明了算法在光滑问题上的优越性。
2025-11-14 math.OC
Approximate Projection Methods for Decentralized Optimization with Functional Constraints
我们考虑分布式凸优化问题,涉及一个可分离的目标函数和非平凡的功能约束,如线性矩阵不等式(LMI)。我们提出了一个分散的和计算成本低廉的算法,这是基于近似投影的概念。我们的算法是基于共识的方法之一,在每次迭代中,每个代理执行其决策变量的共识更新,然后是其局部目标函数和局部约束的优化步骤。与其他方法不同,我们的方法的最后一步不是在可行集上的欧几里得投影,而是在最小化局部约束违反的方向上的次梯度步骤。我们提出了两种不同的平均方案,以减轻代理人的本地估计之间的分歧。我们表明,算法收敛几乎肯定,即,在假设目标函数和约束函数不可微且其子梯度有界的情况下,每个代理同意相同的最优解。我们提供了一个分散的最佳八卦平均问题,其中涉及SDP约束的模拟结果,以补充我们的理论结果。
2018-01-16 math.OC
A dual ascent algorithm for asynchronous distributed optimization with unreliable directed communications
我们证明了Bof-Carli-Schenato在不可靠通信的有向图上的平均一致性算法具有双重优化解释,该解释可以推广到分布式优化的情况.我们报告我们的数值模拟的分布式优化算法的光滑和非光滑的功能。
2019-02-21 math.OC
Distributed Zero-Order Algorithms for Nonconvex Multi-Agent Optimization
分布式多智能体优化在分布式学习、控制、估计等方面有着广泛的应用。现有的大多数算法假设目标的一阶信息是已知的,并已被分析为凸问题。然而,在某些情况下,目标是非凸的,并且只能在多个点处评估函数值。在本文中,我们考虑非凸多智能体优化的无导数分布式算法,基于零级优化的最新进展。我们开发了两种算法,为不同的设置,提供了详细的分析,他们的收敛行为,并将它们与现有的集中式零级算法和基于梯度的分布式算法进行比较。
2020-06-16 math.OC
Single-Projection Procedure for Infinite Dimensional Convex Optimization Problems
本文研究实 Hilbert 空间中可由单次投影求解的凸优化问题,引入约束集“尖锐性”性质,将已有线性规划结果推广到多解、无严格互补性及非线性凸约束情形,并给出投影成为解所需距离的定量估计。
2024-04-09 math.OC
Sum-Rate Maximization via Convex Optimization Using Subgradient Projections Onto Nonlinear Spectral Radius Constraint Sets
Nagaoka University of Technology(长冈技术科学大学);Fraunhofer Heinrich Hertz Institute(弗劳恩霍夫海因里希赫兹研究所)
本文提出了一种基于子梯度投影的凸优化方法,用于在非线性谱半径约束集上实现总速率最大化,适用于无细胞网络等实际场景。
2026-02-25 math.OC
A Unified Framework for Continuous-time Unconstrained Distributed Optimization
我们介绍了一类分布式非线性控制系统,被称为流量跟踪器动态,它捕捉的现象,其中的平均状态控制的平均控制输入,没有个别代理直接访问这个平均值。智能体通过非线性观测器更新其对平均值的估计。我们证明,利用适当的梯度反馈的任何分布式控制系统,满足这些条件将导致相应的分布式最优化问题的解决方案。我们发现,许多现有的算法解决分布式优化的实例,这种动态,因此,他们的收敛性能可以遵循其属性。从这个意义上说,所提出的方法建立了一个统一的框架,在连续时间的分布式优化。此外,这种提法使我们能够引入一套新的连续时间分布式优化算法,很容易扩展的图论条件下,这种动态收敛。
2022-11-08 math.OC
Distributed Stochastic Nonsmooth Nonconvex Optimization
分布式一致性优化近年来受到了相当大的关注,已经提出了几个分布式的共识为基础的算法(非光滑)凸和(光滑)非凸目标函数。然而,这些分布式算法对{ \it非凸,非光滑和随机}目标函数的行为是不理解的。这类函数和分布式设置的动机是几个应用程序,包括机器学习和信号处理中的问题。本文提出了第一次收敛性分析的分散随机次梯度方法的这类问题,在网络建模为无向,固定,图。
2019-11-03 math.OC
Distributed Aggregative Optimization over Multi-Agent Networks
本文提出了一种新的分布式优化框架,称为分布式聚合优化,它允许本地目标函数不仅依赖于自己的决策变量,但也对所有其他代理的决策变量的可和函数的平均值。针对这一问题,提出并分析了一种分布式梯度跟踪算法(DGT),该算法的全局目标函数是强凸的,通信图是平衡的和强连通的。结果表明,该算法可以以线性速度收敛到最优变量。最后给出了一个数值例子来验证理论结果。
2020-05-27 math.OC
Constrained Nonconvex Stochastic Optimization with One Projection
Columbia University(哥伦比亚大学);Univ Rennes, Ensai, CNRS, CREST–UMR 9194(雷恩大学、ENSAI、法国国家科学研究中心、CREST-UMR 9194);Pennsylvania State University(宾夕法尼亚州立大学)
针对约束非凸随机优化,提出仅需一次投影的惩罚近端方法,达到$\widetilde O(\epsilon^{-4})$随机次梯度复杂度,返回精确可行点并保证平稳性度量。
2026-09-29 math.OC
Proximal Projection Method for Stable Linearly Constrained Optimization
针对大规模数据集下带线性约束的可近端凸函数最小化问题,提出每步迭代均可行的近端投影算法,证明其收敛性,实验显示其在多类优化问题上表现优于或匹敌现有主流方法。
2024-12-09 math.OC
Distributed Optimization Method Based On Optimal Control
本文提出一种基于最优控制的分布式优化框架,将优化问题转化为最优控制问题,利用最大值原理设计算法,并严格分析了收敛性与超线性收敛速度。
2025-03-31 math.OC
Distributed Constrained Optimization with Delayed Subgradient Information over Time-Varying Network under Adaptive Quantization
本文研究了时变通信网络中具有延迟次梯度信息的分布式约束最优化问题,其中每个智能体只能与其邻居通信,通信信道具有有限的数据速率.我们提出了一种自适应量化方法来解决这个问题。基于Bregman发散理论,建立了一种带延迟次梯度信息的镜像下降算法。该方法采用非欧几里德Bregman投影算法,从本质上推广了许多经典的基于欧几里德投影的分布式算法。通过所提出的自适应量化方法,可以获得无任何量化误差的最优值。对算法的收敛性进行了综合分析,结果表明,在适当的条件下,可以得到最优的收敛速度$O(1/\sqrt{T})$。最后,数值例子证明了我们的算法和理论结果的有效性。
2021-06-15 math.OC
An Adaptive Parameter-free and Projection-free Restarting Level Set Method for Constrained Convex Optimization Under the Error Bound Condition
针对约束凸优化,提出一种基于无投影次梯度的无参数水平集方法,通过动态重启各水平参数副本以适配误差界条件,实现加速收敛,数值实验优于基准方法。
2025-10-15 math.OC
Cybersecurity in Distributed and Fully-Decentralized Optimization: Distortions, Noise Injection, and ADMM
随着机器学习、智能电网调度和物联网协调问题的增长,分布式和完全分散的最优化模型因向优化工具提供计算可扩展性而受到关注。然而,在消费者设备被信任用作分布式计算节点的应用中,受损设备可能会将优化算法暴露于先前文献中尚未研究的网络安全威胁。本文研究了广义分布式最优化问题的潜在攻击向量,重点是交替方向法的乘法器(ADMM),一个流行的凸优化的工具。ADMM问题中的检测和减轻攻击的方法进行了描述,并通过仿真证明了所提出的模型的有效性。完全分散的优化方案,其中节点直接与邻居进行通信,证明了弱点,并讨论了一些潜在的架构,为这些网络提供安全性。
2018-05-28 math.OC
Fast Algorithms for Distributed Optimization and Hypothesis Testing: A Tutorial
我们考虑分布优化和假设检验领域中的几个问题。我们展示了如何获得这些问题的收敛时间,规模与网络中的节点总数线性使用最近的线性时间算法的平均共识问题。
2017-05-22 math.OC
Distributed Optimization Over Dependent Random Networks
研究了随机网络上基于平均的分布式优化求解器。我们展示了一个一般性的结果,这样的计划使用的权重矩阵,行随机几乎肯定和列随机的期望为一个广泛的依赖权重矩阵序列的收敛性。除了暗示许多以前已知的结果在这个域上,我们的工作表明分布式优化结果的鲁棒性链路故障。同时,它也为分布式优化算法的综合提供了一种新的工具。{To证明了我们的主要定理,我们建立了新的结果的收敛速率分析的平均动态(相依)随机网络。这些次要的结果,以及所需的鞅型的结果,以建立他们,可能会感兴趣的更广泛的研究努力,在分布式计算随机网络。
2020-10-05 math.OC
Convexification with bounded gap for randomly projected quadratic optimization
基于Johnson-Lindenstrauss引理的随机投影技术用于随机聚集最优化问题的约束或变量,同时近似保持其最优值,从而导致较小规模的最优化问题。D 'Ambrosio等人将随机投影应用于二次最优化问题,以减少决策变量的数量。虽然问题规模变小了,但如果原始问题是非凸的,那么投影问题几乎肯定也是非凸的,因此很难解决。本文针对非凸二次最优化问题的非凸性可以通过随机投影得到缓解这一事实,通过将其归结为一个较小规模的凸问题,找到了该问题的近似全局最优值.据我们所知,我们的论文是第一个将随机投影用于非凸优化问题的凸化。本文研究了一类非凸优化问题的最优解与其凸化随机投影问题的最优解之间的逼近误差。
2021-07-12 math.OC
Distributed Continuous-time Approximate Projection Protocols for Shortest Distance Optimization Problems
本文研究了多智能体网络中分布式最短距离优化问题,提出基于近似投影的连续时间动态协议以解决投影不确定性问题,并分别给出了非空交集和空交集情况下保证最优收敛的步长和近似角条件。
2016-02-03 cs.SY eess.SY math.OC
Distributed Mirror Descent Algorithm with Bregman Damping for Nonsmooth Constrained Optimization
为了有效地解决分布式优化与各种约束和非光滑函数,我们提出了一个分布式镜像下降算法嵌入Bregman阻尼,作为传统的分布式投影算法的推广。事实上,我们的连续时间算法很好地继承了镜像下降方法的良好性能,可以快速计算具有某些特定约束结构的问题的显式解。此外,我们严格证明了我们的算法的收敛性,以及轨迹的有界性和解决方案的准确性。
2021-08-27 math.OC
Towards Online Optimization for Power Grids
在本说明中,我们讨论了扩展分布式优化框架的潜在优势,以增强对电网运营商管理大量在线顺序决策的支持。首先,我们回顾了最先进的电力系统分布式优化框架,并解释了分布式算法如何提供可扩展的解决方案。接下来,我们将介绍在线优化的关键概念和范例,并提出一个分布式在线优化框架,突出重要的性能特征。最后,我们讨论了离线和在线分布式优化之间的联系和区别,展示了这种优化技术对电网应用的适用性。
2021-09-26 math.OC
Bilevel Distributed Optimization in Directed Networks
在无线传感器网络和大规模数据处理的新兴应用的动机,我们认为分布式优化有向网络中的代理本地通信他们的信息,他们的邻居合作最小化的全球费用函数。本文提出了一个新的统一的分布式约束最优化模型,它被描述为一个双层最优化问题。该模型涵盖了有向网络上广泛的现有问题,包括:(i)线性约束的分布式优化;(ii)有向网络上的分布式无约束非强凸优化。采用一种新的正则化松弛方法和梯度跟踪计划,我们开发了一个迭代正则化推挽梯度算法。我们建立了共识,并得出新的收敛速度报表的次优和不可行的生成的迭代求解双层模型。所提出的算法和在这项工作中获得的复杂性分析似乎是新的解决双层模型,也为两个子类的问题。所提出的算法的数值性能。
2021-03-19 math.OC
Solving specified-time distributed optimization problem via sampled-data-based algorithm
尽管多智能体网络的分布式连续时间优化取得了显著的进展,但仍然缺乏一种有效的算法来实现在预定时间的分布式优化的目标。在这里,我们设计了一个指定时间的分布式优化算法连接代理与有向拓扑集体最小化的总和受等式约束的个别目标函数。该算法可以精确地确定分布式优化的调整时间。这种稳定时间的指定选择不仅与代理的初始条件无关,而且与算法参数和通信拓扑无关。该算法仅在离散采样时刻进行邻居间信息交换,从而实现指定时间的优化,减少了通信负担。此外,该算法在整个求解过程中始终满足等式约束,适用于在线求解经济调度等分布式最优化问题。对于无向通信拓扑的特殊情况,还设计了一种降阶算法。最后,通过数值模拟验证了理论分析的有效性。
2021-06-22 math.OC
Resilient Distributed Optimization Algorithms for Resource Allocation
分布式算法为资源分配问题提供了优于集中式算法的灵活性,例如,网络物理系统然而,这些算法的分布式性质往往使系统容易受到中间人攻击,特别是当消息之间的价格采取代理和中央协调员传输。在原对偶分布式优化框架下,提出了一种分布式算法的弹性策略。我们制定了一个强大的最优化模型,占拜占庭攻击代理和协调员之间的通信渠道。我们提出了一个弹性的原始对偶法使用国家的最先进的强大的统计方法。该算法收敛到鲁棒最优化模型的一个邻域,该邻域的半径与受攻击信道的比例成正比。
2019-09-10 math.OC
Distributed Continuous-Time Optimization with Time-Varying Objective Functions and Inequality Constraints
研究了具有时变目标函数和时变非线性不等式约束约束的分布式连续时间最优化问题。与大多数具有时不变目标函数和约束条件的分布式最优化问题不同,本文的最优解是时变的,并形成一条轨迹。为了最小化全局时变目标函数受时变局部约束函数,仅使用局部信息和局部相互作用,我们提出了一种分布式控制算法,由一个滑模部分和基于Hessian的优化部分。在适当的假设条件下,研究了算法对最优解的渐近收敛性。通过仿真实例验证了该方案的有效性。
2020-09-04 math.OC
Dynamic Regret of Distributed Online Frank-Wolfe Convex Optimization
本文研究了分布式在线凸约束优化问题,在该问题中,多智能体系统中的多个智能体通过与时变网络中的邻居进行通信来协作以最小化全局费用函数。当最优化问题的约束集是高维的、复杂的时,投影运算的计算量往往变得令人望而却步。为了解决这个问题,我们开发了一个分布式的在线Frank-Wolfe优化算法结合梯度跟踪技术。我们严格建立动态遗憾界的建议优化算法为$\mathcal{O}(\sqrt{T(1+H_T)}+D_T)$,这显式地依赖于迭代轮$T$,功能变化$H_T$,和梯度变化$D_T$。最后,在分布式在线岭回归问题的情况下,对理论结果进行了验证和比较。
2023-02-01 math.OC
Time Distributed Optimization for Model Predictive Control: Stability, Robustness, and Constraint Satisfaction
时间分布优化是一种利用模型预测控制对不完全优化的鲁棒性,显著降低模型预测控制计算量的实现策略。当使用该策略时,通过维护最优控制问题的运行解估计并在每个采样时刻更新它,优化迭代随时间分布。所得到的控制器可以被看作是一个动态补偿器,它被放置在闭环与植物。本文提出了一个通用的时间分布优化系统理论分析框架。利用输入-状态稳定性概念分析了耦合的工厂-优化器系统,并导出了稳定性和约束满足的充分条件。当应用于时间分布序列二次规划,该框架显着扩展了现有的理论分析的实时迭代计划。数值模拟证明了该方案的有效性。
2019-10-27 math.OC