Consensus-Based Optimization for Multi-Objective Problems: A Multi-Swarm Approach
提出了一种基于遗传算法的最优化方法(CBO)的多群算法来逼近一般多目标最优化问题的Pareto前沿。该算法的动机是一步一步从一个单扩张的CBO的基础上固定的标量权重。为了克服选择权重的问题,我们在第二建模步骤中提出了自适应权重策略。建模过程的结论与合并的惩罚策略,避免集群沿帕累托前和扩散项,防止崩溃群。总之,建议的$K$ -群CBO算法是专为不同的近似帕累托前沿,同时,有效的一般非凸多目标问题。该方法的可行性是合理的分析结果,包括收敛性证明,和性能比较,著名的非支配排序遗传算法(NSGA 2)和最近提出的一群方法的多目标问题,涉及基于遗传算法的优化。
2022-11-28 math.OC
An adaptive consensus based method for multi-objective optimization with uniform Pareto front approximation
在这项工作中,我们感兴趣的随机粒子方法的多目标最优化。该问题是制定使用参数化,单目标的子问题,同时解决。为此,提出了一种基于共识的多目标最优化方法的搜索空间结合一个额外的启发式策略,以适应在计算过程中的参数。自适应策略的目的是通过使用基于能量的措施来量化系统的多样性,均匀分布的粒子在图像空间。由此产生的元启发式算法进行了数学分析,使用平均场近似和收敛保证对最佳点的严格证明。此外,揭示和分析了自适应方法在参数空间中的梯度流结构。几个数值实验表明所提出的随机粒子动力学的有效性,并说明了理论研究结果。
2022-08-02 math.OC
Consensus-ADMM for General Quadratically Constrained Quadratic Programming
非凸二次约束二次规划(QCQP)问题在信号处理、机器学习和无线通信中有着广泛的应用,尽管一般的QCQP是NP难的,并且一些有趣的特殊情况也是NP难的。本文提出了一种新的通用QCQP算法。该问题首先被重新表述为共识优化形式,其中的交替方向法的乘法器(ADMM)可以应用。重新制定是这样一种方式,每个子问题是一个QCQP只有一个约束(QCQP-1),这是有效地解决(非)凸性无关。核心组件经过精心设计,使整个算法更具可扩展性,包括求解QCQP-1的有效方法,内存高效实现,并行/分布式实现和智能初始化。该算法,然后在两个应用程序中进行测试:多播波束形成和相位检索。结果表明优于现有技术的方法的性能。
2016-07-07 math.OC
Distributed velocity-constrained consensus of discrete-time multi-agent systems with nonconvex constraints, switching topologies, and delays
本文研究了离散时间多智能体系统的分布式速度约束一致性问题,其中每个智能体的速度被约束为位于一个非凸集内。提出了一种分布式约束控制算法,使所有的代理收敛到一个共同点,只使用本地信息。{The所有代理的算法增益不需要是相同的或预先设计的,并且可以由每个代理自身基于其自己的和邻居的信息来调整。研究表明,只要通信图的并集在每个特定的时间间隔内具有有向生成树,该算法对任意有界的通信时延和任意切换的通信图具有鲁棒性.分析方法是基于多种新的模型转换,适当的控制参数的选择,状态相关的随机阵的有界性分析,开发的凸性随机阵,和联合连通的通信图。数值例子来说明理论结果。
2020-03-04 math.OC
Lyapunov Approach to Consensus Problems
本文研究了无约束和有约束一致性问题的加权平均动态。通过使用适当定义的伴随动态,二次李雅普诺夫比较函数构造的加权平均动态的行为进行分析。结果,获得了新的收敛速度结果,其以新颖的方式捕获图形结构。特别地,建立了指数收敛速度与$1-O(1/(m\log_2m))$的顺序的指数的无约束共识。同时,建立了约束一致性的指数收敛速度,推广了现有的结果仅限于使用双随机权矩阵。
2014-07-28 math.OC
Constrained H-infinity Consensus with Nonidentical Constraints
本文研究了具有不同约束集的多智能体网络的约束H ∞一致性问题。采用一种改进的分布式算法,并定义了一个非线性控制输出函数来评估扰动的影响。然后证明了当某个线性矩阵不等式有正解时,约束H_∞一致性是可以实现的。
2020-12-05 cs.SY eess.SY math.OC
A discrete Consensus-Based Global Optimization Method with Noisy Objective Function
本文将离散时间CBO方法的收敛性分析扩展到目标函数仅能计算带噪声随机估计量的情况,证明在有限次迭代中粒子到解的均方距离期望可任意小,并通过数值实验展示噪声影响。
2025-04-03 math.OC
Resilient Constrained Consensus over Complete Graphs via Feasibility Redundancy
本文研究了弹性高维约束一致性问题,并研究了完全图的弹性分布式算法。对于具有单例交集的凸约束集,给出了在Byzantine代理存在下,以指数速度达到期望一致的可行冗余和集正则性充分条件,该条件可直接应用于多面体集.给出了弹性约束一致性问题可解的可行性冗余必要条件。
2022-03-26 cs.SY eess.SY math.OC
Quantized Consensus ADMM for Multi-Agent Distributed Optimization
网络上的多智能体分布式优化仅使用局部计算和通信来最小化由局部凸函数的和形成的全局目标。我们开发和分析了一个量化的分布式算法的基础上的交替方向法的乘法器(ADMM)时,代理间的通信受到有限的容量和其他实际约束。虽然现有的量化ADMM方法只适用于二次局部目标,所提出的算法可以处理更一般的目标函数(可能是非光滑的),包括LASSO。在一定的凸性假设下,我们的算法收敛到一个共识内$\log_{1+η}Ω$迭代,其中$η>0$依赖于本地目标和网络拓扑结构,和$Ω$是一个多项式确定的量化分辨率,初始和最佳变量值之间的距离,本地目标函数和网络拓扑结构。一致性误差的紧上界也得到了不依赖于网络的大小。
2015-10-29 math.OC
Multi-agent constrained optimization of a strongly convex function over time-varying directed networks
我们认为合作的多智能体共识最优化问题在静态和时变通信网络,只允许本地通信。我们的目标是最小化代理特定的私人圆锥约束集上的代理特定的可能非光滑的复合凸函数的总和,因此,最佳的共识决策应该位于这些私人集合的交集。假设和函数是强凸的,我们提供了收敛速度在次优,不可行性和共识违反,检查底层网络拓扑结构的影响上的收敛速度的建议分散算法。
2017-06-24 math.OC
An Accelerated Asynchronous Distributed Method for Convex Constrained Optimization Problems
考虑了一类带有局部非线性凸约束的多智能体协作共识最优化问题,其中只有通过边连接的智能体可以直接通信,因此最优共识决策位于这些私有集的交集中.我们开发了一个异步分布式加速原始对偶法来解决所考虑的问题。该计划是第一个异步方法,这类问题的最佳收敛保证,据我们所知。特别是,我们提供了一个最佳的收敛速度的$\mathcal{O(1/K)}$次优,不可行性,共识违反。
2023-02-21 math.OC
Decentralized Consensus Algorithm with Delayed and Stochastic Gradients
我们分析了具有延迟梯度信息的分散一致性算法的收敛性。网络中的节点私有地持有部分目标函数,并且协作地求解总目标的共识最优解,而它们只能与它们的直接邻居通信。在现实世界的网络中,通常很难甚至不可能同步节点,因此它们在计算过程中必须使用陈旧的梯度信息。我们证明了,只要随机时滞在期望上有界,并采用适当的减小步长策略,分散梯度下降法产生的迭代收敛到一个一致的最优解.推导了目标和共识的收敛速度。一些合成的问题和真实世界的地震层析成像数据集在分散的传感器网络的数值结果显示该方法的性能。
2018-01-16 math.OC
A primal-dual method for conic constrained distributed optimization problems
我们认为合作的多智能体共识最优化问题在一个无向网络的代理,只有那些代理连接的边缘可以直接沟通。目标是最小化代理特定的复合凸函数的总和在代理特定的私人圆锥约束集,因此,最佳的共识决策应该在于这些私人集的交集。我们提供的收敛速度都在次优,不可行性和共识违反;检查底层网络拓扑结构的影响,建议分散算法的收敛速度;并展示如何扩展这些方法来处理时变通信网络和解决问题的资源共享的限制。
2016-07-08 math.OC
On the Linear Convergence of the ADMM in Decentralized Consensus Optimization
在分散式共识优化中,连接的代理网络协作地最小化它们在公共决策变量上的局部目标函数的和,其中它们的信息交换在邻居之间受到限制。为此,可以首先获得问题的重新表述,然后应用乘子的交替方向法(ADMM)。该方法采用迭代计算在各个代理和邻居之间的信息交换。据观察,这种方法收敛迅速,被认为是强大的。本文对具有强凸局部目标函数的分散一致最优化问题建立了它的线性收敛速率。根据网络拓扑结构、局部目标函数的性质和算法参数,给出了算法的理论收敛速度。这一结果不仅是性能保证,也是加快ADMM收敛的指导方针。
2014-11-30 math.OC
Constrained Consensus-Based Optimization and Numerical Heuristics for the Few Particle Regime
本文提出了一种改进的CBO算法,通过自适应区域控制和几何特定噪声,解决了少数粒子 regime 中的收敛问题,并应用于约束p-Allen-Cahn问题的全局极小值计算。
2026-01-12 math.OC
Distributed constrained optimization and consensus in uncertain networks via proximal minimization
我们提供了一个统一的框架,分布式凸优化随时间变化的网络,在约束和不确定性的存在下,功能,通常在文献中单独处理。我们采用了近端最小化的角度来看,这种设置使我们能够绕过现有算法的困难,同时简化了底层的数学分析。我们开发了一个迭代算法,并显示收敛的结果计划的一些优化集中的问题。为了处理的情况下,代理人的约束集的影响,可能是共同的不确定性向量,我们遵循一个基于EQUIPO的方法,并提供概率保证所得到的解决方案的可行性。为此,我们提供了一个分布式实现的情况下的方法,允许代理使用不同的一组不确定性的情况下,在他们的局部最优化程序。我们的算法的有效性证明了通过一个数值例子相关的回归问题的正则化。
2017-05-23 math.OC
Exploiting Structure with Anisotropic Consensus-Based Optimization
RWTH Aachen University(亚琛工业大学);University of Oxford(牛津大学);University of Ferrara(费拉拉大学)
研究基于各向异性共识的优化方法(CBO),该方法能利用高维目标函数可加分离结构减轻维度诅咒。证明其计算复杂度仅指数依赖内在维度\(\mathbf{d}\),数值实验验证理论结果,突出相关因素对算法性能和复杂度的影响。
2026-07-14 math.OC
Constrained Optimal Consensus in Dynamical Networks
研究了单积分个体网络中具有局部不等式约束的最优一致性问题。目标是使一组单积分器在局部凸目标函数之和的最优点处交会。局部目标函数仅对相应的代理可用,这些代理仅需要知道它们与它们的邻居的相对距离以寻求最终的最优点。这一点被认为是由一些局部不等式约束。为了解决这个问题,我们将原始对偶基于梯度的优化算法与共识协议相结合,以驱动代理向满足KKT条件的商定点移动。利用LaSalle关于混杂系统的不变原理证明了该最优化问题解的渐近收敛。最后给出了一个数值例子来说明该协议的有效性.
2018-03-13 math.DS math.OC
Robust Constrained Consensus and Inequality-constrained Distributed Optimization with Guaranteed Differential Privacy and Accurate Convergence
本文协同设计分布式优化与差分隐私噪声机制,提出可在无限迭代下保证精确收敛和 ε-差分隐私的不等式约束优化算法,并给出隐私约束一致性算法。
2024-04-02 cs.SY eess.SY math.OC
CADMM-Prox: A Bi-level Consensus ADMM for Non-smooth Non-convex Distributed Consensus Optimization
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);North China University of Water Resources and Electric Power(华北水利水电大学);KTH Royal Institute of Technology(皇家理工学院)
研究非光滑非凸分布式优化问题,提出CADMM-Prox算法,它结合经典共识ADMM与近端机制,在局部目标函数半凸假设下可全局收敛至克拉克驻点邻域,相位检索实验显示其收敛行为更稳定。
2026-07-21 math.OC
A Decentralized Primal-dual Method for Constrained Minimization of a Strongly Convex Function
我们提出了分散的原始-对偶方法的合作多智能体共识最优化问题在静态和时变通信网络,只允许本地通信。其目标是最小化圆锥约束集上的代理特定的凸函数的总和,因此,最佳的共识决策应该位于这些私人集的交集。在强凸性假设下,我们提供了次优,不可行性和共识违反所需的通信数量方面的收敛速度;检查底层网络拓扑结构对收敛速度的影响。
2022-02-21 math.OC
Budget-Constrained Multi-Consensus Decentralized Gradient Descent
Linköping University(林雪平大学);Arizona State University(亚利桑那州立大学)
本文提出多共识分布式梯度下降(mcDGD)方案,在预算约束下通过优化共识轮数与步长分配,实现通信与计算资源的高效利用,并证明均等分配共识轮数在步长规则下最优。
2026-10-07 cs.SY eess.SY math.OC
A consensus-based optimization method for nonsmooth nonconvex programs with approximated gradient descent scheme
本文针对非光滑非凸无约束优化问题,提出结合前向差分近似梯度下降的离散CBO算法,证明其指数速率全局共识等理论性质,通过实验验证了方法的效率与性能。
2025-01-15 math.OC
A Unified Dual Consensus Approach to Distributed Optimization with Globally-Coupled Constraints
针对含非线性不等式、仿射等式且可行域可能无界的全局耦合约束分布式凸优化,提出统一框架 DUCA 与 Pro-DUCA,实现 O(1/k) 收敛并优于现有方法。
2025-03-13 math.OC
Robust Consensus in Distributed Networks using Total Variation
考虑一个连接网络的代理赋予本地费用函数代表私人目标。代理人试图找到一个协议的一些最小化的总成本,通过邻居之间的重复通信。网络上的平均共识,通常由八卦算法解决,是这个问题的一个特殊例子,对应于二次私人目标。关于中位数的共识,或者更一般的分位数,也是一个特殊的例子,因为有更多的共识问题。在本文中,我们表明,优化的总费用函数正则化的全变差条款有吸引力的性质。首先,它可以非常自然地以分布式方式完成,从而产生在数值模拟上有效的算法。其次,正则化成本的最优值也是初始总费用函数的最优值,其假设是简单的状态和易于验证的。最后,这些算法对不可靠的代理保持鲁棒性,这些代理不断在网络中注入一些假值。这是值得注意的,而不是这种情况,例如,八卦算法,完全由不可靠的代理人统治,如论文中所详述的。
2013-09-27 math.OC
Smoothing Iterative Consensus-based Optimization Algorithm for Nonsmooth Nonconvex Optimization Problems with Global Optimality
针对无约束非光滑非凸优化的全局极小值求解问题,结合平滑与共识优化方法提出新型SICBO算法,证明其指数收敛性与全局最优性理论保证,且适用于非利普希茨连续情形,数值实验验证了算法有效性。
2025-01-13 math.OC
Non-Ergodic Convergence Algorithms for Distributed Consensus and Coupling-Constrained Optimization
本文提出非平稳收敛算法用于分布式共识与耦合约束优化,通过线性化乘子法实现非平稳次线性收敛速率,并在经济调度问题中验证了算法的有效性。
2025-11-24 cs.MA cs.SY eess.SY
Decentralized Proximal Optimization Method with Consensus Procedure
针对分散复合优化问题,提出基于加速近向梯度下降并在计算间进行多次共识迭代的方法,证明共识过程适用于复合优化且结构分析简单。
2023-04-07 math.OC
Distributed and Constrained $ \mathcal{H}_2 $ Control Design via System Level Synthesis and Dual Consensus ADMM
设计最优的分布线性反馈控制器以达到期望的聚集行为,同时满足状态和输入约束,在许多应用中是一个具有挑战性但重要的问题。系统级综合是一种新的技术,它已被用来重新参数化的最优控制问题作为一个凸规划。先前关于具有状态和输入约束的系统级合成的工作包括闭环有限冲激响应和局部约束,或者在使用单极点近似解除这些约束的情况下,仅考虑集中式设计。然而,闭环有限冲激响应和局部约束在许多应用中不能满足。此外,使用单极点近似的集中式设计缺乏对通信故障和干扰的鲁棒性,具有高计算成本,并且不保护本地控制器的数据隐私。这项工作的主要贡献是开发一个分布式的解决方案,系统级的合成与单极点近似,以将状态和输入约束,而无需闭环有限冲激响应或局部约束,并在分布式实现。为了实现这一点,它首先表明,这个问题的对偶是一个分布式的共识问题。在此基础上,提出了一种基于乘子的交替方向法求解对偶问题的算法,并给出了收敛性证明。最后,该方法的性能证明了分布式能源的控制设计,共同提供稳定服务的电网的测试案例。
2022-11-04 math.OC
Trends in Consensus-based optimization
在本章中,我们将概述基于共识的全局优化算法及其最近的变体。我们回顾了原始模型的公式和分析结果,然后我们讨论了使用分量独立或共同噪声的变体。结合小批量方法,这些变体是为机器学习应用定制的。此外,它证明了分析估计是维数无关的,这是有用的高维问题。我们讨论了基于共识的优化与粒子群优化的关系,粒子群优化是一种广泛应用于工程界的方法。然后,我们调查了一个变种的共识为基础的优化,提出了全球最优化问题约束超曲面。我们结束了本章的应用程序,预印本和开放的问题的意见。
2021-04-03 math.OC
An exponentially stable discrete-time primal-dual algorithm for distributed constrained optimization
本文通过融合Arrow-Hurwicz-Uzawa原始-对偶梯度法与Wang-Elia方法,提出一种分布式约束优化算法,并利用时间尺度分离、Lyapunov理论和小增益原理证明其半全局指数稳定性与线性收敛性。
2025-03-09 math.OC
A Smoothing Consensus-Based Optimization Algorithm for Nonsmooth Nonconvex Optimization
针对传统基于共识的优化算法收敛分析受限于光滑目标函数的问题,提出结合平滑方法的新型CBO算法,可求解非凸非光滑非利普希茨连续最小化问题,给出理论分析与误差估计,并通过数值实验验证其性能。
2025-01-12 math.OC
Consensus-based optimization for linearly separable functions
TUM School of Computation, Information and Technology(慕尼黑工业大学计算、信息和技术学院);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
针对各向异性CBO仅在可分目标函数上表现良好、微小坐标旋转即会严重降效的问题,提出重参数化方案估计线性变换坐标并应用CBO,提升了高维优化性能。
2026-09-02 math.OC
An interacting particle consensus method for constrained global optimization
University of Oxford(牛津大学);Shanghai Jiao Tong University(上海交通大学);University of California, San Diego(加州大学圣迭戈分校);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出了一种基于粒子的优化方法,用于解决具有等式约束的最小化问题,尤其适用于损失函数非可导或非凸的情况。方法结合了共识优化算法和新引入的约束集导向项,并通过数值实验验证了其有效性。
2026-09-26 cs.NA math.AP math.NA
Consensus-based algorithms for stochastic optimization problems
本文提出基于共识的随机优化算法,通过均场近似分析并验证了算法的有效性及收敛性。
2025-11-21 math.OC
Is Consensus Acceleration Possible in Decentralized Optimization over Slowly Time-Varying Networks?
我们考虑分散最优化问题,其中一个目的是最小化的凸光滑目标函数分布在网络中的节点之间的总和。网络中的链接可能会随时发生变化。对于任意变化量的设置,较低的复杂度界限和相应的最优算法是已知的,并且共识加速是不可能的。然而,在实践中,网络变化的幅度可能是有限的。我们得出较低的通信复杂性界限的几个制度的速度网络的变化。此外,我们展示了如何使用特定的共识算法来获得某一类时变图的加速通信速率。
2023-01-27 math.OC
Extended Zero-Gradient-Sum Approach for Constrained Distributed Optimization with Free Initialization
针对自由初始化的约束分布式优化,提出扩展零梯度和 EZGS 方法及基于 Newton 的连续时间算法,支持多种时间收敛并以障碍法处理不等式约束。
2024-06-03 math.OC
Fast and robust consensus-based optimization via optimal feedback control
本文提出 controlled-CBO,利用 HJB 方程数值近似的梯度作为反馈控制,在无目标导数的情况下增强多维非凸 CBO 的全局收敛性,并在少粒子和初值不佳场景中显著优于标准方法。
2025-07-27 math.OC
Distributed Stochastic Nonsmooth Nonconvex Optimization
分布式一致性优化近年来受到了相当大的关注,已经提出了几个分布式的共识为基础的算法(非光滑)凸和(光滑)非凸目标函数。然而,这些分布式算法对{ \it非凸,非光滑和随机}目标函数的行为是不理解的。这类函数和分布式设置的动机是几个应用程序,包括机器学习和信号处理中的问题。本文提出了第一次收敛性分析的分散随机次梯度方法的这类问题,在网络建模为无向,固定,图。
2019-11-03 math.OC
H_inf Consensus of nonlinear complex multi-agent systems using dynamic output feedback controller: An LMI approach
研究了一类非线性复杂多智能体系统基于固定阶非脆弱动态输出反馈控制器的一致性控制问题。该方案是分散的,在这个意义上,每个代理依赖于相邻代理之间的相对输出信息。基于共识的控制器的设计,以尽量减少代理的非线性项以及外部干扰的影响。通过适当的变换,将一致性问题转化为等价增广系统的镇定问题,利用李雅普诺夫稳定性定理得到未知的控制器参数,从而保证一致性的同时获得所考虑的控制目标.最后,为了证明所提出的算法的有效性,并与类似的早期研究进行了比较,一个由单连杆柔性机械臂组成的多智能体系统的数值例子。
2015-01-20 math.OC
Decentralized Inexact Cubic Newton Method with Consensus Procedure
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学);Moscow Independent Research Institute of Artificial Intelligence(莫斯科独立人工智能研究院);Trusted AI Research Center, RAS(俄罗斯科学院可信人工智能研究中心);Innopolis University(因诺波利斯大学)
本文研究了去中心化的二次优化问题,提出了一种适用于凸优化的去中心化三次牛顿方法,并开发了能够准确跟踪共识和局部迭代不一致性的理论。该方法在L1梯度光滑性和L2Hessian Lipschitz连续性假设下,与精确三次牛顿方法具有相同的迭代复杂度,并通过额外的多项式对数通信轮次开销达到所需的共识精度。此外,还提出了适用于强凸目标的加速去中心化三次牛顿方法,其迭代复杂度与精确加速三次牛顿方法一致。最后,尽管通用方法需要交换完整的d×dHessian矩阵,但通过仅传输向量的方式实现了在高维情况下更实用的实现。
2026-05-21 math.OC
Exact Decentralized Optimization via Explicit $\ell_1$ Consensus Penalties
DP²G通过显式ℓ₁惩罚实现精确去中心化优化,兼具快速收敛与高效通信,适用于复合目标。
2025-11-29 math.OC
Distributed Optimal Consensus of Nonlinear Multi-Agent Systems
College of Electrical Engineering and Automation, Shandong University of Science and Technology(山东科技大学电气工程学院);School of Control Science and Engineering, Shandong University(山东大学控制科学与工程学院)
本文研究了非线性多智能体系统的最优一致性问题,提出基于最优控制原理的分布式最优一致性算法,并在模型预测控制框架下开发了两种增强算法,证明了算法的收敛性和超线性收敛速度。
2026-04-05 math.OC
Helper and Equivalent Objectives: An Efficient Approach to Constrained Optimisation
在过去的二十年里,许多多目标进化算法被设计用于约束优化。这些算法背后的思想是将约束优化问题转化为没有任何约束的多目标优化问题,然后求解它们。在本文中,我们提出了一个新的多目标约束优化方法,它的工作原理是将一个约束优化问题转化为一个问题的助手和等价的目标。等价目标意味着它的最优解集与约束问题的最优解集相同,而辅助目标则不同。然后,这个多目标优化问题分解成一组子问题,使用加权和的方法。权重是动态调整,使每个子问题最终倾向于一个问题的等效目标。本文从理论上分析了“宽间隙”问题的辅助算法和等价目标算法的计算时间。在“宽间隙”问题中,算法需要指数时间来跨越两个适应度水平(宽间隙)。我们证明了使用辅助目标和等价目标可以缩短跨越“宽间隙”的时间。我们进行了一个案例研究来验证我们的方法。实现了一种具有辅助目标和等价目标的算法。实验结果表明,在IEEE CEC2017基准测试中,与其他8种最先进的进化算法相比,该算法在约束优化中的整体性能排名第一。
2020-03-22 math.OC
Decentralized Resource Allocation via Dual Consensus ADMM
我们考虑一个无向网络的代理,网络的边缘定义的通信链路的资源分配问题。目标是最小化特定于代理的凸目标函数的总和,而代理的决策通过凸圆锥约束耦合。我们推导出两种方法,通过应用交替方向法的乘法器(ADMM)分散共识优化我们的资源分配问题的对偶。这两种方法都是完全并行和分散的,在这个意义上,每个代理只与网络中的邻居交换信息,只需要自己的数据来更新决策。我们证明了所提出的方法的收敛性,并证明了它们的有效性与数值例子。
2019-03-04 math.OC
Consensus-based Optimization and Ensemble Kalman Inversion for Global Optimization Problems with Constraints
我们介绍了一种实用的方法,将平等和不等式约束的基础上随机相互作用粒子系统的全局最优化方法,特别是基于共识的优化(CBO)和集合卡尔曼反演(EKI)。与文献中的其他方法不同,我们提出的方法并不约束的动态的状态空间的可行域在任何时候,粒子在整个空间中的演变,但被吸引到可行集的惩罚项添加到目标函数的装置,在CBO的情况下,一个额外的松弛漂移。我们研究了该方法的性质,通过相关的平均场Fokker-Planck方程,并证明其性能在几个测试问题的数值实验。
2021-11-04 math.OC
A Consensus-based optimization algorithm using Gaussian processes for global optimization problems in Sobolev spaces
University of Wuppertal(伍珀塔尔大学)
本文提出一种基于高斯过程的共识优化算法,用于Sobolev空间中的全局优化问题,通过高斯过程工具生成满足初始值、边界条件或状态约束的样本函数,并展示其在非线性边界值问题和最优控制问题中的有效性。
2026-03-16 math.OC
A Fully-Distributed Asynchronous Approach for Multi-Area Coordinated Network-Constrained Unit Commitment
提出一种基于共识的交替方向法(ADMM)分布式求解多区域协调网络约束机组组合问题。由于政治和技术上的困难,以集中方式解决多地区协调问题既不实际也不可行,因为集中方式需要充分获得各个地区的所有数据。相比之下,在所提出的全分布式方法中,各个区域的局部NCUC问题可以独立地解决,并且相邻区域之间仅交换有限的信息以促进多区域协调。针对传统的ADMM算法只能保证凸问题的收敛性,本文讨论了几种抑制振荡、提高收敛性能、获得足够好的可行解的策略,包括:(i)设计了基于联络线潮流的区域协调策略,以减少全局一致变量的数量;(ii)将不同的罚参数\r{ho}分配给各个一致变量,并在迭代过程中通过某些规则进行更新,这将减少\r{ho}的初始值对收敛性能的影响;(iii)采用启发式规则来固定某些机组组合变量,以避免在迭代过程中的振荡;(iv)研究了异步分布式策略,该策略多次解决小区域的NCUC子问题,并在一个完整的运行速度较慢的大区域的NCUC子问题内与相邻区域更频繁地交换信息。数值算例验证了所提出的异步全分布式NCUC方法的有效性,并研究了影响其收敛性能的关键因素。
2018-01-19 math.OC
A Zeroth-Order Proximal Algorithm for Consensus Optimization
针对仅可获取局部目标零阶信息的网络共识优化问题,提出融合零阶 Hessian 与梯度近似的近端算法 ZoPro,并证明其线性收敛及性能优势。
2024-06-14 cs.MA math.OC
Distributed Optimal Output Consensus Control of Heterogeneous Multi-Agent Systems with Safety Constraints
本文提出一种动态分布式最优安全一致性协议,通过决策层扩展约束集投影优化与控制层收缩安全集参考跟踪相结合,在无需目标或梯度先验知识且仅需传输零点条件的温和假设下,同时实现异构多智能体系统的安全约束与输出最优一致性。
2024-01-11 math.OC
Multi-objective minmax robust combinatorial optimization with cardinality-constrained uncertainty
在本文中,我们发展了两种方法来寻找具有基数约束的不确定性的多目标组合最优化问题的极小极大鲁棒有效解。首先,我们将Bertsimas和Sim(2003)的单目标优化算法推广到多目标最优化。我们还提出了一个增强,以加速算法,即使是单目标的情况下,我们开发了一个更快的版本,为特殊的多目标实例。其次,我们引入了一个确定性的多目标问题的总和和瓶颈功能,它提供了一个超集的鲁棒有效解。在此基础上,提出了一种求解多目标不确定最短路问题的标号设置算法。我们在源于危险材料运输的多目标不确定最短路问题的实例中比较了这两种方法。
2017-01-23 math.OC
Decentralized optimization over noisy, rate-constrained networks: Achieving consensus by communicating differences
在分散优化中,网络中的多个节点协作以最小化它们的局部损失函数之和。此任务所需的节点之间的信息交换通常受到网络连接的限制。我们考虑一种设置,其中节点之间的通信受到以下两个因素的阻碍:(i)对任何节点发送的信号的有限速率约束,以及(ii)破坏任何节点接收到的信号的加性噪声。我们提出了一种新的算法:分散式懒惰镜像下降与差分交换(DLMD-DiffEx),它保证收敛的局部估计的最优解在给定的通信约束下。DLMD-DiffEx的一个显著特征是引入了由节点维护的附加代理变量,以考虑由于信道噪声和速率约束而导致的估计中的不一致。收敛到最优解是通过让节点迭代地交换这些分歧项直到达成共识来实现的。为了防止这种交换过程中的噪声积累,DLMD-DiffEx依赖于两个序列;一个控制传输信号的功率,另一个确定共识速率。我们对这两个序列的设计提供了清晰的见解,突出了共识率和噪声放大之间的相互作用。我们调查的DLMD-DiffEx的性能,无论是从理论的角度来看,以及通过数值评估。
2021-10-06 cs.SY eess.SY math.OC
On the convergence properties of a majorized ADMM for linearly constrained convex optimization problems with coupled objective functions
本文研究了目标函数为耦合函数的线性约束凸优化问题的优化交替方向乘子法(ADMM)的收敛性.我们的收敛性分析依赖于广义中值定理,由于耦合目标函数的存在,该定理在正确控制交叉项方面起着重要作用。我们的结果特别表明,直接应用2-块ADMM与一个大的步长的线性约束凸优化问题与二次耦合目标函数是收敛的温和条件。我们还提供了几个迭代算法的复杂性结果。
2015-01-31 math.OC
Model predictive control strategies using consensus-based optimization
针对模型预测控制需序列求解大量非凸优化问题的需求,提出基于并行演化随机智能体的共识优化求解方法,证明其加性线性控制下的收敛性,并通过搅拌釜反应器非线性系统控制验证了策略有效性。
2023-12-20 math.OC