Decentralized Proximal Optimization Method with Consensus Procedure
针对分散复合优化问题，提出基于加速近向梯度下降并在计算间进行多次共识迭代的方法，证明共识过程适用于复合优化且结构分析简单。
2023-04-07 math.OC
A consensus-based algorithm for multi-objective optimization and its mean-field description
提出了一种求解多目标最优化问题的多智能体算法，该算法扩展了基于共识的最优化方法，并依赖于一种标量化策略.优化是通过一组相互作用的代理探索搜索空间，并试图同时解决所有标量子问题。我们表明，这些动态所描述的平均场模型，这是合适的算法收敛性的理论分析。数值结果表明了该方法的有效性。
2022-03-30 math.OC
Polynomial Optimization via Random Projection and Consensus
提出一种基于随机线性子空间投影的黑盒方法，将大型半定规划约简为多个小规模半定规划，并在多项式优化问题上验证了其可扩展性的提升。
2025-09-16 math.OC
Smoothing Iterative Consensus-based Optimization Algorithm for Nonsmooth Nonconvex Optimization Problems with Global Optimality
针对无约束非光滑非凸优化的全局极小值求解问题，结合平滑与共识优化方法提出新型SICBO算法，证明其指数收敛性与全局最优性理论保证，且适用于非利普希茨连续情形，数值实验验证了算法有效性。
2025-01-13 math.OC
Consensus-based algorithms for stochastic optimization problems
RWTH Aachen University（亚琛工业大学）；University of Pretoria（比勒陀利亚大学）
本文提出基于共识的随机优化算法，通过均场近似分析并验证了算法的有效性及收敛性。
2025-11-21 math.OC
Analysis of Newton-Raphson Consensus for multi-agent convex optimization under asynchronous and lossy communications
我们扩展了一个多代理凸优化算法牛顿-拉夫森共识的网络场景，涉及定向，异步和有损通信。我们从理论上分析了算法的稳定性和性能，特别是，提供充分条件，保证局部指数收敛的节点状态的全局集中式极小，即使在存在数据包丢失。最后，我们补充的理论分析与数值模拟，比较性能的牛顿-拉夫森共识对异步实现的分布式次梯度方法从开源数据库中提取的真实数据集。
2017-04-20 math.OC
A Brief Tutorial on Consensus ADMM for Distributed Optimization with Applications in Robotics
该文为分布式优化领域的一致性ADMM简明教程，推导算法并关联相关经典方法，还展示了其在多机器人/多智能体轨迹优化中的应用，可为机器人领域的分布式优化问题提供方法参考。
2024-10-02 cs.SY eess.SY math.OC
Consensus-based Optimization and Ensemble Kalman Inversion for Global Optimization Problems with Constraints
我们介绍了一种实用的方法，将平等和不等式约束的基础上随机相互作用粒子系统的全局最优化方法，特别是基于共识的优化（CBO）和集合卡尔曼反演（EKI）。与文献中的其他方法不同，我们提出的方法并不约束的动态的状态空间的可行域在任何时候，粒子在整个空间中的演变，但被吸引到可行集的惩罚项添加到目标函数的装置，在CBO的情况下，一个额外的松弛漂移。我们研究了该方法的性质，通过相关的平均场Fokker-Planck方程，并证明其性能在几个测试问题的数值实验。
2021-11-04 math.OC
Nonlinear Consensus for Distributed Optimization
分布式优化算法已经在文献中得到了广泛的研究，然而，大多数算法的基础是一个线性共识计划，即通过双随机阵从邻居平均变量。我们考虑一组时变和代理依赖的单调Lipschitz非线性变换的非线性共识计划，其中我们注意到的操作是一个子投影到共识平面，这已被确定通过随机逼近理论。对于提出的非线性共识方案，我们建立了与NEXT算法结合时的收敛性[Lorenzo and Scutari，2016]，并分析了与DGD算法结合时的收敛速度[Nedić and Ozdaglar，2009]。此外，我们表明，收敛仍然可以得到保证，即使列随机性放松的八卦的原始变量，然后再加上这与非线性变换表明，作为一个结果，可以选择任何点内的“收缩立方体壳”跨越邻居的变量在共识步骤。我们进行了数值模拟，以证明不同的一致性计划提出的文件可以优于传统的线性计划。
2023-03-13 math.OC
Parameter calibration with Consensus-based Optimization for interaction dynamics driven by neural networks
我们校准的神经网络的参数，相互作用动力学模型的帮助下，基于遗传算法的全局最优化方法（CBO）。我们陈述了由神经网络驱动的交互粒子系统的一般框架，并使用ESIMAS交通实验的真实数据集测试了所提出的方法。将所得力与众所周知的物理相互作用力进行比较。此外，我们将所提出的校准过程的性能与[4]中使用随机梯度下降算法的校准过程的性能进行了比较。
2021-09-10 math.OC
Consensus, polarization, and optimization of the mean value in a nonlinear model of opinion dynamics
本文研究意见动力学非线性模型中使平均均衡意见最大化的网络结构，证明异质性群体难以达成共识，并给出实现HMO的充要条件、最优连接矩阵构造算法及智能体修剪策略。
2025-09-18 math.OC
Is Consensus Acceleration Possible in Decentralized Optimization over Slowly Time-Varying Networks?
我们考虑分散最优化问题，其中一个目的是最小化的凸光滑目标函数分布在网络中的节点之间的总和。网络中的链接可能会随时发生变化。对于任意变化量的设置，较低的复杂度界限和相应的最优算法是已知的，并且共识加速是不可能的。然而，在实践中，网络变化的幅度可能是有限的。我们得出较低的通信复杂性界限的几个制度的速度网络的变化。此外，我们展示了如何使用特定的共识算法来获得某一类时变图的加速通信速率。
2023-01-27 math.OC
CADMM-Prox: A Bi-level Consensus ADMM for Non-smooth Non-convex Distributed Consensus Optimization
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；North China University of Water Resources and Electric Power（华北水利水电大学）；KTH Royal Institute of Technology（皇家理工学院）
研究非光滑非凸分布式优化问题，提出CADMM-Prox算法，它结合经典共识ADMM与近端机制，在局部目标函数半凸假设下可全局收敛至克拉克驻点邻域，相位检索实验显示其收敛行为更稳定。
2026-07-21 math.OC
A Consensus-based optimization algorithm using Gaussian processes for global optimization problems in Sobolev spaces
University of Wuppertal（伍珀塔尔大学）
本文提出一种基于高斯过程的共识优化算法，用于Sobolev空间中的全局优化问题，通过高斯过程工具生成满足初始值、边界条件或状态约束的样本函数，并展示其在非线性边界值问题和最优控制问题中的有效性。
2026-03-16 math.OC
A consensus-based model for global optimization and its mean-field limit
我们介绍了一种新的一阶随机群体智能（SI）模型的共识形成模型的精神，即基于共识的优化（CBO）算法，它可用于在多个维度的函数的全局优化。CBO算法允许通过平均场极限，这导致一个非标准的，非局部的，退化的抛物型偏微分方程（PDE）。利用偏微分方程分析工具，我们提供的收敛结果，有助于理解的SI模型的渐近行为。我们进一步提出了数值研究强调我们的方法的可行性。
2016-12-29 math.OC math.PR
A Constrained Consensus Based Optimization algorithm and its Application to Finance
在本文中，我们提出了一个预测-校正型一致性优化（CBO）算法的凸可行集。我们提出的算法推广了文献[11]中的CBO算法，以解决定义在凸区域上的非凸函数的全局极小值的约束最优化问题。作为该算法的一个实际应用，我们研究了金融领域的投资组合最优化问题。在这个应用中，我们引入了一个目标函数来选择最优权重的资产组合中的每一个资产，产生最大的预期收益给定一定的风险水平。仿真结果表明，我们提出的预测-校正型模型是成功地找到最优值。
2021-10-13 math.OC
A Primal-Dual Quasi-Newton Method for Exact Consensus Optimization
我们引入原始-对偶拟牛顿（PD-QN）方法作为求解分散最优化问题的近似二阶方法。PD-QN方法对共识最优化问题的原始变量和对偶变量执行拟牛顿更新，以找到增广拉格朗日的最优点。通过优化增广拉格朗日量，PD-QN方法能够以线性收敛速率找到一致性问题的精确解。我们推导出完全分散的拟牛顿更新，近似二阶信息，以减少相对于对偶方法的计算负担，并使该方法在病态问题中相对于一阶方法更具鲁棒性。形式上建立了PD-QN的线性收敛速率，数值上显示了相对于现有对偶方法和原始-对偶方法的强大性能优势。
2019-07-10 math.OC
A Smoothing Consensus-Based Optimization Algorithm for Nonsmooth Nonconvex Optimization
针对传统基于共识的优化算法收敛分析受限于光滑目标函数的问题，提出结合平滑方法的新型CBO算法，可求解非凸非光滑非利普希茨连续最小化问题，给出理论分析与误差估计，并通过数值实验验证其性能。
2025-01-12 math.OC
Analysis of Distributed ADMM Algorithm for Consensus Optimization in Presence of Error
ADMM算法是求解凸优化问题的一种常用算法。将该算法应用于分布式共识优化问题，得到了一个完全分布式的迭代解，该解依赖于节点的处理和邻居之间的通信。本地计算通常遭受不同类型的误差，例如，观测或量化噪声，这会降低算法的性能。在这项工作中，我们专注于分析分布式ADMM的一致性优化存在的附加节点误差的收敛行为。我们特别表明，（一个嘈杂的）ADMM在一定条件下线性收敛，并检查相关的收敛点。数值结果证明了所提出的分析的有效性。
2017-01-14 cs.DC math.OC
On the Linear Convergence of the ADMM in Decentralized Consensus Optimization
在分散式共识优化中，连接的代理网络协作地最小化它们在公共决策变量上的局部目标函数的和，其中它们的信息交换在邻居之间受到限制。为此，可以首先获得问题的重新表述，然后应用乘子的交替方向法（ADMM）。该方法采用迭代计算在各个代理和邻居之间的信息交换。据观察，这种方法收敛迅速，被认为是强大的。本文对具有强凸局部目标函数的分散一致最优化问题建立了它的线性收敛速率。根据网络拓扑结构、局部目标函数的性质和算法参数，给出了算法的理论收敛速度。这一结果不仅是性能保证，也是加快ADMM收敛的指导方针。
2014-11-30 math.OC
A modified Consensus-Based Optimization model: consensus formation and uniform-in-time propagation of chaos
Yonsei University（延世大学）
本文提出了一种改进的基于共识的优化模型，通过正则化的吉布斯权重稳定共识点并避免退化，实现了有限粒子系统、麦肯-沃拉斯科夫方程及优化行为的统一分析。
2026-11-03 math.AP math.OC math.PR
Consensus-Based Optimization for Multi-Objective Problems: A Multi-Swarm Approach
提出了一种基于遗传算法的最优化方法（CBO）的多群算法来逼近一般多目标最优化问题的Pareto前沿。该算法的动机是一步一步从一个单扩张的CBO的基础上固定的标量权重。为了克服选择权重的问题，我们在第二建模步骤中提出了自适应权重策略。建模过程的结论与合并的惩罚策略，避免集群沿帕累托前和扩散项，防止崩溃群。总之，建议的$K$ -群CBO算法是专为不同的近似帕累托前沿，同时，有效的一般非凸多目标问题。该方法的可行性是合理的分析结果，包括收敛性证明，和性能比较，著名的非支配排序遗传算法（NSGA 2）和最近提出的一群方法的多目标问题，涉及基于遗传算法的优化。
2022-11-28 math.OC
Convergence and error estimates for time-discrete consensus-based optimization algorithms
我们提出了收敛性和误差估计的时间离散的共识为基础的优化（CBO）算法在[arXiv：1909.09249]一般非凸函数。在作者最近的工作[arxiv：1910.08239]中，在粒子水平上研究了[arXiv：1909.09249]中提出的基于一阶共识的优化算法的严格误差分析，而没有通过平均场极限求助于动力学方程。然而，由于缺乏伊藤随机分析的离散模拟，相应的时间离散算法的误差分析没有做。在本文中，我们提供了一个简单的和基本的收敛性和误差分析的一般时间离散共识为基础的优化算法，其中包括三个离散算法在[arXiv：1909.09249]。我们的分析提供了数值稳定性和收敛条件的三个算法，以及误差估计的全局极小值。
2020-03-11 math.DS math.OC
Exponential stability of finite-$N$ consensus-based optimization
University of Mannheim（曼海姆大学）
针对以往基于共识的优化（CBO）研究多聚焦渐近平均场极限的情况，采用分层方法分析有限$N$规模下确定性与完全随机场景中CBO的稳定性，证明其几乎必然和均方指数收敛特性并给出收敛速率的精确量化估计。
2025-10-22 math.OC
Newton-Raphson Consensus for Distributed Convex Optimization
本文研究了在可分性假设下的分布式无约束凸优化问题，该框架中，网络的每个代理被赋予局部私有多维凸成本，受到通信约束，并且想要协作以计算局部成本之和的最小化者。我们提出了一种设计方法，结合平均共识算法和时间尺度的想法分离。在适当的假设下，证明了该策略是全局收敛于真极小点的。直观地说，该程序让代理分布式计算和顺序更新的近似牛顿-拉夫森方向通过适当的平均共识比率。我们用数值模拟表明，这种策略的收敛速度与其他优化策略，如乘数的交替方向法。最后，我们提出了一些替代策略，权衡通信和计算的要求与收敛速度。
2015-11-04 math.OC
Consensus seeking gradient descent flows on boundaries of convex sets
非线性空间的共识在许多控制应用中是有用的。提出了一种超曲面一致性的梯度下降流算法。我们证明了，如果一个不等式成立，那么系统对几乎所有的初始条件和所有的连通图都是收敛的。该不等式涉及超曲面高斯映射和隐式方程的梯度和Hessian。此外，为了使不等式成立，流形必须是凸集的边界。文献中已经包含了一个算法的共识超曲面。该算法在任何椭球上都等价于我们在单位球面上的算法。特别是，该算法实现了几乎全球同步的椭球。这些发现表明，强收敛的结果，寻求共识的梯度下降流可以建立在流形上的凸集的边界。
2020-04-01 math.OC nlin.AO
Systematic Design of Decentralized Algorithms for Consensus Optimization
University of Illinois, Chicago（伊利诺伊大学芝加哥分校）
本文提出了一种分离原理，用于系统化设计用于共识优化的去中心化算法。通过结合非去中心化的基础优化算法和去中心化的共识跟踪，该原理提供了在使用积分二次约束（IQCs）的自动收敛分析框架下的算法设计和分析的模块化。共识跟踪可以被纳入基于IQC的分析中，通过交替方向乘子法设计和分析去中心化算法来展示工作流程。
2019-03-04 cs.SY eess.SY math.OC
Uniform-in-time mean-field limit estimate for the Consensus-Based Optimization
本文通过引入小参数$κ\in (0,1)$重新标度动力学中的共识点，为Consensus-Based Optimization (CBO)算法建立了平均场收敛的一致时间估计，解决了CBO方法长期收敛的稳定性与可靠性问题。
2025-06-30 math.OC math.PR
On the Convergence Rate of Average Consensus and Distributed Optimization over Unreliable Networks
我们认为，在不可靠的通信网络，其中数据包可能会被意外丢弃在传输过程中，达到平均共识和解决基于共识的优化问题。现有的工作要么假设链路故障影响两个方向上的通信，要么假设消息发送器{ \em确切地知道}在每次迭代中有多少个输出链路正常工作。在本文中，我们考虑有向链路，我们{ \em不}要求每个节点知道它的当前传出度。首先，我们提出并刻画了达到平均一致的收敛速度。然后，我们将我们的鲁棒共识更新的经典分布式双平均方法，其中的共识更新被用作信息聚合原语。我们表明，局部迭代收敛到一个共同的最优的全局目标的速率$O(\frac{1}{\sqrt{t}})$，其中$t$是迭代次数，匹配的无故障性能的分布式双平均方法。
2018-12-07 cs.DC math.OC
Faithful global convergence for the rescaled Consensus-Based Optimization
Hunan University（湖南大学）；University of Graz（格拉茨大学）；Technical University of Munich（慕尼黑工业大学）
本文研究了通过缩放共识点的共识优化算法，证明了其在特定条件下无条件收敛到全局极小值点，并扩展到多个极小值点的情况。
2026-01-16 math.AP math.OC
Primal Recovery from Consensus-Based Dual Decomposition for Distributed Convex Optimization
对偶分解已成功地应用于各种分布式凸优化问题，这些问题由计算和通信节点组成的网络来解决。通常，当费用函数是可分离的，但约束是耦合的，对偶分解方案涉及本地并行次梯度计算和全局次梯度更新执行的主节点。在本文中，我们提出了一个基于共识的对偶分解，以消除需要这样的主节点，仍然使计算节点生成一个近似的对偶解的基础凸优化问题。此外，我们提供了一个原始的恢复机制，让节点有机会接近接近最优的原始解决方案。我们的计划是基于一个恒定的步长选择和对偶和原始目标的收敛实现了一个有界的错误地板依赖于步长和节点之间的共识步骤的数量。
2015-03-26 math.OC
Consensus optimization approach for distributed Kalman filtering: performance recovery of centralized filtering with proofs
本文从分布式优化的角度研究了分布式卡尔曼滤波（DKF）。由于卡尔曼滤波是一个最大后验估计（MAP）问题，而MAP问题是一个二次优化问题，因此我们将DKF问题转化为一个一致性优化问题，从而使得它可以用现有的许多分布式优化算法来求解。提出了一种新的基于对偶上升法的DKF算法，并在较弱的假设条件下证明了该算法的稳定性。通过数值实验对算法的性能进行了评估。
2022-08-19 cs.SY eess.SY math.OC
Consensus-Based Optimization on Hypersurfaces: Well-Posedness and Mean-Field Limit
Technical University of Munich（慕尼黑工业大学）；University of Ferrara（费拉拉大学）
本文提出了一个新的随机微分模型，用于求解紧致超曲面上非凸函数的全局优化问题。该模型受随机Kuramoto-Vicsek系统的启发，属于基于随机的最优化方法。事实上，粒子在超曲面上移动，由朝向瞬时共识点的漂移驱动，瞬时共识点被计算为根据拉普拉斯原理由费用函数加权的粒子位置的凸组合。共识点表示对全局最小值的近似。动力学被随机向量场进一步扰动以有利于探索，其方差是粒子到共识点的距离的函数。特别是，一旦达成共识，那么随机分量就消失了。本文研究了该模型的适定性，并严格导出了它在大粒子极限下的平均场近似。
2020-12-07 cs.LG math.AP math.OC
On the mean-field limit for the consensus-based optimization
本文关注的是基于共识的优化（CBO）的大粒子极限，这是在开创性的工作[6，28]中假设的。为了解决这个问题，我们适应了紧凑性参数，首先证明了与粒子系统相关的经验措施$\{μ^N\}_{N\geq 2}$的紧密性，然后验证极限措施$μ$是唯一的弱解的平均场CBO方程。将这些结果推广到粒子群优化模型中。
2021-05-27 math.AP math.DS math.OC
Adaptive Consensus: A network pruning approach for decentralized optimization
针对分布式优化中通信瓶颈问题，提出自适应随机通信高效框架，通过跟踪不一致误差并选择关键边减少通信，给出AC与AC-GT算法，具备理论收敛保证且实验验证有效。
2023-09-06 math.OC stat.ML
An adaptive consensus based method for multi-objective optimization with uniform Pareto front approximation
在这项工作中，我们感兴趣的随机粒子方法的多目标最优化。该问题是制定使用参数化，单目标的子问题，同时解决。为此，提出了一种基于共识的多目标最优化方法的搜索空间结合一个额外的启发式策略，以适应在计算过程中的参数。自适应策略的目的是通过使用基于能量的措施来量化系统的多样性，均匀分布的粒子在图像空间。由此产生的元启发式算法进行了数学分析，使用平均场近似和收敛保证对最佳点的严格证明。此外，揭示和分析了自适应方法在参数空间中的梯度流结构。几个数值实验表明所提出的随机粒子动力学的有效性，并说明了理论研究结果。
2022-08-02 math.OC
Computation of entanglement for quantum states by a Consensus-Based Optimization method
RWTH Aachen University（亚琛工业大学）；University of Pretoria（比勒陀利亚大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文提出基于共识的结构保持优化方法，用于计算量子纠缠，采用算子形式和幺正流形两种方法，通过交叉维度交互机制提升计算精度。
2026-05-11 math.OC quant-ph
Graph-theoretic optimization for edge consensus
我们认为网络结构，优化加权，时间尺度的共识网络的$\mathcal{H}_2$范数，在边缘拉普拉斯算子描述的这种共识网络的最小表示。我们表明，贪婪算法可以用来找到最小的$\mathcal{H}_2$规范生成树，以及如何选择边，以优化的$\mathcal{H}_2$规范时，添加回生成树的边缘。在边缘共识的情况下，考虑所有边缘的测量模型在图中，我们表明，在图中的慢节点之间添加边缘提供了最小的增加$\mathcal{H}_2$规范。
2020-06-29 math.OC
Discrete Consensus-Based Optimization
本研究提出无连续对应形式的离散CBO框架DCBO，用hardmin替代softmin保留CBO原理，给出不依赖智能体数量的收敛条件，在基准测试及多类现实问题中表现出竞争力。
2024-04-16 math.OC
Learned Finite-Time Consensus for Distributed Optimization
本文针对稀疏图上去中心化学习中线性平均共识收敛慢的瓶颈，提出通过带约束矩阵分解以去中心化方式学习有限时间共识矩阵序列，并在多种图上验证了其加速效果。
2024-06-06 eess.SP math.OC
Convergence analysis of the discrete consensus-based optimization algorithm with random batch interactions and heterogeneous noises
本文研究了具有随机批量交互和异质外部噪声的离散共识优化算法的随机一致性和收敛性。尽管离散CBO算法在许多实际仿真中得到了广泛的应用和成功的性能，但其收敛性并没有得到严格的研究。在这项工作中，我们介绍了一个广义离散CBO算法的加权代表点和随机批交互，并表明，所提出的离散CBO算法具有随机共识和收敛到共同的平衡态指数快速适当的假设下，系统参数。为此，我们将给定的CBO算法与随机批量交互作为一个离散的共识模型与随机切换网络拓扑结构，然后我们使用的混合性质的相互作用在足够长的时间间隔，以获得随机共识和收敛估计的均方和几乎必然的意义。我们提出的分析显着提高了早期的CBO模型的收敛性分析与全批相互作用和均匀的外部噪声。
2021-07-30 math.DS math.OC
A Decentralized Primal-Dual Framework for Non-convex Smooth Consensus Optimization
在这项工作中，我们介绍了ADAPD，$\textbf{A}$ $\textbf{D}$ ecentr $\textbf{A}$ lized $\textbf{P}$ rimal- $\textbf{D}$ ual算法框架解决非凸和光滑的共识最优化问题在网络上的分布式代理。建议的框架依赖于一个新的问题制定，elancialADMM型更新，每个代理首先不精确地解决了一个局部强凸子问题，其选择的任何方法，然后执行邻居通信更新一组对偶变量。我们提出了两种变体，允许一个单一的梯度步骤的原始更新或多个通信的双重更新，利用每次迭代的成本和迭代次数之间的权衡。当多个通信被执行时，ADAPD可以实现理论上最优的通信复杂度结果的非凸和光滑的共识问题。在几个应用程序（包括深度学习应用程序）上进行的数值实验证明了ADAPD优于几种常用的分散式方法。
2023-02-03 math.OC
Distributed, scalable and gossip-free consensus optimization with application to data analysis
用于解决加法或共识最优化问题的分布式算法通常依赖于一阶或邻近分裂方法。这些算法通常带有限制性假设，并且最多享受线性收敛速率。因此，它们可能需要代理之间的多次迭代或通信来收敛。然而，在许多情况下，我们并不寻求共识问题的高度准确的解决方案。在此基础上，我们提出了一个控制松弛的耦合问题，使我们能够计算出一个近似解，其中的近似精度可以控制的水平放松。松弛的问题可以有效地解决了在一个分布式的方式使用原始-对偶相邻点方法（PDIPMs）和消息传递的组合。该算法完全依赖于二阶方法，因此需要更少的迭代和通信来收敛。数值实验表明，与现有的方法相比，它具有优越的性能。
2017-05-10 math.OC
A discrete Consensus-Based Global Optimization Method with Noisy Objective Function
本文将离散时间CBO方法的收敛性分析扩展到目标函数仅能计算带噪声随机估计量的情况，证明在有限次迭代中粒子到解的均方距离期望可任意小，并通过数值实验展示噪声影响。
2025-04-03 math.OC
Reciprocity of Algorithms Solving Distributed Consensus-Based Optimization and Distributed Resource Allocation
本文的目的是提出一个程序来获得分布式算法的分布式共识为基础的优化，通过使用分布式算法的网络资源分配，反之亦然交换网络/无同步协议。结果表明，一阶梯度分布式基于共识的优化算法可以用来找到一个最优解的分布式资源分配与同步协议下较弱的假设下，在文献中给出的非切换（静态）网络。结果表明，一阶梯度分布式资源分配算法可以用来找到一个最优解的分布式共识为基础的优化。本文的结果可应用于时变随机有向网络，无论有无同步协议，其初始化都是任意的。因此，现在可以使用几种算法来推导基于共识的优化和资源分配的分布式算法，这可以克服现有结果的局限性。虽然本文的重点是一阶梯度算法，但应注意的是，结果也适用于二阶梯度算法。
2022-08-02 cs.SY eess.SY math.OC
A consensus-based global optimization method for high dimensional machine learning problems
本文改进了最近提出的基于共识的最优化方法。平瑙角托策克岛Tse和S. Martin，数学模型方法应用科学，27（01）：183--204，2017]，其是用于一般非凸函数的无梯度最优化方法。我们首先用分量布朗运动代替各向同性几何布朗运动，从而消除了漂移率的维数依赖性，使得该方法在高维最优化问题中更具竞争力.其次，我们利用随机小批量的思想，以减少计算加权平均的计算成本，个别粒子倾向于放松。对于它的平均场极限-一个非线性福克-普朗克方程-我们证明，在时间连续和半离散设置，该方法的收敛性，这是指数的时间，保证与参数约束{ \it独立}的维数。我们还对高维问题进行了数值试验，以检验该方法的成功率。
2020-03-04 math.OC
Consensus-Based Optimization Beyond Finite-Time Analysis
本文提出了一种具有小固定噪声强度的共识优化算法，通过定量拉普拉斯原理和分块控制 Wasserstein 距离，证明了算法在长期行为中收敛到极小值点。
2025-11-21 math.OC
Convergence of a first-order consensus-based global optimization algorithm
非凸目标函数的全局优化问题经常出现在大规模机器学习和人工智能应用中。最近，基于共识的优化（简称CBO）方法已被引入作为无梯度最优化方法之一。本文给出了\cite{C-J-L-Z}中一阶CBO方法的收敛性分析。在此之前，CBO方法的收敛性研究进行了相应的平均场极限，福克-普朗克方程，这并不意味着CBO方法{ \it本身}的收敛性。基于一阶CBO模型的一致性估计，我们给出了一阶CBO方法\cite{C-J-L-Z}的收敛性分析，而无需借助于相应的平均场模型。我们的收敛性分析包括两个步骤。在第一步中，我们表现出的CBO模型的全局共识时间渐近的任何初始数据，并在第二步中，我们提供了一个充分条件的系统参数-这是维数无关的-和初始数据，保证收敛的共识状态几乎肯定位于一个小的邻域的全局极小值。
2019-10-18 math.DS math.OC
Constrained consensus-based optimization
在这项工作中，我们感兴趣的是建设的数值方法高维约束非线性最优化问题的粒子为基础的无梯度技术。为此，引入了一种基于共识的优化（CBO）方法，并结合适当的惩罚技术。该方法依赖于重新制定的约束最小化问题的无约束问题的罚函数和扩展到约束设置类CBO方法。采用精确惩罚，由于最佳罚参数是未知的，提出了一种迭代策略，连续更新的参数的基础上的约束违反。使用平均场描述的许多粒子的限制所产生的CBO动力学，我们能够显示所提出的方法收敛到最低限度的一般非线性约束问题。分析了新算法的性质。几个数值例子，也在高维，说明了理论的研究结果和良好的性能，新的数值方法。
2021-11-20 math.OC
Model predictive control strategies using consensus-based optimization
针对模型预测控制需序列求解大量非凸优化问题的需求，提出基于并行演化随机智能体的共识优化求解方法，证明其加性线性控制下的收敛性，并通过搅拌釜反应器非线性系统控制验证了策略有效性。
2023-12-20 math.OC
A multiscale Consensus-Based algorithm for multi-level optimization
提出一种多尺度CBO算法，通过多个相互作用粒子群分别优化各层级，求解双层和三层优化问题，并理论证明其收敛性，数值实验验证其在多级及最小-最大优化中的有效性。
2025-06-20 math.OC
Mathematical Analysis of the PDE Model for the Consensus-based Optimization
针对基于共识优化模型的PDE的非线性非局部共识点与奇异性退化扩散项问题，本文结合正则化与紧性论证证明其弱解在特定空间的全局存在唯一性，并指出初始数据正则时弱解有更优$H^2$正则性。
2025-04-15 math.AP math.OC
Consensus based optimization with memory effects: random selection and applications
本文提出带记忆效应与随机粒子丢弃策略的CBO算法，通过基准、图像分割和神经网络训练验证性能，并借助连续时间平均场分析证明全局收敛。
2023-03-19 math.OC
A Distributed Newton Method for Large Scale Consensus Optimization
在本文中，我们提出了一个分布式牛顿算法的共识优化。我们的方法优于最先进的方法，包括ADMM。其核心思想是利用对偶Hessian的稀疏性，将牛顿步的计算转化为求解对称对角占优线性方程组的有效计算。我们验证我们的算法在理论上和经验。在理论方面，我们证明了我们的算法在最优邻域内具有超线性收敛性。经验上，我们展示了这种新方法在各种机器学习问题上的优越性。所提出的方法是可扩展的非常大的问题，并具有较低的通信开销。
2016-06-21 cs.DC math.OC
