A Simple Yet Efficient Rank One Update for Covariance Matrix Adaptation
提出了一种有效的协方差矩阵自适应演化策略(CMA-ES)的近似秩一更新算法。它使用了两条演化路径,与CMA-ES一样简单,同时避免了计算矩阵的分解。我们分析了算法的性质和行为。我们实验研究所提出的算法的性能。它通常优于或表现出竞争力的Cholesky CMA-ES。
2017-10-22 cs.NE
On-line Search History-assisted Restart Strategy for Covariance Matrix Adaptation Evolution Strategy
重启策略有助于协方差矩阵自适应演化策略(CMA-ES)提高寻优过程中找到全局最优解的概率,但单次运行的CMA-ES容易陷入局部最优解。在本文中,连续的非重访遗传算法(cNrGA)被用来帮助CMA-ES实现从不同的子区域的搜索空间的多次重新启动。提出了一种基于在线搜索历史辅助重启策略的CMA-ES(HR-CMA-ES)。cNrGA的整个在线搜索历史存储在二进制空间划分(BSP)树中,这对于执行局部搜索是有效的。频繁采样的子区域由BSP树中的深位置反映。当叶节点位于比阈值更深时,对应的子区域被认为是感兴趣区域(ROI)。在HR-CMA-ES中,cNrGA负责全局探索并为CMA-ES建议ROI,以在ROI内或周围执行利用。CMA-ES在每个建议的ROI中独立重启。cNrGA的非重访机制避免了第二次建议相同的ROI。在CEC 2013和2017基准套件上的实验结果表明,HR-CMA-ES的性能优于CMA-ES和cNrGA。一个积极的协同作用,观察两个算法的模因合作。
2019-03-16 cs.NE
Covariance Matrix Adaptation Evolution Strategy without a matrix
Warsaw University of Technology(华沙理工大学)
本文提出一种无需协方差矩阵的CMA-ES方法,通过存储个体差异向量生成新个体,证明其与标准CMA-ES具有相同分布,并在高维空间中实现高效优化。
2025-12-31 cs.NE
Covariance Matrix Adaptation Evolution Strategy for Low Effective Dimensionality
针对CMA-ES在高维黑箱优化中受低有效维数(LED)影响的问题,提出CMA-ES-LED,通过旋转空间处理、有效维估计、超参数自适应及步长改进,在含LED的基准函数上性能更优。
2024-12-02 cs.NE
CMA-ES with Adaptive Reevaluation for Multiplicative Noise
该研究从随机松弛视角分析乘性噪声下不同CMA-ES噪声处理方法的效用特性,提出基于更新方向相关性自适应调整重评估次数的RA-CMA-ES,在乘性噪声下性能更优且加性噪声下表现具竞争力。
2024-05-19 cs.NE
Limited-Memory Matrix Adaptation for Large Scale Black-box Optimization
University of Freiburg(弗莱堡大学);Ruhr-Universität Bochum(波鸿鲁尔大学);Vorarlberg University of Applied Sciences(福拉尔贝格应用科学大学)
协方差矩阵自适应演化策略(CMA-ES)是一种在梯度信息不可用的情况下处理非凸和/或随机优化问题的流行方法。基于CMA-ES,最近提出的矩阵自适应演化策略(MA-ES)提供了一个相当令人惊讶的结果,即协方差矩阵和所有相关操作(例如,潜在不稳定的本征分解)可以在CMA-ES中由更新的变换矩阵代替而没有任何性能损失。为了进一步简化MA-ES,将其$\mathcal{O}\big(n^2\big)$时间和存储复杂度降低为$\mathcal{O}\big(n\log(n)\big)$,提出了有限内存矩阵自适应演化策略(LM-MA-ES),用于零阶大规模优化。该算法在一组已建立的大规模基准测试中表现出最先进的性能。我们探讨了算法的问题上产生对抗性的输入(非平滑)随机森林分类器,展示了一个令人惊讶的脆弱性的分类器。
2017-05-18 cs.LG cs.NE math.OC
cmaes: A Simple yet Practical Python Library for CMA-ES
Institute of Science Tokyo(东京科学大学);Preferred Networks;CyberAgent
cmaes是一个简单实用的Python库,提供CMA-ES的高级功能,适用于快速应用和教育目的,支持多种优化任务。
2026-02-07 cs.MS cs.NE
The Modular CMA-ES: A Framework for Modern Evolution Strategies
本文提出模块化CMA-ES框架,整合现代进化策略多种机制,支持系统探索设计空间,并通过案例展示其用于研究算法组件及自动配置的效用。
2026-10-08 cs.NE
Empirical Evaluation of Contextual Policy Search with a Comparison-based Surrogate Model and Active Covariance Matrix Adaptation
Robotics Innovation Center, DFKI GmbH(德国人工智能研究中心有限公司机器人创新中心)
上下文策略搜索(CPS)是一类多任务强化学习算法,对机器人应用特别有用。背景协方差矩阵自适应演化策略(C-CMA-ES)是最近的一种最先进的方法。它基于标准的黑盒优化算法CMA-ES。CMA-ES有两个有用的扩展,我们将转移到C-CMA-ES和经验评估:ACM-ES,它使用基于比较的代理模型,和aCMA-ES,它使用协方差矩阵的主动更新。我们将证明,这些方法的改进在样本效率方面可以令人印象深刻,尽管这与机器人领域不再相关。
2019-04-14 cs.LG cs.NE stat.ML
Self-Adaptive Surrogate-Assisted Covariance Matrix Adaptation Evolution Strategy
本文提出了一种新的机制,以适应代理辅助人口为基础的算法。这种机制被应用到ACM-ES,最近提出的代理辅助的变体的CMA-ES。所得到的算法saACM-ES在线调整当前代理模型的生命长度(在学习新代理之前的CMA-ES代的数量)和代理超参数。这两种代理模型都显著提高了代理模型的质量,与ACM-ES和CMA-ES基线相比,saACM-ES的速度显著提高。在BBOB-2012无噪声测试平台上对saACM-ES进行的实证验证表明,所提出的方法在问题维度和种群规模方面具有效率和可扩展性,在一些基准问题上达到了新的最佳结果。
2012-04-11 cs.NE
CMA-ES for Hyperparameter Optimization of Deep Neural Networks
Univesity of Freiburg(弗莱堡大学)
深度神经网络的超参数通常通过网格搜索、随机搜索或贝叶斯优化来优化。作为替代方案,我们建议使用协方差矩阵自适应演化策略(CMA-ES),该策略以其在无导数优化中的最新性能而闻名。CMA-ES具有一些有用的不变性性质,并且对于解的并行计算是友好的。我们提供了一个玩具例子,比较了CMA-ES和最先进的贝叶斯优化算法,用于在30个GPU上并行调整MNIST数据集的卷积神经网络的超参数。
2016-04-25 cs.LG cs.NE
RCMAES: A Robust CMA-ES Variant for CEC2026 Competition
Forschungszentrum Jülich GmbH(于利希研究中心)
RCMAES结合维度依赖的非线性种群规模缩减策略与自适应重启机制,在纯CMA-ES框架下提升鲁棒性,通过CEC2017、CEC2020和CEC2022三个基准测试集验证其性能。
2026-04-29 cs.NE
MMES: Mixture Model based Evolution Strategy for Large-Scale Optimization
Sun Yat-sen University(中山大学)
该工作为协方差矩阵自适应演化策略(CMA-ES)在大规模环境下的应用提供了一种有效的采样方法。与CMA-ES中的高斯采样相比,所提出的方法从混合模型生成突变向量,这有助于在有限的时间预算内利用问题景观的丰富变量相关性。我们分析了这种混合模型的概率分布,并表明它近似于高斯分布的CMA-ES与可控的精度。我们使用这种采样方法,再加上一种新的方法,突变强度适应,制定混合模型为基础的演化策略(MMES)-一个CMA-ES变种大规模优化。数值模拟结果表明,MMES在显著降低CMA-ES的时间复杂度的同时,保持了旋转不变性,可扩展到高维问题,并且在全局优化方面与现有技术相比具有竞争力.
2022-03-15 cs.AI cs.NE
LM-CMA: an Alternative to L-BFGS for Large Scale Black-box Optimization
Liu和Nocedal(1989)的有限记忆BFGS方法(L-BFGS)通常被认为是当一阶和/或二阶信息可用时用于连续优化的选择方法。然而,L-BFGS的使用可能是复杂的,在黑盒的情况下,梯度信息是不可用的,因此应该进行数值估计。通过有限差分方法获得的这种估计的准确性通常取决于问题,这可能导致算法的过早收敛。在本文中,我们展示了L-BFGS的替代方案,Loshchilov(2014)提出的有限记忆协方差矩阵自适应演化策略(LM-CMA)。LM-CMA是一种用于非线性、非凸优化问题数值优化的随机无导数算法。受L-BFGS的启发,LM-CMA根据从在优化过程期间选择的$m$方向向量再现的协方差矩阵对候选解进行采样。将协方差矩阵分解成Cholesky因子允许将存储器复杂度降低到$O(mn)$,其中$n$是决策变量的数量。对一个候选解进行采样的时间复杂度也是$O(mn)$,但实际上仅为约25次标量-向量乘法。该算法有一个重要的性质,w.r.t.严格地增加目标函数的变换,这样的变换不损害其接近最优的能力。LM-CMA优于原来的CMA-ES及其大规模版本的不可分离的病态问题的一个因素增加的问题的维数。该算法的不变性并不妨碍它在非平凡的大规模光滑和非光滑优化问题上表现出与L-BFGS相当的性能。
2015-11-01 cs.NE math.OC
Distributed Evolution Strategies with Multi-Level Learning for Large-Scale Black-Box Optimization
提出基于多级学习的分布式LM-CMA元框架,通过分层Meta-ES结构结合内外层ES、并行均值更新与步长适应策略,实现大规模黑盒优化的高效并行求解。
2024-10-11 cs.NE
A Computationally Efficient Limited Memory CMA-ES for Large Scale Optimization
提出了一种计算效率高的有限记忆协方差矩阵自适应演化策略,我们称之为LM-CMA-ES。LM-CMA-ES是一种随机的、无导数的算法,用于连续域中的非线性、非凸优化问题的数值优化。受Liu和Nocedal(1989)的有限内存BFGS方法的启发,LM-CMA-ES根据从优化过程中选择的$m$方向向量中重现的协方差矩阵对候选解进行采样。将协方差矩阵分解成Cholesky因子允许将采样的时间和存储器复杂度降低到$O(mn)$,其中$n$是决策变量的数量。当$n$较大时(例如,$n$ > 1000),甚至相对小的$m$值(例如,$m=20,30$)足以有效地解决完全不可分离的问题,并减少总的运行时间。
2014-04-21 cs.NE
Approximation of the objective insensitivity regions using Hierarchic Memetic Strategy coupled with Covariance Matrix Adaptation Evolutionary Strategy
AGH University of Science and Technology(AGH科技大学)
全局优化中最具挑战性的不适定性类型之一是设计参数空间中存在不敏感区域,因此如果不适定性是不可恢复的,则对其形状的识别将是至关重要的。这样的问题可以使用全局随机搜索来解决,然后对局部样本和局部目标近似进行后处理。我们提出了一种新的方法,这种类型的分层模因策略(HMS)由协方差矩阵自适应进化策略(CMA-ES)提供动力,众所周知,作为一种有效的,自适应的随机优化算法,我们利用它积累的分布密度知识,以更好地识别和分离不敏感区域。基准测试结果表明,改进的HMS-CMA-ES策略在总计算量和不敏感区域逼近精度方面都是有效的。测试的参考数据是通过一个众所周知的多模态随机优化的有效策略,称为小生境进化算法2(NEA 2),也使用CMA-ES作为一个组成部分。
2019-05-17 cs.AI cs.NE
Using CMA-ES for tuning coupled PID controllers within models of combustion engines
University of West Bohemia(西波希米亚大学)
本文提出用CMA-ES算法优化燃烧发动机中耦合PID控制器的参数,通过对比PSO和SHADE方法,验证了该算法在六种真实发动机模型中的有效性。
2017-06-05 cs.NE cs.SY eess.SY
Multi-Objective Covariance Matrix Adaptation MAP-Annealing
提出MO-CMA-MAE算法,将CMA-ES引入多目标质量多样性优化,通过优化每个帕累托集的超体积,在多个领域及游戏地图生成中显著提升性能。
2025-05-27 cs.NE
Training Diverse High-Dimensional Controllers by Scaling Covariance Matrix Adaptation MAP-Annealing
University of Southern California(南加州大学);Viterbi School of Engineering(维特比工程学院)
本文针对CMA-MAE难以扩展到高维神经网络控制器的问题,提出三种基于高效近似的新变体,在机器人运动任务中超越ES基线,并达到或超过最先进的深度强化学习质量多样性算法。
2023-09-16 cs.LG cs.NE cs.RO
(1+1)-CMA-ES with Margin for Discrete and Mixed-Integer Problems
本研究将裕度修正引入精英版(1+1)-CMA-ES,通过离散化精英解作为采样均值、调整裕度规则避免移动精英解,解决其在混合整数优化中的性能退化问题,实验表明该方法在多类离散域基准上优于原有带裕度CMA-ES,可媲美领域专用方法。
2023-05-01 cs.NE
Covariance Matrix Adaptation Evolutionary Strategy with Worst-Case Ranking Approximation for Min--Max Optimization and its Application to Berthing Control Tasks
在这项研究中,我们考虑了一个连续的最小-最大优化问题$\min_{x \in \mathbb{X} \max_{y \in \mathbb{Y}}}f(x,y)$,其目标函数是一个黑箱。我们提出了一种新的方法来最大限度地减少最坏情况下的目标函数$F(x) = \max_{y} f(x,y)$直接使用协方差矩阵自适应演化策略(CMA-ES),其中解决方案的候选人的排名近似我们提出的最坏情况下的排名近似(WRA)机制。我们开发了两个变种的WRA结合CMA-ES和近似梯度上升的数值求解器的内部最大化问题。数值实验表明,当目标函数为光滑强凸-凹函数且$x$和$y$之间的相互作用较强时,该方法的性能优于现有的几种方法.我们调查所提出的方法的优点,目标函数不限于光滑强凸-凹函数的问题。在具有不确定性的非凸-凹函数的鲁棒靠泊控制问题中,证明了该方法的有效性。在具有不确定性的船舶靠泊鲁棒控制问题中,证明了该方法的有效性。
2023-03-28 cs.NE
Warm Starting of CMA-ES for Contextual Optimization Problems
针对上下文优化问题,提出 CMA-ES-CWS,利用历史上下文优化结果训练多变量高斯过程回归,并以后验分布初始化 CMA-ES 搜索分布,性能优于现有方法。
2025-02-18 cs.NE
Saddle Point Optimization with Approximate Minimization Oracle and its Application to Robust Berthing Control
我们提出了一种方法,鞍点优化只依赖于预言机,解决近似最小化问题。我们分析了它在强凸-凹问题上的收敛性,并证明了它向全局极小-极大鞍点的线性收敛。基于收敛性分析,我们开发了一种启发式方法来适应学习率。所开发的方法,使用(1+1)-CMA-ES作为最小化的预言,即逆境-CMA-ES,实现优于现有的几种方法的测试问题。数值评估证实了理论收敛速度界的紧密性以及学习速率自适应机制的效率。作为一个实际问题的例子,建议的最优化方法应用于模型不确定性下的自动靠泊控制问题,显示其在获得解决方案的不确定性的实用性。
2022-01-04 cs.NE math.OC
Sequential vs. Integrated Algorithm Selection and Configuration: A Case Study for the Modular CMA-ES
当面对特定的优化问题时,选择使用哪种算法总是一项艰巨的任务。不仅有各种各样的算法可供选择,而且这些算法通常由许多超参数控制,这些超参数需要调整以实现最佳性能。通常,这个问题分为两个部分:算法选择和算法配置。然而,随着机器学习取得的重大进展,这些问题可以集成到组合算法选择和超参数优化任务中,通常称为CASH问题。在这项工作中,我们比较顺序和集成的算法选择和配置方法的情况下,选择和调整最好的协方差矩阵自适应演化策略(CMA-ES)的黑箱优化基准测试(BBOB)套件的4608个变种。我们首先表明,模块化CMA-ES变体的排名在很大程度上取决于超参数的质量。这意味着即使是基于算法空间的完全枚举的顺序方法也可能导致次优解决方案。事实上,我们表明,集成的方法管理,以更小的计算成本提供有竞争力的结果。我们还比较了两种不同的混合整数算法配置技术,称为Irace和混合整数并行高效全局优化(MIP-EGO)。虽然我们表明,这两种方法在处理勘探开发平衡方面存在显着差异,但它们的整体表现非常相似。
2020-01-06 cs.NE
Covariance Matrix Adaptation Evolution Strategy Assisted by Principal Component Analysis
在过去的几十年里,由于技术的发展,越来越多的方法获得了巨大的发展。进化算法作为一种探试法被广泛应用。然而,当维数增加时,计算预算呈指数级增加。协方差矩阵自适应演化策略(CMA-ES)是一种数值型的、适用于不同类型问题的进化算法,本文将采用主成分分析(PCA)降维方法对CMA-ES进行降维。我们评估我们的新方法的性能,在收敛速度方面的多模态问题的黑盒优化基准(BBOB)的问题集,我们还使用框架比较连续优化器(COCO),看看如何新的方法去和比较它与其他算法。
2021-05-11 cs.NE
Evolving the Structure of Evolution Strategies
近年来,人们提出了各种改进的协方差矩阵自适应演化策略(CMA-ES),通过对原有算法的结构进行改进,提高了算法的经验性能。然而,在实践中,通常不清楚哪种变化最适合手头的特定优化问题。作为解决这个问题的一种方法,附加到CMA-ES变体的算法机制被考虑并提取为功能性\emph{modules},允许它们的组合。这导致了一个配置空间的ES结构,这使得算法结构的探索,并铺平了道路,朝着新的算法生成。具体而言,11个模块被纳入该框架中,每个模块具有两个或三个替代配置,从而产生$4\,608$算法。一个自适应遗传算法(GA)是用来有效地发展有效的ES-结构为给定类的优化问题,优于任何经典的CMA-ES变体从文献中。所提出的方法进行评估,无噪声功能从BBOB套件。此外,这样的观察再次证实了不同的功能组和维度,表明ES配置的可行性,对现实世界的问题类。
2016-10-17 cs.NE
Natural Evolution Strategy for Mixed-Integer Black-Box Optimization
针对混合整数黑盒优化中连续变量占主导时 CMA-ES w. Margin 性能下降的问题,提出 DX-NES-ICI,并在基准实验中显著优于对比方法。
2023-04-21 cs.NE
CatCMA : Stochastic Optimization for Mixed-Category Problems
针对混合类别黑盒优化高维扩展性差、计算成本高的问题,提出采用多元高斯与类别分布联合搜索分布、沿自然梯度更新并融合加速技术的CatCMA方法,实验证明其性能更优、维度鲁棒性更强。
2025-05-21 cs.NE