Covariance Matrix Adaptation Evolution Strategy for Low Effective Dimensionality
针对CMA-ES在高维黑箱优化中受低有效维数(LED)影响的问题,提出CMA-ES-LED,通过旋转空间处理、有效维估计、超参数自适应及步长改进,在含LED的基准函数上性能更优。
2024-12-02 cs.NE
CMA-ES with Adaptive Reevaluation for Multiplicative Noise
该研究从随机松弛视角分析乘性噪声下不同CMA-ES噪声处理方法的效用特性,提出基于更新方向相关性自适应调整重评估次数的RA-CMA-ES,在乘性噪声下性能更优且加性噪声下表现具竞争力。
2024-05-19 cs.NE
The Modular CMA-ES: A Framework for Modern Evolution Strategies
本文提出模块化CMA-ES框架,整合现代进化策略多种机制,支持系统探索设计空间,并通过案例展示其用于研究算法组件及自动配置的效用。
2026-10-08 cs.NE
Diagonal Acceleration for Covariance Matrix Adaptation Evolution Strategies
本文提出了一种基于自适应对角译码(dd-CMA)的协方差矩阵自适应演化策略(CMA-ES)加速算法。这种对角加速赋予了默认的CMA-ES可分离的CMA-ES的优点,而没有继承其缺点。从技术上讲,我们引入了一个对角矩阵D,它以DCD形式表示采样分布的坐标方差。对角矩阵可以在函数求值的线性数量内的坐标中学习问题的重新缩放。对角解码也可以利用问题的可分性,但关键是,它不会影响不可分问题的性能。后者是通过基于底层相关矩阵的条件数调制对角矩阵的学习率来实现的。dd-CMA-ES不仅结合了默认和可分离的CMA-ES的优点,而且可以实现超加性加速:它提高了性能,甚至扩展了默认和可分离的CMA-ES在不可分离的测试函数类上的性能,可以说,反映了实践中常见的景观特征。本文做了两个进一步的次要贡献:我们引入了两种不同的方法来保证积极CMA的协方差矩阵的正定性,这是有价值的,特别是与大人口规模;我们修改了CMA-ES中的默认参数设置,提出加速设置,特别是大尺寸。我们所有的贡献都可以被视为对CMA-ES的独立改进,但它们也是互补的,可以无缝结合。在dd-CMA-ES的数值实验中,维数高达5120,我们观察到显着的改进,在原来的协方差矩阵适应的功能与坐标方面的病态。改进也被观察到大人口规模高达约维度平方。
2019-05-14 cs.NE math.OC
Self-Adaptive Surrogate-Assisted Covariance Matrix Adaptation Evolution Strategy
本文提出了一种新的机制,以适应代理辅助人口为基础的算法。这种机制被应用到ACM-ES,最近提出的代理辅助的变体的CMA-ES。所得到的算法saACM-ES在线调整当前代理模型的生命长度(在学习新代理之前的CMA-ES代的数量)和代理超参数。这两种代理模型都显著提高了代理模型的质量,与ACM-ES和CMA-ES基线相比,saACM-ES的速度显著提高。在BBOB-2012无噪声测试平台上对saACM-ES进行的实证验证表明,所提出的方法在问题维度和种群规模方面具有效率和可扩展性,在一些基准问题上达到了新的最佳结果。
2012-04-11 cs.NE
Neural Architecture Search using Covariance Matrix Adaptation Evolution Strategy
基于进化的神经结构搜索需要大量的计算资源,导致搜索时间较长。在这项工作中,我们提出了一个框架,应用协方差矩阵自适应演化策略(CMA-ES)的神经结构搜索问题,称为CMANAS,取得了更好的结果比以前的基于进化的方法,同时减少了搜索时间显着。架构建模使用正态分布,这是更新使用CMA-ES的基础上采样人口的健身。我们在验证数据上使用训练的单次模型(OSM)的准确性作为对单个架构的适应度的预测,以减少搜索时间。我们还使用了一个架构适应度表(AF表),用于记录已经评估的架构,从而进一步减少搜索时间。CMANAS在CIFAR-10上完成了架构搜索,0.45 GPU天的前1测试准确率为97.44%,在CIFAR-100上完成了单GPU 0.6 GPU天的前1测试准确率为83.24%。然后将CIFAR-10和CIFAR-100上搜索的顶级架构转移到ImageNet,分别达到92.6%和92.1%的前5名准确率。
2021-07-15 cs.NE
A parallel implementation of the covariance matrix adaptation evolution strategy
在许多实际优化问题中,被优化函数的导数是不可用或不可靠的。这样的优化问题使用无导数优化技术来解决。协方差矩阵自适应演化策略(CMA-ES)算法是无导数优化的最新技术之一。然而,CMA-ES算法的复杂性使得它不适合需要快速优化的任务。为了减少CMA-ES的执行时间,提出了一种并行实现方法,并在PythOPT优化环境下利用基准问题分析了其性能。
2018-05-28 cs.NE math.OC
RCMAES: A Robust CMA-ES Variant for CEC2026 Competition
Forschungszentrum Jülich GmbH(于利希研究中心)
RCMAES结合维度依赖的非线性种群规模缩减策略与自适应重启机制,在纯CMA-ES框架下提升鲁棒性,通过CEC2017、CEC2020和CEC2022三个基准测试集验证其性能。
2026-04-29 cs.NE
cmaes: A Simple yet Practical Python Library for CMA-ES
Institute of Science Tokyo(东京科学大学);Preferred Networks;CyberAgent
cmaes是一个简单实用的Python库,提供CMA-ES的高级功能,适用于快速应用和教育目的,支持多种优化任务。
2026-02-07 cs.MS cs.NE
Distributed Evolution Strategies with Multi-Level Learning for Large-Scale Black-Box Optimization
提出基于多级学习的分布式LM-CMA元框架,通过分层Meta-ES结构结合内外层ES、并行均值更新与步长适应策略,实现大规模黑盒优化的高效并行求解。
2024-10-11 cs.NE
Improving population size adapting CMA-ES algorithm on step-size blow-up in weakly-structured multimodal functions
针对PSA-CMA-ES算法在弱结构多峰问题上步长爆炸阻碍收敛的缺陷,重新表述步长修正策略,解析爆炸成因并引入种群规模变化的显著性水平指导安全过渡,实验证明改进算法有效缓解了步长爆炸并平衡了探索与开发发。
2025-06-01 cs.NE
A Computationally Efficient Limited Memory CMA-ES for Large Scale Optimization
提出了一种计算效率高的有限记忆协方差矩阵自适应演化策略,我们称之为LM-CMA-ES。LM-CMA-ES是一种随机的、无导数的算法,用于连续域中的非线性、非凸优化问题的数值优化。受Liu和Nocedal(1989)的有限内存BFGS方法的启发,LM-CMA-ES根据从优化过程中选择的$m$方向向量中重现的协方差矩阵对候选解进行采样。将协方差矩阵分解成Cholesky因子允许将采样的时间和存储器复杂度降低到$O(mn)$,其中$n$是决策变量的数量。当$n$较大时(例如,$n$ > 1000),甚至相对小的$m$值(例如,$m=20,30$)足以有效地解决完全不可分离的问题,并减少总的运行时间。
2014-04-21 cs.NE
Empirical Evaluation of Contextual Policy Search with a Comparison-based Surrogate Model and Active Covariance Matrix Adaptation
Robotics Innovation Center, DFKI GmbH(德国人工智能研究中心有限公司机器人创新中心)
上下文策略搜索(CPS)是一类多任务强化学习算法,对机器人应用特别有用。背景协方差矩阵自适应演化策略(C-CMA-ES)是最近的一种最先进的方法。它基于标准的黑盒优化算法CMA-ES。CMA-ES有两个有用的扩展,我们将转移到C-CMA-ES和经验评估:ACM-ES,它使用基于比较的代理模型,和aCMA-ES,它使用协方差矩阵的主动更新。我们将证明,这些方法的改进在样本效率方面可以令人印象深刻,尽管这与机器人领域不再相关。
2019-04-14 cs.LG cs.NE stat.ML
Multi-Objective Covariance Matrix Adaptation MAP-Annealing
提出MO-CMA-MAE算法,将CMA-ES引入多目标质量多样性优化,通过优化每个帕累托集的超体积,在多个领域及游戏地图生成中显著提升性能。
2025-05-27 cs.NE
Modified CMA-ES Algorithm for Multi-Modal Optimization: Incorporating Niching Strategies and Dynamic Adaptation Mechanism
本文通过融合小生境策略与动态自适应机制改进CMA-ES算法,以解决多模态优化中多个全局最小值带来的多样性维持难题,并在GECCO 2024 MMO竞赛基准上验证了其鲁棒性与有效性。
2024-07-01 cs.NE math.OC
Covariance Matrix Adaptation Greedy Search Applied to Water Distribution System Optimization
配水系统设计是一个具有挑战性的优化问题,具有大量的搜索维度和约束条件。通过这种方式,进化算法(EA)已被广泛应用于优化WDS,以最大限度地减少成本,同时满足压力约束。本文提出了一种新的混合进化框架,包括三个不同的阶段。第一阶段应用CMA-ES,这是一种用于连续优化的鲁棒自适应元启发式算法。这之后是向上贪婪搜索阶段,以消除压力违规。最后,使用向下贪婪搜索阶段来减少过大的管道。为了评估混合方法的有效性,它被应用到五个著名的WDS的案例研究。结果表明,新的框架优于CMA-ES本身和其他以前应用的算法在大多数基准的优化速度和网络成本。
2019-09-11 cs.NE
MMES: Mixture Model based Evolution Strategy for Large-Scale Optimization
Sun Yat-sen University(中山大学)
该工作为协方差矩阵自适应演化策略(CMA-ES)在大规模环境下的应用提供了一种有效的采样方法。与CMA-ES中的高斯采样相比,所提出的方法从混合模型生成突变向量,这有助于在有限的时间预算内利用问题景观的丰富变量相关性。我们分析了这种混合模型的概率分布,并表明它近似于高斯分布的CMA-ES与可控的精度。我们使用这种采样方法,再加上一种新的方法,突变强度适应,制定混合模型为基础的演化策略(MMES)-一个CMA-ES变种大规模优化。数值模拟结果表明,MMES在显著降低CMA-ES的时间复杂度的同时,保持了旋转不变性,可扩展到高维问题,并且在全局优化方面与现有技术相比具有竞争力.
2022-03-15 cs.AI cs.NE
Limited-Memory Matrix Adaptation for Large Scale Black-box Optimization
University of Freiburg(弗莱堡大学);Ruhr-Universität Bochum(波鸿鲁尔大学);Vorarlberg University of Applied Sciences(福拉尔贝格应用科学大学)
协方差矩阵自适应演化策略(CMA-ES)是一种在梯度信息不可用的情况下处理非凸和/或随机优化问题的流行方法。基于CMA-ES,最近提出的矩阵自适应演化策略(MA-ES)提供了一个相当令人惊讶的结果,即协方差矩阵和所有相关操作(例如,潜在不稳定的本征分解)可以在CMA-ES中由更新的变换矩阵代替而没有任何性能损失。为了进一步简化MA-ES,将其$\mathcal{O}\big(n^2\big)$时间和存储复杂度降低为$\mathcal{O}\big(n\log(n)\big)$,提出了有限内存矩阵自适应演化策略(LM-MA-ES),用于零阶大规模优化。该算法在一组已建立的大规模基准测试中表现出最先进的性能。我们探讨了算法的问题上产生对抗性的输入(非平滑)随机森林分类器,展示了一个令人惊讶的脆弱性的分类器。
2017-05-18 cs.LG cs.NE math.OC
Approximation of the objective insensitivity regions using Hierarchic Memetic Strategy coupled with Covariance Matrix Adaptation Evolutionary Strategy
AGH University of Science and Technology(AGH科技大学)
全局优化中最具挑战性的不适定性类型之一是设计参数空间中存在不敏感区域,因此如果不适定性是不可恢复的,则对其形状的识别将是至关重要的。这样的问题可以使用全局随机搜索来解决,然后对局部样本和局部目标近似进行后处理。我们提出了一种新的方法,这种类型的分层模因策略(HMS)由协方差矩阵自适应进化策略(CMA-ES)提供动力,众所周知,作为一种有效的,自适应的随机优化算法,我们利用它积累的分布密度知识,以更好地识别和分离不敏感区域。基准测试结果表明,改进的HMS-CMA-ES策略在总计算量和不敏感区域逼近精度方面都是有效的。测试的参考数据是通过一个众所周知的多模态随机优化的有效策略,称为小生境进化算法2(NEA 2),也使用CMA-ES作为一个组成部分。
2019-05-17 cs.AI cs.NE
Covariance Matrix Adaptation Evolutionary Strategy with Worst-Case Ranking Approximation for Min--Max Optimization and its Application to Berthing Control Tasks
在这项研究中,我们考虑了一个连续的最小-最大优化问题$\min_{x \in \mathbb{X} \max_{y \in \mathbb{Y}}}f(x,y)$,其目标函数是一个黑箱。我们提出了一种新的方法来最大限度地减少最坏情况下的目标函数$F(x) = \max_{y} f(x,y)$直接使用协方差矩阵自适应演化策略(CMA-ES),其中解决方案的候选人的排名近似我们提出的最坏情况下的排名近似(WRA)机制。我们开发了两个变种的WRA结合CMA-ES和近似梯度上升的数值求解器的内部最大化问题。数值实验表明,当目标函数为光滑强凸-凹函数且$x$和$y$之间的相互作用较强时,该方法的性能优于现有的几种方法.我们调查所提出的方法的优点,目标函数不限于光滑强凸-凹函数的问题。在具有不确定性的非凸-凹函数的鲁棒靠泊控制问题中,证明了该方法的有效性。在具有不确定性的船舶靠泊鲁棒控制问题中,证明了该方法的有效性。
2023-03-28 cs.NE
Training Diverse High-Dimensional Controllers by Scaling Covariance Matrix Adaptation MAP-Annealing
University of Southern California(南加州大学);Viterbi School of Engineering(维特比工程学院)
本文针对CMA-MAE难以扩展到高维神经网络控制器的问题,提出三种基于高效近似的新变体,在机器人运动任务中超越ES基线,并达到或超过最先进的深度强化学习质量多样性算法。
2023-09-16 cs.LG cs.NE cs.RO
Sequential vs. Integrated Algorithm Selection and Configuration: A Case Study for the Modular CMA-ES
当面对特定的优化问题时,选择使用哪种算法总是一项艰巨的任务。不仅有各种各样的算法可供选择,而且这些算法通常由许多超参数控制,这些超参数需要调整以实现最佳性能。通常,这个问题分为两个部分:算法选择和算法配置。然而,随着机器学习取得的重大进展,这些问题可以集成到组合算法选择和超参数优化任务中,通常称为CASH问题。在这项工作中,我们比较顺序和集成的算法选择和配置方法的情况下,选择和调整最好的协方差矩阵自适应演化策略(CMA-ES)的黑箱优化基准测试(BBOB)套件的4608个变种。我们首先表明,模块化CMA-ES变体的排名在很大程度上取决于超参数的质量。这意味着即使是基于算法空间的完全枚举的顺序方法也可能导致次优解决方案。事实上,我们表明,集成的方法管理,以更小的计算成本提供有竞争力的结果。我们还比较了两种不同的混合整数算法配置技术,称为Irace和混合整数并行高效全局优化(MIP-EGO)。虽然我们表明,这两种方法在处理勘探开发平衡方面存在显着差异,但它们的整体表现非常相似。
2020-01-06 cs.NE
Sampling in CMA-ES: Low Numbers of Low Discrepancy Points
本文研究CMA-ES中的采样策略,发现在搜索过程中使用少量固定的低差异点集(如128或32个点)即可优于默认均匀采样,并在BBOB基准上近似完整伪随机序列的性能,同时建立了点集的$L_2$差异与CMA-ES经验性能的明确关系。
2024-09-24 cs.NE
CMA-ES for Discrete and Mixed-Variable Optimization on Sets of Points
本文针对点集上的离散与混合变量优化问题,提出了CMA-ES-SoP方法,通过引入边缘校正机制防止过早收敛并自适应更新目标边缘值,成功解决了朴素CMA-ES因早熟收敛而失效的问题。
2024-08-23 cs.NE math.OC
Using CMA-ES for tuning coupled PID controllers within models of combustion engines
University of West Bohemia(西波希米亚大学)
本文提出用CMA-ES算法优化燃烧发动机中耦合PID控制器的参数,通过对比PSO和SHADE方法,验证了该算法在六种真实发动机模型中的有效性。
2017-06-05 cs.NE cs.SY eess.SY
Two Gaussian Approaches to Black-Box Optomization
概述了使用高斯过程作为协方差矩阵自适应演化策略(CMA-ES)的代理模型的几种策略。
2014-11-28 cs.AI cs.NE
Covariance Matrix Adaptation Evolution Strategy Assisted by Principal Component Analysis
在过去的几十年里,由于技术的发展,越来越多的方法获得了巨大的发展。进化算法作为一种探试法被广泛应用。然而,当维数增加时,计算预算呈指数级增加。协方差矩阵自适应演化策略(CMA-ES)是一种数值型的、适用于不同类型问题的进化算法,本文将采用主成分分析(PCA)降维方法对CMA-ES进行降维。我们评估我们的新方法的性能,在收敛速度方面的多模态问题的黑盒优化基准(BBOB)的问题集,我们还使用框架比较连续优化器(COCO),看看如何新的方法去和比较它与其他算法。
2021-05-11 cs.NE
Reinforcement learning based adaptive metaheuristics
University of Trento(特伦托大学)
参数自适应是演化计算应用于数值优化的主要趋势之一,是根据问题的性质自动调整算法超参数的能力。虽然多年来已经提出了几种手工制作的适应策略来解决这个问题,但到目前为止,在应用机器学习来学习这些策略方面的尝试很少。在这里,我们介绍了一个通用的框架,用于执行参数自适应连续域元分析的基础上,国家的最先进的强化学习算法。我们证明了这一框架的适用性的两个算法,即协方差矩阵自适应演化策略(CMA-ES)和差分进化(DE),我们学习,分别适应政策的步长(CMA-ES),和比例因子和交叉率(DE)。我们在两种设置中对这些策略进行训练,一组46个不同维度的基准函数,对策略进行各种输入:每个函数一个策略,所有函数一个全局策略。分别比较,累积步长适应(CSA)的政策和两个著名的自适应DE的变种(iDE和jDE),我们的政策是能够产生竞争力的结果在大多数情况下,特别是在DE的情况下。
2022-06-29 cs.LG cs.NE
On the Interaction of Adaptive Population Control with Cumulative Step-Size Adaptation
本文从理论和实证角度研究了三种自适应种群控制策略与累积步长自适应进化策略的交互作用,并在多种测试函数上识别出性能优良的参数集。
2024-10-01 cs.NE
Integer Natural Evolution Strategies
Leiden University(莱顿大学);Sorbonne Université, CNRS, LIP6(索邦大学,法国国家科学研究中心,LIP6);Tel-Hai - University of Kiryat Shmona in the Galilee(泰尔海-加利利基里亚特谢莫纳大学);Faculty of Information Technology, University of Jyväskylä(于韦斯屈莱大学信息技术学院)
本研究提出整数自然进化策略(INES),基于ℓ₁原生机制设计步长适应,经整数二次基准测试,其在高维椭球问题上与CMA-ES基线相当且收敛更稳健。
2026-08-26 cs.NE
Painless step size adaptation for SGD
Samara University(萨马拉大学);Oikon Ltd.(奥伊康有限公司);Libertas International University(利伯塔斯国际大学);Ruđer Bošković Institute(鲁杰尔·博什科维奇研究所)
针对SGD中收敛与泛化可能冲突的问题,本文提出LIGHT函数及四种配置,以显式实现无需稳定性保证或过参数化的步长自适应。
2021-02-01 cs.LG cs.NE