Self-Adaptive Surrogate-Assisted Covariance Matrix Adaptation Evolution Strategy
本文提出了一种新的机制,以适应代理辅助人口为基础的算法。这种机制被应用到ACM-ES,最近提出的代理辅助的变体的CMA-ES。所得到的算法saACM-ES在线调整当前代理模型的生命长度(在学习新代理之前的CMA-ES代的数量)和代理超参数。这两种代理模型都显著提高了代理模型的质量,与ACM-ES和CMA-ES基线相比,saACM-ES的速度显著提高。在BBOB-2012无噪声测试平台上对saACM-ES进行的实证验证表明,所提出的方法在问题维度和种群规模方面具有效率和可扩展性,在一些基准问题上达到了新的最佳结果。
2012-04-11 cs.NE
Covariance Matrix Adaptation Greedy Search Applied to Water Distribution System Optimization
配水系统设计是一个具有挑战性的优化问题,具有大量的搜索维度和约束条件。通过这种方式,进化算法(EA)已被广泛应用于优化WDS,以最大限度地减少成本,同时满足压力约束。本文提出了一种新的混合进化框架,包括三个不同的阶段。第一阶段应用CMA-ES,这是一种用于连续优化的鲁棒自适应元启发式算法。这之后是向上贪婪搜索阶段,以消除压力违规。最后,使用向下贪婪搜索阶段来减少过大的管道。为了评估混合方法的有效性,它被应用到五个著名的WDS的案例研究。结果表明,新的框架优于CMA-ES本身和其他以前应用的算法在大多数基准的优化速度和网络成本。
2019-09-11 cs.NE
Multi-Objective Covariance Matrix Adaptation MAP-Annealing
提出MO-CMA-MAE算法,将CMA-ES引入多目标质量多样性优化,通过优化每个帕累托集的超体积,在多个领域及游戏地图生成中显著提升性能。
2025-05-27 cs.NE
Covariance Matrix Adaptation Evolutionary Strategy with Worst-Case Ranking Approximation for Min--Max Optimization and its Application to Berthing Control Tasks
在这项研究中,我们考虑了一个连续的最小-最大优化问题$\min_{x \in \mathbb{X} \max_{y \in \mathbb{Y}}}f(x,y)$,其目标函数是一个黑箱。我们提出了一种新的方法来最大限度地减少最坏情况下的目标函数$F(x) = \max_{y} f(x,y)$直接使用协方差矩阵自适应演化策略(CMA-ES),其中解决方案的候选人的排名近似我们提出的最坏情况下的排名近似(WRA)机制。我们开发了两个变种的WRA结合CMA-ES和近似梯度上升的数值求解器的内部最大化问题。数值实验表明,当目标函数为光滑强凸-凹函数且$x$和$y$之间的相互作用较强时,该方法的性能优于现有的几种方法.我们调查所提出的方法的优点,目标函数不限于光滑强凸-凹函数的问题。在具有不确定性的非凸-凹函数的鲁棒靠泊控制问题中,证明了该方法的有效性。在具有不确定性的船舶靠泊鲁棒控制问题中,证明了该方法的有效性。
2023-03-28 cs.NE
On-line Search History-assisted Restart Strategy for Covariance Matrix Adaptation Evolution Strategy
重启策略有助于协方差矩阵自适应演化策略(CMA-ES)提高寻优过程中找到全局最优解的概率,但单次运行的CMA-ES容易陷入局部最优解。在本文中,连续的非重访遗传算法(cNrGA)被用来帮助CMA-ES实现从不同的子区域的搜索空间的多次重新启动。提出了一种基于在线搜索历史辅助重启策略的CMA-ES(HR-CMA-ES)。cNrGA的整个在线搜索历史存储在二进制空间划分(BSP)树中,这对于执行局部搜索是有效的。频繁采样的子区域由BSP树中的深位置反映。当叶节点位于比阈值更深时,对应的子区域被认为是感兴趣区域(ROI)。在HR-CMA-ES中,cNrGA负责全局探索并为CMA-ES建议ROI,以在ROI内或周围执行利用。CMA-ES在每个建议的ROI中独立重启。cNrGA的非重访机制避免了第二次建议相同的ROI。在CEC 2013和2017基准套件上的实验结果表明,HR-CMA-ES的性能优于CMA-ES和cNrGA。一个积极的协同作用,观察两个算法的模因合作。
2019-03-16 cs.NE
Empirical Evaluation of Contextual Policy Search with a Comparison-based Surrogate Model and Active Covariance Matrix Adaptation
Robotics Innovation Center, DFKI GmbH(德国人工智能研究中心有限公司机器人创新中心)
上下文策略搜索(CPS)是一类多任务强化学习算法,对机器人应用特别有用。背景协方差矩阵自适应演化策略(C-CMA-ES)是最近的一种最先进的方法。它基于标准的黑盒优化算法CMA-ES。CMA-ES有两个有用的扩展,我们将转移到C-CMA-ES和经验评估:ACM-ES,它使用基于比较的代理模型,和aCMA-ES,它使用协方差矩阵的主动更新。我们将证明,这些方法的改进在样本效率方面可以令人印象深刻,尽管这与机器人领域不再相关。
2019-04-14 cs.LG cs.NE stat.ML
A Covariance Matrix Self-Adaptation Evolution Strategy for Optimization under Linear Constraints
本文研究了一种用于求解线性约束优化问题的协方差矩阵自适应演化策略(CMSA-ES)。所提出的算法被称为线性约束CMSA-ES(lcCMSA-ES)。它使用了一个专门建立的变异算子与投影修复,以满足约束。lcCMSA-ES在由约束定义的线性流形上演化自身。目标函数只在可行的搜索点上进行评估(内点法)。这是在诸如仿真优化和有限元法等应用领域中经常需要的性质。该算法进行了测试,各种不同的测试问题,揭示了相当大的结果。
2018-09-21 cs.NE math.OC
Approximation of the objective insensitivity regions using Hierarchic Memetic Strategy coupled with Covariance Matrix Adaptation Evolutionary Strategy
AGH University of Science and Technology(AGH科技大学)
全局优化中最具挑战性的不适定性类型之一是设计参数空间中存在不敏感区域,因此如果不适定性是不可恢复的,则对其形状的识别将是至关重要的。这样的问题可以使用全局随机搜索来解决,然后对局部样本和局部目标近似进行后处理。我们提出了一种新的方法,这种类型的分层模因策略(HMS)由协方差矩阵自适应进化策略(CMA-ES)提供动力,众所周知,作为一种有效的,自适应的随机优化算法,我们利用它积累的分布密度知识,以更好地识别和分离不敏感区域。基准测试结果表明,改进的HMS-CMA-ES策略在总计算量和不敏感区域逼近精度方面都是有效的。测试的参考数据是通过一个众所周知的多模态随机优化的有效策略,称为小生境进化算法2(NEA 2),也使用CMA-ES作为一个组成部分。
2019-05-17 cs.AI cs.NE
Diagonal Acceleration for Covariance Matrix Adaptation Evolution Strategies
本文提出了一种基于自适应对角译码(dd-CMA)的协方差矩阵自适应演化策略(CMA-ES)加速算法。这种对角加速赋予了默认的CMA-ES可分离的CMA-ES的优点,而没有继承其缺点。从技术上讲,我们引入了一个对角矩阵D,它以DCD形式表示采样分布的坐标方差。对角矩阵可以在函数求值的线性数量内的坐标中学习问题的重新缩放。对角解码也可以利用问题的可分性,但关键是,它不会影响不可分问题的性能。后者是通过基于底层相关矩阵的条件数调制对角矩阵的学习率来实现的。dd-CMA-ES不仅结合了默认和可分离的CMA-ES的优点,而且可以实现超加性加速:它提高了性能,甚至扩展了默认和可分离的CMA-ES在不可分离的测试函数类上的性能,可以说,反映了实践中常见的景观特征。本文做了两个进一步的次要贡献:我们引入了两种不同的方法来保证积极CMA的协方差矩阵的正定性,这是有价值的,特别是与大人口规模;我们修改了CMA-ES中的默认参数设置,提出加速设置,特别是大尺寸。我们所有的贡献都可以被视为对CMA-ES的独立改进,但它们也是互补的,可以无缝结合。在dd-CMA-ES的数值实验中,维数高达5120,我们观察到显着的改进,在原来的协方差矩阵适应的功能与坐标方面的病态。改进也被观察到大人口规模高达约维度平方。
2019-05-14 cs.NE math.OC
Hybrid Wave-wind System Power Optimisation Using Effective Ensemble Covariance Matrix Adaptation Evolutionary Algorithm
本研究针对漂浮式混合风浪系统的复杂优化问题,提出结合协方差矩阵适应、新颖性搜索和离散化技术的有效集成优化(EEA)方法,在多个海域测试中显著提升了系统的平均功率输出和收敛率。
2025-05-28 cs.NE
Training Diverse High-Dimensional Controllers by Scaling Covariance Matrix Adaptation MAP-Annealing
University of Southern California(南加州大学);Viterbi School of Engineering(维特比工程学院)
本文针对CMA-MAE难以扩展到高维神经网络控制器的问题,提出三种基于高效近似的新变体,在机器人运动任务中超越ES基线,并达到或超过最先进的深度强化学习质量多样性算法。
2023-09-16 cs.LG cs.NE cs.RO
Variable Metric Evolution Strategies for High-dimensional Multi-Objective Optimization
针对高维多变量问题,结合协方差矩阵自适应扩展算法与多目标进化策略,开发了基于指标选择的最先进多目标优化器,性能优于全协方差矩阵自适应。
2024-12-20 cs.NE
Analysis of the $(μ/μ_I,λ)$-$σ$-Self-Adaptation Evolution Strategy with Repair by Projection Applied to a Conically Constrained Problem
针对一类圆锥约束问题,对$(μ/μ_I,λ)$ -Self-Adaptation演化策略($σ$ SA-ES)进行了理论性能分析.不可行的后代修复使用的可行性区域的边界上的投影。封闭形式的近似用于一代进展的演化策略。近似确定性的演化方程,制定分析战略的动态。通过迭代演化方程的近似一代表达式,演化策略的动态可以预测。推导出的理论结果进行比较,以评估近似质量的实验。结果表明,在稳态下,$(μ/μ_I,λ)$ - $σ$ SA-ES表现出的性能,如果ES是优化的球体模型。与非重组$(1,λ)$ -ES不同,亲本稳态行为不在锥体边界上演变,而是在一定程度上远离边界。
2018-12-15 cs.NE
Adaptive strategy in differential evolution via explicit exploitation and exploration controls
现有的多策略自适应差分进化(DE)通常涉及多个策略的试验,然后用更多的资源奖励表现更好的策略。然而,尝试开发或探索策略可能会导致过度开发或过度探索。为了提高性能,本文提出了一种新的策略自适应方法,命名为显式自适应方案(Ea方案),该方案将多个策略分离并按需使用。它是通过将进化过程分为几个选择候选与相似性选择(SCSS)代和自适应代。在SCSS世代中,通过利用平衡策略来学习开发和探索需求。为了满足这些需求,在适应性世代,另外两种策略,剥削或探索是适应性使用。基准函数的实验研究表明,Ea计划的有效性相比,其变种和其他适应方法。此外,性能与最先进的进化算法和群体智能为基础的算法比较表明,EaDE是非常有竞争力的。
2021-12-02 cs.NE
Limited-Memory Matrix Adaptation for Large Scale Black-box Optimization
University of Freiburg(弗莱堡大学);Ruhr-Universität Bochum(波鸿鲁尔大学);Vorarlberg University of Applied Sciences(福拉尔贝格应用科学大学)
协方差矩阵自适应演化策略(CMA-ES)是一种在梯度信息不可用的情况下处理非凸和/或随机优化问题的流行方法。基于CMA-ES,最近提出的矩阵自适应演化策略(MA-ES)提供了一个相当令人惊讶的结果,即协方差矩阵和所有相关操作(例如,潜在不稳定的本征分解)可以在CMA-ES中由更新的变换矩阵代替而没有任何性能损失。为了进一步简化MA-ES,将其$\mathcal{O}\big(n^2\big)$时间和存储复杂度降低为$\mathcal{O}\big(n\log(n)\big)$,提出了有限内存矩阵自适应演化策略(LM-MA-ES),用于零阶大规模优化。该算法在一组已建立的大规模基准测试中表现出最先进的性能。我们探讨了算法的问题上产生对抗性的输入(非平滑)随机森林分类器,展示了一个令人惊讶的脆弱性的分类器。
2017-05-18 cs.LG cs.NE math.OC
The Hessian Estimation Evolution Strategy
Institute for Neural Computation, Ruhr-University Bochum(波鸿鲁尔大学神经计算研究所);Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系)
我们提出了一种新的黑箱优化算法称为海森估计演化策略。该算法通过直接估计目标函数的曲率来更新其采样分布的协方差矩阵。这种算法设计是针对二次连续可微问题的。为此,我们扩展的累积步长自适应算法的CMA-ES镜像采样。我们证明,我们的方法来协方差矩阵自适应是有效的BBOB/COCO测试平台上进行评估。我们还表明,该算法是令人惊讶的强大时,其核心假设的两次连续可微的目标函数被违反。该方法产生了一个新的演化策略具有竞争力的性能,同时它也提供了一个有趣的替代通常的协方差矩阵更新机制。
2020-06-09 cs.LG cs.NE
Convergence Rate of the (1+1)-Evolution Strategy with Success-Based Step-Size Adaptation on Convex Quadratic Functions
基于一般凸二次函数及其单调变换,即$f(x) = g((x - x^*)^\mathrm{T} H (x - x^*))$,分析了基于成功的步长自适应(1+1)-演化策略,其中$g:\mathbb{R}\to\mathbb{R}$是严格增函数,$H$是正定对称矩阵,$x^* \in \mathbb{R}^d$是$f$的最优解.收敛速度,即从搜索点$m_t$到最优解$x^*$的距离的减小速度,被证明是在$O(\exp( - L / \mathrm{Tr}(H) ))$,其中$L$是$H$的最小特征值,$\mathrm{Tr}(H)$是$H$的迹。这个结果推广了已知的$O(\exp(- 1/d ))$对于$H = I_{d}$($I_d$是维度$d$的单位矩阵)的情况的速率和$O(\exp(- 1/ (d\cdotξ) ))$对于$H = \mathrm{diag}(ξ\cdot I_{d/2}, I_{d/2})$的情况的速率。据我们所知,这是第一个研究中,(1+1)-ES的收敛速度推导明确和严格的一般凸二次函数,它描绘了在Hessian $H$的特征值分布的影响,而不仅仅是$H$的条件数的影响。
2021-04-12 cs.NE
Reference Vector Adaptation and Mating Selection Strategy via Adaptive Resonance Theory-based Clustering for Many-objective Optimization
针对多目标优化中参考向量自适应未充分利用拓扑结构且聚类性能有限的问题,提出基于自适应共振理论聚类的进化算法,同时用于参考向量自适应和交配选择,并在78个测试问题上优于8种主流MOEAs。
2022-05-04 cs.NE
Two Gaussian Approaches to Black-Box Optomization
概述了使用高斯过程作为协方差矩阵自适应演化策略(CMA-ES)的代理模型的几种策略。
2014-11-28 cs.AI cs.NE
Exploration and Exploitation in Symbolic Regression using Quality-Diversity and Evolutionary Strategies Algorithms
Université de Paris(巴黎大学);Ochanomizu University(御茶水女子大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
通过结合遗传编程,MAP精英和协方差矩阵自适应演化策略,我们在符号回归问题中表现出非常高的成功率。MAP-Elites用于改进探索,同时保持多样性并避免过早收敛和膨胀。然后,协方差矩阵自适应演化策略被用来评估自由标量通过非梯度的黑箱优化器。虽然这种评估方法是不计算可扩展的高维问题,我们的算法是能够找到正是大多数的$31$目标提取的文献上,我们评估它。
2019-06-10 cs.LG cs.NE
Convergence Analysis of the Hessian Estimation Evolution Strategy
一类称为Hessian估计进化策略(HE-ES)的算法通过直接估计目标函数的曲率来更新其采样分布的协方差阵。该方法实际上是有效的,证明了体面的性能在BBOB测试平台上,即使在相当不规则的功能。在本文中,我们正式证明了两个强有力的保证(1+4)-HE-ES,家庭的最小精英成员:稳定的协方差阵更新,因此,线性收敛的所有凸二次问题的速度是独立的问题实例。
2021-06-15 cs.NE math.OC
Weights Adaptation Optimization of Heterogeneous Epidemic Spreading Networks: A Constrained Cooperative Coevolution Strategy
本文研究异构流行病传播网络权重自适应的动态约束优化问题,针对问题维度随网络规模指数增长导致现有进化算法性能不佳的难点,提出采用新型约束协同共进化($C^3$)策略将大规模问题分解为子组件,以实现约束与目标函数间的权衡。
2020-01-29 cs.NE cs.SY eess.SY
Modified CMA-ES Algorithm for Multi-Modal Optimization: Incorporating Niching Strategies and Dynamic Adaptation Mechanism
本文通过融合小生境策略与动态自适应机制改进CMA-ES算法,以解决多模态优化中多个全局最小值带来的多样性维持难题,并在GECCO 2024 MMO竞赛基准上验证了其鲁棒性与有效性。
2024-07-01 cs.NE math.OC
Fast Moving Natural Evolution Strategy for High-Dimensional Problems
Tokyo Institute of Technology(东京工业大学)
在这项工作中,我们提出了一个新的变种自然演化策略(NES)的高维黑箱优化问题。所提出的方法,CR-FM-NES,扩展了最近提出的国家的最先进的NES,快速移动自然演化策略(FM-NES),以便适用于高维问题。CR-FM-NES建立在使用协方差矩阵的受限表示而不是使用完整协方差矩阵的想法上,同时继承了FM-NES的效率。协方差矩阵的约束表示使得CR-FM-NES能够以线性时间和空间复杂度更新多元正态分布的参数,这可以应用于高维问题。我们的实验结果表明,CR-FM-NES并没有失去FM-NES的效率,相反,CR-FM-NES取得了显着的加速相比,FM-NES在一些基准问题。此外,我们使用200,600,和1000维基准问题的数值实验表明,CR-FM-NES是有效的可扩展的基线方法,VD-CMA和Sep-CMA。
2022-05-08 cs.LG cs.NE stat.ML
Evolutionary Hessian Learning: Forced Optimal Covariance Adaptive Learning (FOCAL)
Princeton University(普林斯顿大学);Colorado State University(科罗拉多州立大学)
针对CMA-ES在条件数大的高维景观中无法学习真实协方差矩阵的问题,提出FOCAL方法,通过强制学习全局吸引盆处的Hessian矩阵,在模型景观和量子控制系统中高保真恢复Hessian。
2011-12-19 cs.NA cs.NE math.NA