Selecting for Selection: Learning To Balance Adaptive and Diversifying Pressures in Evolutionary Search
受自然进化的启发,进化搜索算法已被证明是非常有能力的,因为它们具有通过不同种群进行辐射式探索和收敛到适应压力的双重能力。这种行为的很大一部分来自进化算法的选择功能,这是决定哪些个体存活到下一代的度量。在欺骗性或难以搜索的适应度景观中,贪婪选择往往会失败,因此选择函数在梯度利用适应和探索性多样化之间取得正确的平衡至关重要。本文介绍了Sel4Sel,或选择选择,一种算法,通过元进化循环搜索高性能的基于神经网络的选择功能。在三个不同的比特串域上的结果表明,Sel4Sel网络始终匹配或超过基于适应度的选择和明确旨在鼓励多样性的基准的性能。对最强Sel4Sel网络的分析揭示了一种普遍的趋势,即在早期倾向于高度新颖的个体,随着欺骗性的局部最优被绕过,逐渐转向基于适应度的选择。
2021-06-16 cs.NE
Sampled Training and Node Inheritance for Fast Evolutionary Neural Architecture Search
深度神经网络的性能在很大程度上取决于其架构,并且已经开发了各种神经架构搜索策略用于自动化网络架构设计。近年来,进化神经结构搜索(ENAS)由于其良好的全局寻优能力而受到越来越多的关注。然而,ENAS具有极高的计算成本,因为在进化优化中通常需要大量的性能评估,并且训练深度神经网络本身在计算上是非常密集的。针对这一问题,提出了一种新的基于有向无环图的快速ENAS进化框架,在该框架中,父代被随机抽取,并在每一小批训练数据上进行训练.此外,采用节点继承策略生成后代个体,无需训练直接评估其适应度。为了增强进化神经网络的特征处理能力,我们还在搜索空间中编码了通道注意力机制。我们评估了广泛使用的数据集上的算法,与26个国家的最先进的同行算法相比。实验结果表明,该算法不仅计算效率更高,而且在学习性能上具有很强的竞争力。
2020-03-07 cs.NE
Evolutionary algorithms
本手稿包含作者阅读的讲座课程“进化算法”的大纲。本课程涵盖了经典遗传算法和其他各种遗传算法,以及进化策略,遗传编程,禁忌搜索和一般的进化算法。对交叉算子的旋转性、模式定理、遗传算法的局部搜索性能以及进化算法的“几乎必然”收敛性等问题给出了完整的证明。文本是俄语的。
2022-03-30 cs.NE
SOM-Guided Evolutionary Search for Solving MinMax Multiple-TSP
多重TSP,在文献中也缩写为mTSP,是旅行商问题的扩展,它是具有重要实际意义的车辆路径问题的许多变体的核心。目前的文件开发和实验与自组织地图,进化算法和蚁群系统,以解决最小最大制定的单仓库多TSP。神经网络方法和两个元算法之间的杂交显示出显著的改进,优于文献中报道的一组问题实例从TSPLIB。
2019-07-27 cs.NE
A Cuckoo Quantum Evolutionary Algorithm for the Graph Coloring Problem
基于量子进化算法框架,提出了一种求解图着色问题的布谷鸟量子进化算法。为了减少色数搜索的迭代次数,初始量子种群由遗传辅助的随机初始化产生。此外,通过引入布谷鸟搜索策略,改进了算法的全局搜索能力,并引入了局部搜索和扰动策略,以提高算法在控制点上的性能。数值结果表明,CQEA具有很强的探索和开发能力,与现有的启发式算法相比具有很强的竞争力。
2021-08-19 cs.NE
An Evolutionary Stochastic-Local-Search Framework for One-Dimensional Cutting-Stock Problems
我们引入了一个进化的随机局部搜索(SLS)算法来解决所谓的1/V/D/R下料问题的广义版本。在工业环境中经常会遇到切削库存问题,有效解决这些问题的能力通常会带来巨大的经济效益。传统的基于线性规划的技术已被用来解决这些问题,但它们的灵活性可能会受到限制时,非线性约束和目标函数的介绍。为此,本文提出了一种解决一维下料问题的进化SLS算法。的贡献在于引入一个灵活的结构框架的优化,可以容纳一个大家庭的多元化战略,包括一个新的并行模式适合SLS算法(不一定限于切割股票的问题)。最后,我们通过实验证明在现实世界中的制造问题所考虑的多元化战略的成本降低的好处。
2017-07-27 cs.NE
An Experimental Study of Adaptive Control for Evolutionary Algorithms
探索与利用的平衡是演化计算的一个关键问题。在本文中,我们将探讨如何自适应控制器的目的是执行操作员选择可以用来动态管理所需的EvE平衡的搜索,显示由这种控制范式确定的搜索策略导致改进的解决方案的质量发现的进化算法。
2014-09-05 cs.NE
Fashion Style Generation: Evolutionary Search with Gaussian Mixture Models in the Latent Space
本文提出了一种新的方法,用于指导在FashionGen数据集上训练的生成对抗网络生成与目标时尚风格相对应的设计。在生成器的潜在空间中找到对应于一种风格的潜在向量是一个进化搜索问题。在服装属性预测模型中,基于服装的高层表示,应用高斯混合模型来识别服装风格。经过几代,遗传算法优化设计群体,以增加它们属于高斯混合成分或风格之一的概率。显示所开发的系统可以生成最大健身视觉上类似于某些风格的图像,我们的方法提供了一个很有前途的方向,以指导搜索风格连贯的设计。
2022-04-04 cs.NE
Meme as Building Block for Evolutionary Optimization of Problem Instances
在文献中,进化优化的一个显着不足的探索领域是可以随着问题的解决而进化的优化方法的研究。特别是,目前的进化优化方法通常从头开始搜索或从零开始的知识状态,独立于给定的新的感兴趣的问题是如何类似于那些以前优化。因此,显然缺乏跨问题的自动知识转移和重用。以此为线索,本文介绍了一种新的模因计算范式的搜索,一个模型后,人类如何解决问题,并开始对智能进化优化问题的研究,通过转移的结构化知识的形式模因从以前的解决问题的经验,以提高未来的进化搜索。模因搜索范式由模因学习、模因选择、模因变异和模因模仿四个文化启发算子组成。学习算子从过去解决问题的经验中挖掘潜在结构形式的模因。选择算子识别在问题间复制和传播的适合模因,而变异算子将创新引入模因。另一方面,模仿算子定义了合适的模因如何同化到新遇到的问题的搜索过程中,从而实现高效和有效的进化优化。最后,全面研究两个广泛研究的挑战性以及建立NP难路由问题域,特别是,有能力的车辆路由(CVR)和有能力的弧路由(CAR),证实了高效率的智能进化优化问题的模因计算搜索范式。
2012-07-03 cs.NE
Analysis of Solution Quality of a Multiobjective Optimization-based Evolutionary Algorithm for Knapsack Problem
多目标优化被认为是进化优化中处理约束优化问题最有前途的方法之一。本文对求解0-1背包问题的多目标优化进化算法进行了理论研究。该算法考虑了两种初始化方法:局部搜索初始化和贪婪搜索初始化。然后从逼近比的角度分析了算法的解质量。
2015-02-12 cs.NE
Regularized Evolutionary Algorithm for Dynamic Neural Topology Search
University of Trento(特伦托大学);Fondazione Bruno Kessler (FBK)(布鲁诺·凯斯勒基金会)
设计用于对象识别的神经网络需要大量的架构工程。作为一种补救措施,神经进化网络结构搜索,它使用进化算法自动搜索最佳网络结构,最近变得非常流行。虽然非常有效,但进化算法严重依赖于具有大量个体(即,网络体系结构)并且因此存储器昂贵。在这项工作中,我们提出了一个具有低内存占用的正则化进化算法来进化动态图像分类器。在细节上,我们引入了新的自定义算子,规范了10个个体的微种群的进化过程。我们在三个不同的数字数据集(MNIST,USPS,SVHN)上进行了实验,结果表明,我们的进化方法获得了与当前最先进的竞争结果。
2019-08-19 cs.CV cs.NE
Ranking Constraints via Topological Dual-Directional Search in Evolutionary Multi-Objective Optimization
National Key Laboratory of Parallel and Distributed Computing, College of Computer Science and Technology, National University of Defense Technology(国防科技大学计算机科学与技术学院并行与分布式计算国家重点实验室);College of System Engineering, National University of Defense Technology(国防科技大学系统工程学院);College of Intelligence Science and Technology, National University of Defense Technology(国防科技大学智能科学学院);State Key Laboratory of Complex & Critical Software Environment, College of Information and Communication, National University of Defense Technology(国防科技大学信息与通信学院复杂与关键软件环境国家重点实验室)
本文提出RCCMO算法,通过拓扑对偶方向搜索机制,区分约束在CPF形成中的不同作用,提升约束处理效率。
2026-04-06 cs.NE
Identifying potentiating events in evolutionary search using replay experiments
Grand Valley State University(大急流城州立大学)
本研究将分析性重放实验引入进化计算领域,通过分步指南设计该实验,以遗传编程种群为例验证其能量化进化潜力,发现成功潜力与适应度无必然关联,可拓展进化计算理论基础。
2026-08-11 cs.NE
Evolutionary Landscape and Management of Population Diversity
进化算法(EA)的搜索能力取决于种群中个体之间的变化[3,4,8]。保持EA人口的多样性的最佳水平是必不可少的,以确保EA搜索的进展是不受过早收敛到次优解。更清楚地理解种群多样性的概念,特别是在进化搜索和早熟收敛的背景下,是设计高效进化算法的关键。为此,本文首先对EA种群多样性问题进行了简要分析。接下来,我们提出了一个反小生境EA技术的调查[4],引入和保持建设性的多样性的人口。所提出的方法使用知情的遗传操作,以达到有前途的,但未开发或开发不足的领域的搜索空间,同时阻止过早的局部收敛。一套标准的基准测试函数与遗传算法(GA)的实现进行了仿真运行显示出良好的效果。
2015-10-24 cs.NE
Novelty Driven Evolutionary Neural Architecture Search
基于进化算法(EA)的神经架构搜索(NAS)涉及通过从头开始训练来评估每个架构,这非常耗时。由于在搜索空间中的所有架构之间的权重共享,这可以通过使用超网来估计架构的适应度来减少。然而,由于超网中的操作的协同适应,估计的适应度是非常嘈杂的,这导致NAS方法陷入局部最优。在本文中,我们提出了一种称为NEvoNAS的方法,其中NAS问题是一个多目标问题,有2个目标:(i)最大限度地提高架构的新颖性,(ii)最大限度地提高架构的适应性/准确性。新颖性搜索用于在每一代保持不同的解决方案,这有助于避免局部最优陷阱,而架构适应度使用超网计算。NSGA-Ⅱ用于寻找NAS问题的\textit{pareto optimal front},并返回帕累托前沿中的最佳架构作为搜索到的架构。从理论上讲,NEvoNAS在2个不同的搜索空间上给出了更好的结果,同时与以前的基于EA的方法相比使用了更少的计算资源。我们论文的代码可以在https://github.com/nightstorm0909/NEvoNAS上找到。
2022-04-01 cs.NE
Diversity Handling In Evolutionary Landscape
进化算法的搜索能力取决于种群中个体间的变异程度。保持EA人口的多样性的最佳水平是必不可少的,以确保EA搜索的进展是不受过早收敛到次优解。更清楚地理解种群多样性的概念,特别是在进化搜索和早熟收敛的背景下,是设计高效进化算法的关键。为此,本文首先对EA种群多样性问题进行了全面的分析。接下来,我们提出了一个反小生境EA技术,介绍和维护建设性的多样性人口的调查。所提出的方法使用知情的遗传操作,以达到有前途的,但未开发或开发不足的领域的搜索空间,同时阻止过早的局部收敛。用遗传算法(GA)对一些标准的基准测试函数进行了仿真,取得了令人满意的结果。
2014-11-15 cs.NE
G-EvoNAS: Evolutionary Neural Architecture Search Based on Network Growth
本文提出基于网络增长的进化神经架构搜索框架 G-EvoNAS,通过逐步加深 Block 和分阶段精英剪枝降低全局搜索复杂度,仅用 0.2 GPU 天即可获得媲美最先进方法的图像分类网络。
2024-03-05 cs.NE
A First Step Towards Runtime Analysis of Evolutionary Neural Architecture Search
该研究首次从数学运行时角度分析 ENAS,通过 UNIFORM 二分类问题和显式适应度函数证明 (1+1)-ENAS 的局部与全局变异均以 Θ(n) 期望时间达到最优且性能等价。
2024-04-08 cs.NE
Exploitation and Exploration Analysis of Elitist Evolutionary Algorithms: A Case Study
利用和探索作为搜索求解问题的两个基石,在进化算法的实现和应用中得到了广泛的讨论。然而,对油气勘探开发的评价和理论评价研究较少。考虑到开发和探索是全局搜索和局部搜索的两个问题,本文提出了通过在不同的集成域中计算的成功概率和一步改进率来评估它们。然后,通过分析(1+1)随机单变量搜索和(1+1)进化规划在球函数和作弊问题上的性能,进行了案例研究。通过严格的理论分析,我们表明,无论是开发和探索的精英EA的问题维度$n$指数退化。同时,通过设置高斯变异的标准差$σ$的适当值,可以实现最大化的开发和探索,该标准差与当前解到前景区域中心的距离呈正相关.
2020-01-29 cs.NE
On the Runtime of Randomized Local Search and Simple Evolutionary Algorithms for Dynamic Makespan Scheduling
进化算法是求解动态优化问题的常用算法。通过本文,我们有助于对这一研究领域的理论理解。我们提出了第一个计算复杂性分析的进化算法的动态变化的经典组合优化问题,即最大完工时间调度。我们研究了一个强对手的模型,它被允许定期更换一个工作。此外,我们研究了随机变化的设置。我们的研究结果表明,随机局部搜索和一个简单的进化算法是非常有效的动态跟踪变化的问题实例。
2015-04-23 cs.DS cs.NE
Evolutionary Algorithms with Self-adjusting Asymmetric Mutation
进化算法(EA)和其他随机搜索算法通常被认为是无偏算法,其相对于底层搜索空间的不同变换是不变的。然而,如果有一定量的领域知识是可用的偏置搜索运营商在EA的使用变得可行。我们考虑一个简单的(1+1)EA二进制搜索空间和分析的非对称变异算子,可以处理零和一位不同。该算子通过允许算子不对称性根据算法的成功率而变化来扩展Jansen和Sudholt(ECJ 18(1),2010)的先前工作。使用学习适当不对称程度的自调整方案,我们在OneMax $_a$函数类上显示了改进的运行时结果,该函数类描述了具有固定目标$a\in\{0,1\}^n$的匹配位数。
2020-06-16 cs.NE
Surrogate-assisted level-based learning evolutionary search for heat extraction optimization of enhanced geothermal system
加强地热系统对于提供可持续和长期的地热能源供应和减少碳排放至关重要。优化井控方案,有效地提取热量,提高热波及效率,是地热开发的重要环节。然而,大多数现有的优化算法的优化性能恶化的维数增加。针对这一问题,提出了一种新的代理辅助的基于层次学习的进化搜索算法(SLLES),用于强化地热系统的取热优化。SLLES由分类器辅助的基于层次的学习预筛选部分和局部进化搜索部分组成。两部分的合作实现了优化过程中探索与开发的平衡。通过对设计空间的迭代采样,证明了算法的鲁棒性和有效性得到了显著提高。据我们所知,该算法拥有最先进的仿真参与的优化框架。对基准函数、二维裂缝性储层和三维强化地热系统进行了对比实验。所提出的算法优于其他五个国家的最先进的代理辅助算法在所有选定的基准函数。两个排热算例的计算结果也表明,与传统的进化算法和其他代理辅助算法相比,SLLES可以获得更好的优化性能。该工作为增强型地热系统的高效地热提取奠定了坚实的基础,并为能源开发领域数据驱动优化的模型管理策略提供了指导。
2022-12-19 cs.NE
A Survey on Evolutionary Neural Architecture Search
深度神经网络(DNN)在许多应用中取得了巨大的成功。DNN的架构在其性能中起着至关重要的作用,通常是通过丰富的专业知识手动设计的。然而,由于试错过程,这样的设计过程是劳动密集型的,并且由于实践中的稀有专业知识,也不容易实现。神经网络架构搜索(NAS)是一种能够自动设计架构的技术。在实现NAS的各种方法中,演化计算(EC)方法近年来获得了广泛的关注和成功。不幸的是,还没有一个全面的总结,基于EC的NAS算法。本文从核心组件的角度,对200多篇最新的基于EC的NAS方法进行了综述,系统地讨论了它们的设计原则以及设计的合理性。此外,目前的挑战和问题也进行了讨论,以确定未来的研究在这一新兴领域。
2022-02-04 cs.NE
Evolutionary Neural Architecture Search Supporting Approximate Multipliers
自动神经结构搜索(NAS)方法越来越受到人们的关注。它们通常用于为各种具有挑战性的数据集提供高质量的神经网络架构,并减少设计人员的工作量。当目标不仅是最小化网络误差,而且是最小化推理阶段的参数(权重)或功耗的数量时,利用多目标进化算法的NAS方法特别有用。提出了一种基于笛卡尔遗传编程的多目标进化卷积神经网络(CNN)的NAS方法。该方法允许在CNN中使用近似运算以降低目标硬件实现的功耗。在NAS过程中,一个合适的CNN架构与近似乘法器一起演进,以提供准确性、网络大小和功耗之间的最佳权衡。从近似乘数库中自动选择最合适的近似乘数。在CIFAR-10基准问题上,将进化的CNN与具有类似复杂性的常见人类创建的CNN进行比较。
2021-01-28 cs.NE
Exploiting the Potential of Standard Convolutional Autoencoders for Image Restoration by Evolutionary Search
研究人员已经将深度神经网络应用于图像复原任务,其中他们提出了各种网络架构、损失函数和训练方法。特别是,最近的研究中采用的对抗训练似乎是成功的关键因素。在本文中,我们证明了简单的卷积自动编码器(CAE)仅建立在标准网络组件上,即,卷积层和跳跃连接可以胜过采用对抗训练和复杂损失函数的现有技术方法。秘诀是采用进化算法来自动搜索好的架构。我们只需要使用ADAM优化器,通过最小化重建图像与其地面实况之间的$\ell_2$损失来训练优化的CAE。我们的实验结果表明,该方法在CelebA数据集上实现了27.8 dB的峰值信噪比(PSNR),在SVHN数据集上实现了40.4 dB的峰值信噪比(PSNR),而以前的最先进的方法分别提供了22.8 dB和33.0 dB。
2018-03-01 cs.NE
The Benefit of Sex in Noisy Evolutionary Search
有性重组的益处是群体遗传学和演化计算中最基本的问题之一。人们普遍认为,重组有助于解决困难的优化问题。我们提出的第一个结果,这严格证明了它是有益的,使用性重组在一个不确定的环境中与嘈杂的健身功能。为此,我们模型的性重组与一个简单的估计分布算法称为紧凑的遗传算法(cGA),我们比较与经典的$μ+1$ EA。对于一个简单的噪声适应度函数加性高斯后验噪声$\mathcal{N}(0,σ^2)$,我们证明了突变的唯一$μ+1$ EA通常不能处理噪声在多项式时间足够大的$σ^2$,而cGA运行在多项式时间,只要人口规模不是太小。这表明,在这种不确定的环境中,性重组是可以证明是有益的。我们在一个小型的实证研究中观察到了同样的行为。
2015-02-10 cs.NE
Search Trajectories Networks of Multiobjective Evolutionary Algorithms
University of Tsukuba(筑波大学);University of Stirling(斯特林大学)
了解多目标进化算法(MOEAs)的搜索动力学仍然是一个悬而未决的问题。本文扩展了最近的网络为基础的工具,搜索轨迹网络(STNs),MOEA的行为建模。我们的方法使用的思想分解,其中一个多目标的问题转化为几个单目标的问题。我们表明,STNs可以用来模拟和区分两个流行的多目标算法,MOEA/D和NSGA-II的搜索行为,使用10个连续的基准问题,2和3个目标。我们的研究结果表明,我们可以使用STNs进行算法分析来提高对MOEA的理解。
2022-06-30 cs.AI cs.NE
An Efficient Evolutionary Algorithm for Diversified Top-k (Weight) Clique Search Problems
针对多样化Top-k团搜索及加权团搜索问题,提出融合局部搜索与遗传算法的DiverTEAM高效进化算法,实验证明其在多类基准上性能优异稳健。
2024-01-19 cs.NE
Improving Evolutionary Strategies with Generative Neural Networks
进化策略(ES)是一种流行的黑盒零阶优化算法,它依赖于搜索分布来有效地优化各种目标函数。本文研究了在经典ES算法中使用高度灵活的搜索分布的潜在好处,与标准的(通常是高斯)。我们用生成神经网络(GNNs)对这种分布进行建模,并引入了一种新的训练算法,该算法利用它们的表现力来加速ES过程。我们表明,这种定制的算法可以很容易地将现有的ES算法,并优于国家的最先进的不同的目标函数。
2019-01-31 cs.NE
Evolutionary-Neural Hybrid Agents for Architecture Search
Jagiellonian University(雅盖隆大学);Google AI(谷歌人工智能)
神经结构搜索已经显示出自动设计神经网络的潜力。基于深度强化学习的智能体可以学习复杂的架构模式,并探索广阔的组合搜索空间。另一方面,进化算法提供了更高的样本效率,这对于这样的资源密集型应用是至关重要的。为了捕捉这两个世界的最好的,我们提出了一类进化神经混合代理(Evo-NAS)。我们表明,Evo-NAS代理优于神经和进化代理时,适用于一套文本和图像分类基准架构搜索。在一个高复杂度的架构搜索空间的图像分类,Evo-NAS代理超越了常用的代理实现的准确性,只有1/3的搜索成本。
2020-02-15 cs.LG cs.NE stat.ML
A Novel Evolutionary Algorithm for Hierarchical Neural Architecture Search
University of Macedonia(马其顿大学)
本研究提出一种带层次化模块架构表示与子结构筛选机制的新型进化算法,用于全局空间的神经架构搜索,在Fashion-MNIST和NAS-Bench101上以较少世代数取得了93.2%和94.8%的准确率。
2023-05-04 cs.LG cs.NE
Algorithm Discovery With LLMs: Evolutionary Search Meets Reinforcement Learning
EPFL(苏黎世联邦理工学院);Apple(苹果公司)
提出通过强化学习微调持续优化大语言模型,结合进化搜索加速发现更优算法,在组合优化任务上验证有效性。
2025-08-04 cs.AI cs.LG cs.NE
Beyond Evolutionary Algorithms for Search-based Software Engineering
内容:进化算法通常需要大量的评估(解决方案)收敛-这可能是非常缓慢和昂贵的evaluation.Objective:为了解决基于搜索的软件工程(SE)问题,使用较少的评价比evolutionarymethods.Method:而不是变异一个小的人口,我们建立了一个非常大的初始人口,然后使用递归双聚类斩方法剔除。我们评估这种方法对多个SE模型,无约束以及约束,并比较其性能与标准的进化算法。结果如下:使用几个评估(低于100),我们可以获得与最先进的进化算法相当的结果。结论:仅仅因为某个方法有效,并且被广泛使用,并不一定意味着没有价值去寻找方法来改进该方法。在使用传统EA进行基于搜索的SE优化任务之前,建议尝试其他技术,如本文所述,以获得相同的结果,并减少评估。
2017-09-17 cs.NE cs.SE
Discovering Evolutionary Stepping Stones through Behavior Domination
行为支配被认为是理解和利用进化系统的力量来发现和利用有用的垫脚石的工具。新颖性搜索已经显示出通过收集不同的垫脚石来克服欺骗的希望,并且已经提出了几种算法,这些算法将新颖性与更传统的适应度度量相结合,以重新聚焦搜索,并帮助新颖性搜索扩展到更复杂的领域。然而,新颖性和适应性的结合并不一定能保持新颖性搜索所提供的垫脚石发现。在几种现有的方法中,解决方案之间的竞争可能导致多样性的意外损失。行为支配定义了一类避免这个问题的算法,同时继承了多目标优化的理论保证。几个现有的算法被证明是在这一类,并介绍了一个新的算法的基础上快速非支配排序。实验结果表明,该算法优于现有的方法在域中包含有用的垫脚石,其优势是持续的规模。结论是,行为支配可以帮助阐明行为驱动搜索的复杂动力学,从而可以设计出更具可扩展性和鲁棒性的算法。
2017-04-18 cs.NE
Hybridization of Evolutionary Algorithms
进化算法是很好的通用问题求解器,但缺乏特定领域的知识。然而,问题的具体知识可以添加到进化算法的杂交。有趣的是,进化算法的所有元素都可以杂交。在本章中,我们讨论了进化算法的三个要素:目标函数、幸存者选择算子和参数设置的混合。作为目标函数,采用了传统方法构造问题解的启发式函数。然而,这个函数被嵌入到进化算法中,作为新解决方案的生成器。此外,通过局部搜索算法对目标函数进行了改进。提出了一种新的中性选择算子,它能够处理中性解,即具有不同表示但暴露目标函数相等值的解。该运算符的目的是将进化搜索引导到搜索空间的新的未发现区域。为了避免控制进化算法行为的参数的错误设置,采用了自适应的方法。最后,将这种混合自适应进化算法应用于两个现实世界中的NP-难问题:图的3-着色和服装行业中的标记优化。大量的实验表明,这些杂交改善了进化算法的结果很多。此外,还详细分析了特定杂交的影响。
2013-01-05 cs.NE
Alleviating Search Bias in Bayesian Evolutionary Optimization with Many Heterogeneous Objectives
多目标优化问题是现实世界中常见的问题,其目标具有不同的评价成本。这些问题现在被称为具有异构目标的多目标优化问题(HE-MOPs)。然而,到目前为止,只有少数研究报告,以解决HE-MOPs,其中大多数集中在一个快速目标和一个缓慢的目标的双目标问题。在这项工作中,我们的目标是处理具有两个以上的黑盒和异构目标的HE-MOPs。为此,我们开发了一种多目标贝叶斯进化优化方法,HE-MOPs利用不同的数据集上的廉价和昂贵的目标HE-MOPs,以减轻搜索偏差所造成的异质性评估成本评估不同的目标。为了最好地利用两个不同的训练数据集,一个与所有目标的解决方案,而另一个与那些只评估的快速目标,两个独立的高斯过程模型的构造。此外,一个新的采集功能,减轻对快速目标的搜索偏差的建议,从而实现收敛和多样性之间的平衡。我们证明了所提出的算法的有效性,通过测试广泛使用的多/多目标基准问题,其目标被假定为异质昂贵。
2022-08-25 cs.NE
A Hierarchical Importance-Guided Multi-objective Evolutionary Framework for Deep Neural Network Pruning
Wilfrid Laurier University(韦仕敦大学)
本文提出一种分层重要性引导的多目标进化框架,用于解决深度神经网络剪枝问题,通过分层进化搜索实现高效的参数压缩与精度平衡。
2026-04-01 cs.NE
Assessing an evolutionary search engine for small language models, prompts, and evaluation metrics
A3Data
本文提出一种双目标进化搜索引擎,用于优化小型语言模型、提示和评估指标之间的性能与效率平衡。
2025-07-21 cs.NE
Evolutionary Architecture Search for Graph Neural Networks
自动机器学习(AutoML)在过去十年中随着深度学习的兴起而重新受到关注。特别是,神经架构搜索(NAS)在整个AutoML研究社区受到了极大的关注,并推动了许多神经模型的最新技术,以解决文本和图像等网格数据。然而,关于图神经网络(GNN)在非结构化网络数据上的学习研究却很少。鉴于聚合器和激活函数等组件的选择和组合数量巨大,为特定问题确定合适的GNN结构通常需要大量的专业知识和艰苦的尝试。此外,超参数(如学习率和辍学率)的微小变化可能会严重损害GNN的学习能力。在本文中,我们提出了一种新的AutoML框架,通过在一个大型GNN架构空间中进化各个模型,其中涉及神经结构和学习参数。与现有的仅优化具有固定参数设置的模型结构不同,在GNN结构和学习参数之间执行交替进化过程,以动态地找到彼此的最佳拟合。据我们所知,这是第一个引入和评估GNN模型进化架构搜索的工作。实验和验证表明,进化NAS是能够匹配现有的国家的最先进的强化学习方法的半监督传导和归纳节点表示学习和分类。
2020-09-21 cs.NE
Initialisation and Grammar Design in Grammar-Guided Evolutionary Computation
语法提供了一种方便而强大的机制来定义一系列问题的可能解决方案的空间。然而,当用于语法进化(GE)时,在语法的设计中必须非常小心,以确保基因型到表型映射的多态性不会妨碍搜索。此外,最近的工作强调了初始化方法对GE绩效的重要性。虽然最近的工作已经阐明了GE的初始化和语法设计的问题,它们对其他方法的影响,如随机搜索和上下文无关文法遗传编程(CFG-GP),在很大程度上是未知的。本文探讨了GE,随机搜索和CFG-GP下的一系列基准问题,使用几种不同的初始化例程和语法设计。结果表明,CFG-GP是不太敏感的初始化和语法设计比GE和随机搜索:我们还表明,观察到的情况下,CFG-GP性能不佳的管理,通过简单的调整调整参数。我们的结论是,CFG-GP是一个强大的基础进行语法引导的进化搜索,未来的工作应该集中在了解CFG-GP的参数空间,以更好地应用。
2022-04-15 cs.NE
Analyzing the Expected Hitting Time of Evolutionary Computation-based Neural Architecture Search Algorithms
针对 ENAS 缺乏理论分析的问题,提出融合理论与实验的 EHT 估计方法,并分析 (λ+λ)-ENAS 下界及 NAS-Bench-101 结果,奠定其理论基础。
2024-03-15 cs.NE
Multi-Space Evolutionary Search for Large-Scale Optimization
Chongqing University(重庆大学);Dalian University of Technology(大连理工大学);City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院);Nanyang Technological University(南洋理工大学)
近年来,为了改进用于解决涉及大量决策变量的优化问题的进化算法,已经进行了许多尝试来简化用于进化搜索的给定问题的问题解空间。在文献中,现有的方法通常可以分为基于分解的方法和基于降维的方法。前者将一个大规模问题分解成几个较小的子问题,而后者则将原来的高维解空间转化为低维空间。然而,值得注意的是,给定的大规模优化问题可能并不总是可分解的,并且也难以保证在降低的低维问题空间中保持原问题的全局最优。因此,本文提出了一种新的搜索范式,即多空间进化搜索,以加强现有的进化搜索方法解决大规模优化问题。与现有的在单个搜索空间中进行进化搜索的方法相比,所提出的范例被设计为在来自给定问题的多个解空间中进行搜索,每个解空间具有独特的景观。所提出的范例没有假设的大规模优化问题的利益,如问题是可分解的或存在一定的关系,决策变量之间。为了验证所提出的范例的有效性,使用CEC 2013大规模基准问题进行了全面的实证研究,与四种最先进的算法进行了比较。
2021-02-24 cs.AI cs.NE
Evolutionary Algorithm and Multifactorial Evolutionary Algorithm on Clustered Shortest-Path Tree problem
Quantitative Hedge Fund(量化对冲基金);Faculty of Natural Science - Technology, Taybac University(太原大学自然科学与技术学院);School of Information and Communication Technology, Hanoi University of Science and Technology(河内科技大学信息与通信技术学院)
在文献中,离散最短路径树问题(CluSPT)是一个NP难问题。以往的研究往往在相对较大的空间中寻找最优解。为了提高搜索过程的性能,提出了两种方法:第一种方法寻求解决方案作为一组边缘。从原图生成一个新的图,其顶点集的基数比原图小得多。因此,提出了一种有效的进化算法(EA)求解CluSPT。第二种方法寻找基于顶点的解决方案。CluSPT的搜索空间被转换成2个嵌套的搜索空间(NSS)。对于高层优化中的每个候选项,下层的搜索引擎将找到相应的候选项与之组合,以创建CluSPT的最佳解决方案。因此,嵌套局部搜索EA(N-LSEA)被引入到搜索最优解的NSS。在低层求解时,N-LSEA可以处理各种相似的任务。因此,多因子进化算法的应用,以提高这些优化的隐式遗传转移。建议的算法进行了一系列的数据集和所获得的结果表明,优越的效率相比,以前的科学工作。
2020-10-19 cs.AI cs.NE
LEVI: Stronger Search Architectures Can Substitute for Larger LLMs in Evolutionary Search
Independent Researcher(独立研究者)
LEVI通过改进解决方案数据库、智能突变路由和排名保持代理基准,以更低成本在系统研究基准中取得最高成绩,超越现有框架。
2026-05-10 cs.AI cs.NE
Survey of Genetic and Differential Evolutionary Algorithm Approaches to Search Documents Based On Semantic Similarity
School of EECS, College of Engineering and Mines, University of North Dakota(电子工程与科学学院,工程与采矿学院,北达科塔大学)
本综述探讨了在海量数据中基于语义相似性搜索文档的挑战,重点总结了遗传算法与差分进化算法等进化计算方法在该领域的最新进展。
2025-07-15 cs.AI cs.NE
Locating the boundaries of Pareto fronts: A Many-Objective Evolutionary Algorithm Based on Corner Solution Search
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心);City University of Hong Kong(香港城市大学)
提出了一种基于角点解搜索的进化多目标优化算法(MaOEA-CS)。MaOEA-CS隐含地包含两个阶段:在第一阶段,利用搜索最重要的边界最优解-角点解;在第二阶段,使用基于角度的选择[1],探索搜索PF近似的扩展。由于其高效率和对PF形状的鲁棒性,它赢得了CEC 2017年进化多目标优化竞赛。此外,MaOEA-CS还被应用于两个现实世界的工程优化问题非常不规则的PF。实验结果表明,MaOEA-CS算法的性能优于其他6种同类算法,表明该算法能够有效地处理具有不规则PF的复杂优化问题。
2018-06-08 cs.AI cs.NE
Evolutionary Search in the Space of Rules for Creation of New Two-Player Board Games
Ghulam Ishaq Khan Institute of Engineering Sciences and Technology(加齐大学工程科学与技术学院);Al Imam Mohammad Ibn Saud Islamic University (IMSIU)(伊玛目穆罕默德·伊本·沙特伊斯兰大学);National University of Computer and Emerging Science(国立计算机与新兴科学大学)
游戏一直是人工智能技术的热门试验平台。游戏开发者总是在不断地寻找能够自动创建计算机游戏的技术,以最小化开发者的任务。在这项工作中,我们提出了一个进化策略为基础的解决方案自动生成的两个球员的棋盘游戏。为了指导游戏的进化过程,这是娱乐,我们提出了一套指标。这些度量基于计算机游戏中的不同娱乐理论。这项工作还比较了娱乐价值的进化游戏与现有的流行的基于棋盘的游戏。进一步地,为了用人类用户的娱乐价值来验证演进游戏的娱乐价值,进行人类用户调查。除了用户调查,我们检查的可学习性的进化游戏使用人工神经网络为基础的控制器。所提出的度量和进化过程可以用于生成新的和有趣的棋盘游戏,提供初始搜索空间给进化算法。
2014-06-01 cs.AI cs.NE
SEDIMA: Cross-Run Hierarchical Insight Memory for Evolutionary Search Agents
University of British Columbia(不列颠哥伦比亚大学);Huawei Technologies Canada(华为加拿大技术公司)
SEDIMA通过跨运行的分层洞察记忆,将进化搜索中的经验提炼并复用,在多个基准上显著提升性能并减少迭代次数。
2026-10-05 cs.CL cs.NE
EmoDM: A Diffusion Model for Evolutionary Multi-objective Optimization
Guangdong University of Foreign Studies(广东外语外贸大学);Westlake University(西湖大学)
针对进化算法求解高成本多目标优化问题时函数评估次数多的痛点,提出基于扩散模型的EmoDM,结合互熵注意力机制提升可扩展性,可高效生成非支配解且泛化性好。
2024-08-15 cs.AI cs.NE
Evolutionary Algorithm Enhanced Neural Architecture Search for Text-Independent Speaker Verification
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司)
最先进的说话人验证模型基于深度学习技术,这在很大程度上依赖于专家或工程师手工设计的神经架构。我们借用神经结构搜索(NAS)的思想,文本无关的说话人确认任务。由于NAS可以自动学习深度网络结构,我们将NAS概念引入到著名的x向量网络中。此外,本文提出了一种进化算法增强的神经结构搜索方法,称为自动向量自动发现有前途的网络的说话人确认任务。实验结果表明,我们的基于NAS的模型优于国家的最先进的说话人确认模型。
2020-08-13 cs.NE cs.SD eess.AS
Evolutionary Reinforcement Learning via Cooperative Coevolutionary Negatively Correlated Search
Southern University of Science and Technology(南方科技大学)
本文提出NCS友好的协同协同进化框架,以扩展负相关搜索并保留其并行探索行为,在10个Atari游戏上以少50%计算时间显著优于三种最先进深度强化学习方法。
2020-09-08 cs.LG cs.NE
A Novel Genetic Search Scheme Based on Nature -- Inspired Evolutionary Algorithms for Self-Dual Codes
本文首次将进化算法优化方法之一的遗传算法用于求解极值二元自对偶码问题。我们提出了一个比较的计算时间之间的遗传算法和线性搜索不同大小的搜索空间,并表明,遗传算法是能够找到二进制自对偶码显着快于线性搜索。此外,通过采用一个已知的矩阵结构连同遗传算法,我们能够获得新的二进制自对偶码的长度为68和72在一个显着短的时间。特别是,我们得到了11个新的极值二元自对偶码的长度为68和17个新的二元自对偶码的长度为72。
2020-12-22 cs.IT cs.NE math.IT
Optimisation of Large Wave Farms using a Multi-strategy Evolutionary Framework
波浪能是一种发展迅速、前景广阔的可再生能源。这项研究的主要目标是最大限度地提高一个大型波浪发电场的总利用功率,该发电场由完全浸没的三系绳波浪能转换器(WEC)组成。大型风电场的能量最大化是一个具有挑战性的搜索问题,因为大型风电场中WEC之间的水动力相互作用的计算成本很高,而且搜索空间的维数很高。为了解决这个问题,我们提出了一个新的混合多策略进化框架相结合的智能初始化,二进制人口为基础的进化算法,离散局部搜索和连续的全局优化。为了评估所提出的混合方法的性能,我们将其与各种最先进的优化方法进行比较,包括六种连续进化算法,四种离散搜索技术和三种混合优化方法。结果表明,所提出的方法在收敛速度和农场产量方面表现得更好。
2020-03-21 cs.NE eess.SP
Evolutionary Context Search for Automated Skill Acquisition
Institute of Science Tokyo, Japan(东京科学研究院)
进化上下文搜索通过进化方法发现非显而易见的上下文配对,显著提升模型性能,为自动化技能获取提供高效替代方案。
2026-02-18 cs.LG cs.NE