A Surrogate-Assisted Controller for Expensive Evolutionary Reinforcement Learning
强化学习（RL）和进化算法（EA）的结合旨在同时利用两种范式的样本效率以及多样性和鲁棒性。最近，基于这一原则的混合学习框架在各种具有挑战性的机器人控制任务中取得了巨大成功。然而，在这些方法中，来自遗传群体的策略通过与真实环境的交互来评估，限制了它们在计算昂贵的问题中的适用性。在这项工作中，我们提出了代理辅助控制器（SC），一种新颖而有效的模块，可以集成到现有的框架，以减轻计算负担的EA部分取代昂贵的政策评估。应用该模块的关键挑战是防止优化过程被代理引入的可能的假极小值所误导。为了解决这个问题，我们提出了两种策略SC控制混合框架的工作流。在OpenAI Gym平台的六个连续控制任务上的实验表明，SC不仅可以显着降低适应度评估的成本，而且还可以通过协作学习和进化过程提高原始混合框架的性能。
2022-04-27 cs.NE
Voronoi-based Efficient Surrogate-assisted Evolutionary Algorithm for Very Expensive Problems
在实际系统中，一次适应度评估需要花费几个小时甚至几天的时间，这是非常昂贵的问题。在过去的几十年中，代理辅助进化算法（SAEAs）被广泛用于解决这一关键问题。然而，大多数研究SAEA专注于解决问题的预算至少十倍的问题，这是不可接受的，在许多非常昂贵的现实世界的问题。在本文中，我们采用沃罗诺伊图，以提高SAEA的性能，并提出了一种新的框架命名为Voronoi为基础的高效代理辅助进化算法（VESAEA）非常昂贵的问题，其中的优化预算，在适应度评价，只有5倍的问题的尺寸。在该框架中，沃罗诺伊图将整个搜索空间划分为若干个子空间，然后在某些潜在的更好的子空间中进行局部搜索。此外，为了权衡探索和开发，该框架涉及一个全局搜索阶段，通过结合留一交叉验证和径向基函数代理模型。性能选择器被设计成在全局和局部搜索阶段之间动态地和自动地切换搜索。各种基准问题的实证结果表明，所提出的框架显着优于几个国家的最先进的算法与极其有限的健身评估。此外，进一步分析了Voronoi图的有效性，结果表明它具有优化非常昂贵的问题的潜力。
2019-10-25 cs.NE
Surrogate Assisted Evolutionary Algorithm for Medium Scale Expensive Multi-Objective Optimisation Problems
构建目标函数的代理模型已被证明是有效的，以协助进化算法（EA）解决现实世界中复杂的优化问题，涉及计算昂贵的数值模拟或昂贵的物理实验。然而，它们的有效性主要集中在小于10个决策变量的小规模问题。代理辅助EA（SAEA）的可扩展性还没有得到很好的研究。在本文中，我们提出了一个高斯过程代理模型辅助EA的中型昂贵的多目标优化问题，多达50个决策变量。我们提出的SAEA有三个显著特点。首先，在建立代理模型时，我们不使用所有的决策变量，而是只使用那些相关的决策变量来为每个目标函数建立代理模型。其次，而不是直接优化的代理目标函数，原来的多目标优化问题转化为一个新的代理模型的基础上。最后，提出了一种子集选择方法来选择几个有希望的候选解用于实际的目标函数评估，从而更新训练数据集。在10、20、50个变量的基准问题上验证了算法的有效性，并与三种最先进的SAEA算法进行了比较。
2020-02-08 cs.NE
Improving Intelligence of Evolutionary Algorithms Using Experience Share and Replay
Massachusetts Institute of Technology（麻省理工学院）
我们提出了PESA，一种新的方法结合粒子群优化（PSO），演化策略（ES），模拟退火（SA）的混合算法，灵感来自强化学习。PESA通过将它们的解决方案存储在共享重放存储器中来混合这三种算法。接下来，PESA应用优先级重放，根据它们的适应度和优先级值，以频繁的形式在三种算法之间重新分配数据，这显着增强了样本多样性和算法探索。此外，贪婪重放被隐式地使用在SA中，以提高接近进化结束时的PESA利用率。对12个高维连续基准函数的验证显示出PESA对独立ES，PSO和SA的优越性能，在相似的初始起点，超参数和代数下。PESA显示出更好的探索行为，更快的收敛速度，以及找到全局最优解的能力。考虑到有前途的性能，PESA可以提供一个有效的优化选项，特别是在它经过额外的多处理改进来处理复杂和昂贵的健身功能之后。
2020-08-10 cs.LG cs.NE
Enhancing hierarchical surrogate-assisted evolutionary algorithm for high-dimensional expensive optimization via random projection
代理辅助进化算法（SAEAs），特别是分层SAEAs，通过显著减少真实适应度评价，在求解计算量大的优化问题中已被证明是有效的。分层SAEA的成功主要得益于其被称为“不确定性的祝福”的全局代理模型的潜在好处和局部模型的高精度。然而，它们的性能留下了改进的空间，因为现在它仍然是具有挑战性的，以建立足够准确的局部模型，由于巨大的解决方案空间的高维问题。针对这一问题，本研究提出了一种新的分层SAEA通过训练本地代理模型的帮助下，随机投影技术。该算法首先将训练样本随机投影到一组低维子空间上，然后在每个子空间上训练一个代理模型，最后通过对得到的模型进行平均来评价候选解，而不是在原始的高维解空间中进行训练。在100维和200维的6个基准函数上的实验结果表明，随机投影可以显著提高局部代理模型的精度，新提出的分层SAEA算法与现有的SAEA算法相比具有明显的优势
2021-03-01 cs.NE
A Federated Data-Driven Evolutionary Algorithm for Expensive Multi/Many-objective Optimization
East China University of Science and Technology（华东理工大学）；University of Surrey（萨里大学）
数据驱动优化在现实世界中有许多成功的应用，并在进化优化领域受到越来越多的关注。大多数现有的算法假设用于优化的数据总是在中央服务器上可用于构建代理。然而，当数据必须以分布式方式收集并且受到隐私限制时，这种假设可能无法成立。提出一种联邦数据驱动的多目标进化优化算法。为此，我们利用联邦学习进行代理构建，以便多个客户端协同训练径向基函数网络作为全局代理。然后提出了一种新的联邦获取函数，用于中央服务器使用全局代理来近似目标值，并基于局部模型来估计近似目标值的不确定性水平。该算法的性能进行了验证一系列的多/多目标基准问题，通过比较它与两个国家的最先进的代理辅助多目标进化算法。
2021-06-22 cs.AI cs.NE
Rank-Based Learning and Local Model Based Evolutionary Algorithm for High-Dimensional Expensive Multi-Objective Problems
Peking University（北京大学）
提出一种结合分类器辅助排序学习与局部模型的进化算法CLMEA，通过分级学习、超体积搜索和局部填充，高效求解高维昂贵多目标优化问题，实验验证其优于现有方法。
2024-03-16 cs.AI cs.NE
A Novel Population Initialization Method via Adaptive Experience Transfer for General-Purpose Binary Evolutionary Optimization
本文提出了一种基于自适应经验迁移的通用二进制优化群体初始化方法，通过少量函数评估生成高质量初始群体，有效提升复杂问题的求解性能。
2025-11-29 cs.NE
A First Look at Kolmogorov-Arnold Networks in Surrogate-assisted Evolutionary Algorithms
本文首次将Kolmogorov-Arnold网络作为代理模型引入代理辅助进化算法，用于回归和分类任务以选择有前景解，实验证明其能减少函数评估次数并提升优化效率。
2024-05-26 cs.NE
Surrogate-Assisted Evolutionary Generative Design Of Breakwaters Using Deep Convolutional Networks
提出了一种基于多目标进化代理辅助的海岸防波堤快速生成式设计方法。为了近似计算上昂贵的目标函数，使用深度卷积神经网络作为代理模型。该模型允许优化具有不同数量的结构和分段的防波堤的配置。除了替代模型之外，还开发了一个辅助模型来估计预测的置信度。在模拟水域上进行了试验，采用SWAN模型计算波高。实验结果证实，所提出的方法可以获得更有效的（更便宜，更好的保护性能）的解决方案比非替代的方法在同一时间。
2022-04-07 cs.NE
Exploring the effectiveness of surrogate-assisted evolutionary algorithms on the batch processing problem
University of Johannesburg（约翰内斯堡大学）
现实世界的优化问题通常具有无法解析表达的目标函数。这些优化问题通过昂贵的物理实验或模拟来评估。目标函数的廉价近似可以减少解决这些昂贵的优化问题的计算要求。这些廉价的近似可以是机器学习或统计模型，并且被称为代理模型。本文介绍了一个著名的批处理问题在文献中的模拟。采用遗传算法、差分进化算法等进化算法求解最优调度问题。然后，我们比较质量的替代辅助版本的算法对基线算法获得的解决方案。代理援助是通过概率代理援助框架（PSAF）实现的。结果突出了通过代理改进基线进化算法的潜力。对于不同的时间范围，解决方案的评价方面的几个质量指标。结果表明，PSAF辅助遗传算法（PSAF-GA）和PSAF辅助DE（PSAF-DE）在某些时间范围内提供了改善。在其他情况下，它们要么保持溶液，要么显示出某种程度的恶化。结果还强调了调整代理辅助框架使用的超参数的必要性，因为在某些情况下，代理在基线算法上显示出一些恶化。
2022-10-31 cs.LG cs.NE
IEO: Intelligent Evolutionary Optimisation for Hyperparameter Tuning
Turing Intelligence Technology, UK（英国图灵智能技术公司）；Nanjing University, China（中国南京大学）
超参数优化是寻找最优机器学习模型的关键过程。在最近的研究中，寻找最佳超参数设置的效率一直是一个很大的问题，因为优化过程可能是耗时的，特别是当目标函数的评估非常昂贵时。在本文中，我们介绍了一种智能进化优化算法，它适用于机器学习技术的传统进化算法，以加快整体优化过程的调整机器学习模型的分类问题。我们展示了我们的智能进化优化（IEO）在一系列的控制实验，与传统的进化优化超参数调整。实证研究表明，我们的方法平均加快了30.40%的优化速度，在最好的情况下，最高可达77.06%。
2020-09-10 cs.LG cs.NE
Evolutionary Multitasking AUC Optimization
Xidian University（西安电子科技大学）
针对大规模 AUC 优化代价高且非凸的问题，提出进化多任务框架 EMTAUC，通过廉价采样任务辅助原始昂贵任务，并动态调整其数据结构以增强知识迁移。
2022-01-04 cs.LG cs.NE
The Role of Evolution in Machine Intelligence
机器智能可以直接从经验中发展出来，也可以通过进化继承经验。目前的大部分研究工作都集中在直接从经验中学习的算法上。我认为，另一种选择，进化，是重要的机器智能的发展和投资不足方面的研究分配。这项工作的主要目的是评估在进化算法的频谱投资研究。我的首要建议是在更广泛的进化方法中进行多样化的研究。我还定义了元进化算法，并认为它们可能会在影响机器智能发展的许多因素之间产生最佳权衡。
2021-06-21 cs.NE
Combining Lipschitz and RBF Surrogate Models for High-dimensional Computationally Expensive Problems
Brno University of Technology（布尔诺理工大学）
标准的进化优化算法假设目标和约束函数的评估是简单的，计算成本低。然而，在许多现实世界的优化问题，这些评估涉及计算昂贵的数值模拟或物理实验。代理辅助进化算法（SAEAs）最近获得了越来越多的关注，他们在解决这些类型的问题的性能。SAEA的主要思想是集成的进化算法与选定的代理模型，近似计算昂贵的功能。在本文中，我们提出了一个代理模型的基础上的Lipschitz低估，并使用它来开发基于差分进化算法。该算法，称为Lipschitz代理辅助差分进化（LSADE），利用Lipschitz为基础的代理模型，以及一个标准的径向基函数代理模型和本地搜索过程。对30、50、100和200维的7个基准函数的实验结果表明，在有限的计算预算下，所提LSADE算法与现有算法相比具有较强的竞争力，尤其是对高维的复杂基准函数更有效.
2022-11-17 cs.AI cs.NE math.OC
Data-Driven Evolutionary Multi-Objective Optimization Based on Multiple-Gradient Descent for Disconnected Pareto Fronts
数据驱动的进化多目标优化（EMO）是解决目标函数昂贵的多目标优化问题的一种有效方法。目前的研究主要是开发了一个'定期'三角形的帕累托最优前沿（PF）的问题，而性能可以显着恶化时，PF由断开的部分。此外，在目前的数据驱动的EMO的后代繁殖没有充分利用潜在的信息的代理模型。考虑到这些因素，本文提出了一种基于多梯度下降的数据驱动EMO算法。通过利用最新的代理模型提供的规律性信息，它能够逐步探测一组分布良好的候选解决方案的收敛保证。此外，它的填充准则推荐了一批有前途的候选解决方案进行昂贵的目标函数评估。在具有断开PF的$33$基准测试问题实例上的实验充分证明了我们所提出的方法对四种选定的对等算法的有效性。
2022-05-28 cs.NE
Large Language Model-Driven Surrogate-Assisted Evolutionary Algorithm for Expensive Optimization
Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（香港理工大学电子与电气工程系）；College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机科学与软件工程学院）；School of Automation and Intelligent Manufacturing, Southern University of Science and Technology（南方科技大学自动化与智能制造学院）；Academy of Artificial Intelligence, College of Mathematics Science, Inner Mongolia Normal University（内蒙古师范大学数学科学学院人工智能学院）；Key Laboratory of Collaborative Intelligence Systems, Ministry of Education, Xidian University（西安电子科技大学教育部协同智能系统重点实验室）
本文提出LLM-SAEA，通过大语言模型在线配置代理模型和填充采样准则，以专家协作框架提升代理辅助进化算法在昂贵优化中的效率，实验表明其优于现有先进算法。
2025-06-20 cs.AI cs.NE
On Asynchronous Non-Dominated Sorting for Steady-State Multiobjective Evolutionary Algorithms
在并行和分布式环境中，世代进化算法往往不利用计算系统的全部潜力，因为它们必须等到整个人口进行评估，然后才开始选择程序。稳态算法通常被视为解决这个问题的一种方法，因为适应度评估可以由多个线程以异步方式完成。但是，如果算法以复杂的方式更新其状态，线程最终将不得不等待更新完成。在多目标进化算法中，状态更新过程的计算开销很大。我们已经实现了一个异步稳态版本的NSGA-II算法。它最昂贵的部分，非支配排序，决定了更新状态所需的时间。我们把现有的增量非支配排序算法变成一个异步的使用几个并发技术：一个单一的入口级锁，细粒度的锁与非支配级别，和一个非阻塞的方法，使用比较和设置操作。我们的实验结果揭示了算法的工作效率和实现的并行量之间的权衡。
2018-04-14 cs.DS cs.NE
Learning Adaptive Evolutionary Computation for Solving Multi-Objective Optimization Problems
Eindhoven University of Technology（埃因霍温理工大学）；Nobleo Manufacturing（Nobleo制造公司）
多目标进化算法被广泛应用于求解多目标优化问题。这些算法依赖于设置适当的参数来找到好的解决方案。然而，在解决非试验（组合）优化问题时，这种参数调整可能在计算上非常昂贵。本文提出了一个框架，集成MOEA与自适应参数控制使用深度强化学习（DRL）。DRL策略被训练为自适应地设置值，这些值指示优化期间的解的突变强度和概率。我们测试所提出的方法与一个简单的基准问题和现实世界中，复杂的仓库设计和控制问题。实验结果表明，我们的方法在解决方案的质量和计算时间方面的优势，以达到良好的解决方案。此外，我们还证明了学习策略是可转移的，即，在简单的基准问题上训练的策略可以直接应用于有效地解决复杂的仓库优化问题，而不需要再训练。
2022-11-01 cs.LG cs.NE
Algorithm Portfolio for Individual-based Surrogate-Assisted Evolutionary Algorithms
代理辅助进化算法（SAEAs）是计算昂贵问题（CEP）的强大优化工具。然而，由于没有免费午餐定理，随机选择的算法在求解未知问题时可能会失败，如果重新运行该算法或尝试其他算法以获得更多的解，则会导致更多的计算资源，这在CEP中更为严重。在本文中，我们考虑的算法组合SAEA，以减少选择一个不适当的算法CEP的风险。我们提出了两个投资组合框架非常昂贵的问题，其中的最大数量的健身评估只有5倍的问题的尺寸。一个名为Par-IBSAEA的框架并行运行所有候选算法，一个名为UCB-IBSAEA的更复杂的框架采用强化学习的置信上限（UCB）策略，以帮助在每次迭代时选择最合适的算法。提出了一种有效的UCB策略的报酬定义。我们认为三个国家的最先进的基于个人的SAEA在不同的问题，并比较他们的投资组合建立在几个基准问题的实例有限的计算预算。我们的实验研究表明，我们提出的投资组合框架显着优于任何单一的算法上的基准问题。
2019-10-25 cs.NE
Addressing Expensive Multi-objective Games with Postponed Preference Articulation via Memetic Co-evolution
本文提出的算法和经验的贡献表明，收敛特性的协同进化的方法来解决多目标游戏（MOG）与推迟的偏好衔接往往会受到阻碍，由于可能出现的所谓的红皇后效应。因此，据推测，收敛特性可以显着改善，通过纳入模因（本地解决方案的改进作为终身学习的一种形式），作为一种有前途的手段，减轻（或至少抑制）红皇后现象，提供一个指导手的纯遗传机制的共同进化。我们的实际动机是解决MOG的时间敏感的性质，其特征在于计算昂贵的评估，其中有一个自然的需要，以减少在实现高质量的解决方案消耗的真函数评估的总数。为此，我们提出了新的增强处理MOG的协同进化方法，使模因局部优化可以有效地应用于进化的候选策略，通过搜索计算上便宜的替代支付景观（保留推迟的偏好条件）。该建议的有效性证明了一套测试MOG已设计。
2017-11-17 cs.NE
Un-evaluated Solutions May Be Valuable in Expensive Optimization
针对昂贵优化中已评估解有限导致种群多样性和收敛速度下降的问题，提出在选择阶段引入代理模型预测的高质量未评估解，显著提升SAEAs性能。
2024-12-05 cs.NE
Alleviating Search Bias in Bayesian Evolutionary Optimization with Many Heterogeneous Objectives
多目标优化问题是现实世界中常见的问题，其目标具有不同的评价成本。这些问题现在被称为具有异构目标的多目标优化问题（HE-MOPs）。然而，到目前为止，只有少数研究报告，以解决HE-MOPs，其中大多数集中在一个快速目标和一个缓慢的目标的双目标问题。在这项工作中，我们的目标是处理具有两个以上的黑盒和异构目标的HE-MOPs。为此，我们开发了一种多目标贝叶斯进化优化方法，HE-MOPs利用不同的数据集上的廉价和昂贵的目标HE-MOPs，以减轻搜索偏差所造成的异质性评估成本评估不同的目标。为了最好地利用两个不同的训练数据集，一个与所有目标的解决方案，而另一个与那些只评估的快速目标，两个独立的高斯过程模型的构造。此外，一个新的采集功能，减轻对快速目标的搜索偏差的建议，从而实现收敛和多样性之间的平衡。我们证明了所提出的算法的有效性，通过测试广泛使用的多/多目标基准问题，其目标被假定为异质昂贵。
2022-08-25 cs.NE
Regularized Evolutionary Algorithm for Dynamic Neural Topology Search
University of Trento（特伦托大学）；Fondazione Bruno Kessler (FBK)（布鲁诺·凯斯勒基金会）
设计用于对象识别的神经网络需要大量的架构工程。作为一种补救措施，神经进化网络结构搜索，它使用进化算法自动搜索最佳网络结构，最近变得非常流行。虽然非常有效，但进化算法严重依赖于具有大量个体（即，网络体系结构）并且因此存储器昂贵。在这项工作中，我们提出了一个具有低内存占用的正则化进化算法来进化动态图像分类器。在细节上，我们引入了新的自定义算子，规范了10个个体的微种群的进化过程。我们在三个不同的数字数据集（MNIST，USPS，SVHN）上进行了实验，结果表明，我们的进化方法获得了与当前最先进的竞争结果。
2019-08-19 cs.CV cs.NE
Solving Expensive Optimization Problems in Dynamic Environments with Meta-learning
针对动态环境下昂贵优化问题计算成本高、现有方法研究少的问题，提出含元学习与少样本适配组件的灵活框架，可插件化集成代理模型，在基准测试中优于现有最优算法。
2024-08-13 cs.NE
Meme as Building Block for Evolutionary Optimization of Problem Instances
在文献中，进化优化的一个显着不足的探索领域是可以随着问题的解决而进化的优化方法的研究。特别是，目前的进化优化方法通常从头开始搜索或从零开始的知识状态，独立于给定的新的感兴趣的问题是如何类似于那些以前优化。因此，显然缺乏跨问题的自动知识转移和重用。以此为线索，本文介绍了一种新的模因计算范式的搜索，一个模型后，人类如何解决问题，并开始对智能进化优化问题的研究，通过转移的结构化知识的形式模因从以前的解决问题的经验，以提高未来的进化搜索。模因搜索范式由模因学习、模因选择、模因变异和模因模仿四个文化启发算子组成。学习算子从过去解决问题的经验中挖掘潜在结构形式的模因。选择算子识别在问题间复制和传播的适合模因，而变异算子将创新引入模因。另一方面，模仿算子定义了合适的模因如何同化到新遇到的问题的搜索过程中，从而实现高效和有效的进化优化。最后，全面研究两个广泛研究的挑战性以及建立NP难路由问题域，特别是，有能力的车辆路由（CVR）和有能力的弧路由（CAR），证实了高效率的智能进化优化问题的模因计算搜索范式。
2012-07-03 cs.NE
Bi-fidelity Evolutionary Multiobjective Search for Adversarially Robust Deep Neural Architectures
深度神经网络被发现容易受到对抗攻击的攻击，因此在安全敏感的环境中引起了潜在的担忧。为了解决这个问题，最近的研究从架构的角度研究了深度神经网络的对抗鲁棒性。然而，搜索深度神经网络的架构在计算上是昂贵的，特别是当与对抗训练过程相结合时。针对上述问题，本文提出了一种双保真度多目标神经结构搜索方法。首先，我们将增强深度神经网络对抗鲁棒性的NAS问题公式化为多目标优化问题。具体来说，除了作为第一个目标的低保真度性能预测器之外，我们还利用了一个替代目标-其值是用高保真度评估训练的代理模型的输出。其次，我们通过结合三种性能估计方法来降低计算成本，参数共享、低保真度评估和基于替代的预测器。在CIFAR-10、CIFAR-100和SVHN数据集上进行的大量实验证实了该方法的有效性。
2022-07-12 cs.LG cs.NE
The N-Tuple Bandit Evolutionary Algorithm for Game Agent Optimisation
Queen Mary University of London（伦敦玛丽女王大学）
本文介绍了N-Tuple Bandit进化算法（NTALO），噪声和昂贵的离散（组合）优化问题的优化算法。该算法被应用到两个基于博弈的超参数优化问题。N-Tuple系统直接对统计数据进行建模，近似每个建模参数组合的适应度和评估数量。该模型简单、高效、信息量大。结果表明，NTT的显着优于网格搜索和分布估计算法。
2018-05-08 cs.AI cs.NE
On the Evolution of Subjective Experience
主观体验（SE）是古代心身问题的一部分，该问题仍然是科学最深的谜团之一。尽管在许多领域取得了重大进展，但SE与其在体内的实现之间仍然没有合理的因果关系。核心问题是客观（第三人称）公共科学与主观（第一人称）私人经验的不相容性。任何对SE的科学研究都假定它起源于扩展的进化过程，研究进化历史应该有助于我们理解SE，尽管核心之谜仍然存在，但来自理论、实验和计算研究的证据对SE产生了强烈的约束，并为进一步的研究提出了一些建议。所有动物都面临着许多相同的健康挑战。他们都需要某种内部模型来将他们的生活目标和可操作的感知信息与行动联系起来。我们理解人类感知和情感的身体方面的进化，但不理解SE。SE的第一个进化证据出现在脊椎动物中，其大部分神经底物和模拟机制在哺乳动物和人类中保留下来。人们表现出同样的现象，但仍有一些日常经验的奥秘，显然与当前的神经科学不相容。尽管存在这种局限性，但在理解SE在假体成功中的作用方面取得了相当大的进展。
2022-03-25 cs.NE q-bio.NC q-bio.PE
Landscape Analysis for Surrogate Models in the Evolutionary Black-Box Context
Czech Technical University（捷克技术大学）；Charles University in Prague（布拉格查理大学）；Czech Academy of Sciences（捷克科学院）
代理建模已经成为一种有价值的技术，黑盒优化任务与昂贵的评估目标函数。本文研究了代理模型的预测精度与黑箱函数景观特征之间的关系。我们还研究了景观分析的特点，在不同的转换和方式的背景下选择的输入数据的属性。我们执行景观分析的一个大的数据集使用运行的代理辅助版本的协方差矩阵自适应演化策略的比较连续优化器基准测试平台的无噪声部分。
2022-10-02 cs.LG cs.NE math.OC
Behavior-based Neuroevolutionary Training in Reinforcement Learning
TH Köln（科隆应用技术大学）；Vrije Universitat Amsterdam（阿姆斯特丹自由大学）
除了在解决经典优化问题方面无可争议的成功之外，神经进化和基于种群的算法已经成为标准强化学习方法的替代方案。然而，进化方法通常缺乏标准的基于值的方法的样本效率，标准的基于值的方法利用收集的状态和值经验。如果考虑对具有显著资源成本的现实问题进行强化学习，则样本效率至关重要。因此，增强进化算法的经验利用方法是期望的，并承诺有价值的见解。本文提出了一种结合拓扑变化神经进化优化和基于值的强化学习的混合算法。我们说明了如何可以使用的政策的行为来创建距离和损失函数，这得益于存储的经验和计算的状态值。它们允许我们通过无梯度进化算法和基于代理的优化来对行为进行建模并在行为空间中进行定向搜索。为此，我们整合了不同的方法来生成和优化代理策略，创建了一个多样化的群体。我们在标准基准测试和一个专门构建的现实问题上测试了我们的算法的性能。我们的研究结果表明，结合方法可以提高进化方法的样本效率和学习速度。
2021-05-17 cs.AI cs.NE
Learning to Generate Genotypes with Neural Networks
神经网络和演化计算有着丰富的相互交织的历史。当进化算法优化强化学习问题的神经网络的参数和拓扑结构时，或者当神经网络被用作替代适应度函数以帮助昂贵的适应度函数的进化优化时，它们最常一起出现。在本文中，我们采取了不同的方法，问的问题是否可以使用神经网络提供一个进化算法的突变分布，这种方法可能提供什么优势？本文研究了两种现代神经网络模型，一种改进的产生随机输出的去噪自编码器和神经自回归分布估计器。结果表明，神经网络的方法来学习基因型是能够解决许多困难的离散问题，如MaxSat和HIFF，并定期优于其他进化技术。
2016-04-14 cs.NE
Speeding-up Evolutionary Algorithms to solve Black-Box Optimization Problems
本文针对黑盒优化中进化算法评估成本高的问题，提出在运行时动态选择可保持解正确排序的最低成本近似目标函数，从而在四类问题上实现最高超过一半的加速。
2024-01-29 cs.NE stat.ML
Distribution Matching Evolutionary Algorithms for Rare Event Sampling
University of Oxford（牛津大学）
本文提出分布匹配进化算法（DME），将进化算法视为近似马尔可夫链蒙特卡洛，无需更新权重即可从全局目标分布采样，在稀有事件采样中样本效率优于现有方法。
2026-10-14 cs.AI cs.LG cs.NE
Expensive Optimisation: A Metaheuristics Perspective
随机的，迭代搜索方法，如进化算法（EA）被证明是有效的优化。然而，他们需要评估的候选解决方案，这可能是昂贵的，在许多现实世界的优化问题。目前正在探讨使用近似模型或替代模型，以减少这类评价的次数。在本文中，我们研究了三种这样的方法。第一种方法（DAFHEA）部分取代了昂贵的功能评估其近似模型。该逼近是通过支持向量机（SVM）回归模型来实现的。第二种方法（DAFHEA II）是DAFHEA的增强，以适应不确定的环境。第三种方法使用带有偏好学习或有序回归的替代排序。通过对候选人的排名进行建模来估计候选人的适应度。一些基准数值优化问题的技术的性能已被报道。这两种技术的比较优点和缺点已经确定。
2013-03-09 cs.NE
Decomposition Multi-Objective Evolutionary Optimization: From State-of-the-Art to Future Opportunities
分解是经典数学规划中多目标优化和多准则决策的主流方法。然而，直到基于分解的多目标进化算法（MOEA/D）的发展，才在进化多目标优化的背景下对其进行了适当的研究。在这篇文章中，我们提出了一个全面的调查MOEA/D的发展，从它的起源到目前的国家的最先进的方法。为了做到自成一体，我们从一步一步的教程开始，旨在帮助新手快速进入MOEA/D的工作机制。然后，选择MOEA/D的主要发展，根据其核心设计组件，包括权重向量设置，子问题配方，选择机制和再生运营商进行审查。此外，我们还概述了一些进一步的发展约束处理，计算昂贵的目标函数，偏好纳入，和现实世界的应用。在最后一部分，我们为未来的发展提供了一些新的方向。
2021-08-21 cs.NE
Beyond Evolutionary Algorithms for Search-based Software Engineering
内容：进化算法通常需要大量的评估（解决方案）收敛-这可能是非常缓慢和昂贵的evaluation.Objective：为了解决基于搜索的软件工程（SE）问题，使用较少的评价比evolutionarymethods.Method：而不是变异一个小的人口，我们建立了一个非常大的初始人口，然后使用递归双聚类斩方法剔除。我们评估这种方法对多个SE模型，无约束以及约束，并比较其性能与标准的进化算法。结果如下：使用几个评估（低于100），我们可以获得与最先进的进化算法相当的结果。结论：仅仅因为某个方法有效，并且被广泛使用，并不一定意味着没有价值去寻找方法来改进该方法。在使用传统EA进行基于搜索的SE优化任务之前，建议尝试其他技术，如本文所述，以获得相同的结果，并减少评估。
2017-09-17 cs.NE cs.SE
Evolutionary Reinforcement Learning via Cooperative Coevolution
Southern University of Science and Technology（南方科技大学）；Research Institute of Trustworthy Autonomous System（可信自主系统研究院）；Lingnan University（岭南大学）
本文提出协同协同进化强化学习算法CoERL，通过自适应分解策略优化问题并利用部分梯度更新策略，提升高维神经网络优化效率，在六个运动控制基准上优于七种先进算法。
2024-08-01 cs.AI cs.NE
Phylogeny-Informed Interaction Estimation Accelerates Co-Evolutionary Learning
本文提出基于系统发育信息的交互估计方法，利用运行时系统发育分析估计个体间交互结果，在三个协同进化系统中验证其可显著降低计算成本并加速开放域神经复杂性进化。
2024-04-09 cs.NE
Surrogate Ensemble in Expensive Multi-Objective Optimization via Deep Q-Learning
South China University of Technology（华南理工大学）；Xidian University（西安电子科技大学）
SEEMOO通过深度Q学习实现替代方案集成，提升昂贵多目标优化的性能。
2026-01-31 cs.LG cs.NE
Enabling surrogate-assisted evolutionary reinforcement learning via policy embedding
进化强化学习（ERL）是将进化算法（EAs）应用于深度神经网络（DNN）策略的权值参数优化，被广泛认为是传统强化学习方法的替代方法。然而，迭代生成的人口的评估通常需要大量的计算时间，可以是昂贵的，这可能会潜在地限制ERL的适用性。代理算法常被用来减轻进化分析中的计算负担。然而，在ERL中，每个策略通常代表DNN的数百万个权重参数。这种策略的高维表示给在ERL中应用代理以加快训练带来了很大的挑战。本文提出了一个PE-SAERL框架，首次通过策略嵌入（PE）实现代理辅助的进化强化学习。在5款Atari游戏上的实验结果表明，该方法比现有的4种算法具有更高的效率。在测试游戏中，训练过程比没有代理人和PE的训练过程加快了7倍。
2023-01-31 cs.NE
Recruitment-imitation Mechanism for Evolutionary Reinforcement Learning
Jilin University（吉林大学）
强化学习、进化算法和模仿学习是处理连续控制任务的三种主要方法。强化学习样本效率高，但对超参数设置敏感，需要有效探索;进化算法稳定，但样本效率低;模仿学习样本效率高，但需要专家数据指导。在本文中，我们提出了招募模仿机制（RIM）的进化强化学习，一个可扩展的框架，结合了上述三种方法的优点。该框架的核心是一个双行动者和单批评强化学习代理。该代理可以从进化算法的群体中招募高适应度的演员，这指示自己从经验重放缓冲区中学习。同时，进化种群中的低适应度行为体可以模仿强化学习Agent的行为模式，提高其自适应能力。该框架中的强化学习器和模仿学习器可以用任何非策略的行动者-批评者强化学习器或数据驱动的模仿学习器来代替。我们在Mujoco中对RIM进行了一系列连续控制任务的基准测试。实验结果表明，RIM优于以前的进化或强化学习方法。RIM组件的性能明显优于以前的进化强化学习算法的组件，使用软更新的招聘使强化学习代理学习速度比使用硬更新。
2019-12-13 cs.AI cs.LG cs.NE
Enhancing SAEAs with Unevaluated Solutions: A Case Study of Relation Model for Expensive Optimization
Shanghai Jiao Tong University（上海交通大学）；Shanghai Frontiers Science Center of Molecule Intelligent Syntheses（上海分子智能合成前沿科学中心）；East China Normal University（华东师范大学）
针对SAEAs每代评估解有限导致后代解质量下降的问题，提出利用未评估解的增强框架，引入两种定制关系模型保障选择可靠性，实验验证其可显著提升算法效率。
2023-10-08 cs.LG cs.NE
Evolutionary Optimization of High-Coverage Budgeted Classifiers
Wake Forest University（维克森林大学）
分类器通常用于时间受限的设置，其中必须快速将标签分配给输入。为了解决这些情况，预算多阶段分类器（MSC）通过一系列部分特征获取和评估步骤与早期退出选项处理输入，直到可以做出自信的预测。这允许快速评估，可以防止在时间关键的情况下进行昂贵的、不必要的特征获取。然而，性能的MSC是高度敏感的几个设计方面-使这些系统的优化是一个重要的，但困难的问题。为了近似一个最初棘手的组合问题，目前的MSC配置方法依赖于行为良好的代理损失函数占两个主要目标（处理成本，错误）。这些方法已被证明在许多情况下是有用的，但受到分析约束（凸性，平滑性等）的限制。并且不管理额外的性能目标。值得注意的是，这种方法没有明确说明实时检测系统的一个重要方面--“接受”预测的比率满足由风险规避监测器施加的某种置信度标准。本文提出了一种特定问题的遗传算法，EMSCO，它采用了终端拒绝选项的不确定性预测和对待MSC设计作为一个进化优化问题，具有不同的目标（准确性，成本，覆盖范围）。该算法的设计强调帕累托效率，同时尊重通过一个独特的标量聚合性能的概念。实验证明了EMSCO在各种Theta（k^n）解空间中找到全局最优解的能力，多个实验表明EMSCO与其他预算方法相比具有竞争力。
2021-12-03 cs.LG cs.NE
GEEvo: Game Economy Generation and Balancing with Evolutionary Algorithms
本文提出 GEEvo 框架，利用进化算法分两步生成并平衡基于图的游戏经济，通过多目标适应度函数和轻量模拟验证其在资源与伤害平衡上的有效性。
2024-04-29 cs.NE
Applying Evolutionary Algorithms Successfully: A Guide Gained from Real-world Applications
一般而言，元算法（MH）和进化算法（EA）是成功优化困难问题的众所周知的工具。但是，什么时候他们的应用程序是有意义的，以及如何处理这样一个项目作为一个新手？如何避免初学者的错误，或者如何尽可能有效地使用元启发式搜索的设计可能性？本文基于进化算法GLEAM及其模因扩展HyGLEAM近30年的研究和应用，试图回答这些问题。这里收集和讨论的大多数经验也可以应用于其他元算法，如蚂蚁算法或粒子群优化。本文针对具有一般MH基本知识的用户，特别是想要将其应用于优化项目的EA。为此目的，在这样一个项目的过程中出现的一些问题得到解决。最后，讨论了一些非技术性的项目管理问题，其重要性往往被低估的项目成功。
2021-07-23 cs.NE
Composite Indicator-Guided Infilling Sampling for Expensive Multi-Objective Optimization
针对昂贵多目标优化中收敛、多样、分布难平衡的问题，提出基于复合指标的CI-EMO算法，结合NSGA-III与代理模型生成候选解，用复合指标选解评估，经实验验证性能优于五种主流同类算法。
2025-06-13 cs.NE
Batched Data-Driven Evolutionary Multi-Objective Optimization Based on Manifold Interpolation
多目标优化问题在现实世界的科学、工程和设计优化问题中普遍存在。目标函数是一个黑箱的情况并不少见，其评估通常涉及耗时和/或昂贵的物理实验。数据驱动的进化优化可以用来搜索一组非支配的折衷解决方案，昂贵的目标函数近似为一个代理模型。在本文中，我们提出了一个框架，实现批量数据驱动的进化多目标优化。它是如此普遍，任何现成的进化多目标优化算法可以应用在一个插件的方式。特别是，它有两个独特的组成部分：1）基于Karush-Kuhn-Tucker条件，流形插值方法，探索更多样化的解决方案，并沿着近似帕累托最优集的流形保证收敛; 2）批量推荐方法，通过并行评估多个样本来减少优化过程的计算时间。在136个具有不规则Pareto最优前沿形状的基准测试问题实例上对6个最先进的代理辅助EMO算法进行了实验，充分证明了该框架的有效性和优越性。特别是，我们提出的框架具有更快的收敛速度和更强的弹性，各种PF形状。
2021-09-12 cs.NE
A Survey on Learnable Evolutionary Algorithms for Scalable Multiobjective Optimization
Shenzhen University（深圳大学）；The Hong Kong Polytechnic University（香港理工大学）
近几十年来，多目标进化算法在求解多目标优化问题方面取得了很大的进展。然而，这些逐步改进的MOEA并不一定配备有可扩展的和可学习的问题解决策略，以应对不断增加的复杂性从不同方面带来的新的和巨大的挑战，主要包括昂贵的功能评估成本，许多目标，大规模搜索空间，时变环境和多任务。在不同的情况下，需要发散性思维来设计新的强大的MOEA，以有效地解决它们。在这种背景下，在演化计算领域，利用机器学习技术对可学习MOEA的研究受到了广泛的关注。本文首先对扩大规模的MOPs和可学习的MOEA进行了一般分类，然后分析了这些MOPs对传统MOEA构成的挑战。然后，我们综合概述了可学习MOEA在解决各种按比例放大MOP方面的最新进展，主要集中在四个有吸引力的方向（即，用于环境选择的可学习进化鉴别器、用于再生的可学习进化生成器、用于函数评估的可学习进化评估器、以及用于共享或重用优化经验的可学习进化转移模块）。可学习的MOEA的洞察力提供给读者作为在这一领域的努力的一般轨道的参考。
2023-02-27 cs.AI cs.NE
Data-driven evolutionary algorithm for oil reservoir well-placement and control optimization
优化布井和注采是油藏开发实现经济效益最大化的关键。元启发式算法在求解复杂、非线性和非连续优化问题中表现出良好的性能。然而，在优化过程中涉及大量的数值模拟运行。在这项工作中，一种新的和有效的数据驱动的进化算法，称为广义数据驱动的差分进化算法（GDDE），提出了减少的数量的模拟运行的布井和控制优化问题。采用概率神经网络（PNN）作为分类器，选择信息量大、前景好的候选项，对最不确定的候选项进行基于欧氏距离的预筛选，并通过数值模拟进行评价。然后，利用径向基函数（RBF）建立局部代理模型，并通过数值模拟器对优化器找到的代理模型进行评价，以加速收敛。值得注意的是，RBF模型和PNN的形状因子通过求解超参数次昂贵优化问题来优化。结果表明，本文提出的优化算法对二维油藏布井优化问题和Egg模型联合优化问题具有很好的应用前景。
2022-06-07 cs.NE
Large Language Models as Surrogate Models in Evolutionary Algorithms: A Preliminary Study
本文提出无需训练的LLM辅助进化算法LAEA，将LLM推理直接用作代理模型进行解的质量分类与回归预测，实验表明其性能可媲美传统代理模型。
2024-06-15 cs.NE
Performance Comparison of Surrogate-Assisted Evolutionary Algorithms on Computational Fluid Dynamics Problems
Institute of Automation and Computer Science, Faculty of Mechanical Engineering, Brno University of Technology（布尔诺理工大学机械工程学院自动化与计算机科学研究所）
本文在两个真实计算流体动力学问题上比较了11种单目标代理辅助进化算法，发现较新方法及采用差分进化的技术性能显著更优。
2024-02-26 cs.AI cs.NE math.OC
Machine learning for improving performance in an evolutionary algorithm for minimum path with uncertain costs given by massively simulated scenarios
在这项工作中，我们介绍了一个实施方案，其中机器学习技术有助于提高整体性能的进化算法的优化问题，即变化的强大的最小成本路径图。在这个大数据优化问题中，必须从一组可用的场景（由模拟过程生成）中获得在大多数场景中实现良好成本的路径。就计算资源而言，我们的进化算法最昂贵的任务是候选路径的评估：适应度函数必须计算每个生成场景中候选路径的成本。鉴于大量的场景，这个任务必须在分布式环境中实现。我们实现了梯度提升决策树来对候选路径进行分类，以识别出好的候选路径。不太好的候选人的成本只是预测。我们研究了训练过程、增益性能、精度和其他变量。我们的计算实验表明，在有限的精度损失的代价，计算性能显着提高。
2021-02-03 cs.NE stat.AP
EmoDM: A Diffusion Model for Evolutionary Multi-objective Optimization
Guangdong University of Foreign Studies（广东外语外贸大学）；Westlake University（西湖大学）
针对进化算法求解高成本多目标优化问题时函数评估次数多的痛点，提出基于扩散模型的EmoDM，结合互熵注意力机制提升可扩展性，可高效生成非支配解且泛化性好。
2024-08-15 cs.AI cs.NE
