There is no fast lunch: an examination of the running speed of evolutionary algorithms in several languages
当一个进化算法工具或库使用C、C++、Java或Matlab以外的语言时，评论者或观众通常会根据这些其他语言的速度来质疑它的有用性，据称这些语言比上述语言慢。尽管速度并不是设计一个有用的进化算法应用程序所需的一切，但在本文中，我们将测量几种使用不同虚拟机和方法的几种语言中几种非常基本的进化算法操作的速度，并证明，事实上，解释型和编译型语言之间的速度没有很大差异，并且在某些情况下，解释型语言（如JavaScript或Python）可能比编译型语言（如Scala）更快，这使得它们值得用于进化算法实验。
2015-11-03 cs.NE cs.PF
Towards Running Time Analysis of Interactive Multi-objective Evolutionary Algorithms
本文首次对实用交互式多目标进化算法（R-NSGA-II）进行运行时间分析，证明其在OneMinMax和OneJumpZeroJump问题上渐近快于传统NSGA-II，并指出其可能失效的情形。
2023-10-15 cs.NE
Towards Analyzing Crossover Operators in Evolutionary Search via General Markov Chain Switching Theorem
进化算法模拟自然界物种的进化过程，用于求解优化问题。杂交（又称重组）是模拟动物交配生殖中的染色体交换现象而产生的，在进化代数中被广泛应用于产生后代解，其有效性已在实际应用中得到了验证。然而，由于交叉算子的不规则性和变异过程中复杂的交互作用，使得交叉算子的分析比较困难，理论研究较少。因此，分析交叉不仅有助于理解进化算法，而且有助于开发新的技术来分析复杂的元启发式算法。本文推导了广义马尔可夫链切换定理（GMCST），为交叉使能EA的理论研究提供了理论基础。该定理允许我们从一个易于分析的EA分析一个复杂EA的运行时间。使用该工具，我们分析了LeadingOnes和OneMax问题上的带有几个交叉算子的EA，这两个问题对于仅突变EA来说是研究得很好的问题，但是对于启用交叉的EA来说几乎没有结果。首先推导了带交叉算子的（2+2）-EA的运行时间上界;然后研究了只变异（2：2）-EA和带交叉算子（2：2）-EA的运行时间差;最后提出了只在必要时才应用交叉算子的策略，改进了只变异（2：2）-EA和全时交叉（2：2）-EA.理论结果进行了实验验证.
2012-04-26 cs.NE
Average Drift Analysis and Population Scalability
研究了种群规模对进化算法计算时间的影响。进化算法的计算时间可以通过期望的代数（命中时间）或期望的适应度评估数（运行时间）来衡量，以找到最优解。群体可伸缩性是基准算法和使用较大群体大小的算法之间的预期命中时间的比率。平均漂移分析，比较两种算法的预期命中时间和估计人口可扩展性的上下界。几个直观的信念进行了严格的分析。证明了：（1）使用种群有时会增加而不是减少期望命中时间;（2）使用种群不能缩短单峰函数上的任何精英进化算法的期望运行时间，但在基于距离的适应度景观下，这是不正确的;（3）在完全欺骗函数上，使用种群并不总是能减少期望运行时间，这取决于使用精英选择或随机选择的基准算法。
2016-06-14 cs.NE
Automated Configuration of Genetic Algorithms by Tuning for Anytime Performance
对于给定的优化问题，寻找算法超参数的最佳配置是演化计算的一个重要任务。在这项工作中，我们比较了四种不同的超参数调整方法的一个家庭的遗传算法的25个不同的伪布尔优化问题的结果。更确切地说，我们比较以前获得的结果，从网格搜索与三个自动配置技术：迭代赛车，混合整数并行高效全局优化，和混合整数进化策略。使用两个不同的成本度量，预期的运行时间和经验累积分布函数曲线下的面积，我们发现，在几种情况下，最好的配置相对于预期的运行时间时，使用经验累积分布函数曲线下的面积作为成本度量在配置过程中。我们的研究结果表明，即使在预期的运行时性能感兴趣，它可能是最好的配置任务使用随时性能措施。我们还观察到，调整预期的运行时间是更敏感的预算分配给目标算法。
2022-03-17 cs.NE
A Lower Bound Analysis of Population-based Evolutionary Algorithms for Pseudo-Boolean Functions
进化算法是一种基于种群的通用优化算法，已成功应用于各种现实优化任务中。然而，以前的理论研究往往采用EA只有一个父母或后代的人口，并专注于特定的问题。此外，它们通常只显示运行时间的上限，而下限对于完整理解算法也是必要的。本文分析了（$μ$ + $λ$）-EA（一种基于种群的只带变异的进化算法）在具有唯一全局最优解的伪布尔函数类上的运行时间。应用最近提出的开关分析方法，我们首次证明了下限$Ω(n \ln n+ μ+ λn\ln\ln n/ \ln n)$。特别是在两个广泛研究的问题上，OneMax和LeadingOnes，导出的下限公开了当群体大小$μ$或$λ$高于中等数量级时，（$μ$ + $λ$）-EA将严格慢于（1+1）-EA。我们的研究结果意味着，人口规模的增加，而通常在实践中所需的，承担的风险增加的运行时间的下限，因此应该仔细考虑。
2016-06-10 cs.CC cs.NE
Optimal-margin evolutionary classifier
我们介绍了一种新的方法，利用进化算法的判别分类。首先，我们提出了一种算法，以优化的总损失值使用一个修改的0-1损失函数在一维空间的分类。然后，我们扩展这个算法的多维分类使用进化算法。所提出的进化算法的目的是找到一个超平面，最好的分类实例，同时最大限度地减少分类风险。我们测试了粒子群优化算法，进化策略，协方差矩阵自适应进化策略的优化目的。最后，我们比较了我们的结果与完善的和国家的最先进的分类算法，二进制和多类分类，对19个基准分类问题，有和没有噪音和离群值。结果表明，该算法的性能是显着的（t检验）优于所有其他方法在几乎所有的测试问题。我们还表明，该算法是显着更强大的噪声和离群值相比，其他方法。该算法的运行时间是在一个合理的范围内，为现实世界的分类问题的解决。
2018-04-26 cs.NE
Scalable Multiple Patterning Layout Decomposition Implemented by a Distribution Evolutionary Algorithm
本文提出一种基于概率模型群体的分布式进化算法(DEA-PPM)来解决多重图案光刻的布局分解问题，将其建模为广义图着色问题，该算法在分解结果与运行时间间取得平衡，具有可扩展性，为下一代技术节点提供替代方案。
2023-04-09 cs.NE
A Decomposition-Based Many-Objective Evolutionary Algorithm with Local Iterative Update
已有的研究表明，传统的基于分解的多目标进化算法在求解多目标优化问题时可能会失去种群多样性。本文提出了一种简单的基于分解的局部迭代更新MOEA算法。LIU策略具有两个特征，期望驱动种群接近具有良好分布的帕累托前沿。一个是，只有当前邻域中最差的解被新生成的后代替换掉，防止种群被少数个体的副本占据。另一个是它的迭代过程有助于为子问题分配更好的解，这有利于充分利用解与相邻子问题的相似性，在搜索空间中探索局部区域。此外，该算法的时间复杂度是相同的MOEA/D，并低于其他已知的MOEA，因为它只考虑在当前邻域内的个人在每次更新。该算法进行了比较，从两个著名的测试套件DTLZ和WFG选择的问题上的几个最好的MOEA。实验结果表明，该算法在DTLZ 4上只有少数运行实例失去了种群多样性。此外，该算法在运行时间和解决方案质量方面赢得了大多数测试实例，表明它在解决MaOP问题方面非常有效。
2018-06-27 cs.NE
Analysis of Speedups in Parallel Evolutionary Algorithms for Combinatorial Optimization
进化算法是解决各种组合问题的流行算法，因为它们易于应用并且通常产生良好的结果。岛屿模型通过使用不同的种群（称为岛屿）来并行进化，这些种群由图结构连接作为通信拓扑。每个岛屿定期将好的解决方案的副本传递给相邻的岛屿，这个过程称为迁移。我们认为岛屿模型的并行运行时间方面获得的加速从组合优化的问题：排序（作为最大化的排序），最短路径，和欧拉循环。考虑不同的搜索算子。结果表明，在何种设置和到何种程度的进化算法可以有效地并行化。在此过程中，我们还研究了岛屿模型如何处理高原。特别是，我们表明，自然设置导致指数与对数加速，这取决于迁移的频率。
2011-09-08 cs.NE
Erratum: Simplified Drift Analysis for Proving Lower Bounds in Evolutionary Computation
这个勘误表指出了简化漂移定理（SDT）中的一个错误[Simplified mica 59（3），369-386，2011]。它还表明，其条件之一的微小修改是足以建立一个有效的结果。在许多方面，新定理比以前更一般。我们不再假设一个马尔可夫过程，也不是一个有限的搜索空间。此外，该定理的证明比以前的证明更简洁。最后，以前的应用程序的SDT重新审视。事实证明，所有这些要么直接满足修改后的条件，要么通过一些额外的参数。
2012-11-30 cs.NE
Java Implementation of a Parameter-less Evolutionary Portfolio
的Java实现的无参数进化算法的投资组合。无参数进化投资组合实现了一个启发式，执行自适应选择的参数少的进化算法，根据性能标准，在运行时测量。目前，该组合包括三种无参数进化算法：无参数单变量边际分布算法、无参数扩展紧致遗传算法和无参数分层贝叶斯优化算法。初步的实验表明，无参数的投资组合可以解决各种类型的问题，而不需要任何事先的参数设置技术，并增加计算工作量，可以被认为是可以接受的。
2015-06-26 cs.MS cs.NE
Fast Estimations of Hitting Time of Elitist Evolutionary Algorithms from Fitness Levels
Nottingham Trent University（诺丁汉特伦特大学）；Southern University of Science and Technology（南方科技大学）；Lingnan University（岭南大学）
本文提出一种新的子集水平方法，用于更准确地估计精英进化算法在非水平适应度函数上的平均击中时间下限，通过漂移分析改进传统方法。
2026-03-14 cs.NE
Evolution is Still Good: Theoretical Analysis of Evolutionary Algorithms on General Cover Problems
近年来，进化算法的理论研究得到了蓬勃发展。许多这样的算法在运行时间和逼近比上都有理论保证。一些近似机制似乎固有地嵌入在许多进化算法中。在本文中，我们确定这样的关系，提出了一个统一的分析框架，广义简单多目标进化算法（GSEMO），并将其应用于最小重量一般覆盖问题。对于广泛的问题（包括最小次模覆盖问题，其中的次模函数是实值的，和最小连通支配集问题的潜在功能是非次模），GSEMO产生渐近紧逼近比在预期的多项式时间。
2022-10-03 cs.DM cs.NE
Running Time Analysis of the Non-dominated Sorting Genetic Algorithm II (NSGA-II) using Binary or Stochastic Tournament Selection
进化算法已被广泛应用于解决多目标优化问题，并已成为最流行的工具。然而，多目标进化分析的理论基础，特别是其基本理论方面，运行时间分析，在很大程度上仍然不发达。现有的几个理论工作主要考虑简单的MOEA，而非支配排序遗传算法II（NSGA-II），可能是最有影响力的MOEA，还没有分析，除了最近的工作考虑一个简化的变体没有交叉。在本文中，我们提出了一个运行时间分析的标准NSGA-II解决LOTZ，OneMinMax和COCZ，三个常用的双目标优化问题。具体来说，我们证明了预期的运行时间（即，适合度评估的数量）是LOTZ的$O(n^3)$，以及OneMinMax和COCZ的$O(n^2\log n)$，这令人惊讶地与先前分析的简单MOEA、GSEMO和SEMO的相同。接下来，我们介绍一种新的父选择策略，随机锦标赛选择（即，$k$锦标赛选择，其中$k$是均匀随机抽样），以取代NSGA-II的二进制锦标赛选择策略，减少所需的预期运行时间为$O(n^2)$的所有三个问题。实验结果表明，LOTZ的运行时间上界是紧的，OneMinMax和COCZ的运行时间上界几乎是紧的.
2022-03-22 cs.NE
Standard Steady State Genetic Algorithms Can Hillclimb Faster than Mutation-only Evolutionary Algorithms
在演化计算中，解释遗传算法的真正力量在多大程度上在于交叉将个体重组成更高质量解的能力是一个重要的问题。在本文中，我们将展示如何变异和交叉之间的相互作用可以使遗传算法爬山速度比他们的变异只有同行。我们设计了一个马尔可夫链框架，允许严格证明上界的标准稳态遗传算法爬山OneMax函数的运行时间。的界限建立，稳态遗传算法是25%的速度比所有标准的位变异的进化算法的静态突变率达到较低的顺序项为中等人口规模。分析还表明，较大的种群可能比大小为2的种群更快。我们提出了一个贪婪的（2+1）GA匹配的上限大于2的人口的下限，严格证明了2个人不能超越更大的人口规模下贪婪的选择和贪婪的交叉到低阶项。在互补实验中的最佳人口规模是大于2和贪婪的遗传算法是比标准的更快，进一步表明，推导出的下限也适用于标准的稳态（2+1）GA。
2017-08-25 cs.NE
Population Diversity Leads to Short Running Times of Lexicase Selection
在本文中，我们调查为什么词典父选择的运行时间是经验远远低于其最坏情况下的O（N*C）的界限。我们定义了一个衡量人口的多样性，并证明了高多样性导致低运行时间O（N + C）的词汇酶选择。然后，我们的经验表明，遗传编程人口的词汇酶选择下进化的不同的几个程序合成的问题，并探讨由此产生的差异运行时间界限。
2022-04-13 cs.NE
The Fitness Level Method with Tail Bounds
适应度方法，也称为基于f的划分方法，是一种直观的和广泛使用的技术，用于随机搜索算法的运行时间分析。它最初被定义为证明预期运行时间的上限和下限。最近，上尾界被添加到该技术中;然而，这些尾界仅适用于至少是期望值两倍的运行时间。我们删除了这一限制，并补充了尖锐的尾部边界，包括较低的尾巴的适应度水平的方法。作为示例性应用，我们证明了OneMax上随机局部搜索的运行时间急剧集中在n ln n - 0.1159 n附近。
2013-07-16 cs.NE
Semantically-Oriented Mutation Operator in Cartesian Genetic Programming for Evolutionary Circuit Design
尽管有许多成功的应用，笛卡尔遗传编程（CGP）遭受有限的可扩展性，特别是当用于进化电路设计。例如，考虑到乘法器设计问题，5x5位乘法器代表了从随机生成的初始种群演化而来的最复杂的电路。CGP的效率在很大程度上取决于点变异算子的性能，然而，该算子是纯随机的。这与遗传编程（GP）的最新发展形成鲜明对比，其中引入了高级知情方法，如语义感知算子，以提高GP的搜索空间探索能力。本文提出了一种适用于组合电路进化设计的面向语义的变异算子（SOMO）。SOMO使用语义来确定每个突变基因的最佳值。与常见的CGP及其变体以及最近版本的语义GP相比，所提出的方法在保持表型大小相对较小的同时，在常见的布尔基准上收敛得更快。本文给出的成功进化实例包括10位奇偶校验、10+10位加法器和5 × 5位乘法器。最复杂的电路在不到一个小时的时间内就完成了，并且在一个普通的CPU上运行了一个单线程实现。
2020-04-23 cs.NE
Complexity Theory for Discrete Black-Box Optimization Heuristics
在进化算法理论中的一个主要课题，更一般地说，随机黑盒优化技术的理论是运行时间分析。运行时分析旨在通过限制启发式算法识别所需质量的解决方案所需的函数评估数量来了解给定启发式算法在给定问题上的性能。在一般的算法理论中，这种运行时间的观点是最有用的，当它被一个有意义的复杂性理论，研究算法解决方案的限制。在离散黑箱优化的背景下，已经开发了几个黑箱复杂性模型来分析黑箱优化算法在给定问题上可以实现的最佳性能。这些模型在这些下限适用的算法类别上有所不同。通过这种方式，黑盒复杂性有助于更好地理解某些算法选择（例如启发式算法使用的内存量，其选择压力或用于创建新候选解决方案的策略属性）如何影响性能。在这一章中，我们回顾了不同的黑盒复杂性模型，已在文献中提出，调查这些模型的界限，并讨论如何运行时间分析和黑盒复杂性的相互作用，可以激发新的算法解决方案，充分研究的问题，在演化计算。在本章中，我们还讨论了未来工作中几个有趣的开放问题。
2018-06-11 cs.NE
A mullti- or many- objective evolutionary algorithm with global loop update
近年来，多目标进化算法，特别是基于分解的多目标进化算法得到了广泛的关注。基于分解的MOEA强调收敛性和多样性在一个简单的模型，并取得了巨大的成功，在处理理论和实际的多目标或多目标优化问题。在本文中，我们着重于基于分解的MOEA的更新策略，以及它们的比较标准。分析和讨论了基于局部更新策略的MOEA分解算法的三个缺点和现有的几个比较解的标准。提出了一种全局循环更新策略和两种混合准则。随后，一个进化算法的全局循环更新的实现和比较的几个最好的多目标或多目标优化算法在两个著名的无约束测试套件多达15个目标。实验结果表明，与采用局部更新策略的进化算法不同，该算法的种群在进化过程中不会退化，保证了种群的多样性.此外，我们的算法赢得了在大多数情况下的两个测试套件，这表明它是非常有竞争力的收敛性和多样性。我们的算法与不同的标准比较解决方案的运行结果进行了比较。它们的差异是非常显着的，表明我们的算法的性能受到它所采用的标准。
2018-01-25 cs.NE
Parameterized Complexity Analysis of Randomized Search Heuristics
本章汇编了一些结果，这些结果将参数化算法理论应用于随机搜索算法（如进化算法）的运行时分析。参数化方法比经典复杂性理论的传统方法更详细地阐述了解决组合问题的算法的运行时间。我们概述的主要结果和证明技术的随机搜索算法的集合，任务是解决NP-难的组合优化问题，如找到一个最小的顶点覆盖图，找到一个最大的叶生成树图，和旅行推销员的问题。
2020-01-15 cs.NE
Maximizing Submodular or Monotone Approximately Submodular Functions by Multi-objective Evolutionary Algorithms
Nanjing University（南京大学）；Southern University of Science and Technology（南方科技大学）
进化算法是一种受自然启发的通用优化算法，在解决各种实际优化问题中表现出了良好的性能。在过去的二十年中，有希望的结果上的运行时间分析（一个重要的理论方面）的EA已经获得，而他们中的大多数集中在孤立的组合优化问题，这并不反映通用的性质EA。为了对进化算法的行为提供一个一般的理论解释，我们需要研究它们在一般组合优化问题上的性能。据我们所知，唯一的结果朝着这个方向是可证明的良好的近似保证EA的最大化单调次模函数与拟阵约束的问题类。这项工作的目的是促进这一研究路线。考虑到许多组合优化问题涉及非单调或非次模目标函数，本文研究了一般问题类：带/不带尺寸约束的最大化次模函数和带尺寸约束的最大化单调近似次模函数。我们证明了一个名为GSEMO-C的简单多目标EA通常可以在多项式预期运行时间内实现良好的逼近保证。
2022-11-28 cs.AI cs.CC cs.DS
NodIO, a JavaScript framework for volunteer-based evolutionary algorithms : first results
JavaScript是一种解释语言，主要以其包含在Web浏览器中而闻名，使其成为基于富Internet的应用程序的容器。这激发了它的使用，很长一段时间，作为进化算法的工具，主要是在基于浏览器的志愿者计算环境中。迄今为止，还出版了几个图书馆，并已投入使用。然而，在过去的几年里，人们对该语言的兴趣又重新抬头，成为最受欢迎的语言之一，从而促进了其实现的改进，这些实现现在是许多新的客户端-服务器应用程序的基础。我们提出了这样一个应用程序运行分布式志愿者为基础的进化算法实验，我们做了一系列的测量，以建立进化算法的速度JavaScript，可以作为基线与其他分布式计算实验进行比较。这些实验使用了不同的整数和浮点问题，并证明了JavaScript的速度实际上与进化算法从业者常用的其他语言具有竞争力。
2016-01-07 cs.DC cs.NE
Drift Analysis with Fitness Levels for Elitist Evolutionary Algorithms
本文将漂移分析与适应度层级方法结合，将最紧时间界问题形式化为约束多目标优化问题，首次构造并证明最紧度量界，并建立通用框架以在无捷径和有捷径的适应度景观上获得紧致时间界，通过(1+1) EA最大化TwoMax1函数进行了验证。
2024-02-13 cs.NE
Evolutionary Strategy Guided Reinforcement Learning via MultiBuffer Communication
University of Galway（戈尔韦大学）
本文提出一种结合进化策略与TD3的进化强化学习模型，通过多缓冲区通信机制避免低质量轨迹污染回放缓冲区，在MuJoCo任务上超越CEM-RL。
2023-06-20 cs.AI cs.NE
Efficient Evolutionary Algorithm for Single-Objective Bilevel Optimization
双层优化问题是一类具有挑战性的优化问题，它包含两个层次的优化任务。在这些问题中，下层问题的最优解成为上层问题的可能可行候选。这样的要求使得优化问题难以解决，并且使研究人员忙于设计可以有效处理问题的方法。尽管努力，几乎没有任何有效的方法，这是能够处理一个复杂的双层问题。本文提出了一种基于最优下层变量对上层变量的二次近似的双层进化算法（BLEAQ）。该方法能够在相对较少的函数求值次数下处理不同复杂度的两层问题。从经典优化的思想已经与进化方法杂交，产生一个有效的优化算法的一般双层问题。该算法的有效性已被证明对两组测试问题。第一组是最近提出的SMD测试集，其中包含可控的复杂性的问题，第二组包含从文献中收集的标准测试问题。所提出的方法已被评估对两个基准，并观察到的性能增益是显着的。
2013-10-07 cs.NE
Theory of Parameter Control for Discrete Black-Box Optimization: Provable Performance Gains Through Dynamic Parameter Choices
参数控制的目的是通过动态选择决定底层优化算法行为的参数来实现性能增益。在进化算法的背景下，这条研究路线长期以来一直由经验方法主导。随着运行时间分析在过去十年中取得的重大进展，参数控制问题已成为理论研究的一个重要方面。近年来，已经获得了许多不同参数控制机制的运行时间结果。这本书的章节调查这些作品，并把它们放入上下文，提出了一个更新的分类方案参数控制。
2020-11-07 cs.NE
Error Analysis of Elitist Randomized Search Heuristics
当进化算法不能在多项式期望运行时间内找到复杂优化问题的全局最优解时，由于有时不知道多项式期望运行时间内的近似比是多少，命中时间/运行时间分析不够灵活，无法满足理论研究的要求.因此，有必要提出一个替代的例程的理论分析的EA。为了弥合理论分析和算法实现之间的差距，在本文中，我们进行了误差分析，估计的预期近似误差，以评估随机搜索算法（RSH）的性能。基于RSH的马尔可夫链模型，通过对单步转移矩阵进行对角化，得到了多步转移矩阵，并给出了一个估计期望逼近误差的一般框架.案例研究表明，误差分析工作以及单模态和多模态基准问题。它导致近似误差的精确估计，而不是渐近结果的适应值，这表明它的竞争力固定预算分析。
2020-11-30 cs.NE
BenchENAS: A Benchmarking Platform for Evolutionary Neural Architecture Search
自动设计深度神经网络架构的神经架构搜索（NAS）在过去几年中在许多应用中取得了突破性的成功。在各种NAS方法中，基于演化计算的NAS（ENAS）方法近年来受到了广泛的关注。不幸的是，公平比较和有效评价的问题阻碍了ENAS的发展。目前的基准架构数据集设计用于公平的比较只提供数据集，而不是ENAS算法或运行算法的平台。现有的有效评价方法要么不适用于基于人口的ENAS算法，要么过于复杂，难以使用。本文开发了一个名为BenchENAS的平台来解决这些问题。BenchENAS旨在通过在相同的环境和相同的设置下运行不同的算法来实现公平的比较。为了在通用的实验室环境下实现高效的评估，BenchENAS设计了一个可维护性高的并行组件和缓存组件。此外，BenchENAS易于安装，高度可配置和模块化，这带来了良好的可用性和易于扩展的好处。在该平台上对8种GPU利用率高的ENAS算法进行了高效的对比实验。实验证明公平比较问题确实存在，而BenchENAS可以缓解这一问题。已经建立了一个网站来推广BenchENAS，网址是https://benchenas.com，感兴趣的研究人员可以免费获得BenchENAS的源代码和文档。
2021-08-14 cs.NE
Self-Adjusting Mutation Rates with Provably Optimal Success Rules
五分之一成功规则是控制进化算法参数的最著名和最广泛接受的技术之一。虽然它通常在字面意义上应用，但通常的解释是将五分之一成功规则视为由更新强度$F$和成功率确定的基于成功的更新规则族。在这项工作中，我们分析的性能（1+1）进化算法的LeadingOnes取决于这两个超参数。我们的主要结果表明，最好的性能是获得小的更新强度$F=1+o(1)$和成功率$1/e$。我们还证明了通过这种参数设置获得的运行时间，除了低阶项，与最佳适应度依赖的突变率相同。我们显示了类似的结果的（1+1）进化算法，强制翻转至少一个比特每次迭代的restaurant变体。
2021-12-28 cs.NE
Running Time Analysis of the (1+1)-EA for Robust Linear Optimization
进化算法（EA）已经发现了许多成功的实际应用，其中的优化问题往往受到广泛的不确定性。为了从理论上理解进化算法的实际行为，有一系列的努力致力于分析不确定性下优化的进化算法的运行时间。现有的研究主要集中在噪声和动态优化，而另一种常见的不确定优化，即，鲁棒优化，很少被触及。在本文中，我们分析了（1+1）-EA解决鲁棒线性优化问题（即，鲁棒场景下的线性问题）具有基数约束$k$。两种常见的稳健方案，即，删除鲁棒性和最坏情况，被认为是。特别是，我们推导出严格的范围内的强大的参数$d$或预算$k$允许（1+1）-EA找到一个最佳的解决方案，在多项式运行时间，这揭示了潜在的EA强大的优化。
2022-12-06 cs.CC cs.NE math.OC
On Proportions of Fit Individuals in Population of Evolutionary Algorithm with Tournament Selection
在本文中，我们考虑了一个非精英只变异进化算法（EA）的比赛选择的适应度模型。该模型提供了上限和下限的预期比例的个人与健身以上给定的阈值。在所谓的单调变异的情况下，得到的界限意味着，增加比赛的大小提高EA的性能。作为推论，我们得到了单峰函数随机局部搜索的指数消失尾界和2-SAT问题和E.巴拉斯
2016-08-26 cs.NE
A Theoretical Perspective on Why Stochastic Population Update Needs an Archive in Evolutionary Multi-objective Optimization
本文从理论上证明，在进化多目标优化中，随机种群更新配合存档可减小种群规模并显著降低期望运行时间上界，且(μ+μ)更新模式更适配SPU。
2025-09-25 cs.NE
Runtime Analysis of Evolutionary NAS for Multiclass Classification
本文针对多类分类问题提出ENAS运行时分析基准和两级搜索空间，并证明(1+1)-ENAS算法在一位变异与逐位变异下的期望运行时上下界，表明简单一位变异具有重要价值。
2025-06-06 cs.NE
An Archive Can Bring Provable Speed-ups in Multi-Objective Evolutionary Algorithms
本文首次从理论上证明，在NSGA-II和SMS-EMOA求解OneMinMax等问题时，使用存档可使种群规模减为常数并带来多项式级别的期望运行时间加速。
2024-06-04 cs.NE
Optimal Mutation Rates for the $(1+λ)$ EA on OneMax
OneMax问题，也称为汉明距离问题，通常被称为“演化计算（EC）的果蝇"，因为它在EC方法的理论和实证分析中具有高度的相关性。因此，令人惊讶的是，即使是最简单的基于突变的算法，随机局部搜索和（1+1）EA，最佳突变率也是最近才在GECCO 2019海报中确定的。在这项工作中，我们扩展到两个变种的$(1+λ)$ EA和$(1+λ)$ RLS的最佳突变率的分析。要做到这一点，我们使用动态规划，并为$(1+λ)$ EA，数值优化，都需要$Θ(n^3)$时间的问题尺寸$n$。有了这个在手，我们计算所有的人口规模$λ\in \{2^i \mid 0 \le i \le 18\}$和问题维度$n \in \{1000, 2000, 5000\}$的突变率最小化预期的运行时间，哪些最大化预期的进展。我们的研究结果不仅提供了一个下限，我们可以衡量共同的进化方法，但我们也获得洞察这些最佳参数选择的结构。例如，我们表明，对于大的人口规模，翻转的最佳位数是不是单调的距离最佳。我们还观察到，预期的剩余运行时间不一定是单峰的$(1+λ)$ EA $_{0 \rightarrow 1}$与移位突变。
2020-06-20 cs.NE
Lower Bounds for Non-Elitist Evolutionary Algorithms via Negative Multiplicative Drift
非精英群体为基础的进化算法的一个体面的数量的下界已经显示了现在。它们中的大多数在技术上要求很高，因为（很难避免）使用负漂移定理--将预期的进展从目标转化为高命中时间的一般结果。我们提出了一个简单的负漂移定理乘法漂移的情况下，它可以简化现有的分析。我们更详细地讨论了Lehre（PPSN 2010）的\emph{negative drift in populations}方法，这是证明离散搜索空间的基于非精英变异的进化算法的运行时间下界的最通用工具之一。结合其他论证，我们得到了另一种更简单的证明，这也加强和简化了这种方法。特别是，现在只需验证先前结果的五个技术条件中的三个。我们得到的下界是明确的，而不仅仅是渐近的。这允许计算具体算法的具体下限，但也使我们能够表明，超多项式运行时已经出现时，再现率仅低于阈值的$(1 - ω(n^{-1/2}))$因素。对于使用具有随机突变率的标准位突变的算法的特殊情况（在超随机语言中称为均匀混合），我们证明了Dang和Lehre（PPSN 2016）所述的结果，并将其扩展到$Θ(1/n)$以外的突变率，其中包括Doerr，Le，Makhmara和Nguyen提出的重尾突变算子（GECCO 2017）。最后，我们应用我们的方法和一个新的支配参数，以显示一个指数下界的运行时间的变异只有简单的遗传算法\onemax为任意人口规模。
2020-10-20 cs.DS cs.NE
Partnering Strategies for Fitness Evaluation in a Pyramidal Evolutionary Algorithm
University of the West of England（西英格兰大学）
本文将层次分布式遗传算法的思想与不同的代理间的合作策略相结合。子种群的级联集群是从自底向上的构建的，更高级别的子种群优化问题的更大部分。因此，较高级别的子群体以较低的分辨率搜索较大的搜索空间，而较低级别的子群体以较高的分辨率搜索较小的搜索空间。针对两个多项选择优化问题，检查了用于（子）适应度评估目的的不同伙伴选择方案的影响。结果表明，随机合作策略提供更好的抽样和更多的多样性表现最好。
2008-03-03 cs.AI cs.NE
A Pyramidal Evolutionary Algorithm with Different Inter-Agent Partnering Strategies for Scheduling Problems
本文将层次分布式遗传算法的思想与不同的代理间的合作策略相结合。子种群的级联集群是从自底向上的构建的，更高级别的子种群优化问题的更大部分。因此，较高级别的子群体以较低的分辨率搜索较大的搜索空间，而较低级别的子群体以较高的分辨率搜索较小的搜索空间。不同的合作伙伴之间的代理选择方案对解决方案质量的影响进行了检查两个多选择优化问题。结果表明，合作策略，利用特定问题的知识是优越的，可以对抗不适当的（子）健身测量。
2008-03-03 cs.CE cs.NE
Evolutionary Algorithm and Multifactorial Evolutionary Algorithm on Clustered Shortest-Path Tree problem
Quantitative Hedge Fund（量化对冲基金）；Faculty of Natural Science - Technology, Taybac University（太原大学自然科学与技术学院）；School of Information and Communication Technology, Hanoi University of Science and Technology（河内科技大学信息与通信技术学院）
在文献中，离散最短路径树问题（CluSPT）是一个NP难问题。以往的研究往往在相对较大的空间中寻找最优解。为了提高搜索过程的性能，提出了两种方法：第一种方法寻求解决方案作为一组边缘。从原图生成一个新的图，其顶点集的基数比原图小得多。因此，提出了一种有效的进化算法（EA）求解CluSPT。第二种方法寻找基于顶点的解决方案。CluSPT的搜索空间被转换成2个嵌套的搜索空间（NSS）。对于高层优化中的每个候选项，下层的搜索引擎将找到相应的候选项与之组合，以创建CluSPT的最佳解决方案。因此，嵌套局部搜索EA（N-LSEA）被引入到搜索最优解的NSS。在低层求解时，N-LSEA可以处理各种相似的任务。因此，多因子进化算法的应用，以提高这些优化的隐式遗传转移。建议的算法进行了一系列的数据集和所获得的结果表明，优越的效率相比，以前的科学工作。
2020-10-19 cs.AI cs.NE
An Efficient Dynamic Resource Allocation Framework for Evolutionary Bilevel Optimization
本文提出DRC-BLEA，一种用于进化双层优化的动态资源分配框架，通过竞争性准并行范式与协作机制减少冗余下层迭代，在保持精度的同时显著降低计算开销。
2024-11-06 cs.NE math.OC
A Framework for Knowledge Integrated Evolutionary Algorithms
RWTH Aachen University（亚琛工业大学）；INCAS 3；Eindhoven University of Technology（埃因霍温理工大学）
进化算法（EA）成功的主要原因之一是它们的通用性，即，事实上，它们可以直接应用于广泛的优化问题，而无需任何特定的先验知识。另一方面，它已被证明，纳入先验知识，如专家知识或经验的发现，可以显着提高EA的性能。然而，将知识纳入环境协定提出了许多挑战。通常情况下，搜索空间的特征是未知的，因此几乎不能使用与搜索空间属性相关联的任何知识。此外，先验知识通常是特定于问题的，难以概括。在本文中，我们提出了一个框架，称为知识集成进化算法（KIEA），这有利于现有的知识集成到EA。值得注意的是，KIEA框架是EA不可知的（即，它与任何进化算法一起工作），问题无关（即，它不专用于特定类型的问题），可扩展的（即，其知识库可以随时间增长）。此外，该框架在EA运行时集成了知识，从而优化了所需计算能力的使用。在这里显示的初步实验中，我们观察到KIEA框架在最坏的情况下产生了80%的收敛时间，w.r.t.对应的"无知识" EA对应物。
2021-03-31 cs.AI cs.NE
Using Evolutionary Algorithms to Find Cache-Friendly Generalized Morton Layouts for Arrays
本文提出用遗传算法探索广义Morton数组布局的进化方法，通过缓存模拟评估适应度，在真实硬件上实现最高十倍的性能提升。
2024-02-05 cs.NE cs.PF
Average Convergence Rate of Evolutionary Algorithms
在进化优化中，重要的是要了解进化算法每代收敛到最优值的速度，或者它们的收敛速度。本文提出了一种新的收敛速度的度量，称之为平均收敛速度。它是每代适应度差异减少比率的归一化几何平均值。平均收敛速度的计算非常简单，适用于大多数连续和离散优化的进化算法。对离散优化问题的平均收敛速度进行了理论研究。的平均收敛速度的下界。分析了平均收敛速度的极限，提出了渐近平均收敛速度。
2015-06-02 cs.NE math.OC
CR-BLEA: Contrastive Ranking for Adaptive Resource Allocation in Bilevel Evolutionary Algorithms
School of Informatics, Xiamen University（厦门大学信息学院）；Department of Artificial Intelligence, Sichuan University（四川大学人工智能学院）
针对双层进化算法中下层任务冗余评估导致的资源浪费，提出基于对比排序网络的自适应资源分配框架，在五种先进算法上验证可降本并保持或提升精度。
2025-06-03 cs.AI cs.LG cs.NE
Runtime Analysis of Evolutionary Algorithms via Symmetry Arguments
我们使用基于群体行动的基本论点来证明Sutton和Witt（GECCO 2019）分析的无选择稳态遗传算法需要预期的$Ω(2^n / \sqrt n)$迭代次数来找到任何特定的目标搜索点。该界限对所有总体大小$μ$均有效。我们的结果改善了以前的下限$Ω(\exp(n^{δ/2}))$有效的人口规模$μ= O(n^{1/2 - δ})$，$0 < δ< 1/2$。
2020-10-31 cs.DS cs.NE
Stochastic Population Update Can Provably Be Helpful in Multi-Objective Evolutionary Algorithms
Nanjing University（南京大学）；University of Birmingham（伯明翰大学）
针对多目标进化算法（MOEAs）种群更新通常为贪婪确定性的问题，本文证明将其替换为随机机制可使SMS-EMOA和NSGA-II求解两个双目标问题的期望运行时间指数级减少，实证亦验证该方法有效性，为MOEAs开发提供新方向。
2025-02-16 cs.AI cs.NE
Optimize Cheap, Deploy Strong: Cost-Aware Cross-Tier Transfer for Evolutionary Optimization
IBM Research（IBM研究院）
该研究提出成本感知跨层迁移方法，解耦LLM角色，在低成本层级完成大部分搜索，跨层部署提示词，在多任务多模型上实现成本大幅降低且性能不劣于同层级优化。
2026-08-13 cs.AI cs.CL cs.LG
Running Time Analysis of the (1+1)-EA for OneMax and LeadingOnes under Bit-wise Noise
University of Science and Technology of China（中国科学技术大学）；Southern University of Science and Technology（南方科技大学）
在现实世界中的许多优化问题中，目标函数的评估受到噪声的影响，我们无法获得准确的目标值。进化算法是一种通用的随机优化算法，能够很好地解决噪声优化问题。然而，以往的进化算法的理论分析主要集中在无噪声优化，这使得理论上的理解很大程度上是不充分的噪声情况下。同时，现有的一些理论研究在噪声下往往考虑一位噪声模型，它翻转一个随机选择的位的解决方案之前评估;而在许多现实的应用中，解决方案的几个位可以同时改变。在本文中，我们研究了一位噪声的自然扩展，逐位噪声模型，它以一定的概率独立地翻转解决方案的每个位。我们分析了（1+1）-EA在逐位噪声下求解OneMax和LeadingOnes的运行时间，并推导出多项式和超多项式运行时间边界的噪声水平范围。将逐位噪声下的LeadingOnes分析转化为一位噪声下的LeadingOnes分析，改进了已有的结果。由于我们的分析表明，（1+1）-EA只能在低噪声水平下是有效的，我们还研究了采样策略是否可以带来噪声的鲁棒性。我们证明，使用采样可以显着增加允许多项式运行时间的最大噪声水平，也就是说，采样是鲁棒的噪声。
2022-11-28 cs.AI cs.CC cs.NE
An Evolutionary Algorithm to Learn SPARQL Queries for Source-Target-Pairs: Finding Patterns for Human Associations in DBpedia
University of Kaiserslautern（凯泽斯劳滕大学）；DFKI GmbH（德国人工智能研究中心）
由于需要领域专家制定正确的SPARQL查询来回答问题，因此通常会阻碍对关联数据社区提供的知识的有效使用。对于新的问题，他们必须决定哪些数据集是合适的，以及用什么术语和建模风格来表达SPARQL查询。在这项工作中，我们提出了一个进化算法，以帮助这一具有挑战性的任务。给定源-目标节点对示例的训练列表，我们的算法可以从SPARQL端点学习模式（SPARQL查询）。学习到的模式可以可视化以形成进一步调查的基础，或者它们可以用于预测新源节点的目标节点。除此之外，我们将我们的算法应用于数百个人类关联的数据集（如“圆形-正方形”），以在DBpedia中找到它们的模式。我们通过在一个装载了超过79亿个三元组的SPARQL端点上运行该算法来展示其可扩展性。此外，我们使用得到的SPARQL查询来模拟人类关联，平均平均精度（MAP）为39.9%，Recall@10为63.9%。
2016-09-13 cs.AI cs.DB cs.NE
The Hybridization of Branch and Bound with Metaheuristics for Nonconvex Multiobjective Optimization
针对非凸多目标优化问题，提出了一种结合分支定界法和多目标进化算法的混合框架。杂交利用了两种优化策略的互补特性。多目标进化算法的目的是诱导严格的下限和上界在分支定界过程。像这样的紧边界可以减少必须解决的子问题的数量。分支定界法保证了框架的整体收敛，提高了多目标进化算法的搜索能力。将NSGA-II和MOEA/D-DE作为多目标进化算法，给出了混合框架的实现。数值实验验证了混合算法的优势在于分支定界法和多目标进化算法的协同作用。
2022-12-09 cs.NE math.OC
Multi-objective Evolutionary Algorithms are Generally Good: Maximizing Monotone Submodular Functions over Sequences
Nanjing University（南京大学）；University of Science and Technology of China（中国科学技术大学）；Southern University of Science and Technology（南方科技大学）
进化算法（Evolutionary Algorithms，EA）是一种受自然进化启发的通用优化算法。最近的理论研究表明，进化算法可以实现很好的近似保证解决问题类的子模块优化，其中有广泛的应用，如最大覆盖，稀疏回归，影响力最大化，文档摘要和传感器的放置，仅举几例。虽然他们提供了一些理论解释的通用性质的EA，所考虑的子模块的目标函数只定义在集或多集。为了补充这一研究思路，本文研究了序列上单调次模函数极大化问题类，其中目标函数依赖于项的顺序。证明了对于序列上的每一类单调子模目标函数，前缀单调次模函数、弱单调和强次模函数以及DAG单调次模函数，一个简单的多目标EA，即，GSEMO算法在运行多项式时间后，总是能达到或提高已知的最佳逼近保证。请注意，这些最著名的近似保证只能通过以前的不同贪婪风格的算法来获得。对各种应用的实证研究，例如，完成任务，最大化信息增益，搜索和跟踪和推荐系统，显示了GSEMO的优异性能。
2022-12-16 cs.AI cs.CC cs.NE
LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms
LIACS, Leiden University, Leiden, Netherlands（LIACS，莱顿大学，莱顿，荷兰）
研究如何设计多目标贝叶斯优化算法，核心方法是将LLaMEA框架扩展到MOBO，利用大语言模型生成算法并集成超参数优化。主要贡献是生成的算法在合成和实际工程问题上表现优异，能以低成本实现帕累托有效权衡。
2026-07-13 cs.AI cs.NE
