On Comparison between Evolutionary Programming Network-based Learning and Novel Evolution Strategy Algorithm-based Learning
Khulna University of Engineering and Technology(库尔纳工程技术大学)
本文提出了两种不同的进化系统-进化规划网络(EPNet)和新的进化策略(NES)算法。EPNet同时进行训练和架构演进,而NES是一个固定的网络,只训练网络。EPNet中提出了五种变异算子,以反映对进化ANN行为的重视。父母和他们的后代之间的紧密行为联系通过各种突变来保持,例如部分训练和节点分裂。另一方面,NES采用了两种新的遗传算子-基于子种群的最大均值算术交叉和时变变异。上述两种算法已经在一些基准问题上进行了测试,例如医学诊断问题(乳腺癌,糖尿病和心脏病)。文中给出了计算结果和它们之间的比较。
2013-05-04 cs.LG cs.NE
Evolutionary Design of Digital Circuits Using Genetic Programming
对于简单的数字电路,可以很容易地应用设计电路的常规方法。但是对于复杂的数字电路,传统的电路设计方法由于耗时长而不适用。相反,遗传编程主要用于自动程序生成。设计算术电路(通常是数字电路)的现代方法是基于图形的。基于图的算术电路进化设计是一种算术电路优化设计方法。本文提出了一种新的数字电路进化设计方法,即用带子树变异的遗传编程(GP)代替基于图的设计。使用这种技术获得的结果表明,在有限的计算机算法的数字电路设计中的潜在能力的遗传编程。所提出的技术,有助于简化和加速设计数字电路的过程中,发现在数字电路设计领域的变化,优化的数字电路可以成功地和有效地设计。
2013-04-09 cs.NE
Genetic Programming-Based Evolutionary Deep Learning for Data-Efficient Image Classification
Zhengzhou University(郑州大学);Victoria University of Wellington(惠灵顿维多利亚大学)
数据有效的图像分类是一个具有挑战性的任务,旨在解决图像分类使用小的训练数据。基于神经网络的深度学习方法对于图像分类是有效的,但是它们通常需要大规模的训练数据并且具有主要的限制,诸如需要专业知识来设计网络架构并且具有差的可解释性。进化深度学习是最近的一个热门话题,它将演化计算与深度学习相结合。然而,大多数进化深度学习方法都集中在进化神经网络的架构上,这些架构仍然受到诸如可解释性差等限制。为了解决这个问题,本文提出了一种新的基于遗传编程的进化深度学习方法来进行数据高效的图像分类。新方法可以自动进化变长模型,使用许多重要的运营商从图像和分类域。它可以从彩色或灰度图像中学习不同类型的图像特征,构造有效的、多样的集成用于图像分类。灵活的多层表示使新方法能够为不同的任务自动构建浅层或深层模型/树,并通过多个内部节点对输入数据执行有效的转换。新方法被应用于解决五个不同的训练集大小的图像分类任务。结果表明,在大多数情况下,对于数据高效的图像分类,它的性能优于深度学习方法。深入分析表明,该方法具有良好的收敛性,并能演化出具有高度可解释性、不同长度/大小/形状和良好可移植性的模型。
2022-09-27 cs.AI cs.CV cs.LG
Semantic Neighborhood Ordering in Multi-objective Genetic Programming based on Decomposition
遗传编程中的语义多样性在进化搜索中被证明是非常有益的。我们目睹了该领域科学作品数量的激增,首先是在离散空间开始,然后转移到连续空间。然而,绝大多数的这些作品,都集中在单目标遗传编程范例的注意力,与少数例外,专注于进化多目标优化(EMO)。后者的作品使用了众所周知的强大的算法,包括非支配排序遗传算法II和强度帕累托进化算法,两者都深受帕累托优势的概念。这些鼓舞人心的工作使我们在EMO中向前迈出了一步,考虑基于分解的多目标进化算法(MOEA/D)。我们首次展示了如何在遗传编程中促进MOEA/D的语义多样性。
2021-04-13 cs.NE
Evolutionary NAS with Gene Expression Programming of Cellular Encoding
Soka University(创价大学)
神经结构搜索(NAS)的复兴已经看到了诸如遗传算法(GA)和遗传编程(GP)的经典方法被用于卷积神经网络(CNN)结构。虽然最近的工作在视觉感知任务上取得了有希望的性能,但GA和GP的直接编码方案都具有功能复杂性缺陷,并且在像CNN这样的大型架构上不能很好地扩展。为了解决这个问题,我们提出了一个新的生成编码方案- $symbolic\ linear\ generative\ encoding$(SLGE)-简单,但功能强大的计划,嵌入局部图变换的线性固定长度字符串的染色体开发CNN架构的不同形状和大小通过基因表达编程的进化过程。在实验中,SLGE的有效性显示在发现的架构,提高了CIFAR-10和CIFAR-100图像分类任务的最先进的手工制作的CNN架构的性能;并实现了具有竞争力的分类出错率与现有的NAS方法使用更少的GPU资源。
2020-12-03 cs.CV cs.NE
Semantically-Oriented Mutation Operator in Cartesian Genetic Programming for Evolutionary Circuit Design
尽管有许多成功的应用,笛卡尔遗传编程(CGP)遭受有限的可扩展性,特别是当用于进化电路设计。例如,考虑到乘法器设计问题,5x5位乘法器代表了从随机生成的初始种群演化而来的最复杂的电路。CGP的效率在很大程度上取决于点变异算子的性能,然而,该算子是纯随机的。这与遗传编程(GP)的最新发展形成鲜明对比,其中引入了高级知情方法,如语义感知算子,以提高GP的搜索空间探索能力。本文提出了一种适用于组合电路进化设计的面向语义的变异算子(SOMO)。SOMO使用语义来确定每个突变基因的最佳值。与常见的CGP及其变体以及最近版本的语义GP相比,所提出的方法在保持表型大小相对较小的同时,在常见的布尔基准上收敛得更快。本文给出的成功进化实例包括10位奇偶校验、10+10位加法器和5 × 5位乘法器。最复杂的电路在不到一个小时的时间内就完成了,并且在一个普通的CPU上运行了一个单线程实现。
2020-04-23 cs.NE
Composing photomosaic images using clustering based evolutionary programming
City University of Hong Kong(香港城市大学)
摄影图像是一种由各种微小图像组成的图像。一个完整的形式可以清楚地看到它从很远的距离。从很短的距离观察,可以清楚地看到取代原始图像块的小的微小图像。在过去,已经提出了许多算法,试图自动合成的photomochemical图像。这些算法大多采用贪心算法来匹配小块图像。为了获得更好的视觉效果和满足某些商业需求,通常会添加一个约束,即一个微小的图像不应该被重复使用多次。在此约束条件下,光优化问题就变成了一个组合优化问题。进化算法模仿自然选择的过程,在组合优化问题中得到了广泛的应用。然而,很少有人将进化算法应用于光成像问题。在本文中,我们提出了一种算法称为聚类进化规划来处理这个问题。我们给优化算法的先验知识,使优化过程收敛更快。在我们的实验中,所提出的算法与最先进的算法和软件进行了比较。结果表明,我们的算法性能最好。
2018-04-09 cs.CV cs.NE
Blending Dynamic Programming with Monte Carlo Simulation for Bounding the Running Time of Evolutionary Algorithms
为了提供最佳运行时间的绝对下限,这可以通过$(1+λ)$型搜索算法在常见的基准问题上实现,我们最近提出了一种动态规划方法,该方法计算最佳预期运行时间和偏离最佳参数选择时推断出的遗憾值。我们以前的工作仅限于不同状态之间的转移概率可以用相对简单的数学表达式表示的问题。随着目标,以涵盖更广泛的问题集,我们建议在这项工作中的动态规划方法的扩展设置中的转移概率不一定是精确计算的,但它们可以近似数值,任意精度,通过蒙特卡罗采样。我们应用我们的混合蒙特卡罗动态规划方法的级联跳跃函数,并演示如何获得的界限可以用来获得更深入的了解到参数控制方案。
2021-02-23 cs.NE
Interaction-Transformation Evolutionary Algorithm for Symbolic Regression
Federal University of ABC(ABC联邦大学)
交互转换(IT)是符号回归的一种新表示,它将搜索空间限制为更简单但表达性更强的函数形式。这种表示的优点是创建了一个更平滑的搜索空间,不像遗传编程中使用的常用表示--表达式树所生成的空间。本文介绍了一种进化算法,能够进化的人口IT表达式只支持的变异算子。结果表明,这种表示是能够找到更好的近似真实世界的数据集相比,传统的方法和最先进的遗传编程算法。
2020-09-20 cs.LG cs.NE stat.ML
Evolutionary Algorithms: Concepts, Designs, and Applications in Bioinformatics: Evolutionary Algorithms for Bioinformatics
自从遗传算法由John Holland(Holland J.H.,1975)在20世纪70年代初,进化算法的研究已经成为一个热门的研究领域(Civicioglu & Besdok,2013)。来自不同科学和工程学科的研究人员一直在深入研究这一领域,探索进化算法的独特力量(Hadka & Reed,2013)。在过去的二十年中,已经成功地提出了许多应用。例如,机械设计(Lampinen & Zelinka,1999),电磁优化(Rahmat-Samii & Eschelssen,1999年),环境保护(Bertini,Felice,Moretti,& Pizzuti,2010),金融(Larkin & Ryan,2010),音乐编曲(Esling,Carpentier和Agon,2010年),管道布线(Furuholmen,Glette,Hovin,& Torresen,2010)和核反应堆堆芯设计(Sunday,Henderson,Rios-Coelho,Ali,& Pereira,2009)。特别是,它的函数优化能力得到了强调(Goldberg & Richardson,1987),因为它对不同的函数景观具有很高的适应性,我们不能应用传统的优化技术(Wong,Leung,& Wong,2009)。本文综述了进化算法在生物信息学中的应用。
2015-08-03 cs.NE q-bio.GN q-bio.QM
Computational Complexity Analysis of Genetic Programming
遗传编程(GP)是一种以自动化、独立于领域的方式解决问题的演化计算技术。GP的目标不是像传统的进化优化那样确定函数的最优值,而是进化具有给定功能的计算机程序。虽然许多GP应用程序已经产生了人类的竞争力的结果,什么样的问题特征和算法属性允许GP是有效的理论理解是相对有限的。与传统的函数优化进化算法相比,GP应用程序因两个额外因素而变得更加复杂:候选程序的可变长度表示,以及有效评估其质量的难度。这些困难极大地影响了GP的运行时分析,其中空间复杂度也起作用。因此,GP的初始复杂性分析集中在限制设置,如给定结构的树的进化或仅使用一个小的多项式数量的输入/输出示例的解质量的估计。然而,第一个计算复杂性分析的GP发展适当的功能与定义的输入/输出行为最近出现。在本章中,我们将对最新技术水平进行概述。
2019-05-14 cs.DS cs.NE
The Effect of Multi-Generational Selection in Geometric Semantic Genetic Programming
在进化方法中,一个非常突出的是遗传编程,近年来,一种称为几何语义遗传编程(GSGP)的变体已被证明成功地适用于许多现实世界的问题。由于其实现的特殊性,GSGP需要存储所有的进化历史,即,从第一个开始的所有人口。我们利用这些存储的信息来定义一个多代选择方案,该方案能够使用来自老年人群的个体。我们表明,有限的能力,使用“老”代实际上是有用的搜索过程中,从而显示了零成本的方式,提高性能的GSGP。
2022-05-05 cs.NE
Computational Complexity Analysis of Simple Genetic Programming On Two Problems Modeling Isolated Program Semantics
分析二进制搜索空间的进化算法的计算复杂性,大大增加了他们的理论理解。从这篇论文开始,我们对遗传编程的计算复杂性进行了分析。我们建立了几个简化的遗传编程算法,并分析了他们的两个可分离的模型问题,订单和多数,其中每一个都抓住了一个重要方面的典型遗传编程问题。这两个分析给出了第一个严格的见解方面的遗传编程设计,特别是突出的影响,接受或拒绝中性移动和本地突变算子的重要性。
2010-11-15 cs.CC cs.DS cs.NE
Multi-threaded Memory Efficient Crossover in C++ for Generational Genetic Programming
C++代码片段从多核并行存储器有效的交叉遗传编程。它们可以适用于单独的一代进化算法,其中大的染色体或小的RAM需要不超过M +(2倍nthreads)同时活跃的个人。
2020-09-22 cs.NE
Neural Architecture Search based on Cartesian Genetic Programming Coding Method
神经架构搜索(NAS)是自动化机器学习领域的一个热门话题,在相当多的机器学习任务上,它在设计神经架构方面优于人类。受笛卡尔遗传编程(CGP)神经网络自然表示形式的启发,提出了一种基于CGP的进化NAS方法(CGPNAS)来解决句子分类问题。为了在CGP框架下对体系结构进行进化,将卷积等运算识别为CGP的功能节点类型,并基于进化策略设计了进化运算。实验结果表明,搜索到的架构与人类设计的架构的性能相当。我们验证了我们的进化架构的域转移的能力。传递实验结果表明,精度损失小于2- 5%。最后,消融研究将注意力功能确定为单个关键功能节点,并且沿着线性变换可以保持与完全进化的架构相似的精度,这值得在未来进行研究。
2021-09-28 cs.NE
Automated Query Learning with Wikipedia and Genetic Programming
Aalto University School of Economics(阿尔托大学经济学院)
现有的信息检索系统大多是基于词袋模型的,没有配备公共世界知识。通过使用智能算法来生成搜索查询,已经朝着提高这种系统的效率进行了工作,然而,在将人类和社会层面的知识纳入查询的方向上没有进行太多的研究。本文是第一次尝试,这些信息被纳入使用维基百科语义的搜索查询。本文提出了一个基本的转变,从传统的基于令牌的查询,以概念为基础的查询,从而提高效率的信息检索系统。为了有效地处理自动查询学习问题,我们提出了基于维基百科的进化语义(Wiki-ES)框架,其中基于概念的查询学习使用共同进化的进化过程。学习概念为基础的查询,使用智能进化过程产生显着的改善性能,这是通过广泛的研究,使用路透社新闻专线文件。与其他信息检索系统的建议框架进行比较。基于概念的方法也已经在其他信息检索系统上实现,以证明从基于标记的查询到基于概念的查询的转换的有效性。
2010-12-03 cs.AI cs.IR cs.LG
Guiding Genetic Programming with Graph Neural Networks
Poznan University of Technology(波兹南理工大学)
针对遗传规划中适应度函数信息利用不足的问题,提出EvoNUDGE方法,利用图神经网络从符号回归问题中提取额外知识生成子程序库,以初始化种群并引导搜索,实验证明其显著优于传统遗传规划和纯神经变体。
2024-11-03 cs.AI cs.LG cs.NE
Evolutionary algorithms
本手稿包含作者阅读的讲座课程“进化算法”的大纲。本课程涵盖了经典遗传算法和其他各种遗传算法,以及进化策略,遗传编程,禁忌搜索和一般的进化算法。对交叉算子的旋转性、模式定理、遗传算法的局部搜索性能以及进化算法的“几乎必然”收敛性等问题给出了完整的证明。文本是俄语的。
2022-03-30 cs.NE
Evolutionary Optimization for Decision Making under Uncertainty
在不确定性下优化决策问题可以使用多种解决方法。软计算和启发式方法往往是强大的解决这些问题。在这篇综述文章中,我们将概述用于解决随机规划问题的进化优化技术-包括单阶段和多阶段情况。
2014-01-19 cs.NE
EBIC.JL -- an Efficient Implementation of Evolutionary Biclustering Algorithm in Julia
AGH University of Science and Technology(AGH科技大学);University of Pennsylvania(宾夕法尼亚大学)
双聚类是一种在表格数据中寻找局部模式的数据采掘技术,主要应用于生物信息学。该技术在多个领域显示出前景,包括开发癌症生物标志物、疾病亚型鉴定或基因-药物相互作用等。在本文中,我们介绍EBIC.JL -Julia,一个现代的高度并行化的程序设计语言的数据科学中最准确的双聚类算法之一的实现。我们表明,新版本保持相当的准确性,其前身EBIC,同时收敛速度更快的大多数问题。我们希望,这一采用高级程序设计语言的开源软件将促进生物信息学这一有前途领域的研究,并加快开发新的大数据双聚类方法。
2021-05-03 cs.AI cs.DC cs.LG
An evolutionary approach for discovering non-Gaussian stochastic dynamical systems based on nonlocal Kramers-Moyal formulas
School of Automation, Nanjing University of Science and Technology(南京理工大学自动化学院);Great Bay University(大湾区大学)
本文提出演化符号稀疏回归方法,结合非局部Kramers-Moyal公式、遗传编程与稀疏回归,从样本路径数据中提取含高斯和非高斯噪声的随机动力系统,并通过多个示例模型验证其有效性。
2024-09-29 cs.LG cs.NE math.DS
Matchmaker, Matchmaker, Make Me a Match: Geometric, Variational, and Evolutionary Implications of Criteria for Tag Affinity
该研究针对标签匹配准则在遗传规划与人工生命系统中的影响未被明确的问题,分析了不同准则在几何约束、突变变异上的差异,证实其会影响演化速率与解的质量,为标签匹配的有效应用及自然相关系统研究提供了新视角。
2021-08-10 cs.NE
Obtaining Basic Algebra Formulas with Genetic Programming and Functional Rewriting
Universidad Nacional de Colombia(哥伦比亚国立大学)
在本文中,我们开发了一套遗传编程运营商和初始化人口过程的基础上的概念,功能性编程重写提升归纳遗传编程。这样的遗传算子内使用的混合自适应进化算法,在进化的同时,它进化的解决方案的运营商的利率。使用递归函数表示解决方案,其中基因组被编码为树的有序列表,并且表型用简单的函数程序设计语言编写,该语言使用重写作为操作语义(计算模型)。适应度是在样本集基数上成功推导出的样本数量。按照锦标赛选择机制选择父母,并按照稳态策略获得下一个种群。进化过程中可以使用一些以前的功能(程序)诱导的背景知识。我们比较我们的技术在一组困难的问题(经典的遗传编程)的性能。特别地,我们把求一些著名乘积(如二项式的平方、二项式的立方)的等价代数表达式,以及前n个自然数的和与平方的递推公式的问题作为试验床。
2020-05-03 cs.LG cs.NE math.OC
A note on evolutionary stochastic portfolio optimization and probabilistic constraints
在这篇文章中,我们扩展了一个进化随机投资组合优化框架,包括概率约束。基于随机规划的建模环境以及进化优化环境都非常适合于集成各种类型的概率约束。我们展示了如何整合这些约束的方法。使用最近的金融数据的数值结果证实了所提出的方法的适用性。
2010-01-29 cs.CE cs.NE q-fin.PM
Data-Driven Discovery of Interpretable Kalman Filter Variants through Large Language Models and Genetic Programming
University of Reading(reading大学);University of Cambridge(剑桥大学)
本文探讨通过遗传编程和大规模语言模型自动发现卡尔曼滤波变种的可能性,展示框架在不同条件下发现最优解及可解释替代方案的能力。
2025-08-25 cs.LG cs.NE
A synthetic biology approach for the design of genetic algorithms with bacterial agents
细菌一直是进化算法设计的灵感来源。20世纪初,合成生物学诞生了,这门学科的目标是设计自然界中不存在的生物系统,例如可编程的合成细菌。在本文中,我们介绍了作为一种新颖的进化算法的设计,其中所有的步骤进行合成细菌。为此,我们设计了一个遗传算法,我们称之为BAGA,说明它的效用解决简单的优化问题,如函数优化,0/1背包问题,哈密尔顿路径问题。所获得的结果打开了设想进化算法的可能性,其灵感来自合成生物学的原理、机制和遗传电路。总之,我们可以得出结论,合成生物学是一个灵感的来源,无论是进化算法的设计或其一些步骤,在我们的模拟实验中获得的结果所示。
2021-01-19 cs.MA cs.NE
Using Genetic Programming to Predict and Optimize Protein Function
蛋白质工程师通常使用定向进化等工具来寻找具有更好功能和特性的新蛋白质。最近,计算技术,特别是机器学习方法已被招募来协助定向进化,显示出有希望的结果。在本文中,我们提出了POET,一个计算遗传编程工具的基础上演化计算方法,以加强筛选和诱变定向进化,并帮助蛋白质工程师找到更好的功能蛋白质。作为一个概念验证,我们使用的肽产生的MRI对比检测的化学交换饱和转移对比机制。介绍了POET中的进化方法,并利用化学交换饱和转移对比实验研究了POET在不同时期的性能。我们的研究结果表明,像POET这样的计算建模工具可以帮助找到比以前使用的功能好400%的肽。
2022-02-23 cs.NE q-bio.BM
Neurogenetic Programming Framework for Explainable Reinforcement Learning
Eindhoven University of Technology(埃因霍温理工大学);Philips Research Eindhoven(飞利浦埃因霍温研究院)
自动编程,即在没有人类开发人员的情况下生成符合规范的计算机程序的任务,通常通过基于程序突变和重组的遗传编程方法或通过神经语言模型来解决。我们提出了一种新的方法,结合了这两种方法使用的概念,一个虚拟的神经遗传程序员:使用进化方法作为替代梯度下降的神经网络训练},或团队。我们展示了它为各种OpenAI Gym任务提供高性能和可解释的解决方案的能力,并将专家知识注入到其他数据驱动的解决方案搜索中。
2021-02-08 cs.AI cs.LG cs.NE
Self-adaptation of Genetic Operators Through Genetic Programming Techniques
在这里,我们提出了一个进化算法,自我修改其运营商在同一时间,候选解决方案的演变。这解决了趋同和缺乏多样性的问题,导致更好的解决方案。算子被表示为树,并使用遗传编程(GP)技术进行进化。所提出的方法进行了测试与真正的基准函数和运营商的演变分析。
2017-12-17 cs.NE
On evolutionary selection of blackjack strategies
我们应用进化规划的方法来优化问题的二十一点基本策略。我们证明,人口最初随机二十一点策略的发展和饱和到一个有利可图的性能在大约一百代。由此产生的策略类似于已知的21点基本策略的具体规定,并具有类似的性能。我们还研究了初始化为Thorp基本策略的策略种群的演化。
2017-11-16 cs.NE
Promoting Semantics in Multi-objective Genetic Programming based on Decomposition
遗传程序(GP)中的语义研究涉及给定一组输入的程序的行为,并已被广泛报道,有助于促进GP中的多样性,最终改善进化搜索的一系列复杂问题。这些研究中的绝大多数都将注意力集中在单目标GP上,只有少数例外,其中基于Pareto的优势算法(如NSGA-II和SPEA 2)被用作测试高度流行的基于语义的方法(如基于语义相似性的交叉(SSC))是否有助于或阻碍进化搜索的框架。令人惊讶的是,据报道,SSC在SOGP中表现出的好处在基于帕累托的优势多目标GP中看不到。在这项工作中,我们有兴趣研究,如果同样进行基于分解的多目标进化算法(MOEA/D)。通过使用MNIST数据集,一个众所周知的数据集在机器学习社区中使用,我们展示了如何SSC在MOEA/D促进语义多样性产生更好的结果相比,当这是不存在于规范的MOEA/D。
2020-12-08 cs.NE
Recorded Step Directional Mutation for Faster Convergence
Aptex Software(Aptex软件公司)
本文描述的两种元进化优化策略加速了进化规划算法的收敛,同时仍然保留了它们处理多模态问题的能力。这两种策略分别称为定向变异和记录步,它们可以独立操作,但结合在一起可以极大地提高进化规划算法处理以狭长谷为特征的适应度景观的能力。该组合方法的定向突变方面使用相关元突变,但不引入完整的协方差矩阵。因此,这些新方法在高维问题的存储方面更加经济。此外,方向突变是旋转不变的,这是相对于自适应方法的实质性优势,自适应方法针对问题的自然取向不沿轴取向的问题使用每个坐标的单个方差。
2009-03-26 cs.LG cs.NE
Optimal Synthesis of Finite State Machines with Universal Gates using Evolutionary Algorithm
University of Engineering and Technology, Peshawar(白沙瓦工程技术大学)
本研究提出一种基于笛卡尔遗传编程的有限状态机综合优化方法,旨在减少芯片面积与电路成本,在MCNC91基准电路上平均实现近30%的门数量减少,并分析了参数对进化过程的影响。
2024-01-02 cs.AI cs.NE
Continuous Cartesian Genetic Programming based representation for Multi-Objective Neural Architecture Search
INAOE(国家天体物理光学与电子研究所)
提出基于连续 CGP 的块链式 CNN 表示,并结合多种 MOEA 实现多目标 NAS,在 CIFAR-10/100 上取得兼具准确率与低复杂度的竞争力结果。
2023-06-05 cs.CV cs.NE
Optimizing Neural Architecture Search using Limited GPU Time in a Dynamic Search Space: A Gene Expression Programming Approach
Federal University of Parana(巴拉那联邦大学)
本文提出一种基于基因表达式编程的进化式神经架构搜索方法,在动态搜索空间和仅24个GPU小时的限制下高效发现卷积模型,并在CIFAR和ImageNet上取得与人工设计及NAS生成网络相当的先进结果。
2020-05-15 cs.CV cs.LG cs.NE
Genetic Programming with Transformer-Based Mutation for Approximate Circuit Design
Brno University of Technology, Faculty of Information Technology(布拉格技术大学信息科技学院)
本文提出了一种基于变压器的突变算子,用于改进遗传编程在近似算术电路自动设计中的进化设计和优化过程,通过混合方案防止电路近似过程停滞,并在多个目标误差约束下优于EvoApproxLib库中的现有高优化设计。
2026-05-20 cs.LG cs.NE
Average Convergence Rate of Evolutionary Algorithms II: Continuous Optimization
平均收敛速度(ACR)衡量进化算法的近似误差在每一代收敛到零的速度。它被定义为连续几代近似误差减少率的几何平均值。本文对连续优化中的ACR进行了理论分析。所得结果总结如下。根据极限性质,ACR被分为两类:(1)线性ACR的极限下限值大于一个积极的和(2)次线性ACR的值收敛到零。然后证明了进化规划采用正向自适应变异时的ACR是线性的,而采用零向不变变异或零向自适应变异时的ACR是次线性的。ACR与决策空间维度之间的关系也被分类为两类:(1)多项式ACR,其值大于任何代的维度的多项式函数的倒数,以及(2)指数ACR,其值小于指数长周期的维度的指数函数的倒数。证明了对于线性函数等简单问题,(1+1)自适应随机单变量搜索的ACR是多项式的。但对于欺骗函数等硬函数,(1+1)自适应随机单变量搜索和进化规划的ACR都是指数的。
2021-07-10 cs.NE
Scaling Genetic Programming for Source Code Modification
在基于搜索的软件工程中,遗传编程已被用于通过修改源代码来修复错误、提高性能和并行化程序。在将诸如遗传编程的演化计算算法应用于类似的代码操纵任务的情况下,真实世界软件的源代码的复杂性和大小造成了可扩展性问题。为了解决这个问题,我们打算检查如何软件工程的概念模块化,粒度和本地化的变化可以重新制定为额外的机制内的遗传编程算法。
2012-11-21 cs.NE cs.SE
Multi-population Ensemble Genetic Programming via Cooperative Coevolution and Multi-view Learning for Classification
Faculty of Engineering & Information Technology, University of Technology Sydney(工程与信息科技学院,技术悉尼大学);Department of Civil and Architectural Engineering, Sultan Qaboos University(土木与建筑工程系,苏丹·卡布斯大学);University Research and Innovation Center (EKIK), Obuda University(研究与创新中心(EKIK),奥布达大学)
本文提出多群体集成遗传规划(MEGP),融合协同进化与多视角学习,分解特征空间并行进化,经softmax加权聚合基因输出,在八个数据集上优于基线GP,提升分类性能与可解释性。
2025-09-16 cs.AI cs.NE
Winning the CityLearn Challenge: Adaptive Optimization with Evolutionary Search under Trajectory-based Guidance
Virginia Tech(弗吉尼亚理工大学)
现代电力系统在未来几年将不得不面对艰难的挑战:高电力需求峰值导致的城市地区频繁停电,间歇性可再生能源发电加剧的电网不稳定,以及碳排放增加加剧的全球气候变化。虽然目前的实践越来越不充分,但人工智能(AI)方法的广泛采用受到缺乏可信度方面的阻碍。CityLearn Challenge为来自多个学科的研究人员提供了一个绝佳的机会,让他们可以研究人工智能解决能源领域这些紧迫问题的潜力,这些问题被集体建模为强化学习(RL)任务。当代RL技术所面临的多个现实世界的挑战体现在问题的制定。在本文中,我们提出了一种新的方法,使用优化的解决方案函数作为政策来计算顺序决策的行动,同时显着地适应在线观测的优化模型的参数。在数学上,这是通过一种新的基于概率的制导方案下的进化算法来实现的。形式上,建立了全局收敛性。我们的代理在最新的2021年CityLearn Challenge中排名第一,能够在几乎所有指标中实现卓越的性能,同时保持可解释性的一些关键方面。
2022-12-04 cs.LG cs.NE cs.SY
Multi-objective design of quantum circuits using genetic programming
量子计算是基于量子力学概念的一种新的数据处理方式。量子电路设计是将一个量子门转换为一系列基本门的过程,根据其分解和合成分为两大类。第二类是利用演化算法,特别是遗传算法,通过矩阵门的乘法运算来实现量子电路的最终特性。遗传编程是进化计算的一个分支,其中计算机程序进化以解决所研究的问题。在量子电路设计领域的过去研究中,只研究了一种成本度量(通常是量子成本)。本文首次提出了一种利用遗传编程设计量子电路的多目标方法,该方法在考虑量子代价度量的同时,还考虑了量子电路的深度和最近邻度量的代价。本文的另一个创新之处是采用了两步适应度函数,并考虑了量子门中全局相位的等价性。结果表明,该方法能够在较短的时间内找到一个好的答案。
2017-03-14 cs.ET cs.NE
Towards Self-Evolving Agents: A Human-Inspired Adaptive Exploration-Exploitation Framework for Genetic Network Programming
Fasa University(法萨大学);Deakin University(迪肯大学);Chulalongkorn University(朱拉隆功大学);Torrens University Australia(澳大利亚托伦斯大学);Obuda University(奥布达大学)
该研究受人类发育模式启发,提出人类启发的遗传网络编程(HGNP)框架,通过新型自适应交叉、变异算子及循环消除机制,动态调节遗传网络编程中探索与利用的平衡,提升了智能体策略性能,且可应用于多种GNP变体。
2026-07-15 cs.AI cs.NE
EC-KitY: Evolutionary Computation Tool Kit in Python with Seamless Machine Learning Integration
Ben-Gurion University of the Negev(本-古里安内盖夫大学)
本文介绍EC-KitY这一兼容scikit-learn的Python进化计算库,它支持遗传算法、遗传编程、协同进化等多种范式,并概述其架构、功能及与其他库的比较。
2023-04-19 cs.AI cs.NE
Improved evolutionary generation of XSLT stylesheets
Universidad de Granada(格拉纳达大学)
本文介绍了一种基于遗传编程的程序设计方法,用于对可编程逻辑程序(通常称为样式表或逻辑表)进行进化。XML是一种通用的、面向文档的函数式语言,通常用于转换XML文档(或者,一般来说,解决任何可以编码为XML文档的问题)。所提出的解决方案使用一个树表示的样式表以及不同的特定操作符,以获得,在研究的情况下,在合理的时间,一个执行转换的样式表。几种类型的代表进行了比较,导致不同的性能和成功程度。
2008-03-13 cs.AI cs.NE
Highlights of Semantics in Multi-objective Genetic Programming
语义是遗传编程(GP)中的一个不断增长的研究领域,并且是指遗传编程个体在执行时的行为输出。本研究通过提出一种新的方法扩展了当前对语义的理解:基于语义的距离作为附加标准(SDO),在迄今为止,在多目标GP(MOGP)中语义的研究领域有些有限。我们的工作包括GP的性能和多样性指标方面的扩展分析,使用两个额外的基于语义的方法,即基于语义相似性的交叉(SCC)和基于语义的拥挤距离(SCD)。每种方法被集成到两个进化多目标(EMO)框架:非支配排序遗传算法II(NSGA-II)和强度帕累托进化算法2(SPEA 2),并随着这三种语义方法,规范形式的NSGA-II和SPEA 2进行了严格的比较。使用高度不平衡的二进制分类数据集,我们证明了新提出的SDO方法始终生成更多的非支配解,具有更好的多样性和改进的超体积结果。
2022-06-13 cs.NE
Antenna Optimization Using a New Evolutionary Algorithm Based on Tukey-Lambda Probability Distribution
在本文中,我们介绍了一种新的进化优化算法的基础上Tukey的对称lambda分布。图基分布由3个参数定义,即形状参数、尺度参数和位置参数或平均值。通过改变形状参数,可以近似各种其他分布,因此可以包含大量的概率分布。此外,由于这些属性,一个进化规划(EP)算法与Tukey变异操作可以在一个大类的优化问题表现良好。各种方案的EP与Tukey分布的实施进行了讨论,并将所得算法应用于选定的测试功能和天线设计问题。
2020-06-06 cs.NE eess.SP physics.app-ph
Accelerating evolutionary exploration through language model-based transfer learning
本文提出将迁移学习与基因表达式编程相结合,利用自然语言处理技术从历史优化方程中提取知识以指导初始解生成,从而提升符号回归中进化算法的收敛速率。
2025-02-04 cs.NE
Efficient Antenna Optimization Using a Hybrid of Evolutionary Programing and Particle Swarm Optimization
在本文中,我们提出了一种混合的进化规划(EP)和粒子群优化(PSO)算法的数值效率的天线阵列和元表面的全局优化。混合EP-PSO算法采用进化优化方法,将群体方向的标准自适应EP算法。作为例子,我们已经将这种混合技术应用到两个天线问题:非均匀间隔(非周期性)线性阵列的旁瓣电平降低和加载有部分反射元表面的印刷天线的波束成形。文中给出了混合EP-PSO技术与纯EP-PSO技术和纯PSO技术的详细比较,证明了这种混合技术在复杂天线设计问题中的有效性。
2022-05-11 cs.NE eess.SP physics.app-ph
Towards Deep Representation Learning with Genetic Programming
遗传编程(GP)是一种通常用于机器学习任务的进化算法。在本文中,我们提出了一种方法,允许GP的表示的大规模机器学习数据集转换成一个更紧凑的表示,通过处理功能从原始表示在个人层面上。我们开发的这种方法的自动编码器的概念证明。我们在各种知名的机器学习图像数据集中测试了我们方法的初步版本。我们推测,以迭代方式使用的这种方法可以产生与最先进的深度神经网络竞争的结果。
2018-02-20 cs.NE
A Review on Bilevel Optimization: From Classical to Evolutionary Approaches and Applications
双层优化被定义为一个数学规划,其中一个最优化问题包含另一个最优化问题作为约束。这些问题受到了数学规划界的极大关注。只有有限的工作存在于双层问题,使用进化计算技术,然而,最近有越来越多的兴趣,由于扩散的实际应用和进化算法在解决这些问题的潜力。本文提供了一个全面的审查双层优化的基本原则,解决方案的战略,包括经典和进化。一些潜在的应用问题也进行了讨论。为了向读者提供关于双层优化领域的突出发展的见解,我们对迄今为止发表的关于双层优化的论文的扩展列表进行了自动文本分析。这篇论文应该激励进化计算的研究人员更加关注这一实用而又具有挑战性的领域。
2020-12-05 cs.NE math.OC
A Trillion Genetic Programming Instructions per Second
我们总结了如何3.0 GHz的16核AVX 512计算机可以解释相当于平均高达1103370000000 GPop/s。引用现有的出版物。实现重点放在并行计算、带宽限制和避免重复计算上。信息论表明,在数字计算中,失败的中断传播提供了巨大的速度提升,因为FDP和增量评估可以用于减少表型收敛种群中的适应度评估时间。相反,FDP可能是进化停滞的原因。因此,更广泛的进化计算、人工生命、非传统计算和软件工程社区可能需要避免深度嵌套。
2022-05-06 cs.NE
Evolutionary Discovery of Sequence Acceleration Methods for Slab Geometry Neutron Transport
Gateway Scripts;University of Arizona(亚利桑那大学);Varian Medical Systems(瓦里安医疗系统);Washington University in St. Louis(圣路易斯华盛顿大学)
本文通过遗传编程自动发现适用于 slab 几何中子输运问题的收敛加速方法,提出了一种包含二阶差分和交叉乘积项的新型加速器,其收敛性提升效果显著。
2025-12-31 cs.NE
Global solar irradiation prediction using a multi-gene genetic programming approach
在本文中,一个非线性符号回归技术,使用称为多基因遗传编程(MGGP)的进化算法应用于数据驱动的模型之间的依赖和独立的变量。该技术适用于模拟测量的全球太阳辐射,并通过数值模拟验证。所提出的建模技术显示出改进的结果,模糊逻辑和人工神经网络(ANN)为基础的方法,试图由当代研究人员。这里提出的方法的结果在非线性的解析表达式,不像那些与神经网络,这基本上是一个黑箱建模方法。从建模的角度来看,这种额外的灵活性是一个优势,有助于识别影响预测的重要变量。由于该算法的进化性质,它能够摆脱局部最小值,并收敛到全局最优值,这与用于训练神经网络的反向传播(BP)算法不同。这导致了比当代研究人员使用神经网络获得的更好的百分比拟合。对得到的遗传编程(GP)结果进行了保留交叉验证,结果表明该方法对新数据具有较好的推广性,且不会过拟合训练样本。多基因GP的结果进行了比较,使用其单基因版本,也与四个经典的回归模型,以显示所采用的方法的有效性相同。
2014-03-03 cs.CE cs.NE stat.AP
Less is More: A Call to Focus on Simpler Models in Genetic Programming for Interpretable Machine Learning
可解释性对于在高风险应用中安全和负责任地使用机器学习模型至关重要。到目前为止,演化计算(EC),特别是遗传编程(GP)的形式,代表了一个关键的使能器的可解释的机器学习(IML)模型的发现。在这篇简短的论文中,我们认为,在GP的IML的研究需要集中在低复杂度的模型的空间中搜索,通过调查新的搜索策略和重组方法。此外,根据我们将研究纳入临床实践的经验,我们认为研究应该努力设计更好的建模方法并追求可解释性,以便最终获得最有用的解决方案。
2022-04-05 cs.NE