Population-Based Evolution Optimizes a Meta-Learning Objective
元学习模型,或者说学会学习的模型,由于其快速解决新任务的能力,一直是人们渴望已久的目标。传统的元学习方法可能需要昂贵的内部和外部循环,因此需要发现强大学习者而无需显式搜索它们的算法。我们借鉴了进化系统中可进化基因组的研究--具有强大适应能力的基因组--并提出元学习和自适应可进化性针对相同的目标进行优化:在一组学习迭代后获得高性能。我们认为,基于种群的进化系统与非静态的健身景观自然偏向于高进化性基因组,因此优化具有较强的学习能力的人口。我们用一个简单的进化算法来证明这一点,基于人口的Meta学习(PBML),该算法不断发现基因组,这些基因组在几代人中表现出更高的改进率,并且可以快速适应解决稀疏健身和机器人控制任务。
2021-03-11 cs.NE
Degenerate neutrality creates evolvable fitness landscapes
Land Operations Division, Defence Science and Technology Organisation(国防科学技术组织陆地作战分部)
理解系统如何被设计成可进化的是优化、进化和复杂系统科学研究的基础。因此,许多研究人员已经认识到可进化性的重要性,即在生物进化和演化计算领域中发现更高适应度的新变体的能力。Ciliberti等人(Proc.Nat.Acad.科学,2007)和Wagner(Proc. R. Soc. B.,2008)提出了一个潜在的重要联系之间的鲁棒性和系统的可进化性。特别是,有人认为,鲁棒性实际上可能导致进化的出现。在这里,我们研究了两个设计原则,冗余和退化,实现鲁棒性,我们表明,他们有一个显着不同的影响系统的演化。特别是,纯冗余系统被发现有很少的进化,而系统退化,即分布式鲁棒性,可以是数量级更进化。这些结果提供了深入了解的一般原则,实现进化,并可能被证明是一个重要的一步,在追求进化表示演化计算。
2009-07-02 cs.AI cs.MA cs.NE
When to be critical? Performance and evolvability in different regimes of neural Ising agents
本研究通过神经Ising智能体测试临界性假说,发现尽管所有成功种群均进化至亚临界状态,但初始临界状态对维持环境变化下的适应度至关重要,且最佳临界距离取决于任务复杂性。
2023-11-24 cs.NE
Simulating Evolvability as a Learning Algorithm: Empirical Investigations on Distribution Sensitivity, Robustness, and Constraint Tradeoffs
本文实现忠实于 Valiant 模型的遗传算法,在六类 Boolean 函数上实证检验分布、初始假设和中性突变对可进化性的影响,验证已知结论并揭示多数决等类别的新证据。
2025-07-24 cs.CC cs.NE
Distribution-Independent Evolvability of Linear Threshold Functions
IBM Almaden Research Center(IBM阿尔马登研究中心)
Valiant(2007)的可演化性模型将获取有用功能的演化过程建模为从随机示例中学习的受限形式。线性阈值函数及其各种子类,如合取和决策列表,在学习理论中起着重要作用,因此它们的可演化性一直是Valiant框架(2007)研究的主要焦点。关于该模型的一个主要开放问题是合取是否是独立于分布的演化(Feldman和Valiant,2008)。我们证明答案是否定的。我们的证明是基于一个新的组合参数的概念类,下界的复杂性,从相关性学习。我们对比的下限与证明,具有不可忽略的利润率的数据点的线性阈值函数是独立于通过一个简单的变异算法演化分布。我们的算法依赖于非线性损失函数来选择假设,而不是Valiant(2007)原始定义中的0-1损失。可演化性的证明要求损失函数满足几个温和的条件,例如,在其他几部著作中研究的二次损失函数满足这些条件(Michael,2007; Feldman,2009; Valiant,2010)。我们的进化算法的一个重要属性是单调性,即算法保证进化没有任何性能下降。在此之前,单调演化性仅在具有二次损失的合取(Feldman,2009)或域上的分布受到严格限制时才显示出来(Michael,2007; Feldman,2009; Kanade et al.,(2010年)
2011-03-25 cs.CC cs.LG cs.NE
The evolutionary origins of modularity
一个核心的生物学问题是,自然界的有机体是如何进化的(能够快速适应新环境)。进化的一个关键驱动力是生物网络的广泛模块化-它们的组织作为功能,稀疏连接的亚基-但对于为什么模块化本身进化没有共识。虽然大多数假设假设间接选择的进化,在这里,我们证明了无处不在的,直接的选择压力,以减少网络节点之间的连接成本的原因出现模块化网络。与只选择性能的控制实验相比,使用选择压力来最大化网络性能和最小化连接成本的实验产生的网络更加模块化和更加可进化。这些结果将促进许多学科的研究,包括神经科学,遗传学和利用进化用于工程目的。
2013-06-18 cs.NE q-bio.MN q-bio.NC
Epigenetic opportunities for Evolutionary Computation
University of Southampton(南安普顿大学);The Alan Turing Institute(阿兰·图灵研究所)
演化计算是一组受生物启发的算法,用于解决复杂的优化问题。它可以分为进化算法和群体智能算法,前者从基因遗传中获得灵感,后者从文化遗传中获得灵感。然而,最近的发展集中在计算或数学适应上,留下了它们的生物学根源。这使得许多现代进化论文献相对未被探索。为了了解哪些进化机制已被考虑,哪些已被忽视,本文打破了成功的生物启发的算法在当代生物框架的基础上扩展的进化合成,扩展的经典,遗传学为重点,现代合成。分析表明,达尔文主义和现代综合已被纳入演化计算,但扩展的进化综合已被广泛忽视以外:文化继承,纳入子集的群体智能算法,进化,通过CMA-ES,和多级选择,通过多级选择遗传算法。该框架显示了演化计算的表观遗传中缺失的差距,尽管它是现代解释进化如何发生的关键组成部分。表观遗传可以解释快速适应,而不改变个人的基因型,通过允许生物有机体快速自我适应环境线索,这增加了收敛的速度,同时保持稳定,在不断变化的环境。这就留下了各种各样的生物启发机制作为低挂的水果,应该在演化计算中进一步探索。
2021-08-10 cs.AI cs.NE
Evolutionary Optimization in an Algorithmic Setting
进化过程被证明是非常有用的解决优化问题。在这项工作中,我们建立了一个形式化的概念,合作和竞争的多个系统的工作朝着一个共同的优化目标的人口使用演化计算技术。进化算法比传统的递归算法具有更好的表达能力。本文提出了进化算法的三个子类:有界有限型、无界有限型和无限型。给出了上述类的完备性、最优性和搜索可判定性的一些结果。本文对进化图灵机模型进行了自然扩展,使人们能够用数学方法描述和研究优化种群的合作与竞争特性。
2006-11-16 cs.AI cs.NE
Evolutionary Automata and Deep Evolutionary Computation
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文聚焦进化自动机这一类比模型,指出其相比进化算法能提供更完整的进化计算对偶模型,可直接建模“进化的进化”,具有极强表达能力,还暗示了自然进化通过环境交互反馈实现自我进化的强大力量。
2025-08-25 cs.CL cs.NE
Do not Choose Representation just Change: An Experimental Study in States based EA
I3S Laboratory(I3S实验室);Nice-Sophia Antipolis University(尼斯-索菲亚·安提波利斯大学);CNRS(法国国家科学研究中心)
本文的目的是分析基于状态的进化算法(SEA)中不同编码转换算子的表型效应(可进化性)。由于在优化过程中的解决方案的表示或最佳编码的选择已被证明是非常重要的进化算法(EA)的效率,我们将讨论一种策略,耦合多个表示和不同的程序转换从一个编码到另一个在搜索过程中。在其他地方,一些EA尝试使用多种表示(SM-GA,SEA等)。目的是从他们每个人的特点中受益。尽管这些结果,本文表明,改变的代表性也是一个重要的方法来考虑,同时试图提高这样的EA的性能。作为一个说明性的例子,我们使用两个状态SEA(2-SEA),它有两个相同的搜索空间,但不同的编码转换算子。结果表明,从一种编码到另一种编码的转换方式,不仅是最佳表示的选择,也不是表示本身是非常有利的,必须考虑到,以良好的设计和提高EA执行。
2009-05-18 cs.AI cs.NE
Beyond Evolutionary Algorithms for Search-based Software Engineering
内容:进化算法通常需要大量的评估(解决方案)收敛-这可能是非常缓慢和昂贵的evaluation.Objective:为了解决基于搜索的软件工程(SE)问题,使用较少的评价比evolutionarymethods.Method:而不是变异一个小的人口,我们建立了一个非常大的初始人口,然后使用递归双聚类斩方法剔除。我们评估这种方法对多个SE模型,无约束以及约束,并比较其性能与标准的进化算法。结果如下:使用几个评估(低于100),我们可以获得与最先进的进化算法相当的结果。结论:仅仅因为某个方法有效,并且被广泛使用,并不一定意味着没有价值去寻找方法来改进该方法。在使用传统EA进行基于搜索的SE优化任务之前,建议尝试其他技术,如本文所述,以获得相同的结果,并减少评估。
2017-09-17 cs.NE cs.SE
Evolutionary algorithms for constructing an ensemble of decision trees
Yandex;National Research University Higher School of Economics(俄罗斯国立高等经济研究大学)
大多数决策树归纳算法是基于一个贪婪的自顶向下递归划分策略的树生长。本文提出了几种基于进化算法的决策树及其集成的归纳方法。我们的方法的主要区别是使用实值向量表示的决策树,允许使用大量不同的优化算法,以及优化整个树或集成,以避免局部最优。选择差分进化和演化策略作为优化算法,因为它们在强化学习问题中具有良好的效果。我们使用几个公开的UCI数据集测试了这些方法的预测性能,所提出的方法表现出比经典方法更好的质量。
2020-02-03 cs.LG cs.NE stat.ML
Finding Near-Optimal Independent Sets at Scale
独立集问题是NP难的,特别是在大型稀疏图中很难解决。在这项工作中,我们开发了一种先进的进化算法,它采用核化技术来计算大型稀疏网络中的大型独立集。最近的一个精确算法表明,大型网络可以通过采用分支和减少技术来精确求解,该技术递归地将图核化并执行分支。然而,他们的算法的一个主要缺点是,对于巨大的图,分支仍然需要指数时间。为了避免这个问题,我们递归地选择可能在一个大的独立集中的顶点(使用进化方法),然后进一步核化图。我们发现,识别和删除可能是在大型独立集的顶点打开了减少空间-这不仅大大加快了大型独立集的计算,但也使我们能够计算高质量的独立集上更大的实例比以前在文献中报道。
2015-09-02 cs.DS cs.NE cs.SI
A Scalable Trie Building Algorithm for High-Throughput Phyloanalysis of Wafer-Scale Digital Evolution Experiments
本文提出一种可扩展的 trie 构建算法,用于从遗传地层学标记中高效重建系统发育树,在 10,000 末端节点规模上实现 300 倍加速,并在晶圆级数字进化实验中完成 10 亿基因组规模的快速系统发育重建。
2025-08-20 cs.DS cs.NE
Emergent Models: Intelligence from Tiny Substrates
Wolfram Institute(沃尔夫勒姆研究所);Østfold University College(Østfold大学学院)
该研究提出基于简单开放基底的涌现模型框架,从理论证明其潜在通用性,实验显示微小规模的局部递归计算可实现精确外推等,旨在拓宽机器学习的设计空间。
2026-08-17 cs.LG cs.NE