Evolutionary Diversity Optimization and the Minimum Spanning Tree Problem
在演化计算领域中,对给定优化问题的高质量解的不同集合的计算近年来在术语进化多样性优化下获得了动力。对用于多样性优化的基线进化算法的工作原理的理论见解仍然很少。在本文中,我们研究了著名的最小生成树问题(MST)的多样性优化的背景下,人口多样性是衡量成对的边缘重叠的总和。理论结果提供了深入了解的MST多样性优化问题的健身景观指出,即使人口的$μ=2$健身高原(恒定长度)可以达到,但不同的集可以计算在多项式时间。我们通过一系列针对无约束和约束情况的实验来补充我们的理论结果,其中所有解决方案都需要满足最小质量阈值。我们的研究结果表明,一个简单的$(μ+1)$ -EA可以有效地计算高质量的生成树的多样化的人口。
2021-04-27 cs.NE
Evolutionary Algorithms and Multi-Objective Minimum Spanning Trees with Limited Distinct Weight Values
Univ. Lille, CNRS, Centrale Lille, UMR 9189 CRIStAL(里尔大学、法国国家科学研究中心、中央理工学院、CRIStAL联合研究实验室);University of Minnesota Duluth(明尼苏达大学德卢斯分校);Adelaide University(阿德莱德大学)
研究当边权取少量不同值时帕累托前沿的结构,基于此推导进化多目标算法的新运行时界,并通过实验验证。
2026-06-17 cs.NE
Evolutionary algorithms for constructing an ensemble of decision trees
Yandex;National Research University Higher School of Economics(俄罗斯国立高等经济研究大学)
大多数决策树归纳算法是基于一个贪婪的自顶向下递归划分策略的树生长。本文提出了几种基于进化算法的决策树及其集成的归纳方法。我们的方法的主要区别是使用实值向量表示的决策树,允许使用大量不同的优化算法,以及优化整个树或集成,以避免局部最优。选择差分进化和演化策略作为优化算法,因为它们在强化学习问题中具有良好的效果。我们使用几个公开的UCI数据集测试了这些方法的预测性能,所提出的方法表现出比经典方法更好的质量。
2020-02-03 cs.LG cs.NE stat.ML
Performance Analysis on Evolutionary Algorithms for the Minimum Label Spanning Tree Problem
一些实验研究表明,进化算法(EA)是有效的最小标签生成树(MLST)问题。然而,我们在理论上对此知之甚少。作为对这个问题的一步,我们从理论上分析了性能的(1+1)EA,EA的一个简单的版本,和一个多目标进化算法称为GSEMO的MLST问题。我们发现,对于MLST $_{b}$问题的(1+1)EA和GSEMO实现了$\frac{b+1}{2}$的近似比在预期的多项式时间的$n$的节点数和$k$的标签数。我们还表明,GSEMO实现了$(2ln(n))$的MLST问题在预期的多项式时间的$n$和$k$的近似比。同时,我们证明了(1+1)EA和GSEMO优于局部搜索算法的MLST问题的三个实例。我们还构造了一个实例,GSEMO优于(1+1)EA。
2014-09-03 cs.DS cs.NE
Evolutionary Algorithm and Multifactorial Evolutionary Algorithm on Clustered Shortest-Path Tree problem
Quantitative Hedge Fund(量化对冲基金);Faculty of Natural Science - Technology, Taybac University(太原大学自然科学与技术学院);School of Information and Communication Technology, Hanoi University of Science and Technology(河内科技大学信息与通信技术学院)
在文献中,离散最短路径树问题(CluSPT)是一个NP难问题。以往的研究往往在相对较大的空间中寻找最优解。为了提高搜索过程的性能,提出了两种方法:第一种方法寻求解决方案作为一组边缘。从原图生成一个新的图,其顶点集的基数比原图小得多。因此,提出了一种有效的进化算法(EA)求解CluSPT。第二种方法寻找基于顶点的解决方案。CluSPT的搜索空间被转换成2个嵌套的搜索空间(NSS)。对于高层优化中的每个候选项,下层的搜索引擎将找到相应的候选项与之组合,以创建CluSPT的最佳解决方案。因此,嵌套局部搜索EA(N-LSEA)被引入到搜索最优解的NSS。在低层求解时,N-LSEA可以处理各种相似的任务。因此,多因子进化算法的应用,以提高这些优化的隐式遗传转移。建议的算法进行了一系列的数据集和所获得的结果表明,优越的效率相比,以前的科学工作。
2020-10-19 cs.AI cs.NE
Technical Analysis on Financial Forecasting
财务预测是使用历史内部会计和销售数据对公司,行业,国家未来财务结果的估计。我们可以通过一些软计算技术来实际预测BSE_SENSEX的未来结果,也可以使用PSO(粒子群优化),EA(进化算法)或DEA(差分进化算法)等进行优化。PSO是Eberhart博士和Kennedy博士于1995年基于鱼类集群或鸟类群集的社会行为开发的生物启发计算搜索和优化方法。粒子群算法是一种很有前途的训练人工神经网络的方法。该算法比遗传算法简单,只需调整少量参数。粒子群优化算法是一种基于粒子填充的随机模式搜索技术。在粒子群算法中,粒子在搜索空间中具有一定的位置和速度。在PSO中使用两个术语,一个是局部最佳,另一个是全局最佳。为了优化不规则,噪声,随时间变化,静态等问题,PSO使用经典的优化方法,如梯度下降和拟牛顿方法。对近几年来的一些相关研究进行了观察和回顾,重点介绍了粒子群算法的功能,粒子群算法的改进以及使用粒子群算法实现的函数优化,神经网络训练和模糊控制等操作。微分进化是一种有效的数值优化EA技术,由于动物的群集行为,即聚集在一起的相似大小的集体行为,引入了PSO技术。
2015-03-10 cs.NE
Automatic inference of fault tree models via multi-objective evolutionary algorithms
故障树分析是可靠性工程和风险评估中的一种众所周知的技术,它支持复杂系统的决策过程和管理。传统上,故障树(FT)模型是与领域专家一起手动构建的,被认为是一个耗时的过程,容易出现人为错误。随着工业4.0的发展,检测和监控数据的可用性越来越高,使得从大型数据集中提取知识的技术变得相关。因此,我们这项工作的目标是提出一种数据驱动的方法来推断有效的FT结构,实现故障数据集中包含的故障机制的完整表示,而无需人为干预。我们的算法,FT-MOEA,多目标进化算法的基础上,使不同的相关指标,如FT的大小,错误的基础上计算的故障数据集和最小割集的同时优化。我们的研究结果表明,对于文献中的六个案例研究,我们的方法成功地实现了自动,高效和一致的推理相关联的FT模型。我们还提出了参数分析的结果,测试我们的算法的不同相关条件,影响其性能,以及用于自动推断FT模型的数据驱动的方法的概述。
2022-04-06 cs.NE
Runtime Analysis of Evolutionary Algorithms with Biased Mutation for the Multi-Objective Minimum Spanning Tree Problem
进化算法(EA)是一种通用的问题求解器,通常执行无偏搜索。这在黑盒场景中是合理和可取的。对于组合优化问题,通常给出更多关于最优解结构的知识,这些知识可以通过有偏搜索算子来利用。我们认为最小生成树(MST)问题在一个单一的和多目标的版本,并引入了有偏的突变,这使得更多的重点放在低秩的低控制数方面的边缘的选择。我们提出的示例图中,有偏的突变可以显着加快预期的运行时间,直到(帕累托)最优solutions被found. On另一方面,我们证明,偏见可以导致指数运行时,如果重边是必要的最优解决方案的一部分。然而,在单目标设置的一般图,我们表明,一个组合的突变算子,它决定在每一步中以相等的概率无偏或有偏的边缘选择表现出多项式上限-无偏突变-在最坏的情况下,如果情况是有利的,从偏见中受益。
2020-04-22 cs.NE
Bayesian Decision Trees Inspired from Evolutionary Algorithms
University of Liverpool(利物浦大学)
本文提出用序贯蒙特卡洛替代MCMC,并结合进化算法启发的采样策略构建贝叶斯决策树,在迭代次数减少100倍的条件下取得更准确的结果。
2023-05-30 cs.LG cs.NE
Evolving the MCTS Upper Confidence Bounds for Trees Using a Semantic-inspired Evolutionary Algorithm in the Game of Carcassonne
蒙特卡罗树搜索(MCTS)是一种抽样最佳优先搜索最优决策的方法。MCTS的成功在很大程度上取决于如何构建树,选择过程在其中起着基础性的作用。一种已被证明是可靠的特定选择机制是基于树的上置信界限(UCT)。UCT试图通过考虑存储在MCTS的统计树中的值来平衡探索和利用。但是,要使其正常工作,需要对MCTS UCT进行一些调优。在这项工作中,我们使用进化算法(EA)的演变数学表达式的目标,以取代UCT公式和使用MCTS进化的表达式。更具体地说,我们发展的表达,我们提出的语义启发的进化算法在MCTS方法(SIEA-MCTS)。这是受到遗传编程(GP)中的语义的启发,其中使用适应度情况被视为GP中要采用的要求。适应度案例通常用于确定个体的适应度,并可用于计算个体的语义相似性(或相异性)。但是,MCTS中不提供健身案例。我们通过使用MCTS中的多个奖励值来扩展这个概念,这些奖励值允许我们确定个体的适应度及其语义。通过这样做,我们展示了SIEA-MCTS是如何能够成功地发展数学表达式,产生更好的或有竞争力的结果相比,UCT,而不需要调整这些演变的表达式。我们比较的性能,建议SIEA-MCTS对MCTS算法,MCTS快速动作值估计算法,三个变种的 *-minimax家族的算法,随机控制器和两个EA的方法。我们不断展示SIEA-MCTS如何在具有挑战性的卡尔卡松游戏中胜过大多数智能控制器。
2022-08-29 cs.NE
On the Evolution of the MCTS Upper Confidence Bounds for Trees by Means of Evolutionary Algorithms in the Game of Carcassonne
Maynooth University(梅努斯大学)
蒙特卡罗树搜索(MCTS)是一种抽样最佳优先搜索最优决策的方法。MCTS的受欢迎程度是基于其在具有挑战性的双人游戏围棋中的非凡成绩,围棋被认为比国际象棋难得多,直到最近才被认为是人工智能方法不可行的。MCTS的成功在很大程度上取决于如何构建树,选择过程在其中起着基础性的作用。一种已被证明是可靠的特定选择机制是基于树的上置信界限,通常称为UCT。UCT试图通过考虑存储在MCTS的统计树中的值来很好地平衡探索和利用。但是,要使其正常工作,需要对MCTS UCT进行一些调优。在这项工作中,我们使用进化算法(EA)的发展数学表达式的目标,以取代UCT数学表达式。我们比较我们提出的方法,称为演化策略在MCTS(ES-MCTS)对五个变种的MCTS UCT,三个变种的星极小极大家庭的算法,以及随机控制器的卡尔卡松游戏。我们还使用我们提出的EA为基础的控制器的一个变种,被称为ES部分集成在MCTS。我们展示了ES-MCTS控制器如何能够胜过所有这10个智能控制器,包括强大的MCTS UCT控制器。
2021-12-17 cs.AI cs.LG cs.NE
New Approach for Solving The Clustered Shortest-Path Tree Problem Based on Reducing The Search Space of Evolutionary Algorithm
随着制造业和服务业的发展,分销网络优化问题日益受到重视,因而受到研究界的广泛关注。最近引入的网络优化问题之一是最短路径树问题(CluSTP)。由于该问题是NP-Hard问题,最近的方法往往倾向于使用近似算法来解决它,其中一些使用进化算法(EA),并已被证明是有效的。然而,以往的研究大多直接将进化算法应用于整个集群STP问题,这会导致大量的资源消耗,尤其是当问题规模较大时。为了克服这些局限性,本文提出了一种方法,用于减少搜索空间的EA应用到CluSTP分解成两个子问题,其中一个的解决方案是由EA和其他被发现的另一种方法。第一个子问题的目标是确定一个连接簇之间的生成树,而第二子问题的目标是确定每个簇的最佳生成树。此外,本文提出了一种新的进化算法,它可以应用于解决第一个子问题,并建议使用Dijkstra的算法来解决第二子问题。所提出的方法进行了全面的实验,并与现有的方法进行比较。实验结果表明,该方法具有较高的效率,更重要的是,可以得到接近最优解的结果。
2019-06-10 cs.NE
Decomposing Financial Market Dynamics via Mechanism Analysis in an Evolutionary Multi-Agent Simulation
Zhibao Chen(陈志宝)
通过可插拔机制实验,发现选择、微观结构、行为和共识网络分别控制多样性、真实性、脆弱性,近似解耦。
2026-06-23 cs.AI cs.MA cs.NE
Quality Diversity Evolutionary Learning of Decision Trees
University of Trento(特伦托大学)
解决可解释的机器学习的需求已经成为现代人工智能(AI)最重要的研究方向之一。虽然该领域中当前的主导范例是基于黑盒模型,通常以(深)神经网络的形式,但这些模型缺乏对人类用户的直接可解释性,即,它们的结果(更重要的是,它们的内部运作)是不透明的,难以理解。这阻碍了人工智能在安全关键型应用中的采用,因为这些应用涉及到很高的利益。在这些应用中,可解释的设计模型,如决策树,可能是更合适的,因为它们提供了可解释性。最近的工作提出了决策树和强化学习的混合,以结合这两种方法的优点。然而,到目前为止,这些工作都集中在这些混合模型的优化。在这里,我们应用MAP-Elites在特征空间上多样化混合模型,该特征空间捕获模型复杂性及其行为可变性。我们将我们的方法应用于OpenAI Gym库中的两个众所周知的控制问题,在这个问题上,我们讨论了MAP-Elites投影的“照明”模式,并将其结果与现有的类似方法进行了比较。
2022-08-17 cs.AI cs.LG cs.NE
Multi-Objective Optimisation of Multi-Output Neural Trees
我们提出了一个算法和一个新的方法来解决分类问题。我们提出了一种多输出神经树(MONT)算法,这是一种进化的学习算法训练的非支配排序遗传算法(NSGA)-III。由于进化学习是随机的,因此以MONT形式发现的假设对于每次进化学习都是唯一的,即,生成的每个假设(树)与拓扑空间和参数空间中的任何其他假设相比具有不同的属性。这导致了一个具有挑战性的优化问题,其目标是最小化树的大小和最大化的分类精度。因此,超容量指标分析满足了帕累托最优问题。我们使用了九个基准分类学习问题来评估MONT的性能。作为我们的实验结果,我们得到的MONT是能够解决高精度的分类问题。MONT的性能出现更好的一组问题,在这项研究中解决了一组著名的分类:多层感知器,减少错误修剪树,朴素贝叶斯分类器,决策树,和支持向量机相比。此外,使用遗传编程,NSGA-II和NSGA-III的三个版本的MONT的训练的性能表明,NSGA-III给出了最佳的帕累托最优解。
2022-02-18 cs.NE
An Evolutionary Approach to Drug-Design Using a Novel Neighbourhood Based Genetic Algorithm
目前的工作提供了一种新的方法来发展的配体结构,代表可能的药物对接到靶蛋白的活性位点。该结构表示为树,其中每个非空节点表示一个功能组。假设靶蛋白的活性位点构型与必需残基的位置是已知的。在本文中,配体与蛋白质靶标的相互作用能被最小化。此外,树的大小是难以获得的,并且对于不同的活动站点,它将是不同的。为了克服这一困难,我们采用了一种可变树尺寸的构型来设计配体。优化是使用一种新的基于邻域的遗传算法(NBGA),它使用动态邻域拓扑结构。为了得到可变的树大小,设计了上述算法的可变长度版本。为了评价算法的优劣,将其应用于著名的旅行商问题(TSP)。
2012-05-03 cs.CE cs.NE
An Evolutionary Approach to Drug-Design Using Quantam Binary Particle Swarm Optimization Algorithm
目前的工作提供了一种新的方法来发展的配体结构,代表可能的药物对接到靶蛋白的活性位点。该结构表示为树,其中每个非空节点表示一个功能组。假设靶蛋白的活性位点构型与必需残基的位置是已知的。在本文中,配体与蛋白质靶标的相互作用能被最小化。此外,树的大小是难以获得的,并且对于不同的活动站点,它将是不同的。为了克服这一困难,我们采用了一种可变树尺寸的构型来设计配体。优化是使用量子离散PSO完成的。比较了定长和变长两种配置的结果。
2012-05-03 cs.CE cs.NE
Multifactorial Evolutionary Algorithm For Clustered Minimum Routing Cost Problem
Hanoi University of Science and Technology(河内理工大学);Tay Bac University(西北大学)
最小路由费用问题在理论和应用上都有着广泛的应用。由于CluMRCT是NP-Hard问题,近似方法是合适的,找到这个问题的解决方案。近年来,多因子进化算法(MFEA)已成为处理各种问题的最有效的近似算法之一。因此,本文研究应用MFEA求解CluMRCT问题。在建议的MFEA,我们专注于交叉和变异算子,创建一个有效的解决方案的CluMRCT问题在两个层次:第一级构建生成树的图在集群中,而第二级建立一个生成树的集群之间的连接。为了减少资源的消耗,我们还将介绍一种新的方法来计算成本的CluMRCT解决方案。该算法在多种类型的数据集上进行了实验。实验结果表明,该算法的有效性,部分大型实例
2019-12-23 cs.AI cs.DM cs.NE
Towards Interpretable-AI Policies Induction using Evolutionary Nonlinear Decision Trees for Discrete Action Systems
Michigan State University(密歇根州立大学);Ford Motor Company(福特汽车公司)
黑盒人工智能归纳方法,如深度强化学习(DRL),越来越多地用于为给定的控制任务找到最佳策略。虽然使用黑盒AI表示的策略能够有效地执行底层控制任务并实现最佳闭环性能,但开发的控制规则通常很复杂,既不可解释也不可解释。在本文中,我们使用最近提出的非线性决策树(NLDT)的方法来找到一个分层的控制规则集,试图最大限度地提高开环性能近似和解释的预先训练的黑盒DRL(Oracle)代理使用标记的状态-动作数据集。非线性优化方法的最新进展,使用演化计算,便于找到一个分层的一组非线性控制规则的状态变量的函数,使用一个计算快速的双层优化程序在每个节点的建议NLDT。此外,我们提出了一个重新优化的过程,以提高闭环性能的一个已经派生的NLDT。我们评估我们提出的方法(开环和闭环NLDTs)对不同的控制问题有多个离散的行动。在所有这些问题中,我们提出的方法能够找到相对简单和可解释的规则,每个规则涉及一到四个非线性项,同时与训练有素的黑盒DRL代理相比,实现了同等的闭环性能。本文还提出了一种简化NLDT的后处理方法。所获得的结果是鼓舞人心的,因为他们建议更换复杂的黑盒DRL政策,涉及数千个参数(使他们无法解释)与相对简单的可解释的政策。结果是令人鼓舞的,激励追求进一步的应用所提出的方法在解决更复杂的控制任务。
2021-04-06 cs.LG cs.NE cs.SY