Black-Box Optimization of Mixed Binary-Continuous Variables: Challenges and Opportunities in Evolutionary Model Merging
BRAC University(布拉格大学);University of Tsukuba(筑波大学)
本文探讨了进化模型融合中混合二进制-连续变量的黑盒优化挑战,提出结构化方法提升融合效果并减少搜索空间。
2026-11-13 cs.NE
A Many-Objective Evolutionary Algorithm Based on Decomposition and Local Dominance
多目标进化算法,特别是基于分解的多目标进化算法,近年来受到了广泛的关注。最近的研究表明,分解方法和支配方法的良好设计的组合可以提高性能,即,一个经济部的趋同性和多样性。本文提出了一种将分解方法和控制方法相结合的新方法。更精确地说,一组权重向量被用来分解一个给定的多目标优化问题(MaOP),并提出了一种混合的方法,基于惩罚的边界相交函数和优势的比较局部解定义的权重向量的子种群。一个基于混合方法的MOEA被实现,并在两个著名的测试套件中选择的问题上进行测试,DTLZ和WFG。实验结果表明,我们的算法是非常有竞争力的处理MaOP。随后,我们的算法扩展到解决约束MaOP,我们的算法的约束版本也表现出良好的性能,在收敛性和多样性。这表明,利用局部优势并将其与分解方法相结合,可以有效地提高MOEA的性能。
2019-09-04 cs.NE
What Weights Work for You? Adapting Weights for Any Pareto Front Shape in Decomposition-based Evolutionary Multi-Objective Optimisation
基于分解的进化多目标优化(EMO)算法生成的解集的质量很大程度上取决于给定问题的Pareto前沿形状与指定权重分布之间的一致性。一组均匀分布在单纯形中的权重通常会在具有类似单纯形形状的帕累托前沿上产生一组分布良好的解,但可能会在其他帕累托前沿形状上失败。如何在不知道问题的Pareto前沿的情况下确定一组合适的权值是一个悬而未决的问题。在本文中,我们提出了一种方法,以适应在进化过程中的权重(称为AdaW)。AdaW逐步寻求一个合适的权重分配给给定的问题,阐述了五个部分的权重适应-权重生成,权重添加,权重删除,档案维护,和权重更新频率。实验结果表明了该方法的有效性。AdaW适用于具有非常不同形状的Pareto前沿:1)单纯形,2)倒置单纯形,3)高度非线性,4)断开,5)退化,6)不良标度,7)高维。
2017-09-08 cs.NE
Semantic Neighborhood Ordering in Multi-objective Genetic Programming based on Decomposition
遗传编程中的语义多样性在进化搜索中被证明是非常有益的。我们目睹了该领域科学作品数量的激增,首先是在离散空间开始,然后转移到连续空间。然而,绝大多数的这些作品,都集中在单目标遗传编程范例的注意力,与少数例外,专注于进化多目标优化(EMO)。后者的作品使用了众所周知的强大的算法,包括非支配排序遗传算法II和强度帕累托进化算法,两者都深受帕累托优势的概念。这些鼓舞人心的工作使我们在EMO中向前迈出了一步,考虑基于分解的多目标进化算法(MOEA/D)。我们首次展示了如何在遗传编程中促进MOEA/D的语义多样性。
2021-04-13 cs.NE
A Survey of Decomposition-Based Evolutionary Multi-Objective Optimization: Part I-Past and Future
本文以MOEA/D为代表,系统综述了基于分解的进化多目标优化从起源到前沿方法的发展,涵盖权重向量、子问题、选择与繁殖算子等核心组件及约束处理、动态环境、昂贵目标和偏好融合等高级主题,并展望未来方向。
2024-10-21 cs.NE
Evolutionary Many-Objective Optimization Based on Adversarial Decomposition
基于分解的方法已被公认为多目标优化的主要方法。它将一个多目标优化问题分解为多个单目标优化子问题,每个子问题通常定义为一个使用权向量的标量化函数。由于特定标量化函数的轮廓线的特性,基于分解的方法的性能强烈地依赖于Pareto前沿的形状,特别是当面对大量目标时,仅使用单个标量化函数。为了提高基于分解的方法的灵活性,本文开发了一种对抗性分解方法,该方法利用了单个范例中两个不同标量化函数的互补特性。更具体地说,我们保持两个共同进化的人口同时使用不同的标量化函数。为了避免将冗余的计算资源分配到Pareto前沿的同一区域,我们根据Pareto前沿的工作区域将这两个共同进化的种群稳定地匹配成一对一的解对。这样,在交配选择过程中,每个解对最多只能贡献一个交配亲本。与9个最先进的多目标优化器相比,我们已经见证了我们提出的算法在130个多目标测试实例具有不同的特性和Pareto前沿的形状的竞争力的表现。
2017-04-07 cs.NE
A Weight Adaptation Trigger Mechanism in Decomposition-based Evolutionary Multi-Objective Optimisation
针对基于分解的多目标进化算法权重调整易损害规则帕累托前沿问题性能的问题,提出带触发机制的权重自适应算法ATM-MOEA/D,仅在检测到不规则帕累托前沿时调整权重,兼顾两类问题的优化性能。
2025-02-23 cs.NE
Optimising Trotter-Suzuki Decompositions for Quantum Simulation Using Evolutionary Strategies
近期量子计算最有前途的应用之一是量子系统的模拟,这是一项经典的棘手任务。量子模拟需要计算上昂贵的矩阵求幂;这种求幂的Trotter-Suzuki分解使量子计算机上的有效模拟达到所需的精度。我们应用协方差矩阵自适应进化策略(CMA-ES)算法来优化Trotter-Suzuki分解的一个典型的量子系统,海森堡链,我们减少了约60%的模拟误差。我们将这个问题引入到计算搜索社区,表明进化优化方法在运行和问题实例中具有鲁棒性,并发现优化结果可推广到更大系统的模拟。
2019-04-23 cs.NE quant-ph
A Decomposition-Based Many-Objective Evolutionary Algorithm with Local Iterative Update
已有的研究表明,传统的基于分解的多目标进化算法在求解多目标优化问题时可能会失去种群多样性。本文提出了一种简单的基于分解的局部迭代更新MOEA算法。LIU策略具有两个特征,期望驱动种群接近具有良好分布的帕累托前沿。一个是,只有当前邻域中最差的解被新生成的后代替换掉,防止种群被少数个体的副本占据。另一个是它的迭代过程有助于为子问题分配更好的解,这有利于充分利用解与相邻子问题的相似性,在搜索空间中探索局部区域。此外,该算法的时间复杂度是相同的MOEA/D,并低于其他已知的MOEA,因为它只考虑在当前邻域内的个人在每次更新。该算法进行了比较,从两个著名的测试套件DTLZ和WFG选择的问题上的几个最好的MOEA。实验结果表明,该算法在DTLZ 4上只有少数运行实例失去了种群多样性。此外,该算法在运行时间和解决方案质量方面赢得了大多数测试实例,表明它在解决MaOP问题方面非常有效。
2018-06-27 cs.NE
A mullti- or many- objective evolutionary algorithm with global loop update
近年来,多目标进化算法,特别是基于分解的多目标进化算法得到了广泛的关注。基于分解的MOEA强调收敛性和多样性在一个简单的模型,并取得了巨大的成功,在处理理论和实际的多目标或多目标优化问题。在本文中,我们着重于基于分解的MOEA的更新策略,以及它们的比较标准。分析和讨论了基于局部更新策略的MOEA分解算法的三个缺点和现有的几个比较解的标准。提出了一种全局循环更新策略和两种混合准则。随后,一个进化算法的全局循环更新的实现和比较的几个最好的多目标或多目标优化算法在两个著名的无约束测试套件多达15个目标。实验结果表明,与采用局部更新策略的进化算法不同,该算法的种群在进化过程中不会退化,保证了种群的多样性.此外,我们的算法赢得了在大多数情况下的两个测试套件,这表明它是非常有竞争力的收敛性和多样性。我们的算法与不同的标准比较解决方案的运行结果进行了比较。它们的差异是非常显着的,表明我们的算法的性能受到它所采用的标准。
2018-01-25 cs.NE
Decomposition-Based Multi-Objective Evolutionary Algorithm Design under Two Algorithm Frameworks
发展高效的进化多目标优化(EMO)算法一直是演化计算界的研究热点。多年来,已经提出了许多EMO算法。现有的EMO算法主要是基于最终种群框架开发的。在最终种群框架中,EMO算法的最终种群呈现给决策者。因此,要求EMO算法产生的最终种群是一个好的解集。最近,使用的解决方案选择框架的EMO算法的设计建议。这个框架有一个无限的外部存档来存储所有检查过的解决方案。从档案中选择预先指定数量的解决方案作为提交给决策者的最终解决方案。当使用解决方案选择框架时,EMO算法可以以更灵活的方式设计,因为最终群体不一定是好的解决方案集。在本文中,我们研究了这两个框架下的MOEA/D的设计。我们使用离线遗传算法为基础的超探试法,以找到最佳的配置MOEA/D在每个框架。实验中使用了DTLZ和WFG测试集及其减版本。实验结果表明,一个更灵活的,鲁棒性和高性能的MOEA/D算法时,可以得到的解决方案选择框架。
2020-08-17 cs.NE
An Inverse Modeling Constrained Multi-Objective Evolutionary Algorithm Based on Decomposition
Centro de Informática, Universidade Federal de Pernambuco(伯南布哥联邦大学信息中心);Centro de Estudos e Sistemas Avançados do Recife(累西腓高级研究与系统中心)
提出IM-C-MOEA/D,将基于分解的逆建模引入约束多目标进化优化,并在RWMOP1-35上验证其优于现有CMOEAs。
2024-10-24 cs.AI cs.LG cs.NE
A collaborative decomposition-based evolutionary algorithm integrating normal and penalty-based boundary intersection for many-objective optimization
Guangzhou University(广州大学);South China University of Technology(华南理工大学)
近年来,基于分解的进化算法在多目标优化问题中得到了广泛的应用。然而,现有的分解方法对多目标优化问题边界形状的多样性仍然十分敏感。一方面,锥分解方法,如基于惩罚的边界相交(PBI)是无法获得均匀的边界与非常凸的边界的MaOP。另一方面,包括正常边界相交(NBI)的平行分解方法的平行参考线可能会导致差的多样性,因为在具有凹边界的MaOP的边界附近的采样不足。本文首先提出了一种协同分解方法,该方法综合了并行分解和锥分解的优点,克服了各自的缺点。该方法继承了NBI型切比雪夫函数作为收敛度量,提高了PBI方法的收敛性和分布均匀性。此外,该方法还自适应调整的程度旋转NBI参考线对PBI参考线的每个子问题,以提高分布的多样性的NBI方法。在此基础上,提出了一种基于协同分解的多目标优化进化算法(CoDEA)。在CoDEA中设计了一种基于协作分解的环境选择机制,对边界层中与同一PBI参考线相关的所有个体进行排序,并选出最佳排序。在85个基准测试实例上将CoDEA与几种流行的算法进行了比较。实验结果表明,CoDEA算法在收敛性、均匀性和分布多样性之间保持了较好的平衡,具有较高的竞争力。
2022-04-14 cs.AI cs.NE
Enhanced Multiobjective Evolutionary Algorithm based on Decomposition for Solving the Unit Commitment Problem
机组组合(UC)问题是一个非线性、高维、高约束、混合整数的电力系统优化问题,文献中一般以系统运行成本最小为唯一目标进行求解。然而,由于越来越多的环境问题,最近的注意力已经转移到将排放的问题制定。本文提出了一种基于分解的多目标进化算法(MOEA/D),将UC问题作为一个以费用和排放最小化为多目标的多目标优化问题进行求解。由于UC问题是一个由二元UC变量和连续电力调度变量组成的混合整数优化问题,因此在MOEA/D框架下提出了一种新的混合策略,即遗传算法(GA)对二元变量进行进化,而差分进化(DE)对连续变量进行进化。进一步,提出了一种新的非均匀权值向量分布策略,并实现了基于MOEA/D与均匀和非均匀权值向量分布策略相结合的并行岛模型,以提高所提出算法的性能。在不同的测试系统上进行了大量的案例研究,并通过严格的仿真结果验证了所提出的混合策略,非均匀权重向量分布策略和并行岛模型的有效性。此外,详尽的基准对文献中提出的算法,以证明该算法在获得更好的收敛和均匀分布的权衡解决方案的优越性。
2014-10-23 cs.NE
Promoting Semantics in Multi-objective Genetic Programming based on Decomposition
遗传程序(GP)中的语义研究涉及给定一组输入的程序的行为,并已被广泛报道,有助于促进GP中的多样性,最终改善进化搜索的一系列复杂问题。这些研究中的绝大多数都将注意力集中在单目标GP上,只有少数例外,其中基于Pareto的优势算法(如NSGA-II和SPEA 2)被用作测试高度流行的基于语义的方法(如基于语义相似性的交叉(SSC))是否有助于或阻碍进化搜索的框架。令人惊讶的是,据报道,SSC在SOGP中表现出的好处在基于帕累托的优势多目标GP中看不到。在这项工作中,我们有兴趣研究,如果同样进行基于分解的多目标进化算法(MOEA/D)。通过使用MNIST数据集,一个众所周知的数据集在机器学习社区中使用,我们展示了如何SSC在MOEA/D促进语义多样性产生更好的结果相比,当这是不存在于规范的MOEA/D。
2020-12-08 cs.NE
Decomposition in Decision and Objective Space for Multi-Modal Multi-Objective Optimization
多模态多目标优化问题(MMMOPs)在Pareto最优集中有多个子集,每个子集独立地映射到同一Pareto前沿。流行的多目标进化算法不是纯粹为了搜索多个解子集而设计的,而MMMOPs设计的算法在目标空间中表现出性能下降。这促使设计更好的算法来解决MMMOPs。目前的工作确定的拥挤错觉问题,起源于使用拥挤距离全球在整个决策空间。随后,一个进化的框架,称为图拉普拉斯优化使用参考向量辅助分解(洛德),提出了使用目标和决策空间的分解处理MMMOPs。将其滤波步骤进一步扩展为LORD-Ⅱ算法,证明了其在多模态多目标问题上的动态性。通过比较CEC 2019多模态多目标测试套件和多边形问题的测试实例与最先进的MMMOPs算法和其他多目标和多目标进化算法的性能,确定了框架的有效性。手稿的结论是提到所提出的框架和未来的方向,设计更好的算法MMMOPs的限制。源代码可在https://worksupplements.droppages.com/lord上获得。
2021-02-03 cs.NE
Reinforcement Learning-assisted Evolutionary Algorithm: A Survey and Research Opportunities
National Defense University(国防大学);University of Kent(肯特大学);Beijing Jiaotong University(北京交通大学);Nanyang Technological University(南洋理工大学);Qatar University(卡塔尔大学);Beihang University(北京航空航天大学);National University of Singapore(新加坡国立大学);University of Alberta(阿尔伯塔大学);Polish Academy of Sciences(波兰科学院);Indian Statistical Institute(印度统计学院);Kyungpook National University(庆北国立大学)
该综述聚焦强化学习辅助进化算法(RL-EA),梳理其概念、分类、集成与辅助策略、属性设置及应用表现,并指明未来研究方向。
2024-01-28 cs.AI cs.LG cs.NE
A novel multiobjective evolutionary algorithm based on decomposition and multi-reference points strategy
许多现实世界的优化问题,如工程设计,最终可以建模为相应的多目标优化问题(MOPs),必须解决近似Pareto最优前沿。基于分解的多目标进化算法(MOEA/D)被认为是求解多目标优化问题的一种非常有前途的方法。最近的研究表明,具有均匀权重向量的MOEA/D非常适合于具有规则Pareto最优前沿的MOP,但其在多样性方面的性能通常在解决具有不规则Pareto最优前沿的MOP时恶化。这样,算法得到的解集不能为决策者提供更合理的选择。为了有效地克服这一缺点,我们提出了一种改进的MOEA/D算法凭借著名的Pascoletti-Serafini标量化方法和一个新的多参考点的策略。具体而言,该策略包括等距分区和投影技术产生的参考点的设置和适应。对于性能评估,该算法与现有的四个国家的最先进的多目标进化算法的基准测试问题与各种类型的帕累托最优前沿进行比较。实验结果表明,该算法具有更好的分集性能。最后,我们的算法被应用到两个现实世界的MOPs在工程优化成功。
2021-11-11 cs.NE math.OC
Analyzing and Overcoming Local Optima in Complex Multi-Objective Optimization by Decomposition-Based Evolutionary Algorithms
针对基于分解的多目标进化算法易陷入局部最优的问题,提出权重向量引导与高斯混合的参考点选择策略,经实验验证可显著提升种群多样性与收敛性。
2024-04-12 cs.AI cs.NE
On the Use of Bi-Objective Evolutionary Algorithms for the Stochastic MKP under Dynamic Constraints
Adelaide University(阿德莱德大学)
本文研究了在动态约束下具有机会约束的随机MKP,采用双目标优化方法平衡利润最大化和概率容量满足,对比四种主流多目标进化算法在不同不确定性水平和动态变化下的表现。
2026-04-13 cs.NE
Evolutionary Optimization of Physics-Informed Neural Networks: Evo-PINN Frontiers and Opportunities
Agency for Science, Technology and Research (A*STAR)(科技研究局);Indian Institute of Technology (IIT) Goa(印度理工学院 Goa分校);Nanyang Technological University(南洋理工大学)
本文探讨了物理信息神经网络的进化优化方法,提出利用进化算法改进模型训练速度、精度和泛化能力,以推动物理人工智能的发展。
2026-01-01 cs.CE cs.LG cs.NE
A Hybrid Decomposition-based Multi-objective Evolutionary Algorithm for the Multi-Point Dynamic Aggregation Problem
Beijing Institute of Technology(北京理工大学);Victoria University of Wellington(惠灵顿维多利亚大学)
多点动态聚合(MPDA)问题是一个在实际应用中出现的优化问题,已成为多机器人系统的研究热点之一。本文研究了一个多目标MPDA问题,即设计机器人的执行计划,使机器人的数量最少,所有任务的最大完成时间最短。机器人和任务之间的强耦合关系,MPDA编码的冗余性,以及MO-MPDA问题的可变大小的决策空间,为有效地解决这个问题提出了额外的挑战。针对上述问题,提出了一种基于$ \varepsilon $约束的混合分解多目标进化算法(HDMOEA)。该算法以所有任务的最大完成时间为主要目标,将其他目标转化为约束条件。HDMOEA将MO-MPDA问题分解为一系列标量约束优化子问题,并为每个子问题分配一个机器人数量上限。所有的子问题的优化同时从其他子问题的知识转移。此外,我们开发了一个混合种群初始化机制,以提高初始解的质量,和一个复制机制,以传递有效的信息和解决编码冗余。实验结果表明,所提出的HDMOEA方法显着优于国家的最先进的方法在几个最常用的指标。
2021-05-11 cs.AI cs.NE
A many-objective evolutionary algorithm using indicator-driven weight vector optimization
Qinghai Normal University(青海师范大学)
针对不规则帕累托前沿下固定权重向量导致的分布不均问题,提出基于MOEA/D框架、融合简化超体积指标与R2指标的自适应多目标进化算法,实现权重向量动态调整,实验证明其优于六种先进算法。
2025-10-03 cs.NE
Decomposition of Difficulties in Complex Optimization Problems Using a Bilevel Approach
本文提出一种基于双层优化的分解策略,将复杂优化问题中的不同困难分层处理,使进化算法与经典数学规划方法协同工作,并在多种测试问题上验证了其优势。
2024-07-03 cs.NE math.OC
Experimental Analysis of Design Elements of Scalarizing Functions-based Multiobjective Evolutionary Algorithms
在本文中,我们系统地研究的重要性,即,性能的影响,主要的设计元素,区分标量化功能为基础的多目标进化算法(MOEAs)。这类MOEA包括多目标遗传局部搜索(MOGLS)和基于分解的多目标进化算法(MOEA/D),在多次计算实验和实际应用中取得了很好的效果。这两种算法共享相同的公共结构,并且仅在两个主要方面有所不同。利用三个不同的多目标组合优化问题,即,多目标对称旅行商问题,旅行商问题的利润,和多目标集覆盖问题,我们表明,主要的差异化设计元素是家长的选择机制,而选择的权重向量,无论是随机的或均匀分布的,实际上是可以忽略不计的,如果数量足够大的均匀权重向量。
2017-03-28 cs.NE
Matching-Based Selection with Incomplete Lists for Decomposition Multi-Objective Optimization
收敛性与多样性的平衡是进化多目标优化的关键问题。最近提出的基于稳定匹配的选择提供了一个新的视角来处理这种平衡下的分解多目标优化的框架。特别是,子问题和解决方案之间的稳定匹配,实现了他们的相互偏好之间的平衡,隐含的收敛性和多样性之间的平衡。然而,原有的稳定匹配模型具有很高的风险,匹配的解决方案与一个不利的子问题,最终导致不平衡的选择结果。本文提出了一种基于自适应两级稳定匹配选择的分解多目标优化方法。具体来说,借用不完整列表的稳定匹配的思想,我们匹配每个解决方案与它最喜欢的子问题之一,通过限制其偏好列表的长度在第一级稳定匹配。在第二级稳定匹配过程中,剩余的子问题根据经典的稳定匹配模型与它们最喜欢的解进行匹配。特别是,我们开发了一个自适应机制,自动设置的偏好列表的长度为每个解决方案,根据其本地的竞争力。我们提出的方法的性能进行了验证,并与几个国家的最先进的进化多目标优化算法的62个基准问题的实例进行比较。实验结果充分证明了我们所提出的方法在复杂的Pareto集和具有三个以上目标的问题上的竞争力。
2017-01-25 cs.NE
An Effective and Efficient Evolutionary Algorithm for Many-Objective Optimization
在进化多目标优化中,有效性是指进化算法如何将其解收敛到帕累托前沿并使其在前沿多样化。这不是一件容易的工作,特别是对于具有三个以上目标的优化问题,称为多目标优化问题。在这样的问题中,经典的基于帕累托的算法无法向帕累托前沿提供足够的选择压力,而最近开发的算法(诸如基于分解的算法)可能难以在某些问题上维持一组分布良好的解决方案(例如,不规则的Pareto前沿)。在一些多目标优化器中的另一个问题是随着目标的数量而快速增加的计算需求,例如基于超体积的算法和基于移位的密度估计(SHIP)方法。在本文中,我们的目标是解决这个问题,并开发一个有效的和高效的进化算法(E3A),可以处理各种多目标问题。在E3A中,受环境选择的启发,提出了一种新的种群维护方法来选择高质量的解决方案。我们进行了广泛的实验,并表明,E3A表现优于11个国家的最先进的多目标进化算法,快速找到一组收敛良好,多样化的解决方案。
2022-10-25 cs.NE
Integration of Preferences in Decomposition Multi-Objective Optimization
现有的大多数进化多目标优化的研究集中在逼近整个帕累托最优前沿。尽管如此,而不是整个前线,这需要太多的点(特别是在高维空间中),决策者可能只对部分区域感兴趣,称为感兴趣区域。在这种情况下,该区域之外的解决方案可能会对决策过程造成干扰。更糟糕的是,在处理具有复杂性质或大量目标的问题时,无法保证我们可以找到首选的解决方案。在本文中,我们开发了一个系统的方法,将决策者的偏好信息分解为基础的进化多目标优化方法。一般来说,我们的基本思想是一个非均匀的映射方案,原来均匀分布的参考点在一个典型的单纯形可以映射到新的位置接近的愿望水平向量指定的决策者。通过这些手段,我们能够直接或以交互方式将搜索过程引导到感兴趣的区域,并且还处理大量的目标。同时,边界解可以根据决策者的要求进行近似。此外,感兴趣区域的范围是直观地可理解的,并且以封闭的形式是可控制的。广泛的实验,无论是证明的原则和3至10个目标的各种问题,充分证明了我们所提出的方法的有效性,在感兴趣的区域近似的首选解决方案。
2017-01-20 cs.NE
A Many-Objective Evolutionary Algorithm with Angle-Based Selection and Shift-Based Density Estimation
进化多目标优化问题越来越受到演化计算研究界的关注。许多努力一直致力于解决这个问题,提高多目标进化算法的可扩展性,如帕累托为基础的,分解为基础的,基于指标的方法。与目前的工作不同,我们提出了一种新的算法,在本文中被称为AnD,它包括一个基于角度的选择策略和基于移位的密度估计策略。在环境选择中,采用这两种策略,逐一剔除不良个体。具体地说,前者的目的是找到一对具有最小向量角的个体,这意味着这两个个体共享最相似的搜索方向。后者兼顾了个体的多样性和收敛性,对两个个体进行了比较,剔除了差的个体。它结构简单,参数少,没有复杂的运算符.的性能相比,与七个国家的最先进的多目标进化算法的各种基准测试问题,多达15个目标。实验结果表明,AnD可以达到很高的竞争力的性能。此外,我们还验证了AnD可以很容易地扩展到解决约束多目标优化问题。
2017-09-30 cs.NE
Hybridization of evolutionary algorithm and deep reinforcement learning for multi-objective orienteering optimization
多目标定向运动问题是经典的多目标路径问题,在过去的几十年里受到了广泛的关注。本研究试图通过一个问题分解框架来求解MO-OP,即将MO-OP分解为一个多目标背包问题(MOKP)和一个旅行商问题(TSP)。然后分别用多目标进化算法(MOEA)和深度强化学习(DRL)方法求解MOKP和TSP。MOEA模块用于选择城市,而DRL模块用于为这些城市规划哈密尔顿路径。这两个模块的迭代使用推动人口走向MO-OP的帕累托前沿。所提出的方法的有效性进行了比较,对NSGA-II和NSGA-III的各种类型的MO-OP的情况下。实验结果表明,该方法在几乎所有的测试实例上都表现出最好的性能,并表现出很强的泛化能力。
2022-06-21 cs.NE
A Novel Dual-Stage Evolutionary Algorithm for Finding Robust Solutions
针对鲁棒优化问题,提出双阶段鲁棒进化算法(DREA),通过峰值检测和鲁棒解搜索两个阶段分离最优解与鲁棒最优解的搜索过程,在18个测试问题及高维(100-$D$和200-$D$)场景中显著优于五种前沿算法。
2024-01-02 cs.NE
GEVO: GPU Code Optimization using Evolutionary Computation
GPU是机器学习和高性能计算革命的关键推动者,充当事实上的协处理器来加速大规模计算。随着编程堆栈和工具支持的成熟,程序员也可以访问GPU,他们可能缺乏底层架构的详细知识,无法充分利用GPU的计算能力。GEVO(GPU优化使用演化计算)是一种自动发现优化机会并调整LLVM表示中GPU内核性能的工具。GEVO使用基于人口的搜索来查找编译到LLVM-IR的GPU代码的编辑,并在保留所需功能的同时提高所需标准的性能。我们证明,GEVO提高了Rodinia基准测试套件和机器学习模型中GPU程序的执行时间,SVM和ResNet 18,NVIDIA Tesla P100。对于Rodinia基准测试,GEVO将GPU内核运行时性能平均提高了49.48%,比完全编译器优化的基准提高了412%。如果内核输出精度放宽到允许高达1%的错误,GEVO可以找到平均超过基线版本51.08%的内核变体。对于机器学习工作负载,GEVO在MNIST手写识别(3.24倍)和a9 a收入预测(2.93倍)数据集上实现了SVM的内核性能改进,而没有损失模型准确性。GEVO在使用ResNet 18/CIFAR-10的图像分类上实现了1.79倍的内核性能提升,模型精度降低不到1%。
2020-04-27 cs.NE
Search Trajectories Networks of Multiobjective Evolutionary Algorithms
University of Tsukuba(筑波大学);University of Stirling(斯特林大学)
了解多目标进化算法(MOEAs)的搜索动力学仍然是一个悬而未决的问题。本文扩展了最近的网络为基础的工具,搜索轨迹网络(STNs),MOEA的行为建模。我们的方法使用的思想分解,其中一个多目标的问题转化为几个单目标的问题。我们表明,STNs可以用来模拟和区分两个流行的多目标算法,MOEA/D和NSGA-II的搜索行为,使用10个连续的基准问题,2和3个目标。我们的研究结果表明,我们可以使用STNs进行算法分析来提高对MOEA的理解。
2022-06-30 cs.AI cs.NE
MOEA/D with Angle-based Constrained Dominance Principle for Constrained Multi-objective Optimization Problems
提出了一种新的约束处理机制--基于角度的约束优势原理(ACDP),并将其嵌入到基于分解的多目标进化算法(MOEA/D)中,用于求解约束多目标优化问题(CMOPs). ACDP在进化过程中利用解的角度信息来调整解的优势关系,以保持工作种群的多样性。本文使用14个基准测试实例来评估MOEA/D with ACDP(MOEA/D-ACDP)的性能。此外,还对一个工程优化问题(工字梁优化问题)进行了优化。通过上述基准测试和工程应用,对提出的MOEA/D-ACDP以及其他四种基于分解的C-MOEA/D、MOEA/D-CDP、MOEA/D-Epoxy和MOEA/D-SR进行了测试。实验结果表明,MOEA/D-ACDP在这些测试实例和真实案例上的性能明显优于其他四种CMOEA,表明ACDP在求解CMOPs问题上更有效。
2018-02-10 cs.NE
Fully Tensorized GPU-accelerated Multi-population Evolutionary Algorithm for Constrained Multiobjective Optimization Problems
National University of Defense Technology(国防科技大学);Hunan Key Laboratory of Multi-energy System Intelligent Interconnection Technology(多能系统智能互联技术湖南省重点实验室);Xiangjiang Laboratory(湘江实验室);Tsinghua University(清华大学)
本文提出了一种完全张量化的GPU加速多种群进化算法GMPEA,用于高效解决时间敏感的约束多目标优化问题,通过并行化方法提升计算效率和解的质量。
2025-09-24 cs.NE
IGD Indicator-based Evolutionary Algorithm for Many-objective Optimization Problems
逆世代距离(IGD)已被广泛认为是一个可靠的性能指标,同时量化的收敛性和多样性的多目标和多目标进化算法。提出了一种基于IGD指标的多目标优化进化算法。具体地说,IGD指标是在每一代选择具有良好的收敛性和多样性的解决方案。此外,一个计算效率的优势比较方法的目的是分配的解决方案的秩值以及三个新提出的邻近距离分配。基于这两种设计,通过线性分配机制从全局角度选择解,同时兼顾收敛性和多样性。为了便于IGD指标计算的采样参考点的准确性,我们还提出了一种有效的基于分解的最低点估计方法来构建乌托邦帕累托前沿,这被认为是最好的近似帕累托前沿的现实世界的MaOP在早期的演变阶段。为了评估性能,一系列的实验上所提出的算法对一组选定的国家的最先进的多目标优化算法的优化问题与$8$ -,$15$ -,和$20$ -目标。实验结果表明,所提出的算法是非常有竞争力的解决MaOP的性能指标。
2018-02-24 cs.NE
A Frequency-based Parent Selection for Reducing the Effect of Evaluation Time Bias in Asynchronous Parallel Multi-objective Evolutionary Algorithms
Faculty of System Design, Tokyo Metropolitan University(东京都立大学系统工程设计学部)
本文提出一种基于频率的父代选择方法,用于减少异步并行多目标进化算法中评估时间偏差对搜索性能的负面影响。
2022-12-14 cs.DC cs.NE
Evolutionary Dynamic Optimization and Machine Learning
Salah Boubnider University(萨拉赫·布卜尼德大学);Medicine Faculty(医学院)
本文首次全面探讨了进化动态优化(EDO)与机器学习(ML)之间的互惠整合,旨在克服进化计算的局限性并优化复杂的ML动态任务,从而激发该领域的创新研究。
2024-02-14 cs.LG cs.NE
MODRL/D-EL: Multiobjective Deep Reinforcement Learning with Evolutionary Learning for Multiobjective Optimization
Sun Yat-sen University(中山大学);Guangdong University of Finance and Economics(广东财经大学)
基于学习的算法求解组合优化问题近年来引起了学术界的广泛关注。虽然大多数现有的作品只考虑单目标问题与简单的约束,许多现实世界的问题有多目标的角度和包含丰富的约束条件。针对带时间窗的多目标车辆路径问题(MO-VRPTW),提出了一种多目标深度强化学习与进化学习算法相结合的方法。在该算法中,分解策略被应用到生成一组注意力模型的子问题。全面的上下文信息的引入,以进一步加强注意力模型。进化学习也被用来微调模型的参数。在MO-VRPTW实例上的实验结果证明了该算法相对于其他基于学习和迭代的方法的优越性。
2021-07-16 cs.AI cs.NE
Sparse Mutation Decompositions: Fine Tuning Deep Neural Networks with Subspace Evolution
Colorado State University(科罗拉多州立大学)
神经进化是将进化算法与神经网络相结合的一个很有前途的研究领域。神经进化方法的一个流行的子类,称为演化策略,依赖于密集的噪声扰动来变异网络,这对于具有数百万参数的大型模型来说可能是采样效率低下和具有挑战性的。我们介绍了一种方法来缓解这个问题,通过分解密集突变到低维子空间。以这种方式限制突变可以显着减少方差,因为网络可以在保持性能的同时处理更强的扰动,这使得深度网络的进化更加可控和有针对性。这种方法对于微调预训练模型的任务非常有效,随着网络规模的不断扩大和开源模型的越来越广泛,这是一个越来越有价值的研究领域。此外,我们还展示了这项工作如何自然地与集成学习联系在一起,其中稀疏突变鼓励儿童之间的多样性,这样他们的组合预测就可以可靠地提高性能。我们对神经进化的微调和集成进行了首次大规模探索,在众所周知的困难ImageNet数据集上,我们看到了小的泛化改进,只有一个单一的进化代,使用了近十几个不同的深度神经网络架构。
2023-02-12 cs.LG cs.NE
Assessing Ranking and Effectiveness of Evolutionary Algorithm Hyperparameters Using Global Sensitivity Analysis Methodologies
University of Reading(雷丁大学);The University of Sunderland(桑德兰大学);University of Catania(卡塔尼亚大学);University of Cambridge(剑桥大学)
我们提出了一个全面的全局灵敏度分析的两个单目标和两个多目标的最先进的全局优化进化算法作为一个算法配置问题。也就是说,我们调查的质量的影响超参数对算法的性能方面的直接影响和与其他超参数的相互作用效果。采用Morris LHS、Morris和Sobol三种灵敏度分析方法,系统分析了协方差矩阵自适应进化策略、差分进化、非支配排序遗传算法III和基于分解的多目标进化算法的可调超参数,揭示了超参数对采样方法和性能指标的影响。也就是说,它回答了诸如什么超参数影响模式,它们如何相互作用,它们相互作用的程度以及它们的直接影响有多大等问题。因此,超参数的排名表明了它们的调整顺序,而影响模式揭示了算法的稳定性。
2022-07-11 cs.AI cs.NE
Migrant Resettlement by Evolutionary Multi-objective Optimization
本文提出基于进化多目标优化的移民安置框架 MR-EMO,将就业人数最大化与派遣人数最小化建模为双目标问题,并引入 GSEMO-SR,理论与实验均证明其优于贪心方法。
2024-09-08 cs.NE
Interactive Decomposition Multi-Objective Optimization via Progressively Learned Value Functions
分解已成为一种越来越流行的技术,进化多目标优化(EMO)。基于分解的EMO算法通常被设计为近似整个Pareto最优前沿(PF)。然而,在实践中,决策者(DM)可能仅对她/他的感兴趣区域(ROI)感兴趣,即,PF的一部分。在此之外的解决方案可能是无用的,甚至对决策过程是嘈杂的。此外,在处理许多客观问题时,无法保证找到首选解决方案。本文开发了一个交互式框架的分解为基础的EMO算法,导致DM的首选解决方案,她/他的选择。它由三个模块组成,即,咨询、优选和优化。具体来说,每隔几代之后,DM被要求在咨询会话中对一些候选解决方案进行评分。此后,从DM的行为逐步学习对DM的偏好信息建模的近似价值函数。在偏好启发会话中,在咨询模块中学习的偏好信息被转换为可以在基于分解的EMO算法中使用的形式,即,一组偏向ROI的参考点。优化模块,原则上可以是任何基于分解的EMO算法,利用偏置参考点来指导其搜索过程。大量的基准问题上的实验,三到十个目标充分证明了我们所提出的方法的有效性,寻找DM的首选解决方案。
2018-09-30 cs.NE
Adaptive Operator Selection Based on Dynamic Thompson Sampling for MOEA/D
在演化计算中,不同的再生算子具有不同的搜索动力学。为了在勘探和开发之间取得良好的平衡,具有自适应操作员选择(AOS)机制是有吸引力的,该机制根据当前状态自动地在运行中选择最合适的操作员。针对基于分解的多目标进化算法(MOEA/D)提出了一种新的AOS机制。更具体地说,AOS被制定为一个多臂的强盗问题,其中的动态汤普森采样(DYTS)适用于适应强盗学习模型,最初提出了一个固定的奖励分布的假设,一个非平稳设置。特别是,我们的强盗学习模型的每一个手臂都代表了一个再生算子,并被分配了一个先验的奖励分布。这些奖励分布的参数将根据从进化过程中收集的性能的表现而逐步更新。在生成后代时,根据DYTS从这些奖励分布中抽样选择算子。实验结果充分证明了我们提出的AOS机制的有效性和竞争力相比,其他四个国家的最先进的MOEA/D的变种。
2020-04-22 cs.NE
Evolutionary Construction of Convolutional Neural Networks
Eindhoven University of Technology (TU/e)(埃因霍温理工大学);Philips Research Eindhoven(飞利浦埃因霍温研究院)
神经进化是一个研究领域,最近在深度学习社区中获得了显着增加的牵引力。它结合了深度神经网络和进化算法来改进和/或自动化神经网络的构建。最近的神经进化方法已经显示出有希望的结果,在准确性方面可以与手工制作的神经网络相媲美。介绍了一种两步方法,其中在第一步中创建卷积自动编码器以有效地压缩输入数据,并且在第二步中创建卷积神经网络以对压缩数据进行分类。在这两个步骤中,网络的创建都是由一个进化过程指导的,在这个过程中,新的网络不断地通过改变现有网络集合的成员而产生。此外,还介绍了一种方法,该方法考虑了不同卷积自编码器的压缩和信息丢失之间的权衡。这是用来选择最佳的卷积自动编码器从那些进化到压缩数据的第二步。实现了完整的框架,测试流行的CIFAR-10数据集,并讨论了结果。最后,考虑到这一特定框架,今后工作的一些可能方向,包括提高其效率及其在特定领域的应用的机会。
2019-01-02 cs.LG cs.NE stat.ML
Hybrid Adaptive Evolutionary Algorithm for Multi-objective Optimization
多目标最优化进化算法的主要困难是如何找到一个合适的解,该解能够以高多样性收敛到真正的Pareto前沿。大多数现有的方法,这已经证明了他们的利基对各种实际问题,涉及两个和三个目标,面临着重大的挑战,在依赖的EA参数的选择。此外,设置这样的参数的过程被认为是耗时的,并且一些研究工作试图处理这个问题。提出了一种新的多目标优化算法MoHAEA。MoHAEA允许动态适应的应用程序的运营商的概率(率)演变的多目标问题的解决方案相结合的优势和分解为基础的方法。在10个广泛使用的多目标测试问题上,将MoHAEA与四种最先进的MOEA,即MOEA/D,pa $λ$ -MOEA/D,MOEA/D-AWA和NSGA-II进行了比较。实验结果表明,MoHAEA优于基准算法,它是如何能够找到一个覆盖良好,分布良好的一组点的Pareto阵线。
2020-04-29 cs.NE math.OC
Using 3-Objective Evolutionary Algorithms for the Dynamic Chance Constrained Knapsack Problem
The University of Adelaide(阿德莱德大学);School of Computer and Mathematical Sciences(计算机与数学科学学院)
针对随机权重与动态容量并存的机会约束背包问题,提出独立于置信水平的三目标形式化,并用GSEMO和MOEA/D验证其优于二目标方法。
2024-04-09 cs.AI cs.NE
Evolutionary Multi-Objective Optimization Framework for Mining Association Rules
Institute for Development and Research in Banking Technology(银行技术发展与研究院);University of Hyderabad(海得拉巴大学)
在本文中,两个多目标优化框架在两个变体(即,NSGA-III-ARM-V1,NSGA-III-ARM-V2;和MOEAD-ARM-V1,MOEAD-ARM-V2)从事务数据集中发现关联规则。第一个框架使用非支配排序遗传算法III(NSGA-III)和第二个框架使用基于分解的多目标进化算法(MOEA/D)来发现具有多样性、非冗余性和非支配性(具有高目标函数值)的关联规则。在这两个框架中,都不需要规定最低支持度和最低置信度。在第一种变体中,支持度、置信度和提升被认为是目标函数,而在第二种变体中,置信度、提升和兴趣度被认为是目标函数。这些框架在七种不同类型的数据集上进行了测试,其中包括两个真实的银行数据集。我们的研究表明,NSGA-III-ARM框架在大多数数据集的两个变体中都比MOEAD-ARM框架更好。
2020-03-20 cs.LG cs.NE
An Improved Epsilon Constraint-handling Method in MOEA/D for CMOPs with Large Infeasible Regions
提出了一种改进的多目标约束处理机制,并将其与基于分解的多目标进化算法(MOEA/D)相结合,求解约束多目标优化问题(CMOPs).提出的约束多目标进化算法(CMOEA)被命名为MOEA/D-IEpplant。它根据当前种群中可行解与全局解的比率动态调整最优解的水平。为了评价MOEA/D-IEpplant算法的性能,设计了一组新的具有两个和三个目标的CMOPs,它们具有较大的不可行区域(相对于可行区域),称为LIR-CMOPs。然后利用LIR-CMOP 1 -14等14个基准测试程序对MOEA/D-IEpplant和MOEA/D-Epplant、MOEA/D-SR、MOEA/D-CDP和C-MOEA/D等4个基于分解的CMOEA进行测试。实验结果表明,MOEA/D-IEpplant算法在所有测试实例上的性能都明显优于其他四种CMOEA算法,表明MOEA/D-IEpplant算法更适合于求解不可行区域较大的CMOPs问题。此外,一个现实世界的问题,即机器人夹持器优化问题,是用来测试五个CMOEA。实验结果表明,MOEA/D-IEpplant在这个问题上也优于其他四个CMOEA。
2017-07-27 cs.NE
An Efficient Dynamic Resource Allocation Framework for Evolutionary Bilevel Optimization
本文提出DRC-BLEA,一种用于进化双层优化的动态资源分配框架,通过竞争性准并行范式与协作机制减少冗余下层迭代,在保持精度的同时显著降低计算开销。
2024-11-06 cs.NE math.OC
Evaluation and Efficiency Comparison of Evolutionary Algorithms for Service Placement Optimization in Fog Architectures
本研究针对雾服务布局问题,对比WSGA、NSGA-II、MOEA/D三种进化算法,通过不同规模实验验证了NSGA-II的优化与解多样性优势、MOEA/D的时间效率优势。
2025-01-17 cs.DC cs.NE
Tensor Shape Search for Optimum Data Compression
University of California Santa Barbara(加州大学圣巴巴拉分校)
已经提出了各种张量分解方法用于数据压缩。在张量分解的现实应用中,为给定数据选择张量形状是一个挑战,张量的形状可能会影响误差和压缩比。在这项工作中,我们研究了张量的形状对张量分解的影响,并提出了一个优化模型,以找到一个最佳的张量训练(TT)分解的形状。所提出的优化模型最大化的TT分解的压缩比给定的误差界。我们实现了遗传算法(GA)与TT-SVD算法求解优化模型。我们将所提出的方法用于RGB图像的压缩。结果表明,建议的进化张量形状搜索的TT分解的有效性。
2022-05-21 cs.LG cs.NE eess.IV
A Survey on Evolutionary Computation for Computer Vision and Image Analysis: Past, Present, and Future Trends
Zhengzhou University(郑州大学);Victoria University of Wellington(惠灵顿维多利亚大学);University of Granada(格拉纳达大学);Andalusian Research Institute in Artificial Intelligence(安达卢西亚人工智能研究所);Panacea Cooperative Research S.Coop.(Panacea合作研究合作社);University of Parma(帕尔马大学)
计算机视觉是人工智能的一个重要领域,具有广泛的应用前景。图像分析是计算机视觉中的一项主要任务,旨在提取、分析和理解图像的视觉内容。然而,由于许多因素,图像相关的任务非常具有挑战性,例如,图像之间的高变化、高维度、领域专业知识要求和图像失真。演化计算方法在图像分析中得到了广泛的应用并取得了显著的成果。然而,目前还没有对现有的EC图像分析方法进行全面调查。为了填补这一空白,本文提供了一个全面的调查,涵盖所有重要的图像分析任务,包括边缘检测,图像分割,图像特征分析,图像分类,目标检测,和其他基本的EC方法。本调查旨在通过讨论不同方法的贡献以及探索如何以及为什么将EC用于CV和图像分析来更好地理解进化计算机视觉(ECV)。与此研究领域相关的应用,挑战,问题和趋势也进行了讨论和总结,为未来的研究提供进一步的指导方针和机会。
2022-09-14 cs.AI cs.CV cs.LG
Multi-Space Evolutionary Search for Large-Scale Optimization
Chongqing University(重庆大学);Dalian University of Technology(大连理工大学);City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院);Nanyang Technological University(南洋理工大学)
近年来,为了改进用于解决涉及大量决策变量的优化问题的进化算法,已经进行了许多尝试来简化用于进化搜索的给定问题的问题解空间。在文献中,现有的方法通常可以分为基于分解的方法和基于降维的方法。前者将一个大规模问题分解成几个较小的子问题,而后者则将原来的高维解空间转化为低维空间。然而,值得注意的是,给定的大规模优化问题可能并不总是可分解的,并且也难以保证在降低的低维问题空间中保持原问题的全局最优。因此,本文提出了一种新的搜索范式,即多空间进化搜索,以加强现有的进化搜索方法解决大规模优化问题。与现有的在单个搜索空间中进行进化搜索的方法相比,所提出的范例被设计为在来自给定问题的多个解空间中进行搜索,每个解空间具有独特的景观。所提出的范例没有假设的大规模优化问题的利益,如问题是可分解的或存在一定的关系,决策变量之间。为了验证所提出的范例的有效性,使用CEC 2013大规模基准问题进行了全面的实证研究,与四种最先进的算法进行了比较。
2021-02-24 cs.AI cs.NE