Evolutionary Many-Objective Optimization Based on Adversarial Decomposition
基于分解的方法已被公认为多目标优化的主要方法。它将一个多目标优化问题分解为多个单目标优化子问题，每个子问题通常定义为一个使用权向量的标量化函数。由于特定标量化函数的轮廓线的特性，基于分解的方法的性能强烈地依赖于Pareto前沿的形状，特别是当面对大量目标时，仅使用单个标量化函数。为了提高基于分解的方法的灵活性，本文开发了一种对抗性分解方法，该方法利用了单个范例中两个不同标量化函数的互补特性。更具体地说，我们保持两个共同进化的人口同时使用不同的标量化函数。为了避免将冗余的计算资源分配到Pareto前沿的同一区域，我们根据Pareto前沿的工作区域将这两个共同进化的种群稳定地匹配成一对一的解对。这样，在交配选择过程中，每个解对最多只能贡献一个交配亲本。与9个最先进的多目标优化器相比，我们已经见证了我们提出的算法在130个多目标测试实例具有不同的特性和Pareto前沿的形状的竞争力的表现。
2017-04-07 cs.NE
Decomposition Multi-Objective Evolutionary Optimization: From State-of-the-Art to Future Opportunities
分解是经典数学规划中多目标优化和多准则决策的主流方法。然而，直到基于分解的多目标进化算法（MOEA/D）的发展，才在进化多目标优化的背景下对其进行了适当的研究。在这篇文章中，我们提出了一个全面的调查MOEA/D的发展，从它的起源到目前的国家的最先进的方法。为了做到自成一体，我们从一步一步的教程开始，旨在帮助新手快速进入MOEA/D的工作机制。然后，选择MOEA/D的主要发展，根据其核心设计组件，包括权重向量设置，子问题配方，选择机制和再生运营商进行审查。此外，我们还概述了一些进一步的发展约束处理，计算昂贵的目标函数，偏好纳入，和现实世界的应用。在最后一部分，我们为未来的发展提供了一些新的方向。
2021-08-21 cs.NE
Semantic Neighborhood Ordering in Multi-objective Genetic Programming based on Decomposition
遗传编程中的语义多样性在进化搜索中被证明是非常有益的。我们目睹了该领域科学作品数量的激增，首先是在离散空间开始，然后转移到连续空间。然而，绝大多数的这些作品，都集中在单目标遗传编程范例的注意力，与少数例外，专注于进化多目标优化（EMO）。后者的作品使用了众所周知的强大的算法，包括非支配排序遗传算法II和强度帕累托进化算法，两者都深受帕累托优势的概念。这些鼓舞人心的工作使我们在EMO中向前迈出了一步，考虑基于分解的多目标进化算法（MOEA/D）。我们首次展示了如何在遗传编程中促进MOEA/D的语义多样性。
2021-04-13 cs.NE
A Many-Objective Evolutionary Algorithm Based on Decomposition and Local Dominance
多目标进化算法，特别是基于分解的多目标进化算法，近年来受到了广泛的关注。最近的研究表明，分解方法和支配方法的良好设计的组合可以提高性能，即，一个经济部的趋同性和多样性。本文提出了一种将分解方法和控制方法相结合的新方法。更精确地说，一组权重向量被用来分解一个给定的多目标优化问题（MaOP），并提出了一种混合的方法，基于惩罚的边界相交函数和优势的比较局部解定义的权重向量的子种群。一个基于混合方法的MOEA被实现，并在两个著名的测试套件中选择的问题上进行测试，DTLZ和WFG。实验结果表明，我们的算法是非常有竞争力的处理MaOP。随后，我们的算法扩展到解决约束MaOP，我们的算法的约束版本也表现出良好的性能，在收敛性和多样性。这表明，利用局部优势并将其与分解方法相结合，可以有效地提高MOEA的性能。
2019-09-04 cs.NE
Interactive Decomposition Multi-Objective Optimization via Progressively Learned Value Functions
分解已成为一种越来越流行的技术，进化多目标优化（EMO）。基于分解的EMO算法通常被设计为近似整个Pareto最优前沿（PF）。然而，在实践中，决策者（DM）可能仅对她/他的感兴趣区域（ROI）感兴趣，即，PF的一部分。在此之外的解决方案可能是无用的，甚至对决策过程是嘈杂的。此外，在处理许多客观问题时，无法保证找到首选解决方案。本文开发了一个交互式框架的分解为基础的EMO算法，导致DM的首选解决方案，她/他的选择。它由三个模块组成，即，咨询、优选和优化。具体来说，每隔几代之后，DM被要求在咨询会话中对一些候选解决方案进行评分。此后，从DM的行为逐步学习对DM的偏好信息建模的近似价值函数。在偏好启发会话中，在咨询模块中学习的偏好信息被转换为可以在基于分解的EMO算法中使用的形式，即，一组偏向ROI的参考点。优化模块，原则上可以是任何基于分解的EMO算法，利用偏置参考点来指导其搜索过程。大量的基准问题上的实验，三到十个目标充分证明了我们所提出的方法的有效性，寻找DM的首选解决方案。
2018-09-30 cs.NE
Matching-Based Selection with Incomplete Lists for Decomposition Multi-Objective Optimization
收敛性与多样性的平衡是进化多目标优化的关键问题。最近提出的基于稳定匹配的选择提供了一个新的视角来处理这种平衡下的分解多目标优化的框架。特别是，子问题和解决方案之间的稳定匹配，实现了他们的相互偏好之间的平衡，隐含的收敛性和多样性之间的平衡。然而，原有的稳定匹配模型具有很高的风险，匹配的解决方案与一个不利的子问题，最终导致不平衡的选择结果。本文提出了一种基于自适应两级稳定匹配选择的分解多目标优化方法。具体来说，借用不完整列表的稳定匹配的思想，我们匹配每个解决方案与它最喜欢的子问题之一，通过限制其偏好列表的长度在第一级稳定匹配。在第二级稳定匹配过程中，剩余的子问题根据经典的稳定匹配模型与它们最喜欢的解进行匹配。特别是，我们开发了一个自适应机制，自动设置的偏好列表的长度为每个解决方案，根据其本地的竞争力。我们提出的方法的性能进行了验证，并与几个国家的最先进的进化多目标优化算法的62个基准问题的实例进行比较。实验结果充分证明了我们所提出的方法在复杂的Pareto集和具有三个以上目标的问题上的竞争力。
2017-01-25 cs.NE
A Survey of Decomposition-Based Evolutionary Multi-Objective Optimization: Part I-Past and Future
本文以MOEA/D为代表，系统综述了基于分解的进化多目标优化从起源到前沿方法的发展，涵盖权重向量、子问题、选择与繁殖算子等核心组件及约束处理、动态环境、昂贵目标和偏好融合等高级主题，并展望未来方向。
2024-10-21 cs.NE
A Simple Evolutionary Algorithm for Multi-modal Multi-objective Optimization
在求解多模态多目标优化问题（MMOPs）时，目标不仅是在目标空间中找到Pareto最优前沿（PF）的良好表示，而且要在变量空间中找到所有等价的Pareto最优子集（PSS）。当决策者（DM）有兴趣确定具有相似性能的替代设计时，这些问题实际上是相关的。有显着的研究兴趣，近年来，开发有效的算法来处理MMOPs。然而，现有的算法仍然需要禁止数量的功能评估（往往在几千），以处理涉及低至两个目标和两个变量的问题。这些算法通常嵌入了复杂的定制机制，需要额外的参数来管理变量和目标空间的多样性和收敛性。在这封信中，我们介绍了一个稳态进化算法解决MMOPs，一个简单的设计，没有额外的用户定义的参数，需要调整相比，一个标准的EA。我们报告其性能的21 MMOPs从各种测试套件，被广泛用于基准测试使用低计算预算的1000功能评估。该算法的性能进行了比较，与六个国家的最先进的算法（MO环PSO SCD，DN-NSGAII，TriMOEA-TA&R，CPDEA，MMOEA/DC和MMEA-WI）。所提出的算法表现出显着更好的性能比上述算法的基础上建立的指标，包括IGDX，PSP和IGD。我们希望这项研究将鼓励设计简单，高效和通用的算法，以提高其实际应用的吸收。
2022-10-20 cs.NE
Promoting Semantics in Multi-objective Genetic Programming based on Decomposition
遗传程序（GP）中的语义研究涉及给定一组输入的程序的行为，并已被广泛报道，有助于促进GP中的多样性，最终改善进化搜索的一系列复杂问题。这些研究中的绝大多数都将注意力集中在单目标GP上，只有少数例外，其中基于Pareto的优势算法（如NSGA-II和SPEA 2）被用作测试高度流行的基于语义的方法（如基于语义相似性的交叉（SSC））是否有助于或阻碍进化搜索的框架。令人惊讶的是，据报道，SSC在SOGP中表现出的好处在基于帕累托的优势多目标GP中看不到。在这项工作中，我们有兴趣研究，如果同样进行基于分解的多目标进化算法（MOEA/D）。通过使用MNIST数据集，一个众所周知的数据集在机器学习社区中使用，我们展示了如何SSC在MOEA/D促进语义多样性产生更好的结果相比，当这是不存在于规范的MOEA/D。
2020-12-08 cs.NE
Multi-modal multi-objective model-based genetic programming to find multiple diverse high-quality models
可解释的人工智能（XAI）是一个重要且迅速发展的研究课题。XAI的目标是通过清晰地了解模型如何实现其预测来获得对机器学习（ML）模型的信任。遗传编程（GP）经常被认为是唯一适合于XAI的方法，因为它能够学习（小的）符号模型，这些模型有可能被解释。然而，与许多ML算法一样，GP通常会产生一个最佳模型。然而，在实践中，在训练误差方面的最佳模型可能不是由领域专家出于各种原因判断的最合适的模型，包括过拟合，存在具有相似精度的多个不同模型，以及由于典型的精度测量（如均方误差）而导致的特定数据点上的不必要的误差。因此，为了增加领域专家认为结果模型可信的机会，能够显式地搜索多个，多样化的，高质量的模型，权衡不同的准确性含义变得非常重要。在本文中，我们实现了这一点，一种新的多模态多树多目标GP方法，扩展了现代的基于模型的GP算法称为GP-GOMEA，已经有效地搜索小表达式。
2022-03-24 cs.NE
Integration of Preferences in Decomposition Multi-Objective Optimization
现有的大多数进化多目标优化的研究集中在逼近整个帕累托最优前沿。尽管如此，而不是整个前线，这需要太多的点（特别是在高维空间中），决策者可能只对部分区域感兴趣，称为感兴趣区域。在这种情况下，该区域之外的解决方案可能会对决策过程造成干扰。更糟糕的是，在处理具有复杂性质或大量目标的问题时，无法保证我们可以找到首选的解决方案。在本文中，我们开发了一个系统的方法，将决策者的偏好信息分解为基础的进化多目标优化方法。一般来说，我们的基本思想是一个非均匀的映射方案，原来均匀分布的参考点在一个典型的单纯形可以映射到新的位置接近的愿望水平向量指定的决策者。通过这些手段，我们能够直接或以交互方式将搜索过程引导到感兴趣的区域，并且还处理大量的目标。同时，边界解可以根据决策者的要求进行近似。此外，感兴趣区域的范围是直观地可理解的，并且以封闭的形式是可控制的。广泛的实验，无论是证明的原则和3至10个目标的各种问题，充分证明了我们所提出的方法的有效性，在感兴趣的区域近似的首选解决方案。
2017-01-20 cs.NE
Accelerating Neural Architecture Exploration Across Modalities Using Genetic Algorithms
神经架构搜索（NAS）是自动发现用于计算机视觉和自然语言处理等领域的任务的最佳深度神经网络架构的研究，在机器学习研究社区中迅速增长。虽然NAS最近取得了许多进展，但仍然非常关注通过提高搜索效率来降低验证发现的架构时产生的计算成本。进化算法，特别是遗传算法，在NAS中有着使用的历史，并且作为探索架构目标空间的高效方式，与其他优化方法相比，进化算法继续获得普及。大多数NAS研究工作都集中在计算机视觉任务上，直到最近才对其他模式进行了深入研究，例如快速增长的自然语言处理领域。在这项工作中，我们展示了如何将遗传算法与经过轻度训练的客观预测器在迭代周期中配对，以加速多目标建筑探索的方式，在机器翻译和图像分类的模式中工作。
2022-02-25 cs.NE
A Decomposition-Based Many-Objective Evolutionary Algorithm with Local Iterative Update
已有的研究表明，传统的基于分解的多目标进化算法在求解多目标优化问题时可能会失去种群多样性。本文提出了一种简单的基于分解的局部迭代更新MOEA算法。LIU策略具有两个特征，期望驱动种群接近具有良好分布的帕累托前沿。一个是，只有当前邻域中最差的解被新生成的后代替换掉，防止种群被少数个体的副本占据。另一个是它的迭代过程有助于为子问题分配更好的解，这有利于充分利用解与相邻子问题的相似性，在搜索空间中探索局部区域。此外，该算法的时间复杂度是相同的MOEA/D，并低于其他已知的MOEA，因为它只考虑在当前邻域内的个人在每次更新。该算法进行了比较，从两个著名的测试套件DTLZ和WFG选择的问题上的几个最好的MOEA。实验结果表明，该算法在DTLZ 4上只有少数运行实例失去了种群多样性。此外，该算法在运行时间和解决方案质量方面赢得了大多数测试实例，表明它在解决MaOP问题方面非常有效。
2018-06-27 cs.NE
A Weight Adaptation Trigger Mechanism in Decomposition-based Evolutionary Multi-Objective Optimisation
针对基于分解的多目标进化算法权重调整易损害规则帕累托前沿问题性能的问题，提出带触发机制的权重自适应算法ATM-MOEA/D，仅在检测到不规则帕累托前沿时调整权重，兼顾两类问题的优化性能。
2025-02-23 cs.NE
A mullti- or many- objective evolutionary algorithm with global loop update
近年来，多目标进化算法，特别是基于分解的多目标进化算法得到了广泛的关注。基于分解的MOEA强调收敛性和多样性在一个简单的模型，并取得了巨大的成功，在处理理论和实际的多目标或多目标优化问题。在本文中，我们着重于基于分解的MOEA的更新策略，以及它们的比较标准。分析和讨论了基于局部更新策略的MOEA分解算法的三个缺点和现有的几个比较解的标准。提出了一种全局循环更新策略和两种混合准则。随后，一个进化算法的全局循环更新的实现和比较的几个最好的多目标或多目标优化算法在两个著名的无约束测试套件多达15个目标。实验结果表明，与采用局部更新策略的进化算法不同，该算法的种群在进化过程中不会退化，保证了种群的多样性.此外，我们的算法赢得了在大多数情况下的两个测试套件，这表明它是非常有竞争力的收敛性和多样性。我们的算法与不同的标准比较解决方案的运行结果进行了比较。它们的差异是非常显着的，表明我们的算法的性能受到它所采用的标准。
2018-01-25 cs.NE
A collaborative decomposition-based evolutionary algorithm integrating normal and penalty-based boundary intersection for many-objective optimization
Guangzhou University（广州大学）；South China University of Technology（华南理工大学）
近年来，基于分解的进化算法在多目标优化问题中得到了广泛的应用。然而，现有的分解方法对多目标优化问题边界形状的多样性仍然十分敏感。一方面，锥分解方法，如基于惩罚的边界相交（PBI）是无法获得均匀的边界与非常凸的边界的MaOP。另一方面，包括正常边界相交（NBI）的平行分解方法的平行参考线可能会导致差的多样性，因为在具有凹边界的MaOP的边界附近的采样不足。本文首先提出了一种协同分解方法，该方法综合了并行分解和锥分解的优点，克服了各自的缺点。该方法继承了NBI型切比雪夫函数作为收敛度量，提高了PBI方法的收敛性和分布均匀性。此外，该方法还自适应调整的程度旋转NBI参考线对PBI参考线的每个子问题，以提高分布的多样性的NBI方法。在此基础上，提出了一种基于协同分解的多目标优化进化算法（CoDEA）。在CoDEA中设计了一种基于协作分解的环境选择机制，对边界层中与同一PBI参考线相关的所有个体进行排序，并选出最佳排序。在85个基准测试实例上将CoDEA与几种流行的算法进行了比较。实验结果表明，CoDEA算法在收敛性、均匀性和分布多样性之间保持了较好的平衡，具有较高的竞争力。
2022-04-14 cs.AI cs.NE
Real-valued Evolutionary Multi-modal Multi-objective Optimization by Hill-Valley Clustering
在基于模型的进化算法（EA）中，底层搜索分布适应手头的问题，例如基于决策变量之间的依赖关系。山谷聚类是一种自适应小生境方法，其中一组解决方案被聚类，使得每个聚类对应于适应度景观中的单个模式。这可以用于使EA的搜索分布适应模式的数量，分别探索每个模式。特别是在黑盒设置，其中模式的数量是先验未知的，一个自适应的方法是必不可少的良好的性能。在这项工作中，我们引入多目标山谷聚类，并将其与MAMaLGaM，多目标EA，到多目标山谷EA（MO-HillVallEA）。我们的经验表明，MO-HillVallEA优于MAMaLGaM和其他知名的多目标优化算法的一组基准函数。此外，也许是最重要的，我们表明，MO-HillVallEA是能够获得和维护多个近似集同时随着时间的推移。
2020-10-28 cs.NE math.OC
Multi-node environment strategy for Parallel Deterministic Multi-Objective Fractal Decomposition
Université Paris-Est（巴黎东大学）
本文提出了一种新的实现确定性多目标（MO）优化称为多目标分形分解算法（Mo-FDA）。原算法是针对单目标大规模连续优化问题设计的。它是基于分而治之的战略和几何分形分解的搜索空间使用超球体。然后，为了处理MO问题的标量化方法。在这项工作中，已经开发了一种新的方法，在多节点环境中使用容器。在多目标优化的经典基准上，将Mo-FDA的性能与文献中的最新算法进行了比较
2019-08-04 cs.AI cs.CY cs.DC
Guiding Neuroevolution with Structural Objectives
University of Oslo（奥斯陆大学）；Uber AI Labs（优步人工智能实验室）
神经网络的结构和性能是密切相关的，并且通过使用进化算法，可以探索最佳地适应于给定任务的神经网络结构。用与网络结构相关的额外目标指导这种神经进化已经被证明在某些情况下可以提高性能，特别是当模块化神经网络是有益的时候。然而，除了旨在使网络更加模块化的目标之外，这种结构性目标尚未得到广泛探讨。我们提出了两个新的结构目标，并测试他们的能力，指导不断发展的神经网络的两个问题，可以受益于分解成子任务。第一个结构目标指导进化，使神经网络与用户推荐的分解模式对齐。直观地说，这应该是一个强大的指导目标的问题，人类用户可以很容易地识别一个结构。第二个结构性目标引导向分解模式具有高度多样性的种群进化。这导致探索许多不同的方法来分解问题，允许进化更快地找到好的分解。我们的目标问题的测试表明，这两种方法表现良好的问题具有非常清晰和可分解的结构。然而，在最佳分解不太明显的问题上，结构多样性目标被发现优于其他结构目标-这种技术甚至可以在没有任何可分解结构的问题上提高性能。
2019-04-23 cs.AI cs.NE
An Inverse Modeling Constrained Multi-Objective Evolutionary Algorithm Based on Decomposition
Centro de Informática, Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）；Centro de Estudos e Sistemas Avançados do Recife（累西腓高级研究与系统中心）
提出IM-C-MOEA/D，将基于分解的逆建模引入约束多目标进化优化，并在RWMOP1-35上验证其优于现有CMOEAs。
2024-10-24 cs.AI cs.LG cs.NE
Explicitly Multi-Modal Benchmarks for Multi-Objective Optimization
针对多目标优化基准难以控制全局帕累托位置的问题，提出基于吸引盆地连通性的3BC基准，通过盆地图生成多模态问题，并保证局部与全局最优解的存在。
2024-02-10 cs.NE math.OC
A Hybrid Decomposition-based Multi-objective Evolutionary Algorithm for the Multi-Point Dynamic Aggregation Problem
Beijing Institute of Technology（北京理工大学）；Victoria University of Wellington（惠灵顿维多利亚大学）
多点动态聚合（MPDA）问题是一个在实际应用中出现的优化问题，已成为多机器人系统的研究热点之一。本文研究了一个多目标MPDA问题，即设计机器人的执行计划，使机器人的数量最少，所有任务的最大完成时间最短。机器人和任务之间的强耦合关系，MPDA编码的冗余性，以及MO-MPDA问题的可变大小的决策空间，为有效地解决这个问题提出了额外的挑战。针对上述问题，提出了一种基于$ \varepsilon $约束的混合分解多目标进化算法（HDMOEA）。该算法以所有任务的最大完成时间为主要目标，将其他目标转化为约束条件。HDMOEA将MO-MPDA问题分解为一系列标量约束优化子问题，并为每个子问题分配一个机器人数量上限。所有的子问题的优化同时从其他子问题的知识转移。此外，我们开发了一个混合种群初始化机制，以提高初始解的质量，和一个复制机制，以传递有效的信息和解决编码冗余。实验结果表明，所提出的HDMOEA方法显着优于国家的最先进的方法在几个最常用的指标。
2021-05-11 cs.AI cs.NE
Analyzing and Overcoming Local Optima in Complex Multi-Objective Optimization by Decomposition-Based Evolutionary Algorithms
针对基于分解的多目标进化算法易陷入局部最优的问题，提出权重向量引导与高斯混合的参考点选择策略，经实验验证可显著提升种群多样性与收敛性。
2024-04-12 cs.AI cs.NE
