Benchmarking Continuous Dynamic Multi-Objective Optimization: Survey and Generalized Test Suite
University of Technology Sydney(悉尼科技大学);Southern University of Science and Technology(南方科技大学);Chengdu Technological University(成都大学);Shaanxi Normal University(陕西师范大学)
本文提出一个综合框架,通过广义帕累托最优集变化、变量贡献不平衡、动态旋转矩阵、时间扰动和广义时间链接机制,构建高真实性和挑战性的动态多目标优化基准测试,实验证明其优于传统基准。
2026-06-02 cs.NE
Using Well-Understood Single-Objective Functions in Multiobjective Black-Box Optimization Test Suites
Inria, research centre Saclay and CMAP UMR 7641(Inria萨克莱研究中心及CMAP UMR 7641)
本文提出通过结合现有单目标问题来构建多目标问题,介绍bbob-biobj测试套件及其扩展版本,并提供了一种通用方法来创建任意数量目标的测试套件,以比较确定性和随机优化算法的性能。
2019-01-04 cs.AI cs.NA cs.NE
JCLEC-MO: a Java suite for solving many-objective optimization engineering problems
University of Córdoba(科尔多瓦大学)
本文提出 Java 框架 JCLEC-MO,支持工程师以少量编码应用和调整多目标及超多目标算法,并通过案例研究展示其结合 R 工具解决工程优化问题的能力。
2024-02-28 cs.AI cs.NE
A Comparison-Relationship-Surrogate Evolutionary Algorithm for Multi-Objective Optimization
针对有限评估预算下多目标优化收敛差的问题,提出基于比较关系代理模型的新算法CRSEA,实验证明其在多个中等规模双目标问题上优于现有SAEAs,提升了优化效率。
2025-04-29 cs.NE
Anytime Bi-Objective Optimization with a Hybrid Multi-Objective CMA-ES (HMO-CMA-ES)
我们提出了一个多目标优化算法,旨在实现良好的性能在广泛的问题。性能是根据超容量指标进行评估的。称为HMO-CMA-ES的算法代表了CMA-ES的几个新旧变体的混合,并由BOBYQA作为热启动进行补充。我们在最近引入的COCO框架(比较连续优化器)的双目标问题套件上对HMO-CMA-ES进行了基准测试,该问题套件由55个可扩展的连续优化问题组成,该问题由2016年黑盒优化基准测试(BBOB)研讨会使用。
2016-05-09 cs.NE
A Two stage Adaptive Knowledge Transfer Evolutionary Multi-tasking Based on Population Distribution for Multi/Many-Objective Optimization
多任务优化通常可以通过任务之间的知识转移获得比传统单任务优化更好的性能。然而,目前的多任务优化算法存在一些不足。对于高相似性问题,能够加快任务收敛速度的知识没有得到充分利用。对于低相似性问题,产生负迁移的概率很高,这可能导致优化性能下降。此外,以前提出的一些知识转移方法没有充分考虑如何处理种群陷入局部最优的情况。针对这些问题,提出了一种基于种群分布的两阶段自适应知识转移进化多任务优化算法EMT-PD。EMT-PD算法利用从概率模型中提取的知识,反映了整个种群的搜索趋势,可以加速和提高任务的收敛性能。在第一迁移阶段,采用自适应权值调整个体搜索的步长,降低负迁移的影响。在知识转移的第二阶段,进一步动态调整个体的搜索范围,提高种群的多样性,有利于跳出局部最优。在多任务多目标优化测试集上的实验结果表明,EMT-PD优于其他6种先进的多/单任务进化算法。为了进一步研究EMT-PD在多目标优化问题上的有效性,本文还设计了一个多任务多目标测试集。在新的测试集上的实验结果也证明了EMT-PD的竞争力。
2020-06-26 cs.NE
Benchmarking Subset Selection from Large Candidate Solution Sets in Evolutionary Multi-objective Optimization
Southern University of Science and Technology(南方科技大学)
在进化多目标优化(EMO)领域,标准的做法是将EMO算法的最终种群作为输出。然而,它已被证明,最终的人口往往包括解决方案占主导地位的其他解决方案产生和丢弃在前几代。最近,一个新的EMO框架已被提出来解决这个问题,通过存储所有的非支配的解决方案在进化过程中产生的存档,并选择一个子集的解决方案从存档作为输出。在这个框架中的关键组成部分是从通常存储了大量的候选解决方案的档案子集的选择。然而,大多数子集选择的研究集中在小的候选解决方案集的环境选择。没有用于大规模子集选择的基准测试套件。本文旨在填补这一研究空白,提出了一个基准测试套件的子集选择从大的候选解决方案集,并比较了一些代表性的方法使用建议的测试套件。建议的测试套件连同基准研究提供了一个基线,研究人员理解,使用,比较,并开发子集选择方法在EMO领域。
2022-03-29 cs.AI cs.NE
A mullti- or many- objective evolutionary algorithm with global loop update
近年来,多目标进化算法,特别是基于分解的多目标进化算法得到了广泛的关注。基于分解的MOEA强调收敛性和多样性在一个简单的模型,并取得了巨大的成功,在处理理论和实际的多目标或多目标优化问题。在本文中,我们着重于基于分解的MOEA的更新策略,以及它们的比较标准。分析和讨论了基于局部更新策略的MOEA分解算法的三个缺点和现有的几个比较解的标准。提出了一种全局循环更新策略和两种混合准则。随后,一个进化算法的全局循环更新的实现和比较的几个最好的多目标或多目标优化算法在两个著名的无约束测试套件多达15个目标。实验结果表明,与采用局部更新策略的进化算法不同,该算法的种群在进化过程中不会退化,保证了种群的多样性.此外,我们的算法赢得了在大多数情况下的两个测试套件,这表明它是非常有竞争力的收敛性和多样性。我们的算法与不同的标准比较解决方案的运行结果进行了比较。它们的差异是非常显着的,表明我们的算法的性能受到它所采用的标准。
2018-01-25 cs.NE
Transfer Learning Based Co-surrogate Assisted Evolutionary Bi-objective Optimization for Objectives with Non-uniform Evaluation Times
大多数现有的多目标进化算法(MOEAs)隐含地假设每个目标函数可以在同一时间内进行评估。一般来说。这在许多现实世界的优化方案中是站不住脚的,其中不同目标的评估涉及具有不同时间复杂度的不同计算机模拟或物理实验。针对这一问题,提出了一种基于代理辅助进化算法(SAEAs)的迁移学习方案.该方案采用协同代理来模拟快、慢目标函数之间的函数关系,并引入可迁移实例选择方法从快目标的搜索过程中获取有用的知识.我们的DTLZ和UF测试套件的实验结果表明,该算法是有竞争力的解决双目标优化的目标有不均匀的评价时间。
2021-08-30 cs.NE
COCO: The Large Scale Black-Box Optimization Benchmarking (bbob-largescale) Test Suite
Inria research centre Saclay(法国国家信息与自动化研究所萨克雷研究中心);CMAP, Ecole Polytechnique(巴黎综合理工学院应用数学中心);Hanoi National University of Education(河内国家教育大学);Jožef Stefan Institute(约瑟夫·斯特凡研究所)
bbob-largescale测试套件包含连续域中的24个单目标函数,将自2009年以来在BBOB研讨会系列中使用的著名单目标无噪声bbob测试套件扩展到大维度。核心思想是使bbob测试套件中出现的搜索空间中的旋转变换R,Q在计算上更便宜,同时保留一些所需的属性。本文档提出了一种方法,该方法用一个分块对角矩阵和两个置换矩阵的组合来代替完整的旋转变换,以构造检验函数,其计算和存储成本在问题的维度上线性缩放。
2019-03-28 cs.LG cs.NE cs.PF
A Continuous Optimisation Benchmark Suite from Neural Network Regression
设计一般表现良好的优化算法需要在一系列不同的问题上进行实验。训练神经网络是一项优化任务,随着最近深度学习的成功而变得突出。虽然进化算法已被用于训练神经网络,但梯度下降变体是迄今为止最常见的选择,其在大规模机器学习任务中具有值得信赖的良好性能。在这篇论文中,我们贡献了CORNN(使用神经网络的回归任务的连续优化),这是一个大型套件,用于对神经网络训练问题上的任何连续黑盒算法的性能进行基准测试。使用一系列回归问题和神经网络架构,可以创建具有不同维度和难度级别的问题实例。我们展示了使用CORNN套件通过比较三个进化和基于群的算法在300多个问题实例的性能,表现出算法之间的性能互补性的证据。作为一个基线,最好的基于人口的算法的性能基准对基于梯度的方法。CORNN套件作为公共Web存储库共享,以便于与现有基准测试平台轻松集成。
2022-09-03 cs.NE
Non-elitist Evolutionary Multi-objective Optimizers Revisited
自2000年以来,人们一直认为精英进化多目标优化算法(EMOAs)总是优于非精英EMOAs。本文回顾了非精英EMOA的性能双目标连续优化时,使用无界的外部档案。本文研究了两个精英和一个非精英环境选择的EMOAs的性能。在COCO平台提供的双目标BBOB问题集上对EMOA的性能进行了评估。与传统的智慧相比,结果表明,非精英EMOAs与特定的交叉方法执行显着良好的双目标BBOB问题,许多决策变量时,使用无界的外部档案。本文还分析了非精英选择的性质。
2020-09-30 cs.NE
Multi-objective Test Case Selection Through Linkage Learning-based Crossover
测试用例选择(TCS)旨在选择测试套件的一个子集来运行回归测试。选择通常基于过去的覆盖率和执行成本数据。研究人员已经成功地使用多目标进化算法(MOEAs),如NSGA-II及其变体,来解决这个问题。这些MOEA使用传统的交叉算子,通过遗传重组创建新的候选解决方案。最近的数值优化研究表明,使用机器学习(特别是链接年龄学习)可以进行更好的重组。受这一领域最新进展的启发,我们提出了一种新的NSGA-II变体,称为L2-NSGA,它使用链接学习来优化测试用例选择。特别是,我们使用一个无监督的聚类算法来推断有前途的模式之间的解决方案(子集的测试套件)。然后,在L2-NSGA的下一次迭代中使用这些模式来创建保留这些推断模式的解决方案。我们的研究结果表明,我们的定制使NSGA-II更有效的测试用例选择。由L2-NSGA生成的测试套件子集比文献中用于回归测试的MOEA生成的测试套件子集更便宜,并且检测到更多的故障。
2021-07-20 cs.NE cs.SE
A Scalable Test Suite for Continuous Dynamic Multiobjective Optimisation
近年来,动态多目标优化问题得到了越来越多的关注。测试问题是非常重要的,以促进先进的算法,可以很好地处理动态环境的发展。然而,许多现有的动态多目标测试问题没有得到严格的构造和分析,这可能会导致一些意想不到的偏差时,他们被用于算法分析。在本文中,这些偏见被确定后,广泛使用的测试问题的审查。这些问题包括目标的可扩展性差,更重要的是,静态属性而不是动态的问题,使得很难得出准确的结论,所研究的算法的优点和缺点。然后,一个好的测试套件应该具有的一组不同的动态和特性被强调出来。我们进一步开发了一个可扩展的连续测试套件,其中包括一些动力学或功能,很少被认为是在文献中,但经常发生在现实生活中。实证研究表明,建议的测试套件是更具挑战性的动态多目标优化算法在文献中找到。测试套件还可以用现有测试套件所不能用的方式来测试算法。
2019-03-06 cs.NE
Multimodal Multi-objective Optimization: Comparative Study of the State-of-the-Art
多模态多目标问题(MMOPs)通常出现在现实世界中的问题,在决策空间中的遥远的解决方案对应于非常相似的目标值。为了获得MMOPs的所有解,已经提出了许多多模态多目标进化算法(MMEAs)。目前,很少有研究涵盖了大多数最近提出的代表性的MMEAs,并进行了比较。在本研究中,我们首先回顾了近二十年来的相关工作。然后,我们选择了12个国家的最先进的算法,利用不同的多样性保持技术,并比较他们的性能在现有的测试套件。实验结果表明,不同的技术对不同类型的MMOPs的优势和劣势,从而提供指导,如何选择/设计MMEAs在特定的场景。
2022-07-11 cs.NE
A Novel Genetic Algorithm using Helper Objectives for the 0-1 Knapsack Problem
0-1背包问题是一个著名的组合优化问题。近似算法已被设计用于解决它,他们返回证明良好的解决方案在多项式时间。另一方面,遗传算法非常适合于解决背包问题,他们找到合理的好的解决方案迅速。一个自然出现的问题是遗传算法是否能够找到解决方案一样好的近似算法做。提出了一种求解0-1背包问题的多目标优化遗传算法。实验结果表明,该算法优于贪心算法、混合策略遗传算法和贪心算法+混合策略遗传算法。
2014-04-03 cs.NE
Visualising Evolution History in Multi- and Many-Objective Optimisation
进化算法被广泛用于解决优化问题。然而,透明度的挑战出现在两个可视化的优化器通过一个问题的操作过程和理解的问题功能产生的许多客观的问题,理解四个或更多的空间维度是困难的。这项工作考虑了人口的可视化作为一个优化过程执行。我们已经适应了现有的可视化技术,以多目标和多目标的问题数据,使用户能够可视化的EA过程,并确定具体的问题特征,从而提供了一个更好的理解的问题景观。如果问题的前景是未知的,包含未知的功能或是一个多目标的问题,这是特别有价值的。我们已经展示了如何使用这个框架是有效的一套多目标和多目标的基准测试问题,优化他们与NSGA-II和NSGA-III。
2020-06-22 cs.NE
Variable Metric Evolution Strategies for High-dimensional Multi-Objective Optimization
针对高维多变量问题,结合协方差矩阵自适应扩展算法与多目标进化策略,开发了基于指标选择的最先进多目标优化器,性能优于全协方差矩阵自适应。
2024-12-20 cs.NE
Diffusion-based Evolutionary Optimization for 3D Multi-Objective Molecular Generation
National University of Defense Technology(国防科技大学);Academy of Military Medical Sciences (AMMS)(军事科学院)
本文提出基于扩散的进化分子优化框架DEMO,通过引入进化引导扩散和结构感知环境选择机制,解决复杂3D结构约束下的多目标分子生成问题,实现零样本下高多样性且化学有效的Pareto前沿。
2026-10-28 cs.NE
An Efficient Evolutionary Algorithm for Few-for-Many Optimization
Shenzhen University(深圳大学);Southern University of Science and Technology(南方科技大学);City University of Hong Kong(香港城市大学)
本文提出一种针对少对多优化问题的高效进化算法,通过改进的(μ+1)进化策略和定制的基准测试套件,提升高维目标空间的求解效率。
2026-01-10 cs.NE
Structural bias in multi-objective optimisation
Brno University of Technology(布尔诺工业大学);LIACS, Leiden University(莱顿大学 LIACS);Leiden University(莱顿大学)
本文提出了一种用于研究多目标优化中结构偏差的测试方法,通过合成问题解耦算法行为与问题结构,系统分析不同结构偏差表现。
2026-02-06 cs.NE math.OC
On the Assessment of Benchmark Suites for Algorithm Comparison
基准测试套件,即基准测试函数的集合,广泛用于黑盒优化算法的比较。多年来,研究已经确定了基准测试套件的许多理想品质,例如多样化的拓扑结构,不同的难度,可扩展性,现实世界问题的代表性等。然而,虽然拓扑结构的特点已经受到以前的研究,有没有研究统计评估的难度水平的基准函数,以及他们如何区分优化算法和如何适合是一个基准套件的算法比较。在本文中,我们提出了使用项目反应理论(IRT)模型,贝叶斯双参数逻辑模型的多次尝试,统计评估这些方面的经验成功率的算法。通过这个模型,我们可以评估每个基准测试的难度水平,它们区分不同算法的程度,算法的能力得分,以及基准测试套件在能力得分的估计中增加了多少信息。我们展示了使用这个模型在两个著名的基准套件,黑盒优化基准(BBOB)连续优化和伪布尔优化(PBO)离散优化。我们发现BBOB套件的大多数基准函数具有高难度(与优化算法相比)和低区分度。对于PBO,大多数函数都有很好的判别参数,但通常被认为太容易了。我们讨论了IRT在基准测试中的潜在用途,包括使用它来改进基准测试套件的设计,测量算法的多个方面,以及设计自适应套件。
2021-04-15 cs.DS cs.NE
Characterization of Constrained Continuous Multiobjective Optimization Problems: A Feature Space Perspective
尽管近年来约束多目标优化问题受到越来越多的关注,但约束多目标优化问题(CMOPs)的理解和特征仍然不能令人满意。因此,选择适当的CMOPs进行基准测试是困难的,而且缺乏正式的背景。我们解决这个问题,通过扩展景观分析约束多目标优化。通过采用四种探索性的景观分析技术,我们提出了29个景观特征(其中19个是新的)来表征CMOPs。这些景观功能,然后用来比较八个经常使用的人工测试套件对最近提出的套件组成的现实世界的问题的基础上的物理模型。实验结果表明,人工测试问题不能充分反映一些现实的特点,如目标和约束之间的强负相关性。此外,我们的研究结果表明,所有研究的人工测试套件都有优点和局限性,并没有“完美”的套件存在。基准测试设计者可以使用获得的结果,根据他们想要探索的特征选择或生成适当的CMOP实例。
2021-12-23 cs.NE
Multi objective Fitness Dependent Optimizer Algorithm
本文提出了最近推出的适应度相关优化(FDO)的多目标变种。该算法被称为多目标适应度相关优化器(MOFDO),并配备了所有五种类型的知识(情景,规范,地形,域和历史知识)在FDO。MOFDO在两个标准基准上进行了测试,用于性能验证目的;经典ZDT测试函数,这是一个广泛的测试套件,其名称来自其作者Zitzler,Deb和Thiele,以及IEEE演化计算基准大会(CEC 2019)多模态多目标函数。MOFDO的结果进行了比较的最新变种的多目标粒子群优化(MOPSO),非支配排序遗传算法第三次改进(NSGA-III),和多目标优化算法(MODA)。比较研究表明,在大多数情况下,MOFDO的优越性和比较结果在其他情况下。此外,MOFDO用于优化现实世界的工程问题(例如,焊接梁设计问题)。据观察,该算法成功地提供了各种各样的分布良好的可行的解决方案,使决策者有更多的适用舒适的选择考虑。
2023-01-26 cs.NE
An Effective and Efficient Evolutionary Algorithm for Many-Objective Optimization
在进化多目标优化中,有效性是指进化算法如何将其解收敛到帕累托前沿并使其在前沿多样化。这不是一件容易的工作,特别是对于具有三个以上目标的优化问题,称为多目标优化问题。在这样的问题中,经典的基于帕累托的算法无法向帕累托前沿提供足够的选择压力,而最近开发的算法(诸如基于分解的算法)可能难以在某些问题上维持一组分布良好的解决方案(例如,不规则的Pareto前沿)。在一些多目标优化器中的另一个问题是随着目标的数量而快速增加的计算需求,例如基于超体积的算法和基于移位的密度估计(SHIP)方法。在本文中,我们的目标是解决这个问题,并开发一个有效的和高效的进化算法(E3A),可以处理各种多目标问题。在E3A中,受环境选择的启发,提出了一种新的种群维护方法来选择高质量的解决方案。我们进行了广泛的实验,并表明,E3A表现优于11个国家的最先进的多目标进化算法,快速找到一组收敛良好,多样化的解决方案。
2022-10-25 cs.NE
On the Problem Characteristics of Multi-objective Pseudo-Boolean Functions in Runtime Analysis
针对理论分析中多目标进化算法测试问题人工特征过强的局限,本文系统回顾现有函数并通过混合经典单目标函数提出具异质目标等现实特征的新函数,以丰富测试套件并连接理论与实践。
2025-07-08 cs.NE
Review of research on fireworks algorithm
焰火算法是一种新型的智能优化算法。由于它具有收敛速度快、易于实现、爆炸性、多样性、简单性和随机性等优点,近年来在许多研究领域受到越来越多的关注。介绍了焰火算法的产生背景、组成、改进思路(算子的分析与改进、混合算法的改进),以及焰火算法在连续优化、离散优化、单目标优化、多目标优化等领域的应用。最后总结了烟花算法未来的研究方向,包括理论分析、算子分析与改进、混合算法研究和算法应用。
2022-02-28 cs.NE
Multi-Objective Coevolution of Prompts and Templates for Circuit Approximation
Brno University of Technology, Faculty of Information Technology(布尔诺理工大学信息学院)
提出一种协同进化算法,利用现成大语言模型自动设计优化的8位近似乘法器,无需领域特定训练,通过同时进化候选电路和提示模板,实现了比EvoApproxLib库更优的误差-面积权衡。
2026-06-12 cs.NE
Decomposition in Decision and Objective Space for Multi-Modal Multi-Objective Optimization
多模态多目标优化问题(MMMOPs)在Pareto最优集中有多个子集,每个子集独立地映射到同一Pareto前沿。流行的多目标进化算法不是纯粹为了搜索多个解子集而设计的,而MMMOPs设计的算法在目标空间中表现出性能下降。这促使设计更好的算法来解决MMMOPs。目前的工作确定的拥挤错觉问题,起源于使用拥挤距离全球在整个决策空间。随后,一个进化的框架,称为图拉普拉斯优化使用参考向量辅助分解(洛德),提出了使用目标和决策空间的分解处理MMMOPs。将其滤波步骤进一步扩展为LORD-Ⅱ算法,证明了其在多模态多目标问题上的动态性。通过比较CEC 2019多模态多目标测试套件和多边形问题的测试实例与最先进的MMMOPs算法和其他多目标和多目标进化算法的性能,确定了框架的有效性。手稿的结论是提到所提出的框架和未来的方向,设计更好的算法MMMOPs的限制。源代码可在https://worksupplements.droppages.com/lord上获得。
2021-02-03 cs.NE
The impact of objective interactions on the performance of massive objective optimization algorithms
研究目标数量增长及目标交互性质对算法性能的影响,采用诊断基准套件评估多种进化算法,发现问题特征显著影响算法性能,词法选择算法有优势且避免对预定义参考方向的依赖。
2026-07-16 cs.NE
Exploration of Pareto-preserving Search Space Transformations in Multi-objective Test Functions
Sorbonne Université, CNRS, LIP6(索邦大学,法国国家科学研究中心,LIP6);Paderborn University(帕德博恩大学)
本文探讨了多目标测试函数中搜索空间变换的重要性,通过参数化双射变换创建不同基准问题实例,分析其对多目标优化算法性能的影响,并比较搜索空间和目标空间变换的性能影响。
2026-04-11 cs.NE
An Instance Space Analysis of Constrained Multi-Objective Optimization Problems
本文通过实例空间分析,引入新特征刻画约束与目标交互的景观,评估六套基准与十五种算法,发现非支配集隔离性和约束-目标相关性是影响CMOEA性能的关键,但现有基准多样性不足。
2022-03-02 cs.NE
Fairly Constricted Multi-Objective Particle Swarm Optimization
在粒子群优化算法(PSO)中使用指数平均动量(EM)比普通PSO算法具有更大的优势。在单目标设置中,它导致更快的收敛和避免局部极小值。自然,人们会期望EM的相同优点延续到多目标设置。因此,我们扩展了最先进的多目标优化(MOO)求解器,SMPSO,通过将EM在其中。因此,我们开发的数学形式主义的收缩公平性,这是在扩展的SMPSO算法的核心。建议的求解器匹配的性能SMPSO在ZDT,DTLZ和WFG问题套件,甚至在某些情况下优于它。
2022-11-13 cs.NE math.OC
CATBench: A Compiler Autotuning Benchmarking Suite for Black-box Optimization
Norwegian University of Science and Technology (NTNU)(挪威科技大学);Lund University(隆德大学)
CATBench 是一个面向编译器自动调优的标准化基准测试套件,涵盖离散、条件、排列参数及多保真度、多目标等复杂场景,旨在促进贝叶斯优化算法的可复现评估与创新。
2025-04-08 cs.AI cs.LG cs.NE
Scalable and Customizable Benchmark Problems for Many-Objective Optimization
Instituto Federal de Educação, Ciência e Tecnologia de Minas Gerais (IFMG)(米纳斯吉拉斯联邦教育科学技术学院(IFMG));Federal University of Minas Gerais(米纳斯吉拉斯联邦大学);Graduate Program in Electrical Engineering - Federal University of Minas Gerais(米纳斯吉拉斯联邦大学电气工程研究生项目);Machine Intelligence and Data Science (MINDS) Laboratory, Federal University of Minas Gerais (UFMG)(米纳斯吉拉斯联邦大学(UFMG)机器智能与数据科学(MINDS)实验室);Institute of Polyners and Composites, University of Minho (Uminho)(米尼奥大学(Uminho)聚合物与复合材料研究所)
求解多目标问题(MaOP)仍然是多目标优化(MOO)领域的一个重大挑战。衡量算法性能的一种方法是通过使用基准函数(也称为测试函数或测试套件),这是一个定义良好的数学公式,已知的解决方案和各种功能和困难的人工问题。在本文中,我们提出了一个可扩展和可定制的基准问题的MaOP参数化生成器。它能够生成重现其他基准测试中存在的功能的问题,以及一些新功能的问题。我们在这里提出了生成基准的概念,其中可以生成无限数量的MOO问题,通过改变控制问题应该具有的特定功能的参数:变量和目标数量的可扩展性,偏见,欺骗性,多模态,鲁棒性和非鲁棒性解决方案,帕累托前沿的形状和约束。所提出的广义位置-距离(GPD)可调基准生成器使用位置-距离范式,这是构建测试函数的基本方法,用于其他基准,如Deb,Thiele,Laumanns和Zitzler(DTLZ),Walking Fish Group(WFG)等。它包括可扩展的问题,在任何数量的变量和目标,它提出了帕累托前沿不同的特点。所得到的函数易于理解和可视化,易于实现,计算速度快,并且它们的帕累托最优解是已知的。
2020-02-11 cs.AI cs.NE
MO-DEHB: Evolutionary-based Hyperband for Multi-Objective Optimization
University of Freiburg(弗莱堡大学);University of Munich(慕尼黑大学)
本文提出MO-DEHB,一种扩展自DEHB的多目标优化器,在15个包含HPO、NAS及联合优化的基准上,针对准确性、延迟和公平性等目标,性能优于现有最先进方法。
2023-05-11 cs.LG cs.NE
Efficient Computation of Probabilistic Dominance in Robust Multi-Objective Optimization
Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)(弗里德里希-亚历山大大学埃尔兰根-纽伦堡分校(FAU))
现实世界的问题通常需要同时优化几个经常相互冲突的目标。这些多目标优化问题中的许多问题的特征在于其决策变量或目标函数中的大范围的不确定性,这进一步增加了优化的复杂性。为了应对这些不确定性,鲁棒优化被广泛研究,旨在区分候选解与由置信区间,概率分布或采样数据指定的不确定目标。然而,现有的技术大多没有考虑实际的分布或假设不确定性的均匀或高斯分布的实例。本文介绍了一种经验的方法,使一个有效的比较候选解决方案与不确定的目标,可以遵循任意分布。给定两个候选解进行比较,该算子计算一个解在每个不确定目标方面优于另一个解的概率。它可以替代现有优化技术(如进化算法)的标准比较算子,以发现具有多个不确定目标的问题的鲁棒解决方案。本文还提出了将各种不确定性,在著名的多目标问题,提供一个基准评估不确定性感知优化技术。所提出的比较算子和基准套件集成到现有的优化工具中,该工具具有多目标优化问题和算法的选择。实验结果表明,与现有技术相比,该方法在较低的开销下获得了较高的优化质量。
2019-10-18 cs.LG cs.NE stat.ML
Constrained Multi-Objective Optimization for Automated Machine Learning
SAS Institute Inc.(SAS研究所)
自动化的机器学习最近获得了很多关注。构建和选择正确的机器学习模型通常是一个多目标优化问题。同时支持多个目标和约束的通用机器学习软件很少,尽管潜在的好处很大。在这项工作中,我们提出了一个名为Autotune的框架,有效地处理机器学习问题中出现的多个目标和约束。Autotune建立在一套无导数优化方法的基础上,并在分布式计算环境中利用多级并行来自动训练、评分和选择良好的模型。在模型探索和选择过程中结合多个目标和约束提供了满足实际机器学习应用中必要的权衡所需的灵活性。标准多目标优化基准问题的实验结果表明,Autotune在捕获Pareto前沿方面非常有效。这些基准测试结果还显示了添加约束如何将搜索引导到解空间中更有希望的区域,最终产生更理想的Pareto前沿。两个真实案例研究的结果证明了Autotune提供的约束多目标优化功能的有效性。
2019-08-14 cs.DC cs.LG cs.NE