Large-scale Multi-objective Feature Selection: A Multi-phase Search Space Shrinking Approach
Wilfred Laurier University(劳里埃大学);Brock University(布鲁克大学)
针对大规模高维特征选择的稀疏优化难题,提出基于搜索空间收缩的多目标进化算法LMSSS,通过排序过滤、智能交叉变异提升搜索效率,在15个数据集上性能优于现有先进算法,树立新基准。
2024-10-13 cs.AI cs.LG cs.NE
MOANOFS: Multi-Objective Automated Negotiation based Online Feature Selection System for Big Data Classification
REsearch Groups in Intelligent Machines(智能机器研究组);University of Sfax(斯法克斯大学);ENIS(斯法克斯国立工程师学院)
特征选择在学习和分类任务中起着重要的作用。FS的目的是选择相关的和非冗余的功能。由于实际应用中特征数量巨大,采用批量学习技术的FS方法无法解决大数据问题,特别是当数据顺序到达时。在本文中,我们提出了一个在线特征选择系统,解决了这个问题。更具体地说,我们把在线监督的二进制分类的特征选择的问题作为一个决策问题。这个问题的哲学视野导致两个重要领域之间的杂交:特征选择使用在线学习技术(OFS)和自动协商(AN)。提出的OFS系统称为MOANOFS(多目标自动协商基于在线特征选择)使用两个层次的决策。在第一级中,从n个学习者(或OFS方法)中,我们决定哪些是k个可信的学习者(具有高置信度或信任值)。这些选出的k学习者将参加第二级。在这个层次上,我们整合我们提出的多边自动协商的OFS(MANOFS)方法,以决定最终哪个是最好的解决方案或相关功能。我们表明,MOANOFS系统是适用于不同的领域成功地实现了高精度与几个现实世界的应用。索引术语:特征选择、在线学习、多目标自动协商、信任、分类、大数据。
2019-06-18 cs.AI cs.CV cs.LG
Gene selection from microarray expression data: A Multi-objective PSO with adaptive K-nearest neighborhood
Azad University of Mashhad(马什哈德阿扎德大学);University of Guelph(圭尔夫大学);Western University(韦仕敦大学)
癌症检测是医学领域的关键研究课题之一。准确检测不同类型的癌症对于为患者提供更好的治疗设施和风险最小化是有价值的。研究了利用基因表达数据对人类癌症疾病进行分类的问题。它提出了一种新的方法来分析微阵列数据集和有效地分类癌症疾病。新方法首先利用信噪比(SNR)来找到非冗余基因的一个小子集的列表。然后,归一化后,使用多目标粒子群优化(MOPSO)的特征选择和自适应K-最近邻(KNN)的癌症疾病分类。该方法通过减少特征数量提高了癌症分类的分类精度。通过对五个癌症数据集的癌症疾病进行分类来评估所提出的方法。最新的方法,这增加了在每个数据集的分类精度的结果进行了比较。
2022-05-27 cs.AI q-bio.QM
Complement Submodular Information Measures for Balanced and Robust Data Selection
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出互补子模信息(CSI)目标函数,通过建模子集与其补集之间的共享结构信息,实现平衡且鲁棒的数据选择,并在理论上证明其近似单调性和贪心近似保证,实验表明在鲁棒隐藏切片感知子集选择中优于经典子模目标。
2026-05-23 cs.AI cs.LG math.CO
Solution Subset Selection for Final Decision Making in Evolutionary Multi-Objective Optimization
Southern University of Science and Technology(南方科技大学)
一般来说,多目标优化问题并不只有一个最优解,而是有一组Pareto最优解,它们在目标空间中形成Pareto前沿。已经提出了各种进化算法来近似帕累托前沿使用预先指定的解决方案的数量。通过一次运行可获得数百种解决方案。从获得的解决方案中选择一个最终的解决方案被认为是由人类决策者完成的。然而,在许多情况下,决策者不想检查数百个解决方案。因此,需要选择所获得的解决方案的一个小子集。在本文中,我们讨论的子集选择的观点,最终决策。首先,我们简要介绍现有的子集选择研究。接下来,我们制定一个预期的损失函数的子集选择。我们还表明,制定的功能是相同的IGD加指标。然后,我们报告的实验结果,所提出的方法与其他基于指标的子集选择方法进行了比较。
2020-06-15 cs.AI cs.NE
Benchmarking Subset Selection from Large Candidate Solution Sets in Evolutionary Multi-objective Optimization
Southern University of Science and Technology(南方科技大学)
在进化多目标优化(EMO)领域,标准的做法是将EMO算法的最终种群作为输出。然而,它已被证明,最终的人口往往包括解决方案占主导地位的其他解决方案产生和丢弃在前几代。最近,一个新的EMO框架已被提出来解决这个问题,通过存储所有的非支配的解决方案在进化过程中产生的存档,并选择一个子集的解决方案从存档作为输出。在这个框架中的关键组成部分是从通常存储了大量的候选解决方案的档案子集的选择。然而,大多数子集选择的研究集中在小的候选解决方案集的环境选择。没有用于大规模子集选择的基准测试套件。本文旨在填补这一研究空白,提出了一个基准测试套件的子集选择从大的候选解决方案集,并比较了一些代表性的方法使用建议的测试套件。建议的测试套件连同基准研究提供了一个基线,研究人员理解,使用,比较,并开发子集选择方法在EMO领域。
2022-03-29 cs.AI cs.NE
On the Robustness of Lexicase Selection to Contradictory Objectives
针对多目标优化中Lexicase选择对矛盾目标的鲁棒性问题,通过理论分析目标完全矛盾的场景,明确两类选择方法的失效参数区间,提出有理论依据的参数选择指南及适配性影响因素。
2024-03-11 cs.NE
Constrained Multi-objective Optimization with Deep Reinforcement Learning Assisted Operator Selection
School of Computer Science, China University of Geosciences(中国地质大学计算机学院);Tsinghua University(清华大学);Bielefeld University(比勒费尔德大学)
本文提出深度强化学习辅助的在线算子选择框架,将种群收敛性、多样性和可行性作为状态,以Q网络自适应选择最优算子,并嵌入四种CMOEA在42个基准问题上验证了其显著性能提升和更强通用性。
2024-01-15 cs.AI cs.NE
An Analysis on Selection for High-Resolution Approximations in Many-Objective Optimization
本文研究了三种精英多目标进化算法的行为,这些算法生成了Pareto最优集的高分辨率近似。定义了几个搜索评估指标来跟踪生存选择的动态,并测量同时保持最优解和发现新的不同人口规模下的能力,设置为帕累托最优集的大小的一小部分。
2014-09-26 cs.NE
Enhanced Optimization with Composite Objectives and Novelty Selection
多目标搜索的一个重要好处是它保持了候选人的多样性,这特别有助于欺骗性问题。然而,并非所有的多样性都是有用的:只优化一个目标而忽略其他目标的候选人很少有帮助。本文提出了一个解决方案:原来的目标被替换为它们的线性组合,从而将搜索集中在目标之间最有用的权衡。为了弥补多样性的损失,这种转变伴随着一种有利于新颖性的选择机制。在发现最小排序网络的高度欺骗性问题中,这种方法找到了更好的解决方案,并且比标准方法更快,更一致。因此,它是一个很有前途的方法来解决欺骗性问题,通过多目标优化。
2018-07-05 cs.NE
A probabilistic and multi-objective analysis of lexicase selection and epsilon-lexicase selection
词典选择是一种父选择方法,它在执行父选择时单独考虑训练案例,而不是聚合。鉴于以前的工作已经证明了词典选择解决困难的问题,在程序合成和符号回归的能力,本文的中心目标是发展的理论基础,解释其性能。为此,我们推导出一个分析公式,给出了预期的概率选择下词典选择,给定的人口及其行为。此外,我们扩展的词库选择的关系,多目标优化方法来描述词库选择的行为,这是选择的帕累托前沿的边界上的高维空间中的个人。我们分析了为什么词典选择在一定规模的人群和训练案例中表现得更差,以及为什么它在连续错误空间中表现得更差。为了解决这最后一个问题,我们提出了新的变体ε词典选择,一种方法,修改词典选择的通过条件,允许近精英个人通过的情况下,从而提高选择性能与连续错误。我们表明,ε-lexicase优于几个多样性维护策略的一些现实世界和合成回归问题。
2018-04-29 cs.NE
Design and Analysis of Diversity-Based Parent Selection Schemes for Speeding Up Evolutionary Multi-objective Optimisation
在多目标优化的进化算法中,父节点的选择通常是通过偏好非支配点的优势机制或指示函数来实现的。我们建议改进进化多目标优化与多样性为基础的指标的父选择。其目的是关注位于搜索空间的探索不足的区域中具有高多样性贡献的个体,因此创建新的非支配个体的机会比在人口稠密的区域中更好。我们表明,通过严格的运行时分析,使用基于多样性的父选择机制,在简单的进化多目标优化器(SEMO)和全球SEMO的众所周知的双目标函数${\rm O{\small NE}M{\small IN}M{\small AX}}$和${\rm LOTZ}$可以显着提高其性能。我们的理论结果伴随着实验研究,表明理论和实证结果之间的对应关系,并激励进一步的理论研究方面的停滞。我们表明,停滞可能会发生时,有利于个人的高多样性的贡献,在父母的选择步骤,并提供了一个讨论,该计划用于更复杂的问题,根据我们的理论和实验结果。
2018-05-22 cs.NE
Multi-Objective Evolutionary Algorithms with Sliding Window Selection for the Dynamic Chance-Constrained Knapsack Problem
针对动态机会约束背包问题,提出带滑动窗口选择的多目标进化算法,通过松弛重量约束构建三目标公式,实验证明三目标方法优于双目标方法,结合滑动窗口选择可进一步提升性能。
2024-04-12 cs.NE
MO-ELA: Rigorously Expanding Exploratory Landscape Features for Automated Algorithm Selection in Continuous Multi-Objective Optimisation
Paderborn University(帕德博恩大学);University of Twente(特文特大学)
MO-ELA通过引入新的探索景观特征,提升多目标优化中自动算法选择的性能和问题难度捕捉能力。
2026-01-24 cs.NE
Fast Greedy Subset Selection from Large Candidate Solution Sets in Evolutionary Multi-objective Optimization
子集选择是进化多目标优化领域中一个有趣而重要的研究课题。特别是,在一个EMO算法与无界的外部档案,子集选择是一个必不可少的后处理过程中选择一个预先指定的数量的解决方案作为最终结果。在本文中,我们讨论了贪婪子集选择的效率的超体积,IGD和IGD+指标。贪心算法通常有效地处理子集选择。但是,当给出大量的解决方案时(例如,从无限外部存档中的数万个解决方案中选择子集),它们通常会变得非常耗时。我们的想法是使用子模属性,这是已知的超体积指标,以提高他们的效率。首先,我们证明了IGD和IGD+指标也是子模的。其次,基于子模性质,我们提出了一个有效的贪婪包含算法的每一个指标。然后,我们通过计算实验证明,所提出的算法是远远快于标准的贪婪子集选择算法。
2021-02-01 cs.NE
Matching-Based Selection with Incomplete Lists for Decomposition Multi-Objective Optimization
收敛性与多样性的平衡是进化多目标优化的关键问题。最近提出的基于稳定匹配的选择提供了一个新的视角来处理这种平衡下的分解多目标优化的框架。特别是,子问题和解决方案之间的稳定匹配,实现了他们的相互偏好之间的平衡,隐含的收敛性和多样性之间的平衡。然而,原有的稳定匹配模型具有很高的风险,匹配的解决方案与一个不利的子问题,最终导致不平衡的选择结果。本文提出了一种基于自适应两级稳定匹配选择的分解多目标优化方法。具体来说,借用不完整列表的稳定匹配的思想,我们匹配每个解决方案与它最喜欢的子问题之一,通过限制其偏好列表的长度在第一级稳定匹配。在第二级稳定匹配过程中,剩余的子问题根据经典的稳定匹配模型与它们最喜欢的解进行匹配。特别是,我们开发了一个自适应机制,自动设置的偏好列表的长度为每个解决方案,根据其本地的竞争力。我们提出的方法的性能进行了验证,并与几个国家的最先进的进化多目标优化算法的62个基准问题的实例进行比较。实验结果充分证明了我们所提出的方法在复杂的Pareto集和具有三个以上目标的问题上的竞争力。
2017-01-25 cs.NE
A Many-Objective Evolutionary Algorithm with Angle-Based Selection and Shift-Based Density Estimation
进化多目标优化问题越来越受到演化计算研究界的关注。许多努力一直致力于解决这个问题,提高多目标进化算法的可扩展性,如帕累托为基础的,分解为基础的,基于指标的方法。与目前的工作不同,我们提出了一种新的算法,在本文中被称为AnD,它包括一个基于角度的选择策略和基于移位的密度估计策略。在环境选择中,采用这两种策略,逐一剔除不良个体。具体地说,前者的目的是找到一对具有最小向量角的个体,这意味着这两个个体共享最相似的搜索方向。后者兼顾了个体的多样性和收敛性,对两个个体进行了比较,剔除了差的个体。它结构简单,参数少,没有复杂的运算符.的性能相比,与七个国家的最先进的多目标进化算法的各种基准测试问题,多达15个目标。实验结果表明,AnD可以达到很高的竞争力的性能。此外,我们还验证了AnD可以很容易地扩展到解决约束多目标优化问题。
2017-09-30 cs.NE
On the Combined Impact of Population Size and Sub-problem Selection in MOEA/D
University of Lille(里尔大学);Inria(法国国家信息与自动化研究所);University of Exeter(埃克塞特大学);City University Hong Kong(香港城市大学)
本文旨在理解和改进基于分解的多目标进化算法的工作原理。我们审查的设计完善的MOEA/D框架,以支持子问题选择的不同策略的顺利整合,同时强调在每一代的人口规模和后代的数量的作用。通过对广泛的多目标组合NK景观进行全面的实证分析,我们提供了新的见解,这些参数的组合效果的基础搜索过程中的任何时候的性能。特别是,我们表明,即使是一个简单的随机策略选择子问题随机优于现有的复杂的战略。我们还研究了这种策略的灵敏度相对于目标问题的粗糙度和目标空间维度。
2020-04-15 cs.AI cs.NE
Balancing Selection Pressures, Multiple Objectives, and Neural Modularity to Coevolve Cooperative Agent Behavior
以往的研究表明,在多智能体系统中使用演化计算,基于团队与个人行为对人工智能体的进化团队在具有挑战性的任务中表现出团队合作的能力有很大的影响。然而,这种研究只使用了单目标进化。相比之下,当使用多目标进化算法时,种群可以服从个人级目标、团队级目标或两者的组合。本文探讨了人工神经网络受这些类型的目标控制的代理合作共同进化团队的性能。具体来说,捕食者代理被进化为在环形网格世界中捕获脚本猎物代理。由于个体和团队行为之间的张力,多种行为模式可能是有用的,因此模块化神经网络的效果也进行了探讨。结果表明,健身奖励个人行为优于健身奖励团队行为,尽管被应用到一个合作的任务。然而,使用具有多个模块的网络允许捕食者发现智能行为,无论使用哪种类型的目标。
2017-03-24 cs.NE
Bayesian Hierarchical Multi-Objective Optimization for Vehicle Parking Route Discovery
Assam University(阿萨姆大学)
发现到最可行的停车场的最佳路线一直是任何驾驶员关注的问题,其在一天的高峰时间和拥挤的地方进一步加速,导致相当大的时间和燃料浪费。本文提出了一种贝叶斯分层技术,以获得最佳路径到停车场。路径选择是基于相互冲突的目标,因此该问题属于多目标优化领域。概率数据驱动的方法已被用来克服固有的问题的权重选择在流行的加权和技术。这些相互冲突的目标的权重已被细化使用贝叶斯分层模型的基础上多项式和狄利克雷先验。遗传算法已被用于获得最优解。模拟数据已被用来获得与现实生活中的情况非常吻合的路线。
2020-03-27 cs.AI cs.NE
Unlearning Works Better Than You Think: Local Reinforcement-Based Selection of Auxiliary Objectives
该研究提出LRSAO方法,通过强化学习动态选择辅助目标并融入遗忘能力优化进化算法,在Jump函数黑箱复杂度测试中实现$\Theta(n^2 / \ell^2 + n \log(n))$的复杂度,显著优于现有结果。
2025-04-19 cs.NE stat.ML
Reinforcement Learning Based Dynamic Selection of Auxiliary Objectives with Preserving of the Best Found Solution
ITMO University(ITMO大学)
通过引入辅助目标可以提高单目标优化的效率。理想情况下,辅助目标应该有所帮助。然而,在实践中,目标在某些优化阶段可能是有效的,但在其他的阻碍。在本文中,我们提出了一个修改的EA+RL方法,动态选择优化的目标,使用强化学习。所提出的修改防止丢失最佳发现的解决方案。我们分析了所提出的修改,并将其与EA+RL方法和XdivK,广义OneMax和LeadingOnes问题的随机局部搜索进行了比较。所提出的修改优于EA+RL方法的所有问题的情况下。它在大多数问题实例上的表现也优于单一目标方法。我们还提供了详细的分析所考虑的算法的不同组成部分如何影响优化效率。此外,我们提出的XdivK问题的修改建议的理论分析。
2017-04-24 cs.LG cs.NE
Multi-objective Test Case Selection Through Linkage Learning-based Crossover
测试用例选择(TCS)旨在选择测试套件的一个子集来运行回归测试。选择通常基于过去的覆盖率和执行成本数据。研究人员已经成功地使用多目标进化算法(MOEAs),如NSGA-II及其变体,来解决这个问题。这些MOEA使用传统的交叉算子,通过遗传重组创建新的候选解决方案。最近的数值优化研究表明,使用机器学习(特别是链接年龄学习)可以进行更好的重组。受这一领域最新进展的启发,我们提出了一种新的NSGA-II变体,称为L2-NSGA,它使用链接学习来优化测试用例选择。特别是,我们使用一个无监督的聚类算法来推断有前途的模式之间的解决方案(子集的测试套件)。然后,在L2-NSGA的下一次迭代中使用这些模式来创建保留这些推断模式的解决方案。我们的研究结果表明,我们的定制使NSGA-II更有效的测试用例选择。由L2-NSGA生成的测试套件子集比文献中用于回归测试的MOEA生成的测试套件子集更便宜,并且检测到更多的故障。
2021-07-20 cs.NE cs.SE
MOELIGA: a multi-objective evolutionary approach for feature selection with local improvement
Research Institute for Signals, Systems
本文提出MOELIGA,一种结合局部改进策略的多目标进化算法,用于在特征子集大小与分类精度之间取得平衡,通过实验验证其在14个数据集上优于或与现有方法相当的性能。
2026-04-07 cs.LG cs.NE
Scalable Speed-ups for the SMS-EMOA from a Simple Aging Strategy
School of Computer Science and Technology, National Key Laboratory of Smart Farm Technologies and Systems, International Research Institute for Artificial Intelligence, Harbin Institute of Technology, Shenzhen(计算机科学与技术学院、智能农业技术与系统国家重点实验室、人工智能国际研究院、哈尔滨工业大学深圳校区)
本文针对SMS-EMOA提出基于老化的非精英选择机制,通过保护年轻个体免于移除,证明可获得与目标数量无关的加速,弥补了随机选择在常数k和目标数较多时加速受限的不足。
2025-05-03 cs.AI cs.NE
Building an Effective Intrusion Detection System using Unsupervised Feature Selection in Multi-objective Optimization Framework
入侵检测系统(IDS)是为了检测攻击行为,保护网络安全而开发的.本文提出了一种用于分析网络数据的无监督特征选择技术。非支配排序遗传算法(NSGA-II)的搜索能力已被用于优化三个不同的目标函数,利用不同的信息理论措施,包括互信息,标准偏差,和信息增益,以确定互斥和高变子集的功能。最后,帕累托最优前的不同的最佳特征子集,这些特征子集被用于开发分类系统,使用不同的流行的机器学习模型,如支持向量机,决策树和k-最近邻(k=5)分类器等。我们已经评估了KDD-99,NSL-KDD和京都2006+数据集上的算法的结果。在KDD-99数据集上的实验结果表明,决策树比其他分类器具有更好的分类效果。该系统获得了99.78%的准确率,99.27%的检测率和0.2%的误报率的最佳结果,这是优于所有以前的结果KDD数据集。我们取得了99.83%的准确率为20%的测试数据的NSL-KDD数据集和京都数据集上的10倍交叉验证的准确率为99.65%。该方案最吸引人的特点是在选择合适的特征子集的过程中,不使用标记信息,并使用多目标优化框架同时优化不同的特征质量度量。
2019-05-16 cs.NE
A Multi-objective Exploratory Procedure for Regression Model Selection
变量选择被认为是统计建模中最关键的步骤之一。工程和社会科学中遇到的问题通常具有解释变量过多、非线性和回归变量之间未知的相互依赖性等特点。另一个困难是,分析人员可能对变量的相对重要性知之甚少或一无所知。为了提供一种稳健的模型选择方法,本文介绍了变量选择的多目标遗传算法(MOGA-VS),它为用户提供了一组最优的回归模型,为给定的数据集。该算法将回归问题视为一个双目标任务,并通过优先选择具有较少回归系数和较好拟合优度的模型来探索Pareto最优(最佳子集)模型。可以基于样本内或泛化误差最小化来执行模型探索。建议分两步进行模型选择。首先,我们生成帕累托最优回归模型的边界,通过消除主导模型,没有任何用户干预。其次,执行决策过程,允许用户使用可视化和简单的度量来选择最喜欢的模型。该方法已被评估最近公布的真实数据集在美国境内的社区和犯罪。
2016-07-13 cs.NE stat.AP stat.CO
Robust Subset Selection by Greedy and Evolutionary Pareto Optimization
子集选择的目的是从基集中选择一个子集,以最大化某个目标函数,出现在各种应用中,如影响力最大化和传感器布局。然而,在现实世界的场景中,人们经常需要找到一个子集,该子集对(即,由于不确定性,在多个可能的目标函数上是好的,导致鲁棒子集选择的问题。本文考虑具有单调目标函数的鲁棒子集选择,放松了以前研究所要求的次模性质。我们首先表明,贪心算法可以获得一个近似比$1-e^{-βγ}$,其中$β$和$γ$是相关性和子模块比的目标函数,分别,然后提出EPORSS,进化Pareto优化算法,可以利用更多的时间来找到更好的子集。我们证明EPORSS也可以在理论上接地,实现类似的近似保证的贪心算法。此外,我们推导出了$β$的鲁棒影响力最大化的应用下界,并进一步进行实验,以验证贪心算法和EPORSS的性能。
2022-05-08 cs.CC cs.NE
Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting
University of Murcia(穆尔西亚大学)
提出一种嵌入LSTM的多目标进化特征选择方法,通过分区优化和堆叠集成提升泛化能力,并在空气质量数据上验证优于现有方法。
2023-12-29 cs.LG cs.NE
Artificial Mutation inspired Hyper-heuristic for Runtime Usage of Multi-objective Algorithms
在过去的几年中,多目标进化算法(MOEA)已被应用到不同的软件工程问题,许多相互冲突的目标,同时优化。从理论上讲,进化算法具有很好的运行时优化特性,因为它们可以在任何执行时间提供解决方案。在实践中,基于达尔文启发的自然选择,这些进化算法产生了许多死产的解决方案,其计算导致了计算资源的浪费:自然选择自然是缓慢的。在本文中,我们通过观察现代生物学研究,重新考虑了这一基本类比,以加速MOEA的收敛:人工选择已被用于实现预期的特定目的,而不仅仅是依靠交叉和自然选择(即,Muller等[18]用X射线对水果进行人工诱变的研究)。抛开与自然选择的类比,本文提出了一种超启发式MOEA算法命名为Sputnik 1,使用人工选择性变异,以提高收敛速度的MOEA。Sputnik利用过去的突变效率历史来选择最相关的突变来执行。我们评估Sputnik上的云推理引擎,它驱动按需配置,同时考虑冲突的性能和成本目标。我们已经进行了实验,以突出Sputnik在分辨率时间方面的显着性能改进。
2014-02-18 cs.NE cs.SE
Compact NSGA-II for Multi-objective Feature Selection
Ontario Tech University(安大略理工大学);Brock University(布鲁克大学);Wilfrid Laurier University(威尔弗里德劳里埃大学)
本文提出二元紧凑型NSGA-II算法,用多个概率向量代替双种群进行多目标特征选择,在五个数据集上以更低内存取得优于NSGA-II的超体积性能。
2024-02-20 cs.LG cs.NE
Non-elitist Evolutionary Multi-objective Optimizers Revisited
自2000年以来,人们一直认为精英进化多目标优化算法(EMOAs)总是优于非精英EMOAs。本文回顾了非精英EMOA的性能双目标连续优化时,使用无界的外部档案。本文研究了两个精英和一个非精英环境选择的EMOAs的性能。在COCO平台提供的双目标BBOB问题集上对EMOA的性能进行了评估。与传统的智慧相比,结果表明,非精英EMOAs与特定的交叉方法执行显着良好的双目标BBOB问题,许多决策变量时,使用无界的外部档案。本文还分析了非精英选择的性质。
2020-09-30 cs.NE
Multi-objective Binary Coordinate Search for Feature Selection
Ontario Tech University(安大略理工大学);Brock University(布罗克大学);Wilfrid Laurier University(威尔弗里德劳里埃大学)
本文提出首个多目标坐标搜索算法MOCS,通过翻转Pareto前沿候选解的单变量生成新特征子集,在大规模特征选择中显著优于NSGA-II,且无需超参数、计算效率更高。
2024-02-20 cs.LG cs.NE
A Parallel MOEA with Criterion-based Selection Applied to the Knapsack Problem
在本文中,我们提出了一个并行多目标进化算法称为并行标准为基础的分区MOEA(PCPMOEA),与应用程序的多目标背包问题(MOKP)。建议的搜索策略是基于潜在的有效解,这是分布到多个多目标进化算法(MOEAs)的周期性分区。每个MOEA都致力于一个单一的目标,其中它结合了基于标准和基于优势的方法。该算法解决了两个主要的子目标:最小化当前非支配解与理想点之间的距离,并确保潜在的有效解的传播。包括实验结果,我们评估的性能,建议的算法对上述子目标,与国家的最先进的结果相比,使用著名的多目标元分析。
2018-11-06 cs.NE math.OC
A fuzzy adaptive evolutionary-based feature selection and machine learning framework for single and multi-objective body fat prediction
本文提出了一种融合模糊集理论和进化算法的特征选择与机器学习框架,用于提升身体脂肪预测的准确性与稳定性,同时解决多目标优化中的冲突问题。
2025-03-07 cs.LG cs.NE
Towards Multi-Objective High-Dimensional Feature Selection via Evolutionary Multitasking
针对现有基于EMT的特征选择方法在知识获取、利用和迁移上的局限,本文提出多目标高维特征选择框架MO-FSEMT,通过构建多辅助任务、独立种群与多求解器优化及特定知识迁移机制,在26个数据集上取得优于现有方法的性能。
2024-01-03 cs.NE
Guiding Multi-Objective Genetic Programming with Description Length Improves Symbolic Regression Solutions
Astrophysics, University of Oxford(牛津大学天体物理学系);Institute of Cosmology & Gravitation, University of Portsmouth(朴茨茅斯大学宇宙学与引力研究所)
本文研究了如何利用描述长度(DL)和分数贝叶斯因子(FBF)作为数据高效的方法,替代启发式方法来选择泛化性好的紧凑表达式,从而改进符号回归的解决方案。
2026-05-21 cs.NE stat.ML
Reference Vector Adaptation and Mating Selection Strategy via Adaptive Resonance Theory-based Clustering for Many-objective Optimization
针对多目标优化中参考向量自适应未充分利用拓扑结构且聚类性能有限的问题,提出基于自适应共振理论聚类的进化算法,同时用于参考向量自适应和交配选择,并在78个测试问题上优于8种主流MOEAs。
2022-05-04 cs.NE
A Frequency-based Parent Selection for Reducing the Effect of Evaluation Time Bias in Asynchronous Parallel Multi-objective Evolutionary Algorithms
Faculty of System Design, Tokyo Metropolitan University(东京都立大学系统工程设计学部)
本文提出一种基于频率的父代选择方法,用于减少异步并行多目标进化算法中评估时间偏差对搜索性能的负面影响。
2022-12-14 cs.DC cs.NE
Three-Objective Integral R2 Subset Selection: NP-Hardness and Submodular Approximation
针对三目标优化中积分R2指标的子集选择问题,证明其NP困难性,同时发现R2改进函数具有单调子模性,从而给出(1-1/e)近似保证的贪心算法。
2026-06-26 cs.CG cs.NE math.OC
An Efficient Multi-Indicator and Many-Objective Optimization Algorithm based on Two-Archive
由于传统的基于支配和分解的多目标优化算法难以解决多目标优化问题,基于指标的算法正在变得越来越重要。然而,以往的基于指标的多目标优化算法存在以下缺陷:1)环境选择过程耗时长; 2)通常需要附加参数。为此,提出了一种基于双档案的多指标多目标优化算法(SRA 3),该算法能够在环境选择中根据指标性能有效地选择优良个体,并采用自适应参数策略进行亲本选择,无需设置额外的参数。然后对算法进行归一化处理,并比较归一化前后的性能,发现归一化处理显著提高了算法的性能。我们还分析了归一化如何影响基于指标的算法,并观察到归一化的$I_{ε+}$指标更好地找到极端的解决方案,并可以减少由于其范围不同而导致的每个目标对指标的贡献程度不同的影响。然而,它也有极端解决方案的偏好,这导致解决方案集收敛到极端。最后,我们给出了一些规范化的建议。然后,在DTLZ和WFG问题上,我们对39个目标分别为5、10和15个的问题进行了实验,结果表明SRA 3在保持高效率的同时具有良好的收敛性和多样性。最后,我们进行了实验DTLZ和WFG问题与20和25个目标,发现本文提出的算法是更有竞争力的比其他算法的目标数量的增加。
2022-01-14 cs.NE
Do We Really Need to Use Constraint Violation in Constrained Evolutionary Multi-Objective Optimization?
约束破坏是设计求解约束多目标优化问题的进化多目标优化算法的基础。然而,在现实世界的黑盒优化场景中,约束违反是很难接近的,这并不罕见。现有的约束进化多目标优化算法的环境选择机制是建立在约束违背的基础上的,当约束函数的形式未知时,这些算法是否仍然有效还不清楚。考虑到这一点,本文选取了四个广泛使用的约束进化多目标优化算法作为基线,并开发了相应的变种,用一个清晰的值来代替约束违反。从我们的实验合成和现实世界的基准测试问题,我们发现,所选算法的性能没有显着影响时,约束违反不用于指导环境选择。
2022-05-28 cs.NE
Edge computing service deployment and task offloading based on multi-task high-dimensional multi-objective optimization
本文将多用户 MEC 的服务部署与任务卸载建模为 MT-HD-MOO 问题,纳入网络可靠性与负载均衡等目标,并提出基于多选策略池的优化算法,仿真验证了其有效性。
2023-12-07 cs.NE
Pareto Optimization with Robust Evaluation for Noisy Subset Selection
Nanjing University(南京大学);Nari Technology Co., Ltd.(南瑞集团有限公司)
本文提出PORE算法,通过最大化鲁棒评估函数和最小化子集规模解决噪声子集选择问题,实验表明其在影响最大化和稀疏回归任务中优于传统方法。
2026-04-21 cs.NE
Running Time Analysis of the Non-dominated Sorting Genetic Algorithm II (NSGA-II) using Binary or Stochastic Tournament Selection
进化算法已被广泛应用于解决多目标优化问题,并已成为最流行的工具。然而,多目标进化分析的理论基础,特别是其基本理论方面,运行时间分析,在很大程度上仍然不发达。现有的几个理论工作主要考虑简单的MOEA,而非支配排序遗传算法II(NSGA-II),可能是最有影响力的MOEA,还没有分析,除了最近的工作考虑一个简化的变体没有交叉。在本文中,我们提出了一个运行时间分析的标准NSGA-II解决LOTZ,OneMinMax和COCZ,三个常用的双目标优化问题。具体来说,我们证明了预期的运行时间(即,适合度评估的数量)是LOTZ的$O(n^3)$,以及OneMinMax和COCZ的$O(n^2\log n)$,这令人惊讶地与先前分析的简单MOEA、GSEMO和SEMO的相同。接下来,我们介绍一种新的父选择策略,随机锦标赛选择(即,$k$锦标赛选择,其中$k$是均匀随机抽样),以取代NSGA-II的二进制锦标赛选择策略,减少所需的预期运行时间为$O(n^2)$的所有三个问题。实验结果表明,LOTZ的运行时间上界是紧的,OneMinMax和COCZ的运行时间上界几乎是紧的.
2022-03-22 cs.NE
Non-Elitist Evolutionary Multi-Objective Optimisation: Proof-of-Principle Results
本文提出一种摒弃精英主义的简单多目标进化算法NE-MOEA,仅用Pareto支配排序进行种群更新,实验证明其在多个组合问题上可与NSGA-II等经典精英算法竞争。
2023-05-26 cs.NE
The impact of objective interactions on the performance of massive objective optimization algorithms
研究目标数量增长及目标交互性质对算法性能的影响,采用诊断基准套件评估多种进化算法,发现问题特征显著影响算法性能,词法选择算法有优势且避免对预定义参考方向的依赖。
2026-07-16 cs.NE
cMLSGA: A Co-Evolutionary Multi-Level Selection Genetic Algorithm for Multi-Objective Optimization
在实际优化中,问题的主要特征往往事先不知道。因此,有必要开发通用求解器,因为它并不总是能够为每个应用程序量身定制专门的方法。混合形式的多级选择遗传算法(MLSGA)由于其多样性优先的方法,已经显示出良好的性能,在一系列的问题,这是罕见的进化算法。为了提高其性能的一般性,本文提出了一套独特的协同进化机制,它定义的协同进化之间的竞争集体,而不是个人。这种独特的共同进化方法提供了子种群之间不太经常的交流,以及个人和集体之间不同的适应度定义。这鼓励集体更独立地采取行动,创造一个独特的次区域搜索,导致共同进化MLSGA(cMLSGA)的发展。为了测试这种方法,选择九个遗传算法来生成cMLSGA的几个变体,其在个体水平上结合了这些方法。新机制在100多个不同的功能上进行了测试,并与9个最先进的竞争对手进行了基准测试,以找到最佳的通用求解器。结果表明,协同进化方法的多样性比它们各自的性能更重要。这允许选择两个竞争算法,提高cMLSGA的通用性,而不会对任何特定问题类型的性能损失很大。与现有技术相比,所提出的方法是最通用和鲁棒的,从而使算法更有可能解决有关搜索空间的知识有限的复杂问题。
2021-04-22 cs.NE
Convex Hull-Based Multi-objective Genetic Programming for Maximizing ROC Performance
在数据采掘中,ROC通常用于分析分类器的性能。ROC凸包(ROCCH)是经验ROC曲线的最小凸优集(LCM),它覆盖了给定分类器集的潜在最优解。通常,ROC性能最大化可以被认为是最大化ROCCH,这也意味着最大化ROC空间中每个分类器的真阳性率(tpr)并最小化假阳性率(fpr)。然而,在ROCCH优化过程中,tpr和fpr彼此冲突。ROCCH最大化问题虽然看起来像是一个多目标优化问题,但其专用字符的特殊性使其不同于传统的多目标优化问题。在这项工作中,我们将讨论它们之间的差异,并提出基于凸包的多目标遗传编程(CH-MOGP)来解决ROCCH最大化问题。基于凸包的排序是一种基于指标的选择方案,其目的是最大化凸包下的面积,该面积用作一组点的性能的一元指标。一个选择过程中描述,可以有效地实现,并遵循类似的设计原则比经典的超体积为基础的优化算法。据推测,通过使用定制的基于指标的选择方案CH-MOGP得到更有效的ROC凸包近似比算法,计算所有的Pareto最优点。为了验证我们的假设,我们比较了新的CH-MOGP与MOGP与经典的选择方案,包括NSGA-II,MOEA/D)和SMS-EMOA。同时,将CH-MOGP与C4.5、Naive Bayes、Prie等传统机器学习算法进行了比较。基于22个著名UCI数据集的实验结果表明,CH-MOGP的性能明显优于传统的EMOA。
2013-03-15 cs.NE
An Effective and Efficient Evolutionary Algorithm for Many-Objective Optimization
在进化多目标优化中,有效性是指进化算法如何将其解收敛到帕累托前沿并使其在前沿多样化。这不是一件容易的工作,特别是对于具有三个以上目标的优化问题,称为多目标优化问题。在这样的问题中,经典的基于帕累托的算法无法向帕累托前沿提供足够的选择压力,而最近开发的算法(诸如基于分解的算法)可能难以在某些问题上维持一组分布良好的解决方案(例如,不规则的Pareto前沿)。在一些多目标优化器中的另一个问题是随着目标的数量而快速增加的计算需求,例如基于超体积的算法和基于移位的密度估计(SHIP)方法。在本文中,我们的目标是解决这个问题,并开发一个有效的和高效的进化算法(E3A),可以处理各种多目标问题。在E3A中,受环境选择的启发,提出了一种新的种群维护方法来选择高质量的解决方案。我们进行了广泛的实验,并表明,E3A表现优于11个国家的最先进的多目标进化算法,快速找到一组收敛良好,多样化的解决方案。
2022-10-25 cs.NE
Enhanced Optimization with Composite Objectives and Novelty Pulsation
多目标搜索的一个重要好处是它保持了候选人的多样性,这特别有助于欺骗性问题。然而,并非所有的多样性都是有用的:只优化一个目标而忽略其他目标的候选人很少有帮助。最近的一个解决方案是用它们的线性组合来取代原来的目标,从而将搜索集中在目标之间最有用的权衡上。为了弥补多样性的损失,这种转变伴随着一种有利于新颖性的选择机制。本文进一步改进了这种方法,通过引入新颖性脉动,即一个系统的方法之间的交替新颖性选择和局部优化。在发现最小排序网络的高度欺骗性问题中,它比以前更快地找到了最先进的解决方案。事实上,到目前为止,我们的方法已经建立了一个新的世界纪录,20线排序网络与91个比较器。在现实世界的股票交易问题中,它发现了在看不见的数据上更好地推广的解决方案。因此,复合新奇脉动是一种通过多目标优化解决欺骗性现实问题的有前途的方法。
2019-08-05 cs.NE
Big Models for Big Data using Multi objective averaged one dependence estimators
Utkal University(乌特卡尔大学)
尽管许多研究者试图探索多目标特征选择的各种可能性,但在数据采掘的应用中,它仍然有待于充分发挥其能力,而不是去开发新的应用。本文采用多目标进化算法ENORA对多类分类问题进行特征选择。为了获得一个快速的混合分类器,该分类器可以有效地从大数据中学习,将朴素贝叶斯算法的一种变体--平均n依赖估计量(n=1)与ENORA算法的有效特征选择相融合。该方法旨在解决从完整数据中寻找最优特征子集这一目前仍是一个难题。所获得的分类器的有效性进行了广泛的评估与一系列最流行的21个现实世界的数据集,从小到大。所获得的结果是令人鼓舞的时间,均方根误差,零一损失和分类精度。
2016-10-25 cs.LG cs.NE
Multi-objective Evolutionary Approach to Grey-Box Identification of Buck Converter
本研究提出了一个简单的灰箱识别方法来模拟一个真正的DC-DC降压转换器工作在连续导通模式。与观察到的动态数据,这往往是在一个相对较窄的输入范围内获得的信息空洞相关联的问题,通过利用已知的降压转换器的静态行为作为先验知识得到缓解。基于术语簇的概念,提出了一种简单的方法来确定候选模型的静态响应。然后将静态行为中的误差直接嵌入到结构选择的多目标框架中。从本质上讲,该方法将灰箱识别问题转换为一个多目标框架,以平衡模型构建的偏差-方差困境,同时明确地将先验知识集成到结构选择过程中。调查的结果,考虑到实际的降压转换器的情况下,表明它是可能的,以确定简约的模型,可以捕获系统的动态和静态行为在很宽的输入范围。
2020-02-20 cs.NE cs.SY eess.SY