Graph based adaptive evolutionary algorithm for continuous optimization
目前广泛使用的进化算法的最大缺点是由于种群多样性在世代间的丧失而导致的过早收敛。为了克服这个问题,已经提出了几种算法,例如基于图的进化算法(GEA)\cite{1},其使用图来对种群的结构进行建模,而且还设计了模因或差分进化算法\cite{2,3}或基于多样性的算法\cite{4,5}。这些算法都是基于多种群的,或者说往往侧重于自调整参数,然而,他们变得复杂,因为他们的大量参数调整。在本文中,我们的方法包括一个进化算法,它允许一个动态适应的搜索算子的基础上的图,以限制多样性的损失,降低设计的复杂性。
2019-08-05 cs.DC cs.NE
Influence of Topological Features on Spatially-Structured Evolutionary Algorithms Dynamics
在过去的几十年里,复杂网络理论显着影响了其他学科的静态和动态方面的建模系统在自然界中观察到的。这项工作的目的是研究网络的拓扑特征对进化算法的动力学的影响,特别是考虑到找到大量的多模态问题的最优解的能力。我们介绍了一种新的空间结构的进化算法,我们将其应用于两个组合问题:ONEMAX和多模态NMAX。考虑三种不同的网络模型,我们调查他们的特点之间的关系,算法的收敛性和它的能力,以找到多个最优(多峰问题)。为了进行更深入的分析,我们研究了引入时变权重的加权图。结果表明,具有大的平均路径长度的网络导致更多的最优解和随之而来的缓慢的探索动力学(即低的首次命中时间)。此外,加权网络的引入表明了在算法执行过程中通过与权值变化相关的参数来调整算法动态特性的可能性。这项工作给出了第一个答案的各种图形拓扑结构的多样性的进化算法的影响,它描述了一个简单但功能强大的算法框架,允许调查ssEAs动态的许多方面。
2012-02-08 cs.NE
Memetic Algorithms Beat Evolutionary Algorithms on the Class of Hurdle Problems
模因算法是一种流行的混合搜索算法,它将局部搜索与进化算法的搜索过程相结合,以结合快速开发和全局优化的优点。然而,这些算法并没有得到很好的理解,该领域缺乏坚实的理论基础来解释何时以及为什么模因算法是有效的。我们提供了一个严格的运行时分析的一个简单的模因算法,$(1+1)$ MA,跨栏问题类,景观类的可调难度,显示了“大山谷结构”,一个特征的许多困难的问题,从组合优化。这个类的唯一参数是栏宽w,它描述了必须克服的健身谷的长度。我们发现,$(1+1)$ EA需要$Θ(n^w)$预期的功能评价,以找到最佳的,而$(1+1)$ MA最好的改进和第一次改进的局部搜索可以找到最佳的$Θ(n^2+n^3/w^2)$和$Θ(n^3/w^2)$功能评价,分别。令人惊讶的是,虽然增加障碍宽度使进化算法的问题变得更难,但问题对模因算法来说变得更容易。我们将讨论这些发现如何解释和说明模因算法的成功与大山谷结构的问题。
2018-04-17 cs.NE
MODRL/D-EL: Multiobjective Deep Reinforcement Learning with Evolutionary Learning for Multiobjective Optimization
Sun Yat-sen University(中山大学);Guangdong University of Finance and Economics(广东财经大学)
基于学习的算法求解组合优化问题近年来引起了学术界的广泛关注。虽然大多数现有的作品只考虑单目标问题与简单的约束,许多现实世界的问题有多目标的角度和包含丰富的约束条件。针对带时间窗的多目标车辆路径问题(MO-VRPTW),提出了一种多目标深度强化学习与进化学习算法相结合的方法。在该算法中,分解策略被应用到生成一组注意力模型的子问题。全面的上下文信息的引入,以进一步加强注意力模型。进化学习也被用来微调模型的参数。在MO-VRPTW实例上的实验结果证明了该算法相对于其他基于学习和迭代的方法的优越性。
2021-07-16 cs.AI cs.NE
An Evolutionary Algorithm for Error-Driven Learning via Reinforcement
Chinese Academy of Sciences(中国科学院);University of Southampton(南安普顿大学)
虽然不同的学习系统被协调以提供复杂的行为,但人们对这是如何发生的知之甚少。本文描述了一个理论框架,该框架指定了如何通过简单的强化来获得可能被认为需要错误驱动学习的复杂行为。该框架包括对(人工)神经网络进化机制的具体假设,以生成允许网络仅使用有关其性能质量的信息来学习大规模复杂问题的拓扑结构。该框架的实际和理论意义进行了讨论,是可能的生物类似物的方法。
2015-03-26 cs.AI cs.NE
HyP-ABC: A Novel Automated Hyper-Parameter Tuning Algorithm Using Evolutionary Optimization
Florida International University(佛罗里达国际大学);University of Georgia(佐治亚大学)
机器学习技术在广泛的应用中成为有前途的决策和分析工具。不同的ML算法有不同的超参数。为了针对特定的应用定制ML模型,应该调整大量的超参数。调整超参数直接影响性能(准确性和运行时间)。然而,对于大规模搜索空间,有效地探索超参数的大量组合在计算上是具有挑战性的。现有的自动化超参数整定技术遭受高时间复杂度。在本文中,我们提出了HyP-ABC,一个自动创新的混合超参数优化算法,使用修改后的人工蜂群方法,来衡量三个ML算法,即随机森林,极端梯度提升,和支持向量机的分类精度。与最先进的技术相比,HyP-ABC更有效,并且需要调整的参数数量有限,因此值得用于现实世界的超参数优化问题。我们进一步比较我们提出的HyP-ABC算法与最先进的技术。为了保证算法的鲁棒性,该算法采用了大范围的可行超参数值,并使用真实世界的教育数据集进行了测试。
2021-09-11 cs.LG cs.NE
Hybridizing the 1/5-th Success Rule with Q-Learning for Controlling the Mutation Rate of an Evolutionary Algorithm
众所周知,进化算法(EA)实现峰值性能只有当它们的参数被适当地调整到给定的问题。更重要的是,已知最佳参数值可以在优化过程期间改变。参数控制机制是为识别和跟踪这些值而开发的技术。最近,一系列严格的理论工作证实了一些参数控制技术的优越性,最好的静态参数的EA。在这些结果中,有在优化OneMax问题时控制$(1+λ)$ ~EA的突变率的示例。然而,在[Rodionova等人,GECCO'19],这些技术的质量强烈依赖于后代群体大小$λ$。在这项工作中,我们介绍了一种新的混合参数控制技术,它结合了著名的五分之一成功规则与Q学习。我们证明,我们的HQL机制实现了与[Rodionova等人,GECCO'19]和这-与以前的参数控制方法相反-同时用于所有后代群体大小$λ$。我们还表明,HQL的性能并不局限于OneMax,而是扩展到其他几个基准问题。
2020-06-19 cs.NE
Lens-descriptor guided evolutionary algorithm for optimization of complex optical systems with glass choice
Leiden University(莱顿大学);ASML(阿斯麦)
提出LDG-EA算法,通过行为描述符和概率模型优化复杂光学系统,生成多样化的高质量透镜设计。
2026-01-29 cs.NE
Adaptive Structural Hyper-Parameter Configuration by Q-Learning
Xi’an Jiaotong University(西安交通大学)
进化算法的超参数调整是计算智能领域的一个重要问题。进化算法的性能不仅取决于其运行策略的设计,而且还取决于其超参数。超参数可以分为结构/数值和时不变/时变两个维度。特别是,在现有的研究中,结构超参数通常是预先调整的时不变参数,或与手工制作的调度时不变参数。本文首次尝试将结构超参数的调整建模为一个强化学习问题,并提出通过Q学习来调整CEC 2018 winner算法中控制计算资源分配的结构超参数。在CEC 2018测试函数上的实验结果表明,该算法优于优胜者算法。
2020-03-02 cs.AI cs.NE
Evolutionary Robust Clustering Over Time for Temporal Data
针对现有动态聚类将时间平滑性作为先验偏好易导致意外收敛的问题,提出随时间演化鲁棒聚类框架,以后验方式处理平滑性并自动调权,无需亲和矩阵与预定义参数。
2021-06-14 cs.NE
Comparative Studies on Decentralized Multiloop PID Controller Design Using Evolutionary Algorithms
Department of Power Engineering, Jadavpur University(贾达普大学动力工程系)
本文提出一种分散PID控制器设计框架,通过最小化ITSE和ISCO的加权和来平衡多变量系统的跟踪误差与操纵变量变化,并利用遗传算法、进化策略和文化算法三种进化算法优化控制器增益,在四个基准2x2多变量过程中进行仿真比较。
2013-01-05 cs.NE cs.SY eess.SY
Hybrid Self-Attention NEAT: A novel evolutionary approach to improve the NEAT algorithm
本文提出混合自注意力NEAT,利用自注意力选择高维输入的关键部分并混合进化权重,克服原始NEAT局限,在Atari游戏中以更少参数取得可比分数。
2022-08-14 cs.AI cs.NE
An Adaptive and Near Parameter-free Evolutionary Computation Approach Towards True Automation in AutoML
Victoria University of Wellington(惠灵顿维多利亚大学)
演化计算方法的一个共同主张是,它们可以在不需要人为干预的情况下获得良好的结果。然而,对此的一个批评是,仍然有一些超参数必须调整才能获得良好的性能。在这项工作中,我们提出了一个近“无参数”的遗传编程方法,它适应整个进化过程中的超参数值,而无需手动指定。我们将其应用于自动化机器学习领域(通过扩展TPOT),以产生可以有效地声称不受人类输入的管道,并表明结果与现有的使用手动选择的超参数值的最先进技术具有竞争力。管道从随机选择的估计器开始,并自动演变为竞争管道。这项工作朝着真正自动化的AutoML方向发展。
2020-01-28 cs.AI cs.LG cs.NE
Exploring the effectiveness of surrogate-assisted evolutionary algorithms on the batch processing problem
University of Johannesburg(约翰内斯堡大学)
现实世界的优化问题通常具有无法解析表达的目标函数。这些优化问题通过昂贵的物理实验或模拟来评估。目标函数的廉价近似可以减少解决这些昂贵的优化问题的计算要求。这些廉价的近似可以是机器学习或统计模型,并且被称为代理模型。本文介绍了一个著名的批处理问题在文献中的模拟。采用遗传算法、差分进化算法等进化算法求解最优调度问题。然后,我们比较质量的替代辅助版本的算法对基线算法获得的解决方案。代理援助是通过概率代理援助框架(PSAF)实现的。结果突出了通过代理改进基线进化算法的潜力。对于不同的时间范围,解决方案的评价方面的几个质量指标。结果表明,PSAF辅助遗传算法(PSAF-GA)和PSAF辅助DE(PSAF-DE)在某些时间范围内提供了改善。在其他情况下,它们要么保持溶液,要么显示出某种程度的恶化。结果还强调了调整代理辅助框架使用的超参数的必要性,因为在某些情况下,代理在基线算法上显示出一些恶化。
2022-10-31 cs.LG cs.NE
Self-Adjusting Population Sizes for Non-Elitist Evolutionary Algorithms: Why Success Rates Matter
进化算法(Evolutionary Algorithms,EA)是一种通用的优化器,它带有几个参数,如父代和后代种群的大小或突变率。众所周知,EA的性能可能极大地取决于这些参数。最近的理论研究表明,在算法运行过程中调整参数的自调整参数控制机制可以证明优于离散问题的EA中的最佳静态参数。然而,这些研究大多数涉及精英的选举机构,我们没有一个明确的答案,同样的机制是否可以适用于非精英的选举机构。我们研究了最著名的参数控制机制之一,五分之一成功规则,以控制后代人口规模$λ$在非精英$(1,λ)$ EA。已知$(1,λ)$ EA相对于$λ$的选择具有尖锐的阈值,其中基准函数OneMax上的预期运行时间从多项式时间变为指数时间。因此,不清楚参数控制机制是否能够找到并保持$λ$的合适值。对于OneMax,我们表明答案关键取决于成功率$s$(即,e.一次$(s+1)$成功规则)。我们证明,如果成功率是适当的小,自调整$(1,λ)$ EA优化OneMax在$O(n)$预期的世代和$O(n \log n)$预期的评价,最好的运行时间为任何一元无偏黑箱算法。一个小的成功率是至关重要的:我们还表明,如果成功率太大,该算法在OneMax和其他具有类似特征的函数上具有指数运行时间。
2022-10-12 cs.NE
Smart Buildings Energy Consumption Forecasting using Adaptive Evolutionary Ensemble Learning Models
针对智能建筑能耗预测因时序波动和复杂模式存在的挑战,提出三种融合Bagging、Stacking、Voting机制与进化超参数调优的混合集成模型,经比利时实测数据集与15种主流模型对比,自适应进化bagging模型准确率最优。
2025-06-13 cs.NE
CosmoCore-Evo: Evolutionary Dream-Replay Reinforcement Learning for Adaptive Code Generation
Microsoft Corporation(微软公司)
CosmoCore-Evo通过进化算法提升代码生成的适应性和新颖性,实现更高性能和更快适应。
2025-12-20 cs.AI cs.NE cs.SE
A Block-Coordinate Descent EMO Algorithm: Theoretical and Empirical Analysis
Laboratoire d’Informatique (LIX)(信息学实验室(LIX));CNRS(法国国家科学研究中心);École Polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎理工学院);Schlumberger Cambridge Research(斯伦贝谢剑桥研究院);SLB(SLB公司);The University of Adelaide(阿德莱德大学)
本文提出块坐标下降版本的GSEMO算法,通过理论分析与双目标测试函数实验,证明其在某些情况下比标准GSEMO运行更快,为多目标优化中的块坐标下降应用提供新见解。
2024-04-11 cs.AI cs.NE
Recorded Step Directional Mutation for Faster Convergence
Aptex Software(Aptex软件公司)
本文描述的两种元进化优化策略加速了进化规划算法的收敛,同时仍然保留了它们处理多模态问题的能力。这两种策略分别称为定向变异和记录步,它们可以独立操作,但结合在一起可以极大地提高进化规划算法处理以狭长谷为特征的适应度景观的能力。该组合方法的定向突变方面使用相关元突变,但不引入完整的协方差矩阵。因此,这些新方法在高维问题的存储方面更加经济。此外,方向突变是旋转不变的,这是相对于自适应方法的实质性优势,自适应方法针对问题的自然取向不沿轴取向的问题使用每个坐标的单个方差。
2009-03-26 cs.LG cs.NE
TRUST-TAEA: A trustworthiness-guided two-archive evolutionary algorithm with variable-grouping sparse search for large-scale multi-objective optimization
Southwest Petroleum University(西南石油大学);Jagiellonian University in Krakow(克拉科夫雅盖隆大学)
针对大规模多目标优化问题,提出一种基于存档可信度引导的双存档进化算法TRUST-TAEA,通过变量分组稀疏搜索、锚点探测补偿搜索和存档稳定机制,在收敛性、多样性和稳定性上取得优越性能。
2026-05-26 cs.NE math.OC
Hierarchical Surrogate Modeling for Illumination Algorithms
进化照明是一种新的技术,它允许在手动定义的特征的地图中产生许多不同的最佳解决方案。为了支持大量的目标函数评估,最近引入了代理模型辅助。光照模型需要比传统的代理模型表示更多、不同的最优区域。在这篇博士论文中,我们提出了分解样本集,降低模型的复杂性,分层分割的训练集,根据其在特征空间中的坐标。然后可以训练不同模型的集合以充当照明的替代。
2017-03-29 cs.NE
Performance Evaluation of Evolutionary Algorithms for Analog Integrated Circuit Design Optimisation
本文提出一种基于演化算法的模拟电路自动尺寸调整方法,通过粒子生成与修复边界函数实现定向搜索,修改并测试了四种算法,发现修改版人工蜂群算法在收敛速度和一致性上表现最优。
2023-10-19 cs.NE cs.SY eess.SY
Playing Against the Board: Rolling Horizon Evolutionary Algorithms Against Pandemic
Institute of Digital Games, University of Malta(马耳他大学数字游戏研究所)
竞技棋盘游戏为人工智能提供了丰富多样的测试平台。本文认为,协同棋盘游戏对人工智能提出了不同的挑战,因为它必须平衡短期风险缓解与长期获胜策略。合作棋盘游戏要求所有玩家协调他们不同的力量或集中他们的资源,以克服棋盘和随机规则带来的不断升级的挑战。本文以协同棋盘游戏Pandemic为例,提出了一种滚动时域进化算法。大流行病博弈状态的变化是随机的,但这种变化是可预测的,这种复杂的变化方式需要许多专门设计的前向模型、决策的宏观行动表示以及进化算法的遗传操作的修复函数。探索乐观与悲观的游戏状态评估,不同的突变率和事件视野的算法的变体进行了比较,对基线层次的政策代理。结果表明,通过短期推出的渐进方法可以更好地解释董事会可能引入的未来危险,并防范它们。结果突出了协作棋盘游戏对人工智能构成的挑战类型,特别是在处理多玩家协作交互方面。
2021-03-28 cs.AI cs.MA cs.NE
Extremal Optimization: an Evolutionary Local-Search Algorithm
最近推出的通用启发式寻找高质量的解决方案,许多困难的优化问题进行审查。该方法的灵感来自最近的进展,在了解远离平衡现象的{ \em自组织临界性,}一个概念,介绍了描述紧急复杂的物理系统。这种方法称为{ \em极值优化},它连续地用新的随机变量替换次优解中极不需要的变量的值。成本函数中的大的雪崩式波动从这种动态中自组织,有效地缩放障碍以探索配置空间的遥远邻域中的局部最优值,同时消除了调整参数的需要。利用用于模拟粒状介质、演化或地质动态的模型,极值优化补充了受平衡统计物理学启发的近似方法,如{ \em模拟退火}。这可能只是将对{ \em非平衡现象}的新见解系统地应用于硬优化问题的一个例子。这种方法是广泛适用的,到目前为止,已被证明具有竞争力-甚至优于-更详细的通用算法的约束优化问题的测试床多达$10^5$变量,如bipartitioning,着色,可满足性。分析一个合适的模型预测的唯一自由参数的方法,根据所有的实验结果。
2002-09-26 cs.AI cs.NE
A collaborative decomposition-based evolutionary algorithm integrating normal and penalty-based boundary intersection for many-objective optimization
Guangzhou University(广州大学);South China University of Technology(华南理工大学)
近年来,基于分解的进化算法在多目标优化问题中得到了广泛的应用。然而,现有的分解方法对多目标优化问题边界形状的多样性仍然十分敏感。一方面,锥分解方法,如基于惩罚的边界相交(PBI)是无法获得均匀的边界与非常凸的边界的MaOP。另一方面,包括正常边界相交(NBI)的平行分解方法的平行参考线可能会导致差的多样性,因为在具有凹边界的MaOP的边界附近的采样不足。本文首先提出了一种协同分解方法,该方法综合了并行分解和锥分解的优点,克服了各自的缺点。该方法继承了NBI型切比雪夫函数作为收敛度量,提高了PBI方法的收敛性和分布均匀性。此外,该方法还自适应调整的程度旋转NBI参考线对PBI参考线的每个子问题,以提高分布的多样性的NBI方法。在此基础上,提出了一种基于协同分解的多目标优化进化算法(CoDEA)。在CoDEA中设计了一种基于协作分解的环境选择机制,对边界层中与同一PBI参考线相关的所有个体进行排序,并选出最佳排序。在85个基准测试实例上将CoDEA与几种流行的算法进行了比较。实验结果表明,CoDEA算法在收敛性、均匀性和分布多样性之间保持了较好的平衡,具有较高的竞争力。
2022-04-14 cs.AI cs.NE
A Tailored NSGA-III Instantiation for Flexible Job Shop Scheduling
Leiden University(莱顿大学)
针对多目标柔性作业车间调度问题,提出了一种定制的多目标进化算法。它使用智能初始化方法来丰富第一个生成的种群,并提出了各种交叉算子,以创建一个更好的多样性的后代。特别地,采用了可调算法参数的MIP-EGO配置器来自动调整算子概率。此外,采用不同的局部搜索策略,探索更好的解决方案的邻域。通常,算法增强策略可以与任何标准EMO算法集成。在本文中,它已与NSGA-III解决基准多目标FJSP,而现成的NSGA-III的实现是不能解决FJSP。实验结果表明,该算法具有良好的性能和较小的计算开销.
2020-04-14 cs.AI cs.NE
A Study of the Fundamental Parameters of Particle Swarm Optimizers
传统优化方法的应用范围受到目标变量、目标函数和约束函数的特点的限制。相比之下,基于种群的算法,其优化能力是新兴的属性,如进化算法和粒子群优化,目前几乎没有限制这些功能,可以处理不同的优化问题,很少或根本没有适应。它们的主要缺点是计算量大,处理等式约束困难。粒子群优化方法有时被视为一种进化算法,因为它们有许多相似之处,尽管它们并不受相同的隐喻的启发:它们考虑到以前的经验并使用随机算子来引入新的响应来进化一群个体。进化算法相对于传统方法的优势已经在文献中讨论了几十年。虽然粒子群优化算法具有这样的优点,但与进化算法相比,它们的主要可取之处在于计算成本较低,实现更容易,不涉及算子设计和需要调整的参数很少。然而,即使是轻微的修改,这些参数大大影响的动态群。本文讨论了粒子速度更新方程参数的设置对系统行为的影响。
2021-01-25 cs.NE math.OC
Particle Swarm Optimization: Development of a General-Purpose Optimizer
传统方法的应用范围非常有限,主要受到待优化函数和约束函数的特性的限制。相比之下,进化算法目前几乎没有限制这些功能的功能,虽然最合适的约束处理技术仍然是一个悬而未决的问题。粒子群优化(PSO)方法有时被视为另一种进化算法,因为它们有许多相似之处,尽管没有受到相同隐喻的启发。也就是说,他们考虑到以前的经验,并使用随机算子引入新的反应,进化出一个种群。进化算法相对于传统方法的优势已经在文献中讨论了几十年。虽然所有这些优点都是有效的,当比较粒子群算法的范例,传统的方法,其主要优点是相对于进化算法包括其显着降低计算成本和更容易实现。事实上,普通版本可以用几行代码编程,不涉及操作符设计和需要调优的参数。本文论述了三个重要方面的方法:影响的参数'调整的行为的系统;停止标准的设计,使可靠性的解决方案,发现可以在某种程度上估计和计算成本可以节省;和发展适当的技术来处理约束,鉴于原方法是设计用于无约束优化问题。
2021-01-25 cs.NE math.OC
Island-Based Evolutionary Computation with Diverse Surrogates and Adaptive Knowledge Transfer for High-Dimensional Data-Driven Optimization
South China University of Technology(华南理工大学);Singapore Management University(新加坡管理学院);Nankai University(南开大学)
本文提出DSKT-DDEA算法,通过多样替代模型和自适应知识转移提升高维数据驱动优化的性能
2025-03-17 cs.LG cs.NE
Multiobjective Evolutionary Component Effect on Algorithm behavior
IRIT - CNRS UMR5505, University of Toulouse(图卢兹大学IRIT(法国国家科学研究中心UMR5505));University of Brasilia(巴西利亚大学);University of Stirling(斯特林大学);University of Tsukuba(筑波大学)
本文提出一种新方法,通过搜索轨迹网络、种群多样性和任意时间超体积值,系统分析自动设计的MOEA/D各组件对算法行为的影响,揭示不同问题类型下组件贡献的差异。
2023-07-31 cs.AI cs.NE
Resolving the Exploration-Exploitation Dilemma in Evolutionary Algorithms: A Novel Human-Centered Framework
针对进化算法中的探索-利用困境,提出以人为中心的两阶段搜索框架HCTPS,通过外部参数SSCP实现独立协调控制与自适应调节,在保障收敛机制的同时提升了搜索空间覆盖率,且设计上算法无关。
2025-04-01 cs.NE math.OC
Particle Swarm Optimization: Fundamental Study and its Application to Optimization and to Jetty Scheduling Problems
进化算法相对于传统方法的优势已经在文献中进行了大量的讨论。虽然粒子群优化算法具有这些优点,但它们优于进化算法,因为它们需要更低的计算成本和更容易的实现,不涉及算子设计和很少的系数需要调整。然而,即使这些系数的设置的边际变化也会极大地影响群的动态。由于本文不打算研究他们的调整,通用的设置是从以前的研究,几乎相同的算法用于优化各种显着不同的问题。因此,在审查的范式,该算法进行了测试的一组基准函数和工程问题,从文献中。后来,补充行的代码被纳入适应组合优化的方法,因为它发生在调度问题,并解决了一个真实的情况下,使用相同的优化器与相同的设置。其目的是显示该方法的灵活性和鲁棒性,可以处理各种各样的问题。
2021-01-25 cs.NE math.OC