Reinforced Evolutionary Neural Architecture Search
National Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所模式识别国家重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Horizon Robotics(地平线机器人);Huazhong University of Science and Technology(华中科技大学)
神经网络结构搜索(NAS)是网络设计中一项重要而又具有挑战性的任务,因为它的计算量很大。为了解决这个问题,我们提出了增强进化神经结构搜索(RE-NAS),这是一种进化方法与增强变异的NAS。该方法将强化变异引入神经结构探索的进化算法中,引入变异控制器,学习微小修改的影响,并进行变异操作。增强的变异控制器引导模型种群有效地进化。此外,由于子模型可以在进化过程中继承其父模型的参数,因此我们的方法需要非常有限的计算资源。在实验中,我们进行了CIFAR-10的搜索方法,并获得了一个强大的网络架构,RENASNet。该架构在CIFAR-10上取得了有竞争力的结果。探索的网络架构可转移到ImageNet,并实现了新的最先进的准确性,即,在移动ImageNet上使用5.36 M参数获得75.7%的top-1准确率。我们进一步测试其性能的语义分割与DeepLabv 3上的PASCAL VOC。RENASNet优于MobileNet-v1、MobileNet-v2和NASNet。它在没有经过COCO预训练的情况下实现了75.83%的mIOU。
2019-04-10 cs.CV cs.LG cs.NE
Evolutionary Neural Architecture Search for Transformer in Knowledge Tracing
Anhui University(安徽大学);Key Laboratory of Intelligent Computing and Signal Processing of Ministry of Education(教育部智能计算与信号处理重点实验室);Guangdong University of Foreign Studies(广东外语外贸大学)
针对现有基于Transformer的知识追踪方法存在的手动选特征、单一全局建模难捕捉遗忘行为的问题,提出进化神经架构搜索方法,自动选特征并平衡局部/全局上下文建模,在两大教育数据集上验证了有效性。
2023-10-02 cs.AI cs.LG cs.NE
Hierarchical Representations for Efficient Architecture Search
Carnegie Mellon University(卡内基梅隆大学);DeepMind
我们探索有效的神经架构搜索方法,并表明一个简单而强大的进化算法可以发现新的架构具有优异的性能。我们的方法结合了一种新的层次遗传表示方案,模仿人类专家通常采用的模块化设计模式,和一个富有表现力的搜索空间,支持复杂的拓扑结构。我们的算法有效地发现了优于大量手动设计的图像分类模型的架构,在CIFAR-10上获得了3.6%的前1错误,在转移到ImageNet时获得了20.3%的前1错误,这与现有的最佳神经架构搜索方法相比具有竞争力。我们还使用随机搜索呈现结果,在CIFAR-10上实现了0.3%的top-1准确率,在ImageNet上减少了0.1%,同时将搜索时间从36小时减少到1小时。
2018-02-22 cs.CV cs.LG cs.NE
Real-time Federated Evolutionary Neural Architecture Search
University of Surrey(萨里大学)
联邦学习是一种分布式机器学习方法,用于隐私保护,两个主要的技术挑战阻碍了联邦学习的更广泛应用。一个是联邦学习对通信提出了很高的要求,因为大量的模型参数必须在服务器和客户端之间传输。另一个挑战是,在联邦学习中训练深度神经网络等大型机器学习模型需要大量的计算资源,这对于手机等边缘设备来说可能是不现实的。当在联邦学习中执行深度神经架构搜索时,问题变得更糟。为了解决上述挑战,我们提出了一种进化的方法来实时的【形】联邦神经架构搜索,不仅优化模型的性能,但也减少了本地负载。在搜索过程中,引入了双采样技术,其中对于每个个体,主模型的随机采样子模型被传输到多个随机采样的客户端进行训练,而无需重新初始化。这样,我们有效地减少了进化优化所需的计算和通信开销,避免了局部模型的大的性能波动,使得所提出的框架非常适合于实时的【形】联邦神经结构搜索.
2020-03-04 cs.DC cs.LG stat.ML
Construction of Hierarchical Neural Architecture Search Spaces based on Context-free Grammars
University of Freiburg(弗赖堡大学);University of Oxford(牛津大学)
本文提出基于上下文无关文法的统一分层NAS搜索空间构建框架,并设计适配贝叶斯优化的分层核,以支持在超大空间中搜索完整架构并取得优于现有方法的效果。
2023-12-08 cs.AI cs.CV cs.LG
CatGAN: Category-aware Generative Adversarial Networks with Hierarchical Evolutionary Learning for Category Text Generation
Sun Yat-sen University(中山大学)
生成多类文本是一项具有挑战性的任务,并引起了越来越多的关注。由于生成对抗网络(GANs)在一般文本生成方面表现出了竞争性的结果,因此在以前的一些工作中,它们被扩展到类别文本生成。然而,复杂的模型结构和学习策略限制了它们的性能,加剧了训练的不稳定性。本文提出了一种类别感知的GAN(CatGAN),它由一个有效的类别感知的类别文本生成模型和一个用于训练我们的模型的分层进化学习算法组成。类别感知模型直接测量每个类别上真实样本和生成样本之间的差距,然后缩小这个差距将指导模型生成高质量的类别样本。Gumbel-Softmax松弛进一步将我们的模型从用于在离散数据上更新CatGAN的复杂学习策略中解放出来。此外,仅关注样本质量通常会导致模式坍塌问题,因此引入分层进化学习算法来稳定训练过程,并在训练CatGAN时获得质量和多样性之间的权衡。实验结果表明,CatGAN优于大多数现有的最先进的方法。
2019-11-20 cs.CL cs.LG cs.NE
Enhancing hierarchical surrogate-assisted evolutionary algorithm for high-dimensional expensive optimization via random projection
代理辅助进化算法(SAEAs),特别是分层SAEAs,通过显著减少真实适应度评价,在求解计算量大的优化问题中已被证明是有效的。分层SAEA的成功主要得益于其被称为“不确定性的祝福”的全局代理模型的潜在好处和局部模型的高精度。然而,它们的性能留下了改进的空间,因为现在它仍然是具有挑战性的,以建立足够准确的局部模型,由于巨大的解决方案空间的高维问题。针对这一问题,本研究提出了一种新的分层SAEA通过训练本地代理模型的帮助下,随机投影技术。该算法首先将训练样本随机投影到一组低维子空间上,然后在每个子空间上训练一个代理模型,最后通过对得到的模型进行平均来评价候选解,而不是在原始的高维解空间中进行训练。在100维和200维的6个基准函数上的实验结果表明,随机投影可以显著提高局部代理模型的精度,新提出的分层SAEA算法与现有的SAEA算法相比具有明显的优势
2021-03-01 cs.NE
A Hierarchical Importance-Guided Multi-objective Evolutionary Framework for Deep Neural Network Pruning
Wilfrid Laurier University(韦仕敦大学)
本文提出一种分层重要性引导的多目标进化框架,用于解决深度神经网络剪枝问题,通过分层进化搜索实现高效的参数压缩与精度平衡。
2026-04-01 cs.NE
Hierarchical Evolutionary Optimization with Predictive Modeling for Stable Delay-Constrained Routing in Vehicular Networks
针对VANETs动态环境下低时延与路由稳定性难以兼顾的问题,提出融合多目标进化优化、增量调整和LSTM预测的分层框架,仿真表明其可保持低时延、高稳定并适应拓扑变化。
2025-03-15 cs.NE cs.NI
Optimized Participation of Multiple Fusion Functions in Consensus Creation: An Evolutionary Approach
Isfahan University of Technology(伊斯法罕理工大学)
最近的研究表明集成方法增强了无监督学习的稳定性和鲁棒性。这些方法被成功地用于构建多个聚类,并将它们组合成一个具有代表性的共识聚类,提高了质量。融合函数的使用直接决定了一致性聚类的质量。通过引入一种新的进化融合函数,对层次聚类集成技术进行了扩展。在所提出的方法中,多层次聚类方法通过装袋产生。然后,利用遗传算法的搜索能力,在不同融合函数的不同聚合聚类方法之间进行一致性聚类。对一些流行的数据集进行了实证研究,并将该方法与常规的聚类集成方法进行了比较。实验结果表明,聚合聚类结果的准确性提高。
2018-05-31 cs.LG cs.NE
SEDIMA: Cross-Run Hierarchical Insight Memory for Evolutionary Search Agents
University of British Columbia(不列颠哥伦比亚大学);Huawei Technologies Canada(华为加拿大技术公司)
SEDIMA通过跨运行的分层洞察记忆,将进化搜索中的经验提炼并复用,在多个基准上显著提升性能并减少迭代次数。
2026-10-05 cs.CL cs.NE
Evolutionary-Neural Hybrid Agents for Architecture Search
Jagiellonian University(雅盖隆大学);Google AI(谷歌人工智能)
神经结构搜索已经显示出自动设计神经网络的潜力。基于深度强化学习的智能体可以学习复杂的架构模式,并探索广阔的组合搜索空间。另一方面,进化算法提供了更高的样本效率,这对于这样的资源密集型应用是至关重要的。为了捕捉这两个世界的最好的,我们提出了一类进化神经混合代理(Evo-NAS)。我们表明,Evo-NAS代理优于神经和进化代理时,适用于一套文本和图像分类基准架构搜索。在一个高复杂度的架构搜索空间的图像分类,Evo-NAS代理超越了常用的代理实现的准确性,只有1/3的搜索成本。
2020-02-15 cs.LG cs.NE stat.ML
Algorithm Discovery With LLMs: Evolutionary Search Meets Reinforcement Learning
EPFL(苏黎世联邦理工学院);Apple(苹果公司)
提出通过强化学习微调持续优化大语言模型,结合进化搜索加速发现更优算法,在组合优化任务上验证有效性。
2025-08-04 cs.AI cs.LG cs.NE
The evolutionary origins of hierarchy
分层组织-子模块的递归组合-在生物网络中无处不在,包括神经,代谢,生态和遗传调控网络,以及人造系统,如大型组织和互联网。到目前为止,大多数关于网络层次结构的研究都局限于量化这一属性。然而,进化生物学中一个悬而未决的重要问题是为什么等级组织首先会进化。最近的研究表明,模块化的发展是因为网络连接的成本的存在。在这里,我们调查是否这样的连接成本也往往会导致这样的模块的层次组织。在计算模拟中,我们发现,没有连接成本的网络不会演变成层次结构,即使任务具有层次结构。然而,随着连接成本的增加,网络发展成为模块化和层次化的网络,这些网络表现出更高的整体性能和可进化性(即更快地适应新环境)。进一步的分析证实,层次结构独立地提高适应性后,控制模块化。总的来说,我们的研究结果表明,同样的力量-连接成本-促进了层次结构和模块化的演变,这些属性是网络性能和适应性的重要驱动因素。这些发现不仅揭示了等级制度在许多领域的出现,还将加速未来在人工智能和机器人领域发展更复杂、更智能的计算大脑的研究。
2015-05-23 cs.NE
Evolutionary Reinforcement Learning via Cooperative Coevolutionary Negatively Correlated Search
Southern University of Science and Technology(南方科技大学)
本文提出NCS友好的协同协同进化框架,以扩展负相关搜索并保留其并行探索行为,在10个Atari游戏上以少50%计算时间显著优于三种最先进深度强化学习方法。
2020-09-08 cs.LG cs.NE
Evolutionary Context Search for Automated Skill Acquisition
Institute of Science Tokyo, Japan(东京科学研究院)
进化上下文搜索通过进化方法发现非显而易见的上下文配对,显著提升模型性能,为自动化技能获取提供高效替代方案。
2026-02-18 cs.LG cs.NE
HEAS: Hierarchical Evolutionary Agent-Based Simulation Framework for Multi-Objective Policy Search
Department of Politics and Public Administration(政治与公共行政系);The University of Hong Kong(香港大学);Department of Applied Social Sciences(应用社会科学系);The Hong Kong Polytechnic University(香港理工大学)
提出HEAS框架,结合智能体仿真、进化搜索与场景评估,通过“度量契约”统一优化、评估和验证,支持多目标策略搜索。
2026-06-23 cs.CE cs.LG cs.MA
Surprise Search for Evolutionary Divergence
受非常规发现的惊奇概念的启发,我们提出了一种通用的搜索算法,我们称之为惊奇搜索,这是一种新的进化发散搜索方法。惊喜搜索是基于发散搜索范式,并在进化搜索的原则内制造。该算法模仿自我惊讶的认知过程,并使进化搜索具有寻找偏离算法预期行为的解决方案的能力。预期解决方案的预测模型基于搜索位置的历史轨迹和关于搜索空间的本地信息。惊喜搜索在机器人迷宫导航任务中进行了广泛的测试:实验在四个编写的欺骗性迷宫和60个生成的迷宫中进行,并与基于目标的进化搜索和新奇搜索进行比较。本研究的主要发现表明,与其他两个搜索过程相比,惊喜搜索是有利的。特别是,它优于客观搜索,它是有效的新奇搜索在所有的任务检查。最重要的是,惊喜搜索是更快,平均而言,更强大的解决导航问题相比,任何其他算法检查。最后,我们的分析表明,惊喜搜索探索的行为空间更广泛,并产生更高的人口多样性相比,新奇的搜索。突击搜索与其他形式的发散搜索(如新奇搜索)的区别在于,它不是偏离先前和已知的解决方案,而是偏离所考虑领域中预测和未知的点。
2017-06-08 cs.NE
Epistasis-based Basis Estimation Method for Simplifying the Problem Space of an Evolutionary Search in Binary Representation
进化搜索空间可以通过适当的基变换来平滑地变换;然而,可能难以确定适当的基。本文提出了一种在二进制编码方案中选择最优基的方法,该方法可用于简化进化搜索空间。基搜索方法基于遗传算法,适应度评价基于上位性,上位性是遗传算法复杂性的指标。进行了两个测试,以验证所提出的方法时,适用于两个不同的进化搜索问题。第一个寻找一个适当的基础来应用,而第二个寻找一个解决方案的测试问题。所得到的结果后,确定的基础已被应用进行了比较,与原来的基础,它被发现,所提出的方法提供了优越的结果。
2019-04-19 cs.NE
An Ensemble of Evolutionary Algorithms With Both Crisscross Search and Sparrow Search for Processing Inferior Individuals
China University of Geosciences, Wuhan(中国地质大学(武汉));Jilin University(吉林大学)
本文提出了一种结合交叉搜索和麻雀搜索的进化算法集合EA4eigCS,用于提升处理劣质个体的性能,实验表明其在长期搜索任务中表现优异。
2026-01-15 cs.NE
Multimodal LLM-assisted Evolutionary Search for Programmatic Control Policies
Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系);Huawei Noah’s Ark Lab(华为诺亚实验室)
本研究提出多模态大语言模型辅助进化搜索方法,用于生成透明且可验证的程序化控制策略,通过结合视觉反馈与进化搜索提高策略发现效率。
2026-03-10 cs.LG cs.NE
Evolutionary Innovation Viewed as Novel Physical Phenomena and Hierarchical Systems Building
在以前的工作中,我提出了一个思考开放式进化的框架。该框架将达尔文进化所需的基本过程描述为:(1)从遗传描述中产生表型;(2)评估该表型;(3)成功的基因型-表型变异的繁殖。我的治疗强调了生物和非生物环境的潜在影响,以及物理/化学定律对这些过程的影响。我证明了这些过程可以允许持续探索可能表型空间的条件(我将其标记为探索性开放性)。然而,这些过程本身并不能扩展可能的表型的空间,因此不能解释更有趣和更意想不到的进化创新类型(例如我标记为扩张性和转型开放性的那些)。在之前的工作中,我研究了扩张性和变革性创新可能出现的方式。我提出了跨域桥和非添加剂组合系统作为两种机制,通过这两种机制可以产生这些创新。在本文中,我希望概括和扩展这两个概念。我通过采用参数空间-组织空间-行动空间(POA)的观点来做到这一点,正如我以前的工作中所建议的那样,并提出所有进化创新都可以被视为捕获一些以前未使用的新物理现象,或者在环境中创建新的持久系统。
2021-07-20 cs.NE
Regularized Evolutionary Algorithm for Dynamic Neural Topology Search
University of Trento(特伦托大学);Fondazione Bruno Kessler (FBK)(布鲁诺·凯斯勒基金会)
设计用于对象识别的神经网络需要大量的架构工程。作为一种补救措施,神经进化网络结构搜索,它使用进化算法自动搜索最佳网络结构,最近变得非常流行。虽然非常有效,但进化算法严重依赖于具有大量个体(即,网络体系结构)并且因此存储器昂贵。在这项工作中,我们提出了一个具有低内存占用的正则化进化算法来进化动态图像分类器。在细节上,我们引入了新的自定义算子,规范了10个个体的微种群的进化过程。我们在三个不同的数字数据集(MNIST,USPS,SVHN)上进行了实验,结果表明,我们的进化方法获得了与当前最先进的竞争结果。
2019-08-19 cs.CV cs.NE
Evolutionary Neural Architecture Search for Image Restoration
卷积神经网络(CNN)架构传统上由人类专家在手动搜索过程中进行探索,该过程耗时且无法有效地探索潜在解决方案的巨大空间。神经结构搜索(NAS)方法自动搜索神经网络超参数的空间,以找到最佳的特定于任务的结构。NAS方法已经发现了CNN架构,其在图像分类以及其他任务中实现了最先进的性能,然而NAS在图像到图像回归问题(诸如图像复原)中的应用是稀疏的。本文提出了一种NAS方法,执行计算效率的进化搜索的最小约束的网络架构搜索空间。在应用于ImageNet64x64数据集的各种图像复原任务上评估了所提出的方法发现的架构的性能,并与人类工程CNN架构进行了比较。仅使用2个GPU小时的进化搜索就发现了最好的神经架构,表现出与人类工程基线架构相当的性能。
2019-03-30 cs.NE
Guided evolutionary strategies: Augmenting random search with surrogate gradients
Google Research(谷歌研究院)
机器学习中的许多应用需要优化其真实梯度未知的函数,但是替代梯度信息(可能与真实梯度相关但不一定相同的方向)可用。当近似梯度比完整梯度更容易计算时(例如,在元学习或展开优化中),或者当真实梯度难以处理并被替代时(例如,在某些强化学习应用中,或者当使用合成梯度时),就会出现这种情况。我们提出了指导进化策略,最佳地使用代理梯度方向与随机搜索的方法。我们定义了一个搜索分布的进化策略,是拉长沿引导子空间跨越的代理梯度。这允许我们估计下降方向,然后可以将其传递给一阶优化器。我们分析和数值特征的权衡结果,从调整如何强烈的搜索分布是沿着引导子空间拉伸,我们用它来获得一个设置的超参数,以及在整个问题。最后,我们将我们的方法应用到示例问题中,证明了标准进化策略和一阶方法(直接遵循代理梯度)的改进。我们在https://github.com/brain-research/guided-evolutionary-strategies上提供了引导ES的演示
2019-06-10 cs.LG cs.NE stat.ML
Large Language Model-Aided Evolutionary Search for Constrained Multiobjective Optimization
针对约束多目标优化中进化算法收敛慢的问题,提出通过定制提示工程微调LLM并将其作为搜索算子生成优质解,实验表明可显著提升收敛速度且性能优于前沿进化算法。
2024-05-09 cs.NE
Integrating Chaotic Evolutionary and Local Search Techniques in Decision Space for Enhanced Evolutionary Multi-Objective Optimization
本文针对单目标多模态和多目标优化问题,提出结合混沌演化与小生境技术的CEDC和CECA算法,并扩展出包含不确定性选择和自适应调参的综合框架,显著提升了优化精度与鲁棒性。
2024-11-12 cs.NE
Selecting for Selection: Learning To Balance Adaptive and Diversifying Pressures in Evolutionary Search
受自然进化的启发,进化搜索算法已被证明是非常有能力的,因为它们具有通过不同种群进行辐射式探索和收敛到适应压力的双重能力。这种行为的很大一部分来自进化算法的选择功能,这是决定哪些个体存活到下一代的度量。在欺骗性或难以搜索的适应度景观中,贪婪选择往往会失败,因此选择函数在梯度利用适应和探索性多样化之间取得正确的平衡至关重要。本文介绍了Sel4Sel,或选择选择,一种算法,通过元进化循环搜索高性能的基于神经网络的选择功能。在三个不同的比特串域上的结果表明,Sel4Sel网络始终匹配或超过基于适应度的选择和明确旨在鼓励多样性的基准的性能。对最强Sel4Sel网络的分析揭示了一种普遍的趋势,即在早期倾向于高度新颖的个体,随着欺骗性的局部最优被绕过,逐渐转向基于适应度的选择。
2021-06-16 cs.NE
Sampled Training and Node Inheritance for Fast Evolutionary Neural Architecture Search
深度神经网络的性能在很大程度上取决于其架构,并且已经开发了各种神经架构搜索策略用于自动化网络架构设计。近年来,进化神经结构搜索(ENAS)由于其良好的全局寻优能力而受到越来越多的关注。然而,ENAS具有极高的计算成本,因为在进化优化中通常需要大量的性能评估,并且训练深度神经网络本身在计算上是非常密集的。针对这一问题,提出了一种新的基于有向无环图的快速ENAS进化框架,在该框架中,父代被随机抽取,并在每一小批训练数据上进行训练.此外,采用节点继承策略生成后代个体,无需训练直接评估其适应度。为了增强进化神经网络的特征处理能力,我们还在搜索空间中编码了通道注意力机制。我们评估了广泛使用的数据集上的算法,与26个国家的最先进的同行算法相比。实验结果表明,该算法不仅计算效率更高,而且在学习性能上具有很强的竞争力。
2020-03-07 cs.NE
On the Runtime of Randomized Local Search and Simple Evolutionary Algorithms for Dynamic Makespan Scheduling
进化算法是求解动态优化问题的常用算法。通过本文,我们有助于对这一研究领域的理论理解。我们提出了第一个计算复杂性分析的进化算法的动态变化的经典组合优化问题,即最大完工时间调度。我们研究了一个强对手的模型,它被允许定期更换一个工作。此外,我们研究了随机变化的设置。我们的研究结果表明,随机局部搜索和一个简单的进化算法是非常有效的动态跟踪变化的问题实例。
2015-04-23 cs.DS cs.NE
Evolutionary latent space search for driving human portrait generation
Universidad de la República(共和国大学);ITIS Software, Universidad de Málaga(马拉加大学ITIS软件研究所)
提出了一种基于生成对抗网络潜在空间探索的合成人像进化生成方法。这个想法是产生不同的人脸图像非常类似于一个给定的目标肖像。该方法应用StyleGAN2进行肖像生成,FaceNet进行人脸相似性评估。进化搜索基于探索StyleGAN2的实数编码潜在空间。在合成图像和真实图像上的主要结果表明,所提出的方法产生准确和多样的解决方案,代表现实的人的肖像。该研究有助于提高人脸识别系统的安全性。
2022-05-19 cs.AI cs.CV cs.LG
EvoAAA: An evolutionary methodology for automated \neural autoencoder architecture search
Universidad de Jaén(哈恩大学)
当向机器学习模型提供策划的功能时,它们会更好地工作。特征工程方法通常被用作预处理步骤,以获得或构建合适的特征集。近年来,自编码器(一种特定类型的对称神经网络)已被广泛用于执行表示学习,证明了其与经典特征工程算法的竞争力。使用自动编码器的主要障碍是找到一个好的架构,这是大多数专家手动面对的过程。本文提出了一种基于进化方法的自动编码器结构搜索方法。该方法针对九个异构数据集进行了测试。所得到的结果表明,这种方法能够找到更好的架构,能够集中在一个最小化的编码,在减少的时间大部分有用的信息。
2023-01-15 cs.AI cs.LG cs.NE
EVOTS: Evolutionary Transformer Search for Time Series Forecasting
University of North Carolina Wilmington(北卡罗来纳大学威尔明顿分校)
提出进化神经架构搜索框架EVOTS,通过模块化基因组表示和修复机制自动发现任务自适应的Transformer类架构,在ETT数据集多变量预测中达到竞争性性能。
2026-07-02 cs.AI cs.LG cs.NE
Search Trajectories Networks of Multiobjective Evolutionary Algorithms
University of Tsukuba(筑波大学);University of Stirling(斯特林大学)
了解多目标进化算法(MOEAs)的搜索动力学仍然是一个悬而未决的问题。本文扩展了最近的网络为基础的工具,搜索轨迹网络(STNs),MOEA的行为建模。我们的方法使用的思想分解,其中一个多目标的问题转化为几个单目标的问题。我们表明,STNs可以用来模拟和区分两个流行的多目标算法,MOEA/D和NSGA-II的搜索行为,使用10个连续的基准问题,2和3个目标。我们的研究结果表明,我们可以使用STNs进行算法分析来提高对MOEA的理解。
2022-06-30 cs.AI cs.NE
Shaped Policy Search for Evolutionary Strategies using Waypoints
University of Southern California(南加州大学)
本文提出利用中间路标改进进化策略在强化学习中的探索能力,通过学习轨迹中的状态-动作对动力学来加速训练,并在Carla和UR5模拟器上验证了其普适性。
2023-07-03 cs.LG cs.NE cs.RO
Evolutionary algorithms
本手稿包含作者阅读的讲座课程“进化算法”的大纲。本课程涵盖了经典遗传算法和其他各种遗传算法,以及进化策略,遗传编程,禁忌搜索和一般的进化算法。对交叉算子的旋转性、模式定理、遗传算法的局部搜索性能以及进化算法的“几乎必然”收敛性等问题给出了完整的证明。文本是俄语的。
2022-03-30 cs.NE
Effect of Degree Distribution on Evolutionary Search
提出了一种基于节点度表的层次模块化网络生成方法,并提出了一种基于边距离的网络模块化度量方法。生成的网络被用作测试问题,以探索模块化和度分布对进化算法性能的影响。实验结果(i)证实了先前的发现,即模块化增加了遗传算法在爬山者上的性能优势,(ii)支持了一个新的猜想,即具有重尾右偏度分布的模块化约束网络的测试问题比具有钟形正态度分布的模块化约束网络的测试问题更容易解决。
2009-03-14 cs.NE
SOM-Guided Evolutionary Search for Solving MinMax Multiple-TSP
多重TSP,在文献中也缩写为mTSP,是旅行商问题的扩展,它是具有重要实际意义的车辆路径问题的许多变体的核心。目前的文件开发和实验与自组织地图,进化算法和蚁群系统,以解决最小最大制定的单仓库多TSP。神经网络方法和两个元算法之间的杂交显示出显著的改进,优于文献中报道的一组问题实例从TSPLIB。
2019-07-27 cs.NE
Creative AI Through Evolutionary Computation: Principles and Examples
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Cognizant Technology Solutions(高知特科技解决方案公司)
人工智能的主要力量不在于对我们已经知道的东西进行建模,而在于创造新的解决方案。这样的解决方案存在于非常大的,高维的,复杂的搜索空间。基于群体的搜索技术,即演化计算的变体,非常适合于找到它们。这些技术使人们有可能为现实世界中的实际问题找到创造性的解决方案,使创造性的人工智能通过演化计算可能成为“下一个深度学习”。"
2021-02-15 cs.AI cs.LG cs.NE
Beyond Evolutionary Algorithms for Search-based Software Engineering
内容:进化算法通常需要大量的评估(解决方案)收敛-这可能是非常缓慢和昂贵的evaluation.Objective:为了解决基于搜索的软件工程(SE)问题,使用较少的评价比evolutionarymethods.Method:而不是变异一个小的人口,我们建立了一个非常大的初始人口,然后使用递归双聚类斩方法剔除。我们评估这种方法对多个SE模型,无约束以及约束,并比较其性能与标准的进化算法。结果如下:使用几个评估(低于100),我们可以获得与最先进的进化算法相当的结果。结论:仅仅因为某个方法有效,并且被广泛使用,并不一定意味着没有价值去寻找方法来改进该方法。在使用传统EA进行基于搜索的SE优化任务之前,建议尝试其他技术,如本文所述,以获得相同的结果,并减少评估。
2017-09-17 cs.NE cs.SE
A Cuckoo Quantum Evolutionary Algorithm for the Graph Coloring Problem
基于量子进化算法框架,提出了一种求解图着色问题的布谷鸟量子进化算法。为了减少色数搜索的迭代次数,初始量子种群由遗传辅助的随机初始化产生。此外,通过引入布谷鸟搜索策略,改进了算法的全局搜索能力,并引入了局部搜索和扰动策略,以提高算法在控制点上的性能。数值结果表明,CQEA具有很强的探索和开发能力,与现有的启发式算法相比具有很强的竞争力。
2021-08-19 cs.NE
An Evolutionary Stochastic-Local-Search Framework for One-Dimensional Cutting-Stock Problems
我们引入了一个进化的随机局部搜索(SLS)算法来解决所谓的1/V/D/R下料问题的广义版本。在工业环境中经常会遇到切削库存问题,有效解决这些问题的能力通常会带来巨大的经济效益。传统的基于线性规划的技术已被用来解决这些问题,但它们的灵活性可能会受到限制时,非线性约束和目标函数的介绍。为此,本文提出了一种解决一维下料问题的进化SLS算法。的贡献在于引入一个灵活的结构框架的优化,可以容纳一个大家庭的多元化战略,包括一个新的并行模式适合SLS算法(不一定限于切割股票的问题)。最后,我们通过实验证明在现实世界中的制造问题所考虑的多元化战略的成本降低的好处。
2017-07-27 cs.NE
Creative AI Through Evolutionary Computation
The University of Texas at Austin(得克萨斯大学奥斯汀分校);Cognizant Technology Solutions(高知特技术解决方案公司)
人工智能的主要力量不在于对我们已经知道的东西进行建模,而在于创造新的解决方案。这样的解决方案存在于非常大的,高维的,复杂的搜索空间。基于群体的搜索技术,即演化计算的变体,非常适合于找到它们。这些技术也很好地利用了大规模并行计算资源,使通过演化计算的创造性AI成为可能的“下一个深度学习“。
2020-02-22 cs.AI cs.LG cs.NE
An Experimental Study of Adaptive Control for Evolutionary Algorithms
探索与利用的平衡是演化计算的一个关键问题。在本文中,我们将探讨如何自适应控制器的目的是执行操作员选择可以用来动态管理所需的EvE平衡的搜索,显示由这种控制范式确定的搜索策略导致改进的解决方案的质量发现的进化算法。
2014-09-05 cs.NE
Fashion Style Generation: Evolutionary Search with Gaussian Mixture Models in the Latent Space
本文提出了一种新的方法,用于指导在FashionGen数据集上训练的生成对抗网络生成与目标时尚风格相对应的设计。在生成器的潜在空间中找到对应于一种风格的潜在向量是一个进化搜索问题。在服装属性预测模型中,基于服装的高层表示,应用高斯混合模型来识别服装风格。经过几代,遗传算法优化设计群体,以增加它们属于高斯混合成分或风格之一的概率。显示所开发的系统可以生成最大健身视觉上类似于某些风格的图像,我们的方法提供了一个很有前途的方向,以指导搜索风格连贯的设计。
2022-04-04 cs.NE
Meme as Building Block for Evolutionary Optimization of Problem Instances
在文献中,进化优化的一个显着不足的探索领域是可以随着问题的解决而进化的优化方法的研究。特别是,目前的进化优化方法通常从头开始搜索或从零开始的知识状态,独立于给定的新的感兴趣的问题是如何类似于那些以前优化。因此,显然缺乏跨问题的自动知识转移和重用。以此为线索,本文介绍了一种新的模因计算范式的搜索,一个模型后,人类如何解决问题,并开始对智能进化优化问题的研究,通过转移的结构化知识的形式模因从以前的解决问题的经验,以提高未来的进化搜索。模因搜索范式由模因学习、模因选择、模因变异和模因模仿四个文化启发算子组成。学习算子从过去解决问题的经验中挖掘潜在结构形式的模因。选择算子识别在问题间复制和传播的适合模因,而变异算子将创新引入模因。另一方面,模仿算子定义了合适的模因如何同化到新遇到的问题的搜索过程中,从而实现高效和有效的进化优化。最后,全面研究两个广泛研究的挑战性以及建立NP难路由问题域,特别是,有能力的车辆路由(CVR)和有能力的弧路由(CAR),证实了高效率的智能进化优化问题的模因计算搜索范式。
2012-07-03 cs.NE
Multi-Space Evolutionary Search for Large-Scale Optimization
Chongqing University(重庆大学);Dalian University of Technology(大连理工大学);City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院);Nanyang Technological University(南洋理工大学)
近年来,为了改进用于解决涉及大量决策变量的优化问题的进化算法,已经进行了许多尝试来简化用于进化搜索的给定问题的问题解空间。在文献中,现有的方法通常可以分为基于分解的方法和基于降维的方法。前者将一个大规模问题分解成几个较小的子问题,而后者则将原来的高维解空间转化为低维空间。然而,值得注意的是,给定的大规模优化问题可能并不总是可分解的,并且也难以保证在降低的低维问题空间中保持原问题的全局最优。因此,本文提出了一种新的搜索范式,即多空间进化搜索,以加强现有的进化搜索方法解决大规模优化问题。与现有的在单个搜索空间中进行进化搜索的方法相比,所提出的范例被设计为在来自给定问题的多个解空间中进行搜索,每个解空间具有独特的景观。所提出的范例没有假设的大规模优化问题的利益,如问题是可分解的或存在一定的关系,决策变量之间。为了验证所提出的范例的有效性,使用CEC 2013大规模基准问题进行了全面的实证研究,与四种最先进的算法进行了比较。
2021-02-24 cs.AI cs.NE
Analysis of Solution Quality of a Multiobjective Optimization-based Evolutionary Algorithm for Knapsack Problem
多目标优化被认为是进化优化中处理约束优化问题最有前途的方法之一。本文对求解0-1背包问题的多目标优化进化算法进行了理论研究。该算法考虑了两种初始化方法:局部搜索初始化和贪婪搜索初始化。然后从逼近比的角度分析了算法的解质量。
2015-02-12 cs.NE
Evolutionary Algorithm and Multifactorial Evolutionary Algorithm on Clustered Shortest-Path Tree problem
Quantitative Hedge Fund(量化对冲基金);Faculty of Natural Science - Technology, Taybac University(太原大学自然科学与技术学院);School of Information and Communication Technology, Hanoi University of Science and Technology(河内科技大学信息与通信技术学院)
在文献中,离散最短路径树问题(CluSPT)是一个NP难问题。以往的研究往往在相对较大的空间中寻找最优解。为了提高搜索过程的性能,提出了两种方法:第一种方法寻求解决方案作为一组边缘。从原图生成一个新的图,其顶点集的基数比原图小得多。因此,提出了一种有效的进化算法(EA)求解CluSPT。第二种方法寻找基于顶点的解决方案。CluSPT的搜索空间被转换成2个嵌套的搜索空间(NSS)。对于高层优化中的每个候选项,下层的搜索引擎将找到相应的候选项与之组合,以创建CluSPT的最佳解决方案。因此,嵌套局部搜索EA(N-LSEA)被引入到搜索最优解的NSS。在低层求解时,N-LSEA可以处理各种相似的任务。因此,多因子进化算法的应用,以提高这些优化的隐式遗传转移。建议的算法进行了一系列的数据集和所获得的结果表明,优越的效率相比,以前的科学工作。
2020-10-19 cs.AI cs.NE
LEVI: Stronger Search Architectures Can Substitute for Larger LLMs in Evolutionary Search
Independent Researcher(独立研究者)
LEVI通过改进解决方案数据库、智能突变路由和排名保持代理基准,以更低成本在系统研究基准中取得最高成绩,超越现有框架。
2026-05-10 cs.AI cs.NE
Survey of Genetic and Differential Evolutionary Algorithm Approaches to Search Documents Based On Semantic Similarity
School of EECS, College of Engineering and Mines, University of North Dakota(电子工程与科学学院,工程与采矿学院,北达科塔大学)
本综述探讨了在海量数据中基于语义相似性搜索文档的挑战,重点总结了遗传算法与差分进化算法等进化计算方法在该领域的最新进展。
2025-07-15 cs.AI cs.NE
Evolutionary Algorithms for Reinforcement Learning
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所);Naval Research Laboratory(美国海军研究实验室);George Mason University(乔治梅森大学)
有两种不同的方法来解决强化学习问题,即在价值函数空间中搜索和在策略空间中搜索。时间差分方法和进化算法是这些方法的众所周知的例子。Kaelbling,Littman和Moore最近提供了一个翔实的调查时间差异的方法。这篇文章的重点是应用进化算法的强化学习问题,强调替代政策表示,信用分配方法,和特定问题的遗传算子。强化学习的进化方法的优点和缺点,以及代表性的应用调查。
2011-06-01 cs.AI cs.LG cs.NE
Ranking Constraints via Topological Dual-Directional Search in Evolutionary Multi-Objective Optimization
National Key Laboratory of Parallel and Distributed Computing, College of Computer Science and Technology, National University of Defense Technology(国防科技大学计算机科学与技术学院并行与分布式计算国家重点实验室);College of System Engineering, National University of Defense Technology(国防科技大学系统工程学院);College of Intelligence Science and Technology, National University of Defense Technology(国防科技大学智能科学学院);State Key Laboratory of Complex & Critical Software Environment, College of Information and Communication, National University of Defense Technology(国防科技大学信息与通信学院复杂与关键软件环境国家重点实验室)
本文提出RCCMO算法,通过拓扑对偶方向搜索机制,区分约束在CPF形成中的不同作用,提升约束处理效率。
2026-04-06 cs.NE
Locating the boundaries of Pareto fronts: A Many-Objective Evolutionary Algorithm Based on Corner Solution Search
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心);City University of Hong Kong(香港城市大学)
提出了一种基于角点解搜索的进化多目标优化算法(MaOEA-CS)。MaOEA-CS隐含地包含两个阶段:在第一阶段,利用搜索最重要的边界最优解-角点解;在第二阶段,使用基于角度的选择[1],探索搜索PF近似的扩展。由于其高效率和对PF形状的鲁棒性,它赢得了CEC 2017年进化多目标优化竞赛。此外,MaOEA-CS还被应用于两个现实世界的工程优化问题非常不规则的PF。实验结果表明,MaOEA-CS算法的性能优于其他6种同类算法,表明该算法能够有效地处理具有不规则PF的复杂优化问题。
2018-06-08 cs.AI cs.NE