Can Transfer Neuroevolution Tractably Solve Your Differential Equations?
本文介绍了求解微分方程的神经进化算法。通过优化一个深度神经网络,其损失函数由微分方程的残差项定义,得到了该解。最近的研究集中在通过随机梯度下降(SGD)变体来学习这种物理信息神经网络,但由于优化挑战,它们面临着获得准确解的困难。在解微分方程的背景下,我们面临的问题是找到网络的全局最优参数,而不是关注样本外泛化。SGD沿着单一梯度方向搜索,容易陷入局部最优,因此它可能不是这里的最佳方法。相比之下,神经进化对不同的解决方案进行并行探索,目标是绕过局部最优解。它可以通过更好的优化神经网络找到更准确的解决方案。然而,神经进化可能是缓慢的,在实践中提出了易处理性问题。考虑到这一点,本文提出了一种新的和计算效率高的转移神经进化算法。我们的方法是能够利用相关的经验先验知识解决一个新的问题时,与适应,以防止负迁移的风险。该算法应用于各种微分方程的经验证明,转移神经进化确实可以实现更好的精度和更快的收敛速度比SGD。因此,实验结果确立了转移神经进化作为一个值得注意的方法来解决微分方程,一个从来没有被研究过。我们的工作扩展了现有算法的资源,用于优化物理信息神经网络。
2021-05-05 cs.NE physics.comp-ph
An Experimental Study of Weight Initialization and Weight Inheritance Effects on Neuroevolution
权重初始化对于能够成功地训练人工神经网络(ANN)至关重要,对于容易遭受梯度消失和爆炸的递归神经网络(RNN)更是如此。在神经进化中,将进化算法应用于神经结构搜索,权重通常需要在三个不同的时间初始化:在搜索开始时创建初始基因组(ANN结构)时,通过交叉生成后代基因组时,以及在变异过程中创建新节点或边时。这项工作探讨了使用Xavier,Kaiming和均匀随机权重初始化方法之间的差异,以及在交叉和变异操作期间初始化新权重的新拉马克权重继承方法。这些都是使用增强记忆模型的进化探索(EXM)神经进化算法来检查的,该算法能够用各种现代存储单元(例如,LSTM,GRU,MGU,UGRNN和Delta-RNN单元)以及通过基于高性能岛的分布式进化算法的具有不同时间跳过的循环连接。结果表明,具有统计学意义,利用拉马克策略优于Kaiming,Xavier和均匀随机权重初始化,并且可以通过为每个生成的RNN评估较少的反向传播时期来加速神经进化。
2020-09-26 cs.NE
Optimizing Chlorination in Water Distribution Systems via Surrogate-assisted Neuroevolution
UT Austin(德克萨斯大学奥斯汀分校);Cognizant AI Lab(高知特人工智能实验室)
本文提出基于神经进化、多目标优化和代理建模的框架,用于优化水分配系统中氯气的投放策略,通过进化神经网络实现氯气在关键节点的投放,以减少总投放量并保持浓度均匀,优于传统强化学习方法。
2026-04-11 cs.NE cs.SY eess.SY
Limited Evaluation Cooperative Co-evolutionary Differential Evolution for Large-scale Neuroevolution
许多现实世界的控制和分类任务涉及大量的功能。当使用人工神经网络(ANN)对这些任务进行建模时,网络架构往往很大。神经进化是优化人工神经网络的有效方法;然而,在使用直接编码的高维网络的情况下,有两个瓶颈使其应用具有挑战性。首先,经典的进化算法往往不能很好地扩展搜索大的参数空间;其次,在大量的训练实例的网络评估是在一般的时间消耗。在这项工作中,我们提出了一种称为有限评价合作协同进化差分进化算法(LECCDE)优化高维人工神经网络的方法。该方法采用协同差分进化算法优化不同子群中每个突触后神经元的突触前权重,并基于适应度遗传对相对较少的训练样本进行适应度评价.我们测试LECCDE在三个不同大小的数据集上,我们的结果表明,合作的协同进化显着改善了测试误差相比,标准的差分进化,而有限的评估方案有利于显着减少计算时间。
2018-05-06 cs.NE
Policy Manifold Search: Exploring the Manifold Hypothesis for Diversity-based Neuroevolution
Imperial College London(伦敦帝国理工学院)
神经进化是基于梯度的优化的替代方案,它有可能避免局部最小值并允许并行化。主要的限制因素是,它通常不能很好地与参数空间维度进行缩放。受最近研究神经网络内在维度和损失景观的工作的启发,我们假设存在一个低维流形,嵌入在策略网络参数空间中,围绕该流形分布着高密度的多样化和有用的策略。本文提出了一种新的方法,基于多样性的政策搜索通过神经进化,利用学习表示的政策网络参数,通过执行政策搜索在这个学习的表示空间。我们的方法依赖于质量多样性(QD)框架,它提供了一个原则性的方法来搜索策略,并保持了一个集合的不同的政策,作为一个数据集学习的政策表示。此外,我们使用逆映射函数的雅可比矩阵来指导在表示空间中的搜索。这确保了生成的样本在映射回原始空间后仍保留在高密度区域中。最后,我们评估了我们的贡献,在模拟环境中的四个连续控制任务,并比较基于多样性的基线。
2021-04-27 cs.LG cs.NE
Policy Manifold Search for Improving Diversity-based Neuroevolution
Imperial College London(帝国理工学院)
多样性为基础的方法最近获得了流行的替代范式,以性能为基础的政策搜索。质量多样性(QD)是这个家族中的一种流行方法,它维护了一组在多样性度量空间中分离的高性能策略,这些策略是根据策略的推出行为定义的。当策略被参数化为神经网络,即神经进化时,QD往往不能很好地与参数空间维度进行缩放。我们的假设是,存在一个低维流形嵌入在政策参数空间,包含高密度的多样性和可行的政策。我们提出了一种新的方法,通过神经进化的多样性为基础的政策搜索,利用学习的潜在表示的政策参数,捕捉本地结构的数据。我们的方法根据QD框架迭代地收集策略,以便(i)构建不同策略的集合,(ii)使用它来学习策略参数的潜在表示,(iii)在学习的潜在空间中执行策略搜索。我们使用逆变换的雅可比矩阵(即重构函数)来指导潜在空间中的搜索。这确保了在重构之后,所生成的样本保持在原始空间的高密度区域中。我们评估我们的贡献在模拟环境中的三个连续控制任务,并比较基于多样性的基线。研究结果表明,我们的方法产生了一个更有效和强大的政策搜索过程。
2020-12-15 cs.LG cs.NE
A Self-adaptive Neuroevolution Approach to Constructing Deep Neural Network Architectures Across Different Types
Dalian Maritime University(大连海事大学);Sun Yat-sen University(中山大学);Hanyang University(汉阳大学);Victoria University(维多利亚大学);Chaoyang University of Technology(朝阳科技大学)
神经进化极大地促进了深度神经网络(DNN)的架构设计及其应用,但缺乏跨不同类型DNN的规模和性能方法。在这项研究中,我们提出了一种自适应神经进化(SANE)方法来自动构建各种轻量级DNN架构,用于不同的任务。SANE中的关键设置之一是由自适应不同DNN类型的细胞和器官定义的搜索空间。在此搜索空间的基础上,设计了一种具有统一进化设置和操作的构造性演化策略,以逐步扩展DNN体系结构。SANE能够自适应地调整进化探索和利用,以提高搜索效率。此外,一个物种形成计划,以保护进化早期收敛限制物种内的选择竞争。为了评估SANE,我们进行了神经进化实验,以生成不同的DNN架构,包括卷积神经网络,生成对抗网络和长短期记忆。结果表明,所获得的DNN架构可以有较小的规模与类似的性能相比,现有的DNN架构。我们提出的SANE提供了一种有效的方法来自适应地搜索不同类型的DNN架构。
2023-02-02 cs.AI cs.NE
Many-Objective Neuroevolution for Testing Games
针对游戏测试生成难及单目标算法效率低的问题,将NEATEST与MIO、MOSA结合并改造NEWS/D,提出多目标神经进化测试方法,在20个SCRATCH程序上实现分支覆盖率提升与搜索时间大幅降低。
2025-01-14 cs.NE cs.SE
ONE-NAS: An Online NeuroEvolution based Neural Architecture Search for Time Series Forecasting
Rochester Institute of Technology(罗切斯特理工学院)
时间序列预测(TSF)是数据科学中最重要的任务之一,因为准确的时间序列(TS)预测可以推动和推进包括金融、交通、医疗保健和电力系统在内的各种领域。然而,TSF的机器学习(ML)模型的实际应用受到影响,因为预训练的模型能够学习和适应不可预测的模式,因为以前看不见的数据在更长的时间尺度上到达。为了解决这个问题,必须定期保留或重新设计模型,这需要大量的人力和计算资源。这项工作提出了基于在线神经进化的神经结构搜索(ONE-NAS)算法,据作者所知,这是第一个能够在在线环境中自动设计和训练新的递归神经网络(RNN)的神经结构搜索算法。在没有任何预训练的情况下,ONE-NAS利用RNN的种群,这些种群不断更新新的网络结构和权重,以响应新的多元输入数据。ONE-NAS在真实世界的大规模多变量风力涡轮机数据以及单变量道琼斯工业平均指数(DJIA)数据集上进行了测试,并显示优于传统的统计时间序列预测,包括朴素,移动平均和指数平滑方法,以及最先进的在线ARIMA策略。
2022-02-27 cs.LG cs.NE
Surrogate Models for Enhancing the Efficiency of Neuroevolution in Reinforcement Learning
在过去的几年里,强化学习受到了广泛的关注。解决强化学习任务的一种方法是神经进化,其中神经网络通过进化算法进行优化。神经进化的一个缺点是,它可能需要大量的功能评估,而不是充分利用每个健身评估的可用信息。当健身评估变得昂贵时,这尤其成问题。为了降低适应度评估的成本,可以使用代理模型来部分取代适应度函数。神经进化代理建模的难点在于复杂的搜索空间和如何比较不同的网络。为此,最近的研究表明,基于内核的方法,特别是表型距离测量,效果很好。这些内核通过它们的行为(表型)而不是它们的拓扑或编码(基因型)来比较不同的网络。在这项工作中,我们讨论了使用代理模型为基础的神经进化(SMB-NE)使用表型距离的强化学习。详细地说,我们研究了a)SMB-NE在评估效率方面的潜力和b)如何在强化学习问题中为表型距离度量选择适当的输入集。结果表明,我们能够大大提高评估效率,使用动态输入集。
2019-07-22 cs.NE
First Steps Towards a Runtime Analysis of Neuroevolution
本文对神经进化算法进行运行时分析,证明其在单神经元和两层网络示例问题上高效,调和变异算子适合搜索空间,并发现局部最优困境。
2023-10-16 cs.NE
Fast and scalable neuroevolution deep learning architecture search for multivariate anomaly detection
AGH University of Science and Technology(AGH科技大学);American University(美利坚大学)
神经进化是可用于在训练期间学习最佳架构的方法之一。它使用进化算法来生成人工神经网络的拓扑结构及其参数。主要的好处是它是可扩展的,可以是完全或部分非梯度方法。在这项工作中,提出了一种改进的神经进化技术,它采用了多级优化。该方法采用演化策略对基于Bagging技术的集成模型进行进化,使用遗传算子优化单个异常检测模型,减少训练数据集以加快搜索过程并进行非梯度微调。多变量异常检测作为一个无监督学习任务的情况下,所提出的方法进行了测试研究。单模型优化基于变异和交叉算子,专注于寻找最佳窗口大小、层数、层深度、超参数等,以提高新模型和已知模型的异常检测分数。所提出的框架及其协议表明,有可能在合理的时间范围内找到可以提升所有已知的多元异常检测深度学习架构的架构。工作集中在改进的多层次神经进化异常检测方法。主要的修改是在混合组和单模型演化,非梯度微调和投票机制的方法。所提出的框架可以用作任何不同的无监督任务,其中可以使用自动编码器架构的有效学习网络架构方法。测试在SWAT、WADI、MSL和SMAP数据集上运行,所提出的方法发展了在其他深度学习模型中获得最佳分数的架构。
2022-08-27 cs.AI cs.NE
Combining Neuroevolution with the Search for Novelty to Improve the Generation of Test Inputs for Games
University of Passau(帕绍大学)
针对游戏测试中传统白盒生成器效果不佳、Neatest方法易受复杂欺骗性适应度景观阻碍的问题,本文提出在神经进化搜索中引入新颖性奖励机制,经两款Scratch游戏验证可有效克服适应度景观挑战,为后续算法优化奠定基础。
2024-07-06 cs.LG cs.NE cs.SE
Neuroevolution of Recurrent Architectures on Control Tasks
Montreal University Geriatric Institute(蒙特利尔大学老年医学研究所)
本文提出依据少量变异规则动态进化循环神经网络架构的大规模并行进化算法,在19个OpenAI Gym控制任务上以少几个数量级的参数达到或超过梯度方法性能。
2023-04-03 cs.LG cs.NE
Adaptive Combination of a Genetic Algorithm and Novelty Search for Deep Neuroevolution
演化计算(EC)已被证明能够快速训练深度人工神经网络(DNN)来解决强化学习(RL)问题。虽然遗传算法(GA)非常适合于利用既不具有欺骗性也不稀疏的奖励函数,但当奖励函数是这些函数中的任一个时,它就会挣扎。为此,新奇搜索(NS)已被证明能够在某些情况下优于梯度跟踪优化器,而在其他情况下表现不佳。我们提出了一种新的算法:探索-利用$γ$ -自适应学习器($E^2γAL$,或EyAL)。通过保留一个动态大小的小生境的新奇寻求代理,该算法设法保持人口的多样性,利用奖励信号时,可能的和探索,否则。该算法结合了GA的开发能力和NS的探索能力,同时保持了它们的简单性和优雅性。我们的实验表明,EyAL在大多数情况下优于NS,同时与GA相当-在某些情况下,它可以优于两者。EyAL还允许用其他算法替代开发组件(GA)和探索组件(NS),例如,演化策略和惊喜搜索,从而为未来的研究打开了大门。
2022-09-08 cs.MA cs.NE
Artificial Neural Networks, Symmetries and Differential Evolution
神经进化是一个活跃和不断增长的研究领域,特别是在越来越多的并行计算架构的时代。人工神经网络(ANN)的学习方法可以分为两类。神经进化主要基于蒙特卡罗技术,属于全局搜索方法,而其他方法,如反向传播属于局部搜索方法。人工神经网络包括重要的对称性,这可能会影响蒙特卡罗方法。另一方面,局部搜索方法通常不受这些对称性的影响。在文献中,处理对称性通常被报道为是无效的,甚至产生劣质的结果。在本文中,我们介绍了所谓的最小全球最佳邻近原则来自理论上考虑有效的对称性破缺,适用于离线监督学习。使用差分进化(DE),这是一种流行的和强大的进化全局优化方法,我们的实验表明显着的全局搜索效率的改善对称性破缺。
2011-04-08 cs.NE
AD-NEv++ : The multi-architecture neuroevolution-based multivariate anomaly detection framework
Institute of Electronics(电子研究所);AGH(AGH大学);Department of Computer Science(计算机科学系);American University(美利坚大学)
针对现有神经进化异常检测框架支持的网络层类型有限、模型优化繁琐的问题,提出三阶段框架AD-NEv++,结合子空间进化、模型进化与微调,支持多种网络层,在基准测试中性能优于现有深度学习及神经进化方法,超越最优GNN架构。
2024-03-25 cs.AI cs.LG cs.NE
Seq103: A Unified Neuroevolution Framework for Compact Sequence Architecture Discovery
School of Computer Science and Artificial Intelligence, Wuhan University of Technology(武汉理工大学计算机科学与人工智能学院)
提出统一神经进化框架Seq103,通过共享进化主干和可选循环扩展,在序列分类任务中实现紧凑架构搜索,在文本和时间序列数据集上以极低参数量保持高精度。
2026-06-03 cs.AI cs.NE
Neuroevolution-Enhanced Multi-Objective Optimization for Mixed-Precision Quantization
Intel Labs(英特尔研究院);Intel Datacenter and AI(英特尔数据中心与人工智能部门)
混合精度量化是一种强大的工具,通过在单独的计算操作上部署不同的位宽精度集,可以节省神经网络工作负载的内存和计算。在这项工作中,我们提出了一个灵活的和可扩展的框架,自动混合精度量化,同时优化任务性能,内存压缩,并通过多目标进化计算节省计算。我们的框架集中在神经进化增强的多目标优化(NEMO),一种新的搜索方法,它结合了既定的搜索方法与神经网络的代表性力量。在NEMO中,种群被划分为结构上不同的子种群或物种,它们共同创建了多目标问题解决方案的帕累托边界。在每一代,物种执行单独的变异和交叉操作,并按其对帕累托边界的贡献的良好程度重新调整大小。在我们的实验中,我们定义了一个基于图的表示来描述底层的工作负载,使我们能够部署由NEMO通过神经进化训练的图神经网络,为MobileNet-V2,ResNet 50和ResNeXt-101- 32 x8 d找到帕累托最优配置。与现有技术相比,我们在内存压缩方面取得了有竞争力的结果,在计算压缩方面取得了优异的结果。进一步的分析表明,NEMO采用的图表示和基于物种的方法对于找到最优解至关重要。
2022-04-02 cs.AI cs.NE
NERO-Net: A Neuroevolutionary Approach for the Design of Adversarially Robust CNNs
University of Coimbra, CISUC/LASI, DEI(科英布拉大学,CISUC/LASI,DEI)
本文提出NERO-Net,通过神经进化方法设计更具抗攻击能力的CNN,通过隔离架构对鲁棒性的影响,提升模型在对抗攻击下的性能。
2026-03-26 cs.AI cs.LG cs.NE
The Case for a Mixed-Initiative Collaborative Neuroevolution Approach
很明显,目前使用算法创建人工神经网络的尝试在创建大型网络和/或复杂行为方面取得了好坏参半的成功。这并不出乎意料,因为创造人工大脑本质上是一个设计问题。人类设计的独创性在大多数领域的大多数任务中仍然超过计算设计,包括建筑,游戏设计和创作文学小说。这让我们不禁要问,在设计人工大脑时,哪种方法是将人类和机器的设计能力结合起来的最佳方法。这两种方法都有各自的优点和缺点;例如,人类手动指定数千个神经元的速度太慢了,更不用说进入人类大脑的数十亿个神经元了,但另一方面,他们可以依赖于大量的常识理解和设计知识库,这些知识库可以帮助他们在设计空间中执行比算法更好的引导搜索。因此,在本文中,我们认为一个混合的主动合作的在线大脑建设的方法,并提出了第一个成果,实现这一目标。
2014-08-05 cs.NE
Neuroevolution deep learning architecture search for estimation of river surface elevation from photogrammetric Digital Surface Models
AGH UST(AGH科技大学)
从与全球变暖有关的极端水文事件日益频繁和对水的需求日益增加的角度来看,开发地表水观测的新方法至关重要。使用无人机摄影测量获得的正射影像和数字表面模型(DSM)可用于确定河流的水面高程(WSE)。然而,这项任务是困难的,由于水面上的DSM的摄影测量算法的局限性所造成的干扰。在这项研究中,机器学习被用来提取WSE值从扰动摄影测量数据。水文和摄影测量专家专门为此目的准备了一个全新的数据集。新方法是实现高空间和时间分辨率水面水位测量自动化的重要一步。这些数据可用于验证和校准水文、水力和水动力模型,使水文预报更加准确,特别是预测洪水或干旱等极端和危险事件。据我们所知,这是第一种为此目的创建数据集并使用深度学习模型的方法。此外,神经进化算法被设置为探索不同的架构,以找到局部最优模型和非梯度搜索进行微调模型参数。所取得的结果有更好的准确性相比,手动方法确定WSE从摄影测量DSM。
2022-12-04 cs.AI cs.CV cs.LG
AD-NEV: A Scalable Multi-level Neuroevolution Framework for Multivariate Anomaly Detection
AGH-UST(AGH科技大学);American University(美利坚大学)
AD-NEV提出一种可扩展多层神经进化框架,通过协同优化特征子空间、模型架构和网络权重,在多变量时间序列异常检测中超越主流深度学习模型并具备高可扩展性。
2023-05-25 cs.AI cs.LG cs.NE
Complexity-based speciation and genotype representation for neuroevolution
School of Computer Science and Engineering University of New South Wales(新南威尔士大学计算机科学与工程学院);University of New South Wales(新南威尔士大学);School of Computer Science and Engineering(计算机科学与工程学院)
本文介绍了一种神经进化的物种形成原则,其中不断发展的网络被分组为物种的基础上隐藏的神经元的数量,这是指示的搜索空间的复杂性。这种物种形成的原则是不可分割的耦合与一种新的基因型表示,其特点是零基因组冗余,高弹性膨胀,明确标记经常性的连接,以及一个有效的和可重复的基于堆栈的评估程序与任意拓扑结构的网络。此外,提出的物种形成原则是采用几种技术,旨在促进和保护物种内和整个生态系统的多样性。通过实验证明了所提出的框架Cortex的竞争性能。一个高度可定制的软件平台,实现了本研究中提出的概念,也介绍了希望它将作为一个有用的和可靠的工具,在神经进化领域的实验。
2020-10-11 cs.AI cs.NE
Spectrum-Diverse Neuroevolution with Unified Neural Models
Kyushu University(九州大学)
学习算法在各种应用中被越来越多地采用。然而,进一步的扩展将需要更自动化的方法。为了实现这种级别的自动化,需要更强大的解决方案表示。然而,通过增加表示复杂性,出现了第二个问题。搜索空间变得巨大,因此还需要相关联的可扩展且高效的搜索算法。为了解决这两个问题,首先提出了一个强大的表示,统一的神经网络功能,从文献到一个表示。其次,基于染色体谱的新概念,提出了一种新的多样性保持方法,称为谱多样性,该方法根据染色体中等位基因的特征和频率来创建谱。频谱多样性与统一的神经元表示相结合,使该算法能够在所有五类测试问题上超越或等同于增强拓扑的神经进化(NEAT)。消融测试证明了良好的结果,显示了在统一的神经元表示中添加新功能的重要性。成功的一部分归功于频谱多样性提供的以新颖性为中心的进化和染色体大小的良好可扩展性。因此,这项研究揭示了一个新的表示和多样性保护机制,应该影响算法和应用程序来。要下载代码,请访问以下https://github.com/zweifel/Physis-Shard。
2019-01-06 cs.LG cs.NE
Behavior-based Neuroevolutionary Training in Reinforcement Learning
TH Köln(科隆应用技术大学);Vrije Universitat Amsterdam(阿姆斯特丹自由大学)
除了在解决经典优化问题方面无可争议的成功之外,神经进化和基于种群的算法已经成为标准强化学习方法的替代方案。然而,进化方法通常缺乏标准的基于值的方法的样本效率,标准的基于值的方法利用收集的状态和值经验。如果考虑对具有显著资源成本的现实问题进行强化学习,则样本效率至关重要。因此,增强进化算法的经验利用方法是期望的,并承诺有价值的见解。本文提出了一种结合拓扑变化神经进化优化和基于值的强化学习的混合算法。我们说明了如何可以使用的政策的行为来创建距离和损失函数,这得益于存储的经验和计算的状态值。它们允许我们通过无梯度进化算法和基于代理的优化来对行为进行建模并在行为空间中进行定向搜索。为此,我们整合了不同的方法来生成和优化代理策略,创建了一个多样化的群体。我们在标准基准测试和一个专门构建的现实问题上测试了我们的算法的性能。我们的研究结果表明,结合方法可以提高进化方法的样本效率和学习速度。
2021-05-17 cs.AI cs.NE
Optimizing Long Short-Term Memory Recurrent Neural Networks Using Ant Colony Optimization to Predict Turbine Engine Vibration
University of North Dakota(北达科他大学)
这篇文章扩展了已经完成的研究,以开发一种能够使用长短期记忆(LSTM)神经元预测飞机发动机振动的递归神经网络(RNN)。LSTM RNN可以为发动机振动的分析计算提供更通用和更强大的预测方法,因为分析计算必须基于特定的经验发动机参数迭代求解,使得这种方法无法在多个发动机中推广。在最初的工作中,提出、评估和比较了多种LSTM RNN架构。这项研究通过使用基于蚁群优化(ACO)的有前途的神经进化方法来开发和增强网络的LSTM细胞结构,从而提高了以前工作中提出的最有效的LSTM网络设计的性能。已经开发了ACO神经进化算法的并行化版本,并将进化的LSTM RNN与以前使用的固定拓扑进行了比较。进化后的网络是在一个大型的飞行数据记录数据库上训练的,该数据库是从一家航空公司获得的,该航空公司的航班遭受了过度振动。结果是在高性能计算(HPC)集群上使用MPI(消息传递接口)获得的,在4天内使用168个核心进化了1000个不同的LSTM单元结构。新进化的LSTM单元显示出1.35%的改进,在预测未来10秒的过度发动机振动时,预测误差从5.51%降低到4.17%,同时将权重从21,170大幅减少到11,810。
2017-10-10 cs.AI cs.NE
Coevolution of Generative Adversarial Networks
生成对抗网络(GAN)在计算机视觉领域取得了令人瞩目的成果,成为当前的研究热点。然而,GAN模型仍然存在一些问题,如训练的稳定性和架构的手工设计。神经进化是一种技术,可以用来提供网络架构的自动设计,即使在大搜索空间,如在深神经网络。因此,本项目提出了COEGAN,这是一种在GAN训练算法的协调中结合神经进化和协同进化的模型。该建议使用的生成器和可重构组件之间的对抗特性,设计一个算法,使用协同进化技术。我们的建议在MNIST数据集中进行了评估。结果表明,训练稳定性的改善和有效的网络结构的自动发现GANs。我们的模型也部分地解决了模式坍塌的问题。
2019-12-12 cs.NE
Deep Neuroevolution: Genetic Algorithms Are a Competitive Alternative for Training Deep Neural Networks for Reinforcement Learning
Uber AI Labs(优步人工智能实验室)
深度人工神经网络(DNN)通常通过基于梯度的学习算法(即反向传播)进行训练。演化策略(ES)可以与基于反向传播的算法(如Q学习和策略梯度)在具有挑战性的深度强化学习(RL)问题上相媲美。然而,ES可以被认为是基于梯度的算法,因为它通过类似于梯度的有限差分近似的操作来执行随机梯度下降。这就提出了一个问题,即非基于梯度的进化算法是否可以在DNN规模下工作。在这里,我们证明他们可以:我们用一个简单的、无梯度的、基于种群的遗传算法(GA)来进化DNN的权重,它在困难的深度RL问题上表现良好,包括Atari和人形运动。Deep GA成功地进化了具有超过400万个自由参数的网络,这是有史以来使用传统进化算法进化的最大神经网络。这些结果(1)扩展了我们对遗传算法可以操作的规模的理解,(2)有趣地表明,在某些情况下,遵循梯度并不是优化性能的最佳选择,(3)立即提供了大量的神经进化技术来提高性能。我们通过将DNN与新颖性搜索相结合来证明后者,这种新颖性搜索鼓励对具有欺骗性或稀疏奖励函数的任务进行探索,可以解决一个高维问题,在这个问题上,奖励最大化算法(例如\ DQN、A3C、ES和GA)失败。此外,Deep GA比ES、A3C和DQN更快(它可以在一个桌面上用${\raise.17ex\hbox{$ \scriptstyle \sim $}}$训练Atari 4小时,或者在720个核心上用${\ra…
2018-04-20 cs.LG cs.NE
Evaluating a Novel Neuroevolution and Neural Architecture Search System
School Of Computer Science;Electronic Engineering Bangor University, Wales Email: 1 , 2
本文提出并评估 Neuvo NAS+ 神经进化与架构搜索系统,通过任务特定地联合优化网络结构及训练超参数,在二分类任务上取得更高准确率与计算效率。
2025-03-13 cs.AI cs.NE
NeuroLGP-SM: Scalable Surrogate-Assisted Neuroevolution for Deep Neural Networks
Maynooth University(梅努斯大学);Lero(莱尔研究中心);Hamilton Institute(汉密尔顿研究所)
针对神经进化计算成本高的问题,提出结合表型距离向量与KPLS的NeuroLGP-SM代理模型,可高效估计DNN适应度,性能优于12种对比方法且能效提升25%,适用于大型DNN配置优化。
2024-09-16 cs.AI cs.NE
Neuroevolution of Physics-Informed Neural Nets: Benchmark Problems and Comparative Results
Center for Frontier AI Research(前沿人工智能研究中心);Agency for Science, Technology, and Research(新加坡科技研究局);Institute for High Performance Computing(高性能计算研究所);Nanyang Technological University(南洋理工大学);Singapore Institute of Manufacturing Technology(新加坡制造技术研究所)
针对PINN损失景观崎岖、梯度下降易陷入错误物理解的问题,本文提出五个含开源代码的物理基准,比较两种神经进化算法与随机梯度下降,证明神经进化可取得更优全局解和物理一致性。
2023-12-06 cs.AI cs.LG cs.NE
Training Detection-Range-Frugal Cooperative Collision Avoidance Models for Quadcopters via Neuroevolution
University at Buffalo(布法罗大学)
避免小型无人机(UAV)之间碰撞的合作自主方法是UAV在民用空域内安全集成的核心。一种潜在的在线合作方法是互惠行动的概念,其中两个无人机采取预先训练的相互一致的行动,不需要主动在线协调(从而避免与之相关的计算负担和风险)。本文提出了一种基于学习的方法来训练这种相互机动。使用进化算法同时优化神经网络的拓扑结构和权重的神经进化被用作学习方法--它在一组样本方法场景上运行。与大多数现有的工作(最小化旅行距离,能量或风险)不同,这里的训练过程侧重于最小化所需检测范围的目标;这对w.r.t.减轻了对复杂感测的依赖性及其在各种环境下的可靠性。一个专门设计的实验和线搜索用于确定每个样本场景的最小检测范围。为了允许有效的训练过程,分类器用于丢弃控制器会失败的动作(而不模拟它们)。通过神经进化获得的模型被观察到很好地推广到(即,成功避免碰撞)看不见的接近场景。
2019-05-31 cs.LG cs.NE cs.RO
Towards the Neuroevolution of Low-level Artificial General Intelligence
Oslo Metropolitan University(奥斯陆城市大学);Norwegian University of Science and Technology(挪威科技大学);University of Oslo(奥斯陆大学);Simula Metropolitan Centre for Digital Engineering(Simula大都会数字工程中心);Østfold University College(东福尔大学学院)
在这项工作中,我们认为,寻找人工通用智能(AGI)应该从比人类智能低得多的水平开始。自然界中智能行为的环境是生物体与周围环境相互作用的结果,这些环境可以随着时间的推移而变化,并对生物体施加压力,以允许学习新的行为或环境模型。我们的假设是,学习是通过解释感官反馈时,代理人在环境中的行为。要做到这一点,需要一个身体和一个反应性的环境。我们评估一种方法来发展一个生物启发的人工神经网络,学习环境反应命名为神经进化的人工通用智能(NAGI),低级别AGI的框架。该方法允许进化复杂化的随机初始化的脉冲神经网络与自适应突触,控制代理在可变的环境中实例化。这样的配置使我们能够基准的自适应性和通用性的控制器。在可变环境中选择的任务是觅食,逻辑门的仿真,和推车杆平衡。这三个任务都成功地解决了相当小的网络拓扑结构,因此它开辟了更复杂的任务和场景,其中课程学习是有益的实验的可能性。
2022-07-27 cs.AI cs.NE
COEGAN: Evaluating the Coevolution Effect in Generative Adversarial Networks
生成对抗网络(GAN)在根据输入数据集的分布生成样本方面呈现出最先进的结果。然而,GANs很难训练,模型的几个方面需要事先手工设计。神经进化是用于提供网络架构的自动设计的公知技术,其最近被扩展到深度神经网络。COEGAN是一种在GAN训练算法中使用神经进化和协同进化的模型,提供了一种更稳定的训练方法和神经网络架构的自动设计。COEGAN利用GAN组件的对抗方面来实现训练算法中的协同进化策略。我们的建议在Fashion-MNIST和MNIST数据集中进行了评估。我们将我们的结果与基于DCGAN的基线进行比较,并与随机搜索算法的结果进行比较。我们表明,我们的方法是能够发现高效的架构在时尚MNIST和MNIST数据集。结果还表明,COEGAN可以用作GANs的训练算法,以避免常见的问题,如模式坍塌问题。
2019-12-12 cs.NE
Neural Architecture Evolution in Deep Reinforcement Learning for Continuous Control
University of Freiburg(弗莱堡大学);German Cancer Research Center (DKFZ)(德国癌症研究中心(DKFZ));Bosch Center for Artificial Intelligence(博世人工智能中心)
目前的深度强化学习算法仍然严重依赖手工制作的神经网络架构。我们提出了一种新的方法来自动找到连续控制任务的强拓扑结构,同时只增加了一个小的开销在环境中的相互作用。为了实现这一点,我们结合神经进化技术与离线训练,并提出了一种新的架构变异算子。五个连续控制基准的实验表明,所提出的演员-评论家神经进化算法往往优于强演员-评论家基线,并能够自动找到拓扑结构的采样效率的方式,否则将不得不找到昂贵的架构搜索。
2020-02-27 cs.LG cs.NE stat.ML
Optimizing GoTools' Search Heuristics using Genetic Algorithms
GoTools是一个解决围棋中生死问题的程序。本文介绍了实验使用遗传算法优化启发式权重使用GoTools的树搜索。启发式权重的完整集合由不同的子组组成,每个子组可以用合适的适应度函数进行优化。作为一个有用的副产品,FreePascal的MPI接口被实现为允许使用在Beowulf集群上运行的并行适应度函数。本练习的目的是优化GoTools的当前版本,并使工具可用于准备GoTools的扩展,用于解决开放边界的生死问题,这将引入更多的启发式参数进行微调。
2003-02-02 cs.NE
A Fast and Effective Local Search Algorithm for Optimizing the Placement of Wind Turbines
将风力涡轮机放置在给定的土地面积上,使得风电场产生最大量的能量,这是一个具有挑战性的优化问题。在这篇文章中,我们解决这个问题,考虑到由风电场上不同的涡轮机产生的尾流效应。我们显着改善现有的结果,通过开发一个新的特定问题的局部搜索算法的尾流效应最小化。与以前的方法相比,我们的算法加速的一个关键步骤是减少评估给定风电场布局所需的计算时间。我们的新方法允许在标准计算机上的一个晚上内优化大型现实世界的场景,而以前的方法需要几个星期的专门计算服务器。
2012-04-20 cs.NE
Investigating Hyperparameter Optimization and Transferability for ES-HyperNEAT: A TPE Approach
Information Management Institute(信息管理研究所)
本研究采用TPE优化ES-HyperNEAT的超参数,在MNIST任务上取得优于随机搜索的效果,发现优化后的超参数可迁移至Fashion-MNIST但在简单逻辑运算上迁移有限,为神经演化算法超参数的选择与跨任务迁移提供了参考。
2026-09-10 cs.AI cs.NE
Evolving Deep Neural Networks
Sentient Technologies, Inc.(Sentient科技公司);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
深度学习的成功取决于找到适合任务的架构。随着深度学习扩展到更具挑战性的任务,架构变得难以手工设计。本文提出了一种自动化方法CoDeepNEAT,用于通过进化优化深度学习架构。通过将现有的神经进化方法扩展到拓扑结构、组件和超参数,该方法在对象识别和语言建模的标准基准中实现了与最佳人类设计相当的结果。它还支持在杂志网站上构建自动图像描述的真实应用程序。考虑到可用计算能力的预期增长,深度网络的演进是未来构建深度学习应用的有前途的方法。
2017-03-04 cs.AI cs.NE
ANA: Ant Nesting Algorithm for Optimizing Real-World Problems
提出了一种新的群体智能算法--蚂蚁嵌套算法(ANA).该算法受到Leptothorax蚂蚁的启发,并模仿蚂蚁在建造新巢时寻找存放谷物的位置的行为。虽然该算法的灵感来自于蚂蚁的群集行为,但它与蚁群优化(ACO)算法没有任何算法相似性。值得一提的是,ANA被认为是一种连续算法,其通过添加变化率(例如,步骤或速度)。ANA计算变化率的方式不同,因为它在优化过程中使用以前的、当前的解决方案和适应度值,通过利用毕达哥拉斯定理来生成权重。这些权重在探索和开发阶段驱动搜索代理。在26个著名的测试函数上对ANA算法进行了基准测试,并与遗传算法、粒子群优化算法、粒子群优化算法、五种改进的粒子群优化算法、鲸鱼优化算法、salp群算法和适应度依赖优化算法进行了比较研究。ANA优于这些突出的元启发式算法在几个测试用例,并提供了相当有竞争力的结果。最后,该算法被用于优化两个著名的现实世界的工程问题:天线阵列设计和调频合成。工程算例表明,该算法具有较好的求解实际问题的能力。
2021-12-04 cs.NE
Optimizing Selective Search in Chess
Bar-Ilan University(巴伊兰大学);University of Maryland(马里兰大学)
在本文中,我们介绍了一种新的方法,自动调整搜索参数的国际象棋程序使用遗传算法。我们的研究结果表明,一个大的参数值集可以自动学习,这样所得到的性能与手动调整的顶级锦标赛下棋程序的参数。
2010-09-02 cs.AI cs.NE
Evolving Neural Networks through a Reverse Encoding Tree
BGI-Shenzhen(深圳华大基因研究院);Georgia Institute of Technology(佐治亚理工学院);Oxford Immune Algorithmics(牛津免疫算法公司);Karolinska Institute(卡罗林斯卡学院);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
NeuroEvolution是最具竞争力的进化学习框架之一,用于设计用于特定任务的新型神经网络,如逻辑电路设计和数字游戏。然而,基准方法的应用,如增强拓扑的神经进化(NEAT)仍然是一个挑战,在其计算成本和搜索时间效率低下。本文提出了一种结合拓扑边编码的方法,称为反向编码树(RET),以有效地进化可扩展神经网络。使用RET,两种类型的方法- NEAT与二进制搜索编码(Bi-NEAT)和NEAT与黄金分割搜索编码(GS-NEAT)-已被设计用于解决基准连续学习环境中的问题,如逻辑门,Cartpole和Lunar Lander,并以经典NEAT和FS-NEAT为基线进行测试。此外,我们进行了鲁棒性测试,以评估所提出的NEAT算法的弹性。结果表明,提出的两种策略提供了更好的性能,其特征在于:(1)在有限数量的时间步长内获得更高的累积奖励;(2)在目标环境中使用更少的事件来解决问题;(3)在噪声扰动下保持自适应鲁棒性,在所有测试案例中均优于基线。我们的分析还表明,在动态环境中,RET扩展潜在的未来研究方向。代码可从https://github.com/HaolingZHANG/ReverseEncodingTree获得。
2020-03-31 cs.AI cs.LG cs.NE
CEM-RL: Combining evolutionary and gradient-based methods for policy search
Gleamer;Sorbonne Université(索邦大学)
深度神经进化和深度强化学习(deep RL)算法是两种流行的策略搜索方法。前者适用范围广,稳定性好,但样本效率低。相比之下,后者更具样本效率,但大多数样本效率的变体也相当不稳定,并且对超参数设置高度敏感。到目前为止,这些家庭的方法大多是比较作为竞争工具。然而,一种新兴的方法是将它们结合起来,以便获得两个世界的最佳效果。两个先前存在的组合使用自组织进化算法或目标探索过程以及深度确定性策略梯度(DDPG)算法,一种样本有效的非策略深度RL算法。在本文中,我们提出了一种不同的组合方案,使用简单的交叉熵方法(CEM)和双延迟深度确定性策略梯度(td 3),另一种非策略深度RL算法,改进了ddpg。我们在深度RL中经典使用的一组基准上评估了所得到的方法cem-rl。我们表明,cem-rl受益于几个优势,其竞争对手,并提供了一个令人满意的性能和样本效率之间的权衡。
2019-02-11 cs.LG cs.NE stat.ML
RankNEAT: Outperforming Stochastic Gradient Search in Preference Learning Tasks
University of Malta(马耳他大学)
随机梯度下降(SGD)是一种用于训练神经网络的高级优化方法,特别是用于学习客观定义的标签,如图像对象和事件。当一个神经网络面对的是主观定义的标签时--比如人类的演示或注释--SGD可能很难探索由人类固有的偏见和主观性造成的欺骗性和噪声损失。虽然神经网络通常通过偏好学习算法来训练,以消除这种数据噪声,但实际上的训练方法依赖于梯度下降。出于缺乏实证研究的影响,进化搜索的偏好学习者的培训,我们介绍了RankNEAT算法,学习排名通过神经进化的增强拓扑结构。我们测试的假设,RankNEAT优于传统的基于梯度的偏好学习的情感计算域,特别是预测注释的玩家唤醒从三个不同的游戏的游戏画面。在大多数实验中,RankNEAT与基于梯度的偏好学习器(RankNet)相比具有更好的性能,因为其架构优化能力可以作为一种有效的特征选择机制,从而消除过拟合。结果表明,RankNEAT是一个可行的和高效的进化选择偏好学习。
2022-04-14 cs.AI cs.HC cs.NE
Online Evolutionary Neural Architecture Search for Multivariate Non-Stationary Time Series Forecasting
Rochester Institute of Technology(罗切斯特理工学院)
时间序列预测(TSF)是数据科学中最重要的任务之一,因为准确的时间序列(TS)预测模型在包括金融、交通、医疗保健和电力系统在内的各种领域中发挥着重要作用。机器学习(ML)的实际应用通常涉及在收集的历史数据上(预)训练模型,然后将它们应用于看不见的数据点。然而,在现实世界的应用中,时间序列数据流通常是非平稳的,随着时间的推移,训练的ML模型通常会面临数据或概念漂移的问题。为了解决这个问题,模型必须定期重新训练或重新设计,这需要大量的人力和计算资源。此外,历史数据甚至可能不存在以用于重新训练或重新设计模型。因此,非常希望以在线方式设计和训练模型。这项工作提出了基于在线神经进化的神经结构搜索(ONE-NAS)算法,这是一种新的神经结构搜索方法,能够自动设计和动态训练递归神经网络(RNN)的在线预测任务。在没有任何预训练的情况下,ONE-NAS利用RNN群体,这些RNN群体不断更新新的网络结构和权重,以响应新的多元输入数据。ONE-NAS在真实世界的大规模多变量风力涡轮机数据以及单变量道琼斯工业平均指数(DJIA)数据集上进行了测试。结果表明,ONE-NAS优于传统的统计时间序列预测方法,包括在线线性回归,固定长短期记忆(LSTM)和在线训练的门控递归单元(GRU)模型,以及最先进的在线ARIMA策略。
2023-02-20 cs.LG cs.NE
Optimizing Deep Neural Network Architecture: A Tabu Search Based Approach
Jamia Millia Islamia(贾米亚·米利亚·伊斯兰亚大学)
前馈神经网络(FNN)的性能完全取决于网络结构和训练算法的选择。FNN架构可以使用几个参数进行调整,例如隐藏层的数量,每个隐藏层的隐藏神经元数量以及层之间的连接数量。这些体系结构属性的组合可能是指数型的,这可能是人工无法管理的,所以它需要一个算法,可以自动设计一个最优的体系结构,具有较高的泛化能力。许多优化算法已被用于FNN结构的确定。本文提出了一种新的方法,它可以工作的模糊神经网络的隐层和各自的神经元的估计。结合禁忌搜索(TS)和梯度下降与动量反向传播(GDM)训练算法的优点,演示了禁忌搜索如何基于最小测试误差标准从填充的体系结构中自动选择最佳体系结构。所提出的方法已被测试的四个不同大小的分类基准数据集。
2018-08-17 cs.AI cs.LG cs.NE
Optimizing Neural Architecture Search using Limited GPU Time in a Dynamic Search Space: A Gene Expression Programming Approach
Federal University of Parana(巴拉那联邦大学)
本文提出一种基于基因表达式编程的进化式神经架构搜索方法,在动态搜索空间和仅24个GPU小时的限制下高效发现卷积模型,并在CIFAR和ImageNet上取得与人工设计及NAS生成网络相当的先进结果。
2020-05-15 cs.CV cs.LG cs.NE
Optimizing Neural Network Hyperparameters with Gaussian Processes for Dialog Act Classification
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
基于人工神经网络(ANN)的系统已经在许多自然语言处理任务中取得了最先进的成果。虽然人工神经网络不需要手动设计的功能,但人工神经网络有许多超参数需要优化。超参数的选择对模型的性能有很大的影响。然而,ANN超参数通常通过手动、网格或随机搜索来选择,这要么需要专家经验,要么计算成本很高。最近的基于贝叶斯优化的方法使用高斯过程(GP)是一种更系统的方法来自动确定最佳或接近最佳的机器学习超参数。使用先前发布的人工神经网络模型产生的最先进的对话行为分类的结果,我们表明,使用GP优化超参数进一步改善了结果,并减少了4倍的计算时间相比,随机搜索。因此,它是一个有用的技术调整人工神经网络模型,以产生最佳性能的自然语言处理任务。
2016-09-27 cs.CL cs.NE stat.ML