Optimizing Deep Neural Networks with Multiple Search Neuroevolution
本文提出了一种称为多搜索神经进化(MSN)的进化元启发式算法来优化深度神经网络。该算法试图同时在搜索空间中搜索多个有希望的区域,并保持它们之间足够的距离。通过对两个任务的神经网络训练,对该算法进行了测试,并与其他优化算法进行了比较。第一个任务是解决具有挑战性拓扑的全局优化函数。我们发现MSN优于经典的优化算法,如演化策略,减少了至少2倍的优化步骤。第二个任务是在流行的MNIST数据集上训练卷积神经网络(CNN)。使用3.33%的训练集,MSN达到了90%的验证准确率。随机梯度下降(SGD)能够匹配相同的精度数字,同时减少7倍的优化步骤。尽管滞后,但MSN元数据库训练4.7M参数的CNN的事实表明了未来发展的希望。这是迄今为止使用仅50个样本池开发的最大网络。
2019-01-17 cs.NE
A Self-adaptive Neuroevolution Approach to Constructing Deep Neural Network Architectures Across Different Types
Dalian Maritime University(大连海事大学);Sun Yat-sen University(中山大学);Hanyang University(汉阳大学);Victoria University(维多利亚大学);Chaoyang University of Technology(朝阳科技大学)
神经进化极大地促进了深度神经网络(DNN)的架构设计及其应用,但缺乏跨不同类型DNN的规模和性能方法。在这项研究中,我们提出了一种自适应神经进化(SANE)方法来自动构建各种轻量级DNN架构,用于不同的任务。SANE中的关键设置之一是由自适应不同DNN类型的细胞和器官定义的搜索空间。在此搜索空间的基础上,设计了一种具有统一进化设置和操作的构造性演化策略,以逐步扩展DNN体系结构。SANE能够自适应地调整进化探索和利用,以提高搜索效率。此外,一个物种形成计划,以保护进化早期收敛限制物种内的选择竞争。为了评估SANE,我们进行了神经进化实验,以生成不同的DNN架构,包括卷积神经网络,生成对抗网络和长短期记忆。结果表明,所获得的DNN架构可以有较小的规模与类似的性能相比,现有的DNN架构。我们提出的SANE提供了一种有效的方法来自适应地搜索不同类型的DNN架构。
2023-02-02 cs.AI cs.NE
EvoJAX: Hardware-Accelerated Neuroevolution
演化计算已被证明是训练神经网络的一种非常有效的方法,特别是当在CPU集群上大规模使用时。最近的工作也展示了它们在硬件加速器(如GPU)上的有效性,但到目前为止,这些演示是针对非常特定的任务量身定制的,限制了对其他领域的适用性。我们提出EvoJAX,一个可扩展的,通用的,硬件加速的神经进化工具包。基于JAX库,我们的工具包使神经进化算法能够与跨多个TPU/GPU并行运行的神经网络一起工作。EvoJAX通过在NumPy中实现进化算法、神经网络和任务来实现非常高的性能,NumPy是即时编译的,可以在加速器上运行。我们为各种任务提供了EvoJAX的可扩展示例,包括监督学习,强化学习和生成艺术。由于EvoJAX可以在单个加速器上几分钟内找到大多数这些任务的解决方案,与使用CPU时的数小时或数天相比,我们的工具包可以显着缩短演化计算实验的迭代周期。EvoJAX可在https://github.com/google/evojax上获得
2022-04-05 cs.NE
Accelerating Deep Neuroevolution on Distributed FPGAs for Reinforcement Learning Problems
IBM Almaden Research Center(IBM阿尔马登研究中心)
由深度神经网络的表征能力增强的强化学习在高维问题上显示出有希望的结果,例如游戏和机器人控制。然而,这些问题的连续性对计算效率提出了根本性的挑战。最近,进化策略和深度神经进化等替代方法在分布式CPU内核上表现出更快的训练时间。在这里,我们报告了Atari 2600游戏使用分布式FPGA实现的深度神经进化的创纪录训练时间(每秒约100万帧)。将游戏控制台、图像预处理和神经网络的硬件实现结合在优化的流水线中,乘以系统级并行性,实现了加速。这些结果是IBM神经计算机上的第一个应用演示,这是一个定制设计的系统,由432个Xilinx FPGA以3D网状网络拓扑互连组成。除了高性能外,实验还显示,与CPU实现的相同算法相比,所有游戏的准确性都有所提高。
2020-05-10 cs.AI cs.AR cs.DC
Correspondence between neuroevolution and gradient descent
我们分析表明,训练神经网络的条件随机突变或神经进化的权重是等价的,在小突变的限制,梯度下降的损失函数在高斯白噪声的存在下。在学习过程的独立实现上求平均,神经进化等价于损失函数上的梯度下降。我们使用数值模拟表明,这种对应关系可以观察到有限的突变,浅和深神经网络。我们的研究结果提供了两种神经网络训练方法之间的联系,这两种方法通常被认为是根本不同的。
2021-09-10 cond-mat.stat-mech cs.NE
Deep Neuroevolution of Recurrent and Discrete World Models
Uber AI(优步人工智能实验室)
受我们自己的人类认知系统启发的神经架构,例如最近引入的世界模型,已被证明在各种不同的领域优于传统的深度强化学习(RL)方法。与大多数RL实验中采用的相对简单的架构不同,世界模型依赖于多个不同的神经组件,这些组件负责视觉信息处理、记忆和决策。然而,到目前为止,这些模型的组件必须单独训练,并通过各种专门的训练方法。本文展示了一个令人惊讶的发现,即具有相同精确部件的模型可以通过遗传算法(GA)进行端到端的有效训练,通过解决具有挑战性的赛车任务,达到与原始世界模型相当的性能。对进化的视觉和记忆系统的分析表明,它们包括与通过梯度下降训练的系统类似的有效表示。此外,与处理离散变量的梯度下降方法相比,遗传算法也直接处理此类表示,为潜在空间中的经典规划提供了机会。本文增加了额外的证据,证明深度神经进化对于复杂异构架构中需要复杂编排多个组件的任务的有效性。
2019-04-28 cs.AI cs.NE
Stitching for Neuroevolution: Recombining Deep Neural Networks without Breaking Them
提出一种基于拼接的神经进化方法,通过匹配父网络连接性并在交叉点引入新层来重组预训练深度神经网络,从而高效发现性能与计算成本权衡更优的新模型。
2024-03-21 cs.NE
Fast and scalable neuroevolution deep learning architecture search for multivariate anomaly detection
AGH University of Science and Technology(AGH科技大学);American University(美利坚大学)
神经进化是可用于在训练期间学习最佳架构的方法之一。它使用进化算法来生成人工神经网络的拓扑结构及其参数。主要的好处是它是可扩展的,可以是完全或部分非梯度方法。在这项工作中,提出了一种改进的神经进化技术,它采用了多级优化。该方法采用演化策略对基于Bagging技术的集成模型进行进化,使用遗传算子优化单个异常检测模型,减少训练数据集以加快搜索过程并进行非梯度微调。多变量异常检测作为一个无监督学习任务的情况下,所提出的方法进行了测试研究。单模型优化基于变异和交叉算子,专注于寻找最佳窗口大小、层数、层深度、超参数等,以提高新模型和已知模型的异常检测分数。所提出的框架及其协议表明,有可能在合理的时间范围内找到可以提升所有已知的多元异常检测深度学习架构的架构。工作集中在改进的多层次神经进化异常检测方法。主要的修改是在混合组和单模型演化,非梯度微调和投票机制的方法。所提出的框架可以用作任何不同的无监督任务,其中可以使用自动编码器架构的有效学习网络架构方法。测试在SWAT、WADI、MSL和SMAP数据集上运行,所提出的方法发展了在其他深度学习模型中获得最佳分数的架构。
2022-08-27 cs.AI cs.NE
Neuroevolution deep learning architecture search for estimation of river surface elevation from photogrammetric Digital Surface Models
AGH UST(AGH科技大学)
从与全球变暖有关的极端水文事件日益频繁和对水的需求日益增加的角度来看,开发地表水观测的新方法至关重要。使用无人机摄影测量获得的正射影像和数字表面模型(DSM)可用于确定河流的水面高程(WSE)。然而,这项任务是困难的,由于水面上的DSM的摄影测量算法的局限性所造成的干扰。在这项研究中,机器学习被用来提取WSE值从扰动摄影测量数据。水文和摄影测量专家专门为此目的准备了一个全新的数据集。新方法是实现高空间和时间分辨率水面水位测量自动化的重要一步。这些数据可用于验证和校准水文、水力和水动力模型,使水文预报更加准确,特别是预测洪水或干旱等极端和危险事件。据我们所知,这是第一种为此目的创建数据集并使用深度学习模型的方法。此外,神经进化算法被设置为探索不同的架构,以找到局部最优模型和非梯度搜索进行微调模型参数。所取得的结果有更好的准确性相比,手动方法确定WSE从摄影测量DSM。
2022-12-04 cs.AI cs.CV cs.LG
NeuroLGP-SM: Scalable Surrogate-Assisted Neuroevolution for Deep Neural Networks
Maynooth University(梅努斯大学);Lero(莱尔研究中心);Hamilton Institute(汉密尔顿研究所)
针对神经进化计算成本高的问题,提出结合表型距离向量与KPLS的NeuroLGP-SM代理模型,可高效估计DNN适应度,性能优于12种对比方法且能效提升25%,适用于大型DNN配置优化。
2024-09-16 cs.AI cs.NE
Experiential Robot Learning with Accelerated Neuroevolution
University of Virginia(弗吉尼亚大学)
基于导数的优化技术,如随机梯度下降,在训练深度神经网络方面取得了广泛的成功。然而,它具有诸如端到端网络可区分性的约束。作为替代,我们提出了加速神经进化算法。新算法是针对物理机器人学习任务的经验机器人学习方法。我们首先在玩游戏Flappy Bird的模拟任务上测试我们的算法,然后在静态对象中心任务中对物理NAO机器人进行测试。代理成功地导航给定的任务,在一个相对较低的代数。基于我们的研究结果,我们建议在更复杂的任务中使用该算法。
2018-08-16 cs.NE cs.RO
Scaling MAP-Elites to Deep Neuroevolution
INRIA(法国国家信息与自动化研究所);Uber AI Labs(优步人工智能实验室);Element Inc.(Element公司);OpenAI
质量多样性(QD)算法,特别是MAP-Elites(ME),已被证明对广泛的应用非常有用,包括使真正的机器人能够从关节损伤中快速恢复,解决强欺骗性的迷宫任务或进化机器人形态以发现新的步态。然而,目前的MAP-Elites和其他QD算法的实现似乎仅限于具有比现代深度神经网络模型少得多的参数的低维控制器。在本文中,我们建议利用效率的演化策略(ES)的规模MAP精英高维控制器参数化的大型神经网络。我们设计和评估一个新的混合算法称为MAP精英与演化策略(ME-ES)的损伤后恢复在一个困难的高维控制任务,传统ME失败。此外,我们表明,ME-ES进行有效的探索,与国家的最先进的探索算法在高维控制任务具有强烈的欺骗性奖励。
2020-06-05 cs.AI cs.LG cs.NE
Deep Neuroevolution: Genetic Algorithms Are a Competitive Alternative for Training Deep Neural Networks for Reinforcement Learning
Uber AI Labs(优步人工智能实验室)
深度人工神经网络(DNN)通常通过基于梯度的学习算法(即反向传播)进行训练。演化策略(ES)可以与基于反向传播的算法(如Q学习和策略梯度)在具有挑战性的深度强化学习(RL)问题上相媲美。然而,ES可以被认为是基于梯度的算法,因为它通过类似于梯度的有限差分近似的操作来执行随机梯度下降。这就提出了一个问题,即非基于梯度的进化算法是否可以在DNN规模下工作。在这里,我们证明他们可以:我们用一个简单的、无梯度的、基于种群的遗传算法(GA)来进化DNN的权重,它在困难的深度RL问题上表现良好,包括Atari和人形运动。Deep GA成功地进化了具有超过400万个自由参数的网络,这是有史以来使用传统进化算法进化的最大神经网络。这些结果(1)扩展了我们对遗传算法可以操作的规模的理解,(2)有趣地表明,在某些情况下,遵循梯度并不是优化性能的最佳选择,(3)立即提供了大量的神经进化技术来提高性能。我们通过将DNN与新颖性搜索相结合来证明后者,这种新颖性搜索鼓励对具有欺骗性或稀疏奖励函数的任务进行探索,可以解决一个高维问题,在这个问题上,奖励最大化算法(例如\ DQN、A3C、ES和GA)失败。此外,Deep GA比ES、A3C和DQN更快(它可以在一个桌面上用${\raise.17ex\hbox{$ \scriptstyle \sim $}}$训练Atari 4小时,或者在720个核心上用${\ra…
2018-04-20 cs.LG cs.NE
Deep Neuroevolution Squeezes More out of Small Neural Networks and Small Training Sets: Sample Application to MRI Brain Sequence Classification
Memorial Sloan Kettering Cancer Center(纪念斯隆凯特琳癌症中心);Indian Institute of Technology, Madras(印度理工学院马德拉斯分校)
目的:深度神经进化(DNE)有望提供放射学人工智能(AI),该人工智能在小型神经网络和小型训练集上表现良好。我们试图通过MRI脑序列分类的原理证明应用程序来实现这一潜力。方法:我们分析了20名患者的训练集,每个患者有四个序列/权重:T1,T1对比后,T2和T2-FLAIR。我们训练了一个相对较小的卷积神经网络(CNN)的参数,如下所示:首先,我们随机变异了CNN的权重。然后,我们测量了CNN训练集的准确性,使用后者作为适应度评估指标。确定了最合适的子CNN。我们将它们的突变整合到母体CNN中。这个选择性突变的亲本成为下一代的亲本CNN。我们重复这个过程大约50,000代。结果:DNE实现了单调收敛到100%的训练集准确率。DNE也单调收敛到100%测试集精度。结论:DNE可以在小训练集和小CNN的情况下达到完美的准确性。特别是当与深度强化学习相结合时,DNE可以提供一条前进的道路,使放射学AI在学习能力方面更像人类。DNE很可能成为备受期待的放射学AI算法元学习机制的关键组成部分,该算法可以适应新任务和新图像类型,类似于人类放射科医生。
2021-12-24 cs.AI cs.NE
Deep neuroevolution for limited, heterogeneous data: proof-of-concept application to Neuroblastoma brain metastasis using a small virtual pooled image collection
Memorial Sloan Kettering Cancer Center(纪念斯隆·凯特琳癌症中心);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
近年来,放射学领域的人工智能(AI)取得了长足的进步,但仍存在许多障碍。过度拟合和缺乏可推广性是阻碍准确和可靠的临床部署的重要持续挑战。如果人工智能算法能够避免过度拟合并实现真正的普遍性,它们就可以从研究领域走向临床工作的最前沿。最近,小数据AI方法,如深度神经进化(DNE),已经避免了过拟合小训练集。我们寻求解决过度拟合和泛化的DNE应用到一个虚拟汇集的数据集,包括来自不同机构的图像。我们的用例是在MRI上对神经母细胞瘤脑转移进行分类。神经母细胞瘤非常适合我们的目标,因为它是一种罕见的癌症。因此,研究这种儿科疾病需要小数据方法。作为一个三级医疗中心,我们当地的图像采集和通信系统(PACS)中的神经母细胞瘤图像主要来自外部机构。这些多机构图像提供了可以模拟真实世界临床部署的异构数据集。与之前的DNE工作一样,我们使用了一个小的训练集,由30个正常和30个包含转移的对比后MRI脑扫描组成,其中37%为外部图像。测试集富集了83%的外部图像。DNE收敛到97%的测试集准确度。因此,该算法能够在模拟真实世界数据的测试集上以近乎完美的精度预测图像类。因此,这里描述的工作代表了对临床可行AI的相当大的贡献。
2022-11-26 cs.AI cs.CV cs.LG
AD-NEv++ : The multi-architecture neuroevolution-based multivariate anomaly detection framework
Institute of Electronics(电子研究所);AGH(AGH大学);Department of Computer Science(计算机科学系);American University(美利坚大学)
针对现有神经进化异常检测框架支持的网络层类型有限、模型优化繁琐的问题,提出三阶段框架AD-NEv++,结合子空间进化、模型进化与微调,支持多种网络层,在基准测试中性能优于现有深度学习及神经进化方法,超越最优GNN架构。
2024-03-25 cs.AI cs.LG cs.NE
Neuroevolutionary Transfer Learning of Deep Recurrent Neural Networks through Network-Aware Adaptation
Rochester Institute of Technology(罗切斯特理工学院)
迁移学习需要采用在源数据集上训练的人工神经网络(ANN)并使其适应新的目标数据集。虽然这已经被证明是非常强大的,但它的使用通常受到架构约束的限制。以前,为了重用和适应ANN的内部权重和结构,在任务之间传输的ANN的底层拓扑必须保持基本相同,同时附加新的输出层,丢弃旧的输出层的权重。这项工作介绍了网络感知的自适应结构迁移学习(N-ASTL),在以前的努力,以消除这种限制的进步。N-ASTL利用与源网络的拓扑和权重分布相关的统计信息,以告知如何将新的输入和输出神经元集成到现有结构中。结果显示了对现有技术的改进,包括在具有挑战性的现实世界数据集中转移的能力,以及在没有转移的情况下训练的RNN的改进泛化能力。
2020-06-04 cs.LG cs.NE
Benchmarking Quality-Diversity Algorithms on Neuroevolution for Reinforcement Learning
Imperial College London(伦敦帝国理工学院)
我们为机器人控制的强化学习领域的深度神经进化提出了一个质量多样性基准套件。该套件包括任务、环境、行为描述符和适应性的定义。我们根据任务和由深度神经网络控制的代理的复杂性指定不同的基准。该基准使用标准的质量多样性指标,包括覆盖率,QD得分,最大适应度和存档配置文件指标来量化覆盖率和适应度之间的关系。我们还提出了如何量化的鲁棒性的解决方案,环境随机性,通过引入相同的指标的校正版本。我们相信,我们的基准是一个宝贵的工具,为社会比较和改善他们的调查结果。源代码可在线获取:https://github.com/adaptive-intelligent-robotics/QDax
2022-11-04 cs.AI cs.LG cs.NE
Federated Neuroevolution O-RAN: Enhancing the Robustness of Deep Reinforcement Learning xApps
Mississippi State University(密西西比州立大学)
针对O-RAN中DRL xApps易陷入局部最优、可靠性不足的问题,提出联邦神经进化增强的F-ONRL框架,并行部署NE优化器xApp,在OAIC平台验证其可平衡计算负载并提升xApps鲁棒性。
2025-06-15 cs.AI cs.NE cs.SY
Direct evaluation of progression or regression of disease burden in brain metastatic disease with Deep Neuroevolution
Memorial Sloan Kettering Cancer Center(纪念斯隆凯特琳癌症中心);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
目的:推进癌症治疗研究的一个核心组成部分是评估对治疗的反应。手工操作,例如按照RECIST或RANO标准,是繁琐、耗时的,并且可能错过重要的肿瘤缓解信息;最值得注意的是,它们排除了非靶病灶。我们希望以包括所有病变的整体方式评估变化,获得肿瘤进展或消退的简单,信息丰富和自动化评估。由于临床试验的患者入组率通常较低,我们希望使用小训练集进行缓解评估。深度神经进化(DNE)可以产生在小训练集上表现良好的放射学人工智能(AI)。在这里,我们使用DNE的功能近似,预测进展与退化的转移性脑疾病。方法:我们分析了50对MRI对比增强图像作为我们的训练集。这些图像中有一半在时间上分开,符合疾病进展的条件,而其他25张图像构成了退化。我们通过由随机CNN权重调整和突变适应度组成的突变来训练相对较小的CNN的参数。然后,我们将最好的突变纳入下一代CNN,重复这个过程大约50,000代。我们将CNN应用于我们的训练集,以及一个单独的测试集,其中具有25个进展和25个回归图像的同类平衡。结果:DNE实现了单调收敛到100%的训练集准确率。DNE也单调收敛到100%测试集精度。结论:DNE可以准确地对脑转移性疾病的进展与消退进行分类。未来的工作将从2D图像切片扩展到完整的3D体积,并包括无变化的类别。我们相信,像我们这样的方法最终可以为RANO/RECIST评估提供有用的辅助。
2022-03-24 cs.AI cs.CV cs.LG
Adaptive Combination of a Genetic Algorithm and Novelty Search for Deep Neuroevolution
演化计算(EC)已被证明能够快速训练深度人工神经网络(DNN)来解决强化学习(RL)问题。虽然遗传算法(GA)非常适合于利用既不具有欺骗性也不稀疏的奖励函数,但当奖励函数是这些函数中的任一个时,它就会挣扎。为此,新奇搜索(NS)已被证明能够在某些情况下优于梯度跟踪优化器,而在其他情况下表现不佳。我们提出了一种新的算法:探索-利用$γ$ -自适应学习器($E^2γAL$,或EyAL)。通过保留一个动态大小的小生境的新奇寻求代理,该算法设法保持人口的多样性,利用奖励信号时,可能的和探索,否则。该算法结合了GA的开发能力和NS的探索能力,同时保持了它们的简单性和优雅性。我们的实验表明,EyAL在大多数情况下优于NS,同时与GA相当-在某些情况下,它可以优于两者。EyAL还允许用其他算法替代开发组件(GA)和探索组件(NS),例如,演化策略和惊喜搜索,从而为未来的研究打开了大门。
2022-09-08 cs.MA cs.NE
Neuroevolution of Physics-Informed Neural Nets: Benchmark Problems and Comparative Results
Center for Frontier AI Research(前沿人工智能研究中心);Agency for Science, Technology, and Research(新加坡科技研究局);Institute for High Performance Computing(高性能计算研究所);Nanyang Technological University(南洋理工大学);Singapore Institute of Manufacturing Technology(新加坡制造技术研究所)
针对PINN损失景观崎岖、梯度下降易陷入错误物理解的问题,本文提出五个含开源代码的物理基准,比较两种神经进化算法与随机梯度下降,证明神经进化可取得更优全局解和物理一致性。
2023-12-06 cs.AI cs.LG cs.NE
AD-NEV: A Scalable Multi-level Neuroevolution Framework for Multivariate Anomaly Detection
AGH-UST(AGH科技大学);American University(美利坚大学)
AD-NEV提出一种可扩展多层神经进化框架,通过协同优化特征子空间、模型架构和网络权重,在多变量时间序列异常检测中超越主流深度学习模型并具备高可扩展性。
2023-05-25 cs.AI cs.LG cs.NE
Can Transfer Neuroevolution Tractably Solve Your Differential Equations?
本文介绍了求解微分方程的神经进化算法。通过优化一个深度神经网络,其损失函数由微分方程的残差项定义,得到了该解。最近的研究集中在通过随机梯度下降(SGD)变体来学习这种物理信息神经网络,但由于优化挑战,它们面临着获得准确解的困难。在解微分方程的背景下,我们面临的问题是找到网络的全局最优参数,而不是关注样本外泛化。SGD沿着单一梯度方向搜索,容易陷入局部最优,因此它可能不是这里的最佳方法。相比之下,神经进化对不同的解决方案进行并行探索,目标是绕过局部最优解。它可以通过更好的优化神经网络找到更准确的解决方案。然而,神经进化可能是缓慢的,在实践中提出了易处理性问题。考虑到这一点,本文提出了一种新的和计算效率高的转移神经进化算法。我们的方法是能够利用相关的经验先验知识解决一个新的问题时,与适应,以防止负迁移的风险。该算法应用于各种微分方程的经验证明,转移神经进化确实可以实现更好的精度和更快的收敛速度比SGD。因此,实验结果确立了转移神经进化作为一个值得注意的方法来解决微分方程,一个从来没有被研究过。我们的工作扩展了现有算法的资源,用于优化物理信息神经网络。
2021-05-05 cs.NE physics.comp-ph
Evasive Active Hypothesis Testing with Deep Neuroevolution: The Single- and Multi-Agent Cases
Department of Informatics and Telecommunications, National and Kapodistrian University of Athens(信息与电信系,国家与卡波迪斯蒂亚大学);Department of Electrical and Computer Engineering, University of Illinois Chicago(电气与计算机工程系,伊利诺伊大学香槟分校);School of Electrical and Computer Engineering, National Technical University of Athens(电气与计算机工程系,国家技术大学)
针对存在窃听者的单智能体集中式和多智能体去中心化主动假设检验问题,提出基于深度神经进化的框架及联合剪枝方法,通过数值实验验证其性能优于传统策略与学习方法,且剪枝后性能几乎不变。
2025-08-25 cs.AI cs.CR cs.MA
Deep neuroevolution to predict primary brain tumor grade from functional MRI adjacency matrices
Memorial Sloan Kettering Cancer Center(纪念斯隆-凯特琳癌症中心);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
虽然MRI产生有关大脑的解剖信息,但功能性MRI(fMRI)告诉我们大脑内的神经活动,包括各个区域如何相互交流。大脑中的全部对话可以在邻接矩阵中优雅地总结出来。虽然信息丰富,但邻接矩阵通常提供的直观方式很少。尽管受过训练的放射科医生通过观察解剖MRI可以很容易地区分不同类型的脑癌,但使用邻接矩阵进行类似的确定将超出任何专家的掌握。放射学中的人工智能(AI)通常分析解剖成像,为放射科医生提供帮助。对于非直观的数据类型,如邻接矩阵,人工智能超越了有用的助手的角色,成为不可或缺的。我们在这里试图证明,AI可以学习基于邻接矩阵区分两种重要的脑肿瘤类型,即高级别胶质瘤(HGG)和低级别胶质瘤(LGG)。我们用深度神经进化(DNE)的方法训练了一个卷积神经网络(CNN),因为后者最近取得了令人鼓舞的成果;即使在依赖于小而嘈杂的训练集或执行细微差别的任务时,DNE也产生了非常准确的CNN。在仅对30个邻接矩阵进行训练后,我们的CNN可以以完美的测试集准确度区分HGG和LGG。显着图显示,该网络学习了高度复杂和复杂的特征,以实现其成功。因此,我们已经证明,人工智能有可能从功能连接中识别脑肿瘤类型。在未来的工作中,我们将把DNE应用于其他嘈杂和有点神秘的医学数据形式,包括进一步探索功能磁共振成像。
2022-11-26 cs.AI cs.LG cs.NE
Sparse Mutation Decompositions: Fine Tuning Deep Neural Networks with Subspace Evolution
Colorado State University(科罗拉多州立大学)
神经进化是将进化算法与神经网络相结合的一个很有前途的研究领域。神经进化方法的一个流行的子类,称为演化策略,依赖于密集的噪声扰动来变异网络,这对于具有数百万参数的大型模型来说可能是采样效率低下和具有挑战性的。我们介绍了一种方法来缓解这个问题,通过分解密集突变到低维子空间。以这种方式限制突变可以显着减少方差,因为网络可以在保持性能的同时处理更强的扰动,这使得深度网络的进化更加可控和有针对性。这种方法对于微调预训练模型的任务非常有效,随着网络规模的不断扩大和开源模型的越来越广泛,这是一个越来越有价值的研究领域。此外,我们还展示了这项工作如何自然地与集成学习联系在一起,其中稀疏突变鼓励儿童之间的多样性,这样他们的组合预测就可以可靠地提高性能。我们对神经进化的微调和集成进行了首次大规模探索,在众所周知的困难ImageNet数据集上,我们看到了小的泛化改进,只有一个单一的进化代,使用了近十几个不同的深度神经网络架构。
2023-02-12 cs.LG cs.NE
Multitask Neuroevolution for Reinforcement Learning with Long and Short Episodes
Nanyang Technological University(南洋理工大学);Singapore Institute of Manufacturing Technology (SIMTech)(新加坡制造技术研究院);Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局);Sun Yat-sen University(中山大学);A*Star Center for Frontier AI Research(新加坡科技研究局前沿人工智能研究中心)
研究表明演化策略(ES)是深度神经网络的强化学习(RL)的一种有前途的方法。然而,高样本复杂度的问题仍然存在于ES在长期的深度RL应用中。本文是第一个通过一种新的神经进化多任务(NuEMT)算法来解决当今方法的缺点,该算法旨在将信息从一组辅助任务(短情节长度)转移到目标(全长)RL任务。从目标中提取的辅助任务允许代理在较短的时间范围内更新和快速评估策略。然后,进化的技能被转移到指导更长和更难的任务,以实现最佳策略。我们证明了NuEMT算法实现了数据高效的进化RL,减少了昂贵的代理-环境交互数据需求。我们的关键算法的贡献,在这种情况下,是第一次介绍,一个多任务的技能转移机制的基础上的统计重要性采样技术。此外,自适应资源分配策略被用来分配计算资源的辅助任务的基础上收集的有用性。在OpenAI Gym的一系列连续控制任务上进行的实验证实,与最近的ES基线相比,我们提出的算法是有效的。
2022-11-13 cs.LG cs.NE
Neuroevolution of Neural Network Architectures Using CoDeepNEAT and Keras
Institute of Informatics(信息学研究所);Federal University of Rio Grande do Sul(南里奥格兰德联邦大学)
机器学习是计算机科学和统计学中的一个巨大的研究领域,致力于通过算法执行计算任务,这些算法不需要明确的指令,而是依赖于从数据样本中学习模式来自动推理。机器学习项目中涉及的大部分工作是定义解决给定问题的最佳算法类型。神经网络-尤其是深度神经网络-是该领域的主要解决方案类型。然而,网络本身可以根据为它们所做的架构选择产生非常不同的结果。为给定问题找到最佳网络拓扑和配置是一项挑战,由于需要考虑大量参数,因此需要领域知识和测试工作。这项工作的目的是提出一个适应性的实现一个完善的进化技术从神经进化领域,管理自动化的拓扑结构和超参数选择的任务。它使用一个流行的和可访问的机器学习框架- Keras -作为后端,展示结果和对原始算法的修改建议。该实现可在GitHub(https://github.com/sbcblab/Keras-CoDeepNEAT)上获得,其中包含文档和示例,以重现为此工作执行的实验。
2020-02-11 cs.CV cs.LG cs.NE
Neural Architecture Evolution in Deep Reinforcement Learning for Continuous Control
University of Freiburg(弗莱堡大学);German Cancer Research Center (DKFZ)(德国癌症研究中心(DKFZ));Bosch Center for Artificial Intelligence(博世人工智能中心)
目前的深度强化学习算法仍然严重依赖手工制作的神经网络架构。我们提出了一种新的方法来自动找到连续控制任务的强拓扑结构,同时只增加了一个小的开销在环境中的相互作用。为了实现这一点,我们结合神经进化技术与离线训练,并提出了一种新的架构变异算子。五个连续控制基准的实验表明,所提出的演员-评论家神经进化算法往往优于强演员-评论家基线,并能够自动找到拓扑结构的采样效率的方式,否则将不得不找到昂贵的架构搜索。
2020-02-27 cs.LG cs.NE stat.ML
Neuroevolution of Recurrent Architectures on Control Tasks
Montreal University Geriatric Institute(蒙特利尔大学老年医学研究所)
本文提出依据少量变异规则动态进化循环神经网络架构的大规模并行进化算法,在19个OpenAI Gym控制任务上以少几个数量级的参数达到或超过梯度方法性能。
2023-04-03 cs.LG cs.NE
Safe Mutations for Deep and Recurrent Neural Networks through Output Gradients
Uber AI Labs(优步人工智能实验室)
虽然神经进化(进化神经网络)在从强化学习到人工生命的各个领域都有成功的记录,但它很少应用于大型深层神经网络。一个核心原因是,虽然随机突变通常在低维中工作,但数千或数百万个权重的随机扰动可能会破坏现有功能,即使某些个别权重变化是有益的,也不会提供学习信号。本文提出了一种解决方案,引入了一系列安全变异(SM)算子,旨在变异算子本身找到一个不会改变网络行为太多的变化程度,但仍然有利于探索。重要的是,这些SM操作符不需要与环境进行任何额外的交互。最有效的SM变体利用了一个有趣的机会,根据网络输出对每个权重的敏感度来缩放每个权重的突变程度,这需要计算输出相对于权重的梯度(而不是传统深度学习中的误差梯度)。这种通过梯度的安全突变(SM-G)算子极大地提高了基于简单遗传算法的神经进化方法在需要深度和/或循环神经网络(其倾向于特别容易突变)的高维域中找到解决方案的能力,包括需要处理原始像素的域。通过提高我们进化深层神经网络的能力,这种新的更安全的突变方法扩大了适合神经进化的领域的范围。
2018-05-01 cs.AI cs.NE
CLAN: Continuous Learning using Asynchronous Neuroevolution on Commodity Edge Devices
NVIDIA(英伟达);Georgia Institute of Technology(佐治亚理工学院)
机器学习算法的最新进展,特别是深度神经网络(DNN)的发展,已经改变了人工智能(AI)的格局。随着时间的推移,基于深度学习的方法被应用于解决新问题,并取得了出色的结果。通往现实世界的入口就是边缘只有当我们能够让人工智能智能体不断与现实世界互动并解决日常问题时,人工智能的真正影响才能充分实现。不幸的是,DNN的高计算和内存要求是实现这一愿景的巨大障碍。今天,我们通过在边缘部署专用推理硬件,同时从云端获取训练模型来规避这个问题。然而,这种方法依赖于与云的持续交互来传输所有数据,在大规模GPU集群上进行训练,并下载更新的模型。这对于自主智能体可能表现出的带宽、隐私和恒定连接性问题是具有挑战性的。在本文中,我们评估了在边缘设备上实现自适应智能的技术,与任何高端云/服务器零交互。我们建立了一个原型分布式系统的树莓派通过WiFi通信运行神经进化(NE)学习和推理。我们评估这样一个协作系统的性能和详细的计算/通信特性的系统,权衡并行与通信的不同安排。利用我们分析中的见解,我们还提出了算法修改,以在学习阶段将通信减少多达3.6倍,从而进一步增强可扩展性,并在规模上与高端计算设备的性能相匹配。我们相信,这些见解将使算法-硬件协同设计工作能够在边缘实现持续学习。
2020-08-27 cs.DC cs.LG cs.NE
Towards Physical Plausibility in Neuroevolution Systems
University of Coimbra(科英布拉大学)
针对AI模型推理阶段的高能耗问题,本研究提出将功耗纳入适应度函数的神经进化框架,结合新型突变策略与双模型训练技术,实现ANN模型功耗最高降低29.2%且性能无显著下降。
2024-01-31 cs.AI cs.LG cs.NE
Challenging the Security of Logic Locking Schemes in the Era of Deep Learning: A Neuroevolutionary Approach
RWTH Aachen University(亚琛工业大学)
逻辑锁定是在整个集成电路设计和制造流程中保护硬件设计完整性的重要技术。然而,近年来,各种去混淆攻击的引入彻底挑战了锁定方案的安全性。与大多数研究分支一样,深度学习也被引入逻辑锁定领域。因此,在本文中,我们提出了快照:一种新的攻击逻辑锁定,是第一种利用人工神经网络直接预测一个关键位值从锁定合成门级网表,而不使用黄金参考。因此,与现有工作相比,该攻击使用了更简单但更灵活的学习模型。两种不同的方法进行评估。第一种方法是基于一个简单的前馈全连接神经网络。第二种方法利用遗传算法来进化更复杂的专门用于给定任务的卷积神经网络架构。攻击流程提供了一个通用的和可定制的框架,用于使用机器学习技术攻击锁定方案。我们针对两种实际攻击场景对SnapShot进行了广泛的评估,包括参考基准电路以及经过硅验证的RISC-V核心模块。评估结果表明,SnapShot在选定的攻击场景中实现了82.60%的平均关键预测准确率,与最先进的技术相比,性能显著提高了10.49个百分点。此外,SnapShot在所有评估基准上都优于现有技术。结果表明,常见的逻辑锁方案的安全基础是建立在可疑的假设。评估的结论提供了对设计未来逻辑锁定方案的挑战的见解,这些方案能够抵御机器学习攻击。
2020-11-30 cs.CR cs.LG cs.NE
Neuroevolution is a Competitive Alternative to Reinforcement Learning for Skill Discovery
InstaDeep;Imperial College(帝国理工学院)
针对深度强化学习在技能发现中易过拟合且需精细调参的问题,本文证明神经进化(特别是质量多样性方法)能提供同等或更优性能,且对超参数不敏感、更具可扩展性。
2023-09-08 cs.AI cs.LG cs.NE
Towards evolution of Deep Neural Networks through contrastive Self-Supervised learning
University of Coimbra(科英布拉大学)
针对深度神经网络设计耗时长、依赖标注数据的问题,提出结合神经进化与自监督学习的框架,在CIFAR-10上验证可进化出合格网络且降低标注依赖,还发现自监督进化网络结构受标注数据量影响更小。
2024-06-20 cs.AI cs.LG cs.NE
Evolving Deep Neural Networks
Sentient Technologies, Inc.(Sentient科技公司);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
深度学习的成功取决于找到适合任务的架构。随着深度学习扩展到更具挑战性的任务,架构变得难以手工设计。本文提出了一种自动化方法CoDeepNEAT,用于通过进化优化深度学习架构。通过将现有的神经进化方法扩展到拓扑结构、组件和超参数,该方法在对象识别和语言建模的标准基准中实现了与最佳人类设计相当的结果。它还支持在杂志网站上构建自动图像描述的真实应用程序。考虑到可用计算能力的预期增长,深度网络的演进是未来构建深度学习应用的有前途的方法。
2017-03-04 cs.AI cs.NE
Incremental Evolution and Development of Deep Artificial Neural Networks
已知神经进化(NE)方法用于将演化计算应用于人工神经网络(ANN)的优化。尽管帮助非专家用户设计和训练ANN,但绝大多数NE方法忽略了在解决其他任务时收集的知识,即,对于每个问题,进化都是从零开始的,最终延缓了进化过程。为了克服这个缺点,我们将快速深度进化网络结构化表示(Fast-DENSER)扩展到增量开发。我们假设,通过转移从以前的任务中获得的知识,我们可以获得更好的结果和加速进化。结果表明,增量开发所生成的模型的平均性能在统计上优于非增量开发的平均性能。如果增量开发所执行的评估数量小于非增量开发所执行的评估数量,则所获得的结果在性能上相似,这表明增量开发加速了进化。最后,使用增量开发生成的模型更好地泛化,因此,无需进一步进化,就可以在看不见的问题上报告卓越的性能。
2020-04-01 cs.NE
Fast-DENSER++: Evolving Fully-Trained Deep Artificial Neural Networks
本文提出了一种新的扩展深度进化网络结构化进化(DENSER),称为Fast-DENSER++(F-DENSER++)。绝大多数优化深度人工神经网络(DANN)的神经进化方法只评估固定数量的epoch的候选解决方案;这使得难以有效地评估学习策略,并且需要在进化后进一步训练生成的最佳网络。F-DENSER++使候选解决方案的训练时间能够根据需要不断增长,即,在初始代中,候选解被训练较短的时间,并且随着代的进行,期望较长的训练周期能够实现更好的性能。因此,F-DENSER++发现的模型是经过充分训练的DANN,并且在进化后即可部署,无需进一步训练。结果表明,F-DENSER++能够有效地生成经过充分训练的DANN;在进化结束时,虽然F-DENSER++生成的模型的平均性能为88.73%,但由先前版本的DENSER(Fast-DENSER)生成的模型的性能为86.91%(统计学显著),当允许更长时间的训练时,该性能增加到87.76%。
2019-05-08 cs.NE
Combining Neuro-Evolution of Augmenting Topologies with Convolutional Neural Networks
目前的深度卷积网络在拓扑结构上是固定的。我们探索了通过将增强拓扑的神经进化(NEAT)与卷积神经网络(CNN)相结合来使卷积拓扑本身成为参数的可能性,并提出了使用残差网络(ResNets)块的这样一个系统。然后,我们解释了我们建议的系统如何只能建立一次额外的优化,因为遗传算法比每次反向传播训练的要求更高。在此过程中,我们将解释大多数流行语,并对机器学习最重要的现代领域进行温和而简短的介绍
2022-10-20 cs.AI cs.NE
FermiNets: Learning generative machines to generate efficient neural networks via generative synthesis
Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所);University of Waterloo(滑铁卢大学);DarwinAI Corp.(达尔文人工智能公司)
深度学习展现出的巨大潜力往往被架构和计算复杂性所抵消,这使得广泛部署成为移动和其他消费设备等边缘场景的挑战。为了应对这一挑战,我们探索了以下想法:我们能否学习生成机器来自动生成具有高效网络架构的深度神经网络?在这项研究中,我们引入了生成合成的思想,这是建立在生成器-查询器对之间复杂的相互作用上的,生成器-查询器对协同工作,以获得洞察力,并学习生成最能满足操作要求的高效深度神经网络。最有趣的是,一旦通过生成合成学习了一个生成器,它就可以用来生成不仅仅是一个,而是大量不同的、独特的、满足操作要求的高效深度神经网络。图像分类、语义分割和目标检测任务的实验结果说明了生成合成在生成自动生成高效深度神经网络的生成器方面的功效(我们称之为费米网)具有更高的模型效率和更低的计算成本(比几个测试过的最先进的网络效率高出10倍以上,乘法累加运算更少),以及更高的能源效率(在Nvidia Tegra X2移动处理器上,每焦耳消耗的图像推理性能提高> 4倍)。因此,生成合成可以是一种强大的通用方法,用于加速和改进设备上边缘场景的深度神经网络的构建。
2018-11-13 cs.AI cs.CV cs.NE
Surrogate-Assisted Evolution for Efficient Multi-branch Connection Design in Deep Neural Networks
针对深度神经网络多分支连接设计计算成本高且架构搜索复杂的问题,提出基于线性遗传规划的NeuroLGP-MB方法,并采用扩展至数千样本的语义驱动代理辅助进化算法与先进代理模型,高效发现高性能网络架构。
2025-06-25 cs.NE
Deep Generative Design: Integration of Topology Optimization and Generative Models
Sookmyung Women’s University(淑明女子大学);Korea Advanced Institute of Science and Technology(韩国科学技术院)
深度学习最近已被应用于设计优化的各个研究领域。本研究提出了采用深度学习进行生成式设计(或设计探索)研究的必要性和有效性。这项工作提出了一个基于人工智能(AI)的设计自动化框架,该框架能够生成许多设计选项,这些选项不仅美观,而且还针对工程性能进行了优化。所提出的框架集成了拓扑优化和深度生成模型(例如,生成对抗网络(GANs))以迭代方式探索新的设计选项,从而从有限的先前设计数据开始生成大量设计。此外,异常检测可以评估所生成的设计的新颖性,从而帮助设计师在设计选项中进行选择。二维车轮设计问题作为一个案例研究,验证所提出的框架。该框架体现了更好的美学,多样性和鲁棒性的生成设计比以前的生成设计方法。
2019-05-20 cs.CE cs.LG cs.NE
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater(威斯康星大学白水分校)
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题,我们可以更好地理解生成的作品所需的参数,这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
A Generative Model for Deep Convolutional Learning
Duke University(杜克大学)
为深度(多层)卷积字典学习开发了一个生成模型。一种新的概率池化操作被集成到深度模型中,产生了高效的自底向上(预训练)和自顶向下(细化)的概率学习。实验结果表明,该模型具有强大的能力,从图像中学习多层特征,并在MNIST和Caltech 101数据集上获得了良好的分类结果。
2015-04-15 cs.LG cs.NE stat.ML
Layer-wise learning of deep generative models
当使用深层多层架构来构建数据的生成模型时,很难同时训练所有层。我们提出了一个分层的培训过程承认的性能保证相比,全球最佳。它是基于未来业绩的乐观代理,即最佳潜在边际。我们解释自动编码器在此设置为生成模型,通过显示他们训练这个标准的下限。我们测试了新的学习过程对最先进的方法(堆叠RBM),并发现它可以提高性能。理论和实验都强调了在训练深度架构时,使用比生成模型(从隐变量到数据)更丰富的推理模型(从数据到隐变量)的重要性。
2013-02-16 cs.LG cs.NE stat.ML
AM-DCGAN: Analog Memristive Hardware Accelerator for Deep Convolutional Generative Adversarial Networks
生成对抗网络(GAN)是一种众所周知的计算复杂的算法,在软件实现中需要大量的计算资源,包括大量的待训练数据。这使得它在具有传统微处理器硬件的边缘设备中的实现是一项缓慢而困难的任务。在本文中,我们提出了加速计算密集型GAN使用忆阻神经网络在模拟域。我们提出了一种基于CMOS忆阻卷积和解卷积网络的深度卷积GAN(DCGAN)的完全模拟硬件设计,使用180 nm CMOS工艺模拟。
2020-06-20 cs.ET cs.NE eess.SP
Deep Involutive Generative Models for Neural MCMC
MIT(麻省理工学院)
我们介绍了深度对合生成模型,一种用于深度生成建模的新架构,并使用它们来定义对合神经MCMC,一种快速神经MCMC的新方法。对合生成模型将概率核$G(ϕ\mapsto ϕ')$表示为对合(即,自反相)确定性函数$f(ϕ, π)$在包含辅助变量$π$的扩大状态空间上。我们展示了如何使这些模型保持体积,以及如何使用深度保持体积的对合生成模型来基于具有易于计算的接受率的辅助变量方案进行有效的Metropolis-Hastings更新。我们证明了深度对合生成模型及其保体积特殊情况是概率核的通用逼近器。这个结果意味着,有足够的网络容量和训练时间,它们可以用来学习任意复杂的MCMC更新。我们定义了一个损失函数和优化算法的训练参数给定的模拟数据。我们还提供了初步的实验表明,对合神经MCMC可以有效地探索混合蒙特卡罗难以处理的多模态分布,并且可以比最近引入的神经MCMC技术A-NICE-MC更快地收敛。
2020-07-02 cs.LG cs.NE math.ST
Contextual Graph Markov Model: A Deep and Generative Approach to Graph Processing
University of Pisa(比萨大学)
我们介绍了上下文图马尔可夫模型,一种结合生成模型和神经网络的思想来处理图形数据的方法。它建立在一个建设性的方法,以建立一个深层次的架构,包括层的概率模型,学习以增量的方式编码的结构化信息。上下文以高效和可扩展的方式在图的顶点和边之间扩散。所得到的图形编码与判别模型结合使用,以解决结构分类基准。
2019-11-25 cs.AI cs.LG cs.NE
Competency Assessment for Autonomous Agents using Deep Generative Models
University of Colorado Boulder(科罗拉多大学博尔德分校);The Charles Stark Draper Laboratory, Inc.(查尔斯·斯塔克·德雷珀实验室公司)
对于自主智能体来说,作为人类用户值得信赖的合作伙伴,它们必须能够可靠地传达它们被要求执行的任务的能力。为了实现这一目标,我们开发了基于深度生成建模的概率世界模型,该模型允许模拟代理轨迹和精确计算任务结果概率。通过将条件变分自编码器的优势与递归神经网络相结合,深度生成世界模型可以概率地预测长期任务完成的轨迹。我们展示了这些预测的轨迹如何用于计算结果概率分布,从而能够精确评估特定任务和初始设置的代理能力。
2022-03-23 cs.AI cs.HC cs.LG