Improving Generalization Ability of Genetic Programming: Comparative Study
在使用遗传编程(GP)进行经验建模的领域中,进化出具有良好泛化能力的解是非常重要的。GP解的泛化能力受到两个重要问题的影响:膨胀和过拟合。膨胀是代码不受控制的增长,没有任何适应性的增益,是GP中的重要问题。我们调查和分类现有的文献相关的GP研究社区使用不同的技术来处理膨胀的问题。此外,还讨论了不同胀形控制方法的分类和胀形控制措施。接下来,我们测试了四种膨胀控制方法:Tarpeian,双锦标赛,字典简约压力与直接桶和比率桶在六个不同的问题,并确定每个膨胀控制方法在每个问题的基础上表现良好。在对各种方法分析的基础上,为了避免解的臃肿,我们将两种方法结合起来:双竞赛法(选择法)和Tarpeian法(先工作后评价法),并与双竞赛法的个体表现所得结果进行了比较。结果发现,通过这两种方法的组合,结果得到了改善。
2013-04-13 cs.NE
Improving Time and Memory Efficiency of Genetic Algorithms by Storing Populations as Minimum Spanning Trees of Patches
本文提出将遗传算法的种群存储为补丁的最小生成树,以高效重算适应度,在内存和计算成本上实现显著甚至渐近改进。
2023-06-29 cs.NE
Improving genetic algorithms performance via deterministic population shrinkage
本文提出按预定速度与严重程度参数逐步缩减种群的 SVPS-GA,并在多类陷阱函数上验证其可在保持解质量的同时减少评估次数。
2024-01-22 cs.NE
Genetic Algorithms for Evolution of QWOP Gaits
本文针对QWOP游戏,开发程序化接口并设计多种遗传算法变体,自动演化有效步态,实验评估了表示、初始化、演化范式及参数控制的效果。
2023-10-18 cs.NE
Improving Model-based Genetic Programming for Symbolic Regression of Small Expressions
基因库最优混合进化算法(GOMEA)是一个基于模型的进化算法框架,已被证明在多个领域,包括遗传编程(GP)表现良好。与传统的进化分析不同,在传统的进化分析中,变异是盲目的,GOMEA学习了基因型内相互依赖的模型,即,联系,以估计传播什么样的模式。在这篇文章中,我们研究了GOMEA在符号回归(SR)中进行的链接学习(LL)的作用。我们发现,在GP人群中的基因型分布的不均匀性负偏LL,并提出了一种方法来纠正这一点。我们还提出了方法来提高LL时,短暂的随机常数。此外,我们适应的交错运行的计划,以减轻调整人口规模的负担,一个关键参数LL,SR。我们在10个真实世界的数据集上运行实验,强制执行严格的限制解决方案的大小,使可解释性。我们发现,新的LL方法优于标准的,和GOMEA优于传统和语义GP。我们还发现,小的解决方案进化的GOMEA是有竞争力的调整决策树,使GOMEA一个有前途的新方法SR。
2021-03-05 cs.NE
CBAG: An Efficient Genetic Algorithm for the Graph Burning Problem
信息传播是网络科学中一个有趣的研究课题,它研究信息、影响力或传染力如何通过网络传播。图燃烧是一种简化的确定性模型,用于描述信息如何在网络中传播。该问题的复杂NP完全性质使得使用精确算法在计算上难以解决。相应地,在文献中已经提出了许多用于图燃烧问题的解析和近似算法。本文提出了一种求解图燃烧问题的高效遗传算法--基于中心性的遗传算法(CBAG)。考虑到图燃烧问题的独特性,我们引入了新的遗传算子,染色体表示和评价方法。在该算法中,众所周知的介数中心性被用作我们的染色体初始化过程的骨干。在15个不同大小的基准图上实现了该算法,并与以前的算法和近似算法进行了比较。基于结果,可以看出,该算法实现了更好的性能相比,以前的国家的最先进的算法。完整的源代码可在线获得,可用于为图燃烧问题找到最佳或接近最佳的解决方案。
2022-08-06 cs.NE
Improving performance of recurrent neural network with relu nonlinearity
Qualcomm Research(高通研究院)
近年来,在训练递归神经网络(RNN)解决长时间依赖序列学习问题方面取得了重大进展。在三个方面取得了进展:(a)涉及复杂优化技术的数学改进,(b)涉及复杂隐藏层节点和专门递归层连接的网络设计,(c)权重初始化方法。在本文中,我们专注于最近提出的权重初始化与单位矩阵的递归权在RNN。这种初始化是专门针对具有整流线性单元(ReLU)非线性的隐藏节点提出的。我们提供了一个简单的动力系统的角度来看,权重初始化过程中,这使我们能够提出一个修改的权重初始化策略。我们证明了这种初始化技术可以成功地训练由ReLU组成的RNN。我们表明,我们的建议产生可比或更好的解决方案,涉及长距离的时间结构的玩具问题:加法问题,乘法问题和MNIST分类问题,使用像素序列。此外,我们提出了一个基准动作识别问题的结果。
2016-06-23 cs.LG cs.NE
Genetic agent approach for improving on-the-fly web map generalization
网络地图的使用在地图学领域变得越来越重要。用户希望访问特定于其需求的网络空间数据。出于这个原因,出现了不同的方法来生成用户所需的动态地图,但这些都不足以指导一个灵活和有效的过程。因此,必须根据用户需求开发新的方法来改进这一过程。本文的工作重点是定义一种新的策略,以改善动态地图综合过程中,解决空间冲突。这种方法使用多重表示和制图综合。地图综合过程是基于多智能体系统的实现,其中每个智能体都配备有遗传遗传遗产。
2012-07-11 cs.CG cs.MA cs.NE
On Improving the Capacity of Solving Large-scale Wireless Network Design Problems by Genetic Algorithms
在过去的十年中,无线网络经历了令人印象深刻的增长,并且现在在许多电信系统中发挥主要作用。因此,稀缺的无线电资源,如频率,变得拥挤,需要有效和高效的分配方法。在这项工作中,我们提出了一种遗传算法来解决大的情况下的功率,频率和调制分配问题,出现在无线网络的设计。据我们所知,这是第一个遗传算法,提出了这样的问题。与以前的作品相比,我们的方法允许更广泛的探索一组电源解决方案,同时消除了数值问题的来源。该算法的性能进行了评估的一组固定WiMAX网络的大型现实的情况下,通过测试。
2017-04-15 cs.NE math.OC
Improving Evaluation of Recombination-based Cartesian Genetic Programming
Chair for AI Methodology, RWTH Aachen University(人工智能方法学研究所,亚琛工业大学)
本研究通过超参数优化,在SRBench基准平台上评估了子图交叉和离散表型重组两种重组算子,证明了超参数优化可提升基于重组的笛卡尔遗传编程的性能。
2026-05-27 cs.AI cs.NE cs.SC
Improving the Search by Encoding Multiple Solutions in a Chromosome
Babeş Bolyai University(巴贝什-波雅依大学)
我们研究了在单个染色体中编码问题的多个解决方案的可能性。编码在个体中的最佳解决方案将代表该个体(将提供该个体的适应性)。为了获得一些益处,染色体解码过程必须具有与染色体中的单个解的情况相同的复杂度。为此,分析了三种遗传编程技术:多表达式编程、线性遗传编程和中缀形式遗传编程。数值实验表明,在一个染色体中编码多个解决方案,大大提高了搜索过程。
2021-10-13 cs.AI cs.NE
Improving the Results of De novo Peptide Identification via Tandem Mass Spectrometry Using a Genetic Programming-based Scoring Function for Re-ranking Peptide-Spectrum Matches
从头肽测序算法已被广泛用于蛋白质组学分析串联质谱(MS/MS),并将其分配给肽,但质量控制方法来评估从头肽测序的信心是落后的。质量控制方法的一个基本部分是用于评估肽谱匹配(PSM)质量的评分函数。在这里,我们提出了一个遗传编程(GP)为基础的方法,称为GP-PSM,学习PSM评分函数,以提高从MS/MS数据的信心肽鉴定率。GP方法从数千个MS/MS光谱中学习。从学习集中提取关于匹配的优良性的重要特征,并将其纳入GP评分函数中。我们比较了GP-PSM与支持向量回归(SVR)和随机森林(RF)两种方法。GP方法与RF和SVR一起用于通过PEAKS(一种常用的从头测序方法)对肽鉴定结果进行后处理。结果表明,GP-PSM优于RF和SVR,并准确区分正确和不正确的PSM。它在包含120个MS/MS谱图的评估数据集上将肽正确分配到10%以上的谱图,并降低肽鉴定的假阳性率(FPR)。
2019-08-12 cs.NE q-bio.QM
Improving Deep Neural Network Random Initialization Through Neuronal Rewiring
University of São Paulo(圣保罗大学);Ghent University(根特大学)
深度学习文献不断更新新的架构和训练技术。然而,权重初始化被最近的研究所忽视,尽管有一些有趣的发现关于随机权重。另一方面,最近的工作已经接近网络科学,以了解训练后的人工神经网络(ANN)的结构和动力学。因此,在这项工作中,我们分析了随机初始化网络中神经元的中心性。我们发现,较高的神经元强度方差可能会降低性能,而较低的神经元强度方差通常会提高它,然后提出了一种新的方法来重新布线神经元连接根据优先连接(PA)规则的基础上,他们的强度,这显着减少了强度方差的层初始化的常见方法。从这个意义上说,PA重新布线仅重组连接,同时保留权重的大小和分布。我们通过对图像分类的广泛统计分析表明,在大多数情况下,无论是在训练还是测试过程中,当使用简单和复杂的架构和学习时间表时,性能都得到了提高。我们的研究结果表明,除了幅度之外,权重的组织也与深度ANN的更好初始化有关。
2022-07-17 cs.CV cs.LG cs.NE
A Graph Neural Network--Guided Genetic Algorithm for Physical Internet Supply Chain Optimization under Cost Uncertainty
Louisiana State University(路易斯安那州立大学)
针对成本不确定的物理互联网三级供应链优化问题,构建确定性与最小最大遗憾模型,提出GNN-GA算法,实验显示其在多实例上优于标准GA,学习到的初始化是主要改进来源。
2026-08-12 cs.LG cs.NE
Evolving Deep Neural Networks for Collaborative Filtering
协同过滤(CF)被广泛应用于推荐系统中,以模拟用户与项目的交互。随着深度神经网络(DNN)在各个领域的巨大成功,最近的先进工作提出了几种基于DNN的CF模型,这些模型已被证明是有效的。然而,神经网络都是手工设计的。因此,它要求设计人员开发CF和DNN方面的专业知识,这限制了深度学习方法在CF中的应用以及推荐结果的准确性。本文将遗传算法引入到DNN的设计过程中。通过交叉、变异等遗传操作和环境选择策略,可以自动设计DNN的结构和连接权值初始化。我们在两个基准数据集上进行了广泛的实验。结果表明,该算法优于几个手工设计的最先进的神经网络。
2021-11-15 cs.NE
Genetic Algorithms for Tractable Bayesian Network Fusion via Pre-Fusion Edge Pruning
Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学)
针对贝叶斯网络融合中依赖保留与计算易处理性的平衡问题,提出带定制化设计的遗传算法,实验显示其性能优于适配方法与贪心基线。
2026-09-04 cs.LG cs.NE
Accelerating the Evolution of Convolutional Neural Networks with Node-Level Mutations and Epigenetic Weight Initialization
本文探讨了三种通用的策略,以提高性能的神经进化技术,旨在发展卷积神经网络(CNN)。这些被实现为增强卷积拓扑(EXACT)算法的进化探索的一部分。EXACT发展了任意卷积神经网络(CNN),目标是更好地发现和理解用于机器学习任务的CNN的新的有效架构,并潜在地自动化网络设计和选择的过程。研究的策略是节点级的变异操作,表观遗传权重初始化和池连接。结果是使用志愿者计算项目在一个月内收集的,其中超过225,000个CNN在16个不同的EXACT搜索中进行了培训和评估。节点突变操作被证明比传统的边缘突变操作(如NEAT算法所使用的)显着提高了进化速率,并且表观遗传权重初始化被证明进一步提高了训练CNN的准确性和可推广性。作为一个负面但有趣的结果,允许池连接被证明会降低进化进度。在13,500次CNN评估中,经过最佳训练的CNN在MNIST测试数据上达到了99.46%的准确率-准确率与一些最好的人类设计的CNN相当。
2018-11-17 cs.NE
Improving Air Mobility for Pre-Disaster Planning with Neural Network Accelerated Genetic Algorithm
Security and Optimization for Networked Globe Laboratory (SONG Lab), Department of Information Systems, University of Maryland, Baltimore County(安全与网络化全球实验室(SONG实验室)、信息系统系、马里兰大学巴尔的摩县分校);Department of Computer Science, University of Colorado(计算机科学系、科罗拉多大学);Mathematics Department and College of Aviation, Embry-Riddle Aeronautical University(数学系和航空学院、埃姆布里-里德尔航空大学);Department of Mechanical Aerospace Engineering, New Mexico State University(机械航空航天工程系、新墨西哥州立大学)
针对灾前应急场景,提出一种神经网络加速遗传算法的优化框架,通过调整机场运营时刻表并确定最优疏散航班数量,在较小计算开销下实现了更快的收敛速度和有效的疏散规划。
2024-07-17 cs.AI cs.NE
The $(1+(λ,λ))$ Genetic Algorithm for Permutations
$(1+(λ,λ))$遗传算法是基于理论发现的见解而开发的进化算法的一个明亮的例子。该算法使用交叉,并且即使在OneMax这样的简单问题上,它也被证明渐近优于所有基于变异的进化算法。随后,它被研究了一些其他问题,但所有这些都是伪布尔。我们的目的是改善这种情况,提出了适应的$(1+(λ,λ))$遗传算法置换为基础的问题。这种适应是必需的,因为置换在某些关键方面与位串明显不同,例如可能的突变的数量及其相互依赖性。我们还提出了该算法的第一个运行时分析的置换为基础的问题,称为火腿,其属性类似于OneMax的。在这个问题上,其中简单的基于变异的算法具有问题大小$n$的$Θ(n^2 \log n)$的运行时间,$(1+(λ,λ))$遗传算法在$O(n^2)$适应度查询中找到最优。实验结果表明,该算法在实际应用中也是快速的.
2020-05-10 cs.NE
Influence of Initialization on the Performance of Metaheuristic Optimizers
Xidian University(西安电子科技大学);Middlesex University(密德萨斯大学)
所有的超启发式优化算法都需要一些初始化,并且这种优化器的初始化通常是随机进行的。然而,初始化可以有一些显着的影响,这样的算法的性能。本文系统地比较了差分进化(DE)、粒子群优化(PSO)、布谷鸟搜索(CS)、人工蜂群(ABC)算法和遗传算法(GA)等5种优化算法在22种不同初始化方法下的收敛性和精度。我们使用了19个不同的测试函数,具有不同的属性和方式来比较初始化,人口规模和迭代次数的可能影响。严格的统计排序测试表明,DE算法的函数中有43.37%的函数在不同初始化方法下表现出显著差异,而PSO和CS算法的函数中有73.68%的函数在不同初始化方法下表现出显著差异。仿真结果表明,差分进化算法对初始值不敏感,而粒子群算法和混沌进化算法对初始值敏感。此外,在函数评价(FE)的最大数目相同的条件下,种群大小也可以有很强的影响。粒子群优化通常需要较大的种群,而布谷鸟搜索只需要较小的种群规模。差分进化在很大程度上依赖于迭代次数,相对较小的种群和更多的迭代可以导致更好的结果。此外,ABC是更敏感的初始化,而这样的初始化对遗传算法的影响不大。一些概率分布,如贝塔分布,指数分布和瑞利分布通常可以导致更好的性能。本研究的意义和进一步的研究课题也进行了详细讨论。
2020-03-08 cs.LG cs.NE math.OC
Optimal Load Scheduling Using Genetic Algorithm to Improve the Load Profile
电力系统的稳定性和保护一直是人们关注的首要问题。稳定性可能主要受到负载需求增加的影响。电网在高峰时段超负荷运行,因此需要更多的发电机组来应对需求。增加发电量不是最佳解决方案。随着智能电网规模的扩大,用户需求与可用功率的关联变得更加容易。智能电网最重要的特点是需求响应(DR),它用于匹配可用电能的需求,并将高峰负荷转移到非高峰时段,以提高能源的经济性和电网的稳定性。目前,我们使用遗传算法(GA)通过实时的定价信号(RTP)的负荷调度。负载根据其能量需求、操作约束和占空比进行分类。我们的结论是,遗传算法提供了最佳的解决方案,通过削减整体利用的能源成本和峰均比,从而提高了负荷配置文件的家用电器调度。
2021-10-14 cs.NE
A Tribe Competition-Based Genetic Algorithm for Feature Selection in Pattern Classification
Northwestern Polytechnical University(西北工业大学)
特征选择一直是模式识别中的关键步骤,其中最常用的是进化算法,如遗传算法(GA)。然而,在各种遗传算法中使用的单独编码方案要么会对解决方案造成偏差,要么需要预先指定数量的特征,因此可能导致不太准确的结果。提出了一种基于部落竞争的遗传算法(TCbGA)用于模式分类中的特征选择。个体的群体被分成多个部落,并且修改初始化和进化操作以确保每个部落中所选特征的数量遵循高斯分布。因此,每个部落都专注于探索解决方案空间的特定部分。同时,部落竞争被引入到进化过程中,这使得获胜的部落,产生更好的个人,以扩大其规模,即有更多的个人搜索他们的解决方案空间的一部分。因此,该算法避免了对解决方案的偏见和对预先指定的特征数量的要求。我们已经评估了我们的算法对几个国家的最先进的特征选择方法在20个基准数据集。我们的研究结果表明,建议TCbGA算法可以更有效地确定最佳的特征子集,产生更准确的模式分类。
2017-04-28 cs.LG cs.NE
A Genetic Algorithm to Optimize a Tweet for Retweetability
Twitter是一个流行的微博平台。当用户发送消息时,其他用户可以将这些消息转发到自己的子图。大多数研究都集中在从节点的角度增加可转推性。在这里,我们专注于改进消息样式,以增加消息被转发的机会。为此,我们模拟了一个人工的类似Twitter的网络,节点确定性地决定是否转发消息。使用遗传算法来优化消息组成,从而增加消息的到达范围。当分析算法在一组不同节点类型上的运行时行为时,我们发现该算法始终成功地显著提高了消息的可转发性。
2014-01-20 cs.CY cs.NE cs.SI
A Data-driven Approach to Neural Architecture Search Initialization
Technical University of Munich(慕尼黑工业大学);German Aerospace Center (DLR)(德国航空航天中心(DLR))
神经结构搜索中的算法设计一直受到人们的关注,其目的是提高性能和降低计算成本。尽管取得了很大的进步,很少有人提出为NAS定制初始化技术。然而,文献表明,一个好的初始解集有助于找到最优解。因此,在这项研究中,我们提出了一个数据驱动的技术来初始化基于人口的NAS算法。特别是,我们提出了一个两步方法。首先,我们对搜索空间执行校准的聚类分析,其次,我们提取质心并使用它们来初始化NAS算法。我们基准我们提出的方法对随机和拉丁超立方体采样初始化使用三种基于人口的算法,即遗传算法,进化算法和老化进化,CIFAR-10。更具体地说,我们使用NAS-Bench-101来利用NAS基准的可用性。结果表明,与随机和拉丁超立方体采样相比,所提出的初始化技术能够实现两个搜索基线的显着长期改进,有时在各种搜索场景(各种训练预算)。此外,我们分析得到的解决方案的分布,并发现,人口提供的数据驱动的初始化技术,使检索局部最优(最大值)的高适应度和类似的配置。
2021-11-05 cs.AI cs.LG cs.NE
A Compact Self-organizing Cellular Automata-based Genetic Algorithm
University at Buffalo, State University of New York(纽约州立大学布法罗分校)
提出了一种遗传算法(GA),在该算法中,种群中的每一个成员只能根据一条规则与它的邻居改变模式。规则方法和邻域结构采用元胞自动机(CA)策略的元素。GA种群的每个成员被分配到一个单元格,并且根据预定义的规则,交叉仅发生在相邻单元格之间。虽然CA和GA方法的组合以前已经出现,在这里,我们依赖于CA固有的自组织功能,而不是并行性。这种概念上的转变将我们引向只包含少数成员的紧凑种群的进化。我们发现,由此产生的算法可以更有效地搜索设计空间比传统的GA策略,由于其能够利用突变在这个紧凑的自组织人口。因此,早熟收敛是避免和最终的结果往往是更准确的。为了增强算法的变异能力,提出了一种重新初始化策略。十个测试功能和两个基准结构工程桁架设计问题进行检查,以证明该方法的性能。
2007-11-15 cs.AI cs.NE
FGPGA: An Efficient Genetic Approach for Producing Feasible Graph Partitions
United International University(联合国际大学);Bangladesh University of Engineering and Technology(孟加拉国工程技术大学);King’s College London(伦敦国王学院)
图划分是并行计算中的一个重要问题,在分布式计算、社会网络分析、数据采掘等领域有着广泛的应用。在本文中,我们介绍了FGPGA,一个有效的遗传方法产生可行的图分区。我们的方法考虑到异构性和容量限制的分区,以确保平衡的分区。这种方法在移动云计算中具有各种应用,包括在云中的更有资源的基础设施而不是移动手持设备上可行地部署软件应用。我们提出的方法是轻量级的,因此适合在云架构中使用。我们通过不允许在初始化和搜索期间生成过大的分区来确保所生成的分区的可行性。我们提出的方法在标准基准数据集上进行了测试,在分区质量和解决方案的可行性方面显着优于最先进的方法。
2014-11-17 cs.AI cs.DC cs.NE
An Improved multi-objective genetic algorithm based on orthogonal design and adaptive clustering pruning strategy
Beijing University of Technology(北京工业大学);Henan Normal University(河南师范大学)
多目标进化算法的两个重要特征是分布性和收敛性。作为一种经典的多目标遗传算法,NSGA-Ⅱ被广泛应用于多目标优化领域。然而,在NSGA-Ⅱ中,随机的种群初始化和基于距离的种群保持策略不能很好地保持种群的分布或收敛性。针对这两个缺陷,本文提出了一种改进算法OTNSGA-II II,该算法在分布性和收敛性方面具有更好的性能。该算法采用正交试验法,以一种新的不连续非支配排序和拥挤距离的方式选择个体,产生初始种群。提出了一种基于聚类的剪枝策略,根据聚类结果的类内聚集程度,自适应地对特征相似、非支配排序和拥挤距离表现较差或远离Pareto前沿的个体进行剪枝。新的剪枝策略使种群更容易收敛到Pareto前沿,并保持种群的分布。在不同类型的测试函数上对OTNSGA-II和NSGA-II进行了比较,验证了OTNSGA-II在分布性和收敛性方面的改进。
2019-01-03 cs.AI cs.NE
Promoting Semantics in Multi-objective Genetic Programming based on Decomposition
遗传程序(GP)中的语义研究涉及给定一组输入的程序的行为,并已被广泛报道,有助于促进GP中的多样性,最终改善进化搜索的一系列复杂问题。这些研究中的绝大多数都将注意力集中在单目标GP上,只有少数例外,其中基于Pareto的优势算法(如NSGA-II和SPEA 2)被用作测试高度流行的基于语义的方法(如基于语义相似性的交叉(SSC))是否有助于或阻碍进化搜索的框架。令人惊讶的是,据报道,SSC在SOGP中表现出的好处在基于帕累托的优势多目标GP中看不到。在这项工作中,我们有兴趣研究,如果同样进行基于分解的多目标进化算法(MOEA/D)。通过使用MNIST数据集,一个众所周知的数据集在机器学习社区中使用,我们展示了如何SSC在MOEA/D促进语义多样性产生更好的结果相比,当这是不存在于规范的MOEA/D。
2020-12-08 cs.NE
Accelerating Vehicle Routing via AI-Initialized Genetic Algorithms
NVIDIA(英伟达);Technion, Israel(以色列理工学院)
本文提出EARLI框架,用强化学习为遗传算法快速生成初始解,在相同解质量下将500地点车辆路径问题求解速度提升10倍,并验证了其对新城市配送数据的泛化能力。
2025-09-20 cs.LG cs.NE
Neural Genetic Search in Discrete Spaces
Mila - Quebec AI Institute(魁北克AI研究所)
针对深度生成模型测试时性能提升需求,提出将遗传算法进化机制融入深度模型生成流程的神经遗传搜索方法,以父代条件生成为核心交叉操作,在三个领域验证了其有效性与灵活性。
2025-06-16 cs.LG cs.NE
An efficient genetic algorithm for large-scale transmit power control of dense industrial wireless networks
工业无线局域网(IWLAN)的密度越来越大,这不仅是因为无线应用已渗透到工厂和仓库,还因为对冗余的需求不断增加,以实现强大的无线覆盖。代替以最大发射功率对所有节点通电,大规模地控制所有无线节点的发射功率成为不可避免的挑战,以便减少干扰并使覆盖适应环境中的最新阴影效应。因此,本文提出了一种有效的遗传算法(GA)来解决这个发射功率控制(TPC)问题的密集的无线局域网,命名为GATPC。有效的人口初始化,交叉和变异,并行计算,以及专门的加速措施,以定制GATPC的大规模优化,这是内在的参与这个问题。与大多数覆盖相关的优化算法无法处理恶劣的工业室内环境中普遍存在的阴影效应相比,GATPC使用考虑三维障碍物阴影效应的经验单斜率路径损耗模型,以实现准确而简单的覆盖预测。在实际工业案例中的实验验证和数值实验表明,GATPC在超大规模的可扩展性,分辨率运行时高达37倍的加速,以及实现自适应覆盖和最小化干扰的解决方案质量方面具有良好的性能。
2017-08-12 cs.NE cs.NI
DiGamma: Domain-aware Genetic Algorithm for HW-Mapping Co-optimization for DNN Accelerators
Georgia Institute of Technology(佐治亚理工学院);NVIDIA(英伟达)
DNN加速器的设计包括硬件资源配置和映射策略两个关键部分。已经进行了深入的研究,以独立地优化它们中的每个。不幸的是,由于极大的交叉耦合搜索空间,同时优化两者是非常具有挑战性的。为了解决这个问题,在本文中,我们提出了一个HW映射协同优化框架,一个高效的编码的巨大的设计空间构建HW和映射,和一个域感知的遗传算法,命名为DiGamma,专门的运营商,以提高搜索效率。我们使用七种具有不同属性的流行DNN模型来评估DiGamma。我们的评估显示,与边缘和云环境中性能最佳的基线优化算法相比,DiGamma可以实现(几何)3.0倍和10.0倍的加速。
2022-01-26 cs.AI cs.NE
POBA-GA: Perturbation Optimized Black-Box Adversarial Attacks via Genetic Algorithm
Zhejiang University of Technology(浙江工业大学)
大多数深度学习模型很容易受到对抗攻击的攻击。设计了各种对抗攻击来评估模型的鲁棒性,并建立防御模型。目前,对抗攻击被提出来攻击他们自己的目标模型与他们自己的评估指标。与白盒攻击相比,大多数黑盒对抗攻击算法都不能达到预期的成功率。针对不同的对抗攻击方法,提出了综合评价指标。提出了一种基于遗传算法的扰动优化黑盒对抗攻击算法(POBA-GA),以获得与白盒攻击相当的攻击性能。通过初始化、选择、交叉和变异等进化操作,得到近似最优对抗样本。设计了适应度函数,从攻击能力和扰动控制两个方面对样本个体进行评价。在进化过程中引入种群多样性策略,保证获得近似最优扰动。通过大量实验验证了POBA-GA的性能。仿真和应用结果表明,该方法在攻击能力和扰动控制方面优于现有的黑箱攻击方法。
2019-05-01 cs.CR cs.LG cs.NE
Fluctuation-driven initialization for spiking neural network training
脉冲神经网络(SNN)是大脑中低功耗、容错信息处理的基础,当在合适的神经形态硬件加速器上实现时,可以构成传统深度神经网络的节能替代方案。然而,实例化SNN来解决计算机上的复杂计算任务仍然是一个重大挑战。代理梯度(SG)技术已经成为端到端训练SNN的标准解决方案。尽管如此,它们的成功取决于突触权重的初始化,类似于传统的人工神经网络(ANN)。然而,与ANN不同的是,SNN的良好初始状态仍然难以捉摸。在这里,我们开发了一个通用的SNN初始化策略的灵感来自波动驱动的制度通常在大脑中观察到的。具体来说,我们得到了实际的解决方案,数据相关的权重初始化,确保波动驱动的发射在广泛使用的泄漏积分和火灾(LIF)神经元。我们的经验表明,SNN初始化后,我们的策略表现出优越的学习性能时,与SG训练。这些发现概括了几个数据集和SNN架构,包括完全连接的,深度卷积的,循环的,以及遵守戴尔定律的生物学上更合理的SNN。因此,波动驱动的初始化提供了一个实用的,通用的,易于实现的策略,以提高SNN训练性能的不同任务的神经形态工程和计算神经科学。
2022-06-21 cs.NE q-bio.NC
Bi-Objective Community Detection (BOCD) in Networks using Genetic Algorithm
Jaypee Institute of Information Technology(贾皮尔信息技术学院)
从物理学、数学和计算机科学等各个学科角度对社区发现进行了大量的研究。在本文中,我提出了一个双目标遗传算法的社区发现,最大化模块化和社区得分。然后,基准和现实生活中的数据集所获得的结果进行了比较与其他算法使用的模块性和MNI性能指标。实验结果表明,BOCD算法能够成功地检测真实生活和合成数据集的社区结构,并提高了以前的技术的性能。
2011-09-16 cs.AI cs.NE cs.SI
NSGA-Net: Neural Architecture Search using Multi-Objective Genetic Algorithm
Michigan State University(密歇根州立大学)
本文介绍了NSGA-Net --一种用于神经结构搜索(NAS)的进化方法。NSGA-Net的设计考虑了三个目标:(1)考虑多个和相互冲突的目标的过程,(2)平衡潜在神经网络架构空间的探索和开发的有效过程,以及(3)在一次运行中找到一组不同的权衡网络架构的过程。NSGA-Net是一种基于种群的搜索算法,其在三个步骤中探索潜在神经网络架构的空间,即,基于来自手工制作的架构的先验知识的种群初始化步骤,包括架构的交叉和变异的探索步骤,以及最后的利用步骤,该利用步骤利用存储在被评估的神经架构的整个历史中的隐藏的有用知识,贝叶斯网络实验结果表明,结合最小化误差度量和计算复杂性的双重目标,如FLOPs所测量的,允许NSGA-Net找到有竞争力的神经架构。此外,NSGA-Net在CIFAR-10数据集上实现的出错率与其他最先进的NAS方法相当,同时使用数量级更少的计算资源。这些结果令人鼓舞,并显示出在各种深度学习范式中进一步使用EC方法的前景。
2019-04-18 cs.CV cs.LG cs.NE
T-Count Optimizing Genetic Algorithm for Quantum State Preparation
本文提出一种面向 Clifford+T 量子态制备电路的遗传算法,通过优化 T-Count 降低噪声影响,并在多类量子态上验证其高保真与容错电路生成能力。
2024-06-06 cs.NE quant-ph
Improvement of Loadability in Distribution System Using Genetic Algorithm
针对配电系统负荷能力提升问题,提出基于遗传算法的分布式电源选址与定容方法,以最大化系统负荷能力,并在IEEE标准算例上验证有效性。
2012-06-09 cs.NE cs.SY eess.SY
GAAPO: Genetic Algorithmic Applied to Prompt Optimization
Biolevate
针对LLM提示词依赖手动调整的问题,提出GAAPO混合优化框架,结合遗传算法与多种提示词生成策略进化提示词,通过多数据集实验揭示自动提示词优化的关键要点,为理论与应用提供支持。
2025-04-16 cs.LG cs.NE
JANUS: Parallel Tempered Genetic Algorithm Guided by Deep Neural Networks for Inverse Molecular Design
Stanford University(斯坦福大学);University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(矢量人工智能研究所);Canadian Institute for Advanced Research(加拿大高级研究院)
逆分子设计,即,设计具有特定目标性质的分子可以被视为优化问题。自然科学中的高维优化任务通常通过基于种群的元启发式优化算法(如进化算法)来解决。然而,昂贵的性能评估,这是经常需要的,可以限制这种方法的广泛使用,因为相关的成本可能会变得令人望而却步。在这里,我们提出了JANUS,一个遗传算法的灵感来自并行回火。它传播两个种群,一个用于探索,另一个用于开发,通过减少昂贵的属性评估来改进优化。此外,JANUS还通过深度神经网络进行了增强,该网络通过主动学习来近似分子特性,以增强化学空间的采样。我们的方法使用SELFIES分子表示和STONED算法来高效生成结构,并在常见的逆分子设计任务中优于其他生成模型,从而实现最先进的性能。
2021-08-14 cs.AI cs.NE
Genetic Micro-Programs for Automated Software Testing with Large Path Coverage
University of Pretoria(比勒陀利亚大学)
计算智能(CI)的不断发展导致人们越来越希望应用CI技术来改进软件工程过程,特别是软件测试。现有的最先进的自动化软件测试技术集中于利用搜索算法来发现实现高执行路径覆盖的输入值。这些算法是在他们打算测试的相同代码上训练的,需要仪器和漫长的搜索时间来测试每个软件组件。本文概述了一种新的遗传编程框架,进化的解决方案是不是输入值,但微程序,可以重复生成输入值,有效地探索一个软件组件的输入参数域。我们还认为,我们的方法可以推广,如适用于许多不同的软件系统,并因此不具体到仅仅是特定的软件组件上,它是训练。
2023-02-14 cs.AI cs.NE cs.SE
An Improved Genetic Algorithm and Its Application in Neural Network Adversarial Attack
Yangtze University(长江大学)
交叉和变异策略的选择对遗传算法的可搜索性、收敛效率和精度起着至关重要的作用。本文通过对简单遗传算法的交叉和变异操作进行改进,提出了一种新的改进遗传算法,并通过15个测试函数进行了验证。定性结果表明,与其他三种主流的群体智能优化算法相比,该算法不仅提高了全局搜索能力、收敛效率和精度,而且在相同的实验条件下,提高了收敛到最优值的成功率。定量结果表明,该算法在15个测试函数中的13个上表现优异。使用Wilcoxon秩和检验进行统计学评价,显示该算法在$95\%$置信区间的显著优势。最后将该算法应用于神经网络的对抗攻击。应用结果表明,该方法不需要神经网络模型内部的结构和参数信息,仅利用神经网络输出的分类和置信度信息,就能在较短时间内获得高置信度的对抗样本。
2022-03-06 cs.CR cs.LG cs.NE
A Hybrid Multi-Objective Carpool Route Optimization Technique using Genetic Algorithm and A* Algorithm
Assam University(阿萨姆大学)
在发达国家和发展中国家,拼车作为控制车辆造成的声音和空气污染的一种有效解决办法,已变得相当重要。由于拼车减少了通勤者使用的车辆数量,它带来了多种好处,如缓解交通和道路拥堵,减少对停车设施的需求,减少能源或燃料消耗,最重要的是减少碳排放,从而提高城市的生活质量。本文提出了一种混合GA-A* 算法来求解具有多个冲突目标的多目标优化域中的拼车问题的最优路径。虽然遗传算法提供最优解,但A* 算法由于其在基于遗传学的任意两点之间提供最短路径的效率,增强了使用遗传算法获得的最优路径。使用GA-A* 算法获得的细化路线进一步进行优势测试,以获得基于Pareto最优的非优势解。所获得的路线最大化的利润,服务提供商通过最小化的行程和绕行距离以及上/下车成本,同时最大限度地提高汽车的利用率。该算法已在加尔各答盐湖地区实施。对于相同数量的乘客,与使用现有算法获得的相应数据相比,使用该算法获得的最优路线的路线距离和绕行距离始终较小。各种统计分析,如箱形图也证实了该算法定期执行优于现有的算法,仅使用遗传算法。
2020-07-11 cs.AI cs.NE
Evolving Efficient Genetic Encoding for Deep Spiking Neural Networks
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Center for Long-term Artificial Intelligence(长期人工智能中心);Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology, Chinese Academy of Sciences(中国科学院脑认知与脑智能技术重点实验室)
针对深度脉冲神经网络计算成本高的问题,提出一种基于遗传编码的时空进化框架,通过全局共享遗传交互优化神经元编码,压缩参数50%-80%,并在多个数据集上提升精度,实现了高效、可扩展且鲁棒的SNN优化。
2024-11-11 cs.AI cs.NE
Real-World Airline Crew Pairing Optimization: Customized Genetic Algorithm versus Column Generation Method
本文针对大规模航空公司机组配对优化问题,提出领域知识驱动的定制遗传算法,在枚举超40万个机组配对的大规模场景下验证其有效性,并与列生成方法进行性能对比。
2023-05-27 cs.NE math.OC
DARWIN: Dynamic Agentically Rewriting Self-Improving Network
College of Computing, Georgia Institute of Technology(计算学院、佐治亚理工学院)
DARWIN通过进化算法和动态代理机制实现GPT模型的自我改进,实验显示其在FLOPS利用率和困惑度上均有显著提升。
2026-02-05 cs.AI cs.CL cs.NE
Formation of Regression Model for Analysis of Complex Systems Using Methodology of Genetic Algorithms
本研究提出了一种分析任意复杂系统演化的方法,该系统的行为由一组不同的时间依赖因素表征。对这些因素的关键要求只是它们必须包含关于系统的信息;它根本不重要的性质(物理,生物,社会,经济等)。是一个复杂系统。在所提出的理论方法的框架内,解决了为所研究的复杂系统寻找表达这些因素之间关系的非线性回归模型的问题。它将表明,这个问题可以解决使用的方法\emph{genetic (evolutionary)}算法。由此产生的回归模型可以预测所考虑的系统的最可能的演变,以及确定一些因素的重要性,从而制定一些建议,以推动这个系统。它将被证明,所提出的理论方法可以用来分析的数据(信息)的特点在学科“物理”在中学的教育过程中,并制定战略,提高在这门学科的学习成绩。
2020-11-13 cs.NE physics.comp-ph physics.data-an
Persistent Neurons
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Cornell University(康奈尔大学)
基于神经网络(NN)的学习算法受初始化和数据分布选择的强烈影响。不同的优化策略已被提出来改善学习轨迹,并找到一个更好的最优。然而,设计改进的优化策略是一个困难的任务,在传统的景观视图。在这里,我们提出了持久神经元,这是一种基于概率的策略,可以使用以前融合解决方案中的信息来优化学习任务。更准确地说,我们利用轨迹的末端,让参数通过惩罚模型在相同的初始化下收敛到以前的解来探索新的景观。持久神经元可以被看作是一个随机梯度方法,其中个别更新被确定性误差项破坏。具体来说,我们表明,持久的神经元,在一定的数据分布,是能够收敛到更优的解决方案,而在流行的框架下的初始化找到坏的局部极小值。我们进一步证明,持久神经元有助于提高模型的性能下良好和不良的初始化。我们评估了完整和部分持久模型,并表明它可以用于提高一系列NN结构的性能,例如AlexNet和残差神经网络(ResNet)。
2021-03-18 cs.CV cs.LG cs.NE
QoS-SLA-Aware Adaptive Genetic Algorithm for Multi-Request Offloading in Integrated Edge-Cloud Computing in Internet of Vehicles
United Arab Emirates University(阿联酋大学)
车载自组织网络车联网是一项新兴技术,可实现智能城市应用的开发,重点是改善交通安全、交通效率和整体驾驶体验。这些应用程序有严格的要求,详见服务水平协议。由于车辆具有有限的计算和存储能力,因此应用请求被卸载到集成的边缘云计算系统上。现有的卸载解决方案集中于在执行时间方面优化应用的服务质量(QoS),并且遵守单个SLA约束。他们没有考虑重叠多请求处理的影响,也没有考虑车辆速度变化的影响。提出了一种新的人工智能QoS-SLA-aware自适应遗传算法(QoS-SLA-AGA)来优化异构边缘云计算系统中多请求卸载的应用程序执行时间,该算法考虑了处理多请求重叠和动态车辆速度的影响。建议的遗传算法集成了一个自适应的惩罚函数来同化SLA的延迟,处理时间,截止日期,CPU和内存的要求的约束。数值实验和分析比较我们的QoS-SLA-AGA随机卸载,和基线基于遗传的方法。结果表明,QoS-SLA-AGA执行请求的速度平均比随机卸载方法快1.22倍,SLA违规减少59.9%。相比之下,基于基因的基线方法将请求的性能提高了1.14倍,SLA违规增加了19.8%。
2022-03-01 cs.AI cs.DC cs.NA