Why the Firefly Algorithm Works?
Xin-She Yang, Xingshi He
萤火虫算法是一种受自然启发的优化算法，自十年前出现以来，已有了很大的发展。本章总结了萤火虫算法及其变体的最新发展以及它们的各种应用。并指出了今后的研究方向。
Firefly algorithm is a nature-inspired optimization algorithm and there have been significant developments since its appearance about ten years ago. This chapter summarizes the latest developments about the firefly algorithm and its variants as well as their diverse applications. Future research directions are also highlighted.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
A comprehensive review of firefly algorithms
萤火虫算法已经成为群体智能中一个越来越重要的工具，几乎已经应用于所有的优化领域，以及工程实践中。萤火虫算法及其变体已经成功地解决了来自各个领域的许多问题。为了使用该算法来解决不同的问题，需要对原萤火虫算法进行修改或杂交。本文对群体智能这门活的、不断发展的学科进行了全面的回顾，以表明萤火虫算法可以应用于实际中出现的每一个问题。另一方面，它鼓励新的研究人员和算法开发人员使用这种简单但非常有效的算法来解决问题。它通常保证所获得的结果将符合预期。
Firefly Algorithm for optimization problems with non-continuous variables: A Review and Analysis
萤火虫算法是一种基于群的启发式算法，灵感来自萤火虫的闪烁行为。该算法是一种有效且易于实现的算法。它已经在不同学科的不同问题上进行了测试，并发现是有效的。尽管该算法是针对连续变量的优化问题提出的，但它已被修改并用于非连续变量的问题，包括二进制和整数值问题。在本文中，将讨论萤火虫算法的非连续变量问题的修改的详细审查。的优点和缺点的修改以及可能的未来工作将被提出。
CSCF: a chaotic sine cosine firefly Algorithm for practical application problems
近年来，许多基于元启发式的方法被用来降低现有方法的计算复杂性，这些方法包括复杂的推导、非常大的存储空间需求、初始值敏感性等。然而，萤火虫算法、正弦余弦算法、粒子群优化算法等几种优化算法具有诸如计算复杂性、收敛速度等缺点。因此，为了克服这些缺点，摘要提出了一种新的多变量混沌正余弦萤火虫（CSCF）算法来求解优化问题。在这里，混沌形式的两个算法，即正弦余弦算法（SCA）和萤火虫（FF）算法集成，以提高收敛速度和效率，从而最大限度地减少一些复杂性问题。此外，建议的CSCF方法在各种混沌相位下运行，并选择包含最佳混沌映射的最佳混沌变量。然后利用大量的混沌基准函数对CSCF算法的系统性能进行了测试。最后，基于工程设计的问题的仿真结果表明，所提出的算法的效率，鲁棒性和有效性。
Statistical Firefly Algorithm for Truss Topology Optimization
本文提出统计萤火虫算法用于桁架拓扑优化，通过假设检验减少计算努力并提升性能。
A Discrete Firefly Algorithm to Solve a Rich Vehicle Routing Problem Modelling a Newspaper Distribution System with Recycling Policy
在这项工作中，一个现实世界中的报纸分发问题的回收政策。为了满足所有复杂的限制，在这样的问题中，它已被建模为丰富的车辆路径问题，它可以更具体地被认为是一个不对称和集群的车辆路径问题，同时皮卡和交付，可变成本和禁止路径（AC-VRP-SPDVCFP）。这是第一次在文献中研究这样的问题。为此，还提出了由15个实例组成的基准。在这个基准的设计中，使用了位于西班牙Bizkaia省的真实地理位置。为了正确处理这AC-VRP-SPDVCFP，离散萤火虫算法（DFA）已被开发。这个应用程序是萤火虫算法的任何丰富的车辆路径问题的第一个应用程序。为了证明所提出的DFA是一个很有前途的技术，它的性能进行了比较与其他两个著名的技术：进化算法和进化模拟退火。我们的研究结果表明，DFA优于这两个经典的元分析。
Hybrid Firefly Algorithm and Sperm Swarm Optimization Algorithm using Newton-Raphson Method (HFASSON) and its application in CR-VANET
本文提出结合萤火虫算法、精子群优化和牛顿-拉夫逊法的混合算法HFASSON，在CEC 2017基准测试中表现优异，并成功应用于CR-VANET提升频谱利用率。
Learning in Competitive Network with Haeusslers Equation adapted using FIREFLY algorithm
许多竞争神经网络由空间排列的神经元组成。连接细胞的权重矩阵表示局部兴奋和长程抑制。它们被称为软赢者通吃网络，表现出理想的信息处理。局部兴奋性连接多次是基于使用数据的先前知识选择的空间布置而预先定义的手动布线。在这里，我们通过Haeussler方程和基于生物学的萤火虫算法的修改布线方案，提出了在递归网络中的学习。以下结果显示了在这样的网络中从输入模式学习，而无需手动布线固定拓扑结构。
Simplified firefly algorithm for 2D image key-points search
为了识别目标，人眼首先在视场中搜索具有特定属性的点或区域。这些属性用于识别图像或对象。这一过程可以作为一个模型来开发计算机图像识别算法。提出了将简化萤火虫算法应用于二维图像关键区域搜索的思想。对于一组输入的测试图像的萤火虫算法的建议版本进行了检查。研究结果和讨论表明这种演化计算方法的效率。
Evaluation the efficiency of artificial bee colony and the firefly algorithm in solving the continuous optimization problem
目前，元启发式算法在求解连续优化问题中得到了广泛应用。本文对人工蜂群算法和萤火虫算法进行了评价。为了进一步分析算法的有效性，并对解集有限且最优点接近的连续优化问题进行了测试。因此，本文给出了ABC算法和FA算法求解连续优化问题的效率，并从求解最优解的精度、求解时间和最优解的可靠性等方面对ABC算法和FA算法进行了研究。
Hybrid Firefly-Genetic Algorithm for Single and Multi-dimensional 0-1 Knapsack Problems
针对FA和GA算法在约束优化中探索与处理能力下降的问题，提出混合FAGA算法，结合两者优势，在0-1背包等问题上实现了更高的求解精度与计算效率。
Analysis of a Nature Inspired Firefly Algorithm based Back-propagation Neural Network Training
优化算法通常受到元启发式方法的影响。近年来，为了寻找更好的优化解，发展了几种混合优化方法。提出的工作使用元启发式自然启发式算法与反向传播方法施加到训练前馈神经网络。萤火虫算法是一种自然启发式算法，在训练前馈神经网络时，将萤火虫算法与反向传播算法相结合，以提高收敛速度。所提出的技术进行了测试，在一些标准的数据集。结果表明，该方法在很小的迭代次数内就能获得较好的收敛性。这种性能也进行了分析和比较，遗传算法基于反向传播。据观察，所提出的方法消耗更少的时间来收敛，并提供最小的前馈神经网络设计的改进的收敛速度。
Optimizing Software Effort Estimation Models Using Firefly Algorithm
软件开发工作量估算是软件开发生存周期以及项目成本、时间和质量管理的一项基本任务。因此，准确的评估是项目成功和降低风险的重要因素。近年来，软件工作量估算受到了研究人员的广泛关注，成为软件行业面临的一个挑战。在过去的二十年里，许多研究人员和从业者提出了基于统计和机器学习的软件工作量估计模型。在这项工作中，萤火虫算法被提出作为一种元启发式优化方法优化三个基于COCOMO模型的参数。这些模型包括基本COCOMO模型和文献中提出的作为基本COCOMO模型的扩展的另外两个模型。开发的估计模型进行评估，使用不同的评价指标。实验结果表明，萤火虫算法比遗传算法、粒子群算法等元启发式优化算法具有更高的精度和更小的误差。
Enhancing Analogy-Based Software Effort Estimation with Firefly Algorithm Optimization
本研究提出一种结合萤火虫算法与基于类比的估计方法，以提高软件努力估计的准确性。
A Firefly Algorithm for Mixed-Variable Optimization Based on Hybrid Distance Modeling
本文提出一种混合变量优化萤火虫算法，通过改进的距离吸引机制整合连续和离散变量，有效处理异构搜索空间，实验显示其在混合变量优化中表现优异。
Brushless Motor Performance Optimization by Eagle Strategy with Firefly and PSO
无刷电机具有特殊的地位，虽然有不同的电机，因为它的特殊功能，如没有换向，降低噪音和更长的寿命等，通过建立参考系统实现了无刷直流电机的实验参数跟踪，并采用李雅普诺夫稳定性定理保证了参考系统的稳定性。但是，稳定性的保证，只有当自适应系统与强大的和有效的优化技术相结合。本文将功能强大的老鹰策略与粒子群优化算法和萤火虫算法相结合，应用于无刷电机的性能评估。老鹰策略利用Levys行走分布函数进行多样化的全局搜索，粒子群优化算法和萤火虫算法进行高效的局部搜索。利用MATLAB的Simulink软件进行了仿真计算，得到了仿真结果
Parameter Tuning of the Firefly Algorithm by Standard Monte Carlo and Quasi-Monte Carlo Methods
本文通过标准蒙特卡洛和拟蒙特卡洛方法随机初始化参数并调优萤火虫算法，在基准函数和弹簧设计问题上验证了 FA 对参数选择不敏感且具有较强鲁棒性。
When Fireflies Cluster; Enhancing Automatic Clustering via Centroid-Guided Firefly Optimization
本文提出了一种改进的萤火虫算法用于数据聚类，解决了传统方法如K均值在处理非均匀聚类形状、密度以及需要预先定义聚类数的局限性。该算法引入了重心移动策略和多目标适应度函数，平衡了紧凑性、分离性和新的TSP基于的导航惩罚。它能够自动估计最佳聚类数并动态调整聚类边界。在机器人传感器网络中的应用展示了其实际价值，实验表明其聚类质量优于K均值，且减少集群内路径距离。这些结果证实了该算法在复杂空间聚类任务中的鲁棒性，未来可能扩展到更高维和适应性场景。
FireFly v2: Advancing Hardware Support for High-Performance Spiking Neural Network with a Spatiotemporal FPGA Accelerator
本文提出 FireFly v2 FPGA 加速器，通过四维并行时空数据流与高频脉动阵列支持含非脉冲操作的先进 SNN 端到端部署，并显著提升吞吐量、DSP 与功耗效率。
Parameter Tuning of the Firefly Algorithm by Three Tuning Methods: Standard Monte Carlo, Quasi-Monte Carlo and Latin Hypercube Sampling Methods
本研究扩展了Joy等人（2024）的工作，使用蒙特卡洛、拟蒙特卡洛和拉丁超立方抽样三种方法对萤火虫算法进行参数调优，通过求解六个优化问题及严格统计检验，发现算法性能与调优方法无关，表明三种方法均能有效调优。
FireFly: A High-Throughput Hardware Accelerator for Spiking Neural Networks with Efficient DSP and Memory Optimization
针对 FPGA 上 SNN 的算术与内存效率瓶颈，本文提出 FireFly 加速器，利用 DSP48E2 优化多路复用—累加运算并设计高效内存系统，在资源受限边缘器件上实现高计算密度。
Multimodal Optimization by Sparkling Squid Populations
动物的群体智能是应用于优化问题的自然范例。蚁群算法、蜂群算法、萤火虫算法和蝙蝠算法是已经被证明能够有效地优化复杂约束的算法之一。本文提出了新的闪光鱿鱼算法（SSA）的多峰优化，其同名的智能群体行为的启发。在介绍，制定和讨论其实施后，它将与其他流行的元计算进行比较。最后，将讨论应用于众所周知的问题，如图像配准和旅行推销员的问题.
A New Metaheuristic Bat-Inspired Algorithm
元启发式算法如粒子群优化算法、萤火虫算法、和声搜索算法等正成为解决许多复杂最优化问题的有力工具。在本文中，我们提出了一种新的元启发式方法，蝙蝠算法，蝙蝠的回声定位行为的基础上。我们还打算结合现有算法的优点到新的蝙蝠算法。经过详细的制定和解释其实施，我们将比较所提出的算法与其他现有的算法，包括遗传算法和粒子群优化。仿真结果表明，该算法明显优于其他算法，并讨论了进一步的研究。
An Improved Chicken Swarm Optimization Algorithm for Handwritten Document Image Enhancement
本研究提出一种改进的鸡群优化算法，用于手写文档图像的对比度增强预处理，在保留细节的同时实现增强，效果显著优于现有多种元启发式算法。
LAB: A Leader-Advocate-Believer Based Optimization Algorithm
本文介绍了一种新的社会启发式元启发式技术，称为基于领导者-倡导者-信徒的优化算法（LAB）的工程和全局优化问题。该算法的灵感来自于群体中个体所表现出的基于人工智能的竞争行为，同时提高自己并建立角色（领导者，倡导者，信徒）。LAB性能的计算时间和功能评估基准使用其他元启发式算法。除了基准问题，LAB算法被应用于解决具有挑战性的工程问题，包括磨料水射流加工，电火花加工，微加工工艺，以及在最小量润滑环境下车削钛合金的工艺参数优化。其结果优于萤火虫算法、协同智能算法、遗传算法、模拟退火算法、粒子群优化算法和多队列智能算法。这项研究的结果表明，LAB在函数求值和计算时间方面优于其他算法。LAB算法的突出特点，随着其局限性进行了讨论。
A natural-inspired optimization machine based on the annual migration of salmons in nature
生物灵感是人工模拟科学的一个分支，在自动模式识别、系统故障检测和应用优化等工程领域有着广泛的应用。本文提出了一种新的元启发式优化算法，即模拟大鲑鱼流（TGSR）。所得到的结果意味着在复杂的非凸，多维和多模态问题的优化执行方法的可接受的性能。为了证明TGSR在鲁棒性和质量方面的优越性，它还与大多数著名的优化技术，如模拟退火（SA），并行迁移遗传算法（PMGA），差分进化算法（DEA），粒子群优化（PSO），蜜蜂算法（BA），人工蜂群（ABC），萤火虫算法（FA）和布谷鸟搜索（CS）进行了比较。所得到的结果证实了所提出的方法在不同的基准优化问题的鲁棒性和质量的可接受的性能，也证明了作者的要求。
Why 'GSA: A Gravitational Search Algorithm' Is Not Genuinely Based on the Law of Gravity
为什么“GSA：引力搜索算法”不是基于引力定律的
Biomimicry in Radiation Therapy: Optimizing Patient Scheduling for Improved Treatment Outcomes
本研究将遗传算法、萤火虫优化和狼群优化三种仿生算法应用于放射治疗患者在线随机调度，通过比较收敛时间、运行时间和目标值，发现狼群优化性能最优，可减少人工干预并改善治疗结果。
Optimization meets Big Data: A survey
本文回顾了大数据优化的最新进展，提供了这一新兴领域的最新进展。本文的主要重点是在大数据分析环境中应用的优化技术。回顾和讨论了非线性规划、坐标下降法、交替方向乘子法、模拟优化和元算法，如进化和遗传算法、粒子群优化、差分进化、烟花、蝙蝠、萤火虫和布谷鸟搜索算法的实现。讨论了大数据优化与信息工作流风格、软件架构和软件框架等软件工程主题之间的关系。重点介绍了在大数据优化环境中使用的平台的比较分析，以提供最先进的可能架构和拓扑。
naspaclust: A hybridisation of spatial fuzzy clustering with nature-inspired optimisation
该研究介绍了R包naspaclust，其通过混合FGWC与七种自然启发式优化算法（含改进版本）提升空间模糊聚类性能，还提供多距离度量选项，经应用与性能对比验证了其有效性。
Why We Do Not Evolve Software? Analysis of Evolutionary Algorithms
在本文中，我们回顾了最先进的演化计算的结果，并观察到，我们不进化非平凡的软件从头开始，没有人为干预。一些可能的解释被认为是，但我们的结论是，计算复杂性的问题，防止它被解决，目前尝试。必要的和可用的计算资源的详细分析，以支持我们的研究结果。
A survey on dragonfly algorithm and its applications in engineering
该算法于2016年开发。它是研究人员用来优化各种领域中广泛的一系列用途和应用的算法之一。有时，与最知名的优化技术相比，它提供了更优越的性能。然而，这种算法面临着一些困难时，它被用来提高复杂的优化问题。该工作解决了该方法解决现实世界的优化问题的鲁棒性，以及其改善复杂优化问题的不足之处。本文综述了工程领域中的迭代算法的全面研究。首先，概述了该算法进行了讨论。此外，我们还研究了算法的修改。该算法的合并形式与不同的技术和修改，已经做了，使算法执行更好的解决。此外，还介绍了该算法在工程领域的应用情况。所利用的工程应用是在机械工程问题、电气工程问题、最优参数、经济负荷分配和降低损耗领域中的应用。通过粒子群优化算法和萤火虫算法对算法进行了测试和评价。为了评估该算法和其他参与算法的能力，使用了一组传统的基准测试（TF1-TF23）。此外，为了检查算法优化大规模优化问题的能力，使用了CEC-C2019基准测试。算法和其他元启发式技术之间的比较，以显示其能力，以提高各种问题。
Operational Framework for Recent Advances in Backtracking Search Optimisation Algorithm: A Systematic Review and Performance Evaluation
在以前的研究中进行的实验证明了BSA的成功性能和它对几种类型的优化问题的不敏感性。BSA的成功促使研究人员致力于扩展它，例如，开发其改进版本或将其用于不同的应用程序和问题域。然而，BSA缺乏文献综述，因此，系统地回顾上述修改和应用将有助于该算法的进一步发展。本文对BSA的相关研究和最新进展进行了系统的综述和荟萃分析。因此，这项工作的目标是双重的：（一）首先，提出了两个框架来描述BSA的主要扩展和用途。第一个框架是一个通用的框架来描述BSA的主要扩展，而第二个是一个操作框架来呈现BSA的扩展程序，以指导正在努力改进它的研究人员。（ii）其次，在这项研究中进行的实验公平地比较了BSA与其他四个竞争算法的分析性能：差分进化（DE）、粒子群优化（PSO）、人工蜂群（ABC）和萤火虫（FF）对具有不同初始控制参数（如问题维度和搜索空间）的基准函数的16个不同硬度分数进行优化。实验结果表明，BSA是统计优于上述算法在解决不同的群体的数值优化问题，如问题的硬度分数，问题的尺寸，和搜索空间的不同水平。
Why can genetic algorithms work in high-dimensional search spaces?
本文证明精英(1+M)遗传算法在小突变极限下等价于带各向异性高斯白噪声的裁剪梯度下降，解释了遗传算法无需显式计算梯度即可沿损失梯度下降，且其减速由Hessian矩阵的有效秩控制，而非参数数量，从而解释了其在高维空间中的可扩展性。
Duck swarm algorithm: theory, numerical optimization, and applications
受鸭群觅食行为启发提出鸭群算法（DSA），通过CEC基准测试与七种知名算法对比及工程约束优化和WSN节点部署应用，证明其在收敛速度和探索-开发平衡上具有优越性和竞争力。
Modelling and optimization of nanovector synthesis for applications in drug delivery systems
基于纳米结构物质如纳米颗粒（NPs）的纳米载体（NVs）已被证明是优异的药物递送系统。然而，由于各种各样的潜在的纳米粒子，包括纳米粒子材料及其功能化，除了过多的分子，可以运输，这个领域提出了一个巨大的挑战，在资源方面找到最佳的物理化学性质，如粒径和载药量，其中大部分的努力依赖于试错实验。在这方面，人工智能（AI）和元启发式算法分别提供了最先进的建模和优化的效率。这篇评论的重点是，通过系统的搜索，使用人工智能和超启发式算法的纳米粒子合成药物输送系统。主要调查结果如下：神经网络比线性回归算法和响应面方法更好地建模NV属性，比较AI或元启发式算法的研究数量非常有限，并且没有关于样本量计算适当性的信息。基于这些发现，多层感知器人工神经网络和自适应神经模糊推理系统的建模性能进行了测试与NV数据集，发现后者的更好的算法。对于元启发式算法，分别用布谷鸟搜索、萤火虫算法、遗传算法和共生体搜索对基准函数进行优化，发现布谷鸟搜索和共生体搜索的性能最好。最后，方法来估计适当的样本量的AI算法进行了讨论。
Self-Adjusting Population Sizes for Non-Elitist Evolutionary Algorithms: Why Success Rates Matter
进化算法（Evolutionary Algorithms，EA）是一种通用的优化器，它带有几个参数，如父代和后代种群的大小或突变率。众所周知，EA的性能可能极大地取决于这些参数。最近的理论研究表明，在算法运行过程中调整参数的自调整参数控制机制可以证明优于离散问题的EA中的最佳静态参数。然而，这些研究大多数涉及精英的选举机构，我们没有一个明确的答案，同样的机制是否可以适用于非精英的选举机构。我们研究了最著名的参数控制机制之一，五分之一成功规则，以控制后代人口规模$λ$在非精英$(1,λ)$ EA。已知$(1,λ)$ EA相对于$λ$的选择具有尖锐的阈值，其中基准函数OneMax上的预期运行时间从多项式时间变为指数时间。因此，不清楚参数控制机制是否能够找到并保持$λ$的合适值。对于OneMax，我们表明答案关键取决于成功率$s$（即，e.一次$(s+1)$成功规则）。我们证明，如果成功率是适当的小，自调整$(1,λ)$ EA优化OneMax在$O(n)$预期的世代和$O(n \log n)$预期的评价，最好的运行时间为任何一元无偏黑箱算法。一个小的成功率是至关重要的：我们还表明，如果成功率太大，该算法在OneMax和其他具有类似特征的函数上具有指数运行时间。
Why don't the modules dominate - Investigating the Structure of a Well-Known Modularity-Inducing Problem Domain
Wagner的模块化诱导问题域是对模块化演化研究的重要贡献，包括演化理论和演化计算。我们在经典的遗传算法下研究了它的行为。与我们在自然界中观察到的不同，模块化的出现是高度有条件和依赖的，例如，对搜索的渴望。在自然界中，模块化解决方案通常占主导地位的人口，而在这个领域，模块化，当它出现时，是一个相对罕见的变体。模块化的出现很大程度上取决于适应度函数的随机波动，如果适应度函数随机变化但不变，模块化的进化就少得多。有趣的是，高适应度的非模块化解决方案通常可以通过手动删除所有模块间的边来转换为更高适应度的模块化解决方案。尽管仔细探索，我们还没有一个完整的解释，为什么遗传算法是无法找到这些更好的解决方案。
Ant Hill Colonization optimization algorithm(AHCOA) for controlling the side lobe of a uniform linear array
将蚁群算法引入电磁学和天线领域。蚁丘是由一种特殊的蚂蚁建造的，这种蚂蚁被称为蚁科蚂蚁（也被称为草地蚁、火蚁和收割蚁）。AHCOA是一个新颖的新的自然启发算法模仿蚂蚁如何建立和维持蚂蚁山为他们的生存和维持多年。该问题解决了约束和无约束优化问题，具有广泛的能力，在不同的领域。AHCOA是通过编写蚁丘模型的体积分析方程来使用的，该模型的结构是建筑的。在本文中，我们已经显示了如何AHCOA是优于以前的文章蚂蚁优化器控制天线方向图综合中的旁瓣在文件[1]。同时也说明了AHCOA在d/为1.1，0.6，0.5，0.3和0.1的线性阵列综合分析中的潜力。天线旁瓣电平最小化与蚁群优化器进行了比较，说明了为什么AHCOA优于先前模拟的蚁群优化器进行旁瓣控制。结果表明，为什么线性阵列更好地综合AHCOA，然后在平面阵列中使用的其他算法。本文说明了为什么AHCOA是一个强有力的候选人用于线阵天线优化。
When and Why Metaheuristics Researchers Can Ignore "No Free Lunch" Theorems
搜索和优化的“没有免费的午餐”（NFL）定理指出，在固定的搜索空间上对所有可能的目标函数进行平均，所有搜索算法都表现得同样好。该定理的几个改进版本在对较小的函数集进行平均时发现了类似的结果。本文认为，NFL的结果仍然被许多研究人员误解，并解决了这个问题，在几个方面。现有的论点对现实世界的影响NFL的结果收集和重申的可访问性，并添加新的。具体的误解存在于文献中确定，与猜测，他们可能已经出现。本文提出了一个论点，对一个共同的释义NFL的调查结果-算法必须专门的问题域，以做好-后problematising通常未定义的术语“域”。它提供了新颖的具体反例，说明NFL定理不适用的情况。最后，它提供了一个新的NFL的真正意义的看法，纳入人择原理和证明的立场，在许多常见的情况下，研究人员可以忽略NFL。
Modelling Open-Source Software Reliability Incorporating Swarm Intelligence-Based Techniques
针对开源软件可靠性增长建模中非线性参数估计困难的问题，提出使用萤火虫、灰狼等七种群体智能优化算法优化基于非齐次泊松过程的参数估计，并在两个真实数据集上验证了其有效性和令人鼓舞的性能。
On Steady-State Evolutionary Algorithms and Selective Pressure: Why Inverse Rank-Based Allocation of Reproductive Trials is Best
我们分析了稳态EA的全局优化能力的选择性压力的影响。对于标准的双峰基准函数\twomax，我们严格证明，使用统一的父选择导致指数运行时，以高概率找到两个最优的标准（$μ$ +1）~EA和（$μ$ +1）~RLS与任何多项式的人口规模。另一方面，我们证明了选择最差的个人作为父母导致有效的全局优化与压倒性的概率合理的人口规模。由于总是选择最差的个人可能会有不利影响，从局部最优逃脱，我们考虑的性能随机父选择算子的低选择压力的函数类称为\textsc{TruncatedTwoMax}，其中一个斜率比其他短。实验分析表明，EA配备逆比赛选择，其中失败者被选择用于复制和小比赛大小，全局优化\textsc{TwoMax}有效地和有效地逃脱局部最优的\textsc{TruncatedTwoMax}具有高概率。因此，他们有效地确定了两个最优选择，而统一（或更强）的选择在理论和实践中都失败了。然后，我们展示了逆选择的力量，从文献中的人口是必不可少的，通过提供严格的证明或实验证据，它优于统一的选择配备或不重新启动策略。最后，我们通过对经典MaxSat和多维背包问题的标准基准的不同选择压力的实证分析来证实我们的理论见解。
Why does Deep Learning work? - A perspective from Group Theory
为什么深度学习有效？它捕捉到了什么样的表征？高阶表征是如何出现的？我们从群论的角度研究这些问题，从而为深度学习理论开辟了一条新的途径。该主题最近重新兴起的一个因素是一个关键的算法步骤，称为预训练：首先为输入样本搜索一个良好的生成模型，然后一次重复一层。通过建立与轨道和群作用稳定器相互作用的联系，我们展示了这个简单原理的更深层次的含义。虽然神经网络本身可能不会形成组，我们表明存在的{ \em影子}组的元素作为密切的近似。在阴影组上，最初作为更好地初始化网络的机制引入的预训练步骤变得等同于搜索具有最小轨道的特征。直观地说，这些特性在某种程度上是{ \em最简单的}。这就解释了为什么深度学习网络首先学习简单的特征。接下来，我们将展示当在更深的层中重复相同的原理时，如何捕获更高阶的表示，以及为什么表示复杂性随着层的加深而增加。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈
发表机构由 AI 从论文文本抽取，如发现错误，欢迎反馈修正建议。