Evolutionary Context Search for Automated Skill Acquisition
Institute of Science Tokyo, Japan(东京科学研究院)
进化上下文搜索通过进化方法发现非显而易见的上下文配对,显著提升模型性能,为自动化技能获取提供高效替代方案。
2026-02-18 cs.LG cs.NE
Grammar-based evolutionary approach for automated workflow composition with domain-specific operators and ensemble diversity
University of Córdoba(科尔多瓦大学);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所(DaSCI))
针对AutoML中工作流组合(AWC)的算法组合受限问题,提出基于语法的进化方法EvoFlow,通过领域特定遗传算子和多样性更新机制优化工作流结构与超参数,实验证明其性能显著优于现有方法。
2024-02-03 cs.LG
EvoAAA: An evolutionary methodology for automated \neural autoencoder architecture search
Universidad de Jaén(哈恩大学)
当向机器学习模型提供策划的功能时,它们会更好地工作。特征工程方法通常被用作预处理步骤,以获得或构建合适的特征集。近年来,自编码器(一种特定类型的对称神经网络)已被广泛用于执行表示学习,证明了其与经典特征工程算法的竞争力。使用自动编码器的主要障碍是找到一个好的架构,这是大多数专家手动面对的过程。本文提出了一种基于进化方法的自动编码器结构搜索方法。该方法针对九个异构数据集进行了测试。所得到的结果表明,这种方法能够找到更好的架构,能够集中在一个最小化的编码,在减少的时间大部分有用的信息。
2023-01-15 cs.AI cs.LG cs.NE
AlphaJet: Automated Conceptual Aircraft Synthesis via Disentangled Generative Priors and Topology-Preserving Evolutionary Search
Hong Kong University of Science(香港科学与技术大学)
AlphaJet通过解耦生成先验和拓扑保持进化搜索,实现自动概念飞机合成,提供可解释的形状先验和拓扑保护算法,提升飞机设计自动化水平。
2026-04-29 cs.LG
QxEAI: Quantum-like evolutionary algorithm for automated probabilistic forecasting
针对预测对商业决策的重要性,提出基于类量子进化算法的QxEAI概率预测方法,训练类量子逻辑决策树与经典价值树,在三个真实数据集上实现了少人工的准确预测。
2024-06-21 cs.AI cs.LG cs.NE
DarwinML: A Graph-based Evolutionary Algorithm for Automated Machine Learning
Xidian University(西安电子科技大学);Intelligence Qubic (Beijing) Technology Co., Ltd(智立方(北京)科技有限公司)
自动机器学习(AutoML)作为一个新兴领域,旨在减少或消除需要机器学习专业知识的手动操作。在本文中,基于图的架构表示ML模型的灵活组合,它提供了一个大的搜索空间相比,基于树和堆栈的架构。在此基础上,提出了一种搜索最优体系结构的进化算法,其中变异算子和遗传算子是体系结构进化的关键。通过贝叶斯超参数优化,该方法可以实现机器学习工作流程的自动化。在PMLB数据集上,与TPOT,Autostacker和auto-sklearn相比,所提出的方法显示了最先进的性能。优化后的模型结构复杂,手工设计很难得到。
2018-11-20 cs.LG cs.NE stat.ML
Integration Of Evolutionary Automated Machine Learning With Structural Sensitivity Analysis For Composite Pipelines
ITMO University(圣彼得堡国立信息技术、机械学与光学研究大学);Huawei Technologies Co Ltd(华为技术有限公司)
提出EVOSA方法,结合敏感性分析与进化AutoML,优化灵活管道结构,提高鲁棒性和可解释性,并在多领域任务中验证有效性。
2023-12-22 cs.LG cs.NE
HyP-ABC: A Novel Automated Hyper-Parameter Tuning Algorithm Using Evolutionary Optimization
Florida International University(佛罗里达国际大学);University of Georgia(佐治亚大学)
机器学习技术在广泛的应用中成为有前途的决策和分析工具。不同的ML算法有不同的超参数。为了针对特定的应用定制ML模型,应该调整大量的超参数。调整超参数直接影响性能(准确性和运行时间)。然而,对于大规模搜索空间,有效地探索超参数的大量组合在计算上是具有挑战性的。现有的自动化超参数整定技术遭受高时间复杂度。在本文中,我们提出了HyP-ABC,一个自动创新的混合超参数优化算法,使用修改后的人工蜂群方法,来衡量三个ML算法,即随机森林,极端梯度提升,和支持向量机的分类精度。与最先进的技术相比,HyP-ABC更有效,并且需要调整的参数数量有限,因此值得用于现实世界的超参数优化问题。我们进一步比较我们提出的HyP-ABC算法与最先进的技术。为了保证算法的鲁棒性,该算法采用了大范围的可行超参数值,并使用真实世界的教育数据集进行了测试。
2021-09-11 cs.LG cs.NE
A Hybrid Evolutionary System for Automated Artificial Neural Networks Generation and Simplification in Biomedical Applications
University of A Coruna(拉科鲁尼亚大学);Georgia Tech(佐治亚理工学院)
生物医学数据的数据采掘和数据分类是计算机科学的两个重要研究领域。在众多可用于此目的的技术中,神经神经网络(ANN)是最合适的技术之一。该技术发展中的主要问题之一是整个过程的缓慢性能。传统上,在这个开发过程中,需要人类专家来试验不同的架构过程,直到他们找到一个能够解决特定问题的正确结果。然而,已经出现了许多研究,其中描述了不同的ANN开发技术,或多或少自动化。在本文中,作者专注于开发一种新技术来对生物医学数据执行此过程。新技术中,两个演化计算(EC)技术混合自动开发人工神经网络。这些技术是遗传算法和遗传编程。这项工作更进一步,这里描述的系统允许获得具有少量神经元的简化网络来解决问题。该系统相比,已经存在的系统,也使用EC一组众所周知的问题。从这些比较得出的结论表明,这种新系统产生了非常好的结果,在最坏的情况下,至少与现有技术相当,在许多情况下,更好。
2019-04-09 cs.LG cs.NE
LLM-FE: Automated Feature Engineering for Tabular Data with LLMs as Evolutionary Optimizers
Department of Computer Science, Virginia Tech(弗吉尼亚理工学院计算机科学系)
本文提出LLM-FE框架,结合LLM的领域知识和推理能力,通过进化搜索自动发现表格学习任务中的有效特征,优于现有方法。
2026-05-10 cs.AI cs.CL cs.LG
Towards Evolutionary-based Automated Machine Learning for Small Molecule Pharmacokinetic Prediction
Baker Heart and Diabetes Institute(贝克心脏与糖尿病研究所);School of Chemistry & Molecular Biosciences, The University of Queensland(昆士兰大学化学与分子生物科学学院);The University of Melbourne(墨尔本大学)
本文提出一种基于语法遗传编程的进化AutoML方法,自动选择算法并设计个性化流水线以预测小分子ADME性质,性能与传统方法相当或更优。
2024-08-01 cs.AI cs.LG
Detect and Act: Automated Dynamic Optimizer through Meta-Black-Box Optimization
South China University of Technology(华南理工大学)
本文提出一种基于强化学习的自动动态优化方法,通过元黑箱优化思想实现环境变化检测与自适应,提升进化算法在动态优化问题中的性能。
2026-01-30 cs.LG cs.NE
Automated Problem Identification: Regression vs Classification via Evolutionary Deep Networks
University of Cape Town(开普敦大学);African Institute for Mathematical Sciences(非洲数学科学研究所);South African Astronomical Observatory(南非天文台)
回归还是分类?这可能是在处理新的监督学习问题时面临的最基本的问题。我们提出了一种进化深度学习(EDL)算法,该算法通过高精度地识别问题类型来自动解决这个问题,并提出了一个深度架构。通常,在执行机器学习算法之前需要大量的人类洞察力和准备。例如,当创建深度神经网络时,必须提前选择参数的数量,此外,许多这些选择是基于数据的预先存在的知识(例如使用分类交叉熵)做出的。损失函数。人类能够研究数据集并决定它是否代表分类或回归问题,从而做出将应用于神经网络执行的决策。我们提出了自动问题识别(API)算法,该算法使用TensorFlow的进化算法接口来操作深度神经网络,以决定数据集是代表分类还是回归问题。我们在16个不同的分类、回归和情感分析数据集上测试API,这些数据集包含多达10,000个特征和多达17,000个唯一目标值。API在识别问题类型方面达到了$96.3\%$的平均准确度,而无需对回归或分类问题的一般特征进行硬编码。例如,API成功地识别了1000个目标值的分类问题。此外,该算法推荐使用哪个损失函数,并且还推荐神经网络架构。因此,我们的工作是迈向全自动机器学习的一步。
2017-07-03 cs.AI cs.LG cs.NE
AEGIS : Automated Co-Evolutionary Framework for Guarding Prompt Injections Schema
Electrical Engineering, National Taiwan University(国家台湾大学电子工程系)
针对提示注入攻击,提出自动化协同进化框架AEGIS,通过文本梯度优化迭代攻防提示,显著提升攻击成功率与检测性能,验证了对抗训练的有效性。
2025-10-09 cs.AI cs.CR cs.LG
Automated Query Learning with Wikipedia and Genetic Programming
Aalto University School of Economics(阿尔托大学经济学院)
现有的信息检索系统大多是基于词袋模型的,没有配备公共世界知识。通过使用智能算法来生成搜索查询,已经朝着提高这种系统的效率进行了工作,然而,在将人类和社会层面的知识纳入查询的方向上没有进行太多的研究。本文是第一次尝试,这些信息被纳入使用维基百科语义的搜索查询。本文提出了一个基本的转变,从传统的基于令牌的查询,以概念为基础的查询,从而提高效率的信息检索系统。为了有效地处理自动查询学习问题,我们提出了基于维基百科的进化语义(Wiki-ES)框架,其中基于概念的查询学习使用共同进化的进化过程。学习概念为基础的查询,使用智能进化过程产生显着的改善性能,这是通过广泛的研究,使用路透社新闻专线文件。与其他信息检索系统的建议框架进行比较。基于概念的方法也已经在其他信息检索系统上实现,以证明从基于标记的查询到基于概念的查询的转换的有效性。
2010-12-03 cs.AI cs.IR cs.LG
RoboMorph: Evolving Robot Morphology using Large Language Models
University of Warsaw(华沙大学);IDEAS NCBR;Nomagic;Polish Academy of Sciences(波兰科学院)
RoboMorph利用大语言模型和进化算法自动生成和优化模块化机器人设计,通过结构化语法探索设计空间,结合最佳-shot提示策略和强化学习评估,在四种地形中发现多种适应性形态,展示LLM与进化选择结合的有效性。
2026-03-21 cs.LG cs.RO
An Adaptive and Near Parameter-free Evolutionary Computation Approach Towards True Automation in AutoML
Victoria University of Wellington(惠灵顿维多利亚大学)
演化计算方法的一个共同主张是,它们可以在不需要人为干预的情况下获得良好的结果。然而,对此的一个批评是,仍然有一些超参数必须调整才能获得良好的性能。在这项工作中,我们提出了一个近“无参数”的遗传编程方法,它适应整个进化过程中的超参数值,而无需手动指定。我们将其应用于自动化机器学习领域(通过扩展TPOT),以产生可以有效地声称不受人类输入的管道,并表明结果与现有的使用手动选择的超参数值的最先进技术具有竞争力。管道从随机选择的估计器开始,并自动演变为竞争管道。这项工作朝着真正自动化的AutoML方向发展。
2020-01-28 cs.AI cs.LG cs.NE
DIFER: Differentiable Automated Feature Engineering
Nanjing University(南京大学)
特征工程是机器学习的关键步骤,其目的是从原始数据中提取有用的特征,以提高数据质量。近年来,人们一直致力于自动特征工程(AutoFE),以取代昂贵的人工劳动。然而,现有的方法是计算要求,由于治疗AutoFE作为一个粗粒度的黑盒优化问题在离散空间。在这项工作中,我们提出了一个有效的基于梯度的方法称为DIFER进行微分自动特征工程在连续向量空间。DIFER基于进化算法选择潜在特征,并利用编码器-预测器-解码器控制器来优化现有特征。我们通过编码器将特征映射到连续的向量空间中,沿着预测分数引起的梯度方向优化嵌入,并通过解码器从优化的嵌入中恢复更好的特征。在分类和回归数据集上的大量实验表明,DIFER可以显着提高各种机器学习算法的性能,并在效率和性能方面优于当前最先进的AutoFE方法。
2022-10-08 cs.LG cs.NE
Long-Term Missing Value Imputation for Time Series Data Using Deep Neural Networks
Teikametrics;Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);International Institute for Applied Systems Analysis(国际应用系统分析研究所)
我们提出了一种使用深度学习模型的方法,特别是多层感知器(MLP),用于估计多变量时间序列数据中变量的缺失值。我们专注于填补一个长期持续的空白(例如,多个月缺失的每日观察值),而不是单个随机缺失的观察值。我们提出的间隙填充算法使用自动方法来确定最佳MLP模型架构,从而为给定的时间序列提供最佳的预测性能。我们通过在具有不同时间序列特征的三个环境数据集(即每日地下水位,每日土壤湿度和每小时净生态系统交换)中填充不同长度(三个月至三年)的空白来测试我们的方法。我们将我们的方法与广泛使用的基于R的时间序列间隙填充方法ImputeTS和mtsdi获得的间隙填充值的准确性进行了比较。结果表明,使用MLP来填充大的间隙会导致更好的结果,特别是当数据表现为非线性时。因此,我们的方法可以使用在一个变量中有很大差距的数据集,这在许多长期环境监测观测中很常见。
2022-02-25 cs.LG math.OC stat.AP
Multi-Objective Evolutionary Design of Composite Data-Driven Models
Natural Systems Simulation Lab ITMO University(ITMO大学自然系统模拟实验室)
本文提出了一种多目标设计复合数据驱动数学模型的方法。它允许自动识别基于图形的异构管道,包括不同的块:机器学习模型,数据预处理块等实施的方法是基于无参数的遗传算法(GA)的模型设计称为GPComp@Free。它被开发成自动化机器学习解决方案的一部分,并提高建模管道自动化的效率。一组实验进行了验证所提出的方法的正确性和效率,并证实了所选择的解决方案。实验结果证实,一个多目标的模型设计方法可以实现更好的多样性和质量的模型。实现的方法可作为开源AutoML框架FEDOT的一部分。
2021-05-17 cs.AI cs.LG cs.NE
Investigating Quantum Circuit Designs Using Neuro-Evolution
Rochester Institute of technology(罗切斯特技术学院)
本文提出EXAQC方法,通过神经进化技术自动设计和训练参数化量子电路,提升量子计算的可扩展性和硬件适应性。
2026-02-03 cs.LG cs.NE
DeltaEvolve: Accelerating Scientific Discovery through Momentum-Driven Evolution
DeltaEvolve通过动量驱动的语义delta进化框架,在减少令牌消耗的同时提升科学发现效率。
2026-02-02 cs.AI cs.LG
Enhancing Generalization in Evolutionary Feature Construction for Symbolic Regression through Vicinal Jensen Gap Minimization
Centre for Data Science and Artificial Intelligence & School of Engineering and Computer Science, Victoria University of Wellington(数据科学与人工智能中心及工程与计算机科学学院,维多利亚大学)
通过近邻Jensen间隙最小化增强进化特征构造在符号回归中提升泛化能力,有效控制过拟合并提升算法性能。
2026-02-02 cs.LG cs.NE
An Efficient Evolutionary Deep Learning Framework Based on Multi-source Transfer Learning to Evolve Deep Convolutional Neural Networks
Victoria University of Wellington(惠灵顿维多利亚大学)
多年来,卷积神经网络(CNN)通过引入更复杂的拓扑结构,并向更深更宽的CNN扩展容量,不断取得更好的性能。这使得人工设计CNN变得非常困难,因此CNN的自动设计已经成为研究的焦点,它已经获得了优于人工设计CNN的CNN。然而,计算成本仍然是自动设计CNN的瓶颈。在本文中,受迁移学习的启发,提出了一种新的基于演化计算的框架,在不影响分类精度的情况下有效地进化CNN。所提出的框架利用多源域,这是比目标域数据集更小的数据集,以发展一个通用的CNN块只有一次。在此基础上,提出了一种新的叠加方法,既能加宽又能加深演化块,并提出了一种网格搜索方法来寻找最优叠加解。实验结果表明,该方法在不到40个GPU小时的时间内比15个同行竞争对手更快地获得了良好的CNN。在分类精度方面,该方法具有较强的竞争力,在CIFAR-10、CIFAR-100和SVHN数据集上的最佳出错率分别为3.46%、18.36%和1.76%。
2022-12-07 cs.CV cs.LG cs.NE