Real-TabPFN: Improving Tabular Foundation Models via Continued Pre-training With Real-World Data
Department of Informatik, University of Freiburg（弗赖堡大学信息学院）；Prior Labs GmbH；Meta；ELLIS Institute Tübingen（图宾根ELLIS研究所）
本文提出Real-TabPFN，通过在精心筛选的真实世界数据集上进行持续预训练，显著提升了TabPFN在OpenML AutoML Benchmark 29个数据集上的预测性能。
2025-07-05 cs.AI cs.LG stat.ME
Winning by Peeking: Unenforced Budgets and Test-Set Selection Inflate Short-Budget AutoML Comparisons
该研究指出短预算AutoML比较存在协议缺陷，导致Orcetra的胜率被夸大，修正后其胜率显著下降，还给出了选择偏差的实测函数与短预算比较检查表。
2026-08-10 cs.AI cs.LG math.ST
Automated Machine Learning with Monte-Carlo Tree Search
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）
AutoML任务包括在机器学习组合中选择适当的算法及其超参数值，以便在手头的数据集上提供最佳性能。Mosaic是一种基于蒙特卡罗树搜索（MCTS）的方法，用于处理AutoML混合结构和参数的昂贵黑箱优化问题。进行了广泛的实证研究，以独立评估和比较：i）基于贝叶斯优化或MCTS的优化过程; ii）其热启动初始化; iii）沿搜索收集的解决方案的集成。Mosaic在OpenML 100基准和Scikit-learn组合上进行了评估，与前国际AutoML挑战赛的获胜者Auto-Sklearn相比，在统计上有显著的进步。
2019-10-07 cs.LG stat.ML
Ensemble Squared: A Meta AutoML System
University of British Columbia（不列颠哥伦比亚大学）；Georgia Institute of Technology（佐治亚理工学院）
目前有许多障碍阻止非专家利用机器学习解决方案，从缺乏统计学习技术的直觉到超参数调整的棘手性。这些障碍导致了人们对自动化机器学习（AutoML）的兴趣激增，通过这种方式，现成的系统可以为最终用户处理许多步骤，而不需要机器学习方面的专业知识。本文介绍了Ensemble Squared（Ensemble $^2$），这是一个AutoML系统，集成了最先进的开源AutoML系统的结果。Ensemble $^2$通过利用现有AutoML系统在模型搜索空间和语义学方面的差异来利用现有AutoML系统的多样性。从经验上讲，我们表明，每个AutoML系统的多样性足以证明在AutoML系统级别的集成。为了证明这一点，我们还在OpenML表格分类基准上建立了新的最先进的AutoML结果。
2021-06-19 cs.AI cs.LG
AlphaD3M: Machine Learning Pipeline Synthesis
我们介绍AlphaD3M，一个自动机器学习（AutoML）系统的基础上Meta强化学习使用序列模型与自我发挥。AlphaD3M基于在机器学习管道原语上执行的编辑操作，提供可解释性。我们在OpenML数据集上将AlphaD3M与最先进的AutoML系统：Autosklearn，Autostacker和TPOT进行了比较。AlphaD3M实现了具有竞争力的性能，同时速度快了一个数量级，将计算时间从几小时减少到几分钟，并且可以通过设计来解释。
2021-11-03 cs.LG
AutoDES: AutoML Pipeline Generation of Classification with Dynamic Ensemble Strategy Selection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
近年来，自动化机器学习取得了显著的技术发展，构建自动化机器学习管道现在是一项重要任务。模型集成是将多个模型组合起来以获得更好和更鲁棒的模型的技术。然而，现有的自动化机器学习在处理模型集成时往往过于简单，其中集成策略是固定的，例如堆叠泛化。不同的集成方法，特别是集成选择，已经有很多技术，固定的集成策略限制了模型性能的上限。在这篇文章中，我们提出了一个新的自动化机器学习框架。我们的框架结合了动态集成选择的进步，据我们所知，我们的方法是AutoML领域第一个搜索和优化集成策略的方法。在对比实验中，我们的方法在OpenML平台的42个分类数据集上的性能优于最先进的自动化机器学习框架，具有相同的CPU时间。在我们的框架上进行的烧蚀实验验证了我们所提出的方法的有效性。
2022-07-20 cs.LG
DriveML: An R Package for Driverless Machine Learning
VMware Software India Pvt. Ltd.（威睿软件印度私人有限公司）
近年来，自动化机器学习的概念变得非常流行。自动化机器学习（AutoML）主要是指随机森林、梯度提升、神经网络等算法的模型选择和超参数优化的自动化方法。本文介绍了一种新的自动化机器学习软件包DriveML。DriveML有助于实现自动化机器学习管道的一些支柱，例如自动化数据准备，功能工程，模型构建和模型解释，通过运行函数而不是编写冗长的R代码。DriveML包在CRAN中可用。我们将DriveML包与CRAN/Github中的其他相关包进行了比较，发现DriveML在不同参数下表现最好。我们还通过在真实世界的数据集上应用具有默认配置的DriveML包来提供说明。总体而言，DriveML的主要优势在于节省开发时间，减少开发人员的错误，优化机器学习模型和可重复性。
2021-08-06 cs.LG stat.ML
Integrating Hyperparameter Search into Model-Free AutoML with Context-Free Grammars
MercadoLibre Inc.（美客多公司）
针对现有无模型AutoML方法GramML仅搜索流水线结构、使用默认超参数的局限，提出集成超参数搜索的扩展方案，经OpenML基准测试，性能较前沿技术有显著提升。
2024-04-13 cs.AI cs.LG
NAS-Bench-x11 and the Power of Learning Curves
Michigan State University（密歇根州立大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Freiburg（弗莱堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
虽然神经结构搜索（NAS）的早期研究需要极端的计算资源，但最近发布的表格和替代基准大大提高了NAS研究的速度和可重复性。然而，两个最流行的基准测试并没有为每个架构提供完整的训练信息。因此，在这些基准测试中，不可能运行许多类型的多保真度技术，例如学习曲线外推，这些技术需要在任意时期评估架构。在这项工作中，我们提出了一种使用奇异值分解和噪声建模的方法来创建代理基准，NAS-Bench-111，NAS-Bench-311和NAS-Bench-NLP 11，这些基准输出每个架构的完整训练信息，而不仅仅是最终的验证精度。我们通过引入学习曲线外推框架来修改单保真度算法，展示了使用完整训练信息的能力，表明它导致了对流行的单保真度算法的改进，这些算法在发布时声称是最先进的。我们的代码和预训练模型可以在https://github.com/automl/nas-bench-x11上找到。
2021-11-05 cs.AI cs.LG cs.NE
Automatic Causal Fairness Analysis with LLM-Generated Reporting
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA), USI-SUPSI（日内瓦人工智能研究所（IDSIA）、USI-SUPSI）
提出FairMind原型，利用标准公平模型进行因果公平分析，通过反事实查询计算因果效应，并借助LLM零样本生成公平性报告，优于直接LLM分析。
2026-06-05 cs.AI cs.LG
Auto-Sklearn 2.0: Hands-free AutoML via Meta-Learning
Albert-Ludwigs-Universität Freiburg（阿尔伯特-路德维希-弗莱堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）；Leibniz University Hannover（汉诺威莱布尼茨大学）
自动化机器学习（AutoML）支持从业者和研究人员完成设计机器学习管道的繁琐任务，最近取得了巨大的成功。在本文中，我们介绍了新的AutoML方法，这些方法是由我们在第二届ChaLearn AutoML挑战赛中获胜的作品所激发的。我们开发了PoSH Auto-sklearn，通过使用一种新的、简单的、无元特征的元学习技术，并采用一种成功的预算分配策略，使AutoML系统能够在严格的时间限制下在大型数据集上很好地工作。然而，PoSH Auto-sklearn引入了更多运行AutoML的方法，可能会使用户更难正确设置。因此，我们还进一步研究了AutoML本身的设计空间，提出了一个真正免提AutoML的解决方案。这些变化共同催生了下一代AutoML系统Auto-sklearn 2.0。我们在39个AutoML基准数据集上进行了广泛的实验研究，验证了这些改进。我们通过与其他流行的AutoML框架和Auto-sklearn 1.0进行比较来总结本文，将相对误差降低了4.5倍，并且在10分钟内产生的性能远远优于Auto-sklearn 1.0在一小时内实现的性能。
2022-10-04 cs.LG stat.ML
autoBagging: Learning to Rank Bagging Workflows with Metalearning
INESC TEC；Faculty of Engineering, University of Porto（波尔图大学工程学院）
机器学习（ML）已经成功地应用于广泛的领域和应用。大多数成功应用背后的技术之一是包围学习（EL），这是ML领域，催生了随机森林或Boosting等方法。应用这些技术的复杂性以及ML专家的市场稀缺性，创造了对能够快速轻松地替代ML库的系统的需求。自动化机器学习（autoML）是试图满足这些需求的ML领域。通常，这些系统依赖于诸如贝叶斯优化的优化技术来引导对最佳模型的搜索。我们的方法不同于这些系统，利用最新的进展元学习和学习排名的方法来学习元数据。我们提出了autoBagging，一个autoML系统，通过利用过去的性能和数据集特征，自动对63个装袋工作流进行排名。在OpenML平台的140个分类数据集上的结果表明，autoBagging可以产生比Average Rank方法更好的性能，并且与为每个数据集系统地选择最佳工作流的理想模型相比，其结果在统计上没有差异。出于可重复性和可推广性的目的，autoBagging在CRAN上作为R包公开提供。
2017-06-28 cs.LG stat.ML
NAS-Bench-Suite: NAS Evaluation is (Now) Surprisingly Easy
University of Freiburg（弗莱堡大学）；Bosch Center for AI（博世人工智能中心）
NAS-Bench-101和NAS-Bench-201等表格基准的发布显著降低了在神经架构搜索（NAS）中进行科学研究的计算开销。虽然它们已被广泛采用并用于调整现实世界的NAS算法，但这些基准测试仅限于小搜索空间，并且仅关注图像分类。最近，已经引入了几个新的NAS基准测试，这些测试覆盖了广泛任务的更大搜索空间，包括目标检测、语音识别和自然语言处理。然而，到目前为止，这些NAS基准之间的巨大差异阻碍了它们的广泛采用，限制了研究人员只能使用少数基准。在这项工作中，我们提出了一个深入的分析流行的NAS算法和性能预测方法在25个不同的组合的搜索空间和数据集，发现许多结论得出的一些NAS基准不推广到其他基准。为了帮助解决这个问题，我们引入了NAS-Bench-Suite，这是一个全面且可扩展的NAS基准测试集合，可通过统一的界面访问，旨在促进可重现，可推广和快速的NAS研究。我们的代码可在https://github.com/automl/naslib上获得。
2022-02-11 cs.AI cs.LG stat.ML
Leveraging Automated Machine Learning for Text Classification: Evaluation of AutoML Tools and Comparison with Human Performance
University of Stuttgart（斯图加特大学）；Fraunhofer IAO（弗劳恩霍夫工业工程研究所）
最近，自动机器学习（AutoML）在表格数据方面取得了越来越大的成功。然而，问题是AutoML是否也可以有效地应用于文本分类任务。这项工作在13个不同的流行数据集上比较了四个AutoML工具，包括Kaggle竞赛，并反对人类的表现。结果表明，AutoML工具在13个任务中的4个任务中表现优于机器学习社区，其中两个任务表现突出。
2020-12-07 cs.LG
Comparison of Automated Machine Learning Tools for SMS Spam Message Filtering
Center for Artificial Intelligence Research (CAIR)（人工智能研究中心（CAIR））；University of Agder（阿格德大学）
短消息服务（SMS）是移动用户用于通信的非常流行的服务。然而，这项受欢迎的服务可能会被滥用，执行非法活动并影响安全风险。如今，存在许多自动机器学习（AutoML）工具，它们可以帮助领域专家和普通用户在很少或没有机器学习知识的情况下构建高质量的ML模型。在这项工作中，分类性能进行了比较之间的三个自动机器学习工具的短信垃圾邮件过滤。这些工具是mljar监督的AutoML，H2O AutoML和基于树的管道优化工具（TPOT）AutoML。实验结果表明，集成模型取得了最好的分类性能。使用H2O AutoML构建的Stacked Entrance模型在Log Loss（0.8370）、真阳性（1088/1116）和真阴性（281/287）指标方面实现了最佳性能。相对于TPOT AutoML，Log Loss有19.05\%的改进，相对于mljar监督的AutoML，有5.56\%的改进。使用AutoML工具实现的令人满意的过滤性能为AutoML工具提供了一个潜在的应用程序，可以自动确定最佳的ML模型，可以最好地执行SMS垃圾邮件过滤。
2021-06-28 cs.LG
Interpret-able feedback for AutoML systems
Microsoft Research（微软研究院）；University of Pennsylvania（宾夕法尼亚大学）
自动化机器学习（AutoML）系统旨在为非ML专家提供机器学习（ML）模型的训练。这些系统的一个缺点是，当它们无法生成高准确性的模型时，用户除了聘请数据科学家或学习ML之外没有其他方法来改进模型-这违背了AutoML的目的并限制了它的采用。我们为AutoML引入了一个可解释的数据反馈解决方案。我们的解决方案建议用户标记新的数据点（不需要未标记的数据池），以提高模型的准确性。我们的解决方案分析了特征如何影响AutoML集成中所有ML模型之间的预测，并且我们建议在此类分析中从具有高方差的特征范围中获取更多数据样本。我们的评估表明，我们的解决方案可以将AutoML的准确性提高7-8%，并且在数据效率方面明显优于流行的主动学习解决方案，同时还提供了可解释的额外好处。
2021-02-22 cs.LG
Techniques for Automated Machine Learning
Texas A&M University（得克萨斯农工大学）
自动化机器学习（AutoML）旨在自动找到给定机器学习问题的最佳机器学习解决方案。它可以将数据科学家从繁杂的手动调优过程中解放出来，并使领域专家能够在没有丰富经验的情况下访问现成的机器学习解决方案。在本文中，我们回顾了AutoML的三个类别，自动特征工程（AutoFE），自动模型和超参数学习（AutoMHL），自动深度学习（AutoDL）的当前发展。介绍了这三类方法中采用的最新技术，包括贝叶斯优化、强化学习、进化算法和基于梯度的方法。我们总结了流行的AutoML框架，并总结了AutoML当前面临的挑战。
2019-07-21 cs.AI cs.LG stat.ML
AIPerf: Automated machine learning as an AI-HPC benchmark
Peng Cheng Laboratory（鹏城实验室）；Tsinghua University（清华大学）；Institute of Computing Technology Chinese Academy of Sciences（中国科学院计算技术研究所）
大量复杂的人工智能（AI）算法和可用的高性能计算（HPC）能力刺激了具有异构设计的AI组件的快速开发。因此，对AI-HPC系统的跨堆栈性能基准测试的需求迅速出现。事实上的HPC基准测试LINPACK无法反映AI计算能力和I/O性能，没有代表性的工作负载。目前流行的AI基准测试（如MLPerf）具有固定的问题大小，因此可扩展性有限。为了解决这些问题，我们提出了一个利用自动机器学习（AutoML）的端到端基准测试套件，它不仅代表了真实的AI场景，而且可以自动适应各种规模的机器。我们以高度并行和灵活的方式实现算法，以确保在具有可定制配置的各种系统上的效率和优化潜力。我们利用每秒操作数（OPS）作为量化AI性能的主要指标，OPS是以分析和系统的方法测量的。为了保证基准测试的稳定性和可扩展性，我们对不同的系统进行了评估，从4个节点的32台NVIDIA Tesla T4（实测56.1 Tera-OPS），到512个节点的4096台华为Ascend 910（实测194.53 Peta-OPS），结果显示出近似线性的弱可扩展性。凭借灵活的工作负载和单一指标，我们的基准测试可以轻松扩展和排名AI-HPC。
2021-03-15 cs.DC cs.LG
Mastering AI: Big Data, Deep Learning, and the Evolution of Large Language Models -- AutoML from Basics to State-of-the-Art Techniques
National Taiwan Normal University（台湾师范大学）；Indiana University（印第安纳大学）；University of Hawaii（夏威夷大学）；AppCubic；Kyoto University（京都大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Georgia Institute of Technology（佐治亚理工学院）；Rutgers University（罗格斯大学）；Purdue University（普渡大学）；Emory University（埃默里大学）
本文系统介绍了AutoML的基础知识、主流工具及最新技术，旨在为AI和机器学习领域提供全面的指导与研究参考。
2025-12-07 cs.LG
Online AutoML: An adaptive AutoML framework for online learning
Eindhoven University of Technology（埃因霍温理工大学）
自动机器学习（AutoML）已成功地用于学习任务被假定为静态的设置中。然而，在许多现实世界的场景中，数据分布将随着时间的推移而发展，AutoML技术是否可以在动态环境中有效地设计在线管道还有待证明。本研究的目的是自动化管道设计的在线学习，同时不断适应数据漂移。为此，我们设计了一个自适应的在线自动机器学习（OAML）系统，搜索在线学习器的完整管道配置空间，包括预处理算法和集成技术。该系统结合了在线学习者的固有适应能力和AutoML的快速自动管道（重新）优化能力。重点优化技术，可以适应不断变化的目标，我们评估异步遗传编程和异步连续减半，以不断优化这些管道。我们实验真实和人工数据流与不同类型的概念漂移，以测试所提出的系统的性能和适应能力。结果证实了OAML在流行的在线学习算法上的实用性，并强调了在存在数据漂移的情况下连续管道重新设计的好处。
2022-12-07 cs.AI cs.LG
Multi-Objective Automatic Machine Learning with AutoxgboostMC
LMU Munich（慕尼黑大学）
AutoML系统目前越来越受欢迎，因为它们可以在没有人类监督的情况下构建强大的模型。他们经常结合机器学习的许多不同子领域的技术，以找到一个模型或一组模型，优化用户提供的标准，如预测性能。这些系统的最终目标是减少花在卑微任务上的时间，或者可以通过算法更好地解决的任务，同时将需要人类智能的决策留给最终用户。近年来，公平性和可解释性等其他标准的重要性越来越明显。当前的AutoML框架要么不允许优化这样的次要标准，要么只通过限制系统对模型和预处理步骤的选择来优化。我们建议优化用户直接定义的附加标准，以引导搜索到最佳的机器学习管道。为了证明我们的方法的必要性和实用性，我们提供了一个简单的多标准AutoML系统，并展示了一个示例性的应用程序。
2021-04-30 cs.LG stat.ML
EDCA - An Evolutionary Data-Centric AutoML Framework for Efficient Pipelines
University of Coimbra（科英布拉大学）；CISUC/LASI – Centre for Informatics and Systems of the University of Coimbra（科英布拉大学信息学与系统中心（CISUC/LASI））
针对AutoML中数据质量被忽视的问题，提出进化数据中心AutoML框架EDCA，通过优化数据处理任务（如缩减、清理）结合传统模型选择与超参数调优，在AMLB分类基准上与FLAML、TPOT性能相当但数据使用更少，提升AutoML效率。
2025-04-14 cs.LG
AutoMLBench: A Comprehensive Experimental Evaluation of Automated Machine Learning Frameworks
University of Tartu（塔尔图大学）；Institute of Computer Science（计算机科学研究所）
本文在100个数据集上系统评估并比较了AutoWeka、AutoSKlearn、TPOT、Recipe、ATM和SmartML六种AutoML框架的性能，揭示了时间预算、搜索空间、元学习与集成构建等设计决策对性能的影响。
2023-04-12 cs.AI cs.LG
Extreme AutoML: Analysis of Classification, Regression, and NLP Performance
Verseon International Corp.（Verseon国际公司）；Missouri University of Science and Technology（密苏里科技大学）
本研究针对AutoML性能问题，对比基于ELM的Extreme AutoML与Google AutoML，经多数据集基准测试发现前者在准确率、Jaccard指数、类别方差及训练时间上均具显著优势。
2024-12-11 cs.AI cs.LG
PIPES: A Meta-dataset of Machine Learning Pipelines
Centro de Informática, Universidade Federal de Pernambuco（佛罗里达州立大学佩纳布洛分校计算机中心）；Instituto de Computação, Universidade Federal de Alagoas（阿拉加斯联邦大学计算机研究所）；École de Technologie Supérieure, Université du Québec（魁北克大学超技术学院）
针对OpenML流水线多样性不足的问题，提出PIPES元数据集，包含9,408个流水线在300个数据集上的实验结果，覆盖技术组合，支持元学习研究。
2025-09-11 cs.LG
SubStrat: A Subset-Based Strategy for Faster AutoML
University College London（伦敦大学学院）；Bar-Ilan University（巴伊兰大学）
SubStrat提出一种基于遗传算法选取代表性数据子集来加速AutoML的策略，通过先在小子集上搜索、再在大数据集上受限优化，在Auto-Sklearn和TPOT上平均减少79%运行时间且精度损失不到2%。
2022-06-07 cs.DB cs.LG cs.NE
An Empirical Study on the Usage of Automated Machine Learning Tools
Polytechnique Montréal（蒙特利尔理工学院）
自动化机器学习（AutoML）工具在不同领域的普及在过去几年中有所增加。机器学习（ML）从业者使用AutoML工具来自动化和优化特征工程、模型训练和超参数优化等过程。最近的工作对从业者使用AutoML工具的经验进行了定性研究，并根据其性能和提供的特征对不同的AutoML工具进行了比较，但是，现有的工作都没有研究在实际项目中大规模使用AutoML工具的实践。因此，我们进行了一项实证研究，以了解ML从业者如何在他们的项目中使用AutoML工具。为此，我们研究了十大最常用的AutoML工具以及它们在GitHub上托管的大量开源项目存储库中的各自用途。我们的研究结果显示了1）ML从业者最常用的AutoML工具，以及2）使用这些AutoML工具的存储库的特征。此外，我们确定了使用AutoML工具的目的（例如模型参数采样，搜索空间管理，模型评估/错误分析，数据/特征转换和数据标记）以及使用AutoML工具的ML管道的阶段（例如特征工程）。最后，我们报告了AutoML工具在同一源代码文件中一起使用的频率。我们希望我们的研究结果可以帮助ML从业者了解不同的AutoML工具及其用法，以便他们能够为自己的目的选择正确的工具。此外，AutoML工具开发人员可以从我们的研究结果中受益，以深入了解他们的工具的使用情况，并改进他们的工具，以更好地满足用户的使用和需求。
2022-08-28 cs.AI cs.LG cs.SE
Hyperparameter optimization in deep multi-target prediction
Ghent University（根特大学）；Ludwig-Maximilians-University Munich（慕尼黑路德维希-马克西米利安大学）
由于配置和微调机器学习模型的复杂性不断增加，自动化机器学习（AutoML）领域在过去十年中出现。然而，像Auto-WEKA和Auto-sklearn这样的软件实现通常专注于经典的机器学习（ML）任务，如分类和回归。我们的工作可以被视为第一次尝试为大多数属于多目标预测的问题设置提供一个单一的AutoML框架，其中包括流行的ML设置，如多标签分类，多元回归，多任务学习，二元预测，矩阵完成和零样本学习。通过使用流行的超参数优化（HPO）方法扩展DeepMTP（用于MTP问题设置的通用深度学习框架），实现了自动化问题选择和模型配置。我们在不同的数据集和MTP问题设置上进行了广泛的基准测试，确定了特定HPO方法优于其他方法的情况。
2022-11-08 cs.LG
Automated Machine Learning in Insurance
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出一种专为保险应用定制的AutoML工作流，通过平衡步骤、集成管道和自定义损失函数解决保险数据集不平衡等独特挑战，使用户无需领域知识即可轻松部署ML模型。
2024-08-26 cs.LG
Automated Machine Learning Techniques for Data Streams
University of Twente（特文特大学）
自动化机器学习技术得益于近年来的巨大研究进展。这些发展和对机器学习专家不断增长的需求导致了许多AutoML工具的开发。然而，这些工具假设整个训练数据集是预先可用的，并且底层分布不会随时间而变化。这些假设在数据流挖掘设置中不成立，在数据流挖掘设置中，无法存储无限的数据流，并且很可能表现出概念漂移。由于物联网、微服务架构、Web分析和其他领域越来越多地采用实时流模式，机器学习在流数据上的行业应用变得越来越流行。本文总结的研究调查了最先进的开源AutoML工具，将其应用于从流中收集的数据，并测量其性能如何随时间变化。为了比较的目的，批量，批量增量和实例增量估计应用和比较。此外，提出了一种基于Meta特征提取的在线算法选择的元学习技术，并对模型替换和连续AutoML技术进行了讨论。结果表明，现成的AutoML工具可以提供令人满意的结果，但在存在概念漂移的情况下，必须应用检测或自适应技术来保持预测精度。
2021-06-14 cs.AI cs.LG
Identifying and Harnessing the Building Blocks of Machine Learning Pipelines for Sensible Initialization of a Data Science Automation Tool
Institute for Biomedical Informatics, University of Pennsylvania（宾夕法尼亚大学生物医学信息学研究所）
随着数据科学越来越受欢迎，越来越需要使数据科学工具更具可扩展性，灵活性和可访问性。特别地，自动化机器学习（AutoML）系统寻求使设计和优化机器学习流水线的过程自动化。在本章中，我们提出了一个基于遗传编程的AutoML系统，称为TPOT，它优化了一系列特征预处理器和机器学习模型，目标是在监督分类问题上最大限度地提高分类精度。此外，我们分析了以前用于解决各种监督分类问题的管道的大型数据库，并确定了100个最频繁出现的机器学习操作的短系列，我们称之为机器学习管道的构建块。我们利用这些构建块来初始化TPOT有前途的解决方案，并发现这种明智的初始化方法显着提高TPOT的性能在一个基准测试，而没有显着降低性能的成本。因此，使用机器学习管道构建块进行合理的初始化为基于GP的AutoML系统带来了希望，并且应该在未来的工作中进一步完善。
2016-07-29 cs.AI cs.LG cs.NE
IoT Data Analytics in Dynamic Environments: From An Automated Machine Learning Perspective
University of Western Ontario（西安大略大学）
随着近年来传感器和智能设备的广泛普及，物联网（IoT）系统的数据生成速度急剧增加。在物联网系统中，必须频繁处理、转换和分析大量数据，以实现各种物联网服务和功能。机器学习（ML）方法已经显示出其用于物联网数据分析的能力。然而，将ML模型应用于物联网数据分析任务仍然面临许多困难和挑战，特别是有效的模型选择，设计/调整和更新，这对经验丰富的数据科学家带来了巨大的需求。此外，物联网数据的动态特性可能会引入概念漂移问题，导致模型性能下降。为了减少人类的努力，自动化机器学习（AutoML）已经成为一个热门领域，旨在自动选择，构建，调整和更新机器学习模型，以实现指定任务的最佳性能。在本文中，我们对AutoML领域的模型选择、调整和更新过程中的现有方法进行了回顾，以确定和总结将ML算法应用于物联网数据分析的每一步的最佳解决方案。为了证明我们的研究结果并帮助工业用户和研究人员更好地实施AutoML方法，在这项工作中进行了将AutoML应用于物联网异常检测问题的案例研究。最后，我们讨论和分类的挑战和研究方向，这一领域。
2022-09-16 cs.CR cs.LG cs.NI
Large Language Models Synergize with Automated Machine Learning
University of Tokyo（东京大学）；Tokyo Institute of Technology（东京工业大学）；Hosei University（法政大学）
本文提出 Text-to-ML，将 LLM 分块生成 ML 程序、兼容性测试与 autoML 数值优化结合，仅凭文本描述全自动生成完整优化的 ML 工作流。
2024-09-09 cs.AI cs.LG cs.PL
