首页/论文/2106.04815

arXiv 2106.048152021-06-11cs.LG

ChaCha用于在线AutoML

ChaCha for Online AutoML

Microsoft Research（微软研究院）

Qingyun Wu, Chi Wang, John Langford, Paul Mineiro, Marco Rossi

备注：: 16 pages (including supplementary appendix). Appearing at ICML 2021
发表信息：: ICML 2021

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

我们提出了ChaCha（Chaon-Challenge）算法，用于在在线学习设置中在线选择超参数。ChaCha处理确定冠军的过程，并根据样本的复杂性范围随着时间的推移安排一组“活”挑战者。通过基于冠军的应用依赖预言机将最优配置加入考虑范围，保证了算法具有次线性遗憾。从经验上讲，我们表明，ChaCha在优化特征化和超参数决策时，在广泛的数据集上提供了良好的性能。

英文摘要：

We propose the ChaCha (Champion-Challengers) algorithm for making an online choice of hyperparameters in online learning settings. ChaCha handles the process of determining a champion and scheduling a set of `live' challengers over time based on sample complexity bounds. It is guaranteed to have sublinear regret after the optimal configuration is added into consideration by an application-dependent oracle based on the champions. Empirically, we show that ChaCha provides good performance across a wide array of datasets when optimizing over featurization and hyperparameter decisions.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

在线AutoML：一个用于在线学习的自适应AutoML框架

Online AutoML: An adaptive AutoML framework for online learning

Eindhoven University of Technology（埃因霍温理工大学）

自动机器学习（AutoML）已成功地用于学习任务被假定为静态的设置中。然而，在许多现实世界的场景中，数据分布将随着时间的推移而发展，AutoML技术是否可以在动态环境中有效地设计在线管道还有待证明。本研究的目的是自动化管道设计的在线学习，同时不断适应数据漂移。为此，我们设计了一个自适应的在线自动机器学习（OAML）系统，搜索在线学习器的完整管道配置空间，包括预处理算法和集成技术。该系统结合了在线学习者的固有适应能力和AutoML的快速自动管道（重新）优化能力。重点优化技术，可以适应不断变化的目标，我们评估异步遗传编程和异步连续减半，以不断优化这些管道。我们实验真实和人工数据流与不同类型的概念漂移，以测试所提出的系统的性能和适应能力。结果证实了OAML在流行的在线学习算法上的实用性，并强调了在存在数据漂移的情况下连续管道重新设计的好处。

2022-12-07cs.AIcs.LG

在线元学习用于实时自动机器学习（OnMAR）

Online Meta-learning for AutoML in Real-time (OnMAR)

University of Pretoria（比勒陀利亚大学）

提出在线元学习用于实时AutoML（OnMAR），利用元学习器预测设计准确性，结合遗传算法优化，在三个应用中匹配或超越现有方法且运行更快。

2025-02-27cs.LG

AutoEn：一种基于预定义的机器学习管道集合的AutoML方法，用于有监督的流量预测

AutoEn: An AutoML method based on ensembles of predefined Machine Learning pipelines for supervised Traffic Forecasting

Aimsun SLU（Aimsun SLU公司）；DeustoTech（德乌斯托技术中心）；Faculty of Engineering, University of Deusto（德乌斯托大学工程学院）；University of Deusto（德乌斯托大学）；IKERBASQUE, Basque Foundation for Science（巴斯克科学基金会IKERBASQUE）；University of Granada（格拉纳达大学）

智能交通系统正在产生大量难以管理的交通数据，这促使机器学习（ML）用于数据驱动的应用程序，如交通预测（TF）。TF由于其通过预测未来交通状态来缓解交通拥堵的能力而获得相关性。然而，TF对ML范式提出了一个巨大的挑战，称为模型选择问题（MSP）：为在不同交通环境下收集的交通数据确定最合适的数据预处理技术和ML方法的组合。在这种情况下，自动化机器学习（AutoML），即从数据预处理到模型验证的ML工作流程的自动化，作为一种有前途的策略来处理问题领域的MSP，其中专家ML知识并不总是可用或负担得起的资产，例如TF。各种AutoML框架已被用于在TF中处理MSP。大多数基于在线优化过程，以在给定数据集上搜索性能最佳的管道。这种在线优化可以通过元学习来补充，以热启动搜索阶段和/或使用从优化过程中导出的管道来构建集合。然而，考虑到搜索空间的复杂性和所生成的调谐-评估流水线的高计算成本，在线优化仅在获得最终模型的时间较长时才是有益的。因此，我们引入了AutoEn，这是一种简单而有效的方法，用于从预定义的ML管道集自动生成多分类器集成。我们将AutoEn与Auto-WEKA和Auto-sklearn进行了比较，这是TF中常用的两种AutoML方法。实验结果表明，AutoEn可以导致更好的或更具竞争力的结果，在通用领域和TF。

2023-03-19cs.LG

资源受限AutoML的鲁棒缺省策略挖掘

Mining Robust Default Configurations for Resource-constrained AutoML

University of Washington（华盛顿大学）；Microsoft Research（微软研究院）

自动机器学习（AutoML）是下一代机器学习系统大规模部署的关键推动因素。未来ML系统的一个关键需求是模型和超参数的自动选择。我们提出了一种新的方法，通过执行离线自动ML和挖掘不同的任务集，为给定的任务选择性能配置。通过挖掘训练任务，我们可以选择一个紧凑的配置组合，这些配置组合在各种各样的任务中表现良好，并学习一种策略来为尚未看到的任务选择组合配置。该算法以zero-shot方式运行，即除了所选择的模型之外，不在线训练任何模型。在计算或时间受限的设置中，这种几乎即时的选择具有很高的性能。此外，我们还证明了我们的方法对于热启动现有的autoML平台是有效的。在这两种情况下，我们通过测试超过62个分类和回归数据集来证明对最先进技术的改进。我们还演示了实用程序的建议数据相关的默认配置，优于广泛使用的手工制作的默认值。

2022-02-20cs.LG

针对物联网网络中在线AutoML的基于成本效用的对抗训练规避攻击

Evasion Attacks on Cost-Utility-Based Adversarial Training for Online AutoML in IoT Networks

Ontario Tech University（安大略理工大学）；Alex Ekwueme Federal University（亚历克·埃克韦梅联邦大学）

本研究评估物联网网络中在线AutoML下黑盒规避攻击对基于成本效用的对抗训练的影响，发现LB和SRP的对抗训练版本在最高成本预算下达到最佳对抗准确率0.985，最大准确率下降仅0.8%。

2026-09-29cs.CRcs.LG

在线AutoML：评估物联网网络中对抗训练防御策略的投毒攻击

Online AutoML: Evaluating Poisoning Attacks on Cost-Utility Adversarial Training Defence Strategy for IoT Networks

Ontario Tech University（安大略理工大学）；Alex Ekwueme Federal University（亚历克斯·埃克武梅联邦大学）

本研究通过在线AutoML管道评估对抗训练防御在物联网流式数据中应对投毒攻击（标签翻转和噪声注入）的有效性，发现AT-SRP和AT-LB分别在两类攻击下取得最佳F1分数。

2026-10-14cs.CRcs.LG

更多相关论文收起更多论文

在线广义加性模型选择的AutoML算法：在电力需求预测中的应用

AutoML Algorithms for Online Generalized Additive Model Selection: Application to Electricity Demand Forecasting

EDF R&D（法国电力公司研发部）；Inria Paris（法国国家信息与自动化研究所巴黎分部）；Sorbonne Université（索邦大学）

本文提出利用DRAGON包优化在线GAM的公式与自适应参数，实现自动化的模型选择，并在法国短期电力需求预测中验证了该方法的有效性。

2025-03-31cs.LGstat.APstat.ML

重新审视学习率控制

Revisiting Learning Rate Control

Leibniz University Hannover（汉诺威莱布尼茨大学）

本文比较多种学习率控制范式，发现现有方法在不同设置下不可靠且随模型复杂度增加效果下降，提出应重视算法选择、可微调方法与元学习等新方向。

2025-07-02cs.LG

数据流的自动机器学习技术

Automated Machine Learning Techniques for Data Streams

University of Twente（特文特大学）

自动化机器学习技术得益于近年来的巨大研究进展。这些发展和对机器学习专家不断增长的需求导致了许多AutoML工具的开发。然而，这些工具假设整个训练数据集是预先可用的，并且底层分布不会随时间而变化。这些假设在数据流挖掘设置中不成立，在数据流挖掘设置中，无法存储无限的数据流，并且很可能表现出概念漂移。由于物联网、微服务架构、Web分析和其他领域越来越多地采用实时流模式，机器学习在流数据上的行业应用变得越来越流行。本文总结的研究调查了最先进的开源AutoML工具，将其应用于从流中收集的数据，并测量其性能如何随时间变化。为了比较的目的，批量，批量增量和实例增量估计应用和比较。此外，提出了一种基于Meta特征提取的在线算法选择的元学习技术，并对模型替换和连续AutoML技术进行了讨论。结果表明，现成的AutoML工具可以提供令人满意的结果，但在存在概念漂移的情况下，必须应用检测或自适应技术来保持预测精度。

2021-06-14cs.AIcs.LG

通过崛起的强盗实现高效的自动CASH

Efficient Automatic CASH via Rising Bandits

Peking University（北京大学）；ETH Zurich（苏黎世联邦理工学院）；Beijing University of Posts and Telecommunications（北京邮电大学）；Alibaba Group（阿里巴巴集团）

算法选择和超参数优化（CASH）是自动机器学习（AutoML）中最基本的问题之一。现有的基于贝叶斯优化（BO）的解决方案通过合并所有机器学习（ML）算法的超参数，将CASH问题转化为一个超参数优化（HPO）问题，并使用BO方法进行求解，但由于CASH中超参数空间巨大，这些方法存在效率低下的问题。为了缓解这个问题，我们提出了交替优化框架，其中每个ML算法的HPO问题和算法选择问题交替优化。在这个框架中，BO方法分别用于解决每个ML算法的HPO问题，为BO方法引入了一个小得多的超参数空间。此外，我们介绍了崛起的土匪，一个面向现金的多臂土匪（MAB）的变种，在现金模型的算法选择。该框架既可以利用BO算法求解超参数空间较小的HPO问题，又可以利用MAB算法加速算法选择。此外，我们进一步开发了一个有效的在线算法来解决上升的强盗可证明的理论保证。在30个OpenML数据集上进行的大量实验证明了所提出的方法优于竞争基线。

2020-12-08cs.LGstat.ML