apsis - Framework for Automated Optimization of Machine Learning Hyper Parameters
Technische Universität München(慕尼黑工业大学)
本文提出的apsis工具包为超参数优化提供了一个灵活的框架,包括随机搜索和baidu优化器。它是用Python实现的,其架构具有对任何所需机器学习代码的适应性。它可以很容易地与常见的Python ML框架(如scikit-learn)一起使用。在MIT许可证下发布,强烈鼓励其他研究人员查看代码,贡献或提出任何建议。代码可以在github.com/FrederikDiehl/apsis上找到。
2015-03-15 cs.LG
Automated Agriculture Commodity Price Prediction System with Machine Learning Techniques
University of Nottingham Malaysia(诺丁汉大学马来西亚分校)
本研究的目的是研究并设计一个结合新型机器学习技术的农产品价格自动预测系统。由于农产品价格的历史数据量越来越大,以及对价格波动进行准确预测的需要,解决方法在很大程度上从统计方法转向了机器学习领域。然而,从历史数据中选择合适的集合进行预测仍然有有限的考虑。另一方面,在实施机器学习技术时,寻找一个具有全局最优参数、非线性和避免维数灾难的合适模型仍然是最大的挑战,因此需要对机器学习策略进行研究。在本研究中,我们提出了一个基于网络的农业商品价格自动预测系统。在这两个系列的实验中,五种流行的机器学习算法,ARIMA,SVR,Prophet,XGBoost和LSTM与马来西亚的大型历史数据集进行了比较,并选择了平均均方误差为0.304的最佳算法LSTM模型作为该系统的预测引擎。
2021-06-24 cs.LG
Lale: Consistent Automated Machine Learning
IBM Research(IBM研究院)
自动化机器学习使数据科学家更容易通过搜索超参数、算法甚至管道拓扑的可能选择来开发管道。不幸的是,自动化机器学习工具的语法与手动机器学习不一致,相互之间以及错误检查都不一致。此外,很少有工具支持高级功能,如拓扑搜索或高阶运算符。本文介绍了Lale,一个高级Python接口库,它以一致的方式简化和统一了自动化机器学习。
2020-07-04 cs.AI cs.LG
Naive Automated Machine Learning -- A Late Baseline for AutoML
University of Torontoland(多伦多兰大学);University of Edenborrow(伊登伯勒大学)
自动机器学习(AutoML)是在给定的数据集上自动寻找具有最佳泛化性能的流水线的问题。AutoML在过去的十年中受到了极大的关注,并且已经通过复杂的黑盒优化技术(如贝叶斯优化、基于语法的遗传算法和树搜索算法)得到了解决。与这些方法相比,我们提出了Naive AutoML,这是一种非常简单的AutoML解决方案,它利用了有关机器学习问题的重要元知识,并简化了有效的假设,以快速获得高质量的解决方案。虽然Naive AutoML可以被认为是高度复杂的黑盒求解器的基线,但我们的经验表明,这些求解器无法超越Naive AutoML;有时情况恰恰相反。另一方面,Naive AutoML具有强大的优势,如可解释性和灵活性,并对现有工具提出了强烈的挑战。
2021-03-18 cs.LG
Machine learning for automated quality control in injection moulding manufacturing
Thomas More University of Applied Sciences(托马斯莫尔应用科学大学);KU Leuven - University of Leuven(鲁汶大学)
机器学习(ML)可以改进注塑制造中的质量控制(QC)并使其自动化。然而,由于标记大量的真实过程数据的成本很高,因此使用模拟过程数据可能是成功实施的第一步。在这项研究中,模拟数据被用来开发一个预测模型的注塑成型分拣容器的产品质量。在测试集上实现的准确度、特异性和灵敏度分别为$99.4\%$、$99.7\%$和$94.7\%$。因此,这项研究显示了ML在注塑成型自动化QC方面的潜力,并鼓励扩展到基于真实数据训练的ML模型。
2022-06-30 cs.LG
Naive Automated Machine Learning
University of Torontoland(多伦多兰大学);University of Edenborrow(伊登伯勒大学);Universidad de La Sabana(拉萨瓦纳大学);Paderborn University(帕德博恩大学)
自动机器学习(AutoML)的一个基本任务是在给定数据集上自动找到具有最佳泛化性能的管道。这个问题已经解决了复杂的黑盒优化技术,如贝叶斯优化,基于语法的遗传算法,和树搜索算法。大多数当前的方法都是由这样的假设所激励的,即孤立地优化流水线的组件可能会产生次优的结果。我们提出了Naive AutoML,这是一种可以做到这一点的方法:它单独优化了预定义管道方案的不同算法。最终返回的流水线是通过只取每个槽的最佳算法来获得的。孤立的优化导致大大减少了搜索空间,令人惊讶的是,这种方法产生可比的,有时甚至更好的性能比目前的最先进的优化。
2021-11-29 cs.LG
Automated Evolutionary Approach for the Design of Composite Machine Learning Pipelines
ITMO University(ITMO大学)
机器学习方法对于现实世界任务的有效性取决于建模管道的适当结构。所提出的方法的目的是自动化的复合机器学习管道,这是相当于计算工作流,包括模型和数据操作的设计。该方法结合了自动化机器学习和工作流管理系统的关键思想。它设计了一个可定制的基于图形的结构的管道,分析所获得的结果,并再现它们。将进化方法用于管道结构的柔性识别。为了提高该方法的有效性,实现了用于灵敏度分析、原子化和超参数调整的附加算法。此外,这种方法的软件实现是作为一个开源的框架。针对不同的数据集和任务(分类,回归,时间序列预测)进行了一系列实验。通过与现有竞争对手和基准解决方案的比较,验证了所提方法的正确性和有效性。
2021-06-26 cs.LG
AutoM3L: An Automated Multimodal Machine Learning Framework with Large Language Models
Dataa Robotics(达闼机器人);Meituan Inc.(美团公司);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出AutoM3L框架,利用大语言模型作为控制器自动构建多模态机器学习训练流程,在多个多模态与单模态任务上取得优于传统规则式AutoML的性能,并提升了用户友好性。
2024-08-01 cs.LG
Automated Fabric Defect Inspection: A Survey of Classifiers
Prime University(Prime大学);Barisal University(巴里萨尔大学);Independent University, Bangladesh(孟加拉国独立大学)
在纺织工业生产的每个阶段的质量控制已成为在竞争激烈的全球市场中保持生存的关键因素。人工检测织物疵点存在准确性差、耗时长等问题,而早期准确的织物疵点检测是质量控制的重要环节。基于计算机视觉的织物疵点自动检测系统被各国研究者认为是解决这些问题的有效方法。要获得成功的自动织物缺陷检测系统,需要解决两个主要挑战。它们是缺陷检测和缺陷分类。在这项工作中,我们讨论了不同的技术用于自动织物缺陷分类,然后显示在自动织物缺陷检测系统中使用的分类器的调查,最后,比较这些分类器使用性能指标。这项工作预计将是非常有用的研究人员在该领域的自动织物缺陷检测,以了解和评估在这一领域的许多潜在的选择。
2014-02-14 cs.CV cs.LG
Automated Machine Learning in Insurance
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出一种专为保险应用定制的AutoML工作流,通过平衡步骤、集成管道和自定义损失函数解决保险数据集不平衡等独特挑战,使用户无需领域知识即可轻松部署ML模型。
2024-08-26 cs.LG
Techniques for Automated Machine Learning
Texas A&M University(得克萨斯农工大学)
自动化机器学习(AutoML)旨在自动找到给定机器学习问题的最佳机器学习解决方案。它可以将数据科学家从繁杂的手动调优过程中解放出来,并使领域专家能够在没有丰富经验的情况下访问现成的机器学习解决方案。在本文中,我们回顾了AutoML的三个类别,自动特征工程(AutoFE),自动模型和超参数学习(AutoMHL),自动深度学习(AutoDL)的当前发展。介绍了这三类方法中采用的最新技术,包括贝叶斯优化、强化学习、进化算法和基于梯度的方法。我们总结了流行的AutoML框架,并总结了AutoML当前面临的挑战。
2019-07-21 cs.AI cs.LG stat.ML
Automated Justification Production for Claim Veracity in Fact Checking: A Survey on Architectures and Approaches
Université de Sherbrooke(谢布鲁克大学)
本文综述了自动事实核查中为声明真实性判定自动生成理由的架构与方法,提出分类体系并展望可解释性提升方向。
2024-07-09 cs.AI cs.CL cs.IR
Automated Design of Metaheuristic Algorithms: A Survey
Southern University of Science and Technology(南方科技大学);Harbin Institute of Technology(哈尔滨工业大学);Shaanxi Normal University(陕西师范大学)
本文综述了元启发式算法自动化设计的共同基础与代表性技术,涵盖设计空间、设计策略、性能评估策略和目标问题,旨在展示其超越人工设计的潜力。
2024-02-21 cs.LG cs.NE
MARVIN: An Open Machine Learning Corpus and Environment for Automated Machine Learning Primitive Annotation and Execution
Jet Propulsion Laboratory(喷气推进实验室);California Institute of Technology(加州理工学院)
在这篇演示论文中,我们介绍了DARPA D3 M程序的自动机器学习(ML)和喷气推进实验室的MARVIN工具,提供了一个环境来定位,注释和执行机器学习原语用于ML管道。MARVIN是一个用Python编写的基于Web的应用程序和相关的后端接口,可以从Scikit-Learn、Keras、DL 4J和其他广泛使用的库中的数百个原语组成ML管道。MARVIN允许创建在DARPA内的Kubernetes集群上运行的Docker容器,为自动化机器学习提供执行环境。MARVIN目前包含400多个数据集和挑战问题,这些问题来自广泛的ML领域,包括常规分类和回归到高级视频/图像分类和遥感。
2018-08-11 cs.LG stat.ML
Interpretable Automated Machine Learning in Maana(TM) Knowledge Platform
Maana, Inc.(Maana公司)
机器学习正在成为许多工业应用开发解决方案的重要组成部分,但缺乏可解释性阻碍了快速构建、测试、部署和验证机器学习模型的广泛行业采用,因为开发机器学习解决方案的洞察力没有在结构上编码、合理化和转移。在本文中,我们描述了Maana元学习服务,一个可解释的和交互式的自动机器学习服务驻留在Maana知识平台,执行机器引导,用户辅助管道搜索和超参数调整,并生成结构化的知识的管道分析和选择的决定。该服务随Maana知识平台提供,并使用基准数据集进行验证。此外,它从管道搜索中获取知识的能力促进了各种推理任务,并转移到类似的数据科学项目。
2019-05-06 cs.AI cs.LG
GAMA: a General Automated Machine learning Assistant
Eindhoven University of Technology(埃因霍温理工大学)
通用自动化机器学习助手(GAMA)是一个模块化AutoML系统,旨在使用户能够跟踪和控制AutoML算法如何搜索最佳机器学习管道,并促进AutoML研究本身。与当前的黑盒系统相比,GAMA允许用户插件插入不同的AutoML和后处理技术,记录和可视化搜索过程,并支持轻松的基准测试。它目前具有三种AutoML搜索算法,两个模型后处理步骤,并旨在允许添加更多组件。
2021-10-07 cs.LG stat.ML
Semantic Code Classification for Automated Machine Learning
HSE University(高等经济大学)
自动机器学习的一系列应用需要生成过程是可控的。在这项工作中,我们提出了一种通过一系列简单的动作来控制输出的方法,这些动作被称为语义代码类。最后,我们提出了一个语义代码分类任务,并讨论了解决这个问题的自然语言到机器学习(NL2ML)数据集的方法。
2022-01-25 cs.AI cs.LG
Automated Machine Learning Pipeline: Large Language Models-Assisted Automated Dataset Generation for Training Machine-Learned Interatomic Potentials
NYU, Department of Chemistry(纽约大学化学系);Initiative for Computational Catalysis, Flatiron Institute(计算催化计划,Flatiron研究所);NYU, Department of Physics(纽约大学物理系);Courant Institute of Mathematical Sciences, NYU(数学科学学院,纽约大学);NYU-ECNU Center for Computational Chemistry(纽约大学-复旦大学计算化学中心);Simons Center for Computational Physical Chemistry, NYU(Simons计算物理化学中心,纽约大学)
本文提出基于大语言模型的自动化机器学习流水线,用于生成训练数据集以提升机器学习互作用势的精度和稳定性。
2025-12-19 cond-mat.mtrl-sci cs.LG
Towards an automated method based on Iterated Local Search optimization for tuning the parameters of Support Vector Machines
Philips Research(飞利浦研究院)
我们提供了初步的细节和制定的优化策略,根据目前的发展,是能够自动调整参数的支持向量机在新的数据集。优化策略是基于迭代局部搜索的启发式算法,迭代局部搜索是对经典爬山算法的修改,它迭代调用局部搜索例程。
2017-07-11 cs.AI cs.LG
Designing Tools for Semi-Automated Detection of Machine Learning Biases: An Interview Study
Georgia Institute of Technology(佐治亚理工学院);Adobe Research(奥多比研究院)
机器学习模型经常做出对输入数据的某些子组有偏见的预测。当未被发现时,机器学习偏差可能构成重大的财务和道德影响。让人类参与其中的半自动化工具可以促进偏差检测。然而,人们对它们的设计所涉及的考虑知之甚少。在本文中,我们报告了对11位机器学习从业者的访谈研究,以调查半自动偏差检测工具的需求。基于这些发现,我们强调了设计中的四个考虑因素,以指导旨在创建未来偏倚检测工具的系统设计人员。
2020-03-18 cs.CY cs.LG stat.ML
DriveML: An R Package for Driverless Machine Learning
VMware Software India Pvt. Ltd.(威睿软件印度私人有限公司)
近年来,自动化机器学习的概念变得非常流行。自动化机器学习(AutoML)主要是指随机森林、梯度提升、神经网络等算法的模型选择和超参数优化的自动化方法。本文介绍了一种新的自动化机器学习软件包DriveML。DriveML有助于实现自动化机器学习管道的一些支柱,例如自动化数据准备,功能工程,模型构建和模型解释,通过运行函数而不是编写冗长的R代码。DriveML包在CRAN中可用。我们将DriveML包与CRAN/Github中的其他相关包进行了比较,发现DriveML在不同参数下表现最好。我们还通过在真实世界的数据集上应用具有默认配置的DriveML包来提供说明。总体而言,DriveML的主要优势在于节省开发时间,减少开发人员的错误,优化机器学习模型和可重复性。
2021-08-06 cs.LG stat.ML
Automated Monitoring Cropland Using Remote Sensing Data: Challenges and Opportunities for Machine Learning
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
本文概述了机器学习的最新进展和地球观测卫星数据的可用性如何大大提高我们在长时间和大区域内自动绘制农田地图的能力。它讨论了在作物监测领域的三个应用,ML方法开始显示出巨大的希望。对于每个应用程序,它强调了机器学习的挑战,建议的方法和最近的结果。本文最后讨论了在ML方法充分发挥其对这个具有重大社会意义的问题的潜力之前需要解决的主要挑战。
2019-04-08 cs.CV cs.LG
Automated Machine Learning -- a brief review at the end of the early years
Computer Science Department Instituto Nacional de Astrof\'isica, \'Optica y Electr\'onica, Tonanzintla, Puebla, 72840, Mexico
自动化机器学习(AutoML)是机器学习的子领域,其目的是在一定程度上自动化机器学习系统设计的所有阶段。在监督学习的背景下,AutoML涉及特征提取、预处理、模型设计和后处理。AutoML的主要贡献和成就在最近十年中已经发生。因此,我们现在正是回顾和认识我们所学到的东西的最佳时机。本章旨在总结AutoML早期的主要发现。更具体地说,在这一章中,AutoML的监督学习的介绍,并在这一领域的进展的历史回顾。同样,AutoML的主要范式进行了描述,并概述了研究机会。
2020-08-24 cs.LG stat.ML
Adaptation Strategies for Automated Machine Learning on Evolving Data
Eindhoven University of Technology(埃因霍温理工大学)
自动机器学习(AutoML)系统已被证明可以有效地为新数据集构建良好的模型。然而,当数据随着时间的推移而变化时,他们的适应能力如何往往并不清楚。本研究的主要目标是了解数据流挑战(如概念漂移)对AutoML方法性能的影响,以及可以采用哪些自适应策略使其更加健壮。为此,我们提出了6种概念漂移适应策略,并评估了它们在不同AutoML方法上的有效性。我们为各种AutoML方法构建机器学习管道,包括那些利用贝叶斯优化,遗传编程和随机搜索自动堆叠。这些经验评估现实世界和合成数据流与不同类型的概念漂移。基于这种分析,我们提出了开发更复杂和更强大的AutoML技术的方法。
2022-05-10 cs.LG stat.ML
Towards Automated Machine Learning: Evaluation and Comparison of AutoML Approaches and Tools
Capital One(第一资本金融公司);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
近年来,机器学习(ML)的工业应用有了相当大的增长和兴趣。因此,整个行业对ML工程师的需求很高,但提高ML工程师的效率仍然是一个根本性的挑战。自动机器学习(AutoML)已经成为一种节省ML管道中重复任务的时间和精力的方法,例如数据预处理,特征工程,模型选择,超参数优化和预测结果分析。在本文中,我们调查了AutoML工具的现状,旨在自动化这些任务。我们在许多数据集上,在不同的数据段中,对这些工具进行了各种评估,以检查它们的性能,并在不同的测试用例上比较它们的优缺点。
2019-09-03 cs.LG stat.ML
Generative Models and Connected and Automated Vehicles: A Survey in Exploring the Intersection of Transportation and AI
School of Engineering Science(工程科学学院);Shandong Xiehe University(山东谢河大学);Department of Electrical Engineering(电气工程系);Northwestern University(西北大学);Department of Computer Science(计算机科学系);Pace University(帕克大学)
本文综述了生成模型与连接自动化车辆在交通与AI交汇领域的应用,探讨其在预测建模、模拟精度和自动驾驶决策中的提升作用及面临的挑战。
2026-04-21 cs.AI cs.LG cs.RO
Benchmark and Survey of Automated Machine Learning Frameworks
USU Software AG(USU软件股份公司);Institute of Industrial Manufacturing and Management IFF(工业制造与管理研究所(IFF));University of Stuttgart(斯图加特大学);Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所(IPA))
机器学习(ML)已经成为我们日常生活中许多方面的重要组成部分。然而,构建性能良好的机器学习应用程序需要高度专业化的数据科学家和领域专家。自动化机器学习(AutoML)旨在通过使领域专家能够自动构建机器学习应用程序来减少对数据科学家的需求,而无需广泛的统计学和机器学习知识。本文结合了当前AutoML方法的调查和真实数据集上流行的AutoML框架的基准测试。在所选评估框架的驱动下,我们总结并回顾了与构建ML管道的每一步相关的重要AutoML技术和方法。所选AutoML框架在来自已建立的AutoML基准套件的137个数据集上进行了评估。
2021-01-26 cs.AI cs.LG stat.ML
An Automated Machine Learning Framework for Surgical Suturing Action Detection under Class Imbalance
School of Engineering;Physical Sciences Heriot Watt University Edinburgh EH14 4AS, UK;Surgical Skills Centre, Dundee Institute for Healthcare Simulation Ninewells Hospital;Medical School, University of Dundee Dundee, UK
针对腹腔镜手术训练中缝合动作检测的类别不平衡问题,提出基于自动化机器学习的快速部署框架,利用经验医生和实习生数据,兼顾模型透明度与预测稳健性,为手术训练系统提供可靠实时反馈。
2025-02-10 cs.LG cs.RO
Machine Learner for Automated Reasoning 0.4 and 0.5
University of Innsbruck(因斯布鲁克大学);Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
机器学习自动推理(MaLARea)是一个学习和推理系统,用于在大型正式库中进行证明,在攻击新猜想时,可以使用数千个定理,并且可以使用大量相关问题和证明来学习特定的定理证明知识。该系统的最新版本以较大优势赢得了2013年CASC LTB竞赛。本文描述了MaLARea中使用的方法背后的动机,讨论了评估此类系统的一般方法和问题,并描述了Mizar@Turing100和CASC'24版本的MaLARea。
2014-05-28 cs.AI cs.LG cs.LO
Machine Learning in Automated Text Categorization
在过去的十年里,由于数字形式的文件越来越多,以及随之而来的组织文件的需要,将文本自动分类(或分类)到预定义的类别中的兴趣蓬勃发展。在研究界,解决这个问题的主要方法是基于机器学习技术:一般的归纳过程通过从一组预分类文档中学习类别的特征来自动构建分类器。这种方法的优点是知识工程的方法(包括在手动定义的分类领域的专家)是一个非常好的效果,相当大的节省专家人力,并直接移植到不同的领域。本综述讨论了属于机器学习范式的文本分类的主要方法。我们将详细讨论与三个不同问题有关的问题,即文档表示,分类器构建和分类器评估。
2001-10-26 cs.IR cs.LG
Revitalizing Electoral Trust: Enhancing Transparency and Efficiency through Automated Voter Counting with Machine Learning
American International University-Bangladesh(孟加拉美国国际大学)
本研究探讨结合 OpenCV、CVZone 与 MOG2 的机器学习自动计票方案,并以 F1 分数等指标对比人工计票,以提升选举效率、透明度与公众信任。
2024-11-18 cs.CV cs.LG
Automated Content Grading Using Machine Learning
AMITY UNIVERSITY(阿米提大学)
试卷评分是一项繁忙、耗时耗力的工作,而且在检查中经常受到效率低下和偏见的影响。这个研究项目是一个原始的实验,在自动化的理论答案写在考试中的学生在技术课程,但仍继续被人类评分。在本文中,我们展示了如何使用机器学习中的算法方法来自动检查和评分考试答案中的理论内容。词袋,它们的向量和质心,以及一些语义和词汇文本特征已经被整体使用。机器学习模型已经在根据参加技术课程的毕业生给出的考试手动构建的数据集上实现。这些模型进行了比较,以显示每个模型的有效性。
2020-04-08 cs.CY cs.LG
Automated Machine Learning with Monte-Carlo Tree Search
Université Paris-Saclay(巴黎-萨克雷大学);CNRS(法国国家科学研究中心);INRIA(法国国家信息与自动化研究所)
AutoML任务包括在机器学习组合中选择适当的算法及其超参数值,以便在手头的数据集上提供最佳性能。Mosaic是一种基于蒙特卡罗树搜索(MCTS)的方法,用于处理AutoML混合结构和参数的昂贵黑箱优化问题。进行了广泛的实证研究,以独立评估和比较:i)基于贝叶斯优化或MCTS的优化过程; ii)其热启动初始化; iii)沿搜索收集的解决方案的集成。Mosaic在OpenML 100基准和Scikit-learn组合上进行了评估,与前国际AutoML挑战赛的获胜者Auto-Sklearn相比,在统计上有显著的进步。
2019-10-07 cs.LG stat.ML
A Survey on Knowledge Graph-based Methods for Automated Driving
Robert Bosch GmbH(罗伯特·博世有限公司);Robert Bosch LLC(罗伯特·博世有限责任公司)
自动驾驶是计算机科学中最活跃的研究领域之一。深度学习方法在一般的机器学习,特别是自动驾驶(AD)方面取得了显着的突破。然而,仍然存在未解决的问题,以保证自动化系统的可靠性和安全性,特别是有效地将所有可用的信息和知识纳入驾驶任务。知识图谱(KG)最近获得了工业界和学术界的极大关注,因为它可以通过利用结构化、动态和关系数据而受益。具有对象之间的复杂关系和相互依赖性的图结构数据的复杂性对现有的机器学习算法提出了重大挑战。然而,知识图谱嵌入和图神经网络的最新进展允许将机器学习应用于图结构数据。因此,我们激励和讨论的潜在好处KG应用于AD的主要任务,包括1)本体2)感知,3)场景理解,4)运动规划,和5)验证。然后,我们调查,分析和分类的本体和知识库为基础的方法为AD。我们讨论了目前的研究挑战,并提出了有前途的未来研究方向为KG为基础的解决方案AD。
2022-09-30 cs.AI cs.LG cs.RO
Adaptive Bayesian Linear Regression for Automated Machine Learning
Universite Cote d’Azur(蔚蓝海岸大学);I3S laboratory(I3S实验室)
为了解决机器学习问题,通常需要执行数据预处理、建模和超参数调整,这被称为模型选择和超参数优化。自动机器学习(AutoML)的目标是设计能够自动执行模型选择和超参数优化的方法,而无需人为干预。在本文中,我们提出了一种元学习方法,可以搜索一个高性能的机器学习管道从预定义的候选管道的监督分类数据集在一个有效的方式,通过利用从以前的实验收集的元数据。更具体地说,我们的方法结合了一个自适应贝叶斯回归模型与神经网络基函数和贝叶斯优化的采集功能。自适应贝叶斯回归模型能够从先前的元数据中捕获知识,从而对新数据集上的机器学习流水线的性能进行预测。实验结果表明,该方法能够快速识别出一系列测试数据集的高性能流水线,性能优于基线方法。
2019-04-18 cs.LG stat.ML
Search Algorithms for Automated Hyper-Parameter Tuning
Florida International University(佛罗里达国际大学);University of Georgia(佐治亚大学);Purdue University(普渡大学)
机器学习是在教育等不同领域建模的强大方法。它准确预测学生成功的能力使其成为与高等教育相关的决策任务的理想工具。机器学习模型的准确性取决于选择适当的超参数。然而,这并不是一件容易的事情,因为它需要时间和专业知识来调整超参数以适应机器学习模型。在本文中,我们研究了自动化超参数调整技术的有效性,以学生的成功领域。因此,我们开发了两种自动超参数优化方法,即网格搜索和随机搜索,以评估和改善以前的研究的性能。实验结果表明,将随机搜索和网格搜索应用于机器学习算法,提高了准确率。我们经验性地展示了自动化方法在现实世界的教育数据(MIDFIELD)上的优越性,用于调整传统机器学习分类器的HP。这项工作强调了自动化超参数优化的有效性,同时将机器学习应用于教育领域,以帮助教师,董事或非专家用户的决策,以提高学生的成功。
2021-04-29 cs.CY cs.LG cs.PF
AutoQML: Automated Quantum Machine Learning for Wi-Fi Integrated Sensing and Communications
Mitsubishi Electric Research Laboratories(三菱电机研究实验室)
商用Wi-Fi设备可用于集成传感和通信(ISAC),以联合交换数据并监控室内环境。在本文中,我们研究了一个概念验证的方法,使用自动量子机器学习(AutoQML)框架称为AutoAnglomerator识别人类手势。我们解决了如何有效地设计量子电路来配置量子神经网络(QNN)。AutoQML的有效性通过人体姿势识别的内部实验进行了验证,在有限的数据大小和少量可训练参数的情况下实现了超过80%的准确率的最新性能。
2022-05-17 cs.LG eess.SP quant-ph
Cardea: An Open Automated Machine Learning Framework for Electronic Health Records
The Center for Complex Engineering Systems at KACST and MIT(沙特阿拉伯国王阿卜杜勒阿齐兹科技城(KACST)和麻省理工学院(MIT)复杂工程系统中心);MIT(麻省理工学院(MIT))
在2010年至2018年期间,估计有180篇专注于深度学习和EHR的论文发表。尽管这些出版物中出现了通用的工作流结构,但没有可信和经过验证的软件框架存在,迫使研究人员艰苦地重复以前的工作。在本文中,我们提出了Cardea,一个可扩展的开源自动化机器学习框架,封装了健康领域的常见预测问题,并允许用户使用自己的数据构建预测模型。该系统依赖于两个组件:快速医疗保健互操作性资源(FHIR)--电子医疗系统的标准化数据结构--和几个用于自动化特征工程、模型选择和调优的AUTOML框架。我们用一个自适应的数据汇编器和全面的数据和模型审计功能来增强这些组件。我们通过MIMIC-III和Kaggle数据集上的5个预测任务展示了我们的框架,这些任务突出了Cardea的人类竞争力,问题定义的灵活性,广泛的特征生成能力,适应性强的自动数据汇编器及其可用性。
2020-10-01 cs.LG stat.ML
Towards automated kernel selection in machine learning systems: A SYCL case study
Codeplay Software Ltd.
计算核的自动调整是一个热门的研究领域,主要集中在为具有固定输入大小的问题找到最佳核参数。这种方法适用于部署机器学习模型,其中网络拓扑是恒定的,但机器学习研究通常涉及改变网络拓扑和超参数。传统的内核自动调整在这种情况下影响有限;库需要更通用的内核选择来加速机器学习研究。在本文中,我们提出了使用机器学习选择内核的案例研究部署高性能SYCL内核库,目标范围从桌面GPU到嵌入式加速器的异构设备的初步结果。调查的技术适用于更普遍的,同样可以与其他异构编程系统集成。通过结合自动调优和机器学习,这些内核选择过程可以在开发人员很少的工作量下部署,从而在新硬件上实现高性能。
2020-03-15 cs.LG cs.PF stat.ML
A General Recipe for Automated Machine Learning in Practice
MercadoLibre Inc.(美客多公司)
本文提出构建通用AutoML系统的参考框架,通过提炼核心概念支持单一设计,并讨论未来研究的开放问题。
2023-08-29 cs.AI cs.LG cs.SE
ARM-FM: Automated Reward Machines via Foundation Models for Compositional Reinforcement Learning
Université de Montréal(蒙特利尔大学);Mila – Quebec AI Institute(魁北克人工智能研究所);University of British Columbia(不列颠哥伦比亚大学)
ARM-FM通过基础模型实现自动化奖励设计,利用自然语言生成奖励机并实现跨任务泛化,提升强化学习的通用性和效率。
2026-03-08 cs.AI cs.LG
Improving the Learnability of Machine Learning APIs by Semi-Automated API Wrapping
University of Bonn(波恩大学)
对于想要进入机器学习(ML)世界的学生和专业软件开发人员来说,一个主要的障碍是不仅要掌握科学背景,还要掌握可用的ML API。因此,我们解决了创建易于学习和使用的API的挑战,特别是新手。然而,目前尚不清楚如何在不影响表现力的情况下实现这一点。我们针对scikit-learn(一种广泛使用的ML API)研究了这个问题。在本文中,我们分析了Kaggle社区对它的使用,确定了API中未使用和明显无用的部分,这些部分可以在不影响客户端程序的情况下删除。此外,我们还将讨论剩余部分中的可用性问题,提出相关的设计改进,并展示如何通过现有第三方API的半自动包装来实现这些改进。
2022-04-06 cs.LG cs.SE
Hybrid and Automated Machine Learning Approaches for Oil Fields Development: the Case Study of Volve Field, North Sea
ITMO University(ITMO大学)
本文描述了智能方法在现场开发任务中的使用,这些任务可能有助于决策过程。我们专注于井位置优化的问题和其中的两个任务:提高石油产量估计的质量和估计的储层特性,以适当的井分配和参数化,使用机器学习方法。对于石油产量估计,我们实施并研究了预测模型的质量:基于物理的,纯数据驱动的和混合模型。选择CRMIP模型作为基于物理的方法。并将其与机器学习和混合方法在石油产量预测任务框架下进行了比较。在井位选择的储层特征调查中,我们使用用于储层检测的卷积神经网络的进化识别来自动化地震分析。Volve油田数据集被用作案例研究来进行实验。所实现的方法可用于分析不同的油田或适用于类似的物理相关问题。
2022-02-24 cs.LG physics.geo-ph
DarwinML: A Graph-based Evolutionary Algorithm for Automated Machine Learning
Xidian University(西安电子科技大学);Intelligence Qubic (Beijing) Technology Co., Ltd(智立方(北京)科技有限公司)
自动机器学习(AutoML)作为一个新兴领域,旨在减少或消除需要机器学习专业知识的手动操作。在本文中,基于图的架构表示ML模型的灵活组合,它提供了一个大的搜索空间相比,基于树和堆栈的架构。在此基础上,提出了一种搜索最优体系结构的进化算法,其中变异算子和遗传算子是体系结构进化的关键。通过贝叶斯超参数优化,该方法可以实现机器学习工作流程的自动化。在PMLB数据集上,与TPOT,Autostacker和auto-sklearn相比,所提出的方法显示了最先进的性能。优化后的模型结构复杂,手工设计很难得到。
2018-11-20 cs.LG cs.NE stat.ML
A Survey of Federated Learning for Connected and Automated Vehicles
Purdue University(普渡大学)
互联和自动驾驶汽车(CAV)是汽车领域的新兴技术之一,有可能缓解事故,交通拥堵和污染物排放问题,从而实现安全,高效和可持续的交通系统。基于机器学习的方法广泛用于CAV中的感知、运动规划和运动控制等关键任务,其中CAV中的机器学习模型仅使用本地车辆数据进行训练,并且当暴露于新环境或看不见的条件时,性能不确定。联邦学习(FL)是CAV的一种有效解决方案,它能够在分布式学习框架中实现多飞行器的协同模型开发。FL使CAV能够从各种驾驶环境中学习,并提高其整体性能,同时确保本地车辆数据的隐私和安全。在本文中,我们回顾了研究人员在CAV上应用FL所取得的进展。一个更广泛的视图的各种数据模式和算法,已实施的CAV。FL的具体应用进行了详细的审查,并提出了分析的挑战和未来的研究范围。
2023-03-19 cs.LG cs.RO
AutoMLBench: A Comprehensive Experimental Evaluation of Automated Machine Learning Frameworks
University of Tartu(塔尔图大学);Institute of Computer Science(计算机科学研究所)
本文在100个数据集上系统评估并比较了AutoWeka、AutoSKlearn、TPOT、Recipe、ATM和SmartML六种AutoML框架的性能,揭示了时间预算、搜索空间、元学习与集成构建等设计决策对性能的影响。
2023-04-12 cs.AI cs.LG
Survey on Automated Short Answer Grading with Deep Learning: from Word Embeddings to Transformers
University of Twente(特文特大学);University of Duisburg-Essen(杜伊斯堡-埃森大学)
自动简短答案评分(ASAG)作为将教育任务扩展到越来越多的学生的一种手段,在教育领域引起了关注。自然语言处理和机器学习的最新进展极大地影响了ASAG领域,本文综述了ASAG的最新研究进展。我们通过对最近发布的部署深度学习方法的方法进行全面分析来补充以前的调查。特别是,我们专注于我们的分析过渡到手工设计的功能,表示学习方法,学习代表性的功能,自动从大型语料库的数据。我们将对深度学习方法的分析分为三类:词嵌入、序列模型和基于注意力的方法。深度学习对ASAG的影响与其他NLP领域不同,因为我们注意到,学习的表示本身并不能帮助实现最佳结果,但它们与手工设计的功能互补。最佳性能确实是通过将精心手工设计的功能与最新模型(例如Transformers架构)提供的语义描述的强大功能相结合的方法来实现的。我们确定了挑战,并提供了未来可以解决的研究方向的展望
2022-03-11 cs.AI cs.CL cs.LG
An experimental survey and Perspective View on Meta-Learning for Automated Algorithms Selection and Parametrization
IRIT, UMR 5505 CNRS, Université Toulouse Capitole, UT1(IRIT、法国国家科学研究中心UMR 5505、图卢兹第一大学)
本文系统综述了基于元学习的算法选择与参数化方法,提出含400万模型的基准知识库,并在400个数据集上对8种分类算法下的代表性方法进行了大规模比较评估。
2025-04-08 cs.AI cs.LG
PAIRS AutoGeo: an Automated Machine Learning Framework for Massive Geospatial Data
IBM T.J. Watson Research Center(IBM T.J. 沃森研究中心);IBM Research(IBM研究院)
在IBM PAIRS Geoscope大数据和分析平台上引入了一个名为PAIRS AutoGeo的地理空间数据自动化机器学习框架。该框架简化了利用地理空间数据的工业机器学习解决方案的开发,使用户输入最小化为仅包含标记的GPS坐标的文本文件。PAIRS AutoGeo自动在位置坐标处收集所需数据,组装训练数据,执行质量检查,并训练多个机器学习模型以供后续部署。该框架使用一个现实的工业树种分类用例进行验证。开源树种数据被用作训练随机森林分类器和基于航空影像的10向树种分类的改进的ResNet模型的输入,这导致$59.8\%$和$81.4\%$的准确性,分别。此用例说明了PAIRS AutoGeo如何使用户能够在没有广泛地理空间专业知识的情况下利用机器学习。
2020-12-12 cs.AI cs.CV cs.LG
Automated identification of transiting exoplanet candidates in NASA Transiting Exoplanets Survey Satellite (TESS) data with machine learning methods
Catholic University of America(美国天主教大学);Tel Aviv University(特拉维夫大学);ThetaRay(ThetaRay公司)
一种使用机器学习(ML)方法的新型人工智能(AI)技术结合了由ThetaRay,Inc.应用于NASA的凌日系外行星勘测卫星(TESS)数据集,以识别系外行星候选者。AI/ML ThetaRay系统最初使用开普勒系外行星数据进行训练,并在应用于TESS数据之前使用确认的系外行星进行验证。数据的现有和新特征基于各种观测参数,通过采用半监督和无监督机器学习技术构建并用于AI/ML分析。通过将ThetaRay系统应用于TESS任务产生的10,803个阈值交叉事件(TCEs)的光变曲线,该算法从Mikulski Archive for Space Telescopes获得,该算法产生了约50个目标以供进一步分析,我们通过进一步的人工审查发现了三个新的系外行星候选者。这项研究首次展示了将特定的基于AI/ML的方法成功应用于大型天体物理数据集,以快速自动分类TCE。
2021-08-27 astro-ph.EP astro-ph.IM cs.LG
A Survey and Analysis on Automated Glioma Brain Tumor Segmentation and Overall Patient Survival Prediction
School of Engineering and Applied Science, Ahmedabad University(艾哈迈达巴德大学工程与应用科学学院)
胶质瘤是最致命的脑肿瘤,死亡率高。人类专家的治疗计划取决于对身体症状的正确诊断以及磁共振(MR)图像分析。脑肿瘤在大小、形状、位置和大量MR图像方面的高度可变性使得分析耗时。自动分割方法实现了时间的减少,具有良好的可重复性的结果。本文旨在综述脑胶质瘤自动分割方法的进展。还必须根据基准对各种模式进行客观评价。因此,2012 - 2019年BraTS挑战数据库评估了最先进的方法。挑战下任务的复杂性已经从分割(任务1)增长到总体生存预测(任务2),再到分类的不确定性预测(任务3)。本文涵盖了使用手工特征对任务1的深度神经网络模型进行脑肿瘤分割的全部内容。其目的是展示自动化脑肿瘤模型趋势的完全变化。本文还涵盖了涉及脑肿瘤分割和总体生存预测的端到端联合模型。对各种方法进行了探讨,并对影响性能的参数进行了列表分析。
2021-03-08 cs.CV cs.LG eess.IV
An Experimentally Driven Automated Machine Learned lnter-Atomic Potential for a Refractory Oxide
Argonne National Laboratory(阿贡国家实验室);Helmholtz-Institute Munster(明斯特亥姆霍兹研究所);Forschungszentrum Julich GmbH(于利希研究中心);University of Cambridge(剑桥大学)
了解难熔氧化物的结构和性能对于高温应用至关重要。在这项工作中,结合实验和仿真方法使用自动闭环通过主动学习,这是由X射线和中子衍射测量初始化,并依次改善机器学习模型,直到实验预定的相空间被覆盖。一个多相电位产生的典型例子的原型耐火氧化物,HfO 2,通过绘制最小数量的训练配置从室温到液态在~ 2900 ℃。该方法大大减少了模型开发时间和人力。
2020-09-09 cond-mat.mtrl-sci cs.LG physics.comp-ph
Trust in AutoML: Exploring Information Needs for Establishing Trust in Automated Machine Learning Systems
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院);IBM
我们在数据科学的一个相对较新的领域探索信任:自动化机器学习(AutoML)。在AutoML中,AI方法用于通过自动工程特征、选择模型和优化超参数来生成和优化机器学习模型。在本文中,我们试图了解什么样的信息会影响数据科学家对AutoML模型的信任?我们将信任操作化为部署使用自动化方法生成的模型的意愿。我们报告了三项研究的结果-定性访谈,对照实验和卡片分类任务-以了解数据科学家在AutoML系统中建立信任的信息需求。我们发现,在AutoML工具中包含透明度功能增加了用户对该工具的信任和可理解性;在所有提出的功能中,模型性能指标和可视化是数据科学家在建立对AutoML工具的信任时最重要的信息。
2020-01-17 cs.CY cs.HC cs.LG
A machine vision meta-algorithm for automated recognition of underwater objects using sidescan sonar imagery
CIDCO - Development Center for Ocean Mapping(CIDCO——海洋测绘开发中心)
本文详细介绍了一种新的方法来识别和检测实时侧扫声纳数据图像流中的水下物体,与水下考古的应用程序的案例研究,和幽灵渔具检索。我们首先从侧扫数据合成图像,应用几何和辐射校正,然后使用2D特征检测算法来识别点云的描述性视觉微观特征,如角和边缘的声纳图像。然后,我们在特征点云上应用聚类算法,将特征集分组为感兴趣的区域,拒绝误报,产生对象的地理参考库存。
2019-09-17 cs.CV cs.LG eess.IV