OpenML Benchmarking Suites
LMU Munich(慕尼黑大学);University of Freiburg(弗莱堡大学);Eindhoven University of Technology(埃因霍温理工大学);Bosch Center for Artificial Intelligence(博世人工智能中心);TU Dortmund University(多特蒙德工业大学);Federal Technology University Paraná (UTFPR)(巴拉那联邦科技大学);Leiden University(莱顿大学)
本文提出可标准化、共享和复用机器学习算法评测的 OpenML 基准测试套件,并发布面向分类任务的 OpenML-CC18。
2021-11-22 cs.LG stat.ML
PIPES: A Meta-dataset of Machine Learning Pipelines
Centro de Informática, Universidade Federal de Pernambuco(佛罗里达州立大学佩纳布洛分校计算机中心);Instituto de Computação, Universidade Federal de Alagoas(阿拉加斯联邦大学计算机研究所);École de Technologie Supérieure, Université du Québec(魁北克大学超技术学院)
针对OpenML流水线多样性不足的问题,提出PIPES元数据集,包含9,408个流水线在300个数据集上的实验结果,覆盖技术组合,支持元学习研究。
2025-09-11 cs.LG
Decoding machine learning benchmarks
Faculdade de Computação, Universidade Federal do Pará(帕拉联邦大学计算机学院);Centro de Informática, Universidade Federal de Pernambuco(伯南布哥联邦大学信息中心);Instituto Tecnológico Vale(淡水河谷技术研究所)
尽管基准机器学习(ML)存储库(例如,UCI,OpenML),目前还没有标准的评估策略能够指出哪一组数据集是测试不同ML算法的最佳黄金标准。在最近的研究中,项目反应理论(IRT)已经成为一种新的方法来阐明什么应该是一个好的ML基准。本文应用项目反应理论(IRT)对著名的OpenML-CC 18基准进行了探索,以确定它在分类器评估中的适用性。使用IRT模型评估了从经典分类器到集成分类器的几种分类器,该模型可以同时估计数据集难度和分类器的能力。在项目反应理论的基础上,采用Glicko-2评分系统,对分类者的内在能力和倾向性进行了总结。据观察,并非所有来自OpenML-CC 18的数据集都对评估分类器非常有用。在这项工作中评估的大多数数据集(84%)通常包含简单的实例(例如,只有10%的困难情况)。此外,在这个基准测试的一半中,80%的实例都是非常有区别的实例,这对于成对算法比较非常有用,但对于推动分类器的能力没有帮助。本文介绍了这种新的评价方法的基础上IRT以及工具decodIRT,开发来指导IRT估计ML基准。
2020-08-19 cs.LG stat.ML
Importance of Tuning Hyperparameters of Machine Learning Algorithms
Eindhoven University of Technology(埃因霍温理工大学);Columbia University(哥伦比亚大学)
许多机器学习算法的性能取决于它们的超参数设置。本研究的目标是确定是否需要调整超参数,或者是否可以安全地将其设置为默认值。我们提出了一种方法来确定调整超参数的非劣效性测试和调整风险的基础上的重要性:性能损失时发生的超参数没有调整,但设置为默认值。因为我们的方法需要默认参数的概念,我们提出了一个简单的过程,可以用来确定合理的默认参数。我们使用OpenML的59个数据集在基准研究中应用我们的方法。我们的研究结果表明,将特定的超参数保留为默认值并不比调整这些超参数差。在某些情况下,将超参数保留为默认值甚至优于使用具有有限迭代次数的搜索过程对其进行调整。
2020-07-15 cs.LG stat.ML
SPIO: Ensemble and Selective Strategies via LLM-Based Multi-Agent Planning in Automated Data Science
Enhans;Peking University(北京大学);Yale University(耶鲁大学)
SPIO通过基于LLM的多智能体规划,在自动化数据科学中实现了集成与选择策略,提升了流程的灵活性和准确性。
2026-01-07 cs.AI cs.CL cs.LG
Machine Learning and Citizen Science Approaches for Monitoring the Changing Environment
University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
该研究结合机器学习、公民科学及遥感工具方法,旨在解决复杂异质变化环境下淹没区域与飓风事件相关的环境管理及灾害响应紧迫问题。
2023-12-12 cs.LG
Robust Support Vector Machines for Imbalanced and Noisy Data via Benders Decomposition
Montana State University(蒙大拿州立大学);Ferdowsi University of Mashhad(马什哈德费尔多西大学)
本研究提出一种基于Benders分解的新型SVM模型,通过二元变量量化约束违反次数以处理类别不平衡与噪声,实验验证其在F1分数、准确率等方面优于现有模型,并具备多项优良特性。
2025-03-19 cs.LG
Machine Learning and Data Science: Foundations, Concepts, Algorithms, and Tools
如今,数据是企业获得重要见解和提高绩效的动力。当今世界没有一个行业不使用数据。但是谁会得到这种洞察力呢?谁处理所有原始数据?一切都由数据分析师或数据科学家完成。
2022-02-15 cs.LG
Machine learning in the social and health sciences
University of Luxembourg(卢森堡大学);Stanford University(斯坦福大学);University of Edinburgh(爱丁堡大学)
机器学习(ML)方法在社会和健康科学中的应用相当缓慢,使用ML进行社会和健康研究问题的研究仍然是分散的。这可能是由于计算/数据与社会和健康科学研究的单独发展,以及缺乏可访问的概述和非数据科学研究人员在ML技术方面的充分培训。本文通过将必要的要求纳入这些学科的统计分析,将社会和健康科学中的研究问题映射到适当的ML方法。我们将已建立的分类映射到描述,预测和因果推理到共同的研究目标,例如估计不良健康或社会后果的患病率,预测事件的风险,并确定不良后果的风险因素或原因。这一元映射旨在克服学科障碍,并在社会和健康科学研究人员与受过方法学培训的研究人员之间开始流畅的对话。这种映射也可能有助于充分利用ML的好处,同时考虑与社会和健康科学相关的特定领域方面,并希望有助于加速ML应用的吸收,以推进基础和应用社会和健康科学研究。
2021-06-20 cs.LG
Machine learning for Earth System Science (ESS): A survey, status and future directions for South Asia
Indian Institute of Tropical Meteorology(印度热带气象研究所);Jackson School of Geosciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校杰克逊地球科学学院);Indian Institute of Technology Bombay(印度理工学院孟买分校);Indian Institute of Science(印度科学理工学院);Borehole Geophysics Research Laboratory(钻孔地球物理研究实验室)
本次调查的重点是当前地球系统科学中的问题,机器学习算法可以应用。它概述了以前的工作,印度政府地球科学部正在进行的工作,以及ML算法在一些重大地球科学问题中的未来应用。我们提供了以前的工作与本调查的比较,与机器学习相关的多维领域的思维导图和Gartner的地球系统科学(ESS)中机器学习的炒作周期。我们主要关注地球科学中的关键组成部分,包括大气,海洋,地震和生物圈,并涵盖AI/ML应用于统计降尺度和预测问题。
2021-12-24 cs.LG physics.ao-ph
Integrating Hyperparameter Search into Model-Free AutoML with Context-Free Grammars
MercadoLibre Inc.(美客多公司)
针对现有无模型AutoML方法GramML仅搜索流水线结构、使用默认超参数的局限,提出集成超参数搜索的扩展方案,经OpenML基准测试,性能较前沿技术有显著提升。
2024-04-13 cs.AI cs.LG
Methodological Blind Spots in Machine Learning Fairness: Lessons from the Philosophy of Science and Computer Science
Columbia University(哥伦比亚大学)
在ML公平性文献中,很少有通过哲学观点进行的调查,这是一个鼓励对基本假设进行批判性评估的镜头。本文的目的是使用科学哲学和计算机科学中的三个思想来梳理ML公平性假设中的盲点:抽象,归纳和测量。通过本研究,我们希望能够警示这些方法论盲点,并鼓励通过哲学框架对公平机器学习进行进一步的跨学科研究。
2019-10-31 cs.CY cs.LG
A Perspective on Symbolic Machine Learning in Physical Sciences
Qatar Computing Research Institute(卡塔尔计算研究所)
本文从视角角度探讨符号机器学习在物理科学中的应用,强调其与数值机器学习互补,以应对深度神经网络不可解释性,并加速物理发现。
2025-02-25 cs.LG hep-ph hep-th
A Hybrid Science-Guided Machine Learning Approach for Modeling and Optimizing Chemical Processes
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学)
这项研究提出了一个广泛的角度混合过程建模和优化相结合的科学知识和数据分析在生物加工和化学工程与科学指导的机器学习(SGML)的方法。我们将方法分为两大类。第一种是指基于数据的ML模型补充并使基于科学的第一原理模型在预测中更准确的情况,第二种对应于科学知识有助于使ML模型在科学上更一致的情况。我们提出了一个详细的审查有关的混合SGML方法的科学和工程文献,并提出了一个系统的分类混合SGML模型。为了应用ML改进基于科学的模型,我们提出了直接串行和并行混合建模及其组合,逆建模,降阶建模,量化过程中的不确定性,甚至发现过程模型的控制方程的子类别的论述。为了应用科学原理来改进ML模型,我们讨论了科学指导的设计,学习和改进的子类别。对于每个子类别,我们确定其要求,优点和局限性,连同其已发表的和潜在的应用领域在生物加工和化学engineering.We还提出了几个例子来说明不同的混合SGML方法建模聚合物过程。
2022-01-25 cs.LG
Towards A Rigorous Science of Interpretable Machine Learning
随着机器学习系统变得无处不在,人们对可解释的机器学习(为输出提供解释的系统)的兴趣激增。这些解释通常用于定性评估其他标准,如安全或不歧视。然而,尽管人们对可解释性很感兴趣,但对于什么是可解释的机器学习以及如何衡量它,人们几乎没有达成共识。在本立场文件中,我们首先定义可解释性,并描述何时需要可解释性(以及何时不需要)。接下来,我们提出了一个严格评估的分类法,并向更严格的可解释机器学习科学提出了开放性问题。
2017-03-02 cs.AI cs.LG stat.ML
The Scientific Method in the Science of Machine Learning
Project Jupyter(Jupyter项目);Facebook AI Research(脸书人工智能研究院)
在寻求将深度学习与科学结合起来,以解决机器学习系统中对严谨性、安全性和可解释性的要求时,这篇文章确定了关键的缺失部分:假设制定和测试的阶段,以及统计和系统的不确定性估计--科学方法的核心原则。这份立场文件讨论了当代科学在其他领域开展的方式,并确定了可能有用的做法。我们提出了一个物理学的案例研究,并描述了这个领域如何通过具体的方法实践来提高严谨性,并就机器学习研究人员如何将这些实践应用到研究生态系统中提供了建议。我们认为,无论是领域驱动的实验,还是机器学习模型基本构建块内部工作原理的应用不可知论问题,都应该用科学方法的工具来研究,以确保我们不仅理解效果,而且开始理解原因,这是科学存在的理由。
2019-04-24 cs.LG stat.ML
Machine Learning Interpretability: A Science rather than a tool
Institute of Integrated and Intelligent Systems, Griffith University(格里菲斯大学集成与智能系统研究所)
术语“可解释性”经常被机器学习研究者使用,每个人都有自己的直观理解。在机器学习中,对可解释性没有一个普遍认同的定义。由于任何类型的科学学科主要是由一套公式化的问题驱动的,而不是由该学科中的不同工具驱动的,例如天体物理学是学习恒星组成的学科,而不是使用分光镜的学科。类似地,我们建议机器学习可解释性应该是一门回答与可解释性相关的特定问题的学科。这些问题可以是统计、因果和反事实性质的。因此,有必要在需要解决的问题而不是不同工具的背景下研究机器学习的可解释性问题。我们讨论了一个假设的可解释性框架,该框架由基于问题的科学方法驱动,而不是由某些特定的机器学习模型驱动。使用基于问题的可解释性概念,我们可以进一步理解机器学习的科学,而不是它的工程。这个概念也将帮助我们更深入地理解任何特定的问题,而不是仅仅依赖于机器学习方法。
2018-07-25 cs.LG stat.ML
Interpretable and Explainable Machine Learning for Materials Science and Chemistry
Massachusetts Institute of Technology(麻省理工学院);Microsoft AI for Good Research Lab(微软AI向善研究实验室);Rutherford Appleton Laboratory(卢瑟福·阿普尔顿实验室);University of Reading(雷丁大学)
虽然材料科学和化学的数据驱动方法的采用处于令人兴奋的早期阶段,但要实现机器学习模型在成功科学发现中的真正潜力,它们必须具有超越纯粹预测能力的品质。模型的预测和内部工作应该提供一定程度的可解释性,允许识别潜在的模型问题或限制,建立对模型预测的信任,并揭示可能导致科学见解的意外相关性。在这项工作中,我们总结了可解释性和可解释性技术在材料科学和化学中的应用,并讨论了这些技术如何提高科学研究的结果。我们讨论了在材料科学和更广泛的科学环境中可解释机器学习的各种挑战。特别是,我们强调通过纯粹解释机器学习模型来推断因果关系或达到泛化的风险,以及模型解释的不确定性估计的必要性。最后,我们展示了其他领域的一些令人兴奋的发展,这些发展可能有利于材料科学和化学问题的可解释性。
2021-11-03 cond-mat.mtrl-sci cs.LG
Corporate Disruption in the Science of Machine Learning
University College London(伦敦大学学院)
这篇硕士论文考虑了当前企业利益对机器学习领域研究人员的影响。位于该领域的学术,公众和企业利益的周期性历史,本文探讨了当前的研究人员如何看待最近的发展和谈判自己的研究实践中增加的商业利益和资金的环境。最初的研究包括对12位在学术界和工业界工作的机器学习研究人员的深入采访。从科学,技术和社会研究的理论基础上,本论文质疑学术研究的新自由主义化的传统叙事,让研究人员自己讨论他们的职业选择,工作环境和与他人的互动在该领域已受到近年来重振企业利益的影响。
2016-12-13 cs.CY cs.LG
Data Science and Digital Systems: The 3Ds of Machine Learning Systems Design
机器学习解决方案,特别是基于深度学习方法的解决方案,构成了当前“人工智能“革命的基础,这场革命占据了流行的新闻头条,并对更广泛的技术议程产生了重大影响。在这里,我们概述了ML系统设计的3D:数据,设计和部署。通过考虑3D,我们可以转向\emph{data first}设计。
2019-03-26 cs.AI cs.LG
HardML: A Benchmark For Evaluating Data Science And Machine Learning knowledge and reasoning in AI
Independent Machine Learning Engineer(独立机器学习工程师)
本文提出HardML基准,包含100道手工制作的高难度数据科学与机器学习多选题,用于严格评估顶级AI模型的知识与推理能力,当前最先进模型错误率达30%,约为MMLU ML的三倍。
2025-05-06 cs.AI cs.LG
Constructing Effective Machine Learning Models for the Sciences: A Multidisciplinary Perspective
University of Luxembourg(卢森堡大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
从数据中学习已经导致了许多学科的实质性进步,包括文本和多媒体搜索、语音识别和车载导航。机器学习能在自然科学和社会科学领域实现类似的飞跃吗?这当然是许多科学领域的期望,近年来已经看到了大量的非线性模型应用于广泛的数据集。然而,灵活的非线性解决方案并不总是在手动将变量之间的转换和交互添加到线性回归模型时得到改进。我们将讨论如何在构建数据驱动模型之前认识到这一点,以及这种分析如何帮助我们转向本质上可解释的回归模型。此外,对于自然科学和社会科学中的各种应用,我们证明了为什么可以看到更复杂的回归模型的改进,为什么他们可能不会。
2022-11-21 cs.LG stat.ML
Spiral Model Technique For Data Science & Machine Learning Lifecycle
本文提出螺旋模型技术,将数据科学和机器学习生命周期应用于有明确目标的商业问题,强调灵活性、敏捷性和迭代性。
2025-10-08 cs.IR cs.LG cs.SE
Lessons from the trenches on evaluating machine-learning systems in materials science
Friedrich Schiller University Jena(耶拿弗里德里希·席勒大学);Helmholtz Institute for Polymers in Energy Applications Jena(耶拿亥姆霍兹能源应用聚合物研究所)
本文从统计测量理论视角系统综述了材料科学中机器学习系统的评估框架,识别了构念效度、数据质量、度量设计和基准维护等关键挑战,并提出“评估卡片”以提升评估透明度,为其他科学领域提供借鉴。
2025-05-06 cond-mat.mtrl-sci cs.LG
Kan Extensions in Data Science and Machine Learning
Kellogg College, University of Oxford(牛津大学凯洛格学院)
数据科学中的一个常见问题是“使用在这个小集合上定义的这个函数来生成对那个大集合的预测。“外推法、内插法、统计推断和预测都归结于这个问题。Kan扩张是范畴论中推广这一概念的有力工具。在这项工作中,我们将探讨Kan扩展在数据科学中的几个应用。我们首先推导出一个简单的分类算法作为Kan扩展,并在真实数据上实验该算法。接下来,我们使用Kan扩展来推导一个从标签学习聚类算法的过程,并探索该过程在真实数据上的性能。然后,我们研究如何Kan扩展可以用来学习一个一般的映射,从标记的例子的数据集的功能,并近似一个复杂的功能与一个简单的。
2022-07-26 cs.LG stat.ML
A review of machine learning applications in wildfire science and management
Natural Resources Canada(加拿大自然资源部);Canadian Forest Service(加拿大林务局);University of Alberta(阿尔伯塔大学);University of Waterloo(滑铁卢大学)
人工智能自20世纪90年代开始应用于野火科学和管理,早期的应用包括神经网络和专家系统。从那时起,随着机器学习(ML)在环境科学中的广泛采用,该领域迅速发展。在这里,我们对野火科学和管理中的ML进行了范围审查。我们的目标是提高野火科学家和管理人员对ML的认识,并说明野火科学中数据科学家面临的一系列挑战性问题。我们首先概述了迄今为止在野火科学中使用的流行ML方法,然后回顾了它们在野火科学中的六个问题领域的使用:1)燃料表征,火灾检测和映射; 2)火灾天气和气候变化; 3)火灾发生,易感性和风险; 4)火灾行为预测; 5)火灾影响; 6)火灾管理。我们还讨论了各种ML方法的优点和局限性,并确定了在数据科学背景下野火科学和管理未来发展的机会。我们确定了298个相关出版物,其中最常用的ML方法包括随机森林,MaxEnt,人工神经网络,决策树,支持向量机和遗传算法。存在应用更当前的ML方法的机会(例如,野火科学中的深度学习和基于代理的学习)。然而,尽管ML模型具有自主学习的能力,但野火科学方面的专业知识对于确保跨多个尺度的火灾过程的真实建模是必要的,而一些ML方法的复杂性需要复杂的知识才能应用。最后,我们强调野火研究和管理社区在提供相关的高质量数据以供ML方法从业者使用方面发挥着积极作用。
2020-08-19 cs.LG stat.ML
Data science and Machine learning in the Clouds: A Perspective for the Future
TCS Research(塔塔咨询服务公司研究院)
随着科学领域范式转变的开始,数据驱动科学(所谓的第四科学范式)将成为研究和创新的驱动力。从医学到生物多样性,从天文学到地质学,所有这些术语都将在某种程度上受到这种范式转变的影响。在这种新模式下处理的大量数据将是未来的主要问题,并且在这些计算的所有方面(从存储到计算和其他服务)都强烈需要基于云的服务。另一个方面将是在这样一个科学范式中预测工作和任务的能耗和性能,这将改变人们看待计算的方式。数据科学已经严重影响或触发了机器学习、信号/图像/视频处理相关算法、人工智能、机器人技术、健康信息学、地理信息学以及更多感兴趣的领域的出现。因此,我们设想一个数据科学可以在现有的基于云的平台和服务的帮助下实现其承诺的时代,并增加新的服务。在这篇文章中,我们讨论了数据驱动科学和机器学习,以及它们在未来如何通过基于云的服务联系起来。它还讨论了近似计算,量子计算等范例的兴起,以及它们在云环境中的大数据处理,数据科学,分析,预测和机器学习中的适用性。
2021-09-02 cs.DC cs.LG cs.PF
Dissertation Machine Learning in Materials Science -- A case study in Carbon Nanotube field effect transistors
UNIVERSITY OF CALIFORNIA Los Angeles(加州大学洛杉矶分校)
本论文以碳纳米管场效应晶体管为例,探索了神经网络、基于模拟的推理和生成流网络等机器学习技术在预测器件性能、探测网络导电特性及生成加工信息方面的应用。
2025-01-19 cond-mat.mes-hall cs.LG physics.app-ph
Hyperparameter Importance Across Datasets
Albert-Ludwigs-Universität Freiburg(阿尔伯特-路德维希 Freiburg 大学)
随着自动化机器学习的出现,自动化超参数优化方法现在经常用于数据挖掘。然而,这一进展尚未与自动分析的同等进展相匹配,自动分析产生的信息超出了性能优化超参数设置。在这项工作中,我们的目标是回答以下两个问题:给定一个算法,通常它最重要的超参数是什么,这些超参数的典型值是什么?我们提出的方法和框架来回答这些问题的基础上跨许多数据集的元学习。我们使用OpenML上可用的实验元数据来确定支持向量机、随机森林和Adaboost的最重要的超参数,并推断其所有超参数的先验。完全自动获得的结果为手动算法设计和自动超参数优化提供了定量基础。所进行的实验证实,所提出的方法选择的超参数确实是最重要的,并且所获得的先验也导致超参数优化的统计显着改善。
2018-05-29 cs.LG stat.ML
Heliophysics Discovery Tools for the 21st Century: Data Science and Machine Learning Structures and Recommendations for 2020-2050
主要有三点:1.数据科学(DS)将对太阳物理学越来越重要; 2。太阳物理学科学发现的方法将不断发展,需要使用学习技术[例如,机器学习(ML)],其被严格应用并且能够支持发现;以及3.随着数据,技术和劳动力变化的步伐,太阳物理学需要一种新的方法来表示知识。
2022-12-26 astro-ph.IM astro-ph.SR cs.AI
Machine Learning for Computational Science and Engineering -- a brief introduction and some critical questions
University of Bolton(博尔顿大学)
人工智能(AI)正在进入科学、技术、工程、艺术和管理的各个子领域。由于研究基金的大肆宣传和可用性,它正在被改编成许多领域没有太多的思考。计算科学与工程(CS&E)就是这样一个子领域。通过强调围绕CS&E适应机器学习(ML)的问题和挑战的一些关键问题,其中大多数在期刊论文中经常被忽视,本文希望为CS\&E及相关领域的ML适应应用提供一些见解。这是一篇针对普通读者和ML和/或CS\&E领域新研究人员的通用文章。本文的工作仅针对计算科学和工程中的前沿问题。还提供了一些基本方程和MATLAB代码,以帮助读者理解基础知识。
2021-12-22 cs.CE cs.LG physics.comp-ph
Machine Learning in Python: Main developments and technology trends in data science, machine learning, and artificial intelligence
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);NVIDIA(英伟达);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
更智能的应用程序正在更好地利用从数据中收集的见解,对每个行业和研究学科产生影响。这场革命的核心在于推动它的工具和方法,从处理每天产生的大量数据到学习和采取有用的行动。深度神经网络,以及经典ML和可扩展通用GPU计算的进步,已成为人工智能的关键组成部分,实现了许多令人震惊的突破,并降低了采用的门槛。Python仍然是科学计算、数据科学和机器学习的首选语言,通过使用低级库和干净的高级API来提高性能和生产力。本调查提供了对使用Python进行机器学习领域的深入了解,通过重要主题进行了一次旅行,以确定实现它的一些核心硬件和软件范例。我们涵盖了广泛使用的库和概念,收集在一起进行整体比较,旨在教育读者并推动Python机器学习领域向前发展。
2020-03-31 cs.LG stat.ML
Identifying and Harnessing the Building Blocks of Machine Learning Pipelines for Sensible Initialization of a Data Science Automation Tool
Institute for Biomedical Informatics, University of Pennsylvania(宾夕法尼亚大学生物医学信息学研究所)
随着数据科学越来越受欢迎,越来越需要使数据科学工具更具可扩展性,灵活性和可访问性。特别地,自动化机器学习(AutoML)系统寻求使设计和优化机器学习流水线的过程自动化。在本章中,我们提出了一个基于遗传编程的AutoML系统,称为TPOT,它优化了一系列特征预处理器和机器学习模型,目标是在监督分类问题上最大限度地提高分类精度。此外,我们分析了以前用于解决各种监督分类问题的管道的大型数据库,并确定了100个最频繁出现的机器学习操作的短系列,我们称之为机器学习管道的构建块。我们利用这些构建块来初始化TPOT有前途的解决方案,并发现这种明智的初始化方法显着提高TPOT的性能在一个基准测试,而没有显着降低性能的成本。因此,使用机器学习管道构建块进行合理的初始化为基于GP的AutoML系统带来了希望,并且应该在未来的工作中进一步完善。
2016-07-29 cs.AI cs.LG cs.NE
An Atomistic Machine Learning Package for Surface Science and Catalysis
Stanford University(斯坦福大学);SUNCAT Center for Interface Science and Catalysis(SUNCAT界面科学与催化中心)
我们目前的工作流程和软件模块的机器学习模型建立在表面科学和多相催化。这包括从3D结构和/或连接性信息指纹识别原子结构,它包括描述符选择方法和基准,并且它包括用于原子结构优化的主动学习框架,加速筛选研究和用于探索纳米颗粒的结构空间,这些都是与表面科学和多相催化相关的原子结构问题。我们的总体目标是提供一个存储库,以简化催化的机器学习模型构建,使模型超越用户的化学直觉,并提高探索化学空间的自主性。
2019-04-01 cs.LG physics.chem-ph physics.comp-ph
ML4Chem: A Machine Learning Package for Chemistry and Materials Science
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
ML4Chem是一个用于化学和材料科学的开源机器学习库。它提供了一个可扩展的平台来开发和部署机器学习模型和管道,并针对非专家和专家用户。ML4Chem遵循用户体验设计,并提供从数据准备到推理所需的工具。在这里,我们将介绍其原子模块的实现,部署和原子为中心的模型的可重复性。该模块由六个核心构建块组成:数据、特征化、模型、模型优化、推理和可视化。我们提出了他们的功能和易用性,利用神经网络和核岭回归算法的演示。
2020-03-02 cond-mat.mtrl-sci cs.LG physics.chem-ph
Theory In, Theory Out: The uses of social theory in machine learning for social science
Network Science Institute(网络科学研究所);Northeastern University(东北大学);University at Buffalo(布法罗大学)
机器学习和社会科学交叉的研究为社会行为提供了重要的新见解。与此同时,各种各样的批评已经提出,从使用的数据和构建的功能,有问题的假设内置到模型,其有限的可解释性,以及它们的偏见和不平等的贡献的技术问题。我们认为,出现这样的问题,主要是因为缺乏社会理论在模型的建立和分析的各个阶段。在本文的前半部分,我们将走查如何使用社会理论来回答在机器学习流程的每个阶段出现的基本方法和解释问题。在后半部分,我们将展示如何使用理论来评估和比较不同的社会学习模型的质量,包括解释,概括和评估模型的公平性。我们相信这篇论文可以作为计算机和社会科学家的指南,指导他们如何将机器学习工具应用于社会数据。
2020-01-15 cs.CY cs.LG
The perpetual motion machine of AI-generated data and the distraction of ChatGPT-as-scientist
University of California, Berkeley(加州大学伯克利分校)
本文探讨了AI生成数据能否弥补科学数据不足、大语言模型能否成为科学家等热点问题,并对此提出讨论与反思。
2023-11-29 cs.AI cs.LG
DScribe: Library of Descriptors for Machine Learning in Materials Science
Aalto University(阿尔托大学);Nanolayers Research Computing Ltd.(纳米层研究计算有限公司);Norwegian University of Science and Technology(挪威科技大学);Technische Universität München(慕尼黑工业大学);Kanazawa University(金泽大学)
DScribe是一个用于机器学习的软件包,为原子材料模拟提供流行的特征转换(“描述符”)。DScribe通过提供用户友好的现成描述符实现,加速了机器学习在原子属性预测中的应用。该软件包目前包含库仑矩阵,埃瓦尔德和矩阵,正弦矩阵,多体张量表示(MBTR),原子中心对称函数(ACSF)和原子位置平滑重叠(SOAP)的实现。说明了两种不同的应用程序包的使用:固体的形成能预测和有机分子中的原子的离子电荷预测。该软件包在开源Apache许可证2.0下免费提供。
2019-04-18 cond-mat.mtrl-sci cs.LG
The Fairness Field Guide: Perspectives from Social and Formal Sciences
University of Arkansas(阿肯色大学)
在过去的几年里,已经提出了一系列不同的方法来衡量机器学习模型的公平性。然而,尽管越来越多的出版物和实现,仍然缺乏文献来解释公平的机器学习与哲学,社会学和法律等社会科学的相互作用。我们希望通过积累和阐述社会和形式科学(特别是机器学习和统计学)在本领域指南中产生的公平机器学习的思想和讨论来解决这个问题。具体来说,除了给出几种流行的基于统计和因果关系的公平机器学习方法的数学和算法背景外,我们还解释了支持它们的基本哲学和法律思想。此外,我们从社会学和哲学的角度探讨了对当前公平机器学习方法的一些批评。我们希望本领域指南能够帮助公平的机器学习从业者更好地理解他们的算法如何与重要的人文价值观(如公平)保持一致,以及我们作为一个领域如何设计方法和指标,以更好地为受压迫和边缘化的民众服务。
2022-03-08 cs.AI cs.CY cs.LG
Advances in Machine Learning for the Behavioral Sciences
University of Economics Prague(布拉格经济大学);Johannes Kepler Universität Linz(约翰内斯·开普勒林茨大学)
近年来,机器学习和数据库中的知识发现领域已经相当成熟。在这篇文章中,我们简要回顾了最近的发展以及经典的算法,经得起时间的考验。我们的目标是提供对不同任务的一般介绍,例如从表格数据,行为数据或文本数据中学习,特别关注行为科学中的实际和潜在应用。本文的补充附录还通过向读者指出经过验证的软件实现,为使用这些方法提供了实用的指导。重点是R,但我们也涵盖了其他程序设计语言的一些库以及具有易于使用的图形界面的系统。
2019-11-08 cs.CL cs.LG stat.ML
Short text classification with machine learning in the social sciences: The case of climate change on Twitter
Stockholm University(斯德哥尔摩大学)
本文针对社会科学研究中小规模标注、类别低频的短文本分类难题,以气候变化相关Twitter推文分类为案例,对比多种文本分类器性能,发现传统机器学习方法效果媲美深度学习且资源需求更低。
2023-10-03 cs.CL cs.LG stat.ME
Machine Learning and Data Science approach towards trend and predictors analysis of CDC Mortality Data for the USA
Mohammad Ali Jinnah University(穆罕默德·阿里·真纳大学)
死亡率研究是根据所提供的数据和条件得出结论的任何国家的一个活跃研究领域。为了使用机器学习和数据科学实践基于数据直觉得出结论,领域知识是必不可少的,但不是强制性的技能(尽管仍然需要一些知识)。进行该项目的目的是根据所提供数据集的统计数据得出结论,并使用监督或无监督学习算法预测数据集的标签。该研究得出结论(基于抽样)预期寿命(不分性别)及其主要趋势;人们的婚姻状况也影响他们每个人的死亡频率。该研究还有助于发现,由于更多的分类和数值数据,异常检测或采样不足可能是一个可行的解决方案,因为有可能比其他类别标签更多。这项研究表明,机器学习预测对数据的可行性并不像它可能是显而易见的。
2020-09-11 cs.CY cs.LG
REFORMS: Reporting Standards for Machine Learning Based Science
针对机器学习在科学研究中普遍存在的有效性、可重复性和泛化性问题,本文提出由32个问题及配套指南组成的REFORMS报告标准,为研究者、审稿人和期刊提供统一规范。
2023-09-19 cs.AI cs.LG stat.ME
A Comprehensive Guide to Combining R and Python code for Data Science, Machine Learning and Reinforcement Learning
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文介绍如何通过R的reticulate包结合R与Python,利用Python的机器学习库和R的统计功能,提升数据科学、机器学习和强化学习项目的开发效率。
2024-07-19 cs.LG cs.PL
A Declarative Query Language for Scientific Machine Learning
University of Idaho(爱达荷大学)
本文提出声明式机器学习查询语言MQL,降低科学家使用门槛,并在材料科学工作流系统MatFlow上验证其可行性。
2024-05-25 cs.DB cs.LG
Bridging Machine Learning and Sciences: Opportunities and Challenges
Mila, University of Montreal(米拉,蒙特利尔大学)
本文审视机器学习尤其是深度神经网络分布外检测在科学领域的应用前景,分析数据普适性、实验协议与稳健性等挑战,为跨学科研究范式提供起点。
2023-11-02 cs.LG hep-ex hep-ph
Uncertainty Evaluation: Bridging Machine Learning and Measurement Science
Università di Trento(特伦托大学);Università Cattolica di Milano(米兰天主教大学)
本文探讨机器学习与测量科学在不确定性评估上的概念类比,指出传统ML不确定性二分法的局限性,提出受计量学启发的系统识别、量化和传播不确定性贡献的方法,以构建严谨统一的ML预测可信度评估框架。
2026-10-14 cs.AI cs.LG
Contemporary machine learning: a guide for practitioners in the physical sciences
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
机器学习在物理科学中的应用越来越广泛。这通常涉及在相关的、可测量的输出和相关的一组可控的、但复杂的、独立的输入之间建立模型关系。我们提供了一个关于机器学习当前技术的教程--这是感兴趣的研究人员推进他们工作的一个起点。我们专注于深度神经网络,重点是揭开深度学习的神秘面纱。我们从机器学习的背景思想和当前等离子体物理研究中的一些示例应用开始。我们讨论了用于建模复杂函数的监督学习技术,从熟悉的回归方案开始,然后推进到更复杂的深度学习方法。我们还讨论了无监督学习和降低输入空间维数的技术。在此过程中,我们描述了从业者的方法,以帮助确保他们的模型从训练数据推广到尚未看到的测试数据。我们描述了任务的类别-预测标量,处理图像,拟合时间序列-并准备读者选择适当的技术。最后,我们指出了现代机器学习的一些局限性,并推测了物理科学从业者可能特别适合提供帮助的一些方式。
2017-12-20 cs.LG math-ph math.MP
Visual Framing of Science Conspiracy Videos: Integrating Machine Learning with Communication Theories to Study the Use of Color and Brightness
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Stanford University(斯坦福大学)
近年来,互联网上的科学阴谋视频呈爆炸式增长,挑战了科学认识论和公众对科学的理解。学者们已经开始研究阴谋信息中使用的说服技巧,如不确定性和恐惧,但对视觉叙事的了解甚少,特别是揭穿阴谋的视频与传播阴谋的视频中的视觉叙事如何不同。本文通过使用计算方法分析来自阴谋和反阴谋YouTube视频的数百万帧来解决理解阴谋视频中视觉框架的差距。我们发现阴谋视频倾向于使用较低的颜色变化和亮度,特别是在缩略图和视频的早期部分。本文还展示了研究人员如何在机器学习模型中整合文本和视觉特征,以研究社交媒体上的阴谋,并讨论了计算建模对数字时代有兴趣研究视觉操纵的学者的影响。本文提出的视觉和文本特征的分析可能是有用的,为未来的研究重点是设计系统,以确定互联网上的阴谋内容。
2021-11-18 cs.CV cs.LG cs.MM
How Can Machine Learning Emulators Best Support Climate Science?
Cluster of Excellence Machine Learning University of Tübingen(图宾根大学机器学习卓越中心);Institute for Atmospheric and Climate Science ETH Zurich(大气与气候科学研究所,苏黎世联邦理工学院)
本文提出整合气候科学与机器学习的方法,解决模拟器在气候决策中的应用障碍,通过设计易用且可靠的模拟器促进两领域融合。
2026-07-14 cs.LG stat.AP stat.ML
A compendium of data sources for data science, machine learning, and artificial intelligence
Imperial College London(帝国理工学院);Thalesians Marine Ltd(Thalesians海事有限公司);Turnleaf Analytics Ltd(Turnleaf分析有限公司)
本文针对大型语言模型等发展带来的数据需求,提供了一份跨金融、法律、生命科学等多个应用领域的全面数据源概览,以惠及各级数据科学家与机器学习专家。
2023-09-10 cs.AI cs.DB cs.LG
On the Art and Science of Machine Learning Explanations
H2O.ai(H2O.ai公司)
本文讨论了几种流行的解释方法,这些方法超越了传统上用于评估机器学习模型的误差测量和绘图。一些解释方法是公认的贸易工具,而另一些则是严格推导出来的,并得到了长期理论的支持。这些方法,决策树代理模型,个人条件期望(ICE)图,局部可解释的模型不可知解释(LIME),部分依赖图和Shapley解释,在范围,保真度和合适的应用领域方面有所不同。除了对这些方法的描述外,本文还提供了由用例支持的实际使用建议,以及用于可重复性的公开、深入的软件示例。
2020-05-31 cs.LG stat.ML
Learning from learning machines: a new generation of AI technology to meet the needs of science
Pattern Computer, Inc.(Pattern Computer公司);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室);UC Berkeley(加州大学伯克利分校);BCAM, Basque Center for Applied Mathematics(巴斯克应用数学中心);University of California, Davis(加州大学戴维斯分校);CENIC;University of California, Davis School of Medicine(加州大学戴维斯分校医学院)
我们概述了新出现的机遇和挑战,以提高人工智能在科学发现中的效用。人工智能对工业的不同目标与人工智能对科学的不同目标在识别数据模式与从数据中发现世界模式之间产生了紧张关系。如果我们解决了与领域驱动的科学模型和数据驱动的AI学习机器之间的“弥合差距”相关的根本挑战,那么我们预计这些AI模型可以改变假设生成,科学发现和科学过程本身。
2021-11-27 cs.AI cs.LG
Developing Open Source Educational Resources for Machine Learning and Data Science
Ludwig-Maximilians-Universität München(慕尼黑大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
本文提出面向机器学习与数据科学的开源教育资源(OSER)理念,分析其协作开发挑战与解决方案,并探讨其在混合式教学及学分认证中的应用。
2021-08-10 cs.CY cs.LG