Towards A Rigorous Science of Interpretable Machine Learning
随着机器学习系统变得无处不在,人们对可解释的机器学习(为输出提供解释的系统)的兴趣激增。这些解释通常用于定性评估其他标准,如安全或不歧视。然而,尽管人们对可解释性很感兴趣,但对于什么是可解释的机器学习以及如何衡量它,人们几乎没有达成共识。在本立场文件中,我们首先定义可解释性,并描述何时需要可解释性(以及何时不需要)。接下来,我们提出了一个严格评估的分类法,并向更严格的可解释机器学习科学提出了开放性问题。
2017-03-02 cs.AI cs.LG stat.ML
The Digital Twin Landscape at the Crossroads of Predictive Maintenance, Machine Learning and Physics Based Modeling
Carnegie Mellon University(卡内基梅隆大学)
数字孪生的概念在过去的十年里迅速流行起来,但尽管有无数的评论、调查和新闻稿,但围绕其定义的多样性、作为一项新技术的新颖性及其实际适用性的混乱仍然存在。探讨了术语数字孪生的历史,以及它在产品生存周期管理、资产维护和设备车队管理、运营和规划领域的最初背景。还基于七个基本要素提供了利用数字孪生的最低可行框架的定义。还概述了DT应用和采用DT方法的行业的简要介绍。数字孪生框架的应用突出了预测性维护领域,其扩展利用机器学习和基于物理的建模。采用机器学习和基于物理的建模的组合来形成混合数字孪生框架,可以协同地减轻每种方法在单独使用时的缺点。此外,还讨论了在实践中实施数字孪生模型的关键挑战。随着数字孪生技术的快速发展和成熟,其极大的潜力将大大增强复杂设备智能维护的工具和解决方案。
2022-06-23 cs.LG
Machine Learning-based feasibility estimation of digital blocks in BCD technology
Politecnico di Torino(都灵理工大学);STMicroelectronics(意法半导体)
本文提出一种基于机器学习的评估方法,利用高层特征预测BCD技术中数字模块实现的可行性,以避免耗时的布局布线试验,加速数字与模拟后端设计者间的反馈。
2024-10-10 cs.LG
Event-Driven Digital-Time-Domain Inference Architectures for Tsetlin Machines
针对Tsetlin机器推理中算术计算导致的高延迟与功耗问题,提出事件驱动数字时域推理架构,通过延迟累积、赢者通吃等机制优化计算,并在能效和吞吐量上实现数量级提升。
2025-11-12 cs.LG
A Machine Learning Approach to Digital Contact Tracing: TC4TL Challenge
University College Dublin(都柏林大学);Dublin City University(都柏林城市大学);TU Dublin(都柏林理工大学)
接触者追踪是公共卫生组织用来防止传染病在社区传播的一种方法。传统上由手动接触追踪器执行,最近已考虑使用应用程序利用手机传感器数据来确定两部手机之间的距离。在本文中,我们研究了机器学习方法的发展,以确定使用蓝牙低功耗,传感器数据和Meta数据的两个移动电话设备之间的距离。我们使用TableNet架构和功能工程来改进现有的最新技术水平(总nDCF为0.21 vs 2.08),显著优于现有模型。
2022-03-08 cs.AI cs.LG eess.SP
Predictive Digital Twins for Thermal Management Using Machine Learning and Reduced-Order Models
HELLA India Automotive Pvt. Ltd.(HELLA印度汽车有限公司);HELLA GmbH & Co. KGaA(HELLA公司)
针对汽车前照灯散热器热管理,本文融合CFD降阶模型与监督学习构建预测性数字孪生,由神经网络预测最优ROM配置,MAE为54.240且精度最佳。
2025-05-11 cs.LG
Machine Learning and Citizen Science Approaches for Monitoring the Changing Environment
University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
该研究结合机器学习、公民科学及遥感工具方法,旨在解决复杂异质变化环境下淹没区域与飓风事件相关的环境管理及灾害响应紧迫问题。
2023-12-12 cs.LG
Identifying and Harnessing the Building Blocks of Machine Learning Pipelines for Sensible Initialization of a Data Science Automation Tool
Institute for Biomedical Informatics, University of Pennsylvania(宾夕法尼亚大学生物医学信息学研究所)
随着数据科学越来越受欢迎,越来越需要使数据科学工具更具可扩展性,灵活性和可访问性。特别地,自动化机器学习(AutoML)系统寻求使设计和优化机器学习流水线的过程自动化。在本章中,我们提出了一个基于遗传编程的AutoML系统,称为TPOT,它优化了一系列特征预处理器和机器学习模型,目标是在监督分类问题上最大限度地提高分类精度。此外,我们分析了以前用于解决各种监督分类问题的管道的大型数据库,并确定了100个最频繁出现的机器学习操作的短系列,我们称之为机器学习管道的构建块。我们利用这些构建块来初始化TPOT有前途的解决方案,并发现这种明智的初始化方法显着提高TPOT的性能在一个基准测试,而没有显着降低性能的成本。因此,使用机器学习管道构建块进行合理的初始化为基于GP的AutoML系统带来了希望,并且应该在未来的工作中进一步完善。
2016-07-29 cs.AI cs.LG cs.NE
Machine Learning and Data Science: Foundations, Concepts, Algorithms, and Tools
如今,数据是企业获得重要见解和提高绩效的动力。当今世界没有一个行业不使用数据。但是谁会得到这种洞察力呢?谁处理所有原始数据?一切都由数据分析师或数据科学家完成。
2022-02-15 cs.LG
Threat Classification on Deployed Optical Networks Using MIMO Digital Fiber Sensing, Wavelets, and Machine Learning
Nokia Bell Labs(诺基亚贝尔实验室);LTCI, Télécom Paris(巴黎高等电信学院LTCI实验室)
本文利用MIMO数字光纤传感输出的小波变换和迁移学习,在57公里运营光网络上实现了手提钻和挖掘机等机械威胁分类,现场数据准确率达93%。
2024-09-05 cs.LG eess.SP
Machine Learning enables Ultra-Compact Integrated Photonics through Silicon-Nanopattern Digital Metamaterials
University of Utah(犹他大学);School of Computing, University of Utah(犹他大学计算学院)
在这项工作中,我们展示了三个超紧凑的集成光子器件,这是通过机器学习算法结合时域有限差分(FDTD)建模设计的。通过将设计域数字化为“二进制像素”,这些数字超材料也很容易制造。通过展示各种器件(分束器和波导弯曲),我们展示了我们的方法的一般性。由于占地面积小于${λ_0}^2$,我们的设计是迄今为止报道的最小的设计之一。我们的方法将机器学习与数字超材料相结合,以实现超紧凑,可制造的设备,这可以为新的“光子学摩尔定律”提供动力。"
2020-11-27 cs.LG physics.app-ph physics.optics
Heliophysics Discovery Tools for the 21st Century: Data Science and Machine Learning Structures and Recommendations for 2020-2050
主要有三点:1.数据科学(DS)将对太阳物理学越来越重要; 2。太阳物理学科学发现的方法将不断发展,需要使用学习技术[例如,机器学习(ML)],其被严格应用并且能够支持发现;以及3.随着数据,技术和劳动力变化的步伐,太阳物理学需要一种新的方法来表示知识。
2022-12-26 astro-ph.IM astro-ph.SR cs.AI
The Fairness Field Guide: Perspectives from Social and Formal Sciences
University of Arkansas(阿肯色大学)
在过去的几年里,已经提出了一系列不同的方法来衡量机器学习模型的公平性。然而,尽管越来越多的出版物和实现,仍然缺乏文献来解释公平的机器学习与哲学,社会学和法律等社会科学的相互作用。我们希望通过积累和阐述社会和形式科学(特别是机器学习和统计学)在本领域指南中产生的公平机器学习的思想和讨论来解决这个问题。具体来说,除了给出几种流行的基于统计和因果关系的公平机器学习方法的数学和算法背景外,我们还解释了支持它们的基本哲学和法律思想。此外,我们从社会学和哲学的角度探讨了对当前公平机器学习方法的一些批评。我们希望本领域指南能够帮助公平的机器学习从业者更好地理解他们的算法如何与重要的人文价值观(如公平)保持一致,以及我们作为一个领域如何设计方法和指标,以更好地为受压迫和边缘化的民众服务。
2022-03-08 cs.AI cs.CY cs.LG
From Physics-Based Models to Predictive Digital Twins via Interpretable Machine Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校);Oden Institute for Computational Engineering and Sciences(奥登计算工程与科学研究所)
这项工作开发了一种方法,用于从代表各种资产状态的基于物理的模型库中创建数据驱动的数字孪生。使用可解释的机器学习更新数字孪生。具体来说,我们使用最优树-最近开发的可扩展的机器学习方法-训练一个可解释的数据驱动的分类器。分类器的训练数据使用由基于物理的模型库求解的模拟场景离线生成。这些数据可以使用实验数据或其他历史数据进一步扩充。在操作中,分类器使用来自资产的观测数据来推断模型库中的哪些基于物理的模型是更新的数字孪生的最佳候选。该方法通过为12英尺翼展的无人机开发结构数字孪生来演示。这个数字孪生模型是从一系列结构状态下车辆的降阶模型库中构建的。数据驱动的数字孪生会根据结构损坏或退化动态更新,并使飞机能够相应地重新规划安全任务。在这种情况下,我们研究的最佳树分类器的性能,并展示了如何解释它们的可解释性,使稀疏传感器测量的结构评估,并通知最佳传感器的位置。
2020-04-28 cs.CE cs.LG
Model-Based Machine Learning for Joint Digital Backpropagation and PMD Compensation
Chalmers University(查尔姆斯大学);Duke University(杜克大学);Eindhoven University of Technology(埃因霍温理工大学)
我们提出了一种基于模型的机器学习方法的偏振复用系统参数化的分裂步骤的方法Manakov-PMD方程。该方法执行硬件友好的DBP和分布式PMD补偿,其性能接近无PMD的情况。
2020-01-25 cs.IT cs.LG eess.SP
Machine learning for Earth System Science (ESS): A survey, status and future directions for South Asia
Indian Institute of Tropical Meteorology(印度热带气象研究所);Jackson School of Geosciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校杰克逊地球科学学院);Indian Institute of Technology Bombay(印度理工学院孟买分校);Indian Institute of Science(印度科学理工学院);Borehole Geophysics Research Laboratory(钻孔地球物理研究实验室)
本次调查的重点是当前地球系统科学中的问题,机器学习算法可以应用。它概述了以前的工作,印度政府地球科学部正在进行的工作,以及ML算法在一些重大地球科学问题中的未来应用。我们提供了以前的工作与本调查的比较,与机器学习相关的多维领域的思维导图和Gartner的地球系统科学(ESS)中机器学习的炒作周期。我们主要关注地球科学中的关键组成部分,包括大气,海洋,地震和生物圈,并涵盖AI/ML应用于统计降尺度和预测问题。
2021-12-24 cs.LG physics.ao-ph
Open science in machine learning
Leiden University(莱顿大学);TU Berlin(柏林工业大学);National ICT Australia(澳大利亚国家信息与通信技术研究院)
我们提出OpenML和mldata,开放的科学平台,提供方便地访问机器学习数据,软件和结果,以鼓励进一步的研究和应用。它们超越了更传统的数据集和软件包的存储库,因为它们允许研究人员也很容易地分享他们在实验中获得的结果,并将他们的解决方案与其他人的解决方案进行比较。
2014-02-24 cs.DL cs.LG
Machine learning based digital twin for stochastic nonlinear multi-degree of freedom dynamical system
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校);Indian Institute of Technology Delhi(印度理工学院德里分校)
数字孪生技术的潜力是巨大的,特别是在基础设施、航空航天和汽车领域。然而,该技术的实际实施并没有达到预期的速度,特别是因为缺乏特定于应用的细节。针对随机非线性多自由度动力系统,提出了一种新的数字孪生框架。本文提出的方法战略性地将问题分解为两个时间尺度--(a)控制系统动态的快速时间尺度和(b)控制系统退化的慢速时间尺度。拟议的数字孪生模型有四个组成部分-(a)基于物理的名义模型(低保真),(b)贝叶斯过滤算法,(c)监督机器学习算法,(d)预测未来反应的高保真模型。采用基于物理的标称模型结合贝叶斯滤波的方法进行参数状态估计,并采用有监督的机器学习算法学习参数的时间演化。虽然所提出的框架可以与贝叶斯滤波和机器学习算法的任何选择一起使用,但我们建议使用无迹卡尔曼滤波器和高斯过程。所提出的方法的性能说明使用两个例子。结果表明,所提出的数字孪生框架的适用性和优异的性能。
2021-03-29 cs.LG stat.ML
Forensic Activity Classification Using Digital Traces from iPhones: A Machine Learning-based Approach
Amsterdam University of Applied Sciences, Faculty of Technology(阿姆斯特丹应用科学大学技术学院)
本文提出了一种基于机器学习的方法,利用iPhone的数字痕迹区分不同身体活动,通过新数据集验证了其在犯罪调查中的应用价值。
2025-12-03 cs.LG
Forestry digital twin with machine learning in Landsat 7 data
Shannxi Province Climate center(陕西省气候中心)
利用历史数据对森林进行建模可以更准确地进行进化分析,从而为其他研究提供重要基础。遥感作为公认的有效工具,在林业分析中发挥着重要作用。我们可以用它来获得有关森林的信息,包括树木类型,覆盖率和郁闭度。利用统计量进行森林时间序列建模的研究较多,而利用遥感影像进行建模的研究较少。图像预测数字孪生是数字孪生的一种实现方式,其目的是根据历史数据预测未来的图像。在本文中,我们提出了一种基于LSTM的数字孪生森林建模方法,使用Landsat 7遥感图像在20年内。实验结果表明,本文提出的预测孪生方法能够有效地预测研究区未来影像。
2022-04-02 cs.CV cs.LG
A Perspective on Symbolic Machine Learning in Physical Sciences
Qatar Computing Research Institute(卡塔尔计算研究所)
本文从视角角度探讨符号机器学习在物理科学中的应用,强调其与数值机器学习互补,以应对深度神经网络不可解释性,并加速物理发现。
2025-02-25 cs.LG hep-ph hep-th
Methodological Blind Spots in Machine Learning Fairness: Lessons from the Philosophy of Science and Computer Science
Columbia University(哥伦比亚大学)
在ML公平性文献中,很少有通过哲学观点进行的调查,这是一个鼓励对基本假设进行批判性评估的镜头。本文的目的是使用科学哲学和计算机科学中的三个思想来梳理ML公平性假设中的盲点:抽象,归纳和测量。通过本研究,我们希望能够警示这些方法论盲点,并鼓励通过哲学框架对公平机器学习进行进一步的跨学科研究。
2019-10-31 cs.CY cs.LG
Machine learning for fraud detection in digital banking: a systematic literature review REVIEW
Daffodil International University(达福迪尔国际大学)
该综述基于118项研究,系统梳理了机器学习在数字银行欺诈检测中的应用,发现监督学习仍为主流,深度学习和混合模型在应对新欺诈模式上展现出更高适应性与准确性。
2025-10-04 cs.LG
Fraternal Twins: Unifying Attacks on Machine Learning and Digital Watermarking
Technische Universität Braunschweig(不伦瑞克工业大学)
机器学习越来越多地用于安全关键型应用,例如自动驾驶、人脸识别和恶意软件检测。然而,大多数学习方法的设计都没有考虑到安全性,因此容易受到不同类型的攻击。这个问题激发了对抗性机器学习的研究领域,即攻击和防御的学习方法。与此同时,另一种研究方法也解决了一个非常类似的问题:在数字水印中,在存在对手的情况下,信息被嵌入信号中。因此,该研究领域也广泛地研究了用于攻击和防御水印方法的技术。到目前为止,这两个研究团体一直在并行工作,不知不觉地开发出了类似的攻击和防御策略。本文是将这些社区聚集在一起的第一次努力。为此,我们提出了一个统一的符号黑盒攻击对机器学习和水印,揭示了这两个设置的相似性。为了证明这种统一观点的有效性,我们将水印的概念应用于机器学习,反之亦然。我们表明,水印的对策可以减轻最近模型窃取攻击,同样,硬化机器学习的技术可以抵御对水印的预言攻击。我们的工作提供了两个研究领域之间的概念联系,从而为提高机器学习和数字水印的安全性开辟了新的方向。
2017-03-16 cs.CR cs.LG
Robust and continuous machine learning of usage habits to adapt digital interfaces to user needs
Orange Labs Grenoble(Orange 实验室格勒诺布尔分部)
本文提出一种基于贝叶斯统计和在线增量学习的机器学习方法,通过建模个体使用习惯动态生成任务模型,使数字界面在平稳和非平稳环境中自适应不同用户,从而改善导航与操作体验。
2025-09-10 cs.LG
Comparison of Machine Learning Models to Classify Documents on Digital Development
University of Moratuwa(穆塔瓦大学)
本研究针对数字发展领域的文档分类任务,对比7种机器学习算法性能,采用过采样处理类别不平衡,探究一对多策略构建组合模型,指出类内相似度、类间差异等特征与数据量同样影响分类效果。
2025-10-02 cs.LG
Optimization paper production through digitalization by developing an assistance system for machine operators including quality forecast: a concept
Fraunhofer Institute for Process Engineering and Packaging(弗劳恩霍夫过程工程与包装研究所);Consulting Talents AG(Consulting Talents股份公司);University Siegen(锡根大学);LEIPA Group GmbH(LEIPA集团有限公司)
如今,跨行业的挑战包括减少温室气体排放和实现循环经济。然而,从废纸生产纸张仍然是一项高度资源密集的任务,特别是在能源消耗方面。虽然造纸机产生大量数据,但我们已经发现缺乏对数据的利用,并使用操作员辅助系统和最先进的机器学习技术实现了一个概念,例如,分类、预报和警报洪水处理算法,以支持日常操作员任务。我们的主要目标是利用现有数据为机器操作员提供特定情况的知识。我们预计这将导致更好地调整参数,从而降低造纸机的占地面积。
2022-06-23 cs.AI cs.HC cs.LG
OpenML: networked science in machine learning
Eindhoven University of Technology(埃因霍温理工大学);Leiden University(莱顿大学);Technische Universität Dortmund(多特蒙德工业大学);INESC Tec;University of Porto(波尔图大学)
许多科学通过采用在线工具来帮助组织,结构和挖掘过于详细而无法在期刊上打印的信息,从而取得了重大突破。在本文中,我们介绍了OpenML,这是一个机器学习研究人员可以共享和组织数据的地方,以便他们能够更有效地工作,更加可见,并与其他人合作解决更困难的问题。我们将讨论OpenML如何与其他网络科学的例子联系起来,以及它为机器学习研究、科学家个人以及学生和从业者带来了什么好处。
2014-08-01 cs.CY cs.LG
SmartKex: Machine Learning Assisted SSH Keys Extraction From The Heap Dump
University of Passau(帕绍大学);Reykjavík University(雷克雅未克大学)
数字取证是在数字设备中提取、保存和记录证据的过程。数字取证中常用的方法是从数字设备的主存储器中提取数据。然而,主要的挑战是确定要提取的重要数据。主内存中有几条关键信息,如用户名、密码和加密密钥(如SSH会话密钥)。在本文中,我们提出了SmartKex,一个机器学习辅助的方法来提取会话密钥从堆内存快照的OpenSSH进程。此外,我们还发布了一个开放的数据集和相应的工具链,用于创建额外的数据。最后,我们比较了SmartKex与朴素的蛮力方法,并实证表明,SmartKex可以提取会话密钥具有高精度和高吞吐量。利用所提供的资源,我们打算加强对数字取证、网络安全和机器学习之间交叉点的研究。
2022-09-13 cs.CR cs.LG
Machine learning in the social and health sciences
University of Luxembourg(卢森堡大学);Stanford University(斯坦福大学);University of Edinburgh(爱丁堡大学)
机器学习(ML)方法在社会和健康科学中的应用相当缓慢,使用ML进行社会和健康研究问题的研究仍然是分散的。这可能是由于计算/数据与社会和健康科学研究的单独发展,以及缺乏可访问的概述和非数据科学研究人员在ML技术方面的充分培训。本文通过将必要的要求纳入这些学科的统计分析,将社会和健康科学中的研究问题映射到适当的ML方法。我们将已建立的分类映射到描述,预测和因果推理到共同的研究目标,例如估计不良健康或社会后果的患病率,预测事件的风险,并确定不良后果的风险因素或原因。这一元映射旨在克服学科障碍,并在社会和健康科学研究人员与受过方法学培训的研究人员之间开始流畅的对话。这种映射也可能有助于充分利用ML的好处,同时考虑与社会和健康科学相关的特定领域方面,并希望有助于加速ML应用的吸收,以推进基础和应用社会和健康科学研究。
2021-06-20 cs.LG
EngageTriBoost: Predictive Modeling of User Engagement in Digital Mental Health Intervention Using Explainable Machine Learning
本研究提出EngageTriBoost模型,通过可解释机器学习分析用户行为模式,提升数字心理健康干预的采用率和效果,准确率达84%。
2026-03-31 cs.LG
Probabilistic machine learning based predictive and interpretable digital twin for dynamical systems
Indian Institute of Technology Delhi(印度理工学院德里分校);University of Glasgow(格拉斯哥大学)
提出了一种从基于物理的函数库中创建和更新动力系统数字孪生的框架。稀疏贝叶斯机器学习用于更新和导出数字孪生的可解释表达式。提出了两种更新数字孪生模型的方法。第一种方法利用来自动力系统的输入和输出信息,而第二种方法利用仅输出的观测来更新数字孪生。这两种方法都使用代表某些物理的候选函数库来推断现有数字孪生模型中的新扰动项。在这两种情况下,更新后的数字孪生子的表达是相同的,此外,认知的不确定性被量化。在第一种方法中,回归问题是从一个状态空间模型,而在后一种情况下,输出的唯一信息被视为一个随机过程。利用伊藤演算和Kramers-Moyal展开的概念导出回归方程。所提出的方法的性能证明使用高度非线性动力系统,如裂纹退化问题。数值结果表明,本文几乎准确地确定正确的扰动项及其相关参数的动力系统。所提出的方法的概率性质也有助于量化与更新模型相关的不确定性。所提出的方法提供了对数字孪生模型中扰动的准确和可解释的描述,可直接用于更好的网络物理集成、长期未来预测、退化监测和模型不可知控制。
2022-12-19 cs.LG stat.ML
The Scientific Method in the Science of Machine Learning
Project Jupyter(Jupyter项目);Facebook AI Research(脸书人工智能研究院)
在寻求将深度学习与科学结合起来,以解决机器学习系统中对严谨性、安全性和可解释性的要求时,这篇文章确定了关键的缺失部分:假设制定和测试的阶段,以及统计和系统的不确定性估计--科学方法的核心原则。这份立场文件讨论了当代科学在其他领域开展的方式,并确定了可能有用的做法。我们提出了一个物理学的案例研究,并描述了这个领域如何通过具体的方法实践来提高严谨性,并就机器学习研究人员如何将这些实践应用到研究生态系统中提供了建议。我们认为,无论是领域驱动的实验,还是机器学习模型基本构建块内部工作原理的应用不可知论问题,都应该用科学方法的工具来研究,以确保我们不仅理解效果,而且开始理解原因,这是科学存在的理由。
2019-04-24 cs.LG stat.ML
Machine Learning Interpretability: A Science rather than a tool
Institute of Integrated and Intelligent Systems, Griffith University(格里菲斯大学集成与智能系统研究所)
术语“可解释性”经常被机器学习研究者使用,每个人都有自己的直观理解。在机器学习中,对可解释性没有一个普遍认同的定义。由于任何类型的科学学科主要是由一套公式化的问题驱动的,而不是由该学科中的不同工具驱动的,例如天体物理学是学习恒星组成的学科,而不是使用分光镜的学科。类似地,我们建议机器学习可解释性应该是一门回答与可解释性相关的特定问题的学科。这些问题可以是统计、因果和反事实性质的。因此,有必要在需要解决的问题而不是不同工具的背景下研究机器学习的可解释性问题。我们讨论了一个假设的可解释性框架,该框架由基于问题的科学方法驱动,而不是由某些特定的机器学习模型驱动。使用基于问题的可解释性概念,我们可以进一步理解机器学习的科学,而不是它的工程。这个概念也将帮助我们更深入地理解任何特定的问题,而不是仅仅依赖于机器学习方法。
2018-07-25 cs.LG stat.ML
Interpretable and Explainable Machine Learning for Materials Science and Chemistry
Massachusetts Institute of Technology(麻省理工学院);Microsoft AI for Good Research Lab(微软AI向善研究实验室);Rutherford Appleton Laboratory(卢瑟福·阿普尔顿实验室);University of Reading(雷丁大学)
虽然材料科学和化学的数据驱动方法的采用处于令人兴奋的早期阶段,但要实现机器学习模型在成功科学发现中的真正潜力,它们必须具有超越纯粹预测能力的品质。模型的预测和内部工作应该提供一定程度的可解释性,允许识别潜在的模型问题或限制,建立对模型预测的信任,并揭示可能导致科学见解的意外相关性。在这项工作中,我们总结了可解释性和可解释性技术在材料科学和化学中的应用,并讨论了这些技术如何提高科学研究的结果。我们讨论了在材料科学和更广泛的科学环境中可解释机器学习的各种挑战。特别是,我们强调通过纯粹解释机器学习模型来推断因果关系或达到泛化的风险,以及模型解释的不确定性估计的必要性。最后,我们展示了其他领域的一些令人兴奋的发展,这些发展可能有利于材料科学和化学问题的可解释性。
2021-11-03 cond-mat.mtrl-sci cs.LG
Machine learning based digital twin for dynamical systems with multiple time-scales
Indian Institute of Technology Delhi(印度理工学院德里分校);Swansea University(斯旺西大学)
数字孪生技术在基础设施、航空航天和汽车等不同工业领域具有广泛应用的巨大潜力。然而,这项技术的实际采用速度较慢,主要是由于缺乏特定于应用程序的细节。在这里,我们专注于一个数字孪生框架的线性单自由度结构动力系统,除了其内在的动态时间尺度在两个不同的操作时间尺度演变。我们的方法战略上分为两个组成部分-(a)基于物理的标称模型的数据处理和响应预测,和(b)数据驱动的机器学习模型的系统参数的时间演变。基于物理的标称模型是系统特定的,并且基于所考虑的问题来选择。另一方面,数据驱动的机器学习模型是通用的。为了跟踪系统参数的多尺度演化,我们建议利用混合专家作为数据驱动模型。在混合专家模型中,采用高斯过程(GP)作为专家模型。其主要思想是让每个专家在一个单一的时间尺度上跟踪系统参数的演变。为了学习“混合专家使用GP”的超参数,一个有效的框架,利用期望最大化和序贯蒙特卡罗采样器。数字孪生的性能示出了一个多时间尺度的动态系统的刚度和/或质量的变化。数字孪生被认为是强大的,并产生合理的准确结果。拟议中的数字孪生模型的一个令人兴奋的功能是它能够在未来的时间步长提供合理的预测。还调查了与数据质量和数据量有关的方面。
2020-06-14 cs.LG stat.ML
A compendium of data sources for data science, machine learning, and artificial intelligence
Imperial College London(帝国理工学院);Thalesians Marine Ltd(Thalesians海事有限公司);Turnleaf Analytics Ltd(Turnleaf分析有限公司)
本文针对大型语言模型等发展带来的数据需求,提供了一份跨金融、法律、生命科学等多个应用领域的全面数据源概览,以惠及各级数据科学家与机器学习专家。
2023-09-10 cs.AI cs.DB cs.LG
Spiral Model Technique For Data Science & Machine Learning Lifecycle
本文提出螺旋模型技术,将数据科学和机器学习生命周期应用于有明确目标的商业问题,强调灵活性、敏捷性和迭代性。
2025-10-08 cs.IR cs.LG cs.SE
A Machine Learning-based Digital Twin for Electric Vehicle Battery Modeling
Politecnico di Torino(都灵理工大学)
电动车辆(EV)的广泛采用受限于它们对电池的依赖,与液体燃料相比,电池目前具有低能量和功率密度,并且随着时间的推移会老化和性能劣化。出于这个原因,在EV寿命期间监测电池充电状态(SOC)和健康状态(SOH)是一个非常相关的问题。这项工作提出了一种电池数字孪生结构,旨在准确地反映电池动态的运行时间。为了确保非线性现象的高度正确性,数字孪生依赖于根据电池随时间演变的痕迹进行训练的数据驱动模型:SOH模型,重复执行以估计最大电池容量的退化,以及SOC模型,定期重新训练以反映老化的影响。所提出的数字孪生结构将在公共数据集上举例说明,以激励其采用并证明其有效性,具有高准确性以及与板载执行兼容的推理和再训练时间。
2022-06-16 cs.AI cs.LG cs.NA
Corporate Disruption in the Science of Machine Learning
University College London(伦敦大学学院)
这篇硕士论文考虑了当前企业利益对机器学习领域研究人员的影响。位于该领域的学术,公众和企业利益的周期性历史,本文探讨了当前的研究人员如何看待最近的发展和谈判自己的研究实践中增加的商业利益和资金的环境。最初的研究包括对12位在学术界和工业界工作的机器学习研究人员的深入采访。从科学,技术和社会研究的理论基础上,本论文质疑学术研究的新自由主义化的传统叙事,让研究人员自己讨论他们的职业选择,工作环境和与他人的互动在该领域已受到近年来重振企业利益的影响。
2016-12-13 cs.CY cs.LG
Dissertation Machine Learning in Materials Science -- A case study in Carbon Nanotube field effect transistors
UNIVERSITY OF CALIFORNIA Los Angeles(加州大学洛杉矶分校)
本论文以碳纳米管场效应晶体管为例,探索了神经网络、基于模拟的推理和生成流网络等机器学习技术在预测器件性能、探测网络导电特性及生成加工信息方面的应用。
2025-01-19 cond-mat.mes-hall cs.LG physics.app-ph
Interpretable Machine Learning Models for the Digital Clock Drawing Test
MIT Computer Science And Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室);Boston University School of Medicine(波士顿大学医学院);Lahey Hospital and Medical Center(莱希医院与医疗中心)
时钟绘制测试(CDT)是一种快速,廉价和流行的神经心理学筛查工具,用于认知条件。数字时钟绘图测试(dCDT)使用新颖的软件来分析来自数字化圆珠笔的数据,该圆珠笔以相当高的空间和时间精度报告其位置,从而可以分析绘图过程和最终产品。我们开发了一种方法来分析这些图纸中的笔画数据,并计算了大量的特征,然后用各种机器学习技术进行分析。由此产生的评分系统被设计为比临床医生目前使用的系统更准确,但同样易于解释和使用。该系统还允许我们量化准确性和可解释性之间的权衡。我们创建了临床医生目前使用的CDT评分系统的自动化版本,使我们能够对我们的模型进行基准测试,这表明我们的机器学习模型大大优于现有的评分系统。
2016-06-23 cs.LG stat.ML
Data science and Machine learning in the Clouds: A Perspective for the Future
TCS Research(塔塔咨询服务公司研究院)
随着科学领域范式转变的开始,数据驱动科学(所谓的第四科学范式)将成为研究和创新的驱动力。从医学到生物多样性,从天文学到地质学,所有这些术语都将在某种程度上受到这种范式转变的影响。在这种新模式下处理的大量数据将是未来的主要问题,并且在这些计算的所有方面(从存储到计算和其他服务)都强烈需要基于云的服务。另一个方面将是在这样一个科学范式中预测工作和任务的能耗和性能,这将改变人们看待计算的方式。数据科学已经严重影响或触发了机器学习、信号/图像/视频处理相关算法、人工智能、机器人技术、健康信息学、地理信息学以及更多感兴趣的领域的出现。因此,我们设想一个数据科学可以在现有的基于云的平台和服务的帮助下实现其承诺的时代,并增加新的服务。在这篇文章中,我们讨论了数据驱动科学和机器学习,以及它们在未来如何通过基于云的服务联系起来。它还讨论了近似计算,量子计算等范例的兴起,以及它们在云环境中的大数据处理,数据科学,分析,预测和机器学习中的适用性。
2021-09-02 cs.DC cs.LG cs.PF
A framework for causal segmentation analysis with machine learning in large-scale digital experiments
Netflix(Netflix(奈飞))
我们提出了一个端到端的因果段发现的方法框架,旨在揭示大规模数字实验中用户亚组之间治疗的差异影响。基于因果推断和非/半参数统计的最新发展,我们的方法统一了两个目标:(1)发现基于亚组特定处理效应的候选治疗受益的用户细分,以及(2)基于其预测的细分特定受益或损害,动态分配单位到研究治疗组的因果影响评估。我们的建议是模型不可知的,能够将国家的最先进的机器学习算法的估计过程,并适用于随机A/B测试和准实验。介绍了一个开源的R包实现Sherlock。
2021-11-01 cs.LG stat.AP stat.ME
Constructing Effective Machine Learning Models for the Sciences: A Multidisciplinary Perspective
University of Luxembourg(卢森堡大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
从数据中学习已经导致了许多学科的实质性进步,包括文本和多媒体搜索、语音识别和车载导航。机器学习能在自然科学和社会科学领域实现类似的飞跃吗?这当然是许多科学领域的期望,近年来已经看到了大量的非线性模型应用于广泛的数据集。然而,灵活的非线性解决方案并不总是在手动将变量之间的转换和交互添加到线性回归模型时得到改进。我们将讨论如何在构建数据驱动模型之前认识到这一点,以及这种分析如何帮助我们转向本质上可解释的回归模型。此外,对于自然科学和社会科学中的各种应用,我们证明了为什么可以看到更复杂的回归模型的改进,为什么他们可能不会。
2022-11-21 cs.LG stat.ML
An Atomistic Machine Learning Package for Surface Science and Catalysis
Stanford University(斯坦福大学);SUNCAT Center for Interface Science and Catalysis(SUNCAT界面科学与催化中心)
我们目前的工作流程和软件模块的机器学习模型建立在表面科学和多相催化。这包括从3D结构和/或连接性信息指纹识别原子结构,它包括描述符选择方法和基准,并且它包括用于原子结构优化的主动学习框架,加速筛选研究和用于探索纳米颗粒的结构空间,这些都是与表面科学和多相催化相关的原子结构问题。我们的总体目标是提供一个存储库,以简化催化的机器学习模型构建,使模型超越用户的化学直觉,并提高探索化学空间的自主性。
2019-04-01 cs.LG physics.chem-ph physics.comp-ph
ML4Chem: A Machine Learning Package for Chemistry and Materials Science
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
ML4Chem是一个用于化学和材料科学的开源机器学习库。它提供了一个可扩展的平台来开发和部署机器学习模型和管道,并针对非专家和专家用户。ML4Chem遵循用户体验设计,并提供从数据准备到推理所需的工具。在这里,我们将介绍其原子模块的实现,部署和原子为中心的模型的可重复性。该模块由六个核心构建块组成:数据、特征化、模型、模型优化、推理和可视化。我们提出了他们的功能和易用性,利用神经网络和核岭回归算法的演示。
2020-03-02 cond-mat.mtrl-sci cs.LG physics.chem-ph
Machine Learning for Computational Science and Engineering -- a brief introduction and some critical questions
University of Bolton(博尔顿大学)
人工智能(AI)正在进入科学、技术、工程、艺术和管理的各个子领域。由于研究基金的大肆宣传和可用性,它正在被改编成许多领域没有太多的思考。计算科学与工程(CS&E)就是这样一个子领域。通过强调围绕CS&E适应机器学习(ML)的问题和挑战的一些关键问题,其中大多数在期刊论文中经常被忽视,本文希望为CS\&E及相关领域的ML适应应用提供一些见解。这是一篇针对普通读者和ML和/或CS\&E领域新研究人员的通用文章。本文的工作仅针对计算科学和工程中的前沿问题。还提供了一些基本方程和MATLAB代码,以帮助读者理解基础知识。
2021-12-22 cs.CE cs.LG physics.comp-ph
Lessons from the trenches on evaluating machine-learning systems in materials science
Friedrich Schiller University Jena(耶拿弗里德里希·席勒大学);Helmholtz Institute for Polymers in Energy Applications Jena(耶拿亥姆霍兹能源应用聚合物研究所)
本文从统计测量理论视角系统综述了材料科学中机器学习系统的评估框架,识别了构念效度、数据质量、度量设计和基准维护等关键挑战,并提出“评估卡片”以提升评估透明度,为其他科学领域提供借鉴。
2025-05-06 cond-mat.mtrl-sci cs.LG
OpenTwins: An open-source framework for the design, development and integration of effective 3D-IoT-AI-powered digital twins
University of Malaga(马拉加大学)
尽管数字孪生最近已经成为可靠资产表示的明确替代方案,但可用于开发数字孪生的大多数解决方案和工具都是针对特定环境量身定制的。此外,实现可靠的数字孪生通常需要协调机器学习、物联网和3D可视化等技术和范式,而这些技术和范式很少无缝对齐。在本文中,我们提出了一个通用的框架,有效的数字孪生结合上述领域的发展。在这个开放式框架中,可以轻松开发数字孪生,并与3D连接可视化、物联网数据流和实时机器学习预测进行协调。为了证明该框架的可行性,在石化工业4.0的用例已经开发。
2023-01-12 cs.LG cs.SE
Bridging Machine Learning and Sciences: Opportunities and Challenges
Mila, University of Montreal(米拉,蒙特利尔大学)
本文审视机器学习尤其是深度神经网络分布外检测在科学领域的应用前景,分析数据普适性、实验协议与稳健性等挑战,为跨学科研究范式提供起点。
2023-11-02 cs.LG hep-ex hep-ph
Advances in Machine Learning for the Behavioral Sciences
University of Economics Prague(布拉格经济大学);Johannes Kepler Universität Linz(约翰内斯·开普勒林茨大学)
近年来,机器学习和数据库中的知识发现领域已经相当成熟。在这篇文章中,我们简要回顾了最近的发展以及经典的算法,经得起时间的考验。我们的目标是提供对不同任务的一般介绍,例如从表格数据,行为数据或文本数据中学习,特别关注行为科学中的实际和潜在应用。本文的补充附录还通过向读者指出经过验证的软件实现,为使用这些方法提供了实用的指导。重点是R,但我们也涵盖了其他程序设计语言的一些库以及具有易于使用的图形界面的系统。
2019-11-08 cs.CL cs.LG stat.ML
Short text classification with machine learning in the social sciences: The case of climate change on Twitter
Stockholm University(斯德哥尔摩大学)
本文针对社会科学研究中小规模标注、类别低频的短文本分类难题,以气候变化相关Twitter推文分类为案例,对比多种文本分类器性能,发现传统机器学习方法效果媲美深度学习且资源需求更低。
2023-10-03 cs.CL cs.LG stat.ME
Contemporary machine learning: a guide for practitioners in the physical sciences
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
机器学习在物理科学中的应用越来越广泛。这通常涉及在相关的、可测量的输出和相关的一组可控的、但复杂的、独立的输入之间建立模型关系。我们提供了一个关于机器学习当前技术的教程--这是感兴趣的研究人员推进他们工作的一个起点。我们专注于深度神经网络,重点是揭开深度学习的神秘面纱。我们从机器学习的背景思想和当前等离子体物理研究中的一些示例应用开始。我们讨论了用于建模复杂函数的监督学习技术,从熟悉的回归方案开始,然后推进到更复杂的深度学习方法。我们还讨论了无监督学习和降低输入空间维数的技术。在此过程中,我们描述了从业者的方法,以帮助确保他们的模型从训练数据推广到尚未看到的测试数据。我们描述了任务的类别-预测标量,处理图像,拟合时间序列-并准备读者选择适当的技术。最后,我们指出了现代机器学习的一些局限性,并推测了物理科学从业者可能特别适合提供帮助的一些方式。
2017-12-20 cs.LG math-ph math.MP