Transforming gradient-based techniques into interpretable methods
EPITA(EPITA学院);Univ Gustave Eiffel(古斯塔夫·埃菲尔大学)
针对基于梯度的xAI方法解释CNN时生成的图像噪声大的问题,提出辅助框架GAD,通过限制可视化分析范围突出类别区分的影响区域,经遮挡图像实验验证其识别区域对类别区分有关键作用。
2024-05-15 cs.AI cs.CV cs.LG
From Equations to Algorithms and Data: Transforming Microwave Engineering and Education with Machine Learning
本文提出用机器学习和数据驱动电磁合成方法,革新微波工程教育,通过性能导向的设计探索提升学生对电磁行为的理解,使教育更符合高频和超宽频系统设计需求。
2026-04-13 cs.ET cs.LG eess.SP
Transforming Bell's Inequalities into State Classifiers with Machine Learning
Tsinghua University(清华大学);Southern University of Science and Technology(南方科技大学)
量子信息科学深刻地改变了我们理解、存储和处理信息的方式。这一领域的一个主要挑战是寻找一种有效的方法对量子态进行分类。例如,人们可能想要确定给定的量子态是否纠缠。然而,完整表征量子态的过程(称为量子态层析成像)通常是消耗资源的操作。一个有吸引力的建议是使用贝尔不等式作为纠缠见证,其中只需要量子态的部分信息。问题是纠缠是必要的,但不足以违反贝尔不等式,使其成为不可靠的状态分类器。在这里,我们的目标是通过机器学习的方法来解决这个问题。更准确地说,给定一个量子态族,我们随机选取其中的一个子集来构建量子态分类器,只接受每个量子态的部分信息。我们的结果表明,这些转换后的贝尔型不等式可以显着优于原来的贝尔不等式分类纠缠态。我们进一步将我们的分析扩展到三量子比特和四量子比特系统,将量子态分类为多个种类。这些结果展示了机器学习中的工具如何应用于解决量子信息科学中的问题。
2017-05-02 cs.LG quant-ph
Transforming Triple-Entry Accounting with Machine Learning: A Path to Enhanced Transparency Through Analytics
AI Experts(AI专家机构);University of Birmingham Dubai(迪拜伯明翰大学)
本文探讨三式记账与机器学习的结合,通过自动化数据收集分析、异常识别和交易关系挖掘,提升大型组织财务透明度与可信度。
2024-11-19 cs.CR cs.LG
Transforming Multidimensional Time Series into Interpretable Event Sequences for Advanced Data Mining
Trine University(特莱恩大学);Carnegie Mellon University(卡内基梅隆大学);Washington University in St. Louis(华盛顿大学圣路易斯分校)
针对多维时间序列分析传统方法的局限,提出一种将其转为空间演化事件一维序列的无监督时空特征表示模型,通过可变长度元组挖掘提取特征,经运动序列分类实验验证性能优越,为多领域时间序列数据挖掘应用提供新支撑。
2024-10-08 cs.AI cs.LG
Inside Out: Transforming Images of Lab-Grown Plants for Machine Learning Applications in Agriculture
University of Manitoba(曼尼托巴大学);University of Winnipeg(温尼伯大学)
本研究采用CUT-GAN和图像处理技术将室内植物图像转换为田间图像,并扩展生成多植物图像,用于训练YoloV5 nano目标检测模型,显著提升了在真实田间数据上的植物检测性能。
2022-11-05 cs.CV cs.LG
Hearing Your Blood Sugar: Non-Invasive Glucose Measurement Through Simple Vocal Signals, Transforming any Speech into a Sensor with Machine Learning
Istanbul Technical University(伊斯坦布尔技术大学)
针对传统血糖监测有创、现有无创技术存在局限的问题,本研究提出基于语音分析的无创血糖预测方法,通过机器学习结合逻辑回归与岭正则化构建模型,验证了语音与血糖的显著相关性,为糖尿病管理提供了低成本无痛的新方案。
2024-08-15 cs.LG cs.SD eess.AS
InterpretML: A Unified Framework for Machine Learning Interpretability
Microsoft Corporation(微软公司)
InterpretML是一个开源Python包,它向从业者和研究人员公开了机器学习可解释性算法。InterpretML公开了两种类型的可解释性-玻璃盒模型,这是为可解释性而设计的机器学习模型(例如:线性模型,规则列表,广义加法模型),以及用于解释现有系统的黑盒可解释性技术(例如:部分依赖,LIME)。该软件包使从业者能够通过在统一的API下公开多个方法,并通过内置的可扩展可视化平台轻松比较可解释性算法。InterpretML还包括可解释的提升机的第一个实现,这是一个强大的、可解释的玻璃盒模型,可以像许多黑盒模型一样准确。MIT许可源代码可以从github.com/microsoft/interpret下载。
2019-09-19 cs.LG stat.ML
Transforming Traditional Neural Networks into Neuromorphic Quantum-Cognitive Models: A Tutorial with Applications
Artificial Intelligence and Cyber Futures Institute, Charles Sturt University(查尔斯斯特大学人工智能与网络未来学院);Cyber Futures Institute, Charles Sturt University(查尔斯斯特大学网络未来学院)
本文通过教程形式展示如何用普通笔记本电脑将前馈、循环、储备池和贝叶斯神经网络转化为量子启发模型,以优化训练并赋予类人认知特性,从而降低量子技术的使用门槛。
2025-03-10 cs.LG quant-ph
Proceedings of the 2018 ICML Workshop on Human Interpretability in Machine Learning (WHI 2018)
这是2018年7月14日在瑞典斯德哥尔摩举行的2018年ICML机器学习人类可解释性研讨会(WHI 2018)的会议记录。特邀发言人是Barbara Engelhardt、Cynthia Rudin、Fernanda Viégas和Martin Wattenberg。
2018-07-03 cs.LG stat.ML
Proceedings of the 2017 ICML Workshop on Human Interpretability in Machine Learning (WHI 2017)
这是2017年ICML机器学习中人类可解释性研讨会(WHI 2017)的会议记录,该研讨会于2017年8月10日在澳大利亚悉尼举行。受邀演讲者是Tony Jebara、Pang Wei Koh和David Sontag。
2017-08-08 cs.LG stat.ML
Machine Learning Interpretability: A Science rather than a tool
Institute of Integrated and Intelligent Systems, Griffith University(格里菲斯大学集成与智能系统研究所)
术语“可解释性”经常被机器学习研究者使用,每个人都有自己的直观理解。在机器学习中,对可解释性没有一个普遍认同的定义。由于任何类型的科学学科主要是由一套公式化的问题驱动的,而不是由该学科中的不同工具驱动的,例如天体物理学是学习恒星组成的学科,而不是使用分光镜的学科。类似地,我们建议机器学习可解释性应该是一门回答与可解释性相关的特定问题的学科。这些问题可以是统计、因果和反事实性质的。因此,有必要在需要解决的问题而不是不同工具的背景下研究机器学习的可解释性问题。我们讨论了一个假设的可解释性框架,该框架由基于问题的科学方法驱动,而不是由某些特定的机器学习模型驱动。使用基于问题的可解释性概念,我们可以进一步理解机器学习的科学,而不是它的工程。这个概念也将帮助我们更深入地理解任何特定的问题,而不是仅仅依赖于机器学习方法。
2018-07-25 cs.LG stat.ML
Proceedings of the 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016)
这是2016年ICML机器学习中人类可解释性研讨会(WHI 2016)的会议记录,该研讨会于2016年6月23日在纽约举行。受邀演讲者有Susan Athey、Rich Caruana、Jacob Feldman、Percy Liang和Hanna Wallach。
2016-07-27 cs.LG stat.ML
Using Visual Analytics to Interpret Predictive Machine Learning Models
New York University Tandon School of Engineering(纽约大学坦登工程学院);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心)
通常认为,增加机器学习模型的可解释性可能会降低其预测能力。然而,使用可视化分析检查这些模型的输入输出关系,同时将其视为黑盒,可以帮助理解结果背后的推理,而不会牺牲预测质量。我们确定了一个空间的可能的解决方案,并提供了两个例子,这些技术已成功地用于实践。
2016-06-21 cs.LG stat.ML
General Pitfalls of Model-Agnostic Interpretation Methods for Machine Learning Models
LMU Munich(慕尼黑大学);Leibniz Institute for Prevention Research and Epidemiology – BIPS GmbH(莱布尼茨预防研究与流行病学研究所 – BIPS有限公司);University of Vienna(维也纳大学)
越来越多的用于机器学习(ML)模型的模型不可知解释技术,例如部分依赖图(PDP)、置换特征重要性(PFI)和Shapley值,提供了有洞察力的模型解释,但如果应用不当,可能会导致错误的结论。我们强调了ML模型解释的许多常见陷阱,例如在错误的上下文中使用解释技术,解释不能很好地泛化的模型,忽略高维环境中的特征依赖性,相互作用,不确定性估计和问题,或者做出不合理的因果解释,并通过示例进行说明。我们专注于描述平均模型行为的全局方法的陷阱,但许多陷阱也适用于解释单个预测的局部方法。我们的论文通过提高对陷阱的认识和确定正确模型解释的解决方案来解决ML从业者,但也通过讨论进一步研究的开放问题来解决ML研究人员。
2021-08-17 cs.LG stat.ML
Model Interpretation: A Unified Derivative-based Framework for Nonparametric Regression and Supervised Machine Learning
Wells Fargo(富国银行)
解释具有许多预测因子的非参数回归模型是一个具有挑战性的问题。由于机器学习算法的广泛使用以及理解和解释其输入-输出关系的困难,人们对这个主题重新产生了兴趣。本文使用基于导数的方法,在文献中现有的工具,包括部分依赖图,边际图和累积效应图开发了一个统一的框架。它提出了一种新的解释技术,称为累积总导数效应图,并演示了如何使用其组件来开发具有相关预测因子的复杂回归模型的广泛见解。通过仿真结果说明了该技术。
2018-09-08 cs.LG stat.ML
Transforming PageRank into an Infinite-Depth Graph Neural Network
TU Dortmund(多特蒙德工业大学)
流行的图神经网络是浅模型,尽管非常深的架构在深度学习的其他应用领域取得了成功。这降低了建模能力,使模型无法捕捉长期关系。浅设计的主要原因是过度平滑,这导致节点状态随着深度的增加而变得更加相似。我们建立在GNN和PageRank之间的密切联系上,个性化PageRank引入了个性化向量的考虑。采用这种思想,我们提出了个性化PageRank图神经网络(PPRGNN),它将图卷积网络扩展到无限深度模型,该模型有机会在每次迭代中将邻居聚合重置回初始状态。我们引入了一个很好的解释调整重置的机会,并证明了我们的方法收敛到一个独特的解决方案,而不放置任何约束,即使在无限多的邻居聚合。与个性化PageRank一样,我们的结果不会受到过度平滑的影响。在这样做的同时,时间复杂度保持线性,而我们保持内存复杂度不变,与网络的深度无关,使其能够很好地扩展到大型图。我们的经验表明,我们的方法对各种节点和图形分类任务的有效性。PPRGNN在几乎所有情况下都优于可比方法。
2022-07-01 cs.LG
A review of possible effects of cognitive biases on the interpretation of rule-based machine learning models
Prague University of Economics and Business(布拉格经济与商业大学);The Prague College of Psychosocial Studies(布拉格心理社会研究学院);Johannes Kepler University(约翰·开普勒大学)
虽然机器学习模型的可解释性通常等同于它们的语法可理解性,但我们认为可解释性不仅限于此,人类的可解释性也应该从认知科学的角度进行研究。本文的目标是讨论认知偏差在多大程度上可能影响人类对可解释的机器学习模型的理解,特别是从数据中发现的逻辑规则。涵盖了20种认知偏见,以及机器学习算法和软件的设计者可以采用的可能的去偏见技术。我们的综述将认知心理学中获得的结果转移到机器学习领域,旨在弥合这两个领域之间的差距。接下来需要进行专门针对机器学习领域的实证研究。
2021-09-13 cs.AI cs.LG stat.ML
Effects of data ambiguity and cognitive biases on the interpretability of machine learning models in humanitarian decision making
Delft University of Technology(代尔夫特理工大学)
机器学习算法的有效性取决于数据的质量和数量以及人类分析师的操作和解释。在人道主义应急行动中,数据往往缺乏或负担过重,因此含糊不清,而人道主义活动的时间紧迫、动荡和不安全的环境很可能造成认知偏差。研究了数据模糊性和认知偏差对人道主义决策中机器学习算法可解释性的影响。
2019-11-12 cs.HC cs.LG stat.ML
Integrating White and Black Box Techniques for Interpretable Machine Learning
Osaka Metropolitan University(大阪公立大学)
针对机器学习算法可解释性与性能难以兼顾的问题,提出一种集成分类器设计,用白盒模型处理简单输入、黑盒模型处理复杂输入,兼顾可解释性与性能。
2024-07-12 cs.LG
The Pros and Cons of Using Machine Learning and Interpretable Machine Learning Methods in psychiatry detection applications, specifically depression disorder: A Brief Review
Faculty of Computer Science and Engineering, Shahid Beheshti University(沙希德·贝赫什提大学计算机科学与工程学院)
本文简要综述了机器学习和可解释人工智能在抑郁症等精神病学检测应用中的优缺点,强调准确快速诊断及可理解诊断结果的重要性。
2023-11-11 cs.AI cs.LG
Machine learning for molecular simulation
Rice University(莱斯大学);University of Luxembourg(卢森堡大学);Technical University Berlin(柏林工业大学);Korea University(高丽大学)
机器学习(ML)正在改变所有科学领域。分子模拟中复杂而耗时的计算特别适合机器学习革命,并且已经受到现有ML方法应用的深刻影响。在这里,我们回顾了最近的ML方法的分子模拟,特别关注(深)神经网络的量子机械能和力的预测,粗粒度的分子动力学,提取自由能表面和动力学和生成网络的方法来采样分子平衡结构和计算热力学。为了解释这些方法并说明开放的方法问题,我们回顾了分子物理学的一些重要原理,并描述了如何将它们纳入机器学习结构。最后,我们确定并描述了ML和分子模拟之间的接口的开放挑战列表。
2019-11-07 cs.LG physics.chem-ph physics.comp-ph
Partially Interpretable Estimators (PIE): Black-Box-Refined Interpretable Machine Learning
University of Iowa(爱荷华大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了部分可解释估计器(PIE),它通过可解释模型将预测归因于单个特征,而PIE预测的一小部分(可能)归因于通过黑盒模型的特征相互作用,其目标是在保持可解释性的同时提高预测性能。因此,可解释的模型捕获特征的主要贡献,而黑盒模型试图通过捕获特征交互的“细微差别”作为细化来补充可解释的部分。我们设计了一个迭代训练算法来联合训练这两类模型。实验结果表明,PIE是非常有竞争力的黑箱模型,同时优于可解释的基线。此外,PIE的可理解性与通过人工评估验证的简单线性模型相当。
2021-05-06 cs.AI cs.LG
Interpreting Machine Learning Malware Detectors Which Leverage N-gram Analysis
University of Windsor(温莎大学)
在网络攻击检测和预防系统中,网络安全分析师总是喜欢像基于规则或基于签名的检测一样可解释和可理解的解决方案。这是因为需要调整和优化这些解决方案,以减轻和控制误报和漏报的影响。解释机器学习模型是一个全新的开放性挑战。然而,预期可解释的机器学习解决方案将是领域特定的。例如,医疗保健中机器学习模型的可解释解决方案与恶意软件检测中的解决方案不同。这是因为这些模型很复杂,而且大多数都是黑箱。最近,恶意软件作者绕过反恶意软件系统的能力越来越强,这迫使安全专家将目光投向机器学习,以创建强大的检测系统。如果这些系统要在行业中得到依赖,那么除了其他挑战外,它们还必须解释它们的预测。本文的目的是评估当前最先进的ML模型可解释性技术应用于基于ML的恶意软件检测器时。我们在实践中展示了可解释性技术,并评估了现有的可解释性技术在恶意软件分析领域的有效性。
2020-01-27 cs.AI cs.CR cs.LG
TSKAN: Interpretable Machine Learning for QoE modeling over Time Series Data
提出TSKAN,结合Kolmogorov-Arnold网络与频域特征,在时间序列数据上实现可解释的QoE建模,提升预测精度并保持模型透明性。
2025-09-24 cs.LG cs.NI
Interpretability and causal discovery of the machine learning models to predict the production of CBM wells after hydraulic fracturing
Southwest Petroleum University(西南石油大学);Institute for Artificial Intelligence, Southwest Petroleum University(西南石油大学人工智能研究院);State Key Laboratory of Oil and Gas Reservoir Geology and Exploitation(油气藏地质及开发工程国家重点实验室)
机器学习方法在煤层气井水力压裂后产量预测中得到了广泛的研究,但由于泛化能力低、缺乏可解释性等原因,仅在实践中得到应用。本文提出了一种从观测数据中发现潜在因果关系的新方法,旨在找到一种间接的方式来解释机器学习的结果。基于因果发现理论,推导出具有显式输入、输出、处理和混杂变量的因果图。然后,利用SHAP分析了各因素对生产能力的影响,间接解释了机器学习模型。该方法能够捕捉因素与输出之间潜在的非线性关系,弥补了传统机器学习基于因素相关性分析的局限性。对煤层气数据的实验表明,该方法检测出的煤层气产量与地质/工程因素之间的关系,与实际的物理机制是一致的。同时,与传统方法相比,可解释的机器学习模型在产能预测方面具有更好的性能,平均精度提高20%。
2022-12-21 cs.LG cs.NA math.NA