Shedding Light on Black Box Machine Learning Algorithms: Development of an Axiomatic Framework to Assess the Quality of Methods that Explain Individual Predictions
KIT – University of the State of Baden-Wuerttemberg and National Laboratory of the Helmholtz Association(卡尔斯鲁厄理工学院——巴登-符腾堡州立大学暨亥姆霍兹联合会国家实验室)
从自动驾驶汽车和后空翻机器人,到为我们预约下一次美发沙龙或餐厅晚餐的虚拟助理,机器学习系统正变得越来越普遍。其主要原因是这些方法拥有卓越的预测能力。然而,这些模型中的大多数仍然是黑箱,这意味着人类要理解和理解它们复杂的内部工作是非常具有挑战性的。因此,在机器学习模型的这种不断增加的复杂性下,可解释性受到了影响。特别是对于新的法规,如通用数据保护条例(GDPR),这些黑匣子所做预测的可验证性和可验证性是必不可少的。在行业和实践需求的推动下,研究界已经认识到这一可解释性问题,并在过去几年中专注于开发越来越多的所谓解释方法。这些方法解释了由黑盒机器学习模型做出的个体预测,并有助于恢复一些失去的可解释性。然而,随着这些解释方法的扩散,通常不清楚哪种解释方法提供更高的解释质量,或者通常更适合手头的情况。在这篇论文中,我们因此提出了一个公理化的框架,它允许相互之间比较不同的解释方法的质量。通过实验验证,我们发现,开发的框架是有用的,以评估不同的解释方法的解释质量,并得出与独立研究一致的结论。
2018-08-15 cs.LG stat.ML
PRETZEL: Opening the Black Box of Machine Learning Prediction Serving Systems
Seoul National University(首尔国立大学);Politecnico di Milano(米兰理工大学);Microsoft(微软)
机器学习模型通常由转换管道组成。虽然这种设计允许在训练时有效地执行单个模型组件,但预测服务具有不同的要求,例如低延迟,高吞吐量和重负载下的适度性能下降。当前的预测服务系统将模型视为黑盒,从而忽略了预测时间特定的优化以便于部署。在本文中,我们提出了PRETZEL,预测服务系统引入了一种新的白盒架构,使端到端和多模型优化。使用类似生产的模型管道,我们的实验表明,PRETZEL能够在不同的维度上引入性能改进;与最先进的方法相比,PRETZEL平均能够将第99百分位延迟减少5.5倍,同时将内存占用减少25倍,并将吞吐量增加4.7倍。
2018-10-14 cs.DC cs.LG stat.ML
Gray-box Adversarial Testing for Control Systems with Machine Learning Component
Arizona State University(亚利桑那州立大学)
神经网络(NN)在过去已经被提出作为具有非常复杂动态的系统的建模和控制的有效手段。然而,尽管进行了广泛的研究,基于神经网络的控制器尚未被工业界用于安全关键系统。主要原因是,具有基于学习的控制器的系统非常难以测试和验证。更难的是根据系统级规范分析这些系统。在本文中,我们提供了一个基于梯度的方法来搜索闭环控制系统的输入空间,以找到对抗样本对一些系统级的要求。我们的实验结果表明,结合随机搜索,我们的方法优于模拟退火优化。
2018-12-31 cs.LG stat.ML
Explaining a black-box using Deep Variational Information Bottleneck Approach
Carnegie Mellon University(卡内基梅隆大学);Petuum Inc.(Petuum公司);Arizona State University(亚利桑那州立大学)
可解释的机器学习近年来受到了广泛的关注。在解释黑箱决策系统时,为了简明扼要地提供大量信息,简明和全面是必要的。然而,现有的可解释的机器学习方法未能同时考虑准确性和全面性,导致冗余解释。我们提出了变信息瓶颈的解释,VIBI,一个系统不可知的解释方法,提供了一个简短而全面的解释。VIBI采用信息理论原理,信息瓶颈原理,作为寻找这种解释的标准。对于每一个实例,VIBI选择的关键特征是最大限度地压缩了输入(准确性),并提供了关于黑盒系统对该输入所做决定的信息(全面性)。我们在三个数据集上评估了VIBI,并在通过人工和定量指标评估的可解释性和保真度方面与最先进的可解释机器学习方法进行了比较
2019-10-03 cs.LG stat.ML
Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources
National Tsing Hua University(台湾清华大学);IBM Research(IBM研究院)
当前的迁移学习方法主要基于用目标域数据微调预训练模型。受对抗性机器学习(ML)技术的启发,这些技术能够通过数据扰动来操纵模型预测,在本文中,我们提出了一种新的方法,黑盒对抗性重编程(BAR),它重新使用经过良好训练的黑盒ML模型(例如,预测API或专有软件),用于解决不同的ML任务,特别是在数据稀缺和资源受限的情况下。其基本原理在于利用高性能但未知的ML模型来获得迁移学习的学习能力。使用零阶优化和多标签映射技术,BAR可以完全基于其输入输出响应重新编程黑盒ML模型,而无需知道模型架构或更改任何参数。更重要的是,在有限的医疗数据设置中,在自闭症谱系障碍分类、糖尿病视网膜病变检测和黑色素瘤检测任务上,BAR优于最先进的方法,并产生与需要完整了解目标ML模型的香草对抗性重编程方法相当的性能。BAR的表现也大大优于基线迁移学习方法,证明了迁移学习的成本效益手段和新见解。
2020-07-29 cs.CV cs.LG stat.ML
Glass-Box Program Synthesis: A Machine Learning Approach
University of Minnesota(明尼苏达大学);Microsoft Research(微软研究院)
最近提出的学习从数据编写计算机程序的模型使用输入/输出示例或丰富的执行跟踪。相反,我们认为,一个新的替代方案是使用一个玻璃盒损失函数,作为一个程序本身,可以直接检查。玻璃盒优化涵盖了广泛的问题,从计算两个整数的最大公约数到学习问题。在本文中,我们提出了一个智能搜索系统,学习,给定的部分程序和玻璃盒问题,在空间的程序的概率。我们的经验表明,我们的知情的搜索程序导致显着的改善相比,蛮力程序搜索,无论是在准确性和时间。对于我们的实验,我们使用丰富的上下文无关文法灵感来自数论,文本处理,代数。我们的研究结果表明,(i)执行4轮我们的框架通常可以解决大约70%的目标问题,(ii)我们的框架即使在领域不可知的情况下也可以自我改进,(iii)它可以解决那些用暴力搜索解决起来太慢的问题。
2017-09-25 cs.AI cs.LG stat.ML
Case-Based Reasoning for Assisting Domain Experts in Processing Fraud Alerts of Black-Box Machine Learning Models
Eindhoven University of Technology(埃因霍温理工大学);Rabobank Nederland(荷兰合作银行)
在许多情况下,领域专家了解机器学习模型做出的预测在多大程度上可以信任是有用的。特别地,可信度的估计对于处理机器学习生成的欺诈交易警报的欺诈分析师可能是有用的。在这项工作中,我们提出了一个基于案例的推理(CBR)的方法,提供证据的可信度的预测的形式,类似的以前的实例的可视化。与以往的作品不同,我们认为相似的本地事后解释的预测和经验表明,我们的可视化可以用于处理警报。此外,我们的方法被认为是有用的,易于使用的欺诈分析师在一家大型荷兰银行。
2019-07-07 cs.HC cs.LG stat.ML
Achieving interpretable machine learning by functional decomposition of black-box models into explainable predictor effects
University of Bonn(波恩大学);LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
针对黑盒机器学习模型的可解释性问题,提出一种基于堆叠正交性的函数分解方法,通过神经加性建模和事后正交化构建代理模型,提取特征主效应与交互作用,避免外推和隐藏交互影响。
2024-07-26 cs.LG stat.ML
Strong Black-box Adversarial Attacks on Unsupervised Machine Learning Models
从视觉到自然语言建模,机器学习(ML)和深度学习(DL)模型在多个学习任务上实现了最先进的性能。随着ML和DL越来越多地被计算机科学的许多领域所采用,最近的研究也开始关注这些模型的安全属性。已经进行了大量的工作来了解(深度)神经网络架构是否能够抵御黑盒对抗攻击,黑盒攻击可以在不知道所使用的架构的情况下制作受干扰的输入样本来欺骗分类器。最近的工作也集中在对抗攻击的可转移性上,并发现对抗攻击通常很容易在模型、数据集和技术之间转移。然而,这种攻击及其分析尚未从无监督机器学习算法的角度涵盖。在本文中,我们试图通过多种贡献来弥合这一差距。我们首先提供了一个强大的(迭代)黑盒对抗攻击,可以制作对抗样本,将不正确的聚类算法的选择无关。我们选择了4个突出的聚类算法,以及一个真实世界的数据集来展示所提出的对抗算法的工作。使用这些聚类算法,我们还进行了一个简单的研究,跨技术的对抗攻击的可转移性。
2019-06-10 cs.CR cs.LG stat.ML
Black Box to White Box: Discover Model Characteristics Based on Strategic Probing
Auburn University(奥本大学);PeopleTec, Inc(PeopleTec公司)
在机器学习中,白盒对抗攻击依赖于了解关于模型属性的底层知识。这项工作的重点是发现分散的模型信息:底层架构和主要训练数据集。通过本文中的过程,结构化的输入探针集和模型的输出成为深度分类器的训练数据。探讨了机器学习中的两个子领域:基于图像的分类器和基于GPT-2的文本Transformers。对于图像分类,重点是探索流行的公共图书馆中常用的架构和数据集。使用具有多个参数级别的单个Transformer架构,通过对不同数据集进行微调来探索文本生成。在图像和文本中探索的每个数据集都可以彼此区分。文本Transformer输出的多样性意味着需要进一步的研究来成功地分类文本域中的建筑属性。
2020-09-07 cs.LG stat.ML
How Much Can We See? A Note on Quantifying Explainability of Machine Learning Models
Stralsund University of Applied Sciences(施特拉尔松德应用技术大学)
理解现代黑盒机器学习模型的特征效应的最流行的方法之一是偏相关图(PDP)。这些图很容易理解,但只能可视化低阶依赖关系。这篇论文是关于“我们能看到多少?”':开发了一个框架来量化任意机器学习模型的可解释性,即PDP给出的可视化能够解释模型预测的程度。结果允许判断是否试图解释一个黑盒模型是足够的或没有。
2019-12-14 cs.LG stat.ML
Optimal Black-Box Reductions Between Optimization Objectives
Princeton University(普林斯顿大学)
机器学习应用的多样性已经产生了大量的算法和最优化方法,这些算法和方法可以根据手头的特定回归或分类任务进行微调。我们通过约简降低了机器学习算法设计的复杂性:我们开发了一种约简,这种约简采用了为一种设置开发的方法,并将其应用于应用程序中的整个平滑性和强凸性。此外,与现有结果不同,我们的新约简是最优的,更实用。我们展示了这些新的减少如何产生新的和更快的运行时间训练线性分类器的各种家庭的损失函数,并得出结论,实验表明他们的成功也在实践中。
2016-05-20 cs.DS cs.LG math.OC
DNAMite: Interpretable Calibrated Survival Analysis with Discretized Additive Models
Stanford University(斯坦福大学);California Polytechnic State University(加州理工州立大学)
DNAMite是一种新型玻璃盒生存分析模型,通过特征离散化和核平滑生成可解释的校准形状函数,在合成数据上更接近真实形状,预测性能相当且校准更优。
2024-11-08 cs.LG stat.ML
Black-Box Batch Active Learning for Regression
University of Oxford(牛津大学)
本文提出仅依赖模型预测的黑盒批量主动学习方法,将BADGE、BAIT、LCMD等白盒方法扩展到随机森林等不可微模型,并在回归任务上取得优于白盒方法的性能。
2023-07-07 cs.LG stat.ML
A Generalized Variable Importance Metric and Estimator for Black Box Machine Learning Models
本文提出广义变量重要性度量(GVIM),基于条件期望函数定义黑箱模型预测变量的重要性,并将其表示为条件平均处理效应的函数以赋予因果解释,通过大量模拟验证了估计器的性能。
2023-12-23 stat.CO stat.ML
A gray-box model for a probabilistic estimate of regional ground magnetic perturbations: Enhancing the NOAA operational Geospace model with machine learning
我们提出了一种新的算法,预测的概率,地面磁场的水平分量的时间导数$dB/dt$超过一个指定的阈值在一个给定的位置。该量提供了与地磁感应电流(GIC)物理相关的重要信息,地磁感应电流是与由于空间天气事件而导致的地球磁场突然变化相关的电流。该模型遵循“灰箱”方法,将基于物理的模型的输出与机器学习相结合。具体来说,我们结合了密歇根大学的地球空间模型,是在NOAA空间天气预测中心的操作,与一个增强的分类树的合奏。我们讨论的问题,重新校准的决策树的输出,以获得可靠的概率。该模型的性能评估的概率预测的典型指标:检测概率和错误检测,真技能统计,海德克技能得分,和接收器操作特征曲线。我们表明,ML增强算法一致地提高了所有考虑的指标。
2020-07-22 physics.space-ph stat.ML
Distilling Black-Box Travel Mode Choice Model for Behavioral Interpretation
University of Florida(佛罗里达大学);Cornell University(康奈尔大学);University of Michigan(密歇根大学);Georgia Institute of Technology(佐治亚理工学院)
机器学习已被证明在旅行行为建模中进行预测非常成功。然而,大多数机器学习模型都具有复杂的模型结构,并且很少或根本没有解释它们是如何得出这些预测的。出行行为模型的解释对于决策者了解出行者的偏好并据此制定政策干预措施至关重要。因此,本文提出应用和扩展模型蒸馏方法,一种模型不可知的机器学习解释方法,来解释黑箱出行方式选择模型如何对整个人群和感兴趣的子人群进行预测。模型蒸馏的目的是将知识从复杂的模型(教师)压缩成可理解和可解释的模型(学生)。特别是,本文将模型蒸馏与市场细分相结合,通过考虑异质性来产生更多的见解。此外,本文还将学生模型与基准模型(决策树)和教师模型(梯度提升树)进行了全面的比较,以量化学生解释的保真度和准确性。
2019-10-30 cs.CY cs.LG stat.ML
Query-limited Black-box Attacks to Classifiers
University of Virginia(弗吉尼亚大学);EURECOM(欧洲通信学院)
我们研究了对机器学习分类器的黑盒攻击,其中对模型的每个查询都会给对手带来一些检测成本或风险。我们专注于明确的最小化查询的数量作为一个主要目标。具体来说,我们考虑的问题,攻击机器学习分类器的预算的功能修改成本,同时尽量减少查询的数量,其中每个查询只返回一个类和置信度得分。我们描述了一种方法,使用贝叶斯优化,以尽量减少查询的数量,并发现查询的数量可以减少到大约十分之一的数量需要通过随机策略的情况下,功能修改成本预算低。
2017-12-23 cs.CR cs.LG stat.ML
Explainable Black-Box Attacks Against Model-based Authentication
University of Florida(佛罗里达大学)
为人类和终端系统建立唯一的身份一直是安全社区中的一个活跃的研究问题,从而产生了基于创新机器学习的身份验证技术。虽然这些技术提供了一种自动化的方法来建立身份,但它们还没有经过针对其核心机器学习技术的复杂攻击的审查。本文证明了模仿主机指纹和生物特征认证系统生成的唯一签名是可能的。我们通过构建一个基于查询合成框架的盲攻击和利用可解释AI(XAI)技术,揭示了底层机器学习分类模型的无效性。我们在最先进的人脸认证系统上发起了不到130个查询的攻击,在主机认证系统上发起了不到100个查询的攻击。我们将研究如何防御这些攻击,并探索它们的局限性。XAI为对手提供了一种有效的手段来推断决策边界,并为使用机器学习模型进行身份验证来构建针对系统的攻击提供了一种新的方法。
2018-09-28 cs.AI cs.CR cs.LG
Regularizing Black-box Models for Improved Interpretability (HILL 2019 Version)
Carnegie Mellon University(卡内基梅隆大学)
大多数关于可解释机器学习的工作都集中在设计固有的可解释模型,这通常会权衡可解释性的准确性,或者事后解释系统,缺乏对其解释质量的保证。我们提出了一种替代这些方法,直接正规化的黑盒模型在训练时的可解释性。我们的方法明确地连接了可解释的机器学习的三个关键方面:(i)模型固有的可解释性,(ii)测试时使用的解释系统,以及(iii)衡量解释质量的指标。我们的正则化在一系列数据集和黑盒解释系统的解释保真度和稳定性指标方面有了实质性的改善,同时略微提高了准确性。此外,如果所得到的模型仍然不能充分解释,则可以调整正则化项的权重以实现准确性和可解释性之间的期望权衡。最后,我们从理论上证明了基于正则化的好处可以推广到看不见的点。
2019-05-31 cs.LG stat.ML
Decision-Based Adversarial Attacks: Reliable Attacks Against Black-Box Machine Learning Models
Werner Reichardt Centre for Integrative Neuroscience(维尔纳·赖希哈特整合神经科学中心);Eberhard Karls University Tübingen(图宾根大学)
许多机器学习算法容易受到几乎无法察觉的输入扰动的影响。到目前为止,还不清楚对抗性扰动对现实世界机器学习应用程序的安全性有多大风险,因为用于生成此类扰动的大多数方法要么依赖于详细的模型信息(基于梯度的攻击),要么依赖于置信度得分,如类概率(基于得分的攻击),这两种方法在大多数现实世界的场景中都不可用。在许多这样的情况下,目前需要退回到基于传输的攻击,这种攻击依赖于繁琐的替代模型,需要访问训练数据,并且可以防御。在这里,我们强调的重要性的攻击,完全依赖于最终的模型决定。这种基于决策的攻击(1)适用于现实世界的黑盒模型,如自动驾驶汽车,(2)需要的知识较少,比基于传输的攻击更容易应用,(3)比基于梯度或分数的攻击对简单防御更鲁棒。以前的此类攻击仅限于简单模型或简单数据集。在这里,我们介绍了边界攻击,这是一种基于决策的攻击,它从一个大的对抗性扰动开始,然后在保持对抗性的同时寻求减少扰动。该攻击在概念上很简单,几乎不需要超参数调整,不依赖于替代模型,并且与ImageNet等标准计算机视觉任务中最好的基于梯度的攻击具有竞争力。我们将攻击应用于Clarifai.com上的两个黑盒算法。特别是边界攻击和一般的基于决策的攻击类开辟了新的途径来研究机器学习模型的鲁棒性,并提出了关于部署的机器学习系统的安全性的新问题。该攻击的实现可作为Foolbox的一部分在https://github.com/bet…
2018-02-16 cs.CR cs.CV cs.LG
Bridging machine learning and cryptography in defence against adversarial attacks
University of Geneva(日内瓦大学)
在过去的十年中,由于在许多机器学习和计算机视觉任务中取得的性能,深度学习算法已经变得非常流行。然而,大多数深度学习架构都容易受到所谓的对抗性示例的影响。这对许多安全和信任敏感领域的深度神经网络(DNN)的安全性提出了质疑。现有的大多数对抗攻击都是基于DNN代价函数的可微性,防御策略大多基于机器学习和信号处理原理,试图检测-拒绝或过滤掉对抗扰动,完全忽略防御中的经典密码学组件。在这项工作中,我们提出了一个新的防御机制的基础上的第二Kerckhoffs的密码学原则,该原则指出,防御和分类算法应该是已知的,但不是密钥。为了符合攻击者无法访问秘密密钥的假设,我们将主要关注灰盒场景,而不解决白盒场景。更具体地说,我们假设攻击者不具有对秘密块的直接存取,但是(a)他完全知道系统架构,(b)他可以访问用于训练和测试的数据,以及(c)他可以观察针对每个给定输入的分类器的输出。我们的经验表明,我们的系统是有效的,对最有名的国家的最先进的黑盒和灰盒的情况下的攻击。
2018-09-05 cs.CR cs.LG stat.ML
SurvBeX: An explanation method of the machine learning survival models based on the Beran estimator
Higher School of Artificial Intelligence(高等人工智能学院);Peter the Great St.Petersburg Polytechnic University(彼得大帝圣彼得堡理工大学)
SurvBeX通过改进的Beran估计器作为替代模型,在局部区域生成样本并最小化生存函数距离来求解特征影响系数,从而解释机器学习生存黑盒模型,实验证明其优于SurvLIME和SurvSHAP。
2023-08-07 cs.AI cs.LG stat.ML
A glass-box interactive machine learning approach for solving NP-hard problems with the human-in-the-loop
Medical University Graz(格拉茨医科大学);Vasile Alecsandri University of Bacǎu(瓦西里·亚历山德里巴克乌大学);Technical University of Cluj-Napoca(克卢日-纳波卡技术大学);Coventry University(考文垂大学)
机器学习的目标是自动从数据中学习,提取知识并在没有任何人为干预的情况下做出决策。这种自动(aML)方法取得了令人印象深刻的成功。最近的结果甚至有趣地表明,应用于皮肤病变自动分类的深度学习与皮肤科医生的表现不相上下,但优于平均水平。由于人类的感知是固有的有限的,这样的方法可以发现模式,例如,两个对象是相似的,在任意的高维空间中,没有人能够做到这一点。人类只能处理有限数量的数据,而大数据对aML有利;然而,在健康信息学中,我们经常面临少量数据集,aML遭受训练样本不足,许多问题在计算上很难。在这里,交互式机器学习(iML)可能会有所帮助,其中人在回路中有助于降低NP难题的复杂性。iML的另一个动机是标准的黑盒方法缺乏透明度,因此无法促进最终用户对ML的信任和接受。法律和隐私方面的问题不断增加,例如新的《欧洲一般数据保护条例》,使得黑箱方法难以使用,因为它们往往无法解释为什么要做出决定。在本文中,我们提出了一些实验来证明人在回路方法的有效性,特别是在打开黑盒子的玻璃盒,从而使人类直接与学习算法进行交互。我们选择了蚁群优化框架,并将其应用于旅行商问题,这是一个很好的例子,因为它与健康信息学相关,例如蛋白质折叠的研究。从人类如何从如此少的数据中提取如此多的研究中,基础ML研究也可能受益。
2017-08-03 cs.AI stat.ML
Automated Algorithm Selection on Continuous Black-Box Problems By Combining Exploratory Landscape Analysis and Machine Learning
University of Münster(明斯特大学)
在本文中,我们建立在以前的工作上设计信息丰富,高效的探索性景观分析功能,表征问题的景观,并显示其有效性,在连续的黑盒优化问题中自动构建算法选择模型。专注于算法的性能结果的COCO平台的几年,我们构建了一个代表性的一组高性能的互补求解器,并提出了一个算法选择模型,相比投资组合的单一最佳求解器,平均需要不到一半的资源来解决给定的问题。因此,与经典集成方法相比,通过使用信息特征,结合对问题特征和算法属性的更深入了解,效率有了巨大的提高。基于黑盒优化基准的函数集对于实际应用来说足够有代表性的假设,该模型允许在基于函数评估的小样本的优化本身之前针对看不见的问题在所考虑的集合内选择最适合的优化算法。请注意,这样的样本甚至可以重新用于进化(优化)算法的初始种群,以便即使特征成本也可以忽略不计。
2018-11-29 cs.AI cs.DS stat.ML
Explaining Black-box Android Malware Detection
University of Cagliari(卡利亚里大学);Pluribus One(Pluribus One公司)
机器学习模型最近被用于检测恶意Android应用程序,在基准数据集上报告了令人印象深刻的性能,即使只在从应用程序静态提取的特征(如系统调用和权限)上进行训练。然而,最近的研究结果强调了这种体外评估与基准数据集的脆弱性,表明对Android恶意软件内容的很少更改可能足以逃避检测。因此,我们如何才能相信在基准数据上表现良好的恶意软件检测器在部署到操作环境中时会继续这样做呢?为了缓解这一问题,最流行的Android恶意软件检测器使用线性、可解释的机器学习模型来轻松识别对每个决策最有影响力的特征。在这项工作中,我们将这种方法推广到任何黑盒机器学习模型,通过利用基于梯度的方法来识别最有影响力的局部特征。这使得使用非线性模型能够在不牺牲决策的可解释性的情况下潜在地提高准确性。我们的方法还强调了模型学习的全局特征,以区分良性和恶意软件应用程序。最后,正如我们对一个流行的Android恶意软件检测任务的实证分析所示,它还有助于识别线性和非线性模型对对抗性操作的潜在漏洞。
2018-10-29 cs.CR cs.LG stat.ML
Why You Should Not Trust Interpretations in Machine Learning: Adversarial Attacks on Partial Dependence Plots
UNSW Sydney(新南威尔士大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出一种对抗框架,通过修改黑盒模型操纵外推域预测,生成具有欺骗性的部分依赖图,从而在几乎不改变原始预测的情况下隐藏模型歧视行为,揭示了现有解释工具的安全脆弱性。
2024-05-01 cs.CR cs.LG stat.AP
Residual Generation Using Physically-Based Grey-Box Recurrent Neural Networks For Engine Fault Diagnosis
数据驱动的故障诊断是复杂的未知故障类别和有限的训练数据,从不同的故障实现。在这些情况下,传统的多类分类方法是不适合的故障诊断。一种解决方案是使用仅使用标称数据训练的异常分类器。异常分类器可用于检测故障何时发生,但很少提供有关其根本原因的信息。混合故障诊断方法相结合的物理模型和可用的训练数据已经显示出有前途的结果,以提高故障分类性能和识别未知的故障类别。使用灰箱递归神经网络的残差生成可以用于异常分类,其中关于被监测系统的物理见解被并入机器学习算法的设计中。在这项工作中,一个自动化的残差设计开发使用的系统模型的二分图表示设计灰箱递归神经网络和评估使用一个真正的工业案例研究。内燃机试验台的数据被用来说明机器学习和基于模型的故障诊断技术相结合的潜力。
2020-08-11 eess.SP stat.ML