Partially Interpretable Estimators (PIE): Black-Box-Refined Interpretable Machine Learning
University of Iowa(爱荷华大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了部分可解释估计器(PIE),它通过可解释模型将预测归因于单个特征,而PIE预测的一小部分(可能)归因于通过黑盒模型的特征相互作用,其目标是在保持可解释性的同时提高预测性能。因此,可解释的模型捕获特征的主要贡献,而黑盒模型试图通过捕获特征交互的“细微差别”作为细化来补充可解释的部分。我们设计了一个迭代训练算法来联合训练这两类模型。实验结果表明,PIE是非常有竞争力的黑箱模型,同时优于可解释的基线。此外,PIE的可理解性与通过人工评估验证的简单线性模型相当。
2021-05-06 cs.AI cs.LG
The Pros and Cons of Using Machine Learning and Interpretable Machine Learning Methods in psychiatry detection applications, specifically depression disorder: A Brief Review
Faculty of Computer Science and Engineering, Shahid Beheshti University(沙希德·贝赫什提大学计算机科学与工程学院)
本文简要综述了机器学习和可解释人工智能在抑郁症等精神病学检测应用中的优缺点,强调准确快速诊断及可理解诊断结果的重要性。
2023-11-11 cs.AI cs.LG
Interpretable Automated Machine Learning in Maana(TM) Knowledge Platform
Maana, Inc.(Maana公司)
机器学习正在成为许多工业应用开发解决方案的重要组成部分,但缺乏可解释性阻碍了快速构建、测试、部署和验证机器学习模型的广泛行业采用,因为开发机器学习解决方案的洞察力没有在结构上编码、合理化和转移。在本文中,我们描述了Maana元学习服务,一个可解释的和交互式的自动机器学习服务驻留在Maana知识平台,执行机器引导,用户辅助管道搜索和超参数调整,并生成结构化的知识的管道分析和选择的决定。该服务随Maana知识平台提供,并使用基准数据集进行验证。此外,它从管道搜索中获取知识的能力促进了各种推理任务,并转移到类似的数据科学项目。
2019-05-06 cs.AI cs.LG
Causality Learning: A New Perspective for Interpretable Machine Learning
University of Technology Sydney(悉尼科技大学)
近年来,机器学习在图像识别、文本分类、信用评分预测、推荐系统等领域得到了快速发展。尽管在不同领域取得了巨大的成就,但研究人员仍然关注任何机器学习(ML)技术下的机制,这些机制本质上是黑箱的,并且为了达到更高的准确性而变得更加复杂。因此,解释机器学习模型是目前研究界的一个主流课题。然而,传统的可解释机器学习关注的是关联而不是因果关系。本文概述了因果分析的基本背景和关键概念,然后总结了最新的因果方法可解释的机器学习。本文还讨论了评估方法质量的评估技术,以及因果可解释性中的开放问题。
2021-09-17 cs.AI cs.LG stat.ML
Interpretable Machine Learning for Oral Lesion Diagnosis through Prototypical Instances Identification
University of Pisa(比萨大学);ISTI-CNR(意大利国家研究委员会信息科学与技术研究所)
针对医疗机器学习模型可解释性不足的问题,本研究将可解释原型选择模型PivotTree应用于口腔溃疡性病变图像检测,验证了其性能有效性,并与专家选定的原型进行了定性定量对比。
2025-03-21 cs.AI
Two4Two: Evaluating Interpretable Machine Learning - A Synthetic Dataset For Controlled Experiments
Weizenbaum Institut, TU Berlin(魏岑鲍姆研究所,柏林工业大学);Freie Universität Berlin(柏林自由大学)
存在越来越多的方法来生成用于图像分类的解释。然而,这些方法很少受到人类受试者的评价,部分原因是设计自然图像数据集的受控实验具有挑战性,因为它们将基本因素置于研究人员的控制之外。通过我们的方法,研究人员可以只用几个参数来描述他们想要的数据集。基于这些,我们的库生成两个3D抽象动物的合成图像数据。所得到的数据适用于算法以及人类受试者评估。我们的用户研究结果表明,我们的方法可以创建足够预测分类器的偏差,并且足够微妙,只有每隔一个参与者才能看到视觉上检查数据。我们的方法大大降低了进行人类受试者评估的障碍,从而促进了对可解释的机器学习的更严格的调查。有关我们的库和数据集,请参见https://github.com/mschuessler/two4two/
2021-05-06 cs.AI cs.CV cs.HC
SeqMaestro: From nucleotide sequences to biological hypotheses through interpretable machine learning
University of Cambridge(剑桥大学);The Francis Crick Institute(弗朗西斯·克里克研究所);University of Colorado Anschutz Medical Campus(科罗拉多大学安舒茨医学校区)
SeqMaestro是一个无代码机器学习框架,通过两层接口连接核苷酸序列与可解释模型,利用多种模型组合识别稳健生物学信号,从而从序列数据提出生物学假设。
2026-09-15 cs.AI cs.LG
GAM(e) changer or not? An evaluation of interpretable machine learning models based on additive model constraints
FAU Erlangen-Nürnberg(弗里德里希-亚历山大-埃尔兰根-纽伦堡大学)
处理可解释人工智能(XAI)的信息系统(IS)研究的数量目前正在爆炸式增长,因为该领域要求机器学习(ML)模型的内部决策逻辑更加透明。然而,XAI下的大多数技术都提供了事后分析解释,必须谨慎考虑,因为它们只使用底层ML模型的近似值。因此,本文研究了一系列内在可解释的ML模型,并讨论了它们对IS社区的适用性。更具体地说,我们的重点是广义加性模型(GAM)的高级扩展,其中预测器以非线性方式独立建模,以生成可以捕获任意模式但仍然完全可解释的形状函数。在我们的研究中,我们评估了五种GAM与六种传统ML模型的预测质量,并评估了它们的视觉输出对模型可解释性的影响。在此基础上,我们调查他们的优点和局限性,并得出进一步改进的设计启示。
2022-04-19 cs.AI cs.CY cs.HC
Local Interpretable Model Agnostic Shap Explanations for machine learning models
ABB Ability Innovation Center, Asea Brown Boveri Company(ABB集团ABB能力创新中心);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校)
随着基于人工智能(AI)的解决方案和分析计算引擎技术的进步,机器学习(ML)模型变得越来越复杂。这些模型中的大多数通常被用作黑箱,没有用户可解释性。如此复杂的机器学习模型使人们更难理解或信任他们的预测。有各种各样的框架使用可解释的AI(XAI)方法来证明ML模型的可解释性和可解释性,以使其预测更加可信。在这篇手稿中,我们提出了一种方法,我们定义为本地可解释模型不可知的形状解释(LIMASE)。所提出的ML解释技术使用LIME范式下的Shapley值来实现以下(a)通过使用局部忠实和可解释的决策树模型来解释任何模型的预测,其中树解释器用于计算Shapley值并给出视觉上可解释的解释。(b)通过绘制几个数据点的局部解释,提供视觉上可解释的全局解释。(c)演示子模块优化问题的解决方案。(d)还带来了对区域解释的洞察e)与使用内核解释器相比更快的计算。
2022-10-10 cs.AI cs.LG
AI in Education needs interpretable machine learning: Lessons from Open Learner Modelling
University of British Columbia(不列颠哥伦比亚大学);University College London(伦敦大学学院)
底层人工智能表示的可解释性是开放式学习者建模(OLM)的一个关键存在理由-智能教学系统(ITS)研究的一个分支。OLM提供了“开放”学习者认知和情感的AI模型的工具,以支持人类的学习和教学。ITS(也称为AI in Education)三十多年的研究产生了重要的工作,它告诉我们如何将AI用于教育以达到最佳效果,以及通过OLM研究,使其可解释和可解释以利于学习的必要考虑因素是什么。我们认为,这项工作可以为可解释的人工智能框架提供一个有价值的起点,因此与基于知识和机器学习系统在教育以外的其他高风险环境中的应用有关。
2018-06-30 cs.AI cs.CY
Interpretable Machine Learning in Physics: A Review
University of Waterloo(滑铁卢大学);Perimeter Institute for Theoretical Physics(周界理论物理研究所);Homes Plus Magazine Inc.(Homes Plus杂志公司);Santa Fe Institute(圣塔菲研究所);ETH Zurich(苏黎世联邦理工学院);University of Stuttgart(斯图加特大学);Heidelberg Academy of Science and the Humanities(海德堡科学与人文学院);Massachusetts Institute of Technology(麻省理工学院)
本综述探讨了可解释性在物理学机器学习中的应用,通过分类可解释性、讨论模型性能及哲学意义,并介绍各物理子领域的最新进展,旨在将其确立为科学核心研究焦点。
2025-03-30 cs.AI cs.LG physics.comp-ph
Evaluating Explanation Without Ground Truth in Interpretable Machine Learning
Texas A&M University(德州农工大学)
可解释的机器学习(IML)在许多现实世界的应用中变得越来越重要,例如自动驾驶汽车和医疗诊断,在这些应用中,人们更倾向于解释,以帮助人们更好地理解机器学习系统是如何工作的,并进一步增强他们对系统的信任。然而,由于场景的多样性和解释的主观性,我们很少有真值的基准评估在IML的质量产生的解释。具有解释质量的感觉不仅对评估系统边界很重要,而且有助于在实际环境中实现人类用户的真正利益。为了对IML中的评估进行基准测试,在这篇文章中,我们严格定义了评估解释的问题,并系统地回顾了现有的努力。具体来说,我们总结了解释的三个一般方面(即,概括性、忠实性和说服性),并分别对不同任务下的代表性方法论进行了评述。此外,根据开发人员和最终用户的分层需求,设计了一个统一的评估框架,可以很容易地在实践中采用不同的场景。最后,讨论了开放的问题,并提出了一些现有的评估技术的局限性,为未来的探索。
2019-08-15 cs.AI cs.HC cs.LG
Vision Paper: Causal Inference for Interpretable and Robust Machine Learning in Mobility Analysis
ETH Zürich(苏黎世联邦理工学院);Prescient Design, Genentech | Roche(罗氏旗下基因泰克Prescient Design);Swiss Data Science Center(瑞士数据科学中心)
人工智能(AI)正在彻底改变我们生活的许多领域,引领技术进步的新时代。特别是,交通部门将受益于人工智能的进步,并推动智能交通系统的发展。构建智能交通系统需要人工智能和移动性分析的复杂组合。在过去的几年里,使用先进的深度神经网络的交通应用得到了快速发展。然而,这种深度神经网络很难解释并且缺乏鲁棒性,这减缓了这些人工智能算法在实践中的部署。为了提高它们的可用性,越来越多的研究工作致力于开发可解释和鲁棒的机器学习方法,其中因果推理方法最近获得了牵引力,因为它提供了可解释和可操作的信息。此外,这些方法中的大多数是针对图像或序列数据开发的,这些数据不满足移动性数据分析的特定要求。这篇愿景论文强调了基于深度学习的移动性分析中需要可解释性和鲁棒性的研究挑战,总结了使用因果推理提高机器学习方法的可解释性和鲁棒性的最新进展,并强调了开发面向移动性分析的因果启用机器学习模型的机会。这一研究方向将使人工智能在交通领域的应用更具可解释性和可靠性,从而为更安全、更高效、更可持续的未来交通系统做出贡献。
2022-10-18 cs.AI cs.LG
Interpretable Hybrid Machine Learning Models Using FOLD-R++ and Answer Set Programming
Open Universiteit, the Netherlands(荷兰开放大学);Open Universiteit Heerlen, Limburg, the Netherlands(荷兰开放大学海伦分校);University of Cape Town(开普敦大学)
本文提出结合FOLD-R++和答案集编程的混合方法,用于提升机器学习模型的可解释性和预测准确性。
2026-01-07 cs.AI
Ontology-based Interpretable Machine Learning for Textual Data
New Jersey Institute of Technology(新泽西理工学院);Wells Fargo Bank(富国银行);University of Oregon(俄勒冈大学)
在本文中,我们介绍了一种新的解释框架,学习一个可解释的模型的基础上,基于本体的抽样技术来解释不可知的预测模型。与现有的方法不同,我们的算法考虑上下文之间的相关性,领域知识本体中描述的词,生成语义解释。为了缩小解释的搜索空间,这是长而复杂的文本数据的主要问题,我们设计了一个可学习的锚算法,以更好地提取局部解释。进一步介绍了一套规则,关于结合学习可解释的表征与锚,以产生可理解的语义解释。在两个真实数据集上进行的广泛实验表明,与基线方法相比,我们的方法可以生成更精确和更有见地的解释。
2020-04-01 cs.AI cs.LG stat.ML
Challenging the Performance-Interpretability Trade-off: An Evaluation of Interpretable Machine Learning Models
University of Regensburg(雷根斯堡大学);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡应用技术大学乔治·西蒙·欧姆分校);Leipzig University(莱比锡大学)
本研究在20个数据集上对比了7种GAMs与7种机器学习模型,通过68,500次实验证明表格数据中预测性能与可解释性不存在严格权衡,消除了高准确性依赖黑盒模型的误解。
2024-09-22 cs.AI cs.HC cs.LG
Interpretable Machine Learning for Weather and Climate Prediction: A Survey
Public Meteorological Service Center, China Meteorological Administration(中国气象局公共气象服务中心);University of Bristol(布里斯托大学);Zhejiang University(浙江大学);Institute of Atmospheric Physics, Chinese Academy of Science(中国科学院大气物理研究所);Baidu Inc.(百度公司);New Jersey Institute of Technology(新泽西理工学院)
本文综述了天气与气候预测中的可解释机器学习方法,将其分为事后解释技术和固有可解释模型设计两大类,并总结了其在揭示气象关系中的作用及未来研究挑战。
2024-03-24 cs.AI cs.LG physics.ao-ph
Natively Interpretable Machine Learning and Artificial Intelligence: Preliminary Results and Future Directions
Diveplane Corporation(Diveplane公司)
为了更好地逼近复杂函数,机器学习模型已经变得越来越复杂。虽然在许多领域卓有成效,但增加的复杂性是以模型可解释性为代价的。曾经流行的k-最近邻(kNN)方法,它发现并使用最相似的数据进行推理,在最近几十年里受到的关注要少得多,因为与其他技术相比存在许多问题。我们表明,许多这些历史问题与kNN可以克服,我们的贡献不仅在机器学习,而且在在线学习,数据合成,异常检测,模型压缩和强化学习中的应用,而不牺牲可解释性。我们介绍了kNN和信息论之间的综合,我们希望将提供一个清晰的路径,模型是天生的可解释和可审计的。通过这项工作,我们希望将kNN与信息论结合起来,作为完全可审计的机器学习和人工智能的一条有前途的道路。
2019-01-18 cs.AI cs.LG stat.ML
Interpretable Machine Learning Models for Predicting and Explaining Vehicle Fuel Consumption Anomalies
Telefónica(西班牙电信公司);Universidad Politécnica de Madrid(马德里理工大学)
识别车队车辆的燃料消耗异常是优化消耗和降低成本的关键方面。然而,仅有这一信息是不够的,因为车队运营商需要了解异常燃料消耗背后的原因。我们结合了无监督异常检测技术、领域知识和可解释的机器学习模型,用于在特征相关性方面解释异常油耗的潜在原因。这些解释用于生成关于燃料优化的建议,这些建议根据两个不同的用户简档来调整:车队管理员和车队运营商。结果进行了评估,从连接到柴油和汽油车辆从不同类型的工业车队的远程信息处理设备的真实数据。我们衡量关于模型性能的建议,并使用可解释的AI指标,比较解释的代表性,保真度,稳定性,对比性和与先验信念的一致性。可以实现的潜在燃料减少约为35%。
2021-07-22 cs.AI cs.LG
The Standard Interpretable Model: Design interpretable machine learning methods from elementary symmetries
IBM Research (CH)(IBM研究院(瑞士));University of Oxford (UK)(牛津大学(英国));University of Cambridge (UK)(剑桥大学(英国));KU Leuven (BE)(鲁汶大学(比利时));Institute of Physics of the Czech Academy of Sciences (CZ)(捷克科学院物理研究所(捷克))
提出标准可解释模型(SIM),基于拉格朗日力学从前提演绎出可解释性对称性和约束,通过最小化拉格朗日函数得到最优可解释模型,解决现有方法局限性并指导新方法设计。
2026-11-09 cs.AI cs.LG cs.NE
Word-level Human Interpretable Scoring Mechanism for Novel Text Detection Using Tsetlin Machines
University of Agder(阿格德尔大学)
新颖性检测的最新研究主要集中在文档级分类,采用深度神经网络(DNN)。然而,DNN的黑盒性质使得很难提取出为什么一个文档被认为是新颖的确切解释。此外,在单词级别处理新颖性对于提供比文档级别更细粒度的分析至关重要。在这项工作中,我们提出了一个Tsetlin机(TM)为基础的体系结构,根据其贡献的新颖性评分个别的话。我们的方法编码的新文件使用的语言模式捕获TM子句的描述。然后,我们采用这种描述来衡量一个词对文档的新颖性有多大贡献。我们的实验结果展示了我们的方法如何将新颖性分解为可解释的短语,成功地测量了新颖性。
2021-05-10 cs.AI cs.CL cs.LG
Generating Interpretable Fuzzy Controllers using Particle Swarm Optimization and Genetic Programming
Technical University of Munich(慕尼黑工业大学);Siemens AG(西门子股份公司)
使用预先存在的工厂轨迹数据自主训练可解释的控制策略(称为策略)在工业应用中具有极大的兴趣。模糊控制器作为可解释的、有效的系统控制器已经在工业中使用了几十年。在这项研究中,我们引入了一个模糊遗传编程(GP)的方法,称为模糊GP强化学习(FGPRL),可以选择相关的状态特征,确定所需的模糊规则集的大小,并自动调整所有的控制器参数同时。每个GP个体的适应度使用基于模型的批处理强化学习(RL)来计算,该批处理首先使用可用的系统样本来训练模型,然后执行Monte Carlo推出以预测每个策略候选者的性能。我们比较FGPRL的相关方法称为模糊粒子群强化学习(FPSRL),它使用群体智能调整模糊政策参数的扩展版本。使用工业基准的实验表明,FGPRL能够自主学习可解释的模糊策略,具有较高的控制性能。
2018-04-29 cs.AI
From Correlation to Causation: Formalizing Interpretable Machine Learning as a Statistical Process
DKFZ(德国癌症研究中心);ETH Zürich(苏黎世联邦理工学院)
可解释人工智能(XAI)在安全关键系统中是必需的,例如在临床诊断中,由于致命决策的风险很高。然而,目前,XAI类似于一个松散的方法集合,而不是一个定义良好的过程。在这项工作中,我们阐述了XAI,可解释机器学习(IML)和经典统计学的最大子组之间的概念相似性。基于这些相似之处,我们提出了一个正式的IML沿线的统计过程。采用这种统计观点使我们能够将机器学习模型和IML方法解释为复杂的统计工具。基于这种解释,我们推断出三个关键问题,我们认为这是至关重要的成功和采用IML的安全关键设置。通过制定这些问题,我们进一步的目标是引发关于IML与经典统计学的区别以及我们的观点对该领域未来的意义的讨论。
2022-07-11 cs.AI cs.CV cs.LG
Interpretable machine learning models: a physics-based view
为了理解物理系统的变化并促进决策,解释模型预测是如何进行的至关重要。我们使用基于模型的可解释性,其中物理系统的模型是通过组成基本结构来构建的,这些结构解释了局部能量是如何交换和转化的。我们使用端口哈密顿(p-H)形式主义来描述包含物理可解释的过程中常见的物理系统的行为的基本结构。我们描述了如何从p-H构造中构建模型以及如何训练它们。此外,我们展示了如何施加物理特性,如耗散性,以确保训练过程的数值稳定性。我们给出了如何建立和训练模型来描述两个物理系统的行为的例子:倒立摆和群体动力学。
2020-03-22 cs.AI math.DS math.OC
Interpretable Machine Learning Classifiers for Brain Tumour Survival Prediction
Centre for Addiction and Mental Health(成瘾与心理健康中心);University of Edinburgh(爱丁堡大学);Royal Infirmary of Edinburgh(爱丁堡皇家医院)
由于肿瘤行为和治疗反应的异质性,预测诊断为脑肿瘤的患者的生存率具有挑战性。更好的预后估计将支持治疗计划和患者支持。机器学习的进步为临床预测模型的发展提供了信息,但它们与临床实践的整合几乎不存在。其中一个原因是模型缺乏可解释性。在本文中,我们使用一个新的脑肿瘤数据集比较两个可解释的规则列表模型对流行的机器学习方法的脑肿瘤生存预测。所有模型都使用标准性能指标进行定量评估。还对规则列表的可解释性和临床实用性进行了定性评估。黑盒机器学习模型的可解释性评估使用两个事后解释技术,石灰和SHAP。我们的结果表明,黑盒模型仅略微优于规则列表。我们证明了规则列表算法产生了与临床专业知识相一致的简单决策列表。相比之下,事后可解释性方法应用于黑箱模型可能会产生不可靠的解释本地模型的预测。模型的可解释性对于理解预测性能的差异和整合到临床实践中至关重要。
2021-06-17 cs.AI cs.LG
Deep Clustering Survival Machines with Interpretable Expert Distributions
University of Pennsylvania(宾夕法尼亚大学);Brown University(布朗大学)
提出融合判别与生成机制的深度聚类生存机器,通过可学习的参数化专家分布加权刻画个体生存信息,实现可解释聚类与有竞争力的时间到事件预测。
2024-04-08 cs.AI cs.LG
Towards interpretable quantum machine learning via single-photon quantum walks
Universität Innsbruck(因斯布鲁克大学);University of Konstanz(康斯坦茨大学)
提出基于单光子量子行走的变分方法量子化投影模拟,利用量子干涉增强迁移学习能力,并提升决策过程的可解释性。
2023-10-16 cs.AI cs.LG quant-ph
Greenhouse gases emissions: estimating corporate non-reported emissions using interpretable machine learning
BNP Paribas(法国巴黎银行);CentraleSupélec, Université Paris-Saclay(巴黎萨克雷大学中央理工-高等电力学院)
截至2022年,温室气体(GHG)排放报告和审计尚未强制要求所有公司,测量和估计方法也未统一。我们提出了一个基于机器学习的模型来估计尚未报告的公司的范围1和范围2温室气体排放量。我们的模型专门设计为透明并完全适应这种用例,能够估计大量公司的排放量。它显示出良好的样本外的全球表现,以及良好的样本外的粒度性能时,按部门,按国家或收入桶进行评估。我们还将我们的结果与其他供应商的结果进行比较,发现我们的估计更准确。由于使用Shapley值的可解释性工具,我们的模型是完全可解释的,用户能够理解哪些因素可以解释每个特定公司的温室气体排放。
2022-12-21 cs.AI cs.LG q-fin.GN
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University(中央华盛顿大学)
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域,他们是专为。所提出的迭代视觉逻辑分类器(IVLC)是一种可解释的机器学习算法,允许最终用户设计模型并以更高的置信度对数据进行分类,而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用,如医疗领域中的癌症数据,错误成本很高。在所提出的交互式无损多维可视化的帮助下,最终用户可以识别数据中的模式,并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统(SPCVis)支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性,使其能够自助执行数据分类,而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时,交互式模式发现变得具有挑战性。为了克服这个问题,本章提出了一个自动分类方法结合新的坐标顺序优化(COO)算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列,而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集,包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
The Self-Simplifying Machine: Exploiting the Structure of Piecewise Linear Neural Networks to Create Interpretable Models
Carnegie Mellon University(卡内基梅隆大学)
如今,用户对他们使用的模型的信任比以往任何时候都更加重要。随着机器学习模型受到越来越多的监管审查,并开始在高风险情况下看到更多的应用,解释我们的模型变得至关重要。具有ReLU激活函数的分段线性神经网络(PLNN)由于许多吸引人的特性而迅速成为非常受欢迎的模型;然而,它们在鲁棒性和解释方面仍然存在许多挑战。为此,我们引入了新的方法来简化和增加分段线性神经网络的分类任务的可解释性。我们的方法包括使用经过训练的深度网络来生成性能良好的单隐藏层网络,而无需进一步的随机训练,此外还使用一种算法将平面网络减少到更小,更可解释的大小,同时性能损失最小。在这些方法中,我们进行了初步的研究模型的性能,以及富国银行的家庭贷款数据集的案例研究,连同可视化模型解释。
2020-12-02 cs.AI cs.LG stat.ML
Helix 1.0: An Open-Source Framework for Reproducible and Interpretable Machine Learning on Tabular Scientific Data
University of Nottingham(诺丁汉大学);La Trobe University(拉筹伯大学);Monash University(莫纳什大学)
本文介绍开源 Python 框架 Helix 1.0,通过模块化、可溯源与语言化解释界面,支持表格科学数据的可复现、可解释机器学习分析。
2025-07-23 cs.AI cs.LG
Fairness-Aware Interpretable Modeling (FAIM) for Trustworthy Machine Learning in Healthcare
Duke-NUS Medical School(杜克-新加坡国立大学医学院);Singapore General Hospital(新加坡中央医院);National University of Singapore(新加坡国立大学);Duke University(杜克大学)
针对医疗等高风险领域机器学习模型的公平性问题,提出可解释框架FAIM,结合交互式界面与临床专业知识,在真实数据集上实现性能不下降的同时显著缓解偏见,提供多学科参与的定制化AI公平建模模式。
2024-03-08 cs.AI cs.CY cs.LG
Interpretable Machine Learning Approaches to Prediction of Chronic Homelessness
VanBerlo Consulting(VanBerlo咨询公司);Artificial Intelligence Research and Development Lab(人工智能研发实验室);Information and Technology Services(信息与技术服务中心);The Corporation of the City of London(伦敦市公司);Homeless Prevention(无家可归预防机构)
我们引入了一种机器学习方法来预测长期无家可归的去识别客户端住房记录从一个常用的加拿大无家可归者管理信息系统。使用30天的时间步长,生成了6521个个体的数据集。我们的模型,HIFIS-RNN-MLP,结合静态和动态功能的客户端的历史来预测慢性无家可归6个月到客户端的未来。对训练方法进行了微调,以获得较高的F1分数,从而在高召回率和准确率之间实现所需的平衡。10倍交叉验证的平均召回率和精确率分别为0.921和0.651。解释性方法被用来解释个人的预测,并深入了解导致研究人群中长期无家可归的整体因素。该模型通过可解释的AI实现了最先进的性能,并提高了利益相关者对通常是“黑匣子”神经网络模型的信任。
2020-09-12 cs.AI cs.CY cs.LG
Predicting Treatment Response in Body Dysmorphic Disorder with Interpretable Machine Learning
MIT(麻省理工学院);Harvard(哈佛大学)
本研究用多种可解释机器学习模型预测 BDD 的治疗反应与缓解,发现治疗可信度是最强预测因子,决策树阈值可为个性化干预和资源分配提供临床依据。
2025-03-13 cs.AI cs.LG
Distilling Reinforcement Learning Policies for Interpretable Robot Locomotion: Gradient Boosting Machines and Symbolic Regression
University College London(伦敦大学学院)
本文提出一种将神经网络强化学习策略蒸馏为GBMs、EBMs和符号回归等可解释模型的方法,结合DAgger算法解决分布偏移,在多种机器人步态上以极低交互成本实现高可解释性。
2024-03-21 cs.AI cs.LG cs.RO
Interpretable Control by Reinforcement Learning
Siemens AG(西门子股份公司)
在本文中,三个最近推出的强化学习(RL)方法被用来生成人类可解释的政策的车杆平衡基准。新的RL方法以紧凑的模糊控制器和简单的代数方程的形式学习人类可解释的策略。的表示,以及实现的控制性能进行了比较,与两个经典的控制器设计方法和三个不可解释的RL方法。所有八种方法都使用相同的先前生成的数据批次,并离线生成其控制器-而不与真实的基准动态进行交互。实验表明,新的强化学习方法能够自动生成性能良好的策略,同时这些策略是人类可解释的。此外,其中一种方法被应用到自动学习基于方程的政策,硬件车杆演示器通过只使用人类玩家生成的批处理数据。在第一次尝试中生成的解决方案已经代表了成功的平衡策略,这表明该方法适用于现实世界的问题。
2020-07-20 cs.AI cs.LG cs.RO
Interpretable and Explainable Machine Learning Methods for Predictive Process Monitoring: A Systematic Literature Review
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Saarland University(萨尔兰大学)
本文通过系统文献综述,探讨预测性流程挖掘中机器学习模型的可解释性与可解释性,区分内在可解释模型与事后解释技术,并总结趋势、挑战与未来方向,以促进更可信的智能系统开发。
2023-12-29 cs.AI cs.LG stat.ML
Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning
Centre for Applied Industrial Intelligence, University of Strathclyde(应用工业智能中心,斯特拉思克莱德大学)
针对KANs高维样条参数冗余导致的过拟合问题,提出P-KANs框架,通过熵最小化引导边函数收敛至低参数投影空间,实现高达80%参数压缩并增强可解释性。
2025-09-24 cs.AI cs.LG cs.NE
Tensor networks for interpretable and efficient quantum-inspired machine learning
Capital Normal University(首都师范大学);University of Chinese Academy of Sciences(中国科学院大学)
本文回顾了基于张量网络的机器学习进展,指出其结合量子信息理论与多体物理计算技术,能同时实现高可解释性与高效率,并有望推动未来量子人工智能的发展。
2023-11-19 cs.AI cs.LG quant-ph