Extending Explainable Boosting Machines to Scientific Image Data
本文首次将可解释提升机（EBMs）应用于科学图像数据，通过基于 Gabor 小波变换的表格化方法处理冷原子孤子图像，在保留空间结构的同时提供符合人类直觉的解释。
2023-11-30 cond-mat.quant-gas cs.CV cs.LG
Improving Credit Card Fraud Detection with an Optimized Explainable Boosting Machine
ReDi School（ReDi学院）
本文通过优化可解释提升机算法，提升信用卡欺诈检测的准确性和可解释性，实验结果显示其在ROC-AUC指标上优于多种传统方法。
2026-02-06 cs.LG
Explainable Boosting Machine for Predicting Claim Severity and Frequency in Car Insurance
ADDACTIS France（ADDACTIS法国）
本文评估可解释提升机（EBM）在车险索赔频率和严重程度建模中的表现，EBM结合广义加性模型与循环梯度提升，实现可解释的玻璃箱模型，并通过实证与基准模型比较预测精度和校准效果。
2026-06-23 cs.LG stat.AP stat.ML
Detecting Cybersecurity Threats by Integrating Explainable AI with SHAP Interpretability and Strategic Data Sampling
Dept. of Digital Network and Information Security Management（数字网络与信息安全管理系）
本研究通过整合可解释AI与SHAP可解释性及战略数据采样，提升网络安全威胁检测的透明度和效率
2026-02-22 cs.AI cs.CR cs.LG
Explainable Boosting Machines with Sparsity -- Maintaining Explainability in High-Dimensional Settings
University of Cincinnati（辛辛那提大学）
针对高维场景下可解释提升机可解释性下降和评分变慢的问题，提出基于LASSO的后处理稀疏化方法，通过重加权并移除不相关项来保持透明性并大幅提升评分速度。
2023-11-13 cs.LG stat.ML
DimVis: Interpreting Visual Clusters in Dimensionality Reduction With Explainable Boosting Machine
Linnaeus University（林奈大学）；Utrecht University（乌得勒支大学）；Yildiz Technical University（伊尔德兹技术大学）
DimVis利用可解释提升机模型实时解释UMAP降维投影中的视觉聚类，通过特征重要性排名实现交互式高维数据分析。
2024-04-18 cs.HC cs.LG stat.CO
Enhancing Performance of Explainable AI Models with Constrained Concept Refinement
Princeton University（普林斯顿大学）
本文提出一种约束概念精炼框架，在保持可解释性的同时优化概念嵌入，以解决可解释模型准确性与可解释性权衡问题，并在图像分类基准上以更低计算成本提升预测精度。
2025-05-27 cs.LG
Using Explainable Boosting Machine to Compare Idiographic and Nomothetic Approaches for Ecological Momentary Assessment Data
Maastricht University（马斯特里赫特大学）；University of Amsterdam（阿姆斯特丹大学）
以往对精神障碍EMA数据的研究主要集中在基于多元回归的方法对每个个体单独建模。本文进一步探索了在分类问题中使用非线性可解释的机器学习（ML）模型。ML模型可以通过识别数据中变量之间的复杂模式来提高准确预测不同行为发生的能力。为了评估这一点，使用不平衡的合成和真实世界的数据集的线性模型的树的各种合奏的性能进行比较。在检查所有情况下AUC评分的分布后，非线性模型似乎优于基线线性模型。此外，除了个性化的方法外，组级预测模型也可能提供更好的性能。在此基础上，研究了两种不同的规则方法来整合多个个体的数据，一种是在训练过程中直接使用所有数据，另一种是基于知识蒸馏。有趣的是，观察到在两个真实世界数据集中的一个中，知识蒸馏方法实现了改善的AUC分数（与个性化相比，平均相对变化为+17\%），显示了它如何有益于EMA数据分类和性能。
2022-04-04 cs.LG
Efficient and Interpretable Traffic Destination Prediction using Explainable Boosting Machines
Clausthal University of Technology（克劳斯塔尔工业大学）
本研究评估了名为 \ac{EBM} 的高效加性模型在三个混合交通数据集上的交通目的地预测性能，发现其在预测行人目的地方面具竞争力，同时提供完全可解释性以分析特征重要性与交互。
2024-02-05 cs.AI cs.LG
Towards Unified Attribution in Explainable AI, Data-Centric AI, and Mechanistic Interpretability
Harvard University（哈佛大学）
本文提出统一视角，指出可解释AI、以数据为中心的AI和机制可解释性中的特征、数据与组件归因方法在技术上具有根本相似性，该视角能增强现有方法理解并开辟模型编辑等新研究方向。
2025-05-29 cs.AI cs.LG
Iterative Feature Boosting for Explainable Speech Emotion Recognition
University of Québec (TÉLUQ)（魁北克大学（TÉLUQ））；Concordia University（康考迪亚大学）；University of Québec at Montréal（蒙特利尔魁北克大学）
本文提出一种基于Shapley值的迭代特征增强方法，通过可解释的特征评估循环优化语音情感识别特征选择，在TESS数据集上超越人类水平和现有最优方法。
2024-06-05 cs.AI cs.CL cs.LG
Explainable Matrix -- Visualization for Global and Local Interpretability of Random Forest Classification Ensembles
Federal Institute of São Paulo (IFSP)（圣保罗联邦学院（IFSP））；University of São Paulo (USP)（圣保罗大学（USP））；Dalhousie University（达尔豪斯大学）
在过去的几十年中，分类模型已被证明是必不可少的机器学习工具，因为它们在各个领域中具有潜力和适用性。近年来，北方的大多数研究人员一直致力于改进定量指标，尽管缺乏有关模型的决策信息，这些指标传达。这种模式最近发生了变化，除了表格和数字之外，帮助解释模型决策的策略越来越重要。作为这一趋势的一部分，可视化技术已被广泛用于支持分类模型的可解释性，其中重点关注基于规则的模型。尽管取得了这些进展，但现有的方法在视觉可扩展性方面存在限制，并且大型和复杂模型的可视化，例如由随机森林（RF）技术产生的模型，仍然是一个挑战。在本文中，我们提出了可解释矩阵（ExMatrix），一种新的可视化方法RF可解释性，可以处理大量的规则模型。它采用了一个简单而强大的矩阵式视觉隐喻，其中行是规则，列是特征，单元格是规则谓词，从而可以分析整个模型并审计分类结果。通过不同的例子证实了ExMatrix的适用性，展示了如何在实践中使用它来提高RF模型的可解释性。
2020-09-14 cs.LG stat.ML
Boosting the interpretability of clinical risk scores with intervention predictions
Google Research（谷歌研究院）；University of Pittsburgh（匹兹堡大学）
机器学习系统显示出通过风险评分预测患者不良事件的重要前景。然而，这些风险评分基于训练数据中存在的干预策略隐含地编码了关于患者可能接受的未来干预的假设。如果没有这个重要的背景，来自这些系统的预测对于临床医生来说就不那么可解释了。我们提出了一个联合模型的干预政策和不良事件风险作为一种手段，明确沟通模型的假设，未来的干预措施。我们在MIMIC-III（一个真实世界的去识别ICU数据集）上开发了这样一个干预政策模型，并讨论了一些突出这种方法实用性的用例。我们展示了如何结合典型的风险评分，如死亡的可能性，与未来的干预概率评分导致更多的可解释的临床预测。
2022-07-06 cs.AI cs.LG
Cross Feature Selection to Eliminate Spurious Interactions and Single Feature Dominance Explainable Boosting Machines
Indian Institute of Science（印度科学学院）；Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）
针对EBM存在冗余特征虚假交互和单特征主导问题，提出多步交叉特征选择、集成特征与配置调整方法，在三个基准数据集上提升了可解释性、稳定性和预测性能。
2023-07-17 cs.LG stat.ML
GAMI-Net: An Explainable Neural Network based on Generalized Additive Models with Structured Interactions
The University of Hong Kong（香港大学）；Wells Fargo（富国银行）
缺乏可解释性是神经网络模型在实际应用中不可避免的问题。为了在预测精度和模型可解释性之间取得良好的平衡，提出了一种基于结构化交互作用的广义可加模型（GAMI-Net）的可解释神经网络. GAMI-Net是一个具有多个附加子网络的解纠缠前馈网络;每个子网络由多个隐藏层组成，旨在捕获一个主效应或一个成对相互作用。进一步考虑了三个可解释性方面，包括a）稀疏性，以选择最显著的效应用于简约表示; b）遗传性，当至少存在一个父主效应时，成对相互作用才能被包括在内;以及c）边际清晰度，以使主效应和成对相互作用相互区分。开发了一种自适应训练算法，其中首先训练主效应，然后将成对相互作用拟合到残差。在合成函数和真实数据集上的数值实验表明，与可解释的boosting机和其他经典机器学习模型相比，该模型具有更好的可解释性，并保持了有竞争力的预测精度.
2021-06-02 cs.LG stat.CO stat.ML
What Do You See? Evaluation of Explainable Artificial Intelligence (XAI) Interpretability through Neural Backdoors
Purdue University（普渡大学）
可解释人工智能（XAI）方法已经被提出来解释深度神经网络如何通过模型显着性解释来预测输入，这些解释突出了被认为对在特定目标上做出决策很重要的输入部分。然而，它仍然具有挑战性，以量化其可解释性的正确性，因为目前的评估方法要么需要从人类的主观输入或自动评估招致高计算成本。在本文中，我们提出了后门触发模式-隐藏的恶意功能，导致错误分类-自动评估显着性的解释。我们的主要观察是，触发器为输入提供了基础事实，以评估XAI方法识别的区域是否与其输出真正相关。由于后门触发器是导致故意错误分类的最重要特征，因此强大的XAI方法应该在推理时显示它们的存在。我们介绍了三个补充指标，用于系统评估XAI方法生成和评估七个最先进的无模型和模型特定的posthoc方法的解释，通过36个模型特洛伊木马专门制作的触发器使用颜色，形状，纹理，位置和大小。我们发现六种使用局部解释和特征相关性的方法都不能完全突出触发区域，只有无模型方法才能揭示整个触发区域。
2020-09-22 cs.AI cs.CV cs.LG
Disentangled and Self-Explainable Node Representation Learning
University of Pisa（比萨大学）；CENTAI Institute（CENTAI研究院）；Delft University of Technology（代尔夫特理工大学）
针对无监督节点嵌入可解释性不足的问题，提出DiSeNE框架，通过解耦表示学习生成逐维度可解释的嵌入，并设计新目标函数与评估指标，实验验证其有效性。
2025-10-16 cs.AI cs.LG stat.ML
PulmoSight-XAI: An Explainable Multi-View Attention Ensemble with Gradient Boosting Meta-Learning for Multi-Label Chest X-Ray Classification
Department of Biomedical Engineering Bangladesh University of Engineering and Technology (BUET)（孟加拉国工程技术大学（BUET）生物医学工程系）
针对胸部X光分类挑战，提出分层多视图集成框架。用五个卷积神经网络分别处理正侧位片，结合多尺度特征融合与注意力模块，采用混合损失函数优化模型，通过分层元学习策略提升性能，兼具准确性与可解释性。
2026-07-07 cs.AI cs.CV cs.LG
A general-purpose method for applying Explainable AI for Anomaly Detection
Google（谷歌）；The George Washington University（乔治华盛顿大学）
可解释人工智能（XAI）的需求已经得到了很好的确立，但在监督学习范式之外发表的相对较少。本文重点介绍了一个原则性的方法，将可解释性和可解释性的任务，无监督的异常检测。我们认为，可解释性主要是一个算法的任务和可解释性主要是一个认知任务，并借鉴认知科学的见解，提出一个通用的方法，用于实际诊断使用解释异常。我们定义了归因错误，并证明，使用真实世界的标记数据集，我们的方法的基础上集成的一致性（IG）产生显着降低归因错误比其他方法。
2022-07-23 cs.AI cs.LG
Quantitative Evaluation of Explainable Graph Neural Networks for Molecular Property Prediction
Sun Yat-sen University（中山大学）；Galixir
机器学习的进展已经导致用于药物发现的基于图神经网络的方法，在分子设计、化学合成规划和分子性质预测方面产生有希望的结果。然而，目前的图神经网络（GNN）仍然是有限的接受在药物发现是有限的，由于他们缺乏可解释性。虽然这一主要弱点已经通过可解释人工智能（XAI）技术的发展得到缓解，但大多数可解释任务中的“地面实况”分配最终取决于人类的主观判断，因此模型解释的质量很难量化评估。在这项工作中，我们首先建立了三个层次的基准数据集，以定量评估最先进的GNN模型的可解释性。然后，我们结合不同的GNN算法实施了最新的XAI方法，以强调药物发现的好处、局限性和未来机会。因此，GradInput和IG通常为GNN提供最佳的模型可解释性，特别是与GraphNet和CMPNN结合使用时。集成和开发的XAI软件包是完全开源的，可供从业人员用于训练其他药物发现任务的新模型。
2021-07-12 cs.LG q-bio.QM
Explainable AI for Smart Greenhouse Control: Interpretability of Temporal Fusion Transformer in the Internet of Robotic Things
Department of Computing Atlantic Technological University（计算系阿特兰蒂克技术大学）
本研究利用时间融合变换器模型提升智能温室中执行器控制的可解释性，通过多种解释技术增强决策透明度，提高作物产量和资源利用效率。
2025-12-04 cs.AI cs.LG
Deciphering knee osteoarthritis diagnostic features with explainable artificial intelligence: A systematic review
Universiti Malaya（马来亚大学）；Université Paris-Est Créteil（巴黎东克雷泰伊大学）
本文首次系统综述用于膝骨关节炎诊断的可解释人工智能技术，从数据与模型两个可解释性维度梳理方法，以提升AI预测透明度、可信度及临床采用率。
2023-08-18 cs.AI cs.CV cs.LG
MIXAD: Memory-Induced Explainable Time Series Anomaly Detection
Sungkyunkwan University（成均馆大学）；Center for Computational & Data Sciences, Independent University, Bangladesh（孟加拉国独立大学计算与数据科学中心）
针对现有时间序列异常检测方法重性能轻可解释性的问题，提出结合记忆网络与时空单元的MIXAD模型及新型异常评分法，在保证检测性能的同时，可解释性指标较最优基线提升超34%。
2024-10-30 cs.LG
A Survey on Explainable Artificial Intelligence (XAI): Towards Medical XAI
Nanyang Technological University（南洋理工大学）；Alibaba Group Holding Limited（阿里巴巴集团控股有限公司）
最近，人工智能和机器学习在从图像处理到自然语言处理的许多任务中表现出了卓越的性能，特别是随着深度学习的出现。随着研究的不断深入，它们已经渗透到许多不同的领域和学科。其中一些部门需要高度的问责制，因此需要透明度，例如医疗部门。因此，需要对机器决策和预测进行解释，以证明其可靠性。这需要更好的可解释性，这通常意味着我们需要理解算法背后的机制。不幸的是，深度学习的黑盒性质仍然没有得到解决，许多机器决策仍然知之甚少。本文对不同研究成果提出的可解释性进行了综述和分类。从提供“明显”可解释信息的方法到复杂模式的研究，不同的类别在可解释性研究中表现出不同的维度。通过将相同的分类应用于医学研究中的可解释性，我们希望（1）临床医生和从业者随后可以谨慎地使用这些方法，（2）对可解释性的见解将与医学实践的更多考虑一起诞生，（3）鼓励推动基于数据的，数学和技术基础的医学教育的倡议。
2020-08-11 cs.AI cs.LG
Recurrence-Aware Long-Term Cognitive Network for Explainable Pattern Classification
Tilburg University（蒂尔堡大学）；Universidad de Talca（塔尔卡大学）；Eindhoven University of Technology（埃因霍温理工大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；University of Miami（迈阿密大学）
用于模式分类问题的机器学习解决方案如今在社会和工业中被广泛部署。然而，最准确的模型缺乏透明度和问责制，往往妨碍其安全使用。因此，显然需要开发可解释的人工智能机制。存在模型不可知的方法，总结功能的贡献，但它们的可解释性是有限的黑盒模型所做的预测。一个开放的挑战是开发具有内在可解释性的模型，并产生自己的解释，即使是传统上被认为是黑箱的模型，如（循环）神经网络。在本文中，我们提出了一个长期的认知网络结构化数据的可解释模式分类。我们的方法通过量化决策过程中每个特征的相关性来提供解释。为了在不影响性能的情况下支持可解释性，该模型通过允许控制非线性的准非线性推理规则来增加灵活性。此外，我们提出了一个递归感知的决策模型，避免了唯一不动点所带来的问题，同时引入了一个确定性的学习算法来计算可调参数。模拟结果表明，我们的可解释模型获得竞争力的结果相比，最先进的白盒和黑盒模型。
2021-12-23 cs.LG
Adaptive Explainable Neural Networks (AxNNs)
Wells Fargo（富国银行）
虽然机器学习技术已成功应用于多个领域，但模型的黑盒性质给解释和解释结果带来了挑战。我们开发了一个名为自适应可解释神经网络（AxNN）的新框架，以实现良好的预测性能和模型可解释性的双重目标。对于预测性能，我们建立了一个结构化的神经网络，由广义可加模型网络和加性指数模型（通过可解释的神经网络）的集成使用两个阶段的过程。这可以使用增强或堆叠集合来完成。为了便于解释，我们展示了如何将AxNN的结果分解为主效应和高阶交互效应。这些计算继承自Google的开源工具AdaNet，可以通过分布式计算进行训练来有效地加速。模拟和真实数据集上的结果进行了说明。
2020-06-02 cs.AI cs.LG stat.ML
Knowledge-Guided Machine Learning: Illustrating the use of Explainable Boosting Machines to Identify Overshooting Tops in Satellite Imagery
The Courant Institute of Mathematical Sciences, New York University（Courant数学科学研究所，纽约大学）；Department of Statistics, Colorado State University（统计学系，科罗拉多州立大学）；Cooperative Institute for Research in the Atmosphere, Colorado State University（大气研究合作研究所，科罗拉多州立大学）；Department of Electrical and Computer Engineering, Colorado State University（电气与计算机工程系，科罗拉多州立大学）；Department of Mathematics, Colorado State University（数学系，科罗拉多州立大学）；School of Earth and Environmental Sciences, Seoul National University（地球与环境科学学院，首尔国立大学）
本文提出利用可解释提升机（EBMs）开发可解释的机器学习算法，用于识别卫星图像中的超顶云顶，展示人机协作在气象应用中的潜力。
2026-02-27 cs.CV cs.LG
Explainable Deep Relational Networks for Predicting Compound-Protein Affinities and Contacts
Department of Electrical；Computer Engineering, Texas A\&M University, College Station, TX 77843, United States；Department of Computer Science；Engineering, Texas A\&M University, College Station, TX 77843, United States
预测化合物与蛋白质的亲和力对于加速药物发现至关重要。机器学习最近取得的进展主要集中在准确性上，但在可解释性方面还有很多需要改进的地方。通过分子联系的基础亲和力，我们的大规模的可解释性评估发现常用的注意力机制不足。因此，我们制定了一个层次化的多目标学习问题，其预测的接触形成的基础上预测的亲和力。我们进一步设计了一个物理启发的深度关系网络，DeepRelations，具有内在可解释的架构。具体来说，各种原子级接触或“关系”导致分子级亲和力预测。嵌入式注意与预测的结构上下文和监督部分可用的训练接触。DeepRelations表现出了卓越的可解释性：在不影响亲和力预测的情况下，它分别将测试、化合物独特、蛋白质独特和两者都独特的接触预测的AUPRC提高了9.5、16.9、19.3和5.7倍。我们的研究代表了第一个专门的模型开发和系统的模型评估，可解释的机器学习的化合物-蛋白质亲和力。
2019-12-29 cs.LG q-bio.BM
Unveiling Hidden Factors: Explainable AI for Feature Boosting in Speech Emotion Recognition
University of Québec (TÉLUQ)（魁北克大学（TÉLUQ））；Concordia University（康考迪亚大学）；Concordia Institute for Information Systems Engineering（康考迪亚信息系统工程学院）；University of Québec at Montréal（蒙特利尔魁北克大学）；Centre for Research and Intervention on Suicide, Ethical Issues and End-of-Life Practices（自杀、伦理问题与临终实践研究与干预中心）
本文提出一种基于Shapley值的迭代特征增强方法，通过可解释性优化语音情感识别特征集，在多个基准上超越现有方法。
2024-06-05 cs.AI cs.CL cs.LG
xFODE: An Explainable Fuzzy Additive ODE Framework for System Identification
AI and Intelligent Systems Laboratory（人工智能与智能系统实验室）；Istanbul Technical University（伊斯坦布尔技术大学）
xFODE通过增量状态定义和模糊加性模型提升系统辨识的可解释性，结合参数化隶属函数学习实现端到端优化，实现高精度与可解释性兼顾。
2026-04-16 cs.LG
Towards Explainable Deep Clustering for Time Series Data
LMU Munich, Germany（慕尼黑大学）；Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心）
本综述系统梳理时间序列可解释深度聚类方法与跨领域应用，指出其在流式、不规则及隐私数据上的不足，并提出六项未来研究方向。
2025-10-20 cs.LG
Sparse Oblique Rule Boosting for Simpler Additive Rule Ensembles
Monash University（莫纳什大学）；University of Haifa（海法大学）
本文提出稀疏斜规则提升方法，通过可学习稀疏线性变换扩展规则条件，使决策区域成为斜多面体，在14个任务上以更低模型复杂度保持或提升精度，兼顾可解释性与准确性。
2026-09-09 cs.LG
Efficient Fraud Detection Using Deep Boosting Decision Trees
Xi’an Jiaotong University（西安交通大学）
本文提出深度提升决策树（DBDT），通过将神经网络嵌入梯度提升并结合组合AUC最大化方法，有效解决了欺诈检测中数据不平衡及传统方法与深度学习在表示能力和可解释性上的局限。
2023-05-18 cs.LG stat.AP stat.ML
Experimental Insights Towards Explainable and Interpretable Pedestrian Crossing Prediction
Universidad de Alcalá（阿尔卡拉大学）
提出融合深度学习与模糊逻辑的神经符号预测器 ExPedCross，在 PIE 和 JAAD 上实现可解释的行人过街预测，并给出数据与特征选择建议。
2023-12-05 cs.AI cs.LG cs.NE
SEFraud: Graph-based Self-Explainable Fraud Detection via Interpretative Mask Learning
Huawei Inc（华为公司）；Peking University（北京大学）；ICBC Limited（中国工商银行股份有限公司）
本文提出SEFraud框架，通过带可学习特征与边掩码的异构图Transformer及三元组损失，同时实现欺诈检测与自解释，并在多数据集和工商银行生产环境验证有效。
2024-06-17 cs.LG
Fair MP-BOOST: Fair and Interpretable Minipatch Boosting
Rice University（莱斯大学）；Columbia University（哥伦比亚大学）
本文提出 Fair MP-Boost，一种通过自适应采样迷你块并学习特征与观测概率来同时提升公平性、准确性和可解释性的随机提升方法。
2024-04-01 cs.LG stat.ML
eXplainable Bayesian Multi-Perspective Generative Retrieval
KAIST AI（韩国科学技术院人工智能学院）；Samsung Electronics（三星电子）
该研究将贝叶斯不确定性校准与多视角检索结合，利用LIME和SHAP解释分数增强重排序，在问答和事实验证任务的三个KILT数据集上显著提升性能。
2024-02-04 cs.IR cs.LG
XMI-ICU: Explainable Machine Learning Model for Pseudo-Dynamic Prediction of Mortality in the ICU for Heart Attack Patients
University of Oxford（牛津大学）
本研究提出XMI-ICU框架，利用eICU和MIMIC-IV数据，通过极端梯度提升和时间分辨Shapley值，实现ICU心脏病患者死亡率的伪动态预测，AUC达91.0，并提供临床可解释性。
2023-05-10 cs.LG
XAI-SOH-FL: Enhancing SOH-FL with Adaptive Aggregation and Explainable AI for Intrusion Detection in Heterogeneous IoT
School of Electrical Engineering and Computer Science (SEECS), National University of Sciences and Technology (NUST)（电气工程与计算机科学学院（SEECS），国家 sciences and Technology（NUST））
针对异构物联网中数据异构、标签稀缺和模型不可解释性问题，提出XAI-SOH-FL框架，通过自适应聚合（动态γ选择与贝叶斯优化）和SHAP可解释性，在CICIDS2017数据集上达到94.12%准确率和0.92 F1分数，优于基线SOH-FL。
2026-05-28 cs.AI cs.CR cs.LG
Explainable artificial intelligence (XAI): from inherent explainability to large language models
University of Mines and Technology (UMaT)（矿业技术大学（UMaT））；Cape Coast Technical University（海岸角理工大学）
本文是一篇可解释人工智能（XAI）领域的综述，梳理了从固有可解释模型到大语言模型等黑盒模型的XAI方法，介绍了利用大语言模型和视觉-语言模型提升可解释性的技术，对比了前沿方法的优劣，并指出了该领域的挑战与未来方向。
2025-01-17 cs.AI cs.CV cs.LG
An Integrated Fusion Framework for Ensemble Learning Leveraging Gradient Boosting and Fuzzy Rule-Based Models
Research Institute, China Unicom（中国联通研究院）；International Business School, Henan University（河南大学国际商学院）
针对模糊规则模型设计复杂、大规模数据可扩展性差的问题，提出集成融合框架，结合梯度提升与模糊规则模型优势，通过动态因子控制模型贡献并引入样本校正机制，提升了模型性能、可解释性并减轻过拟合。
2025-11-11 cs.AI cs.LG
Visual Interpretable and Explainable Deep Learning Models for Brain Tumor MRI and COVID-19 Chest X-ray Images
Osnabrück University（奥斯纳布吕克大学）；Rhodes University（罗德斯大学）
本文通过基于自适应路径的梯度积分归因方法，对脑肿瘤 MRI 和 COVID-19 胸部 X 光图像的深度学习预测进行可视化解释，揭示模型推理依据与偏差，从而提升医疗领域对深度学习的信任。
2023-08-07 cs.LG
Tell me why: Visual foundation models as self-explainable classifiers
University of Geneva（日内瓦大学）；Geneva University Hospitals（日内瓦大学医院）；National University of Singapore（新加坡国立大学）
本研究提出ProtoFM，通过冻结视觉基础模型并训练轻量原型头部，实现高效且忠实自解释的分类，性能与可解释性均优于现有模型。
2025-02-26 cs.AI cs.CV cs.LG
Newfluence: Boosting Model interpretability and Understanding in High Dimensions
Department of Statistics, Columbia University, New York, NY, US.（哥伦比亚大学统计系）；Department of Statistics, The Ohio State University, Columbus, OH, US.（俄亥俄州立大学统计系）；Baruch College, The City University of New York, New York, NY, US.（纽约市立大学巴克利学院）
针对高维环境下影响函数失效的问题，提出名为 Newfluence 的替代近似方法，在保持计算效率的同时显著提升准确性，为解释复杂AI模型提供更优方案。
2025-07-16 cs.LG stat.ME stat.ML
Explainable AI for clinical risk prediction: a survey of concepts, methods, and modalities
University of Oxford（牛津大学）
本文综述面向临床风险预测的可解释AI，梳理可解释性、公平性、偏见、信任与透明度等概念，讨论多模态模型的评估验证、外部验证、方法融合及开放复现实践。
2023-08-16 cs.AI cs.CY cs.LG
MedicalPatchNet: A Patch-Based Self-Explainable AI Architecture for Chest X-ray Classification
Department of Diagnostic and Interventional Radiology of the University Hospital RWTH Aachen（鲁尔大学亚琛医院诊断与介入放射科）；Else Kroener Fresenius Center for Digital Health, Technical University Dresden（德累斯顿技术大学埃勒克罗纳弗雷斯内尔数字健康中心）；Department of Medicine III, University Hospital RWTH Aachen（鲁尔大学亚琛医院第三医学部）；Pathology & Data Analytics, Leeds Institute of Medical Research at St James’s, University of Leeds（利兹大学圣詹姆斯医院医学研究所以及病理学与数据科学）；Department of Medicine I, University Hospital Dresden（德累斯顿大学第一医学部）；Medical Oncology, National Center for Tumor Diseases (NCT), University Hospital Heidelberg（海德堡大学国家肿瘤疾病中心（NCT）肿瘤医学部）
MedicalPatchNet通过基于补丁的自解释架构提升胸部X光分类的可解释性，实现与EfficientNetV2-S相当的性能并提高临床信任度。
2026-02-25 cs.CV cs.LG
Towards Explainable Fusion and Balanced Learning in Multimodal Sentiment Analysis
School of Computer Science, South China Normal University（华南师范大学计算机学院）
针对多模态情感分析中融合决策缺乏可解释性与模态不平衡问题，提出KAN-MCP框架，集成KAN的可解释性与MCPareto的鲁棒性，通过DRD-MIB处理特征并动态平衡梯度，在基准数据集上实现优越性能且提供可视化界面。
2025-07-07 cs.AI cs.LG
Financial Fraud Detection Using Explainable AI and Stacking Ensemble Methods
Computer Science Department, College of Computers and Information Technology, Taif University（计算机科学系，计算机与信息科技学院，泰夫大学）；Department of Computer Science, Taif University（计算机科学系，泰夫大学）
本文提出融合 XGBoost、LightGBM、CatBoost 的堆叠集成框架，并结合 SHAP、LIME、PDP 和 PFI 提升可解释性，在 IEEE-CIS 数据集上实现99%准确率与0.99 AUC-ROC。
2025-05-15 cs.AI cs.LG
SPINEX: Similarity-based Predictions and Explainable Neighbors Exploration for Regression and Classification Tasks in Machine Learning
Clemson University（克莱姆森大学）；University of Guelph（圭尔夫大学）
本文提出了一种新颖的基于相似性的可解释邻居探索算法SPINEX，通过结合集成学习与特征交互分析量化特征贡献，在59个数据集上表现出优于或可比的性能，有效解决了高维和不平衡数据的可解释性问题。
2023-06-01 cs.LG stat.AP
Explainable Artificial Intelligence Techniques for Irregular Temporal Classification of Multidrug Resistance Acquisition in Intensive Care Unit Patients
Rey Juan Carlos University（雷伊·胡安·卡洛斯大学）；University Hospital of Fuenlabrada（芬拉布拉达大学医院）
本研究提出结合门控循环单元（GRU）与可解释人工智能方法（IT-SHAP）的新框架，用于检测ICU患者多重耐药性发生，在保持78.27%预测准确率的同时识别关键风险因素，辅助临床早期干预。
2024-07-24 cs.LG
InterpretML: A Unified Framework for Machine Learning Interpretability
Microsoft Corporation（微软公司）
InterpretML是一个开源Python包，它向从业者和研究人员公开了机器学习可解释性算法。InterpretML公开了两种类型的可解释性-玻璃盒模型，这是为可解释性而设计的机器学习模型（例如：线性模型，规则列表，广义加法模型），以及用于解释现有系统的黑盒可解释性技术（例如：部分依赖，LIME）。该软件包使从业者能够通过在统一的API下公开多个方法，并通过内置的可扩展可视化平台轻松比较可解释性算法。InterpretML还包括可解释的提升机的第一个实现，这是一个强大的、可解释的玻璃盒模型，可以像许多黑盒模型一样准确。MIT许可源代码可以从github.com/microsoft/interpret下载。
2019-09-19 cs.LG stat.ML
Unlocking the Black Box: A Five-Dimensional Framework for Evaluating Explainable AI in Credit Risk
Independent Researcher（独立研究者）
本文针对金融信用风险中黑箱模型与监管可解释性要求的矛盾，提出包含固有可解释性、全局解释、局部解释、一致性和复杂性的五维评估框架，并验证了SHAP和LIME可使高性能复杂模型达到合规可解释水平。
2025-11-07 cs.LG
Tensor Networks for Explainable Machine Learning in Cybersecurity
Multiverse Computing；Department of Basic Sciences, Tecnun - University of Navarra（基础科学系，塔努大学）；Donostia International Physics Center（Donostia国际物理中心）；Ikerbasque Foundation for Science（Ikerbasque科学基金会）
本文提出基于矩阵乘积态的无监督聚类算法，在对抗性威胁情报中实现与深度学习相当的性能，并提供特征级概率、熵和互信息，增强模型可解释性。
2025-04-25 cs.AI cs.LG quant-ph
ECATS: Explainable-by-design concept-based anomaly detection for time series
Università degli Studi di Trieste（的里雅斯特大学）；Università degli Studi di Pisa（比萨大学）
针对信息物理系统异常检测缺乏可解释性的问题，提出基于概念的神经符号架构ECATS，利用信号时序逻辑公式和交叉注意力机制学习概念嵌入，在保证局部可解释性的同时实现了优异的分类性能。
2024-07-30 cs.AI cs.LG
