Using Decision Tree as Local Interpretable Model in Autoencoder-based LIME
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Persian Gulf University（波斯湾大学）
如今，深度神经网络由于其高精度的结果而被用于许多领域。然而，它们被认为是“黑匣子”，意味着它们对人类来说是无法解释的。另一方面，在医疗、经济和自动驾驶汽车等任务中，用户希望模型具有可解释性，以决定他们是否可以信任这些结果。在这项工作中，我们提出了一个修改后的版本的自动编码器为基础的方法，称为ALIME的本地可解释性。ALIME本身的灵感来自于一个著名的方法，称为局部可解释模型不可知解释（LIME）。LIME通过在实例周围生成新数据并训练局部线性可解释模型来生成单个实例级解释。ALIME使用自动编码器来衡量样本周围的新数据。然而，ALIME使用线性模型作为本地训练的可解释模型，就像LIME一样。本文提出了一种新的方法，它使用一个决策树代替线性模型，作为可解释的模型。我们评估所提出的模型的情况下，稳定性，局部保真度和可解释性不同的数据集。实验结果表明，与ALIME相比，该算法在稳定性和局部保真度方面有显著的提高，在可解释性方面有明显的改善。
2022-04-07 cs.LG
BOLIMES: Boruta and LIME optiMized fEature Selection for Gene Expression Classification
Can Tho University（芹苴大学）
针对基因表达分类中的高维与过拟合问题，提出BOLIMES算法，融合Boruta过滤与LIME排序，通过迭代评估确定最优特征子集，兼顾降维与高分类性能。
2025-02-26 cs.AI cs.LG
GLIME: General, Stable and Local LIME Explanation
Tsinghua University（清华大学）
针对 LIME 存在的不稳定和低局部保真度问题，提出 GLIME 框架，通过等价公式化、局部无偏采样分布实现更快收敛、更高稳定性与保真度，且解释独立于参考选择。
2023-11-27 cs.AI cs.CV cs.HC
What does LIME really see in images?
Université Côte d’Azur（蔚蓝海岸大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；LJAD（LJAD（暂缺通用中文名，保留原文））；Polytech Nice（尼斯综合理工学院）
现代算法在某些计算机视觉任务（如物体识别）上的性能现在接近人类。这一成功是以依赖于数百万个参数的复杂架构为代价的，并且理解如何进行特定预测变得非常具有挑战性。可解释性方法就是为了给我们这种理解。在本文中，我们研究石灰，也许是最流行的。在理论方面，我们表明，当生成的例子的数量是大的，LIME解释集中在一个极限解释，我们给出了一个明确的表达。我们进一步研究基本形状检测器和线性模型。作为这种分析的结果，我们发现了LIME和综合梯度之间的联系，这是另一种解释方法。更确切地说，LIME解释类似于LIME的预处理步骤中使用的超像素上的积分梯度之和。
2021-07-25 cs.CV cs.LG
Divorce Prediction with Machine Learning: Insights and LIME Interpretability
University of Oklahoma（俄克拉荷马大学）
本研究利用六种机器学习算法对离婚预测数据集进行分类，SVM、KNN和LDA达到98.57%的准确率，并通过LIME提供可解释性分析，开发了基于十个关键特征的离婚预测应用。
2023-10-12 cs.LG
LIME-LLM: Probing Models with Fluent Counterfactuals, Not Broken Text
University of North Texas（北卡罗来纳州立大学）
LIME-LLM通过假设驱动的可控扰动提升NLP模型的可解释性，实现更准确的局部解释效果。
2026-01-16 cs.AI cs.CL cs.LG
ALIME: Autoencoder Based Approach for Local Interpretability
近年来，机器学习，尤其是深度学习，由于其相对于其他方法的性能提高，已经获得了巨大的普及。大量数据的可用性有助于深度学习的发展。然而，深度学习模型是不透明的，通常被视为黑匣子。因此，有一个内在的需要，使模型可解释，特别是在医疗领域。在这项工作中，我们提出了一个本地可解释的方法，这是最近的工具，已经获得了很多的兴趣，称为本地可解释的模型不可知解释（LIME）的启发。LIME通过在实例周围人工生成数据集（通过随机采样和使用扰动），然后引入局部线性可解释模型来生成单实例级解释。LIME中的一个主要问题是生成的解释不稳定，这是由于随机生成的数据集造成的。这种局部可解释模型的另一个问题是局部保真度。我们提出了新的modificationstto LIME通过采用自动编码器，这是一个更好的weightingfunction的本地模型。我们与不同的数据集进行了广泛的比较，并表明我们提出的方法既提高了稳定性，又提高了局部保真度。
2019-09-04 cs.LG stat.ML
Enhancing LIME using Neural Decision Trees
ENS Paris-Saclay, Centre Borelli, CNRS, Gif-Sur-Yvette, France（巴黎-萨克雷大学，Borelli中心，国家科学研究中心，法国吉夫-sur-埃瓦尔，法国）；Le Crédit Lyonnais, Paris, France（巴黎银行，法国巴黎）
本文提出NDT-LIME，通过神经决策树作为替代模型，提升对复杂模型的局部解释精度，实验显示在表格数据集上解释忠实度优于传统LIME。
2026-03-21 cs.AI cs.LG
On the Interpretability of Quantum Neural Networks
University of Technology Sydney（悉尼科技大学）
本文探索量子神经网络的可解释性，推广经典LIME方法提出Q-LIME，用于生成量子神经网络的解释，并划定随机标签区域，助力构建负责任的量子AI模型。
2024-04-19 cs.LG quant-ph
A Modified Perturbed Sampling Method for Local Interpretable Model-agnostic Explanation
Lenovo Research（联想研究院）；University of Chinese Academy of Sciences（中国科学院大学）
可解释性是人工智能与社会之间的一个门户，因为当前流行的深度学习模型在解释推理过程和预测结果方面普遍较弱。局部可解释模型不可知解释（LIME）是一种最近的技术，它通过在预测周围局部学习可解释模型来忠实地解释任何分类器的预测。然而，LIME标准实施中的抽样操作存在缺陷。扰动样本是从均匀分布中产生的，忽略了特征之间复杂的相关性。本文提出了一种新的改进的扰动采样操作LIME（MPS-LIME），这是形式化的团集构造问题。在图像分类中，MPS-LIME将超像素图像转换为无向图。各种实验表明，MPS-LIME解释的黑盒模型实现了更好的性能，在可理解性，保真度和效率。
2020-02-18 cs.AI cs.LG stat.ML
Which LIME should I trust? Concepts, Challenges, and Solutions
TU Clausthal（克劳斯塔尔工业大学）；University of Mannheim（曼海姆大学）；Ludwig-Maximilians-Universität München（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文是首个全面梳理 LIME 基础概念与已知局限性的综述，通过构建基于中间步骤和关键问题的结构化分类法来比较各种增强方案，为从业者和未来研究提供系统指导。
2025-03-31 cs.AI cs.LG
Interpreting Time Series Forecasts with LIME and SHAP: A Case Study on the Air Passengers Dataset
Independent Researcher（独立研究者）
本文提出用LIME和SHAP解释时间序列预测的统一框架，以航空旅客数据集验证滞后特征与季节性编码对预测方差的主要解释作用，并提供方法论、理论、实证与实用指南。
2025-08-17 cs.AI cs.LG stat.ME
Measurable Counterfactual Local Explanations for Any Classifier
City, University of London（伦敦大学城市学院）
我们提出了一种新的方法来解释任何分类器的预测。在我们的方法中，局部解释被期望解释预测的结果以及如果“事情有所不同”，预测将如何改变。此外，我们认为，令人满意的解释不能脱离的概念和保真度的措施，主张在早期的神经网络的知识提取。我们引入了一个定义的保真度的基础分类的本地解释模型，这是基于距离的目标决策边界。一个系统称为CLEAR：通过回归反事实的本地解释，介绍和评价。CLEAR生成w-反事实解释，说明翻转预测分类所需的最小变化。CLEAR然后建立局部回归模型，使用w-反事实来衡量和提高其回归的保真度。相比之下，流行的LIME方法也使用回归来生成局部解释，既不测量自己的保真度，也不生成反事实。CLEAR的回归被发现有显着更高的保真度比石灰的，平均超过45%以上，在本文的四个案例研究。
2019-11-24 cs.AI cs.LG
Interpretable Question Answering on Knowledge Bases and Text
iteratec GmbH（iteratec有限公司）；LMU Munich（慕尼黑大学）
机器学习（ML）模型的可解释性随着其越来越多的采用而变得更加相关。在这项工作中，我们解决了基于ML的问答（QA）模型的知识库（KB）和文本文档的组合的可解释性。我们采用LIME和输入扰动（IP）等事后解释方法，并将其与模型的自解释注意力机制进行比较。为此，我们提出了一个自动评估范例的解释方法的背景下，QA。我们还与人类注释者进行了一项研究，以评估解释是否有助于他们识别更好的QA模型。我们的研究结果表明，IP提供了更好的解释比石灰或注意，根据自动和人类的评价。我们在两个实验中获得了相同的方法排名，这支持了我们的自动评估范式的有效性。
2019-06-26 cs.AI cs.CL cs.LG
Rank-LIME: Local Model-Agnostic Feature Attribution for Learning to Rank
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
了解模型为什么会做出某些预测，对于将其应用于现实世界的决策至关重要。LIME是一种流行的与模型无关的特征属性方法，用于分类和回归任务。然而，在信息检索中，学习排序的任务与分类或回归相比更为复杂。在这项工作中，我们扩展LIME提出的秩LIME，一个模型不可知的，本地的，事后的线性特征归因方法的任务，学习排序，产生的解释排名列表。我们采用新的相关性为基础的扰动，可微排名损失函数，并引入新的指标来评估排名为基础的附加功能属性模型。我们将Rank-LIME与各种竞争系统进行了比较，并在MS MARCO数据集上训练了模型，并观察到Rank-LIME在模型保真度和解释NDCG方面优于现有的解释算法。有了这个，我们提出了第一个算法来生成附加功能属性解释排名列表。
2022-12-24 cs.IR cs.LG
The best way to select features?
QTS Capital Management, LLC（QTS资本管理有限责任公司）
机器学习中的特征选择受制于特征选择算法的内在随机性（例如，MDA期间的随机排列）。所选特征相对于这种随机性的稳定性对于机器学习算法的人类可解释性是必不可少的。我们提出了一个基于秩的稳定性度量称为不稳定性指数比较稳定性的三个特征选择算法MDA，石灰，SHAP适用于随机森林。通常，通过对选择算法的许多随机迭代求平均来选择特征。虽然我们发现所选特征的可变性确实随着迭代次数的增加而减少，但它不会变为零，并且三种算法所选的特征不一定收敛到同一集合。我们发现LIME和SHAP比MDA更稳定，LIME至少和SHAP一样稳定。因此，总体LIME最适合人类的可解释性。然而，从所有三种算法中选择的特征集显着提高了样本外的各种预测指标，并且它们的预测性能没有显着差异。实验进行了合成数据集，两个公共基准数据集，并从积极的投资策略的专有数据。
2020-05-26 cs.LG q-fin.CP stat.ML
OptiLIME: Optimized LIME Explanations for Diagnostic Computer Algorithms
University of Bologna（博洛尼亚大学）
局部可解释模型不可知推理（LIME）是一种流行的方法来执行任何类型的机器学习（ML）模型的可解释性。它每次解释一个ML预测，通过围绕预测学习一个简单的线性模型。该模型在随机生成的数据点上进行训练，从训练数据集分布中采样，并根据与参考点的距离进行加权-LIME解释了这一点。应用特征选择以仅保留最重要的变量。石灰广泛分布于不同的领域，尽管它的不稳定性-一个单一的预测可能会得到不同的解释-是主要的缺点之一。这是由于采样步骤中的随机性，以及调整权重的灵活性，并确定检索的解释缺乏可靠性，使得LIME的采用存在问题。特别是在医学领域，考虑到决策的重要性和相关的法律问题，临床专业人员必须确定是否接受可解释的算法。在本文中，我们强调了解释的稳定性和坚持性之间的权衡，即它与ML模型的相似程度。利用我们的创新发现，我们提出了一个框架，以最大限度地提高稳定性，同时保持预定义的遵守水平。OptiLIME提供了选择最佳粘附稳定性权衡水平的自由，更重要的是，它清楚地突出了检索解释的数学属性。因此，医生提供的工具，以决定是否解释是可靠的，根据手头的问题。我们在玩具数据集和医疗数据集上广泛测试了OptiLIME-以直观地呈现几何发现。在后者中，我们展示了该方法如何从医学和数学的角度提出有意义的解释。
2022-02-07 cs.AI cs.LG stat.ML
DLIME: A Deterministic Local Interpretable Model-Agnostic Explanations Approach for Computer-Aided Diagnosis Systems
Ryerson University（瑞尔森大学）
局部可解释模型不可知推理（LIME）是一种流行的技术，用于提高黑盒机器学习（ML）算法的可解释性和可解释性。LIME通常通过学习一个更简单的可解释模型（例如线性分类器）来为任何ML模型的单个预测生成解释，该模型通过随机扰动在实例周围生成模拟数据来学习预测，并通过应用某种形式的特征选择来获得特征重要性。虽然LIME和类似的局部算法由于其简单性而获得了普及，但是随机扰动和特征选择方法导致所生成的解释中的“不稳定性”，其中对于相同的预测，可以生成不同的解释。这是一个关键问题，可以防止在计算机辅助诊断（CAD）系统中部署LIME，其中稳定性对于赢得医疗专业人员的信任至关重要。在本文中，我们提出了一个确定性版本的LIME。代替随机扰动，我们利用凝聚层次聚类（HC）将训练数据分组在一起，并利用K-最近邻（KNN）选择正在解释的新实例的相关聚类。在找到相关聚类之后，在所选聚类上训练线性模型以生成解释。在三个不同的医学数据集上的实验结果显示了确定性局部可解释模型不可知解释（DLIME）的优越性，其中我们利用多个生成的解释之间的Jaccard相似性定量确定了DLIME与LIME相比的稳定性。
2019-06-24 cs.AI cs.LG stat.ML
Fidelity of Interpretability Methods and Perturbation Artifacts in Neural Networks
University of Warsaw（华沙大学）
针对深度神经网络可解释性方法评估中扰动引入伪影的问题，提出利用MIF和LIF顺序的模型准确率曲线估计伪影影响的方法，并在ImageNet上验证了四种事后可解释性方法的保真度。
2023-09-12 cs.CV cs.LG
Explaining the Predictions of Any Image Classifier via Decision Trees
Lenovo Research（联想研究院）；University of Chinese Academy of Sciences（中国科学院大学）
尽管深度学习模型对人工智能（AI）的重大进展做出了突出贡献，但大多数仍然是黑箱，其推理过程和预测结果的可解释性非常弱。可解释性不仅是人工智能与社会之间的门户，也是检测模型缺陷和数据偏差的强大工具。局部可解释模型不可知解释（LIME）是最近的一种方法，它使用可解释模型来形成对单个预测结果的局部解释。LIME的当前实现采用线性回归作为其可解释函数。然而，由于受到限制并且通常过度简化关系，线性模型在特征和预测结果之间存在非线性关联和相互作用的情况下失败。本文实现了一种基于决策树的LIME方法，该方法使用决策树模型来形成局部忠实于原始模型的可解释表示。Tree-LIME方法可以捕获数据中特征之间的非线性相互作用，并创建合理的解释。各种实验表明，Tree-LIME对多个黑盒模型的解释在可理解性、保真度和效率方面可以实现更可靠的性能。
2020-02-10 cs.AI cs.LG stat.ML
The Solvability of Interpretability Evaluation Metrics
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
特征属性方法是解释神经网络预测的流行方法，它们通常根据全面性和充分性等指标进行评估。在本文中，我们强调了这些度量的一个有趣的属性：它们的可解性。具体地说，我们可以定义优化一个度量的解释的问题，这可以通过束搜索来解决。这一观察导致了一个明显但尚未解决的问题：我们为什么要使用解释器（例如，LIME）不基于解决目标度量，如果度量值代表解释质量？我们提出了一系列的调查显示强大的性能，这束搜索解释器，并讨论其更广泛的含义：一个定义评估的可解释性概念的二元性。我们实现了解释器，并发布了用于文本，图像和表格域模型的Python solvex包。
2023-02-03 cs.AI cs.CL cs.LG
Improving the Accuracy and Interpretability of Neural Networks for Wind Power Forecasting
Ecole Polytechnique Federale de Lausanne (EPFL)（洛桑联邦理工学院）；Aalborg University（奥尔堡大学）；The Hong Kong Polytechnic University（香港理工大学）；The University of Hong Kong（香港大学）
本文提出三重优化策略加速训练并提升深度神经网络在风电功率预测中的准确性与泛化，同时利用PFI和LIME技术增强模型可解释性，以解决局部最优和不可解释问题。
2023-12-25 cs.LG cs.SY eess.SY
Explainability of Point Cloud Neural Networks Using SMILE: Statistical Model-Agnostic Interpretability with Local Explanations
University of Hull（赫尔大学）；Dock Robotics Ltd（多克机器人有限公司）
本文研究将基于ECDF统计距离的可解释性方法SMILE应用于点云神经网络，在保真度、R2分数和鲁棒性上表现优越，并通过Jaccard指数建立点云模型稳定性基准，同时揭示数据集偏差问题。
2024-10-20 cs.AI cs.CV cs.LG
A unified framework for evaluating the robustness of machine-learning interpretability for prospect risking
Center for Energy and Geo Processing (CeGP)（能源与地球处理中心）；Omni Lab for Intelligent Visual Engineering and Science (OLIVES)（智能视觉工程与科学实验室）；School of Electrical and Computer Engineering（电气与计算机工程学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出统一框架，通过量化必要性和充分性来评估LIME和SHAP在高维结构化勘探风险数据中的鲁棒性。
2026-02-16 cs.LG
Unlocking the Black Box: A Five-Dimensional Framework for Evaluating Explainable AI in Credit Risk
Independent Researcher（独立研究者）
本文针对金融信用风险中黑箱模型与监管可解释性要求的矛盾，提出包含固有可解释性、全局解释、局部解释、一致性和复杂性的五维评估框架，并验证了SHAP和LIME可使高性能复杂模型达到合规可解释水平。
2025-11-07 cs.LG
Gaussian Smoothing in Saliency Maps: The Stability-Fidelity Trade-Off in Neural Network Interpretability
Tsinghua University（清华大学）；The Chinese University of Hong Kong（香港中文大学）
本文从算法稳定性角度理论证明并实验验证了Smooth-Grad中高斯平滑能提升基于梯度的显著性图对训练随机性的稳定性，但同时会降低其对原始Simple-Grad的保真度，揭示了稳定性-保真度权衡。
2025-03-11 cs.CV cs.LG
Local Interpretable Model-agnostic Explanations of Bayesian Predictive Models via Kullback-Leibler Projections
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所（HIIT））；Aalto University（阿尔托大学）
我们介绍了一种方法，KL-LIME，用于解释贝叶斯预测模型的预测，通过将预测分布中的信息局部投影到一个更简单，可解释的解释模型。所提出的方法结合了最近的本地可解释模型不可知推理（LIME）方法与贝叶斯投影预测变量选择方法的想法。信息论的基础有助于导航之间的权衡解释的保真度和复杂性。我们展示了解释贝叶斯深度卷积神经网络的MNIST数字分类的方法。
2018-10-05 cs.LG stat.ML
A unified framework for global and local interpretability using adaptive derivative-ordered random explanation
Renmin University of China（中国人民大学）
本文提出ADORE框架，利用一阶和二阶导数统一全局与局部可解释性，通过随机SVD和动态稀疏检测提升效率，在表格、文本和图像数据上优于LIME和SHAP。
2026-09-17 cs.AI cs.LG
Certified Interventional Fidelity: Anytime-Valid, Adaptive Evaluation of Causal Claims in Mechanistic Interpretability
Vanderbilt University Medical Center（范德比尔特大学医学中心）
研究机制可解释性中因果声明评估问题，提出认证干预保真度（CIF）方法，通过将报告量写为因果估计量，提供置信区间等，能验证高保真声明，明确方法差异及对干预分布的敏感性，还降低了认证成本。
2026-07-10 cs.LG
Model Agnostic Supervised Local Explanations
CMU（卡内基梅隆大学）；UCLA（加利福尼亚大学洛杉矶分校）
模型可解释性是实用机器学习中越来越重要的组成部分。一些最常见的可解释性系统形式是基于实例的、局部的和全局的解释。可解释性的主要挑战之一是设计解释系统，可以捕捉这些解释类型的每一个方面，以发展一个更透彻的理解模型。我们解决这个挑战，在一个新的模型称为MAPLE，使用本地线性建模技术，以及随机森林的双重解释（既作为监督邻域方法，作为一个特征选择方法）。与现有的可解释性系统相比，MAPLE有两个基本的优势。首先，虽然它是一个有效的黑箱解释系统，但MAPLE本身是一个高度准确的预测模型，提供了忠实的自我解释，从而避开了典型的准确性-可解释性权衡。具体来说，我们证明，在几个UCI数据集，MAPLE至少是准确的随机森林，它产生更忠实的本地解释比石灰，一个流行的可解释性系统。其次，MAPLE提供了基于示例的解释和局部解释，并且可以检测全局模式，这使得它能够诊断其局部解释的局限性。
2019-01-05 cs.LG stat.ML
Explainable AI for Smart Greenhouse Control: Interpretability of Temporal Fusion Transformer in the Internet of Robotic Things
Department of Computing Atlantic Technological University（计算系阿特兰蒂克技术大学）
本研究利用时间融合变换器模型提升智能温室中执行器控制的可解释性，通过多种解释技术增强决策透明度，提高作物产量和资源利用效率。
2025-12-04 cs.AI cs.LG
Improved Predictive Performance and Interpretability for Mesomorphic Neural Networks Using Local Fidelity Regularization
针对介观神经网络解释权重退化问题，提出局部保真正则化（LFR），通过约束线性输出权重与局部数据变化对齐，在保持可解释性的同时提升预测性能。
2026-06-29 cs.LG
Do Sparse Subnetworks Exhibit Cognitively Aligned Attention? Effects of Pruning on Saliency Map Fidelity, Sparsity, and Concept Coherence
Rochester Institute of Technology（罗切斯特技术学院）；Toyota InfoTech Labs（丰田信息科技实验室）
本研究探究基于幅值的剪枝结合微调对神经网络可解释性的影响，发现轻中度剪枝可提升显著性图质量与概念一致性，使表征更贴合人类注意力模式，而过度剪枝会损害可解释性。
2025-10-05 cs.AI cs.CV cs.LG
Explaining Predictions by Characteristic Rules
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文提出名为CEGA的新型预测解释技术，通过关联规则挖掘将标准局部解释生成的多个解释聚合为特征规则，实验表明该方法在保真度与复杂度之间实现了更优的权衡。
2024-05-31 cs.AI cs.LG
Same Predictions, Different Reasons: The Effect of Quantization on Model Explanations
BRAC University（BRAC大学）；Bangladesh University of Engineering and Technology (BUET)（孟加拉国工程技术大学）
研究训练后量化（PTQ）对五种CNN架构可解释性的影响，采用结合Grad - CAM和LIME的双重框架，在二分类数据集上比较全精度和量化模型，发现分类精度非可解释性稳定性可靠指标，架构选择与量化策略同样重要。
2026-07-28 cs.CV cs.LG
ProToMEx: Rapid, Interpretable Explanations via Structured Representations
University of Southampton（南安普顿大学）
ProToMEx是一种利用PTMs的模型无关可解释性范式，可提供全局与局部解释，其解释保真度与SHAP、LIME相当，且局部解释生成速度快约30-40倍，适用于实时场景。
2026-09-09 cs.AI cs.LG
Have We Learned to Explain?: How Interpretability Methods Can Learn to Encode Predictions in their Interpretations
NYU Grossman SOM（纽约大学格罗斯曼医学院）；NYU（纽约大学）；NYU Langone（纽约大学朗格尼医学中心）
虽然已经建立了对可解释的机器学习的需求，但许多常见的方法都很慢，缺乏保真度或难以评估。分期解释方法通过学习全局选择器模型来降低提供解释的成本，该模型返回单个数据实例的特征重要性。选择器模型被训练以优化解释的保真度，如由目标的预测器模型评估的。流行的方法学习选择器和预测器模型，我们表明这允许预测在解释中编码。我们引入EVAL-X作为一种定量评估解释的方法，REAL-X作为一种摊销解释方法，它学习一个预测模型，该模型近似于给定输入的任何子集的真实数据生成分布。我们表明，EVAL-X可以检测预测何时被编码在解释中，并通过定量和放射科医生评估显示REAL-X的优势。
2021-03-02 cs.AI cs.CV cs.LG
MindfulLIME: A Stable Solution for Explanations of Machine Learning Models with Enhanced Localization Precision -- A Medical Image Case Study
Middle East Technical University（中东技术大学）
针对LIME解释不稳定的问题，提出MindfulLIME算法，利用图剪枝和不确定性采样生成目的性样本，在胸部X射线数据集上实现100%稳定率并提升定位精度。
2025-03-25 cs.CV cs.LG eess.IV
Local Interpretable Model Agnostic Shap Explanations for machine learning models
ABB Ability Innovation Center, Asea Brown Boveri Company（ABB集团ABB能力创新中心）；Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
随着基于人工智能（AI）的解决方案和分析计算引擎技术的进步，机器学习（ML）模型变得越来越复杂。这些模型中的大多数通常被用作黑箱，没有用户可解释性。如此复杂的机器学习模型使人们更难理解或信任他们的预测。有各种各样的框架使用可解释的AI（XAI）方法来证明ML模型的可解释性和可解释性，以使其预测更加可信。在这篇手稿中，我们提出了一种方法，我们定义为本地可解释模型不可知的形状解释（LIMASE）。所提出的ML解释技术使用LIME范式下的Shapley值来实现以下（a）通过使用局部忠实和可解释的决策树模型来解释任何模型的预测，其中树解释器用于计算Shapley值并给出视觉上可解释的解释。(b)通过绘制几个数据点的局部解释，提供视觉上可解释的全局解释。(c)演示子模块优化问题的解决方案。(d)还带来了对区域解释的洞察e）与使用内核解释器相比更快的计算。
2022-10-10 cs.AI cs.LG
Global and Local Interpretation of black-box Machine Learning models to determine prognostic factors from early COVID-19 data
Rutgers University（罗格斯大学）；Rutgers Robert Wood Johnson Medical School（罗格斯罗伯特伍德约翰逊医学院）
截至2021年7月24日，COVID-19冠状病毒已夺去410万人的生命。多种机器学习模型已被应用于相关数据，以预测疾病的严重程度、感染率等重要因素，并发现重要的预后因素。通常，由于缺乏方法的可解释性，使用这些技术得出的结果的有用性会降低。最近在机器学习模型的可解释性方面取得的一些进展有可能在使用传统机器学习模型时揭示更多的见解。在这项工作中，我们使用一些流行的机器学习模型分析COVID-19血液工作数据;然后我们采用最先进的事后局部可解释性技术（例如，SHAP，LIME）和全局可解释性技术（例如符号元建模）对训练的黑盒模型进行分析，以得出可解释的结论。在机器学习算法的范围内，回归仍然是最简单和最可解释的模型之一，具有清晰的数学公式。我们探索了一种称为符号元建模的最新技术，以找到COVID-19的机器学习模型的数学表达式。我们确定急性肾损伤（AKI）、初始白蛋白水平（ALBI）、天冬氨酸转氨酶（ASTI）、总胆红素初始值（TBILI）和D-二聚体初始值（DIMER）为疾病严重程度的主要预后因素。我们的贡献是-（i）揭示了COVID-19严重性预测任务黑箱模型的基本数学表达式;（ii）我们是第一个将符号元建模应用于该任务的人;（iii）发现了重要的特征和特征交互。
2021-09-10 cs.AI cs.LG
Witnesses Explain Anomalies
EPITA Research Laboratory（EPITA研究实验室）
WAND是天生可解释的无监督表格异常检测器，以见证方向作为逐特征归因，在47个ADBench数据集上与16种无监督基线ROC-AUC持平且平均Friedman秩最优，解释更准确且查询成本低，为可解释异常检测提供实用方案。
2026-09-04 cs.AI cs.LG
Invertible Concept-based Explanations for CNN Models with Non-negative Concept Activation Vectors
The University of Melbourne（墨尔本大学）
用于计算机视觉的卷积神经网络（CNN）模型功能强大，但缺乏最基本形式的可解释性。在重要领域应用CNN时，这种缺陷仍然是一个关键挑战。通过近似线性模型的特征重要性的解释最近的工作已经从输入级特征（像素或片段）转移到概念激活向量（CAV）形式的中间层特征图的特征。CAV包含概念级信息，可以通过聚类学习。在这项工作中，我们重新考虑了Ghorbani等人的ACE算法，提出了一个可替代的可逆的基于概念的解释（ICE）框架，以克服其缺点。基于保真度（近似模型到目标模型）和可解释性（对人们有意义）的要求，我们设计了测量方法，并使用我们的框架评估了一系列矩阵分解方法。我们发现，从非负矩阵分解的非负概念激活向量（NCAV）的计算和人类受试者的实验的基础上，在可解释性和保真度提供卓越的性能。我们的框架为预训练的CNN模型提供了局部和全局概念级的解释。
2021-06-17 cs.AI cs.CV cs.LG
Understanding surrogate explanations: the interplay between complexity, fidelity and coverage
University of Bristol（布里斯托大学）；AXA（安盛）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；Polish Academy of Science（波兰科学院）
本文分析了替代解释背后的基本成分，以更好地理解其内部工作。我们开始我们的博览会，考虑全球代理，描述之间的权衡复杂性的代理和保真度的黑盒建模。我们发现，从全球到本地的过渡-减少覆盖面-允许更有利的条件上的帕累托边界的替代品的可靠性复杂性。我们讨论的复杂性，保真度和覆盖面之间的相互作用，并考虑如何不同的用户需求可能会导致问题的配方，这些都是限制或处罚。我们还提出了实验，演示如何本地代理可解释性程序可以互动，并导致更好的解释。
2021-07-09 cs.AI cs.LG
Explainability-Guided Defense: Attribution-Aware Model Refinement Against Adversarial Data Attacks
本文提出属性感知模型细化方法，通过LIME引导训练以提升对抗鲁棒性和分布外泛化能力。
2026-01-02 cs.LG
Revitalizing Black-Box Interpretability: Actionable Interpretability for LLMs via Proxy Models
Key Lab of High Confidence Software Technologies (Peking University), Ministry of Education（高可信软件技术教育部重点实验室（北京大学））；School of Computer Science, Peking University（北京大学计算机学院）
本文提出一种低成本代理框架，利用高效模型近似昂贵LLM的决策边界，通过统计验证局部对齐，实现可操作的可解释性，提升LLM优化效率。
2026-04-10 cs.AI cs.LG
Locally Invariant Explanations: Towards Stable and Unidirectional Explanations through Local Invariant Learning
IBM Research（IBM研究院）；Mila（米拉研究所）
本文借鉴 IRM 提出模型无关的局部不变解释方法，利用博弈论框架生成高保真、稳定且单向的特征归因，并在表格、图像和文本数据上优于 LIME。
2023-10-03 cs.AI cs.LG
Financial Fraud Detection Using Explainable AI and Stacking Ensemble Methods
Computer Science Department, College of Computers and Information Technology, Taif University（计算机科学系，计算机与信息科技学院，泰夫大学）；Department of Computer Science, Taif University（计算机科学系，泰夫大学）
本文提出融合 XGBoost、LightGBM、CatBoost 的堆叠集成框架，并结合 SHAP、LIME、PDP 和 PFI 提升可解释性，在 IEEE-CIS 数据集上实现99%准确率与0.99 AUC-ROC。
2025-05-15 cs.AI cs.LG
Robustness questions the interpretability of graph neural networks: what to do?
ISP RAS Research Center for Trusted Artificial Intelligence（ISP RAS可信人工智能研究中心）；Yandex School of Data Analysis（Yandex数据分析学院）；AIRI
本文通过构建标准化基准，系统评估多种GNN架构在对抗防御下的可解释性变化，揭示鲁棒性与可解释性之间的权衡，为开发既鲁棒又可解释的GNN提供基础。
2025-05-05 cs.AI cs.LG
A Comparative Study of Feature Selection in Tsetlin Machines
Department of ICT, University of Agder（信息与通信技术系，阿格德大学）
本文针对Tsetlin机（TM）缺乏特征重要性评估工具的问题，评估了包括经典方法、事后解释方法及新型TM内部评分器在内的多种特征选择技术，在12个数据集上建立了首个TM特征选择综合基准。
2025-08-09 cs.LG
xai_evals : A Framework for Evaluating Post-Hoc Local Explanation Methods
xai_evals 是一个开源 Python 框架，用于在表格和图像数据上系统生成、基准测试和评估 SHAP、LIME、Grad-CAM 等事后局部解释方法，以提升模型可解释性与 AI 系统可信度。
2025-02-05 cs.AI cs.ET cs.LG
Topological Interpretability for Deep-Learning
Oak Ridge National Laboratory（橡树岭国家实验室）；National Cancer Institute（国家癌症研究所）
针对深度学习模型无法量化预测确定性且决策机制难解释的问题，提出基于拓扑与几何数据分析的特征推断方法，通过构建特征空间图、提取高准确率子图来识别决策相关特征，稳定性优于LIME和SHAP方法。
2024-04-11 cs.LG stat.ML
A Formal Methodological Framework for Auditing Robustness and Fidelity in Explainable AI: From Application to Trust Certification
Doctoral School Modeling–Computer Science, University of Fianarantsoa（菲亚纳兰楚阿大学建模与计算机科学博士学院）
该研究构建了审计可解释人工智能（XAI）事后解释器鲁棒性与保真度的形式化框架，以马达加斯加多领域数据集验证发现：高AUC模型或产生无意义解释，审计XAI输出对敏感领域决策至关重要。
2026-08-26 cs.AI cs.CY cs.LG
Developing a Fidelity Evaluation Approach for Interpretable Machine Learning
Queensland University of Technology（昆士兰科技大学）
虽然现代机器学习和深度学习方法允许进行复杂和深入的数据分析，但这些方法生成的预测模型通常非常复杂，并且缺乏透明度。可解释人工智能（XAI）方法用于提高这些复杂模型的可解释性，从而提高透明度。然而，这些可解释的方法的内在适应性可能很难评估。特别是，评估解释对基本黑盒的保真度的方法需要进一步发展，特别是对于表格数据。在本文中，我们（a）提出了一个三阶段的方法来开发一种评估方法;（b）调整现有的评估方法，主要用于图像和文本数据，以评估在表格数据上训练的模型;（c）使用这种评估方法评估两种流行的可解释方法。我们的评估表明，潜在的预测模型的内部机制，所使用的可解释方法的内部机制以及模型和数据的复杂性都会影响解释的保真度。鉴于解释的保真度对所使用的上下文、工具和数据非常敏感，我们无法清楚地确定任何特定的可解释方法优于另一种方法。
2021-06-16 cs.AI cs.LG
Improving Robustness In Sparse Autoencoders via Masked Regularization
Lawrence Livermore National Laboratory, CA, USA（劳伦斯利弗莫尔国家实验室，加利福尼亚州，美国）
本文提出掩码正则化方法，通过在训练中随机替换token以打破共现模式，提升稀疏自编码器的鲁棒性，减少特征吸收，增强可探查性能并缩小OOD差距。
2026-04-07 cs.AI cs.LG
