GLIMPSE: Holistic Cross-Modal Explainability for Large Vision-Language Models
Georgia Institute of Technology（佐治亚理工学院）
针对大视觉语言模型视觉注意力难以解读的问题，提出轻量模型无关框架GLIMPSE，融合多种技术生成跨模态推理热力图，在忠实度和人类注意力对齐上表现更优，还可用于模型诊断与透明性保障。
2025-07-29 cs.AI cs.CV
Explaining black boxes with a SMILE: Statistical Model-agnostic Interpretability with Local Explanations
University of Hull（赫尔大学）；Fraunhofer IESE（弗劳恩霍夫实验软件工程研究所）
针对机器学习黑箱模型可信度低的问题，提出SMILE方法，利用统计距离度量提升模型可解释性，并适用于多种输入数据领域。
2023-11-13 cs.AI cs.LG math.ST
Do Machines and Humans Focus on Similar Code? Exploring Explainability of Large Language Models in Code Summarization
Vanderbilt University（范德堡大学）；University of Notre Dame（圣母大学）
本文通过眼动追踪与 SHAP 方法比较人类程序员和语言模型在代码摘要中的关注点，发现二者无显著相关性且对齐程度不影响摘要质量，从而揭示现有可解释性方法的局限并提出未来研究方向。
2024-02-22 cs.AI cs.SE
Concept-Level Explainability for Auditing & Steering LLM Responses
Department of Computer Science ETH Zurich（计算机科学系 苏黎世联邦理工学院）
本研究提出模型无关的概念级可解释性方法ConceptX，通过识别提示词中语义概念并分配权重，无需重训练即可实现LLM的偏见审计与响应调控，在忠实度、对齐度及调控效果上均优于现有token级方法。
2025-05-19 cs.AI cs.CL
MedFeat: Model-Aware and Explainability-Driven Feature Engineering with LLMs for Tabular Prediction
Microsoft Research（微软研究院）；University of Oxford（牛津大学）
提出MedFeat框架，利用模型感知和特征重要性信号迭代引导LLM生成针对性特征，在临床表格预测中平均提升超10%。
2026-10-02 cs.AI cs.LG
Explainable Knowledge Graph Retrieval-Augmented Generation (KG-RAG) with KG-SMILE
针对检索增强生成（RAG）的黑盒不透明问题，提出基于扰动的KG-SMILE框架，通过识别关键图谱实体与关系提升知识图谱RAG的可解释性，兼顾模型效果与透明度。
2025-09-03 cs.AI
Mapping the Mind of an Instruction-based Image Editing using SMILE
University of Hull（赫尔大学）；University of Oslo（奥斯陆大学）
针对基于指令的图像编辑模型黑盒问题，提出模型无关可解释性方法SMILE，通过视觉热图揭示文本对图像生成的影响，提升模型透明度与可信度。
2024-12-20 cs.AI cs.CV cs.HC
Explaining Large Language Models with gSMILE
University of Hull（赫尔大学）；Fraunhofer IESE（弗劳恩霍夫研究所）
针对大语言模型决策过程不透明的问题，提出模型无关的词元级可解释性框架gSMILE，通过受控扰动等方法识别关键输入词元，在主流LLM上验证其能生成可靠的人类对齐归因，平衡性能与可解释性。
2025-10-21 cs.AI cs.CL cs.LG
Misinformation Detection using Large Language Models with Explainability
Department of Computer Engineering, LDRP Institute of Technology and Research（计算机工程系，LDRP技术与研究学院）；University of Wollongong（沃林根大学）；Monash University（莫纳什大学）
针对在线虚假信息传播问题，提出基于两步微调RoBERTa和DistilBERT的可解释检测流程，结合LIME和SHAP提升透明度，验证轻量级模型可在保持性能的同时降低计算成本，实现可信可扩展的检测。
2025-10-21 cs.AI cs.CL
SAGE: Semantic Explainability of Attention-Based Survival Models in Computational Pathology
Massachusetts Institute of Technology（麻省理工学院）；Dana-Farber Cancer Institute（达纳-法伯癌症研究所）；Brigham and Women’s Hospital（布莱根妇女医院）；Harvard Medical School（哈佛医学院）
该研究提出SAGE框架，可从ABMIL模型提取全局语义解释，在7个TCGA癌症队列的生存预测中恢复预后特征，揭示癌症特异性生物学，为病理学家解释模型行为提供支持。
2026-08-05 cs.AI cs.CV
From Pixels to Words: Leveraging Explainability in Face Recognition through Interactive Natural Language Processing
Universidad Autonoma de Madrid（马德里自治大学）；Paderborn University（帕德博恩大学）
本文提出交互式自然语言处理框架，通过结合XAI和NLP技术提升人脸识别的可解释性，同时保持识别性能，增强用户对决策过程的理解。
2024-12-09 cs.AI cs.CV cs.CY
XTQA: Span-Level Explanations of the Textbook Question Answering
Xi’an Jiaotong University（西安交通大学）；Amazon（亚马逊）
本文提出XTQA架构，通过TF-IDF粗筛段落并依据信息增益精选证据跨度，在回答TQA问题的同时为学生提供跨度级解释，并显著超越基线。
2023-07-24 cs.AI cs.CL
PAX-TS: Model-agnostic multi-granular explanations for time series forecasting via localized perturbations
Department of Computer（计算机系）；Systems Sciences Stockholm University（系统科学学院 斯德哥尔摩大学）
针对时间序列预测模型不透明且现有方法不适配的问题，提出模型无关的事后算法PAX-TS，基于局部扰动生成多粒度解释并刻画跨通道相关性，在基准测试中展现出有效捕捉模型行为、识别性能关联模式等优势，可阐释模型机制并回答实际预测问题。
2025-11-15 cs.AI cs.LG
Enabling Regional Explainability by Automatic and Model-agnostic Rule Extraction
Imperial College London（帝国理工学院）；The UK Dementia Research Institute（英国痴呆症研究所）
针对可解释AI中现有规则提取方法在不平衡数据下牺牲少数类性能的问题，提出模型无关的特定子群规则提取方法及新特征选择方法，提升区域可解释性并降低高维计算成本，经多数据集多模型实验验证有效。
2024-08-15 cs.AI cs.LG
Evaluating Explainability in Machine Learning Predictions through Explainer-Agnostic Metrics
Holistic AI（霍利斯提克人工智能公司）；Pontifical Catholic University of Rio de Janeiro（里约热内卢天主教大学）；University of Utah（犹他大学）
本文提出六种模型无关度量，用于量化机器学习预测的可解释性，支持按透明度排名模型，并在分类与回归任务中验证，集成于Python包。
2024-11-06 cs.AI cs.LG
Asymmetric Shapley values: incorporating causal knowledge into model-agnostic explainability
Faculty；University of Birmingham（伯明翰大学）
解释人工智能系统对于开发高性能模型以及用户对它们的信任都是至关重要的。Shapley可解释性框架在其普遍适用性方面具有优势，结合其精确，严格的基础：它为AI可解释性提供了一种通用的模型不可知语言，并唯一满足一组直观的数学公理。然而，Shapley值在一个重要方面限制太多：它们忽略了数据中的所有因果结构。我们引入了一个限制较少的框架，非对称Shapley值（ASV），它严格建立在一组公理之上，适用于任何AI系统，并且足够灵活，可以包含任何已知的因果结构。我们证明了ASV可以（i）通过引入因果信息来改善模型解释，（ii）为模型预测中的不公平歧视提供明确的测试，（iii）在时间序列模型中实现顺序递增的解释，以及（iv）支持特征选择研究而无需模型再训练。
2021-12-20 cs.AI cs.LG stat.ML
Assessing Model-Agnostic XAI Methods against EU AI Act Explainability Requirements
University of Italian-Speaking Switzerland (USI)（意大利通用瑞士大学）；Analog Devices International（安森通国际）；CRIDS, NADI, University of Namur（CRIDS、NADI、南姆大学）
本文研究模型无关的XAI方法，将其可解释性特征与AI法案要求关联，提出定性到定量评分框架，帮助从业者识别XAI解决方案是否符合法律解释要求，并指出需要进一步研究的技术问题。
2026-04-18 cs.AI cs.CY
Towards a Rigorous Evaluation of Explainability for Multivariate Time Series
Aalto University（阿尔托大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Umeå University（于默奥大学）
基于机器学习的系统正在迅速普及，与此相一致的是，在可解释性领域出现了巨大的研究热潮，以确保机器学习模型是可靠的，公平的，并且可以对其决策过程负责。可解释的人工智能（XAI）方法通常用于调试黑盒机器学习模型，但与表格、文本和图像数据相比，时间序列的可解释性仍然相对未被探索。本研究的目的是在时间序列预测问题中实现和评估模型不可知的可解释性。这项工作的重点是为一家数字咨询公司提供解决方案，该公司旨在找到一种数据驱动的方法，以了解其销售相关活动对销售交易的影响。该解决方案涉及框架的问题作为一个时间序列预测问题来预测的销售交易和可解释性实现了使用两种新的模型不可知的可解释性技术，本地可解释的模型不可知的解释（LIME）和Shapley添加剂的解释（SHAP），这是使用人类评价的可解释性。结果清楚地表明，LIME和SHAP产生的解释极大地帮助了普通人理解机器学习模型的预测。所提出的工作可以很容易地扩展到任何时间
2021-04-06 cs.AI cs.LG
Explainable automatic industrial carbon footprint estimation from bank transaction classification using natural language processing
University of Vigo（维戈大学）；Telecommunication Engineering School（电信工程学院）
针对工业碳足迹估算中机器学习模型缺乏透明度的问题，提出一种基于银行交易分类的可解释机器学习方案，采用多种模型达到90%以上准确率，并通过局部可解释模型自动验证解释术语，实现透明可靠的碳足迹估算。
2024-05-23 cs.AI cs.CE cs.CL
DLBacktrace: A Model Agnostic Explainability for any Deep Learning Models
AryaXAI
本文提出模型无关的可解释性方法DLBacktrace，适用于MLP、CNN和Transformer等架构，并在与SHAP、LIME、GradCAM的对比中验证其能有效提升对模型行为的理解。
2025-02-04 cs.AI cs.CL cs.LG
ScoresActivation: A New Activation Function for Model Agnostic Global Explainability by Design
West University of Timișoara, Romania（蒂米șоara西大学）；University of Maryland, United States（马里兰大学）
针对深度学习模型决策可解释性与训练过程脱节的问题，提出嵌入特征排序机制的ScoresActivation函数，将特征重要性估计集成到训练中，实现全局可解释性，在保持预测性能的同时特征评分速度提升150倍，且对无关输入鲁棒。
2025-11-17 cs.AI cs.LG
Towards Quantification of Explainability in Explainable Artificial Intelligence Methods
Tennessee Technological University（田纳西理工大学）
人工智能（AI）已成为安全、金融、医疗、医学和刑事司法等领域不可或缺的一部分。用人类的语言解释人工智能系统的决策是一个关键的挑战--由于模型的高度复杂性，以及对人类利益、权利和生活的潜在影响。虽然可解释性人工智能是一个新兴的研究领域，但对于可解释性的定义、量化和形式化还没有达成共识。事实上，可解释性的量化是一个公开的挑战。在我们以前的工作中，我们结合了领域知识，以获得更好的可解释性，但是，我们无法量化可解释性的程度。在这项工作中，我们（1）简要分析了可解释性的定义，从不同学科的角度（例如，心理学、社会科学）、解释的性质、解释方法和人性化的解释;（2）提出并制定一种量化可解释性程度的方法。我们的实验结果提供了一种合理的、与模型无关的可解释性量化方法
2019-11-22 cs.AI q-fin.RM
CEnt: An Entropy-based Model-agnostic Explainability Framework to Contrast Classifiers' Decisions
American University of Beirut（贝鲁特美国大学）
当前的可解释性方法侧重于通过当前输入特征解释特定模型的决策。这种方法不通知用户改变这些决定的充分条件，当他们不希望。对比解释通过提供“如果特征$X>x$，则输出$Y$将不同”的形式的解释来规避该问题。虽然开发了不同的方法来找到对比，但这些方法并不都处理可变性和可达性约束。在这项工作中，我们提出了一种新的方法来局部对比任何分类器的预测。我们的基于对比熵的解释方法，CEnt，近似一个模型局部的决策树计算熵信息的不同功能分裂。然后构建图G，其中通过一对多最短路径搜索找到对比节点。从最短路径生成对比示例，以反映在保持较低熵的同时改变模型决策的特征分割。我们对变分自动编码器计算的流形式距离进行局部采样，以反映数据密度。CEnt是第一个基于非梯度的对比方法，它生成不同的反事实，这些反事实不一定存在于训练数据中，同时满足不变性（例如，种族）和半不变性（例如，年龄只能在增加的方向上变化）。对四个真实世界数值数据集的实证评估表明，CENT在生成反事实方面的能力，这些反事实比现有方法实现了更好的接近率，而不会影响延迟，可行性和可达性。我们进一步扩展CENT图像数据，以获得视觉吸引力和有用的对比MNIST和时尚MNIST数据集上的类标签。最后，我们展示了如何CEnt可以作为一种工具来检测文本分类器的漏洞。
2023-01-19 cs.AI cs.LG
Edge-Level Explanations for Graph Neural Networks by Extending Explainability Methods for Convolutional Neural Networks
The University of Tokyo（东京大学）
图神经网络（GNN）是将图数据作为输入的深度学习模型，并且它们被应用于诸如交通预测和分子性质预测的各种任务。然而，由于GNN的复杂性，很难分析输入的哪些部分影响GNN模型的输出。在这项研究中，我们扩展了卷积神经网络（CNN）的可解释性方法，例如局部可解释模型不可知性解释（LIME），基于显着性的映射和基于显着性的加权类激活映射（Grad-CAM）到GNN，并预测输入图中的哪些边对GNN决策很重要。实验结果表明，基于LIME的方法是最有效的可解释性方法，在现实世界的情况下，多个任务，甚至超过了最先进的方法GNN的可解释性。
2021-11-01 cs.AI cs.LG
Logic-Based Explainability in Machine Learning
IRIT（图卢兹计算机科学研究所）；CNRS（法国国家科学研究中心）
在过去的十年里，机器学习（ML）取得了越来越多的成功。这些成功提供了明确的证据，表明ML必将在广泛的实际应用中变得普遍，包括许多直接影响人类的应用。不幸的是，人类决策者无法理解最成功的ML模型的操作。因此，ML模型的使用，特别是在高风险和安全关键环境中的使用并非没有问题。近年来，人们一直在努力设计解释ML模型的方法。这些努力大多集中在所谓的模型无关的方法。然而，所有与模型无关的和相关的方法都不能保证严格性，因此被称为非正式的。例如，这种非正式的解释可以与不同的预测相一致，这使得它们在实践中毫无用处。本文概述了正在进行的关于计算ML模型的严格的基于模型的解释的研究工作;这些被称为形式化解释。这些努力涵盖了各种主题，包括解释的实际定义，计算解释的复杂性的表征，当前用于推理不同ML模型的最佳逻辑编码，以及如何使解释可供人类决策者解释等。
2023-01-29 cs.AI cs.LG
A Completion-Aware Framework for Impactful Counterfactual Explainability in Graph Neural Networks
Institute of Computer Science, Foundation for Research and Technology - Hellas (FORTH)（计算机科学研究所，研究与技术基金会 - 希腊（FORTH））；Computer Science Department, University of Crete（克里特大学计算机科学系）
提出一种通用的、模型无关的局部反事实解释框架，通过结合事实可解释性与缺失边预测模型，提升图神经网络解释的质量、鲁棒性和直观性。
2026-06-23 cs.AI cs.LG
Model Agnostic Multilevel Explanations
IBM Research（IBM研究院）
近年来，黑箱模型的事后局部实例级和全局数据集级可解释性受到了广泛关注。在中间或集团层面获得见解的关注要少得多，这是最近研究实现《通用数据保护条例》（GDPR）中指导方针的挑战的工作中概述的需求。在本文中，我们提出了一个元方法，给定一个典型的局部可解释性方法，可以建立一个多级解释树。该树的叶子对应于局部解释，根对应于全局解释，中间层对应于它自动聚类的数据点组的解释。该方法还可以利用边信息，其中用户可以指定他们可能希望解释相似的点。我们认为，这样的多级结构也可以是一种有效的沟通形式，在这里，人们可以通过考虑我们的解释树中的适当级别来获得表征整个数据集的解释。通过将新测试点与最接近的训练点相关联，可以成本有效地获得新测试点的解释。当局部可解释性技术是广义可加性（即LIME，GAMs）时，我们提出了一种快速近似算法来建立多级树，并研究了其收敛行为。我们验证了所提出的技术的有效性的基础上两个人类的研究-一个与专家和其他非专家用户-在现实世界的数据集，并表明，我们产生高保真稀疏解释其他几个公共数据集。
2020-03-12 cs.AI cs.LG stat.ML
(EC)2: Event-Centric Explainability for Cybersecurity Through Multi-Agent LLM Investigations
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Fujitsu（富士通）
该研究提出多智能体框架(EC)2，为中小型企业网络的网络安全警报提供基于可验证证据的以事件为中心的可解释性，可提升检测后分析效果与事件分类准确率。
2026-07-30 cs.AI cs.CR
LAVA: Explainability for Unsupervised Latent Embeddings
Delft University of Technology, The Netherlands（代尔夫特理工大学，荷兰）
LAVA是一种无监督嵌入可解释性方法，通过输入数据特征共变揭示局部嵌入结构，发现领域相关模式。
2026-01-30 cs.AI cs.LG
An Objective Metric for Explainable AI: How and Why to Estimate the Degree of Explainability
University of Bologna（博洛尼亚大学）
本文基于 Achinstein 解释理论提出模型无关的可解释程度客观指标，并通过知识图谱、信息检索及190余人的医疗与金融系统用户研究验证其稳健性。
2023-01-31 cs.AI cs.CL
Det-LIME: Detector-Aware, Multi-Instance Local Interpretable Model-Agnostic Explanations for Automated Marine Mammal Detection
Duke University（杜克大学）
Det-LIME通过检测器感知的多实例LIME方法，为海洋哺乳动物检测提供框对齐的实例级解释，显著提升多实例归因性能，支持调试与数据优化。
2026-09-16 cs.AI cs.CV
A Human-Centered Validation of the Explainability-Performance Coefficient
Universidad Autónoma de Madrid（马德里自治大学）
本研究提出模型无关的EPC分数，量化解释质量，经多模态实证及人类解释验证，可揭示网络激活等依赖关系，与人类判断高度一致。
2026-08-03 cs.AI cs.CV cs.LG
Enhancing Explainability in Mobility Data Science through a combination of methods
University of Piraeus（比雷埃夫斯大学）；Princeton University（普林斯顿大学）
本文针对移动数据科学中轨迹模型可解释性不足的问题，提出融合LIME、SHAP、显著性图、注意力机制、轨迹可视化和PFI的统一框架，并通过用户调查验证其能提升解释深度并满足不同用户群体的差异化解释需求。
2023-12-01 cs.AI
Rad4XCNN: a new agnostic method for post-hoc global explanation of CNN-derived features by means of radiomics
University of Palermo（巴勒莫大学）；National Research Council（国家研究委员会）
本文提出 Rad4XCNN，通过放射组学为 CNN 特征赋予可理解含义，在乳腺癌超声分类中实现不牺牲精度的全局事后解释。
2025-01-08 cs.AI cs.CV cs.LG
GALACTIC: Global and Local Agnostic Counterfactuals for Time-series Clustering
University of Ioannina（伊奥尼纳大学）；Archimedes, Athena Research Center（阿基米德与雅典研究中心）；Université Paris Cité（巴黎大学）
GALACTIC通过反事实解释为时间序列聚类提供统一的可解释性框架，生成更稀疏的局部解释和更简洁的全局摘要。
2026-03-09 cs.AI cs.LG
ConceptDistil: Model-Agnostic Distillation of Concept Explanations
Feedzai
基于概念的解释旨在填补非技术人员的模型可解释性缺口。以前的工作集中在为特定模型（例如，神经网络）或数据类型（例如，图像）提供概念，并尝试从已经训练的网络中提取概念或通过多任务学习训练可自我解释的模型。在这项工作中，我们提出了ConceptDistil，一种使用知识蒸馏将概念解释带到任何黑盒分类器的方法。ConceptDistil被分解为两个组件：（1）预测给定实例中存在哪些领域概念的概念模型，以及（2）尝试使用概念模型预测来模仿黑盒模型的预测的蒸馏模型。我们在真实世界的用例中验证了ConceptDistil，表明它能够优化这两项任务，为任何黑盒模型带来概念解释能力。
2022-05-07 cs.AI cs.LG
A Modified Perturbed Sampling Method for Local Interpretable Model-agnostic Explanation
Lenovo Research（联想研究院）；University of Chinese Academy of Sciences（中国科学院大学）
可解释性是人工智能与社会之间的一个门户，因为当前流行的深度学习模型在解释推理过程和预测结果方面普遍较弱。局部可解释模型不可知解释（LIME）是一种最近的技术，它通过在预测周围局部学习可解释模型来忠实地解释任何分类器的预测。然而，LIME标准实施中的抽样操作存在缺陷。扰动样本是从均匀分布中产生的，忽略了特征之间复杂的相关性。本文提出了一种新的改进的扰动采样操作LIME（MPS-LIME），这是形式化的团集构造问题。在图像分类中，MPS-LIME将超像素图像转换为无向图。各种实验表明，MPS-LIME解释的黑盒模型实现了更好的性能，在可理解性，保真度和效率。
2020-02-18 cs.AI cs.LG stat.ML
Generating detailed saliency maps using model-agnostic methods
可解释的人工智能是一个新兴的领域，它致力于研究解释复杂机器学习模型的决策过程的方法。在计算机视觉的可解释性领域中，解释被提供为显着图，显着图可视化输入w.r.t.模型的预测。在这项工作中，我们专注于一个扰动为基础的，模型不可知的解释方法称为上升，详细说明其基于网格的方法观察到的缺点，并提出两个修改：替换正方形闭塞与凸多边形闭塞的基础上细胞的Voronoi网格和添加的信息量保证闭塞掩模生成器。这些修改，统称为VRISE（Voronoi-RISE），旨在分别提高使用大遮挡生成的地图的准确性，并在采样密度非常低或非常高的情况下加速显着性地图的收敛。我们使用显著性引导的内容插入/删除度量和基于边界框的本地化度量，对VRISE和RISE在ILSVRC 2012的验证分割上产生的显著性图的准确性进行定量比较。此外，我们探索了可配置的遮挡模式参数的空间，以更好地了解它们对RISE和VRISE产生的显着性图的影响。我们还描述和展示了实验过程中观察到的两个效果，从随机抽样方法的上升：“功能切片”和“显着性错误归因”。我们的研究结果表明，凸多边形遮挡粗糙的遮挡网格和多目标图像产生更准确的地图，但在其他情况下，改善并不能保证。信息量的保证，以增加收敛速度，而不会产生显着的计算开销。
2022-09-04 cs.AI cs.CV cs.LG
ShaTS: A Shapley-based Explainability Method for Time Series Artificial Intelligence Models applied to Anomaly Detection in Industrial Internet of Things
Departamento de Ingeniería y Tecnología de Computadores, University of Murcia（计算机工程与技术部门，穆尔西亚大学）
本文提出与模型无关的时序模型可解释性方法ShaTS，通过先验特征分组保留时序依赖，在SWaT数据集上比SHAP更准确地定位异常关键时间点、传感器和执行器，并满足工业实时性要求。
2025-06-02 cs.AI cs.LG
Local Interpretable Model Agnostic Shap Explanations for machine learning models
ABB Ability Innovation Center, Asea Brown Boveri Company（ABB集团ABB能力创新中心）；Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
随着基于人工智能（AI）的解决方案和分析计算引擎技术的进步，机器学习（ML）模型变得越来越复杂。这些模型中的大多数通常被用作黑箱，没有用户可解释性。如此复杂的机器学习模型使人们更难理解或信任他们的预测。有各种各样的框架使用可解释的AI（XAI）方法来证明ML模型的可解释性和可解释性，以使其预测更加可信。在这篇手稿中，我们提出了一种方法，我们定义为本地可解释模型不可知的形状解释（LIMASE）。所提出的ML解释技术使用LIME范式下的Shapley值来实现以下（a）通过使用局部忠实和可解释的决策树模型来解释任何模型的预测，其中树解释器用于计算Shapley值并给出视觉上可解释的解释。(b)通过绘制几个数据点的局部解释，提供视觉上可解释的全局解释。(c)演示子模块优化问题的解决方案。(d)还带来了对区域解释的洞察e）与使用内核解释器相比更快的计算。
2022-10-10 cs.AI cs.LG
TACENR: Task-Agnostic Contrastive Explanations for Node Representations
University of Ioannina, Greece（希腊伊奥安妮亚大学）；Archimedes/Athena Research Center, Greece（阿基米德/雅典娜研究中心）
本文提出TACENR，一种任务无关的节点表示对比解释方法，通过对比学习识别节点表示空间中对节点表示贡献最大的属性、接近性和结构性特征。
2026-04-21 cs.AI cs.LG
Learning to Explain: A Model-Agnostic Framework for Explaining Black Box Models
Tel Aviv University（特拉维夫大学）；The Open University（开放大学）
提出模型无关框架LTX，通过引入解释器模型生成解释图，采用两阶段训练与反事实目标，为视觉黑盒模型提供事后解释，在多项指标上显著超越现有最先进方法。
2023-10-25 cs.AI cs.CV
PARs: Predicate-based Association Rules for Efficient and Accurate Model-Agnostic Anomaly Explanation
Siemens Technology China（西门子中国技术）
针对现有异常检测研究重检测轻解释的问题，提出基于谓词的关联规则PARs模型无关异常解释方法，经用户研究和多基准实验验证，其解释更易被用户理解，且计算效率与准确性优于现有先进方法。
2023-12-18 cs.AI cs.IR cs.LG
Detect, Explain, Interpret: An End-to-End Benchmark for Time Series Anomaly Detection, Explainability and Interpretability
Inria（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；PSL（巴黎文理研究大学）；Scality（Scality公司）；EDF（法国电力集团）
针对现有时间序列异常检测基准忽视可解释性与可解读性的问题，提出完全注释的SHAD基准，含215个真实云存储系统的高维时间序列，并评估检测、可解释性及可解读性基线方法。
2026-10-02 cs.AI cs.DB cs.LG
From Explainability to Interpretability: Interpretable Policies in Reinforcement Learning Via Model Explanation
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
针对现有可解释强化学习方法仅能提供局部洞察、无法全局理解模型的问题，研究提出基于Shapley值的模型无关方法，可适配异策略与同策略算法，在保留原模型性能的同时生成更稳定的可理解策略。
2025-01-16 cs.AI cs.LG cs.SY
Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges
Department of Information Engineering, University of Pisa（比萨大学信息工程系）
本文综述联邦可解释人工智能（FedXAI）范式，介绍其分类法，回顾多种方法及评估实践，讨论不足，识别如非IID数据下可解释性等关键挑战，为设计可信、透明且隐私保护的联邦人工智能系统提供参考。
2026-07-16 cs.AI cs.LG
A Comparative Explainability Framework for DeBERTa-v3 in Zero-Shot Medical Abstract Classification
Universidad de Castilla-La Mancha（卡斯蒂利亚-拉曼恰大学）；University of Murcia（穆尔西亚大学）；Murcian Bio-Health Institute (IMIB-Arrixaca)（穆尔西亚生物健康研究所（IMIB-Arrixaca））
该研究提出比较可解释性框架审计DeBERTa-v3零样本医学文摘分类，通过五种归因方法比较和Jaccard一致性量化，揭示解释稳定性与预测确定性正相关，并识别三种系统性失败机制，支持多方法联合审计。
2026-10-02 cs.AI cs.CL
Visual-TCAV: Concept-based Attribution and Saliency Maps for Post-hoc Explainability in Image Classification
Politecnico di Milano（米兰理工大学）
提出Visual-TCAV框架，结合概念激活向量和积分梯度，生成类无关显著性图并估计概念归因，在受控实验中比TCAV更忠实于真实解释。
2026-06-09 cs.AI cs.CV cs.LG
Intrinsic Explainability of Multimodal Learning for Crop Yield Prediction
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
本研究利用基于Transformer模型的内在可解释性进行亚田块级作物产量预测，提出WMA方法评估模态归因，并发现Transformer优于其他架构，AR提供更稳健的时间归因。
2025-08-09 cs.AI cs.LG
DLIME: A Deterministic Local Interpretable Model-Agnostic Explanations Approach for Computer-Aided Diagnosis Systems
Ryerson University（瑞尔森大学）
局部可解释模型不可知推理（LIME）是一种流行的技术，用于提高黑盒机器学习（ML）算法的可解释性和可解释性。LIME通常通过学习一个更简单的可解释模型（例如线性分类器）来为任何ML模型的单个预测生成解释，该模型通过随机扰动在实例周围生成模拟数据来学习预测，并通过应用某种形式的特征选择来获得特征重要性。虽然LIME和类似的局部算法由于其简单性而获得了普及，但是随机扰动和特征选择方法导致所生成的解释中的“不稳定性”，其中对于相同的预测，可以生成不同的解释。这是一个关键问题，可以防止在计算机辅助诊断（CAD）系统中部署LIME，其中稳定性对于赢得医疗专业人员的信任至关重要。在本文中，我们提出了一个确定性版本的LIME。代替随机扰动，我们利用凝聚层次聚类（HC）将训练数据分组在一起，并利用K-最近邻（KNN）选择正在解释的新实例的相关聚类。在找到相关聚类之后，在所选聚类上训练线性模型以生成解释。在三个不同的医学数据集上的实验结果显示了确定性局部可解释模型不可知解释（DLIME）的优越性，其中我们利用多个生成的解释之间的Jaccard相似性定量确定了DLIME与LIME相比的稳定性。
2019-06-24 cs.AI cs.LG stat.ML
Focus! Rating XAI Methods and Finding Biases
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）
AI可解释性提高了模型的透明度，使其更值得信赖。这些目标是由深度学习模型的出现所推动的，这些模型本质上是模糊的;即使在图像领域，深度学习取得了最大的成功，可解释性仍然评估得很差。在图像识别领域，已经提出了许多特征属性方法，其目的是使用视觉线索来解释模型的行为。然而，到目前为止，还没有建立衡量标准来客观地评估和选择这些方法。在本文中，我们提出了一个一致的评价分数的特征归因方法-焦点-旨在量化其一致性的任务。虽然大多数以前的工作增加了分布噪声的样本，我们介绍了一种方法来增加噪声从分布内。这是通过来自不同类的实例的镶嵌以及这些实例生成的解释来完成的。在这些基础上，我们计算视觉伪精度度量Focus。首先，我们通过一组随机化实验证明了该方法的鲁棒性。然后，我们使用Focus比较了几种CNN架构和分类数据集的六种流行的可解释性技术。我们的研究结果发现，一些方法是一贯可靠的（LRP，GradCAM），而其他产生类不可知论的解释（SmoothGrad，IG）。最后，我们介绍了焦点的另一个应用，使用它来识别和描述模型中发现的偏差。这为偏差管理工具提供了支持，这是迈向值得信赖的AI的又一小步。
2022-02-28 cs.AI cs.LG
On the Black-box Explainability of Object Detection Models for Safe and Trustworthy Industrial Applications
TECNALIA（泰克纳利亚技术中心）；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟）；University of Deusto（德乌斯托大学）；University of the Basque Country (UPV/EHU)（巴斯克大学）
针对目标检测模型在高风险工业应用中可解释性不足的问题，提出模型无关的D-MFPP解释方法及D-Deletion评估指标，实验验证其在特定场景下的有效性与优势。
2024-11-28 cs.AI cs.CV
Counterfactuals and Causability in Explainable Artificial Intelligence: Theory, Algorithms, and Applications
Queensland University of Technology（昆士兰科技大学）；INESC-ID Lisboa（里斯本系统与计算机工程研究所）；Instituto Superior Técnico（高等技术学院）；ULisboa（里斯本大学）
人们对模型无关方法的兴趣越来越大，这些方法可以使深度学习模型对用户更加透明和可解释。一些研究人员最近认为，为了使机器达到一定程度的人类水平的可解释性，这台机器需要提供人类因果可理解的解释，也称为因果性。有一类特定的算法有可能提供因果关系是反事实。本文提出了一个深入系统的审查现有的各种机构的文献反事实和因果关系的可解释的人工智能。我们在PRISMA框架下进行了LDA主题建模分析，以找到最相关的文献文章。这种分析产生了一种新的分类法，该分类法考虑了所调查算法的基础理论，以及它们在现实世界数据中的基本属性和应用。这项研究表明，目前用于可解释人工智能的模型不可知反事实算法并不基于因果理论形式主义，因此无法向人类决策者推广因果关系。我们的研究结果表明，文献中主要算法的解释提供了虚假的相关性，而不是因果关系，导致次优，错误甚至有偏见的解释。本文还提出了文献的新方向和挑战，促进因果关系的模型不可知的方法，可解释的人工智能。
2021-06-08 cs.AI cs.LG
Eclectic Rule Extraction for Explainability of Deep Neural Network based Intrusion Detection Systems
Mississippi State University（密西西比州立大学）；U.S Army Engineer Research and Development Center（美国陆军工程兵研究与发展中心）
本文提出一种混合X-IDS架构，利用折衷规则提取作为黑盒深度神经网络的白盒代理解释器，在UNSW-NB15和CIC-IDS-2017数据集上以99.9%准确率生成可解释且可信的规则集，平衡了可扩展性与可信度。
2024-01-18 cs.AI cs.CR cs.LG
