Introducing the Attribution Stability Indicator: a Measure for Time Series XAI Attributions
University of Konstanz（康斯坦茨大学）
针对时间序列归因技术鲁棒性与可信度难评估的问题，提出融入原始序列与扰动实例相关性及归因结果的归因稳定性指标ASI，并通过降维归因分析与三个数据集的分数分布验证其属性。
2023-10-06 cs.AI cs.LG
Logic-Based Explainability: Past, Present & Future
ICREA（加泰罗尼亚研究与高级研究所）；University of Lleida（莱里达大学）
针对现有可解释人工智能（XAI）方法缺乏严谨性、难以支撑高风险领域可信AI构建的问题，本文对作为严谨替代方案的基于逻辑的XAI进行技术综述，梳理其发展脉络与研究方向，并指出非严谨XAI方法的常见误区。
2024-06-04 cs.AI
Explainable Artificial Intelligence (XAI) on TimeSeries Data: A Survey
ENSTA Paris, Institut Polytechnique Paris（巴黎高等先进技术学院，巴黎综合理工学院）；Inria Flowers（法国国家信息与自动化研究所Flowers团队）；Renault（雷诺公司）；TECNALIA（TECNALIA研究中心）；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟）；University of the Basque Country (UPV/EHU)（巴斯克大学）
大多数应用于时间序列的最先进的方法都是由深度学习方法组成的，这些方法太复杂而无法解释。这种可解释性的缺乏是一个主要的缺点，因为现实世界中的一些应用是关键任务，例如医疗领域或自动驾驶领域。与计算机视觉和自然语言处理领域相比，应用于时间序列的模型的可解释性还没有得到太多的关注。在本文中，我们概述了应用于时间序列的现有可解释AI（XAI）方法，并说明了它们产生的解释类型。我们还对这些解释方法的影响进行了反思，以提供对AI系统的信心和信任。
2021-04-02 cs.AI cs.LG
Explainable AI for clinical and remote health applications: a survey on tabular and time series data
Institute for Informatics and Telematics (IIT), National Research Council of Italy (CNR)（意大利国家研究委员会（CNR）信息学与电信研究所（IIT））
如今，人工智能（AI）已成为医疗保健应用的基本组成部分，无论是临床还是远程，但性能最好的AI系统往往过于复杂，无法自我解释。可解释人工智能（XAI）技术被定义为揭示系统预测和决策背后的推理，在处理敏感和个人健康数据时，它们变得更加重要。值得注意的是，XAI并没有在不同的研究领域和数据类型中获得同样的关注，特别是在医疗保健领域。特别是，许多临床和远程健康应用程序分别基于表格和时间序列数据，XAI通常不分析这些数据类型，而计算机视觉和自然语言处理（NLP）是参考应用程序。为了概述最适合医疗保健领域表格和时间序列数据的XAI方法，本文对过去5年的文献进行了综述，说明了生成的解释类型以及为评估其相关性和质量所做的努力。具体而言，我们将临床验证、一致性评估、客观和标准化的质量评估以及以人为本的质量评估确定为关键特征，以确保为最终用户提供有效的解释。最后，我们强调了该领域的主要研究挑战以及现有XAI方法的局限性。
2022-09-14 cs.AI cs.LG
EXCODER: EXplainable Classification Of DiscretE time series Representations
Institute for Technologies and Management of Digital Transformation (TMDT) University of Wuppertal（数字转型技术与管理研究所（TMDT）乌珀塔尔大学）
EXCODER通过将时间序列转换为离散潜在表示，提升分类的可解释性，并提出SSA度量标准验证XAI方法的有效性。
2026-02-13 cs.AI cs.LG
On the Soundness of XAI in Prognostics and Health Management (PHM)
Departamento de Ciencias de la Computación e Inteligencia Artificial（计算机科学与人工智能系）；Datrik Intelligence, S.A.（Datrik智能股份公司）；Universidad de Sevilla（塞维利亚大学）
在预测与健康管理（PHM）领域中，预测性维护的目的是在设备中的潜在问题变得至关重要之前识别和预测这些问题。要解决的主要挑战是评估一件设备在失效之前有效运行的时间，即剩余使用寿命（RUL）。深度学习（DL）模型，如深度卷积神经网络（DCNN）和长短期记忆（LSTM）网络，已被广泛采用来解决这一任务，并取得了巨大成功。然而，众所周知，这种黑箱模型是不透明的决策系统，并且可能很难向利益相关者（工业设备专家）解释其输出。由于决定这些复杂模型行为的参数数量庞大，因此理解预测背后的推理具有挑战性。这项工作提出了一个关键的和比较的修订，一些XAI方法应用于时间序列回归模型PM。其目的是探索时间序列回归中的XAI方法，这些方法的研究比时间序列分类方法少。实验期间使用的模型是经过训练的DCNN，用于预测飞机发动机的RUL。使用一组量化任何XAI方法应该实现的一些理想属性的度量来审查和比较这些方法。结果表明，GRAD-CAM是最稳健的方法，并且最佳层不是底部层，这在图像处理的上下文中是常见的。
2023-03-09 cs.AI cs.LG
Towards Rigorous Explainability by Feature Attribution
IRIT, University of Toulouse France Nanyang Technological University, Singapore ICREA \& Univ.\ Lleida, Spain
本文综述了使用严格的符号化可解释人工智能方法替代非严格的非符号化方法（如SHAP）来分配相对特征重要性的研究进展。
2026-05-27 cs.AI
An Empirical Study of Explainable AI Techniques on Deep Learning Models For Time Series Tasks
University of Konstanz（康斯坦茨大学）；Offenburg University of Applied Sciences（奥芬堡应用科学大学）
机器学习黑盒模型的决策解释通常通过应用可解释AI（XAI）技术来生成。然而，许多提出的XAI方法产生未经验证的输出。评估和验证通常通过人类对单个图像或文本的视觉解释来实现。在这个预注册，我们提出了一个实证研究和基准框架，应用归因方法的神经网络开发的图像和文本数据的时间序列。我们提出了一种方法来自动评估和排名归因技术的时间序列使用扰动方法来确定可靠的方法。
2020-12-08 cs.AI cs.LG
BASED-XAI: Breaking Ablation Studies Down for Explainable Artificial Intelligence
Capital One（第一资本）
可解释的人工智能（XAI）方法缺乏基本事实。取而代之的是，方法开发人员依赖于公理来确定解释行为的理想属性。对于需要可解释性的机器学习的高风险使用，依赖公理是不够的，因为实现或其使用可能无法达到理想。因此，存在验证XAI方法性能的积极研究。在依赖XAI的领域中，验证的需求尤其突出。消融研究是一种经常用于评估其效用以及在某种程度上评估其保真度的程序。通过扰动输入变量的重要性排序，目标是评估模型的性能的敏感性。扰动重要的变量应该与较大的模型能力的措施相比，扰动不太重要的功能下降。虽然意图是明确的，但尚未对表格数据的实际实施细节进行严格研究。使用5个数据集、3种XAI方法、4种基线和3种扰动，我们旨在说明1）不同的扰动和添加简单的护栏如何有助于避免潜在的有缺陷的结论，2）分类变量的处理如何成为事后可解释性和消融研究的重要考虑因素，以及3）如何识别XAI方法的有用基线和消融研究的可行扰动。
2022-09-01 cs.AI cs.LG
Explainable AI for Time Series via Virtual Inspection Layers
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；Technische Universität Berlin（柏林工业大学）；Freie Universität Berlin（柏林自由大学）；BIFOLD – Berlin Institute for the Foundations of Learning and Data（BIFOLD——柏林学习与数据基础研究所）
近年来，可解释人工智能（XAI）领域取得了很大进展，但主要是在计算机视觉和自然语言处理方面取得了进展。对于时间序列，输入往往是不可解释的，只有有限的研究XAI是可用的。在这项工作中，我们提出了一个虚拟检查层，将时间序列转换为可解释的表示，并允许通过本地XAI方法（如逐层相关传播（LRP））将相关属性传播到该表示。通过这种方式，我们将XAI方法家族的适用性扩展到输入仅在转换后可解释的领域（例如语音）。在这里，我们专注于傅立叶变换，这是突出应用于时间序列和LRP的解释，并将我们的方法称为DFT-LRP。我们证明了DFT-LRP在各种时间序列分类设置，如音频和电子健康记录的有用性。我们展示了DFT-LRP如何揭示在不同领域（例如，时域与频域）或有助于发现模型如何作用于数据中的伪相关性。
2023-03-11 cs.AI cs.CV cs.LG
TIMING: Temporality-Aware Integrated Gradients for Time Series Explanation
AITRICS
本文提出TIMING方法，通过为积分梯度引入时序感知并设计CPD和CPP评估指标，解决了时间序列可解释性中方向性影响被忽视和路径忽略时序关系的问题，在多个基准上优于现有方法。
2025-06-05 cs.AI cs.LG
Interpreting Outliers in Time Series Data through Decoding Autoencoder
University of Mannheim（曼海姆大学）；Robert Bosch GmbH（罗伯特·博世有限公司）
针对制造业时间序列数据，该研究利用自编码器压缩数据并进行异常检测，通过应用XAI技术、提出AEE融合解释方法及定量评估技术，实现了异常值的定性与定量解释。
2025-02-03 cs.AI cs.LG
Explanation Space: A New Perspective into Time Series Interpretability
University of California（加利福尼亚大学）
本文提出了一种简单有效的方法，使时域训练的时间序列模型能在五种新解释空间中应用现有XAI方法进行解释，无需修改模型或XAI方法，解决了时域特征难以直观呈现和基线值未定义的问题。
2025-04-03 cs.AI cs.LG
Software Frameworks for Explainable AI in Time Series Classification: A Systematic Review
Technische Hochschule Mittelhessen - University of Applied Science（中黑森应用技术大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心）；Marburg University（马尔堡大学）
本研究为时间序列分类的可解释AI软件框架开展系统综述，对比多维度分析6个框架的局限性，提出需开发统一的时间序列专用可解释AI框架。
2026-08-25 cs.AI
Rational Shapley Values
University College London（伦敦大学学院）
解释不透明的机器学习算法的预测是一项重要且具有挑战性的任务，特别是随着复杂模型越来越多地用于帮助高风险决策，例如医疗保健和金融领域的决策。用于事后可解释人工智能（XAI）的大多数流行工具要么对上下文不敏感（例如，特征属性）或难以总结（例如，反事实）。在本文中，我介绍了$\textit{rational Shapley values}$，一种新的XAI方法，综合和扩展这些看似不兼容的方法在一个严格的，灵活的方式。我利用决策理论和因果建模的工具来形式化和实现一种实用的方法，解决了XAI中的一些已知挑战。通过配对的随机变量的分布与适当的参考类为一个给定的解释任务，我说明通过理论和实验如何用户的目标和知识可以通知和约束的解决方案集在一个迭代的方式。该方法在一系列定量和定性比较中与最先进的XAI工具相媲美。
2022-05-16 cs.AI cs.LG
xai_evals : A Framework for Evaluating Post-Hoc Local Explanation Methods
xai_evals 是一个开源 Python 框架，用于在表格和图像数据上系统生成、基准测试和评估 SHAP、LIME、Grad-CAM 等事后局部解释方法，以提升模型可解释性与 AI 系统可信度。
2025-02-05 cs.AI cs.ET cs.LG
A method for the systematic generation of graph XAI benchmarks via Weisfeiler-Leman coloring
Department of Computer Science, University of Pisa（意大利比萨大学计算机科学系）
本文提出一种自动化生成图XAI基准的方法，利用Weisfeiler-Leman算法提取子图特征，构建了OpenGraphXAI基准集，用于评估图解释器的有效性。
2025-10-29 cs.AI cs.LG
Explainable AI does not provide the explanations end-users are asking for
Arca Blanca Ltd.（阿尔卡布兰卡有限公司）
可解释的人工智能（XAI）技术经常被许多AI系统中的用户所需要，其目标是理解复杂模型及其相关预测并获得信任。虽然适用于开发过程中的某些特定任务，但组织采用它们来增强对机器学习系统的信任会产生意想不到的后果。在本文中，我们讨论了XAI在部署方面的局限性，并得出结论，透明度和严格的验证更适合在AI系统中获得信任。
2023-03-21 cs.AI cs.HC cs.LG
Why is plausibility surprisingly problematic as an XAI criterion?
Simon Fraser University（西蒙弗雷泽大学）；The University of British Columbia（不列颠哥伦比亚大学）
本文批判性审查了XAI中的合理性准则，指出其无法有效衡量可解释性且会引发误导用户、破坏信任等伦理问题，主张社区停止将其作为评估优化准则，并提出了改进XAI的新研究方向。
2025-05-30 cs.AI cs.HC
Mind the XAI Gap: A Human-Centered LLM Framework for Democratizing Explainable AI
Aristotle University of Thessaloniki, School of Informatics（塞萨洛尼基亚里士多德大学信息学院）；Technical University of Denmark（丹麦技术大学）；Telefonica Scientific Research（电信科学研究院）
针对现有可解释AI方案仅面向专家、非专业人士难以理解的问题，提出一种基于大语言模型的通用人本框架，可同时输出适配两类人群的解释，经基准测试与用户研究验证效果优异，弥合了XAI的受众鸿沟。
2025-06-13 cs.AI cs.LG
C-SHAP for time series: An approach to high-level temporal explanations
Saxion University of Applied Sciences（萨克逊应用科学大学）；University of Twente（代尔夫特理工大学）
本文提出C-SHAP方法，通过提取时间序列中的高层模式来提升AI决策的可解释性，应用于医疗和工业领域，如活动识别和预测维护。
2026-04-23 cs.AI
Should We Trust (X)AI? Design Dimensions for Structured Experimental Evaluations
University of Konstanz（康斯坦茨大学）；Georgia Institute of Technology（佐治亚理工学院）
本文系统地推导了可解释人工智能（XAI）方法的结构化评价的设计维度。这些维度能够进行描述性表征，便于不同研究设计之间的比较。它们进一步构建了XAI的设计空间，并朝着XAI严格研究所需的精确术语汇聚。我们的文献综述区分了比较研究和应用论文，揭示了机器学习，人机交互和视觉分析领域之间的方法差异。通常，这些学科中的每一个都针对XAI过程的特定部分。弥合由此产生的差距，使XAI在现实世界的情况下，提出了我们的概念模型特征偏见来源和信任建设的整体评估。此外，我们确定和讨论的基础上观察到的研究差距，应导致更好地覆盖所提出的模型的未来工作的潜力。
2020-09-14 cs.AI cs.HC
Distance-Restricted Explanations: Theoretical Underpinnings & Efficient Implementation
CREATE；NUS（新加坡国立大学）；IST/INESC-ID（高等技术学院/ INESC-ID研究所）；University of Lleida（莱里达大学）；Monash University（莫纳什大学）；ICREA（加泰罗尼亚研究与高级研究所）
本文提出新型算法以提升基于逻辑的解释器在处理大量输入的机器学习模型时的计算与枚举扩展性能，解决了距离限制解释的可扩展性瓶颈。
2024-12-24 cs.AI cs.CV cs.DC
Systematic Literature Review: Explainable AI Definitions and Challenges in Education
University of Technology Sydney（悉尼科技大学）；Islamic University of Madinah（麦地那伊斯兰大学）
本文采用PRISMA方法系统综述了教育领域可解释AI（XAI）的定义与挑战，发现15种定义和62项挑战并将其归纳为七类，指出XAI缺乏标准化定义导致概念混淆。
2025-04-03 cs.AI cs.CY
Categorical Foundations of Explainable AI: A Unifying Theory
University of Cambridge（剑桥大学）；INRA（法国国家农业食品与环境研究院）；Tallinn University of Technology（塔林理工大学）
本文利用范畴论首次为可解释人工智能的关键概念（尤其是“解释”）建立数学严格定义，并统一建模学习架构、分类体系与解释方法分析，为XAI奠定可靠理论基础。
2023-09-17 cs.AI cs.LG stat.ML
Cloud-based XAI Services for Assessing Open Repository Models Under Adversarial Attacks
Concordia University（康考迪亚大学）
针对开源AI模型在对抗攻击下XAI评估复杂的问题，本文提出基于云的微服务XAI评估框架，通过流水线组织任务并集成开放XAI工具库，系统评估模型的计算成本、性能、鲁棒性、解释偏差和解释弹性等质量属性。
2024-10-01 cs.AI cs.CR
An Empirical Comparison of Explainable Artificial Intelligence Methods for Clinical Data: A Case Study on Traumatic Brain Injury
The University of Arizona（亚利桑那大学）；Virginia Tech（弗吉尼亚理工大学）；University of Cincinnati（辛辛那提大学）
围绕深度学习算法的一个长期挑战是解包和理解它们如何做出决策。可解释人工智能（XAI）提供了一些方法，以人类用户可解释和理解的方式解释算法的内部功能及其决策背后的原因。.到目前为止，已经开发了许多XAI方法，并且对这些策略进行比较分析似乎是必要的，以辨别它们与临床预测模型的相关性。为此，我们首先实施了两个预测模型的短期和长期结果的创伤性脑损伤（TBI）利用结构化的表格以及时间序列的生理数据，分别。六种不同的解释技术被用来描述这两个预测模型在当地和全球层面。然后，我们对每种策略的优点和缺点进行了批判性分析，突出了对应用这些方法感兴趣的研究人员的影响。实施的方法进行了比较，彼此在几个XAI的特点，如可理解性，保真度和稳定性。我们的研究结果表明，SHAP是最稳定的，具有最高的保真度，但缺乏可理解性。另一方面，最容易理解的方法是参数化，但它只适用于表格数据，而不适用于时间序列数据。
2022-08-13 cs.AI cs.LG
The Inadequacy of Shapley Values for Explainability
University of Toulouse（图卢兹大学）；IRIT（图卢兹计算机科学研究所）；CNRS（法国国家科学研究中心）
本文提出了一个严格的论点，说明为什么在可解释人工智能（XAI）中使用Shapley值必然会产生关于特征对预测的相对重要性的可证明的误导性信息。具体地说，本文证明了存在分类器和相关的预测，其中由Shapley值确定的特征的相对重要性将错误地将更多的重要性分配给可证明与预测无关的特征，而将较少的重要性分配给可证明与预测相关的特征。本文还认为，鉴于最近的复杂性结果，存在有效的算法计算严格的功能属性值的情况下，一些限制类的分类器应被视为最好的不太可能。
2023-02-16 cs.AI cs.LG
DeltaSHAP: Explaining Prediction Evolutions in Online Patient Monitoring with Shapley Values
KAIST（韩国科学技术院）
DeltaSHAP 是一种新型可解释 AI 算法，通过适应时间序列的 Shapley 值，实时解释在线患者监测中连续预测的演变，满足临床需求，并在 MIMIC-III 基准上显著提升了解释质量和计算效率。
2025-07-12 cs.AI cs.LG
Adaptive XAI in High Stakes Environments: Modeling Swift Trust with Multimodal Feedback in Human AI Teams
Deakin University（德金大学）；Monash University（莫纳什大学）
针对高风险场景下现有XAI方法依赖显式反馈、解释统一不适用的问题，提出利用生理行为信号的自适应XAI概念框架AXTF，通过多目标个性化信任模型动态调整解释，增强人-AI团队的快速信任。
2025-07-25 cs.AI cs.HC
Explainable AI for tailored electricity consumption feedback -- an experimental evaluation of visualizations
University of Bamberg（班贝格大学）
机器学习（ML）方法可以有效地分析数据，识别其中的模式，并做出高质量的预测。好的预测通常伴随着“黑盒”模型，这些模型无法以人类可读的方式呈现检测到的模式。最近的技术发展导致了可解释的人工智能（XAI）技术，其目的是打开这样的黑匣子，使人类能够从检测到的模式中获得新的见解。我们调查了XAI在特定见解可能对消费者行为产生重大影响的领域的应用，即电力使用。了解到个人用电量的具体反馈会触发资源节约，我们使用ML和XAI方法从用电量时间序列中创建了五个可视化，以获得高度个性化的反馈，并考虑到现有的特定领域设计知识。我们对152名参与者的实验评估表明，人类可以吸收XAI可视化显示的模式，但这种可视化应该遵循已知的可视化模式，以便用户能够很好地理解。
2022-08-24 cs.AI cs.CY cs.HC
Decoding the Multimodal Maze: A Systematic Review on the Adoption of Explainability in Multimodal Attention-based Models
University of Science and Technology of China（中国科学技术大学）
本文系统综述了2020年至2024年初多模态模型可解释性研究，发现多数工作集中于视觉-语言和纯语言模型，注意力机制是主要解释方法，但评估缺乏系统性和鲁棒性，并提出了改进建议。
2026-06-12 cs.AI cs.LG
Unifying VXAI: A Systematic Review and Framework for the Evaluation of Explainable AI
German Research Center for Artificial Intelligence (DFKI) GmbH（德国人工智能研究中心（DFKI）有限责任公司）；RPTU University Kaiserslautern-Landau（凯泽斯劳滕-兰道莱茵兰-普法尔茨工业大学）
本文提出统一的XAI评估框架VXAI，通过系统综述和三维分类方案，全面评估可解释AI的方法和指标。
2026-01-26 cs.AI cs.LG
An xAI Approach for Data-to-Text Processing with ASP
Università di Parma（帕尔马大学）；GNCS-INdAM（意大利国家高等数学研究所全国计算科学研究组）；Università di Udine（乌迪内大学）
本文提出一种基于ASP的xAI框架，通过ASP/Python程序显式控制数据到文本生成中的准确性错误与合成量，实现最优解和层级化文本描述。
2023-08-30 cs.AI
Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI
TECNALIA；ENSTA, Institute Polytechnique Paris（巴黎综合理工学院ENSTA）；INRIA（法国国家信息与自动化研究所）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））；Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心（BCAM））；Segula Technologies（Segula科技公司）；Sorbonne Universitè（索邦大学）；DaSCI Andalusian Institute of Data Science and Computational Intelligence, University of Granada（格拉纳达大学DaSCI安达卢西亚数据科学与计算智能研究所）；Telefonica（西班牙电信公司）
在过去的几年里，人工智能（AI）已经取得了显着的势头，可能会在整个领域的许多应用领域提供最好的期望。为了实现这一点，整个社区都面临着可解释性的障碍，这是人工智能技术的一个固有问题，由子符号主义（例如合奏或深度神经网络）带来，而这些问题在人工智能的最后一次炒作中并不存在。这个问题的基础范式属于所谓的可解释AI（XAI）领域，这被认为是AI模型实际部署的关键特征。本概述探讨了现有的文献领域的XAI，包括对什么是尚未达到的前景。我们总结了以前的努力，定义在机器学习的可解释性，建立一个新的定义，涵盖了以前的概念命题，主要集中在观众的可解释性寻求。然后，我们提出并讨论了与不同机器学习模型的可解释性相关的最新贡献的分类，包括针对深度学习方法的分类。这些文献分析为XAI面临的一系列挑战提供了背景，例如数据融合和可解释性之间的十字路口。我们的前景导致了负责任人工智能的概念，即在真实组织中大规模实施人工智能方法的方法论，其核心是公平性，模型可解释性和问责制。我们的最终目标是为新加入XAI的人提供参考资料，以促进未来的研究进展，同时也鼓励其他学科的专家和专业人士在其活动领域接受人工智能的好处，而不因其缺乏可解释性而存在任何偏见。
2019-12-26 cs.AI cs.LG cs.NE
xaitimesynth: A Python Package for Evaluating Attribution Methods for Time Series with Synthetic Ground Truth
Eindhoven University of Technology（埃因霍温理工大学）
xaitimesynth是一个用于评估时间序列归因方法的Python包，提供合成数据生成和标准化局部化度量，支持单变量和多变量时间序列的灵活数据集定义。
2026-03-06 cs.AI cs.LG
The Explanation Game -- Rekindled (Extended Version)
ICREA（加泰罗尼亚研究与高级研究所）；Univ. Lleida（莱里达大学）；IRIT（图灵与信息技术研究所）；Univ. Toulouse（图卢兹大学）
针对当前可解释人工智能（XAI）中Shapley值（SHAP分数）存在的误导性缺陷，本文提出新型SHAP分数定义及高效估算方案，实验验证了其有效性并凸显了现有方法的不足。
2025-02-15 cs.AI
MUPAX: Multidimensional Problem Agnostic eXplainable AI
University of Oxford（牛津大学）
本文提出 MUPAX，一种基于测度论和结构化扰动分析的确定性、模型无关且具有收敛保证的可解释 AI 方法，在 1D 至 3D 多模态任务上验证其维度无关的有效性，并证明其在掩码时不仅能保持还能提升模型准确率。
2025-07-17 cs.AI cs.CV cs.LG
An Empirical Evaluation of Factors Affecting SHAP Explanation of Time Series Classification
School of Engineering Mathematics and Technology, University of Bristol, UK（工程数学与技术学院，布里斯托大学）；School of Computer Science, University College Dublin, Ireland（计算机科学学院，都柏林大学学院）
本研究针对SHAP方法在长时间序列分类中计算成本高的问题，调研8种时间序列分段算法对解释质量的影响，发现分段数量的影响大于分段方法，等长分段表现更优，还提出按分段长度加权的归因归一化技术以提升归因质量。
2025-09-03 cs.AI
Gradient based Feature Attribution in Explainable AI: A Technical Review
Nanyang technological university（南洋理工大学）
本文综述了基于梯度的特征归因方法在可解释AI中的应用，提出四类分类法，并系统梳理了技术演进、评估方式及面临的挑战，旨在帮助研究者把握现状并激发未来改进。
2024-03-15 cs.AI
The Thousand Faces of Explainable AI Along the Machine Learning Life Cycle: Industrial Reality and Current State of Research
Siemens AG（西门子公司）；Ludwig Maximilians Universität Munich（慕尼黑大学）；Goethe University Frankfurt（法兰克福大学）；Technical University of Munich（慕尼黑工业大学）
本文通过访谈和文献综述，探讨可解释人工智能（XAI）在工业生产中的实际应用与研究现状，发现现有方法多集中于模型评估阶段，需加强其他阶段及非专家用户的可解释性支持。
2023-10-11 cs.AI cs.HC cs.LG
Towards a Rigorous Evaluation of Explainability for Multivariate Time Series
Aalto University（阿尔托大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Umeå University（于默奥大学）
基于机器学习的系统正在迅速普及，与此相一致的是，在可解释性领域出现了巨大的研究热潮，以确保机器学习模型是可靠的，公平的，并且可以对其决策过程负责。可解释的人工智能（XAI）方法通常用于调试黑盒机器学习模型，但与表格、文本和图像数据相比，时间序列的可解释性仍然相对未被探索。本研究的目的是在时间序列预测问题中实现和评估模型不可知的可解释性。这项工作的重点是为一家数字咨询公司提供解决方案，该公司旨在找到一种数据驱动的方法，以了解其销售相关活动对销售交易的影响。该解决方案涉及框架的问题作为一个时间序列预测问题来预测的销售交易和可解释性实现了使用两种新的模型不可知的可解释性技术，本地可解释的模型不可知的解释（LIME）和Shapley添加剂的解释（SHAP），这是使用人类评价的可解释性。结果清楚地表明，LIME和SHAP产生的解释极大地帮助了普通人理解机器学习模型的预测。所提出的工作可以很容易地扩展到任何时间
2021-04-06 cs.AI cs.LG
Class-Dependent Perturbation Effects in Evaluating Time Series Attributions
Information Systems, Eindhoven University of Technology, Eindhoven, The Netherlands Eindhoven Artificial Intelligence Systems Institute, Eindhoven University of Technology, Eindhoven, The Netherlands Human-Technology Interaction, Eindhoven University of Technology, Eindhoven, The Netherlands
本研究通过实证分析揭示时间序列特征归因的扰动评估存在类依赖效应，并提出带类感知惩罚项的评估框架以更准确衡量归因质量。
2025-04-01 cs.AI cs.LG stat.ML
F-Fidelity: A Robust Framework for Faithfulness Evaluation of Explainable AI
Florida International University（佛罗里达国际大学）；NEC Laboratories America（美国NEC实验室）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
本文提出 F-Fidelity 评估框架，通过解释无关微调和随机掩码解决信息泄漏与分布外问题，在多种数据模态上验证其能更准确地恢复 XAI 解释器的真实排名并估计真实解释规模。
2025-03-06 cs.AI cs.LG
Does Explanation Correctness Matter? Linking Computational XAI Evaluation to Human Understanding
Information Systems Group, Eindhoven University of Technology（埃因霍温理工大学信息系统组）；Human-Technology Interaction Group, Eindhoven University of Technology（埃因霍温理工大学人机交互组）
研究通过用户实验检验解释正确性对人类理解的影响，发现正确性降低时理解性能下降，但并非所有正确性水平均导致性能下降，且完全正确解释也不保证理解。
2026-11-06 cs.AI cs.HC cs.LG
PulmoSight-XAI: An Explainable Multi-View Attention Ensemble with Gradient Boosting Meta-Learning for Multi-Label Chest X-Ray Classification
Department of Biomedical Engineering Bangladesh University of Engineering and Technology (BUET)（孟加拉国工程技术大学（BUET）生物医学工程系）
针对胸部X光分类挑战，提出分层多视图集成框架。用五个卷积神经网络分别处理正侧位片，结合多尺度特征融合与注意力模块，采用混合损失函数优化模型，通过分层元学习策略提升性能，兼具准确性与可解释性。
2026-07-07 cs.AI cs.CV cs.LG
Interpretable and Explainable Surrogate Modeling for Simulations: A State-of-the-Art Survey and Perspectives on Explainable AI for Decision-Making
IRIT, Université Toulouse Capitole（图卢兹大学IRIT）；Université de Toulouse, ISAE-SUPAERO（图卢兹大学ISAE-SUPAERO）
本文综述了替代建模与可解释人工智能的结合，探讨了如何通过可解释方法提升复杂系统模拟的透明度和决策支持能力。
2026-04-15 cs.AI cs.LG stat.ML
Why Do Class-Dependent Evaluation Effects Occur with Time Series Feature Attributions? A Synthetic Data Investigation
Information Systems, Eindhoven University of Technology, Eindhoven, The Netherlands（信息系统，埃因霍温理工大学，埃因霍温，荷兰）；Eindhoven Artificial Intelligence Systems Institute, Eindhoven University of Technology, Eindhoven, The Netherlands（埃因霍温人工智能系统研究所，埃因霍温理工大学，埃因霍温，荷兰）；Human-Technology Interaction, Eindhoven University of Technology, Eindhoven, The Netherlands（人机交互，埃因霍温理工大学，埃因霍温，荷兰）
本文通过合成时间序列数据研究了类依赖性评估效应的成因，发现归因方法在不同类别间评估结果差异显著，且扰动指标与真实指标评估结果不一致，提示需重新审视归因评估的衡量标准。
2025-07-24 cs.AI cs.LG
The Meta-Evaluation Problem in Explainable AI: Identifying Reliable Estimators with MetaQuantus
Technical University of Berlin（柏林工业大学）；Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）；UiT Arctic University of Norway（挪威北极大学）；Fraunhofer Heinrich-Hertz-Institute（弗劳恩霍夫海因里希·赫兹研究所）；University of Potsdam（波茨坦大学）；Leibniz Institute of Agricultural Engineering and Bioeconomy e.V.（莱布尼茨农业工程与生物经济研究所）
针对可解释AI缺乏真实标签时解释质量评估结果矛盾的问题，提出元评估框架MetaQuantus，通过分析质量估计器的抗噪性和随机性反应性识别可靠评估方法，已开源并为领域提供理论指导。
2023-07-19 cs.AI cs.LG
IMAFD: An Interpretable Multi-stage Approach to Flood Detection from time series Multispectral Data
Lancaster University（兰卡斯特大学）；European Space Agency（欧洲空间局）
针对大规模时序洪水检测计算成本高、决策缺乏可解释性的问题，提出多阶段可解释方法IMAFD，结合异常检测与语义分割分四阶段检测，在三个数据集上性能具竞争力且可解释。
2024-05-13 cs.AI cs.CV cs.LG
Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
TU Delft（代尔夫特理工大学）；XITASO GmbH（XITASO有限公司）；University College Cork（科克大学学院）；RPTU University Kaiserslautern-Landau（凯撒斯劳滕-兰道工业大学）；DFKI（德国人工智能研究中心）；TU Dresden（德累斯顿理工大学）
本文指出现有可解释AI（XAI）忠实性指标存在五大缺陷，提出四大研究方向以提升其可靠性，旨在解决XAI解释与模型错位的问题。
2026-10-12 cs.AI cs.LG stat.ML
LioNets: A Neural-Specific Local Interpretation Technique Exploiting Penultimate Layer Information
人工智能（AI）几乎在每个方面都对技术的意外增长产生了巨大的影响。人工智能驱动的系统正在监测和决定敏感的经济和社会问题。未来是走向自动化的，这是不可阻挡的。然而，这对很多人来说是一个矛盾的观点，因为他们害怕不可控的人工智能系统。如果这种关切是出于与社会问题有关的考虑，如性别偏见或模糊的决策制度，那么这种关切可能是合理的。可解释AI（XAI）最近被视为迈向可靠系统的一大步，增强了人们对AI的信任。可解释机器学习（IML）是XAI的一个子领域，也是一个迫切的研究课题。本文提出了一个小的，但重要的贡献IML社区，专注于本地的，神经特定的解释过程中应用到文本和时间序列数据。所提出的方法引入了新的方法来呈现基于特征重要性的解释，以及在文本数据集上产生反事实词。最后，一个改进的评价指标的解释技术的评估，它支持一个广泛的定性和定量的实验。
2021-04-13 cs.AI cs.LG
eXplainable Artificial Intelligence on Medical Images: A Survey
Eldorado Research Institute（埃尔多拉多研究所）
本综述系统分析可解释人工智能在医学图像诊断中的应用，涵盖癌症与COVID-19等疾病，旨在提升黑盒模型结果的透明度与可信度。
2023-05-12 cs.AI cs.CY cs.LG
Global Explanations for Multivariate Time Series Forecasting Models via $K$-Order Markov Approximations
XITASO GmbH
提出KARMA方法，通过构建马尔可夫替代模型捕捉时间依赖，从三个核心方面（最小历史长度、最优转移核、五级全局解释层次）解释时间序列预测器，在真实和合成数据上验证其恢复因果结构和识别时间依赖的能力。
2026-06-29 cs.AI cs.LG
