A redescription mining framework for post-hoc explaining and relating deep learning models
University of Zagreb（萨格勒布大学）；Ruđer Bošković Institute（鲁杰尔·博什科维奇研究所）；Faculty of Electrical Engineering and Computing, University of Zagreb（萨格勒布大学电气工程与计算机学院）
本文提出一种基于重描述挖掘的事后解释框架，通过识别神经元激活的统计显著重描述，对任意深度学习模型进行队列分析、层间关联和跨模型关联，从而提升模型可解释性。
2025-01-02 cs.AI cs.LG
Transferring Visual Explainability from Self-Explaining to Prediction-Only Vision Transformers via Task Arithmetic
Chiba Institute of Technology（千叶工业大学）；ZOZO Research（ZOZO研究院）
本文提出一种方法，通过任务算术框架将自解释模型的视觉解释能力转移到仅预测模型中，无需额外训练，从而提升目标域的解释质量。
2026-11-10 cs.AI cs.CV cs.LG
Explaining Search Result Stances to Opinionated People
Maastricht University（马斯特里赫特大学）；Delft University of Technology（代尔夫特理工大学）
本文研究立场标签及其解释能否帮助有立场倾向的用户消费更多样化的搜索结果，通过自动分类三个主题的搜索结果并开展203人用户研究，发现标签和解释能提升点击结果的多样性，但未发现用户观点发生系统性变化。
2023-09-15 cs.AI cs.IR cs.LG
Why is "Problems" Predictive of Positive Sentiment? A Case Study of Explaining Unintuitive Features in Sentiment Classification
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
本文针对情感分类中“problems”等非直观特征与标签的关联，提出自动检测与解释方法，并通过众包实验验证其有效性，填补了XAI在此方向的研究空白。
2024-06-05 cs.AI cs.HC cs.LG
MACE: Model Agnostic Concept Extractor for Explaining Image Classification Networks
IIT Ropar（印度理工学院罗帕尔分校）
深度卷积网络在各种图像分类任务中非常成功。目前解释预训练模型预测的方法依赖于梯度信息，通常会导致突出图集中在整个前景对象上。然而，人类通常通过解剖图像并指出较小概念的存在来进行推理。最终的输出通常是这些较小概念的存在或不存在的集合。在这项工作中，我们提出了MACE：一个模型不可知的概念提取器，它可以通过更小的概念来解释卷积网络的工作。MACE框架剖析了由卷积网络为图像生成的特征图，以提取基于概念的原型解释。此外，它估计提取的概念与预训练模型预测的相关性，这是解释单个类预测所需的关键方面，在现有方法中缺失。我们使用VGG16和ResNet50 CNN架构以及Animals With Attributes 2（AWA2）和Places365等数据集验证了我们的框架。我们的实验表明，由MACE框架提取的概念增加了人类对解释的可解释性，并且忠实于底层的预训练黑盒模型。
2020-11-03 cs.AI cs.CV cs.LG
dCAM: Dimension-wise Class Activation Map for Explaining Multivariate Data Series Classification
Université Paris Cité（巴黎西岱大学）；EDF R&D（法国电力集团研发中心）；IUF（法国大学研究院）
数据序列分类是数据科学中一个重要而又具有挑战性的问题。通过找到导致算法做出某些决策的输入的判别部分来解释分类决策在许多应用中是真正需要的。卷积神经网络在数据序列分类任务中表现良好;但是，对于多变量数据序列的特定情况，这种类型的算法提供的解释很差。解决这一重要限制是一项重大挑战。在本文中，我们提出了一种新的方法，解决了这个问题，突出了时间和维度的判别信息。我们的贡献是双重的：我们首先描述了一种卷积架构，它可以进行维度比较;然后，我们提出了一种返回dCAM的方法，dCAM是一种专门为多变量时间序列（和基于CNN的模型）设计的基于卷积的类激活图。几个合成和真实数据集的实验表明，dCAM不仅比以前的方法更准确，但唯一可行的解决方案的判别特征发现和分类解释的多元时间序列。本文发表在SIGMOD'22上。
2022-07-25 cs.LG
PatchX: Explaining Deep Models by Intelligible Pattern Patches for Time-series Classification
Technische Universität Kaiserslautern（凯泽斯劳滕工业大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
时间序列数据的分类是流数据的关键，也带来了许多挑战。尽管公开可用的数据集数量迅速增加，但深度神经模型仅在少数领域得到利用。与深度神经模型相比，传统方法仍然经常使用。这些方法由于其可解释的结果而在安全关键，金融或医疗领域中受到青睐。然而，它们的性能和扩展能力是有限的，并且由于数字时间序列数据中隐藏的概念，为时间序列分类任务找到合适的解释是具有挑战性的。可视化完整的时间序列会导致我们对感知的认知过载，并导致混乱。因此，我们认为，分批处理的数据结果在一个更可解释的表示。我们提出了一种新的混合方法，该方法利用深度神经网络和传统的机器学习算法来引入可解释和可扩展的时间序列分类方法。我们的方法首先进行细粒度的分类，其次是样本级分类的补丁。
2021-02-11 cs.LG
Contextual Prediction Difference Analysis for Explaining Individual Image Classifications
University of Munich（慕尼黑大学）；Siemens AG（西门子股份公司）
近年来，人们一直致力于理解深度神经网络的决策。许多模型感知的显着性方法被提出来解释个人的分类决策，通过创建显着性图。然而，当基础模型的参数和梯度不可用时，它们不适用。最近，模型不可知的方法也受到关注。作为其中之一，提出了概率声方法\textit{Prediction Difference Analysis}（PDA）。在这项工作中，我们首先表明，PDA可以遭受饱和分类器。在现有的基于神经网络的分类器中，普遍存在分类器饱和现象.为了更好地解释饱和分类器的决策，我们进一步提出了上下文PDA，它的运行速度比PDA快数百倍。实验表明，我们的方法的优越性，通过解释国家的最先进的深卷积神经网络的图像分类。
2020-06-06 cs.CV cs.LG stat.ML
DXAI: Explaining Classification by Image Decomposition
本文提出DXAI方法，通过将图像分解为类别无关与类别区分两部分来解释神经网络分类，为密集、全局和可加性属性场景提供了新的可视化解释方式。
2024-03-29 cs.CV cs.LG
Explaining Time Series Classification Predictions via Causal Attributions
IEEE
本研究针对可解释AI中归因方法多依赖关联而非因果的问题，提出一种模型无关的时间序列分类因果归因方法，结合扩散模型与状态空间模型估计反事实，验证了因果与关联归因的差异，揭示了仅用关联归因的风险。
2025-11-19 cs.AI cs.LG stat.ML
Explaining Deep Convolutional Neural Networks on Music Classification
Queen Mary University of London（伦敦玛丽女王大学）
深度卷积神经网络（CNN）已经被积极地应用于音乐信息检索领域，例如流派分类、情绪检测和和弦识别。然而，学习和预测的过程很少被理解，特别是当它被应用于频谱图时。我们引入CNN的可听化以理解其潜在机制，其基于[2]中引入的去卷积过程。CNN的可听化是将从去卷积获得的学习卷积特征转换为音频信号。在实验和讨论中，我们解释了基于去卷积频谱图和可听化信号的5层CNN的训练特征。还研究了具有不同音乐属性的每层的成对相关性，以了解学习特征的演变。结果表明，在深层，功能是学习捕捉纹理，连续分布的模式，而不是线条的形状。
2016-07-08 cs.AI cs.LG cs.MM
A Theoretical Analysis of Learning with Noisily Labeled Data
Alibaba Group（阿里巴巴集团）
噪声标签在深度监督学习中非常常见。虽然许多研究倾向于提高深度训练对噪声标签的鲁棒性，但很少有研究集中在理论上解释使用噪声标签数据学习的训练行为，这是理解其泛化的基本原则。在本文中，我们研究了它的两个现象，干净的数据第一和相变，从理论上解释他们。具体来说，我们首先展示了在第一个epoch训练中，将首先学习具有干净标签的示例。然后，我们表明，在从干净数据学习阶段之后，当类标签损坏率小于一定阈值时，连续训练模型可以进一步改善测试误差;否则，广泛训练可能导致测试误差增加。
2021-04-08 cs.LG
Investigating and Explaining the Frequency Bias in Image Classification
Beijing Jiaotong University（北京交通大学）；Peng Cheng Lab（鹏城实验室）
CNN表现出许多与人类不同的行为，其中之一是使用高频分量的能力。本文讨论了图像分类任务中的频率偏差现象：高频分量实际上比低频和中频分量少得多。我们首先调查的频率偏置现象，提出两个观察特征歧视和学习优先级。此外，我们假设（i）谱密度，（ii）类一致性直接影响频率偏差。具体来说，我们的调查验证了数据集的谱密度主要影响学习优先级，而类一致性主要影响特征区分度。
2022-08-16 cs.CV cs.LG eess.IV
SHAP values for Explaining CNN-based Text Classification Models
Wells Fargo（富国银行）
深度神经网络越来越多地用于自然语言处理（NLP）模型。然而，需要解释和解释复杂算法的结果限制了它们在银行等受监管行业的广泛采用。最近有关于结构化数据的机器学习算法的可解释性的工作。但是，对于NLP应用程序来说，只有有限的技术，由于词汇量大，高维性质以及需要考虑文本连贯性和语言结构，问题更具挑战性。本文提出了一种方法来计算SHAP值的局部解释基于CNN的文本分类模型。该方法还扩展到计算全局分数，以评估功能的重要性。亚马逊电子评论数据的情感分析的结果说明。
2021-07-09 cs.CL cs.LG
Progressive Inference: Explaining Decoder-Only Sequence Classification Models Using Intermediate Predictions
JPMorganChase AI Research（摩根大通人工智能研究院）
本文提出Progressive Inference框架，利用仅解码器Transformer的中间预测计算输入归因，包含SP-PI和MP-PI两种方法，显著提升了序列分类模型的解释性。
2024-06-03 cs.AI cs.LG stat.ML
Explaining k-Nearest Neighbors: Abductive and Counterfactual Explanations
本文从特征视角研究k近邻分类的可解释性，提出归纳和反事实解释方法，并探讨其计算复杂性及实际应用。
2026-01-22 cs.AI cs.LG
Does the dataset meet your expectations? Explaining sample representation in image data
Volvo Group（沃尔沃集团）；Chalmers University of Technology（查尔姆斯理工大学）
由于神经网络模型的行为受到训练数据缺乏多样性的不利影响，我们提出了一种识别和解释这种缺陷的方法。当数据集被标记时，我们注意到注释本身就能够提供人类可解释的样本多样性摘要。这允许将任何多样性的缺乏解释为当将数据集中注释的\textit{actual}分布与注释的\textit{expected}分布进行比较时发现的不匹配，手动指定以捕获基本标记多样性。虽然在许多实际情况下，标记（样本$\rightarrow$注释）是昂贵的，但是其逆模拟（注释$\rightarrow$样本）可以更便宜。通过使用参数模拟将注释的预期分布映射到测试样本中，我们提出了一种方法，该方法使用模拟数据和收集数据之间的差异来解释样本表示。然后，我们应用该方法来检查数据集的几何形状定性和定量地解释样本表示的可理解的方面，如大小，位置和像素亮度。
2020-12-06 cs.CV cs.LG
This Looks Like That, Because ... Explaining Prototypes for Interpretable Image Recognition
University of Twente（特文特大学）；University of Duisburg-Essen（杜伊斯堡-埃森大学）
具有原型的图像识别被认为是黑盒深度学习模型的可解释替代方案。分类取决于测试图像“看起来像”原型的程度。然而，人类的感知相似性可能与分类模型学习的相似性不同。因此，仅仅可视化原型可能不足以让用户理解原型到底代表什么，以及为什么模型认为原型和图像相似。我们解决这种模糊性，并认为原型应该解释。我们通过自动增强视觉原型的文本定量信息的视觉特征被认为是重要的分类模型，提高可解释性。具体而言，我们的方法通过量化色调，形状，纹理，对比度和饱和度的影响来阐明原型的含义，并且可以生成全局和局部解释。由于我们的方法的通用性，它可以提高任何基于相似性的方法的原型图像识别的可解释性。在我们的实验中，我们将我们的方法应用到现有的原型零件网络（ProtoPNet）。我们的分析证实，全球性的解释是概括性的，往往对应于原型的视觉可感知的属性。我们的解释特别适用于那些可能被错误解释的原型。通过解释这种“误导”的原型，我们提高了基于原型的分类模型的可解释性和可模拟性。我们还使用我们的方法来检查视觉上相似的原型是否有类似的解释，并能够发现冗余。代码可在https://github.com/M-Nauta/Explaining_Prototypes上获得。
2021-03-31 cs.AI cs.CV cs.LG
Interaction as Explanation: A User Interaction-based Method for Explaining Image Classification Models
Companoid Labs
针对传统可解释AI方法仅适用于专家的问题，提出基于用户交互的图像分类模型解释方法，通过网页原型让用户修改图像观察分类变化以理解模型逻辑，实验验证了其揭示特征重要性的潜力，为xAI提供了面向终端用户的新视角。
2024-08-14 cs.AI cs.CV cs.HC
Explaining Convolutional Neural Networks by Tagging Filters
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Mannheim（曼海姆大学）
卷积神经网络（CNN）在各种图像分类任务上取得了惊人的性能，但人类很难理解分类是如何产生的。最近的文献提出了向人类解释分类过程的方法。这些主要集中在可视化特征图和过滤器权重上，这对于非专家来说在分析CNN分类时不是很直观。在本文中，我们提出了FilTag，这是一种即使对非专家也能有效解释CNN的方法。这个想法是，当一个类别的图像经常激活卷积滤波器时，该滤波器就会被标记为该类别。这些标记提供了对过滤器检测到的类特定特征的引用的解释。基于标记，然后可以根据输入图像激活的滤波器的标记直观地解释各个图像分类。最后，我们表明，标签是有帮助的，在分析分类错误所造成的噪声输入图像，标签可以进一步处理的机器。
2021-09-20 cs.CV cs.LG
Explaining NonLinear Classification Decisions with Deep Taylor Decomposition
Berlin Institute of Technology (TU Berlin)（柏林工业大学）；Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希赫兹研究所）；Singapore University of Technology and Design（新加坡科技设计大学）；Korea University（高丽大学）
诸如深度神经网络（DNN）之类的非线性方法是各种具有挑战性的机器学习问题的黄金标准，例如，图像分类、自然语言处理或人类动作识别。虽然这些方法表现得令人印象深刻，但它们有一个显著的缺点，即缺乏透明度，限制了解决方案的可解释性，从而限制了实际应用的范围。特别是DNN由于其多层非线性结构而充当黑匣子。在本文中，我们介绍了一种新的方法来解释通用的多层神经网络的网络分类决策分解成其输入元素的贡献。虽然我们的重点是图像分类，该方法适用于广泛的输入数据，学习任务和网络架构。我们的方法基于深度泰勒分解，并通过将解释从输出层反向传播到输入层来有效地利用网络的结构。我们评估所提出的方法经验上的MNIST和ILSVRC数据集。
2015-12-08 cs.LG stat.ML
Explaining automated gender classification of human gait
Johannes Gutenberg-University Mainz（美因茨约翰内斯·古腾堡大学）；St. Pölten University of Applied Sciences（圣珀尔滕应用科学大学）；Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；TU Wien（维也纳工业大学）
最先进的机器学习（ML）模型在对步态分析数据进行分类方面非常有效，然而，它们缺乏对其预测的解释。这种“黑盒”特征使得无法理解ML模型基于哪些输入模式进行预测。本研究调查了可解释的人工智能方法，即，分层相关传播（LRP）可以用于增强步态分类中ML预测的可解释性。研究问题是：哪些输入模式与自动性别分类模型最相关，它们是否与文献中确定的特征相对应？我们利用了GAITREC数据集的一个子集，其中包含62名健康参与者（34名女性和28名男性）赤脚行走期间每人5次双侧地面反作用力（GRF）记录。每个输入信号（右侧和左侧）在级联之前被最小-最大归一化，并被馈送到多层卷积神经网络（CNN）中。分类准确性是通过分层十重交叉验证获得的。为了确定性别特异性模式，使用LRP得出输入相关性分数。CNN的平均分类准确率为83.3%，明显优于零规则基线的54.8%。
2022-10-16 cs.LG
Explaining Time Series Classifiers with PHAR: Rule Extraction and Fusion from Post-hoc Attributions
Jagiellonian Human-Centered AI Lab, Mark Kac Center for Complex Systems Research（杰克利昂人类中心人工智能实验室、马克·卡复杂系统研究中心）；Institute of Applied Computer Science, Jagiellonian University（应用计算机科学研究所、杰克利昂大学）
PHAR通过提取和融合规则提升时间序列分类模型的可解释性，提供简洁的人类可读规则以增强透明度和实用性。
2026-01-16 cs.AI cs.LG
Explaining Classification Models Built on High-Dimensional Sparse Data
University of Antwerp（安特卫普大学）；Zocdoc；New York University (Stern)（纽约大学（斯特恩商学院））
预测建模应用程序越来越多地使用代表人们行为、意见和交互的数据。细粒度的行为数据往往具有与传统数据不同的结构，是非常高维和稀疏的。从这些数据构建的模型很难解释，因为它们包含数千甚至数百万个特征。列出具有大模型系数的特征是不够的，因为模型系数不包含关于特征存在的信息，这在分析稀疏数据时是关键的。在本文中，我们通过列出重要特征来介绍两种解释预测模型的方法。我们根据“物有所值"的解释来评估这些替代方案，即，对于所列出的给定数量的特征，解释了多少个示例的推断。底线是：（1）与仅仅列出高系数特征相比，提出的替代方案具有双倍的性价比，（2）有趣的是，尽管它们来自不同的来源和动机，但这两个新的替代方案提供了惊人相似的重要特征排名。
2016-07-26 cs.LG stat.ML
FLAG: Fast Label-Adaptive Aggregation for Multi-label Classification in Federated Learning
Industrial Technology Research Institute（工业技术研究院）；National Yang Ming Chiao Tung University（阳明交通大学）
联邦学习的目标是在不泄露隐私的情况下共享私有数据，以最大化数据效用。以往的联邦学习研究主要集中在多类分类问题上。然而，多标签分类是一个关键的研究问题，接近现实世界的数据属性。然而，有限数量的联邦学习研究探讨了这一研究问题。现有的多标签联邦学习研究没有考虑多标签数据的特点，即，他们使用多类分类的概念来验证他们的方法的性能，这意味着将他们的方法应用于实际应用是不可行的。因此，本研究提出了一种新的多标签联邦学习框架，该框架采用了一种基于标记的多标签数据分配（CMDA）和一种新的聚合方法--快速标签自适应聚合（FLAG），用于联邦学习环境中的多标签分类。实验结果表明，我们的方法只需要不到50\%的训练时期和通信轮，以超过最先进的联邦学习方法的性能。
2023-02-27 cs.AI cs.LG
Explaining Deep Learning Models with Constrained Adversarial Examples
Babylon Health（巴比伦健康公司）；Royal Holloway University of London（伦敦大学皇家霍洛威学院）
机器学习算法通常遭受可解释性的问题。给定来自模型的分类结果，通常很难确定是什么导致做出决策，并给出信息性解释。我们探索了一种产生反事实解释的新方法，它不是解释为什么要进行特定的分类，而是解释如何实现不同的结果。这为解释的接受者提供了一种更好的方式来理解结果，并提供了一个可操作的建议。我们表明，所介绍的方法的约束对抗性的例子（CADEX）可以用于在现实世界中的应用，并产生解释，其中包括业务或领域的约束，如处理分类属性和范围的限制。
2019-06-25 cs.LG stat.ML
Posterior Label Smoothing for Node Classification
本文提出后验标签平滑方法，通过后验分布生成软标签以提升图结构数据中节点分类的准确性和泛化能力。
2026-01-30 cs.AI cs.LG
Explaining machine learning models for age classification in human gait analysis
St. Pölten University of Applied Sciences（圣珀尔滕应用科学大学）；Johannes Gutenberg-University Mainz（美因茨约翰内斯·古腾堡大学）；Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；TU Wien（维也纳工业大学）
机器学习（ML）模型已被证明在分类步态分析数据中是有效的，例如，年轻人与老年人的二元分类。然而，ML模型缺乏对预测的人类可理解的解释。这种“黑箱”行为阻碍了对模型预测所基于的输入特征的理解。我们研究了一种可解释的人工智能方法，即，分层相关传播（LRP），用于步态分析数据。研究问题是：ML模型使用哪些输入特征来对步行模式中与年龄相关的差异进行分类？我们利用了AIST步态数据库2019的一个子集，其中包含健康参与者赤脚行走期间每人5个双侧地面反作用力（GRF）记录。每个输入信号在级联之前被最小-最大归一化，并被馈送到卷积神经网络（CNN）中。参与者被分为三个年龄组：年轻人（20-39岁），中年人（40-64岁）和老年人（65-79岁）。分类准确性和相关性得分（使用LRP得出）在分层的十倍交叉验证中取平均值。60.1%的平均分类准确率明显高于零规则基线的37.3%。混淆矩阵显示，CNN很好地区分了年轻人和老年人，但很难对中年人建模。
2022-10-16 cs.LG
Explaining the Unexplained: Revealing Hidden Correlations for Better Interpretability
Tamkang University（淡江大学）；Ming Chuan University（铭传大学）；National Institute of Technology, Shillong（希隆国家理工学院）
针对深度学习“黑箱”问题及现有可解释方法未充分考虑特征相关性、评估不足的局限，提出RealExp方法，通过解耦Shapley值量化单特征重要性与相关性重要性，提升解释可靠性，在图像分类和文本任务中优于现有方法并具实用价值。
2025-02-09 cs.AI cs.LG
Consistent Sufficient Explanations and Minimal Local Rules for explaining regression and classification models
LaMME（LaMME实验室）；University Paris Saclay（巴黎萨克雷大学）；Stellantis（斯泰兰蒂斯）；ENSIIE（法国国立高等工业工程学院）；Quantmetry（Quantmetry公司）
为了解释任何模型的决策，我们扩展了概率充分假设（P-SE）的概念。对于每个实例，该方法选择足以以高概率产生相同预测的特征的最小子集，同时去除其他特征。P-SE的关键是计算保持相同预测的条件概率。因此，我们引入了一个准确和快速的估计，通过随机森林的任何数据$(\boldsymbol{X}, Y)$，并通过其一致性的理论分析，显示其效率。因此，我们将P-SE扩展到回归问题。此外，我们处理非离散特征，而不需要学习$\boldsymbol{X}$的分布，也不需要进行预测的模型。最后，我们介绍了基于P-SE的回归/分类的基于局部规则的解释，并将我们的方法与其他可解释的AI方法进行了比较。这些方法在\url{www.github.com/salimamoukou/acv00}上作为Python包提供。
2022-10-14 cs.LG stat.ML
Label Contrastive Coding based Graph Neural Network for Graph Classification
Florida State University（佛罗里达州立大学）
图分类是一个重要的研究问题，在许多不同领域的应用。为了学习图分类模型，最广泛使用的监督组件是输出层以及分类损失（例如，交叉熵损失与softmax或边际损失一起）。事实上，实例之间的区分信息是更细粒度的，这可以有利于图分类任务。本文提出了一种新的基于标签对比编码的图神经网络（LCGNN），以更有效、更全面地利用标签信息。LCGNN仍然使用分类损失来确保类别的可区分性。同时，LCGNN利用自监督学习提出的标签对比损失来鼓励实例级的类内紧凑性和类间可分性。为了支持对比学习，LCGNN引入了动态标签存储体和动量更新编码器。我们对八个基准图数据集的广泛评估表明，LCGNN可以超越最先进的图分类模型。实验结果也证明了LCGNN能以较少的训练数据获得有竞争力的性能，因为LCGNN充分利用了标签信息。
2021-01-14 cs.AI cs.LG
Explaining Deep Classification of Time-Series Data with Learned Prototypes
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Dell Medical School, The University of Texas at Austin（德克萨斯大学奥斯汀分校戴尔医学院）
深度学习网络的出现提出了对可解释的人工智能的需求，以便用户和领域专家能够有信心将其应用于高风险决策。在本文中，我们利用来自深度学习模型诱导的潜在空间的数据，在训练过程中学习定型表示或“原型”，以阐明算法决策过程。我们研究了如何利用原型在几种不同的设置中影响二维的时间序列数据的分类决策：（1）心电图（ECG）波形，以检测早产儿的临床心动过缓，心率减慢，（2）呼吸波形，以检测早产儿呼吸暂停，以及（3）音频波形，以分类口语数字。我们通过优化增加原型多样性和鲁棒性来改进现有模型，可视化潜在空间中的这些原型如何被模型用于区分类别，并表明原型能够学习二维的时间序列数据的特征，以在分类任务期间产生可解释的见解。我们表明，原型能够学习真实世界的功能-心动过缓的心电图，呼吸暂停，语音清晰度-以及子类内的功能。我们的新工作利用二维的时间序列数据的学习原型框架，在分类任务中产生可解释的见解。
2019-09-05 cs.AI cs.LG stat.ML
Disentangling Homophily and Rarity: Explaining Failure in Graph Neural Networks
Simula Research Laboratory（西穆拉研究实验室）
该研究通过评估6种GNN在5个不同同质性数据集上的表现，挑战了异质节点分类的子群泛化框架，发现可通过重训分类头或最终线性层恢复异质节点分类所需信息。
2026-08-18 cs.LG
Graph-based Integrated Gradients for Explaining Graph Neural Networks
School of Electrical；Mechanical Engineering, The University of Adelaide Defence Science
本文提出基于图的积分梯度（GB-IG），扩展IG至离散图结构，在合成和真实数据集上验证其准确识别关键结构组件并优于IG，用于解释图神经网络。
2025-09-09 cs.LG
Explaining Image Classification with Visual Debates
Imperial College London（帝国理工学院）
提出一种基于多人序贯零和博弈的视觉辩论框架，通过从分类器离散化潜在空间中提取支持与反对特征，解释连续图像分类器的内部推理，并在 SHAPE、MNIST 和 AFHQ 数据集上验证了其有效性与评估指标。
2023-05-23 cs.CV cs.LG
Connect, Not Collapse: Explaining Contrastive Learning for Unsupervised Domain Adaptation
Stanford University（斯坦福大学）
我们考虑无监督领域自适应（UDA），其中来自源域的标记数据（例如，照片）和来自目标域的未标记数据（例如，草图）用于学习目标域的分类器。常规UDA方法（例如，域对抗训练）学习域不变特征以改进对目标域的泛化。在本文中，我们证明了对比预训练，即在未标记的源数据和目标数据上学习特征，然后在标记的源数据上进行微调，与强UDA方法相比具有竞争力。然而，我们发现对比预训练不会学习域不变特征，这与传统的UDA直觉不同。我们从理论上证明，对比预训练可以通过分解域和类信息来学习跨域细微变化的特征，但仍然可以推广到目标域。我们的研究结果表明，域不变性是不必要的UDA。我们在基准视觉数据集上实证验证了我们的理论。
2022-12-02 cs.CV cs.LG
An Online Universal Classifier for Binary, Multi-class and Multi-label Classification
Nanyang Technological University（南洋理工大学）；Dalian Maritime University（大连海事大学）
分类涉及将输入样本与相应的目标标签相关联的映射函数的学习。分类问题有两大类：单标签分类和多标签分类。传统的二元和多类分类是单标签分类的子类别。几个分类器被开发用于二进制，多类和多标签分类问题，但在文献中没有分类器能够执行所有三种类型的分类。在本文中，提出了一种新的在线通用分类器能够执行所有三种类型的分类。作为一种高速在线分类器，该技术可以应用于流数据应用。所开发的分类器的性能进行评估，使用数据集从二进制，多类和多标签的问题。所获得的结果进行比较，与国家的最先进的技术，从每个分类类型。
2016-09-03 cs.AI cs.LG cs.NE
eXplaining to Learn (eX2L): Regularization Using Contrastive Visual Explanation Pairs for Distribution Shifts
Center for AI Research PH（人工智能研究菲律宾中心）
eX2L通过对比视觉解释对正则化，解耦分类器的潜在表示中的混淆特征，提升模型在分布偏移下的性能，实现功能域不变性。
2026-09-23 cs.AI cs.CV cs.LG
Explaining Vision GNNs: A Semantic and Visual Analysis of Graph-based Image Classification
National Technical University of Athens（国家技术大学雅典）
本研究分析了基于GNN的图像分类器在不同层的图语义一致性，通过量化层间连接、对比标准与对抗设置及热图可视化，发现模型决策可有效解释但其深层推理与人类感知不完全一致。
2025-04-28 cs.CV cs.LG
Multi-Label Classification Method Based on Extreme Learning Machines
Nanyang Technological Institute（南洋理工学院）
在本文中，极端学习机（ELM）为基础的技术多标签分类问题的建议和讨论。在多标签分类中，每个输入数据样本属于一个或多个类别标签。传统的二分类和多分类问题是多标签问题的子集，每个样本对应的标签数限制为1。建议ELM的多标签分类技术进行了评估与六个不同的基准多标签数据集，从不同的领域，如多媒体，文本和生物。通过比较所提出的方法与来自九种最先进技术的五种不同评价指标的结果，对结果进行了详细的比较。这九种方法是从不同类别的多标记方法中选择的。比较结果表明，所提出的基于极端学习机的多标签分类技术是一个更好的选择比现有的最先进的多标签问题的方法。
2016-08-30 cs.AI cs.LG cs.NE
Explaining Recovery Trajectories of Older Adults Post Lower-Limb Fracture Using Modality-wise Multiview Clustering and Large Language Models
KITE Research Institute（KITE研究机构）；Toronto Rehabilitation Institute（多伦多康复研究所）；University Health Network（大学健康网络）；College of Engineering and Technology（工程与技术学院）
本研究针对下肢骨折老年患者的居家多模态传感器数据，采用分模态聚类结合大语言模型上下文提示的无监督方法生成可解释聚类标签，经临床评分验证有效，可辅助识别高风险患者。
2025-06-13 cs.AI cs.CV cs.LG
Explaining Convolutional Neural Networks using Softmax Gradient Layer-wise Relevance Propagation
Kyushu University（九州大学）
卷积神经网络（CNN）已经成为图像分类领域的最新技术。然而，并不是所有的东西都能理解它们的内在表现。本文讨论了CNN预测多类分类问题的可解释性和可解释性。具体来说，我们提出了一种新的可视化方法，称为Softmax梯度逐层相关传播（SGLRP）的像素级输入属性。该模型是对深度泰勒分解（DTD）的类判别扩展，使用softmax的梯度将输出概率的相关性反向传播到输入图像。通过定性和定量的分析，我们证明了SGLRP可以成功地定位和属性的区域输入图像，有助于目标对象的分类。我们表明，所提出的方法擅长区分图像中的其他可能的对象的目标对象类。我们确认SGLRP比现有的基于分层相关传播（LRP）的方法表现更好，可以帮助理解CNN的决策过程。
2019-11-07 cs.CV cs.LG cs.NE
Explaining Deep Learning Models for Age-related Gait Classification based on time series acceleration
University of Groningen（格罗宁根大学）；University Medical Center Groningen（格罗宁根大学医学中心）
本研究利用SHAP解释基于加速度的CNN和GRU深度学习模型在年龄相关步态分类中的预测，发现足跟触地周围数据对分类最关键，提升了模型临床透明度。
2023-11-28 cs.AI cs.LG q-bio.NC
Collaborative Graph Walk for Semi-supervised Multi-Label Node Classification
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Symantec（赛门铁克）
本文提出协作图游走方法Multi-Label-Graph-Walk，利用强化学习精细调整节点嵌入，通过多智能体协作游走捕获标签与结构关系及任务相关性，实现半监督多标签节点分类性能显著提升。
2019-11-17 cs.AI cs.LG stat.ML
Towards Label Imbalance in Multi-label Classification with Many Labels
Peking University（北京大学）
在多标签分类中，实例可以同时与一组标签相关联。最近，多标签分类的研究已经在很大程度上将其重点转移到另一端的频谱，其中标签的数量被假定为非常大。现有的工作集中在如何设计可扩展的算法，提供快速的训练过程，并有一个小的内存占用。然而，他们忽略了，甚至加剧了另一个挑战-标签不平衡的问题。为了解决这个问题，我们提出了一种新的基于表示的多标签采样学习（RMLS）方法。据我们所知，我们是第一个解决多标签多标签分类中的不平衡问题。我们的实验与现实世界的数据集证明了所提出的方法的有效性。
2016-04-05 cs.LG
Generating In-Distribution Proxy Graphs for Explaining Graph Neural Networks
Knight Foundation School of Computing and Information Sciences, Florida International University（佛罗里达国际大学奈特基金会计算与信息科学学院）；New Jersey Institute of Technology（新泽西理工学院）；University of Houston（休斯顿大学）；Visa Research（维萨研究中心）；Amazon Search A9（亚马逊搜索A9部门）；School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院）
本文提出一种生成分布内代理图的方法，通过图生成器和信息论训练目标，解决可解释子图与训练数据分布偏移问题，从而更准确地解释图神经网络。
2024-05-29 cs.LG
General Multi-label Image Classification with Transformers
University of Virginia（弗吉尼亚大学）
多标签图像分类是预测与图像中存在的对象、属性或其他实体相对应的标签集合的任务。在这项工作中，我们提出了分类Transformer（C-Tran），多标签图像分类，利用Transformers利用视觉功能和标签之间的复杂依赖关系的一般框架。我们的方法由一个Transformer编码器组成，该编码器被训练来预测一组目标标签，给定一组掩码标签，以及来自卷积神经网络的视觉特征。我们的方法的一个关键成分是标签掩码训练目标，它使用三元编码方案来表示标签的状态为正，负或未知。我们的模型在COCO和Visual Genome等具有挑战性的数据集上表现出最先进的性能。此外，由于我们的模型在训练过程中显式地表示了标签的不确定性，因此通过允许我们在推理过程中为具有部分或额外标签注释的图像产生改进的结果，它更加通用。我们在COCO，Visual Genome，News 500和CUB图像数据集中展示了这种额外的功能。
2020-11-27 cs.AI cs.CV cs.LG
Revisiting the Role of Label Smoothing in Enhanced Text Sentiment Classification
Shanghai International Studies University（上海外国语大学）
本文通过在八个情感分类数据集和三种深度学习架构上的系统实验，揭示了标签平滑不仅能提升分类性能，还能加速模型收敛并增强不同标签样本的可区分性。
2024-02-23 cs.AI cs.CL cs.LG
Interval Type-2 Fuzzy Neural Networks for Multi-Label Classification
Northwestern Polytechnical University（西北工业大学）；Xidian University（西安电子科技大学）
多维标签的预测在机器学习问题中起着重要的作用。我们发现，经典的二进制标签不能反映在一个实例中的内容和它们之间的关系。因此，我们提出了一种基于区间型2模糊逻辑的多标签分类模型。在该模型中，我们使用一个深度神经网络来预测实例的1型模糊隶属度，另一个预测隶属度的模糊因子以生成区间2型模糊隶属度。我们还提出了一个损失函数来衡量数据集的二进制标签和区间类型2模糊隶属度之间的相似性，我们的模型产生。实验验证了我们的方法优于多标签分类基准的基线。
2023-02-21 cs.AI cs.CV cs.LG
Automatic Multi-Label Prompting: Simple and Interpretable Few-Shot Classification
New York University（纽约大学）；University of California, San Diego（加州大学圣地亚哥分校）
基于知识的学习（即，提示）是一种用于利用由预训练的语言模型学习的知识的新兴范例。在本文中，我们提出了自动多标签标注（AMuLaP），一个简单而有效的方法来自动选择标签映射的Few-Shot文本分类提示。我们的方法利用一对多的标签映射和一个基于代数的算法来选择标签映射给出一个提示模板。我们的实验表明，AMuLaP达到竞争力的性能，在没有人力或外部资源的情况下，在GLUE基准。
2022-04-14 cs.AI cs.CL cs.LG
Explaining Concept Shift with Interpretable Feature Attribution
Carnegie Mellon University（卡内基梅隆大学）
提出SGShift方法，通过将概念漂移建模为特征选择任务，利用广义加性模型、敲除和吸收等统计工具识别导致源域与目标域模型性能差异的稀疏漂移特征。
2026-05-28 cs.LG stat.ML
BayesGrad: Explaining Predictions of Graph Convolutional Networks
Kyoto University（京都大学）；Preferred Networks, Inc.（Preferred Networks公司）；University of Tsukuba（筑波大学）
图卷积网络的最新进展显著提高了化学预测的性能，提出了一个新的研究问题：“我们如何解释图卷积网络的预测？回答这个问题的一种可能方法是可视化负责预测的证据子结构。对于化学性质预测任务，训练数据的样本大小通常较小和/或发生标签不平衡问题，其中少数样本属于单个类别而大多数样本属于其它类别。这可能导致与机器学习模型的学习参数相关的不确定性。为了解决这种不确定性，我们提出贝叶斯Grad，利用贝叶斯预测分布，定义输入图中每个节点的重要性，这是有效地使用辍学技术计算。我们证明，贝叶斯Grad成功地可视化的子结构负责在人工实验中的标签预测，即使当样本量很小。此外，我们使用一个真实的数据集来评估可视化的有效性。BayesGrad的基本思想并不局限于图形结构的数据，也可以应用于其他数据类型。
2018-07-04 cs.LG stat.ML
Explaining The Efficacy of Counterfactually Augmented Data
Carnegie Mellon University（卡内基梅隆大学）
为了减少对NLP数据集中虚假模式的依赖，研究人员最近提出了通过人在回路过程来管理反事实增强数据（CAD），在该过程中，给定一些文档及其（初始）标签，人类必须修改文本以使反事实标签适用。重要的是，禁止不需要翻转适用标签的编辑。根据经验，在增强数据上训练的模型似乎更少地依赖于语义上不相关的单词，并且更好地泛化出域。虽然这项工作松散地借鉴了因果思维，但潜在的因果模型（即使在抽象层面上）和所观察到的域外改进的基本原则仍然不清楚。在本文中，我们介绍了一个玩具模拟的基础上线性高斯模型，观察因果模型，测量噪声，领域泛化，并依赖于虚假信号之间的有趣的关系。我们的分析提供了一些见解，有助于解释CAD的疗效。此外，我们发展的假设，而增加噪声的因果功能应该降低域内和域外的性能，增加噪声的非因果功能应导致域外性能的相对改善。这个想法启发了一个投机性的测试，以确定是否有一个功能属性技术确定的因果跨度。如果添加噪声（例如，通过随机字翻转）到突出显示的跨度会降低一组挑战数据集上的域内和域外性能，但是向补充添加噪声会改善域外性能，这表明我们已经识别了因果跨度。我们提出了一个大规模的实证研究比较跨度编辑创建CAD的注意力和显着性地图选择。在众多的领域和模型，我们发现，假设的现象是明显的CAD。
2021-03-24 cs.AI cs.CL cs.LG
SimFair: A Unified Framework for Fairness-Aware Multi-Label Classification
Purdue University（普渡大学）
近年来，人们越来越关注机器学习算法做出的不公平决策。为了提高模型决策的公平性，人们提出了各种公平性概念，并开发了许多公平性感知方法。然而，大多数现有的定义和方法只关注单标签分类。多标签分类的公平性，其中每个实例与多个标签相关联，仍然有待建立。为了填补这一空白，本文研究了公平感知的多标签分类。我们首先扩展人口均等（DP）和机会均等（EOP），两个流行的公平概念，多标签分类的情况下。通过系统的研究，我们表明，在多标签数据，由于不均匀分布的标签，EOp通常无法构建一个可靠的估计标签的实例很少。然后，我们提出了一个新的框架命名为相似性$s$ -诱导公平（$s_γ$ -SimFair）.这个新的框架在估计特定标签组的公平性时利用具有相似标签的数据以获得更好的稳定性，并且可以统一DP和EOp。理论分析和在真实数据集上的实验结果表明，与现有的多标签分类方法$s_γ$ -SimFair相比，该方法具有更好的分类性能.
2023-02-22 cs.LG
