Interpretable Image Classification with Differentiable Prototypes Assignment
Ardigen SA（阿迪根公司）；Jagiellonian University（雅盖隆大学）
我们介绍ProtoPool，一个可解释的图像分类模型与共享的类的原型池。训练比现有方法更简单，因为它不需要修剪阶段。它是通过引入一个完全可微的分配原型特定的类。此外，我们引入了一种新的焦点相似性函数，将模型集中在罕见的前景特征上。我们表明，ProtoPool在CUB-200-2011和斯坦福汽车数据集上获得了最先进的准确性，大大减少了原型的数量。我们提供了一个理论分析的方法和用户研究表明，我们的原型是更独特的比那些与竞争对手的方法。
2022-09-05 cs.AI cs.CV cs.LG
ProtoPShare: Prototype Sharing for Interpretable Image Classification and Similarity Discovery
Jagiellonian University（雅盖隆大学）；Ardigen SA（阿迪根公司）
在本文中，我们介绍了ProtoPShare，一个自我解释的方法，它结合了原型部件的范式来解释其预测。ProtoPShare的主要新颖之处在于，由于我们的数据相关合并修剪，它能够有效地在类之间共享原型部分。此外，原型更一致，模型比最先进的方法ProtoPNet对图像扰动更鲁棒。我们在两个数据集上验证了我们的发现，CUB-200-2011和斯坦福汽车。
2020-11-29 cs.AI cs.CV cs.LG
Interpretable Image Classification with Adaptive Prototype-based Vision Transformers
Dartmouth College（达特茅斯学院）；Duke University（杜克大学）；University of Maine（缅因大学）
ProtoViT结合视觉Transformer与可变形原型部分，实现可解释图像分类，性能优于现有原型方法。
2024-10-28 cs.CV
Interpretable Vision Transformers in Image Classification via SVDA
Dept. Electrical and Computer Engineering（电子与计算机工程系）；Democritus University of Thrace（德摩克利特大学）；Athena Research Center（雅典研究中心）；University Campus at Kimmeria（基米里亚大学校园）
通过SVDA提升图像分类中视觉Transformer的可解释性与结构化注意力模型
2026-02-11 cs.CV
Learning Interpretable Queries for Explainable Image Classification with Information Pursuit
LMU Munich（慕尼黑大学）；AWS AI Labs（AWS人工智能实验室）；University of Pennsylvania（宾夕法尼亚大学）；Technical University of Munich（慕尼黑技术大学）；Munich Center of Machine Learning（慕尼黑机器学习中心）
本文提出从数据集中直接学习可解释查询字典，替代手工构建，利用CLIP潜在空间和稀疏字典学习算法，显著提升可解释图像分类性能。
2025-08-05 cs.CV
CHiQPM: Calibrated Hierarchical Interpretable Image Classification
Institute for Information Processing (tnt) L3S - Leibniz Universität Hannover（信息处理研究所 (tnt) L3S - 莱布尼茨汉诺威大学）；Intel Labs（英特尔实验室）
CHiQPM提出了一种兼具全局和局部可解释性的图像分类模型，通过对比解释多数类和分层解释方法，实现高准确率和可解释性，为人类与AI协作提供支持。
2026-04-08 cs.CV cs.HC cs.LG
DINO-QPM: Adapting Visual Foundation Models for Globally Interpretable Image Classification
Institute for Information Processing, L3S - Leibniz University Hannover（信息处理研究所，L3S - 莱布尼茨汉诺威大学）
DINO-QPM通过将复杂特征转换为可解释的对比表示，提升图像分类的可解释性，同时在准确性和解释质量上优于DINOv2线性探针。
2026-04-08 cs.CV cs.HC cs.LG
SIC: Similarity-Based Interpretable Image Classification with Neural Networks
Lab for Artificial Intelligence in Medical Imaging, Technical University of Munich, Germany（医学影像中人工智能实验室，慕尼黑技术大学，德国）；Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心（MCML），德国）
SIC通过基于案例的推理和B-Cos变换构建内在可解释神经网络，在多个图像分类任务上取得有竞争力准确率的同时提供满足公理的局部与全局解释。
2025-07-18 cs.CV cs.LG
Feature CAM: Interpretable AI in Image Classification
Multimedia Research Centre, University of Alberta（阿尔伯塔大学多媒体研究中心）
针对深度神经网络黑箱特性导致的高精度领域信任不足问题，研究对比了图像分类中CNN可解释的激活基方法，提出扰动-激活结合的Feature CAM技术，生成的显著性图人类可解释性提升3-4倍且保留机器可解释性。
2024-03-08 cs.AI cs.CV cs.MM
Take 5: Interpretable Image Classification with a Handful of Features
Institute for Information Processing (tnt)（信息处理研究所（tnt））；L3S - Leibniz Universität Hannover（L3S - 汉诺威莱布尼茨大学）
本文提出稀疏低维决策层模型SLDD-Model，仅用每类5个可解释特征即可在四个基准数据集上保持基线97%-100%的准确率，并设计损失函数提升特征多样性与精度。
2023-08-05 cs.CV cs.LG
QPM: Discrete Optimization for Globally Interpretable Image Classification
Intel Labs（英特尔实验室）
针对深度模型全局解释难题，提出QPM模型，通过离散优化学习每类约5个共享特征的二元分配，实现可对比的全局可解释表示，并在准确性与可解释性上均达到最先进水平。
2025-02-27 cs.AI cs.CV cs.HC
Interpretable Mammographic Image Classification using Case-Based Reasoning and Deep Learning
Duke University（杜克大学）；University of Maine（缅因大学）
当我们在高风险的医疗环境中部署机器学习模型时，我们必须确保这些模型做出与已知医学科学一致的准确预测。内在可解释的网络通过解释每个决策背后的理由来满足这一需求，同时与黑箱模型相比保持相同或更高的准确性。在这项工作中，我们提出了一种新的可解释的神经网络算法，使用基于案例的推理乳房X光检查。旨在帮助放射科医生做出决策，我们的网络既可以预测恶性肿瘤，也可以使用已知的医学特征解释该预测。为了得到有用的解释，该网络被设计为模仿放射科医生的推理过程：我们的网络首先通过将每个新图像与从训练图像中学习的一组原型图像部分进行比较来检测每个图像的临床相关语义特征，然后使用这些临床特征来预测恶性肿瘤。与其他方法相比，我们的模型以相同或更高的准确度检测临床特征（质量边缘），对其预测提供更详细的解释，并且能够更好地区分图像的分类相关部分。
2021-10-05 cs.CV cs.LG
Latent Space Analysis for Interpretable Uncertainty in Melanoma Classification
University of Naples Federico II（那不勒斯费德里科二世大学）
提出结合对抗变分自编码器和XGBoost的混合框架，利用生成潜在空间实现可解释决策支持，在黑色素瘤分类中达到AUC 0.868，并通过基于内容的图像检索为边界病例提供视觉比较。
2026-06-25 cs.AI cs.CV
ProtoArgNet: Interpretable Image Classification with Super-Prototypes and Argumentation [Technical Report]
Imperial College London（帝国理工学院）；Cardiff University（卡迪夫大学）
本文提出ProtoArgNet可解释图像分类架构，通过超级原型组合原型部分并利用论证提供支持/攻击解释，在多个数据集上优于现有原型部分学习方法，且论证组件可定制以生成更简洁解释。
2024-08-21 cs.AI cs.CV
Interpretable CNNs for Object Classification
Shanghai Jiao Tong University（上海交通大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出了一种在深度卷积神经网络（CNN）中学习可解释卷积滤波器进行对象分类的通用方法，其中每个可解释滤波器对特定对象部分的特征进行编码。我们的方法不需要额外的注释对象的部分或纹理的监督。相反，我们使用与传统CNN相同的训练数据。我们的方法在学习过程中自动为高conv层中的每个可解释过滤器分配特定类别的对象部分。在CNN的conv层中的这种显式知识表示帮助人们澄清在CNN中编码的逻辑，即，回答CNN从输入图像中提取什么模式并用于预测。我们已经使用具有各种结构的不同基准CNN测试了我们的方法，以证明我们方法的广泛适用性。实验表明，我们的可解释的过滤器是更有意义的语义比传统的过滤器。
2020-03-12 cs.CV cs.LG stat.ML
Interpretable Attention Guided Network for Fine-grained Visual Classification
Beihang University（北京航空航天大学）；Shenzhen Academy of Aerospace Technology（深圳航天技术研究院）
细粒度视觉分类（FGVC）是一项具有挑战性的任务，但比传统的分类任务更重要。它需要区分不同的子类与本质上微妙的类内对象的变化。以前的工作集中在提高特征表示能力，使用多粒度和歧视性的区域的基础上的注意力策略或包围盒。然而，这些方法高度依赖于缺乏可解释性的深度神经网络。我们提出了一个可解释的注意力引导网络（IAGN）细粒度的视觉分类。我们的方法的贡献包括：i）一个注意力引导框架，可以引导网络以可解释的方式提取区分区域; ii）一个渐进的训练机制，可以逐步提取知识，融合各种粒度的特征; iii）第一个可解释的FGVC方法，在几个标准的FGVC基准数据集上具有竞争力的性能。
2021-03-09 cs.CV
Human-interpretable and deep features for image privacy classification
Queen Mary University of London（伦敦玛丽女王大学）
本文针对图像隐私分类中标注困难的问题，分析了争议性图像的特性，提出八个隐私专用且人类可解释的特征，证明其能提升深度学习模型性能并优于高维深度特征。
2023-10-31 cs.CV
ODMTCNet: An Interpretable Multi-view Deep Neural Network Architecture for Image Feature Representation
Ryerson University（瑞尔森大学）
通过将统计机器学习（SML）原理与深度神经网络（DNN）架构相结合，提出了一种可解释的多视图深度神经网络架构，即最优判别多视图张量卷积网络（ODMTCNet）。
2021-10-28 cs.CV
DeepMiner: Discovering Interpretable Representations for Mammogram Classification and Explanation
Princeton University（普林斯顿大学）；The Chinese University of Hong Kong（香港中文大学）；Microsoft（微软）；UCLA（加州大学洛杉矶分校）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Microsoft Research New England（微软新英格兰研究院）；VSCO
我们提出了DeepMiner，这是一个发现深度神经网络中可解释的表示并为医学预测建立解释的框架。通过探测训练用于对乳房X线照片中的癌症进行分类的卷积神经网络（CNN），我们发现CNN的最终卷积层中的许多单个单元对BI-RADS词典指定的患病组织概念做出强烈响应。在对可解释单元进行专家注释后，我们提出的方法能够生成与筛查乳腺X射线摄影数字数据库上的地面真实放射学报告一致的CNN乳腺X射线摄影分类的解释。我们表明，DeepMiner不仅能够更好地理解CNN分类决策的细微差别，而且还可能发现与医学诊断相关的新视觉知识。
2021-08-18 cs.CV
Implicit Mixture of Interpretable Experts for Global and Local Interpretability
Australian National University（澳大利亚国立大学）
我们研究了使用可解释专家混合物（MoIE）在MNIST 10上构建可解释图像分类器的可行性。MoIE使用黑盒路由器将每个输入分配给许多固有的可解释专家中的一个，从而深入了解为什么做出特定的分类决策。我们发现，经过天真训练的MoIE将学会“作弊”，黑盒路由器将自行解决分类问题，每个专家只需学习一个特定类别的常量函数。我们建议通过引入可解释路由器和训练黑盒路由器的决策来匹配可解释路由器来解决这个问题。此外，我们提出了一种新的隐式参数化方案，使我们能够建立任意数量的专家的混合物，使我们能够研究分类性能，本地和全球的可解释性如何随着专家数量的增加而变化。我们的新模型被称为隐式混合可解释专家（IMoIE），可以在MNIST 10上匹配最先进的分类精度，同时提供局部可解释性，并且可以提供全局可解释性，尽管以降低分类精度为代价。
2022-12-01 cs.CV cs.LG
Concepts in Motion: Temporal Concept Bottleneck Model for Interpretable Video Classification
Technical University of Clausthal（Clausthal 技术大学）；Ramblr.ai Research（Ramblr.ai 研究）
本文提出MoTIF模型，通过时间接地的概念激活序列进行视频分类，利用时序自注意力机制建模概念的出现时间和贡献，提升可解释性。
2026-05-12 cs.CV
Localizing Interpretable Multi-scale informative Patches Derived from Media Classification Task
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
深度卷积神经网络（CNN）总是依赖于更宽的感受野（RF）和更复杂的非线性来实现最先进的性能，同时也越来越难以解释相关补丁如何贡献最终预测。在本文中，我们构建了一个可解释的锚网配备了我们精心设计的RF和线性空间聚合，以提供逐块的输入媒体的可解释性，同时本地化的多尺度信息补丁只监督媒体级别的标签，没有任何额外的限界框注释。局部信息图像和文本块的可视化显示了AnchorNet优越的多尺度定位能力。我们进一步使用本地化补丁在广泛应用的网络中进行下游分类任务。实验结果表明，将原始输入替换为局部化后的分类块，在性能损失很小的情况下，能够获得明显的推理加速效果，证明局部化后的分类块确实能够保留原始输入的大部分语义和证据。
2020-04-17 cs.CV
Interpretable Alzheimer's Disease Classification Via a Contrastive Diffusion Autoencoder
University College London（伦敦大学学院）
本研究提出基于对比扩散自编码器的方法，通过图像与潜在空间训练样本的相似性对阿尔茨海默病进行分类，在2D MRI数据上达到黑盒模型相当准确率并提供可解释性。
2023-10-25 cs.CV cs.LG
FPN-IAIA-BL: A Multi-Scale Interpretable Deep Learning Model for Classification of Mass Margins in Digital Mammography
Duke University（杜克大学）；Brigham and Women’s Hospital（布莱根妇女医院）；University of Maine（缅因大学）
本文提出多尺度可解释深度学习模型FPN-IAIA-BL，通过用户可配置的粗细粒度原型解决现有可解释模型特征定位不准的问题，实现与放射科医生实践一致的乳腺X线摄影肿块边缘分类。
2024-06-10 cs.CV
Explainable Multi-Loss Distillation Framework for Efficient and Interpretable Shrimp Disease Text Classification
FPT University（FPT大学）；Korea University（高丽大学）
针对虾病图像分类仅能在疾病晚期检测的局限，提出SALT框架结合LIME、SHAP实现可解释性，在文本分类任务中兼顾性能、效率与可解释性，可用于虾病早期诊断。
2026-09-01 cs.CV
An Interpretable Compression and Classification System: Theory and Applications
National Chiao Tung University（国立交通大学）；Industrial Technology Research Institute（工业技术研究院）；University of Southern California（南加州大学）
本研究提出一个低复杂度的可解释分类系统。该系统包括三个主要模块，包括特征提取，特征约简，分类。它们都是线性的。由于线性属性，提取和减少的特征可以被逆到原始数据，如傅立叶变换等线性变换，因此可以量化和可视化单个特征对原始数据的贡献。而且，减少的特征和可逆性自然地承受所提出的系统的数据压缩能力。该系统可以有效地压缩数据，压缩后的数据与原始数据之间的偏差很小。同时，将压缩后的数据用于分类时，仍能达到较高的测试精度。此外，我们观察到，所提出的系统的提取的特征可以近似为不相关的高斯随机变量。因此，估计和检测中的经典理论可以用于分类。这促使我们提出使用MAP（最大后验概率）为基础的分类方法。因此，提取的特征和相应的性能具有统计意义和数学上的解释。仿真结果表明，该分类系统不仅享有显着减少的训练和测试时间，但也有较高的测试精度相比，传统的计划。
2020-04-14 cs.CV eess.SP
Image-guided topic modeling for interpretable privacy classification
Idiap Research Institute（伊迪亚普研究所）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
提出图像引导主题建模ITM，融合视觉与视觉语言模型文本描述生成带隐私评分的内容描述符，并训练可解释隐私分类器Priv×ITM，准确率较可解释基线高5个百分点。
2024-09-27 cs.CV
Don't PANIC: Prototypical Additive Neural Network for Interpretable Classification of Alzheimer's Disease
Technical University Munich（慕尼黑工业大学）；Ludwig Maximilians University（慕尼黑大学）
阿尔茨海默病（AD）病因复杂，需要综合神经解剖学、遗传学和脑脊液生物标志物等信息进行准确诊断。因此，最近的深度学习方法结合了图像和表格信息，以提高诊断性能。然而，这种神经网络的黑盒性质仍然是临床应用的障碍，其中理解异构模型的决策是不可或缺的。我们提出了PANIC，一个原型添加剂神经网络可解释的AD分类，集成了三维图像和表格数据。它是可解释的设计，因此，避免了事后的解释，试图近似网络的决定的需要。我们的研究结果表明，PANIC在AD分类中实现了最先进的性能，同时直接提供局部和全局解释。最后，我们表明，PANIC提取AD的生物意义的签名，并满足一组值得信赖的机器学习的理想desiderata。我们的实现可以在https://github.com/ai-med/PANIC上获得。
2023-03-14 cs.CV cs.LG
A Deep Learning Interpretable Classifier for Diabetic Retinopathy Disease Grading
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
深度神经网络模型已被证明在图像分类任务中非常成功，也适用于医疗诊断，但其主要问题是缺乏可解释性。它们曾经作为直觉机器工作，具有很高的统计置信度，但无法对报告的结果给出可解释的解释。这些模型的参数数量庞大，很难从中推断出合理的解释。在本文中，我们提出了一种糖尿病视网膜病变可解释的分类器，能够将视网膜图像分类到不同的疾病严重程度，并通过为隐藏空间和输入空间中的每个点分配一个分数来解释其结果，以线性方式评估其对最终分类的贡献。生成的可视化地图可以由专家进行解释，以便将自己的知识与模型给出的解释进行比较。
2017-12-21 cs.CV cs.LG stat.ML
Deep interpretable architecture for plant diseases classification
USTHB University（USTHB大学）；University of Mons（蒙斯大学）；Mohamed El Bachir El Ibrahimi University（穆罕默德·巴希尔·易卜拉希米大学）；Setif 1 University（塞蒂夫第一大学）
最近，许多作品的灵感来自于深度学习在计算机视觉中用于植物病害分类的成功。不幸的是，这些端到端的深度分类器缺乏透明度，这可能会限制它们在实践中的采用。在本文中，我们提出了一种新的可训练的可视化方法，植物病害分类的基础上的卷积神经网络（CNN）架构组成的两个深分类器。第一个叫老师，第二个叫学生。该体系结构利用多任务学习来联合训练教师和学生。然后，教师和学生之间的通信表示被用作代理，以可视化的最重要的图像区域进行分类。这种新的架构产生更清晰的可视化比现有的方法在植物病害的情况下。所有实验都是在包含54306幅植物图像的PlantVillage数据集上完成的。
2019-06-13 cs.CV
Hierarchical Concept Embedding & Pursuit for Interpretable Image Classification
University of Pennsylvania（宾夕法尼亚大学）
本文提出HCEP框架，通过在潜在空间中诱导概念嵌入的层次结构，利用层次稀疏编码恢复图像中的概念，提升分类可解释性与精度。
2026-03-30 cs.CV cs.LG
Interpretable Logical Anomaly Classification via Constraint Decomposition and Instruction Fine-Tuning
Beijing XingYun Digital Technology Co., Ltd.（北京星云数字技术有限公司）
LogiCls通过约束分解和指令微调实现工业逻辑异常的可解释分类，结合视觉-语言框架和数据驱动的监督方法，提升异常检测的准确性和可解释性。
2026-02-03 cs.CV
Classification of White Blood Cell Leukemia with Low Number of Interpretable and Explainable Features
Center for Public Health Genomics（公共卫生基因组学中心）；Department of Biomedical Engineering University of Virginia（弗吉尼亚大学生物医学工程系）；University of Virginia（弗吉尼亚大学）
白细胞（WBC）白血病通过基于图像的分类检测。卷积神经网络用于学习将细胞图像分类为恶性或健康所需的特征。然而，这种类型的模型需要学习大量的参数，并且难以解释和解释。可解释人工智能（XAI）试图通过提供模型如何做出决策的见解来缓解这个问题。因此，我们提出了一个XAI模型，它只使用24个可解释和可解释的功能，并通过超过它们约4.38%的其他方法是非常有竞争力的。此外，我们的方法提供了洞察哪些变量是最重要的细胞分类。这一见解提供了证据，表明当实验室以不同方式对待WBC时，各种指标的重要性会发生实质性变化。理解分类的重要特征在医学成像诊断中至关重要，并且通过扩展，理解在科学研究中构建的AI模型。
2022-01-28 cs.CV cs.LG eess.IV
MAGIC-Flow: Multiscale Adaptive Conditional Flows for Generation and Interpretable Classification
MOX, Department of Mathematics Politecnico di Milano（米兰理工大学数学系MOX部门）
MAGIC-Flow提出一种条件多尺度归一化流架构，在单一框架内实现生成与分类，通过可逆双射保证精确似然计算，支持可控合成与可解释推理，在医学影像等数据有限场景下提升生成质量与分类性能。
2025-10-24 cs.CV cs.LG eess.IV
Hierarchical Vision Transformer with Prototypes for Interpretable Medical Image Classification
Ulm University Medical Center（乌尔姆大学医学中心）；BGZ - Bildgebungszentrum（BGZ影像中心）；i2SouI - Innovative Imaging in Surgical Oncology Ulm（乌尔姆外科肿瘤创新影像中心）；XAIRAD - Cooperation for Artificial Intelligence in Experimental Radiology（XAIRAD实验放射学人工智能合作中心）
针对医疗图像分类的可解释性需求，提出HierViT分层视觉Transformer，通过原型可视化人类定义特征、结合领域知识并生成注意力热力图，在两个医疗数据集上实现高精度且解释与人类推理一致。
2026-10-26 cs.CV
An Interpretable Deep Semantic Segmentation Method for Earth Observation
Lancaster University（兰卡斯特大学）；European Space Agency（欧洲空间局）
地球观测对于包括应对洪水在内的一系列人类活动至关重要，因为它为决策者提供了重要信息。语义分割在将来自卫星的原始高光谱数据映射为人类可理解的形式并为每个像素分配类别标签方面起着关键作用。本文介绍了一种基于原型的可解释的深度语义分割（IDSS）方法。它的参数数量级上低于U-Net等深度网络使用的参数数量，并且可以被人类清晰地解释。这里提出的IDSS提供了一个透明的结构，允许用户检查和审计算法的决定。结果表明，IDSS可以优于其他算法，包括U-Net，在IoU（交集超过并）总水和召回总水。我们使用WorldFloods数据集进行实验，并计划使用语义分割结果与永久水的掩码相结合来检测洪水事件。
2022-10-23 cs.CV
Explainable and Interpretable Diabetic Retinopathy Classification Based on Neural-Symbolic Learning
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）；Singapore Eye Research Institute（新加坡眼科研究所）；Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Institute for Molecular and Clinical Ophthalmology（分子与临床眼科研究所）；National University of Singapore（新加坡国立大学）
在本文中，我们提出了一个可解释和可解释的糖尿病视网膜病变（ExplainDR）分类模型的神经符号学习的基础上。为了获得可解释性，在决策中应考虑高层次的符号表示。具体来说，我们引入了一个人类可读的符号表示，它遵循与眼睛健康状况相关的糖尿病视网膜病变特征的分类风格，以实现可解释性。然后，我们将从疾病预测中的符号表示获得的人类可读特征包括在内。在糖尿病视网膜病变分类数据集上的实验结果表明，与应用于IDRiD数据集的最先进方法相比，我们提出的ExplainDR方法具有良好的性能，同时还提供了可解释性和可解释性。
2022-04-01 cs.AI cs.CV cs.LG
Attribute Regularized Soft Introspective Variational Autoencoder for Interpretable Cardiac Disease Classification
Institute of Machine Learning in Biomedical Imaging, Helmholtz Munich（亥姆霍兹慕尼黑生物医学成像机器学习研究所）；Helmholtz AI, Helmholtz Munich（亥姆霍兹慕尼黑人工智能中心）；School of Computation, Information and Technology, Technical University of Munich（慕尼黑工业大学计算、信息与技术学院）；School of Biomedical Engineering and Imaging Sciences, King's College London（伦敦国王学院生物医学工程与影像科学学院）
本研究针对医学影像AI可解释性需求，提出结合潜空间属性正则化的对抗训练变分自编码器方法，可解决重建模糊问题，提升心脏病分类的可解释性。
2023-12-14 cs.CV eess.IV
Interpretable Deep Multimodal Image Super-Resolution
Vrije Universiteit Brussel（布鲁塞尔自由大学）；imec（微电子研究中心）
多模态图像超分辨率（SR）是在给定低分辨率观测的情况下，借助于另一种图像模态重建高分辨率图像。虽然现有的深度多模态模型不包含有关图像SR的领域知识，但我们提出了一种多模态深度网络设计，该设计集成了耦合稀疏先验，并允许将来自另一种模态的信息有效融合到重建过程中。我们的方法的灵感来自于一种新的耦合卷积稀疏编码迭代算法，通过设计产生了一个可解释的网络。将该模型应用于RGB图像引导下的近红外图像的超分辨率。实验结果表明，我们的模型优于国家的最先进的方法。
2020-09-07 cs.CV
Interpretable Tile-Based Classification of Paclitaxel Exposure
University of Southern Maine（南达科他州立大学）
针对C6胶质瘤细胞相差显微镜图像中紫杉醇暴露剂量差异细微的分类难题，提出分块-聚合流程，结合Grad-CAM、Score-CAM和注意力分析提升可解释性，在基准数据集上比已发表基线提高约20个百分点。
2025-11-05 cs.CV
A Biologically Interpretable Two-stage Deep Neural Network (BIT-DNN) For Vegetation Recognition From Hyperspectral Imagery
Manchester Metropolitan University（曼彻斯特城市大学）；Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院）；Brunel University（布鲁内尔大学）
基于光谱空间的深度学习模型最近被证明是有效的高光谱图像（HSI）分类的各种地球监测应用，如土地覆盖分类和农业监测。然而，由于“黑箱”模型表示的性质，如何解释和解释的学习过程和模型的决策，特别是植被分类，仍然是一个开放的挑战。该研究提出了一种新的可解释的深度学习模型-生物可解释的两阶段深度神经网络（BIT-DNN），通过将基于先验知识（即目标实体的生物物理和生物化学属性及其层次结构）的光谱-空间特征转换纳入所提出的框架，能够在基于HSI的分类任务上实现高精度和可解释性。该模型引入了两阶段的特征学习过程：第一阶段，增强的可解释特征块提取与目标实体的生物物理和生物化学属性相关的低级别光谱特征;在第二阶段，可解释的封装块提取并封装高级联合频谱，代表这些目标实体的生物物理和生物化学属性的分级结构的空间特征，这为模型提供了改进的分类性能和内在的可解释性，同时降低了计算复杂性。我们使用四个真实的HSI数据集对四个独立的任务（即植物物种分类，土地覆盖分类，城市场景识别和作物病害识别任务）进行了测试和评估。该模型与五种最先进的深度学习模型进行了比较。
2021-04-14 cs.CV cs.LG eess.IV
Towards Fully Interpretable Deep Neural Networks: Are We There Yet?
National University of Singapore（新加坡国立大学）
尽管性能卓越，但深度神经网络（DNN）的行为就像黑盒子一样，阻碍了用户对人工智能（AI）系统的信任。关于开放黑盒DNN的研究可以大致分为事后方法和内在可解释的DNN。虽然已经对事后解释方法进行了许多调查，但很少有人致力于内在可解释的DNN。本文综述了开发具有内在可解释性的DNN的现有方法，重点是卷积神经网络（CNN）。其目的是了解目前在完全可解释的DNN方面的进展，这些DNN可以满足不同的解释要求。最后，我们确定了目前工作中的差距，并提出了潜在的研究方向。
2021-06-24 cs.CV cs.LG
ProtoPointNet: Prototype-Based Interpretable Classification of 3D Dental Point Clouds with Verifiable Spatial Activations
Adelaide Dental School, Adelaide University（阿德莱德牙科学院，阿德莱德大学）；Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学）；School of Public Health, Adelaide University（阿德莱德大学公共卫生学院）
研究针对3D牙齿点云分类，提出ProtoPointNet模型，结合局部表面几何等特征编码点，通过共享主干学习特定轴原型头，用辅助监督等训练，在Bits2Bites上取得较好结果，其激活定位合理，为牙齿表面对分析提供新的可解释方法。
2026-07-15 cs.CV
Interpretable Temporal Facial-Region Motion Analysis for In-the-Wild Parkinson's Disease Video Classification
Department of Computer Science and Information, College of Science, Majmaah University（计算机科学与信息系，科学学院，麦杰玛大学）
提出基于面部区域关键点的时序运动描述符，在YouTubePD基准上实现轻量级且可解释的PD视频分类，平衡准确率达0.826。
2026-06-08 cs.CV
Enhanced Multi-Class Classification of Gastrointestinal Endoscopic Images with Interpretable Deep Learning Model
ABV-Indian Institute of Information Technology and Management（ABV印度信息技术与管理学院）；SRM University（SRM大学）；Massachusetts General Hospital（麻省总医院）
本研究提出以EfficientNetB3为骨干的深度学习模型，无需数据增强即可对Kvasir数据集的8000张内镜图像进行八分类，并结合LIME显著性图增强可解释性，测试准确率达94.25%。
2025-03-02 cs.AI cs.CV
Quantized and Interpretable Learning Scheme for Deep Neural Networks in Classification Task
University of Tehran（德黑兰大学）；University of Cincinnati（辛辛那提大学）；University of St. Thomas（圣托马斯大学）；Tehran University（德黑兰大学）
本文提出融合显著性引导训练与PACT量化感知训练的方案，在MNIST和CIFAR-10上保持CNN分类性能，同时降低资源消耗并提升显著性图可解释性。
2024-12-05 cs.CV cs.LG
IAIA-BL: A Case-based Interpretable Deep Learning Model for Classification of Mass Lesions in Digital Mammography
Duke University（杜克大学）；University of Maine（缅因大学）
机器学习模型的可解释性在高风险决策中非常重要，例如是否根据乳房X光检查安排活检。乳房X光检查带来了其他计算机视觉任务中不存在的重要挑战：数据集很小，存在混淆信息，即使是放射科医生也很难单独根据乳房X光检查在观察等待和活检之间做出决定。在这项工作中，我们提出了一个框架，可解释的机器学习为基础的乳房X线摄影。除了预测病变是恶性还是良性之外，我们的工作旨在遵循放射科医生的推理过程，检测每个图像的临床相关语义特征，例如肿块边缘的特征。该框架包括一种新的可解释的神经网络算法，该算法使用基于病例的推理进行乳房X光检查。我们的算法可以将具有整个图像标签的数据和具有像素级注释的数据相结合，即使使用少量图像也可以获得更好的准确性和可解释性。我们的可解释模型能够突出图像的分类相关部分，而其他方法突出健康组织和混淆信息。我们的模型是决策辅助工具，而不是决策者，旨在更好地实现人机协作。我们没有观察到在相同数据上训练的黑盒神经网络的质量边缘分类准确性的损失。
2021-03-23 cs.AI cs.CV cs.LG
SpIn-ViT: Designing a Sparsity-Induced Vision Transformer That Is Mechanistically Interpretable
本研究提出端到端联合训练预训练ViT与改进SAE的SpIn-ViT框架，在9个图像分类基准上，其分类准确率、可解释性均优于现有事后SAE方法，还能生成更优的神经符号模型。
2026-08-18 cs.AI cs.CV
GAFR-Net: A Graph Attention and Fuzzy-Rule Network for Interpretable Breast Cancer Image Classification
1 Department of IT Engineering, Mokwon University, Daejeon 35349, South Korea；2 School of Digital Arts, Jiangxi Arts \& Ceramics Technology Institute, Jingdezhen 333001, China
GAFR-Net通过图注意力与模糊规则机制，实现乳腺癌图像分类的可解释性与高性能，适用于标注有限的医学图像分析。
2026-02-10 cs.AI cs.CV
FireGNN: Neuro-Symbolic Graph Neural Networks with Trainable Fuzzy Rules for Interpretable Medical Image Classification
Imperial College London（伦敦帝国学院）
提出FireGNN，将可训练模糊规则融入图神经网络，利用拓扑描述符实现可解释的医学图像分类，在多个基准上性能优异。
2025-10-09 cs.AI cs.CV cs.LG
ProtoCAM: Interpretable Few-Shot Mask-Guided Prototypical Learning for Breast Lesion Classification in Ultrasound Imaging
Digital Technologies Research Centre（数字技术研究中心）；National Research Council Canada（加拿大国家研究委员会）
本文提出ProtoCAM，一种结合掩码引导特征编码、原型度量学习和梯度可视化的可解释少样本框架，在BUSI数据集上以3-way 5-shot取得宏F1 0.910，实现数据稀缺下可靠的乳腺超声病变分类。
2026-09-15 cs.AI cs.CV
Towards Interpretable Classification of Leukocytes based on Deep Learning
Technical University of Munich（慕尼黑工业大学）
本研究针对白细胞自动分类，探讨了置信度估计的校准及视觉解释方法，识别了神经网络的一般检测模式，提升了深度学习在血细胞分析中的临床可解释性与实用性。
2023-11-24 cs.CV cs.LG
Interpretable Saliency Maps And Self-Supervised Learning For Generalized Zero Shot Medical Image Classification
Inception Institute of Artificial Intelligence（英赛普申人工智能研究院）
在许多现实世界的医学图像分类设置中，我们不能访问所有可能的疾病类别的样本，而一个强大的系统预计将在识别新的测试数据提供高性能。我们提出了一种广义的zero shot学习（GSTML）方法，该方法使用自监督学习（SSL）：1）选择不同疾病类别的锚向量; 2）训练特征生成器。我们的方法不需要类属性向量，可用于自然图像，但不用于医学图像。SSL确保锚向量代表每个类。SSL还用于生成不可见类的合成特征。使用一个更简单的架构，我们的方法匹配一个国家的最先进的SSL为基础的GALML方法的自然图像和优于所有的方法的医学图像。我们的方法是适应性强，足以容纳类属性向量时，他们可用于自然图像。
2022-08-29 cs.CV cs.LG eess.IV
Birds look like cars: Adversarial analysis of intrinsically interpretable deep learning
University of Warsaw（华沙大学）；Warsaw University of Technology（华沙技术大学）
本文研究了内在可解释深度学习模型的对抗性风险，通过原型操纵和后门攻击揭示其不可解释性，并探讨了提升模型鲁棒性和对齐性的必要性。
2025-09-18 cs.CV cs.LG
