Interpretable Image Classification via Non-parametric Part Prototype Learning
University of New South Wales（新南威尔士大学）
本文提出非参数部件原型学习框架，通过聚类基础视觉模型的深度特征获得语义独特的部件原型，并以两项指标证明其在多个数据集上提升 ProtoPNets 的分类解释质量。
2025-03-13 cs.CV
Learning Support and Trivial Prototypes for Interpretable Image Classification
Australian Institute for Machine Learning, University of Adelaide（阿德莱德大学澳大利亚机器学习研究所）；Harvard University（哈佛大学）；St Vincent’s Institute of Medical Research（圣文森特医学研究所）；St Vincent’s Hospital Melbourne（墨尔本圣文森特医院）；CVSSP, University of Surrey（萨里大学计算机视觉、语音与信号处理中心）
提出学习靠近分类边界的支持原型，结合平凡原型构建 ST-ProtoPNet 模型，提升了图像分类的准确率与可解释性。
2023-10-22 cs.CV
Intuitionistic Fuzzy Cognitive Maps for Interpretable Image Classification
University of Thessaly（塞萨利大学）
本文提出可解释直觉模糊认知图（I2FCMs）框架用于图像分类，通过估计犹豫度评估输出质量，结合特征提取与自动学习算法减少人工干预，并使用语言术语提供可解释预测，且能应用于CNN等深度学习模型。
2025-04-04 cs.AI cs.CV
FrequentNet: A Novel Interpretable Deep Learning Model for Image Classification
Zhejiang University（浙江大学）；Microsoft（微软）；Instacart；Cornell University（康奈尔大学）
本文提出了一种新的基线深度学习模型，更有利于图像分类。与卷积神经网络（CNN）实践不同，在卷积神经网络（CNN）实践中，通过反向传播来训练滤波器以表示图像的不同模式，我们受到“PCANet：A Simple深度学习Baseline for图像分类？从频域中的基向量（如傅立叶系数或小波）中选择滤波器向量，而无需反向传播。研究人员已经证明，频域中的那些基础通常可以提供物理见解，这通过分析所选择的频率来增加模型的可解释性。此外，与CNN的“黑箱”训练过程相比，训练过程也将更加省时、数学上清晰和可解释。
2021-08-12 cs.CV stat.ML
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology（麻省理工学院）
本文提出三种技术缓解概念瓶颈模型中的偏见，以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
sMRI-PatchNet: A novel explainable patch-based deep learning network for Alzheimer's disease diagnosis and discriminative atrophy localisation with Structural MRI
Manchester Metropolitan University（曼彻斯特城市大学）；Brunel University（布鲁内尔大学）；University of Sheffield（谢菲尔德大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
提出sMRI-PatchNet，利用SHAP可解释块选择和带位置嵌入的块网络，实现阿尔茨海默病诊断和判别性萎缩定位，并预测MCI转换。
2023-02-20 cs.CV cs.LG eess.IV
Interpretable Fundus Image Classification via Ring-Based Retinal Vasculature Features
University of Toronto（多伦多大学）；Duke Kunshan University（昆山杜克大学）；York University（约克大学）；Fields Institute for Research in Mathematical Sciences（菲尔兹数学科学研究所）
本研究提出基于环形视网膜血管特征的可解释眼底图像分类框架，仅用血管描述符在HRF数据集达91.1%准确率，与RETFound相当，可支持可解释疾病分类等且无需大量任务训练数据。
2026-08-26 cs.CV stat.ML
Interpretable Image Classification with Differentiable Prototypes Assignment
Ardigen SA（阿迪根公司）；Jagiellonian University（雅盖隆大学）
我们介绍ProtoPool，一个可解释的图像分类模型与共享的类的原型池。训练比现有方法更简单，因为它不需要修剪阶段。它是通过引入一个完全可微的分配原型特定的类。此外，我们引入了一种新的焦点相似性函数，将模型集中在罕见的前景特征上。我们表明，ProtoPool在CUB-200-2011和斯坦福汽车数据集上获得了最先进的准确性，大大减少了原型的数量。我们提供了一个理论分析的方法和用户研究表明，我们的原型是更独特的比那些与竞争对手的方法。
2022-09-05 cs.AI cs.CV cs.LG
SIC: Similarity-Based Interpretable Image Classification with Neural Networks
Lab for Artificial Intelligence in Medical Imaging, Technical University of Munich, Germany（医学影像中人工智能实验室，慕尼黑技术大学，德国）；Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心（MCML），德国）
SIC通过基于案例的推理和B-Cos变换构建内在可解释神经网络，在多个图像分类任务上取得有竞争力准确率的同时提供满足公理的局部与全局解释。
2025-07-18 cs.CV cs.LG
ProtoPShare: Prototype Sharing for Interpretable Image Classification and Similarity Discovery
Jagiellonian University（雅盖隆大学）；Ardigen SA（阿迪根公司）
在本文中，我们介绍了ProtoPShare，一个自我解释的方法，它结合了原型部件的范式来解释其预测。ProtoPShare的主要新颖之处在于，由于我们的数据相关合并修剪，它能够有效地在类之间共享原型部分。此外，原型更一致，模型比最先进的方法ProtoPNet对图像扰动更鲁棒。我们在两个数据集上验证了我们的发现，CUB-200-2011和斯坦福汽车。
2020-11-29 cs.AI cs.CV cs.LG
Take 5: Interpretable Image Classification with a Handful of Features
Institute for Information Processing (tnt)（信息处理研究所（tnt））；L3S - Leibniz Universität Hannover（L3S - 汉诺威莱布尼茨大学）
本文提出稀疏低维决策层模型SLDD-Model，仅用每类5个可解释特征即可在四个基准数据集上保持基线97%-100%的准确率，并设计损失函数提升特征多样性与精度。
2023-08-05 cs.CV cs.LG
Interpretable Mammographic Image Classification using Case-Based Reasoning and Deep Learning
Duke University（杜克大学）；University of Maine（缅因大学）
当我们在高风险的医疗环境中部署机器学习模型时，我们必须确保这些模型做出与已知医学科学一致的准确预测。内在可解释的网络通过解释每个决策背后的理由来满足这一需求，同时与黑箱模型相比保持相同或更高的准确性。在这项工作中，我们提出了一种新的可解释的神经网络算法，使用基于案例的推理乳房X光检查。旨在帮助放射科医生做出决策，我们的网络既可以预测恶性肿瘤，也可以使用已知的医学特征解释该预测。为了得到有用的解释，该网络被设计为模仿放射科医生的推理过程：我们的网络首先通过将每个新图像与从训练图像中学习的一组原型图像部分进行比较来检测每个图像的临床相关语义特征，然后使用这些临床特征来预测恶性肿瘤。与其他方法相比，我们的模型以相同或更高的准确度检测临床特征（质量边缘），对其预测提供更详细的解释，并且能够更好地区分图像的分类相关部分。
2021-10-05 cs.CV cs.LG
Latent Space Analysis for Interpretable Uncertainty in Melanoma Classification
University of Naples Federico II（那不勒斯费德里科二世大学）
提出结合对抗变分自编码器和XGBoost的混合框架，利用生成潜在空间实现可解释决策支持，在黑色素瘤分类中达到AUC 0.868，并通过基于内容的图像检索为边界病例提供视觉比较。
2026-06-25 cs.AI cs.CV
ProtoArgNet: Interpretable Image Classification with Super-Prototypes and Argumentation [Technical Report]
Imperial College London（帝国理工学院）；Cardiff University（卡迪夫大学）
本文提出ProtoArgNet可解释图像分类架构，通过超级原型组合原型部分并利用论证提供支持/攻击解释，在多个数据集上优于现有原型部分学习方法，且论证组件可定制以生成更简洁解释。
2024-08-21 cs.AI cs.CV
CHiQPM: Calibrated Hierarchical Interpretable Image Classification
Institute for Information Processing (tnt) L3S - Leibniz Universität Hannover（信息处理研究所 (tnt) L3S - 莱布尼茨汉诺威大学）；Intel Labs（英特尔实验室）
CHiQPM提出了一种兼具全局和局部可解释性的图像分类模型，通过对比解释多数类和分层解释方法，实现高准确率和可解释性，为人类与AI协作提供支持。
2026-04-08 cs.CV cs.HC cs.LG
LLM-based Hierarchical Concept Decomposition for Interpretable Fine-Grained Image Classification
University of Pennsylvania（宾夕法尼亚大学）
本文提出Hi-CoDe框架，利用GPT-4构建视觉概念树并结合CLIP特征的线性分类器集成，在保持准确性的同时显著提升了细粒度图像分类的可解释性与透明度。
2024-06-02 cs.CL cs.CV
DINO-QPM: Adapting Visual Foundation Models for Globally Interpretable Image Classification
Institute for Information Processing, L3S - Leibniz University Hannover（信息处理研究所，L3S - 莱布尼茨汉诺威大学）
DINO-QPM通过将复杂特征转换为可解释的对比表示，提升图像分类的可解释性，同时在准确性和解释质量上优于DINOv2线性探针。
2026-04-08 cs.CV cs.HC cs.LG
A Simple Interpretable Transformer for Fine-Grained Image Classification and Analysis
The Ohio State University（俄亥俄州立大学）；Amazon Alexa（亚马逊 Alexa）；Virginia Tech（弗吉尼亚理工大学）；Princeton University（普林斯顿大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文提出受 DETR 启发的 INTR，利用类别特定查询和多头交叉注意力实现可解释的细粒度图像分类，并在八个数据集上验证其属性定位能力。
2024-06-14 cs.AI cs.CV
Feature CAM: Interpretable AI in Image Classification
Multimedia Research Centre, University of Alberta（阿尔伯塔大学多媒体研究中心）
针对深度神经网络黑箱特性导致的高精度领域信任不足问题，研究对比了图像分类中CNN可解释的激活基方法，提出扰动-激活结合的Feature CAM技术，生成的显著性图人类可解释性提升3-4倍且保留机器可解释性。
2024-03-08 cs.AI cs.CV cs.MM
QPM: Discrete Optimization for Globally Interpretable Image Classification
Intel Labs（英特尔实验室）
针对深度模型全局解释难题，提出QPM模型，通过离散优化学习每类约5个共享特征的二元分配，实现可对比的全局可解释表示，并在准确性与可解释性上均达到最先进水平。
2025-02-27 cs.AI cs.CV cs.HC
Interpretable Attention Guided Network for Fine-grained Visual Classification
Beihang University（北京航空航天大学）；Shenzhen Academy of Aerospace Technology（深圳航天技术研究院）
细粒度视觉分类（FGVC）是一项具有挑战性的任务，但比传统的分类任务更重要。它需要区分不同的子类与本质上微妙的类内对象的变化。以前的工作集中在提高特征表示能力，使用多粒度和歧视性的区域的基础上的注意力策略或包围盒。然而，这些方法高度依赖于缺乏可解释性的深度神经网络。我们提出了一个可解释的注意力引导网络（IAGN）细粒度的视觉分类。我们的方法的贡献包括：i）一个注意力引导框架，可以引导网络以可解释的方式提取区分区域; ii）一个渐进的训练机制，可以逐步提取知识，融合各种粒度的特征; iii）第一个可解释的FGVC方法，在几个标准的FGVC基准数据集上具有竞争力的性能。
2021-03-09 cs.CV
Human-interpretable and deep features for image privacy classification
Queen Mary University of London（伦敦玛丽女王大学）
本文针对图像隐私分类中标注困难的问题，分析了争议性图像的特性，提出八个隐私专用且人类可解释的特征，证明其能提升深度学习模型性能并优于高维深度特征。
2023-10-31 cs.CV
DeepMiner: Discovering Interpretable Representations for Mammogram Classification and Explanation
Princeton University（普林斯顿大学）；The Chinese University of Hong Kong（香港中文大学）；Microsoft（微软）；UCLA（加州大学洛杉矶分校）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Microsoft Research New England（微软新英格兰研究院）；VSCO
我们提出了DeepMiner，这是一个发现深度神经网络中可解释的表示并为医学预测建立解释的框架。通过探测训练用于对乳房X线照片中的癌症进行分类的卷积神经网络（CNN），我们发现CNN的最终卷积层中的许多单个单元对BI-RADS词典指定的患病组织概念做出强烈响应。在对可解释单元进行专家注释后，我们提出的方法能够生成与筛查乳腺X射线摄影数字数据库上的地面真实放射学报告一致的CNN乳腺X射线摄影分类的解释。我们表明，DeepMiner不仅能够更好地理解CNN分类决策的细微差别，而且还可能发现与医学诊断相关的新视觉知识。
2021-08-18 cs.CV
Concepts in Motion: Temporal Concept Bottleneck Model for Interpretable Video Classification
Technical University of Clausthal（Clausthal 技术大学）；Ramblr.ai Research（Ramblr.ai 研究）
本文提出MoTIF模型，通过时间接地的概念激活序列进行视频分类，利用时序自注意力机制建模概念的出现时间和贡献，提升可解释性。
2026-05-12 cs.CV
Localizing Interpretable Multi-scale informative Patches Derived from Media Classification Task
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
深度卷积神经网络（CNN）总是依赖于更宽的感受野（RF）和更复杂的非线性来实现最先进的性能，同时也越来越难以解释相关补丁如何贡献最终预测。在本文中，我们构建了一个可解释的锚网配备了我们精心设计的RF和线性空间聚合，以提供逐块的输入媒体的可解释性，同时本地化的多尺度信息补丁只监督媒体级别的标签，没有任何额外的限界框注释。局部信息图像和文本块的可视化显示了AnchorNet优越的多尺度定位能力。我们进一步使用本地化补丁在广泛应用的网络中进行下游分类任务。实验结果表明，将原始输入替换为局部化后的分类块，在性能损失很小的情况下，能够获得明显的推理加速效果，证明局部化后的分类块确实能够保留原始输入的大部分语义和证据。
2020-04-17 cs.CV
FPN-IAIA-BL: A Multi-Scale Interpretable Deep Learning Model for Classification of Mass Margins in Digital Mammography
Duke University（杜克大学）；Brigham and Women’s Hospital（布莱根妇女医院）；University of Maine（缅因大学）
本文提出多尺度可解释深度学习模型FPN-IAIA-BL，通过用户可配置的粗细粒度原型解决现有可解释模型特征定位不准的问题，实现与放射科医生实践一致的乳腺X线摄影肿块边缘分类。
2024-06-10 cs.CV
Explainable Multi-Loss Distillation Framework for Efficient and Interpretable Shrimp Disease Text Classification
FPT University（FPT大学）；Korea University（高丽大学）
针对虾病图像分类仅能在疾病晚期检测的局限，提出SALT框架结合LIME、SHAP实现可解释性，在文本分类任务中兼顾性能、效率与可解释性，可用于虾病早期诊断。
2026-09-01 cs.CV
Image-guided topic modeling for interpretable privacy classification
Idiap Research Institute（伊迪亚普研究所）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
提出图像引导主题建模ITM，融合视觉与视觉语言模型文本描述生成带隐私评分的内容描述符，并训练可解释隐私分类器Priv×ITM，准确率较可解释基线高5个百分点。
2024-09-27 cs.CV
Deep interpretable architecture for plant diseases classification
USTHB University（USTHB大学）；University of Mons（蒙斯大学）；Mohamed El Bachir El Ibrahimi University（穆罕默德·巴希尔·易卜拉希米大学）；Setif 1 University（塞蒂夫第一大学）
最近，许多作品的灵感来自于深度学习在计算机视觉中用于植物病害分类的成功。不幸的是，这些端到端的深度分类器缺乏透明度，这可能会限制它们在实践中的采用。在本文中，我们提出了一种新的可训练的可视化方法，植物病害分类的基础上的卷积神经网络（CNN）架构组成的两个深分类器。第一个叫老师，第二个叫学生。该体系结构利用多任务学习来联合训练教师和学生。然后，教师和学生之间的通信表示被用作代理，以可视化的最重要的图像区域进行分类。这种新的架构产生更清晰的可视化比现有的方法在植物病害的情况下。所有实验都是在包含54306幅植物图像的PlantVillage数据集上完成的。
2019-06-13 cs.CV
Interpretable Logical Anomaly Classification via Constraint Decomposition and Instruction Fine-Tuning
Beijing XingYun Digital Technology Co., Ltd.（北京星云数字技术有限公司）
LogiCls通过约束分解和指令微调实现工业逻辑异常的可解释分类，结合视觉-语言框架和数据驱动的监督方法，提升异常检测的准确性和可解释性。
2026-02-03 cs.CV
Hierarchical Vision Transformer with Prototypes for Interpretable Medical Image Classification
Ulm University Medical Center（乌尔姆大学医学中心）；BGZ - Bildgebungszentrum（BGZ影像中心）；i2SouI - Innovative Imaging in Surgical Oncology Ulm（乌尔姆外科肿瘤创新影像中心）；XAIRAD - Cooperation for Artificial Intelligence in Experimental Radiology（XAIRAD实验放射学人工智能合作中心）
针对医疗图像分类的可解释性需求，提出HierViT分层视觉Transformer，通过原型可视化人类定义特征、结合领域知识并生成注意力热力图，在两个医疗数据集上实现高精度且解释与人类推理一致。
2026-10-26 cs.CV
Interpretable Tile-Based Classification of Paclitaxel Exposure
University of Southern Maine（南达科他州立大学）
针对C6胶质瘤细胞相差显微镜图像中紫杉醇暴露剂量差异细微的分类难题，提出分块-聚合流程，结合Grad-CAM、Score-CAM和注意力分析提升可解释性，在基准数据集上比已发表基线提高约20个百分点。
2025-11-05 cs.CV
ProtoPointNet: Prototype-Based Interpretable Classification of 3D Dental Point Clouds with Verifiable Spatial Activations
Adelaide Dental School, Adelaide University（阿德莱德牙科学院，阿德莱德大学）；Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学）；School of Public Health, Adelaide University（阿德莱德大学公共卫生学院）
研究针对3D牙齿点云分类，提出ProtoPointNet模型，结合局部表面几何等特征编码点，通过共享主干学习特定轴原型头，用辅助监督等训练，在Bits2Bites上取得较好结果，其激活定位合理，为牙齿表面对分析提供新的可解释方法。
2026-07-15 cs.CV
Interpretable Temporal Facial-Region Motion Analysis for In-the-Wild Parkinson's Disease Video Classification
Department of Computer Science and Information, College of Science, Majmaah University（计算机科学与信息系，科学学院，麦杰玛大学）
提出基于面部区域关键点的时序运动描述符，在YouTubePD基准上实现轻量级且可解释的PD视频分类，平衡准确率达0.826。
2026-06-08 cs.CV
Traffic-CBM: A Structurally Interpretable Multimodal Framework for Encrypted Traffic Classification
提出Traffic-CBM框架，通过统一层次化概念空间组织多模态流量证据，实现结构可解释的加密流量分类，性能与端到端模型相当且解释性更强。
2026-07-16 cs.CV
Implicit Mixture of Interpretable Experts for Global and Local Interpretability
Australian National University（澳大利亚国立大学）
我们研究了使用可解释专家混合物（MoIE）在MNIST 10上构建可解释图像分类器的可行性。MoIE使用黑盒路由器将每个输入分配给许多固有的可解释专家中的一个，从而深入了解为什么做出特定的分类决策。我们发现，经过天真训练的MoIE将学会“作弊”，黑盒路由器将自行解决分类问题，每个专家只需学习一个特定类别的常量函数。我们建议通过引入可解释路由器和训练黑盒路由器的决策来匹配可解释路由器来解决这个问题。此外，我们提出了一种新的隐式参数化方案，使我们能够建立任意数量的专家的混合物，使我们能够研究分类性能，本地和全球的可解释性如何随着专家数量的增加而变化。我们的新模型被称为隐式混合可解释专家（IMoIE），可以在MNIST 10上匹配最先进的分类精度，同时提供局部可解释性，并且可以提供全局可解释性，尽管以降低分类精度为代价。
2022-12-01 cs.CV cs.LG
Interpretable Alzheimer's Disease Classification Via a Contrastive Diffusion Autoencoder
University College London（伦敦大学学院）
本研究提出基于对比扩散自编码器的方法，通过图像与潜在空间训练样本的相似性对阿尔茨海默病进行分类，在2D MRI数据上达到黑盒模型相当准确率并提供可解释性。
2023-10-25 cs.CV cs.LG
An Interpretable Compression and Classification System: Theory and Applications
National Chiao Tung University（国立交通大学）；Industrial Technology Research Institute（工业技术研究院）；University of Southern California（南加州大学）
本研究提出一个低复杂度的可解释分类系统。该系统包括三个主要模块，包括特征提取，特征约简，分类。它们都是线性的。由于线性属性，提取和减少的特征可以被逆到原始数据，如傅立叶变换等线性变换，因此可以量化和可视化单个特征对原始数据的贡献。而且，减少的特征和可逆性自然地承受所提出的系统的数据压缩能力。该系统可以有效地压缩数据，压缩后的数据与原始数据之间的偏差很小。同时，将压缩后的数据用于分类时，仍能达到较高的测试精度。此外，我们观察到，所提出的系统的提取的特征可以近似为不相关的高斯随机变量。因此，估计和检测中的经典理论可以用于分类。这促使我们提出使用MAP（最大后验概率）为基础的分类方法。因此，提取的特征和相应的性能具有统计意义和数学上的解释。仿真结果表明，该分类系统不仅享有显着减少的训练和测试时间，但也有较高的测试精度相比，传统的计划。
2020-04-14 cs.CV eess.SP
Don't PANIC: Prototypical Additive Neural Network for Interpretable Classification of Alzheimer's Disease
Technical University Munich（慕尼黑工业大学）；Ludwig Maximilians University（慕尼黑大学）
阿尔茨海默病（AD）病因复杂，需要综合神经解剖学、遗传学和脑脊液生物标志物等信息进行准确诊断。因此，最近的深度学习方法结合了图像和表格信息，以提高诊断性能。然而，这种神经网络的黑盒性质仍然是临床应用的障碍，其中理解异构模型的决策是不可或缺的。我们提出了PANIC，一个原型添加剂神经网络可解释的AD分类，集成了三维图像和表格数据。它是可解释的设计，因此，避免了事后的解释，试图近似网络的决定的需要。我们的研究结果表明，PANIC在AD分类中实现了最先进的性能，同时直接提供局部和全局解释。最后，我们表明，PANIC提取AD的生物意义的签名，并满足一组值得信赖的机器学习的理想desiderata。我们的实现可以在https://github.com/ai-med/PANIC上获得。
2023-03-14 cs.CV cs.LG
Hierarchical Concept Embedding & Pursuit for Interpretable Image Classification
University of Pennsylvania（宾夕法尼亚大学）
本文提出HCEP框架，通过在潜在空间中诱导概念嵌入的层次结构，利用层次稀疏编码恢复图像中的概念，提升分类可解释性与精度。
2026-03-30 cs.CV cs.LG
Interpretable CNNs for Object Classification
Shanghai Jiao Tong University（上海交通大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出了一种在深度卷积神经网络（CNN）中学习可解释卷积滤波器进行对象分类的通用方法，其中每个可解释滤波器对特定对象部分的特征进行编码。我们的方法不需要额外的注释对象的部分或纹理的监督。相反，我们使用与传统CNN相同的训练数据。我们的方法在学习过程中自动为高conv层中的每个可解释过滤器分配特定类别的对象部分。在CNN的conv层中的这种显式知识表示帮助人们澄清在CNN中编码的逻辑，即，回答CNN从输入图像中提取什么模式并用于预测。我们已经使用具有各种结构的不同基准CNN测试了我们的方法，以证明我们方法的广泛适用性。实验表明，我们的可解释的过滤器是更有意义的语义比传统的过滤器。
2020-03-12 cs.CV cs.LG stat.ML
Attribute Regularized Soft Introspective Variational Autoencoder for Interpretable Cardiac Disease Classification
Institute of Machine Learning in Biomedical Imaging, Helmholtz Munich（亥姆霍兹慕尼黑生物医学成像机器学习研究所）；Helmholtz AI, Helmholtz Munich（亥姆霍兹慕尼黑人工智能中心）；School of Computation, Information and Technology, Technical University of Munich（慕尼黑工业大学计算、信息与技术学院）；School of Biomedical Engineering and Imaging Sciences, King's College London（伦敦国王学院生物医学工程与影像科学学院）
本研究针对医学影像AI可解释性需求，提出结合潜空间属性正则化的对抗训练变分自编码器方法，可解决重建模糊问题，提升心脏病分类的可解释性。
2023-12-14 cs.CV eess.IV
Enhanced Multi-Class Classification of Gastrointestinal Endoscopic Images with Interpretable Deep Learning Model
ABV-Indian Institute of Information Technology and Management（ABV印度信息技术与管理学院）；SRM University（SRM大学）；Massachusetts General Hospital（麻省总医院）
本研究提出以EfficientNetB3为骨干的深度学习模型，无需数据增强即可对Kvasir数据集的8000张内镜图像进行八分类，并结合LIME显著性图增强可解释性，测试准确率达94.25%。
2025-03-02 cs.AI cs.CV
Quantized and Interpretable Learning Scheme for Deep Neural Networks in Classification Task
University of Tehran（德黑兰大学）；University of Cincinnati（辛辛那提大学）；University of St. Thomas（圣托马斯大学）；Tehran University（德黑兰大学）
本文提出融合显著性引导训练与PACT量化感知训练的方案，在MNIST和CIFAR-10上保持CNN分类性能，同时降低资源消耗并提升显著性图可解释性。
2024-12-05 cs.CV cs.LG
SpIn-ViT: Designing a Sparsity-Induced Vision Transformer That Is Mechanistically Interpretable
本研究提出端到端联合训练预训练ViT与改进SAE的SpIn-ViT框架，在9个图像分类基准上，其分类准确率、可解释性均优于现有事后SAE方法，还能生成更优的神经符号模型。
2026-08-18 cs.AI cs.CV
GAFR-Net: A Graph Attention and Fuzzy-Rule Network for Interpretable Breast Cancer Image Classification
1 Department of IT Engineering, Mokwon University, Daejeon 35349, South Korea；2 School of Digital Arts, Jiangxi Arts \& Ceramics Technology Institute, Jingdezhen 333001, China
GAFR-Net通过图注意力与模糊规则机制，实现乳腺癌图像分类的可解释性与高性能，适用于标注有限的医学图像分析。
2026-02-10 cs.AI cs.CV
Classification of White Blood Cell Leukemia with Low Number of Interpretable and Explainable Features
Center for Public Health Genomics（公共卫生基因组学中心）；Department of Biomedical Engineering University of Virginia（弗吉尼亚大学生物医学工程系）；University of Virginia（弗吉尼亚大学）
白细胞（WBC）白血病通过基于图像的分类检测。卷积神经网络用于学习将细胞图像分类为恶性或健康所需的特征。然而，这种类型的模型需要学习大量的参数，并且难以解释和解释。可解释人工智能（XAI）试图通过提供模型如何做出决策的见解来缓解这个问题。因此，我们提出了一个XAI模型，它只使用24个可解释和可解释的功能，并通过超过它们约4.38%的其他方法是非常有竞争力的。此外，我们的方法提供了洞察哪些变量是最重要的细胞分类。这一见解提供了证据，表明当实验室以不同方式对待WBC时，各种指标的重要性会发生实质性变化。理解分类的重要特征在医学成像诊断中至关重要，并且通过扩展，理解在科学研究中构建的AI模型。
2022-01-28 cs.CV cs.LG eess.IV
ProtoCAM: Interpretable Few-Shot Mask-Guided Prototypical Learning for Breast Lesion Classification in Ultrasound Imaging
Digital Technologies Research Centre（数字技术研究中心）；National Research Council Canada（加拿大国家研究委员会）
本文提出ProtoCAM，一种结合掩码引导特征编码、原型度量学习和梯度可视化的可解释少样本框架，在BUSI数据集上以3-way 5-shot取得宏F1 0.910，实现数据稀缺下可靠的乳腺超声病变分类。
2026-09-15 cs.AI cs.CV
Towards Interpretable Classification of Leukocytes based on Deep Learning
Technical University of Munich（慕尼黑工业大学）
本研究针对白细胞自动分类，探讨了置信度估计的校准及视觉解释方法，识别了神经网络的一般检测模式，提升了深度学习在血细胞分析中的临床可解释性与实用性。
2023-11-24 cs.CV cs.LG
A Biologically Interpretable Two-stage Deep Neural Network (BIT-DNN) For Vegetation Recognition From Hyperspectral Imagery
Manchester Metropolitan University（曼彻斯特城市大学）；Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院）；Brunel University（布鲁内尔大学）
基于光谱空间的深度学习模型最近被证明是有效的高光谱图像（HSI）分类的各种地球监测应用，如土地覆盖分类和农业监测。然而，由于“黑箱”模型表示的性质，如何解释和解释的学习过程和模型的决策，特别是植被分类，仍然是一个开放的挑战。该研究提出了一种新的可解释的深度学习模型-生物可解释的两阶段深度神经网络（BIT-DNN），通过将基于先验知识（即目标实体的生物物理和生物化学属性及其层次结构）的光谱-空间特征转换纳入所提出的框架，能够在基于HSI的分类任务上实现高精度和可解释性。该模型引入了两阶段的特征学习过程：第一阶段，增强的可解释特征块提取与目标实体的生物物理和生物化学属性相关的低级别光谱特征;在第二阶段，可解释的封装块提取并封装高级联合频谱，代表这些目标实体的生物物理和生物化学属性的分级结构的空间特征，这为模型提供了改进的分类性能和内在的可解释性，同时降低了计算复杂性。我们使用四个真实的HSI数据集对四个独立的任务（即植物物种分类，土地覆盖分类，城市场景识别和作物病害识别任务）进行了测试和评估。该模型与五种最先进的深度学习模型进行了比较。
2021-04-14 cs.CV cs.LG eess.IV
Interpretable breast cancer classification using CNNs on mammographic images
University of Cambridge（剑桥大学）；Tilburg University（蒂尔堡大学）
本研究针对CNN在乳腺癌分类中的黑盒问题，在MIAS数据集上比较了LIME、Grad-CAM和Kernel SHAP等事后可解释性技术，发现Grad-CAM能最全面揭示模型行为并区分不同乳腺组织，为临床实践提供见解。
2024-08-23 cs.CV cs.LG
RegionFM: Interpretable Region-Based Brain MRI Classification Using Foundation Model Embeddings
L3S Research Center（L3S研究中心）
研究针对脑MRI基础模型预测难解释问题，提出RegionFM框架，将解剖分割与基础模型嵌入结合，通过划分区域、编码嵌入及构建模型组合，用于认知障碍分类评估，在保持性能同时使解释与临床推理更好对齐。
2026-10-01 cs.CV cs.LG
Sea-Net: A Small and Inherently Interpretable Neural Network for Time Series Classification
Centre de Recherche en Informatique, Signal et Automatique de Lille (CRIStAL)（里尔信息、信号与自动化研究中心）；University of Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
该研究针对传统时间序列分类模型MILLET参数多、不适合边缘设备的问题，提出轻量级SEA-Net架构，在保持高分类与解释性能的同时大幅减小模型规模，为边缘端可解释时间序列分类提供了实用方案。
2026-10-14 cs.CV cs.LG
IAIA-BL: A Case-based Interpretable Deep Learning Model for Classification of Mass Lesions in Digital Mammography
Duke University（杜克大学）；University of Maine（缅因大学）
机器学习模型的可解释性在高风险决策中非常重要，例如是否根据乳房X光检查安排活检。乳房X光检查带来了其他计算机视觉任务中不存在的重要挑战：数据集很小，存在混淆信息，即使是放射科医生也很难单独根据乳房X光检查在观察等待和活检之间做出决定。在这项工作中，我们提出了一个框架，可解释的机器学习为基础的乳房X线摄影。除了预测病变是恶性还是良性之外，我们的工作旨在遵循放射科医生的推理过程，检测每个图像的临床相关语义特征，例如肿块边缘的特征。该框架包括一种新的可解释的神经网络算法，该算法使用基于病例的推理进行乳房X光检查。我们的算法可以将具有整个图像标签的数据和具有像素级注释的数据相结合，即使使用少量图像也可以获得更好的准确性和可解释性。我们的可解释模型能够突出图像的分类相关部分，而其他方法突出健康组织和混淆信息。我们的模型是决策辅助工具，而不是决策者，旨在更好地实现人机协作。我们没有观察到在相同数据上训练的黑盒神经网络的质量边缘分类准确性的损失。
2021-03-23 cs.AI cs.CV cs.LG
