Prompt-Guided Image-Adaptive Neural Implicit Lookup Tables for Interpretable Image Enhancement
Tokyo Institute of Technology（东京工业大学）
本文提出图像自适应神经隐式查找表与提示引导损失，实现可解释图像增强，优于预定义滤镜方法。
2024-08-20 cs.CV
An Interpretable X-ray Style Transfer via Trainable Local Laplacian Filter
X-ray Products, Siemens Healthineers AG（西门子医疗股份公司X射线产品部）；Otto von Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）
提出基于可训练局部拉普拉斯滤波器的可解释X射线风格迁移方法，通过MLP和归一化层增强特征捕捉，在乳腺图像上SSIM达0.94，优于基线0.82。
2025-01-24 cs.AI cs.CV cs.LG
Interpretable Convolutional Neural Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
提出了一种将传统的卷积神经网络（CNN）改造为可解释的CNN的方法，以明确CNN高层的知识表示。在可解释的CNN中，高conv层中的每个滤波器表示特定的对象部分。我们不需要任何对象部分或纹理的注释来监督学习过程。相反，可解释的CNN在学习过程中自动为高conv层中的每个滤波器分配对象部分。我们的方法可以应用于具有不同结构的不同类型的CNN。可解释的CNN中清晰的知识表示可以帮助人们理解CNN内部的逻辑，即，基于CNN做出决定的模式。实验表明，可解释的CNN中的过滤器比传统CNN中的过滤器在语义上更有意义。
2018-02-14 cs.CV
PICNN: A Pathway towards Interpretable Convolutional Neural Networks
Tongji University（同济大学）
针对CNN中滤波器与类别纠缠导致可解释性不足的问题，提出PICNN路径，通过伯努利采样和重参数化技巧实现深层卷积滤波器按类别聚类，在多架构多数据集上验证其兼具更强可解释性与相当或更优判别能力。
2023-12-19 cs.AI cs.CV cs.LG
Interpretable Compositional Convolutional Neural Networks
Tongji University（同济大学）；Shanghai Jiao Tong University（上海交通大学）
语义可解释性的合理定义是可解释人工智能的核心挑战。本文提出了一种将传统卷积神经网络（CNN）修改为可解释的组合CNN的方法，以便学习在中间卷积层中编码有意义的视觉模式的过滤器。在组合CNN中，每个滤波器都应该一致地表示具有明确含义的特定组合对象部分或图像区域。组合CNN从图像标签中学习分类，而不需要对部分或区域进行任何注释以进行监督。我们的方法可以广泛应用于不同类型的CNN。实验证明了该方法的有效性。
2021-07-09 cs.CV
Image Reconstruction with Predictive Filter Flow
University of California, Irvine（加州大学欧文分校）
我们提出了一个简单的，可解释的框架，解决了广泛的图像重建问题，如去噪和反卷积。给定一个损坏的输入图像，该模型合成一个空间变化的线性滤波器，当应用于输入图像时，重建所需的输出。使用监督或自监督训练来学习模型参数。我们测试这个模型上的三个任务：非均匀运动模糊去除，有损压缩伪影减少和单图像超分辨率。我们证明，我们的模型在所有这些任务上的表现都大大优于最先进的方法，并且比基于优化的反卷积方法快得多。与直接预测输出像素值的模型不同，预测的过滤器流是可控和可解释的，我们通过可视化不同任务的预测过滤器空间来证明这一点。
2018-11-28 cs.CV cs.GR cs.LG
NM-Hebb: Coupling Local Hebbian Plasticity with Metric Learning for More Accurate and Interpretable CNNs
Faculty of Electrical Engineering, Computer Science and Information Technology Osijek（电子工程、计算机科学与信息技术学院奥斯杰克）
NM-Hebb通过赫布局部可塑性与度量学习两阶段训练，在多个CNN骨干上同时提升分类精度、特征结构化程度和可解释性。
2025-08-27 cs.CV cs.LG
Gabor is Enough: Interpretable Deep Denoising with a Gabor Synthesis Dictionary Prior
New York University, Tandon School of Engineering（纽约大学坦登工程学院）
本研究将去噪CNN的滤波器约束为可学习二维实Gabor滤波器，提出GDLNet，以极少参数取得接近SOTA的去噪性能，保留噪声泛化性，验证了低层视觉CNN表征可如Gabor滤波器组般简单可解释。
2022-04-23 cs.CV eess.IV eess.SP
Interpretable Neural Network Decoupling
Xiamen University（厦门大学）；Peng Cheng Laboratory（鹏城实验室）；National University of Singapore（新加坡国立大学）；Beihang University（北京航空航天大学）；BestImage, Tencent Technology (Shanghai) Co.,Ltd（腾讯科技（上海）有限公司）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Inception Institute of Artificial Intelligence（起源人工智能研究院）
卷积神经网络（CNN）的卓越性能与其大量不可解释的参数纠缠在一起，这已成为限制其充分发挥潜力的瓶颈。对于网络的解释，以往的研究主要采用单一的过滤器分析，但忽略了过滤器之间的关系。在本文中，我们提出了一种新的架构解耦方法来解释网络的角度调查其计算路径。更具体地说，我们在每一层中引入了一个新的架构控制模块，通过一个向量对网络架构进行编码。通过最大化矢量和输入图像之间的互信息，该模块被训练为选择特定的滤波器来提取每个输入的唯一计算路径。此外，为了提高解耦合网络的可解释性和紧凑性，对每一层的输出进行编码，以将结构编码向量与稀疏正则化约束对齐。与传统的像素级或过滤器级网络解释方法不同，我们提出了一种路径级分析，以探索过滤器和语义概念的组合之间的关系，这更适合于解释解耦网络的工作原理。大量的实验表明，解耦网络实现了几个应用，即，网络解释、网络加速和对抗性样本检测。
2020-08-25 cs.CV
A Study of the Limits of Collaborative DCT-Based Image Denoising via Interpretable Neural Networks
Universitat de les Illes Balears（巴利阿里群岛大学）
本研究提出DeepBM3D，将BM3D协作滤波重构为全可微神经网络，结合非局部块分组与DCT域学习维纳滤波，在低中噪声下媲美FFDNet并优于经典方法。
2026-10-23 cs.CV
Interpretable and Fine-Grained Visual Explanations for Convolutional Neural Networks
Bosch Center for Artificial Intelligence (BCAI)（博世人工智能中心）；University of Bonn（波恩大学）
为了验证和验证网络，必须深入了解它们的决策、局限性以及训练数据的可能缺陷。在这项工作中，我们提出了一个事后，基于优化的视觉解释方法，它突出了输入图像中的证据，用于特定的预测。我们的方法是基于一种新的技术，通过在优化过程中过滤梯度来防御对抗性证据（即由于人为因素造成的错误证据）。防御不依赖于人为调整的参数。它可以实现既细粒度又保留图像特征（如边缘和颜色）的解释。这些解释是可解释的，适合于可视化详细的证据，并且可以进行测试，因为它们是有效的模型输入。我们在大量模型和数据集上定性和定量地评估我们的方法。
2019-08-07 cs.CV cs.LG
Unsupervised Unfolded rPCA (U2-rPCA): Deep Interpretable Clutter Filtering for Ultrasound Microvascular Imaging
Fujian Key Laboratory of Urban Intelligent Sensing and Computing, School of Informatics, Xiamen University（福建城市智能感知与计算重点实验室，信息学院，厦门大学）；School of Electronic Science and Engineering, Fujian Provincial Key Laboratory of Plasma and Magnetic Resonance, Xiamen University（电子科学与技术学院，福建省等离子体与磁共振重点实验室，厦门大学）；Department of Computer Science and Technology, School of Informatics, and the National Institute for Data Science in Health and Medicine, Xiamen University（计算机科学与技术系，信息学院，以及健康医学数据科学国家研究院，厦门大学）
本文提出了一种无监督展开rPCA（U2-rPCA）方法，通过迭代加权最小二乘（IRLS）rPCA基础进行展开，结合稀疏增强单元，以提高对稀疏微流信号的捕捉能力，从而在超声微血管成像中实现更高效的杂波过滤。
2026-05-19 cs.CV
FrequentNet: A Novel Interpretable Deep Learning Model for Image Classification
Zhejiang University（浙江大学）；Microsoft（微软）；Instacart；Cornell University（康奈尔大学）
本文提出了一种新的基线深度学习模型，更有利于图像分类。与卷积神经网络（CNN）实践不同，在卷积神经网络（CNN）实践中，通过反向传播来训练滤波器以表示图像的不同模式，我们受到“PCANet：A Simple深度学习Baseline for图像分类？从频域中的基向量（如傅立叶系数或小波）中选择滤波器向量，而无需反向传播。研究人员已经证明，频域中的那些基础通常可以提供物理见解，这通过分析所选择的频率来增加模型的可解释性。此外，与CNN的“黑箱”训练过程相比，训练过程也将更加省时、数学上清晰和可解释。
2021-08-12 cs.CV stat.ML
Learning Interpretable BEV Based VIO without Deep Neural Networks
Zhejiang University（浙江大学）
单目视觉-惯性里程计（VIO）是机器人和自动驾驶中的关键问题。传统的方法基于过滤或优化来解决这个问题。虽然是完全可解释的，但它们依赖于手动干预和经验参数调整。另一方面，基于学习的方法允许端到端训练，但需要大量的训练数据来学习数百万个参数。然而，不可解释的和沉重的模型阻碍了泛化能力。在本文中，我们提出了一个完全可区分的，可解释的，基于鸟瞰图（BEV）的VIO模型的机器人与局部平面运动，可以训练没有深神经网络。具体来说，我们首先采用无迹卡尔曼滤波器作为可微层来预测俯仰和滚转，其中噪声的协方差矩阵被学习以过滤掉IMU原始数据的噪声。其次，采用改进的俯仰和滚动，使用可微相机投影来检索每帧的重力对准的BEV图像。最后，利用可微分姿态估计器来估计BEV帧之间的剩余3个DoF姿态：导致5个DoF姿态估计。我们的方法允许学习协方差矩阵端到端监督的姿态估计损失，表现出优越的性能，经验基线。在合成和真实世界数据集上的实验结果表明，我们的简单方法与最先进的方法相比具有竞争力，并且在看不见的场景中具有很好的泛化能力。
2022-09-17 cs.CV cs.RO
WaveletKernelNet: An Interpretable Deep Neural Network for Industrial Intelligent Diagnosis
Case Western Reserve University（凯斯西储大学）
卷积神经网络（CNN）具有特征学习和非线性映射的能力，在健康管理（PHM）中表现出了良好的效果。然而，对CNN架构的物理意义的解释很少被研究。本文提出了一种新的小波驱动的深度神经网络WaveletKernelNet（WKN），其中设计了连续小波卷积（CWConv）层来取代标准CNN的第一卷积层。这使得第一个CWConv层能够发现更有意义的过滤器。此外，只有缩放参数和平移参数是直接从该CWConv层的原始数据中学习的。这提供了一种非常有效的方式来获得定制的滤波器组，该滤波器组被特别地调谐用于提取嵌入在振动信号中的与缺陷相关的冲击分量。最后，利用实验室环境下的数据进行了三次实验验证，验证了该方法在机械故障诊断中的有效性。实验结果表明了所设计的CWConv层的重要性，CWConv层的输出具有可解释性。与标准CNN相比，WKN具有参数少、故障分类精度高、收敛速度快等优点。
2020-05-06 cs.CV cs.LG cs.NE
Functionality-Oriented Convolutional Filter Pruning
卷积神经网络（CNN）的复杂结构允许出色的性能，但以密集的计算为代价。由于这种结构中不可避免地存在大量冗余，因此已经提出了许多工作来修剪卷积滤波器以降低计算成本。虽然非常有效，但大多数作品仅基于卷积滤波器的定量特征，并且高度忽略了对单个滤波器的特定功能的定性解释。本文从不同的角度对卷积滤波器的功能性和冗余性进行了解释，提出了一种面向功能性的滤波器剪枝方法。通过大量的实验结果，我们证明了卷积滤波器的定性意义，证明了由于重复的滤波器函数导致的显著的神经网络冗余，并分析了在不适当的再训练过程中滤波器功能的缺陷。这种可解释的过滤器剪枝方法不仅提供了出色的计算成本优化比以前的过滤器剪枝方法，但也解释过滤器剪枝过程。
2019-09-12 cs.CV cs.LG stat.ML
Improving Interpretability and Accuracy in Neuro-Symbolic Rule Extraction Using Class-Specific Sparse Filters
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出一种新颖的稀疏损失函数，通过在CNN训练期间实现类特定滤波器二值化以最小化信息损失，从而改进神经符号规则提取的可解释性与准确性，并在准确率和规则集大小上超越SOTA。
2025-01-28 cs.AI cs.CV
Interpretable Detail-Fidelity Attention Network for Single Image Super-Resolution
Xidian University（西安电子科技大学）；Xinjiang Medical University（新疆医科大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
得益于深度CNN强大的特征表示和非线性映射能力，基于深度学习的方法在单张图像超分辨率方面取得了优异的性能。然而，现有的超分辨率方法大多依赖于视觉识别网络的高容量，而很少考虑超分辨率对细节保真度的追求。为了实现这一目标，需要解决两个具有挑战性的问题：（1）学习合适的算子，以适应平滑和细节的不同特性;（2）提高模型保持低频平滑和重构高频细节的能力。为了解决这些问题，我们提出了一个有目的的和可解释的细节保真度注意网络，以分而治之的方式逐步处理这些平滑和细节，这是图像超分辨率的一个新的和具体的前景，旨在提高细节保真度，而不是盲目地设计或采用深度CNN架构，仅用于局部感受野的特征表示。特别是，我们提出了一个Hessian滤波的可解释的特征表示，这是高调的细节推理，一个膨胀的编码器-解码器和分布对齐单元，以改善推断Hessian功能的形态学方式和统计方式分别。大量的实验表明，所提出的方法实现了优越的性能比国家的最先进的方法定量和定性。代码可在https://github.com/YuanfeiHuang/DeFiAN上获得。
2020-09-28 cs.CV cs.LG
Filter Pruning based on Information Capacity and Independence
School of Electronic Information and Communications, Huazhong University of Science and Technology（华中科技大学电子信息与通信学院）
本文提出一种基于信息容量与信息独立性的轻量级滤波器剪枝方法，从个体和整体双视角评估滤波器贡献，在ResNet-50上以较小精度损失实现显著FLOPs和参数压缩。
2024-06-12 cs.CC cs.CV
Linear Variational State-Space Filtering
我们介绍了变分状态空间滤波器（VSSF），一种新的无监督学习，识别和过滤的潜在马尔可夫状态空间模型从原始像素的方法。我们提出了一个理论上健全的框架下异构传感器配置的潜在状态空间推断。所得到的模型可以集成在训练期间使用的传感器测量的任意子集，使得能够学习半监督状态表示，从而强制所学习的潜在状态空间的某些组件与可解释的测量一致。从这个框架中，我们得到L-VSSF，这个模型的线性潜动力学和高斯分布参数化的显式实例。我们通过实验证明了L-VSSF在几个不同的测试环境中在训练数据集的序列长度之外的潜在空间中进行过滤的能力。
2022-03-19 cs.CV cs.LG cs.SY
Structural Compression of Convolutional Neural Networks
University of California, San Francisco（加利福尼亚大学旧金山分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
深度卷积神经网络（CNN）在机器视觉的许多任务中已经取得了成功，然而，CNN中数以千计的卷积滤波器形式的数百万个权重使得它们难以为人类解释或理解科学。在这篇文章中，我们介绍了CAR，一种贪婪的结构压缩方案，以获得更小，更可解释的CNN，同时达到接近原始的准确性。压缩基于对分类精度贡献最小的修剪过滤器。我们通过展示我们的算法修剪具有视觉冗余功能的过滤器（如颜色过滤器）来证明CAR压缩CNN的可解释性。这些压缩网络更容易解释，因为它们保留了未压缩网络的滤波器多样性，滤波器数量级更少。最后，引入CAR的变体来量化每个图像类别对每个CNN滤波器的重要性。具体来说，最重要和最不重要的类标签被证明是每个过滤器的有意义的解释。
2020-03-25 cs.CV
CP-AGCN: Pytorch-based Attention Informed Graph Convolutional Network for Identifying Infants at Risk of Cerebral Palsy
Durham University（杜伦大学）；University of Glasgow（格拉斯哥大学）
早期预测被临床认为是脑瘫治疗的重要组成部分之一。我们建议实现一个低成本和可解释的分类系统，以支持CP预测的基础上一般运动评估（GMA）。我们设计了一个基于Pytorch的注意力通知图卷积网络，从RGB视频提取的骨骼数据中早期识别有CP风险的婴儿。我们还设计了一个频率合并模块，用于在频域中学习CP运动，同时过滤噪声。我们的系统只需要消费级RGB视频进行训练，通过提供可解释的CP分类结果来支持交互时间CP预测。
2022-09-06 cs.CV cs.LG eess.IV
Visually Interpretable Subtask Reasoning for Visual Question Answering
University of Edinburgh（爱丁堡大学）；NVIDIA（英伟达）
本文提出子任务驱动框架 VISTAR，通过微调 MLLM 生成文本与视觉的 Subtask-of-Thought 推理序列，在两个基准上兼顾并提升视觉问答的可解释性与准确率。
2025-05-12 cs.CV
Generalization on the Enhancement of Layerwise Relevance Interpretability of Deep Neural Network
Nanyang Technological University（南洋理工大学）；HealthTech Division, Alibaba Inc（阿里巴巴集团健康科技事业部）
深度神经网络的实际应用仍然受到其缺乏透明度的限制。为人工智能（AI）做出的决策提供解释的努力之一是使用显着性或热图，突出显示对其预测有重大贡献的相关区域。先前引入了逐层幅度滤波方法来提高热图的质量，通过噪声尖峰抑制来执行误差校正。在这项研究中，我们通过考虑任何可识别的错误，并假设存在一个地面实况可解释的信息，概括了分层误差校正。本文研究了分层相关方法传播的误差形式，提出了一种根据所用特定神经网络的信号幅度趋势进行可解释性信号校正的滤波技术。最后，我们提出了使用地面实况可解释的信息的参数。
2020-10-18 cs.AI cs.CV
Pay Attention to Convolution Filters: Towards Fast and Accurate Fine-Grained Transfer Learning
UC Berkeley（加州大学伯克利分校）
我们提出了一种有效的迁移学习方法，用于使ImageNet预训练的卷积神经网络（CNN）适应细粒度图像分类任务。传统的迁移学习方法通常面临训练时间和精度之间的权衡。通过向预训练网络的每个卷积滤波器添加“注意模块”，我们能够在端到端管道中对每个卷积信号的重要性进行排名和调整。在这份报告中，我们展示了我们的方法可以在几个时期内将预训练的ResNet 50适应于细粒度的迁移学习任务，并实现比传统的迁移学习方法更高的准确性，并接近从头开始训练的模型。我们的模型还提供了可解释的结果，因为卷积信号的秩显示了哪些卷积通道被利用和放大以实现更好的分类结果，以及哪些信号应该被视为特定迁移学习任务的噪声，这可以被修剪到更小的模型大小。
2019-06-12 cs.CV
Interpretable Lightweight Transformer via Unrolling of Learned Graph Smoothness Priors
York University（约克大学）
本文通过展开图平滑先验优化算法构建可解释轻量Transformer，用浅CNN学习图结构替代自注意力，大幅减少参数，并在图像插值中验证了性能与鲁棒性。
2024-11-05 cs.CV cs.LG eess.IV
