Evaluating the Robustness of Interpretability Methods through Explanation Invariance and Equivariance
University of Cambridge（剑桥大学）
本研究针对对称群下预测不变的神经网络，借助几何深度学习形式化解释不变性与等变性，提出鲁棒性度量指标、理论保证与提升方法，并总结出5条生成鲁棒解释的准则。
2023-10-05 cs.AI cs.CG cs.LG
Dynamic Spatiotemporal Graph Convolutional Neural Networks for Traffic Data Imputation with Complex Missing Patterns
The University of Hong Kong（香港大学）；McGill University（麦吉尔大学）
缺失数据是智能交通系统中交通数据汇集不可避免且普遍存在的问题。尽管交通数据插补的研究已经取得了很大的进展，但仍存在两个不足：一是现有的方法未能捕捉到交通数据中复杂的时空相关性，尤其是随时间演化的动态空间相关性;二是现有的研究主要集中在随机缺失模式上，而对其他更复杂的缺失场景的研究较少。为了填补这些研究空白，我们提出了一种新的深度学习框架，称为动态时空图卷积神经网络（DSTGCN）来估算丢失的流量数据。该模型结合了递归架构和基于图的卷积来建模时空依赖性。此外，我们引入了一个图结构估计技术，从实时交通信息和道路网络结构的动态空间依赖性建模。基于两个公共交通速度数据集进行了广泛的实验，以比较我们提出的模型与最先进的深度学习方法在四种类型的缺失模式。实验结果表明，在各种缺失场景下，我们提出的模型都优于现有的深度学习模型，图结构估计技术有助于提高模型性能。我们进一步将我们提出的模型与张量因子分解模型进行比较，并发现在不同的训练方案和数据可用性下不同模型家族的不同行为。
2021-09-17 cs.AI cs.LG
A Scalable, Interpretable, Verifiable & Differentiable Logic Gate Convolutional Neural Network Architecture From Truth Tables
Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）
我们提出了$\mathcal{T}$ Ruth $\mathcal{T}$ able net（$\mathcal{TT}$ net），一种新的卷积神经网络（CNN）架构，通过设计，解决了可解释性，形式化验证和逻辑门转换的开放挑战。$\mathcal{TT}$网络是使用CNN的过滤器构建的，这些过滤器相当于易处理的真值表，我们称之为学习真值表（LTT）块。LTT块的对偶形式允许使用梯度下降轻松训练真值表，并使这些CNN易于解释、验证和推断。具体而言，$\mathcal{TT}$网是一种深度CNN模型，在训练后转换之后，可以自动表示为布尔决策树的总和，或表示为析取/合取范式（DNF/CNF）公式的总和，或表示为紧凑的布尔逻辑电路。我们证明了$\mathcal{TT}$网在多个数据集上的有效性和可扩展性，与最先进的方法相比，具有与决策树相当的可解释性，快速完整/健全的形式化验证和可扩展的逻辑门表示。我们相信这项工作代表了使CNN在现实世界的关键应用中更加透明和值得信赖的一步。
2023-02-02 cs.AI cs.FL cs.LG
ST-Tree with Interpretability for Multivariate Time Series Classification
Shandong Normal University（山东师范大学）；Shandong University（山东大学）
针对多变量时间序列分类中深度模型缺乏可解释性而传统决策树准确率低的问题，提出ST-Tree模型，结合Swin Transformer与神经树，在提升分类准确率的同时提供可解释的决策过程。
2024-11-18 cs.AI cs.LG
Improving Deep Learning Interpretability by Saliency Guided Training
University of Maryland（马里兰大学）；Genentech, Inc.（基因泰克公司）
显著性方法已被广泛用于突出模型预测中的重要输入特征。大多数现有的方法使用修改的梯度函数上的反向传播来生成显着图。因此，噪声梯度可能导致不忠实的特征属性。在本文中，我们解决了这个问题，并介绍了一个{ \it显着性指导训练}程序的神经网络，以减少噪声梯度预测中使用的同时保留模型的预测性能。我们的显着性指导训练过程迭代地掩蔽具有小的和潜在的噪声梯度的特征，同时最大化掩蔽和未掩蔽输入的模型输出的相似性。我们将显着性引导的训练过程应用于计算机视觉，自然语言处理和不同神经架构的时间序列的各种合成和真实数据集，包括递归神经网络，卷积网络和Transformers。通过定性和定量评估，我们表明显着性指导的训练过程显着提高了模型在各个领域的可解释性，同时保持其预测性能。
2021-11-29 cs.AI cs.CV cs.LG
Epileptic Seizure Detection in Separate Frequency Bands Using Feature Analysis and Graph Convolutional Neural Network (GCN) from Electroencephalogram (EEG) Signals
提出一种频率感知框架，将EEG分解为五个频段并提取判别特征，利用图卷积神经网络建模电极空间依赖，在CHB-MIT数据集上实现99.01%的宽带准确率，提高了可解释性和诊断精度。
2026-06-16 cs.AI cs.LG cs.NE
An Interactive Interpretability System for Breast Cancer Screening with Deep Learning
Vanderbilt University（范德堡大学）；Carnegie Mellon University（卡内基梅隆大学）
深度学习方法，特别是卷积神经网络，已经成为医学图像计算任务中的强大工具。虽然这些复杂的模型提供了出色的性能，但它们的黑盒性质可能会阻碍高风险决策的实际应用。在本文中，我们提出了一个互动系统，利用国家的最先进的可解释性技术，以协助放射科医生与乳腺癌筛查。我们的系统将深度学习模型集成到放射科医生的工作流程中，并提供新颖的交互，以促进对模型决策过程的理解。此外，我们证明了我们的系统可以利用用户交互逐步提供更细粒度的可解释性报告，标签开销很小。由于所采用的可解释性技术的通用性，我们的系统是领域不可知的，可用于许多不同的医学图像计算任务，为我们如何利用视觉分析来转换最初的静态可解释性技术以增强人类决策并促进医学AI的采用提供了一个新的视角。
2022-09-30 cs.AI cs.CV cs.HC
Auditory Attention Decoding from EEG using Convolutional Recurrent Neural Network
Peking University（北京大学）
提出了一种基于听觉注意解码（AAD）的多人说话场景中说话人身份识别方法。虽然基于线性模型的方法已被广泛应用于AAD中，但线性假设被认为过于简化，并且对于较短的解码窗口，解码精度仍然较低。最近，已经提出了基于深度神经网络（DNN）的非线性模型来解决这个问题。然而，这些模型没有充分利用EEG的空间和时间特征，并且很少研究DNN模型的可解释性。在本文中，我们提出了新的卷积递归神经网络（CRNN）的回归模型和分类模型，并将它们与线性模型和最先进的DNN模型进行了比较。结果表明，我们提出的基于CRNN的分类模型在较短的解码窗口（2 s和5 s约为90%）下优于其他模型。尽管比分类模型差，但提出的基于CRNN的回归模型的解码准确度比其他回归模型高出约5%。DNN模型的可解释性也通过可视化层的权重进行了研究。
2021-03-03 cs.AI cs.SD eess.AS
1xN Pattern for Pruning Convolutional Neural Networks
Xiamen University（厦门大学）；Tencent Youtu Lab（腾讯优图实验室）；Alibaba Group（阿里巴巴集团）；Peking University（北京大学）
虽然网络修剪在降低卷积神经网络（CNN）的复杂性方面受到欢迎，但同时保持模型准确性以及在通用CPU上实现显着加速仍然是一个悬而未决的问题。在本文中，我们提出了一种新的1xN修剪模式，以打破这一限制。特别地，具有相同输入通道索引的连续N个输出核被分组到一个块中，这作为我们的修剪模式的基本修剪粒度。我们的1xN模式修剪了这些被认为不重要的块。我们还提供了一个滤波器重排的工作流程，首先在输出通道维度中重排权重矩阵，以获得更有影响力的块来提高精度，然后将类似的重排应用于输入通道维度中的下一层权重，以确保正确的卷积操作。此外，在我们的1xN修剪之后的输出计算可以通过并行化的逐块向量化操作来实现，从而在通用CPU上实现显著的加速。在ILSVRC-2012上的实验证明了该剪枝模式的有效性。例如，给定50%的修剪率和N=4，我们的模式在MobileNet-V2的前1精度中获得了比过滤器修剪约3.0%的改进。同时，它在Cortex-A7 CPU上获得了56.04ms的推理节省。我们的项目可以在https://github.com/lmbxmu/1xN上找到。
2022-10-16 cs.AI cs.CV
Debiasing Convolutional Neural Networks via Meta Orthogonalization
UT Austin（德克萨斯大学奥斯汀分校）；University of Oxford（牛津大学）
虽然深度学习模型通常可以实现强大的任务性能，但它们的成功受到无法将虚假相关性与因果因素分离开来的阻碍，例如当它们使用受保护的属性时（例如，种族、性别等）来做决定在这项工作中，我们解决了在这种情况下去偏置卷积神经网络（CNN）的问题。在现有的关于去偏置词嵌入和模型可解释性的工作的基础上，我们的Meta泛化方法鼓励不同概念的CNN表示（例如，性别和类别标签）在激活空间中彼此正交，同时保持强的下游任务性能。通过各种实验，我们系统地测试了我们的方法，并证明了它显着减轻了模型偏差，并且与当前的对抗性去偏方法相比具有竞争力。
2020-11-15 cs.AI cs.CV cs.CY
Toward end-to-end interpretable convolutional neural networks for waveform signals
Monash University（莫纳什大学）；Singapore Management University（新加坡管理大学）
本文提出一种面向原始波形信号的端到端可解释CNN框架，在语音情感识别上优于梅尔频谱特征且可替代MFCC，并在心音数据上验证了其轻量高效与可解释性。
2024-05-03 cs.AI cs.SD eess.AS
The SVD of Convolutional Weights: A CNN Interpretability Framework
Pacific Northwest National Laboratory（太平洋西北国家实验室）；North Carolina State University（北卡罗来纳州立大学）；University of Utah（犹他大学）
用于图像分类的深度神经网络通常使用卷积滤波器来提取区别特征，然后将其传递给线性分类器。大多数可解释性文献侧重于为卷积滤波器提供语义含义，以解释模型的推理过程并确认其使用来自输入域的相关信息。全连接层可以通过使用奇异值分解分解其权重矩阵来研究，实际上是研究每个矩阵中行之间的相关性以发现映射的动态。在这项工作中，我们为卷积层的权重张量定义了一个奇异值分解，它提供了对滤波器之间相关性的类似理解，揭示了卷积映射的动态特性。我们验证我们的定义，使用随机矩阵理论的最新成果。通过在图像分类网络的线性层上应用分解，我们提出了一个框架，针对该框架，可以使用超图来建模类分离。我们不是通过激活来解释网络，而是使用每个线性层具有最大相应奇异值的奇异向量来识别对网络最重要的特征。我们用例子来说明我们的方法，并介绍了DeepDataProfiler库，用于本研究的分析工具。
2022-08-14 cs.AI cs.CV cs.LG
DRExplainer: Quantifiable Interpretability in Drug Response Prediction with Directed Graph Convolutional Network
University of Science and Technology of China（中国科学技术大学）；School of Information and Artificial Intelligence, Anhui Agricultural University（安徽农业大学信息与人工智能学院）；Institutes of Physical Science and Information Technology, Anhui University（安徽大学物理科学与信息技术研究院）
针对药物反应预测中多源信息整合与定向预测的难题，提出基于有向图卷积网络的可解释模型DRExplainer，兼具更优预测性能与可量化可解释性，为个性化医疗提供支持。
2025-03-28 cs.AI cs.LG
Uncertainty and Interpretability in Convolutional Neural Networks for Semantic Segmentation of Colorectal Polyps
UiT The Arctic University of Norway（挪威UiT北极大学）
卷积神经网络（CNN）正在推动一系列不同计算机视觉任务的进步，例如目标检测和对象分割。他们的成功激发了对这些模型在医学图像分析中的应用的研究。如果基于CNN的模型要在医学领域有所帮助，它们需要精确、可解释，并且必须很好地理解预测中的不确定性。在本文中，我们开发和评估的不确定性估计和模型的可解释性的背景下，从结肠镜检查图像的息肉的语义分割的最新进展。我们评估并增强了几种用于结直肠息肉语义分割的全卷积网络（FCN）架构，并对这些模型进行了比较。我们的最高性能模型在EndoScene数据集上实现了76.06\%的平均IOU准确度，比以前的最先进技术有了相当大的改进。
2018-07-16 cs.CV cs.LG stat.ML
Automated Attention Pattern Discovery at Scale in Large Language Models
Delft University of Technology（代尔夫特理工大学）
本文通过分析Java代码数据集中的完成场景，提出了一种在大规模大型语言模型中发现重复行为的方法，展示了注意力模式作为可扩展解释信号的潜力，并引入了AP-MAE模型以高效重建掩码注意力模式。
2026-04-04 cs.AI cs.LG
DPPred: An Effective Prediction Framework with Concise Discriminative Patterns
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在文献中，已经提出了两个系列的模型来解决预测问题，包括分类和回归。简单的模型，如广义线性模型，具有普通的性能，但对一组简单的特征具有很强的可解释性。其他系列，包括基于树的模型，将数值，分类和高维特征组织成一个全面的结构，在数据中包含丰富的可解释信息。在本文中，我们提出了一种新的判别式基于模式的预测框架（DPPred），以完成预测任务，利用他们的有效性和可解释性的优势。具体地说，DPPred采用基于树的模型中从根节点到叶节点的前缀路径上的简洁判别模式。DPPred通过搜索最有效的模式组合来拟合广义线性模型，从而选择有限数量的有用判别模式。大量的实验表明，在许多情况下，DPPred提供了具有竞争力的准确性与国家的最先进的，以及有价值的可解释性的开发人员和专家。特别是，以临床应用数据集为案例研究，我们的DPPred通过仅使用40个简洁的判别模式来超越基线，这些模式来自一组潜在的指数级大的模式。
2016-10-31 cs.AI cs.LG
Patterning: The Dual of Interpretability
Timaeus
通过模式化方法，利用敏感性分析确定训练数据以实现特定泛化形式，展示了在语言模型和合成任务中对模型结构的控制与优化。
2026-01-20 cs.LG
Optimising for Interpretability: Convolutional Dynamic Alignment Networks
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文提出卷积动态对齐网络（CoDA Nets），通过动态对齐单元实现输入依赖的线性变换，使分类输出可分解为输入贡献，在保持与 ResNet、VGG 相当分类性能的同时，提供优于现有归因方法的模型内在可解释性，并可与常规网络结合扩展到复杂数据集。
2024-01-15 cs.CV cs.LG stat.ML
Disentangling Polysemantic Channels in Convolutional Neural Networks
Technical University of Darmstadt（达姆施塔特工业大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
针对CNN中多义通道编码不同概念导致难以解释的问题，提出一种利用前层激活模式差异重构权重的算法，将多义通道分解为单概念通道，增强CNN可解释性并改进特征可视化等解释技术。
2025-04-17 cs.CV cs.LG
IA-GCN: Interpretable Attention based Graph Convolutional Network for Disease prediction
Technical University of Munich（慕尼黑工业大学）；Sharif University of Technology（谢里夫理工大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
图卷积网络（GCN）的可解释性在计算机视觉中得到了一定程度的研究，但在医学领域还需要进一步的研究。此外，大多数GCN的可解释性方法，特别是在医学领域，侧重于以事后的方式解释模型。在本文中，我们提出了一个可解释的基于图学习的模型，该模型1）解释输入特征对任务的临床相关性，2）使用解释来提高模型性能，3）学习可用于解释队列行为的群体水平潜图。在临床场景中，这样的模型可以帮助临床专家更好地做出诊断和治疗计划的决策。主要的新颖性在于可解释注意模块（IAM），它直接对多模态特征进行操作。我们的IAM基于独特的可解释性特定损失来学习每个特征的注意力。我们在两个公开的数据集Tadpole和UKBB上展示了该应用程序，用于疾病，年龄和性别预测的三项任务。我们提出的模型显示出优越的性能，相对于比较方法，蝌蚪的平均准确度增加了3.2%，UKBB性别增加了1.6%，UKBB年龄预测任务增加了2%。此外，我们展示了我们的结果的详尽验证和临床解释。
2021-03-29 cs.CV cs.LG
A Modified Convolutional Network for Auto-encoding based on Pattern Theory Growth Function
Nanyang Technological University（南洋理工大学）
这篇简短的论文报告了卷积神经网络的一个变体的缺点，其组件是基于模式理论框架开发的。
2021-04-04 cs.CV cs.LG eess.IV
Unwrapping The Black Box of Deep ReLU Networks: Interpretability, Diagnostics, and Simplification
Wells Fargo（富国银行）；Carnegie Mellon University（卡内基梅隆大学）；The University of Hong Kong（香港大学）
深度神经网络（DNN）在学习具有强大预测能力的复杂模式方面取得了巨大成功，但它们通常被认为是没有足够透明度和可解释性的"黑箱"模型。重要的是要用严格的数学和实用的工具来揭开DNN的神秘面纱，特别是当它们用于关键任务应用时。本文旨在通过局部线性表示来解开深度ReLU网络的黑盒，该表示利用激活模式并将复杂网络分解为一组等效的局部线性模型（LLM）。我们开发了一个方便的基于LLM的工具包，用于预训练深度ReLU网络的可解释性，诊断和简化。我们提出了局部线性剖面图和其他可视化方法的解释和诊断，和一个有效的合并策略，网络简化。通过模拟实例、基准数据集和住房贷款信贷风险评估的实际案例研究，证明了所提出的方法。
2020-11-08 cs.AI cs.LG stat.ML
Improving Interpretability in Medical Imaging Diagnosis using Adversarial Training
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
我们研究了对抗训练对卷积神经网络（CNN）可解释性的影响，特别是应用于诊断皮肤癌。我们表明，基于梯度的显着性地图的adversarially训练的CNN显着更清晰，更视觉连贯性比那些标准训练的CNN。此外，我们发现，经过逆向训练的网络突出显示了病变内具有显著颜色变化的区域，这是黑色素瘤的一个共同特征。我们发现，用小的学习率微调一个鲁棒的网络可以进一步提高显着性图的清晰度。最后，我们提供了初步的工作表明，鲁棒的第一层提取强大的低级别功能，导致视觉上连贯的解释。
2020-12-02 cs.LG
Context-Aware Interpretable Representations for Retrieval and Graph Convolutional Network Classification
State University of São Paulo (UNESP)（圣保罗州立大学（UNESP））
本文针对视觉表示的几何与可解释性鸿沟，提出融合流形学习与可解释图嵌入的无监督框架，所获上下文感知表示兼具可解释性、降维能力，且在图像检索与GCN半监督分类任务中表现优异。
2026-09-01 cs.CV cs.IR cs.LG
Using Logic Programming and Kernel-Grouping for Improving Interpretability of Convolutional Neural Networks
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
提出神经符号框架NeSyFOLD-G，通过核分组算法和RBML算法FOLD-SE-M将CNN最后一层转化为可解释的逻辑规则集，显著减小规则集规模并提升模型可解释性。
2023-10-19 cs.CV cs.LG
Interpretability, Then What? Editing Machine Learning Models to Reflect Human Knowledge and Values
Georgia Institute of Technology（佐治亚理工学院）；University of Washington（华盛顿大学）；Microsoft Research（微软研究院）；NYU Langone Health（纽约大学朗格尼医学中心）
机器学习（ML）可解释性技术可以揭示模型用来进行预测的数据中的不良模式-一旦部署，可能会造成危害。然而，如何采取行动解决这些问题并不总是很清楚。在ML和人机交互研究人员、医生和数据科学家之间的合作中，我们开发了GAM Changer，这是第一个交互式系统，可以帮助领域专家和数据科学家轻松、负责任地编辑广义加性模型（GAM）并修复有问题的模式。通过新颖的交互技术，我们的工具将可解释性转化为行动-使用户能够分析，验证和调整模型行为与他们的知识和价值观。医生已经开始使用我们的工具来研究和修复肺炎和败血症风险预测模型，7位在不同领域工作的数据科学家的评估强调，我们的工具易于使用，满足他们的模型编辑需求，并适合他们当前的工作流程。我们的工具采用现代Web技术构建，在用户的Web浏览器或计算笔记本中本地运行，降低了使用障碍。GAM Changer可在以下公开演示链接中获得：https://interpret.ml/gam-changer。
2022-06-30 cs.AI cs.HC cs.LG
ConceptCaps: a Distilled Concept Dataset for Interpretability in Music Models
Institute of Computer Science, Warsaw University of Technology（华沙技术大学计算机科学研究所）
ConceptCaps通过分离语义建模与文本生成，提供一个包含21,000个音乐-标签三元组的数据集，用于提升音乐模型的可解释性。
2026-02-03 cs.AI cs.LG cs.SD
EEG-GMACN: Interpretable EEG Graph Mutual Attention Convolutional Network
Coventry University（考文垂大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局信息通信研究所）
提出EEG-GMACN模型，通过引入逆图权重模块和互注意力机制提升EEG分析的可解释性与临床可信度，并采用可信度校准评估预测不确定性。
2024-12-15 cs.LG eess.SP
Switched linear projections for neural network interpretability
University of Otago（奥塔哥大学）
我们引入切换线性投影，用于根据输入空间中的单个线性投影来表达深度神经网络中神经元的活动。该方法的工作原理是隔离活动子网络，一系列线性变换，确定了给定输入实例的网络的整个计算。通过这些投影，我们可以将任何隐藏层中的活动分解为在给定输入实例中检测到的模式。我们还提出，在ReLU网络中，检查使隐藏层中的神经元失活的模式是有指导意义和有意义的，而现有的可解释性方法只跟踪网络计算的活跃方面，这是隐含忽略的。
2020-02-06 cs.LG stat.ML
Energy-Regularized Spatial Masking: A Novel Approach to Enhancing Robustness and Interpretability in Vision Models
DAVID Lab, UVSQ, Paris-Saclay University（DAVID实验室，UVSQ，巴黎-萨克雷大学）；LIPN, UMR CNRS 7030, Sorbonne Paris Nord University（LIPN，UMR CNRS 7030，索邦巴黎北大学）；LISN, Paris-Saclay University（LISN，巴黎-萨克雷大学）
本文提出能量正则化空间遮蔽框架，通过可微能量最小化问题重新定义特征选择，实现更鲁棒和可解释的视觉模型。
2026-06-09 cs.CV cs.LG
Disentangled Graph Representation Based on Substructure-Aware Graph Optimal Matching Kernel Convolutional Networks
针对现有图表示方法结构刻画粗糙的问题，提出GOMKCN，以子图为结构因子，用GOMK卷积算子度量子图与可学习滤波器的相似性，实现解耦表示，提升图模式挖掘的准确性与可解释性。
2025-04-23 cs.LG
Combinatorial Convolutional Neural Networks for Words
Institute of Biomedical Sciences, Academia Sinica（中央研究院生物医学科学研究所）
本文讨论了深度学习模型在识别和利用数据录入上的双射变换下保持不变的特征方面的局限性，我们将其称为组合模式。我们认为，这种模式的识别可能是重要的某些应用程序，并建议提供神经网络的信息，充分描述了输入条目的组合模式，并允许网络来确定什么是相关的预测。为了证明这种方法的可行性，我们提出了一个组合卷积神经网络的词分类。
2023-03-28 cs.LG
Biological Plausibility and Representational Alignment of Feedback Alignment in Convolutional Networks
University of Toronto（多伦多大学）
本文比较了反馈对齐与反向传播在卷积网络中的生物合理性、可解释性和计算复杂性，发现修改后的反馈对齐能产生与反向传播相似的内部表征。
2026-05-08 cs.AI cs.CV cs.LG
High-dimensional Convolutional Networks for Geometric Pattern Recognition
NVIDIA（英伟达）；POSTECH（浦项科技大学）；Intel Labs（英特尔实验室）
科学和工程中的许多问题都可以用高维空间中的几何模式来表述。我们提出了高维卷积网络（ConvNets）的模式识别的问题，出现在几何注册的上下文中。我们首先研究卷积网络在高达32维的高维空间中检测线性子空间的有效性：比ConvNets的先前应用高得多的维度。然后，我们将高维ConvNets应用于刚性运动和图像对应估计下的3D配准。实验表明，我们的高维ConvNets优于依赖于基于全局池运算符的深度网络的先前方法。
2020-05-17 cs.CV cs.LG stat.ML
Breast Mass Classification from Mammograms using Deep Convolutional Neural Networks
Stanford University（斯坦福大学）
乳腺X线摄影是筛查乳腺癌最广泛使用的方法。由于其主要是手动性质，肿块外观的可变性和低信噪比，大量的乳腺肿块被漏诊或误诊。在这项工作中，我们介绍了如何使用卷积神经网络直接分类乳腺X线照片中的预分割乳腺肿块为良性或恶性，使用组合的迁移学习，仔细的预处理和数据增强，以克服有限的训练数据。我们在DDSM数据集上实现了最先进的结果，超越了人类的表现，并显示了我们模型的可解释性。
2016-12-02 cs.CV cs.LG
Modelling Irregular Spatial Patterns using Graph Convolutional Neural Networks
Peking University（北京大学）
对地理现实的理解是一个数据表示和模式发现的过程。以往的研究主要采用连续场模型来表示空间变量，并在规则空间域中研究潜在的空间连续性/异质性。在这篇文章中，我们介绍了一个更广义的模型的基础上图卷积神经网络（GCN），可以捕捉复杂的参数的空间模式的图形结构的空间数据，其中通常包含欧几里德空间信息和非欧几里德特征信息。提出了一种可训练的半监督预测框架，用于对城市内兴趣点（POI）签到的空间分布模式进行建模，证明了GCN在复杂地理决策问题中的可行性，为分析不规则空间数据提供了一种有前途的工具。
2018-08-15 cs.LG stat.ML
LAP: An Attention-Based Module for Concept Based Self-Interpretation and Knowledge Injection in Convolutional Neural Networks
Sharif University of Technology（谢里夫理工大学）
提出可插入已训练卷积神经网络的注意力池化模块LAP，通过弱监督方案学习决策区分特征，在不损失性能下实现基于概念的自解释和知识注入，提供比白盒方法更有效的解释。
2023-10-24 cs.CV cs.LG
The Convolutional Tsetlin Machine
University of Agder（阿格德尔大学）；SSHF
卷积神经网络（CNN）在重要的模式识别任务中取得了惊人的成功，但它们存在高计算复杂性和缺乏可解释性的问题。最近的Tsetlin机器（TM）试图解决这一问题，通过使用命题逻辑中易于解释的合取子句来解决复杂的模式识别问题。TM在几个基准测试中提供了有竞争力的准确性，同时保持了可解释性的重要属性。它进一步促进了接近硬件的实现，因为输入、模式和输出都表示为位，而识别和学习依赖于简单的位操作。在本文中，我们通过引入卷积Tsetlin机（CTM）来利用TM范式，作为CNN的可解释替代方案。而TM通过对整个图像使用每个子句一次来对图像进行分类，CTM使用每个子句作为卷积滤波器。也就是说，子句被评估多次，每个参与卷积的图像块评估一次。为了使子句具有位置感知性，每个补丁都进一步增强了其在图像中的坐标。卷积子句的输出是通过对每个补丁上的子句求值的结果进行OR运算来获得的。在TM的学习阶段，评估为1的子句与输入进行对比。对于CTM，我们将其与其中一个补丁进行对比，该补丁是从使子句求值为1的补丁中随机选择的。因此，可以直接采用经典TM的标准I型和II型反馈，而无需进一步修改。CTM在MNIST上获得了99.4%的峰值测试准确度，在Kuzushiji-MNIST上获得了96.31%的峰值测试准确度，在Fashion-MNIST上获得了91.5%的峰值测试准确度，在2D噪声XOR问题上获得了100.0%的峰值…
2019-12-27 cs.AI cs.LG stat.ML
Analysis of Irregular Spatial Data with Machine Learning: Classification of Building Patterns with a Graph Convolutional Neural Network
Wuhan University（武汉大学）
卷积神经网络（CNN）等机器学习方法正在成为许多学科科学研究的一个组成部分，但由于空间矢量数据的不规则性，使用这些强大的学习方法往往无法进行分析。借助图傅立叶变换和卷积定理，将卷积变换为傅立叶域的逐点积，构造了一种基于图的CNN学习结构，用于不规则空间数据的分析任务。在本研究中，我们使用的建筑物模式的分类任务作为案例研究，以测试该方法，实验表明，该方法取得了突出的结果，在识别规则和不规则的模式，并在与其他方法相比，有显着的改善。
2018-09-21 cs.LG stat.ML
Interpretable and Efficient Heterogeneous Graph Convolutional Network
Xidian University（西安电子科技大学）；Deakin University（迪肯大学）
图卷积网络（GCN）在学习图中节点的有效任务特定表示方面取得了非凡的成功。然而，对于异构信息网络（HIN），现有的面向HIN的GCN方法仍然存在两个不足：（1）不能灵活地探索所有可能的元路径并提取对目标对象最有用的元路径，这影响了有效性和可解释性;（2）通常需要生成基于中间元路径的稠密图，这导致高计算复杂性。为了解决上述问题，我们提出了一个可解释的和高效的异构图卷积网络（即HGCN）来学习对象的表示在HIN。它被设计为分层聚合架构，即，首先是对象级聚合，然后是类型级聚合。新的架构可以自动提取有用的元路径为每个对象从所有可能的元路径（在一定的长度限制），这带来了良好的模型解释性。它还可以通过避免中间HIN变换和邻域注意来降低计算成本。我们提供了理论分析的建议ie-HGCN在评估所有可能的元路径的有用性，其连接到谱图卷积的HIN，其准线性时间复杂度。在三个真实网络数据集上的大量实验证明了ie-HGCN的优越性。
2021-09-08 cs.LG cs.SI stat.ML
From Interpretable Filters to Predictions of Convolutional Neural Networks with Explainable Artificial Intelligence
Atlantic Technological University（大西洋理工大学）
卷积神经网络（CNN）以其出色的特征提取能力而闻名，可以从数据中学习模型，但却被用作黑箱。对卷积滤波器和相关特征的解释可以帮助建立对CNN的理解，以区分各种类别。在这项工作中，我们专注于用于Covid-19和非Covid-19分类的称为cnnexplain的CNN模型的可解释性，重点关注卷积滤波器对特征的可解释性，以及这些特征如何有助于分类。具体来说，我们使用了各种可解释的人工智能（XAI）方法，如可视化，SmoothGrad，Grad-CAM和LIME，以提供卷积滤波器和相关特征的解释，以及它们在分类中的作用。我们已经分析了使用干咳频谱图检测Covid-19的这些方法的解释。从LIME、SmoothGrad和Grad-CAM获得的解释结果突出了不同谱图的重要特征及其与分类的相关性。
2022-07-26 cs.LG
Graph Convolutional Network With Pattern-Spatial Interactive and Regional Awareness for Traffic Forecasting
College of Mechanical and Electrical Engineering, Shihezi University（石河子大学机械与电子工程学院）；School of Mathematics and Computational Science, Xiangtan University（湘潭大学数学与计算机科学学院）；College of Sciences, Shihezi University（石河子大学科学学院）
针对现有交通预测模型忽略交通模式与空间相关性交互、未考虑区域异质性的问题，提出模式-空间交互与区域感知图卷积网络PSIRAGCN，通过交互融合框架和区域感知消息传递提升预测精度，在三个真实数据集上性能优于最优基线且兼顾计算成本。
2025-08-30 cs.LG
Recurrence-Aware Long-Term Cognitive Network for Explainable Pattern Classification
Tilburg University（蒂尔堡大学）；Universidad de Talca（塔尔卡大学）；Eindhoven University of Technology（埃因霍温理工大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；University of Miami（迈阿密大学）
用于模式分类问题的机器学习解决方案如今在社会和工业中被广泛部署。然而，最准确的模型缺乏透明度和问责制，往往妨碍其安全使用。因此，显然需要开发可解释的人工智能机制。存在模型不可知的方法，总结功能的贡献，但它们的可解释性是有限的黑盒模型所做的预测。一个开放的挑战是开发具有内在可解释性的模型，并产生自己的解释，即使是传统上被认为是黑箱的模型，如（循环）神经网络。在本文中，我们提出了一个长期的认知网络结构化数据的可解释模式分类。我们的方法通过量化决策过程中每个特征的相关性来提供解释。为了在不影响性能的情况下支持可解释性，该模型通过允许控制非线性的准非线性推理规则来增加灵活性。此外，我们提出了一个递归感知的决策模型，避免了唯一不动点所带来的问题，同时引入了一个确定性的学习算法来计算可调参数。模拟结果表明，我们的可解释模型获得竞争力的结果相比，最先进的白盒和黑盒模型。
2021-12-23 cs.LG
Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters
Tsinghua University（清华大学）；Tsinghua SIGS（清华大学深圳国际研究生院）；Peng Cheng Lab（鹏城实验室）；ByteDance AI Lab（字节跳动人工智能实验室）；University of Southern California（南加州大学）
卷积神经网络（CNN）已成功地用于一系列任务。然而，CNN通常被视为“黑箱”，缺乏可解释性。一个主要原因是由于过滤器类纠缠-过滤器和类之间复杂的多对多对应关系。大多数现有的作品尝试在预先训练的模型上进行事后解释，而忽略了减少模型背后的纠缠。相比之下，我们专注于在训练过程中减轻过滤器类纠缠。受细胞分化的启发，我们提出了一种新的策略，通过鼓励类特定的过滤器来训练可解释的CNN，其中每个过滤器只响应一个（或几个）类。具体来说，我们设计了一个可学习的稀疏类特定门（CSG）结构，以灵活的方式为每个过滤器分配一个（或几个）类。该门只允许在输入样本来自特定类时通过过滤器的激活。大量的实验证明了我们的方法在生成稀疏和高度类相关的输入表示方面的出色性能，这导致了更强的可解释性。此外，与标准训练策略相比，我们的模型在对象定位和对抗性样本检测等应用中显示出优势。代码链接：https://github.com/hyliang96/CSGCNN.
2021-07-01 cs.CV cs.LG
Distributed Convolutional Dictionary Learning (DiCoDiLe): Pattern Discovery in Large Images and Signals
INRIA（法国国家信息与自动化研究所）；Université Paris Saclay（巴黎萨克雷大学）
卷积字典学习（CDL）估计适合多维数据的移位不变基。CDL已被证明可用于图像去噪或修复，以及多元信号的模式发现。由于估计的模式可以定位在信号或图像中的任何地方，优化技术面临着在具有数百万像素或时间样本的极高维度上工作的困难，这与标准的基于块的字典学习相反。为了解决这个优化问题，这项工作提出了一个分布式和异步算法，采用本地贪婪坐标下降和异步锁定机制，不需要一个中央服务器。该算法可用于将计算分布在与编码信号的大小成线性比例的多个工作器上。实验证实了缩放特性，这使我们能够学习模式的大尺度图像从哈勃太空望远镜。
2019-01-26 cs.DC cs.LG stat.ML
Slim multi-scale convolutional autoencoder-based reduced-order models for interpretable features of a complex dynamical system
Technische Universität Ilmenau（伊尔梅瑙工业大学）；New York University（纽约大学）；Friedrich-Schiller-Universität Jena（弗里德里希·席勒·耶拿大学）
针对卷积自编码器降阶模型潜在特征不可解释的问题，提出一种轻量、可嵌入现有CAE的可解释多尺度方法，并在Rayleigh-Bénard对流数据上验证其重建与参数效率优势。
2025-01-06 cs.LG physics.flu-dyn
Designing Graph Convolutional Neural Networks for Discrete Choice with Network Effects
School of Civil and Environmental Engineering, Cornell University（土木与环境工程学院，康奈尔大学）
我们提出一种图卷积神经网络架构，将网络效应纳入离散选择模型，在提升预测性能的同时保持可解释性，并在通勤和选举数据上验证了其有效性。
2025-03-12 cs.LG econ.EM stat.AP
Data-Driven Traffic Assignment: A Novel Approach for Learning Traffic Flow Patterns Using a Graph Convolutional Neural Network
University of Central Florida（中佛罗里达大学）
我们提出了一种新的数据驱动的方法来学习交通网络的交通流模式，给出了许多实例的起点到目的地（OD）的出行需求和链接流的网络。代替假设某些用户行为（例如，用户平衡或系统最优），在这里我们探索直接从数据中学习这些流模式的想法。为了实现这一思想，我们将交通分配问题转化为一个数据驱动的学习问题，并提出了一个基于神经网络的框架--图卷积神经网络（GCNN）来解决这个问题，该框架有效地描述了交通网络和OD需求，并利用了多个OD需求从节点到路段的扩散过程。我们验证了该模型的解决方案对分析的解决方案，从运行静态用户平衡为基础的交通分配在苏福尔斯和东马萨诸塞州的网络。验证结果表明，所实现的GCNN模型可以很好地学习流模式，在不同的拥塞条件下，两个网络的实际和估计链路流量之间的平均绝对差小于2%。当模型训练完成后，它可以立即确定大规模网络的流量。因此，这种方法可以克服在大规模网络上部署交通分配模型的挑战，并在数据驱动的网络建模中开辟新的研究方向。
2022-02-21 cs.LG
Attentive Group Equivariant Convolutional Networks
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Amsterdam（阿姆斯特丹大学）
虽然群卷积网络能够基于对称模式学习强大的表示，但它们缺乏明确的手段来学习它们之间有意义的关系（例如，相对位置和姿态）。在本文中，我们提出了关注组等变卷积，一个推广的组卷积，其中注意力是在卷积过程中，强调有意义的对称组合和抑制不合理的，误导性的。我们指出，之前关于视觉注意力的工作可以描述为我们提出的框架的特殊情况，并通过经验表明，我们的注意力组等变卷积网络在基准图像数据集上的表现始终优于传统组卷积网络。同时，我们通过等变注意力地图的可视化提供了对所学概念的可解释性。
2020-06-30 cs.CV cs.LG stat.ML
A Study on the Uncertainty of Convolutional Layers in Deep Neural Networks
Shenzhen University（深圳大学）
本文给出了一种存在于神经网络结构中卷积层连接权值中的Min-Max性质，即，LeNet。具体来说，Min-Max属性意味着，在LeNet的基于反向传播的训练期间，卷积层的权重将远离其间隔中心，即，减少到最小值或增加到最大值。从不确定性的角度来看，我们证明了Min-Max属性对应于通过卷积的简化公式来最小化模型参数的futility。实验证明，具有Min-Max性质的模型具有较强的对抗鲁棒性，因此可以将这一性质引入到损失函数的设计中。本文指出了LeNet结构卷积层中不确定性的变化趋势，并对卷积的可解释性给出了一些见解。
2020-11-27 cs.LG stat.ML
Actigraphy-based Sleep/Wake Pattern Detection using Convolutional Neural Networks
Teva R&D（梯瓦研发）
常见的医疗条件往往与睡眠异常有关。与健康人相比，患有医学疾病的患者通常睡眠质量较差，这反过来又可能使疾病的症状恶化。准确检测睡眠/觉醒模式对于开发个性化数字标记物非常重要，这些标记物可用于客观测量和有效的疾病管理。大数据技术和先进的分析方法有望彻底改变临床研究流程，使数字数据有效地融入临床试验。活动记录仪是一种非侵入性活动监测方法，广泛用于检测和评估活动和运动障碍，并评估睡眠/觉醒行为。为了研究睡眠/觉醒模式与丛集性头痛障碍之间的联系，在临床试验过程中使用可穿戴设备收集活动数据。这项研究提出了两种新的建模方案，利用深度卷积神经网络（CNN）来识别睡眠/觉醒状态。所提出的方法是一个顺序的CNN，让人想起双向CNN的插槽填充，和多任务学习（MTL）为基础的模型。此外，我们通过添加"入睡"和"午睡"状态来扩展标准的"睡眠"和"清醒"活动状态空间。我们表明，所提出的方法提供了有前途的结果，在准确检测的扩展睡眠/觉醒状态。最后，我们探讨了检测到的睡眠/觉醒模式和丛集性头痛发作之间的关系，并提出了初步的意见。
2018-02-22 cs.LG
Extraction of Nystagmus Patterns from Eye-Tracker Data with Convolutional Sparse Coding
Centre Borelli（博雷利中心）；CNRS（法国国家科学研究中心）；ENS Paris Saclay（巴黎-萨克雷高等师范学院）；Université de Paris（巴黎大学）；SSA（法国武装部队卫生服务局）；Hôpital Necker-Enfants Malades（内克尔-患病儿童医院）；AP-HP（巴黎公立医院集团）；Université Sorbonne Paris Nord（索邦巴黎北大学）；University Paris-Saclay（巴黎-萨克雷大学）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）
从眼动追踪记录中分析眼球震颤波形对于这种病理性运动的临床解释至关重要。自动化这种分析的一个主要问题是与感兴趣的信号混合的自然眼球运动和眨眼伪影的存在。我们提出了一种基于卷积字典学习的方法，该方法能够自动突出眼球震颤波形，将自然运动与病理运动分离。我们在模拟信号上表明，我们的方法确实可以提高模式恢复率，并提供临床实例来说明该算法的性能。
2020-11-25 cs.LG eess.SP
DeepAffinity: Interpretable Deep Learning of Compound-Protein Affinity through Unified Recurrent and Convolutional Neural Networks
Texas A&M University（得克萨斯农工大学）
动机：药物发现需要快速定量化合物-蛋白质相互作用（CPI）。然而，目前还缺乏一种方法，可以预测化合物蛋白质的亲和力，从序列单独具有高的适用性，准确性和可解释性。结果：我们提出了一个无缝集成的领域知识和学习为基础的方法。在结构注释的蛋白质序列的新表示下，已经提出了一种统一递归和卷积神经网络的半监督深度学习模型，以利用未标记和标记的数据，用于联合编码分子表示和预测亲和力。我们的表示和模型在IC $_{50}$中的相对误差方面优于传统选项，对于测试用例，相对误差在5倍以内，对于不包括在训练中的蛋白质类，相对误差在20倍以内。具有少量标记数据的新蛋白质类的性能通过迁移学习进一步提高。此外，单独和联合注意力机制的开发和嵌入到我们的模型，以增加其可解释性，如预测和解释选择性药物靶点相互作用的案例研究所示。最后，还探索了使用蛋白质序列或复合图的替代表示以及使用图CNN（GCNN）的统一RNN/GCNN-CNN模型，以揭示未来的算法挑战。可用性：数据和源代码可访问https://github.com/Shen-Lab/DeepAffinity补充信息：补充数据可访问http://shen-lab.github.io/deep-affinity-bioinf18-supp-rev.pdf
2018-12-08 cs.LG q-bio.BM stat.ML
Sensitivity of Deep Convolutional Networks to Gabor Noise
Imperial College London（帝国理工学院）
深度卷积网络（DCN）已被证明对通用对抗性扰动（UAP）敏感：输入不可知的扰动在大部分数据集上欺骗模型。这些UAP表现出有趣的视觉模式，但这种现象是，迄今为止，知之甚少。我们的工作表明，视觉上类似的程序噪声模式也作为UAP。特别是，我们证明了不同的DCN架构是敏感的Gabor噪声模式。这种行为、其原因和影响值得进一步深入研究。
2019-06-11 cs.CR cs.LG stat.ML
