Creating Powerful and Interpretable Models with Regression Networks
Monash University（莫纳什大学）
随着学科的发展，机器学习的研究越来越多地集中在创建更强大的神经网络上，而不考虑这些网络的可解释性。这种“黑箱模型”产生了最先进的结果，但我们无法理解它们为什么会做出特定的决定或预测。有时这是可以接受的，但往往不是。我们提出了一种新的架构，回归网络，它结合了神经网络的力量与回归分析的可理解性。虽然在文献中存在一些结合这些方法的方法，但我们的架构通过考虑交互来概括这些方法，在不放弃可解释性的情况下提供密集神经网络的功能。我们证明，该模型超过了几个基准数据集上的可解释模型的最新性能，与密集神经网络的能力相匹配。最后，我们讨论了如何将这些技术推广到其他神经架构，如卷积和递归神经网络。
2021-09-01 cs.AI cs.LG
Quantum-inspired Interpretable Deep Learning Architecture for Text Sentiment Analysis
University of Science and Technology of China（中国科学技术大学）；Institute of Artificial Intelligence (TeleAI)（人工智能研究院（TeleAI））；Northwestern Polytechnical University（西北工业大学）
针对文本情感分析模型语义整合能力不足、缺乏可解释性的问题，提出融合量子力学原理与深度学习的量子启发架构，经实验验证其在准确率、效率上有显著优势且具备一定可解释性。
2024-08-15 cs.AI cs.CV cs.LG
Learning Interpretable Models Through Multi-Objective Neural Architecture Search
University of Notre Dame（圣母大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本文提出一种多目标分布式神经架构搜索框架，利用NSGA-II和XAI技术同时优化任务性能与可内省性，从而获得更解耦、更易调试且性能可接受的架构。
2023-07-04 cs.AI cs.LG cs.NE
Trading with the Momentum Transformer: An Intelligent and Interpretable Architecture
Oxford-Man Institute of Quantitative Finance, University of Oxford（牛津大学牛津-曼定量金融研究所）；Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究所）
我们介绍了动量Transformer，这是一种基于注意力的深度学习架构，其表现优于基准时间序列动量和均值回归交易策略。与最先进的长短期记忆（LSTM）架构不同，LSTM架构本质上是顺序的，并为本地处理量身定制，注意力机制为我们的架构提供了与所有先前时间步的直接连接。我们的架构是注意力-LSTM的混合体，使我们能够学习长期依赖关系，在考虑交易成本的净回报时提高性能，并自然适应新的市场机制，例如在SARS-CoV-2危机期间。通过引入多个注意头，我们可以捕捉并发政权，或时间动态，这是发生在不同的时间尺度。动量Transformer具有内在的可解释性，为我们提供了对深度学习动量交易策略的更深入见解，包括不同因素随时间的重要性以及对模型最重要的过去时间步长。
2022-11-22 cs.LG q-fin.TR stat.ML
Interpretable Graph Convolutional Neural Networks for Inference on Noisy Knowledge Graphs
BenevolentAI（仁爱AI）
在这项工作中，我们提供了一个新的配方图卷积神经网络（GCNN）的链接预测的图形数据，解决了生物医学知识图谱（KG）的共同挑战。我们将正则化的注意力机制引入GCNN，不仅提高了干净数据集的性能，而且还有利地适应KG中的噪声，这是现实世界应用中普遍存在的问题。此外，我们探索了可解释建模的新可视化方法，并说明了如何利用学习的表示来自动化数据集去噪。结果显示在一个合成数据集，共同的基准数据集FB 15 k-237，和一个大型的生物医学知识图谱来自噪声和干净的数据源的组合。使用这些改进，我们可视化了一个学习模型的疾病囊性纤维化的代表性，并演示了如何询问神经网络，以显示PPARG作为类风湿性关节炎的候选治疗靶点的潜力。
2018-12-01 cs.LG stat.ML
Augmenting Interpretable Knowledge Tracing by Ability Attribute and Attention Mechanism
Harbin Normal University（哈尔滨师范大学）
知识追踪的目的是通过对学生过去的答案序列进行建模，跟踪学生在练习活动中知识获取的变化，并预测他们未来的学习成绩。大多数现有的方法忽略了学生的能力是不断变化的或个体之间的差异，并且缺乏模型预测的可解释性。为此，本文提出了一种基于能力属性和注意力机制的新模型。首先对交互序列进行分段，获取学生的能力属性，然后动态地将学生分配到能力相近的组中，并通过计算练习与技能之间的注意力权重来量化练习与技能的相关性，以增强模型的可解释性。我们进行了广泛的实验，并评估了真实的在线教育数据集。结果表明，该模型的预测性能优于5种典型的知识追踪模型，并通过推理路径对模型预测结果进行了解释。
2023-02-04 cs.LG
CardioPatternFormer: Pattern-Guided Attention for Interpretable ECG Classification with Transformer Architecture
Eskisehir Technical University（埃斯基谢希尔技术大学）
针对 ECG 智能解读的黑盒问题，提出基于 Transformer 的 CardioPatternFormer，以模式引导注意力识别多病理信号并提供可视化解释。
2025-05-26 cs.AI cs.LG eess.SP
Technical Indicator Networks (TINs): An Interpretable Neural Architecture Modernizing Classic al Technical Analysis for Adaptive Algorithmic Trading
Independent Researcher（独立研究者）
技术指标网络（TINs）通过将传统技术指标逻辑转化为可训练和可解释的模块，为算法交易提供了一种可解释、适应性和可扩展的神经架构。
2025-12-13 cs.LG q-fin.PM
Interpretable Neural Architecture Search via Bayesian Optimisation with Weisfeiler-Lehman Kernels
University of Oxford（牛津大学）
目前的神经结构搜索（NAS）策略只关注于找到一个单一的，好的，架构。它们几乎无法解释为什么特定的网络表现良好，或者如果我们想要进一步改进，我们应该如何修改架构。我们提出了一个贝叶斯优化（BO）的NAS方法，结合Weisfeiler-Lehman图形内核与高斯过程代理。我们的方法优化的架构，在一个高度的数据效率的方式：它是能够捕获的拓扑结构的架构，并可扩展到大型图形，从而使高维和图形的搜索空间服从BO。更重要的是，我们的方法通过发现有用的网络特征及其对网络性能的相应影响来提供可解释性。事实上，我们的经验表明，我们的代理模型是能够识别有用的图案，可以指导新架构的生成。我们最后表明，我们的方法优于现有的NAS方法，以实现最先进的封闭和开放域搜索空间。
2021-02-19 cs.LG stat.ML
Interpretable neural architecture search and transfer learning for understanding CRISPR/Cas9 off-target enzymatic reactions
Cedars-Sinai Medical Center（西达赛奈医学中心）；Flatiron Institute（熨斗研究所）；New York University（纽约大学）；Princeton University（普林斯顿大学）
提出 Elektrum 框架，通过可解释神经架构搜索与迁移学习结合体外动力学数据和体内上下文数据，实现对 CRISPR-Cas9 脱靶编辑概率的先进预测。
2023-09-29 cs.LG q-bio.MN
ALICE: An Interpretable Neural Architecture for Generalization in Substitution Ciphers
Princeton University（普林斯顿大学）
ALICE是一种仅编码器Transformer架构，通过Gumbel-Sinkhorn双射解码头实现替换密码的高效解密与可解释性，仅用1500个密码训练即可泛化，并揭示分层推理策略。
2025-09-25 cs.AI cs.CL cs.CR
Interpretable Foreground Object Search As Knowledge Distillation
Alibaba Group（阿里巴巴集团）；Simon Fraser University（西蒙弗雷泽大学）
提出了一种用于前景对象搜索的知识蒸馏方法。给定一个背景和一个指定前景位置和比例的矩形，FoS会检索某个类别中的兼容前景，以便稍后进行图像合成。同一类别中的前景可以分为少量模式。每个模式中的查询都与任何查询输入兼容，可以互换。这些实例被称为可互换前景。我们首先提出了一个管道来构建模式级的FoS数据集包含可互换前景的标签。然后，我们建立了一个基准数据集，以便在管道之后进行进一步的训练和测试。对于所提出的方法，我们首先训练一个前景编码器来学习可互换前景的表示。然后，我们训练查询编码器学习查询前景兼容性以下的知识蒸馏框架。它旨在从可互换的前景中转移知识，以监督相容性的表示学习。查询特征表示被投影到与可互换前景相同的潜在空间，从而实现非常高效且可解释的实例级搜索。此外，模式级搜索是可行的，以检索更可控，合理和多样化的前景。所提出的方法优于以前的国家的最先进的10.42%的绝对差异和24.06%的平均平均精度（mAP）评价的相对改善。大量的实验结果也从多个方面证明了其有效性。基准数据集和代码将很快发布。
2020-07-22 cs.CV
FlowMixer: A Depth-Agnostic Neural Architecture for Interpretable Spatiotemporal Forecasting
New York University in Abu Dhabi（纽约大学阿布扎赫尔分校）；New York University Abu Dhabi（纽约大学阿布扎赫尔分校）；Brooklyn, USA（布鲁克林，美国）
FlowMixer通过约束矩阵运算建模结构化时空模式，结合可逆映射框架实现可解释的时空预测，通过Kronecker-Koopman特征模式直接操控预测时间跨度，无需重新训练。
2026-05-16 cs.LG
FE-MCFormer: a novel time-frequency interpretable architecture for machinery fault diagnosis under strong noise environments
School of Energy and Power Engineering（能源与动力工程学院）；State Key Lab of Structural Analysis, Optimization and CAE Software for Industrial Equipment（结构分析、优化与工业设备CAE软件国家重点实验室）；Provincial Key Lab of Digital Twin for Industrial Equipment（工业设备数字孪生省级重点实验室）；College of Arts and Sciences, Clayton State University（艺术与科学学院，克莱顿州立大学）；Shenyang Blower Works Group Corporation（沈阳风机集团有限公司）
针对强噪声环境下机械故障诊断问题，提出FE-MCFormer框架，通过频率自适应学习层抑制噪声、保留故障特征，用多尺度时频融合架构捕捉特征交互，实验证明该方法在低信噪比下诊断性能稳定且可解释。
2026-07-22 cs.CV eess.SP
Interpretable Deep Recurrent Neural Networks via Unfolding Reweighted $\ell_1$-$\ell_1$ Minimization: Architecture Design and Generalization Analysis
Vrije Universiteit Brussel（布鲁塞尔自由大学）
深度展开方法--例如，学习迭代收缩阈值算法（LISTA）--将深度神经网络设计为优化方法的学习变体。这些网络已被证明比原始优化方法实现更快的收敛和更高的精度。在这方面的研究中，本文通过重新加权的$\ell_1$ - $\ell_1$最小化算法的展开，开发了一种新的深度递归神经网络（重新加权的RNN），并将其应用于序列信号重构的任务。据我们所知，这是第一个探索重新加权最小化的深度展开方法。由于底层的重新加权最小化模型，我们的RNN对每层中的每个隐藏单元具有不同的软阈值函数（别名，不同的激活函数）。此外，由于过度参数化的权重，它比现有的深度展开RNN模型具有更高的网络表达能力。重要的是，我们建立了理论泛化误差界建议reweighted-RNN模型的Rademacher复杂性。边界表明，所提出的reweighted-RNN的参数化，确保良好的推广。我们将所提出的重加权RNN应用于从低维测量值重建视频帧的问题，即顺序帧重建。在移动MNIST数据集上的实验结果表明，所提出的深度重加权RNN显著优于现有的RNN模型。
2020-03-18 cs.AI cs.LG stat.ML
Exploring Kolmogorov-Arnold Networks for Interpretable Time Series Classification
Department of Communication Systems, Jo z ef Stefan Institute Jamova ulica 39, 1000 Ljubljana, Slovenia
本文利用UCR基准的117个数据集，全面探索了Kolmogorov-Arnold网络（KAN）在时间序列分类中的表现，发现Efficient KAN在性能、训练速度和稳定性上优于MLP，并兼顾了高准确率与透明可解释性。
2025-11-01 cs.LG
NAS-FM: Neural Architecture Search for Tunable and Interpretable Sound Synthesis based on Frequency Modulation
Hong Kong Baptist University（香港浸会大学）；Hong Kong University of Science and Technology（香港科技大学）；Microsoft Research Asia（微软亚洲研究院）；Hong Kong Institute of Science & Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院）
提出NAS-FM，采用神经架构搜索自动构建可微分频率调制合成器，无需专家知识即可从声音自动开发可调谐且可解释的合成器，实验证明其优于手工合成器。
2023-05-22 cs.AI cs.CL cs.LG
BIRDNet: Mining and Encoding Boolean Implication Knowledge Graphs as Interpretable Deep Neural Networks
BITS Pilani, K K Birla Goa Campus（BITS 印度 Goa 分校）
提出BIRDNet，通过挖掘特征间的布尔蕴含关系并编码为稀疏可解释神经网络，在保持高精度的同时大幅减少参数，并在转录组和蛋白质组数据中恢复已知生物学特征。
2026-08-25 cs.AI cs.LG cs.NE
Knowledge Distillation to Ensemble Global and Interpretable Prototype-Based Mammogram Classification Models
Australian Institute for Machine Learning, The University of Adelaide（阿德莱德大学澳大利亚机器学习研究所）；St Vincent’s Institute of Medical Research（圣文森特医学研究所）；St Vincent’s Hospital Melbourne（墨尔本圣文森特医院）
最先进的（SOTA）深度学习乳房X线照片分类器，使用弱标记图像进行训练，通常依赖于全局模型，这些模型产生的预测具有有限的可解释性，这是其成功转化为临床实践的关键障碍。另一方面，基于原型的模型通过将预测与训练图像原型相关联来提高可解释性，但它们不如全局模型准确，并且它们的原型往往具有较差的多样性。我们通过BRAIxProtoPNet++的建议来解决这两个问题，该建议通过将其与基于原型的模型集成来增加全局模型的可解释性。BRAIxProtoPNet++在训练基于原型的模型时提取全局模型的知识，目的是提高集成的分类精度。此外，我们提出了一种方法，以增加原型的多样性，保证所有的原型与不同的训练图像。在弱标记私有和公共数据集上的实验表明，BRAIxProtoPNet++比SOTA全局模型和基于原型的模型具有更高的分类准确率。使用病变定位来评估模型的可解释性，我们表明BRAIxProtoPNet++比其他基于原型的模型和全局模型的事后解释更有效。最后，我们证明了BRAIxProtoPNet++学习的原型的多样性优于基于SOTA原型的方法。
2023-01-08 cs.CV
ODMTCNet: An Interpretable Multi-view Deep Neural Network Architecture for Image Feature Representation
Ryerson University（瑞尔森大学）
通过将统计机器学习（SML）原理与深度神经网络（DNN）架构相结合，提出了一种可解释的多视图深度神经网络架构，即最优判别多视图张量卷积网络（ODMTCNet）。
2021-10-28 cs.CV
Visualisation and knowledge discovery from interpretable models
Bernoulli Institute, University of Groningen（格罗宁根大学伯努利研究所）；School of Computer Science, University of Birmingham（伯明翰大学计算机学院）
越来越多影响人类生活的部门正在使用机器学习（ML）工具。因此，了解其工作机制并评估其决策公平性的需求变得至关重要，从而迎来了可解释AI（XAI）时代。在这篇文章中，我们介绍了一些本质上可解释的模型，除了从数据集中提取知识和关于问题之外，这些模型还能够处理缺失值。这些模型还能够可视化分类器和决策边界：它们是学习矢量量化的基于角度的变体。我们已经在一个合成数据集和一个真实世界的数据集（来自UCI存储库的心脏病数据集）上演示了该算法。新开发的分类器有助于研究UCI数据集作为多类问题的复杂性。开发的分类器的性能与文献中报道的数据集，具有额外的可解释性的值，当数据集被视为一个二进制类的问题。
2020-05-08 cs.AI cs.CV cs.LG
Interpretable Visual Question Answering Referring to Outside Knowledge
Hokkaido University（北海道大学）
我们提出了一种新的多模态可解释的VQA模型，可以更准确地回答这个问题，并产生不同的解释。虽然研究人员已经提出了几种方法，可以生成人类可读和细粒度的自然语言句子来解释模型的决定，但这些方法只关注图像中的信息。理想情况下，模型应该参考图像内部和外部的各种信息来正确地生成解释，就像我们日常使用背景知识一样。该方法结合了来自外部知识和多个图像标题的信息，以增加模型可用信息的多样性。本文的贡献是构建一个可解释的视觉问答模型，使用多模态输入，以提高生成结果的合理性。实验结果表明，我们的模型可以优于国家的最先进的方法，答案的准确性和解释的合理性。
2023-03-08 cs.CV
ICED: Concept-level Machine Unlearning via Interpretable Concept Decomposition
Fujian Normal University（福建师范大学）；Nanyang Technological University（南洋理工大学）；University of New South Wales（新南威尔士大学）；Data61 CSIRO（Data61澳大利亚联邦科学与工业研究组织）
本文提出ICED框架，通过多模态大语言模型构建任务特定概念词汇，实现VLMs中概念级去学习，有效去除目标知识并保留非目标语义，实验表明其在目标遗忘和模型效用方面表现优异。
2026-05-15 cs.AI cs.CV cs.LG
MGA-VQA: Secure and Interpretable Graph-Augmented Visual Question Answering with Memory-Guided Protection Against Unauthorized Knowledge Use
Ohio State University（俄亥俄州立大学）；Flairsoft（Flairsoft公司）
MGA-VQA通过整合图增强推理和记忆引导机制，实现了更安全且可解释的文档视觉问答系统，提升了准确性和效率。
2025-11-22 cs.AI cs.CV
SPK: Eliciting Structured Prior Knowledge for Interpretable Out-of-Distribution Detection in Real-Time Object Detection
本研究提出SPK框架，从预训练目标检测器中引出结构化先验知识，构建五维表示实现最先进的分布外检测，揭示预训练检测器蕴含丰富潜在知识，为提升目标检测器可靠性提供新路径。
2026-08-20 cs.CV cs.LG
Deep interpretable architecture for plant diseases classification
USTHB University（USTHB大学）；University of Mons（蒙斯大学）；Mohamed El Bachir El Ibrahimi University（穆罕默德·巴希尔·易卜拉希米大学）；Setif 1 University（塞蒂夫第一大学）
最近，许多作品的灵感来自于深度学习在计算机视觉中用于植物病害分类的成功。不幸的是，这些端到端的深度分类器缺乏透明度，这可能会限制它们在实践中的采用。在本文中，我们提出了一种新的可训练的可视化方法，植物病害分类的基础上的卷积神经网络（CNN）架构组成的两个深分类器。第一个叫老师，第二个叫学生。该体系结构利用多任务学习来联合训练教师和学生。然后，教师和学生之间的通信表示被用作代理，以可视化的最重要的图像区域进行分类。这种新的架构产生更清晰的可视化比现有的方法在植物病害的情况下。所有实验都是在包含54306幅植物图像的PlantVillage数据集上完成的。
2019-06-13 cs.CV
Interpretable deformable image registration: A geometric deep learning perspective
Technical University Munich（慕尼黑工业大学）
本文从几何深度学习视角提出可解释的可变形图像配准框架，通过分离特征提取与形变建模、动态感受野和空间连续形变函数实现由粗到精的配准，并在脑部与视网膜配准任务上显著超越现有方法。
2025-03-10 cs.CV cs.LG
RadFormer: Transformers with Global-Local Attention for Interpretable and Accurate Gallbladder Cancer Detection
Indian Institute of Technology Delhi（德里印度理工学院）；Postgraduate Institute of Medical Education & Research（研究生医学教育与研究学院）
我们提出了一种新的深度神经网络架构来学习医学图像分析的可解释表示。我们的架构产生一个全球关注的区域的兴趣，然后学习袋的话风格的深度特征嵌入与本地关注。使用当代Transformer架构将全局和局部特征图相结合，用于从超声（USG）图像中进行高度准确的胆囊癌（GBC）检测。我们的实验表明，我们的模型的检测精度甚至击败人类放射科医生，并主张其作为GBC诊断的第二读者。词包嵌入允许我们的模型被探测，以生成与医学文献中报道的GBC检测一致的可解释的解释。我们表明，该模型不仅有助于理解决策的神经网络模型，但也有助于发现新的视觉功能相关的诊断GBC。源代码和模型将在https://github.com/sbasu276/RadFormer上提供
2022-11-09 cs.CV
MobileDenseAttn:A Dual-Stream Architecture for Accurate and Interpretable Brain Tumor Detection
East Delta University（东三角洲大学）；USTC（中国科学技术大学）；University of Southern Indiana（南印第安纳大学）；East West University（东西大学）
针对MRI脑肿瘤检测人工分析耗时易错、现有方法泛化差等问题，提出MobileDenseAttn双流融合模型，提升特征表示与计算效率，通过GradCAM增强可解释性，在6020张MRI数据上验证，较VGG19准确率提升3.67%、训练时间减少39.3%。
2025-08-22 cs.AI cs.CV
Knowledge-driven AI-generated data for accurate and interpretable breast ultrasound diagnoses
Peking University（北京大学）；Peking University Cancer Hospital & Institute（北京大学肿瘤医院）；Peking Union Medical College Hospital（北京协和医院）；Cancer Hospital, Chinese Academy of Medical Sciences（中国医学科学院肿瘤医院）；Yizhun Medical AI Co., Ltd（医准智能医疗科技有限公司）；Nanchang People’s Hospital（南昌市人民医院）
针对乳腺超声诊断中长尾数据导致罕见病例诊断不准的挑战，提出知识驱动生成模型TAILOR，利用3,749个病灶生成定制合成数据以训练诊断模型，在相同敏感度下特异性超越9名医生平均表现33.5%，并提供可解释的决策过程。
2024-07-23 cs.AI cs.CV cs.HC
MAPUNetR: A Hybrid Vision Transformer and U-Net Architecture for Efficient and Interpretable Medical Image Segmentation
Jamia Millia Islamia (A Central University)（贾米亚·米利亚·伊斯兰亚大学（中央大学））
针对医学图像分割中分辨率保留难、模型透明度低的问题，提出融合Transformer与U-Net优势的MAPUNetR架构，引入注意力图提升准确性与可解释性，在BraTS 2020、ISIC 2018数据集上表现优异，具备临床应用潜力。
2024-10-29 cs.AI cs.CV eess.IV
Towards generating more interpretable counterfactuals via concept vectors: a preliminary study on chest X-rays
School of Computing, Dublin City University（都柏林城市大学计算机学院）；School of Medicine, University College Dublin（都柏林大学医学院）
本文提出利用概念激活向量在自编码器潜在空间中生成胸部X光片反事实图像，实现与临床知识一致的可解释性解释，初步验证了对较大病理的有效性。
2025-06-04 cs.AI cs.CV eess.IV
Interpretable Convolutional Neural Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
提出了一种将传统的卷积神经网络（CNN）改造为可解释的CNN的方法，以明确CNN高层的知识表示。在可解释的CNN中，高conv层中的每个滤波器表示特定的对象部分。我们不需要任何对象部分或纹理的注释来监督学习过程。相反，可解释的CNN在学习过程中自动为高conv层中的每个滤波器分配对象部分。我们的方法可以应用于具有不同结构的不同类型的CNN。可解释的CNN中清晰的知识表示可以帮助人们理解CNN内部的逻辑，即，基于CNN做出决定的模式。实验表明，可解释的CNN中的过滤器比传统CNN中的过滤器在语义上更有意义。
2018-02-14 cs.CV
SurfDist: Interpretable Three-Dimensional Instance Segmentation Using Curved Surface Patches
Weill Institute of Neurosciences University of California, San Francisco（韦尔神经科学研究所 旧金山大学）
本研究提出三维实例分割模型SurfDist，基于双三次贝塞尔三角形曲面片表示实例，改进StarDist-3D架构以解耦参数化维度与体素分辨率，在团块状实例数据集上以更紧凑参数化实现更优性能，验证了可解释曲面模型与实例隶属度协同学习的有效性。
2025-10-03 cs.CV
