From Weight Perturbation to Feature Attribution for Explaining Fully Connected Neural Networks
NCSR Demokritos（德米克里托斯研究所）
本文提出通过扰动特征权重而非值来估计特征归因，改进了Occlusion方法的局限性，提出XWP和XWP_c两种新方法，在简单DNN中表现优异，为模型可解释性提供稳健框架。
2026-05-14 cs.LG
Certified $\ell_2$ Attribution Robustness via Uniformly Smoothed Attributions
School of Computer Science and Engineering（计算机科学与工程学院）；Nanyang Technological University（南洋理工大学）
本文提出均匀平滑归因方法，为 $\ell_2$ 扰动下的归因余弦相似度提供可证明下界，并在三个数据集上验证其跨架构与训练方案的防御效果。
2024-05-10 cs.LG
Attributions Beyond Neural Networks: The Linear Program Case
TU Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））
线性规划（LP）一直是机器学习中的构建块之一，并支持学习系统的可微优化器的最新进展。虽然存在甚至高维LP的求解器，但理解所述高维解构成了正交和未解决的问题。我们介绍了一种方法，我们认为神经编码的LP证明应用归因方法从可解释的人工智能（XAI）设计的神经学习系统。我们提出的几个编码函数考虑了决策空间的可行性、每个输入的成本或到特殊兴趣点的距离等方面。我们研究了几种XAI方法对神经LP编码的数学后果。我们的经验表明，归因方法显着性和石灰揭示不可区分的结果扰动水平，我们提出的属性的显着性和石灰之间的主要判别标准，一方面，和扰动为基础的特征置换方法的属性。定向性表示属性方法是否针对该特征的增加给出特征属性。我们进一步注意到，基线选择问题超出了经典的计算机视觉设置为集成组件。
2022-06-14 cs.LG
Towards Faithful Neural Network Intrinsic Interpretation with Shapley Additive Self-Attribution
HKUST (Guangzhou)（香港科技大学（广州））；BOSS Zhipin（BOSS直聘）
针对自解释神经网络理论保证不足或表达能力受限的问题，提出 SASANet，通过边际贡献序列机制与内部蒸馏训练实现等于输出 Shapley 值的忠实自归因，并取得优于自归因模型、可比黑盒模型的解释与预测效果。
2023-09-27 cs.LG
Generative Perturbation Analysis for Probabilistic Black-Box Anomaly Attribution
IBM Research（IBM研究院）
本文针对黑盒回归中的概率异常归因问题，提出基于反事实扰动的生成式框架，并用变分贝叶斯算法估计各变量归因分数分布，克服了Shapley值等方法的偏离无关缺陷。
2023-08-09 cs.AI cs.LG
Interpreting Attributions and Interactions of Adversarial Attacks
Shanghai Jiao Tong University（上海交通大学）
本文的目的是解释对抗攻击方面的对抗扰动如何有助于攻击任务。根据Shapley值估计图像不同区域对攻击代价降低的贡献。我们定义并量化了对抗扰动像素之间的相互作用，并将整个扰动图分解为相对独立的扰动分量。扰动图的分解表明，经过逆向训练的DNN在前景中比经过正常训练的DNN具有更多的扰动分量。此外，与正常训练的DNN相比，对抗训练的DNN具有更多的成分，这些成分主要降低了真实类别的得分。上述分析为理解对抗攻击提供了新的视角。
2021-08-16 cs.AI cs.CV cs.LG
Local Additive Feature Attribution: A Mathematical Taxonomy and Reporting Checklist
该研究围绕五个规范选择组织多种局部加法特征归因方法，通过公理矩阵比较，将常见失败模式与假设关联，为使用局部加法归因的研究提出十项报告清单，强调归因结果依数学假设而定且假设应报告
2026-07-17 cs.AI cs.LG
Interpreting and Understanding Graph Convolutional Neural Network using Gradient-based Attribution Method
Central South University（中南大学）
为了解决卷积神经网络（CNN）难以处理图等非网格型关系数据的问题，Kipf等人提出了图卷积神经网络（GCN）。GCN的核心思想是在每次迭代中对给定图中的每个节点进行双重信息融合：图结构信息的融合和节点特征维度的融合。由于GCN具有组合泛化的特点，在场景语义关系分析、自然语言处理和少样本学习等领域得到了广泛的应用。但由于其双重信息融合涉及数学不可逆计算，很难解释每个节点分类预测的决策原因。遗憾的是，大多数现有的归因分析方法集中在像CNN这样的模型上，这些模型用于处理网格状数据。这些分析方法很难直接应用于GCN。这是因为与CNN输入数据之间的独立性相比，GCN输入数据之间存在相关性。这导致现有的属性分析方法只能得到中心节点特征对GCN最终决策的部分模型贡献，而忽略了中心节点特征及其邻居节点特征对该决策的其他模型贡献。为此，我们提出了一种GCN的梯度属性分析方法--节点属性方法（NAM），该方法不仅可以得到中心节点的模型贡献，还可以得到其邻居节点对GCN输出的模型贡献。我们还提出了节点重要性可视化（NIV）方法，根据贡献值将中心节点及其邻居节点可视化..
2019-04-16 cs.LG
Feature Attribution with Necessity and Sufficiency via Dual-stage Perturbation Test for Causal Explanation
School of Computer Science, Guangdong University of Technology（广东工业大学计算机学院）；Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））；University of Cambridge（剑桥大学）；Shantou University（汕头大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对特征归因方法在预测变化相似时难以区分特征贡献的问题，提出FANS方法，通过双阶段扰动测试计算必要性与充分性概率（PNS）作为特征重要性，在六个基准上优于现有方法。
2024-06-04 cs.LG stat.ME
Reliable Evaluation of Attribution Maps in CNNs: A Perturbation-Based Approach
Fraunhofer ITWM（弗劳恩霍夫信息技术与微系统研究所）；Offenburg University（奥芬堡大学）
本文针对CNN归因图评估中插入/删除指标易受分布偏移影响的问题，提出用对抗性扰动替代像素修改的稳健评估框架，并通过全面实验证明SmoothGrad在16种归因图中表现最佳。
2024-11-22 cs.AI cs.CV cs.LG
Feature Attribution Stability Suite: How Stable Are Post-Hoc Attributions?
The George Washington University（乔治华盛顿大学）
本文提出FASS基准，通过预测不变过滤分解稳定性为结构相似度、排名相关性和top-k Jaccard重叠，评估四种归因方法在不同扰动下的稳定性，发现几何扰动比光度扰动更具不稳定性。
2026-04-02 cs.AI cs.CV cs.LG
Estimating the Adversarial Robustness of Attributions in Text with Transformers
IBM Research Zurich（IBM苏黎世研究院）；École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
推理是深度神经网络（DNN）分类器的重要组成部分。在高风险应用中，忠实和强大的解释对于理解和获得DNN分类器的信任非常重要。然而，最近的工作表明，文本分类器中最先进的归因方法容易受到难以察觉的对抗性扰动的影响，这些扰动会显着改变解释，同时保持正确的预测结果。如果未被发现，这可能会严重误导DNN的用户。因此，理解这种对抗性扰动对网络解释及其可感知性的影响至关重要。在这项工作中，我们建立了一个新的定义属性鲁棒性（AR）的文本分类，基于Lipschitz连续性。重要的是，它反映了由对抗性输入变化引起的归因变化和这种变化的可感知性。此外，我们引入了一系列文本相似性度量，以有效地捕获两个文本样本之间的局部性和文本中对抗性扰动的不可感知性。然后，我们提出了我们的新的transformeradminationattack（TEA），一个强大的对手，提供了一个严格的估计属性的鲁棒性在文本分类。TEA使用最先进的语言模型来提取单词替换，从而产生流畅的上下文对抗样本。最后，通过对几种文本分类架构的实验，我们表明TEA始终优于当前最先进的AR估计器，产生的扰动在更大程度上改变了解释，同时更流畅，更不易察觉。
2022-12-18 cs.AI cs.LG
On the Robustness of Removal-Based Feature Attributions
University of Washington（华盛顿大学）；Stanford University（斯坦福大学）
本文从理论上统一分析了基于移除的特征归因方法在输入和模型扰动下的鲁棒性，推导出归因差异上界，并通过实验证明改善模型Lipschitz正则性可提升归因鲁棒性。
2023-10-30 cs.LG stat.ML
Fast Axiomatic Attribution for Neural Networks
TU Darmstadt（达姆施塔特工业大学）
减轻对训练数据集中存在的虚假相关性的依赖是深度学习的一个快速出现的重要主题。最近的方法包括将深度神经网络（DNN）的特征属性的先验信息纳入训练过程，以减少对不需要的特征的依赖。然而，到目前为止，人们需要权衡高质量的归因，满足理想的公理，对计算它们所需的时间。这反过来又导致了长时间的训练或无效的归因先验。在这项工作中，我们打破了这种权衡，考虑一类特殊的高效公理化归因的DNN，其中一个公理化的功能属性可以计算只有一个单一的向前/向后通过。我们正式证明，非负齐次DNN，这里称为$\mathcal{X}$ -DNN，是有效的公理归因，并表明，他们可以毫不费力地从广泛的常规DNN构造简单地删除每一层的偏置项。各种实验证明了$\mathcal{X}$ -DNN的优势，击败了常规DNN上最先进的通用归因方法，用于使用归因先验进行训练。
2021-11-15 cs.CV cs.LG
Class-Dependent Perturbation Effects in Evaluating Time Series Attributions
Information Systems, Eindhoven University of Technology, Eindhoven, The Netherlands Eindhoven Artificial Intelligence Systems Institute, Eindhoven University of Technology, Eindhoven, The Netherlands Human-Technology Interaction, Eindhoven University of Technology, Eindhoven, The Netherlands
本研究通过实证分析揭示时间序列特征归因的扰动评估存在类依赖效应，并提出带类感知惩罚项的评估框架以更准确衡量归因质量。
2025-04-01 cs.AI cs.LG stat.ML
Why Do Class-Dependent Evaluation Effects Occur with Time Series Feature Attributions? A Synthetic Data Investigation
Information Systems, Eindhoven University of Technology, Eindhoven, The Netherlands（信息系统，埃因霍温理工大学，埃因霍温，荷兰）；Eindhoven Artificial Intelligence Systems Institute, Eindhoven University of Technology, Eindhoven, The Netherlands（埃因霍温人工智能系统研究所，埃因霍温理工大学，埃因霍温，荷兰）；Human-Technology Interaction, Eindhoven University of Technology, Eindhoven, The Netherlands（人机交互，埃因霍温理工大学，埃因霍温，荷兰）
本文通过合成时间序列数据研究了类依赖性评估效应的成因，发现归因方法在不同类别间评估结果差异显著，且扰动指标与真实指标评估结果不一致，提示需重新审视归因评估的衡量标准。
2025-07-24 cs.AI cs.LG
Towards better understanding of gradient-based attribution methods for Deep Neural Networks
ETH Zurich（苏黎世联邦理工学院）；University Zürich（苏黎世大学）；Institute of Neuroinformatics（神经信息学研究所）
理解深度神经网络（DNN）中的信息流是一个具有挑战性的问题，在过去几年中受到了越来越多的关注。虽然已经提出了几种方法来解释网络预测，但从理论角度比较它们的尝试很少。更重要的是，在过去没有进行详尽的实证比较。在这项工作中，我们分析了四个基于梯度的属性方法，并正式证明了它们之间的等价性和近似性的条件。通过重新制定这些方法中的两个，我们构建了一个统一的框架，使直接比较，以及更容易实现。最后，我们提出了一种新的评价指标，称为灵敏度-n和测试的梯度为基础的属性方法，以及一个简单的扰动为基础的属性方法在几个数据集的图像和文本分类领域，使用各种网络架构。
2018-03-07 cs.LG stat.ML
Maximizing Invariant Data Perturbation with Stochastic Optimization
Osaka University（大阪大学）
特征归因方法或显着图是解释复杂机器学习模型（如深度神经网络）决策的最流行方法之一。在这项研究中，我们提出了一个随机最优化方法的扰动为基础的特征属性的方法。而原来的优化问题的扰动为基础的特征属性是很难解决的，因为复杂的约束条件，我们建议重新制定的问题作为一个可微函数的最大化，这可以使用基于梯度的算法来解决。特别是，随机最优化是非常适合所提出的重新制定，我们可以解决这个问题，使用流行的算法，如SGD，RMSProp和亚当。使用VGG 16进行图像分类的实验表明，该方法可以有效地识别图像的相关部分。
2018-07-16 cs.LG stat.ML
Fast Fourier Correlation is a Highly Efficient and Accurate Feature Attribution Algorithm from the Perspective of Control Theory and Game Theory
School of Computer Science（计算机科学学院）；Wuhan University（武汉大学）；Brain Research Center Second Clinical School（脑科学研究中心第二临床学院）
针对神经网络所学傅里叶特征缺乏明确归因方法的问题，提出基于信号分解理论的新型傅里叶特征归因方法，实验证明其仅需少量特征即可维持高准确率且具更强类间区分度。
2025-07-15 cs.LG
Visual Reasoning of Feature Attribution with Deep Recurrent Neural Networks
Fuji Xerox Co Ltd（富士施乐有限公司）；University of California Davis（加州大学戴维斯分校）
深度递归神经网络（RNN）在许多序列分类任务中得到了普及。除了为每个数据实例预测正确的类之外，数据科学家还希望了解数据中的哪些差异化因素在学习过程中对分类做出了贡献。我们提出了一种可视化分析方法，通过揭示RNN对所有数据实例的关注，它们在序列中的时间位置以及每个值级别的变量属性来促进这项任务。我们用真实世界的数据集证明，我们的方法可以帮助数据科学家从训练结果中理解深度RNN中的这种动态，从而指导他们的建模过程。
2019-01-17 cs.HC cs.LG
Forecasting Is Not Attribution: Localizing Decoder Bypass in Graph-Based Neural Marketing Mix Models
University of California, Irvine（加州大学尔湾分校）；AdsGency AI
针对基于图的神经营销组合模型中预测精度高但归因失败的问题，提出DICE-MMM框架，通过限制解码器通信路径来诊断和定位归因旁路，实验表明低预测误差不能保证归因正确性。
2026-06-12 cs.LG
Making Neural Networks Interpretable with Attribution: Application to Implicit Signals Prediction
Deezer Research（Deezer 研究院）
解释建议使用户能够了解推荐的项目是否与他们的需求相关，并已被证明可以增加他们对系统的信任。更一般地说，如果设计可解释的机器学习模型是检查决策过程的健全性和鲁棒性并提高其效率的关键，那么对于复杂的架构，特别是通常被认为是“黑匣子”的深度神经网络，这仍然是一个挑战。在本文中，我们提出了一种新的可解释的深层神经网络的归因任务的制定。与流行的事后方法不同，我们的方法是可解释的设计。使用掩码权重，隐藏的特征可以被深度归因，分成几个输入受限的子网络，并训练为专家的增强混合专家模型。在合成数据和真实世界推荐任务上的实验结果表明，我们的方法能够构建模型，实现与不可解释的模型接近的预测性能，同时提供信息丰富的归因解释。
2020-08-26 cs.LG stat.ML
Importance attribution in neural networks by means of persistence landscapes of time series
Universitat de Barcelona（巴塞罗那大学）
我们提出并实现了一种方法来分析时间序列的神经网络使用矩阵的面积归一化持久性景观通过拓扑数据分析。我们在网络的架构中包括一个门控层，它能够识别分类任务的最相关景观级别，从而作为一个重要性归因系统。接下来，我们执行选定的景观功能和原始时间序列的相应的临界点之间的匹配。通过这种匹配，我们能够重建时间序列的近似形状，从而深入了解分类决策。我们用来自心电图信号数据集的输入数据测试这种技术。
2023-02-06 cs.LG math.AT
Style-aware Neural Model with Application in Authorship Attribution
University of Central Florida（中佛罗里达大学）
写作风格是与特定作者在不同语言产生水平（包括词汇，句法和结构）相关的一致决定的组合。在本文中，我们引入了一个风格感知的神经模型编码的文档信息从三个风格层次和评估它在域的作者归属。首先，我们提出了一个简单的方法来共同编码句子的句法和词汇表示。随后，我们采用了基于注意力的分层神经网络来编码文档中句子的句法和语义结构，同时奖励那些对捕捉写作风格贡献更大的句子。我们的实验结果，四个基准数据集的基础上，揭示了编码文档信息的好处，从所有三个文体水平相比，在文献中的基线方法。
2019-09-12 cs.CL cs.LG
Negative Flux Aggregation to Estimate Feature Attributions
Wayne State University（韦恩州立大学）
针对深度神经网络可解释性难题，提出基于散度定理的负通量聚合（NeFLAG）方法，无需代理模型或梯度路径积分，高效生成更忠实的特征归因图，实验验证其优越性能。
2023-05-13 cs.LG
MFABA: A More Faithful and Accelerated Boundary-based Attribution Method for Deep Neural Networks
The University of Sydney（悉尼大学）；SuZhouYierqi（苏州义尔齐）；University of Malaya（马来亚大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）；Wayne State University（韦恩州立大学）；University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出MFABA，一种遵循公理的边界归因方法，用于解释深度神经网络，通过理论证明和实验验证，其速度比最先进算法快101.5142倍以上，并开源实现。
2023-12-21 cs.CV cs.LG
Attribution and Obfuscation of Neural Text Authorship: A Data Mining Perspective
Penn State University（宾夕法尼亚州立大学）；University of Mississippi（密西西比大学）
作者身份归属（AA）和作者身份混淆（AO）是隐私研究中两个日益引起兴趣和重要性的相互关联的研究问题。给定一个工件，特别是一个有问题的文本t，AA解决方案的目标是准确地将t归因于许多候选作者中的真实作者，而AO解决方案的目标是修改t以隐藏其真实作者。传统上，作者身份的概念及其伴随的隐私问题只针对人类作者。然而，近年来，由于NLP中神经文本生成（NTG）技术的爆炸性进步，能够合成人类质量的开放式文本（所谓的“神经文本”），人们现在必须考虑人类，机器或其组合的作者。由于神经文本在恶意使用时的影响和潜在威胁，了解传统AA/AO解决方案的局限性并开发新的AA/AO解决方案来处理神经文本变得至关重要。因此，在这项调查中，我们从数据采掘的角度对神经文本作者的归属和混淆的最新文献进行了全面的回顾，并分享了我们对他们的局限性和有前途的研究方向的看法。
2023-03-13 cs.CL cs.LG
A Multi-task Neural Approach for Emotion Attribution, Classification and Summarization
Fudan University（复旦大学）；Baidu Research（百度研究院）；Jilian Technology Group (Video++)（极链科技集团（Video++））
情感内容是用户生成视频的关键成分。然而，视频中情感表达的稀疏性给视觉情感分析带来了障碍。在本文中，我们提出了一种新的神经方法，双流情感归因分类网络（BEAC-Net），解决三个相关的情感分析任务：情感识别，情感归因和面向情感的总结，在一个单一的集成框架。BEAC-Net有两个主要组成部分，一个属性网络和一个分类网络。归因网络提取分类应该关注的主要情感片段，以减轻稀疏性问题。分类网络利用提取的片段和原始视频在一个双流架构。我们为情感归因任务贡献了一个新的数据集，其中包含情感片段的人类注释地面真实标签。两个视频数据集上的实验表明，所提出的框架和双分类流的互补性的优越性能。
2019-07-24 cs.CV cs.LG stat.ML
Four Axiomatic Characterizations of the Integrated Gradients Attribution Method
University of Southern California（南加州大学）
针对深度神经网络黑盒问题，本文提出了 Integrated Gradients 归因方法的四个公理化刻画，证明其是满足不同公理集合的唯一归因方法。
2023-06-23 cs.LG
Visual Summary of Value-level Feature Attribution in Prediction Classes with Recurrent Neural Networks
University of California, Davis（加州大学戴维斯分校）；Zhejiang University（浙江大学）；University of California（加州大学）
深度循环神经网络（RNN）越来越多地用于时间序列的决策。然而，理解RNN模型如何产生最终预测仍然是一个重大挑战。解释用于序列预测的RNN模型的现有工作通常集中在解释单个数据实例的预测（例如，患者或学生）。由于最先进的预测模型是由数百万个参数在数百万个实例中优化而成的，因此解释单个数据实例的预测很容易错过更大的画面。此外，许多性能优异的RNN模型使用多热编码来表示特征的存在/不存在，其中缺少特征值属性的可解释性。我们提出了ViSFA，一个交互式系统，直观地总结了随着时间的推移，不同的特征值的特征属性。ViSFA可扩展到大型数据，例如包含120万个高维时间事件的电子健康记录的MIMIC数据集。我们证明了ViSFA可以帮助我们推理RNN预测，并通过将复杂的归因提炼成紧凑且易于解释的可视化来揭示数据中的见解。
2020-08-21 cs.HC cs.LG
Bayesian Influence Functions for Hessian-Free Data Attribution
Technical University of Munich（慕尼黑技术大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；University of Melbourne（墨尔本大学）；Timaeus
本文提出一种基于贝叶斯影响函数的Hessian-Free方法，用于高效估计深度神经网络参数间的高阶相互作用，并在重训练实验中取得最佳性能。
2026-02-27 cs.LG
ARIA: Adversarially Robust Image Attribution for Content Provenance
EPFL（洛桑联邦理工学院）；Adobe Research（Adobe研究院）；University of Surrey（萨里大学）
图像归属-将图像与可信来源进行匹配-是打击在线错误信息的新兴工具。深度视觉指纹模型最近已被探索用于此目的。然而，它们对被称为对抗性示例的微小输入扰动不鲁棒。首先，我们说明如何生成有效的对抗图像，这很容易导致不正确的图像属性。然后，我们描述了一种通过鲁棒的对比学习来防止对深度视觉指纹模型的不可感知的对抗攻击的方法。所提出的训练过程利用在$\ell_\infty$有界对抗示例上的训练，它在概念上简单并且仅引起小的计算开销。由此产生的模型更加强大，即使在未受干扰的图像上也是准确的，并且即使在具有数百万图像的数据库上也表现良好。特别是，我们实现了91.6%的标准和85.1%的对抗召回下$\ell_\infty$有界扰动操作的图像相比，80.1%和0.0%，从以前的工作。我们还表明，鲁棒性推广到其他类型的不可感知的扰动在训练过程中看不见。最后，我们展示了如何训练一个对抗强大的图像比较器模型，用于检测匹配图像中的编辑变化。
2022-02-25 cs.CV cs.LG
AttributionLab: Faithfulness of Feature Attribution Under Controllable Environments
National University of Singapore（新加坡国立大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；University of Oxford（牛津大学）
本文提出AttributionLab，通过设计网络结构、手动设置权重及设计数据构建可控环境，以解决现有特征归因忠实性测试中模型无法保证仅使用设计特征的问题，为归因方法提供合理性检查与改进分析平台。
2024-02-14 cs.LG
Neural Network Attributions: A Causal Perspective
Johns Hopkins University（约翰斯·霍普金斯大学）；Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
我们提出了一种新的归因方法神经网络开发使用第一原则的因果关系（据我们所知，第一个）。神经网络架构被看作是一个结构因果模型，并提出了一种方法来计算每个功能的因果效果的输出。通过对输入数据因果结构的合理假设，我们提出了有效计算因果效应的算法，并将该方法扩展到大维度数据。我们还展示了这种方法可以用于经常性的神经网络。我们在模拟和真实数据集上报告了实验结果，展示了该算法的前景和实用性。
2019-07-03 cs.LG stat.ML
Character-level and Multi-channel Convolutional Neural Networks for Large-scale Authorship Attribution
Insight Centre for Data Analytics（数据洞察中心）；Aylien Ltd.（Aylien 有限公司）；National University of Ireland, Galway（爱尔兰国立大学戈尔韦分校）
卷积神经网络（CNN）在从计算机视觉的原始信号中提取信息方面表现出优越的能力。最近，字符级和多通道CNN在句子分类任务中表现出了出色的性能。我们将CNN应用于大规模的作者归属，其目的是在许多候选作者中确定未知文本的作者，其动机是处理字符级信号并区分大量类别的能力，同时与最先进的方法相比进行快速预测。我们广泛评估了基于CNN的方法，这些方法利用单词和字符通道，并将它们与最先进的方法进行比较，以获得大范围的作者数量，从而为传统方法提供新的视角。我们发现，字符级CNN在不同领域的五个数据集中有四个数据集上的表现优于最先进的技术。此外，我们还首次将作者归属应用于reddit。
2016-09-21 cs.CL cs.LG
Always Keep Your Promises: A Model-Agnostic Attribution Algorithm for Neural Networks
David R. Cheriton School of Computer Science, University of Waterloo, ON, Canada（滑铁卢大学戴维·R·切里顿计算机科学学院）；Scotiabank AML AI Research, Toronto, ON, Canada（多伦多加拿大Scotiabank反洗钱AI研究）
本文提出DynamicLRP，一种在张量操作层面运行的模型无关LRP框架，通过分解计算图中的属性并引入新的延迟激活解决机制，实现了真正的架构无关性，同时保持了LRP的理论保证，并在多个模型上展示了高准确性与效率。
2026-03-21 cs.LG
Attribution and Uncertainty Behavior of Learned Residual Gyro Correction for Gyro-Stellar Estimation
Robotics Innovation Center, German Research Center for AI (DFKI GmbH)（机器人创新中心，德国人工智能研究中心（DFKI有限公司））；Airbus Defence and Space GmbH（空客防务与航天有限公司）
研究基于深度学习的陀螺仪偏差校正框架的不确定性分解与可解释性，用一维卷积神经网络预测校正，通过模型集合估计认知不确定性，经实验揭示特定轴行为及扰动影响，表明两种不确定性协同良好，为状态估计和故障检测提供见解。
2026-07-28 cs.LG
Discriminative Attribution from Counterfactuals
HHMI Janelia Research Campus（霍华德·休斯医学研究所珍妮莉亚研究园区）；ETH Zürich（苏黎世联邦理工学院）；MRC Laboratory of Molecular Biology（医学研究理事会分子生物学实验室）
我们提出了一种方法，神经网络的可解释性相结合的功能属性与反事实的解释，以生成属性映射，突出对类之间的最有区别的功能。我们表明，这种方法可以用来定量评估性能的特征归属方法在一个客观的方式，从而防止潜在的观察者偏见。我们在三个不同的数据集上评估了所提出的方法，包括具有挑战性的人工数据集和真实世界的生物数据。我们定量和定性地表明，突出显示的特征比使用传统的归因方法提取的特征更具鉴别力，并认为这种类型的解释更适合于理解由深度神经网络学习的细粒度类差异。
2021-09-28 cs.CV cs.LG
A Deep Dive into Perturbations as Evaluation Technique for Time Series XAI
University of Konstanz（康斯坦茨大学）
本文系统分析基于扰动的时间序列 XAI 归因评估方法，在三个分类数据集上比较多种前沿技术，揭示其优劣并指导方法选择。
2023-07-11 cs.AI cs.LG
A Note about: Local Explanation Methods for Deep Neural Networks lack Sensitivity to Parameter Values
Google Inc.（谷歌公司）
局部解释方法，也称为归因方法，将深度网络的预测归因于其输入（参见。Baehrens等人（2010））。我们回应Adebayo等人（2018）的主张，即局部解释方法缺乏敏感性，即，具有随机初始化权重的DNN产生的解释在视觉上和定量上都与具有学习权重的DNN产生的解释相似。进一步的研究表明，他们的发现是由于他们的分析中的两个选择：（a）忽略属性的符号;（b）对于积分梯度（IG），通过选择基线（相对于计算属性的辅助输入），在他们的分析中包括具有零属性的像素。当这两个因素都考虑在内时，随机网络和实际网络的IG属性是不相关的。我们的调查还揭示了这些问题如何影响可视化，尽管我们注意到需要做更多的工作来了解观众如何解释随机和实际归因之间的差异。
2018-06-11 cs.LG stat.ML
Normalized AOPC: Fixing Misleading Faithfulness Metrics for Feature Attribution Explainability
Corti；University of Copenhagen（哥本哈根大学）；IT University of Copenhagen（哥本哈根技术大学）；LUT University（拉普兰大学）
针对AOPC指标在跨模型比较中的误导性问题，提出归一化AOPC（NAOPC），实现一致的忠实度评估，并质疑早期研究结论，提供更稳健的框架。
2025-05-23 cs.LG
A Vulnerability of Attribution Methods Using Pre-Softmax Scores
Northwestern University（西北大学）；DePaul University（德保罗大学）
本文揭示了一类基于预Softmax分数的归因方法存在脆弱性：在保持卷积神经网络分类输出不变的情况下，对模型的微小修改即可显著改变归因解释。
2024-04-09 cs.AI cs.LG
Syntactic Recurrent Neural Network for Authorship Attribution
University of Central Florida（中佛罗里达大学）
写作风格是在语言产生的不同层面上，包括与特定作者（或作者群体）相关的词汇，句法和结构的一致决定的组合。虽然基于词汇的模型在基于风格的文本分类中得到了广泛的研究，但在处理由各种主题组成的异构数据时，依赖于内容的模型的可扩展性较差。另一方面，与内容无关的句法模型对主题变化更鲁棒。在本文中，我们引入了一个句法循环神经网络编码的句法模式的一个层次结构的文件。该模型首先从词性标签序列中学习句子的句法表示。为此，我们利用卷积滤波器和长短期记忆来研究句子中词性标签的短期和长期依赖性。随后，句子的句法表示使用递归神经网络聚合成文档表示。我们在PAN 2012数据集上进行的作者归属任务的实验结果表明，句法循环神经网络在准确率方面比具有相同架构的词汇模型高出约14%。
2019-02-27 cs.CL cs.LG
Concise Explanations of Neural Networks using Adversarial Training
XaiPient；University of Wisconsin (Madison)（威斯康星大学麦迪逊分校）；Google（谷歌）
我们展示了对抗性学习与深度神经网络（DNN）可解释性之间的新联系。根据其输入特征解释神经网络模型的输出的一种形式是特征属性向量。基于属性的解释的两个理想特征是：（1）$\textit{sparseness}$：不相关或弱相关特征的属性应该是可忽略的，从而导致$\textit{concise}$解释的重要特征，以及（2）$\textit{stability}$：它不应该在输入的小的局部邻域内显著变化。我们的第一个贡献是对这两个性质如何进行理论探索（当使用基于集成属性或IG的属性时）与对抗训练有关，用于一类1层网络（包括用于二进制和多类分类的逻辑回归模型）;对于这些网络，我们表明：（a）使用$\ell_\infty$有界对手的对抗训练产生具有稀疏属性向量的模型，以及（b）自然模型训练，同时鼓励稳定的解释（通过损失函数中的额外项），相当于对抗训练。我们的第二个贡献是对现象（a）的实证验证，我们发现，有点令人惊讶的是，发生$\textit{not only}$ $\textit{in 1-layer networks}$，$\textit{but also DNNs}$ $\textit{trained on }$ $\textit{standard image datasets}$，并扩展到基于IG的归因，基于DeepSHAP的归因：与自然训练相比，具有$\ell_\infty$有界扰动…
2020-07-05 cs.LG stat.ML
Improving Neural Retrieval with Attribution-Guided Query Rewriting
IRIT, UMR5505 CNRS Université Toulouse Capitole（IRIT，CNRS 5505 机构，图卢兹大学）；IRIT, UMR5505 CNRS UT2J, Université de Toulouse（IRIT，CNRS 5505 机构，图卢兹大学）
本文提出归因引导的查询重写方法，通过标记级解释指导LLM澄清模糊查询，提升神经检索效果。
2026-02-12 cs.AI cs.IR cs.LG
ML-LOO: Detecting Adversarial Examples with Feature Attribution
University of California, Davis（加州大学戴维斯分校）；University of California, Berkeley（加州大学伯克利分校）；University of California, Los Angeles（加州大学洛杉矶分校）
深度神经网络在一系列任务上获得了最先进的性能。然而，他们很容易通过在输入中添加一个小的对抗性扰动来欺骗。扰动通常是人类在图像数据上察觉不到的。我们观察到一个显着的差异，在功能属性的adversarially制作的例子，从原来的。基于这一观察结果，我们引入了一个新的框架，通过对特征归因得分的尺度估计进行阈值化来检测对抗性示例。此外，我们扩展了我们的方法，包括多层特征属性，以解决混合置信度的攻击。通过大量的实验，我们的方法在最先进的检测方法中，在各种真实数据集上区分对抗性示例和流行的攻击方法方面取得了优异的性能。特别是，我们的方法能够检测混合置信水平的对抗性示例，并在不同的攻击方法之间进行转换。
2019-06-08 cs.CR cs.LG stat.ML
Rethinking Robustness of Model Attributions
Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）；Microsoft Research, Bengaluru（微软研究院班加罗尔分院）
该研究针对现有机器学习模型归因鲁棒性指标不合理、归因易集中的问题，提出结合像素局部性和位置多样性的改进方案，并发现对抗训练模型的归因鲁棒性优势在大数据集上会消失。
2023-12-16 cs.CR cs.CV cs.LG
Attribution Explanations for Deep Neural Networks: A Theoretical Perspective
School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院）；School of Cyber Science and Engineering, Xi’an Jiaotong University（西安交通大学网络安全工程学院）；Department of Computer Science and Engineering, the John Hopcroft Center, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系、霍夫曼中心）；Department of Data Science, New Jersey Institute of Technology（新泽西理工学院数据科学系）
本文从理论视角系统回顾深度神经网络归因解释方法，针对其真实性挑战，重点梳理了理论统一、理论原理和理论评估三个关键方向，以深化理解、指导方法选择并启发新研究。
2025-08-11 cs.AI cs.LG
Robust Attribution Regularization
Google（谷歌）；XaiPient；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
值得信赖的机器学习中的一个新问题是训练模型，为它们的预测产生鲁棒的解释。我们通过神经网络的公理化属性的镜头向解决这个问题迈出了一步。我们的理论是基于最近的工作，集成代理（IG），在公理化归因于神经网络的输出变化，其输入变化。我们在经典的鲁棒优化模型中提出了训练目标，以实现鲁棒的IG属性。我们的目标给出了为鲁棒预测设计的先前目标的原则性概括，并且它们自然退化为单层神经网络的经典软边缘训练。我们还推广了以前的理论，并证明了不同的鲁棒优化模型的目标是密切相关的。实验证明了我们的方法的有效性，也指出了有趣的问题，暗示需要更好的优化技术或更好的神经网络架构，强大的属性训练。
2019-10-26 cs.AI cs.CR cs.LG
Domain Specific Author Attribution Based on Feedforward Neural Network Language Models
Purdue University（普渡大学）
作者归属是指根据给定的文本样本自动确定作者的任务。它是一个历史悠久、应用广泛的问题。使用语言模型构建作者配置文件是自动化此任务的最成功的方法之一。基于神经网络的新语言建模方法缓解了维数灾难，并且通常优于传统的N-gram方法。然而，还没有太多的研究将它们应用于作者归属。在本文中，我们提出了一种新的神经网络语言模型（NNLM）的设置，并将其应用到一个数据库的文本样本来自不同的作者。我们研究了NNLM如何在中等作者集大小和相对有限的训练和测试数据的任务上执行，以及文本样本的主题如何影响准确性。NNLM实现了近2.5%的困惑减少，这是一个训练的语言模型对测试数据的适应度的度量。在5个随机测试句子的情况下，与使用SRILM工具的N-gram方法相比，作者分类准确率平均提高了3.43%。我们的方法的开源实现可以在https://github.com/zge/authorship-attribution/上免费获得。
2016-02-24 cs.CL cs.LG cs.NE
On Measuring Intrinsic Causal Attributions in Deep Neural Networks
Indian Statistical Institute（印度统计研究所）；University at Buffalo（布法罗大学）
本文提出可识别的生成式事后框架，将神经网络视为结构因果模型以量化内在因果贡献，并建立其与Sobol'指数的联系，实验证明该方法比现有全局解释技术更直观可靠。
2025-05-14 cs.LG stat.ML
STRIDE: Training Data Attribution via Sparse Recovery from Subset Perturbations
Jinesis AI Lab, University of Toronto & Vector Institute（Jinesis AI实验室，多伦多大学及向量研究所）；Max Planck Institute for Intelligent Systems, Tübingen, Germany（智能系统马克斯·普朗克研究所，图宾根，德国）；Thoughtworks（Thoughtworks公司）；Martian；ELLIS Institute, Tübingen, Germany（图宾根ELLIS研究所，德国）；EuroSafeAI
提出STRIDE框架，将训练数据归因建模为压缩感知中的稀疏恢复问题，通过激活空间中的轻量级“引导算子”模拟数据子集的影响，实现高效且准确的LLM预训练归因。
2026-06-03 cs.CL cs.LG
TimeSHAP: Explaining Recurrent Models through Sequence Perturbations
Feedzai（Feedzai公司）；Instituto Superior Técnico, ULisboa（里斯本大学高等技术学院）；Instituto de Telecomunicações（电信研究所）
虽然递归神经网络（RNN）在许多顺序决策任务中是最先进的，但很少有研究解释它们的预测。在这项工作中，我们提出了TimeSHAP，一个模型不可知的经常性解释器，建立在KernelSHAP的基础上，并将其扩展到顺序域。TimeSHAP计算特征、时间步长和单元格级别的属性。由于序列可以是任意长的，我们进一步提出了一种修剪方法，显着降低其计算成本和方差的属性。我们使用TimeSHAP来解释真实世界的银行账户接管欺诈检测RNN模型的预测，并从其解释中得出关键见解：i）该模型识别与欺诈分析师认为的账户接管线索相一致的重要特征和事件; ii）积极预测序列可以被修剪到原始长度的10%，因为较旧的事件具有剩余的归因值; iii）最近的积极预测输入事件平均仅占模型得分的41%; iv）对客户年龄的归因明显较高，表明潜在的歧视性推理，后来证实老年客户的假阳性率较高。
2021-06-26 cs.AI cs.LG
On Attribution of Recurrent Neural Network Predictions via Additive Decomposition
Texas A&M University（得克萨斯农工大学）
RNN模型在广泛的文本挖掘任务中取得了最先进的性能。然而，这些模型往往被视为黑箱，并受到批评，由于缺乏可解释性。在本文中，我们通过为RNN预测提供可解释的理由来增强RNN的可解释性。然而，解释RNN是一个具有挑战性的问题。首先，与依赖局部近似的现有方法不同，我们的目标是提供更忠实于RNN模型决策过程的理论基础。其次，灵活的解释方法应该能够将贡献分数分配给不同长度的文本片段，而不仅仅是单个单词。为了应对这些挑战，我们提出了一种新的归因方法，称为REAT，为RNN预测提供解释。REAT将RNN的最终预测分解为输入文本中每个单词的附加贡献。这种加法分解使REAT能够进一步获得短语级归因分数。此外，REAT通常适用于各种RNN架构，包括GRU，LSTM及其双向版本。实验结果表明，所提出的归因方法的忠实性和可解释性。综合分析表明，我们的属性方法可以揭示RNN捕获的有用的语言知识。一些分析进一步表明，我们的方法可以用作调试工具来检查RNN的脆弱性和失败原因，这可能会导致几个有前途的未来方向，以提高RNN的泛化能力。
2019-03-27 cs.CL cs.LG
