Causally Driven Incremental Multi Touch Attribution Using a Recurrent Neural Network
JD Intelligent Ads Lab（京东智能广告实验室）；Stanford University（斯坦福大学）
本文介绍了一个实用的系统，多点触摸归因（MTA）的数字广告的出版商使用。我们为电子商务公司JD.com开发了这个系统，该公司也是中国的数字广告发布商。该方法有两个步骤。第一步（“响应建模”）根据用户对广告的接触程度来拟合购买产品的用户级模型。第二个（“信用分配”）使用拟合模型将由于广告而观察到的购买的增量部分分配给用户在前T天接触的广告。为了实现第一步，我们在用户级转换和曝光数据上训练一个循环神经网络（RNN）。RNN具有以半参数方式灵活处理数据中的顺序依赖性的优点。我们实现的特定RNN公式捕获了广告强度，时间，竞争和用户异质性的影响，这些都与广告响应相关。为了实现第二步，我们计算Shapley值，它具有公理基础和满足公平性考虑的优点。我们实施的Shapley值的具体公式通过将转化的总体增量改进分配给暴露的广告来尊重增量，同时处理暴露对观察结果的序列依赖性。该系统正在JD.com上生产，并可扩展以处理平台上的高维度问题（约3亿用户的订单归因，约16万个品牌，200多种广告类型，在典型的15天内提供约800亿次广告展示）。
2019-02-05 cs.LG stat.ML
Fast Axiomatic Attribution for Neural Networks
TU Darmstadt（达姆施塔特工业大学）
减轻对训练数据集中存在的虚假相关性的依赖是深度学习的一个快速出现的重要主题。最近的方法包括将深度神经网络（DNN）的特征属性的先验信息纳入训练过程，以减少对不需要的特征的依赖。然而，到目前为止，人们需要权衡高质量的归因，满足理想的公理，对计算它们所需的时间。这反过来又导致了长时间的训练或无效的归因先验。在这项工作中，我们打破了这种权衡，考虑一类特殊的高效公理化归因的DNN，其中一个公理化的功能属性可以计算只有一个单一的向前/向后通过。我们正式证明，非负齐次DNN，这里称为$\mathcal{X}$ -DNN，是有效的公理归因，并表明，他们可以毫不费力地从广泛的常规DNN构造简单地删除每一层的偏置项。各种实验证明了$\mathcal{X}$ -DNN的优势，击败了常规DNN上最先进的通用归因方法，用于使用归因先验进行训练。
2021-11-15 cs.CV cs.LG
DCRMTA: Deep Causal Representation Learning for Multi-Touch Attribution
University of Michigan（密歇根大学）；Beijing Jiaotong University（北京交通大学）
提出端到端框架DCRMTA，通过结构因果建模与自适应反事实注意力扰动保留用户因果信号并解耦混杂，在工业数据上PR-AUC相对提升5.2%，实现稳健的Shapley归因。
2026-09-25 cs.AI cs.LG stat.ME
Benchmarking the Attribution Quality of Vision Models
Technical University of Darmstadt（达姆施塔特工业大学）
该研究提出新型评估协议解决增量删除协议的域外与模型间不可比问题，评估23种归因方法及视觉骨干设计对归因质量的影响，发现内在可解释模型更优、部分标准设计可提升归因质量。
2024-12-09 cs.CV cs.LG
FREQuency ATTribution: benchmarking frequency-based occlusion for time series data
Smart Data & Knowledge Services（智能数据与知识服务）；DFKI GmbH（DFKI公司）
本文提出FreqAtt框架，通过频率域分析提升时间序列数据的可解释性，结合传统方法在频率优化信号上实现强性能表现。
2026-02-24 cs.LG
Neural Network Attribution Methods for Problems in Geoscience: A Novel Synthetic Benchmark Dataset
Colorado State University（科罗拉多州立大学）；Cooperative Institute for Research in the Atmosphere（大气研究合作研究所）
尽管神经网络越来越成功地应用于地球科学中的许多问题，但其复杂和非线性的结构使得难以解释其预测，这限制了模型的信任，并且不允许科学家获得关于手头问题的物理见解。在新兴的可解释人工智能（XAI）领域中引入了许多不同的方法，这些方法旨在将网络的预测归因于输入域中的特定特征。XAI方法通常通过使用基准数据集（如用于图像分类的MNIST或ImageNet）进行评估。然而，对于大多数这些数据集，缺乏客观的、理论上推导出的基础事实，这使得在许多情况下对XAI的评估是主观的。此外，专门为地球科学问题设计的基准数据集很少。在这里，我们提供了一个框架，基于使用的可加性分离的功能，生成属性基准数据集的回归问题的地面真相的属性是已知的先验。我们生成一个大型基准数据集，并训练一个完全连接的网络来学习用于模拟的底层函数。然后，我们将来自不同XAI方法的估计热图与地面实况进行比较，以确定特定XAI方法表现良好或较差的示例。我们相信，本文介绍的属性基准对于神经网络在地球科学中的进一步应用以及更客观地评估和准确实施XAI方法具有重要意义，这将增加模型信任并有助于发现新科学。
2022-06-10 cs.LG physics.geo-ph
Watch the Speakers: A Hybrid Continuous Attribution Network for Emotion Recognition in Conversation With Emotion Disentanglement
Huazhong University of Science and Technology（华中科技大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出混合连续归因网络HCAN，通过建模情绪连续性与情绪归因，并引入情绪认知损失缓解说话者建模过拟合，在多个数据集上取得领先性能。
2023-09-19 cs.CL cs.SD eess.AS
Integrated Marketing Attribution: A Bayesian Framework for Privacy-Safe Granular Measurement Anchored in MMM
提出集成营销归因（IMA）框架，结合营销组合模型（MMM）与贝叶斯归因模型，从聚合数据中推导出活动级效果，实现隐私安全且粒度精细的归因。
2026-06-23 cs.LG
See Beyond a Single View: Multi-Attribution Learning Leads to Better Conversion Rate Prediction
Taobao \& Tmall Group of Alibaba Beijing China；Taobao \& Tmall Group of Alibaba
本文提出多归因学习框架MAL，通过归因知识聚合器、主目标预测器和笛卡尔积训练策略整合多种归因信号，显著提升CVR预测的GAUC和ROI。
2025-08-21 cs.IR cs.LG
TEFL: Turbo Explainable Federated Learning for 6G Trustworthy Zero-Touch Network Slicing
针对6G网络切片零接触管理的可信性需求，提出基于Turbo原理的TEFL框架，通过资源分配模型与解释器闭环交互实现可解释联邦学习，验证了其在non-IID数据下优于无约束事后解释基线。
2023-07-25 cs.IT cs.LG math.IT
Towards better understanding of gradient-based attribution methods for Deep Neural Networks
ETH Zurich（苏黎世联邦理工学院）；University Zürich（苏黎世大学）；Institute of Neuroinformatics（神经信息学研究所）
理解深度神经网络（DNN）中的信息流是一个具有挑战性的问题，在过去几年中受到了越来越多的关注。虽然已经提出了几种方法来解释网络预测，但从理论角度比较它们的尝试很少。更重要的是，在过去没有进行详尽的实证比较。在这项工作中，我们分析了四个基于梯度的属性方法，并正式证明了它们之间的等价性和近似性的条件。通过重新制定这些方法中的两个，我们构建了一个统一的框架，使直接比较，以及更容易实现。最后，我们提出了一种新的评价指标，称为灵敏度-n和测试的梯度为基础的属性方法，以及一个简单的扰动为基础的属性方法在几个数据集的图像和文本分类领域，使用各种网络架构。
2018-03-07 cs.LG stat.ML
Making Neural Networks Interpretable with Attribution: Application to Implicit Signals Prediction
Deezer Research（Deezer 研究院）
解释建议使用户能够了解推荐的项目是否与他们的需求相关，并已被证明可以增加他们对系统的信任。更一般地说，如果设计可解释的机器学习模型是检查决策过程的健全性和鲁棒性并提高其效率的关键，那么对于复杂的架构，特别是通常被认为是“黑匣子”的深度神经网络，这仍然是一个挑战。在本文中，我们提出了一种新的可解释的深层神经网络的归因任务的制定。与流行的事后方法不同，我们的方法是可解释的设计。使用掩码权重，隐藏的特征可以被深度归因，分成几个输入受限的子网络，并训练为专家的增强混合专家模型。在合成数据和真实世界推荐任务上的实验结果表明，我们的方法能够构建模型，实现与不可解释的模型接近的预测性能，同时提供信息丰富的归因解释。
2020-08-26 cs.LG stat.ML
A Note about: Local Explanation Methods for Deep Neural Networks lack Sensitivity to Parameter Values
Google Inc.（谷歌公司）
局部解释方法，也称为归因方法，将深度网络的预测归因于其输入（参见。Baehrens等人（2010））。我们回应Adebayo等人（2018）的主张，即局部解释方法缺乏敏感性，即，具有随机初始化权重的DNN产生的解释在视觉上和定量上都与具有学习权重的DNN产生的解释相似。进一步的研究表明，他们的发现是由于他们的分析中的两个选择：（a）忽略属性的符号;（b）对于积分梯度（IG），通过选择基线（相对于计算属性的辅助输入），在他们的分析中包括具有零属性的像素。当这两个因素都考虑在内时，随机网络和实际网络的IG属性是不相关的。我们的调查还揭示了这些问题如何影响可视化，尽管我们注意到需要做更多的工作来了解观众如何解释随机和实际归因之间的差异。
2018-06-11 cs.LG stat.ML
Concise Explanations of Neural Networks using Adversarial Training
XaiPient；University of Wisconsin (Madison)（威斯康星大学麦迪逊分校）；Google（谷歌）
我们展示了对抗性学习与深度神经网络（DNN）可解释性之间的新联系。根据其输入特征解释神经网络模型的输出的一种形式是特征属性向量。基于属性的解释的两个理想特征是：（1）$\textit{sparseness}$：不相关或弱相关特征的属性应该是可忽略的，从而导致$\textit{concise}$解释的重要特征，以及（2）$\textit{stability}$：它不应该在输入的小的局部邻域内显著变化。我们的第一个贡献是对这两个性质如何进行理论探索（当使用基于集成属性或IG的属性时）与对抗训练有关，用于一类1层网络（包括用于二进制和多类分类的逻辑回归模型）;对于这些网络，我们表明：（a）使用$\ell_\infty$有界对手的对抗训练产生具有稀疏属性向量的模型，以及（b）自然模型训练，同时鼓励稳定的解释（通过损失函数中的额外项），相当于对抗训练。我们的第二个贡献是对现象（a）的实证验证，我们发现，有点令人惊讶的是，发生$\textit{not only}$ $\textit{in 1-layer networks}$，$\textit{but also DNNs}$ $\textit{trained on }$ $\textit{standard image datasets}$，并扩展到基于IG的归因，基于DeepSHAP的归因：与自然训练相比，具有$\ell_\infty$有界扰动…
2020-07-05 cs.LG stat.ML
Neural Network Attributions: A Causal Perspective
Johns Hopkins University（约翰斯·霍普金斯大学）；Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
我们提出了一种新的归因方法神经网络开发使用第一原则的因果关系（据我们所知，第一个）。神经网络架构被看作是一个结构因果模型，并提出了一种方法来计算每个功能的因果效果的输出。通过对输入数据因果结构的合理假设，我们提出了有效计算因果效应的算法，并将该方法扩展到大维度数据。我们还展示了这种方法可以用于经常性的神经网络。我们在模拟和真实数据集上报告了实验结果，展示了该算法的前景和实用性。
2019-07-03 cs.LG stat.ML
Background Hardly Matters: Understanding Personality Attribution in Deep Residual Networks
Radboud University（拉德堡德大学）；Anchormen
归因于个人的感知人格特质不一定与他们的实际人格特质相对应，并且可能部分取决于一个人遇到一个人的背景。这些明显的特征在很大程度上决定了其他人将如何对待他们。深度神经网络正越来越多地用于执行自动化的个性归属（例如，工作面试）。重要的是，我们要了解预测背后的驱动因素，在人类和深层神经网络中。本文明确地研究了图像背景对表观人格预测的影响，同时解决了现有文献中存在的两个重要混淆;重叠的数据分割和背景中的面部信息。令人惊讶的是，我们没有发现任何证据表明背景信息可以改善模型对明显人格特质的预测。事实上，当背景被显式地添加到输入中时，所有模型的性能都会下降。
2019-12-20 cs.LG stat.ML
On Measuring Intrinsic Causal Attributions in Deep Neural Networks
Indian Statistical Institute（印度统计研究所）；University at Buffalo（布法罗大学）
本文提出可识别的生成式事后框架，将神经网络视为结构因果模型以量化内在因果贡献，并建立其与Sobol'指数的联系，实验证明该方法比现有全局解释技术更直观可靠。
2025-05-14 cs.LG stat.ML
Improving performance of deep learning models with axiomatic attribution priors and expected gradients
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
最近的研究表明，深度网络的特征归因方法本身可以被纳入训练中;这些归因先验优化了一个模型，该模型的属性具有某些理想的属性-最常见的是，特定的特征是重要的或不重要的。这些属性先验通常基于不能保证满足期望的可解释性公理（例如完整性和实现不变性）的属性方法。在这里，我们引入属性先验来优化解释的更高级别属性，例如平滑性和稀疏性，这是由一种称为预期梯度的快速新属性方法公式实现的，它满足许多重要的可解释性公理。这提高了模型在许多现实任务中的性能，而这些任务中先前的归因先验都失败了。我们的实验表明，将较高级别的归因先验与预期的梯度归因相结合所获得的收益在图像、基因表达和医疗保健数据集上是一致的。我们相信，这项工作的动机，并提供必要的工具，以支持广泛采用公理化的归因先验在许多领域的应用机器学习。我们的实施和结果已免费提供给学术界。
2020-11-11 cs.LG stat.ML
Interpretability in Parameter Space: Minimizing Mechanistic Description Length with Attribution-based Parameter Decomposition
Apollo Research（阿波罗研究公司）
本文提出基于归因的参数分解方法APD，通过优化最小机制描述长度将神经网络参数分解为忠实、最少且最简单的组件，并在多个玩具实验中成功识别真实机制，为机制可解释性中的最小回路识别、特征定义和架构无关分解提供了新思路。
2025-02-07 cs.LG stat.ML
Learning to recognize touch gestures: recurrent vs. convolutional features and dynamic sampling
Univ de Lyon（里昂大学）；INSA-Lyon（里昂国立应用科学学院）；CNRS（法国国家科学研究中心）；LIRIS（里昂图像与信息系统实验室）；INRIA（法国国家信息与自动化研究所）；CITI（信息与交互技术中心）；Normandie Univ（诺曼底大学）；INSA Rouen（鲁昂国立应用科学学院）；UNIROUEN（鲁昂大学）；UNIHAVRE（勒阿弗尔大学）；LITIS（信息处理与智能系统实验室）；Itekube（Itekube公司）
我们提出了一种全自动的方法，用于在潜在的多用户环境中学习大触摸设备上的手势。目标是学习能够适应不同手势、用户风格和硬件变化（例如设备大小、采样频率和带宽）的通用模型。基于深度神经网络，我们的方法具有一种新的动态采样和时间归一化组件，将可变长度的手势转换为固定长度的表示，同时保留手指/表面接触过渡，即信号的拓扑结构。然后用卷积模型处理这种顺序表示，与递归网络不同，卷积模型能够学习具有不同抽象级别的分层表示。为了证明所提出的方法的兴趣，我们引入了一个新的触摸手势数据集，其中包含27人执行的6591个手势，据我们所知，这是同类中的第一个：一个公开的多点触摸手势数据集。我们还在符号触摸手势识别的标准数据集MMG数据集上测试了我们的方法，表现优于最先进的技术，并报告接近完美的性能。
2018-02-19 cs.LG stat.ML
Toward Understanding the Disagreement Problem in Neural Network Feature Attribution
Leibniz Institute for Prevention Research & Epidemiology – BIPS（莱布尼茨预防研究与流行病学研究所 – BIPS）；Faculty of Mathematics and Computer Science, University of Bremen（不来梅大学数学与计算机科学学院）；Department of Public Health, University of Copenhagen（哥本哈根大学公共卫生系）
针对神经网络特征归因方法间的解释分歧问题，研究通过分析解释的基本与分布行为，结合模拟实验明确缩放、编码技术的影响及排序评估指标不一致的成因，为黑盒模型解释方法的选择与评估提供依据。
2024-04-17 cs.LG stat.ML
Axiomatic Attribution for Deep Networks
Google Inc.（谷歌公司）
我们研究了将深度网络的预测归因于其输入特征的问题，这是一个以前由其他几个作品研究过的问题。我们确定了两个基本公理-敏感性和实现不变性，归因方法应该满足。我们表明，他们不满意的大多数已知的归属方法，我们认为这是一个根本的弱点，这些方法。我们使用的公理来指导设计一个新的归属方法称为集成的一致性。我们的方法不需要修改原始网络，并且实现起来非常简单;它只需要调用几个标准梯度算子。我们将这种方法应用于几个图像模型，几个文本模型和一个化学模型，证明了它能够调试网络，从网络中提取规则，并使用户能够更好地参与模型。
2017-06-13 cs.LG
On Discprecncies between Perturbation Evaluations of Graph Neural Network Attributions
Technical University of Munich（慕尼黑工业大学）；Sharif University of Technology（谢里夫理工大学）；Harvard Medical School（哈佛医学院）；Hospital of the Ludwig-Maximilians-University (LMU) Munich（慕尼黑大学医院）
本文从重新训练视角评估图神经网络归因方法，发现GNNExplainer等表现因数据集和网络而异，建议将重新训练评估作为特定场景的工具集而非通用基准。
2024-01-01 cs.LG
Attribution Preservation in Network Compression for Reliable Network Interpretation
KAIST（韩国科学技术院）；AITRICS（爱特瑞克斯）
嵌入自动驾驶汽车和可穿戴健康监测器等安全敏感应用中的神经网络依赖于两种重要技术：用于事后分析的输入属性和用于边缘计算的网络压缩。在本文中，我们表明，这些看似不相关的技术相互冲突的网络压缩变形产生的属性，这可能会导致可怕的后果，关键任务的应用程序。这种现象的出现是由于传统的网络压缩方法只保留了网络的预测，而忽略了属性的质量。为了解决属性不一致的问题，我们提出了一个框架，可以保持属性，同时压缩网络。通过使用加权折叠属性匹配正则化器，我们将被压缩网络的属性映射与其压缩前的自身进行匹配。我们证明了我们的算法的有效性，定量和定性不同的压缩方法。
2020-10-28 cs.AI cs.CV cs.LG
Robust Attribution Regularization
Google（谷歌）；XaiPient；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
值得信赖的机器学习中的一个新问题是训练模型，为它们的预测产生鲁棒的解释。我们通过神经网络的公理化属性的镜头向解决这个问题迈出了一步。我们的理论是基于最近的工作，集成代理（IG），在公理化归因于神经网络的输出变化，其输入变化。我们在经典的鲁棒优化模型中提出了训练目标，以实现鲁棒的IG属性。我们的目标给出了为鲁棒预测设计的先前目标的原则性概括，并且它们自然退化为单层神经网络的经典软边缘训练。我们还推广了以前的理论，并证明了不同的鲁棒优化模型的目标是密切相关的。实验证明了我们的方法的有效性，也指出了有趣的问题，暗示需要更好的优化技术或更好的神经网络架构，强大的属性训练。
2019-10-26 cs.AI cs.CR cs.LG
From Weight Perturbation to Feature Attribution for Explaining Fully Connected Neural Networks
NCSR Demokritos（德米克里托斯研究所）
本文提出通过扰动特征权重而非值来估计特征归因，改进了Occlusion方法的局限性，提出XWP和XWP_c两种新方法，在简单DNN中表现优异，为模型可解释性提供稳健框架。
2026-05-14 cs.LG
Towards Faithful Neural Network Intrinsic Interpretation with Shapley Additive Self-Attribution
HKUST (Guangzhou)（香港科技大学（广州））；BOSS Zhipin（BOSS直聘）
针对自解释神经网络理论保证不足或表达能力受限的问题，提出 SASANet，通过边际贡献序列机制与内部蒸馏训练实现等于输出 Shapley 值的忠实自归因，并取得优于自归因模型、可比黑盒模型的解释与预测效果。
2023-09-27 cs.LG
Global Explanations of Neural Networks: Mapping the Landscape of Predictions
Center for Machine Learning, Capital One（美国Capital One公司机器学习中心）；Columbia University（哥伦比亚大学）
神经网络被广泛采用的一个障碍是它们缺乏可解释性。虽然对于一个预测存在局部解释方法，但大多数全局属性仍然将神经网络决策简化为单个特征集。作为回应，我们提出了一种生成全局属性的方法，称为GAM，它解释了跨亚群的神经网络预测的前景。GAM通过每个属性最好解释的样本比例来增强全局解释，并指定每个属性描述的样本。全局解释也具有可调的粒度，以检测更多或更少的子群体。我们证明了GAM的全局解释1）产生模拟数据的已知特征重要性，2）匹配真实数据上可解释统计模型的特征权重，3）通过用户研究对从业者来说是直观的。通过更透明的预测，GAM可以帮助确保神经网络决策是出于正确的原因而生成的。
2019-02-06 cs.AI cs.LG stat.ML
DeepAPT: Nation-State APT Attribution Using End-to-End Deep Neural Networks
Deep Instinct Ltd（深度本能有限公司）
近年来，许多先进的恶意软件，又名先进的持续性威胁（APT），据称是由民族国家开发的。由于几个原因，将APT归因于特定民族国家的任务极具挑战性。每个民族国家通常都有不止一个网络单位开发这种先进的恶意软件，使传统的作者归属算法变得无用。此外，这些APT使用最先进的规避技术，使特征提取变得具有挑战性。最后，此类可用APT的数据集非常小。在本文中，我们描述了如何深度神经网络（DNN）可以成功地用于民族国家的APT属性。我们使用沙箱报告（记录APT动态运行时的行为）作为神经网络的原始输入，允许DNN学习APT本身的高级特征抽象。使用1,000个中国和俄罗斯开发的APT测试集，我们实现了94.6%的准确率。
2017-11-27 cs.CR cs.LG cs.NE
Attributions Beyond Neural Networks: The Linear Program Case
TU Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））
线性规划（LP）一直是机器学习中的构建块之一，并支持学习系统的可微优化器的最新进展。虽然存在甚至高维LP的求解器，但理解所述高维解构成了正交和未解决的问题。我们介绍了一种方法，我们认为神经编码的LP证明应用归因方法从可解释的人工智能（XAI）设计的神经学习系统。我们提出的几个编码函数考虑了决策空间的可行性、每个输入的成本或到特殊兴趣点的距离等方面。我们研究了几种XAI方法对神经LP编码的数学后果。我们的经验表明，归因方法显着性和石灰揭示不可区分的结果扰动水平，我们提出的属性的显着性和石灰之间的主要判别标准，一方面，和扰动为基础的特征置换方法的属性。定向性表示属性方法是否针对该特征的增加给出特征属性。我们进一步注意到，基线选择问题超出了经典的计算机视觉设置为集成组件。
2022-06-14 cs.LG
Rethinking Robustness: A New Approach to Evaluating Feature Attribution Methods
Intuit Inc.（Intuit公司）
本文提出了一种新的评估特征归因方法鲁棒性的方法，通过定义相似输入和生成对抗网络生成输入，提供更客观的度量标准以评估归因方法的鲁棒性。
2025-12-07 cs.AI cs.CV cs.LG
Importance attribution in neural networks by means of persistence landscapes of time series
Universitat de Barcelona（巴塞罗那大学）
我们提出并实现了一种方法来分析时间序列的神经网络使用矩阵的面积归一化持久性景观通过拓扑数据分析。我们在网络的架构中包括一个门控层，它能够识别分类任务的最相关景观级别，从而作为一个重要性归因系统。接下来，我们执行选定的景观功能和原始时间序列的相应的临界点之间的匹配。通过这种匹配，我们能够重建时间序列的近似形状，从而深入了解分类决策。我们用来自心电图信号数据集的输入数据测试这种技术。
2023-02-06 cs.LG math.AT
CAWA: An Attention-Network for Credit Attribution
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
信用属性是将文档中的各个部分与它们最合适的类标签相关联的任务。这是一个重要的任务与应用的信息检索和文本摘要。当标记的训练数据可用时，用于序列标记的传统方法可以用于信用属性。然而，生成这样的标记数据集是昂贵且耗时的。在本文中，我们提出了“信用归因与注意力（CAWA）”，一个基于神经网络的方法，而不是使用文档级别的标记数据，使用的类标签，与整个文档作为远程监督的来源。CAWA将注意力机制与多标签分类器结合到端到端学习框架中来执行信用归因。CAWA使用所得的注意力权重对来自输入文档的各个句子进行标记。CAWA改进了最先进的信用归属方法，不限制一个句子只属于一个类，而是将每个句子建模为所有类的分布，从而更好地建模语义相似的类。在多种数据集上的信用归因实验表明，CAWA生成的句子类别标签优于竞争方法。此外，在多标签文本分类任务，CAWA表现优于竞争的信用归属方法。
2019-11-26 cs.CL cs.IR cs.LG
Interpreting and Understanding Graph Convolutional Neural Network using Gradient-based Attribution Method
Central South University（中南大学）
为了解决卷积神经网络（CNN）难以处理图等非网格型关系数据的问题，Kipf等人提出了图卷积神经网络（GCN）。GCN的核心思想是在每次迭代中对给定图中的每个节点进行双重信息融合：图结构信息的融合和节点特征维度的融合。由于GCN具有组合泛化的特点，在场景语义关系分析、自然语言处理和少样本学习等领域得到了广泛的应用。但由于其双重信息融合涉及数学不可逆计算，很难解释每个节点分类预测的决策原因。遗憾的是，大多数现有的归因分析方法集中在像CNN这样的模型上，这些模型用于处理网格状数据。这些分析方法很难直接应用于GCN。这是因为与CNN输入数据之间的独立性相比，GCN输入数据之间存在相关性。这导致现有的属性分析方法只能得到中心节点特征对GCN最终决策的部分模型贡献，而忽略了中心节点特征及其邻居节点特征对该决策的其他模型贡献。为此，我们提出了一种GCN的梯度属性分析方法--节点属性方法（NAM），该方法不仅可以得到中心节点的模型贡献，还可以得到其邻居节点对GCN输出的模型贡献。我们还提出了节点重要性可视化（NIV）方法，根据贡献值将中心节点及其邻居节点可视化..
2019-04-16 cs.LG
Visual Reasoning of Feature Attribution with Deep Recurrent Neural Networks
Fuji Xerox Co Ltd（富士施乐有限公司）；University of California Davis（加州大学戴维斯分校）
深度递归神经网络（RNN）在许多序列分类任务中得到了普及。除了为每个数据实例预测正确的类之外，数据科学家还希望了解数据中的哪些差异化因素在学习过程中对分类做出了贡献。我们提出了一种可视化分析方法，通过揭示RNN对所有数据实例的关注，它们在序列中的时间位置以及每个值级别的变量属性来促进这项任务。我们用真实世界的数据集证明，我们的方法可以帮助数据科学家从训练结果中理解深度RNN中的这种动态，从而指导他们的建模过程。
2019-01-17 cs.HC cs.LG
MFABA: A More Faithful and Accelerated Boundary-based Attribution Method for Deep Neural Networks
The University of Sydney（悉尼大学）；SuZhouYierqi（苏州义尔齐）；University of Malaya（马来亚大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）；Wayne State University（韦恩州立大学）；University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出MFABA，一种遵循公理的边界归因方法，用于解释深度神经网络，通过理论证明和实验验证，其速度比最先进算法快101.5142倍以上，并开源实现。
2023-12-21 cs.CV cs.LG
Pre or Post-Softmax Scores in Gradient-based Attribution Methods, What is Best?
Northwestern University（西北大学）；DePaul University（德保罗大学）
该研究聚焦分类神经网络的梯度归因方法，对比了使用softmax前与softmax后得分梯度的实际差异及各自优缺点，为相关方法的选择提供参考。
2023-07-19 cs.AI cs.LG
Visual Summary of Value-level Feature Attribution in Prediction Classes with Recurrent Neural Networks
University of California, Davis（加州大学戴维斯分校）；Zhejiang University（浙江大学）；University of California（加州大学）
深度循环神经网络（RNN）越来越多地用于时间序列的决策。然而，理解RNN模型如何产生最终预测仍然是一个重大挑战。解释用于序列预测的RNN模型的现有工作通常集中在解释单个数据实例的预测（例如，患者或学生）。由于最先进的预测模型是由数百万个参数在数百万个实例中优化而成的，因此解释单个数据实例的预测很容易错过更大的画面。此外，许多性能优异的RNN模型使用多热编码来表示特征的存在/不存在，其中缺少特征值属性的可解释性。我们提出了ViSFA，一个交互式系统，直观地总结了随着时间的推移，不同的特征值的特征属性。ViSFA可扩展到大型数据，例如包含120万个高维时间事件的电子健康记录的MIMIC数据集。我们证明了ViSFA可以帮助我们推理RNN预测，并通过将复杂的归因提炼成紧凑且易于解释的可视化来揭示数据中的见解。
2020-08-21 cs.HC cs.LG
MolLedger: An Additive Graph Neural Network with Chemically Grounded ADME Attributions
Hamilton College（汉密尔顿学院）
MolLedger是一种加性图神经网络，内置原子级归因，可精确解释ADME预测且性能未受损，其归因更贴合化学性质，在分子对案例研究中解释性能优于其他方法。
2026-09-28 cs.LG
Discriminative Attribution from Counterfactuals
HHMI Janelia Research Campus（霍华德·休斯医学研究所珍妮莉亚研究园区）；ETH Zürich（苏黎世联邦理工学院）；MRC Laboratory of Molecular Biology（医学研究理事会分子生物学实验室）
我们提出了一种方法，神经网络的可解释性相结合的功能属性与反事实的解释，以生成属性映射，突出对类之间的最有区别的功能。我们表明，这种方法可以用来定量评估性能的特征归属方法在一个客观的方式，从而防止潜在的观察者偏见。我们在三个不同的数据集上评估了所提出的方法，包括具有挑战性的人工数据集和真实世界的生物数据。我们定量和定性地表明，突出显示的特征比使用传统的归因方法提取的特征更具鉴别力，并认为这种类型的解释更适合于理解由深度神经网络学习的细粒度类差异。
2021-09-28 cs.CV cs.LG
Discovering the Precursors of Traffic Breakdowns Using Spatiotemporal Graph Attribution Networks
Department of Civil Engineering and Engineering Mechanics, Columbia University School of Economics, Minzu University of China（土木工程与工程力学系，哥伦比亚大学经济学院，中国民族大学）；Vehicle and Mobility Systems Department, Argonne National Laboratory（车辆与移动系统部，阿贡国家实验室）；School of Sustainable Engineering and the Built Environment, Arizona State University（可持续工程与环境学院，亚利桑那州立大学）
本文提出结合时空图神经网络与Shapley值的方法，识别并解释交通崩溃前兆，在州际24号数据上验证，发现道路拓扑和突然制动是主要因素。
2025-04-23 cs.LG
Fast Fourier Correlation is a Highly Efficient and Accurate Feature Attribution Algorithm from the Perspective of Control Theory and Game Theory
School of Computer Science（计算机科学学院）；Wuhan University（武汉大学）；Brain Research Center Second Clinical School（脑科学研究中心第二临床学院）
针对神经网络所学傅里叶特征缺乏明确归因方法的问题，提出基于信号分解理论的新型傅里叶特征归因方法，实验证明其仅需少量特征即可维持高准确率且具更强类间区分度。
2025-07-15 cs.LG
Natural Geometry of Robust Data Attribution: From Convex Models to Deep Networks
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出自然Wasserstein度量，通过模型自身特征协方差诱导的几何消除了频谱放大，实现了深度网络归因的首个非空认证界。
2025-12-09 cs.LG math.OC
Character-level and Multi-channel Convolutional Neural Networks for Large-scale Authorship Attribution
Insight Centre for Data Analytics（数据洞察中心）；Aylien Ltd.（Aylien 有限公司）；National University of Ireland, Galway（爱尔兰国立大学戈尔韦分校）
卷积神经网络（CNN）在从计算机视觉的原始信号中提取信息方面表现出优越的能力。最近，字符级和多通道CNN在句子分类任务中表现出了出色的性能。我们将CNN应用于大规模的作者归属，其目的是在许多候选作者中确定未知文本的作者，其动机是处理字符级信号并区分大量类别的能力，同时与最先进的方法相比进行快速预测。我们广泛评估了基于CNN的方法，这些方法利用单词和字符通道，并将它们与最先进的方法进行比较，以获得大范围的作者数量，从而为传统方法提供新的视角。我们发现，字符级CNN在不同领域的五个数据集中有四个数据集上的表现优于最先进的技术。此外，我们还首次将作者归属应用于reddit。
2016-09-21 cs.CL cs.LG
Four Axiomatic Characterizations of the Integrated Gradients Attribution Method
University of Southern California（南加州大学）
针对深度神经网络黑盒问题，本文提出了 Integrated Gradients 归因方法的四个公理化刻画，证明其是满足不同公理集合的唯一归因方法。
2023-06-23 cs.LG
Negative Flux Aggregation to Estimate Feature Attributions
Wayne State University（韦恩州立大学）
针对深度神经网络可解释性难题，提出基于散度定理的负通量聚合（NeFLAG）方法，无需代理模型或梯度路径积分，高效生成更忠实的特征归因图，实验验证其优越性能。
2023-05-13 cs.LG
GOAt: Explaining Graph Neural Networks via Graph Output Attribution
University of Alberta（阿尔伯塔大学）；Huawei（华为）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）
针对现有图神经网络解释方法多依赖辅助模型仍属黑箱的问题，提出图输出归因方法GOAt，通过将GNN展开为标量积之和解析计算节点与边的重要性，在忠实性、判别性和稳定性上均优于现有前沿方法。
2024-01-26 cs.LG
Attribution Mask: Filtering Out Irrelevant Features By Recursively Focusing Attention on Inputs of DNNs
Hanyang University（汉阳大学）
归因方法通过突出显示输入特征的重要部分来计算属性，从而直观地解释深度神经网络（DNN）的预测。特别是，基于梯度的属性（GBA）方法被广泛使用，因为它们可以很容易地通过自动微分实现。在这项研究中，我们使用过滤掉输入特征中不相关部分的属性，然后通过测量预训练DNN的分类准确性来验证这种方法的有效性。这是通过计算并将\textit{attribution mask}应用于输入特征并随后将掩蔽的特征引入DNN来实现的，为此，掩码被设计为递归地将注意力集中在与目标标签相关的输入部分上。在一定条件下提高了精度，\textit{no implicit bias}，它可以基于我们对将DNN压缩成单层神经网络的理论见解而导出。我们还提供梯度\，*\，输入符号（GxSI）来获得进一步提高准确性的属性掩码。作为一个例子，在CIFAR-10上，使用从GxSI获得的属性掩码进行修改，我们在没有额外训练的情况下实现了99.8%到99.9%的准确率。
2021-02-15 cs.AI cs.LG
OSCAR-Net: Object-centric Scene Graph Attention for Image Attribution
Adobe Research（Adobe研究院）；University of Surrey（萨里大学）
图像讲述了强大的故事，但并不总是可信的。将图像匹配回可信来源（归因）使用户能够对他们在网上遇到的图像做出更明智的判断。我们提出了一个强大的图像哈希算法来执行这样的匹配。我们的哈希对微妙的、突出的视觉细节的操纵很敏感，这些细节可以大大改变图像所讲述的故事。然而，散列对于良性转换（质量，编解码器，大小，形状等的变化）是不变的。在网上重新发布的图片所经历的。我们的主要贡献是OSCAR-Net（Object-centric Scene Graph Attention for Image Attribution Network）;这是一个强大的图像哈希模型，灵感来自于最近Transformers在视觉领域的成功。OSCAR-Net构建了一个场景图表示，它关注每个对象的视觉外观及其空间关系的细粒度变化。该网络通过原始图像和操作图像的数据集上的对比学习进行训练，从而产生用于内容指纹识别的最新图像散列，该图像散列可扩展到数百万个图像。
2021-10-20 cs.AI cs.CV cs.LG
Attribution Explanations for Deep Neural Networks: A Theoretical Perspective
School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院）；School of Cyber Science and Engineering, Xi’an Jiaotong University（西安交通大学网络安全工程学院）；Department of Computer Science and Engineering, the John Hopcroft Center, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系、霍夫曼中心）；Department of Data Science, New Jersey Institute of Technology（新泽西理工学院数据科学系）
本文从理论视角系统回顾深度神经网络归因解释方法，针对其真实性挑战，重点梳理了理论统一、理论原理和理论评估三个关键方向，以深化理解、指导方法选择并启发新研究。
2025-08-11 cs.AI cs.LG
Domain Specific Author Attribution Based on Feedforward Neural Network Language Models
Purdue University（普渡大学）
作者归属是指根据给定的文本样本自动确定作者的任务。它是一个历史悠久、应用广泛的问题。使用语言模型构建作者配置文件是自动化此任务的最成功的方法之一。基于神经网络的新语言建模方法缓解了维数灾难，并且通常优于传统的N-gram方法。然而，还没有太多的研究将它们应用于作者归属。在本文中，我们提出了一种新的神经网络语言模型（NNLM）的设置，并将其应用到一个数据库的文本样本来自不同的作者。我们研究了NNLM如何在中等作者集大小和相对有限的训练和测试数据的任务上执行，以及文本样本的主题如何影响准确性。NNLM实现了近2.5%的困惑减少，这是一个训练的语言模型对测试数据的适应度的度量。在5个随机测试句子的情况下，与使用SRILM工具的N-gram方法相比，作者分类准确率平均提高了3.43%。我们的方法的开源实现可以在https://github.com/zge/authorship-attribution/上免费获得。
2016-02-24 cs.CL cs.LG cs.NE
CHALLENGER: Training with Attribution Maps
Technical University of Munich（慕尼黑工业大学）
我们表明，利用属性图训练神经网络可以提高模型的正则化，从而提高性能。正则化是深度学习的关键，特别是在相对较小的数据集上训练复杂模型时。为了理解神经网络的内部工作，已经广泛地研究了诸如分层相关传播（LRP）的归因方法，特别是用于解释输入特征的相关性。我们介绍挑战者，一个模块，利用归因图的解释能力，以操纵特别相关的输入模式。因此，暴露并随后解决模糊区域以在地面实况数据流形上分离类别，这是一个特别在相当小的数据集上训练模型时出现的问题。我们的Challenger模块通过在网络中构建更多样化的滤波器来提高模型性能，并可应用于任何输入数据域。我们证明了我们的方法在只有少数样本的数据集上具有更好的分类和校准性能，直到具有数千个样本的数据集。特别是，我们表明，我们的通用域独立的方法产生的最先进的视觉，自然语言处理和时间序列任务的结果。
2022-05-30 cs.AI cs.LG
Hidden in Plain Sight -- Class Competition Focuses Attribution Maps
CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全中心）；Max Planck Institute for Informatics（马克斯·普朗克信息研究所）
该研究通过考虑多类别属性分布，改进了神经网络预测的属性图，提升了18种方法在7种架构上的性能，效果提升达2倍。
2026-02-05 cs.CV cs.LG
Syntactic Recurrent Neural Network for Authorship Attribution
University of Central Florida（中佛罗里达大学）
写作风格是在语言产生的不同层面上，包括与特定作者（或作者群体）相关的词汇，句法和结构的一致决定的组合。虽然基于词汇的模型在基于风格的文本分类中得到了广泛的研究，但在处理由各种主题组成的异构数据时，依赖于内容的模型的可扩展性较差。另一方面，与内容无关的句法模型对主题变化更鲁棒。在本文中，我们引入了一个句法循环神经网络编码的句法模式的一个层次结构的文件。该模型首先从词性标签序列中学习句子的句法表示。为此，我们利用卷积滤波器和长短期记忆来研究句子中词性标签的短期和长期依赖性。随后，句子的句法表示使用递归神经网络聚合成文档表示。我们在PAN 2012数据集上进行的作者归属任务的实验结果表明，句法循环神经网络在准确率方面比具有相同架构的词汇模型高出约14%。
2019-02-27 cs.CL cs.LG
