Shapley Explanation Networks
Purdue University（普渡大学）
Shapley值已成为最流行的特征属性解释方法之一。然而，大多数先前的工作都集中在事后Shapley解释上，由于其指数时间复杂度，这可能在计算上要求很高，并且在训练期间排除了基于Shapley解释的模型正则化。因此，我们建议将Shapley值本身作为深层模型中的潜在表示，从而使Shapley解释成为建模范式中的一等公民。这种内在解释方法可以实现分层解释，在训练期间对模型进行解释正则化，并在测试时进行快速解释计算。我们定义了Shapley变换，它将输入转换为给定特定函数的Shapley表示。我们将Shapley变换作为一个神经网络模块进行操作，并通过组合Shapley模块来构建浅层和深层网络，称为ShapNets。我们证明了我们的Shallow ShapNets计算精确的Shapley值，而我们的Deep ShapNets保持了Shapley值的缺失和准确性。我们在合成和真实世界的数据集上证明，我们的ShapNet能够实现分层Shapley解释，训练期间的新颖Shapley正则化，以及快速计算，同时保持合理的性能。代码可在https://github.com/inouye-lab/ShapleyExplanationNetworks上获得。
2021-04-06 cs.AI cs.LG
Approximating Shapley Explanations in Reinforcement Learning
University of Bath（巴斯大学）
本文提出FastSVERL方法，通过近似Shapley值实现强化学习解释的可扩展计算，以应对时间依赖、离线数据和智能体行为演化等挑战。
2025-11-08 cs.LG
RelShap: Relationally Consistent Shapley Explanations
RelShap是融入关系约束的Shapley解释框架，可提升解释的忠实度，在受控设置中能正确识别主导特征，且运行时可通过等价类优化。
2026-08-13 cs.LG
Unifying Prediction and Explanation in Time-Series Transformers via Shapley-based Pretraining
University of Michigan（密歇根大学）；North Carolina State University（北卡罗来纳州立大学）；Yeshiva University（叶史瓦大学）
提出ShapTST框架，通过基于Shapley值的预训练设计，在时间序列Transformer中统一预测与解释，实现单次前向传播生成解释，消除测试时计算，并在八个数据集上验证了其竞争力和鲁棒性。
2025-01-25 cs.LG
From Shapley Values to Generalized Additive Models and back
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）
在可解释的机器学习中，局部事后解释算法和固有可解释模型通常被视为相互竞争的方法。这项工作通过建立Shapley值和广义加性模型（GAM）之间的对应关系，提供了两者之间的部分和解。我们介绍$n$ -Shapley值，一个参数家庭的本地事后解释算法，解释个人的预测与相互作用项的顺序$n$。通过改变参数$n$，我们得到了一系列的解释，涵盖了整个范围，从Shapley值到一个唯一确定的分解的功能，我们要解释。$n$ -Shapley值与此分解之间的关系提供了Shapley值的功能性基础表征，这突出了它们的局限性。然后，我们表明，$n$ -Shapley值，以及Shapley-泰勒和Faith-Shap相互作用指数，恢复GAM与交互项的顺序为$n$。这意味着原始Shapely值在没有变量相互作用的情况下恢复GAM。总之，我们的研究结果提供了Shapley值的精确表征，因为它们被用于可解释的机器学习。他们还提供了一个原则性的解释部分依赖图的Shapley值的基础功能分解。在\url{https://github.com/tml-tuebingen/nshap}上有一个估算不同相互作用指数的软件包。
2023-02-23 cs.LG
SHAP-XRT: The Shapley Value Meets Conditional Independence Testing
Johns Hopkins University（约翰斯·霍普金斯大学）；Technion（以色列理工学院）
本研究提出SHAP-XRT，将Shapley值解释与条件独立性检验关联，证明在二分类中边际贡献界定期望p值，Shapley值界定全局零假设p值上界，为特征重要性提供统计有效性条件。
2023-12-27 cs.LG
Instance-wise or Class-wise? A Tale of Neighbor Shapley for Concept-based Explanation
Zhejiang University（浙江大学）；Columbia University（哥伦比亚大学）；University of Rochester（罗切斯特大学）
深度神经网络在许多数据驱动和面向预测的应用中表现出卓越的性能，有时甚至比人类表现得更好。然而，它们最大的缺点是缺乏可解释性，这使得它们在许多现实世界的应用中不那么有吸引力。当涉及道德问题或不确定的环境因素时，如犯罪判断，财务分析和医疗诊断，挖掘模型预测的证据（解释模型知识）以说服人类是至关重要的。因此，研究如何解释模型知识对于学术研究和实际应用都是至关重要的。
2023-02-21 cs.LG
Improved Feature Importance Computations for Tree Models: Shapley vs. Banzhaf
University of Warsaw（华沙大学）；IDEAS NCBR；MIM Solutions
Shapley值是用来解释树系综模型预测的主要工具之一。Shapley值的主要替代品是Banzhaf值，但还没有得到同样好的理解。在本文中，我们朝着填补这一空白的一步，提供这些模型的解释方法的实验和理论比较。令人惊讶的是，我们发现Banzhaf值提供了几个优势，沙普利值，同时提供基本相同的解释。我们验证Banzhaf值：（1）具有更直观的解释，（2）允许更有效的算法，以及（3）在数值上更鲁棒。我们提供了这些论文的实验评价。特别是，我们表明，在现实世界的情况下。此外，从理论的角度来看，我们提供了新的和改进的算法计算相同的Shapley值为基础的解释作为Lundberg等人的算法。内特尔2020年]。我们的算法运行在$O(TLD+n)$时间，而以前的算法有$O(TLD^2+n)$运行时间限制。这里，$T$是树的数目，$L$是树中的最大叶子数目，并且$D$表示系综中的树的最大深度。使用Shapley值开发的计算技术，我们提供了一个最佳的$O(TL+n)$时间算法计算Banzhaf值为基础的解释。在我们的实验中，这些算法的运行时间甚至小了一个数量级。
2021-08-09 cs.LG
Explaining the Uncertain: Stochastic Shapley Values for Gaussian Process Models
提出基于随机合作博弈的Shapley值方法解释高斯过程，利用解析协方差量化解释不确定性，并扩展至预测解释，通过Shapley先验预测新数据的解释。
2023-05-24 cs.LG stat.ML
Combining Counterfactuals With Shapley Values To Explain Image Models
University Of California, San Diego（加州大学圣地亚哥分校）；Stanford University（斯坦福大学）
随着复杂的机器学习模型在敏感应用中的广泛使用，理解它们的决策已经成为一项重要任务。在表格数据上训练的模型由于具有少量的离散特征，在解释其潜在的决策过程方面取得了重大进展。然而，将这些方法应用于图像等高维输入并不是一项简单的任务。图像由原子级的像素组成，本身不具有任何可解释性。在这项工作中，我们试图使用注释的高层次的图像可解释的功能，以提供解释。我们利用博弈论中的Shapley值框架，该框架在一般的XAI问题中获得了广泛的认可。通过开发一个管道来生成反事实，并随后使用它来估计Shapley值，我们获得了具有强公理保证的对比性和可解释性的解释。
2022-06-14 cs.LG
Practical do-Shapley Explanations with Estimand-Agnostic Causal Inference
Barcelona Supercomputing Center（巴塞罗那超级计算中心）；Novartis（诺华）
本文提出估量量无关方法，使do-Shapley解释在复杂图中可行，并通过加速计算和解释不可接触的数据生成过程，提升解释的可靠性。
2026-01-12 cs.LG
Comparing Baseline Shapley and Integrated Gradients for Local Explanation: Some Additional Insights
Wells Fargo（富国银行）
在文献中有许多不同的方法用于局部解释机器学习结果。然而，这些方法在方法上有所不同，往往不能提供相同的解释。在本文中，我们考虑了两种最新的方法：集成参数（Sundararajan，Taly，& Yan，2017）和基线Shapley（Sundararajan和Najmi，2020）。原作者已经研究了这两种方法的公理性质，并提供了一些比较。我们的工作为表格数据的比较行为提供了一些额外的见解。我们讨论了两种解释相同和不同的常见情况。我们还使用模拟研究来检查使用具有ReLU激活函数的神经网络来拟合模型时的差异。
2022-08-12 cs.LG stat.ML
Shapley Chains: Extending Shapley Values to Classifier Chains
École Polytechnique, Institut Polytechnique de Paris（巴黎理工学院综合理工学院）；Société Générale（法国兴业银行）
尽管对可解释的机器学习模型的关注越来越多，但解释多输出预测尚未得到广泛解决。使用Shapley值将特征贡献归因于决策的方法是解释局部个体和全局预测的最流行方法之一。由于在多输出任务中分别考虑每个输出，这些方法无法提供完整的特征解释。我们提出Shapley链，以克服这个问题，包括标签的相互依赖性的解释设计过程。Shapley Chains通过分离这些特征得分的直接和间接影响，将Shapley值分配为使用分类器链的多输出分类中的特征重要性得分。与现有方法相比，该方法允许将更完整的特征贡献归因于多输出分类任务的预测。我们提供了一种机制来分配隐藏的贡献的输出相对于一个给定的链接顺序，这些输出。此外，我们展示了我们的方法如何揭示现有方法所错过的间接特征贡献。Shapley Chains有助于强调多输出应用程序中的真实学习因素，并通过合成和真实世界数据集中的输出相互依赖性更好地理解信息流。
2023-03-30 cs.LG
Is Shapley Explanation for a model unique?
Shapley值最近成为解释复杂和简单机器学习模型预测的流行方法。本文讨论了影响Shapley值的因素。特别是，我们探讨了一个功能的分布和Shapley值之间的关系。我们扩展我们的分析，讨论在Shapley解释不同的预测结果从同一个模型中出现的差异。我们的评估是，特定特征的Shapley值不仅取决于其预期均值，还取决于其他时刻，例如方差，基线预测存在分歧，体征和不同结果的最重要特征存在分歧，例如概率，对数几率和使用相同线性概率模型（logit/probit）生成的二元决策。这些分歧不仅停留在局部的可解释性，但也影响到全球的功能的重要性。我们的结论是，有一个给定的模型没有唯一的Shapley解释。它随模型结果（概率/对数几率/二元决策，如接受与拒绝）以及模型应用而变化。
2021-11-23 cs.LG stat.ME stat.ML
groupShapley: Efficient prediction explanation with Shapley values for feature groups
Norsk Regnesentral（挪威计算中心）
Shapley值已经成为解释复杂机器学习模型预测的最合适和理论上最合理的框架之一。Shapley值在解释设置中的流行可能是由于其独特的理论特性。然而，Shapley值的主要缺点是其计算复杂度随着输入特征的数量呈指数级增长，这使得它在许多可能有数百或数千个特征的现实世界中不可行。此外，对于许多（依赖）特征，呈现/可视化和解释计算的Shapley值也变得具有挑战性。本文介绍了groupShapley：一个概念上简单的方法来处理上述瓶颈。其思想是将特征分组，例如按类型或依赖性，然后计算并呈现这些组的Shapley值，而不是所有单个特征的Shapley值。将数百或数千个特征减少到六个左右，使得精确计算实际上是可行的，并且极大地简化了表示和知识提取。我们证明了在一定的条件下，groupShapley是相当于总结功能明智的Shapley值在每个功能组。此外，我们提供了一个模拟研究，举例说明这些条件不满足时的差异。我们说明了在现实世界中的汽车保险的例子，groupShapley是用来提供简单而直观的解释的方法的可用性。
2021-06-23 cs.LG stat.ML
Accelerating Shapley Explanation via Contributive Cooperator Selection
Rice University（莱斯大学）；Texas A&M University（德克萨斯农工大学）；Meta Platforms, Inc.（Meta平台公司）
尽管Shapley值为DNN模型预测提供了有效的解释，但计算依赖于所有可能的输入特征联盟的枚举，这导致了指数增长的复杂性。为了解决这个问题，我们提出了一种新的方法SHALK来显着加速DNN模型的Shapley解释，其中只有少数输入特征的联盟参与计算。特征联盟的选择遵循我们提出的Shapley链规则，以最小化与地面真实Shapley值的绝对误差，使得计算既高效又准确。为了证明其有效性，我们在多个指标上全面评估了SHRISK，包括与真实Shapley值的绝对误差、解释的可信度和运行速度。实验结果表明，SHERMOSS在不同的评估指标上始终优于最先进的基线方法，这表明了它在计算资源有限的现实世界应用中的潜力。
2023-03-06 cs.AI cs.GT cs.LG
A Theoretical Framework for Explaining Reinforcement Learning with Shapley Values
University of Bath（巴斯大学）
针对强化学习智能体可解释性不足的问题，提出基于Shapley值的统一理论框架SVERL，从行为、结果、预测三方面推导特征影响，提供兼具可解释性与数学合理性的解释并修正先前的概念问题。
2025-07-31 cs.LG
Problems with Shapley-value-based explanations as feature importance measures
University of Utah（犹他大学）；University of Arizona（亚利桑那大学）；Haverford College（哈弗福德学院）
特征重要性的博弈理论公式已经成为“解释”机器学习模型的一种方式。这些方法定义了一个模型的功能之间的合作博弈，并使用某种形式的游戏的唯一Shapley值在这些输入元素之间分配影响。这些方法的合理性取决于两个支柱：它们理想的数学特性，以及它们对特定解释动机的适用性。我们发现，数学问题时，Shapley值被用于特征的重要性和解决方案，以减轻这些必然会引起进一步的复杂性，如因果推理的需要。我们还借鉴了其他文献，认为Shapley值不提供适合以人为中心的可解释性目标的解释。
2020-06-30 cs.AI cs.LG stat.ML
Mathematically rigorous proofs for Shapley explanations
dr. Tim van Erven（博士 Tim van Erven）；dr. Krystal Guo（博士 Krystal Guo）
该研究从数学严格角度对Lundberg和Lee提出的Shapley值解释方法的两项核心结论给出完整证明，修正了对称性公理冗余的结论，补充了加权线性回归解的降维证明。
2025-09-28 cs.LG stat.ML
Explanation of Machine Learning Models Using Shapley Additive Explanation and Application for Real Data in Hospital
Kumamoto University（熊本大学）；Kurume University（久留米大学）；Saiseikai Kumamoto Hospital（济生会熊本医院）；Kyushu University Hospital（九州大学医院）
当在决策过程中使用机器学习技术时，模型的可解释性很重要。在本文中，我们采用Shapley加法解释（SHAP），这是基于公平的利益分配在许多利益相关者之间，取决于他们的贡献，解释一个梯度推进决策树模型，使用医院数据。为了更好的可解释性，我们提出了两种新的技术，如下：（1）一个新的特征重要性度量使用SHAP和（2）一种技术称为特征包装，包装多个相似的功能到一个分组的功能，让一个更容易理解的模型，而无需重建的模型。然后，我们比较了SHAP框架和现有方法之间的解释结果。此外，我们使用我们的医院数据和提出的技术，显示了A/G比值如何作为脑梗死的重要预后因素。
2022-03-02 cs.LG stat.ML
Fair feature attribution for multi-output prediction: a Shapley-based perspective
\, Chair of Computational Mathematics, DeustoTech, University of Deusto, Avenida de las Universidades 24, 48007 Bilbao, Basque Country, Spain \, Chair for dynamics, control, machine learning；numerics (Alexander Von Humboldt-Professorship), Department of Mathematics, Friedrich-Alexander-Universit\"at Erlangen-N\"urnberg, 91058, Erlangen, Germany. \, Universidad Aut\'onoma de Madrid, Departamento de Matem\'aticas, Ciudad Universitaria de Cantoblanco, 28049 Madrid, Spain. \, ATLAS Molecular Pharma, Parque Tecnol\'ogico de Bizkaia, Ed. 800, 48160 Derio, Spain. \, Precision Medicine；Metabolism Laboratory, CIC bioGUNE, Basque Research
本文基于Shapley框架，提出多输出预测的公平特征归因方法，揭示了归因规则必须放松经典Shapley公理的结构约束，并通过实验验证了多输出模型在计算效率与解释一致性上的优势。
2026-02-26 cs.LG
Explaining a Series of Models by Propagating Shapley Values
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
局部特征属性方法越来越多地用于解释复杂的机器学习模型。然而，目前的方法是有限的，因为它们是非常昂贵的计算或无法解释一系列分布式模型，其中每个模型是由一个单独的机构拥有。后者尤其重要，因为它经常出现在要求解释的金融领域。在这里，我们提出了DeepSHAP，这是一种基于与Shapley值的连接通过一系列复杂模型传播局部特征属性的易处理方法。我们在生物，健康和金融数据集上评估了DeepSHAP，以表明它提供了同样突出的解释，比现有的模型不可知归因技术快一个数量级，并展示了它在一系列重要的分布式模型设置中的使用。
2021-10-13 cs.LG
Interpretation of multi-label classification models using shapley values
University of Duisburg-Essen（杜伊斯堡-埃森大学）
多标签分类是一种分类任务，它用于当有两个或多个类时，我们想要预测的数据点可能不属于任何一个类或同时属于所有类。在现实世界中，许多应用实际上都涉及多标签，包括信息检索、多媒体内容标注、Web挖掘等，基于博弈论的SHapley加法解释（SHapley Additive exPlanations，SHAP）框架被用来解释各种监督学习模型，而不需要知道确切的模型。在此，这项工作进一步扩展了解释的多标签分类任务，通过使用SHAP方法。实验证明了不同的算法在著名的多标签数据集上的全面比较，并显示了解释的有用性。
2021-04-21 cs.LG
The many Shapley values for model explanation
Google（谷歌公司）
Shapley值已成为一种流行的方法，用于将机器学习模型对输入的预测归因于其基本特征。Shapley值的使用通过引用[16]证明了\emph{unique}方法满足某些良好性质（\emph{axioms}）。然而，在归因问题中，Shapley值的可操作性有多种方式。它们在引用模型、训练数据和解释上下文的方式上有所不同。这两种方法给出了非常不同的结果，使得唯一性结果变得毫无意义。此外，我们发现，以前提出的方法可以在理论上和实践中产生违反直觉的属性-例如，它们可以将非零属性分配给模型甚至没有引用的功能。在本文中，我们使用公理化的方法来研究的Shapley值属性的许多操作之间的差异，并提出了一种技术称为基线Shapley（BShap），是由一个适当的唯一性结果支持。我们还将BShap与IntegratedConcentrants进行了对比，这是Shapley值对连续设置的另一种扩展。
2020-02-07 cs.AI cs.LG econ.TH
Learning to Estimate Shapley Values with Vision Transformers
University of Washington（华盛顿大学）
Transformers已经成为计算机视觉中的默认架构，但了解是什么驱动了它们的预测仍然是一个具有挑战性的问题。目前的解释方法依赖于注意力值或输入梯度，但这些提供了一个有限的视图模型的依赖关系。Shapley值提供了一个理论上合理的替代方案，但其计算成本使其对于大型高维模型不切实际。在这项工作中，我们的目标是使Shapley值实用的视觉Transformer（ViTs）。要做到这一点，我们首先利用注意力掩蔽方法来评估部分信息的ViTs，然后我们开发了一个程序，通过一个单独的，学习的解释模型生成Shapley值解释。我们的实验将Shapley值与许多基线方法（例如，注意推出，GradCAM，LRP），我们发现我们的方法提供了更准确的解释比现有的方法为ViTs。
2023-03-01 cs.CV cs.LG
Counterfactual Shapley Additive Explanations
J.P. Morgan AI Research（摩根大通人工智能研究院）
特征属性是模型解释的常见范例，因为它们简单地为模型的每个输入特征分配单个数值分数。在可操作的追索设置中，解释的目标是改善模型消费者的结果，通常不清楚如何正确使用特征属性。通过这项工作，我们的目标是加强和澄清可诉追索权和特征属性之间的联系。具体地说，我们提出了SHAP的一个变体，反事实SHAP（CF-SHAP），它结合了反事实信息来产生一个背景数据集，用于在边缘（也称为Shapley值框架。我们激励需要在可操作的追索权设置仔细考虑背景数据集时，使用Shapley值的特征属性与众多的合成的例子。此外，我们证明了CF-SHAP的有效性，提出并证明了一个定量分数的特征属性，反事实能力，表明通过这种度量，CF-SHAP是优于现有的方法时，公共数据集使用树集成进行评估。
2022-05-16 cs.AI cs.LG
Precision of Individual Shapley Value Explanations
University of Oslo（奥斯陆大学）；The Alan Turing Institute（艾伦·图灵研究所）
本文研究表格模型中个体条件 Shapley 值解释的精度，发现所有估计方法对训练分布外围观测的解释均系统性更不精确，提醒从业者谨慎使用。
2023-12-06 cs.LG stat.AP stat.CO
Fast Hierarchical Games for Image Explanations
随着现代复杂的神经网络不断打破记录并解决更难的问题，它们的预测也变得越来越难以理解。目前缺乏可解释性通常会破坏在敏感环境中部署准确的机器学习工具。在这项工作中，我们提出了一个模型不可知的解释方法的基础上层次扩展Shapley系数-层次形状（h-Shap）的图像分类-解决了一些目前的方法的局限性。与其他基于Shapley的解释方法不同，h-Shap是可扩展的，并且可以在不需要近似的情况下计算。在某些分布假设下，例如多实例学习中常见的假设，h-Shap检索精确的Shapley系数，计算复杂性呈指数级改善。我们比较了我们的分层方法与流行的基于Shapley和非基于Shapley的方法在合成数据集，医学成像场景，和一般的计算机视觉问题，表明h-Shap在准确性和运行时间方面都优于最先进的方法。代码和实验是公开的。
2022-06-09 cs.CV cs.LG
Manifold Restricted Interventional Shapley Values
University of Oxford（牛津大学）；Amazon Research（亚马逊研究院）
Shapley值是解释模型预测的模型不可知方法。计算Shapley值的许多常用方法（称为非流形方法）依赖于对分布外输入样本的模型评估。因此，获得的解释是敏感的数据分布，这可能是不相关的所有实际目的以外的模型行为。虽然流形上的方法已经提出了不受这个问题，我们表明，这种方法是过度依赖于输入数据的分布，因此导致不直观和误导性的解释。为了规避这些问题，我们提出了ManifoldShap，它通过将模型评估限制在数据流形上来尊重模型的有效性域。我们表明，理论和经验，ManifoldShap是强大的流形外扰动的模型，并导致更准确和直观的解释比现有的国家的最先进的Shapley方法。
2023-02-25 cs.LG stat.ML
Explaining Reinforcement Learning with Shapley Values
University of Bath（巴斯大学）
针对强化学习系统的可解释性需求，本文提出用于解释强化学习的Shapley值框架SVERL，分析了过往方法的局限，该方法能在多领域生成符合人类直觉的智能体性能解释。
2023-06-09 cs.LG
Electricity Consumption Forecasting: An Approach Using Cooperative Ensemble Learning with SHapley Additive exPlanations
Industrial & Systems Engineering Graduate Program (PPGEPS), Federal University of Technology-Parana (UTFPR)（工业与系统工程研究生项目（PPGEPS），联邦技术大学-巴兰（UTFPR））
提出一种名为弱分离器增强器（WSB）的协作集成学习方法，结合LSTM、RF、SVR和XGBoost模型，利用SHAP进行特征选择，遗传算法和粒子群优化超参数，对巴西联邦学院两个校区未来12个月的电力消耗进行预测，取得较低误差。
2026-05-25 cs.LG
The Explanation Game: Explaining Machine Learning Models Using Shapley Values
Fiddler Labs（菲德勒实验室）
已经提出了许多技术来通过将机器学习模型的预测归因于相应的输入特征来解释该预测。其中流行的技术是应用合作博弈论的Shapley值方法。虽然现有的论文专注于Shapley值的公理化动机和计算它们的有效技术，但它们几乎没有为所使用的博弈公式提供任何理由，也没有解决其方法输出中隐含的不确定性。例如，流行的SHAP算法的公式可能会对在模型中不起作用的特征赋予实质性的属性。在这项工作中，我们说明了如何微妙的差异，在现有的方法的基础游戏配方可能会导致大的差异，在归因的预测。然后，我们提出了一个通用的游戏配方，统一现有的方法，并使他们的属性直接的置信区间。此外，它允许我们将属性解释为相对于参考输入分布的输入的对比解释。我们将这个想法与认知心理学中关于对比解释的经典研究联系起来，并提出了一个概念框架，用于生成和解释ML模型的解释，称为公式化，近似，解释（FAE）。我们应用这个框架来解释在两个UCI数据集和一个Lending Club数据集上训练的黑盒模型。
2020-06-25 cs.AI cs.LG stat.ML
$ϕ$-test: Global Feature Selection and Inference for Shapley Additive Explanations
Department of Computer Engineering（计算机工程系）；Gachon University（加荣大学）
$ϕ$-test通过结合Shapley属性与选择性推断，实现黑盒预测器的全局特征选择与显著性推断，提升模型解释性与稳定性。
2026-01-13 cs.LG stat.ME stat.ML
DeepCSHAP: Utilizing Shapley Values to Explain Deep Complex-Valued Neural Networks
University of Münster（明斯特大学）
本文提出DeepCSHAP，将Shapley值解释方法扩展到复值神经网络，并给出四种梯度解释方法，评估质量并开源。
2024-03-13 cs.LG
Explaining Preferences with Shapley Values
University of Oxford（牛津大学）；Amazon（亚马逊）；Shaped
虽然偏好建模正在成为机器学习的支柱之一，但偏好解释的问题仍然具有挑战性和探索不足。在本文中，我们提出了\textsc{Pref-SHAP}，一个基于Shapley值的两两比较数据的模型解释框架。我们推导出适当的值函数的偏好模型，并进一步扩展框架的模型和解释\emph{context specific}信息，如网球比赛中的表面类型。为了证明\textsc{Pref-SHAP}的实用性，我们将我们的方法应用于各种合成和真实世界的数据集，并表明可以在基线上获得更丰富，更有见地的解释。
2022-11-08 cs.LG stat.ME stat.ML
Explainable Fraud Detection with GNNExplainer and Shapley Values
National University of Singapore（新加坡国立大学）
本文针对金融欺诈风险增加及AI欺诈检测系统透明度标准提高的挑战，提出开发一种可解释的欺诈检测器，以提供简洁易懂的解释辅助欺诈调查。
2025-09-12 cs.LG
Shapley values for cluster importance: How clusters of the training data affect a prediction
Volda University College（沃尔达大学学院）；University of Oslo（奥斯陆大学）
本文提出了一种新的方法来解释由数据驱动的方法所做的预测。由于这种预测严重依赖于用于训练的数据，因此传达有关训练数据如何影响预测的信息的解释是有用的。本文提出了一种新的方法来量化训练数据的不同数据聚类如何影响预测。量化是基于Shapley值的，Shapley值是一个源于联盟博弈论的概念，用于在一组合作玩家之间公平分配支出。一个玩家的Shapley值是该玩家贡献的度量。Shapley值通常用于量化特征的重要性，即。特征如何影响预测。本文将其扩展到聚类重要性，让训练数据的聚类充当游戏中的玩家，其中预测是支出。本文提出的新方法让我们探索和研究训练数据的不同聚类如何影响任何黑盒模型的预测，从而将预测模型的推理和内部工作的新方面传达给用户。该方法从根本上不同于现有的解释方法，提供了否则无法获得的洞察力，并应补充现有的解释方法，包括基于特征重要性的解释。
2022-12-08 cs.LG stat.ML
The Shapley Value of coalition of variables provides better explanations
虽然Shapley值（SV）是解释机器学习模型的黄金标准之一，但我们发现它们仍然知之甚少，特别是在存在分类变量或低重要性变量的情况下。例如，我们表明，流行的做法，包括在虚拟变量的SV求和是错误的，因为它提供了错误的估计模型中的所有SV，并意味着虚假的解释。基于零和积极联盟的识别，以及SV的联盟版本，我们提供了一个正确的计算和推断的重要变量。此外，一个Python库（所有的实验和模拟都可以用公共可用的库Active Coalition of Variables复制，https：//www.github.com/salimamoukou/acv00），该库为基于树的模型计算可靠的条件期望和SV，并与玩具模型和真实数据集上的最先进算法进行比较。
2022-04-06 cs.LG stat.ML
SHapley Estimated Explanation (SHEP): A Fast Post-Hoc Attribution Method for Interpreting Intelligent Fault Diagnosis
State Key Laboratory of Mechanical System and Vibration, Shanghai Jiao Tong University（上海交通大学机械系统与振动国家重点实验室）
针对智能故障诊断中SHAP结合域变换带来的高计算开销问题，提出分块归因和SHapley估计解释（SHEP）方法，通过降低特征维度和简化子集枚举将复杂度降至线性级，显著提升计算效率并实现实时解释。
2025-04-03 cs.AI cs.LG
Using Shapley Values and Variational Autoencoders to Explain Predictive Models with Dependent Mixed Features
University of Oslo（奥斯陆大学）；Norwegian Computing Center（挪威计算中心）
Shapley值如今被广泛用作模型不可知的解释框架，以解释复杂的预测机器学习模型。Shapley值在合作对策论中具有良好的理论性质和数学基础。依赖数据的精确Shapley值估计依赖于所有特征组合之间的依赖关系的精确建模。在本文中，我们使用变分自动编码器与任意条件（VAEAC）同时建模所有功能的依赖关系。我们通过全面的模拟研究表明，我们的VAEAC方法Shapley值估计优于国家的最先进的方法，为连续和混合依赖功能的广泛设置。对于高维设置，我们的VAEAC方法与非均匀掩蔽方案显着优于竞争的方法。最后，我们应用我们的VAEAC方法来估计Shapley值解释鲍鱼数据集从UCI机器学习库。
2022-04-19 cs.LG stat.ML
Rigorous Explanation of Inference on Probabilistic Graphical Models
Lehigh University（理海大学）
概率图模型，如马尔可夫随机场（MRF），利用随机变量之间的依赖关系来模拟一个丰富的家庭的联合概率分布。复杂的推理算法，如置信传播（BP），可以有效地计算边缘后验。尽管如此，仍然很难解释重要人类决策的推理结果。没有现有的方法来严格属性的推理结果的图形模型的贡献因素。Shapley值提供了一个公理化的框架，但单纯地计算甚至近似一般图形模型上的值是具有挑战性的，而且研究较少。我们提出GraphShapley来整合Shapley值的可分解性，MRF的结构以及BP推理的迭代性质，以快速Shapley值计算的原则性方式，即1）系统地列举解释变量对Shapley值的重要贡献而不重复; 2）增量计算贡献而不从划痕开始。我们从理论上描述了GraphShapley的独立性、等贡献性和可加性。在九个图上，我们证明了GraphShapley提供了合理和实用的解释。
2020-04-21 cs.LG cs.SI
Exact Shapley Attributions in Quadratic-time for FANOVA Gaussian Processes
Department of Computer Science, Vrije Universiteit Amsterdam, The Netherlands（荷兰阿姆斯特丹自由大学计算机科学系）；Rational Intelligence Lab, CISPA Helmholtz Center for Information Security, Germany（德国信息安全部CISPA理性智能实验室）；College of Computing & Data Science, Nanyang Technological University, Singapore（新加坡南洋理工大学计算与数据科学学院）
针对Shapley值计算的指数复杂度问题，本文提出对显式建模主效应和交互作用的FANOVA高斯过程，可在二次时间内计算局部和全局精确Shapley归因，提升了概率模型解释的可扩展性与实用性。
2025-08-20 cs.AI cs.LG
Explaining the Model and Feature Dependencies by Decomposition of the Shapley Value
KU Leuven University（荷语鲁汶大学）
本文提出一种结合条件与非条件Shapley值的新算法，以消除解释选择负担，增强模型及特征依赖性的解释能力，并在真实数据集上验证其有效性。
2023-06-19 cs.AI cs.LG
Suboptimal Shapley Value Explanations
本文针对 Shapley 值解释中基线选择导致的次优问题，分析非对称交互偏差，提出基于标签空间无信息性和不确定性重加权的基线改进方法，并在 NLP 任务上验证其有效性。
2025-02-17 cs.AI cs.LG stat.ML
RESHAPE: Explaining Accounting Anomalies in Financial Statement Audits by enhancing SHapley Additive exPlanations
University of St.Gallen (HSG)（圣加仑大学（HSG））；Deutsche Bundesbank（德意志联邦银行）
发现会计异常现象是财务报表审计中经常遇到的挑战。最近，已经提出了来自深度学习（DL）的新方法来审计大量报表的基础会计记录。然而，由于其大量的参数，这样的模型表现出固有的不透明的缺点。与此同时，隐藏模型的内部工作往往会阻碍其在现实世界中的应用。这一看法在财务审计中尤其适用，因为审计员必须合理地解释和证明其审计决定的合理性。如今，已经提出了各种可解释AI（XAI）技术来解决这一挑战，例如，SHapley加法解释（SHAP）。然而，在财务审计中经常应用的无监督DL中，这些方法在编码变量的水平上解释模型输出。因此，自动编码器神经网络（AENNs）的解释通常很难被人类审计员理解。为了减轻这个缺点，我们提出了（RESHAPE），它解释了聚合属性级别上的模型输出。此外，我们引入了一个评估框架来比较XAI方法在审计中的多功能性。我们的实验结果表明，经验证据表明，RESHAPE的结果在多功能的解释相比，国家的最先进的基线。我们设想这样的属性级的解释，作为一个必要的下一步在财务审计中采用无监督DL技术。
2022-09-19 cs.CE cs.LG q-fin.ST
ShaTS: A Shapley-based Explainability Method for Time Series Artificial Intelligence Models applied to Anomaly Detection in Industrial Internet of Things
Departamento de Ingeniería y Tecnología de Computadores, University of Murcia（计算机工程与技术部门，穆尔西亚大学）
本文提出与模型无关的时序模型可解释性方法ShaTS，通过先验特征分组保留时序依赖，在SWaT数据集上比SHAP更准确地定位异常关键时间点、传感器和执行器，并满足工业实时性要求。
2025-06-02 cs.AI cs.LG
Joint Distribution-Informed Shapley Values for Sparse Counterfactual Explanations
Technical University of Denmark（丹麦技术大学）；University of Copenhagen（哥本哈根大学）；AI Labs, King (Microsoft Gaming)（微软游戏AI实验室）
COLA通过联合分布感知的Shapley值方法，优化反事实解释的特征编辑，减少冗余修改，提升解释的清晰度和实用性。
2026-02-27 cs.AI cs.LG stat.ME
A Comparative Study of Methods for Estimating Conditional Shapley Values and When to Use Them
University of Oslo（奥斯陆大学）；Norwegian Computing Center（挪威计算中心）
本文针对表格数据预测模型的条件Shapley值估计难题，拓展并归类了蒙特卡洛、回归类等估计方法，通过模拟与真实实验评估精度，给出不同数据场景下的方法选用建议。
2023-05-16 cs.LG stat.CO stat.ML
Explanation of Machine Learning Models of Colon Cancer Using SHAP Considering Interaction Effects
Kumamoto University（熊本大学）；Fukuoka Health Promotion Support Center（福冈健康促进支援中心）；Kyushu University Hospital（九州大学医院）
当在决策过程中使用机器学习技术时，模型的可解释性很重要。Shapley加性解释（SHAP）是机器学习模型最有前途的解释方法之一。当一个变量的影响取决于另一个变量的值时，就会发生交互作用效应。即使每个变量对结果的影响很小，但它的组合也会对结果产生意想不到的巨大影响。理解交互作用对于理解机器学习模型很重要;然而，朴素SHAP分析无法区分主效应和交互作用效应。在本文中，我们引入Shapley-Taylor指数作为解释方法的机器学习模型使用SHAP考虑相互作用的影响。我们将该方法应用于九州大学医院的癌症队列数据（N= 29，080），以分析哪些因素组合有助于结肠癌的风险。
2022-08-05 cs.LG
GroupSegment-SHAP: Shapley Value Explanations with Group-Segment Players for Multivariate Time Series
Graduate School of Industrial Data Engineering Hanyang University Seoul Republic of Korea（工业数据工程研究生院 首尔韩国国立汉阳大学）；Hanyang University（国立汉阳大学）
GroupSegment-SHAP通过构建组-段玩家来解释多变量时间序列中的交互，提升了解释性能并减少了计算时间。
2026-08-24 cs.AI cs.GT cs.LG
Threading the Needle of On and Off-Manifold Value Functions for Shapley Explanations
Carnegie Mellon University（卡内基梅隆大学）；University of California, Berkeley（加州大学伯克利分校）；Google Inc.（谷歌公司）
一种流行的可解释AI（XAI）方法来量化给定模型的特征重要性是通过Shapley值。这些Shapley值出现在合作游戏中，因此在XAI上下文中计算这些值的关键要素是所谓的价值函数，该函数计算特征子集的“值”，并将机器学习模型连接到合作游戏。这种价值函数有许多可能的选择，大致分为两类：流形上和流形外的价值函数，它们分别采取观察和干预的观点。然而，这两个类都有各自的缺陷，其中流形上的价值函数违反了关键的公理性质，并且计算量很大，而流形外的价值函数不太注意数据流形，并且在没有训练的区域上评估模型。因此，对于使用哪类价值函数没有共识。在本文中，我们表明，除了这些现有的问题，这两类价值函数容易对抗低密度区域的操纵。我们形式化的必要条件的价值函数，尊重在一组公理的模型和数据流形，是强大的扰动上的非流形区域，并表明存在一个唯一的价值函数，满足这些公理，我们称之为联合基线价值函数，和由此产生的Shapley值的联合基线Shapley（JBshap），并在实验中验证了JBshap的有效性。
2022-02-24 cs.AI cs.GT cs.LG
Functional Decomposition and Shapley Interactions for Interpreting Survival Models
Leibniz Institute for Prevention Research（预防研究与流行病学研究所）；Faculty of Mathematics（数学系）；Computer Science, University of Bremen（计算机科学，不莱梅大学）；University of Warsaw（华沙大学）；Centre for Credible AI, Warsaw University of Technology（可信人工智能中心，华沙技术大学）；Bielefeld University（比勒菲尔德大学）
本文提出SurvFD和SurvSHAP-IQ，用于解释生存模型中的特征交互和时间依赖性，通过分解高阶效应提供新的可解释方法。
2026-02-18 cs.LG stat.ML
InstaSHAP: Interpretable Additive Models Explain Shapley Values Instantly
University of Southern California（南加州大学）
本文揭示 GAM 与 SHAP 的变分联系，提出 InstaSHAP，通过训练并自动纯化可解释 GAM，使 Shapley 值可一次前向传播计算，同时指出二者共有的表达能力局限。
2025-02-20 cs.LG stat.ML
Theoretical Evaluation of Asymmetric Shapley Values for Root-Cause Analysis
HUN-REN SZTAKI（匈牙利研究网络计算机科学与控制研究所）；CNRS（法国国家科学研究中心）；University Lille（里尔大学）；Ericsson Hungary（爱立信匈牙利公司）
本文理论评估非对称Shapley值（ASV）在根因分析中的表现，发现其放宽对称性会导致反直觉归因，但广义加性模型（GAM）下性质良好，并通过真实数据集实验验证。
2023-10-15 cs.LG stat.ME
