Nonlinear Axiomatic Attribution for Cooperative Games
National University of Singapore（新加坡国立大学）；University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）
研究合作博弈中归因问题，受最小核心启发引入一类非线性公理归因方法，该方法产生的贡献向量是特定最小化问题的唯一最优解，实验表明其在包含AUC指标上比仅放宽效率公理的夏普利值变体更有效。
2026-08-26 cs.LG
Joint Shapley values: a measure of joint feature importance
Raptor Financial Technologies（Raptor金融技术公司）；Birkbeck College University of London（伦敦大学伯克贝克学院）；University of Birmingham（伯明翰大学）；Tokyo, Japan（东京，日本）
Shapley值是最广泛使用的特征重要性度量之一，部分原因是它度量了特征对模型预测的平均影响。我们引入了联合Shapley值，它直接扩展了Shapley的公理和直觉：联合Shapley值度量了一组特征对模型预测的平均贡献。我们证明了联合Shapley值的唯一性，对于任何顺序的解释。游戏的结果表明，联合Shapley值提出了不同的见解，从现有的相互作用指数，评估一组功能内的功能的效果。联合Shapley值为ML属性问题提供了直观的结果。对于二进制特征，我们提出了一个存在调整的全局值，它比通常的方法更符合局部直觉。
2022-02-10 cs.AI cs.LG stat.ML
RankSHAP: Shapley Value Based Feature Attributions for Learning to Rank
针对现有学习排序特征归因结果不一致的问题，本文提出基于公理的RankSHAP框架，将Shapley值拓展至排序场景，经实验和用户研究验证其有效性与符合人类直觉，为IR排序模型研究提供通用一致的归因方法。
2025-02-21 cs.IR cs.LG
Fair feature attribution for multi-output prediction: a Shapley-based perspective
\, Chair of Computational Mathematics, DeustoTech, University of Deusto, Avenida de las Universidades 24, 48007 Bilbao, Basque Country, Spain \, Chair for dynamics, control, machine learning；numerics (Alexander Von Humboldt-Professorship), Department of Mathematics, Friedrich-Alexander-Universit\"at Erlangen-N\"urnberg, 91058, Erlangen, Germany. \, Universidad Aut\'onoma de Madrid, Departamento de Matem\'aticas, Ciudad Universitaria de Cantoblanco, 28049 Madrid, Spain. \, ATLAS Molecular Pharma, Parque Tecnol\'ogico de Bizkaia, Ed. 800, 48160 Derio, Spain. \, Precision Medicine；Metabolism Laboratory, CIC bioGUNE, Basque Research
本文基于Shapley框架，提出多输出预测的公平特征归因方法，揭示了归因规则必须放松经典Shapley公理的结构约束，并通过实验验证了多输出模型在计算效率与解释一致性上的优势。
2026-02-26 cs.LG
The many Shapley values for model explanation
Google（谷歌公司）
Shapley值已成为一种流行的方法，用于将机器学习模型对输入的预测归因于其基本特征。Shapley值的使用通过引用[16]证明了\emph{unique}方法满足某些良好性质（\emph{axioms}）。然而，在归因问题中，Shapley值的可操作性有多种方式。它们在引用模型、训练数据和解释上下文的方式上有所不同。这两种方法给出了非常不同的结果，使得唯一性结果变得毫无意义。此外，我们发现，以前提出的方法可以在理论上和实践中产生违反直觉的属性-例如，它们可以将非零属性分配给模型甚至没有引用的功能。在本文中，我们使用公理化的方法来研究的Shapley值属性的许多操作之间的差异，并提出了一种技术称为基线Shapley（BShap），是由一个适当的唯一性结果支持。我们还将BShap与IntegratedConcentrants进行了对比，这是Shapley值对连续设置的另一种扩展。
2020-02-07 cs.AI cs.LG econ.TH
Explaining black box decisions by Shapley cohort refinement
Hitachi, Ltd.（日立有限公司）；Stanford University（斯坦福大学）
我们引入了一个变量的重要性度量来量化单个输入变量对黑盒函数的影响。我们的措施是基于合作博弈论的Shapley值。许多变量重要性的度量通过改变一些预测值而其他预测值保持不变来操作，可能会产生不太可能甚至逻辑上不可能的组合。我们的队列Shapley测量仅使用观察到的数据点。我们不改变预测因子的值，而是包括或排除与该预测因子上的目标受试者相似的受试者，以形成相似性队列。然后我们将Shapley值应用于队列平均值。我们将可解释AI的变量重要性度量与全局敏感性分析的函数分解相连接。我们引入了一个平方队列Shapley值，将先前研究的Shapley效应与Shapley公理相一致。
2020-10-01 cs.AI cs.LG econ.EM
Threading the Needle of On and Off-Manifold Value Functions for Shapley Explanations
Carnegie Mellon University（卡内基梅隆大学）；University of California, Berkeley（加州大学伯克利分校）；Google Inc.（谷歌公司）
一种流行的可解释AI（XAI）方法来量化给定模型的特征重要性是通过Shapley值。这些Shapley值出现在合作游戏中，因此在XAI上下文中计算这些值的关键要素是所谓的价值函数，该函数计算特征子集的“值”，并将机器学习模型连接到合作游戏。这种价值函数有许多可能的选择，大致分为两类：流形上和流形外的价值函数，它们分别采取观察和干预的观点。然而，这两个类都有各自的缺陷，其中流形上的价值函数违反了关键的公理性质，并且计算量很大，而流形外的价值函数不太注意数据流形，并且在没有训练的区域上评估模型。因此，对于使用哪类价值函数没有共识。在本文中，我们表明，除了这些现有的问题，这两类价值函数容易对抗低密度区域的操纵。我们形式化的必要条件的价值函数，尊重在一组公理的模型和数据流形，是强大的扰动上的非流形区域，并表明存在一个唯一的价值函数，满足这些公理，我们称之为联合基线价值函数，和由此产生的Shapley值的联合基线Shapley（JBshap），并在实验中验证了JBshap的有效性。
2022-02-24 cs.AI cs.GT cs.LG
SHAP-IQ: Unified Approximation of any-order Shapley Interactions
Bielefeld University（比勒费尔德大学）；CITEC（认知交互技术研究中心）；LMU Munich（慕尼黑大学）；MCML Munich（慕尼黑机器学习中心）；Paderborn University（帕德博恩大学）
本文提出SHAP-IQ，一种基于采样的统一近似方法，用于计算满足线性性、对称性和虚拟性公理的任意基数Shapley交互指数，并提供理论保证和方差估计，在语言、图像及高维合成模型上验证了其计算效率与有效性。
2023-10-30 cs.AI cs.LG
Unified Shapley Framework to Explain Prediction Drift
Fiddler Labs（菲德勒实验室）；Northeastern University（东北大学）
预测是机器学习模型的通用性，并且理解模型在数据集的段上或在时间上的行为是机器学习研究和实践中的重要问题。目前还没有系统的框架来理解预测分布随时间的推移或两个语义上有意义的数据切片之间的这种漂移，就输入特征和点而言。我们提出GroupShapley和GroupIG（集成的修正），作为公理合理的方法来解决这个问题。在这样做的过程中，我们重新构建了所有当前的功能/数据的重要性措施的基础上的Shapley值的分布比较的基本问题，并将它们统一在一个共同的保护伞。我们公理化分配差异的某些理想属性，并研究经验选择它们的含义。
2021-02-15 cs.LG
Scalable, Axiomatic Explanations of Deep Alzheimer's Diagnosis from Heterogeneous Data
Artificial Intelligence in Medical Imaging (AI-Med), Department of Child and Adolescent Psychiatry, Ludwig-Maximilians-Universität, Munich, Germany（慕尼黑路德维希-马克西米利安大学儿童与青少年精神病学系医学成像人工智能（AI-Med））
深度神经网络（DNN）在从复杂的生物医学数据中学习方面具有巨大的潜力。特别是，DNN已被用于无缝融合来自神经解剖学、遗传学、生物标志物和神经心理学测试的异质信息，以实现高度准确的阿尔茨海默病诊断。另一方面，它们的黑箱性质仍然是在临床中采用这种系统的障碍，其中可解释性是绝对必要的。我们提出了异质神经网络的Shapley值解释（SVEHNN），用于解释由DNN从神经解剖学和表格生物标志物的3D点云做出的阿尔茨海默氏症诊断。我们的解释是基于Shapley值，这是唯一的方法，满足所有的基本公理的本地解释以前建立在文献中。因此，SVEHNN有许多可取的特点，以前的工作解释医疗决策是缺乏的。为了避免Shapley值的指数时间复杂度，我们建议将给定的DNN转换为轻量级概率深度网络而无需重新训练，从而实现特征数量的二次复杂度。在我们对合成数据和真实数据的实验中，我们表明，我们可以在大大减少运行时间的情况下接近准确的Shapley值，并且可以揭示网络从数据中学习到的隐藏知识。
2021-09-30 cs.CV cs.LG stat.ML
Beta Shapley: a Unified and Noise-reduced Data Valuation Framework for Machine Learning
Stanford University（斯坦福大学）
数据Shapley最近被提出作为一个原则性的框架来量化个体数据在机器学习中的贡献。它可以有效地识别对学习算法有用或有害的数据点。在本文中，我们提出了Beta Shapley，这是一个实质性的推广数据Shapley。Beta Shapley通过放松Shapley值的效率公理而自然产生，这对于机器学习设置并不重要。Beta Shapley统一了几种流行的数据估值方法，并将数据Shapley作为特例。此外，我们证明了Beta Shapley具有几个理想的统计特性，并提出了有效的算法来估计它。我们证明了Beta Shapley在几个下游ML任务上优于最先进的数据估值方法，例如：1）检测错误标记的训练数据; 2）使用子样本学习; 3）识别添加或删除对模型产生最大积极或消极影响的点。
2022-01-18 cs.LG stat.ML
The Shapley Value in Machine Learning
AstraZeneca（阿斯利康）；The University of Edinburgh（爱丁堡大学）；Toulouse School of Economics（图卢兹经济学院）；Institute for Advanced Study in Toulouse（图卢兹高等研究院）；Central European University（中欧大学）
在过去的几年里，Shapley值，一个来自合作博弈论的解决方案概念，在机器学习中有许多应用。本文首先讨论了合作对策论的基本概念和Shapley值的公理化性质。然后，我们给出了Shapley值在机器学习中最重要的应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估值的概述。我们研究的Shapley值的最重要的限制，并指出未来的研究方向。
2022-05-26 cs.AI cs.GT cs.LG
Explaining the Uncertain: Stochastic Shapley Values for Gaussian Process Models
提出基于随机合作博弈的Shapley值方法解释高斯过程，利用解析协方差量化解释不确定性，并扩展至预测解释，通过Shapley先验预测新数据的解释。
2023-05-24 cs.LG stat.ML
A Multilinear Sampling Algorithm to Estimate Shapley Values
University College London（伦敦大学学院）
Shapley值是博弈论中衡量一个参与者在博弈中的重要性的重要分析工具。由于其公理化和理想的属性，如效率，它们已经成为数据科学和机器学习中的特征重要性分析的热门。然而，基于原始公式计算Shapley值的时间复杂度是指数级的，并且随着特征数量的增加，这变得不可行。Castro等人[1]开发了一种抽样算法来估计Shapley值。在这项工作中，我们提出了一个新的抽样方法的基础上，应用于博弈论的多线性扩展技术。目的是提供一种更有效的（抽样）方法来估计Shapley值。我们的方法适用于任何机器学习模型，特别是多类分类或回归问题。我们应用该方法来估计Shapley值的多层感知器（MLP），并通过两个数据集上的实验，我们证明，我们的方法提供了更准确的估计Shapley值通过减少抽样统计量的方差。
2020-10-22 cs.LG stat.ML
Shapley Flow: A Graph-based Approach to Interpreting Model Predictions
University of Michigan（密歇根大学）；Microsoft Research（微软研究院）
许多现有的方法估计特征的重要性是有问题的，因为他们忽略或隐藏的特征之间的依赖关系。编码输入变量之间的关系的因果图可以帮助分配特征重要性。然而，目前的方法，分配信贷的因果图中的节点无法解释整个图。鉴于这些限制，我们提出了Shapley流，一种解释机器学习模型的新方法。它考虑了整个因果图，并将信用分配给\textit{edges}，而不是将节点视为信用分配的基本单元。Shapley流是Shapley值公理推广到有向无环图的唯一解。我们展示了使用Shapley Flow来推理模型输入对其输出的影响的好处。除了保持现有方法的见解，Shapley Flow扩展了基于博弈论的解释方法中普遍存在的扁平的、基于集合的视图到更深层次的\textit{graph-based}视图。这种基于图形的视图使用户能够了解系统中的重要性流程，并对潜在的干预进行推理。
2021-02-26 cs.LG stat.ML
The Explanation Game: Explaining Machine Learning Models Using Shapley Values
Fiddler Labs（菲德勒实验室）
已经提出了许多技术来通过将机器学习模型的预测归因于相应的输入特征来解释该预测。其中流行的技术是应用合作博弈论的Shapley值方法。虽然现有的论文专注于Shapley值的公理化动机和计算它们的有效技术，但它们几乎没有为所使用的博弈公式提供任何理由，也没有解决其方法输出中隐含的不确定性。例如，流行的SHAP算法的公式可能会对在模型中不起作用的特征赋予实质性的属性。在这项工作中，我们说明了如何微妙的差异，在现有的方法的基础游戏配方可能会导致大的差异，在归因的预测。然后，我们提出了一个通用的游戏配方，统一现有的方法，并使他们的属性直接的置信区间。此外，它允许我们将属性解释为相对于参考输入分布的输入的对比解释。我们将这个想法与认知心理学中关于对比解释的经典研究联系起来，并提出了一个概念框架，用于生成和解释ML模型的解释，称为公式化，近似，解释（FAE）。我们应用这个框架来解释在两个UCI数据集和一个Lending Club数据集上训练的黑盒模型。
2020-06-25 cs.AI cs.LG stat.ML
Towards trustable SHAP scores
Univ. Toulouse（图卢兹大学）；ICREA（加泰罗尼亚研究与高级研究院）；Univ. Lleida（莱里达大学）
本文修改SHAP分数定义以扩展公理化聚合至Shapley值，避免已知误导结果，刻画计算复杂度并提出对现有实现的修改以消除局限性。
2024-12-19 cs.AI cs.LG
Shapley Sets: Feature Attribution via Recursive Function Decomposition
University of Bristol（布里斯托尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出Shapley Sets归因方法，通过递归函数分解将模型分解为不可分离变量组，以集合为单位分配特征贡献，避免Shapley值在特征交互下的误导问题，并证明其满足相同公平性公理。
2023-07-04 cs.LG
Explaining the data or explaining a model? Shapley values that uncover non-linear dependencies
The University of Queensland（昆士兰大学）；Simula Research Laboratory（西穆拉研究实验室）；La Trobe University（拉筹伯大学）
Shapley值在机器学习文献中越来越受欢迎，这要归功于它们在满足某些“公平”概念方面的吸引人的公理化、灵活性和独特性。灵活性源于Shapley值\textit{game formulation}的无数潜在形式。这种灵活性的后果之一是，现在有许多类型的Shapley值正在讨论，这种多样性是潜在误解的来源。据我们所知，机器学习和统计文献中所有现有的游戏公式都属于我们命名为模型依赖的游戏公式类别。在这项工作中，我们考虑一种替代和新颖的配方，导致我们所谓的模型独立的Shapley值的第一个实例。这些Shapley值使用非线性相关性的（非参数）度量作为特征函数。这些Shapley值的优势在于它们能够发现和归因于特征之间的非线性依赖关系。我们介绍和演示使用的能量距离相关性，仿射不变的距离相关性，和Hilbert-Shannon的独立性准则作为Shapley值特征函数。特别是，我们证明了他们的潜在价值的探索性数据分析和模型诊断。我们得出结论，一个有趣的暂时应用到一个经典的医学调查数据集。
2021-03-06 cs.LG stat.ML
Generalized Priority-Aware Shapley Value
The Ohio State University（俄亥俄州立大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出通用优先感知Shapley值（GPASV），用于机器学习中的估值问题，通过轴心性刻画和计算方法，展示了不同优先级平衡对数据估值的实质性影响。
2026-11-09 cs.AI cs.LG
Shapley Values: Paired-Sampling Approximations
Actuarial Department, La Mobilière, Bern（伯恩劳米埃保险部门）；Department of Mathematics, ETH Zurich（苏黎世联邦理工学院数学系）
本文研究 Shapley 值的采样近似方法，提出成对采样 KernelSHAP 和 PermutationSHAP，证明了其渐近正态性，并展示成对采样在二阶交互下可精确计算且 PermutationSHAP 具有加性恢复性质。
2025-08-18 cs.CE cs.LG stat.ML
From Abstract to Actionable: Pairwise Shapley Values for Explainable AI
University of Notre Dame（圣母大学）；Zillow Group（Zillow集团）
针对 Shapley 值近似依赖抽象基线且计算成本高的问题，本文提出 Pairwise Shapley Values，通过邻近实例成对参考与单值插补实现模型无关、低开销的可解释归因。
2025-02-18 cs.AI cs.LG
CS-Shapley: Class-wise Shapley Values for Data Valuation in Classification
University of Virginia（弗吉尼亚大学）；University of Chicago（芝加哥大学）
数据估值，或个人数据贡献的估值，由于其对噪声标签检测等任务的明显功效，机器学习越来越受到关注。特别是，由于理想的公理性质，已经提出了几个Shapley值逼近方法。在这些方法中，价值函数通常被定义为整个开发集上的预测精度。然而，这限制了区分对其自己的类有帮助或有害的训练实例的能力。直观地说，损害自己类的实例可能是嘈杂的或被错误标记的，应该得到比有用实例更低的估值。在这项工作中，我们提出了CS-Shapley，Shapley值与一个新的价值函数，区分训练实例的类内和类外的贡献。我们的理论分析表明，所提出的价值函数是（本质上）唯一的函数，满足两个理想的性质，用于评估数据的分类价值。此外，我们对两个基准评估任务（数据删除和噪声标签检测）和四个分类器的实验证明了CS-Shapley的有效性。最后，我们评估了从一个分类器到其他分类器估计的数据值的“可转移性”，我们的结果表明基于Shapley的数据估值可用于不同模型的应用。
2022-11-13 cs.LG
Sequence-Aware Inline Measurement Attribution for Good-Bad Wafer Diagnosis
IBM Research -- Tokyo（IBM东京研究实验室）；IBM Semiconductors（IBM半导体公司）
针对半导体跨工序晶圆缺陷溯源难题，本文提出序列感知的 Trajectory Shapley Attribution 框架，扩展 Shapley 值以建模工艺顺序并消除任意参考点依赖，并在 Albany NanoTech 晶圆厂好坏晶圆诊断中验证。
2025-07-27 cs.LG
Fast Shapley Value Estimation: A Unified Approach
Tsinghua University（清华大学）
针对Shapley值计算指数复杂度问题，提出统一随机估计器框架并设计高效摊销估计器SimSHAP，在表格和图像数据集上显著加速准确Shapley值计算。
2024-05-23 cs.CV cs.LG
Priority-Aware Shapley Value
提出优先级感知Shapley值(PASV)，通过硬约束和软优先级权重扩展Shapley值，适用于依赖贡献者场景，并开发高效采样算法。
2026-06-16 cs.LG
Antithetic Sampling for Top-k Shapley Identification
Munich Center for Machine Learning（慕尼黑机器学习中心）
本文针对 Shapley 值计算成本高的问题，提出可比边际贡献采样方法 CMCS，利用相关观测高效识别 top-k 重要特征，实验证明其优于基线且近似所有与 top-k 识别的估计质量不可直接迁移。
2025-07-22 cs.AI cs.GT cs.LG
Combining Counterfactuals With Shapley Values To Explain Image Models
University Of California, San Diego（加州大学圣地亚哥分校）；Stanford University（斯坦福大学）
随着复杂的机器学习模型在敏感应用中的广泛使用，理解它们的决策已经成为一项重要任务。在表格数据上训练的模型由于具有少量的离散特征，在解释其潜在的决策过程方面取得了重大进展。然而，将这些方法应用于图像等高维输入并不是一项简单的任务。图像由原子级的像素组成，本身不具有任何可解释性。在这项工作中，我们试图使用注释的高层次的图像可解释的功能，以提供解释。我们利用博弈论中的Shapley值框架，该框架在一般的XAI问题中获得了广泛的认可。通过开发一个管道来生成反事实，并随后使用它来估计Shapley值，我们获得了具有强公理保证的对比性和可解释性的解释。
2022-06-14 cs.LG
Coalitional Manipulations and Immunity of the Shapley Value
WZB Berlin（柏林社会科学研究中心）；SKK GSB, Sungkyunkwan University（成均馆大学商学院）
本文通过引入重分配证明性和弱联盟单调性替代可加性，重新刻画了Shapley值，并证明重分配证明性等价于受限边际性，从而弱化了Young刻画中的独立性要求。
2023-10-31 cs.GT cs.LG econ.TH
Möbius transforms and Shapley values for vector-valued functions on weighted directed acyclic multigraphs
Korteweg-de Vries Institute for Mathematics, University of Amsterdam（阿姆斯特丹大学科特韦斯-德·维茨数学研究所）；AI4Science Lab, University of Amsterdam（阿姆斯特丹大学AI4科学实验室）；Dutch Institute for Emergent Phenomena（荷兰新兴现象研究所）；Institute for Logic, Language and Computation, University of Amsterdam（阿姆斯特丹大学逻辑、语言与计算研究所）；Institute of Physics, University of Amsterdam（阿姆斯特丹大学物理研究所）
本文提出在加权有向无环多图上扩展莫比乌斯变换和沙普利值，以处理向量值函数，引入投影算子和新公理，实现对复杂系统结构的分解与归因。
2026-04-22 cs.DM cs.GT cs.LG
Shapley Value Approximation Based on k-Additive Games
本文提出一种基于k-可加游戏的Shapley值近似方法，用于解决公平分配问题中的计算复杂性问题，通过近似游戏来估计特征或数据点对预测模型性能的贡献。
2026-05-12 cs.GT cs.LG
Explaining a probabilistic prediction on the simplex with Shapley compositions
Laboratoire Informatique d’Avignon, Avignon Université, France（阿维尼昂信息实验室，阿维尼昂大学，法国）；University of Bristol, United Kingdom（布里斯托大学，英国）
本文引入Shapley组合，利用成分数据分析的Aitchison几何，为多类概率预测提供了一种基于公理的解释方法。
2026-06-25 cs.GT cs.LG
Towards Data Valuation via Asymmetric Data Shapley
针对传统数据Shapley值对称性公理忽略数据集内在结构的问题，本文提出非对称数据Shapley估值框架及对应的高效k近邻计算算法，在多类场景下验证了其实用性。
2025-11-19 cs.GT cs.LG
Shapley-Inspired Feature Weighting in $k$-means with No Additional Hyperparameters
提出SHARK算法，利用合作博弈论中的Shapley值量化特征重要性，无需额外超参数，通过迭代重加权特征提升聚类鲁棒性和准确性。
2026-06-25 cs.LG
Approximating the Shapley Value without Marginal Contributions
Paderborn University（帕德博恩大学）；Institute of Informatics, University of Munich (LMU)（慕尼黑大学信息学研究所）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对Shapley值精确计算复杂度随智能体数量指数增长的问题，本文提出两种脱离边际贡献概念的无参数近似算法SVARM和分层SVARM，证明其更优的近似质量理论保证，并通过实验验证了效果。
2024-01-30 cs.GT cs.LG
Exact Shapley Attributions in Quadratic-time for FANOVA Gaussian Processes
Department of Computer Science, Vrije Universiteit Amsterdam, The Netherlands（荷兰阿姆斯特丹自由大学计算机科学系）；Rational Intelligence Lab, CISPA Helmholtz Center for Information Security, Germany（德国信息安全部CISPA理性智能实验室）；College of Computing & Data Science, Nanyang Technological University, Singapore（新加坡南洋理工大学计算与数据科学学院）
针对Shapley值计算的指数复杂度问题，本文提出对显式建模主效应和交互作用的FANOVA高斯过程，可在二次时间内计算局部和全局精确Shapley归因，提升了概率模型解释的可扩展性与实用性。
2025-08-20 cs.AI cs.LG
KernelSHAP-IQ: Weighted Least-Square Optimization for Shapley Interactions
Bielefeld University（比勒费尔德大学）；Paderborn University（帕德博恩大学）
本文将高阶 Shapley Interaction Index 刻画为加权最小二乘问题的解，并据此提出 KernelSHAP-IQ，在特征交互估计上取得最先进性能。
2024-07-16 cs.AI cs.LG
2D-Shapley: A Framework for Fragmented Data Valuation
Xi’an Jiaotong University（西安交通大学）；Virginia Tech（弗吉尼亚理工大学）；New York University（纽约大学）
本文针对仅含部分特征和样本的碎片化数据源估值问题，提出基于反事实计算的理论框架2D-Shapley，满足特定公理并支持数据片段选择、样本级解释与细粒度问题诊断等新应用。
2023-07-27 cs.LG
CQD-SHAP: Explainable Complex Query Answering via Shapley Values
Department of Computer Science, Paderborn University（帕德博恩大学计算机科学系）
提出CQD-SHAP框架，基于合作博弈论中的沙普利值计算查询各部分对答案排名的贡献，实现复杂查询回答的可解释性，实验证明其有效性。
2026-06-23 cs.AI cs.LG
Meritocratic Fairness via $K$-Shapley Values in Budgeted Combinatorial Bandits with Full-Bandit Feedback
Indian Institute of Technology Ropar（印度理工学院罗帕尔）
本文提出一种新的预算化组合多臂老虎机框架，通过扩展Shapley值到K-Shapley值，解决了全反馈环境下个体臂贡献的计算问题，并提出了K-SVFair-FBF算法，实现了公平性与效率的平衡。
2026-08-04 cs.AI cs.LG cs.MA
A Theoretical Framework for Explaining Reinforcement Learning with Shapley Values
University of Bath（巴斯大学）
针对强化学习智能体可解释性不足的问题，提出基于Shapley值的统一理论框架SVERL，从行为、结果、预测三方面推导特征影响，提供兼具可解释性与数学合理性的解释并修正先前的概念问题。
2025-07-31 cs.LG
Rigorous Explanation of Inference on Probabilistic Graphical Models
Lehigh University（理海大学）
概率图模型，如马尔可夫随机场（MRF），利用随机变量之间的依赖关系来模拟一个丰富的家庭的联合概率分布。复杂的推理算法，如置信传播（BP），可以有效地计算边缘后验。尽管如此，仍然很难解释重要人类决策的推理结果。没有现有的方法来严格属性的推理结果的图形模型的贡献因素。Shapley值提供了一个公理化的框架，但单纯地计算甚至近似一般图形模型上的值是具有挑战性的，而且研究较少。我们提出GraphShapley来整合Shapley值的可分解性，MRF的结构以及BP推理的迭代性质，以快速Shapley值计算的原则性方式，即1）系统地列举解释变量对Shapley值的重要贡献而不重复; 2）增量计算贡献而不从划痕开始。我们从理论上描述了GraphShapley的独立性、等贡献性和可加性。在九个图上，我们证明了GraphShapley提供了合理和实用的解释。
2020-04-21 cs.LG cs.SI
From Points to Coalitions: Hierarchical Contrastive Shapley Values for Prioritizing Data Samples
HCDV通过分层对比方法高效评估数据样本价值，提升模型准确性并优化计算效率。
2025-12-22 cs.LG
Statistical Cost Sharing
Harvard University（哈佛大学）；Google NYC（谷歌纽约）
我们研究的成本分担问题合作游戏的情况下，成本函数$C$是不可用的，通过Oracle查询，而是必须来自数据，表示为元组$(S, C(S))$，为不同的子集$S$的球员。我们正式这种方法，我们称之为统计成本分摊，并考虑计算的核心和Shapley值，当元组是从一些分布$\mathcal{D}$。Balcan等人在此背景下的先前工作展示了如何计算满足有限函数类的高概率核心属性的成本份额。我们扩大他们的工作，并给出一个算法，计算这样的成本份额的任何功能与非空的核心。我们补充这些结果证明了一个较弱的放松的不可逼近下界。然后我们将注意力转向Shapley值。我们首先表明，当成本函数来自家庭的次模函数有界曲率，$κ$，Shapley值可以近似从样本到一个$\sqrt{1 - κ}$的因素，和界是紧的。然后，我们定义统计类似的Shapley公理，并得出一个统计Shapley值的概念。我们表明，这些总是可以近似任意以及一般函数在任何分布$\mathcal{D}$。
2017-03-09 cs.GT cs.LG
The Counterfactual-Shapley Value: Attributing Change in System Metrics
Microsoft Research（微软研究院）；Microsoft Bing Ads（微软必应广告）
给定一个大规模系统的输出指标发生意外变化，回答为什么会发生变化是很重要的：哪些输入导致了指标的变化？这种归因问题的一个关键组成部分是估计反事实：由于单个输入中的指定变化而导致的系统度量的（假设）变化。然而，由于固有的随机性和系统各部分之间复杂的相互作用，很难直接对输出指标进行建模。我们利用系统的计算结构将建模任务分解为子部分，这样每个子部分对应于一个更稳定的机制，可以随着时间的推移准确建模。使用系统的结构还有助于将度量视为结构因果模型（SCM）上的计算，从而提供了一种估计反事实的原则性方法。具体来说，我们提出了一种方法来估计反事实使用时间序列预测模型和构建一个归因得分，CF-Shapley，这是符合期望的公理归因于观察到的变化的输出指标。与过去关于因果Shapley值的工作不同，我们提出的方法可以归因于输出中的单个观察到的变化（而不是人口水平的影响），从而在模拟数据集上进行评估时提供更准确的归因分数。作为一个现实世界的应用程序，我们分析了一个查询广告匹配系统的目标归因于观察到的变化的度量广告匹配密度。归因分数解释了来自不同查询类别的查询量和广告需求如何影响广告匹配密度，从而产生可操作的见解并揭示外部事件（例如，“猎豹日”）在驱动匹配密度。
2022-08-17 cs.IR cs.LG
VARSHAP: Addressing Global Dependency Problems in Explainable AI with Variance-Based Local Feature Attribution
Faculty of Computing and Telecommunications（计算机与电信学院）；Poznan University of Technology（波兹南技术大学）；Faculty of Mathematics, Informatics and Mechanics（数学、信息学与力学学院）；University of Warsaw（华沙大学）；MIM Solutuions Research Institute（MIM解决方案研究所）
针对SHAP等方法受全局依赖影响、难以刻画局部模型行为的问题，提出模型无关的VARSHAP，以预测方差降低度量特征重要性，并在合成与真实数据上优于KernelSHAP和LIME。
2025-06-08 cs.LG
Shapley Machine: A Game-Theoretic Framework for N-Agent Ad Hoc Teamwork
INFORMED-AI Hub University of Bristol, UK（INFORMED-AI Hub 英国布里斯托大学）；Centre for AI Fundamentals University of Manchester, UK（人工智能基础研究中心 英国曼彻斯特大学）；School of Engineering Mathematics and Technology University of Bristol, UK（工程数学与技术学院 英国布里斯托大学）
针对n智能体自组织团队协作中现有方法缺乏理论严谨性、信用分配模糊的问题，本文基于合作博弈论提出Shapley Machine强化学习算法，通过公理构造Shapley值实现信用分配，首次关联合作博弈论与强化学习概念，实验验证了其有效性与理论合理性。
2025-06-12 cs.GT cs.LG cs.MA
A Polynomial Architecture-Attribution Co-Design Framework for Exact Aumann-Shapley Attribution in GNNs
Institute of Artificial Intelligence Innovation and Industry, Fudan University（复旦大学人工智能创新与产业研究院）；Shanghai Academy of AI for Science（上海人工智能科学研究院）；Human Phenome Institute, Fudan University（复旦大学人类表型组研究院）；School of Information and Communication Engineering, Communication University of China（中国传媒大学信息与通信工程学院）
研究图神经网络的特征级和节点级解释，提出APEX框架，通过PolyGIN使归因积分可精确计算，实验表明该框架能保持预测性能，提高归因保真度并减少评估次数。
2026-07-24 cs.LG
Creator Incentives in Recommender Systems: A Cooperative Game-Theoretic Approach for Stable and Fair Collaboration in Multi-Agent Bandits
Courant Institute, New York University（纽约大学库朗数学研究所）；Indian Institute of Technology Bombay（印度理工学院孟买分校）；FAIR, Meta AI（Meta AI 基础人工智能研究团队）
本文提出基于合作博弈的多智能体老虎机模型，分析推荐系统中创作者激励问题，证明在同质智能体下博弈凸性，提出基于 regrets 的支付规则，实验显示支付与Shapley公平性的一致性与差异。
2026-04-09 cs.CY cs.GT cs.LG
Explaining Graph Neural Networks via Structure-aware Interaction Index
Yale University（耶鲁大学）；VinAI Research（VinAI研究院）；The Chinese University of Hong Kong（香港中文大学）
本文提出Myerson-Taylor交互指数及基于它的MAGE解释器，将图结构内化到节点归因中，通过二阶指数识别关键模体，实验证明其子图解释优于现有方法。
2024-05-23 cs.LG
How does ion temperature gradient turbulence depend on magnetic geometry? Insights from data and machine learning
1 Institute for Research in Electronics \& Applied Physics, University of Maryland, College Park, MD 20742, USA 2 Oak Ridge National Laboratory, Oak Ridge, TN 37831, USA 3 Princeton Plasma Physics Laboratory, Princeton, NJ 08540, USA 4 Max Planck Institute for Plasma Physics, Wendelsteinstraße 1, 17491 Greifswald, Germany
本研究利用机器学习与超20万次非线性模拟数据，分析了聚变等离子体中离子温度梯度湍流输运对磁场几何的依赖性，发现CNN预测热通量最准，并确定坏曲率区磁通面压缩为最关键几何特征。
2025-06-03 cs.LG physics.plasm-ph
An Efficient Framework for Crediting Data Contributors of Diffusion Models
本文提出一种基于模型剪枝和微调的高效框架，通过估计Shapley值来评估扩散模型全局属性的数据贡献者，在图像质量、人口统计多样性和美学质量等用例中优于现有归因方法。
2025-03-03 cs.CV cs.LG
On marginal feature attributions of tree-based models
Discover Financial Services Inc.（发现金融服务公司）；Emerging Capabilities Research Group（新兴能力研究集团）
本文研究树模型的边际特征归因，证明其实现不变性并利用分段常值结构、稀疏特征及CatBoost对称树降低计算复杂度。
2024-05-05 cs.GT cs.LG
Local Additive Feature Attribution: A Mathematical Taxonomy and Reporting Checklist
该研究围绕五个规范选择组织多种局部加法特征归因方法，通过公理矩阵比较，将常见失败模式与假设关联，为使用局部加法归因的研究提出十项报告清单，强调归因结果依数学假设而定且假设应报告
2026-07-17 cs.AI cs.LG
