The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations
XITASO GmbH(西塔索有限公司)
研究时间序列模型可解释性方法中基于边际影响的归因方法失效问题,指出主要因计算不匹配,定义DAG忠实性,发现标准归因方法如SHAP通常不满足DAG忠实性,其扩展也有同样计算限制。
2026-07-21 cs.AI cs.LG
Which Influence Are We Estimating? The Role of Counterfactual Specifications in Data Attribution
Singapore Management University(新加坡管理大学)
本文提出影响估计的分歧源于反事实设定不匹配,而非仅近似误差,通过形式化估计量并实验证明设定选择显著影响归因质量,行为对齐设定可识别目标特定样例。
2026-09-28 cs.AI cs.LG
Accumulative SGD Influence Estimation for Data Attribution
University of Technology Sydney(悉尼科技大学)
现代以数据为中心的人工智能需要精确的每个样本影响力。标准SGD-IE通过对每个历元的替代项求和来近似留一效应,并忽略了跨历元的复合,这会使关键示例排名错误。我们提出了ACC-SGD-IE,这是一种具有容错性的估计器,它在训练过程中传播留一扰动,并在每一步更新累积影响状态。在光滑的强凸设置,它实现了几何误差收缩,在光滑的非凸制度,它收紧误差界,更大的小批量进一步减少常数。从经验上讲,在Adult,20 Newsgroups和MNIST上,在干净和损坏的数据以及凸和非凸训练下,ACC-SGD-IE产生更准确的影响力估计,特别是在长时期内。对于下游数据清理,它更可靠地标记噪声样本,生成在ACC-SGD-IE清理数据上训练的模型,其性能优于使用SGD-IE清理的模型。
2025-10-30 cs.AI cs.LG
Adversarial Attacks on Data Attribution
University of Michigan(密歇根大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究针对数据归因方法的对抗鲁棒性空白,提出影子攻击与离群点攻击两种方法,可大幅抬高基于数据归因的报酬,验证了数据归因机制的安全风险。
2025-05-19 cs.LG
Influence Dynamics and Stagewise Data Attribution
University College London(伦敦大学学院);Independent(独立);University of Melbourne(墨尔本大学);Timaeus
针对神经网络训练中样本影响动态变化的问题,基于奇异学习理论提出分阶段数据归因框架,预测影响非单调变化(符号翻转、尖峰),并在玩具模型和语言模型中验证与模型学习阶段的对应。
2026-06-09 cs.LG
Interaction-Aware Influence Functions for Group Attribution
GSAI, POSTECH(POSTECH 人工智能研究所);CSE, POSTECH(POSTECH 计算科学与工程系)
本文提出交互感知影响函数,通过考虑样本间相互作用来改进群体属性评估,实验显示其在多个任务中优于传统方法。
2026-05-15 cs.AI cs.LG
Step-resolved data attribution for looped transformers
Hasso Plattner Institute for Digital Engineering, University of Potsdam(波恩大学数字工程研究所);Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Harvard University(哈佛大学);Imperial College London(伦敦帝国理工学院);Google DeepMind(谷歌DeepMind)
本文提出SDI方法,用于分析循环变换器中每个循环步骤对模型的影响,提升数据归因和可解释性能力。
2026-02-10 cs.AI cs.LG
Diffusion Attribution Score: Evaluating Training Data Influence in Diffusion Models
The University of Sydney(悉尼大学);City University of Hong Kong(香港城市大学)
针对现有扩散模型数据归因方法依赖扩散损失、无法准确衡量训练样本贡献的问题,提出Diffusion Attribution Score(DAS),通过直接比较预测分布分析样本重要性,经理论验证与加速优化,在多基准测试中取得SOTA性能。
2025-03-21 cs.AI cs.LG
DRIFT: Data Selection for LLM Instruction Tuning via On-Policy Attribution
Tsinghua University(清华大学)
提出DRIFT方法,利用在线策略影响函数解决标准影响函数在指令微调数据归因中的近邻偏差和梯度范数偏差问题,通过模型自身生成作为验证目标,提升7B模型性能上限。
2026-09-29 cs.AI cs.LG
An exploration of the influence of path choice in game-theoretic attribution algorithms
Zest AI
我们比较机器学习可解释性方法的基础上的理论,原子(Shapley,1953年)和无穷小(Aumann和Shapley,1974年)的游戏,在理论和实验研究的模型和集成路径的选择如何影响所产生的功能属性。为了深入了解干预性Shapley值导致的归因差异(Sundararajan和Najmi,2019; Janzing等人,2019年; Chen等人,2019)和广义综合指数(GIG)(Merrill et al.,2019)我们注意到介入Shapley等效于沿$n!$路径的多路径积分,其中$n$是模型输入特征的数量。应用斯托克定理,我们表明,这两种方法的路径对称性的结果在相同的属性时,模型是由一个单独的功能和两个功能产品的总和可分离的功能。然后,我们进行了一系列的实验,不同程度的数据缺失,以证明如何干预沙普利的多路径方法可以产生不太一致的属性比单一的直线路径的奥曼-沙普利。我们认为这是因为介入Shapley所采用的多条路径远离训练数据流形,因此更有可能通过模型几乎没有支持的区域。在没有更有意义的路径选择的情况下,我们因此提倡直线路径,因为它几乎总是更接近数据流形。在直线路径属性算法中,GIG是唯一鲁棒的,因为它仍然会产生由决策树建模的原子游戏的Shapley值。
2021-02-26 cs.AI cs.LG stat.ML
Distributional Training Data Attribution: What do Influence Functions Sample?
University of Cambridge(剑桥大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Bristol(布里斯托大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);University of Toronto(多伦多大学);Vector Institute(向量研究所);Alan Turing Institute(艾伦·图灵研究所)
本文提出分布式训练数据归因(d-TDA),用于预测模型输出分布对数据集的依赖,发现影响函数是其特例,并在数据剪枝和扩散模型样本识别中验证了实用性。
2025-10-25 cs.AI cs.LG stat.ML
Towards Aggregating Weighted Feature Attributions
Carnegie Mellon University(卡内基梅隆大学)
当前解释机器学习模型的方法分为两类:先行事件影响和价值归因。前者利用训练实例来描述训练点对测试点的影响程度,而后者试图将值归因于与给定预测最相关的特征。在这项工作中,我们讨论了一种算法,AVA:前因的聚合估值,融合这两个解释类,形成一种新的方法,不仅检索本地的解释,但也捕捉全球模式学习模型的特征属性。我们的实验令人信服地有利于加权和聚合功能属性通过AVA。
2019-01-20 cs.AI cs.LG stat.ML
Bayesian Influence Functions for Hessian-Free Data Attribution
Technical University of Munich(慕尼黑技术大学);University of Colorado Boulder(科罗拉多大学博尔德分校);University of Melbourne(墨尔本大学);Timaeus
本文提出一种基于贝叶斯影响函数的Hessian-Free方法,用于高效估计深度神经网络参数间的高阶相互作用,并在重训练实验中取得最佳性能。
2026-02-27 cs.LG
Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies
提出符号机制数据归因(SMDA)框架,通过稀疏自编码器特征拟合岭回归,分解微调样本对行为策略的影响,揭示安全行为中的系统性漏洞和特征间干扰。
2026-10-16 cs.AI cs.CL cs.LG
GUDA: Counterfactual Group-wise Training Data Attribution for Diffusion Models via Unlearning
University of Tokyo(东京大学);Toyota Central Research Laboratory(丰田中央研究所);University of California, Berkeley(加州大学伯克利分校);Massachusetts Institute of Technology(麻省理工学院);National Institute of Advanced Industrial Science and Technology(国家工业科学与技术研究院)
提出GUDA方法,利用机器遗忘近似反事实模型,通过似然评分规则(ELBO)量化组别影响,实现高效的分组训练数据归因。
2026-06-01 cs.AI cs.LG
Understanding What TRAK Gets Right and Wrong: A Theory of Data Attribution
Columbia University(哥伦比亚大学)
本文理论分析了TRAK算法,证明其在数据归因中尽管存在误差,但能保持数据点的相对排名。
2026-11-10 cs.LG
GraSS: Scalable Data Attribution with Gradient Sparsification and Sparse Projection
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Womp Labs(Womp实验室);Carnegie Mellon University(卡内基梅隆大学)
针对基于梯度的数据归因方法逐样本梯度计算成本高、可扩展性受限的问题,提出利用梯度固有稀疏性的GraSS算法及线性层变体FactGraSS,实现亚线性复杂度,在十亿级模型上吞吐量较最优基线最高提升165%。
2025-10-28 cs.AI cs.LG
Daunce: Data Attribution through Uncertainty Estimation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Womp Labs(Womp实验室)
针对现有训练数据归因方法可扩展性差或准确性低的问题,提出Daunce方法,通过微调扰动模型并计算损失协方差作为归因得分,在LLM等大规模模型上实现了更准确且兼容黑盒访问的数据归因。
2025-05-29 cs.LG
Rescaled Influence Functions: Accurate Data Attribution in High Dimension
EECS, MIT(MIT电子工程与计算机科学系)
针对高维场景下影响函数数据归因不精确的问题,提出重标度影响函数(RIF),以极小计算开销显著提升归因准确性,并能检测出欺骗IF的投毒攻击。
2025-09-09 cs.LG stat.ML
TICDA: Tabular In-Context Data Attribution
Ekimetrics;ETH Zurich(苏黎世联邦理工学院)
针对表格基础模型中上下文演示影响不明的问题,提出TICDA方法,利用线性替代模型在单次前向传播中高效归因,兼顾准确性与成本,适用于错误检测、上下文策划与主动学习。
2026-10-07 cs.AI cs.LG
Training Data Attribution for Diffusion Models
Massachusetts Institute of Technology(麻省理工学院)
针对扩散模型难以追溯训练数据影响的问题,提出在精心划分的数据上训练编码集成,以识别关键样本并消融其影响,验证了方法有效性。
2023-06-03 cs.AI cs.LG stat.ML
A Versatile Influence Function for Data Attribution with Non-Decomposable Loss
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Carnegie Mellon University(卡内基梅隆大学)
本文针对非可分解损失下的数据归因难题,基于稳健统计学的一般影响函数提出VIF,利用自动微分免逐损失推导,并在Cox回归、节点嵌入和列表级排序中验证其高效准确。
2024-12-02 cs.LG stat.ML
Traceable Spectral Inference via Influence Functions: Efficient Data Attribution and Error Proxies for the Ariel Mission
ML Analytics;Delft University of Technology(代尔夫特理工大学);King’s College London(伦敦国王学院);European Space Agency(欧洲空间局)
本研究针对Ariel任务的光谱数据归因与误差评估需求,提出基于影响函数的可追溯谱推断方法,通过极限学习机实现高效计算,其误差代理可准确关联光谱误差,为科学机器学习提供运行框架。
2026-08-25 astro-ph.IM cs.LG stat.ML
Scalable Data Attribution via Forward-Only Test-Time Inference
Stanford University(斯坦福大学)
本文提出一种通过单向测试时推断实现可扩展数据归因的方法,结合影响函数保真度与首阶可扩展性,降低推理成本并提升大规模应用效果。
2025-11-25 cs.LG
Distilling Diffusion Score Discrepancy for Efficient Training Data Attribution
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-尚佩恩分校);Sony AI(索尼AI);University of Texas at Austin(德克萨斯大学奥斯汀分校);Sony Group Corporation(索尼集团公司)
针对扩散模型训练数据归因成本高且代理损失不准确的问题,提出基于局部分数差异的TID方法及蒸馏版TIDE,实现毫秒级高效归因,性能优于现有方法。
2026-10-06 cs.AI cs.LG
Generalized Group Data Attribution
Harvard University(哈佛大学)
本文提出广义分组数据归因框架GGDA,通过按训练点分组归因来降低计算开销,在保持归因有效性的同时实现10-50倍加速,使大规模机器学习中的数据归因应用更加可行。
2024-10-21 cs.AI cs.LG stat.ML
Causal-driven attribution (CDA): Estimating channel influence without user-level data
School of Computer Science and Statistics(计算机科学与统计学学院);Trinity College Dublin(三一学院都柏林);Trinity Business School(三一商学院)
本文提出CDA框架,通过聚合印象数据推断渠道影响,无需用户级数据,实现可解释且隐私保护的归因分析。
2025-12-24 cs.LG stat.ML
Better Hessians Matter: Studying the Impact of Curvature Approximations in Influence Functions
University of Cambridge(剑桥大学);Alan Turing Institute(艾伦·图灵研究所)
本文研究了Hessian近似质量对影响函数归因的影响,发现更精确的Hessian近似能提升归因性能,且K-FAC与GGN的特征值不匹配是主要误差来源。
2026-02-15 cs.LG stat.ML
From Reweighting to Rewriting: Unlocking the Intervention Effects of Influential Samples in Training Data Attribution
State Key Laboratory of Multimedia Information Processing, Peking University(北京大学多媒体信息处理国家重点实验室);YiXin-AILab(翼星人工智能实验室);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
该研究针对训练数据归因中影响力样本的干预价值问题,提出影响引导的响应重写方法,实验发现其效果优于传统重加权,为训练数据归因方法的评估提供了新方向。
2026-09-03 cs.AI cs.CL cs.LG
A Snapshot of Influence: A Local Data Attribution Framework for Online Reinforcement Learning
UIUC Urbana(伊利诺伊大学 Urbana分校);Stanford University(斯坦福大学)
针对在线强化学习样本效率低、可解释性差且现有数据归因方法不适用的问题,本文提出局部数据归因框架,并基于此设计IIF算法,在多类基准任务中提升了训练效率与效果。
2025-10-04 cs.LG
Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation
University of California, Los Angeles(加州大学洛杉矶分校)
针对扩散模型影响估计中由时间步引起的偏差问题,提出Diffusion-TracIn及其重归一化版本Diffusion-ReTrac,通过融合时间动态特性有效降低普遍影响力样本数量并提升检索针对性。
2024-07-28 cs.LG
Measuring Fine-Grained Relatedness in Multitask Learning via Data Attribution
University of California San Diego(加州大学圣地亚哥分校);Carnegie Mellon University(卡内基梅隆大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出多任务影响函数(MTIF),将数据归因扩展至多任务学习以测量实例级任务相关性,并借此设计数据选择策略有效缓解负迁移,持续提升模型性能。
2025-05-27 cs.LG
LoRIF: Pushing the Scalability Frontier of Training Data Attribution
EPFL(瑞士联邦理工学院);UNC Charlotte(北卡罗来纳大学夏洛特分校);Stony Brook University(史蒂文斯理工学院)
LoRIF通过利用梯度的低秩结构,解决了大规模训练数据归因中的存储和计算瓶颈,实现存储和查询速度的显著提升,同时保持归因质量。
2026-11-04 cs.LG
WAGLE: Strategic Weight Attribution for Effective and Modular Unlearning in Large Language Models
Michigan State University(密歇根州立大学);IBM Research(IBM研究院)
针对大语言模型遗忘机制中权重与遗忘过程关系未被广泛研究的问题,提出权重归因引导的遗忘方法WAGLE,在多种方法、场景和模型中提升遗忘性能,为增强LLM遗忘提供首个原则性权重归因方法。
2025-04-12 cs.LG
Efficient Estimation of Kernel Surrogate Models for Task Attribution
Northeastern University(东北大学)
本文提出核替代模型用于高效估计任务归因,通过第二阶分析建立线性替代模型与影响函数的联系,并在多个任务设置中验证其有效性,实现更高的相关性和可扩展性。
2026-05-10 cs.AI cs.CL cs.LG
dattri-LLM: A Unified and Efficient Library for Training Data Attribution at LLM Scale
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-尚佩恩分校);Google(谷歌)
dattri-LLM是一个统一高效的训练数据归因库,通过紧凑梯度表示和成本模型路由,实现高效、兼容和可扩展的梯度归因,平均吞吐量提升3.2倍,支持110B参数模型。
2026-10-02 cs.AI cs.LG
Nonparametric Data Attribution for Diffusion Models
Sea AI Lab, Singapore(新加坡海人工智能实验室);Department of Mathematics, National University of Singapore(新加坡国立大学数学系);Singapore Management University(新加坡管理大学)
提出一种仅基于数据的非参数扩散模型数据归因方法,利用补丁级相似度衡量训练样本影响,性能接近梯度方法且优于现有非参数基线。
2025-10-16 cs.LG stat.ML
Mechanistic Data Attribution: Tracing the Training Origins of Interpretable LLM Units
University of Science and Technology of China(中国科学技术大学)
提出机械论数据归因(MDA)框架,利用影响函数将可解释单元追溯到特定训练样本,通过因果验证表明干预高影响样本可显著调节可解释头的涌现,并发现重复结构数据作为机械催化剂,同时验证了归纳头与上下文学习之间的功能联系。
2026-06-07 cs.AI cs.CL cs.LG
Efficient Ensembles Improve Training Data Attribution
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本研究提出两种高效集成策略(DROPOUT ENSEMBLE和LORA ENSEMBLE),在显著降低训练、服务及空间成本的同时,保持与独立集成相当的训练数据归因效果,推进了TDA方法的帕累托前沿。
2024-05-27 cs.AI cs.LG
On the Accuracy of Newton Step and Influence Function Data Attributions
EECS, MIT, Cambridge, MA(麻省理工学院电子工程与计算机科学系,剑桥,马萨诸塞州)
本文研究了牛顿步和影响函数数据归因方法的准确性,推导出误差缩放规律,揭示了NS方法在特定条件下更准确的原因。
2026-05-15 cs.LG stat.ML
Enhancing Training Data Attribution with Representational Optimization
Carnegie Mellon University(卡内基梅隆大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
AirRep通过优化表征提升训练数据归因效率,实现与先进梯度方法相当的性能,且推理效率提高近两数量级。
2025-11-26 cs.LG
Learning from the Right Rollouts: Data Attribution for PPO-based LLM Post-Training
Northwestern University(西北大学);Stevens Institute of Technology(史蒂文斯理工学院)
本文提出Influence-Guided PPO框架,通过计算影响分数筛选反向齐梯度的回放片段,提升PPO后训练效率并减少不忠实的推理。
2026-08-26 cs.LG
Sketching the Readout of Large Language Models for Scalable Data Attribution and Valuation
Stevens Institute of Technology(史蒂文斯理工学院);Lambda Inc.(Lambda公司);Columbia University(哥伦比亚大学);Mailman School of Public Health(马利曼公共卫生学院);University of Texas Health Science Center at Houston(德克萨斯大学健康科学中心休斯顿分校)
本文提出RISE方法,通过聚焦输出层影响热点,利用分解的外积形式实现高效归因与估值,减少存储并扩展至32B参数模型,验证了其在数据检测、领域分离和高质量数据选择中的有效性。
2026-07-21 cs.LG
Tracing Generated Samples to Training-Data Clusters in Flow-Matching Models
Forschungszentrum Jülich(于利希研究中心);Technical University Dortmund(多特蒙德工业大学);Reichman University(赖希曼大学);Lamarr Institute(拉马尔研究所);Institute for AI in Medicine, University Hospital Essen(埃森大学医院医学人工智能研究所);Helmholtz AI(亥姆霍兹人工智能);University of Cologne(科隆大学)
本研究针对流匹配模型,提出混合分析-学习方法推导簇级轨迹归因分数,经实验验证其在部分指标具竞争力,揭示流匹配归因受语义相似性等多因素影响。
2026-09-03 cs.CV cs.LG
Feature Attribution from First Principles
Julius-Maximilians Universität Würzburg(维尔茨堡尤利乌斯-马克西米利安大学);CAIDAS(维尔茨堡人工智能与数据科学中心)
针对现有公理化特征归因框架过于严格的问题,本文从第一性原理出发,以指示函数为基本构建块从头构建了新框架,推导了深度ReLU网络的闭式归因表达式,并推进了归因评估指标的优化。
2025-05-30 cs.LG
Natural Geometry of Robust Data Attribution: From Convex Models to Deep Networks
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出自然Wasserstein度量,通过模型自身特征协方差诱导的几何消除了频谱放大,实现了深度网络归因的首个非空认证界。
2025-12-09 cs.LG math.OC
Data Attribution via Sketched Metadifferentiation
Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出MAGE和SPELL两种算法,通过从少量测量中估计大型影响矩阵,在不增加额外成本的情况下实现大规模数据归因,并在多种训练规模和预算下超越现有基线。
2026-09-21 cs.LG stat.ML
Data Attribution in Large Language Models via Bidirectional Gradient Optimization
EPFL, Switzerland(瑞士联邦理工学院);ETH Zurich, Switzerland(瑞士苏黎世联邦理工学院)
提出一种基于双向梯度优化的训练数据归因方法,用于自动回归大型语言模型,以识别影响模型输出的关键训练数据,提升模型可解释性。
2026-06-03 cs.CL cs.LG
Exploring Training Data Attribution under Limited Access Constraints
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Toronto(多伦多大学)
本文系统研究了在商业模型不可访问且计算资源受限条件下的训练数据归因(TDA)方法,证明了利用代理模型等方案在受限环境中执行TDA的可行性,为现实部署提供了实用指导。
2025-09-16 cs.LG
Training Data Attribution via Approximate Unrolled Differentiation
University of Toronto(多伦多大学);Vector Institute(矢量研究所);NVIDIA(英伟达公司);Anthropic(Anthropic公司)
该研究提出基于近似展开的训练数据归因方法Source,结合隐式微分与展开方法的优势,在保持计算效率的同时提升了未收敛模型、多阶段训练等场景下的反事实预测效果。
2024-05-21 cs.LG
Evaluating Data Attribution for Text-to-Image Models
Carnegie Mellon University(卡内基梅隆大学);UC Berkeley(加州大学伯克利分校);Adobe Research(奥多比研究院)
本文通过定制方法构建受示例影响的合成图像数据集,评估并微调DINO、CLIP和ViT等模型以解决文本到图像模型的数据归因问题,并引入软归因分数处理不确定性。
2023-08-08 cs.CV cs.LG
Learning to Weight Parameters for Training Data Attribution
EPFL(苏黎世联邦理工学院);Stony Brook University(史蒂文斯理工学院);UNC Charlotte(北卡罗来纳大学夏洛特分校)
本文提出一种无需标注标签即可直接从数据学习参数重要性权重的方法,提升训练数据归因的准确性与细粒度分析能力。
2026-02-20 cs.CV cs.LG
RCStat: A Statistical Framework for using Relative Contextualization in Transformers
Adobe Research(Adobe研究院)
RCStat是一个统计框架,通过相对上下文化(RC)利用原始注意力logits,无需模型重训练即可在Key-Value压缩和归因任务中实现最先进性能。
2026-10-14 cs.AI cs.CL cs.LG
Interpreting Unfairness in Graph Neural Networks via Training Node Attribution
University of Virginia(弗吉尼亚大学);University of Georgia(佐治亚大学)
图神经网络(GNN)已经成为解决各种现实世界应用中的图分析问题的领先范式。然而,GNN可能会对某些人口统计子群体进行有偏见的预测。理解预测中的偏差是如何产生的至关重要,因为它指导了GNN去偏差机制的设计。然而,大多数现有的工作压倒性地集中在GNN去偏,但没有解释这种偏见是如何引起的。在本文中,我们研究了一个新的问题,解释GNN的不公平性,通过归因于训练节点的影响。具体来说,我们提出了一种名为概率分布差异(PDD)的新策略来衡量GNN中表现出的偏差,并开发了一种算法来有效地估计每个训练节点对这种偏差的影响。我们通过在真实数据集上的实验验证了PDD的有效性和影响估计的有效性。最后,我们还演示了如何将所提出的框架用于去偏置GNN。开源代码可以在https://github.com/yushundong/BIND上找到。
2022-11-25 cs.CY cs.LG