ATEX-CF: Attack-Informed Counterfactual Explanations for Graph Neural Networks
Aalborg University(奥尔堡大学);Bowling Green State University(伯灵顿州立大学);University of Central Florida(佛罗里达中央大学)
ATEX-CF通过整合对抗攻击与反事实解释,为图神经网络生成忠实且合理的实例级解释,提升模型可解释性。
2026-02-05 cs.AI cs.LG
Graph Edits for Counterfactual Explanations: A comparative study
National Technical University of Athens(雅典国立技术大学)
本文通过比较监督式与无监督式图神经网络方法,研究如何利用图编辑为黑盒图像分类器生成最小且有意义的反事实解释,并评估其在性能与时间效率上的最优方案。
2024-04-18 cs.AI cs.LG
Convex Density Constraints for Computing Plausible Counterfactual Explanations
CITEC - Cognitive Interaction Technology Bielefeld University(比勒费尔德大学认知交互技术中心)
随着机器学习的部署以及欧盟GDPR等法律法规的不断增加,需要对机器学习模型提出的决策进行用户友好的解释。反事实解释被认为是解释模型的特定决策的最流行的技术之一。虽然“任意”反事实解释的计算已经得到了很好的研究,但如何有效地计算合理可行的反事实解释仍然是一个开放的研究问题。我们建立在最近的工作,并提出和研究一个正式的定义似是而非的反事实的解释。特别是,我们研究了如何使用密度估计,以加强可验证性和可行性的反事实的解释。为了有效计算的目的,我们提出了凸密度约束,以确保所得到的反事实位于高密度的数据空间的区域。
2020-08-03 cs.AI cs.LG stat.ML
Explaining Machine Learning Classifiers through Diverse Counterfactual Explanations
Microsoft Research India(微软印度研究院);University of Colorado Boulder(科罗拉多大学博尔德分校)
机器学习模型的事后解释对于人们理解算法预测并采取行动至关重要。一种有趣的解释是通过反事实,假设的例子,告诉人们如何获得不同的预测。我们认为,有效的反事实解释应满足两个属性:可行性的反事实行动的用户上下文和约束条件,和多样性的反事实。为此,我们提出了一个框架,用于生成和评估一组不同的反事实解释的基础上决定点过程。为了评估反事实的可操作性,我们提供了一些指标,可以将基于反事实的方法与其他本地解释方法进行比较。我们进一步解决必要的权衡,并指出因果关系的影响,优化反事实。我们在四个真实世界数据集上的实验表明,我们的框架可以生成一组不同的反事实,并且很好地近似于本地决策边界,优于以前的方法来生成不同的反事实。我们在https://github.com/microsoft/DiCE上提供了该框架的实现。
2019-12-06 cs.CY cs.LG stat.ML
Global Counterfactual Explanations: Investigations, Implementations and Improvements
J.P. Morgan AI Research(摩根大通人工智能研究院)
反事实解释在可解释性方面得到了广泛的研究,在公平性、追索权和模型理解方面出现了一系列依赖于应用的方法。然而,与这些方法相关的主要缺点是它们无法提供超出局部或实例级别的解释。虽然有些作品触及了全局解释的概念,通常建议聚合大量的局部解释,希望确定全局属性,但很少有人提供可靠或计算上易于处理的框架。与此同时,从业者要求更有效和互动的解释工具。我们借此机会调查现有的全球方法,重点是实施和改进可诉追索摘要(AReS),这是唯一已知的全球追索反事实解释框架。
2022-04-14 cs.AI cs.CY cs.LG
Counterfactual Explanations in Sequential Decision Making Under Uncertainty
IIT Bombay(印度理工学院孟买分校);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
寻找反事实解释的方法主要集中在一步决策过程。在这项工作中,我们开始开发的方法,以找到反事实的解释决策过程中,多个,依赖的行动,随着时间的推移顺序。我们开始正式使用有限时域马尔可夫决策过程和Gumbel-Max结构因果模型的动作和状态序列的特征。在此基础上,我们正式声明的问题,找到反事实的解释顺序决策过程。在我们的问题表述中,反事实解释指定了一个替代的行动序列,与观察到的序列最多有k个不同的行动,这些行动可能会导致观察到的过程实现更好的结果。然后,我们引入了一个基于动态规划的多项式时间算法来构建一个反事实策略,该策略保证总是对反事实环境动态的每一个可能的实现提供最优的反事实解释。我们使用来自认知行为治疗的合成数据和真实数据来验证我们的算法,并表明我们的算法发现的反事实解释可以提供有价值的见解,以增强不确定性下的顺序决策。
2021-10-27 cs.CY cs.LG stat.ML
On the computation of counterfactual explanations -- A survey
Bielefeld University(比勒费尔德大学)
由于机器学习在实践中的使用越来越多,能够解释机器学习模型的预测和行为变得越来越重要。解释的实例是反事实解释,其提供对机器学习模型的直观且有用的解释。在这项调查中,我们回顾了模型特定的方法,有效地计算反事实的解释,许多不同的机器学习模型,并提出了方法的模型还没有被认为在文献中。
2019-11-15 cs.AI cs.LG stat.ML
Model Reconstruction Using Counterfactual Explanations: A Perspective From Polytope Theory
University of Maryland(马里兰大学)
本文基于多面体理论分析了反事实解释在模型重构中的作用,推导出重构误差与反事实查询数量的理论关系,提出反事实钳制攻击(CCA)策略,通过独特损失函数训练替代模型,缓解决策边界偏移并提升模型预测保真度。
2024-11-05 cs.CR cs.CY cs.IT
Efficient computation of counterfactual explanations of LVQ models
Bielefeld University(比勒费尔德大学)
机器学习在实践中的使用越来越多,以及欧盟GDPR等法律法规的出台,使得有必要能够解释机器学习模型的预测和行为。在决策背景下对人工智能模型进行特别直观的解释的一个突出例子是反事实解释。然而,如何有效地计算许多模型的反事实解释仍然是一个开放的研究问题。我们研究如何有效地计算反事实的解释一类重要的模型,基于原型的分类器,如学习矢量量化模型。特别是,我们得出具体的凸和非凸的程序取决于所使用的度量。
2020-01-27 cs.AI cs.LG stat.ML
Algorithmic Recourse: from Counterfactual Explanations to Interventions
MPI-IS(马克斯·普朗克智能系统研究所);ETH Zürich(苏黎世联邦理工学院);Saarland University(萨尔兰大学)
随着机器学习越来越多地用于为后续决策提供信息(例如,审前保释和贷款批准),就必须解释该制度是如何作出决定的,并建议采取行动以作出有利的决定。反事实的解释-“为了实现理想的结果,世界必须(必须)如何不同”-旨在满足这些标准。现有的作品主要集中在设计算法,以获得反事实的解释范围广泛的设置。然而,“解释作为帮助数据主体采取行动而不仅仅是理解的手段”的主要目标之一被忽视了。用外行人的话来说,反事实解释告诉一个人他们需要去哪里,但不是如何去那里。在这项工作中,我们依赖于因果推理,以告诫不要使用反事实的解释作为一个合理的一套追索行动。相反,我们提出了一个范式的转变,从追索权通过最接近的反事实的解释,追索权通过最小的干预,将重点从解释的建议。最后,我们为读者提供了一个广泛的讨论,如何切实实现追索权超越结构性干预。
2020-10-08 cs.AI cs.LG stat.ML
Generating Counterfactual and Contrastive Explanations using SHAP
IIIT Hyderabad(海得拉巴国际信息技术学院)
随着GDPR的出现,可解释的人工智能和模型可解释性领域获得了额外的推动力。提取和传达决策模型可视性的方法已成为法律要求。两种特定类型的解释,对比和反事实已被确定为适合人类理解。在本文中,我们提出了一个模型不可知的方法及其系统的实现,以产生这些解释,使用shapely添加剂的解释(SHAP)。我们讨论了一个生成管道来创建对比解释,并使用它来进一步生成反事实数据点。该管道在IRIS,葡萄酒质量和移动功能数据集上进行了测试和讨论。所得结果分析如下。
2019-06-21 cs.AI cs.LG stat.ML
counterfactuals: An R Package for Counterfactual Explanation Methods
LMU Munich(慕尼黑大学);MCML(慕尼黑机器学习中心)
本文介绍 counterfactuals R 包,通过统一的 R6 接口实现并扩展三种反事实解释方法,并在多种模型和数据集上比较其解释质量与运行效率。
2023-09-15 cs.LG stat.CO stat.ML
The Dangers of Post-hoc Interpretability: Unjustified Counterfactual Explanations
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);AXA(安盛集团);Polish Academy of Science(波兰科学院)
事后可解释性方法已被证明是强大的工具,可以为经过训练的黑盒模型所做的预测生成解释。然而,它们会产生这样的风险,即解释是模型学习的一些工件的结果,而不是来自数据的实际知识。本文重点讨论反事实解释的情况,并询问生成的实例是否可以被证明是合理的,即连续连接到一些地面真相数据。我们通过调查其预测要解释的实例的局部邻域来评估生成不合理的反事实实例的风险,并表明这种风险对于几个数据集来说是相当高的。此外,我们发现,大多数国家的最先进的方法不区分合理的不合理的反事实的例子,导致不太有用的解释。
2019-07-22 cs.AI cs.LG stat.ML
Counterfactual Visual Explanations
Georgia Institute of Technology(佐治亚理工学院);Siemens Corporation(西门子公司)
在这项工作中,我们开发了一种技术来产生反事实的视觉解释。给定视觉系统预测类$c$的“查询”图像$I$,反事实视觉解释标识$I$如何改变,使得系统将输出不同的指定类$c'$。为此,我们选择系统预测为类$c'$的“干扰项”图像$I'$,并识别$I$和$I'$中的空间区域,使得用$I'$中的识别区域替换$I$中的识别区域将推动系统将$I$分类为$c'$。我们将我们的方法应用于多个图像分类数据集,生成定性结果,展示我们的反事实解释的可解释性和判别力。为了探索我们的解释在教人类的有效性,我们提出了细粒度的鸟类分类任务的机器教学实验。我们发现,用户训练区分鸟类票价更好时,除了训练样本获得反事实的解释。
2019-06-11 cs.AI cs.CV cs.LG
Issues with post-hoc counterfactual explanations: a discussion
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);AXA(安盛);Polish Academy of Science(波兰科学院)
反事实事后可解释性方法已被证明是有用的工具,以生成解释的训练黑盒分类器的预测。然而,他们对数据和分类器的假设使他们在许多情况下不可靠。在本文中,我们讨论了三个理想的属性和方法来量化它们:邻近性,连通性和稳定性。此外,我们还说明了事后反事实方法不满足这些属性的风险。
2019-06-11 cs.AI cs.LG stat.ML
Evaluating counterfactual explanations using Pearl's counterfactual method
University of the Witwatersrand(威特沃特斯兰德大学)
反事实解释(英语:Counterfactual explanations,CE)是一种产生另一种情景的方法,这种情景会产生不同的理想结果。例如,如果一个学生被预测会不及格,那么反事实解释可以为学生提供替代方法,这样他们就可以被预测会通过。应用程序很多。然而,CE目前是从机器学习模型生成的,这些模型不一定考虑数据中的真实因果结构。通过这样做,可以将偏差引入CE量中。我建议在这项研究中,测试CE使用朱迪亚珍珠的计算反事实的方法,迄今为止,令人惊讶的是,没有看到在反事实的解释(CE)的文献。此外,我评估这些CE上的三个不同的因果结构,以显示如何真正的潜在因果结构影响CE的产生。本研究提出了一种使用Pearl方法评估CE的方法,结果表明(尽管使用了有限的样本量),30%的CE与Pearl方法计算的CE相冲突。这表明,我们不能简单地相信CE,在使用原始机器学习模型盲目计算反事实之前,了解真正的因果结构至关重要。
2023-01-06 cs.LG stat.ML
DECE: Decision Explorer with Counterfactual Explanations for Machine Learning Models
Hong Kong University of Science and Technology(香港科技大学);Bloomberg L.P.(彭博有限合伙企业)
随着机器学习模型越来越多地应用于各种决策场景,人们花费越来越多的努力使机器学习模型更加透明和可解释。在各种解释技术中,反事实解释具有人性化和可操作的优点-反事实解释告诉用户如何以最小的输入变化获得所需的预测。此外,反事实解释也可以作为模型决策的有效探针。在这项工作中,我们利用反事实解释的潜力来理解和探索机器学习模型的行为。我们设计的DECE,一个交互式的可视化系统,帮助理解和探索模型的决策,对个人的实例和数据子集,支持用户从决策主体到模型开发。DECE通过结合实例和子组级别的反事实解释的优势,支持模型决策的探索性分析。我们还引入了一组交互,使用户能够自定义反事实解释的生成,以找到更适合他们需求的可操作解释。通过三个用例和专家访谈,我们证明了DECE在支持决策探索任务和实例解释方面的有效性。
2020-08-19 cs.HC cs.LG stat.ML
Realistic Counterfactual Explanations with Learned Relations
Australian National University(澳大利亚国立大学)
许多现有的反事实解释方法忽略了数据属性之间的内在关系,从而无法产生现实的反事实。此外,现有的模型,占关系需要领域知识,这限制了它们在复杂的现实世界中的应用。在本文中,我们提出了一种新的方法来现实的反事实的解释,保持关系,并尽量减少专家的干预。该模型直接学习的关系,变分自动编码器与最小的领域知识,然后学习扰动的潜在空间。我们在合成和真实世界的数据集上进行了广泛的实验。实验结果表明,该模型从数据中学习关系,并在生成的反事实中保留这些关系。特别是,它优于其他方法的Mahalanobis距离和约束可行性得分。
2022-05-29 cs.LG stat.ML
GRETEL: A unified framework for Graph Counterfactual Explanation Evaluation
Gran Sasso Science Institute(格兰萨索科学研究所);Università degli Studi dell’Aquila(拉奎拉大学)
机器学习(ML)系统是现代工具的一部分,在多个应用领域影响着我们的日常生活。由于其黑盒性质,这些系统很难在理解决策过程至关重要的应用领域(例如健康,金融)中采用。开发了解释方法来解释ML模型如何为给定的案例/实例做出特定的决策。图反事实解释(GCE)是图学习领域采用的解释技术之一。现有的工作图反事实解释分歧主要是在问题定义,应用领域,测试数据,和评估指标,大多数现有的作品没有详尽地比较与其他反事实的解释技术在文献中。我们提出了GRETEL,这是一个用于在多种环境中开发和测试GCE方法的统一框架。GRETEL是一个高度可扩展的评估框架,通过提供一组定义良好的机制来轻松集成和管理,促进开放科学和评估的可重复性:真实和合成数据集,ML模型,最先进的解释技术和评估措施。为了展示GRETEL,我们展示了通过几种现有的解释技术和基础ML模型来整合和测试几个合成和真实数据集的实验。
2022-06-07 cs.AI cs.LG stat.ML
Deep Backtracking Counterfactuals for Causally Compliant Explanations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院)
本文提出DeepBC方法,通过Langevin Monte Carlo采样或约束优化在深度生成结构因果模型中计算回溯反事实,实现因果合规、通用且模块化的高维数据解释。
2024-08-10 cs.AI cs.LG stat.ML
DeDUCE: Generating Counterfactual Explanations Efficiently
University of Oxford(牛津大学)
当图像分类器输出错误的类别标签时,查看图像中的哪些变化会导致正确的分类可能会有所帮助。这就是算法生成反事实解释的目的。然而,没有容易扩展的方法来生成这样的反事实。我们开发了一种新的算法,提供反事实的解释,以低计算成本的光谱归一化训练的大型图像分类器。我们根据经验将该算法与文献中的基线进行比较;我们的新算法始终发现更接近原始输入的反事实。与此同时,这些反事实的现实性与基线相当。所有实验的代码可在https://github.com/benedikthoeltgen/DeDUCE获得。
2021-11-29 cs.CV cs.LG stat.ML
Counterfactual explanation of machine learning survival models
Peter the Great St.Petersburg Polytechnic University (SPbPU)(彼得大帝圣彼得堡理工大学)
提出了一种机器学习生存模型的反事实解释方法。解决反事实解释问题的难点之一是样本的类别是通过机器学习生存模型的结果以生存函数的形式隐式定义的。一个条件,建立之间的差异的原始例子和反事实的生存功能。该条件基于使用事件平均时间之间的距离。当被解释的黑箱模型为Cox模型时,反事实解释问题可归结为一个带线性约束的标准凸优化问题。对于其他黑盒模型,建议应用著名的粒子群优化算法。用实际数据和合成数据进行了大量的数值实验,验证了所提出的方法。
2020-06-26 cs.LG stat.ML
Multi-Objective Counterfactual Explanations
LMU Munich(慕尼黑大学)
反事实解释是最流行的方法之一,通过以“假设”的形式提供解释,使黑盒机器学习模型的预测可解释。大多数当前的方法优化了多个目标的折叠的加权和,这自然难以先验地平衡。我们提出了多目标反事实(MOC)方法,它将反事实搜索转化为一个多目标优化问题。我们的方法不仅返回一组不同的反事实与建议的目标之间的不同权衡,但也保持了多样性的特征空间。这使得能够进行更详细的事后分析,以促进更好的理解,并且还能够提供更多的可操作用户响应选项,以改变预测结果。我们的方法也是模型不可知的,适用于数值和分类输入特征。我们展示了MOC在具体案例中的实用性,并将我们的方法与最先进的反事实解释方法进行了比较。
2020-06-24 cs.LG stat.ML
An effect analysis of the balancing techniques on the counterfactual explanations of student success prediction models
Humboldt University of Berlin(柏林洪堡大学);Eskisehir Technical University(埃斯基谢希尔技术大学)
本文通过开放大学学习分析数据集案例研究,分析了多种反事实生成方法在平衡处理后的有效性,为学生成功预测模型选择合适方法提供依据。
2024-08-01 cs.LG stat.ML
On Counterfactual Explanations under Predictive Multiplicity
University of Tuebingen(图宾根大学);Schufa AG(舒法股份公司)
反事实解释通常通过识别对输入所做的最小改变来改变由固定模型所做的预测来获得(以下称为稀疏方法)。然而,最近的工作使一个古老的观点重新焕发了活力:对于常用的感兴趣的度量(例如出错率),通常不存在一个更好的预测问题的解决方案。事实上,通常多个不同的分类器给出几乎相同的解决方案。这种现象被称为预测多重性(Breiman,2001; Marx等人,2019年)。在这项工作中,我们得到了一个一般的上限预测多重性下的反事实解释的成本。最值得注意的是,它取决于两个分类器之间的差异概念,它描述了它们如何不同地对待负面预测的个体。然后,我们比较稀疏和数据支持方法的经验对现实世界的数据。结果表明,数据支持方法对不同模型的多样性具有更强的鲁棒性。与此同时,我们证明了这些方法在一个固定模型下产生反事实解释的成本更高。总之,我们的理论和实验结果挑战了普遍持有的观点,即反事实的建议一般应该是稀疏的。
2020-06-23 cs.CY cs.LG stat.ML
A New Approach to Backtracking Counterfactual Explanations: A Unified Causal Framework for Efficient Model Interpretability
Munich Center for Machine Learning(慕尼黑机器学习中心);Sharif University of Technology(谢里夫理工大学)
提出基于回溯反事实的高效方法BRACE,融合因果推理生成可执行解释,克服传统方法忽视因果及计算昂贵的问题,并在特定场景下推广先前技术。
2025-05-22 cs.AI cs.LG stat.ML
Decisions, Counterfactual Explanations and Strategic Behavior
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
随着数据驱动的预测模型越来越多地用于为决策提供信息,人们认为决策者应该提供解释,帮助个人理解为了使这些决策成为有益的决策,必须改变什么。然而,很少有人讨论个人可能会使用上述反事实解释来战略性地投入努力,并最大限度地提高他们获得有利决策的机会。在本文中,我们的目标是找到政策和反事实的解释,是最佳的效用在这样的战略设置。我们首先表明,给定预定义的政策,找到最佳反事实解释集的问题是NP难的。然后,我们证明了相应的目标是非减的,并满足子模块性,这使得一个标准的贪心算法享受近似保证。此外,我们进一步表明,共同寻找最优策略和一组反事实解释的问题归结为最大化一个非单调子模函数。因此,我们可以使用最近的随机算法来解决这个问题,这也提供了近似保证。最后,我们证明,通过将拟阵约束到问题的制定,我们可以增加的多样性的最佳集的反事实的解释和激励个人在整个频谱的人口自我提高。合成和真实的贷款和信用卡数据上的实验说明了我们的理论研究结果,并表明我们的算法发现的反事实解释和决策策略比几个有竞争力的基线实现了更高的效用。
2020-10-14 cs.CY cs.GT cs.HC
Instance-based Counterfactual Explanations for Time Series Classification
University College Dublin(都柏林大学);Insight Centre for Data Analytics(洞察数据分析中心);VistaMilk SFI Research Centre(VistaMilk 科学基金会爱尔兰研究中心)
近年来,人们对解释处理图像和表格数据的黑盒人工智能系统所做的预测的关注迅速扩大。然而,很少有人关注解释处理时间序列数据的不透明人工智能系统的预测。在本文中,我们提出了一种新的模型不可知的,基于案例的技术-本地指南-生成反事实的解释时间序列分类。给定查询时间序列$T_{q}$,黑盒分类系统预测类$c$,反事实时间序列解释显示$T_{q}$如何改变,使得系统预测替代类$c'$。所提出的基于实例的技术适应现有的反事实的情况下,通过突出显示和修改的时间序列的歧视性领域的分类基础的实例库。两个比较实验的定量和定性结果表明,本机指南产生合理的,近端的,稀疏和多样化的解释,比那些产生的关键基准反事实的方法。
2021-06-24 cs.LG stat.ML
Model extraction from counterfactual explanations
Université du Québec à Montréal(魁北克大学蒙特利尔分校);Polytech Nice Sophia(尼斯索菲亚综合理工学院)
事后解释技术是指可以用来解释黑盒机器学习模型如何产生结果的后验方法。在事后解释技术中,反事实解释正成为实现这一目标的最流行的方法之一。特别是,除了突出黑盒模型使用的最重要的功能外,它们还以数据实例的形式为用户提供了可操作的解释,这些数据实例可能会收到不同的结果。尽管如此,通过这样做,他们也泄露了关于模型本身的重要信息,这引发了隐私问题。在这项工作中,我们演示了对手如何利用反事实解释提供的信息来构建高保真度和高精度的模型窃取攻击。更准确地说,我们的攻击使对手能够通过访问其反事实解释来构建目标模型的忠实副本。对在真实世界数据集上训练的黑盒模型进行的经验评估表明,即使在低查询预算下,它们也可以实现高保真度和高准确度的提取。
2020-09-03 cs.CR cs.LG stat.ML
Interpretable Counterfactual Explanations Guided by Prototypes
Seldon Technologies Ltd(塞尔登科技有限公司)
我们提出了一个快速的,模型不可知的方法,通过使用类原型来寻找分类器预测的可解释的反事实解释。我们表明,使用编码器或通过特定于类的k-d树获得的类原型显着加快了对反事实实例的搜索速度,并产生更多可解释的解释。我们引入了两个新的指标来定量评估本地的可解释性在实例级。我们使用这些指标来说明我们的方法在图像和表格数据集上的有效性,分别是MNIST和威斯康星州乳腺癌(诊断)。该方法还消除了计算瓶颈,因为数值梯度评估$\textit{black box}$模型。
2020-02-18 cs.LG stat.ML
An ASP-Based Approach to Counterfactual Explanations for Classification
Universidad Adolfo Ibañez(阿道夫·伊瓦涅斯大学);Millenium Institute on Foundations of Data(千禧数据基础研究所)
我们提出了答案集程序,指定和计算反事实的干预措施的基础上,基于因果关系的解释分类模型产生的决定。它们可以应用于黑盒模型和可以指定为逻辑程序的模型,例如基于规则的分类器。主要集中在最大责任因果解释的规范和计算上。使用额外的语义知识进行了研究。
2020-06-16 cs.DB cs.LG cs.LO
Conditional Generative Models for Counterfactual Explanations
Seldon Technologies(塞尔登科技)
反事实实例为机器学习模型的本地行为提供了人类可解释的洞察力。我们提出了一个通用的框架来生成稀疏的,分布中的反事实模型解释,该解释将所需的目标预测与条件生成模型相匹配,允许用单个向前传递生成批量反事实实例。该方法相对于所使用的生成模型的类型以及底层预测模型的任务是灵活的。这允许将框架直接应用于不同的模态,如图像,时间序列或表格数据,以及生成模型范例,如GANs或自动编码器和预测任务,如分类或回归。我们说明了我们的方法对图像(CelebA),时间序列(ECG)和混合型表格(成人普查)数据的有效性。
2021-01-25 cs.LG stat.ML
CountARFactuals -- Generating plausible model-agnostic counterfactual explanations with adversarial random forests
Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);LMU Munich(慕尼黑大学);Leibniz Institute for Prevention Research & Epidemiology – BIPS(莱布尼茨预防研究与流行病学研究所);University of Bremen(不来梅大学);University of Tübingen(蒂宾根大学);University of Copenhagen(哥本哈根大学)
本文提出CountARFactuals,利用对抗随机森林以模型无关方式高效生成数据流形内的合理反事实解释,并自然支持混合数据与稀疏性约束。
2024-04-04 cs.LG stat.ML
Learning Model-Agnostic Counterfactual Explanations for Tabular Data
University of Tuebingen(图宾根大学);Schufa Holding AG(Schufa控股股份公司)
反事实解释可以通过识别对特征向量进行的最小变化来获得,以定性地影响预测;例如,从“贷款拒绝”到“授予”或从“心血管疾病的高风险”到“低风险”。以前的方法经常强调反事实应该很容易被人类解释,激励稀疏的解决方案,对特征向量的变化很少。然而,这些方法不能确保所产生的反事实是接近的(即,不是局部离群值)并且连接到具有相当大数据密度的区域(即,接近正确分类的观察),这两个要求被称为反事实的忠诚。当向个人提出确实可以实现的建议时,这些要求是基本的。我们的贡献是双重的。一方面,我们建议补充反事实质量测量目录[1],使用一个标准来量化某个反事实建议的难度。另一方面,从多方面的学习文献的想法,我们开发了一个框架,产生可达到的反事实。我们建议反事实的条件异构变分自编码器(C-CHVAE),以确定可达到的反事实,位于高数据密度的区域内。
2020-05-03 cs.LG stat.ML
COMRECGC: Global Graph Counterfactual Explainer through Common Recourse
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文形式化GNN全局反事实解释中的共同追索问题,提出COMRECGC算法,并在四个真实图数据集上验证其优于强基线。
2025-05-13 cs.LG stat.ML
Info-CELS: Informative Saliency Map Guided Counterfactual Explanation
Utah State University(犹他州立大学)
针对 CELS 反事实解释模型有效性不足的问题,本文提出移除掩码归一化的 Info-CELS,在多领域数据集上提升了反事实解释的有效性与信息量。
2024-10-27 cs.LG stat.ML