Counterfactuals uncover the modular structure of deep generative models
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);MPI for Biological Cybernetics(马克斯·普朗克生物控制论研究所);ETH Zürich(苏黎世联邦理工学院);ENS Rennes(雷恩高等师范学院)
深度生成模型可以模拟复杂图像数据集的感知属性,提供数据的潜在表示。然而,操纵这种表示以在数据空间中执行有意义且可控的变换在没有某种形式的监督的情况下仍然具有挑战性。虽然以前的工作集中在利用统计独立性来解开潜在因素,但我们认为这种要求过于限制,而是提出了一个非统计框架,该框架依赖于反事实操作来揭示由解开的内部变量组组成的网络的模块化结构。在复杂图像数据集上训练的各种生成模型的实验表明,所获得的模块可用于设计有针对性的干预措施。这为诸如计算高效的风格转换和对模式识别系统中上下文变化的鲁棒性的自动评估等应用开辟了道路。
2019-12-12 cs.LG stat.ML
Counterfactual Rollout Replay: Forkable Environments as Free Process Rewards for Software Engineering Agents
提出反事实回放(CRR),利用可分支环境生成步骤级回报对比,无需过程标签或奖励模型,显著提升SWE智能体在多个基准上的pass@1。
2026-11-03 cs.AI cs.LG cs.SE
Generative Flows for Potential Outcomes and Counterfactuals
School of Industrial and Systems Engineering(工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);Elmore Family School of Electrical and Computer Engineering(埃洛姆家族电气与计算机工程学院);Purdue University(普渡大学)
本文提出PO-Flow框架,通过连续归一化流模型联合建模潜在结果分布和事实条件下的反事实结果,实现个性化预测和因果推断。
2026-10-20 cs.LG stat.ML
Counterfactual Generative Models for Time-Varying Treatments
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
针对时变干预下反事实结果数量多、结果高维导致传统平均干预效应估计失效的问题,提出基于逆概率重加权的条件生成框架,可结合前沿生成模型生成高质量反事实样本,性能优于现有基线。
2024-07-13 cs.LG stat.ME stat.ML
Counterfactual Identifiability of Bijective Causal Models
Massachusetts Institute of Technology (MIT)(麻省理工学院)
本文研究双射生成机制因果模型的反事实可辨识性,证明三类含未观测混杂结构的可辨识性,并提出基于结构化深度条件生成建模的学习与估计方法。
2023-06-06 cs.LG stat.ML
DoFlow: Flow-based Generative Models for Interventional and Counterfactual Forecasting on Time Series
H. Milton Stewart School of Industrial and Systems Engineering(H. Milton Stewart工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);Northwestern–Argonne Institute for Scientific and Engineering Excellence(西北-阿贡科学与工程卓越研究所)
DoFlow通过基于因果图的流模型实现时间序列的干预和反事实预测,并提供异常检测能力。
2026-03-01 cs.LG stat.ME stat.ML
CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets
Amazon(亚马逊);Hired;Facebook(脸书)
机器学习模型在各个行业中的流行已经导致对模型可解释性以及对向用户提供有意义的求助的能力的需求不断增长。例如,希望改善诊断的患者或寻求增加批准机会的贷款申请人。在这方面,反事实可以通过识别输入扰动来提供帮助,这些扰动将导致更理想的预测结果。有意义的反事实应该能够实现预期的结果,但也是现实的,可操作的,有效的计算。目前的方法实现了预期的结果,具有适度的可操作性,但在现实性和延迟方面受到严重限制。为了解决这些限制,我们将生成对抗网络(GANs)应用于反事实搜索。我们还介绍了一种新的残差GAN(RGAN),与常规GANs相比,它有助于提高反事实现实主义和可操作性。所提出的CounteRGAN方法利用RGAN和目标分类器来产生能够提供有意义的追索权的反事实。对两个流行数据集的评估突出了CounteRGAN如何能够克服现有方法的局限性,包括延迟改善> 50倍至> 90,000倍,使有意义的追索权实时可用并适用于广泛的领域。
2021-05-27 cs.AI cs.LG stat.ML
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley(加州大学伯克利分校);Genentech(基因泰克公司)
针对高维结果下个体反事实预测难题,提出变分贝叶斯因果推断框架,无需反事实样本即可端到端监督并解耦外生噪声,在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Generative Counterfactual Introspection for Explainable Deep Learning
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
在这项工作中,我们提出了一种用于深度神经网络的内省技术,该技术依赖于生成模型来煽动对输入图像进行显着编辑以进行模型解释。这种修改提供了基本的干预操作,使我们能够获得反事实调查的答案,即,可以对输入图像进行什么有意义的改变以改变预测。我们演示了如何通过利用MNIST和CelebA数据集上提出的内省方法来揭示给定分类器的有趣特性。
2019-07-06 cs.AI cs.CV cs.LG
Counterfactual (Non-)identifiability of Learned Structural Causal Models
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院)
概率生成建模的最新进展促使使用深度条件生成模型(也称为深度结构因果模型(DSCM))从观测数据集学习结构因果模型(SCM)。如果成功,DSCM可以用于因果估计任务,例如,回答反事实的问题在这项工作中,我们警告从业者,即使在没有未观察到的混淆和假设已知的因果结构的情况下,从观察数据中得出的反事实推断也是不可识别的。我们证明了具有一维外生变量的单调生成机制的反事实可识别性。对于一般的生成机制与多维外生变量,我们提供了一个不可能的结果,反事实的可识别性,激励参数假设的需要。作为一种实用的方法,我们提出了一种方法来估计学习DSCM的反事实预测的最坏情况下的错误。这个错误的大小可以是决定DSCM是否是在特定问题设置中进行反事实推理的可行方法的基本度量。在评估中,我们的方法确认可以忽略不计的反事实错误的可识别的SCM从以前的工作,也提供了翔实的错误界限上的反事实错误的不可识别的合成SCM。
2023-01-22 cs.LG stat.ML
Diffeomorphic Counterfactuals with Generative Models
Berlin Institute of Technology (TU Berlin)(柏林工业大学);Korea University(高丽大学);Max Planck Institut für Informatik(马克斯·普朗克信息学研究所);Google Research(谷歌研究院)
反事实可以以人类可解释的方式解释神经网络的分类决策。我们提出了一个简单而有效的方法来产生这样的反事实。更具体地说,我们执行一个合适的同构坐标变换,然后在这些坐标中执行梯度上升,以找到被归类为一个指定的目标类具有很大的信心的反事实。我们提出了两种方法来利用生成模型来构建这样合适的坐标系,无论是精确的或近似的同构。我们从理论上分析的生成过程中使用黎曼微分几何和验证质量的生成的反事实使用各种定性和定量的措施。
2022-06-16 cs.AI cs.LG
Generative Learning of Counterfactual for Synthetic Control Applications in Econometrics
University of California, Berkeley(加州大学伯克利分校)
计量经济学中一个常见的统计问题是,在给定一个未处理结果的控制样本的情况下,估计处理对处理单元的影响。在这里,我们开发了一种生成学习方法来解决这个问题,学习数据的概率分布,这可用于下游任务,如治疗后反事实预测和假设检验。我们使用控制样本将数据转换为高斯和同方差形式,然后在傅立叶空间中执行高斯过程分析,通过非参数功率谱估计来评估最佳高斯核。我们将该高斯先验与单个单元的预处理数据给出的数据似然相结合,以获得单元后处理的合成预测,该合成预测的误差方差最小化。给定生成模型,最小方差反事实是唯一的,并且具有相关联的误差协方差阵。我们扩展这个基本的形式主义,包括相关性的主要变量与其他协变量的利益。鉴于生成模型的概率描述,我们可以将合成数据预测与真实数据进行比较,以解决治疗是否具有统计学显著影响的问题。为此,我们开发了一个假设检验的方法和评估贝叶斯因子。我们将该方法应用于加利福尼亚州(CA)1988年烟草销售税的研究实例。我们还使用控制状态进行安慰剂分析,以验证我们的方法。我们的假设检验方法表明,5.8:1的几率有利于CA烟草销售税对烟草销售的影响,该值至少是38个控制州中任何一个的三倍。
2019-10-16 cs.LG stat.ML
Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset
Dalhousie University(达尔豪斯大学)
本文利用因果生成学习与反事实推断,提出针对图像分类器的可解释方法,包括像素级影响分析、基于蒙特卡洛的属性重要性估计及反事实解释优化,并在 Morpho-MNIST 上验证其可解释性优于 OmnixAI。
2024-01-21 cs.LG
DoubleGen: Debiased Generative Modeling of Counterfactuals
Harvard University(哈佛大学);Institute of Statistical Mathematics(统计数学研究所)
DoubleGen提出双重稳健框架,通过修改生成模型训练目标,在倾向性模型和结果模型仅有一个正确时也能消除反事实生成中的混杂偏差,并实现预言机最优性和极小极大速率最优性。
2025-09-20 cs.LG stat.ME stat.ML
GenFacts-Generative Counterfactual Explanations for Multi-Variate Time Series
Technical University of Munich(慕尼黑技术大学);Infineon Technologies AG(英飞凌科技公司);Johannes Kepler University Linz(林茨约翰尼斯·凯普勒大学)
GenFacts通过生成多变量时间序列的反事实解释,提升了反事实的合理性和用户可解释性,优于现有方法。
2026-02-17 cs.LG
SCE-LITE-HQ: Smooth visual counterfactual explanations with generative foundation models
BIFOLD – Berlin Institute for the Foundations of Learning(柏林学习与数据基础研究所)
本文提出SCE-LITE-HQ框架,利用预训练生成模型在潜在空间中生成稳定且多样的反事实解释,避免训练专用生成模型的开销,适用于高分辨率数据。
2026-03-17 cs.CV cs.LG
Counterfactual Forecasting of Human Behavior using Generative AI and Causal Graphs
本研究提出结合结构因果模型与Transformer生成式AI的用户行为反事实预测框架,通过因果图和条件生成模型生成真实轨迹,在多领域数据集上优于传统方法,且可可视化因果路径辅助产品团队评估干预措施。
2025-11-09 cs.CE cs.LG stat.ME
CLEAR: Generative Counterfactual Explanations on Graphs
University of Virginia(弗吉尼亚大学);Bytedance AI Lab(字节跳动人工智能实验室);J.P. Morgan AI Research(摩根大通人工智能研究院)
反事实解释通过回答“应该如何扰动输入实例以获得期望的预测标签”的问题来提高机器学习模型的可解释性。".对扰动前后的这种情况进行比较可以增强人类的解释。现有的反事实解释研究大多局限于表格数据或图像数据。在这项工作中,我们研究了图上的反事实解释生成问题。一些研究已经探索了图上的反事实解释,但这个问题的许多挑战仍然没有得到很好的解决:1)在离散和无序的图空间中进行优化; 2)在看不见的图上进行推广; 3)在没有因果模型的先验知识的情况下保持生成的反事实中的因果关系。为了应对这些挑战,我们提出了一个新的框架CLEAR,旨在为图级预测模型生成图上的反事实解释。具体而言,CLEAR利用基于图变分自编码器的机制来促进其优化和泛化,并通过利用辅助变量来更好地识别底层因果模型来促进因果关系。在合成图和真实世界图上的大量实验验证了CLEAR在不同方面优于现有方法。
2022-11-07 cs.LG
From Identifiable Causal Representations to Controllable Counterfactual Generation: A Survey on Causal Generative Modeling
University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本综述系统梳理因果生成建模,涵盖因果表征学习与可控反事实生成,并探讨其理论、方法、应用及未来方向。
2024-05-23 cs.AI cs.LG stat.ML
Flexible Counterfactual Explanations with Generative Models
Vrije Universiteit Brussel(布鲁塞尔自由大学);Universiteit Antwerpen(安特卫普大学);Harvard University(哈佛大学)
提出灵活反事实解释框架,结合生成对抗网络FCEGAN,支持用户动态指定可变特征,适用于黑盒场景,提升解释有效性。
2025-02-24 cs.AI cs.LG stat.ME
De-Biasing Generative Models using Counterfactual Methods
University of California, Los Angeles(加州大学洛杉矶分校)
变分自编码器(VAE)和其他生成方法不仅因为其生成特性而且因为其解开低维潜在变量空间的能力而引起了越来越多的兴趣。然而,现有的生成模型很少考虑因果关系。我们提出了一种新的基于解码器的框架,称为因果反事实生成模型(CCGM),它包括一个部分可训练的因果层,其中可以学习因果模型的一部分,而不会显着影响重建保真度。通过学习图像语义标签或表格变量之间的因果关系,我们可以分析偏差,干预生成模型,并模拟新的场景。此外,通过修改因果结构,我们可以在原始训练数据的域之外生成样本,并使用这种反事实模型来消除数据集的偏差。因此,具有已知偏差的数据集仍然可以用于训练因果生成模型并学习因果关系,但我们可以在生成侧生成去偏差数据集。我们提出的方法结合了因果潜在空间VAE模型与特定的修改,以强调因果保真度,使更精细的控制因果层和学习一个强大的干预框架的能力。我们探讨如何更好地解开因果学习和编码/解码产生更高的因果干预质量。我们还将我们的模型与类似的研究进行了比较,以证明在干预之外需要明确的生成去偏置。我们的初步实验表明,我们的模型可以生成对因果框架高保真的图像和表格数据,并适应显式去偏置,以忽略与基线相比因果数据中不期望的关系。
2023-02-11 cs.LG
Equitable modelling of brain imaging by counterfactual augmentation with morphologically constrained 3D deep generative models
University College London(伦敦大学学院)
我们描述了Countersynth,条件生成模型,诱导标签驱动的,生物上合理的变化,体积脑图像的变形。该模型的目的是合成反事实的训练数据增强下游的歧视性建模任务,保真度是有限的数据不平衡,分布不稳定,混杂,或规格不足,并表现出不公平的性能在不同的亚群。集中在人口统计属性,我们评估合成的反事实的质量与基于体素的形态测量,分类和回归的条件属性,和Fréchet的起始距离。在工程人口不平衡和混杂的背景下检查下游辨别性能,我们使用英国生物银行磁共振成像数据来对CounterSynth增强与当前解决这些问题的方案进行基准测试。我们实现了最先进的改进,无论是在整体保真度和公平。CounterSynth的源代码可以在线获得。
2021-11-29 cs.CV cs.LG
Prompt-Counterfactual Explanations for Generative AI System Behavior
University of Antwerp(安特卫普大学);NYU Stern School of Business(纽约大学斯特恩商学院)
本文提出了一种生成式AI系统的提示-反事实解释方法,用于分析和解释提示对输出特征的影响,以提升模型的可解释性和可控性。
2026-01-27 cs.AI cs.CL cs.CY
Counterfactual Generation Under Confounding
IIT Hyderabad(印度理工学院海得拉巴分校);Microsoft Research(微软研究院)
在训练数据中观察到或未观察到的混杂因素的影响下,机器学习模型可以学习虚假的相关性,并且在部署时无法推广。对于图像分类器,使用反事实示例来增强训练数据集已被经验证明可以打破虚假的相关性。然而,随着混淆水平的增加,反事实生成任务本身变得更加困难。用于在混杂下生成反事实的现有方法考虑了一组固定的干预(例如,纹理、旋转),并且不够灵活以捕获不同的数据生成过程。给定一个因果生成过程,我们正式描述了混淆对任何下游任务的不利影响,并表明生成因素(属性)之间的相关性可以用来定量测量生成因素之间的混淆。为了最大限度地减少这种相关性,我们提出了一种反事实生成方法,该方法学习修改图像中任何属性的值,并在给定一组观察到的属性的情况下生成新图像,即使数据集高度混淆。然后,这些反事实图像用于正则化下游分类器,使得学习的表示在以类标签为条件的各种生成因子中是相同的。我们的方法计算效率高,易于实现,适用于任何数量的生成因子和混杂变量。我们在合成(MNIST变体)和真实世界(CelebA)数据集上的实验结果表明了我们方法的实用性。
2022-12-10 cs.AI cs.LG
Counterfactual Generative Networks
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tübingen(蒂宾根大学)
神经网络倾向于学习捷径--它们通常对简单的相关性进行建模,忽略更复杂的可能更好地概括的相关性。先前关于图像分类的工作表明,深度分类器倾向于利用与低级纹理或背景的虚假相关性来解决分类任务,而不是学习与对象形状的连接。在这项工作中,我们朝着更强大和可解释的分类器迈出了一步,这些分类器明确地揭示了任务的因果结构。基于当前深度生成建模的进展,我们建议将图像生成过程分解为独立的因果机制,我们在没有直接监督的情况下进行训练。通过利用适当的归纳偏差,这些机制解开对象形状,对象纹理和背景;因此,它们允许生成反事实图像。我们展示了我们的模型在MNIST和ImageNet上生成此类图像的能力。此外,我们表明,反事实图像可以提高分布外的鲁棒性,在原始分类任务的性能略有下降,尽管是合成的。最后,我们的生成模型可以在单个GPU上有效地训练,利用常见的预训练模型作为归纳偏差。
2021-01-15 cs.CV cs.LG
GCFX: Generative Counterfactual Explanations for Deep Graph Models at the Model Level
South China University of Technology(华南理工大学)
GCFX通过生成模型级反事实解释,提升深度图模型的可解释性和可信度。
2026-01-26 cs.AI cs.LG
Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation
Texas A&M University(德州农工大学)
随着深度神经网络(DNN)的广泛使用,模型的可解释性已经成为一个关键问题,因为在高风险场景中,可解释的决策是首选的。目前的解释技术主要集中在特征归因的角度,这是有限的,表明为什么和如何特定的解释是与预测。为此,一个有趣的类的解释,命名为反事实,已被开发,以进一步探索“假设”的情况下进行解释,并使推理能力的黑箱模型。然而,为原始数据实例生成反事实(即,文本和图像)由于其在高数据维度和非语义原始特征上的挑战,仍然处于早期阶段。在本文中,我们设计了一个框架,专门为原始数据实例生成反事实与拟议的属性知情扰动(AIP)。通过使用具有不同属性的生成模型,可以有效地获得具有所需标签的反事实。而不是直接修改数据空间中的实例,我们迭代优化构造的属性通知的潜在空间,其中功能更强大和语义。在真实文本和图像上的实验结果证明了我们设计的框架的有效性,样本质量以及效率,并显示出优于其他替代品。此外,我们还介绍了一些实际应用的基础上,我们的框架,表明其潜力超出模型的可解释性方面。
2021-01-18 cs.AI cs.LG
Counterfactual Explanation of Brain Activity Classifiers using Image-to-Image Transfer by Generative Adversarial Network
Okayama University(冈山大学);Japan Science and Technology Agency(日本科学技术振兴机构);Rikkyo University(立教大学);National Institute for Physiological Sciences(生理学研究所);Araya Inc.(Araya 公司);Keio University(庆应义塾大学)
深度神经网络(DNN)可以从大脑激活中准确解码与任务相关的信息。然而,由于DNN的非线性,DNN做出的决策很难解释。解释这种黑箱系统的一个有希望的方法是反事实解释。在这个框架中,一个黑盒系统的行为是通过比较真实的数据和现实的合成数据,特别是生成,使得黑盒系统输出一个不真实的结果来解释。在这里,我们介绍了一种新的生成DNN(反事实激活生成器,CAG),可以为基于DNN的大脑激活分类器提供反事实解释。重要的是,CAG可以同时处理与不同行为任务相关的多个类之间的图像转换。使用CAG,我们展示了基于DNN的分类器的反事实解释,这些分类器学会了区分七个行为任务的大脑激活。此外,通过CAG的迭代应用,我们能够增强和提取影响分类器决策的细微空间大脑活动模式。总之,这些结果表明,基于图像到图像变换的反事实解释将是一种很有前途的方法来理解和扩展DNN在fMRI分析中的当前应用。
2021-10-28 cs.CV cs.LG q-bio.NC
GenCAR: Generative Counterfactual Alignment with Risk-Controlled Selection for Out-of-Distribution Recommendation
Southern University of Science and Technology(南方科技大学);University of Pennsylvania(宾夕法尼亚大学)
本研究针对分布外推荐的风险问题,提出GenCAR方法,通过控制代理标签错误发现率,提升了不同基准下的分布外推荐候选恢复效果。
2026-09-03 cs.IR cs.LG
Counterfactual Image Editing
Columbia University(哥伦比亚大学)
本文形式化反事实图像编辑任务,证明其不可识别性,提出反事实一致性估计器松弛方案,并开发基于神经因果模型的高效生成算法。
2024-02-07 cs.CV cs.LG
Estimating the Effects of Continuous-valued Interventions using Generative Adversarial Networks
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);University of Cambridge(剑桥大学);University of California, Los Angeles(加州大学洛杉矶分校)
虽然已经给予了很多关注的问题,估计离散的干预措施的效果,从观察数据,相对较少的工作已经做了设置连续值的干预措施,如治疗与剂量参数。在本文中,我们通过修改生成对抗网络(GANs)框架来解决这个问题。我们的模型,SCIGAN,是灵活的,能够同时估计几个不同的连续干预的反事实的结果。其关键思想是使用经过显著修改的GAN模型来学习生成反事实结果,然后可以使用标准的监督方法来学习推理模型,从而能够为新样本估计这些反事实。为了解决转移到持续干预所带来的挑战,我们提出了一个新的架构,我们的网络-我们建立了一个层次化的网络,利用结构的持续干预设置。此外,我们提供的理论结果,以支持我们使用的GAN框架和层次的神经网络。在实验部分,我们介绍了一种新的半合成数据模拟用于连续干预设置,并证明了现有的基准模型的改进。
2020-11-22 cs.LG stat.ML
Beyond Generative AI: World Models for Clinical Prediction, Counterfactuals, and Planning
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(莫莫德·本·扎伊德人工智能大学)
本文探讨了世界模型在医疗领域中的应用,旨在通过预测动态、反事实评估和规划提升临床决策的可靠性。
2025-11-20 cs.LG
GANterfactual - Counterfactual Explanations for Medical Non-Experts using Generative Adversarial Learning
Augsburg University(奥格斯堡大学)
随着机器学习的不断兴起,对解释由人工智能系统做出的决策的方法的需求正在成为一个越来越重要的话题。特别是对于图像分类任务,解释这种分类器的许多现有技术工具依赖于输入数据的重要区域的视觉突出显示。相反,反事实解释系统试图通过以分类器会做出不同预测的方式修改输入图像来实现反事实推理。通过这样做,反事实解释系统的用户配备了一种完全不同的解释信息。然而,为图像分类器生成逼真的反事实解释的方法仍然很少。特别是在医疗环境中,相关信息通常由纹理和结构信息组成,高质量的反事实图像有可能为决策过程提供有意义的见解。在这项工作中,我们提出了GANterfactual,一种基于对抗性图像到图像翻译技术生成这种反事实图像解释的方法。此外,我们还进行了一项用户研究,以评估我们在示例性医疗用例中的方法。我们的研究结果表明,在所选的医疗用例中,反事实解释在心理模型、解释满意度、信任、情绪和自我效能方面的结果明显优于两个使用显着性图的最先进系统,即LIME和LRP。
2021-08-05 cs.AI cs.CV cs.HC
High Fidelity Image Counterfactuals with Probabilistic Causal Models
Imperial College London(伦敦帝国理工学院);Microsoft Research Cambridge(微软剑桥研究院)
针对高维图像类结构化变量的反事实与干预查询估计难题,研究结合因果中介分析思路与生成建模进展,提出含新型深度因果机制的通用因果生成建模框架,实验验证其在溯因及各类效应估计上的准确性。
2023-07-18 cs.LG stat.ME
Image Counterfactual Sensitivity Analysis for Detecting Unintended Bias
Google(谷歌公司)
本文提出图像反事实敏感性分析框架,通过生成对抗网络操纵面部特征,度量微笑分类器预测变化,以检测和细粒度分析无意偏见,促进公平性。
2020-10-03 cs.CV cs.LG stat.ML
Robust Stochastic Graph Generator for Counterfactual Explanations
Gran Sasso Science Institute(格兰萨索科学研究所);Sapienza University of Rome(罗马大学);University of L’Aquila(拉奎拉大学)
本文提出RSGG-CE,一种从潜在空间按部分有序序列生成反事实图的鲁棒随机图生成器,并通过定量与定性实验证明其优于现有生成式解释器。
2024-01-11 cs.AI cs.LG
QUCE: The Minimisation and Quantification of Path-Based Uncertainty for Generative Counterfactual Explanations
School of Mathematics and Computer Science(数学与计算机科学学院);Swansea University(斯旺西大学);Department of Finance, Insurance and Real Estate(金融、保险与房地产系);Université Laval(拉瓦尔大学);Lee Kong Chian School of Medicine(李科珍医学院);School of Computer Science and Engineering(计算机科学与工程学院);Nanyang Technological University(南洋理工大学)
QUCE通过最小化路径不确定性,缓解深度神经网络分布外遍历导致的解释性能下降,并量化不确定性以生成更确定的反事实示例。
2025-05-24 cs.AI cs.LG
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Debiased Counterfactual Generation via Flow Matching from Observations
Gatsby Computational Neuroscience Unit(盖茨计算神经科学单位);University College London(伦敦大学学院);Department of Statistics(统计系);University of British Columbia(不列颠哥伦比亚大学)
本文提出通过去偏流从观测数据学习反事实分布,改进了传统方法,提高了效率和鲁棒性。
2026-11-13 cs.LG stat.ML
Modeling Matches as Language: A Generative Transformer Approach for Counterfactual Player Valuation in Football
Department of Artificial Intelligence, University of Seoul, Seoul, Republic of Korea(首尔大学人工智能系);Institute for Sports and Preventive Medicine, Saarland University, Saarbrücken, Germany(萨尔兰州预防医学研究所);Chair for Sports Analytics, Saarland University(萨尔兰州体育分析教授职位)
本文提出ScoutGPT,通过将足球比赛事件视为序列标记,利用生成式Transformer模型模拟反事实球员估值,提升对球员转会效果的预测能力。
2026-08-05 cs.AI cs.LG
Learning Structural Causal Models through Deep Generative Models: Methods, Guarantees, and Challenges
Ekimetrics(埃基梅特里克公司);INRIA Saclay(法国国家信息与自动化研究所萨克雷分所);TAU(特拉维夫大学);LISN(巴黎第十一大学科学与工业技术实验室)
本文综述了深度结构因果模型(DSCMs)在已知因果结构下利用观测数据回答反事实查询的能力,分析了其假设、保证与应用,并指出了该领域的挑战与未来方向。
2024-05-08 cs.LG stat.ML
Deep Kalman Filters
Courant Institute of Mathematical Sciences(库朗数学科学研究所);New York University(纽约大学)
卡尔曼滤波器是时变现象最有影响力的模型之一。他们承认一个直观的概率解释,有一个简单的功能形式,并享有广泛采用的各种学科。受最近用于学习深度生成模型的变分方法的启发,我们引入了一种统一的算法来有效地学习广泛的卡尔曼滤波器。特别感兴趣的是使用时间生成模型进行反事实推理。我们研究了这种模型用于反事实推理的有效性,为此,我们引入了“愈合MNIST”数据集,其中长期结构,噪声和动作应用于数字序列。我们展示了我们的方法对该数据集建模的有效性。我们进一步展示了我们的模型如何用于患者的反事实推理,基于4.5年内8,000名患者的电子健康记录数据。
2015-11-25 cs.LG stat.ML
Leveraging Foundation Models for Causal Generative Modeling
University of Arkansas(亚拉巴马大学)
提出FM-CGM框架,通过预训练基础模型实现零样本因果发现、干预和反事实生成,并引入因果语义引导机制确保忠实反事实图像生成。
2026-05-22 cs.AI cs.CV cs.LG
Adversary-Free Counterfactual Prediction via Information-Regularized Representations
CAIR-CAS(中国科学院自动化研究所);CityUHK(香港城市大学);HKUST(香港理工大学)
本文提出一种基于信息正则化表示的无对抗因果预测方法,通过减少处理-协变量依赖性来提升预测性能,适用于动态场景并优于现有平衡、重加权和对抗方法。
2026-04-27 cs.LG stat.ML
Cycle-Consistent Counterfactuals by Latent Transformations
Collaborative Robotics and Intelligent Systems (CoRIS) Institute(协作机器人与智能系统(CoRIS)研究所);Oregon State University(俄勒冈州立大学)
反事实(CF)视觉解释试图找到与查询图像相似的图像,这些图像将视觉系统的决策改变为指定的结果。现有的方法要么需要推理时间优化,要么需要与生成对抗模型进行联合训练,这使得它们非常耗时,难以在实践中使用。我们提出了一种新的方法,周期一致的反事实的潜在变换(C3LT),它学习一个潜在的转换,自动生成视觉CF转向生成模型的潜在空间。我们的方法使用查询和CF潜在表示之间的循环一致性,这有助于我们的训练找到更好的解决方案。C3LT可以很容易地插入任何最先进的预训练生成网络。这使我们的方法能够以高分辨率生成高质量和可解释的CF图像,例如ImageNet中的图像。除了几个既定的指标,用于评估CF的解释,我们引入了一个新的度量,专门用于评估所生成的CF的例子的质量和验证我们的方法的有效性上一组广泛的实验。
2022-03-28 cs.AI cs.CV cs.LG
SKDCGN: Source-free Knowledge Distillation of Counterfactual Generative Networks using cGANs
University of Amsterdam(阿姆斯特丹大学)
通过使用适当的归纳偏差,反事实生成网络(CGN)可以从形状,纹理和背景流形的随机组合中生成新颖的图像。这些图像可以用来训练不变分类器,避免深度架构学习虚假相关性而不是有意义的相关性的广泛问题。因此,提高了域外鲁棒性。然而,CGN架构包括多个过参数化网络,即BigGAN和U2-Net。训练这些网络需要适当的背景知识和广泛的计算。由于人们并不总是能够获得精确的训练细节,也不总是拥有反事实的必要知识,我们的工作解决了以下问题:我们能否使用预训练CGN中嵌入的知识来训练较低容量的模型,假设黑盒访问(即,仅访问预训练的CGN模型)到架构的组件?在这个方向上,我们提出了一个新的工作命名为SKDCGN,尝试使用知识蒸馏(KD)的知识转移。在我们提出的架构中,每个独立的机制(形状,纹理,背景)都由一个学生“TinyGAN”表示,该学生从预训练的老师“BigGAN”学习。我们使用最先进的数据集,如ImageNet和MNIST,通过使用KD和适当的损失函数证明了所提出的方法的有效性。此外,作为一个额外的贡献,我们的论文进行了深入的研究的CGN的组成机制,以获得更好的理解,如何每个机制影响的分类精度不变的分类器。代码可在:https://github.com/ambekarsameer96/SKDCGN
2022-09-01 cs.CV cs.LG
GCAN: Generative Counterfactual Attention-guided Network for Explainable Cognitive Decline Diagnostics based on fMRI Functional Connectivity
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文提出 GCAN,通过反事实推理生成认知衰退相关脑区注意力图,并用 AABT 提升受脑图谱约束的 FC 生成质量,从而在医院数据与 ADNI 上实现更准确且可解释的 MCI/SCD 诊断。
2024-08-24 cs.CV cs.LG eess.IV
Generating Counterfactual Patient Timelines from Real-World Data
Department of Biomedical Informatics, Graduate School of Medicine, The University of Tokyo, Japan(东京大学医学研究生院生物医学信息学系);Department of Healthcare Information Management, The University of Tokyo Hospital, Tokyo, Japan(东京大学医院医疗信息管理部);Artificial Intelligence and Digital Twin in Healthcare, Graduate School of Medicine, The University of Tokyo, Tokyo, Japan(东京大学医学研究生院医疗保健人工智能与数字孪生)
本文提出利用自回归生成模型从真实世界数据生成反事实患者时间线,验证了其在模拟临床结果中的有效性,展示了模型在预测住院死亡率和药物处方方面的应用。
2026-01-24 cs.LG
De-confounding Representation Learning for Counterfactual Inference on Continuous Treatment via Generative Adversarial Network
School of Artificial Intelligence, Jilin University(吉林大学人工智能学院);Baidu(百度)
针对连续处理反事实推理中现有方法依赖参数模型、仅消除线性混杂的问题,提出基于生成对抗的DRL去混杂表示框架,可消除非线性依赖,在合成和真实医学数据集上表现优于前沿模型。
2023-07-24 cs.AI cs.LG stat.ME
Enhancing Chemical Explainability Through Counterfactual Masking
提出反事实掩蔽框架,用生成模型采样化学合理片段替换掩蔽子结构,评估预测时对比数据分布中的反事实分子,以提供分布一致且可操作的分子性质预测解释。
2025-08-25 cs.LG
Barriers to Counterfactual Credit Attribution for Autoregressive Models
研究自回归模型中反事实信用归因的挑战,发现信用归因不具有自回归性,且基于弱最优性要求的反事实归因需指数级查询复杂度。
2026-05-02 cs.LG
Adversarial Counterfactual Augmentation: Application in Alzheimer's Disease Classification
University of Edinburgh(爱丁堡大学);The Alan Turing Institute(艾伦·图灵研究所)
由于医学数据的可用性有限,用于医学图像分析的深度学习方法往往难以推广到看不见的数据。在训练过程中使用随机变换来增强数据已被证明是有帮助的,并成为训练神经网络的普遍技术。在这里,我们提出了一种新的对抗性反事实增强方案,旨在找到最\textit{effective}合成的图像,以改善下游任务,给定一个预先训练的生成模型。具体来说,我们构建了一个对抗游戏,我们更新的输入\textit{conditional factor}的生成器和下游\textit{classifier}梯度反向传播交替和迭代。这可以被看作是找到分类器的“\textit{weakness}”,并通过生成模型故意迫使它\textit{overcome}它的弱点。为了证明所提出的方法的有效性,我们验证了阿尔茨海默病(AD)的分类作为下游任务的方法。预训练的生成模型使用年龄作为条件因素来合成大脑图像。大量的实验和消融研究表明,所提出的方法提高了分类性能,并有可能减轻虚假的相关性和灾难性的遗忘。代码将在接受后发布。
2022-10-01 cs.CV cs.LG eess.IV
The Counterfactual $χ$-GAN
Columbia University(哥伦比亚大学);New York University(纽约大学)
因果推理通常依赖于反事实框架,这要求治疗分配与结果无关,称为强可解释性。在观测数据的因果分析中,加强强可解释性的方法包括加权和匹配方法。效应估计值,如平均治疗效应(ATE),然后估计为重新加权或匹配分布P下的期望值。P的选择很重要,可能会影响效应估计值和效应估计值方差的解释。在这项工作中,而不是指定P,我们学习的分布,同时最大化覆盖率和ATE估计方差最小化。为了学习这种分布,本研究提出了一种基于生成对抗网络(GAN)的模型,称为反事实$χ$ -GAN(cGAN),它还学习特征平衡权重,并在没有未观察到的混淆的情况下支持无偏因果估计。我们的模型最大限度地减少皮尔逊$χ^2$分歧,我们同时最大限度地扩大覆盖范围,并最大限度地减少重要性采样估计的方差。据我们所知,这是Pearson $χ^2$分歧的第一个应用。我们证明了cGAN在实现特征平衡方面的有效性,相对于模拟和现实世界的医疗数据中建立的加权方法。
2020-12-03 cs.LG stat.ML
Unsupervised Structural-Counterfactual Generation under Domain Shift
本文提出一种无监督结构-反事实生成框架,通过区分效应固有与域固有外生变量并构建统一联合因果图,结合神经因果模型实现跨域反事实生成,实验验证其接近真实值。
2025-09-22 cs.LG stat.ML