Counterfactual State Explanations for Reinforcement Learning Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
反事实的解释,处理“为什么不呢?“场景,可以为AI代理的行为提供有见地的解释。在这项工作中,我们专注于为在Atari等视觉输入环境中运行的深度强化学习(RL)代理生成反事实解释。我们介绍了反事实状态解释,这是一种基于生成式深度学习的基于示例的反事实解释新方法。具体地说,反事实状态说明了Atari游戏图像需要什么样的最小变化,以使智能体选择不同的动作。我们还评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的第一个用户研究调查了人类是否可以辨别反事实状态解释是由实际游戏产生的还是由生成式深度学习方法产生的。我们的第二个用户研究调查,如果反事实状态的解释可以帮助非专家参与者确定一个有缺陷的代理人,我们比较与基线方法的基础上最近的邻居解释,使用图像从实际的游戏。我们的研究结果表明,反事实状态的解释有足够的保真度,以实际的游戏图像,使非专家更有效地确定一个有缺陷的RL代理相比,最近的邻居基线和根本没有解释。
2021-01-29 cs.AI cs.HC cs.LG
Flexible Counterfactual Explanations with Generative Models
Vrije Universiteit Brussel(布鲁塞尔自由大学);Universiteit Antwerpen(安特卫普大学);Harvard University(哈佛大学)
提出灵活反事实解释框架,结合生成对抗网络FCEGAN,支持用户动态指定可变特征,适用于黑盒场景,提升解释有效性。
2025-02-24 cs.AI cs.LG stat.ME
Robust Stochastic Graph Generator for Counterfactual Explanations
Gran Sasso Science Institute(格兰萨索科学研究所);Sapienza University of Rome(罗马大学);University of L’Aquila(拉奎拉大学)
本文提出RSGG-CE,一种从潜在空间按部分有序序列生成反事实图的鲁棒随机图生成器,并通过定量与定性实验证明其优于现有生成式解释器。
2024-01-11 cs.AI cs.LG
QUCE: The Minimisation and Quantification of Path-Based Uncertainty for Generative Counterfactual Explanations
School of Mathematics and Computer Science(数学与计算机科学学院);Swansea University(斯旺西大学);Department of Finance, Insurance and Real Estate(金融、保险与房地产系);Université Laval(拉瓦尔大学);Lee Kong Chian School of Medicine(李科珍医学院);School of Computer Science and Engineering(计算机科学与工程学院);Nanyang Technological University(南洋理工大学)
QUCE通过最小化路径不确定性,缓解深度神经网络分布外遍历导致的解释性能下降,并量化不确定性以生成更确定的反事实示例。
2025-05-24 cs.AI cs.LG
CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets
Amazon(亚马逊);Hired;Facebook(脸书)
机器学习模型在各个行业中的流行已经导致对模型可解释性以及对向用户提供有意义的求助的能力的需求不断增长。例如,希望改善诊断的患者或寻求增加批准机会的贷款申请人。在这方面,反事实可以通过识别输入扰动来提供帮助,这些扰动将导致更理想的预测结果。有意义的反事实应该能够实现预期的结果,但也是现实的,可操作的,有效的计算。目前的方法实现了预期的结果,具有适度的可操作性,但在现实性和延迟方面受到严重限制。为了解决这些限制,我们将生成对抗网络(GANs)应用于反事实搜索。我们还介绍了一种新的残差GAN(RGAN),与常规GANs相比,它有助于提高反事实现实主义和可操作性。所提出的CounteRGAN方法利用RGAN和目标分类器来产生能够提供有意义的追索权的反事实。对两个流行数据集的评估突出了CounteRGAN如何能够克服现有方法的局限性,包括延迟改善> 50倍至> 90,000倍,使有意义的追索权实时可用并适用于广泛的领域。
2021-05-27 cs.AI cs.LG stat.ML
Generative Counterfactual Introspection for Explainable Deep Learning
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
在这项工作中,我们提出了一种用于深度神经网络的内省技术,该技术依赖于生成模型来煽动对输入图像进行显着编辑以进行模型解释。这种修改提供了基本的干预操作,使我们能够获得反事实调查的答案,即,可以对输入图像进行什么有意义的改变以改变预测。我们演示了如何通过利用MNIST和CelebA数据集上提出的内省方法来揭示给定分类器的有趣特性。
2019-07-06 cs.AI cs.CV cs.LG
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley(加州大学伯克利分校);Genentech(基因泰克公司)
针对高维结果下个体反事实预测难题,提出变分贝叶斯因果推断框架,无需反事实样本即可端到端监督并解耦外生噪声,在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Counterfactual States for Atari Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
尽管深度强化学习代理在许多领域都取得了令人印象深刻的成果,但它们的决策很难向人类解释。为了解决这个问题,过去的工作主要集中在解释为什么在给定的状态下选择一个动作。另一种有用的解释是反事实解释,它涉及“如果?“场景。在这项工作中,我们引入了反事实状态的概念,以帮助人类更好地了解Atari游戏图像中需要改变(最低限度)的代理选择不同的动作。我们引入了一种新的方法来从生成式深度学习架构中创建反事实状态。此外,我们评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的用户研究结果表明,我们生成的反事实状态是有用的,帮助非专家参与者获得更好地了解代理的决策过程。
2019-09-27 cs.AI cs.HC cs.LG
Modeling Matches as Language: A Generative Transformer Approach for Counterfactual Player Valuation in Football
Department of Artificial Intelligence, University of Seoul, Seoul, Republic of Korea(首尔大学人工智能系);Institute for Sports and Preventive Medicine, Saarland University, Saarbrücken, Germany(萨尔兰州预防医学研究所);Chair for Sports Analytics, Saarland University(萨尔兰州体育分析教授职位)
本文提出ScoutGPT,通过将足球比赛事件视为序列标记,利用生成式Transformer模型模拟反事实球员估值,提升对球员转会效果的预测能力。
2026-08-05 cs.AI cs.LG
Conditional Generative Models for Counterfactual Explanations
Seldon Technologies(塞尔登科技)
反事实实例为机器学习模型的本地行为提供了人类可解释的洞察力。我们提出了一个通用的框架来生成稀疏的,分布中的反事实模型解释,该解释将所需的目标预测与条件生成模型相匹配,允许用单个向前传递生成批量反事实实例。该方法相对于所使用的生成模型的类型以及底层预测模型的任务是灵活的。这允许将框架直接应用于不同的模态,如图像,时间序列或表格数据,以及生成模型范例,如GANs或自动编码器和预测任务,如分类或回归。我们说明了我们的方法对图像(CelebA),时间序列(ECG)和混合型表格(成人普查)数据的有效性。
2021-01-25 cs.LG stat.ML
Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset
Dalhousie University(达尔豪斯大学)
本文利用因果生成学习与反事实推断,提出针对图像分类器的可解释方法,包括像素级影响分析、基于蒙特卡洛的属性重要性估计及反事实解释优化,并在 Morpho-MNIST 上验证其可解释性优于 OmnixAI。
2024-01-21 cs.LG
Prompt-Counterfactual Explanations for Generative AI System Behavior
University of Antwerp(安特卫普大学);NYU Stern School of Business(纽约大学斯特恩商学院)
本文提出了一种生成式AI系统的提示-反事实解释方法,用于分析和解释提示对输出特征的影响,以提升模型的可解释性和可控性。
2026-01-27 cs.AI cs.CL cs.CY
Equitable modelling of brain imaging by counterfactual augmentation with morphologically constrained 3D deep generative models
University College London(伦敦大学学院)
我们描述了Countersynth,条件生成模型,诱导标签驱动的,生物上合理的变化,体积脑图像的变形。该模型的目的是合成反事实的训练数据增强下游的歧视性建模任务,保真度是有限的数据不平衡,分布不稳定,混杂,或规格不足,并表现出不公平的性能在不同的亚群。集中在人口统计属性,我们评估合成的反事实的质量与基于体素的形态测量,分类和回归的条件属性,和Fréchet的起始距离。在工程人口不平衡和混杂的背景下检查下游辨别性能,我们使用英国生物银行磁共振成像数据来对CounterSynth增强与当前解决这些问题的方案进行基准测试。我们实现了最先进的改进,无论是在整体保真度和公平。CounterSynth的源代码可以在线获得。
2021-11-29 cs.CV cs.LG
GenFacts-Generative Counterfactual Explanations for Multi-Variate Time Series
Technical University of Munich(慕尼黑技术大学);Infineon Technologies AG(英飞凌科技公司);Johannes Kepler University Linz(林茨约翰尼斯·凯普勒大学)
GenFacts通过生成多变量时间序列的反事实解释,提升了反事实的合理性和用户可解释性,优于现有方法。
2026-02-17 cs.LG
SCE-LITE-HQ: Smooth visual counterfactual explanations with generative foundation models
BIFOLD – Berlin Institute for the Foundations of Learning(柏林学习与数据基础研究所)
本文提出SCE-LITE-HQ框架,利用预训练生成模型在潜在空间中生成稳定且多样的反事实解释,避免训练专用生成模型的开销,适用于高分辨率数据。
2026-03-17 cs.CV cs.LG
Counterfactual Forecasting of Human Behavior using Generative AI and Causal Graphs
本研究提出结合结构因果模型与Transformer生成式AI的用户行为反事实预测框架,通过因果图和条件生成模型生成真实轨迹,在多领域数据集上优于传统方法,且可可视化因果路径辅助产品团队评估干预措施。
2025-11-09 cs.CE cs.LG stat.ME
From Identifiable Causal Representations to Controllable Counterfactual Generation: A Survey on Causal Generative Modeling
University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本综述系统梳理因果生成建模,涵盖因果表征学习与可控反事实生成,并探讨其理论、方法、应用及未来方向。
2024-05-23 cs.AI cs.LG stat.ML
CLEAR: Generative Counterfactual Explanations on Graphs
University of Virginia(弗吉尼亚大学);Bytedance AI Lab(字节跳动人工智能实验室);J.P. Morgan AI Research(摩根大通人工智能研究院)
反事实解释通过回答“应该如何扰动输入实例以获得期望的预测标签”的问题来提高机器学习模型的可解释性。".对扰动前后的这种情况进行比较可以增强人类的解释。现有的反事实解释研究大多局限于表格数据或图像数据。在这项工作中,我们研究了图上的反事实解释生成问题。一些研究已经探索了图上的反事实解释,但这个问题的许多挑战仍然没有得到很好的解决:1)在离散和无序的图空间中进行优化; 2)在看不见的图上进行推广; 3)在没有因果模型的先验知识的情况下保持生成的反事实中的因果关系。为了应对这些挑战,我们提出了一个新的框架CLEAR,旨在为图级预测模型生成图上的反事实解释。具体而言,CLEAR利用基于图变分自编码器的机制来促进其优化和泛化,并通过利用辅助变量来更好地识别底层因果模型来促进因果关系。在合成图和真实世界图上的大量实验验证了CLEAR在不同方面优于现有方法。
2022-11-07 cs.LG
De-Biasing Generative Models using Counterfactual Methods
University of California, Los Angeles(加州大学洛杉矶分校)
变分自编码器(VAE)和其他生成方法不仅因为其生成特性而且因为其解开低维潜在变量空间的能力而引起了越来越多的兴趣。然而,现有的生成模型很少考虑因果关系。我们提出了一种新的基于解码器的框架,称为因果反事实生成模型(CCGM),它包括一个部分可训练的因果层,其中可以学习因果模型的一部分,而不会显着影响重建保真度。通过学习图像语义标签或表格变量之间的因果关系,我们可以分析偏差,干预生成模型,并模拟新的场景。此外,通过修改因果结构,我们可以在原始训练数据的域之外生成样本,并使用这种反事实模型来消除数据集的偏差。因此,具有已知偏差的数据集仍然可以用于训练因果生成模型并学习因果关系,但我们可以在生成侧生成去偏差数据集。我们提出的方法结合了因果潜在空间VAE模型与特定的修改,以强调因果保真度,使更精细的控制因果层和学习一个强大的干预框架的能力。我们探讨如何更好地解开因果学习和编码/解码产生更高的因果干预质量。我们还将我们的模型与类似的研究进行了比较,以证明在干预之外需要明确的生成去偏置。我们的初步实验表明,我们的模型可以生成对因果框架高保真的图像和表格数据,并适应显式去偏置,以忽略与基线相比因果数据中不期望的关系。
2023-02-11 cs.LG
Counterfactual Generative Models for Time-Varying Treatments
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
针对时变干预下反事实结果数量多、结果高维导致传统平均干预效应估计失效的问题,提出基于逆概率重加权的条件生成框架,可结合前沿生成模型生成高质量反事实样本,性能优于现有基线。
2024-07-13 cs.LG stat.ME stat.ML
Leveraging Foundation Models for Causal Generative Modeling
University of Arkansas(亚拉巴马大学)
提出FM-CGM框架,通过预训练基础模型实现零样本因果发现、干预和反事实生成,并引入因果语义引导机制确保忠实反事实图像生成。
2026-05-22 cs.AI cs.CV cs.LG
GANterfactual - Counterfactual Explanations for Medical Non-Experts using Generative Adversarial Learning
Augsburg University(奥格斯堡大学)
随着机器学习的不断兴起,对解释由人工智能系统做出的决策的方法的需求正在成为一个越来越重要的话题。特别是对于图像分类任务,解释这种分类器的许多现有技术工具依赖于输入数据的重要区域的视觉突出显示。相反,反事实解释系统试图通过以分类器会做出不同预测的方式修改输入图像来实现反事实推理。通过这样做,反事实解释系统的用户配备了一种完全不同的解释信息。然而,为图像分类器生成逼真的反事实解释的方法仍然很少。特别是在医疗环境中,相关信息通常由纹理和结构信息组成,高质量的反事实图像有可能为决策过程提供有意义的见解。在这项工作中,我们提出了GANterfactual,一种基于对抗性图像到图像翻译技术生成这种反事实图像解释的方法。此外,我们还进行了一项用户研究,以评估我们在示例性医疗用例中的方法。我们的研究结果表明,在所选的医疗用例中,反事实解释在心理模型、解释满意度、信任、情绪和自我效能方面的结果明显优于两个使用显着性图的最先进系统,即LIME和LRP。
2021-08-05 cs.AI cs.CV cs.HC
DoFlow: Flow-based Generative Models for Interventional and Counterfactual Forecasting on Time Series
H. Milton Stewart School of Industrial and Systems Engineering(H. Milton Stewart工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);Northwestern–Argonne Institute for Scientific and Engineering Excellence(西北-阿贡科学与工程卓越研究所)
DoFlow通过基于因果图的流模型实现时间序列的干预和反事实预测,并提供异常检测能力。
2026-03-01 cs.LG stat.ME stat.ML
Cycle-Consistent Counterfactuals by Latent Transformations
Collaborative Robotics and Intelligent Systems (CoRIS) Institute(协作机器人与智能系统(CoRIS)研究所);Oregon State University(俄勒冈州立大学)
反事实(CF)视觉解释试图找到与查询图像相似的图像,这些图像将视觉系统的决策改变为指定的结果。现有的方法要么需要推理时间优化,要么需要与生成对抗模型进行联合训练,这使得它们非常耗时,难以在实践中使用。我们提出了一种新的方法,周期一致的反事实的潜在变换(C3LT),它学习一个潜在的转换,自动生成视觉CF转向生成模型的潜在空间。我们的方法使用查询和CF潜在表示之间的循环一致性,这有助于我们的训练找到更好的解决方案。C3LT可以很容易地插入任何最先进的预训练生成网络。这使我们的方法能够以高分辨率生成高质量和可解释的CF图像,例如ImageNet中的图像。除了几个既定的指标,用于评估CF的解释,我们引入了一个新的度量,专门用于评估所生成的CF的例子的质量和验证我们的方法的有效性上一组广泛的实验。
2022-03-28 cs.AI cs.CV cs.LG
Counterfactuals uncover the modular structure of deep generative models
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);MPI for Biological Cybernetics(马克斯·普朗克生物控制论研究所);ETH Zürich(苏黎世联邦理工学院);ENS Rennes(雷恩高等师范学院)
深度生成模型可以模拟复杂图像数据集的感知属性,提供数据的潜在表示。然而,操纵这种表示以在数据空间中执行有意义且可控的变换在没有某种形式的监督的情况下仍然具有挑战性。虽然以前的工作集中在利用统计独立性来解开潜在因素,但我们认为这种要求过于限制,而是提出了一个非统计框架,该框架依赖于反事实操作来揭示由解开的内部变量组组成的网络的模块化结构。在复杂图像数据集上训练的各种生成模型的实验表明,所获得的模块可用于设计有针对性的干预措施。这为诸如计算高效的风格转换和对模式识别系统中上下文变化的鲁棒性的自动评估等应用开辟了道路。
2019-12-12 cs.LG stat.ML
Counterfactual Generative Networks
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Tübingen(蒂宾根大学)
神经网络倾向于学习捷径--它们通常对简单的相关性进行建模,忽略更复杂的可能更好地概括的相关性。先前关于图像分类的工作表明,深度分类器倾向于利用与低级纹理或背景的虚假相关性来解决分类任务,而不是学习与对象形状的连接。在这项工作中,我们朝着更强大和可解释的分类器迈出了一步,这些分类器明确地揭示了任务的因果结构。基于当前深度生成建模的进展,我们建议将图像生成过程分解为独立的因果机制,我们在没有直接监督的情况下进行训练。通过利用适当的归纳偏差,这些机制解开对象形状,对象纹理和背景;因此,它们允许生成反事实图像。我们展示了我们的模型在MNIST和ImageNet上生成此类图像的能力。此外,我们表明,反事实图像可以提高分布外的鲁棒性,在原始分类任务的性能略有下降,尽管是合成的。最后,我们的生成模型可以在单个GPU上有效地训练,利用常见的预训练模型作为归纳偏差。
2021-01-15 cs.CV cs.LG
De-confounding Representation Learning for Counterfactual Inference on Continuous Treatment via Generative Adversarial Network
School of Artificial Intelligence, Jilin University(吉林大学人工智能学院);Baidu(百度)
针对连续处理反事实推理中现有方法依赖参数模型、仅消除线性混杂的问题,提出基于生成对抗的DRL去混杂表示框架,可消除非线性依赖,在合成和真实医学数据集上表现优于前沿模型。
2023-07-24 cs.AI cs.LG stat.ME
Counterfactual Explanation of Brain Activity Classifiers using Image-to-Image Transfer by Generative Adversarial Network
Okayama University(冈山大学);Japan Science and Technology Agency(日本科学技术振兴机构);Rikkyo University(立教大学);National Institute for Physiological Sciences(生理学研究所);Araya Inc.(Araya 公司);Keio University(庆应义塾大学)
深度神经网络(DNN)可以从大脑激活中准确解码与任务相关的信息。然而,由于DNN的非线性,DNN做出的决策很难解释。解释这种黑箱系统的一个有希望的方法是反事实解释。在这个框架中,一个黑盒系统的行为是通过比较真实的数据和现实的合成数据,特别是生成,使得黑盒系统输出一个不真实的结果来解释。在这里,我们介绍了一种新的生成DNN(反事实激活生成器,CAG),可以为基于DNN的大脑激活分类器提供反事实解释。重要的是,CAG可以同时处理与不同行为任务相关的多个类之间的图像转换。使用CAG,我们展示了基于DNN的分类器的反事实解释,这些分类器学会了区分七个行为任务的大脑激活。此外,通过CAG的迭代应用,我们能够增强和提取影响分类器决策的细微空间大脑活动模式。总之,这些结果表明,基于图像到图像变换的反事实解释将是一种很有前途的方法来理解和扩展DNN在fMRI分析中的当前应用。
2021-10-28 cs.CV cs.LG q-bio.NC
Generative Flows for Potential Outcomes and Counterfactuals
School of Industrial and Systems Engineering(工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);Elmore Family School of Electrical and Computer Engineering(埃洛姆家族电气与计算机工程学院);Purdue University(普渡大学)
本文提出PO-Flow框架,通过连续归一化流模型联合建模潜在结果分布和事实条件下的反事实结果,实现个性化预测和因果推断。
2026-10-20 cs.LG stat.ML
GenCAR: Generative Counterfactual Alignment with Risk-Controlled Selection for Out-of-Distribution Recommendation
Southern University of Science and Technology(南方科技大学);University of Pennsylvania(宾夕法尼亚大学)
本研究针对分布外推荐的风险问题,提出GenCAR方法,通过控制代理标签错误发现率,提升了不同基准下的分布外推荐候选恢复效果。
2026-09-03 cs.IR cs.LG
Counterfactual Control for Free from Generative Models
Araya(Araya公司);Earth-Life Science Institute(地球生命科学研究所)
我们介绍了一种方法,通过该方法,可以使用生成模型学习动作和未来状态之间的联合分布来自动推断任何期望的奖励函数的控制方案,该奖励函数可以在不重新训练模型的情况下动态改变。在这种方法中,动作选择问题被简化为生成模型的潜在空间上的梯度下降问题,模型本身提供评估结果和找到梯度的方法,就像深度Q网络(DQN)中的奖励网络为动作生成器提供梯度信息一样。与DQN或Actor-Critic不同,它们是特定奖励的条件模型,使用完全联合分布的生成模型允许奖励动态改变。此外,可以检查生成的未来,以了解网络“认为”会发生什么,以及当结果偏离预测时出现了什么问题。
2017-03-09 cs.LG stat.ML
Counterfactual Identifiability of Bijective Causal Models
Massachusetts Institute of Technology (MIT)(麻省理工学院)
本文研究双射生成机制因果模型的反事实可辨识性,证明三类含未观测混杂结构的可辨识性,并提出基于结构化深度条件生成建模的学习与估计方法。
2023-06-06 cs.LG stat.ML
Counterfactual Image Editing
Columbia University(哥伦比亚大学)
本文形式化反事实图像编辑任务,证明其不可识别性,提出反事实一致性估计器松弛方案,并开发基于神经因果模型的高效生成算法。
2024-02-07 cs.CV cs.LG
Beyond Generative AI: World Models for Clinical Prediction, Counterfactuals, and Planning
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(莫莫德·本·扎伊德人工智能大学)
本文探讨了世界模型在医疗领域中的应用,旨在通过预测动态、反事实评估和规划提升临床决策的可靠性。
2025-11-20 cs.LG
Counterfactual Explanations in Medical Imaging: Exploring SPN-Guided Latent Space Manipulation
Johannes Gutenberg University Mainz(法兰克福-主茨大学)
本文提出用 SPN 建模半监督 VAE 潜空间并引导反事实优化,使医学影像反事实同时贴近原数据与目标类别分布,且在 cheXpert 上验证其效果。
2025-07-25 cs.AI cs.LG
DoubleGen: Debiased Generative Modeling of Counterfactuals
Harvard University(哈佛大学);Institute of Statistical Mathematics(统计数学研究所)
DoubleGen提出双重稳健框架,通过修改生成模型训练目标,在倾向性模型和结果模型仅有一个正确时也能消除反事实生成中的混杂偏差,并实现预言机最优性和极小极大速率最优性。
2025-09-20 cs.LG stat.ME stat.ML
High Fidelity Image Counterfactuals with Probabilistic Causal Models
Imperial College London(伦敦帝国理工学院);Microsoft Research Cambridge(微软剑桥研究院)
针对高维图像类结构化变量的反事实与干预查询估计难题,研究结合因果中介分析思路与生成建模进展,提出含新型深度因果机制的通用因果生成建模框架,实验验证其在溯因及各类效应估计上的准确性。
2023-07-18 cs.LG stat.ME
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Counterfactual (Non-)identifiability of Learned Structural Causal Models
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院)
概率生成建模的最新进展促使使用深度条件生成模型(也称为深度结构因果模型(DSCM))从观测数据集学习结构因果模型(SCM)。如果成功,DSCM可以用于因果估计任务,例如,回答反事实的问题在这项工作中,我们警告从业者,即使在没有未观察到的混淆和假设已知的因果结构的情况下,从观察数据中得出的反事实推断也是不可识别的。我们证明了具有一维外生变量的单调生成机制的反事实可识别性。对于一般的生成机制与多维外生变量,我们提供了一个不可能的结果,反事实的可识别性,激励参数假设的需要。作为一种实用的方法,我们提出了一种方法来估计学习DSCM的反事实预测的最坏情况下的错误。这个错误的大小可以是决定DSCM是否是在特定问题设置中进行反事实推理的可行方法的基本度量。在评估中,我们的方法确认可以忽略不计的反事实错误的可识别的SCM从以前的工作,也提供了翔实的错误界限上的反事实错误的不可识别的合成SCM。
2023-01-22 cs.LG stat.ML
Generative Learning of Counterfactual for Synthetic Control Applications in Econometrics
University of California, Berkeley(加州大学伯克利分校)
计量经济学中一个常见的统计问题是,在给定一个未处理结果的控制样本的情况下,估计处理对处理单元的影响。在这里,我们开发了一种生成学习方法来解决这个问题,学习数据的概率分布,这可用于下游任务,如治疗后反事实预测和假设检验。我们使用控制样本将数据转换为高斯和同方差形式,然后在傅立叶空间中执行高斯过程分析,通过非参数功率谱估计来评估最佳高斯核。我们将该高斯先验与单个单元的预处理数据给出的数据似然相结合,以获得单元后处理的合成预测,该合成预测的误差方差最小化。给定生成模型,最小方差反事实是唯一的,并且具有相关联的误差协方差阵。我们扩展这个基本的形式主义,包括相关性的主要变量与其他协变量的利益。鉴于生成模型的概率描述,我们可以将合成数据预测与真实数据进行比较,以解决治疗是否具有统计学显著影响的问题。为此,我们开发了一个假设检验的方法和评估贝叶斯因子。我们将该方法应用于加利福尼亚州(CA)1988年烟草销售税的研究实例。我们还使用控制状态进行安慰剂分析,以验证我们的方法。我们的假设检验方法表明,5.8:1的几率有利于CA烟草销售税对烟草销售的影响,该值至少是38个控制州中任何一个的三倍。
2019-10-16 cs.LG stat.ML
Counterfactual Generation with Knockoffs
Friedrich-Schiller University(弗里德里希-席勒大学);Institute for Data Science of the German Aerospace Center(德国航空航天中心数据科学研究所)
人类对深度神经网络决策的可解释性至关重要,特别是在直接影响人类生活的领域。已经训练好的神经网络的反事实解释可以通过扰动输入特征并根据扰动后分类器结果的变化来归属重要性来生成。扰动可以通过使用启发式或生成填充方法替换特征来完成。填充函数的选择显著影响伪影的数量,即,假阳性归因。探试法由于扰动后的图像远离原始数据分布而导致假阳性伪影。生成式填充方法通过生成尊重原始数据分布的填充值来减少伪影。然而,由于填充值与原始数据的高度相关性,当前的生成填充方法也可能增加假阴性。在本文中,我们建议通过使用基于遗传的Knockoffs框架生成填充来缓解这一问题,该框架由Barber和Candès在2015年开发,作为具有可控错误发现率的变量选择工具。敲除是尽可能与原始数据去相关的统计空变量,可以与原始数据交换而不改变底层数据分布。不同的填充方法的比较表明,填充与仿制品可以揭示更多的因果意义上的解释,同时仍然保持紧凑的解释。
2021-02-01 cs.AI cs.CV cs.LG
SKDCGN: Source-free Knowledge Distillation of Counterfactual Generative Networks using cGANs
University of Amsterdam(阿姆斯特丹大学)
通过使用适当的归纳偏差,反事实生成网络(CGN)可以从形状,纹理和背景流形的随机组合中生成新颖的图像。这些图像可以用来训练不变分类器,避免深度架构学习虚假相关性而不是有意义的相关性的广泛问题。因此,提高了域外鲁棒性。然而,CGN架构包括多个过参数化网络,即BigGAN和U2-Net。训练这些网络需要适当的背景知识和广泛的计算。由于人们并不总是能够获得精确的训练细节,也不总是拥有反事实的必要知识,我们的工作解决了以下问题:我们能否使用预训练CGN中嵌入的知识来训练较低容量的模型,假设黑盒访问(即,仅访问预训练的CGN模型)到架构的组件?在这个方向上,我们提出了一个新的工作命名为SKDCGN,尝试使用知识蒸馏(KD)的知识转移。在我们提出的架构中,每个独立的机制(形状,纹理,背景)都由一个学生“TinyGAN”表示,该学生从预训练的老师“BigGAN”学习。我们使用最先进的数据集,如ImageNet和MNIST,通过使用KD和适当的损失函数证明了所提出的方法的有效性。此外,作为一个额外的贡献,我们的论文进行了深入的研究的CGN的组成机制,以获得更好的理解,如何每个机制影响的分类精度不变的分类器。代码可在:https://github.com/ambekarsameer96/SKDCGN
2022-09-01 cs.CV cs.LG
Generating Counterfactual Patient Timelines from Real-World Data
Department of Biomedical Informatics, Graduate School of Medicine, The University of Tokyo, Japan(东京大学医学研究生院生物医学信息学系);Department of Healthcare Information Management, The University of Tokyo Hospital, Tokyo, Japan(东京大学医院医疗信息管理部);Artificial Intelligence and Digital Twin in Healthcare, Graduate School of Medicine, The University of Tokyo, Tokyo, Japan(东京大学医学研究生院医疗保健人工智能与数字孪生)
本文提出利用自回归生成模型从真实世界数据生成反事实患者时间线,验证了其在模拟临床结果中的有效性,展示了模型在预测住院死亡率和药物处方方面的应用。
2026-01-24 cs.LG
GCAN: Generative Counterfactual Attention-guided Network for Explainable Cognitive Decline Diagnostics based on fMRI Functional Connectivity
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文提出 GCAN,通过反事实推理生成认知衰退相关脑区注意力图,并用 AABT 提升受脑图谱约束的 FC 生成质量,从而在医院数据与 ADNI 上实现更准确且可解释的 MCI/SCD 诊断。
2024-08-24 cs.CV cs.LG eess.IV
Causal Sensitivity Identification using Generative Learning
TCS Research, TATA Consultancy Services Limited(Tata 咨询服务有限公司研究部);Department of Computer Science and Engineering, IIT Kharagpur(印度Kharagpur理工学院计算机科学与工程系)
本研究提出一种基于CVAE的生成式因果敏感性识别方法,从干预和反事实视角分析因果影响、识别因果敏感特征以降低混杂偏差,在GeoLife数据集和Asia贝叶斯网络基准上验证了其因果识别与预测性能提升的效果。
2025-09-01 cs.AI cs.LG
Barriers to Counterfactual Credit Attribution for Autoregressive Models
研究自回归模型中反事实信用归因的挑战,发现信用归因不具有自回归性,且基于弱最优性要求的反事实归因需指数级查询复杂度。
2026-05-02 cs.LG
TriShGAN: Enhancing Sparsity and Robustness in Multivariate Time Series Counterfactuals Explanation
本文提出TriShGAN,通过在CounteRGAN框架中引入三元组损失和Shapelet提取器,在保持低代价的同时增强多元时间序列反事实解释的鲁棒性与稀疏性。
2025-11-09 cs.AI cs.LG
Principled Knowledge Extrapolation with GANs
University of Science and Technology of China(中国科学技术大学);Ant Research(蚂蚁研究院);Alibaba Group(阿里巴巴集团)
人类可以很好地外推,将日常知识概括为看不见的场景,提出并回答反事实问题。为了通过生成模型来模仿这种能力,以前的工作已经广泛地研究了将结构因果模型(SCM)显式编码到生成器网络的架构中。然而,这种方法限制了生成器的灵活性,因为它们必须精心制作以遵循因果图,并且需要具有强可验证性假设的地面真值SCM作为先验,这在许多真实场景中是一个不平凡的假设。因此,许多当前的因果GAN方法无法生成高保真度的反事实结果,因为它们不能容易地利用最先进的生成模型。在本文中,我们建议从知识外推的新视角来研究反事实合成,其中数据分布的给定知识维度被外推,但剩余的知识与原始分布保持不可区分。我们表明,一个封闭形式的知识的对抗游戏可以用来解决知识外推问题,和一个新的主要知识下降方法可以有效地估计外推分布通过对抗游戏。我们的方法在许多情况下都享有优雅的理论保证和优越的性能。
2022-05-21 cs.AI cs.LG
Image Counterfactual Sensitivity Analysis for Detecting Unintended Bias
Google(谷歌公司)
本文提出图像反事实敏感性分析框架,通过生成对抗网络操纵面部特征,度量微笑分类器预测变化,以检测和细粒度分析无意偏见,促进公平性。
2020-10-03 cs.CV cs.LG stat.ML
Adversarial Counterfactual Augmentation: Application in Alzheimer's Disease Classification
University of Edinburgh(爱丁堡大学);The Alan Turing Institute(艾伦·图灵研究所)
由于医学数据的可用性有限,用于医学图像分析的深度学习方法往往难以推广到看不见的数据。在训练过程中使用随机变换来增强数据已被证明是有帮助的,并成为训练神经网络的普遍技术。在这里,我们提出了一种新的对抗性反事实增强方案,旨在找到最\textit{effective}合成的图像,以改善下游任务,给定一个预先训练的生成模型。具体来说,我们构建了一个对抗游戏,我们更新的输入\textit{conditional factor}的生成器和下游\textit{classifier}梯度反向传播交替和迭代。这可以被看作是找到分类器的“\textit{weakness}”,并通过生成模型故意迫使它\textit{overcome}它的弱点。为了证明所提出的方法的有效性,我们验证了阿尔茨海默病(AD)的分类作为下游任务的方法。预训练的生成模型使用年龄作为条件因素来合成大脑图像。大量的实验和消融研究表明,所提出的方法提高了分类性能,并有可能减轻虚假的相关性和灾难性的遗忘。代码将在接受后发布。
2022-10-01 cs.CV cs.LG eess.IV
LIME-LLM: Probing Models with Fluent Counterfactuals, Not Broken Text
University of North Texas(北卡罗来纳州立大学)
LIME-LLM通过假设驱动的可控扰动提升NLP模型的可解释性,实现更准确的局部解释效果。
2026-01-16 cs.AI cs.CL cs.LG
DFORM: Diffeomorphic vector field alignment for assessing dynamics across learned models
Washington University in St. Louis(圣路易斯华盛顿大学)
本文提出DFORM框架,通过学习非线性坐标变换近似微分同胚以对齐跨模型轨迹,利用向量场失配定义轨道相似性,揭示了模型在吸引子景观不同时仍具功能相似性。
2024-02-15 cs.LG cs.SY eess.SY
Benchmarking Counterfactual Image Generation
The University of Edinburgh(爱丁堡大学)
针对反事实图像生成缺乏统一基准对比的问题,研究提出整合现有模型的对比测试框架,拓展至新数据集与因果图,验证Hierarchical VAEs的优越性,并发布可扩展的Python工具包。
2025-01-13 cs.CV cs.LG
DR-VIDAL -- Doubly Robust Variational Information-theoretic Deep Adversarial Learning for Counterfactual Prediction and Treatment Effect Estimation on Real World Data
University of Pittsburgh(匹兹堡大学);University of Florida(佛罗里达大学)
针对真实世界观察数据的个体治疗效应估计偏差问题,提出融合VAE、Info-GAN与双重鲁棒模块的DR-VIDAL生成框架,在多数据集上性能优于现有方法。
2025-10-21 cs.LG stat.ME