Robust Counterfactual Inference in Markov Decision Processes
King's College London(伦敦国王学院)
针对马尔可夫决策过程(MDP)中现有反事实推断方法依赖特定因果模型导致结果有效性和鲁棒性受限的问题,提出一种非参数方法,通过计算所有兼容因果模型下反事实转移概率的紧界,并构建区间反事实MDP以优化最坏情况奖励,从而获得鲁棒反事实策略。
2026-05-22 cs.AI
An Identifiable Cost-Aware Causal Decision-Making Framework Using Counterfactual Reasoning
Guangdong University of Technology(广东工业大学);Huawei(华为)
针对异常条件下决策忽视成本与因果机制不足的问题,提出MiCCD框架,利用因果图代理模型、可识别反事实推理和SLSQP优化最小成本干预,并在多类数据集上验证优于传统方法。
2025-05-13 cs.AI
Pooling of Causal Models under Counterfactual Fairness via Causal Judgement Aggregation
University of Oslo(奥斯陆大学)
在本文中,我们考虑的问题,由不同的专家提供的多个概率因果模型的组合下,聚合模型满足反事实公平的标准的要求。我们建立在机器学习中因果模型和公平性的工作基础上,我们表达了在意见池框架内组合多个模型的问题。我们提出了两个简单的算法,接地理论的反事实的公平性和因果判断聚合,保证生成聚合概率因果模型尊重公平的标准,我们比较他们的行为的玩具案例研究。
2018-10-01 cs.AI cs.CY
Can counterfactual explanations of AI systems' predictions skew lay users' causal intuitions about the world? If so, can we correct for that?
Birkbeck, University of London(伦敦大学伯贝克学院)
反事实(CF)解释已被用作可解释人工智能的可解释性模式之一,以增加人工智能系统的透明度并提供追索权。然而,认知科学和心理学已经指出,人们经常使用CF来表达因果关系。大多数人工智能系统只能捕捉数据中的关联或相关性,因此将其解释为偶然性是不合理的。在本文中,我们提出了两个实验(总N = 364)探索的CF解释的AI系统的预测对外行人的因果信念对现实世界的影响。在实验1中,我们发现,为AI系统的预测提供CF解释确实(不可否认地)影响了人们对AI使用的因素/特征的因果信念,并且人们更有可能将其视为现实世界中的因果因素。受错误信息和健康警告信息文献的启发,实验2测试了我们是否可以纠正因果信念的不合理变化。我们发现,指出人工智能系统捕获相关性,而不一定是因果关系,可以削弱CF解释对人们因果信念的影响。
2022-12-12 cs.AI
Partial Counterfactual Identification from Observational and Experimental Data
Columbia University(哥伦比亚大学);Iowa State University(爱荷华州立大学)
本文研究了从任意收集的观察和实验分布和定性知识的基础数据生成模型的因果图的形式表示的边界反事实查询的问题。我们表明,在任意结构因果模型(SCM)中的所有反事实分布可以由具有相同因果图的SCM的典型家族生成,其中未观察到的(外源)变量是离散的有限域。利用规范的SCM,我们将约束反事实查询的问题转化为多项式规划的问题,多项式规划的解决方案为反事实查询提供了最优的边界。求解这样的多项式程序通常在计算上是昂贵的。因此,我们开发了有效的蒙特卡罗算法近似的最佳界限从任意组合的观测和实验数据。我们的算法在合成和真实世界的数据集上得到了广泛的验证。
2021-10-12 cs.AI
Estimating Categorical Counterfactuals via Deep Twin Networks
Imperial College London(帝国理工学院);Spotify(Spotify公司);FAU Erlangen-Nuremberg(埃尔朗根-纽伦堡大学);University College London(伦敦大学学院)
反事实推理是一种强大的工具,能够解决备受瞩目的领域中的挑战性问题。为了进行反事实推理,需要了解潜在的因果机制。然而,因果机制不能仅仅从观察和干预来确定。这就提出了一个问题,即如何选择因果机制,使所得的反事实推理在给定的领域是可信的。这个问题已经在二元变量的因果模型中得到了解决,但是分类变量的情况仍然没有答案。我们通过引入因果模型与分类变量的概念,反事实排序,假设理想的属性因果机制应该是一个原则,并证明它是等价于特定的功能约束的因果机制,以应对这一挑战。为了学习满足这些约束的因果机制,并使用它们进行反事实推理,我们引入了深度孪生网络。这些是深度神经网络,在训练时,能够进行双网络反事实推理--一种替代绑架、行动和预测方法的方法。我们在来自医学、流行病学和金融的各种真实世界和半合成数据上实证测试了我们的方法,报告了对反事实概率的准确估计,同时展示了当反事实排序不被强制执行时反事实推理所产生的问题。
2023-01-20 cs.AI cs.LG
Robust Counterfactual Policy Optimisation via Nondeterministic Causal Models
Durham University(杜伦大学);University College London(伦敦大学学院)
该研究针对序列决策反事实推理的确定性因果模型假设与MDP随机性的矛盾,提出概率非确定性因果模型下的鲁棒反事实策略优化方法,经脓毒症治疗模拟器验证有效。
2026-08-05 cs.AI cs.LG
Canonical Representations of Markovian Structural Causal Models: A Framework for Counterfactual Reasoning
本文提出结构因果模型的规范表示(反事实模型),通过归一化程序分离反事实选择与干预约束,从而在保留干预知识的同时灵活实现多种反事实假设,无需个体层面估计。
2025-09-22 cs.AI math.ST stat.TH
Abductive, Causal, and Counterfactual Conditionals Under Incomplete Probabilistic Knowledge
LMU Munich(慕尼黑大学);University of Helsinki(赫尔辛基大学)
我们研究了溯因,因果和非因果条件的指示和反事实的配方使用概率真值表任务下不完整的概率知识(N = 80)。我们将任务框架为概率逻辑推理问题。在所有条件下最常见的反应类型是一类条件事件的条件解释;其次是连接解释。有趣的是,少数参与者在推断目标条件/反事实的概率下限或上限(“中途反应”)时忽略了前提中涉及的一些相关不精确性。我们讨论了基于连贯性的概率逻辑和新范式的推理心理学的光的结果。
2017-03-12 cs.AI math.PR
Counterfactual Fairness with Disentangled Causal Effect Variational Autoencoder
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
如果我们能开发出一种方法来去除分类特征中隐藏的敏感信息,那么公平分类的问题就可以得到缓解。这条分离敏感信息的线是通过因果推理发展起来的,因果推理使反事实世代能够对比相反敏感属性的假设情况。随着这种与因果关系的分离,深层潜在因果模型中的一个频繁假设定义了一个单一的潜在变量来吸收因果图的整个外生不确定性。然而,我们声称这种结构不能区分1)由干预引起的信息(即,敏感变量)和2)来自数据的与干预相关的信息。因此,本文提出了解纠缠因果效应变分自编码器(DCEVAE)来解决这一局限性,它将外生不确定性分解为两个潜在变量:1)与干预措施无关; 2)与干预措施相关而无因果关系。特别是,我们的解开方法保留了潜在的变量相关的干预措施,在生成反事实的例子。我们表明,我们的方法估计的总效果和反事实的效果没有一个完整的因果图。通过添加公平正则化,DCEVAE生成反事实公平数据集,同时丢失较少的原始信息。此外,DCEVAE仅通过翻转敏感信息来生成自然的反事实图像。此外,我们从理论上展示了DCEVAE的协方差结构的差异和以前的工作的潜在的解纠缠的角度来看。
2020-12-09 cs.AI cs.LG
How Many Counterfactuals Does It Take? Probing VLM Hallucinations Through Circuits and Causal Effects
University of California, Berkeley(加州大学伯克利分校);DeepMind(深度思维)
本文通过定义基于对数概率差异的因果影响度量,并利用电路发现技术,研究视觉语言模型幻觉输出的反事实鲁棒性,推导出检测不稳定所需的最小反事实样本数。
2026-06-07 cs.AI cs.LG
Achieving Counterfactual Fairness with Imperfect Structural Causal Model
University of Technology Sydney(悉尼科技大学);Curtin University(科廷大学)
反事实公平性是指模型对现实世界(观察数据)中的个体的预测与反事实世界(即,如果该人属于其他敏感群体,该怎么办?现有的研究需要预先定义结构因果模型,以捕捉变量之间的相关性进行反事实推理;然而,潜在的因果模型通常是未知的,并且难以在现实世界中验证。此外,因果模型的错误设定可能会导致模型预测性能低下,从而做出不公平的决策。在这项研究中,我们提出了一种新的极小极大博弈理论模型的反事实的公平性,可以产生准确的结果,同时实现一个反事实的公平决策与结构因果模型的强假设放松。此外,我们还从理论上证明了所提出的minimax模型的误差界。在多个真实世界数据集上的实证实验表明,我们在准确性和公平性方面都有出色的表现。源代码可从\url{https://github.com/tridungduong16/counterfactual_fairness_game_theoretic}获得。
2023-03-26 cs.AI cs.CY cs.LG
Generative Framework for Personalized Persuasion: Inferring Causal, Counterfactual, and Latent Knowledge
KDDI Research, Inc.(KDDI研究所);Carnegie Mellon University(卡内基梅隆大学);MBZUAI(穆桑人工智能研究院)
本文提出基于因果发现和反事实推断的个性化说服对话生成框架,将心理构造等视为潜在因子并有效估计,通过优化系统响应策略显著提升了说服效果。
2025-05-28 cs.AI cs.CL cs.HC
Causal Identification from Counterfactual Data: Completeness and Bounding Results
Causal Artificial Intelligence Lab, Department of Computer Science, Columbia University(因果人工智能实验室,计算机科学系,哥伦比亚大学)
本文提出CTFIDU+算法,研究反事实数据在因果识别中的完备性与界限问题,揭示非参数设置下因果推断的理论极限。
2026-10-14 cs.AI cs.LG
Deep Backtracking Counterfactuals for Causally Compliant Explanations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院)
本文提出DeepBC方法,通过Langevin Monte Carlo采样或约束优化在深度生成结构因果模型中计算回溯反事实,实现因果合规、通用且模块化的高维数据解释。
2024-08-10 cs.AI cs.LG stat.ML
Causal Inference in Non-linear Time-series using Deep Networks and Knockoff Counterfactuals
Friedrich Schiller University Jena(弗里德里希席勒耶拿大学);German Aerospace Center (DLR)(德国航空航天中心(DLR))
估计因果关系对于理解多变量时间序列中复杂的相互作用至关重要。变量的非线性耦合是因果关系估计不准确的主要挑战之一。在本文中,我们提出使用深度自回归网络(DeepAR)与反事实分析相结合来推断多变量时间序列中的非线性因果关系。我们使用DeepAR的概率预测扩展了Granger因果关系的概念。由于深度网络既不能处理缺失的输入,也不能处理分布外的干预,我们建议使用Knockoffs框架(Barberand Cand`es,2015)来生成干预变量,从而进行反事实的概率预测。敲除样本与给定观测变量的输出无关,并且可以与对应变量交换,而不会改变数据的基本分布。我们在合成和真实世界的时间序列数据集上测试我们的方法。总的来说,我们的方法优于广泛使用的向量自回归格兰杰因果关系和PCMCI检测非线性因果关系的依赖性在多变量时间序列。
2021-10-18 cs.AI cs.LG
Causally Steered Diffusion for Automated Video Counterfactual Generation
Spotify, UK(英国Spotify)
提出CSVC框架,通过将因果图编码为文本提示并利用VLM文本损失优化,引导潜在扩散模型生成因果一致的视频反事实,无需访问内部机制,实现最先进因果有效性且保持时间与视觉质量。
2025-08-05 cs.AI cs.CV
Features of Explainability: How users understand counterfactual and causal explanations for categorical and continuous features in XAI
Insight SFI Centre for Data Analytics, School of Computer Science, University College Dublin(都柏林大学学院计算机科学学院Insight SFI数据分析中心);VistaMilk SFI Research Centre, School of Computer Science, University College Dublin(都柏林大学学院计算机科学学院VistaMilk SFI研究中心);School of Psychology and Institute of Neuroscience, Trinity College Dublin, University of Dublin(都柏林圣三一学院心理学院和神经科学研究所)
该研究通过127人的对照实验发现,反事实解释在提升用户预测AI决策准确性上与因果解释相当但主观满意度更高,且用户对类别特征解释的理解优于连续特征。
2022-04-21 cs.AI cs.HC
Attribution-Scores and Causal Counterfactuals as Explanations in Artificial Intelligence
SKEMA Business School(SKEMA商学院);Millennium Institute for Foundations of Data Research(千禧数据基础研究所)
在这篇简短的文章中,我们强调了人工智能的解释的相关性,一般来说,以及{ \em可解释的AI}的最新发展,涉及不同方法的起源和联系。我们用简单的术语描述了数据管理和机器学习中基于归因分数的解释,以及因果关系领域中发现的反事实。我们详细说明了逻辑推理的重要性时,处理反事实,以及它们的使用得分计算。
2023-03-22 cs.AI cs.DB cs.LG
Causal Cartographer: From Mapping to Reasoning Over Counterfactual Worlds
NAOInstitute, University of Auckland(奥克兰大学NAO研究所);Jožef Stefan Institute(约热夫·斯特凡研究所);University of Twente(特文特大学)
针对大语言模型因果推理能力不足及反事实评估受限的问题,提出Causal Cartographer框架,通过图检索增强生成智能体构建因果知识库,结合受因果约束的反事实推理智能体,提升LLM因果推理鲁棒性并降低成本与虚假相关性。
2025-05-20 cs.AI cs.CL cs.LG
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley(加州大学伯克利分校);Genentech(基因泰克公司)
针对高维结果下个体反事实预测难题,提出变分贝叶斯因果推断框架,无需反事实样本即可端到端监督并解耦外生噪声,在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Causal Diffusion Autoencoders: Toward Counterfactual Generation via Diffusion Probabilistic Models
University of Arkansas(阿肯色大学);Baylor University(贝勒大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出CausalDiffAE框架,结合扩散概率模型与因果表示学习,通过编码器提取因果变量并利用反向扩散建模随机变化,实现了基于do-interventions的高质量反事实图像生成。
2024-08-23 cs.AI cs.LG stat.ME
Causal Invariance and Counterfactual Learning Driven Cooperative Game for Multi-Label Classification
Sun Yat-sen University(中山大学)
本文提出因果协作博弈框架,通过因果发现与反事实好奇心奖励提升多标签分类的鲁棒性和稀有标签预测能力。
2025-11-30 cs.AI cs.LG
Causal-Adapter: Taming Text-to-Image Diffusion for Faithful Counterfactual Generation
Centre for AI, DS\&AI, Astrazeneca, UK(英国阿斯利康人工智能中心);Institute for Imaging, Data and Communications (IDCOM), School of Engineering, University of Edinburgh, Edinburgh, UK(爱丁堡大学工程学院影像、数据与通信研究所);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
Causal-Adapter通过模块化框架实现文本到图像扩散模型的反事实生成,利用结构因果建模和属性正则化策略,在保持图像核心身份的同时实现精确的属性控制。
2026-05-14 cs.AI cs.CV
A New Approach to Backtracking Counterfactual Explanations: A Unified Causal Framework for Efficient Model Interpretability
Munich Center for Machine Learning(慕尼黑机器学习中心);Sharif University of Technology(谢里夫理工大学)
提出基于回溯反事实的高效方法BRACE,融合因果推理生成可执行解释,克服传统方法忽视因果及计算昂贵的问题,并在特定场景下推广先前技术。
2025-05-22 cs.AI cs.LG stat.ML
CausalFlow: Causal Attribution and Counterfactual Repair for LLM Agent Failures
Department of Computer Science University of California, Davis(计算机科学系加州大学戴维斯分校)
提出CausalFlow框架,通过反事实干预计算步骤级因果责任分数,识别失败步骤并生成最小编辑修复,用于测试时修复和训练时监督,在多个基准上优于启发式方法。
2026-05-25 cs.AI cs.LG
From Probability to Counterfactuals: the Increasing Complexity of Satisfiability in Pearl's Causal Hierarchy
Saarland University(萨尔大学);University of Lübeck(吕贝克大学)
本文研究 Pearl 因果层级中概率、干预与反事实推理的可满足性问题计算复杂度,首次证明在允许加法与边缘化时复杂度从 NP^PP 到 PSPACE 再到 NEXP 严格递增,并证明完全语言下反事实层级复杂度与较低层级相同,解决了一个开放问题。
2025-02-06 cs.AI cs.CC
CausaLM: Causal Model Explanation Through Counterfactual Language Models
Technion(以色列理工学院)
众所周知,理解深度神经网络做出的预测是非常困难的,但对它们的传播也至关重要。与所有基于机器学习的方法一样,它们与它们的训练数据一样好,并且还可以捕获不必要的偏差。虽然有一些工具可以帮助理解这种偏见是否存在,但它们不能区分相关性和因果关系,并且可能不适合基于文本的模型和关于高级语言概念的推理。一个关键的问题,估计的因果关系的一个给定的模型上的概念的兴趣是,这种估计需要生成反事实的例子,这是具有挑战性的与现有的生成技术。为了弥合这一差距,我们提出了CausaLM,一个框架,用于使用反事实语言表示模型产生因果模型解释。我们的方法是基于对深度情境化嵌入模型的微调,其中辅助对抗任务来自问题的因果图。具体地说,我们表明,通过仔细选择辅助对抗性预训练任务,语言表示模型,如BERT,可以有效地学习一个反事实表示为一个给定的概念的兴趣,并用于估计其真正的因果关系对模型性能的影响。我们方法的副产品是一个不受测试概念影响的语言表示模型,这对于减轻数据中根深蒂固的不必要的偏见很有用。
2022-11-12 cs.AI cs.CL cs.LG
Benchmarking Counterfactual Prediction in Epidemic Time Series with Time-Varying Interventions
University of Michigan Computer Science and Engineering(密歇根大学计算机科学与工程系);University of Michigan Epidemiology & Complex Systems(密歇根大学流行病学与复杂系统)
为解决缺乏可观测反事实结果的真实基准问题,基于校准的基于智能体的模型生成大规模流行病时间序列反事实预测基准,支持静态/时变治疗和单/多策略干预,评估多种因果推断方法。
2026-06-16 cs.AI cs.LG
Latent Causal Modeling for 3D Brain MRI Counterfactuals
Stanford University(斯坦福大学);Weill Cornell Medicine(韦尔·科恩医学中心);Imperial College London(伦敦帝国理工学院)
本文提出一种两阶段方法,在潜在空间中构建结构因果模型,利用VQ-VAE学习MRI体积的紧凑嵌入,并通过闭式广义线性模型生成高质量3D脑MRI反事实。
2026-03-19 cs.AI cs.CV
Counterfactual Multihop QA: A Cause-Effect Approach for Reducing Disconnected Reasoning
Sun Yat-Sen University(中山大学)
多跳QA需要对多个支持事实进行推理来回答问题。然而,现有的QA模型总是依赖于捷径,例如,仅通过一个事实而不是多跳推理来提供真实答案,这被称为$\textit{disconnected reasoning}$问题。为了缓解这个问题,我们提出了一种新的反事实的多跳QA,一种因果关系的方法,能够减少断开的推理。它建立在因果关系的明确建模基础上:1)断开推理的直接因果效应和2)来自总因果效应的真正多跳推理的因果效应。利用因果图,提出了一种反事实推理方法,将不连续推理从因果效应中分离出来,为学习真正的多跳推理而不是捷径的QA模型提供了新的视角和技术。在HotpotQA基准数据集上进行了大量实验,实验结果表明,该方法在减少断开推理方面取得了显著的进步.例如,通过真正的多跳推理,我们的方法在HotpotQA上的Supp $_s$分数高出5.8%。该代码可在补充材料中找到。
2022-10-13 cs.AI cs.CL
Teleporter Theory: A General and Simple Approach for Modeling Cross-World Counterfactual Causality
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所)
针对双网络在跨世界反事实因果建模中的泛化不足,该研究提出通用简洁的传送子理论,可直接推导跨世界变量条件独立性,还构建了即插即用模块并经基准实验验证有效。
2024-06-18 cs.AI cs.LG stat.ME
When Counterfactual Reasoning Fails: Chaos and Real-World Complexity
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Mohammed VI Polytechnic University, UM6P(穆罕默德六世理工大学(UM6P))
本文在结构因果模型框架下实证研究反事实序列估计的局限性,发现模型不确定性低或存在混沌动力学等现实假设会导致预测轨迹与真实轨迹严重偏离,警示在混沌与不确定情境中应用反事实推理需谨慎。
2025-04-10 cs.AI cs.LG
Amortized Counterfactual Prediction with Graph Neural Networks
University of Oxford(牛津大学);Department of Engineering, University of Oxford(牛津大学工程学院)
针对反事实预测中因果图估计误差传播的问题,提出端到端的CFGNP模型,利用GNN处理双图结构,在多基准上性能优于现有方法,且模型可泛化到更大规模图。
2026-10-12 cs.AI cs.LG
Causal Discovery and Counterfactual Reasoning to Optimize Persuasive Dialogue Policies
KDDI Research, Inc.(KDDI研究所);Carnegie Mellon University(卡内基梅隆大学)
针对现有说服性对话系统难适配动态用户状态的问题,提出结合因果发现、反事实推理与强化学习的方法,在PersuasionForGood数据集上实现了说服效果的提升。
2025-03-19 cs.AI cs.CL cs.HC
LIBERTy: A Causal Framework for Benchmarking Concept-Based Explanations of LLMs with Structural Counterfactuals
Technion – Israel Institute of Technology(以色列理工学院)
LIBERTy提出了一种基于因果框架的基准测试框架,通过结构反事实评估LLM基于概念的解释,改进了可解释性方法的可信度。
2026-01-18 cs.AI cs.CL
The Logic of Counterfactuals and the Epistemology of Causal Inference
University of California, Davis(加利福尼亚大学戴维斯分校)
本文揭示Rubin因果模型预设条件排中律,并提出结合因果贝叶斯网的新模型以摒弃该原则,论证演绎逻辑与归纳推断的深层关联。
2025-03-12 cs.AI econ.EM stat.ME
Scalable Counterfactual Distribution Estimation in Multivariate Causal Models
Shiga University(滋贺大学);RIKEN(理化学研究所);The Institute of Statistical Mathematics(统计数理研究所)
针对扩展双重差分多元因果模型中的反事实联合分布估计,本文提出利用稳健潜在一维子空间兼顾维度相关性与单变量估计效率,并在合成及真实数据上验证其优势。
2023-11-02 cs.AI cs.LG stat.ME
Causal Counterfactuals for Improving the Robustness of Reinforcement Learning
Trinity College Dublin(都柏林圣三一学院)
本文提出完整因果RL框架CausalCF,融合Causal Curiosity的干预机制与改造后的CoPhy反事实推理,并在CausalWorld机器人任务中验证其可提升RL鲁棒性。
2023-06-05 cs.AI cs.LG cs.RO
Sketch and Customize: A Counterfactual Story Generator
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent AI Lab(腾讯人工智能实验室)
现有的文本生成模型很容易为给定的文本生成相关的、流畅的文本,但在对给定文本的某些部分进行修改时,缺乏因果推理能力。反事实故事重写是最近提出的测试文本生成模型的因果推理能力的任务,它需要一个模型来预测相应的故事结局时,条件被修改为反事实之一。以往的研究表明,传统的序列到序列模型不能很好地处理这个问题,因为它经常捕捉到原始和反事实结局之间的一些虚假相关性,而不是条件和结局之间的因果关系。为了解决这个问题,我们提出了一个草图和自定义生成模型的指导下的因果关系所隐含的条件和结局。在草图阶段,通过从原始结尾中删除与反事实条件相冲突的单词来提取骨架。在定制阶段,使用生成模型,在反事实条件的指导下,在骨架中填充合适的词。这样,所获得的反事实结局既与原结局相关,又与反事实条件相一致。实验结果表明,与传统的序列到序列模型相比,该模型产生了更好的结尾。
2021-04-02 cs.AI cs.CL
G2VD: Generalizable AI-Generated Video Detection via Counterfactual Intervention and Causal Disentanglement
Information Engineering University(信息工程大学)
针对AI生成视频检测中因捷径学习导致跨域性能差的问题,提出G2VD框架,用反事实干预管道生成样本并对齐,设计因果解缠分类器,提升了跨域性能。
2026-07-30 cs.AI cs.CV
Extension of Three-Variable Counterfactual Casual Graphic Model: from Two-Value to Three-Value Random Variable
School of Mathematics and System Sciences, Beihang University(北京航空航天大学数学与系统科学学院)
通过将有向无环图(DAG)中涉及的变量的二值分布推广到三值分布,讨论了有向无环图(DAG)中顶点集为三个变量的反事实因果图模型的推广。利用条件独立性作为辅助信息,将6种含变量的可拓反事实因果图模型从二值分布推广到三值分布,并给出了可辨识的充分条件.
2012-06-29 cs.AI stat.ME
Simulation-Based Counterfactual Causal Discovery on Real World Driver Behaviour
Oxford Robotics Institute(牛津机器人研究所);University of Oxford(牛津大学)
针对智能驾驶体因果发现需求,提出基于事件重构与反事实仿真的因果发现方法及三种变体,在真实驾驶数据集的3396个场景中性能显著优于现有观测式方法,还能提供额外决策洞见。
2024-01-17 cs.AI cs.RO
FairPFN: Transformers Can do Counterfactual Fairness
University of Freiburg(弗莱堡大学);Zuse School ELIZA(楚塞ELIZA学院);Charité(夏里特医学院);ELLIS Institute Tübingen(蒂宾根ELLIS研究院)
本文提出 FairPFN,一种基于 ICL 与 PFN、用合成公平数据预训练的 Transformer,可无需真实因果模型而从观测数据中消除受保护属性的因果影响。
2024-07-08 cs.AI cs.CY cs.LG
Counterfactual explainability and analysis of variance
University of Southern California(南加州大学);University of Cambridge(剑桥大学)
针对现有复杂模型解释工具无因果性、缺机制理解的问题,提出受遗传力启发的反事实可解释性概念,结合有向无环图拓展全局敏感性分析方法至依赖变量场景,给出估计方法并应用于收入不平等解释。
2025-10-04 cs.AI cs.LG stat.ML
How do features act in an individual prediction? Separating standalone and interaction effects with a case-based taxonomy
Dankook University(檀国大学)
该研究提出A-CBFI框架,结合结构分解与因果反事实追索,在金融、医疗领域可降低76.9%主动干预负担,保持因果有效性与追索成本,实现针对性可操作的反事实追索。
2026-11-19 cs.AI cs.LG
Preserving Causal Constraints in Counterfactual Explanations for Machine Learning Classifiers
Microsoft Research(微软研究院);University of Colorado Boulder(科罗拉多大学博尔德分校)
为了构建与原始ML模型一致的可解释解释的解释,已经提出了反事实的例子-显示模型的输出如何随着输入的小扰动而变化。本文通过解决这些例子的可行性的挑战,扩展了反事实解释的工作。对于医疗保健和金融等关键领域的ML模型的解释,反事实示例仅在现实世界中特征输入的扰动可行的情况下对最终用户有用。我们制定的可行性问题,保持输入功能之间的因果关系,并提出了一种方法,使用(部分)结构因果模型,以产生可操作的反事实。当可行性约束不能很容易地表示,我们考虑一种替代机制,人们可以标记生成的CF的例子上的可行性:它是否是可行的干预和实现候选CF的例子从原始输入。为了从这个标记的可行性数据中学习,我们提出了一个修改的变分自动编码器损失,用于生成CF示例,当人们与其输出交互时,该示例优化了可行性。我们在贝叶斯网络和广泛使用的“成人收入”数据集上的实验表明,我们提出的方法可以生成比现有方法更好地满足可行性约束的反事实解释。代码存储库可在此处访问:\textit{https://github.com/divyat09/cf-feasibility}
2020-06-12 cs.AI cs.LG stat.ML
LogicGaze: Benchmarking Causal Consistency in Visual Narratives via Counterfactual Verification
Boston University(波士顿大学);Suffolk University(索尔福德大学)
LogicGaze通过反事实验证基准测试,评估视觉语言模型在视觉叙事中因果一致性验证的能力,揭示了现有模型在处理因果链和幻觉问题上的不足。
2026-01-30 cs.AI cs.CV
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas(阿肯色大学)
在在线推荐中,客户从底层分布以顺序和随机的方式到达,并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目,以最大化预期回报,同时实现用户端公平的客户,即,共享相似简档的客户将接收相似的奖励,而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略,我们首先提出了基于d-分离的UCB算法(D-UCB),以探索利用d-分离集来减少所需的探索量,以实现低累积遗憾。在此基础上,我们提出了公平因果强盗(F-UCB)实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
Explaining Image Classifiers Using Contrastive Counterfactuals in Generative Latent Spaces
UC San Diego(加州大学圣地亚哥分校);Stanford University(斯坦福大学)
尽管现代复杂图像分类器具有很高的准确性,但由于其未知的决策过程和潜在的偏见,它们不能被信任用于敏感任务。反事实解释在为这些黑箱算法提供透明度方面非常有效。然而,生成可以对分类器输出产生一致影响但又暴露可解释的特征变化的反事实是一项非常具有挑战性的任务。我们介绍了一种新的方法,使用预训练的生成模型为图像分类器生成因果关系和可解释的反事实解释,而无需任何重新训练或调节。这种技术中的生成模型不一定要在与目标分类器相同的数据上进行训练。我们使用这个框架来获得对比和因果的充分性和必要性分数作为黑盒分类器的全球性解释。在人脸属性分类的任务中,我们展示了不同的属性如何通过提供因果和对比特征属性以及相应的反事实图像来影响分类器的输出。
2022-06-10 cs.AI cs.CV
Disentangled Representation with Causal Constraints for Counterfactual Fairness
University of South Australia(南澳大学);Simon Fraser University(西蒙弗雷泽大学)
针对公平表示学习忽视隐变量因果关系的问题,提出CF-VAE学习符合领域知识的结构化表示,理论保证反事实公平,并在实验中同时提升公平性与预测准确性。
2023-12-16 cs.AI cs.CY cs.LG
Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness
University of Chicago(芝加哥大学);University of California, Berkeley(加州大学伯克利分校);Sentience Institute(感知研究所)
本文利用因果语境建立反事实公平性与鲁棒预测及群体公平性之间的联系,证明反事实公平预测器在无偏目标分布中可达到准确性最优,并揭示在测量误差、标签选择和预测变量选择三种情境下,反事实公平性分别等价于人口统计均等、均等化几率和校准。
2023-10-30 cs.AI cs.CY cs.LG
From What Ifs to Insights: Counterfactuals in Causal Inference vs. Explainable AI
Institute of Service Science, National Tsing Hua University(服务科学研究所,国立清华大学);Faculty of Business and Economics, University of Antwerp(商学院与经济学院,安特卫普大学);Copenhagen Business School(哥本哈根商学院)
该研究对比了因果推断(CI)与可解释人工智能(XAI)领域中反事实概念的使用、评估、生成及落地差异,提出涵盖二者的正式定义,旨在发掘两领域交叉融合的机遇。
2025-05-19 cs.AI cs.LG econ.EM
Transfer learning with causal counterfactual reasoning in Decision Transformers
causaLens;King’s College London(伦敦国王学院)
适应环境突发事件变化的能力是强化学习中的一个重要挑战。事实上,将先前获得的知识转移到具有看不见的结构特性的环境中可以大大提高构建新的最优策略的灵活性和效率。在这项工作中,我们研究了环境动态变化下的迁移学习问题。在这项研究中,我们在离线强化学习设置中应用因果推理,将学习到的策略转移到新的环境中。具体来说,我们使用决策Transformer(DT)架构来提取新环境的新策略。DT通过在源环境的事实和反事实模拟上执行策略部署来收集数据。我们表明,这种机制可以引导一个成功的政策目标环境,同时保留大部分的奖励。
2021-10-27 cs.AI cs.LG stat.ML