Better Think Thrice: Learning to Reason Causally with Double Counterfactual Consistency
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research Cambridge（微软研究院剑桥分部）；Microsoft Research India（微软研究院印度分部）
本文提出双重反事实一致性方法，用于评估和提升大型语言模型的因果推理能力，无需标注数据，通过因果干预和反事实预测验证模型能力，并在多种任务中提升性能。
2026-02-18 cs.CL cs.LG
MUtE: A Dual Framework for Concept Erasure and Counterfactual Interventions
onepoint
提出MUtE双重框架，通过推导新型擦除函数实现概念擦除与反事实生成的无缝切换，并施加平移偏差约束，实验证明其能改善算法公平性并生成反事实文本。
2026-09-11 cs.CL cs.LG
Counterfactual Causal Inference in Natural Language with Large Language Models
NAOInstitute, University of Auckland（奥克兰大学NAO研究所）；Jožef Stefan Institute, Slovenia（斯洛文尼亚约瑟夫·斯蒂芬研究所）
本研究针对非结构化自然语言因果推断难题，提出基于大语言模型的端到端方法，通过提取因果变量、构建并融合多源因果图开展反事实推断，可降低模型偏差，同时揭示了LLM反事实推理局限的成因并给出缓解方向。
2024-10-08 cs.CL cs.LG
Generative Framework for Personalized Persuasion: Inferring Causal, Counterfactual, and Latent Knowledge
KDDI Research, Inc.（KDDI研究所）；Carnegie Mellon University（卡内基梅隆大学）；MBZUAI（穆桑人工智能研究院）
本文提出基于因果发现和反事实推断的个性化说服对话生成框架，将心理构造等视为潜在因子并有效估计，通过优化系统响应策略显著提升了说服效果。
2025-05-28 cs.AI cs.CL cs.HC
Distilling Counterfactual Reasoning from Language to Vision: Causal Graph Guided Post-Training for Video Understanding
Rutgers University（新泽西罗格斯大学）
针对视觉语言模型在反事实推理上的不足，提出CounterVQA基准和CFGPT后训练方法，通过从语言模态蒸馏反事实推理能力提升视频理解。
2026-05-28 cs.CL cs.CV
Explaining Text Classifiers with Counterfactual Representations
onepoint（万点公司）
针对文本反事实构建中属性值难匹配真实事件的问题，提出在文本表征空间干预生成反事实的方法，符合Pearl因果框架，经实验验证有效，可用于分类器解释与偏差缓解。
2024-09-11 cs.CL cs.LG
Causal Cartographer: From Mapping to Reasoning Over Counterfactual Worlds
NAOInstitute, University of Auckland（奥克兰大学NAO研究所）；Jožef Stefan Institute（约热夫·斯特凡研究所）；University of Twente（特文特大学）
针对大语言模型因果推理能力不足及反事实评估受限的问题，提出Causal Cartographer框架，通过图检索增强生成智能体构建因果知识库，结合受因果约束的反事实推理智能体，提升LLM因果推理鲁棒性并降低成本与虚假相关性。
2025-05-20 cs.AI cs.CL cs.LG
CausaLM: Causal Model Explanation Through Counterfactual Language Models
Technion（以色列理工学院）
众所周知，理解深度神经网络做出的预测是非常困难的，但对它们的传播也至关重要。与所有基于机器学习的方法一样，它们与它们的训练数据一样好，并且还可以捕获不必要的偏差。虽然有一些工具可以帮助理解这种偏见是否存在，但它们不能区分相关性和因果关系，并且可能不适合基于文本的模型和关于高级语言概念的推理。一个关键的问题，估计的因果关系的一个给定的模型上的概念的兴趣是，这种估计需要生成反事实的例子，这是具有挑战性的与现有的生成技术。为了弥合这一差距，我们提出了CausaLM，一个框架，用于使用反事实语言表示模型产生因果模型解释。我们的方法是基于对深度情境化嵌入模型的微调，其中辅助对抗任务来自问题的因果图。具体地说，我们表明，通过仔细选择辅助对抗性预训练任务，语言表示模型，如BERT，可以有效地学习一个反事实表示为一个给定的概念的兴趣，并用于估计其真正的因果关系对模型性能的影响。我们方法的副产品是一个不受测试概念影响的语言表示模型，这对于减轻数据中根深蒂固的不必要的偏见很有用。
2022-11-12 cs.AI cs.CL cs.LG
Counterfactual Multihop QA: A Cause-Effect Approach for Reducing Disconnected Reasoning
Sun Yat-Sen University（中山大学）
多跳QA需要对多个支持事实进行推理来回答问题。然而，现有的QA模型总是依赖于捷径，例如，仅通过一个事实而不是多跳推理来提供真实答案，这被称为$\textit{disconnected reasoning}$问题。为了缓解这个问题，我们提出了一种新的反事实的多跳QA，一种因果关系的方法，能够减少断开的推理。它建立在因果关系的明确建模基础上：1）断开推理的直接因果效应和2）来自总因果效应的真正多跳推理的因果效应。利用因果图，提出了一种反事实推理方法，将不连续推理从因果效应中分离出来，为学习真正的多跳推理而不是捷径的QA模型提供了新的视角和技术。在HotpotQA基准数据集上进行了大量实验，实验结果表明，该方法在减少断开推理方面取得了显著的进步.例如，通过真正的多跳推理，我们的方法在HotpotQA上的Supp $_s$分数高出5.8%。该代码可在补充材料中找到。
2022-10-13 cs.AI cs.CL
Missed Causes and Ambiguous Effects: Counterfactuals Pose Challenges for Interpreting Neural Networks
Northeastern University（东北大学）；Technion – Israel Institute of Technology（以色列理工学院）
本文分析反事实因果方法在神经网络可解释性中的两大缺陷：遗漏独立充分原因、反事实依赖不可传递，并给出未来研究建议。
2024-07-05 cs.CL cs.LG
Causal Discovery and Counterfactual Reasoning to Optimize Persuasive Dialogue Policies
KDDI Research, Inc.（KDDI研究所）；Carnegie Mellon University（卡内基梅隆大学）
针对现有说服性对话系统难适配动态用户状态的问题，提出结合因果发现、反事实推理与强化学习的方法，在PersuasionForGood数据集上实现了说服效果的提升。
2025-03-19 cs.AI cs.CL cs.HC
LIBERTy: A Causal Framework for Benchmarking Concept-Based Explanations of LLMs with Structural Counterfactuals
Technion – Israel Institute of Technology（以色列理工学院）
LIBERTy提出了一种基于因果框架的基准测试框架，通过结构反事实评估LLM基于概念的解释，改进了可解释性方法的可信度。
2026-01-18 cs.AI cs.CL
CAISA at SemEval-2023 Task 8: Counterfactual Data Augmentation for Mitigating Class Imbalance in Causal Claim Identification
University of Bonn（波恩大学）；University of Marburg（马尔堡大学）
针对因果医学主张识别中的类别不平衡问题，提出基于动词替换的反事实数据增强方法，并与三种增强技术对比，证明其显著提升少数类性能。
2023-06-01 cs.CL cs.LG
A Practical Method for Generating String Counterfactuals
Bar-Ilan University（巴伊兰大学）；ETH Zurich（苏黎世联邦理工学院）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；New York University（纽约大学）
本文提出一种将语言模型表示空间反事实转换为字符串反事实的实用方法，可分析干预对应的语言变化、解释概念编码特征，并通过数据增强减轻分类偏差。
2025-02-11 cs.CL cs.CY cs.LG
Gumbel Counterfactual Generation From Language Models
New York University（纽约大学）；ETH Zurich（苏黎世联邦理工学院）；University of Copenhagen（哥本哈根大学）
本文提出基于 Gumbel-max 技巧将语言模型重构为结构方程模型，以生成真实字符串反事实，揭示了常用干预技术的副作用。
2025-03-06 cs.AI cs.CL cs.LG
