Semi-Supervised Learning under General Causal Models
本文提出一种适用于一般因果模型的半监督学习框架，通过探索因果图结构并设计可借助无标签数据学习的因果生成模型，生成合成有标签数据以训练更准确的预测模型，并在模拟和真实数据上验证了有效性。
2025-10-26 cs.LG stat.ML
Weakly-supervised causal discovery based on fuzzy knowledge and complex data complementarity
Tsinghua University（清华大学）；Shandong University（山东大学）
针对现有因果发现方法受先验知识不足、领域不一致及高维小样本限制的问题，提出融合模糊知识与数据的弱监督方法KEEL，结合ELCM处理复杂数据，在多场景下准确率、鲁棒性和效率均优于现有方法。
2024-05-14 cs.LG stat.ML
Supervised Whole DAG Causal Discovery
Iowa State University（爱荷华州立大学）
我们建议以监督的方式解决从数据中学习因果结构的任务。现有的监督学习学习因果方向的工作局限于学习两两关系，不适合整个DAG发现。我们提出了一种新的方法建模的整个DAG结构发现作为一个监督学习。为了适合手头的问题，我们建议使用排列等变模型，以及对齐的问题域。我们广泛评估所提出的方法在大小为10，20，50，100的合成图和真实数据上，并与各种以前的方法相比，显示出有前途的结果。
2020-06-08 cs.AI cs.LG stat.ML
Causally Disentangled Generative Variational AutoEncoder
University of Seoul（首尔大学）；Yonsei University（延世大学）
该研究提出适用于VAE的因果解耦生成（CDG）方法，探究实现CDG的充要条件，提出通用评估指标，经图像和表格数据集验证有效。
2023-10-09 cs.LG stat.ML
Generalization in anti-causal learning
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学院学习系统中心）
在新的情况下学习和行动的能力仍然是动画智能的特权，因为当前的机器学习方法在超出标准i.i.d.时大多失败。设置.出现这种差异的原因是什么？大多数机器学习任务都是反因果的，即，我们从结果（观察）中推断原因（标签）。通常，在监督学习中，我们构建的系统试图直接反转因果机制。相反，在本文中，我们认为，强大的泛化能力关键取决于搜索和验证有意义的假设，需要访问因果模型。在这样一个框架中，我们希望找到导致观察到的结果的原因。反因果模型用于驱动此搜索，但需要因果模型进行验证。我们调查因果和反因果任务之间的根本区别，讨论的主题范围从对抗攻击解开变量的因素的影响，并提供了大量的证据，从文献中证实我们的观点。我们提倡在监督学习中引入因果模型，以将范式从仅推理转变为搜索和验证。
2018-12-03 cs.LG stat.ML
Demystifying amortized causal discovery with transformers
Institute of Science and Technology Austria（奥地利科学与技术研究所）；Chan Zuckerberg Initiative（查纳·泽克伯格倡议）；Mila - Quebec AI Institute and Université de Montréal（蒙特利尔AI研究所和蒙特利尔大学）
本文分析了CSIvA在双变量因果模型中的表现，发现其在测试时依赖于训练分布定义的先验，且在不同结构假设下改进了泛化能力，推翻了之前关于监督学习能克服限制的假设。
2026-03-18 cs.LG stat.ML
Semi-Supervised Learning, Causality and the Conditional Cluster Assumption
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Delft University of Technology（代尔夫特理工大学）；University of Copenhagen（哥本哈根大学）
虽然半监督学习（SSL）的成功仍然没有完全理解，但Schölkopf等人（2012）已经建立了与独立因果机制原则的联系。他们的结论是，当从原因预测目标变量时，SSL应该是不可能的，但当从结果预测目标变量时，SSL是可能的。由于这两种情况都有一定的限制性，我们通过同时考虑使用因果特征进行分类来扩展他们的工作，例如从风险因素和症状来预测疾病。虽然标准SSL利用所有输入的边缘分布中包含的信息（以提高目标给定输入的条件分布的估计），我们认为，在我们更一般的设置，我们应该使用的信息在条件分布的因果功能的效果功能。我们将探讨这种见解如何概括以前的理解，以及它如何与SSL相关并可以在算法上被利用。
2020-06-24 cs.LG stat.ML stat.OT
SCADI: Self-supervised Causal Disentanglement in Latent Variable Models
Yonsei University（延世大学）
针对无监督解缠不可识别和弱监督成本高的问题，提出SCADI模型，结合掩码结构因果模型与伪标签生成器，实现无需监督的语义因素发现与因果关系学习。
2023-11-11 cs.AI cs.CV cs.LG
Semi-Supervised Learning for Deep Causal Generative Models
University of Oxford（牛津大学）；Imperial College London（伦敦帝国理工学院）；University of Birmingham（伯明翰大学）
针对临床数据标签不全导致现有因果生成模型无法充分利用数据的问题，首次提出半监督深度因果生成模型，利用变量因果关系与因果推断技术处理缺失标签，可生成真实反事实结果，适配多种标签缺失场景。
2024-07-12 cs.AI cs.CV cs.LG
Learning Causally Disentangled Representations via the Principle of Independent Causal Mechanisms
University of Arkansas（阿肯色大学）；Clemson University（克莱姆森大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文从独立因果机制角度定义因果解耦，提出ICM-VAE框架，利用非线性流函数建模因果机制并结合辅助标签学习解耦先验，理论上证明可辨识性，实验表明能提升干预鲁棒性与反事实生成能力。
2024-08-23 cs.LG stat.ML
Causal Confusion in Imitation Learning
Qualcomm AI Research（高通人工智能研究院）；University of Amsterdam（阿姆斯特丹大学）；Berkeley AI Research（伯克利人工智能研究院）；Facebook AI Research（Facebook人工智能研究院）
行为克隆通过训练一个判别模型来预测给定观察的专家行为，从而将策略学习简化为监督学习。这种判别模型是非因果的：训练过程不知道专家与环境之间相互作用的因果结构。我们指出，由于模仿学习的分布变化，忽视因果关系尤其有害。特别是，它会导致一个反直觉的“因果错误识别”现象：获得更多的信息可能会产生更差的性能。我们调查这个问题是如何产生的，并提出了一个解决方案，以打击它通过有针对性的干预-无论是环境的相互作用或专家查询-以确定正确的因果模型。我们表明，因果错误识别发生在几个基准控制域以及现实的驾驶设置，并验证我们的解决方案对Dagger和其他基线和消融。
2019-11-04 cs.LG stat.ML
CASTLE: Regularization via Auxiliary Causal Graph Discovery
University of California, Los Angeles（加州大学洛杉矶分校）；University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦图灵研究所）
正则化改进了监督模型对样本外数据的泛化。先前的工作表明，因果方向（因的影响）的预测结果比反因果方向的测试误差更低。然而，现有的正则化方法是因果关系不可知的。我们引入因果结构学习（CASTLE）正则化，并提出通过联合学习变量之间的因果关系来正则化神经网络。CASTLE学习因果有向无环图（DAG）作为嵌入神经网络输入层的邻接矩阵，从而促进了最佳预测器的发现。此外，CASTLE仅有效地重建具有因果邻居的因果DAG中的特征，而基于重建的正则化器次优地重建所有输入特征。我们为我们的方法提供了一个理论上的泛化范围，并在大量的合成和真实的公开数据集上进行实验，证明与其他流行的基准正则化器相比，CASTLE始终导致更好的样本外预测。
2020-09-28 cs.LG stat.ML
Improving Weakly Supervised Sound Event Detection with Causal Intervention
Peking University（北京大学）；Xiaomi Corporation（小米集团）
现有的弱监督声音事件检测（WSSED）工作没有同时探索两种类型的同现，即，一些声音事件经常同时出现，并且它们的出现通常伴随着特定的背景声音，因此它们将不可避免地纠缠在一起，从而导致仅使用剪辑级监督的错误分类和有偏差的定位结果。为了解决这个问题，我们首先建立了一个结构因果模型（SCM），揭示了上下文是同现混淆因素的主要原因，这些混淆因素会误导模型学习帧和剪辑级标签之间的虚假相关性。在因果分析的基础上，提出了一种因果干预（CI）方法，通过迭代累积每个类的所有可能上下文，然后将上下文重新投影到帧级特征，使事件边界更清晰，从而消除WSSED中同现混淆的负面影响.实验表明，该方法有效地提高了多数据集上的性能，并可以推广到各种基线模型。
2023-03-10 cs.LG cs.SD eess.AS
Demistifying Data and Simulator Assumptions in Supervised Causal Discovery
Zhejiang University of Technology（浙江工业大学）；Microsoft Research Asia（微软亚洲研究院）；Sony Research（索尼研究院）；HKUST（香港科技大学）
本文系统梳理监督式因果发现方法，区分可识别性与泛化性，强调模拟器假设影响预测，并提出匹配指标与测试分布变化的评估框架。
2026-09-30 cs.AI cs.LG
Causal Self-supervised Pretrained Frontend with Predictive Code for Speech Separation
本文提出一种因果自监督预训练前端，通过自回归混合预测和上下文知识蒸馏代理任务将未来信息隐式纳入因果模型，有效缓解了实时流式语音分离中因缺乏未来上下文导致的性能下降。
2025-04-03 cs.LG cs.SD eess.AS
Latent Variable Models for Bayesian Causal Discovery
Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；ÉTS Montréal（蒙特利尔高等技术学院）
学习不依赖于虚假相关性的预测器涉及构建因果表示。然而，学习这样的表示是非常具有挑战性的。因此，我们制定了从高维数据中学习因果表示的问题，并研究了因果恢复与合成数据。这项工作介绍了一个潜在的变量解码器模型，解码器BCD，贝叶斯因果发现，并在轻度监督和无监督的设置进行实验。我们提出了一系列的合成实验来表征因果发现的重要因素，并表明使用已知的干预目标作为标签有助于无监督贝叶斯推理的结构和参数的线性高斯加性噪声潜在的结构因果模型。
2022-08-11 cs.AI cs.LG stat.ML
Test-Time Learning of Causal Structure from Interventional Data
HKUST（香港科技大学）；HKUST(GZ)（香港科技大学（广州））；Microsoft Research（微软研究院）；Sony Research（索尼研究院）；NUS（国立新加坡大学）
TICL通过结合测试时训练与联合因果推断，有效解决干预数据中因果结构学习的泛化问题，提升因果发现和干预目标检测性能。
2026-02-22 cs.AI cs.LG
Embracing the black box: Heading towards foundation models for causal discovery from time series data
Friedrich Schiller University Jena（弗里德里希·席勒耶拿大学）
针对现有时间序列因果发现方法不支持端到端学习的问题，提出因果预训练方法，通过监督学习直接映射多元时间序列至因果图，发现其性能随数据和模型规模增加而提升，为因果发现基础模型提供了可能性。
2024-02-14 cs.AI cs.LG
A Meta-Learning Approach to Bayesian Causal Discovery
Imperial College London（伦敦帝国学院）；University of Cambridge（剑桥大学）；University of Toronto（多伦多大学）；University of Oxford（牛津大学）
针对现有元学习方法无法编码后验关键属性及采样的局限，提出一种贝叶斯元学习模型，支持从后验采样因果结构并编码边相关性与节点置换等变性，展现了直接学习因果结构后验的优势。
2025-03-04 cs.LG stat.ME stat.ML
Learning Causal Semantic Representation for Out-of-Distribution Prediction
Microsoft Research Asia（微软亚洲研究院）；Tsinghua University（清华大学）；Peking University（北京大学）
传统的监督学习方法，特别是深度学习方法，被发现对分布外（OOD）示例敏感，这主要是因为学习的表示将语义因子与变异因子混合在一起，因为它们具有特定领域的相关性，而只有语义因子会导致输出。为了解决这个问题，我们提出了一个因果语义生成模型（CSG）的基础上的因果推理，使这两个因素分别建模，并开发方法OOD预测从一个单一的训练域，这是常见的和具有挑战性的。该方法是基于因果不变性原理，在变分贝叶斯的有效学习和易于预测的新设计。从理论上证明了在一定条件下，CSG可以通过拟合训练数据来识别语义因子，这种语义识别保证了OOD泛化误差的有界性和自适应的成功性。实证研究表明，OOD的业绩比现行基准有所改善。
2021-11-01 cs.AI cs.LG stat.ML
Causal Discovery in Multivariate Time Series through Mutual Information Featurization
Machine Learning Group, Computer Science Department, Universite' Libre de Bruxelles（布鲁塞尔自由大学计算机科学系机器学习小组）
本文提出TD2C框架，将因果发现从统计检验转为模式识别，利用信息论特征监督学习，在合成数据训练后零样本泛化，高维非线性场景性能领先。
2025-08-03 cs.LG stat.ME stat.ML
Causal Effect Estimation using Variational Information Bottleneck
Beijing Institute of Technology（北京理工大学）；University of Aberdeen（阿伯丁大学）
因果推理是在因果关系中估计干预措施的因果效应。确切地说，在一个二元干预的因果模型中，即，控制和治疗，因果效应只是事实和反事实之间的差异。困难在于，可能永远得不到必须估计的反事实，因此因果效应只能是一种估计。估计反事实的关键挑战是识别影响结果和治疗的混杂因素。一种典型的方法是将因果推理公式化为监督学习问题，从而可以预测反事实。包括线性回归和深度学习模型在内，最近的机器学习方法已经适用于因果推理。本文提出了一种基于变分信息瓶颈（CEVIB）的因果效应估计方法。有希望的一点是，VIB能够自然地从数据中提取混杂变量，这使得能够通过使用观察数据来估计因果效应。我们将CEVIB与其他方法进行了比较，将它们应用于三个数据集，表明我们的方法取得了最佳性能。我们还通过实验证明了我们方法的鲁棒性。
2022-07-16 cs.LG
Efficient Differentiable Discovery of Causal Order
ETH Zürich（苏黎世联邦理工学院）
本文通过可微排序和排名技术重构 Intersort 算法，实现因果顺序的可扩展可微优化，使其能作为正则化项纳入端到端学习，解决了大规模数据应用及纯关联监督学习的局限。
2024-10-11 cs.LG
Controlled Causal Hallucinations Can Estimate Phantom Nodes in Multiexpert Mixtures of Fuzzy Cognitive Maps
Signal and Image Processing Institute（信号与图像处理研究所）；University of Southern California（南加州大学）
本文提出通过多专家混合模糊认知图并利用受控因果幻觉估计缺失的幻影节点，以可扩展方式逼近大规模因果反馈系统的平衡行为与未来轨迹。
2024-12-31 cs.LG
CausalSim: A Causal Framework for Unbiased Trace-Driven Simulation
MIT（麻省理工学院）
CausalSim提出因果框架，通过张量补全消除迹线偏差，实现无偏模拟，在真实数据上误差降低53%和61%，并揭示ABR算法新见解。
2023-05-05 cs.AI cs.LG cs.NI
Arrow: A Foundation Model for Causal Discovery
University of Technology Sydney（技术科技大学）；CSIRO’s Data61（CSIRO数据61）
Arrow模型通过将有向无环图分解为无向骨架和拓扑序，实现零样本因果发现。该模型基于Transformer架构预测边概率和节点顺序，训练于合成数据集，能在多种数据集上实现高效准确的因果发现。
2026-05-08 cs.LG
Differentiable Causal Discovery Under Latent Interventions
LUMLIS (Lisbon ELLIS Unit)（里斯本ELLIS单元LUMLIS）；Instituto de Telecomunicações（电信研究所）；Unbabel（Unbabel公司）
最近的工作表明，即使在干预变量未知的情况下，通过利用基于梯度的方法的干预数据，在因果发现方面也取得了可喜的成果。然而，以前的工作假设样本和干预措施之间的对应关系是已知的，这往往是不现实的。我们设想一个场景，从多个干预分布和一个观察分布中采样大量数据集，但我们不知道每个样本的来源分布以及干预如何影响系统\textit{i.e.}，干预完全是潜在的。我们提出了一种基于神经网络和变分推理的方法，该方法通过将其构建为学习干预结构因果模型的无限混合物（根据狄利克雷过程先验）之间的共享因果图来解决这种情况。合成和真实数据的实验表明，我们的方法及其半监督变体能够在这种具有挑战性的情况下发现因果关系。
2022-03-04 cs.LG stat.ME
CausalMoE: A Billion-Scale Multimodal Foundation Model for Granger Causal Discovery with Pattern-Routed Heterogeneous Experts
State Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院通用人工智能国家重点实验室）；National Institute of Health Data Science, and Institute for Artificial Intelligence, Peking University（北京大学健康医疗大数据国家研究院、人工智能研究院）
提出CausalMoE，一种十亿规模多模态格兰杰因果基础模型，通过模式路由混合异构专家解耦动态机制，结合因果自注意力与LLM/VLM先验，实现稀疏因果图恢复，在监督和少样本场景中达到最优。
2026-06-12 cs.AI cs.LG
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley（加州大学伯克利分校）；Genentech（基因泰克公司）
针对高维结果下个体反事实预测难题，提出变分贝叶斯因果推断框架，无需反事实样本即可端到端监督并解耦外生噪声，在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Learned Causal Method Prediction
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
针对因果推断中难以选择最优方法的问题，提出CAMP框架，通过合成数据训练结合自监督预学习预测最优因果方法，在因果发现任务中效果优于单一方法且泛化性良好。
2023-11-08 cs.AI cs.LG stat.ME
CARE: Turning LLMs Into Causal Reasoning Expert
Duke University（杜克大学）
CARE通过监督微调提升LLMs的因果推理能力，使其在因果发现任务中超越传统算法和大参数模型。
2025-11-20 cs.AI cs.LG
From Observations to Causations: A GNN-based Probabilistic Prediction Framework for Causal Discovery
Department of Computer Science, UNC Charlotte, Charlotte, NC, United States（北卡罗来纳大学夏洛特分校计算机科学系）
针对传统因果发现方法可扩展性差、难捕捉全局结构的问题，提出基于GNN的概率框架，学习因果图空间的概率分布，在多数据集上准确率和可扩展性均优于现有方法，助力因果结构学习。
2025-07-27 cs.LG stat.ME
Learning domain-specific causal discovery from time series
University of Pennsylvania（宾夕法尼亚大学）
本研究提出用数据驱动监督学习替代人类设计的通用因果发现算法，在多个数据集上显著提升时间序列因果发现的准确性。
2023-10-10 cs.AI cs.LG stat.ME
Identifying biological perturbation targets through causal differential networks
提出一种受因果启发的方法，通过联合训练含噪声因果图推断与差异映射模块，在低样本高维生物数据中准确识别干预靶点，在7个单细胞数据集及多种合成数据上显著优于基线方法。
2025-05-30 cs.AI cs.LG q-bio.QM
Self-Labeling in Multivariate Causality and Quantification for Adaptive Machine Learning
California Institute for Telecommunications and Information Technology（加州电信与信息技术学院）；University of California, Irvine（加州大学欧文分校）
本文扩展自标注框架至多元因果图，利用四类基本因果关系实现自主领域适配，并定量分析ITM与ESD非理想性能的影响，且通过仿真实验验证理论。
2024-04-08 cs.AI cs.LG stat.ME
Causal Learning with Neural Assemblies
Hellenic Open University（希腊开放大学）
研究探讨神经聚集体能否学习变量间的因果方向，通过DIRECT机制实现局部可塑性学习，验证了其在多个领域中的结构恢复能力。
2026-04-29 cs.AI cs.LG cs.NE
Weakly supervised causal representation learning
Qualcomm AI Research（高通人工智能研究院）；University of Amsterdam（阿姆斯特丹大学）
从非结构化的低级数据（如像素）中学习高级因果表示和因果模型是不可能的。我们证明在温和的假设下，这种表示是可识别的弱监督设置。这涉及一个数据集，其中包含随机、未知干预前后的配对样本，但没有进一步的标签。然后，我们引入隐式潜在的因果模型，变分自编码器表示因果变量和因果结构，而不必优化显式离散图结构。在简单的图像数据，包括一个新的数据集的模拟机器人操作，我们证明了这样的模型可以可靠地识别因果结构和解开因果变量。
2022-10-11 cs.LG stat.ML
Bayesian Supervised Causal Clustering
School of Informatics, University of Edinburgh（信息学院，爱丁堡大学）；Usher Institute, University of Edinburgh（乌瑟研究所，爱丁堡大学）
本文提出贝叶斯监督因果聚类方法，通过治疗效应指导聚类过程，识别具有相似协变量特征和治疗效应的同质亚组，并在模拟和现实数据上验证其有效性。
2026-03-05 cs.LG stat.ML
The Causal Structure of Domain Invariant Supervised Representation Learning
University of Chicago（芝加哥大学）；Google Research（谷歌研究院）
机器学习方法在部署在与它们被训练的域不同的域中时可能不可靠。通过学习在某种意义上“不变”的表示来缓解这个问题的建议很多。然而，这些方法通常相互矛盾，并且没有一个能始终如一地提高真实世界域转移基准的性能。有两个主要问题必须解决，以了解何时，如果有的话，我们应该使用每种方法。第一，每一个特别的“不变性”概念与现实世界问题的结构有什么关系？第二，学习不变表示何时才能真正产生鲁棒的模型？为了解决这些问题，我们引入了一个广泛的正式概念，它意味着什么现实世界的域转移承认不变的结构。然后，我们描述的因果结构是兼容的这一概念的invariance.With这在手，我们找到的条件下，特定方法的不变性概念对应于现实世界的不变结构，我们澄清不变结构和鲁棒性之间的关系域的变化。对于这两个问题，我们发现数据的真正潜在因果结构起着关键作用。
2023-02-07 cs.LG stat.ML
Weakly Supervised Disentangled Generative Causal Representation Learning
The Hong Kong University of Science and Technology（香港科技大学）；Zhejiang Laboratory（之江实验室）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
提出了一种在适当的监督信息下的分解能量因果表示（DEAR）学习方法.与现有的解开方法，强制独立的潜变量，我们考虑的一般情况下，潜在的利益因素可以是因果关系。我们发现，以前的方法与独立的先验未能解开因果相关的因素，即使在监督。基于这一发现，我们提出了一种新的解纠缠学习方法，称为DEAR，使因果可控生成和因果表示学习。这个新配方的关键成分是使用结构因果模型（SCM）作为双向生成模型的先验分布。然后，使用合适的GAN算法与关于地面实况因素及其潜在因果结构的监督信息结合，与生成器和编码器联合训练先验。我们提供了理论证明所提出的方法的可识别性和渐近收敛。我们进行了大量的实验，合成和真实的数据集，以证明的有效性，DEAR因果可控生成，和下游任务的样本效率和分布鲁棒性方面的学习表示的好处。
2022-08-24 cs.AI cs.LG stat.ML
Supervised Learning Objectives for High-Dimensional Treatment Effects
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Vanguard（先锋）
针对高维处理空间（如文本）的因果推断，提出通过分解因果误差为矩平衡误差序列并优化高阶平衡目标，以及将高维处理投影到低维属性的方法，实现无需属性特定训练的因果估计。
2026-10-16 cs.LG stat.ML
Machine learning in policy evaluation: new tools for causal inference
虽然近年来机器学习（ML）方法受到了很多关注，但这些方法主要用于预测。另一方面，进行政策评估的实证研究人员则专注于因果问题，试图回答反事实的问题：如果没有政策，会发生什么？因为这些反事实永远无法直接观察到（被描述为“因果推断的基本问题“），所以ML文献中的预测工具不能很容易地用于因果推断。在过去的十年中，已经发生了重大创新，将监督ML工具纳入因果参数的估计器中，例如平均处理效应（ATE）。这有望减少模型错误指定问题，并增加模型选择的透明度。一个特别成熟的文献链包括在\textit{unconfoundedness}和阳性假设（也称为交换和重叠假设）下将监督ML方法纳入二元治疗的ATE估计的方法。本文回顾了流行的监督机器学习算法，包括超级学习者。然后，介绍和说明了机器学习在处理效应估计中的一些具体用途，即（1）在处理组和对照组之间建立平衡，（2）估计所谓的滋扰模型（例如，倾向得分或结果的条件期望）以因果参数为目标的半参数估计量（例如，目标极大似然估计或双ML估计），以及（3）在具有大量协变量的情况下使用机器学习进行变量选择。
2019-03-01 cs.LG stat.ML
Representation Learning via Invariant Causal Mechanisms
DeepMind（深度思维）
自监督学习是一种通过仅使用未标记数据预训练表示来减少对昂贵的监督信号的依赖的策略。这些方法将启发式代理分类任务与数据增强相结合，并取得了显著的成功，但我们对这种成功的理论理解仍然有限。在本文中，我们分析了自我监督表示学习使用因果框架。我们展示了如何通过对预训练期间使用的代理分类器进行明确的不变性约束来更有效地利用数据增强。在此基础上，我们提出了一种新的自监督目标，表示学习通过不变的因果机制（ReLIC），强制不变的预测代理目标的增强，通过不变的正则化，从而提高泛化保证。此外，使用因果关系，我们概括了对比学习，一种特殊的自我监督的方法，并提供了这些方法的成功的替代理论解释。从经验上看，ReLIC在ImageNet上的鲁棒性和分布外泛化方面明显优于竞争方法，同时在Atari上也明显优于这些方法，在$57$游戏中的$51$上实现了高于人类水平的性能。
2020-10-15 cs.CV cs.LG stat.ML
Detecting Fraud in Financial Networks: A Semi-Supervised GNN Approach with Granger-Causal Explanations
University of Amsterdam（阿姆斯特丹大学）；KPMG Netherlands（荷兰德勤）
本文提出半监督图神经网络方法SAGE-FIN，利用弱标记数据检测金融网络欺诈，并通过格兰杰因果关系提供可解释性，在Elliptic++数据集上验证了其有效性。
2025-06-25 cs.LG q-fin.ST stat.ML
From dependency to causality: a machine learning approach
Université Libre de Bruxelles（布鲁塞尔自由大学）；Interuniversity Institute of Bioinformatics in Brussels（布鲁塞尔大学生物信息学研究所）
统计依赖性和因果关系之间的关系是所有因果推断的统计方法的核心。ChaLearn因果对挑战的最新结果表明，由于数据驱动的方法，因果方向性也可以在马尔可夫不可区分的配置中以良好的准确性推断出来。本文提出了一种有监督的机器学习方法来推断存在的有向因果关系的两个变量之间的多元设置与$n>2$变量。该方法依赖于两个变量因果连接的马尔可夫毯成员之间的一些条件（不）依赖关系的不对称性。我们的研究结果表明，监督学习方法可以成功地用于提取因果信息的基础上的非对称统计描述符也为$n>2$变量分布。
2014-12-19 cs.AI cs.LG stat.ML
Using Embeddings to Correct for Unobserved Confounding in Networks
Columbia University（哥伦比亚大学）
我们考虑存在未观察到的混杂的因果推断。我们研究的情况下，一个代理是可用于未观察到的混淆的形式的网络连接的单位。例如，社交网络的链接结构携带关于其成员的信息。我们展示了如何有效地使用代理做因果推断。其主要思想是将因果估计问题简化为治疗和结果的半监督预测。网络允许高质量的嵌入模型，可用于这种半监督预测。我们表明，该方法在适当的（弱）条件下的预测模型的质量产生有效的推断。我们验证了半合成的社会网络数据集上的实验方法。代码可在github.com/vveitch/causal-network-embeddings上获得。
2019-05-31 cs.LG stat.ML
Test Time Training for Supervised Causal Learning
Peking University（北京大学）；Shanghai Jiao Tong University（上海交通大学）；Microsoft（微软）；Sony Research（索尼研究）
针对监督因果学习在分布外泛化中的不足，提出测试时训练框架TTT-SCL，通过动态生成与测试实例对齐的训练集，显著提升因果发现性能。
2026-05-28 cs.AI cs.LG
Causal Curiosity: RL Agents Discovering Self-supervised Experiments for Causal Representation Learning
University of Southern California（南加州大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
动物表现出一种天生的能力，通过相互作用来了解世界。通过在他们的环境中进行实验，他们能够辨别变异的因果因素，并推断它们如何影响世界的动态。受此启发，我们试图装备强化学习代理的能力，以执行实验，促进推出的轨迹的分类，并随后推断的因果因素的环境中的分层方式。我们引入{ \em因果好奇心}，一种新的内在奖励，并表明它允许我们的代理人学习最佳的行动序列，并发现因果因素的动态环境。学习的行为允许代理推断每个环境中的地面实况因果因素的二进制量化表示。此外，我们发现这些实验行为在语义上是有意义的（例如，我们的代理学习举起块来按重量对它们进行分类），并且以自我监督的方式学习，所用的数据比传统的监督规划器少大约2.5倍。我们表明，这些行为可以重新利用和微调（例如，从提升到推动或其他下游任务）。最后，我们表明，因果因子表示的知识有助于零样本学习更复杂的任务。访问https://sites.google.com/usc.edu/causal-curiosity/home网站。
2021-08-06 cs.AI cs.LG cs.RO
Bayesian Topic Regression for Causal Inference
University of Oxford（牛津大学）；Amazon（亚马逊）
利用观察性文本数据进行因果推断在许多研究领域正变得越来越流行。本文提出了贝叶斯主题回归（BTR）模型，使用文本和数值信息来建模的结果变量。它允许估计离散和连续处理效应。此外，它允许在文本数据旁边包含额外的数字混淆因素。为此，我们将监督贝叶斯主题模型与贝叶斯回归框架相结合，并结合回归参数训练对文本特征进行监督表示学习，尊重Frisch-Waugh-Lovell定理。我们的论文有两个主要贡献。首先，我们提供了一个回归框架，允许因果推断的设置时，文本和数值的混淆是相关的。我们用合成和半合成数据集表明，当文本和数字特征相关时，我们的联合方法比任何基准模型都能以更低的偏差恢复地面实况。其次，在两个真实世界数据集上的实验表明，与分别估计文本和非文本特征的回归权重的策略相比，联合和监督学习策略也可以产生更好的预测结果，甚至可以与更复杂的深度神经网络竞争。
2021-09-11 cs.CL cs.LG stat.ML
Reliable Estimation of Individual Treatment Effect with Causal Information Bottleneck
KAIST（韩国科学技术院）；AItrics
从观察数据中估计个体水平治疗效应（ITE）是因果机器学习中一个具有挑战性和重要性的领域，并且通常在各种关键任务应用中被考虑。在本文中，我们提出了一个信息理论的方法，以找到更可靠的表示估计ITE。我们利用信息瓶颈（IB）原则，该原则解决了简洁性和表示的预测能力之间的权衡。随着因果信息瓶颈的扩展图形模型的引入，我们鼓励学习表示和治疗类型之间的独立性。我们还从理解半监督学习框架中的ITE的角度引入了一种额外形式的正则化器，以确保更可靠的表示。实验结果表明，我们的模型达到了最先进的结果，并表现出更可靠的预测性能与现实世界的数据集上的不确定性信息。
2019-06-07 cs.LG stat.ML
Counterfactual Propagation for Semi-Supervised Individual Treatment Effect Estimation
Kyoto University（京都大学）
个体治疗效果（ITE）是指对特定目标采取特定措施后预期的治疗效果改善，在各个领域的决策中起着重要作用。然而，其估计问题是困难的，因为干预研究收集关于所应用的治疗的信息（即，行动），其结果往往是相当昂贵的时间和金钱成本。在这项研究中，我们考虑了一个半监督ITE估计问题，利用更容易获得的未标记的实例，以提高ITE估计的性能，使用小的标记数据。我们结合因果推理和半监督学习的两个想法，即匹配和标签传播，分别提出反事实传播，这是第一个半监督ITE估计方法。半真实数据集的实验表明，该方法可以成功地缓解ITE估计中的数据稀缺问题。
2020-05-11 cs.LG stat.ML
Ancestral causal learning in high dimensions with a human genome-wide application
German Center for Neurodegenerative Diseases (DZNE)（德国神经退行性疾病中心（DZNE））
我们考虑在高维度中学习祖先的因果关系。我们的方法是由监督学习的角度驱动的，将因果关系的离散指标视为从可用数据中学习的标签。我们专注于设置中的一些因果（祖先）关系是已知的（通过背景知识或实验数据），并提出了一个通用的方法，规模大的问题。这是由人类生物学中的问题所激发的，这些问题的特征在于高维性和潜在的许多潜在变量。我们提出了一个案例研究，涉及干预数据从人类细胞的总尺寸$p \! \sim \! 19{,}000$。通过测试模型输出与先前未见过的介入数据，凭经验评估性能。所提出的方法是非常有效的，并证明可扩展到人类全基因组设置。我们认为敏感的背景知识，并发现结果是强大的输入信息的非平凡扰动。我们也考虑的情况下，相关的一些应用程序，其中唯一的先验信息涉及少数已知的祖先关系。
2019-05-27 cs.LG stat.ML
A Loss-Function for Causal Machine-Learning
Independent Researcher
因果机器学习是关于预测治疗的净效应（真实提升）。给定一个治疗组和一个控制组的数据，它类似于一个标准的监督学习问题。不幸的是，由于数据中缺乏逐点真值，因此没有类似的定义良好的损失函数。现代机器学习中的许多进展由于缺少这种损失函数而不能直接应用。我们提出了一种新的方法来定义一个损失函数在这种情况下，这是等于在一个标准的回归问题的均方误差（MSE）。我们的损失函数是普遍适用的，从而提供了一个通用的标准，以评估质量的任何模型/战略，预测真电梯。我们证明，尽管其新颖的定义，仍然可以执行梯度下降直接对这个损失函数，以找到最佳的配合。这为训练任何基于参数的模型（如深度神经网络）提供了一种新的方法，可以在不使用元学习者策略的情况下解决因果机器学习问题。
2020-01-02 cs.LG stat.ML
Few-shot Domain Adaptation by Causal Mechanism Transfer
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
我们研究了用于回归问题的Few-Shot监督领域自适应（DA），其中只有少数标记的目标域数据和许多标记的源域数据可用。许多当前的DA方法将其传递假设基于参数化的分布偏移或表观分布相似性，例如，相同的条件或小的分配差异。然而，这些假设可能会排除从错综复杂的变化和显然非常不同的分布适应的可能性。为了克服这个问题，我们提出了机制转移，一个元分布的情况下，数据生成机制是不变的域之间。这种转移假设可以容纳非参数的变化，导致明显不同的分布，同时提供了坚实的统计基础DA。我们以因果建模中的结构方程为例，提出了一种新的DA方法，这是有用的理论和实验。我们的方法可以被看作是第一次尝试充分利用DA的结构因果模型。
2020-08-19 cs.LG stat.ML
