A Causal Framework to Unify Common Domain Generalization Approaches
Huawei（华为）
本文提出一个因果框架，从关键思想、理论依据、方法关联及优劣局限三方面统一理解常见域泛化方法，以揭示底层原理并促进更有效方法的开发。
2023-07-13 cs.AI cs.LG
Anti-causal domain generalization: Leveraging unlabeled data
Apple（苹果公司）；ETH Zürich（苏黎世联邦理工学院）
针对反因果设置下的域泛化问题，提出利用无标签数据估计环境扰动方向，通过惩罚模型对协变量均值和协方差变化的敏感性实现鲁棒性，并提供最坏情况最优性保证。
2026-06-18 cs.LG stat.ML
Causal Balancing for Domain Generalization
University of California, Santa Barbara（加州大学圣巴巴拉分校）；University of Waterloo（滑铁卢大学）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
虽然机器学习模型在各种现实世界的任务中迅速推进了最先进的技术，但考虑到这些模型对虚假相关性的脆弱性，域外（OOD）泛化仍然是一个具有挑战性的问题。我们提出了一个平衡的小批量抽样策略，将有偏的数据分布转换为无杂散的平衡分布，基于数据生成过程的基本因果机制的不变性。我们认为，贝叶斯最优分类器在这样的平衡分布上训练的是在足够多样化的环境空间中的最小最大最优。我们还提供了一个可识别性保证的潜在变量模型的数据生成过程中，利用足够的训练环境。在DomainBed上进行了实验，经验证明我们的方法在基准测试报告的20个基线上获得了最佳性能。
2023-02-19 cs.AI cs.CV cs.LG
Mixstyle-Entropy: Domain Generalization with Causal Intervention and Perturbation
Xiamen University（厦门大学）；The University of Hong Kong（香港大学）
提出基于因果的框架InPer，通过训练时基于熵的因果干预优化因果变量选择，测试时利用因果扰动计算稳态分数构建原型分类器，有效提升了模型在跨域任务中的泛化能力。
2024-08-22 cs.CV cs.LG stat.ME
CAMO: Causality-Guided Adversarial Multimodal Domain Generalization for Crisis Classification
Arizona State University（亚利桑那州立大学）；DEVCOM Army Research Laboratory（陆军研究实验室）
CAMO通过结合对抗去耦与统一表示学习，解决多模态危机分类中的领域泛化问题，提升模型在未见灾害场景下的性能。
2025-12-08 cs.LG
What is a good matching of probability measures? A counterfactual lens on transport maps
Institut Elie Cartan de Lorraine, Université de Lorraine（伊莱·卡坦研究所（洛林）、洛林大学）；Université Paris-Saclay, CNRS, Inria, Laboratoire de mathématiques d’Orsay（巴黎-萨克雷大学、国家科学研究中心、法国国家信息与自动化技术研究院、奥赛数学实验室）
本文比较循环单调、保分位数和三角单调三类传输映射的等价条件，并将反事实推理形式化为边缘分布间传输映射的选择，从而建立统计传输与因果推断的理论联系。
2025-09-19 cs.LG math.ST stat.ME
How Does Distribution Matching Help Domain Generalization: An Information-theoretic Analysis
College of Science, Huazhong Agriculture University（华中农业大学理学院）；China Telecom Corporation（中国电信集团有限公司）
本文从信息论和概率视角分析分布匹配对领域泛化的作用，揭示梯度匹配与表示匹配的互补关系，并提出IDM与PDM方法以同时对齐梯度和表示，从而提升泛化性能。
2024-06-14 cs.LG
Meta-causal Learning for Single Domain Generalization
Beijing Institute of Technology（北京理工大学）；University of Rochester（罗切斯特大学）；Shenzhen MSU-BIT University（深圳北理莫斯科大学）
针对单域泛化中未估计域偏移的问题，提出模拟-分析-减少范式与元因果学习方法，通过构建辅助域、反事实推理发现因果因子并融入域对齐，有效提升了模型在未见目标域上的泛化能力。
2023-04-07 cs.CV cs.LG
Score matching enables causal discovery of nonlinear additive noise models
EPFL（洛桑联邦理工学院）；Amazon Web Services（亚马逊云科技）
本文演示了如何从非线性加性（高斯）噪声模型中的数据分布的分数中恢复因果图。使用分数匹配算法作为一个积木，我们展示了如何设计新一代的可扩展的因果发现方法。为了展示我们的方法，我们还提出了一种新的有效方法来近似分数的雅可比矩阵，从而能够恢复因果图。从经验上讲，我们发现，新的算法，称为SCORE，是最先进的因果发现方法的竞争力，同时显着更快。
2022-03-08 cs.LG stat.ML
Sample Complexity Bounds for Score-Matching: Causal Discovery and Generative Modeling
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Institute of Science Technology Austria（奥地利科学技术研究所）
本文为分数匹配方法建立了统计样本复杂度界，证明用深度ReLU网络和随机梯度下降可准确估计分数函数，并给出其在因果发现和生成建模中的误差上界。
2023-10-27 cs.LG stat.ML
A Novel Computational Framework for Causal Inference: Tree-Based Discretization with ILP-Based Matching
Department of Mechanical and Industrial Engineering（机械与工业工程系）
本文提出结合基于树的离散化技术与基于整数线性规划的匹配算法，以提升因果推断中的计算效率和ATT估计的准确性。
2026-05-06 cs.LG stat.ML
Feature Matching Intervention: Leveraging Observational Data for Causal Representation Learning
Purdue University（普渡大学）
针对观测数据因果发现中缺乏完美干预难以区分因果特征的挑战，提出 Feature Matching Intervention (FMI) 方法，通过匹配过程模拟完美干预并构建因果潜图框架，理论证明其具有强分布外泛化能力，实验验证了其在仅用观测数据有效识别因果特征上的优越性。
2025-03-05 cs.LG stat.ME stat.ML
Neural Score Matching for High-Dimensional Causal Inference
University of Oxford（牛津大学）；University College London（伦敦大学学院）；Alan Turing Institute（艾伦·图灵研究所）
本文提出神经评分匹配方法，通过神经网络获取多变量平衡分数以解决高维因果推断中的匹配问题，展示了其在治疗效应估计和减少不平衡方面的有效性。
2026-02-11 cs.LG stat.ML
Moment-Matching Graph-Networks for Causal Inference
在本文中，我们探索了一个完全无监督的深度学习框架，用于从观测训练数据中模拟非线性结构方程模型。本文的主要贡献是将矩匹配损失函数应用于因果贝叶斯图的边缘，从而生成条件矩匹配图神经网络。因此，该框架使得能够对各种图形干预的潜在空间条件概率分布进行自动采样，并且能够生成样本外干预概率，该样本外干预概率通常忠实于远超出训练集中包含的范围的地面实况分布。这些方法原则上可以与任何现有的自动编码器结合使用，该自动编码器产生包含因果图结构的潜在空间表示。
2020-07-27 cs.LG stat.ML
Learning Continuous Treatment Policy and Bipartite Embeddings for Matching with Heterogeneous Causal Effects
Uber Michelangelo（优步米开朗基罗）；Uber AI（优步人工智能）
因果推理方法广泛应用于医学、政策和经济学领域。这些应用的核心是估计治疗效果以做出决定。目前的方法基于单个结果维度的治疗效果做出二元是或否决定。这些方法无法捕捉连续的空间处理政策与强度的措施。他们还缺乏考虑治疗复杂性的能力，例如将候选治疗与受试者相匹配。我们建议制定治疗的有效性作为一个参数化的模型，扩大到众多的治疗强度和复杂性，通过连续的政策治疗功能，和匹配的可能性。我们的建议，将治疗效果函数分解成有效性因素，提出了一个框架，使用因果推理来模拟丰富的行动空间。我们利用深度学习来优化所需的整体度量空间，而不是预测单维处理反事实。这种方法采用了一个人口范围的有效性措施，并显着提高了模型的整体有效性。我们的算法的性能是。用实验证明。当使用通用连续空间处理和匹配架构时，我们观察到在成本效益方面比现有技术提高了41%，在平均处理效果方面比类似方法提高了68%。该算法捕捉治疗空间中的细微变化，构建有效的优化技术，并为许多应用开辟了舞台。
2020-04-21 cs.AI cs.LG stat.ML
On the Generalization and Adaption Performance of Causal Models
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；ETH Zurich（苏黎世联邦理工学院）；KTH Stockholm（斯德哥尔摩KTH皇家理工学院）；DeepMind（深度思维）
提供鲁棒的分布外泛化和快速自适应的学习模型是现代机器学习的关键挑战。将因果结构建模到神经网络中有望实现鲁棒的零和Few-Shot自适应。最近在可区分因果发现方面的进展已经提出将数据生成过程分解为一组模块，即每个变量的条件分布的一个模块，其中仅因果父项用作预测因子。这种知识的模块化分解使得能够通过仅更新参数的子集来适应分布变化。在这项工作中，我们系统地研究了这种模块化神经因果模型的泛化和自适应性能，将其与单片模型和结构化模型进行比较，其中预测因子集不限于因果父模型。我们的分析表明，模块化神经因果模型优于其他模型的零和Few-Shot适应低数据制度，并提供强大的推广。我们还发现，与密集图相比，稀疏图的效果更显着。
2022-06-09 cs.AI cs.LG stat.ML
Ordering-based Causal Discovery via Generalized Score Matching
Monash University（墨尔本大学）；CSIRO’s Data61（CSIRO的数据61）
本文提出了一种基于通用分数匹配的因果发现方法，通过引入离散分数函数的叶判别准则，实现了对离散数据中真实因果顺序的准确推断，并提升了现有因果发现方法的准确性。
2026-07-28 cs.AI cs.LG
Matching Learned Causal Effects of Neural Networks with Domain Priors
Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）；Microsoft Research（微软研究院）
一个经过训练的神经网络可以被解释为一个结构因果模型（SCM），它提供了改变输入变量对模型输出的影响。然而，如果训练数据包含因果关系和相关关系两者，则优化预测精度的模型可能不一定学习输入变量和输出变量之间的真实因果关系。另一方面，专家用户通常具有关于某些输入变量与来自领域知识的输出之间的因果关系的先验知识。因此，我们提出了一种正则化方法，该方法将神经网络的学习因果效应与域先验（包括直接因果效应和总因果效应）对齐。我们表明，这种方法可以推广到不同类型的域先验，包括单调性的因果效应的输入变量对输出或零因果效应的变量对输出的公平性的目的。我们在12个基准数据集上的实验表明，它在正则化神经网络模型以保持期望的因果效应方面具有实用性，而不影响准确性。重要的是，我们还证明了这样训练的模型是鲁棒的，并且在有噪声的输入上提高了准确性。
2022-06-29 cs.AI cs.LG
Fast Flow Matching based Conditional Independence Tests for Causal Discovery
Graduate University of Advanced Studies（高级研究大学）；The Institute of Statistical Mathematics（统计数学研究所）；East China Normal University（华东师范大学）
本文提出FMCIT方法，通过流匹配技术加速条件独立性检验，结合两阶段引导PC骨架学习框架，提升因果发现的效率与准确性。
2026-02-09 cs.LG stat.ML
Causal Forecasting:Generalization Bounds for Autoregressive Models
University of Tübingen（图宾根大学）；Amazon Research（亚马逊研究院）；Technical University of Munich（慕尼黑工业大学）
尽管预测方法的相关性越来越高，但这些算法的因果关系在很大程度上仍未得到探索。这是考虑到，即使在简化的假设，如因果充分性，一个模型的统计风险可以从它的\textit{causal risk}显着不同。在这里，我们研究的问题，\textit{causal generalization} -概括从观察干预分布-在预测。我们的目标是找到这个问题的答案：自回归（VAR）模型在预测统计关联方面的有效性与其在干预下的预测能力相比如何？为此，我们介绍了预测的\textit{causal learning theory}的框架。使用这个框架，我们获得了统计和因果风险之间的差异，这有助于确定它们之间的分歧来源的表征。在因果充分性下，因果泛化的问题相当于协变量变化下的学习，尽管有额外的结构（限制VAR模型下的干预分布）。这种结构使我们能够获得一致的收敛界的因果推广的VAR模型类。据我们所知，这是第一个工作，提供了理论保证因果概括的时间序列设置。
2022-09-08 cs.LG stat.ML
Invariant Structure Learning for Better Generalization and Causal Explainability
Google Cloud AI（谷歌云人工智能）；University of Southern California（南加州大学）
学习数据背后的因果结构对于提高泛化能力和获得高质量的解释是非常宝贵的。我们提出了一个新的框架，不变结构学习（ISL），旨在提高因果结构发现利用泛化作为指示。ISL将数据分割到不同的环境中，并通过施加一致性约束来学习在不同环境中对目标不变的结构。然后，聚合机制基于图结构选择最佳分类器，该图结构与从各个环境中学习的结构相比更准确地反映了数据中的因果机制。此外，我们将ISL扩展到自监督学习设置，其中准确的因果结构发现不依赖于任何标签。这种自监督ISL通过迭代地将不同的节点设置为目标来利用不变的因果关系提案。在合成和真实世界的数据集上，我们证明了ISL准确地发现了因果结构，优于其他方法，并为具有显著分布偏移的数据集提供了优越的泛化能力。
2022-06-13 cs.LG stat.ML
A Survey of Out-of-distribution Generalization for Graph Machine Learning from a Causal View
Case Western Reserve University（凯斯西储大学）
本文从因果视角全面综述了图机器学习的分布外泛化问题，介绍了因果驱动方法如何通过探究数据生成与模型预测的因果机制提升泛化能力，并探讨了其在可信赖GML领域的应用与未来方向。
2024-10-16 cs.AI cs.LG
CaLMFlow: Volterra Flow Matching using Causal Language Models
Yale University（耶鲁大学）；Idaho State University（爱达荷州立大学）
本研究提出CaLMFlow框架，将流匹配转化为Volterra积分方程并建模为序列任务，用因果语言模型实现连续数据生成，在多数据集上表现优于传统方法，为生成建模提供新范式。
2024-10-03 cs.AI cs.LG q-bio.QM
Statistical Inference via Generative Models: Flow Matching and Causal Inference
Shinto Eguchi
本书通过流匹配方法，将生成模型重新诠释为非参数学习高维概率分布的统计工具，用于解决生存分析、删失、缺失和因果推断等结构性高维问题。
2026-03-09 cs.LG stat.ML
Matching a Desired Causal State via Shift Interventions
MIT（麻省理工学院）
将因果系统从给定的初始状态转换到期望的目标状态是一项重要的任务，渗透到包括控制理论，生物学和材料科学在内的多个领域。在因果模型中，这种转换可以通过执行一系列干预来实现。在本文中，我们考虑的问题，通过主动学习识别一个偏移干预，匹配系统的期望均值。我们定义的马尔可夫等价类，是可识别的移位干预，并提出了两个积极的学习策略，保证完全匹配所需的平均值。然后，我们推导出一个最坏情况下的下限所需的干预措施的数量，并表明这些策略是最佳的某些类的图。特别是，我们表明，我们的策略可能需要比以前考虑的方法，优化结构学习的基础因果图指数更少的干预。与我们的理论结果一致，我们还通过实验证明，与几个基线相比，我们提出的主动学习策略需要更少的干预。
2021-10-20 cs.LG stat.ME stat.ML
Humanoid-inspired Causal Representation Learning for Domain Generalization
本文提出受人类视觉分层处理启发的因果框架HSCM，通过解耦并重加权颜色、纹理、形状等属性建模细粒度因果机制，从而提升跨域泛化、稳健性与可解释性。
2025-10-18 cs.AI cs.LG
Learning Time-Aware Causal Representation for Model Generalization in Evolving Domains
Independent Researcher, China（独立研究者）
针对演化领域泛化中虚假相关性阻碍泛化的问题，提出时间感知结构因果模型与SYNC方法，通过整合信息论目标至序列VAE框架学习时间感知因果表示，实现更优的时间泛化性能。
2025-06-28 cs.LG stat.ML
Deep Learning for Causal Inference
Stanford University Graduate School of Business（斯坦福大学商学院）
在本文中，我们提出了用于计量经济学的深度学习技术，特别是用于因果推断和估计个体以及平均处理效应。本文的贡献是双重的：1。对于广义近邻匹配估计个人和平均处理效应，我们分析了使用自动编码器进行降维，同时保持嵌入空间中数据点之间的局部邻域结构。这种基于深度学习的技术在估计处理效应方面表现优于简单的k近邻匹配，特别是当数据点具有多个特征/协变量但位于高维空间中的低维流形时。我们还观察到更好的性能比流形学习方法的邻居匹配。2.倾向分数匹配是一种执行匹配以估计平均和个体处理效应的特定且流行的方式。我们建议使用深度神经网络（DNN）进行倾向分数匹配，并为此提出了一个名为PropensityNet的网络。这是传统上用于估计倾向分数的逻辑回归技术的概括，我们根据经验表明，DNN在倾向分数匹配方面的表现优于逻辑回归。这两种方法的代码将很快在Github上提供：https://github.com/vikas84bf
2018-03-01 cs.LG econ.EM stat.ML
Out-of-distribution Generalization with Causal Invariant Transformations
University of Chinese Academy of Sciences（中国科学院大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在现实世界的应用程序中，学习在分发外（OOD）数据上表现良好的模型非常重要且可取。最近，因果关系已成为一个强大的工具，以解决面向对象的泛化问题，其思想依赖于因果机制，是跨领域的利益不变。为了利用通常未知的因果机制，现有的作品假设因果特征的线性形式，或者需要足够多和不同的训练域，这在实践中通常是限制性的。在这项工作中，我们将这些假设和解决OOD问题，而不显着恢复的因果功能。我们的方法基于修改非因果特征但保持因果部分不变的转换，这可以从先验知识中获得，也可以从多域场景中的训练数据中学习。在不变因果机制的设置下，我们从理论上证明了，如果所有这样的转换是可用的，那么我们可以学习一个极小极大最优模型跨域仅使用单域数据。注意到，知道这些因果不变变换的完整集合可能是不切实际的，我们进一步表明，它足以知道这些变换的一个子集。基于理论研究结果，提出了一种正则化的训练过程，以提高OOD的泛化能力。在人工和真实数据集上的大量实验结果验证了该算法的有效性，即使只有几个因果不变变换。
2022-03-24 cs.LG stat.ML
Causal Structural Hypothesis Testing and Data Generation Models
University of California, Los Angeles（加州大学洛杉矶分校）
大量的专家和领域知识被捕获的因果结构先验，但一直很少有研究测试这样的先验的泛化和数据合成的目的。我们提出了一种新的模型架构，因果结构假设检验，可以使用非参数，结构因果知识和近似因果模型的功能关系，使用深神经网络。我们使用这些架构来比较结构先验，类似于假设检验，使用训练和测试数据的故意（非随机）分裂。大量的模拟证明了分布外泛化误差作为因果结构先验假设检验的代理的有效性，并为解释结果提供了统计基线。我们表明，变分版本的架构，因果结构变分假设检验可以提高性能在低信噪比制度。由于模型的简单性和低参数计数，从业者可以在小数据集上测试和比较结构先验假设，并使用具有最佳泛化能力的先验来合成更大的因果信息数据集。最后，我们在合成摆数据集上验证了我们的方法，并在现实世界的创伤手术地面坠落数据集上展示了一个用例。
2022-11-04 cs.AI cs.LG stat.ML
Scalable Causal Discovery with Score Matching
Università di Genova（热那亚大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；Carnegie Mellon University（卡内基梅隆大学）；Amazon Web Services（亚马逊云科技）
本文提出 DAS 算法，通过可扩展的机器学习方法近似得分函数并利用对数似然二阶导数，在非线性加性高斯噪声模型中高效发现完整因果图，大幅降低修剪复杂度，在保持准确性的同时显著提升速度。
2023-04-06 cs.LG stat.ML
Generalization in anti-causal learning
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学院学习系统中心）
在新的情况下学习和行动的能力仍然是动画智能的特权，因为当前的机器学习方法在超出标准i.i.d.时大多失败。设置.出现这种差异的原因是什么？大多数机器学习任务都是反因果的，即，我们从结果（观察）中推断原因（标签）。通常，在监督学习中，我们构建的系统试图直接反转因果机制。相反，在本文中，我们认为，强大的泛化能力关键取决于搜索和验证有意义的假设，需要访问因果模型。在这样一个框架中，我们希望找到导致观察到的结果的原因。反因果模型用于驱动此搜索，但需要因果模型进行验证。我们调查因果和反因果任务之间的根本区别，讨论的主题范围从对抗攻击解开变量的因素的影响，并提供了大量的证据，从文献中证实我们的观点。我们提倡在监督学习中引入因果模型，以将范式从仅推理转变为搜索和验证。
2018-12-03 cs.LG stat.ML
Joint Learning of Label and Environment Causal Independence for Graph Out-of-Distribution Generalization
Texas A&M University（德克萨斯A&M大学）
本文提出标签与环境因果独立性（LECI）联合学习方法，通过对抗训练同时利用标签和环境信息发现因果子图，显著提升图分布外泛化性能。
2023-10-31 cs.AI cs.LG
Interpretable Almost Matching Exactly for Causal Inference
Duke University（杜克大学）
我们的目标是为潜在结果框架中的分类数据创建尽可能高质量的治疗-对照匹配。匹配方法由于其可解释性而在社会科学中大量使用，但大多数匹配方法都不能通过基本的健全性检查：当引入不相关的变量时，它们会失败，并且往往要么计算缓慢，要么产生低质量的匹配。在这项工作中提出的方法的目的是匹配加权汉明距离的单位，考虑到协变量的相对重要性;该算法的目的是匹配尽可能多的相关变量的单位。为此，该算法创建了一个协变量组合的层次结构，在此基础上进行匹配（类似于向下闭包），在此过程中为每个单元解决一个优化问题，以构建最佳匹配。该算法使用一个单一的动态程序来解决所有的优化问题同时进行。我们的方法比现有的匹配程序显着的优点是其高质量的匹配，在处理不同的数据分布，可能有不相关的变量，并能够处理缺失数据尽可能多的可用协变量匹配。
2019-06-08 cs.LG stat.ME stat.ML
RepFlow: Representation Enhanced Flow Matching for Causal Effect Estimation
Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University, Hong Kong, China（数据科学与人工智能系，香港理工大学，香港，中国）
RepFlow通过结合表示学习与条件流匹配，解决因果推断中的选择偏差问题，提升因果效应估计的精度与鲁棒性。
2026-05-07 cs.LG stat.ME
Score-matching-based Structure Learning for Temporal Data on Networks
School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院）；University of Cambridge（剑桥大学）
本文提出PICK算法，通过改进父节点查找子程序提升分数匹配在处理独立同分布及时序网络数据时的效率与准确性。
2026-04-12 cs.LG stat.ML
Rethinking Causal Action Tokenization with Conditional Annealing in Flow Matching
IIIS, Tsinghua University（清华大学智能产业研究院）；Shanghai Qizhi Institute（上海期智研究院）
针对自回归视觉-语言-动作模型动作标记化与骨干网络语义不对齐的问题，提出因果动作标记器CATok，通过条件退火流匹配构建从粗到细的因果标记空间，配合MMDiT解码器实现高保真重建，在模拟和真实机器人任务中优于现有方法。
2026-09-29 cs.AI cs.LG cs.RO
Membership Inference Attacks and Generalization: A Causal Perspective
National University of Singapore（新加坡国立大学）；Hong Kong University of Science and Technology（香港科技大学）；Microsoft Research（微软研究院）
隶属度推断（MI）攻击突出了现有神经网络随机训练方法的隐私弱点。然而，人们并不很清楚它们为什么会出现。它们仅仅是不完美的概括的自然结果吗？在培训期间，我们应该解决哪些根本原因，以减轻这些攻击？为了回答这些问题，我们提出了第一种方法来解释MI攻击及其与基于原则因果推理的泛化的联系。我们提供因果关系图，定量解释所观察到的MI攻击性能达到$6$攻击变种。我们驳斥了几个先前的非定量假设，这些假设过度简化或高估了潜在原因的影响，从而未能捕捉到几个因素之间复杂的相互作用。我们的因果模型还显示了泛化和MI攻击之间的新联系，通过其共享的因果因素。我们的因果模型具有高预测能力（$0.90$），即，他们的分析预测往往与看不见的实验中的观察相吻合，这使得通过他们进行分析成为一种实用的选择。
2022-10-30 cs.AI cs.CR cs.LG
Interpretation and Generalization of Score Matching
University at Albany, SUNY（纽约州立大学奥尔巴尼分校）
分数匹配是近年来发展起来的一种参数学习方法，它对具有复杂划分函数的高维密度模型特别有效。在本文中，我们研究了两个问题，尚未完全解决的分数匹配。首先，我们提供了一个正式的最大似然和得分匹配之间的联系。我们的分析表明，分数匹配发现模型参数，更强大的噪声训练数据。其次，我们开发了一个泛化的分数匹配。基于这种推广，我们进一步证明了扩展的分数匹配模型的离散数据。
2012-05-09 cs.LG stat.ML
Generalized Decision Transformer for Offline Hindsight Information Matching
The University of Tokyo（东京大学）；Google Research（谷歌研究院）
如何从每个轨迹数据中提取尽可能多的学习信号一直是强化学习（RL）的关键问题，其中样本效率低下给实际应用带来了严重挑战。最近的工作表明，使用表达性策略函数近似器和对未来轨迹信息的条件作用-例如决策Transformer（DT）中的后见之明经验重放或返回到去的未来状态-可以有效地学习多任务策略，其中有时在线RL完全被离线行为克隆所取代，例如序列建模。我们证明了所有这些方法都在进行事后信息匹配（HIM）-训练策略，可以输出与未来状态信息的一些统计数据相匹配的其余轨迹。我们提出了广义决策Transformer（GDT）解决任何HIM问题，并显示如何不同的选择的功能和反因果聚合器不仅恢复DT作为一个特例，但也导致新的分类DT（CDT）和双向DT（BDT）匹配不同的统计数据的未来。为了评估CDT和BDT，我们定义了离线多任务状态边缘匹配（SMM）和模仿学习（IL）作为两个通用的HIM问题，提出了一个Wasserstein距离损失作为度量，并在MuJoCo连续控制基准上进行了实证研究。CDT简单地用DT中的反因果分箱替换了反因果求和，实现了第一个有效的离线多任务SMM算法，该算法可以很好地推广到看不见的甚至是合成的多模态状态特征分布。BDT使用反因果第二Transformer作为聚合器，可以学习对未来的任何统计数据进行建模，并在离线多任务IL中优于DT变体。我们从HIM和GDT的广义公式大大扩展…
2022-02-04 cs.AI cs.LG stat.ML
Discrete Score Matching Enables Causal Discovery from Count Data
Seoul National University（首尔大学）
针对计数数据因果发现中导数不可用的问题，提出基于条件曲率分数（CCS）和非对角曲率分数（OCS）的DISCO算法，实现半参数GLM DAG的识别与恢复，实验验证了多种分布下的准确性和可扩展性。
2026-10-01 cs.LG stat.ML
Vector Search As Nearest Neighbor Matching: RAG-based Policy Learning in Causal Inference
np-hard.co.jp（np-hard公司）
研究提出基于检索增强生成（RAG）的策略学习一步法和两步法，两步法通过向量搜索等进行行动选择，还将两步法遗憾分解并界定，直接评估一步法为策略，把特定行动向量搜索与因果推断最近邻匹配相联系。
2026-07-21 cs.LG econ.EM math.ST
Prediction-powered Generalization of Causal Inferences
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard（埃里克和温迪·施密特中心，麻省理工学院与哈佛大学博德研究所）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Department of Computational Precision Health, UC Berkeley and UCSF（加州大学伯克利分校与加州大学旧金山分校计算精准健康系）
针对RCT因果推断因样本有限难以泛化到目标人群的问题，提出利用观察性研究预测模型补充试验数据的泛化算法，在OS高质量时提升泛化效果，在低质量时保持稳健。
2024-06-05 cs.LG stat.ML
Generalization Bounds for Causal Regression: Insights, Guarantees and Sensitivity Analysis
Fundação Getúlio Vargas（热图里奥·瓦加斯基金会）；School of Applied Mathematics（应用数学学院）
针对因果机器学习算法缺乏有限样本下质量理论的问题，提出基于泛化界的理论，通过新测度变换不等式给出模型损失紧界，理论严谨且适用于隐藏混杂、正定性违反场景，经半合成与真实数据验证了界的紧性与实用性。
2024-05-15 cs.LG stat.ML
Intervention-Based Time Series Causal Discovery via Simulator-Generated Interventional Distributions
Kyushu Institute of Technology（九州工业大学）
本文提出SVAR-FM框架，利用物理模拟器实现Pearl的do操作，通过物理约束消除混杂路径，利用条件流匹配学习非线性干预条件，理论证明结构VAR在覆盖条件下可识别，并通过四个科学领域实验验证其有效性。
2026-05-11 cs.AI cs.LG
Generalization Bounds for Set-to-Set Matching with Negative Sampling
ZOZO Research（ZOZO研究院）
匹配两组多个元素的问题，即集合到集合匹配，近年来受到了极大的关注。特别地，已经报道了通过准备神经网络作为匹配函数可以获得良好的实验结果，特别是在例如集合的每个元素是图像的复杂情况下。然而，理论分析集到集匹配与这样的黑盒功能是缺乏的。本文旨在执行一个泛化错误分析集到集匹配，以揭示该任务中的模型的行为。
2023-02-25 cs.LG stat.ML
AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching
AI Thrust, Information Hub, The Hong Kong University of Science and Technology (Guangzhou)（人工智能 thrust，信息中心，香港科学与技术大学（广州））
提出AG-REPA方法，通过前向门控消融量化各层对速度场的因果贡献，实现稀疏层选择和自适应加权对齐，在音频流匹配中优于传统REPA基线。
2026-07-24 cs.AI cs.LG cs.MM
Transition Matching: Scalable and Flexible Generative Modeling
Weizmann Institute of Science（魏茨曼科学研究院）；FAIR at Meta（Meta的FAIR）；Work done during internship at FAIR at Meta（在Meta的FAIR实习期间的工作）
本文提出Transition Matching（TM），一种离散时间连续状态生成范式，通过将复杂生成任务分解为简单的Markov转移，统一并推进了diffusion/flow模型与连续AR生成，其变体在图像质量和文本遵循度上达到SOTA。
2025-06-30 cs.AI cs.LG
CGRL: Causal-Guided Representation Learning for Node-Level Out-of-Distribution Generalization
School of Artificial Intelligence, Anhui University, Hefei, China（人工智能学院，安徽大学，合肥，中国）
本文提出CGRL方法，通过因果引导学习提升图数据在分布外情况下的泛化能力，结合因果表示学习和损失替换策略，有效缓解互信息学习不稳定问题。
2026-08-13 cs.LG stat.ML
dame-flame: A Python Library Providing Fast Interpretable Matching for Causal Inference
Duke University（杜克大学）；Harvard University（哈佛大学）；Fudan University（复旦大学）；New York University（纽约大学）
dame-flame是一个Python包，实现了DAME和FLAME算法，利用机器学习在离散协变量子集上快速、可解释地匹配处理组与控制组，以进行观察性因果推断并计算处理效应。
2023-04-02 cs.LG cs.MS
Causal Discovery with Score Matching on Additive Models with Arbitrary Noise
Università di Genova（热那亚大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；Carnegie Mellon University（卡内基梅隆大学）；Amazon Web Services（亚马逊云科技）
本文分析了高斯噪声假设下因果推断的边反转风险，提出了一种基于任意噪声分布加性非线性模型推断拓扑排序的新方法 NoGAM，在合成数据上实现了最先进的因果发现性能。
2023-04-06 cs.LG stat.ME
Improving Multi-Task Generalization via Regularizing Spurious Correlation
University of California, Los Angeles（加州大学洛杉矶分校）；Google Research（谷歌研究院）
多任务学习（MTL）是一种通过知识共享来提高泛化性能的强大学习范式。然而，现有的研究发现，MTL有时会损害概括，特别是当两个任务相关性较低时。损害泛化的一个可能原因是虚假相关，即，有些知识是虚假的，与任务标签没有因果关系，但模型可能错误地利用它们，因此当这种相关性发生变化时，模型就会失败。在MTL设置中，存在伪相关的几个独特挑战。首先，具有非因果知识的风险更高，因为共享的MTL模型需要对来自不同任务的所有知识进行编码，并且一个任务的因果知识可能对另一个任务是虚假的。第二，任务标签之间的混淆给MTL带来了不同类型的虚假相关。我们从理论上证明了MTL比单任务学习更倾向于从其他任务中获取非因果知识，从而概括性更差。针对这一问题，本文提出了多任务因果表示学习框架，旨在通过分解神经模块来表示多任务知识，并通过特定于MTL的不变正则化来学习哪个模块与每个任务有因果关系。实验结果表明，通过缓解虚假相关问题，MTL模型的性能比Multi-MNIST，MovieLens，Taskonomy，CityScape和NYUv 2平均提高了5.5%。
2022-11-24 cs.AI cs.LG
Quantifying Distributional Invariance in Causal Subgraph for IRM-Free Graph Generalization
本文提出无IRM的图泛化方法，基于不变分布准则量化因果子图分布不变性，通过范数引导目标发现因果子图，在两个基准上超越现有方法。
2025-10-23 cs.LG
Age Predictors Through the Lens of Generalization, Bias Mitigation, and Interpretability: Reflections on Causal Implications
Leibniz Institute on Aging — Fritz Lipmann Institute (FLI)（利普希茨衰老研究所——弗里茨·利普曼研究所）；Scuola Normale Superiore（正常大学）
本文探讨了通过消除外源性属性如种族、性别或组织来提升年龄预测的泛化能力，讨论了可解释神经网络模型在因果推断中的局限性。
2026-03-17 cs.AI cs.LG
