A Fast Kernel-based Conditional Independence test with Application to Causal Discovery
University of Hamburg（汉堡大学）
本文提出FastKCI，一种基于核的快速条件独立性检验方法，通过并行化和专家混合策略提升计算效率，适用于大规模因果发现任务。
2025-12-04 cs.AI cs.LG stat.ML
Least-Squares Independence Regression for Non-Linear Causal Inference under Non-Gaussian Noise
加性非高斯噪声模型下的非线性因果关系的发现因其灵活性而受到广泛关注。在本文中，我们提出了一种新的因果推断算法称为最小二乘独立回归（LSIR）。LSIR通过最小化输入和残差之间的平方损失互信息的估计来学习加性噪声模型。与现有方法相比，LSIR的一个显着优势是可以通过交叉验证自然优化内核宽度和正则化参数等参数，从而避免以数据依赖的方式进行过拟合。通过对真实数据集的实验，我们表明LSIR与最先进的因果推断方法相比毫不逊色。
2011-03-30 stat.ML
Independence Testing-Based Approach to Causal Discovery under Measurement Error and Linear Non-Gaussian Models
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
因果发现旨在恢复产生观测数据的因果结构。尽管它在某些问题上取得了成功，但在许多现实世界的场景中，观察到的变量不是感兴趣的目标变量，而是目标变量的不完美度量。测量误差下的因果发现是指从测量误差下的观测数据中恢复出未观测目标变量之间的因果关系图。我们考虑一个特定的配方的问题，其中未观察到的目标变量遵循线性非高斯非循环模型，测量过程遵循随机测量误差模型。现有的方法在此制定依赖于不可扩展的过完备独立分量分析（OICA）。在这项工作中，我们提出了转换的独立噪声（TIN）条件，它检查一些测量变量和某些其他测量变量的特定线性变换之间的独立性。通过利用数据的非高斯性和高阶统计量，TIN提供了关于未观察到的目标变量之间的图结构的信息。利用TIN，因果模型的有序群分解是可识别的。换句话说，我们可以通过进行独立性测试来实现曾经要求OICA实现的目标。在合成数据和真实数据上的实验结果证明了该方法的有效性和可靠性。
2022-10-20 cs.AI cs.LG stat.ML
Causal Domain Adaptation with Copula Entropy based Conditional Independence Test
Hitachi China Research Laboratory（日立中国研究院）
领域自适应（DA）是机器学习中的一个典型问题，其目的是将在源域上训练的模型迁移到具有不同分布的目标域上。因果性DA是DA的一种特殊情况，它从因果关系的角度解决问题。它将多个域中的概率关系嵌入到系统的一个更大的因果结构网络中，并试图找到系统上的因果源（或干预）作为系统状态跨域分布漂移的原因。从这个意义上说，因果DA转换为因果发现问题，通过状态变量和系统的可观察状态之间的条件独立性，发现跨域的不变表示给定干预。检验条件独立性是因果发现的基石。最近，基于Copula熵的条件独立性检验被提出，它具有严格的理论和非参数估计方法。本文首先给出了因果DA问题的一个数学模型，然后提出了一种基于Copula熵的条件独立性检验的因果DA问题跨域不变表示方法。两个仿真数据验证了该方法的有效性。该方法的力量，然后证明了两个现实世界的数据：成人人口普查收入数据和步态特征数据。
2022-02-27 cs.LG stat.ME
A Conditional Independence Test in the Presence of Discretization
Cranberry-Lemon University（蔓越莓柠檬大学）；University of the Witwatersrand（金山大学）
针对仅能观测潜在连续变量离散化版本导致传统条件独立性检验失效的问题，提出基于桥接方程恢复潜变量统计参数并推导渐近分布的新检验方法。
2025-03-18 cs.AI cs.LG stat.ML
Meta-Dependence in Conditional Independence Testing
Thayer School of Engineering Dartmouth College（达特茅斯学院工程学院）；Schmidt Center Broad Institute of MIT and Harvard（MIT和哈佛大学Broad研究所Schmidt中心）；Laboratory for Information and Decision Systems Massachusetts Institute of Technology（信息与决策系统实验室麻省理工学院）；Broad Institute of MIT and Harvard（MIT和哈佛大学Broad研究所）
研究条件独立测试中的元依赖性，利用几何直觉，通过矩投影给出易于计算的度量，该度量不依赖分布图形属性，可直接从汇总统计量计算，还展示其在调整显著性阈值和改进因果发现方面的应用。
2026-07-14 cs.IT cs.LG math.IT
Approximate Kernel-based Conditional Independence Tests for Fast Non-Parametric Causal Discovery
基于约束的因果发现（CCD）算法需要快速准确的条件独立性（CI）测试。核条件独立性检验（KCIT）是目前最流行的非参数条件下的CI检验方法之一，但由于该检验方法与样本量的关系不大，许多研究者无法将其应用于大数据集。因此，我们设计了两个松弛称为随机条件独立性测试（RCIT）和随机条件相关性测试（RCoT），这两个近似KCIT利用随机傅立叶特征。在实践中，这两个拟议的测试规模与样本量线性和返回准确的p值比KCIT在大样本量的背景下快得多。使用RCIT或RCoT运行的CCD算法也返回至少与使用KCIT运行的相同算法一样准确的图形，但运行时间大大减少。
2017-04-13 stat.ME stat.ML
A Robust Independence Test for Constraint-Based Learning of Causal Structure
Decision Systems Laboratory（决策系统实验室）；Intelligent Systems Program（智能系统项目）；University of Pittsburgh（匹兹堡大学）；School of Information Sciences（信息科学学院）
基于约束（CB）的学习是一种通过执行一系列条件独立性测试来推断结构信息来学习具有数据库D的因果网络的形式主义。本文考虑了一种新的独立性测试，它结合了贝叶斯学习，贝叶斯网络推理和经典假设检验的思想，以产生更可靠和更强大的测试。新的检验可以在与标准检验（如卡方检验）相同的渐近时间和空间中计算，但它允许指定参数的先验分布，并且可以在数据库不完整时使用。我们证明了测试是正确的，我们证明了经验，当使用CB因果发现算法与noninformative先验，它恢复结构特征更可靠，它产生的网络与较小的KL发散，特别是随着节点的数量增加或记录的数量减少。另一个好处是CB算法在搜索过程中停止的概率大大降低，为数据库较小时CB学习的恼人问题提供了补救措施。
2012-10-19 cs.AI cs.LG stat.ML
Latent Instrumental Variables as Priors in Causal Inference based on Independence of Cause and Mechanism
Sorbonne University（索邦大学）
基于条件独立的因果推理方法构造马尔可夫等价图，不能应用于二元情况。相反，基于原因和机制独立性的方法则认为因果发现可以从两个观测结果中推断出来。在我们的贡献，我们挑战调和这两个研究方向。我们研究了潜在的变量，如潜在的工具变量和隐藏的共同原因的因果图形结构中的作用。我们发现，基于原因和机制的独立性的方法，间接包含的痕迹存在的隐藏的工具变量。我们推导出一种新的算法来推断两个变量之间的因果关系，我们验证了模拟数据和基准的因果对所提出的方法。我们说明我们的实验，所提出的方法是简单的和极具竞争力的经验准确性相比，国家的最先进的方法。
2020-07-17 cs.AI cs.LG stat.ME
Fast Nonparametric Conditional Independence Testing via Two-Stage Regression
Department of Biomedical Informatics, University of Pittsburgh（生物医学信息学系，匹兹堡大学）
提出BLITZ方法，通过两阶段回归（低阶多项式+浅层树）快速消除条件集影响，实现校准良好的非参数条件独立性检验，适用于因果发现。
2026-06-23 cs.LG stat.ME stat.ML
Efficient Ensemble Conditional Independence Test Framework for Causal Discovery
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）
本文提出了一种高效的条件独立性测试框架，通过分组聚合策略降低计算复杂度并提升因果发现性能。
2026-02-27 cs.AI cs.LG stat.ML
Causal Discovery with Fewer Conditional Independence Tests
Eric and Wendy Schmidt Center, Broad Institute（埃里克和温迪·施密特中心，布罗德研究所）；Laboratory for Information & Decision Systems, Massachusetts Institute of Technology（麻省理工学院信息与决策系统实验室）
针对约束式因果发现算法需指数级条件独立性检验的问题，提出用多项式数量检验学习因果一致划分图（CCPG），在可识别情况下可还原真实因果图。
2024-06-03 cs.AI cs.LG stat.ME
Identification of Treatment Effects under Conditional Partial Independence
治疗分配与潜在结局的条件独立性是一个常用但不可反驳的假设。我们从这个条件独立性假设的非参数偏差下获得各种处理效应参数的识别集。这些偏差通过条件治疗分配概率定义，这使得解释简单明了。我们的研究结果可以用来评估基线条件独立假设下获得的经验结论的稳健性。
2017-07-29 econ.EM stat.ME
On the Number of Conditional Independence Tests in Constraint-based Causal Discovery
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard（埃里克和文黛斯中心，MIT和哈佛Broad研究所）；Centre de Formació Interdisciplinària Superior, Universitat Politècnica de Catalunya（跨学科高级培训中心，加泰罗尼亚理工大学）；Laboratory for Information and Decision Systems, Massachusetts Institute of Technology（信息与决策系统实验室，麻省理工学院）
本文提出一种复杂度更低的算法，通过减少条件独立性测试数量提升因果发现效率，同时证明了约束方法的理论下限。
2026-03-23 cs.AI cs.LG stat.ME
Extended Conditional Independence and Applications in Causal Inference
本文的目标是将随机条件独立性和变异条件独立性的概念整合到一个更一般的扩展条件独立性的概念之下。我们表明，在适当的假设下，分别适用于这两种情况（公理的分离体）的微积分仍然适用于扩展的情况。这些结果提供了一个严格的基础，广泛的统计概念，包括辅助性和充分性，特别是决策理论框架的统计因果关系，它使用的语言和演算的条件独立性，以表达因果属性，并作出因果推断。
2015-12-01 math.ST stat.ME stat.TH
Towards Dynamic Causal Discovery with Rare Events: A Nonparametric Conditional Independence Test
University of California, Berkeley（加州大学伯克利分校）
针对动态系统中仅在稀有低概率事件发生时显现的因果联系，提出基于时不变状态叠加数据的非参数条件独立性检验，给出非渐近样本复杂度界，并在模拟与PeMS真实事故数据上验证。
2023-07-17 cs.LG cs.SY eess.SY
On the Intersection Property of Conditional Independence and its Application to Causal Discovery
本文研究了条件独立性的交集性质。它指出，对于随机变量$A,B,C$和$X$，我们有$X$独立于$A$给定$B,C$和$X$独立于$B$给定$A,C$意味着$X$独立于$(A,B)$给定$C$。在联合分布具有连续密度的假设下，我们给出了相交性成立的充要条件。结果有直接的应用因果推理：它导致严格较弱的条件下，图形结构成为可识别的加性噪声模型的联合分布。
2014-03-04 math.PR stat.ML
Conditional Local Independence Testing for Itô processes with Applications to Dynamic Causal Discovery
School of Computer Science, Peking University（北京大学计算机学院）；School of Data Science, Fudan University（复旦大学数据科学学院）
本文针对Itô过程提出条件局部独立性假设检验，基于半鞅分解构造鞅检验统计量，并证明其一致性，应用于动态因果发现及脑fMRI数据。
2025-10-08 cs.LG stat.ME
On sample complexity of conditional independence testing with Von Mises estimator with application to causal discovery
EPFL（洛桑联邦理工学院）
本文研究多元分布熵的非参数 Von Mises 估计器，建立其指数集中不等式，并据此提出条件独立性检验 VM-CI，证明了其误差紧上界，首次为连续变量因果发现提供了样本复杂度保证。
2023-10-20 cs.LG
Insights into the "cross-world" independence assumption of causal mediation analysis
因果中介分析是流行病学研究的一个有用工具，但它一直被批评依赖于“跨世界”的独立性假设，这是经验上难以验证和有问题的证明基础上的背景知识。在本文中，我们的目的是帮助应用研究人员理解这一假设。综合什么是已知的跨世界的独立性假设，我们讨论的因果中介分析，因果模型，自然的直接和间接影响的非参数识别的假设之间的关系。特别是，我们给出了一个实际的例子，应用设置的跨世界的独立性假设被违反，即使没有任何后处理混杂。此外，我们回顾了跨世界独立性假设的可能替代方案，包括使用完全避免假设的边界计算。最后，我们进行了一个数值研究，其中违反了跨世界的独立性假设，以评估随之而来的偏见，估计自然的直接和间接影响。最后，我们建议进行因果中介分析。
2020-09-30 stat.ME
Causality and independence in perfectly adapted dynamical systems
University of Amsterdam（阿姆斯特丹大学）
动态系统中的完美适应是这样一种现象，即一个或多个变量对外部刺激的持续变化有初始的瞬态响应，但当系统收敛到平衡时恢复到它们的原始值。在因果排序算法的帮助下，可以构建动态系统的图形表示，表示变量之间的因果关系和平衡分布中的条件独立性。我们应用这些工具，制定充分的图形条件，从一组一阶微分方程识别完美的适应。此外，我们给出了充分条件，以测试存在的完美适应的实验平衡数据。我们将这种方法应用于蛋白质信号通路的简单模型，并在模拟和使用真实世界的蛋白质表达数据中测试其预测。我们证明，完美的适应可能会导致误导方向的因果发现算法的输出边缘。
2023-02-23 cs.AI stat.ML
Representing Independence Models with Elementary Triplets
Linköping University（林雪平大学）
在独立模型中，表示单例之间的条件独立的三元组被称为基本的。已知在某些条件下，基本三元组明确地表示独立模型。在本文中，我们将展示这种表示如何帮助独立模型执行一些操作，例如找到独立模型的主导三元组或最小独立映射，或计算一对独立模型的并集或交集，或执行因果推理。对于后者，我们用条件独立性来重新表述Pearl计算因果效应的一些结果。
2016-12-04 cs.AI stat.ML
Causal Discovery via Conditional Independence Testing with Proxy Variables
Peking University（北京大学）；Fudan University（复旦大学）
本文针对连续变量因果发现中未观测混杂导致的偏差问题，提出一种基于离散化和代理变量的非参数条件独立性检验方法，并证明其渐近性质，在合成与真实数据上验证了有效性。
2024-05-02 cs.LG stat.ME
Conditional Independence Testing with Heteroskedastic Data and Applications to Causal Discovery
针对异方差数据，提出改进的偏相关条件独立性检验，结合专家知识，在因果发现中优于标准检验且保持理论一致性。
2023-06-20 stat.ME stat.ML
Empirical Bayesian Approaches for Robust Constraint-based Causal Discovery under Insufficient Data
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Northeast Normal University（东北师范大学）
因果发现是在给定的观测数据中学习变量之间的因果关系，对于许多应用都很重要。现有的因果发现方法假设数据充足，这在许多现实世界的数据集中可能不是这种情况。因此，许多现有的因果发现方法可能在有限的数据下失败。本文提出了一种贝叶斯-增广频率独立性检验方法，以提高基于约束的因果发现方法在数据不足情况下的性能：1）首先引入贝叶斯方法估计互信息，并在此基础上提出了一种鲁棒的基于互信息的独立性检验方法; 2）其次，我们考虑假设似然的贝叶斯估计，并将其纳入一个定义良好的统计检验，从而产生基于稳健统计测试的独立性测试。我们提出的独立性测试的约束为基础的因果发现方法，并评估基准数据集的样本不足的性能。实验表明，显着的性能改善方面的准确性和效率SOTA方法。
2022-06-16 cs.LG stat.ME
Causal de Finetti: On the Identification of Invariant Causal Structure in Exchangeable Data
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）
本文提出因果 de Finetti 定理，证明可交换数据蕴含更丰富的条件独立性结构，并据此开发算法，通过条件独立性检验从独立因果机制生成过程中唯一识别因果结构，适用于多环境数据。
2024-05-24 cs.LG math.ST stat.ME
Conditional independence testing based on a nearest-neighbor estimator of conditional mutual information
条件独立性检验是因果发现的基础问题，在非线性和高维依赖的情况下是一项特别具有挑战性的任务。本文提出了一种基于条件互信息和局部置换方案的连续数据全非参数检验方法。通过最近邻方法，测试也有效地适应非光滑分布，由于强非线性依赖。数值实验表明，即使对于小样本量和高维条件集，该测试也能可靠地模拟零分布。该测试比基于核的测试更好地校准，利用零分布的分析近似，特别是对于非光滑密度，并达到相同或更高的功率水平。将局部置换方案与核测试相结合导致更好的校准，但在功率方面受到影响。对于较小的样本量和较低的维度，如果排列方案是（并行地）并行化的，则测试比基于随机傅立叶特征的核测试更快，但是运行时间随着样本量和维度而更急剧地增加。因此，需要更多的理论研究来解析地近似零分布，并加快对更大样本量的估计。
2017-09-05 cs.IT math.IT stat.ME
A Distribution Free Conditional Independence Test with Applications to Causal Discovery
本文主要研究条件独立性的检验问题。我们首先建立了条件独立性和相互独立性之间的等价关系。基于等价性，我们提出了一个指标来衡量的条件依赖，通过量化的相互依赖的转换变量。建议的索引有几个吸引人的属性。(a)它是分布自由的，因为该指数的极限零分布不依赖于数据的总体分布。因此，临界值可以通过模拟制成表格。(b)所提出的索引范围从0到1，等于零当且仅当条件独立性成立。因此，它在备择假设下具有非平凡功效。(c)它是强大的离群值和重尾数据，因为它是不变的条件严格单调变换。(d)它具有较低的计算成本，因为它采用了一个简单的封闭形式的表达式，可以在二次时间内实现。(e)它是不敏感的调整参数的计算所提出的指数。(f)新的指数适用于多元随机向量以及离散数据。所有这些性质使我们能够使用新指数作为各种数据的统计推断工具。通过大量的模拟和因果发现的实际应用，说明了该方法的有效性。
2021-05-17 stat.ME
Algorithmic independence of initial condition and dynamical law in thermodynamics and causal inference
我们假设一个原则，说明一个物理系统的初始条件通常是算法独立的动力学定律。我们认为这将热力学和因果推理联系起来。一方面，它需要类似于通常的时间箭头的行为。另一方面，它激发了最近在因果推理领域中假设的原因和结果之间的统计不对称性，即概率分布P（原因）不包含关于条件分布P（结果）的信息|原因），反之亦然，而P（效果）可能包含有关P（原因）的信息|效果）。
2015-12-07 cond-mat.stat-mech math.ST quant-ph
Exploiting independence constraints for efficient estimation of bounds on causal effects in the presence of unmeasured confounding
Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Pennsylvania（宾夕法尼亚大学）
本文提出利用因果图结构中的条件独立性约束，改进半参数估计器在非可识别设置中对因果效应上下界估计的效率，通过模拟和真实数据示例验证了方法的有效性。
2026-06-23 stat.ME
Kernel-based independence tests for causal structure learning on functional data
针对函数型数据，提出基于核的独立性检验方法，扩展HSIC并引入条件独立性检验，实证显示良好性能，并应用于因果结构学习。
2023-11-15 stat.ME
An Asymptotic Test for Conditional Independence using Analytic Kernel Embeddings
CREST（法国 Crest 研究中心）；ENSAE（法国国家统计与经济管理学院）；Facebook AI Research（脸书人工智能研究院）；Université Paris-Dauphine（巴黎多芬大学）；Technion（以色列理工学院）
我们提出了一个新的条件依赖性度量和条件独立性的统计检验。该措施是基于两个非常适合的分布在一组有限的位置评估的分析内核嵌入之间的差异。在条件独立性的原假设下得到了它的渐近分布，并由此设计了一个一致性统计检验，通过一系列的实验表明，即使在高维情况下，我们的新检验在I类和第二类错误方面也优于现有的方法.
2022-06-16 cs.LG stat.ML
Conditional independence testing: a predictive perspective
Federal University of São Carlos（圣卡洛斯联邦大学）；University of São Paulo（圣保罗大学）
条件独立性测试是许多机器学习和统计工具需要解决的关键问题。特别是，它是评估监督预测问题上某些特征的有用性的一种方法。我们提出了一种新的条件独立性测试的预测设置，并表明它实现了更好的功率比竞争的方法在几个设置。我们的方法包括使用置换测试来导出p值，其中使用未置换数据集的预测能力与使用感兴趣的特征被置换的数据集的预测能力进行比较。我们的结论是，该方法在模拟和真实数据集上取得了合理的结果。
2019-07-31 cs.LG stat.ML
Learning conditional independence structure for high-dimensional uncorrelated vector processes
Aalto University（阿尔托大学）
我们制定和分析的图形模型选择方法推断的条件独立图的高维非平稳高斯随机过程（时间序列）从有限长度的观察。假设观察到的过程样本随时间不相关，并且具有随时间变化的边缘分布。该选择方法是基于测试的过程组件的小子集获得的条件方差。这允许应付高维制度，其中的样本量可以（大大）小于过程的尺寸。我们描述了所需的样本量，使得所提出的选择方法以高概率成功。
2016-09-13 cs.LG stat.ML
Conditional Independence Estimates for the Generalized Nonparanormal
Department of Computer Science University of Colorado Boulder（计算机科学系科罗拉多大学博尔德分校）
本文研究广义非参数正态分布下的条件独立性估计，提出一种简单高效的算法，利用精度矩阵从非高斯数据中恢复条件独立性结构，并通过合成与真实数据验证了其有效性。
2025-08-14 cs.LG stat.ML
Methods for Recovering Conditional Independence Graphs: A Survey
Microsoft Research（微软研究院）
本文综述了恢复条件独立（CI）图的方法，涵盖传统优化与深度学习架构，并提供了相关预备知识以促进广泛应用。
2024-08-29 cs.LG stat.ML
On Different Notions of Redundancy in Conditional-Independence-Based Discovery of Graphical Models
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Amazon Research（亚马逊研究院）
本文探讨了基于条件独立性发现图形模型中冗余测试的作用，指出冗余测试可能修正学习模型的错误，但并非所有测试都具备此能力。
2026-04-20 cs.LG stat.ML
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London（伦敦城市大学）
在处理从数据推断贝叶斯网络结构的任务的论文中，经常提到有两种不同的方法：（i）在测试边缘的存在或其他情况时应用条件独立性测试;（ii）使用评分度量搜索模型空间。在这里，我认为，对于完整的数据和一个给定的节点排序这种分工是一个神话，通过显示，交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Structure and Parameter Learning for Causal Independence and Causal Interaction Models
Microsoft Research（微软研究院）
本文讨论了因果独立模型和这些模型的推广称为因果相互作用模型。因果交互模型是具有独立机制的模型，其中一个机制可以有几个原因。除了介绍几种特定类型的因果交互作用模型，我们展示了如何应用贝叶斯方法来学习因果交互作用模型，获得模型的近似后验分布，并获得MAP和ML估计的参数。我们说明了学习模型后验的模拟研究的方法。
2015-05-16 cs.AI cs.LG
Sequential Kernel-based Conditional Independence Testing via Adaptive Betting
Department of Computer Science, University of British Columbia, Vancouver, Canada（不列颠哥伦比亚大学计算机科学系，温哥华，加拿大）；Alberta Machine Intelligence Institute, Edmonton, Canada（阿尔伯塔机器智能研究所，爱德蒙顿，加拿大）
提出一种对估计误差更鲁棒的序列条件独立性检验方法，通过自适应优化核条件独立性统计量、归一化及截断平移校准，在合成与真实数据上控制第一类错误并保持高功效。
2026-08-06 cs.LG stat.ME stat.ML
Conditional-Independence-Regularized Distributional Autoencoders for Mixed-Type Data
University of Michigan（密歇根大学）
本研究提出Conditional-Independence-Regularized Distributional Autoencoders框架，通过结合不同类型变量的目标函数与条件独立性正则化项，实现混合类型数据的表征学习，在多类数据集上提升了分布恢复性能并保留了变量依赖结构。
2026-08-24 cs.LG stat.ME stat.ML
Causal Effect Identification with Context-specific Independence Relations of Control Variables
EPFL（洛桑联邦理工学院）
研究了在给定因果图和特定上下文独立性（CSI）关系的情况下，从观测分布中识别因果效应的问题。最近的研究表明，这个问题是NP难的，虽然Tikka等人（2019）提出了一种学习因果效应的合理算法，但没有完整的算法。在这项工作中，我们提出了一个健全的和完整的算法的设置时，CSI关系仅限于观察到的节点没有父母的因果图。现有技术在其适用性方面的一个限制是所有变量之间的CSI关系，即使是未观察到的变量，也必须给出（而不是学习）。相反，我们引入了一组图形约束，在此约束下，CSI关系可以仅仅从观测分布中学习。这扩大了可识别的因果效应的集合，超出了最先进的水平。
2022-02-17 cs.LG
Predictive Independence Testing, Predictive Conditional Independence Testing, and Predictive Graphical Modelling
University College London（伦敦大学学院）
检验多变量随机变量的（条件）独立性是统计推断和一般建模的核心任务-尽管不幸的是，迄今为止还不存在可行的工作流程。最先进的工作流程需要启发式或主观的手动选择、高计算复杂性或强参数假设。我们通过建立多元/条件独立性检验和多元预测建模（又称监督学习任务）中的模型比较之间的理论联系来解决这些问题。这个链接允许在广泛研究的监督学习工作流程中的进步直接转移到独立性测试工作流程中-包括自动调整机器学习类型，其解决了启发式选择的需求，定量权衡计算需求与准确性的能力，以及用于检查和接口的现代黑箱哲学。作为两个工作流之间这种联系的实际实现，我们提出了一个python包“pcit”，它实现了我们新颖的多变量和条件独立性测试，与scikit-learn包的监督学习API接口。理论和包还允许基于图形模型结构的学习的直接独立性测试。我们的经验表明，我们提出的预测独立性测试优于或等同于目前的做法，和派生的图形模型结构学习算法渐近恢复的“真”图。这篇文章，以及它附带的“pcit”包，为多元和条件独立性测试以及图形模型结构学习提供了强大的，可扩展的，可推广的和易于使用的方法。
2018-04-28 cs.LG math.ST stat.ME
Fast Conditional Independence Test for Vector Variables with Large Sample Sizes
California Institute of Technology（加州理工学院）
我们提出并评估快速（条件）独立性测试（FIT）-非参数条件独立性测试。该测试基于以下想法：当$P(X \mid Y, Z) = P(X \mid Y)$时，只要$Y$也是回归变量，则$Z$作为预测$X$的特征是无用的。相反，如果是$P(X \mid Y, Z) \neq P(X \mid Y)$，则$Z$可能改善预测结果。FIT适用于具有十万个样本的千维随机变量，所需时间仅为其他方法的一小部分。我们提供了一个广泛的评价，比较适合六个现存的非参数独立性检验。评估表明，与其他测试相比，FIT产生I类和第二类错误的概率较低，尤其是随着可用样本数量的增加。我们的FIT实现是公开的。
2018-04-08 cs.AI cs.LG stat.ML
Categoroids: Universal Conditional Independence
Adobe Research（奥多比研究院）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
条件独立性在人工智能、因果推理、机器学习和统计学中有着广泛的应用。我们介绍范畴，一个代数结构的特点普遍属性的条件独立。范畴被定义为两个范畴的混合：一个编码由对象和它们之间的箭头定义的预定格结构;第二个对偶参数化涉及定义条件独立结构的三角对象和态射，桥态射提供二进制和三进制结构之间的接口。我们用公理集的三个著名的例子来说明范畴：图形，整数值多集和分离。函子类将一个类范畴映射到另一个类范畴，保留了共域类范畴中所有三种类型的箭头所定义的关系。我们描述了一个自然的转换函体，这是自然的定期对象和三角形对象，构建条件独立的普遍表示。我们使用类范畴之间的关系和单子来抽象地刻画条件独立性的图形和非图形表示的忠实性。
2022-08-24 cs.AI cs.LG math.CT
Differentially Private Conditional Independence Testing
Amazon（亚马逊公司）；Carnegie Mellon University（卡内基梅隆大学）
本研究探讨了差分隐私约束下的条件独立性检验，提出了两种基于广义协方差度量和条件随机化检验的私有检验方法，并提供了理论保证与实证验证，适用于连续变量的一般情况。
2024-03-22 cs.CR cs.LG stat.ML
Unsupervised Risk Estimation Using Only Conditional Independence Structure
Stanford University（斯坦福大学）
我们展示了如何估计模型的测试误差从未标记的数据，分布非常不同的训练分布，而假设只有一定的条件独立性之间保留训练和测试。我们不需要假设最优预测器在训练和测试之间是相同的，或者真实分布位于任何参数族中。我们还可以有效地区分误差估计，以执行无监督的判别学习。我们的技术工具是矩量法，它允许我们在没有完全指定的模型的情况下利用条件独立性。我们的框架包括一个大家庭的损失，包括日志和指数损失，并扩展到结构化的输出设置，如隐马尔可夫模型。
2016-06-16 cs.AI cs.LG stat.ML
DIET: Conditional independence testing with marginal dependence measures of residual information
New York University（纽约大学）；Memorial Sloan Kettering Cancer Center（纪念斯隆-凯特琳癌症中心）
本文提出DIET算法，通过检验条件CDF变换后的信息残差的边际独立性来进行条件独立性检验，避免数据划分和交互启发式带来的功效损失，并在理论和实验上证明其具有更高的检验功效。
2023-04-11 cs.LG stat.ME stat.ML
Causal Imitability Under Context-Specific Independence Relations
EPFL（洛桑联邦理工学院）
该研究探索已知上下文特定独立性（CSI）关系下的因果模仿学习问题，证明其可行性决策为NP难，提出必要且在特定结构假设下充分的图判据，并给出结合CSI与数据的可靠算法。
2023-06-11 cs.AI cs.LG
Practical Kernel Tests of Conditional Independence
McGill University and Mila（麦吉尔大学和Mila）；Gatsby Computational Neuroscience Unit, University College London Centre for Artificial Intelligence, University College London（Gatsby计算神经科学单元，伦敦大学学院人工智能中心，伦敦大学学院）；Microsoft AI（微软AI）；University of British Columbia and Amii（不列颠哥伦比亚大学和Amii）；Gatsby Computational Neuroscience Unit, University College London Google DeepMind（Gatsby计算神经科学单元，伦敦大学学院谷歌DeepMind）
本文提出SplitKCI方法，通过数据分割自动控制核条件独立性检验的偏差，从而在不损失检验功效的前提下显著改善假阳性率控制。
2025-09-19 cs.LG
Fairness via Independence: A (Conditional) Distance Covariance Framework
School of Mathematics and Statistics, Huazhong University of Science and Technology, Wuhan, Hubei, China（华中科技大学数学与统计学院）；Institute of Interdisciplinary Research for Mathematics and Applied Science & Hubei Key Laboratory of Engineering Modeling and Scientific Computing, Huazhong University of Science and Technology, Wuhan, Hubei, China（华中科技大学数学与应用科学交叉研究 institute 及湖北省工程建模与科学计算重点实验室）
本文提出一种基于距离协方差的公平性提升方法，通过在模型训练中引入惩罚项并优化计算效率，有效缩小了机器学习中的公平性差距。
2025-12-19 cs.CY cs.LG stat.ML
Markov random fields factorization with context-specific independences
Universidad Tecnológica Nacional（国立技术大学）
马尔可夫随机场通过在无向图中表示其独立性来提供联合概率分布的紧凑表示。著名的Hammersley-Clifford定理使用这些条件独立性将吉布斯分布分解为一组因子。然而，使用图来表示独立性的一个重要问题是它不能编码某些类型的独立关系，例如上下文特定的独立性（CSI）。它们是条件独立性的一种特殊情况，只对它的条件集的某个赋值为真;与之相反，条件独立性必须对它的所有赋值都成立。本文提出了一种根据分布中存在的CSI对马尔可夫随机场进行因子分解的方法，并形式上保证了这种分解是正确的。这是在我们的主要贡献，上下文特定的Hammersley-Clifford定理，一个推广到CSI的Hammersley-Clifford定理，适用于条件独立。
2013-06-10 cs.AI cs.LG
An additive graphical model for discrete data
Pennsylvania State University（宾夕法尼亚州立大学）
我们介绍了一个非参数图模型的离散节点变量的基础上加性条件独立。加性条件独立性是一种三向统计关系，它通过满足半图形公理而具有与条件独立性相似的性质。基于这种关系，我们建立了一个添加剂的图形模型的离散变量，不受参数模型，如伊辛模型的限制。我们开发了一个新的图形模型的估计通过惩罚估计的离散版本的加性精度算子，并建立在超高维设置下的估计的一致性。随着这些方法的发展，我们还利用离散随机变量的属性来揭示加性条件独立性和条件独立性之间比以前已知的更深层次的关系。在一定的稀疏性条件下，新的图模型简化为条件独立图模型。我们进行模拟实验和分析的艾滋病毒抗逆转录病毒治疗数据集，比较新的方法与现有的。
2021-12-29 cs.LG math.ST stat.ME
Joint Learning of Label and Environment Causal Independence for Graph Out-of-Distribution Generalization
Texas A&M University（德克萨斯A&M大学）
本文提出标签与环境因果独立性（LECI）联合学习方法，通过对抗训练同时利用标签和环境信息发现因果子图，显著提升图分布外泛化性能。
2023-10-31 cs.AI cs.LG
