Kernel-based Conditional Independence Test and Application in Causal Discovery
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
条件独立性检验是贝叶斯网络学习和因果发现中的一个重要问题。由于维数灾难,连续变量的条件独立性测试特别具有挑战性。本文提出了一种基于核的条件独立性检验(KCI-test),通过构造一个适当的检验统计量,并在条件独立性的零假设下推导出其渐近分布。所提出的方法是计算效率高,易于实现。实验结果表明,该方法优于其他方法,特别是当条件集很大或样本量不是很大时,在这种情况下,其他方法遇到困难。
2012-02-14 cs.LG stat.ML
Causal Discovery via Conditional Independence Testing with Proxy Variables
Peking University(北京大学);Fudan University(复旦大学)
本文针对连续变量因果发现中未观测混杂导致的偏差问题,提出一种基于离散化和代理变量的非参数条件独立性检验方法,并证明其渐近性质,在合成与真实数据上验证了有效性。
2024-05-02 cs.LG stat.ME
Independence Testing-Based Approach to Causal Discovery under Measurement Error and Linear Non-Gaussian Models
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
因果发现旨在恢复产生观测数据的因果结构。尽管它在某些问题上取得了成功,但在许多现实世界的场景中,观察到的变量不是感兴趣的目标变量,而是目标变量的不完美度量。测量误差下的因果发现是指从测量误差下的观测数据中恢复出未观测目标变量之间的因果关系图。我们考虑一个特定的配方的问题,其中未观察到的目标变量遵循线性非高斯非循环模型,测量过程遵循随机测量误差模型。现有的方法在此制定依赖于不可扩展的过完备独立分量分析(OICA)。在这项工作中,我们提出了转换的独立噪声(TIN)条件,它检查一些测量变量和某些其他测量变量的特定线性变换之间的独立性。通过利用数据的非高斯性和高阶统计量,TIN提供了关于未观察到的目标变量之间的图结构的信息。利用TIN,因果模型的有序群分解是可识别的。换句话说,我们可以通过进行独立性测试来实现曾经要求OICA实现的目标。在合成数据和真实数据上的实验结果证明了该方法的有效性和可靠性。
2022-10-20 cs.AI cs.LG stat.ML
Causal Data Science for Financial Stress Testing
New York University(纽约大学);Stanford University(斯坦福大学)
最近的金融动荡使人们对一些传统的定量风险管理策略(如风险价值)在许多常见情况下的适当性产生了怀疑。因此,越来越需要逼真的财务压力测试,即模拟和分析极端情况下的金融投资组合,尽管这种情况很少见。与传统的风险管理,利用金融工具之间的统计相关性,在这里,我们把我们的分析集中在概率因果关系的概念,这是体现在Suppes-Bayes因果网络(SBCN); SBCN是概率图形模型,有许多有吸引力的功能,在更准确的因果分析,产生金融压力的情况。在本文中,我们提出了一种新的方法进行压力测试的金融投资组合的基础上SBCN结合经典的机器学习分类工具。由此产生的方法被证明是能够正确地发现影响投资组合的金融因素之间的因果关系,从而模拟压力测试的情况下,具有更高的精度和更低的计算复杂性比传统的蒙特卡罗模拟。
2018-04-14 cs.AI cs.CE cs.LG
Beyond Coefficients: Forecast-Necessity Testing for Interpretable Causal Discovery in Nonlinear Time-Series Models
Lucy Family Institute for Data & Society(数据与社会联合研究所);University of Notre Dame(诺特大学);Department of Political Science(政治学系)
针对非线性时间序列模型中因果分数被误读为回归系数的问题,提出基于边消融和预测比较的预测必要性检验框架,以评估因果关系的实际必要性。
2026-04-20 cs.AI cs.LG stat.ME
Testing Generalizability in Causal Inference
Department of Statistics, University of Oxford(统计系,牛津大学);Pioneer Centre for SMARTbiomed, University of Oxford(SMARTbiomed研究中心,牛津大学)
针对因果推断领域缺乏泛化性正式统计评估方法的问题,提出基于节俭参数化的系统性评估框架,依托真实数据生成合成基准,结合模拟与统计检验,为高维因果模型泛化性评估提供更真实稳健的统计保障。
2025-06-12 cs.LG stat.AP stat.ME
Membership Testing in Markov Equivalence Classes via Independence Query Oracles
Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所)
该研究针对因果图马尔可夫等价类的成员测试问题,提出基于约束的测试方法,证明了测试所需独立性测试数的上下界均为最大团规模的指数级,表明测试比学习更易,还给出几何解释并探讨其对学习的辅助作用。
2024-03-09 cs.AI cs.LG stat.ME
On sample complexity of conditional independence testing with Von Mises estimator with application to causal discovery
EPFL(洛桑联邦理工学院)
本文研究多元分布熵的非参数 Von Mises 估计器,建立其指数集中不等式,并据此提出条件独立性检验 VM-CI,证明了其误差紧上界,首次为连续变量因果发现提供了样本复杂度保证。
2023-10-20 cs.LG
Sparse Additive Model Pruning for Order-Based Causal Structure Learning
本文提出基于稀疏加法模型的因果结构学习剪枝方法,通过高效算法提升剪枝效率并保持高准确性。
2026-02-17 cs.LG stat.ML
Testing for Causal Fairness
Beijing Institute of Technology(北京理工大学);Renmin University of China(中国人民大学)
本文提出基于分布的潜在结果框架,将公平性分析转化为DCT,并用N-TE统计量构建CF-CLOT检验,理论证明其一致性且实验有效识别不公平敏感属性。
2025-02-18 cs.LG
Testing Causality for High Dimensional Data
University of Washington(华盛顿大学);AWS AI Labs(AWS人工智能实验室)
确定高维观测之间的因果关系是科学发现中最重要的任务之一。在本文中,我们重新讨论了\emph{linear trace method},在~ \citep{janzing2009telling,zscheischler2011testing}中提出的一种技术,用于推断两个高维随机变量之间的因果方向。我们加强了现有的结果显着提供了一个改进的尾部分析,除了扩展结果的非线性跟踪泛函,在一定的分布假设下,更清晰的置信区间。我们得到我们的结果解释的轨迹估计的因果制度作为一个函数在随机正交矩阵,在这样的空间可以应用的浓度Lipschitz函数。我们还提出了一种新的脊正则化的变体估计\cite{zscheischler2011testing},并给出可证明的界限有关的脊估计项,他们的地面真理同行。我们支持我们的理论结果与令人鼓舞的实验合成数据集,更突出的是,在高维低样本量制度。
2023-03-14 cs.LG stat.ME
Online Evaluation Methods for the Causal Effect of Recommendations
Independent Researcher Kaisei Kanagawa Japan;Independent Researcher
评估推荐的因果效应是一个重要的目标,因为对用户交互的因果效应可以直接导致销售和用户参与度的增加。为了选择最佳推荐模型,通常进行A/B测试以比较模型性能。然而,因果效应的A/B测试需要大量的用户,这使得这种实验成本高,风险大。因此,我们提出了第一个交错的方法,可以有效地比较推荐模型的因果关系。与传统的交错方法相比,我们测量交错列表上的项目和交错列表上的项目的结果,因为因果效应是有和没有建议的结果之间的差异。为了确保评估是无偏的,我们要么选择具有相等概率的项目,要么使用反向倾向得分对结果进行加权。然后,我们验证了无偏性和有效性的在线评价方法,通过模拟在线实验。结果表明,我们提出的方法是无偏的,他们有优越的效率,A/B测试。
2021-07-15 cs.LG
Detecting non-causal artifacts in multivariate linear regression models
我们考虑线性模型,其中$d$潜在原因$X_1,...,X_d$与一个目标量$Y$相关,并提出了一种方法来推断该关联是否是因果关系,或者它是否是由过拟合或隐藏的共同原因引起的伪影。我们采用的想法,在前一种情况下,回归系数的向量具有相对于$X$的协方差阵$Σ_{XX}$的“通用”方向。使用ICA为基础的模型的混杂,我们表明,混杂和过拟合产量回归向量,主要集中在空间的低特征值的$Σ_{XX}$。
2018-03-02 cs.LG stat.ML
A Simple Unified Approach to Testing High-Dimensional Conditional Independences for Categorical and Ordinal Data
Radboud University(拉德堡德大学)
本文提出一种简单统一的高维条件独立性检验方法,适用于分类和有序数据,在稠密图模型检验与结构学习中优于现有基线,并兼具易实现、对称性和合理计算成本等优点。
2022-12-22 cs.LG stat.ML
Falsification of Unconfoundedness by Testing Independence of Causal Mechanisms
针对观察性研究中无未测量混杂假设不可检验的挑战,提出一种基于多异构环境数据的证伪算法,利用因果机制依赖性检测混杂,在控制假阳性的同时保持高统计功效,且无需随机化数据,在模拟和半合成数据上均验证有效。
2025-06-02 cs.LG stat.ME stat.ML
Conditional Independence Tests for Constraint-Based Causal Discovery: A Survey
University of Nicosia(尼科西亚大学);School of Sciences and Engineering(科学与工程学院)
该综述针对生物医学领域常见的高维混合类型场景,梳理六大类条件独立性检验方法,分析其优缺点,关联测试级与图级错误,对比主流库应用并总结开放挑战。
2026-08-12 cs.LG stat.ML
Efficient Real-world Testing of Causal Decision Making via Bayesian Experimental Design for Contextual Optimisation
University of Oxford(牛津大学);Microsoft Research Cambridge(微软剑桥研究院)
对使用因果机器学习模型做出的决策进行真实世界的测试是其成功应用的必要先决条件。我们专注于评估和改进情境治疗分配决策:这些是应用于客户的个性化治疗,每个客户都有自己的情境信息,目的是最大化奖励。在本文中,我们介绍了一个模型无关的框架,收集数据,评估和改善上下文决策,通过贝叶斯试验设计。具体来说,我们的方法是用于数据效率的评价过去的治疗分配的遗憾。与A/B测试等方法不同,我们的方法避免了分配已知高度次优的治疗方法,同时进行一些探索以收集相关信息。我们通过引入基于信息的设计目标来实现这一目标,并对该目标进行端到端优化。我们的方法适用于离散和连续的治疗。比较我们的信息理论的方法,在几个模拟研究的基线证明了我们所提出的方法的优越性能。
2022-07-12 cs.AI cs.LG stat.CO
Conditional Local Independence Testing for Itô processes with Applications to Dynamic Causal Discovery
School of Computer Science, Peking University(北京大学计算机学院);School of Data Science, Fudan University(复旦大学数据科学学院)
本文针对Itô过程提出条件局部独立性假设检验,基于半鞅分解构造鞅检验统计量,并证明其一致性,应用于动态因果发现及脑fMRI数据。
2025-10-08 cs.LG stat.ME
Stress-Testing Causal Claims via Cardinality Repairs
University of California, San Diego(加州大学圣地亚哥分校);University of Utah(犹他大学)
SubCure通过基数修复方法检验因果分析的稳健性,揭示数据中的潜在漏洞。
2025-12-16 cs.DB cs.LG
Efficient Identification of Direct Causal Parents via Invariance and Minimum Error Testing
School of Electrical and Computer Engineering, Cornell University(康奈尔大学电气与计算机工程学院);Cornell Tech(康奈尔科技学院);Weill Cornell Medicine(威尔康奈尔医学院)
本文提出 MMSE-ICP 和 fastICP 两种方法,利用最小预测误差不等式解决不变因果预测在大规模问题中的可识别性与效率瓶颈,并在模拟和真实数据基准上取得领先性能。
2024-09-19 cs.AI cs.LG
Learning Linear Non-Gaussian Causal Models in the Presence of Latent Variables
Sharif University of Technology(谢里夫理工大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
我们考虑的问题,学习因果模型从观测数据产生的线性非高斯非循环因果模型的潜在变量。如果不考虑潜变量的影响,人们通常会推断出观察变量之间的错误因果关系。在忠实性假设下,我们提出了一种检验任意两个观测变量之间是否存在因果路径的方法。从这些信息中,我们可以得出它们之间的因果关系。接下来的问题是,因果效应是否也可以被唯一地识别出来。结果表明,即使在外部噪声的可信性和非高斯性假设下,观测变量之间的因果效应也不能唯一识别。然而,我们将提出一种有效的方法来识别与观测数据兼容的所有可能的因果效应的集合。此外,我们提出了因果图上的一些结构条件,在这些条件下,我们可以唯一地学习观测变量之间的因果效应。我们还提供了必要和充分的图形条件,唯一识别的变量的数量在系统中。在合成数据和真实数据上的实验表明了该算法在因果模型学习上的有效性。
2019-08-11 cs.LG stat.ML
Testing Conditional Independence on Discrete Data using Stochastic Complexity
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔兰大学);CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全研究中心CISPA)
条件独立性测试是基于约束的因果发现的核心内容。虽然常用的测试在理论上是完美的,但它们在实践中往往无法拒绝独立性,特别是当以多个变量为条件时。我们专注于离散数据,并提出了一个新的测试算法的独立性,我们使用随机复杂性的概念的基础上。其中,我们表明,我们提出的测试,SCI,是一个渐近无偏以及$L_2$相合估计量的条件互信息(CMI)。此外,我们表明,SCI可以重新制定,以找到一个合理的阈值CMI,以及有限的样本。实证评估表明,SCI具有较低的第二类错误比常用的测试。因此,当我们在因果发现算法中使用SCI时,我们获得了更高的召回率,而不会影响精度。
2019-03-12 cs.LG stat.ML
A Local Method for Identifying Causal Relations under Markov Equivalence
Peking University(北京大学);Renmin University of China(中国人民大学);Beijing Technology and Business University(北京工商大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
在人工智能研究中,因果关系对于设计可解释和鲁棒的方法非常重要。我们提出了一种局部方法,在有向无环图(DAGs)的因果图模型框架下识别变量是否是给定目标的原因。一般来说,两个变量之间的因果关系可能无法从观测数据中识别,因为许多编码不同因果关系的因果DAG是马尔可夫等价的。在本文中,我们首先引入了一个充分必要的图形条件来检查存在的因果路径从一个变量到一个目标在每个马尔可夫等价的DAG。接下来,我们提供局部标准,用于仅基于局部结构而不是整个图来识别变量是否是目标的原因/非原因。最后,我们提出了一个局部学习算法,通过学习局部结构的变量和一些额外的统计独立性测试的目标相关的因果查询。仿真研究表明,我们的本地算法是高效和有效的,与其他国家的最先进的方法相比。
2022-03-05 cs.LG stat.ML
Causes in neuron diagrams, and testing causal reasoning in Large Language Models. A glimpse of the future of philosophy?
Higher School of Economics(高等经济学院);Russian Academy of Science(俄罗斯科学院)
本研究基于因果哲学的神经元图提出AI抽象因果推理测试,在ChatGPT等大模型上验证其可正确识别学界热议案例的因果,还提出适用范围更广的神经元图因果定义,展现人机专业知识互动的哲学研究新方向。
2025-06-17 cs.AI cs.LG
Fast Nonparametric Conditional Independence Testing via Two-Stage Regression
Department of Biomedical Informatics, University of Pittsburgh(生物医学信息学系,匹兹堡大学)
提出BLITZ方法,通过两阶段回归(低阶多项式+浅层树)快速消除条件集影响,实现校准良好的非参数条件独立性检验,适用于因果发现。
2026-06-23 cs.LG stat.ME stat.ML
Efficient Latent Variable Causal Discovery: Combining Score Search and Targeted Testing
Department of Philosophy(哲学系);Carnegie Mellon University(卡内基梅隆大学);Department of Psychiatry & Behavioral Sciences(精神病学与行为科学系);University of Minnesota(明尼苏达大学)
本文提出评分引导的混合因果搜索算法族,包括 BOSS-FCI、GRaSP-FCI、FCIT 和轻量级 LV-Dumb,通过用定向评分检验替代穷举检验,显著提升潜变量因果发现的效率与正确性。
2025-11-05 cs.AI cs.LG
Causally Testing Gender Bias in LLMs: A Case Study on Occupational Bias
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);RWTH Aachen(亚琛工业大学);University of Michigan(密歇根大学);ETH Zürich(苏黎世联邦理工学院);Max Planck Institute(马克斯·普朗克研究所)
本文提出衡量生成式语言模型偏见的因果框架与稳健基准设计原则,构建 OccuGender 评估 Llama、Mistral 等模型的职业性别偏见,并探讨提示缓解方法及框架泛化性。
2025-07-24 cs.CL cs.LG
CAFÉ: Causal Black-Box Testing of Machine Unlearning
Cornell University(康奈尔大学)
本文提出因果框架CAFÉ,统一数据点级与特征级遗忘验证,通过因果依赖分析直接和间接影响,在五个数据集和三种模型架构上有效检测基线遗漏的残余影响。
2026-10-09 cs.AI cs.LG cs.SE
Testing Causal Explanations: A Case Study for Understanding the Effect of Interventions on Chronic Kidney Disease
Clinical and Translational Science Institute, University of California, Los Angeles(加州大学洛杉矶分校临床与转化科学研究所)
该研究提出一种结合断点回归与动态贝叶斯网络do操作的方法,利用超两百万人的EHR数据检验慢性肾脏病干预的因果效应,发现eGFR及可改变因素在因果层面最具影响力,为改进医疗服务提供人群层面证据。
2024-10-17 cs.LG stat.ME
Group Interventions on Deep Networks for Causal Discovery in Subsystems
Computer Vision Group, Faculty of Mathematics and Computer Science(计算机视觉组,数学与计算机科学学院);Friedrich Schiller University Jena(耶拿弗里德里希·施勒格尔大学)
针对现有因果发现方法忽略子系统变量组间相互作用的问题,提出结合深度网络组级干预与模型不变性检验的gCDMI方法,在模拟和真实数据集上均展现出更优的组级因果关系识别性能。
2025-10-29 cs.AI cs.LG
Fourier Feature Methods for Nonlinear Causal Discovery: FFML Scoring, TRFF Scoring, and FFCI Testing in Mixed Data
Department of Philosophy(哲学系)
本文提出三种基于随机傅里叶特征的方法,用于非线性因果发现,包括FFML评分、TRFF评分和FFCI测试,适用于混合数据,提升因果发现的效率和精度。
2026-05-10 cs.AI cs.LG stat.ML
Positivity Validation Detection and Explainability via Zero Fraction Multi-Hypothesis Testing and Asymmetrically Pruned Decision Trees
Vianai Systems
积极性是从观察数据中进行因果推理的三个条件之一。验证积极性的标准方法是分析倾向的分布。然而,为了使非专家进行因果推理的能力民主化,需要设计一种算法来(i)测试积极性和(ii)解释协变量空间中缺乏积极性的地方。后者可以用来暗示进一步因果分析的局限性和/或鼓励违反积极性的实验。本文的贡献是首先提出了自动积极性分析的问题,其次提出了一个基于两步过程的算法。第一步,对协变量的倾向条件进行建模,然后使用多个假设检验来分析后者的分布,以创建积极违规标签。第二步使用非对称修剪的决策树来实现可解释性。后者被进一步转换为非专家可以理解的可读文本。我们证明了我们的方法上的一个大型软件企业的专有数据集。
2021-11-07 cs.LG stat.ME
Testing Properties of Multiple Distributions with Few Samples
Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个新的设置,用于测试分布的属性,同时接收来自多个分布的样本,但每个分布的样本很少。给定来自$s$分布的样本,$p_1, p_2, \ldots, p_s$,我们设计测试器用于以下问题:(1)一致性测试:测试所有的$p_i$是否一致或$ε$-在$\ell_1$-距离中是否远不一致(2)同一性测试:测试是否所有的$p_i$都等于明确给定的分布$q$或$ε$-在$\ell_1$-距离中远离$q$,以及(3)接近性测试:测试所有$p_i$是否等于我们具有样本访问的分布$q$,或者$ε$-在$\ell_1$-距离中远离$q$。通过假设源分布的一个额外的自然条件,我们提供了所有这些问题的样本最优测试。
2019-11-17 cs.DM cs.DS cs.LG
Towards Reliable Testing of Machine Unlearning
Cornell University(康奈尔大学)
本文提出了一种基于因果的路径中心视角,通过因果模糊测试生成预算干预,以估计残留直接和间接影响并生成可操作的泄漏报告,解决机器无学习测试中的覆盖路径、调试诊断、回归执行和黑盒适用性问题。
2026-04-16 cs.AI cs.LG cs.SE
Mixstyle-Entropy: Domain Generalization with Causal Intervention and Perturbation
Xiamen University(厦门大学);The University of Hong Kong(香港大学)
提出基于因果的框架InPer,通过训练时基于熵的因果干预优化因果变量选择,测试时利用因果扰动计算稳态分数构建原型分类器,有效提升了模型在跨域任务中的泛化能力。
2024-08-22 cs.CV cs.LG stat.ME
Validation of massively-parallel adaptive testing using dynamic control matching
Aampe, Inc.(Aampe公司)
针对现代企业多并行动态A/B/n测试及含RL自适应调整场景下无法用传统方法评估的问题,提出基于匹配合成对照组的方法,以理清持续调整下各测试的因果效应。
2023-05-02 cs.LG stat.ME
On the Relationship between Bayesian Networks and Probabilistic Structural Causal Models
Faculty of EEMCS, University of Twente(埃因霍温理工大学电子与电气工程学院);ICIS, Radboud University(拉德堡德大学ICIS中心)
本文探讨了贝叶斯网络与因果图之间的关系,分析了概率结构因果模型的存在性和唯一性,并利用线性代数方法进行转换。
2026-04-23 cs.AI cs.LG