Testing Conditional Mean Independence Using Generative Neural Networks
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学帕克分校);Washington University in St Louis(圣路易斯华盛顿大学)
本文提出一种基于深度生成式神经网络和自举法的条件均值独立性(CMI)检验方法,通过精心构造检验统计量克服非参数估计误差影响,在高维及多元响应场景中表现出色且保持非平凡势。
2025-01-28 cs.LG stat.ML
A Fast Kernel-based Conditional Independence test with Application to Causal Discovery
University of Hamburg(汉堡大学)
本文提出FastKCI,一种基于核的快速条件独立性检验方法,通过并行化和专家混合策略提升计算效率,适用于大规模因果发现任务。
2025-12-04 cs.AI cs.LG stat.ML
A Conditional Independence Test in the Presence of Discretization
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(金山大学)
针对仅能观测潜在连续变量离散化版本导致传统条件独立性检验失效的问题,提出基于桥接方程恢复潜变量统计参数并推导渐近分布的新检验方法。
2025-03-18 cs.AI cs.LG stat.ML
Predictive Independence Testing, Predictive Conditional Independence Testing, and Predictive Graphical Modelling
University College London(伦敦大学学院)
检验多变量随机变量的(条件)独立性是统计推断和一般建模的核心任务-尽管不幸的是,迄今为止还不存在可行的工作流程。最先进的工作流程需要启发式或主观的手动选择、高计算复杂性或强参数假设。我们通过建立多元/条件独立性检验和多元预测建模(又称监督学习任务)中的模型比较之间的理论联系来解决这些问题。这个链接允许在广泛研究的监督学习工作流程中的进步直接转移到独立性测试工作流程中-包括自动调整机器学习类型,其解决了启发式选择的需求,定量权衡计算需求与准确性的能力,以及用于检查和接口的现代黑箱哲学。作为两个工作流之间这种联系的实际实现,我们提出了一个python包“pcit”,它实现了我们新颖的多变量和条件独立性测试,与scikit-learn包的监督学习API接口。理论和包还允许基于图形模型结构的学习的直接独立性测试。我们的经验表明,我们提出的预测独立性测试优于或等同于目前的做法,和派生的图形模型结构学习算法渐近恢复的“真”图。这篇文章,以及它附带的“pcit”包,为多元和条件独立性测试以及图形模型结构学习提供了强大的,可扩展的,可推广的和易于使用的方法。
2018-04-28 cs.LG math.ST stat.ME
Meta-Dependence in Conditional Independence Testing
Thayer School of Engineering Dartmouth College(达特茅斯学院工程学院);Schmidt Center Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所Schmidt中心);Laboratory for Information and Decision Systems Massachusetts Institute of Technology(信息与决策系统实验室麻省理工学院);Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所)
研究条件独立测试中的元依赖性,利用几何直觉,通过矩投影给出易于计算的度量,该度量不依赖分布图形属性,可直接从汇总统计量计算,还展示其在调整显著性阈值和改进因果发现方面的应用。
2026-07-14 cs.IT cs.LG math.IT
Fast Nonparametric Conditional Independence Testing via Two-Stage Regression
Department of Biomedical Informatics, University of Pittsburgh(生物医学信息学系,匹兹堡大学)
提出BLITZ方法,通过两阶段回归(低阶多项式+浅层树)快速消除条件集影响,实现校准良好的非参数条件独立性检验,适用于因果发现。
2026-06-23 cs.LG stat.ME stat.ML
On the Number of Conditional Independence Tests in Constraint-based Causal Discovery
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(埃里克和文黛斯中心,MIT和哈佛Broad研究所);Centre de Formació Interdisciplinària Superior, Universitat Politècnica de Catalunya(跨学科高级培训中心,加泰罗尼亚理工大学);Laboratory for Information and Decision Systems, Massachusetts Institute of Technology(信息与决策系统实验室,麻省理工学院)
本文提出一种复杂度更低的算法,通过减少条件独立性测试数量提升因果发现效率,同时证明了约束方法的理论下限。
2026-03-23 cs.AI cs.LG stat.ME
Empirically Calibrated Conditional Independence Tests
Computational Oncology Memorial Sloan Kettering Cancer Center(计算肿瘤学纪念斯隆-凯特琳癌症中心)
本文提出ECCIT方法,通过经验校准修正条件独立性检验的校准偏差,提升小样本和大样本下的FDR控制效果与检验功效。
2026-02-24 cs.LG stat.ME stat.ML
Efficient Ensemble Conditional Independence Test Framework for Causal Discovery
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文提出了一种高效的条件独立性测试框架,通过分组聚合策略降低计算复杂度并提升因果发现性能。
2026-02-27 cs.AI cs.LG stat.ML
Smoothness of Gaussian conditional independence models
多元正态(或高斯)分布中的条件独立性的特征在于分布的协方差阵的子行列式的消失。因此,高斯条件独立模型对应于正定矩阵锥的代数子集。对于此类模型的统计推断,了解模型是否包含奇点是很重要的。我们研究这个问题的模型,涉及多达四个随机变量。特别是,我们给出了条件独立关系的例子,尽管概率表示,产生的模型,非平凡分解成一个有限的工会的几个光滑的子模型。
2009-10-28 math.ST stat.TH
Optimal structure learning and conditional independence testing
University of Chicago(芝加哥大学);Amazon(亚马逊)
本文建立结构学习与条件独立性检验之间的最优性联系,证明结构学习的最小最大最优率由条件独立性检验决定,并基于此提出改进的PC算法。
2026-06-16 math.ST stat.ML stat.TH
Conditional Independence Beyond Domain Separability: Discussion of Engelke and Hitz (2020)
我们祝贺Engelke和Hitz关于极端图形模型的发人深省的论文。本文的一个重要贡献是引入了一个新的定义条件独立的多元帕累托分布。在这里,我们概述了一般随机变量的支持是一个一般的集合Ω在多维实数空间中的独立性和条件独立性的建议。我们的建议包括作者的定义的条件独立性,和类似的定义的独立性作为特殊情况。通过使我们的建议独立于极值理论的背景,我们强调了作者的贡献超越这一特定背景的重要性。
2020-06-01 math.ST stat.TH
Model-X Sequential Testing for Conditional Independence via Testing by Betting
提出了一种无模型条件独立序贯检验方法。这项被提议的测试允许研究人员分析一个输入的i.i.d.。数据流与任何任意依赖结构,并安全地得出结论,是否有条件的功能与研究中的响应相关联。我们允许在数据点到达后立即在线处理数据点,并在检测到重要结果后停止数据采集,严格控制第一类错误率。我们的测试可以与任何复杂的机器学习算法一起工作,以尽可能提高数据效率。所开发的方法的灵感来自两个统计框架。第一种是X模型条件随机化检验,这是一种条件独立性检验,在样本量预先固定的离线设置中有效。第二种是通过打赌进行测试,这是一种用于连续假设检验的“博弈论”方法。我们进行合成实验,以证明我们的测试的优势,开箱即用的顺序测试,占在时间范围内的测试的多样性,并证明我们的建议的实用性,将其应用到现实世界的任务。
2023-02-19 stat.ME stat.ML
Conditional Local Independence Testing for Itô processes with Applications to Dynamic Causal Discovery
School of Computer Science, Peking University(北京大学计算机学院);School of Data Science, Fudan University(复旦大学数据科学学院)
本文针对Itô过程提出条件局部独立性假设检验,基于半鞅分解构造鞅检验统计量,并证明其一致性,应用于动态因果发现及脑fMRI数据。
2025-10-08 cs.LG stat.ME
Evaluating Independence and Conditional Independence Measures
Hitachi China Research Laboratory(日立中国研究院)
独立性和条件独立性(CI)是概率统计中的两个基本概念,可以用来解决统计推断中的许多核心问题。有许多现有的独立性和CI措施定义从不同的原则和概念。本文对16种独立性测度和16种CI测度进行了综述,并利用模拟数据和真实数据进行了评价。对于独立性度量,从正态分布、正态和阿基米德copula函数生成八个模拟数据,以比较二元或多元、线性或非线性设置中的度量。使用两个UCI数据集,包括心脏病数据和葡萄酒质量数据,在真实条件下测试独立性度量的功效。对于CI测度,利用两个具有正态分布和Gumbel copula的模拟数据以及一个真实数据(北京空气数据)来测试预先指定的线性或非线性设置和真实场景下的CI测度。从实验结果中,我们发现,大多数的措施,以及工作的模拟数据,提出正确的单调性的模拟。然而,独立性和CI措施分别在非常复杂的真实数据上进行了区分,只有少数可以被认为是与领域知识相关的。我们还发现,这些措施往往被分成组的基础上,他们在每个设置和一般的行为的相似性。根据实验,我们建议CE作为一个很好的选择,独立性和CI措施。这也是由于其严格的分布自由定义和一致的非参数估计。
2022-05-15 cs.LG stat.ME
Distance Profile Embedding for Independence and Conditional Independence Testing of Random Objects
The Pennsylvania State University(宾夕法尼亚州立大学)
该研究提出距离剖面嵌入(DPE)方法,构建适配非欧几里得随机对象的独立性与条件独立性检验统一框架,可处理对象值条件变量,避免置换检验高计算负担,经模拟与真实数据验证有效。
2026-08-03 econ.EM math.ST stat.AP
Testing for Conditional Mean Independence with Covariates through Martingale Difference Divergence
在统计学中,一个重要的问题是决定回归模型中是否需要附加变量。我们提出了一个新的多元检验来研究给定X条件下Y对某些已知效应Z的条件均值独立性,即,E(Y| X,Z)= E(Y| Z)。假设E(Y| Z)和Z是线性相关的,我们通过变换重新表达了一个等价的条件均值独立性的概念,它在实践中是近似的。我们应用鞅差散度(Shao and Zhang,2014)来度量条件均值依赖性,并证明近似的估计误差可以忽略不计,因为它在某些正则性假设下对检验统计量的渐近分布没有影响。我们的测试的实施是由模拟和金融数据的例子证明。
2018-05-17 math.ST stat.AP stat.CO
Uniformly most powerful unbiased test for conditional independence in Gaussian graphical model
高斯浓度图的模型选择是基于成对条件独立性的多重检验。在实际应用中,偏相关检验被广泛应用。然而,目前还不知道是否偏相关测试是最强大的成对条件独立性测试。这个问题在论文中得到了回答。得到了Neymann结构的一致最强无偏检验。结果表明,该检验可简化为通常的偏相关检验。这意味着偏相关检验是一致最有效的无偏检验。
2016-10-02 math.ST stat.TH
On sample complexity of conditional independence testing with Von Mises estimator with application to causal discovery
EPFL(洛桑联邦理工学院)
本文研究多元分布熵的非参数 Von Mises 估计器,建立其指数集中不等式,并据此提出条件独立性检验 VM-CI,证明了其误差紧上界,首次为连续变量因果发现提供了样本复杂度保证。
2023-10-20 cs.LG
Conditional independence relations and log-linear models for random permutations
我们提出了一类新的随机排列模型,我们称之为对数线性模型,通过类比用于分析列联表的对数线性模型。作为一种特殊情况,我们研究了所有Luce-可分解分布族,以及随机置换族,其中置换及其逆的分布都是Luce-可分解的。我们发现,这些后者的模型可以描述的条件独立关系。我们计算了这些模型中自由参数的个数,并描述了一种极大似然估计的迭代算法,它使我们能够检验一组数据是否满足条件独立关系。
2007-11-16 math.ST stat.TH
Optimal Rate-Exponent Region for a Class of Hypothesis Testing Against Conditional Independence Problems
研究了一类分布式条件独立性假设检验问题。在规定最小化的第二类错误率受到(恒定)上界$ε$的第一类出错率的标准下,我们表征了离散无记忆和无记忆矢量高斯设置的编码率和指数的集合。
2019-04-04 cs.IT math.IT math.ST
Testing Conditional Independence via Quantile Regression Based Partial Copulas
部分copula提供了一种方法,用于描述两个随机变量$X$和$Y$之间的依赖关系,条件是第三个随机向量$Z$的非参数残差$U_1$和$U_2$。本文将偏copula与基于分位数回归的非参数残差估计方法相结合,提出了一种条件独立性的非参数检验方法。我们考虑一个基于广义相关的检验统计量之间的$U_1$和$U_2$,并推导出其大样本性质下的一致性假设的分位数回归过程。我们通过模拟研究表明,所得到的测试是健全的复杂的数据生成分布。此外,在所考虑的示例中,该测试在水平和功效方面与其他最先进的条件独立性测试具有竞争力,并且在$X$和$Y$(给定$Z$)的条件方差异质性的情况下具有优越的功效。
2021-04-29 math.ST stat.TH
Score-based Generative Modeling for Conditional Independence Testing
Fudan University(复旦大学);Alibaba Group(阿里巴巴集团);SIAT, Chinese Academy of Sciences(中国科学院软件研究所);Tongji University(同济大学)
针对现有基于生成模型的条件独立性测试在条件分布建模和训练稳定性上的不足,提出基于分数的生成建模方法,通过切片条件分数匹配和Langevin动力学采样实现精确的第一类错误控制与强测试功效,实验证明其显著优于现有方法。
2025-05-29 cs.AI cs.LG
Minimax Optimal Conditional Independence Testing
本文考虑$X$和$Y$在给定$Z$的条件下的条件独立性检验问题,其中$X,Y$和$Z$是三个实随机变量,$Z$是连续的.我们主要关注两种情况-当$X$和$Y$都是离散的,以及当$X$和$Y$都是连续的。鉴于最近关于条件独立性测试的结果(Shah和Peters,2018),人们不能希望设计非平凡的测试,它控制所有绝对连续条件独立分布的I型错误,同时仍然确保对有趣的替代品的功效。因此,我们确定了各种自然的光滑假设的条件分布的$X,Y|Z=z$的$z$变化的支持$Z$,并研究这些光滑假设下的条件独立性测试的硬度。我们推导出匹配的下限和上界的临界半径之间的分离的零和备择假设的全变差度量。我们考虑的测试很容易实现,并依赖于连续变量$Z$的支持。为了补充这些结果,我们提供了Shah和Peters硬度结果的新证明。
2021-07-01 math.ST stat.TH
A Reproducing-Kernel-Based Nonparametric Test for Conditional Independence of Functional Data
针对函数型数据,提出基于联合条件协方差算子的核检验方法,推导渐近分布并构造检验统计量,应用于活动和生物特征数据集及宏观经济数据集。
2026-09-22 stat.ME
On Testing Marginal versus Conditional Independence
我们考虑在三变量高斯设置中测试边缘独立性与条件独立性。这两个模型是非嵌套的,它们的交集是两个边缘独立性的并集。我们考虑两个序列的这样的模型,一个从每种类型的独立性,这是最接近彼此在Kullback-Leibler意义上,因为他们接近的交集。如果由两个相关参数的乘积测量的信号强度比标准参数速率下降得更快,则它们变得无法区分。在这样的速度下,我们证明了似然比的渐近分布取决于在哪里以及如何当地的替代办法的交叉点。为了处理这种非均匀性,我们研究了一类“包络”分布的渐近累积分布函数的逐点上确界。我们发现,这些包络分布是良好的行为,并导致无速率一致误差保证和接近最佳功率的模型选择程序。为了控制误差,即使当两个模型是不可区分的,而不是坚持一个二分法的选择,所提出的程序将选择一个或两个模型。
2020-01-10 math.ST stat.ME stat.TH
Analysis of Conditional Randomisation and Permutation schemes with application to conditional independence testing
本文分析了条件随机化与条件置换两种重采样方案的渐近性质,证明其概率估计量渐近正态且经验条件互信息分布一致,并验证了置换p值的有效性,为基于重采样和调整自由度卡方分布的条件独立性检验提供了理论依据。
2023-04-12 math.ST stat.TH
The independence process in conditional quantile location-scale models and an application to testing for monotonicity
本文研究了位置-尺度环境下的非参数分位数回归模型。研究了基于协变量和估计残差的经验独立过程的渐近性质。特别地,证明了它的渐近展开和弱收敛于高斯过程.研究结果一方面可用于检验区位-尺度模型的有效性;另一方面,它们允许在条件分位数位置-尺度模型中导出各种规格检验。详细研究了条件分位数曲线的单调性检验。对于位置-尺度模型的有效性检验以及单调性检验,建议采用Kolmogorov-Smirnov和Cramer-von Mises型检验统计量的光滑残差自助版本。我们给出严格的证明自助版本的弱收敛结果。在模拟研究中证明了测试的性能。
2016-09-25 math.ST stat.TH
A Markov Basis for Conditional Test of Common Diagonal Effect in Quasi-Independence Model for Square Contingency Tables
在双向列联表中,我们有时会发现,与非对角单元格相比,对角单元格的频率相对较大(或较小),特别是在行和列具有共同类别的方形表中。在这种情况下,每个对角单元都有一个附加参数的准独立模型通常适合于数据。一个比准独立模型更简单的模型是假设所有对角单元都有一个共同的附加参数。考虑用马尔可夫链蒙特卡罗(MCMC)方法检验共对角效应的拟合优度。我们推导出一个显式形式的马尔可夫基础进行条件检验的共同对角效应。一旦给出了马尔可夫基,MCMC过程可以很容易地实现代数统计技术。我们用一些真实的数据集来说明这个过程。
2008-07-22 stat.ME
Parametric convergence rate of a non-parametric estimator in multivariate mixtures of power series distributions under conditional independence
本文研究条件独立幂级数分布多元混合的非参数估计,证明极大似然估计的Hellinger距离收敛速率,构建达参数速率的新估计量,提出条件独立性检验方法,经模拟和Vélib数据集验证有效。
2025-09-05 math.ST stat.ME stat.TH
Local permutation tests for conditional independence
本文研究了在给定$Z$的情况下,两个随机向量$X$和$Y$之间条件独立性的局部置换检验.局部置换检验通过局部地重排共享条件变量$Z$的相似值的样本来确定检验统计量的显著性,并且它形成了用于无条件独立性检验的通常置换方法的自然扩张。尽管局部置换检验简单且有经验支持,但其理论基础仍不清楚。基于这一空白,本文旨在建立局部置换检验的理论基础,特别关注基于分组的统计。我们首先重新审视条件独立性测试的硬度,并提供了一个上限的权力,任何有效的条件独立性测试,这保持在$Z$中观察碰撞的概率是小的。这个否定的结果自然促使我们对空分布和交替分布下的可能分布施加额外的限制。为此,我们把注意力集中在某些类的光滑分布,并确定可证明的紧条件下,当地的置换方法是普遍有效的,即它是有效的,当应用于任何(分箱为基础的)检验统计量。为了补充这一结果的I型差错控制,我们还表明,在某些情况下,通过本地置换方法校准的基于合并的统计可以实现最小最大的最佳功率。我们还介绍了一个双分仓置换策略,它产生了一个有效的测试在不太光滑的零分布比典型的单分仓方法,而不损害太多的权力。最后,我们提出了模拟结果来支持我们的理论研究结果。
2022-01-06 math.ST stat.ME stat.TH
Asymptotic normality of an estimator of kernel-based conditional mean dependence measure
我们提出了一个估计的核为基础的条件均值的依赖性措施,从一个朴素的估计通常的经验估计的基础上进行适当的修改。然后在条件均值独立假设和备择假设下得到了该估计量的渐近正态性。然后引入了一个新的条件均值独立性的随机变量值到希尔伯特空间的测试。
2022-07-26 math.ST stat.TH
Statistical inference for heavy tailed series with extremal independence
本文考虑平稳时间序列$\{X_j, j \in Z\} whose finite dimensional distributions are regularly varying with extremal independence. We assume that for each $ h \geq 1 $, conditionally on $ X 0 $ to exceed a threshold tending to infinity, the conditional distribution of $ X h$适当归一化弱收敛到一个非退化分布.在本文中,我们考虑估计的正常化和极限分布。
2018-04-29 math.ST stat.TH
Conditional independence testing: a predictive perspective
Federal University of São Carlos(圣卡洛斯联邦大学);University of São Paulo(圣保罗大学)
条件独立性测试是许多机器学习和统计工具需要解决的关键问题。特别是,它是评估监督预测问题上某些特征的有用性的一种方法。我们提出了一种新的条件独立性测试的预测设置,并表明它实现了更好的功率比竞争的方法在几个设置。我们的方法包括使用置换测试来导出p值,其中使用未置换数据集的预测能力与使用感兴趣的特征被置换的数据集的预测能力进行比较。我们的结论是,该方法在模拟和真实数据集上取得了合理的结果。
2019-07-31 cs.LG stat.ML
Learning conditional independence structure for high-dimensional uncorrelated vector processes
Aalto University(阿尔托大学)
我们制定和分析的图形模型选择方法推断的条件独立图的高维非平稳高斯随机过程(时间序列)从有限长度的观察。假设观察到的过程样本随时间不相关,并且具有随时间变化的边缘分布。该选择方法是基于测试的过程组件的小子集获得的条件方差。这允许应付高维制度,其中的样本量可以(大大)小于过程的尺寸。我们描述了所需的样本量,使得所提出的选择方法以高概率成功。
2016-09-13 cs.LG stat.ML
Conditional Independence Testing via Latent Representation Learning
Applied Artificial Intelligence Institute(应用人工智能研究院);Deakin University(迪肯大学)
检测条件独立性在一些统计和机器学习任务中起着关键作用,特别是在因果发现算法中。在这项研究中,我们介绍了LCIT(基于潜在表征的条件独立性测试)-一种新的非参数的条件独立性测试方法的基础上表示学习。我们的主要贡献包括提出了一个生成框架,在该框架中,为了测试给定Z的X和Y之间的独立性,我们首先学习推断目标变量X和Y的不包含条件变量Z信息的潜在表示。潜变量,然后调查任何显着的剩余的依赖关系,这可以使用传统的偏相关性测试进行。实证评估表明,LCIT在不同的评估指标下始终优于几个最先进的基线,并且能够很好地适应各种合成和真实数据集的非线性和高维设置。
2022-09-04 cs.LG stat.ML
Conditional Independence Estimates for the Generalized Nonparanormal
Department of Computer Science University of Colorado Boulder(计算机科学系科罗拉多大学博尔德分校)
本文研究广义非参数正态分布下的条件独立性估计,提出一种简单高效的算法,利用精度矩阵从非高斯数据中恢复条件独立性结构,并通过合成与真实数据验证了其有效性。
2025-08-14 cs.LG stat.ML
Methods for Recovering Conditional Independence Graphs: A Survey
Microsoft Research(微软研究院)
本文综述了恢复条件独立(CI)图的方法,涵盖传统优化与深度学习架构,并提供了相关预备知识以促进广泛应用。
2024-08-29 cs.LG stat.ML
On Different Notions of Redundancy in Conditional-Independence-Based Discovery of Graphical Models
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Amazon Research(亚马逊研究院)
本文探讨了基于条件独立性发现图形模型中冗余测试的作用,指出冗余测试可能修正学习模型的错误,但并非所有测试都具备此能力。
2026-04-20 cs.LG stat.ML
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London(伦敦城市大学)
在处理从数据推断贝叶斯网络结构的任务的论文中,经常提到有两种不同的方法:(i)在测试边缘的存在或其他情况时应用条件独立性测试;(ii)使用评分度量搜索模型空间。在这里,我认为,对于完整的数据和一个给定的节点排序这种分工是一个神话,通过显示,交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Sequential Kernel-based Conditional Independence Testing via Adaptive Betting
Department of Computer Science, University of British Columbia, Vancouver, Canada(不列颠哥伦比亚大学计算机科学系,温哥华,加拿大);Alberta Machine Intelligence Institute, Edmonton, Canada(阿尔伯塔机器智能研究所,爱德蒙顿,加拿大)
提出一种对估计误差更鲁棒的序列条件独立性检验方法,通过自适应优化核条件独立性统计量、归一化及截断平移校准,在合成与真实数据上控制第一类错误并保持高功效。
2026-08-06 cs.LG stat.ME stat.ML
On Distance and Kernel Measures of Conditional Independence
测量条件独立性是统计推断中的重要任务之一,并且是因果发现、特征选择、降维、贝叶斯网络学习等的基础。在这项工作中,我们探讨了度量空间和再生核希尔伯特空间(RKHS)的再生核的距离诱导的条件独立性措施之间的连接。对于一定的距离和内核对,我们显示的距离为基础的条件独立的措施是等价的,基于内核的措施。另一方面,我们还表明,一些流行的-在机器学习-核条件独立性措施的基础上的希尔伯特-施密特范数的某一交叉条件协方差算子,没有一个简单的距离表示,除了在某些限制情况下。因此,这篇论文表明条件独立性的距离和核度量不完全等同,这与Sejdinovic等人(2013)所示的联合独立性不同。
2020-08-17 math.ST stat.ML stat.TH
Conditional independence testing via weighted partial copulas and nearest neighbors
本文介绍了测试条件独立性的\textit{weighted partial copula}函数。建议的测试程序结果从这两个成分:(i)测试统计量是一个显式的克莱默-冯米塞斯变换的\textit{weighted partial copula},(ii)拒绝的区域计算使用自举程序,它模仿条件独立性的估计条件边际的产品措施产生的样本。在条件独立性下,证明了当边缘估计采用光滑局部线性估计时,\textit{weighted partial copula proces}的弱收敛性.最后,一个实验部分表明,所提出的测试具有竞争力相比,最近的国家的最先进的方法,如基于内核的测试。
2021-02-12 stat.ME stat.ML
Conditional-Independence-Regularized Distributional Autoencoders for Mixed-Type Data
University of Michigan(密歇根大学)
本研究提出Conditional-Independence-Regularized Distributional Autoencoders框架,通过结合不同类型变量的目标函数与条件独立性正则化项,实现混合类型数据的表征学习,在多类数据集上提升了分布恢复性能并保留了变量依赖结构。
2026-08-24 cs.LG stat.ME stat.ML
Fast Conditional Independence Test for Vector Variables with Large Sample Sizes
California Institute of Technology(加州理工学院)
我们提出并评估快速(条件)独立性测试(FIT)-非参数条件独立性测试。该测试基于以下想法:当$P(X \mid Y, Z) = P(X \mid Y)$时,只要$Y$也是回归变量,则$Z$作为预测$X$的特征是无用的。相反,如果是$P(X \mid Y, Z) \neq P(X \mid Y)$,则$Z$可能改善预测结果。FIT适用于具有十万个样本的千维随机变量,所需时间仅为其他方法的一小部分。我们提供了一个广泛的评价,比较适合六个现存的非参数独立性检验。评估表明,与其他测试相比,FIT产生I类和第二类错误的概率较低,尤其是随着可用样本数量的增加。我们的FIT实现是公开的。
2018-04-08 cs.AI cs.LG stat.ML
A Bayesian nonparametric test for conditional independence
本文介绍了一种贝叶斯非参数方法,用于量化数据集中的相对证据,以支持两个变量在第三个变量条件下的依赖或独立。该方法使用Polya树先验空间的条件概率密度,占不确定性的形式的基本分布的非参数的方式。贝叶斯观点提供了条件依赖性或独立性的固有对称概率测度,这是在因果发现中特别有利的特征,并且在这种类型的现有程序中没有采用。
2020-07-16 stat.CO stat.ME stat.ML
Differentially Private Conditional Independence Testing
Amazon(亚马逊公司);Carnegie Mellon University(卡内基梅隆大学)
本研究探讨了差分隐私约束下的条件独立性检验,提出了两种基于广义协方差度量和条件随机化检验的私有检验方法,并提供了理论保证与实证验证,适用于连续变量的一般情况。
2024-03-22 cs.CR cs.LG stat.ML
Unsupervised Risk Estimation Using Only Conditional Independence Structure
Stanford University(斯坦福大学)
我们展示了如何估计模型的测试误差从未标记的数据,分布非常不同的训练分布,而假设只有一定的条件独立性之间保留训练和测试。我们不需要假设最优预测器在训练和测试之间是相同的,或者真实分布位于任何参数族中。我们还可以有效地区分误差估计,以执行无监督的判别学习。我们的技术工具是矩量法,它允许我们在没有完全指定的模型的情况下利用条件独立性。我们的框架包括一个大家庭的损失,包括日志和指数损失,并扩展到结构化的输出设置,如隐马尔可夫模型。
2016-06-16 cs.AI cs.LG stat.ML
Approximate Kernel-based Conditional Independence Tests for Fast Non-Parametric Causal Discovery
基于约束的因果发现(CCD)算法需要快速准确的条件独立性(CI)测试。核条件独立性检验(KCIT)是目前最流行的非参数条件下的CI检验方法之一,但由于该检验方法与样本量的关系不大,许多研究者无法将其应用于大数据集。因此,我们设计了两个松弛称为随机条件独立性测试(RCIT)和随机条件相关性测试(RCoT),这两个近似KCIT利用随机傅立叶特征。在实践中,这两个拟议的测试规模与样本量线性和返回准确的p值比KCIT在大样本量的背景下快得多。使用RCIT或RCoT运行的CCD算法也返回至少与使用KCIT运行的相同算法一样准确的图形,但运行时间大大减少。
2017-04-13 stat.ME stat.ML
DIET: Conditional independence testing with marginal dependence measures of residual information
New York University(纽约大学);Memorial Sloan Kettering Cancer Center(纪念斯隆-凯特琳癌症中心)
本文提出DIET算法,通过检验条件CDF变换后的信息残差的边际独立性来进行条件独立性检验,避免数据划分和交互启发式带来的功效损失,并在理论和实验上证明其具有更高的检验功效。
2023-04-11 cs.LG stat.ME stat.ML
Fairness via Independence: A (Conditional) Distance Covariance Framework
School of Mathematics and Statistics, Huazhong University of Science and Technology, Wuhan, Hubei, China(华中科技大学数学与统计学院);Institute of Interdisciplinary Research for Mathematics and Applied Science & Hubei Key Laboratory of Engineering Modeling and Scientific Computing, Huazhong University of Science and Technology, Wuhan, Hubei, China(华中科技大学数学与应用科学交叉研究 institute 及湖北省工程建模与科学计算重点实验室)
本文提出一种基于距离协方差的公平性提升方法,通过在模型训练中引入惩罚项并优化计算效率,有效缩小了机器学习中的公平性差距。
2025-12-19 cs.CY cs.LG stat.ML
Bayesian test of significance for conditional independence: The multinomial model
条件独立性检验(CI test)作为衡量模型变量间关系的重要指标,近年来在机器学习和计算智能领域受到了广泛关注。在概率图形模型(PGM)领域-包括贝叶斯网络(BN)模型-CI测试对于从数据中学习PGM结构的任务尤为重要。在本文中,我们提出了完整的贝叶斯显著性检验(FBST)的离散数据集的条件独立性的测试。FBST是一个功能强大的贝叶斯精确假设检验,作为频率论显著性检验(其特征是计算\emph{p-value})的替代方法。
2013-06-16 stat.CO stat.ML
On the Hardness of Conditional Independence Testing In Practice
UBC(不列颠哥伦比亚大学);McGill and Mila(麦吉尔大学和Mila);Microsoft AI(微软人工智能);CMU(卡内基梅隆大学);Gatsby Unit, UCL(UCL加太西单位);UBC and Amii(不列颠哥伦比亚大学和Amii)
研究分析了KCI测试中条件核选择对测试性能的影响,揭示了误差和核选择对I型错误率的关键作用。
2025-12-16 cs.LG stat.ME stat.ML
On the Intersection Property of Conditional Independence and its Application to Causal Discovery
本文研究了条件独立性的交集性质。它指出,对于随机变量$A,B,C$和$X$,我们有$X$独立于$A$给定$B,C$和$X$独立于$B$给定$A,C$意味着$X$独立于$(A,B)$给定$C$。在联合分布具有连续密度的假设下,我们给出了相交性成立的充要条件。结果有直接的应用因果推理:它导致严格较弱的条件下,图形结构成为可识别的加性噪声模型的联合分布。
2014-03-04 math.PR stat.ML