Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning
Carnegie Mellon University(卡内基梅隆大学);FernUniversität in Hagen(哈根函授大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出了一种线性非高斯潜在变量循环因果模型的分布等价性特征化方法,填补了无结构假设的因果发现空白。
2026-03-05 cs.LG stat.ML
Causal Markov Boundaries
特征选择是机器学习中的一个重要问题,其目的是选择导致最优预测模型的变量。在本文中,我们专注于从干预前的变量进行干预后结果预测的特征选择。我们的动机是医疗环境,其目标通常是选择将最大限度地提高特定患者结局的治疗;然而,我们通常没有足够的随机对照试验数据来确定条件处理效应。我们展示了如何在两种情况下使用观测数据来改进特征选择和效果估计:(a)当我们知道因果图时使用观测数据,以及(b)当我们不知道因果图但有观测和有限的实验数据时。我们的论文扩展了马尔可夫边界的概念,治疗结果对。我们为我们介绍的方法提供理论保证。在模拟数据中,我们表明,结合观察和实验数据可以改善特征选择和效果估计。
2021-03-12 cs.LG stat.ML
A Characterization of Markov Equivalence Classes for Directed Acyclic Graphs with Latent Variables
不同的有向无环图(DAG)可能是马尔可夫等价的,因为它们在观测变量之间具有相同的条件独立关系。Meek(1995)通过提出一组方向规则来表征DAG的马尔可夫等价类(没有潜在变量),该方向规则可以正确地识别马尔可夫等价类中所有DAG共享的所有箭头方向,给定该类的成员。对于具有潜在变量的DAG模型,最大祖先图(MAG)提供了一种简洁的表示,便于模型搜索。早期的工作(阿里等人,2005年)已经确定了一套方向规则,足以构建所有箭头共同的马尔可夫等价类的MAG。在本文中,我们提供了额外的规则足以构造所有共同的尾巴。我们最终与一组定位规则的声音和完整的识别跨马尔可夫等价类的MAG,这是特别有用的因果推断的共性。
2012-06-20 cs.LG stat.ME stat.ML
Supplementary material for Markov equivalence for ancestral graphs
我们证明了Zhao et al.(2005)给出的Markov等价性准则可以包含一组顶点数为指数的图的特征。
2009-05-11 stat.ML
A Uniformly Consistent Estimator of non-Gaussian Causal Effects Under the k-Triangle-Faithfulness Assumption
Kalisch and Bühlmann(2007)证明了对于线性高斯模型,在因果马尔可夫假设、强因果忠实性假设和因果充分性假设下,PC算法是线性高斯模型真实因果DAG的马尔可夫等价类的一致相合估计量;由此得出,对于马尔可夫等价类中可识别的因果效应,也存在因果效应的一致相合估计量。$k$ -三角忠诚假设是一个严格较弱的假设,它避免了强因果忠诚假设的一些不可信的含义,也允许马尔可夫等价类(在弱意义上)和可识别因果效应的一致相合估计。然而,这两个假设都局限于线性高斯模型。我们提出了广义$k$ -三角形可信度,它可以应用于任何光滑分布。此外,在广义$k$ -三角形可信度假设下,我们描述了边缘估计算法,该算法在某些情况下提供因果效应的一致估计(否则输出“无法分辨”),以及\textit{Very Conservative } $SGS$算法,该算法(在稍弱的意义上)是真实DAG的马尔可夫等价类的一致相合估计量。
2021-08-01 cs.LG stat.ME stat.ML
Markov Equivalences for Subclasses of Loopless Mixed Graphs
本文讨论了无环混合图子类的马氏等价性的四个问题。我们将这四个问题归类为寻找内部马尔可夫等价的条件,这是子类内的马尔可夫等价,外部马尔可夫等价,这是子类之间的马尔可夫等价,代表性马尔可夫等价,这是一个子类的图与另一个子类的图马尔可夫等价的可能性,以及寻找算法来从与给定图马尔可夫等价的某个子类生成图。我们特别专注于类的最大祖先图及其子类,即回归图,双向图,无向图,有向无环图,并提出了新的结果代表马尔可夫等价和算法。
2011-10-20 math.ST stat.ML stat.OT
A Causal Markov Condition for Value
University of Inland Norway(内陆挪威大学)
本文提出价值因果马尔可夫条件,发展因果价值理论,引入概率-价值对偶性,制定v-CMC不同版本并证明等价性,定义v-分离,推导贝尔曼型递归,还展示其对效用信息的作用并开发相关算法。
2026-07-21 cs.AI cs.LG stat.ML
Do we become wiser with time? On causal equivalence with tiered background knowledge
University of Bremen(不来梅大学);Leibniz Institute for Prevention Research and Epidemiology – BIPS(莱布尼茨预防研究与流行病学研究所——BIPS)
本文研究如何利用分层背景知识缩小DAG因果等价类,提出分层MPDAG并证明其结构与计算性质,同时刻画不同分层排序的信息性。
2023-06-02 cs.LG math.ST stat.ML
Lower Bounds on the Size of Markov Equivalence Classes
Engineering and Applied Science(工程与应用科学);California Institute of Technology(加州理工学院)
本文研究因果发现中Markov等价类的可辨识性极限,证明放宽无环性、因果充分性或均匀先验后,三类随机图的等价类期望大小具有指数级下界。
2025-07-25 cs.LG math.ST stat.ML
Supplement to "Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs"
这份补充材料包括三个部分:一些初步结果,四个例子,一个实验,三个新的算法,和所有的证明结果的文件“可逆MCMC对马尔可夫等价类的稀疏有向无环图”。
2013-08-10 math.CO stat.ML
Integrating Markov processes with structural causal modeling enables counterfactual inference in complex systems
Gamalon Inc.(Gamalon公司);Northeastern University(东北大学)
这篇文章提供了一个一般的和实用的框架,铸造一个马尔可夫过程模型的系统在平衡作为一个结构的因果模型,并进行反事实推理。马尔可夫过程在数学上描述了系统中的机制,并预测系统在干预时的平衡行为,但不支持反事实推理。相反,结构因果模型支持反事实推理,但不确定的机制。本手稿利用了这两种方法的优点。我们定义的结构因果模型的参数和平衡动态的马尔可夫过程模型,并从这些设置反事实推理流。所提出的方法消除了结构因果模型的可识别性缺陷,因为反事实推理与从马尔可夫过程模型模拟的反事实轨迹是一致的。我们展示了这个框架的好处,在复杂的生物分子系统的非线性动力学的案例研究。我们说明了,在存在马尔可夫过程模型误指定,反事实推理利用先验数据,因此估计干预的结果比直接模拟更准确。
2019-11-06 cs.LG q-bio.MN stat.AP
Markov Blanket Discovery using Minimum Message Length
The Australian National University(澳大利亚国立大学);Monash University(莫纳什大学)
因果发现可以自动从数据中学习因果贝叶斯网络,从一开始就引起了人们的积极兴趣。随着从互联网上获取大型数据集,对扩展到非常大的数据集的兴趣已经增长。对此的一种方法是使用马尔可夫毯(MB)发现作为第一步来并行化搜索,随后是在全局因果模型中组合MB的过程。我们开发和探索三种新的MB发现方法,使用最小消息长度(MML),并将它们与现有的最佳方法进行经验比较,无论是专门作为MB发现还是作为特征选择。我们最好的MML方法始终具有竞争力,并具有一些有利的功能。
2021-07-16 cs.LG stat.ML
Characterization and Learning of Causal Graphs with Small Conditioning Sets
Purdue University(普渡大学)
本文针对小样本条件下条件独立性检验因条件集过大而失效的问题,提出 $k$-Markov 等价概念及 $k$-PC 算法,通过限制条件集大小上界实现更稳健的因果图学习。
2023-10-28 cs.AI cs.LG stat.ML
On equivalence between linear-chain conditional random fields and hidden Markov chains
IBM France(IBM法国);Telecom SudParis(巴黎电信学院);Institut Polytechnique de Paris(巴黎理工学院)
从业者成功地使用隐藏的马尔可夫链(HMCs)在不同的问题约60年。HMC属于生成模型家族,并且它们经常与判别模型(如条件随机场(CRF))进行比较。作者通常认为CRF与HMC有很大的不同,CRF通常被认为是HMC的有趣替代品。在某些领域,如自然语言处理(NLP),判别模型已经完全取代了生成模型。然而,最近的一些结果表明,这两类模型并没有太大差异,并且它们都可以产生相同的处理能力。在本文中,我们比较简单的线性链CRF的基本HMC。我们表明,HMC是相同的CRF,对于每个CRF,我们明确地构建一个HMC具有相同的后验分布。因此,HMC和线性链CRF并没有不同,而只是不同的参数化模型。
2021-11-14 cs.LG stat.ML
Formulas for Counting the Sizes of Markov Equivalence Classes of Directed Acyclic Graphs
有向无环图的马尔可夫等价类的大小在度量因果学习的不确定性和复杂性方面起着重要的作用。一个马尔可夫等价类可以用一个本质图来表示,它的无向子图决定了这个类的大小。在本文中,我们发展了一种方法,推导出计算公式的马尔可夫等价类的大小。本文首先引入了核图的概念。所关注的马尔可夫等价类的大小是给定其核心图的顶点数的多项式。然后,我们讨论了多项式的递归和显式公式,并提供了一个算法,通过符号计算得到的大小公式,对于任何给定的核心图。所提出的大小公式推导揭示了马尔可夫等价类的大小与其表示图之间的关系,并使大小计数有效,即使当基本图包含非稀疏无向子图。
2016-10-23 cs.DM stat.ML
Identifiability of Causal Graphs using Functional Models
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
这项工作解决了以下问题:在什么样的假设下,对数据生成过程中可以推断因果图的联合分布?基于条件独立的因果发现方法基于两个假设:马尔可夫条件和忠实性。它已被证明,在这些假设下,因果图可以识别到马尔可夫等价(一些箭头保持无向)使用PC算法等方法。在这项工作中,我们提出了一种替代定义可识别的功能模型类(IFMOCs)。作为我们的主要定理,我们证明了,如果数据生成过程属于IFMOC,可以确定完整的因果图。据我们所知,这是第一个可识别的结果,这种不限于线性函数关系。我们讨论了IFMOC假设和马尔可夫和忠诚假设之间的关系,并解释了为什么我们认为IFMOC假设可以更容易地在给定的数据上进行测试。我们进一步提供了一个实用的算法,恢复的因果图从大量的数据,模拟数据的实验支持的理论研究结果。
2012-02-14 cs.LG stat.ML
A Recursive Markov Boundary-Based Approach to Causal Structure Learning
EPFL(洛桑联邦理工学院);Johns Hopkins University(约翰斯·霍普金斯大学)
基于约束的方法是因果结构学习的主要方法之一,因为它们可以渐近保证找到与系统的因果图等价的马尔可夫结构。另一方面,它们可能需要在系统的变量数量上进行指数级大量的条件独立性(CI)测试。在本文中,我们提出了一种新的递归约束为基础的因果结构学习方法,显着减少了所需的CI测试的数量相比,现有的文献。所提出的方法的思想是使用马尔可夫边界信息来识别可以从变量集合中移除的特定变量,而不会影响其他变量之间的统计依赖关系。识别出这样一个变量后,我们发现它的邻域,从变量集中删除该变量,并递归地学习剩余变量的因果结构。我们进一步提供了一个下限的CI测试所需的任何基于约束的方法的数量。将该下限与我们的可实现的界限进行比较,表明了所提出的方法的效率。我们的实验结果表明,该算法优于国家的最先进的合成和现实世界的结构。
2021-05-21 cs.AI cs.LG stat.ML
Front-door Adjustment Beyond Markov Equivalence with Limited Graph Knowledge
Massachusetts Institute of Technology(麻省理工学院);Google Research India(谷歌印度研究院);Purdue University(普渡大学)
本文提出在有限图知识下,利用可检验的条件独立性陈述实现类似前门调整的因果效应估计,适用于马尔可夫等价类不足的场景,并在随机图和因果公平基准上验证了有效性。
2023-06-19 cs.LG stat.ME stat.ML
Causal structure learning with momentum: Sampling distributions over Markov Equivalence Classes of DAGs
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学);Institute for Theoretical Computer Science(理论计算机科学研究所);University of Lübeck(吕贝克大学)
针对贝叶斯网络结构推断问题,提出带动量的不可逆因果之字形采样器,依托GES算子采样马尔可夫等价DAG类分布,并优化相关算法,显著提升运行效率与混合效果。
2024-08-27 cs.AI cs.LG stat.ML
Sparse Markov Decision Processes with Causal Sparse Tsallis Entropy Regularization for Reinforcement Learning
Seoul National University(首尔大学)
本文提出了一种新的因果稀疏Tsallis熵正则化的稀疏马尔可夫决策过程(MDP),该策略正则化可使稀疏MDP的最优策略分布具有稀疏性和多峰性。本文首先分析了稀疏MDP的最优性条件,然后给出了稀疏MDP的最优性条件。然后,我们提出了一个稀疏值迭代方法,解决了稀疏MDP,然后证明了收敛性和最优性稀疏值迭代使用Banach不动点定理。建议的稀疏MDP相比,软MDP利用因果熵正则化。我们表明,稀疏MDP的性能误差有一个恒定的界限,而软MDP的错误增加相对于动作的数量,其中这种性能误差是由引入的正则化项。在实验中,我们将稀疏MDP应用于强化学习问题。所提出的方法优于现有的方法在收敛速度和性能。
2017-10-13 cs.AI cs.LG stat.ML
PAG2ADMG: An Algorithm for the Complete Causal Enumeration of a Markov Equivalence Class
因果图,如有向无环图(DAG)和部分祖先图(PAG),表示模型中变量之间的因果关系。存在用于从数据学习DAG和PAG以及用于将DAG转换成PAG的方法。然而,这些方法是显着的限制,因为它们只输出一个单一的因果关系图的独立性和依赖性(马尔可夫等价类$M$)从数据估计一致。这是有问题的并且是不充分的,因为许多不同的图可能与$M$一致。数据建模者可能希望使用领域知识或其他模型选择算法在这些众多的一致图中进行选择。一致图集合的计数是瓶颈。在本文中,我们提出了一种方法,使这种期望的枚举成为可能。我们介绍PAG2ADMG,第一个算法枚举所有的因果图符合$M$。PAG2ADMG将给定的PAG转换为与$M$一致的无环有向混合图(ADMG)的完整集合。我们证明了该方法的正确性,并证明了其效率相对于暴力枚举。
2018-01-18 stat.ME stat.ML
Polynomial-Time Algorithms for Counting and Sampling Markov Equivalent DAGs with Applications
University of Lübeck(吕贝克大学);European Space Agency(欧洲空间局)
本文提出可在多项式时间内完成马尔可夫等价类中有向无环图的计数与采样的算法,解决了领域长期公开问题,算法高效易实现,推动相关因果学习与识别策略落地应用。
2023-08-21 cs.AI cs.LG stat.ML
Causal inference using the algorithmic Markov condition
推断连接n个可观测量的因果结构通常基于检测统计依赖性和选择使联合测量马尔可夫的单图。在这里,我们将讨论为什么因果推理也是可能的,当只有单一的观察。我们开发了一个理论,如何生成因果图解释单个对象之间的相似性。为此,我们取代的概念,条件随机独立的因果马尔可夫条件的条件算法互信息的消失,并描述了相应的因果推理规则。我们解释了为什么一个一致的重新制定的因果推理算法的复杂性意味着一个新的推理原则,也考虑到条件概率密度的复杂性,使它能够选择马尔可夫等价因果图。这一见解提供了一个理论基础的启发式原则提出了早期的工作。我们还讨论了如何用可判定的复杂性准则代替Kolmogorov复杂性。这可以被看作是一种算法模拟,用基于潜在分布的隐式或显式假设的实际独立性测试来取代统计独立性的经验不可判定问题。
2008-04-23 cs.IT math.IT math.ST
Quantifying First-Order Markov Violations in Noisy Reinforcement Learning: A Causal Discovery Approach
University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出结合PCMCI因果发现与马尔可夫违背分数(MVS)的方法,用于检测噪声和部分可观测性对强化学习单步转移假设的破坏,并通过经典控制任务验证关键状态维度对保持马尔可夫一致性和学习性能的重要性。
2025-06-01 cs.AI cs.LG stat.ML
On the Representation of Pairwise Causal Background Knowledge and Its Applications in Causal Inference
Peking University(北京大学);Xiaomi Corporation(小米公司);Inspur Industrial Innovation (Shandong) Intelligent Manufacturing Co., Ltd.(Inspur工业创新(山东)智能制造有限公司);Renmin University of China(中国人民大学)
本文提出通过直接因果子句(DCC)统一表示三种成对因果背景知识,并证明因果效应的可识别性仅依赖于分解的MPDAG。
2026-01-03 cs.AI cs.LG stat.ML
Circumventing the Curse of Dimensionality in Prediction: Causal Rate-Distortion for Infinite-Order Markov Processes
University of California at Berkeley(加州大学伯克利分校);University of California at Davis(加州大学戴维斯分校)
预测率失真分析受到维数灾难的影响:聚类任意长的过去以保留关于任意长的未来的信息需要通常随长度呈指数增长的资源。无限阶马尔可夫过程的挑战是复杂的,因为有限序列的条件不能捕捉所有的过去的依赖关系。谱参数表明,聚类有限长度序列的算法显着失败时,底层过程具有长范围的时间相关性,甚至可以失败的有限内存隐马尔可夫模型生成的过程。我们规避灾难的维数在率失真分析的无限阶过程铸造预测率失真目标函数的前向和反向时间因果状态的计算力学。实例表明,由此产生的因果率失真理论大大提高了目前的预测率失真分析。
2014-12-09 cond-mat.stat-mech cs.LG nlin.CD
Size of Interventional Markov Equivalence Classes in Random DAG Models
IBM Research(IBM研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);MIT(麻省理工学院)
有向无环图(DAG)模型是用于捕获因果关系的流行模型。根据观察和干预数据,DAG模型只能确定到其\emph{interventional Markov equivalence class}(I-MEC)。我们研究了随机DAG模型的MEC的大小均匀采样和排序的Erdens-Rényi图。对于恒定的密度,我们表明,预期的$\log$观测MEC的大小渐近(在顶点数)接近一个常数。我们以类似的方式在上述设置中以高精度表征I-MEC尺寸。我们表明,完全确定一个DAG所需的干预措施的渐近预期数量是一个常数。这些结果是通过利用Meek规则和耦合参数,以提供尖锐的上界和下界的渐近量,然后计算数值高精度。我们的研究结果具有重要的后果干预的试验设计和因果推断算法的发展。
2019-03-05 cs.AI cs.LG stat.ML
Causal Discovery in Structural VAR Models Under Equal Noise Variance
Bourns College of Engineering, University of California, Riverside(加州大学河滨分校工程学院);University of California, San Francisco(加州大学旧金山分校);Department of Mathematics and Statistics, Boston University(波士顿大学数学与统计学系)
本文研究了在等噪声方差假设下线性高斯结构VAR模型中的因果发现问题,提出了一种基于稀疏性的方法ENVAR,用于在观测等价类中寻找稀疏的结构代表,并在合成数据和fMRI数据集上进行了评估。
2026-05-21 cs.LG stat.ME stat.ML
Typing assumptions improve identification in causal discovery
Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ServiceNow Research(ServiceNow研究院);Samsung AI Center Montreal(三星蒙特利尔人工智能中心)
从观测数据中发现因果关系是一项具有挑战性的任务,只能解决一组等价的解决方案,称为等价类。这样的类,这往往是大的尺寸,编码的不确定性的因果图中的一些边缘的方向。在这项工作中,我们提出了一套新的假设,约束可能的因果关系的基础上的变量的性质,从而限制等价类。也就是说,我们引入类型有向无环图,其中变量类型用于确定因果关系的有效性。我们证明,无论是理论和经验,所提出的假设可以导致显着的收益在因果图的识别。我们还提出了因果发现算法,利用这些假设和模拟和伪真实数据证明其好处。
2022-02-28 cs.AI cs.LG stat.ML
Causal Graphs, Markov Properties and Do-calculus for Stochastic Differential Equations
VU Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学)
研究随机微分方程的图形因果模型,提出因果SDE系统可解性条件,建立基于因果图的马尔可夫性质和do-演算,证明一类SDEs的更强性质,引入时间分割系统,探讨因果发现算法在框架内对SDEs的应用。
2026-07-23 math.ST stat.ML stat.TH
Identifiable Markov Switching Models with Instantaneous Effects and Exponential Families
University of Amsterdam(阿姆斯特丹大学)
针对非平稳时间序列,提出在指数族噪声下具有瞬时效应的马尔可夫切换模型的可识别性理论,并开发FlowMSM框架用于检测隐状态和恢复因果结构。
2026-06-15 cs.LG stat.ME stat.ML
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具,用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而,与目前已知的算法,在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中,我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间,提出了一个完美的运营商,确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式,易于计算。具体来说,我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件,对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本,并研究了具有数千个顶点的稀疏有向无环图(DAG)的马尔可夫等价类的性质.我们通过实验发现,在大多数稀疏DAG的马尔可夫等价类中,(1)大多数边是有向的,(2)大多数无向子图是小的,(3)这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv:1303.0632,http://dx.doi.org/10.1214/13-AOS1125SUPP
2014-01-27 cs.DM stat.ME stat.ML
Bayesian Discovery of Linear Acyclic Causal Models
Helsinki Institute for Information Technology(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
从非干预性数据中自动发现因果关系的方法最近受到了广泛关注。线性非循环因果模型(递归结构方程模型)是一种广泛使用且易于理解的模型族。对于高斯数据,两种基于约束的方法(Spirtes等人,一九九三年; Pearl,2000年)(输出一个单一的等价类)和基于贝叶斯评分的方法(Geiger和Heckerman,1994年)(为等价类分配相对评分)。相反,能够利用数据中的非高斯性的所有当前方法(Shimizu等人,2006; Hoyer等人,2008)总是只返回一个图或一个等价类,因此根本无法表达输出的确定性程度。在本文中,我们开发了一个贝叶斯评分为基础的方法,能够利用非高斯估计线性非循环因果模型时,我们的经验表明,至少在非常适度的规模的网络,其准确性是一样好或优于现有的方法。我们提供了一个完整的代码包(在R),实现所有的算法,并执行所有的分析提供的文件,并希望这将进一步应用这些方法来解决因果推断问题。
2012-05-09 cs.LG stat.ME stat.ML
Percolation Thresholds of Updated Posteriors for Tracking Causal Markov Processes in Complex Networks
复杂网络上的渗流已经被用来研究计算机病毒、流行病和其他偶然过程。在这里,我们提出了一个网络特定的,观察依赖的,相变的节点状态的更新后,积极监测网络的存在条件。由于传统的逾渗阈值是使用独立于观察的马尔可夫链导出的,因此后验的阈值应该更准确地模拟网络的真实相变,因为更新后的后验更准确地跟踪该过程。这些条件应该提供洞察建模的动态响应更新后的积极干预和控制政策,同时监测大型复杂网络。
2009-05-14 stat.AP stat.ML
From dependency to causality: a machine learning approach
Université Libre de Bruxelles(布鲁塞尔自由大学);Interuniversity Institute of Bioinformatics in Brussels(布鲁塞尔大学生物信息学研究所)
统计依赖性和因果关系之间的关系是所有因果推断的统计方法的核心。ChaLearn因果对挑战的最新结果表明,由于数据驱动的方法,因果方向性也可以在马尔可夫不可区分的配置中以良好的准确性推断出来。本文提出了一种有监督的机器学习方法来推断存在的有向因果关系的两个变量之间的多元设置与$n>2$变量。该方法依赖于两个变量因果连接的马尔可夫毯成员之间的一些条件(不)依赖关系的不对称性。我们的研究结果表明,监督学习方法可以成功地用于提取因果信息的基础上的非对称统计描述符也为$n>2$变量分布。
2014-12-19 cs.AI cs.LG stat.ML
Bayesian causal discovery from unknown general interventions
Università Cattolica del Sacro Cuore(圣心天主教大学);Università degli Studi di Milano-Bicocca(米兰比可卡大学)
本文提出一种贝叶斯因果发现方法,在干预目标未知且允许修改父节点集合的一般干预条件下学习DAG,并给出干预马尔可夫等价类的图形刻画、兼容先验和MCMC后验近似方案。
2023-12-01 cs.LG stat.ME stat.ML
Alternative Markov and Causal Properties for Acyclic Directed Mixed Graphs
Linköping University(林雪平大学)
我们扩展Anderson-Madigan-Perlman链图(i)放松半有向无环约束,使只有有向循环是禁止的,(ii)允许任何一对节点之间的两个边缘。我们引入全球,并下令当地和成对的马尔可夫性的新模型。我们证明了严格正概率分布的这些性质的等价性。我们还表明,当随机变量是连续的,新的模型可以解释为系统的结构方程与相关的错误。这使我们能够适应珍珠的做演算。最后,我们描述了一种精确的算法,通过答案集编程从观察和干预数据中学习新模型。
2016-02-19 cs.AI stat.ML
Markov Equivalence and Consistency in Differentiable Structure Learning
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院);Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)
针对现有DAG可微结构学习依赖强可识别性假设及优化器易利用损失伪影的问题,通过正则化似然识别马尔可夫等价类中最稀疏模型,推广至一般模型并经实验验证,为通用场景下的可微结构学习提供理论与方法支持。
2024-11-27 cs.LG math.ST stat.ME
Membership Testing in Markov Equivalence Classes via Independence Query Oracles
Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所)
该研究针对因果图马尔可夫等价类的成员测试问题,提出基于约束的测试方法,证明了测试所需独立性测试数的上下界均为最大团规模的指数级,表明测试比学习更易,还给出几何解释并探讨其对学习的辅助作用。
2024-03-09 cs.AI cs.LG stat.ME
Counting and Sampling from Markov Equivalent DAGs Using Clique Trees
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Sharif University of Technology(谢里夫理工大学);Georgia Institute of Technology(佐治亚理工学院);Carnegie Mellon University(卡内基梅隆大学)
有向无环图(DAG)是表示一组变量之间因果关系的最常见的图形模型。当仅限于使用观测数据时,基于变量之间的条件独立关系,地面实况DAG的结构仅在马尔可夫等价时是可识别的。因此,等同于真实DAG的DAG数量是底层结构因果复杂性的指标--粗略地说,它显示了需要多少干预或多少额外信息来恢复底层DAG。在本文中,我们提出了一种新的技术,用于计数的DAG在马尔可夫等价类的数量。我们的方法是基于弦图的团树表示。我们表明,在有界度图的情况下,所提出的算法是多项式时间。我们进一步证明,这种技术可以用于均匀采样的马尔可夫等价类,它提供了一种随机的方式来枚举DAG的等价类,并可能需要找到最好的DAG或因果推理的等价类作为输入。我们还扩展了我们的计数和采样方法的情况下,先验知识的基础DAG是可用的,并提出了应用这种扩展在因果实验设计和估计因果效应的联合干预。
2018-09-11 cs.AI cs.DS cs.LG
Conditions and Assumptions for Constraint-based Causal Structure Learning
University College London(伦敦大学学院)
我们形式化的“真正的”因果图从观察数据的约束为基础的结构学习时,未观察到的变量也存在。我们提供了一个“自然”家庭的约束为基础的结构学习算法,输出图是马尔可夫等价的因果图的条件。在忠实性假设下,这个自然家族包含了所有精确的结构学习算法。我们还提供了一组假设,在此假设下,任何自然的结构学习算法输出马尔可夫等价图的因果图。这些假设可以被认为是对忠诚度的放松,其中大多数可以直接从数据(底层分布)中进行测试,特别是当人们关注结构因果模型时。我们专门的结构因果模型的定义和结果。
2022-05-08 cs.LG math.ST stat.ML