Active Bayesian Causal Inference
TU Graz(格拉茨技术大学);ETH Zürich(苏黎世联邦理工学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学)
因果发现和因果推理通常被视为独立和连续的任务:首先推断因果图,然后使用它来估计干预措施的因果效应。然而,这种两阶段方法是不经济的,特别是在主动收集的介入数据方面,因为感兴趣的因果查询可能不需要完全指定的因果模型。从贝叶斯的角度来看,这也是不自然的,因为因果查询(例如,因果图或某种因果效应)可以被视为经受后验推理的潜在量--不直接感兴趣的其它未观察到的量(例如,完整的因果模型)应该在这个过程中被边缘化,并助长我们认识上的不确定性。在这项工作中,我们提出了主动贝叶斯因果推理(ABCI),一个完整的贝叶斯主动学习框架集成的因果发现和推理,共同推断后的因果模型和查询的兴趣。在我们的方法ABCI,我们专注于类因果充分,非线性加性噪声模型,我们使用高斯过程建模。我们依次设计实验,最大限度地提供有关目标因果查询的信息,收集相应的干预数据,并更新我们的信念以选择下一个实验。通过模拟,我们证明了我们的方法比只专注于学习完整因果图的几个基线更有效。这使我们能够从更少的样本中准确地学习下游因果查询,同时为感兴趣的数量提供校准良好的不确定性估计。
2022-10-15 cs.AI cs.LG stat.ME
Model-based Causal Bayesian Optimization
ETH Zürich(苏黎世联邦理工学院)
我们应该如何干预一个未知的结构方程模型,以最大限度地提高下游变量的利益?这种设置,也称为因果贝叶斯优化(CBO),在医学,生态学和制造业中有重要的应用。标准贝叶斯优化算法无法有效地利用潜在的因果结构。现有的CBO方法假设无噪声测量,并且没有保证。我们提出了基于模型的因果贝叶斯优化算法(MCBO),学习一个完整的系统模型,而不是只建模干预奖励对。MCBO通过图表传播关于因果机制的认识不确定性,并通过乐观原则权衡探索和利用。我们限制了它的累积遗憾,并获得了CBO的第一个非渐近界。与标准贝叶斯优化不同,我们的获取函数不能以封闭形式进行评估,因此我们展示了如何使用重新参数化技巧来应用基于梯度的优化器。由此产生的MCBO的实际实施相比,有利的经验与国家的最先进的方法。
2023-03-10 cs.LG stat.ML
A Causal Bayesian Networks Viewpoint on Fairness
DeepMind(深度思维)
我们提供了一个图形化的解释不公平的数据集作为一个不公平的因果路径中的因果贝叶斯网络表示的数据生成机制的存在。我们使用这个观点来重新审视最近围绕COMPAS审前风险评估工具的争论,更普遍地指出,模型的公平性评估需要仔细考虑训练数据背后的不公平模式。我们表明,因果贝叶斯网络为我们提供了一个强大的工具来衡量不公平的数据集,并在复杂的不公平的情况下设计公平的模型。
2019-07-15 cs.LG stat.ML
Bayesian Discovery of Linear Acyclic Causal Models
Helsinki Institute for Information Technology(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
从非干预性数据中自动发现因果关系的方法最近受到了广泛关注。线性非循环因果模型(递归结构方程模型)是一种广泛使用且易于理解的模型族。对于高斯数据,两种基于约束的方法(Spirtes等人,一九九三年; Pearl,2000年)(输出一个单一的等价类)和基于贝叶斯评分的方法(Geiger和Heckerman,1994年)(为等价类分配相对评分)。相反,能够利用数据中的非高斯性的所有当前方法(Shimizu等人,2006; Hoyer等人,2008)总是只返回一个图或一个等价类,因此根本无法表达输出的确定性程度。在本文中,我们开发了一个贝叶斯评分为基础的方法,能够利用非高斯估计线性非循环因果模型时,我们的经验表明,至少在非常适度的规模的网络,其准确性是一样好或优于现有的方法。我们提供了一个完整的代码包(在R),实现所有的算法,并执行所有的分析提供的文件,并希望这将进一步应用这些方法来解决因果推断问题。
2012-05-09 cs.LG stat.ME stat.ML
Empirical Bayesian Approaches for Robust Constraint-based Causal Discovery under Insufficient Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);Northeast Normal University(东北师范大学)
因果发现是在给定的观测数据中学习变量之间的因果关系,对于许多应用都很重要。现有的因果发现方法假设数据充足,这在许多现实世界的数据集中可能不是这种情况。因此,许多现有的因果发现方法可能在有限的数据下失败。本文提出了一种贝叶斯-增广频率独立性检验方法,以提高基于约束的因果发现方法在数据不足情况下的性能:1)首先引入贝叶斯方法估计互信息,并在此基础上提出了一种鲁棒的基于互信息的独立性检验方法; 2)其次,我们考虑假设似然的贝叶斯估计,并将其纳入一个定义良好的统计检验,从而产生基于稳健统计测试的独立性测试。我们提出的独立性测试的约束为基础的因果发现方法,并评估基准数据集的样本不足的性能。实验表明,显着的性能改善方面的准确性和效率SOTA方法。
2022-06-16 cs.LG stat.ME
Re-examining Granger Causality with Causal Bayesian Networks and Reichenbachs Principles
Univie Doctoral School of Computer Science (DOCS)(维也纳计算机科学博士学院)
本文通过赖兴巴赫原理和因果贝叶斯网络重新解释格兰杰因果关系,提出因果化格兰杰因果关系(c-GC)算法,赋予其稳健的因果解释,并在合成数据上取得满意结果。
2026-07-31 cs.LG econ.EM stat.ME
Multi-Objective Causal Bayesian Optimization
University of Cambridge(剑桥大学);Technical University of Munich(慕尼黑工业大学);The Alan Turing Institute(阿兰·图灵研究所)
本文提出 MO-CBO 框架,通过刻画潜在最优干预变量集并将问题分解为多个多目标优化任务,利用相对超体积改进顺序平衡探索,以在多目标因果图中发现 Pareto 最优干预。
2025-02-20 cs.LG stat.ML
Bayesian causal discovery from unknown general interventions
Università Cattolica del Sacro Cuore(圣心天主教大学);Università degli Studi di Milano-Bicocca(米兰比可卡大学)
本文提出一种贝叶斯因果发现方法,在干预目标未知且允许修改父节点集合的一般干预条件下学习DAG,并给出干预马尔可夫等价类的图形刻画、兼容先验和MCMC后验近似方案。
2023-12-01 cs.LG stat.ME stat.ML
Effective Bayesian Causal Inference via Structural Marginalisation and Autoregressive Orders
TU Graz(格拉茨技术大学);Levata GmbH(Levata公司)
本文提出通过将结构边际化分解为因果序和给定序下DAG的边际化,并设计自回归分布ARCO进行采样近似,实现高效的贝叶斯因果推断,在结构学习和因果效应估计上优于现有方法。
2025-04-23 cs.AI cs.LG stat.ME
Incorporating Expert Knowledge into Bayesian Causal Discovery of Mixtures of Directed Acyclic Graphs
Aalto University(艾罗大学);University of Melbourne(墨尔本大学);Manchester University(曼彻斯特大学);Ellis Institute(埃利斯研究所)
本文提出基于贝叶斯实验设计原则和变分混合结构学习方法,用于处理异质领域的因果发现问题,通过专家反馈构建信息图先验,提升异质合成数据的结构学习性能,并在乳腺癌数据库中捕捉复杂分布。
2026-04-29 cs.LG stat.ME
Causal Atlases from Entropic Inference: Bayesian Networks beyond Optimal DAGs
Department of Physics , Engineering Physics and Astronomy(物理系、工程物理与天文学系)
针对数据驱动因果识别中多因果链问题,提出基于熵推理的因果图谱方法,通过最大熵系综采样量化因果结构歧义性。
2026-06-04 cs.LG stat.ML
Loss convergence in a causal Bayesian neural network of retail firm performance
我们通过将有向无环图实现为因果贝叶斯神经网络来扩展结构方程模型(SEM)的实证结果,该模型发表在《零售购买、零售商店运营和企业绩效的产品组合规划》一文中。神经网络的收敛性,以改善与最弱的SEM路径的节点的删除时,变分推断提供扰动权重与Flipout层,而结果从扰动权重在输出与Vadam优化器是不确定的。
2020-08-29 cs.LG stat.ML
Adversarial Causal Bayesian Optimization
ETH Zürich(苏黎世联邦理工学院)
本文将因果贝叶斯优化推广为对抗因果贝叶斯优化(ACBO),以应对其他智能体或外部事件干预导致的非平稳性,并提出首个具有有界遗憾的算法CBO-MW,通过在因果图中传播不确定性计算乐观反事实奖励估计,在合成与真实数据环境中表现优于基线方法。
2023-07-31 cs.LG stat.ML
Bayesian Vector AutoRegression with Factorised Granger-Causal Graphs
CSIRO’s Data61(联邦科学与工业研究组织Data61);CSIRO’s Environment(联邦科学与工业研究组织环境部门)
提出一种贝叶斯向量自回归模型,通过分层因子化先验独立推断二元格兰杰因果图,在低数据场景下性能更优且不确定性感知更强。
2024-05-24 cs.LG stat.ML
Latent Variable Models for Bayesian Causal Discovery
Mila - Québec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);ÉTS Montréal(蒙特利尔高等技术学院)
学习不依赖于虚假相关性的预测器涉及构建因果表示。然而,学习这样的表示是非常具有挑战性的。因此,我们制定了从高维数据中学习因果表示的问题,并研究了因果恢复与合成数据。这项工作介绍了一个潜在的变量解码器模型,解码器BCD,贝叶斯因果发现,并在轻度监督和无监督的设置进行实验。我们提出了一系列的合成实验来表征因果发现的重要因素,并表明使用已知的干预目标作为标签有助于无监督贝叶斯推理的结构和参数的线性高斯加性噪声潜在的结构因果模型。
2022-08-11 cs.AI cs.LG stat.ML
A Bayesian Solution to the M-Bias Problem
Criteo AI Lab(Criteo人工智能实验室)
在使用回归类型模型推断因果效应时,通常的做法是推断正确的因果关系需要包括或“调整”额外的协变量。如果不进行这种调整,就可以推断出错误的因果效应。考虑到这种现象,通常的做法是包括尽可能多的协变量,但这样的建议在M偏置的存在下无法坚持。M-偏倚是因果推断中的一个问题,其中处理效应的正确估计要求某些变量不进行调整,即从模型中忽略。这个问题在2009年引起了一场争论,当时鲁宾、珀尔和其他人不同意在推断因果效应时在模型中加入额外的变量是否会有问题。本文对这一问题做出了两个贡献。首先,我们提供了一个贝叶斯解决方案的M偏置问题。该解决方案复制了Pearl的解决方案,但与Rubin的建议一致,我们以所有变量为条件。其次,我们能够用贝叶斯术语来解决这个问题,这一事实表明,在贝叶斯范式中表示因果关系确实是可能的,尽管是在一个扩展的空间中。我们做了几个评论的因果关系的图形模型,实现了做演算和概率图形模型,使贝叶斯统计之间的异同。我们希望这项工作将刺激更多的研究,统一珍珠的因果演算使用因果图形模型与传统的贝叶斯统计和概率图形模型。
2019-06-17 cs.LG stat.ML
Causal Bayesian Optimization
University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所);Amazon(亚马逊)
本文研究的问题是全局优化的一个感兴趣的变量,是因果模型的一部分,其中可以执行一系列的干预措施。这个问题出现在生物学,运筹学,通信,更普遍的是,在所有领域的目标是优化一个系统的输出度量的互连节点。我们的方法结合了因果推断,不确定性量化和顺序决策的想法。特别是,它概括了贝叶斯优化,它把目标函数的输入变量作为独立的,因果信息是可用的情况。我们展示了如何知道因果图显着提高能力的原因,最佳决策策略,降低优化成本,同时避免次优的解决方案。我们提出了一种新的算法称为因果贝叶斯优化(CBO)。CBO自动平衡两个权衡:经典的探索-开发和新的观察-干预,这是在将真实的干预数据与通过do-calculus计算的估计干预效果相结合时出现的。我们证明了这种方法在合成环境中的实际好处,并在两个现实世界中的应用。
2020-05-26 cs.LG stat.ML
Dynamic Causal Bayesian Optimization
University of Warwick(华威大学);The Alan Turing Institute(阿兰·图灵研究所);Microsoft Research Cambridge(微软剑桥研究院)
本文研究了在一个因果动态系统中进行一系列最优干预的问题,其中目标变量和输入都随着时间的推移而变化。这个问题出现在各种领域,如系统生物学和运筹学。动态因果贝叶斯优化(DCBO)融合了顺序决策、因果推断和高斯过程(GP)仿真的思想。DCBO在图中的所有因果效应随时间变化的情况下很有用。在每个时间步长,DCBO通过整合从系统收集的观察数据和过去的干预数据来识别局部最佳干预。我们给出了理论结果,详细说明了如何可以跨时间步长传输干预信息,并定义了一个动态因果GP模型,该模型可用于量化不确定性,并在实践中找到最佳干预措施。我们展示了DCBO如何在多种环境和应用中比竞争方法更快地确定最佳干预措施。
2021-10-26 cs.LG stat.ML
Bayesian learning of Causal Structure and Mechanisms with GFlowNets and Variational Bayes
Université de Montréal(蒙特利尔大学);Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);HEC Montréal(蒙特利尔高等商学院)
本文提出VBG方法,结合变分贝叶斯与GFlowNets联合学习因果结构与机制,在保证无环性的同时泛化至非线性机制。
2024-06-03 cs.LG stat.ML
Constrained Causal Bayesian Optimization
DeepMind(深度思维)
本研究提出约束因果贝叶斯优化方法cCBO,通过图结构与观测数据缩空间、高斯过程建模及约束期望提升采集函数选干预,在人工与真实因果图实验验证其在收敛速度和可行干预占比间的有效权衡。
2023-05-31 cs.LG stat.ML
Bayesian Intervention Optimization for Causal Discovery
School of Computer Science, Peking University(北京大学计算机学院);School of Data Science, Fudan University(复旦大学数据科学学院);BIGAI(北京智源人工智能研究院)
针对主动因果发现中干预选择未面向决策的问题,提出受贝叶斯因子启发的贝叶斯优化方法,通过估计假设模型、预评估干预并迭代更新先验,提高获得决定性正确证据的概率。
2024-06-16 cs.LG stat.ML
Optimal experimental design via Bayesian optimization: active causal structure learning for Gaussian process networks
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Amazon(亚马逊);The Alan Turing Institute(艾伦·图灵研究所)
我们通过有针对性的干预措施来研究因果发现的问题。从几个观测测量开始,我们遵循贝叶斯主动学习方法来执行这些实验,这些实验在当前模型的预期中,最大限度地提供有关潜在因果结构的信息。与以前的工作不同,我们考虑设置连续随机变量与非线性函数关系,建模与高斯过程先验。为了解决所产生的问题,选择从一个不可数的一组可能的干预措施,我们建议使用贝叶斯优化,有效地最大限度地提高预期的信息增益的蒙特卡罗估计。
2019-10-09 cs.LG stat.ML
On the Role of Priors in Bayesian Causal Learning
Graz University of Technology(格拉茨工业大学);Know Center Research GmbH(Know Center 研究有限公司)
本文从贝叶斯视角研究独立因果机制的因果学习,证实无标签数据无法改善机制参数估计,并发现因子化先验能产生因子化后验,与独立因果机制等概念相呼应。
2025-04-02 cs.LG stat.ML
Goal-Oriented Sequential Bayesian Experimental Design for Causal Learning
Department of Computer Science and Engineering(计算机科学与工程系);Department of Mechanical Engineering(机械工程系);Gilbert S. Omenn Department of Computational Medicine and Bioinformatics(Gilbert S. Omenn 计算医学与生物信息学部门)
提出GO-CBED框架,通过基于transformer和归一化流的变分下界估计器最大化预期信息增益,实现面向目标、非短视的序贯因果实验设计,在有限预算和复杂机制下优于基线。
2026-11-05 cs.AI cs.LG stat.ME
Causal Bayesian Optimization with Unknown Graphs
Imperial College London(帝国理工学院);Technical University of Munich (TUM)(慕尼黑工业大学(TUM))
针对因果图未知的现实场景,提出无需先验图结构的因果贝叶斯优化方法,通过贝叶斯推断目标变量直接父节点并优化结果,线性情形给出闭式解,非线性用高斯过程近似,性能与基准相当且可扩展。
2025-03-25 cs.LG stat.ML
Continuous Bayesian Model Selection for Multivariate Causal Discovery
Department of Computing, Imperial College London, London, UK(帝国理工学院计算机系);Department of Computer Science, University of Oxford, Oxford, UK(牛津大学计算机科学系)
本文提出一种基于连续松弛和贝叶斯非参数模型的多元因果发现算法,通过优化边际似然与无环正则化获得因果图,在无需不可行假设下展现竞争力。
2025-06-24 cs.LG stat.ML
Extending Multi-Source Bayesian Optimization With Causality Principles
Radboud University(拉德堡德大学);Appalachian State University(阿巴拉契亚州立大学)
本文提出多源因果贝叶斯优化算法,结合多源和因果原理以提升优化效率和降维能力。
2026-02-16 cs.LG stat.ML
Subjectivity, Bayesianism, and Causality
University of Pennsylvania(宾夕法尼亚大学)
贝叶斯概率理论是不确定性推理模型最成功的框架之一。它的定义属性是将概率解释为对关于世界相对于探究主体的状态的命题的信念程度。本文通过比较拉康理论和贝叶斯概率论来考察主观性的概念,并得出结论,后者必须用因果干预来丰富代理模型。这项工作的核心贡献是一个抽象的模型的主题,容纳因果干预措施的测量理论的形式化。这种形式化是通过一个博弈论Ancestrian模型的基础上获得的内部和外部的主题作为一个广泛的形式的游戏,两个球员之间的不完美信息。最后,我用一个因果归纳的例子来说明这个模型的表达能力。
2015-04-24 cs.AI stat.ME stat.ML
Polynomial Constraints in Causal Bayesian Networks
Iowa State University(爱荷华州立大学);Department of Computer Science(计算机科学系)
我们使用隐式化过程生成多项式等式约束的一组分布引起的局部干预变量的因果贝叶斯网络与隐藏变量。我们展示了如何降低隐式化问题的复杂性,并使问题在某些因果贝叶斯网络中易于处理。我们还展示了一些初步的结果多项式约束的代数结构。这些结果在区分因果模型和结合观测和实验数据检验因果模型方面具有应用价值。
2012-06-20 cs.AI stat.ME
Testing for Causality in Continuous Time Bayesian Network Models of High-Frequency Data
连续时间贝叶斯网络的研究,特别关注其表达因果关系的能力。一个框架,在这些网络中进行推理。中心贡献是网络的强度矩阵的表示和因果关系度量的引入。提出了一种新的高频金融数据模型。它是根据市场数据进行校准的,通过新的因果关系衡量,它比旧模型表现得更好。
2016-01-25 q-fin.TR stat.ML
BaMANI: Bayesian Multi-Algorithm causal Network Inference
School of Mathematical and Data Science(数学与数据科学学院);West Virginia University(西弗吉尼亚大学);Department of Chemical and Biomedical Engineering(化学与生物医学工程系);The Medical College of Wisconsin(威斯康星医学院);Department of Biostatistics and Bioinformatics(生物统计学与生物信息学系)
本文提出BaMANI集成学习框架,通过融合多种算法边缘化单一算法对贝叶斯因果网络推断的影响,并在人类乳腺癌研究中验证其应用价值。
2025-08-15 cs.LG q-bio.QM stat.ML
Discrete Causal Representations from Heterogeneous Domains: A Bayesian Approach with Social Survey Applications
Department of Statistics, University of Chicago(芝加哥大学统计学系);University of Tübingen(图宾根大学);Department of Statistics & Data Science Institute, University of Chicago(芝加哥大学统计学与数据科学研究所);Seminars for Statistics, ETH Zürich(苏黎世联邦理工学院统计系)
提出一种贝叶斯方法,从多环境数据中学习离散因果概念,通过序贯蒙特卡洛采样近似多模态后验,并在社会调查数据中验证了其推断有意义的高层概念和因果关系的有效性。
2026-06-04 cs.LG stat.ML
Model Criticism for Bayesian Causal Inference
因果推断的目标是理解不同行动方案的结果。然而,所有的因果推断都需要假设。这些假设可能比概率建模的典型任务更有影响力,并且测试这些假设对于评估因果推断的有效性很重要。我们开发了贝叶斯因果推断的模型批评,建立在后验预测检查的想法,以评估模型拟合。我们的方法包括分解问题,分别批评治疗分配模型和结果模型。条件的假设unconfoundedness-治疗是独立的潜在结果分配-我们展示了如何检查任何额外的建模假设。我们的方法为诊断基于模型的因果推断提供了基础。
2016-10-27 stat.ME
Bayesian Supervised Causal Clustering
School of Informatics, University of Edinburgh(信息学院,爱丁堡大学);Usher Institute, University of Edinburgh(乌瑟研究所,爱丁堡大学)
本文提出贝叶斯监督因果聚类方法,通过治疗效应指导聚类过程,识别具有相似协变量特征和治疗效应的同质亚组,并在模拟和现实数据上验证其有效性。
2026-03-05 cs.LG stat.ML
Transferring Information Across Interventions in Causal Bayesian Optimization
Computer Science Department(计算机科学系)
提出图耦合因果贝叶斯优化方法,通过共享因果参数的不确定性连接不同干预效应,实现跨干预信息传递,在可识别线性高斯因果模型中证明低秩核性质和次线性遗憾界。
2026-05-31 cs.AI cs.LG stat.ML
Functional Bayesian Networks for Discovering Causality from Multivariate Functional Data
多元函数数据有着广泛的应用。一项基本任务是理解这些功能对象之间的因果关系,这一点尚未得到充分探讨。在这篇文章中,我们开发了一个新的贝叶斯网络模型的多元函数数据的条件独立性和因果结构都编码的有向无环图。具体地说,我们允许函数对象偏离高斯过程,这是大多数现有的函数数据分析模型所采用的。更合理的非高斯假设是唯一的因果结构识别的关键,即使在测量的函数与噪声。设计了一个完全贝叶斯框架,通过后验摘要来推断具有自然不确定性量化的功能贝叶斯网络模型。仿真研究和实际数据的例子被用来证明所提出的模型的实际效用。
2022-10-23 stat.ME
Functional Causal Bayesian Optimization
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);DeepMind(深度思维)
该研究提出函数型因果贝叶斯优化fCBO,拓展CBO家族支持函数型干预,用再生核希尔伯特空间输入的高斯过程建模以实现序列函数选择,给出相关图形准则,并在合成与真实因果图中验证了方法优势。
2023-06-10 cs.LG stat.ML
Bayesian Causal Induction
Max-Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
发现因果关系是一项艰巨的任务,往往因需要干预而受阻,而且往往需要大量数据来解决统计上的不确定性。然而,人类很快就能找到有用的因果关系。一个可能的原因是,人类从过去的经验中推断出新的、看不见的情况:也就是说,他们对因果不变性的信念进行编码,允许从他们直接在世界上行动所获得的观察中进行合理的概括。在这里,我们概述了因果归纳的贝叶斯模型,在竞争的因果假设的信念建模使用概率树。基于这个模型,我们说明了为什么,在一般情况下,我们需要干预加上我们的因果假设的约束,以提取因果信息,从我们的经验。
2011-11-30 cs.AI stat.ML
Variational Causal Networks: Approximate Bayesian Inference over Causal Structures
ETH Zurich(苏黎世联邦理工学院);Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);ElementAI;ServiceNow;MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);CIFAR(加拿大高等研究院)
学习数据背后的因果结构是实现强大的现实世界决策的关键一步。因果推理中的大多数现有工作集中于确定单个有向无环图(DAG)或其马尔可夫等价类。然而,一个关键的方面,智能地采取行动的知识因果结构,已推断出从有限的数据要求推理其不确定性。例如,计划干预以了解更多关于管理我们数据的因果机制的信息,需要量化DAG的认知不确定性。虽然贝叶斯因果推理允许这样做,但即使对于少量变量,DAG的后验也变得难以处理。为了克服这个问题,我们提出了一种形式的变分推理的结构因果模型(SCM)的图。为此,我们引入了一个参数变分家庭建模的自回归分布在离散DAG的空间。它的参数数量不会随着变量的数量呈指数增长,并且可以通过最大化证据下限(ELBO)来学习。在我们的实验中,我们证明了所提出的变分后验是能够提供一个很好的近似的真实后验。
2021-06-14 cs.AI cs.LG stat.ML
Robust Domain Generalisation with Causal Invariant Bayesian Neural Networks
NAOInstitute, University of Auckland(奥克兰大学NAO研究所)
针对训练域与目标域不一致时深度神经网络性能骤降的问题,提出解耦数据分布学习与推理机制的因果不变贝叶斯神经网络,经理论和实验验证可近似因果干预推理,在分布外图像识别任务上优于点估计同类模型。
2024-10-08 cs.LG stat.ME
Causal Bayesian Optimization via Exogenous Distribution Learning
Department of Computer Science and Engineering(计算机科学与工程系);University of Tennessee at Chattanooga(田纳西大学查塔努加分校);Department of Statistics(统计学系);University of California, Riverside(加州大学河滨分校);Department of Electrical and Computer Engineering(电气与计算机工程系);Texas A&M University(德克萨斯农工大学)
本文提出通过学习外生变量分布改进因果贝叶斯优化,提升代理模型的近似保真度,并扩展至更广泛的因果结构。
2026-01-29 cs.LG stat.ML
Transportability without Graphs: A Bayesian Approach to Identifying s-Admissible Backdoor Sets
本文提出了一种贝叶斯方法,通过结合观察和实验数据识别s-可接受后门集,以实现跨群体的无偏因果效应估计。
2026-02-02 cs.LG stat.ML
On the Relationship between Bayesian Networks and Probabilistic Structural Causal Models
Faculty of EEMCS, University of Twente(埃因霍温理工大学电子与电气工程学院);ICIS, Radboud University(拉德堡德大学ICIS中心)
本文探讨了贝叶斯网络与因果图之间的关系,分析了概率结构因果模型的存在性和唯一性,并利用线性代数方法进行转换。
2026-04-23 cs.AI cs.LG
Amortized Bayesian Causal Discovery of Extended Factor Graphs
University of Michigan(密歇根大学)
研究从干预数据学习因果图的难题,提出扩展因子图的摊销贝叶斯因果发现方法(ABCDEFG),可处理大规模图及未知干预目标,保证无环性,估计后验分布,在模拟和实际数据上表现优异,能识别基因靶点。
2026-07-28 cs.LG q-bio.MN stat.ML
Learning Bayesian Networks with Restricted Causal Interactions
Monash University(莫纳什大学)
贝叶斯网络(BN)学习的一个主要问题是条件概率表所需参数的指数数量。最近的研究通过在概率表中建模局部结构来降低这种复杂性。我们研究使用对数线性局部模型。虽然对数线性模型在这种情况下并不新鲜(Whittaker,1990; Buntine,1991; Neal,1992; Heckerman and Meek,1997),但对于结构学习,它们通常被归入朴素贝叶斯模型。我们描述了另一种解释,并使用最小消息长度(MML)(华莱士,1987年)度量的结构学习的网络表现出因果关系的独立性,我们称之为一阶网络(FONs)。我们还调查了本地模型选择上的逐节点的基础上。
2013-01-23 cs.AI cs.LG stat.ML
BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery
Stanford University(斯坦福大学);Facebook AI Research(Facebook人工智能研究院);University of California, Los Angeles(加州大学洛杉矶分校)
结构方程模型(SEM)是一个有效的框架,通过一个有向无环图(DAG)表示的因果关系的原因。最近的进展使有效的最大似然点估计的DAG从观测数据。然而,在实际场景中,点估计可能无法准确地捕获推断基础图时的不确定性,其中真实DAG是不可识别的和/或观察到的数据集是有限的。我们提出了贝叶斯因果发现网(BCD网),一个变分推理框架,用于估计分布在DAG特征的线性高斯SEM。由于图的离散性和组合性,在DAG上开发完整的贝叶斯后验是具有挑战性的。我们分析了DAG上可扩展VI的关键设计选择,例如1)通过表达变分族对DAG进行参数化,2)实现低方差随机优化的连续松弛,以及3)潜在变量的合适先验。我们提供了一系列的真实和合成数据的实验表明,BCD网优于最大似然方法的标准因果发现指标,如结构汉明距离在低数据制度。
2021-12-06 cs.AI cs.LG stat.ML
Learning and Testing Causal Models with Interventions
Cornell University(康奈尔大学);Indian Institute of Science(印度科学学院);MIT(麻省理工学院)
我们考虑Pearl(Pearl,2009)定义的因果贝叶斯网络上的测试和学习问题。给定一个图上的因果贝叶斯网络$\mathcal{M}$,$n$离散变量和有界的度和有界的“混淆分量”,我们证明了$O(\log n)$干预在同一个图上的未知因果贝叶斯网络$\mathcal{X}$上,以及每个干预的$\tilde{O}(n/ε^2)$样本,足以有效区分是否存在$\mathcal{X}=\mathcal{M}$或是否存在某种干预,在该干预下$\mathcal{X}$和$\mathcal{M}$总体上比$ε$更远变化距离我们还获得了样本/时间/干预有效的算法:(i)在同一个图上测试两个未知因果贝叶斯网络的身份;(ii)在给定的图上学习因果贝叶斯网络。虽然我们的算法是非自适应的,我们表明,自适应一般没有帮助:$Ω(\log n)$干预是必要的测试身份的两个未知的因果贝叶斯网络在同一个图,甚至自适应。我们的算法是通过一个新的次加性不等式的平方之间的因果贝叶斯网络的Hellinger距离。
2018-05-24 cs.AI cs.DS stat.ML
Bayesian estimation of possible causal direction in the presence of latent confounders using a linear non-Gaussian acyclic structural equation model with individual-specific effects
我们考虑在潜在混杂变量的存在下学习两个观测变量的可能因果方向。几种现有的方法已被证明是一致的估计因果方向假设线性或某种类型的非线性关系,没有潜在的混杂因素。然而,如果实际上违反任何一个假设,估计结果可能会失真。在本文中,我们首先提出了一个新的线性非高斯非循环结构方程模型与个人的具体影响,允许潜在的混杂因素被考虑。然后,我们提出了一个经验贝叶斯方法估计可能的因果方向,使用新的模型。我们使用人工和真实世界的数据证明了我们的方法的有效性。
2014-05-20 stat.ML
Incorporating Causal Prior Knowledge as Path-Constraints in Bayesian Networks and Maximal Ancestral Graphs
Institute of Computer Science, FORTH, Greece(希腊FORTH研究所计算机科学研究所);University of Crete, Greece(希腊克里特大学)
我们考虑将因果知识的存在或不存在(可能是间接的)因果关系纳入因果模型。这种因果关系对应于因果模型中的有向路径。这类知识自然来自实验数据等。具体来说,我们考虑因果贝叶斯网络和最大祖先图及其马尔可夫等价类的形式:部分定向无环图和部分定向祖先图。我们引入健全和完整的程序,能够将因果先验知识,在这样的模型。在模拟实验中,我们表明,经常考虑即使是一些因果事实会导致大量的新的推论。在一个案例研究中,我们还展示了如何使用真实的实验数据来推断因果知识,并将其纳入一个真正的生物因果网络。该代码可在mensxmachina.org上获得。
2012-06-27 cs.AI cs.CE cs.LG
A case study of causal mediation using Bayesian nonparametrics and semiparametric corrections
提出截断富集狄利克雷过程混合模型估计自然直接和间接效应,结合高效MCMC算法和基于有效影响函数的一步后验修正,解决贝叶斯非参数中因果估计量的可靠推断问题。
2026-06-19 stat.ME
A Bayesian Approach for Inferring Local Causal Structure in Gene Regulatory Networks
Radboud University(拉德堡德大学)
基因调控网络在控制生物体的生物学过程中起着至关重要的作用,这就是为什么人们对开发能够从高通量遗传数据中提取其结构的计算方法感兴趣。一个典型的方法是对协方差结构进行一系列条件独立性检验,以逐步减少可能的因果模型的空间。我们提出了一种新的有效的贝叶斯方法发现(正态分布)变量的三元组之间的局部因果关系。在我们的方法中,我们在协方差阵中的模式进行一次性评分,我们将现有的背景知识的形式先验的因果结构。我们的方法是灵活的,因为它允许不同类型的因果结构和假设。我们应用的方法来推断基因调控网络的任务,通过学习基因表达水平之间的调控关系。我们表明,我们的算法产生稳定和保守的后验概率估计局部因果结构,可用于获得最有意义的监管关系的诚实排名。我们证明了我们的方法在模拟数据和酵母实验的真实数据上的稳定性和有效性。
2018-09-18 cs.LG q-bio.MN stat.ML
Bayesian Mendelian randomization testing of interval causal null hypotheses: ternary decision rules and loss function calibration
我们的方法孟德尔随机化(MR)分析的目的是增加因果效应的“发现”的可重复性:(i)使用贝叶斯方法进行推理;(ii)用实际等效区域代替点原假设,该实际等效区域包括对于感兴趣的效应的可忽略量值的值,同时利用贝叶斯分析的能力来量化落在区域内/区域外的影响的证据;(iii)拒绝通常的二元决策逻辑,而赞成三元逻辑,其中假设检验可能导致接受或拒绝空值,同时还适应“不确定”的结果。我们提出了一种方法来校准所提出的方法,通过损失函数,我们用我们的方法与频率论的比较。我们说明的方法与援助的因果关系的影响,肥胖的青少年心肌梗死的风险的研究。
2022-08-10 stat.ME
Bayesian causal inference via probabilistic program synthesis
University of Massachusetts(马萨诸塞大学);Massachusetts Institute of Technology(麻省理工学院)
因果推理可以形式化为贝叶斯推理,其结合了因果模型的先验分布和解释观察和干预的可能性。我们表明,它是可能的,以实现这种方法,使用一个充分表达的概率程序设计语言。先验表示使用概率程序生成的源代码在一个特定领域的语言。干预是使用概率程序,编辑这个源代码修改原始的生成过程。这种方法可以直接将来自原子干预的数据,以及转移干预,方差缩放干预和其他修改因果结构的干预。这种方法也使得使用通用推理机的概率程序推断可能的因果结构和参数的数据。这一摘要描述了一个原型,这种方法在Gen概率程序设计语言。
2019-10-30 cs.AI cs.LG
Intervention and Conditioning in Causal Bayesian Networks
Cornell University(康奈尔大学)
本文针对因果贝叶斯网络中干预公式的条件概率计算难题,提出在简单且现实的独立性假设下可唯一估计干预概率(含充分性与必要性),并指出在假设成立时可用观测数据评估,意义重大。
2024-05-23 cs.AI cs.LG