Constraint-Based Causal Discovery using Partial Ancestral Graphs in the presence of Cycles
Korteweg-de Vries Institute(科特韦格-德弗里斯研究所);University of Amsterdam(阿姆斯特丹大学);Institute for Computing and Information Sciences(计算与信息科学研究所);Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
本文证明了FCI算法在处理含反馈环的观测数据时依然可靠且完备,能一致估计因果关系及特定环的缺失,并将该结论扩展至利用背景知识的因果发现算法。
2023-09-15 cs.AI cs.LG math.ST
Extended Conditional Independence and Applications in Causal Inference
本文的目标是将随机条件独立性和变异条件独立性的概念整合到一个更一般的扩展条件独立性的概念之下。我们表明,在适当的假设下,分别适用于这两种情况(公理的分离体)的微积分仍然适用于扩展的情况。这些结果提供了一个严格的基础,广泛的统计概念,包括辅助性和充分性,特别是决策理论框架的统计因果关系,它使用的语言和演算的条件独立性,以表达因果属性,并作出因果推断。
2015-12-01 math.ST stat.ME stat.TH
Empirical Bayesian Approaches for Robust Constraint-based Causal Discovery under Insufficient Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);Northeast Normal University(东北师范大学)
因果发现是在给定的观测数据中学习变量之间的因果关系,对于许多应用都很重要。现有的因果发现方法假设数据充足,这在许多现实世界的数据集中可能不是这种情况。因此,许多现有的因果发现方法可能在有限的数据下失败。本文提出了一种贝叶斯-增广频率独立性检验方法,以提高基于约束的因果发现方法在数据不足情况下的性能:1)首先引入贝叶斯方法估计互信息,并在此基础上提出了一种鲁棒的基于互信息的独立性检验方法; 2)其次,我们考虑假设似然的贝叶斯估计,并将其纳入一个定义良好的统计检验,从而产生基于稳健统计测试的独立性测试。我们提出的独立性测试的约束为基础的因果发现方法,并评估基准数据集的样本不足的性能。实验表明,显着的性能改善方面的准确性和效率SOTA方法。
2022-06-16 cs.LG stat.ME
Causal aggregation: estimation and inference of causal effects by constraint-based data fusion
在因果推断中,通常估计单个治疗变量对结局的因果影响。然而,从业者也可能对同时干预对固定目标变量的多个协变量的影响感兴趣。我们提出了一种新的方法,允许使用来自不同实验的数据来估计联合干预的效果,其中只有很少的变量被操纵。如果只有很少的随机化数据或根本没有随机化数据,如果某些亲本集是已知的或工具变量是可用的,则可以使用观察数据集。如果联合因果效应是线性的,所提出的方法可以用于估计和推断的联合因果效应,我们的特征条件的可识别性。在过度识别的情况下,我们指出了如何利用多个数据集的所有可用的因果信息来有效地估计因果效应。如果协变量向量的维数很大,我们可能在每个数据集中只有几个样本。在稀疏性假设下,我们推导出在这种高维情况下的因果效应的估计。此外,我们将展示如何处理的情况下,缺乏实验的限制,防止直接估计的因果关系的影响。当联合因果效应是非线性的,我们的特征条件下,可识别性持有,并提出了一个非线性因果聚合方法的实验数据集类似的梯度提升算法,在每次迭代中,我们结合弱学习者训练不同的数据集上使用的唯一未混淆的样本。我们证明了所提出的方法的有效性模拟和半合成数据。
2022-11-22 stat.ME
The Inflation Technique for Causal Inference with Latent Variables
因果推理的问题是确定给定的观测变量的概率分布是否与某种因果结构相容。困难的情况是当因果结构包括潜在变量时。我们在这里介绍的$\textit{inflation technique}$解决这个问题。因果结构的膨胀是一种新的因果结构,它可以包含每个原始变量的多个副本,但每个副本的祖先都反映了原始变量的祖先。对于与原始因果结构相容的观测变量的每个分布,我们在与膨胀因果结构相容的副本的某些子集上分配一个边缘分布族。由此可见,膨胀的相容性约束可以转化为原始因果结构的相容性约束。即使在通货膨胀水平上的约束很弱,例如不相交的因果关系所隐含的可观察到的统计独立性,转换后的约束也可能很强。我们应用这种方法来推导新的不等式,其违反的分布证人,分布的不相容性的因果结构(其中贝尔不等式和珍珠的工具不等式是突出的例子)。我们描述了一个算法,用于推导出所有这些不平等的原始因果结构,从祖先的独立性,在通货膨胀。对于三个观察到的二元变量与成对的共同原因,它产生的不平等,至少在某些方面比现有的方法获得的更强。我们还描述了一个算法,推导出一组较弱的不等式,但更有效。最后,我们讨论了哪些暴胀是这样的,从他们得到的不等式仍然有效,甚至量子(和后量子)推广的因果模型的概念。
2019-07-22 math.ST quant-ph stat.ME
Interpretable Causal Discovery via Causal-Effect Constraints
Yale University(耶鲁大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
该研究将条件因果发现转化为贝叶斯推理问题,采用稀有事件估计技术解决小后验质量事件的计算挑战,经合成图和Sachs蛋白质数据集验证了方法的准确性与辅助科学探索的作用。
2026-09-24 cs.AI cs.LG stat.ML
A cautious approach to constraint-based causal model selection
Columbia University(哥伦比亚大学)
本文探讨了利用基于约束的算法选择因果图模型,主张在科学目标为估计因果效应时,应优先选择密集而非稀疏的图,并提出通过反转传统条件独立性检验流程来改进方法。
2026-08-26 stat.ME
Constraint-based Causal Discovery for Non-Linear Structural Causal Models with Cycles and Latent Confounders
Informatics Institute(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
我们解决的问题,因果发现数据,利用最近提出的因果建模框架的模块化结构因果模型(mSCM)来处理周期,潜在的混杂因素和非线性。本文引入了σ-连通图(σ-CG),这是一类新的具有附加结构的混合图(包含无向、双向和有向边),并将σ-分离的概念推广到σ-CG上,σ-分离是d-分离概念的适当推广.我们证明了σ-分离在边缘化和条件下的封闭性,并利用这一点来实现σ-CG上的σ-分离测试。然后,这将我们带到第一个因果发现算法,该算法可以处理非线性函数关系,潜在混杂因素,循环因果关系以及来自不同(随机)完美干预的数据。作为概念证明,我们在合成数据上展示了该算法如何恢复模块化结构因果模型的因果图的特征。
2018-07-09 cs.AI cs.LG stat.ML
Exploiting independence constraints for efficient estimation of bounds on causal effects in the presence of unmeasured confounding
Columbia University(哥伦比亚大学);Johns Hopkins University(约翰斯·霍普金斯大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出利用因果图结构中的条件独立性约束,改进半参数估计器在非可识别设置中对因果效应上下界估计的效率,通过模拟和真实数据示例验证了方法的有效性。
2026-06-23 stat.ME
Differentiable Constraint-Based Causal Discovery
Purdue University(普渡大学);Ford Motor Company(福特汽车公司);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出了一种基于可微d分离得分的因果发现方法,通过梯度优化条件独立性约束,在低样本量情况下优于传统方法。
2026-02-05 cs.AI cs.LG stat.ML
Local Constraint-Based Causal Discovery under Selection Bias
University of Amsterdam(阿姆斯特丹大学);Microsoft Research Cambridge(微软剑桥研究院)
我们认为,除了混杂的问题,发现因果关系的独立性约束的选择偏差。虽然开创性的FCI算法是健全和完整的,在这种设置下,没有标准的因果关系的解释,其输出下的选择偏见是目前已知的。相反,我们专注于本地模式的独立关系,在那里我们找到没有声音的方法,只有三个变量,可以包括背景知识。Y-结构模式被证明是合理的选择偏差下的数据,其中可能存在周期预测因果关系。我们引入了一个有限样本评分规则的Y结构,成功地预测因果关系的模拟实验,包括选择机制。在真实世界的微阵列数据上,我们表明Y结构变体在不同的数据集上表现良好,可能会避免由于选择偏差而导致的虚假相关性。
2022-03-03 cs.AI cs.LG stat.ML
Classifying Causal Structures: Ascertaining when Classical Correlations are Constrained by Inequalities
本文利用 d-分离、e-分离和不相容支撑识别仅产生等式约束的因果结构,并在多达 4 个可观测变量的数千个场景中验证 HLP 条件近乎穷尽。
2023-08-04 math.ST quant-ph stat.ML
Neural Networks with Causal Graph Constraints: A New Approach for Treatment Effects Estimation
Universitat de Barcelona(巴塞罗那大学);Zenital(泽尼塔尔公司)
提出NN-CGC模型,通过因果图约束减少虚假交互偏差,提升治疗效应估计精度,在基准上达到新最优。方法对不完美因果图鲁棒,部分因果信息优于忽略。
2024-04-18 cs.LG stat.ME
Constraint- and Score-Based Nonlinear Granger Causality Discovery with Kernels
本文提出基于核方法的非线性格兰杰因果发现方法,通过统一框架提升因果识别性能,并引入高斯过程评分模型以改进时间序列因果发现。
2026-01-14 cs.LG stat.ML
Identifying Conditional Causal Effects
Iowa State University(爱荷华州立大学)
本文涉及的非实验数据和因果假设的组合编码的形式,其中一些变量被假定为不可观察的有向无环图的行动的影响进行评估。我们提供了一个程序,系统地识别两组变量之间的原因影响的条件下,其他一些变量,在时间多项式中的变量的数量在图中。可识别的条件因果效应用观察到的联合分布表示。
2012-07-11 cs.AI stat.ME
Reinforcement Learning for Causal Discovery without Acyclicity Constraints
Applied Artificial Intelligence Institute (A 2 I 2 ), Deakin University(应用人工智能研究所(A2I2),德克萨斯大学);University of California, San Diego(加州大学圣地亚哥分校)
提出ALIAS方法,通过无需显式无环性约束的DAG参数化实现单步生成,利用强化学习策略梯度高效探索因果图空间,在合成与真实数据上表现优于现有方法。
2025-05-30 cs.LG stat.ME stat.ML
Operationalizing Longitudinal Causal Discovery Under Real-World Workflow Constraints
Kyoto University Graduate School of Medicine(京都大学医学研究科);SANKEN The University of Osaka(SANKEN 大阪大学);Faculty of Data Science Shiga University(Shiga大学数据科学学部);AIP RIKEN;Faculty of Medicine, University of Miyazaki(Miyazaki大学医学部);Hiroshima University Graduate School of Biomedical and Health Sciences(广岛大学生物医学和健康科学研究生院)
本文提出在现实工作流程约束下进行纵向因果发现的方法,通过工作流程诱导的约束类限制可接受的图空间,提升结构可解释性并实现可重复的因果发现。
2026-02-27 cs.AI cs.LG stat.ME
Causal de Finetti: On the Identification of Invariant Causal Structure in Exchangeable Data
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学)
本文提出因果 de Finetti 定理,证明可交换数据蕴含更丰富的条件独立性结构,并据此开发算法,通过条件独立性检验从独立因果机制生成过程中唯一识别因果结构,适用于多环境数据。
2024-05-24 cs.LG math.ST stat.ME
Causal discovery for time series with constraint-based model and PMIME measure
Université Paris-Saclay(巴黎萨克雷大学);CEA LIST(法国原子能和替代能源委员会实验室集成系统与技术部)
本文提出一种结合约束因果发现算法与PMIME信息论度量的时间序列因果发现方法,可推断线性与非线性关系并构建因果图,在模拟数据上取得良好效果。
2023-05-31 cs.IT cs.LG math.IT
On the Number of Conditional Independence Tests in Constraint-based Causal Discovery
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(埃里克和文黛斯中心,MIT和哈佛Broad研究所);Centre de Formació Interdisciplinària Superior, Universitat Politècnica de Catalunya(跨学科高级培训中心,加泰罗尼亚理工大学);Laboratory for Information and Decision Systems, Massachusetts Institute of Technology(信息与决策系统实验室,麻省理工学院)
本文提出一种复杂度更低的算法,通过减少条件独立性测试数量提升因果发现效率,同时证明了约束方法的理论下限。
2026-03-23 cs.AI cs.LG stat.ME
GRACE-C: Generalized Rate Agnostic Causal Estimation via Constraints
Georgia Institute of Technology(佐治亚理工学院);University of California San Diego(加州大学圣迭戈分校);Georgia State University(佐治亚州立大学)
针对因果与测量时间尺度不匹配导致因果学习结果误导的问题,提出结合约束规划、理论洞察与先验信息的GRACE-C方法,实现多数量级提速,可扩展至超100个变量且对噪声和边识别错误鲁棒。
2024-05-21 cs.AI cs.LG stat.ML
Observational and Interventional Causal Learning for Regret-Minimizing Control
University of Stuttgart(斯图加特大学)
我们探讨如何观察和干预因果发现方法可以结合起来。一个国家的最先进的观测因果发现算法时间序列能够处理潜在的混杂因素和同期的影响,称为LPCMCI,扩展到利润从偶然的约束,通过随机对照试验。数值结果表明,完美的干预约束,重建的结构因果模型(SCM)的扩展LPCMCI允许84.6%的时间为目标变量的最佳预测。干预和观察因果发现的实施是模块化的,允许来自其他来源的因果约束。本论文的第二部分研究同时学习因果模型和通过因果模型规划行动的后悔最小化控制问题。这个想法是,一个优化测量变量的代理首先通过观察因果发现来学习系统的机制。然后,代理人干预最有希望的变量与随机值,允许开发和生成新的干预数据。然后,代理使用介入数据来进一步增强因果模型,允许下一次改进行动。与原始LPCMCI算法相比,扩展的LPCMCI可以是有利的。数值结果表明,检测和使用介入约束导致重建SCM,允许60.9%的时间用于目标变量的最佳预测,而使用原始LPCMCI算法时的基线为53.6%。此外,诱导的平均后悔从使用原始LPCMCI算法时的1.2降低到使用具有介入发现的扩展LPCMCI算法时的1.0。
2022-12-05 cs.AI cs.LG stat.ML
Causality Learning With Wasserstein Generative Adversarial Networks
University of Strathclyde(思克莱德大学)
由于组合搜索空间,从数据中学习因果结构的传统方法面临重大挑战。最近,这个问题已经被制定成一个连续的优化框架与无环约束学习有向无环图(DAG)。这样的框架允许利用深度生成模型进行因果结构学习,以更好地捕捉数据样本分布和DAG之间的关系。然而,到目前为止,还没有研究在因果结构学习的背景下使用Wasserstein距离进行实验。我们的模型名为DAG-WGAN结合了Wasserstein的对抗损失与自动编码器架构中的非循环约束。它同时学习因果结构,同时提高其数据生成能力。我们比较了DAG-WGAN与其他不涉及Wasserstein度量的模型的性能,以确定其对因果结构学习的贡献。根据我们的实验,我们的模型在高基数数据下表现得更好。
2022-06-03 cs.AI cs.LG stat.ME
Efficient Neural Causal Discovery without Acyclicity Constraints
University of Amsterdam(阿姆斯特丹大学);Qualcomm AI Research(高通人工智能研究院)
使用观测和干预数据学习因果图模型的结构是许多科学领域中的基本问题。一个有前途的方向是连续优化的分数为基础的方法,然而,需要约束优化,以执行非循环或缺乏收敛保证。在本文中,我们提出了ENCO,一个有效的结构学习方法,利用观测和干预数据的有向,无环因果图。ENCO将图搜索公式化为独立边缘似然的优化,其中边缘方向被建模为单独的参数。因此,我们可以在温和的条件下提供ENCO的收敛保证,而不限制分数函数的无环性。在实验中,我们表明,ENCO可以有效地恢复图与数百个节点,一个数量级大于以前可能的,同时处理确定性变量和潜在的混淆。
2022-02-25 cs.AI cs.LG stat.ML
Constraint-based Causal Discovery from Multiple Interventions over Overlapping Variable Sets
University of Crete(克里特大学);Foundation for Research and Technology - Hellas (FORTH)(希腊研究与技术基金会(FORTH))
科学实践通常涉及反复研究一个系统,每次都试图从不同的角度来解释。在每项研究中,科学家可以在不同的实验条件下进行测量(干预,操纵,扰动),并测量不同的数量(变量)。结果是来自不同数据分布的异构数据集的集合。在这项工作中,我们提出了算法COmbINE,它接受一个集合的数据集在不同的实验条件下重叠的变量集; COmbINE然后输出一个总结的所有因果模型,表明不变的和变异的结构特征的所有模型,同时适合所有的输入数据集。COmbINE将数据中估计的依赖性和独立性转换为数据生成因果模型上的路径约束,并将它们编码为SAT实例。该算法在样本限内是合理和完备的。为了解释统计误差引起的冲突约束,我们引入了一种一般的方法,用于按照置信度的顺序对约束进行排序,计算为它们相应的p值的函数。在我们的实证评估中,COmbINE在效率方面优于唯一预先存在的类似算法;后者还承认反馈周期,但不承认冲突的约束,这阻碍了对真实数据的适用性。作为概念验证,COmbINE用于共分析4个真实的质谱细胞计数数据集,测量在3种不同干预下重叠蛋白质集的磷酸化蛋白质浓度。
2014-03-10 cs.AI stat.ML
Identifying Conditional Causal Effects in MPDAGs
University of Washington(华盛顿大学)
本文研究在MPDAG设定下识别条件因果效应,提出条件集合不受处理影响时的识别公式、do演算的MPDAG推广及一个完备识别算法。
2025-07-21 cs.AI stat.ME stat.ML
Characterization and Learning of Causal Graphs with Small Conditioning Sets
Purdue University(普渡大学)
本文针对小样本条件下条件独立性检验因条件集过大而失效的问题,提出 $k$-Markov 等价概念及 $k$-PC 算法,通过限制条件集大小上界实现更稳健的因果图学习。
2023-10-28 cs.AI cs.LG stat.ML
Enabling Causal Discovery in Post-Nonlinear Models with Normalizing Flows
Applied Artificial Intelligence Institute (A2I2)(应用人工智能研究所);Deakin University(迪肯大学)
针对Post-Nonlinear因果模型中可逆性约束难以捕捉的问题,提出基于归一化流的因果发现方法CAF-PoNo,通过精确重构隐藏噪声实现双变量与多变量因果发现,性能优于现有先进方法。
2024-08-29 cs.AI cs.LG stat.ME
Causal inference using the algorithmic Markov condition
推断连接n个可观测量的因果结构通常基于检测统计依赖性和选择使联合测量马尔可夫的单图。在这里,我们将讨论为什么因果推理也是可能的,当只有单一的观察。我们开发了一个理论,如何生成因果图解释单个对象之间的相似性。为此,我们取代的概念,条件随机独立的因果马尔可夫条件的条件算法互信息的消失,并描述了相应的因果推理规则。我们解释了为什么一个一致的重新制定的因果推理算法的复杂性意味着一个新的推理原则,也考虑到条件概率密度的复杂性,使它能够选择马尔可夫等价因果图。这一见解提供了一个理论基础的启发式原则提出了早期的工作。我们还讨论了如何用可判定的复杂性准则代替Kolmogorov复杂性。这可以被看作是一种算法模拟,用基于潜在分布的隐式或显式假设的实际独立性测试来取代统计独立性的经验不可判定问题。
2008-04-23 cs.IT math.IT math.ST
A Robust Independence Test for Constraint-Based Learning of Causal Structure
Decision Systems Laboratory(决策系统实验室);Intelligent Systems Program(智能系统项目);University of Pittsburgh(匹兹堡大学);School of Information Sciences(信息科学学院)
基于约束(CB)的学习是一种通过执行一系列条件独立性测试来推断结构信息来学习具有数据库D的因果网络的形式主义。本文考虑了一种新的独立性测试,它结合了贝叶斯学习,贝叶斯网络推理和经典假设检验的思想,以产生更可靠和更强大的测试。新的检验可以在与标准检验(如卡方检验)相同的渐近时间和空间中计算,但它允许指定参数的先验分布,并且可以在数据库不完整时使用。我们证明了测试是正确的,我们证明了经验,当使用CB因果发现算法与noninformative先验,它恢复结构特征更可靠,它产生的网络与较小的KL发散,特别是随着节点的数量增加或记录的数量减少。另一个好处是CB算法在搜索过程中停止的概率大大降低,为数据库较小时CB学习的恼人问题提供了补救措施。
2012-10-19 cs.AI cs.LG stat.ML
Robust Causal Discovery under Imperfect Structural Constraints
本文针对不完美结构约束下的因果发现问题,提出通过先验对齐与多任务多梯度优化协调知识与数据,提升线性和非线性场景下的鲁棒因果发现性能。
2025-11-10 cs.AI cs.LG stat.ML
Causal Domain Adaptation with Copula Entropy based Conditional Independence Test
Hitachi China Research Laboratory(日立中国研究院)
领域自适应(DA)是机器学习中的一个典型问题,其目的是将在源域上训练的模型迁移到具有不同分布的目标域上。因果性DA是DA的一种特殊情况,它从因果关系的角度解决问题。它将多个域中的概率关系嵌入到系统的一个更大的因果结构网络中,并试图找到系统上的因果源(或干预)作为系统状态跨域分布漂移的原因。从这个意义上说,因果DA转换为因果发现问题,通过状态变量和系统的可观察状态之间的条件独立性,发现跨域的不变表示给定干预。检验条件独立性是因果发现的基石。最近,基于Copula熵的条件独立性检验被提出,它具有严格的理论和非参数估计方法。本文首先给出了因果DA问题的一个数学模型,然后提出了一种基于Copula熵的条件独立性检验的因果DA问题跨域不变表示方法。两个仿真数据验证了该方法的有效性。该方法的力量,然后证明了两个现实世界的数据:成人人口普查收入数据和步态特征数据。
2022-02-27 cs.LG stat.ME
Domain Knowledge in A*-Based Causal Discovery
causaLens(causaLens公司);King’s College London(伦敦国王学院)
因果发现已经成为科学家和从业者想要从观测数据中发现因果关系的重要工具。虽然大多数以前的因果发现方法都隐含地假设没有专业领域知识,但从业者通常可以从以前的经验中提供这样的领域知识。最近的工作已纳入领域知识的约束为基础的因果发现。然而,大多数这种基于约束的方法都假定因果忠实性,这在实践中经常被违反。因此,人们重新关注基于精确搜索分数的因果发现方法,这些方法不假设因果忠实性,例如基于A* 的方法。然而,在领域知识的背景下没有考虑这些方法。在这项工作中,我们专注于有效地整合几种类型的领域知识到A* 为基础的因果发现。在此过程中,我们讨论并解释领域知识如何减少图搜索空间,然后提供对潜在计算收益的分析。我们通过对合成数据和真实数据的实验来支持这些发现,表明即使是少量的领域知识也可以大大加快基于A* 的因果发现,并提高其性能和实用性。
2022-08-17 cs.AI cs.LG stat.ML
Causal Discovery with Cascade Nonlinear Additive Noise Models
Guangdong University of Technology(广东工业大学);Carnegie Mellon University(卡内基梅隆大学);Yitu Technology Ltd.(依图科技有限公司);Foshan University(佛山科学技术学院)
从观测数据中识别因果效应对之间的因果方向,近年来引起了人们的广泛关注。已经提出了基于功能因果模型的各种方法来解决这个问题,通过假设因果过程满足一些(结构)约束,并表明反向违反这些约束。非线性加性噪声模型已被证明对这一目的是有效的,但模型类不是传递性的-即使每个直接因果关系都遵循这一模型,间接因果影响(由省略的中间因果变量引起,在实践中经常遇到)也不一定遵循模型约束;结果,非线性加性噪声模型可能无法正确地发现因果方向。在这项工作中,我们提出了一个级联的非线性加性噪声模型来表示这种因果关系的影响-每个直接的因果关系遵循非线性加性噪声模型,但我们只观察到的初始原因和最终效果。我们进一步提出了一种方法来估计模型,包括不可测量的中间变量,从数据,变分自动编码器框架下。我们的理论结果表明,我们的模型,因果方向是可识别的数据生成过程中的适当的技术条件下。仿真结果表明,所提出的方法在识别各种设置的间接因果关系的权力,和真实数据上的实验结果表明,所提出的模型和方法大大扩展了非线性情况下的因果发现的适用性的基础上功能因果模型。
2019-06-03 cs.LG stat.ML
Learning Individually Fair Classifier with Path-Specific Causal-Effect Constraint
NTT(日本电信电话株式会社);The University of Tokyo(东京大学);Kyoto University(京都大学)
机器学习用于为各个领域的个体做出决策,这要求我们在实现良好预测准确性的同时,确保关于敏感特征的公平性(例如,种族和性别)。然而,这个问题在复杂的现实世界场景中仍然很困难。为了量化这种情况下的不公平性,现有方法利用{ \it路径特异性因果效应}。然而,没有一种方法能够在不对数据进行不切实际的功能假设的情况下确保对每个人的公平性。在本文中,我们提出了一个更实用的框架来学习一个单独的公平分类器。为了避免限制性的功能假设,我们定义了{ \it概率的个人不公平}(PIU)和解决的优化问题,其中PIU的上限,这可以从数据估计,控制接近零。我们阐明了为什么我们的方法可以保证每个人的公平性。实验结果表明,我们的方法可以学习一个单独的公平的分类器在一个轻微的成本的准确性。
2021-02-26 cs.AI cs.LG stat.ML
Causal discovery in deterministic discrete LTI-DAE systems
Department of Chemical Engineering, Indian Institute of Technology Madras(化学工程系,印度理工学院马德拉斯)
本文提出了一种名为变量划分(PoV)的方法,用于在确定性离散LTI-DAE系统中发现因果驱动变量,克服了现有DIPCA方法无法处理含代数关系系统的局限。
2025-06-25 cs.LG cs.SY eess.SP
Entropic Inequality Constraints from $e$-separation Relations in Directed Acyclic Graphs with Hidden Variables
Johns Hopkins University(约翰斯·霍普金斯大学);Perimeter Institute for Theoretical Physics(圆周理论物理研究所);University of Gdańsk(格但斯克大学);International Centre for Theory of Quantum Technologies(国际量子技术理论中心)
含有隐变量的有向无环图(DAG)经常被用来刻画系统中变量之间的因果关系。当某些变量不可观测时,DAG意味着对观测变量分布的一组非常复杂的约束。在这项工作中,我们提出了熵不等式约束隐含的$e$分离关系的隐变量DAG离散观测变量。这些约束可以直观地理解为遵循这样的事实,即沿着因果路径传递信息的变量的能力受到它们的熵的限制;例如,在极端情况下,具有熵的变量$0$可以不传递信息。我们展示了如何使用这些约束从观察到的数据分布中了解真正的因果模型。此外,我们提出了一种称为最小中间熵的因果影响的措施,并证明它可以增强传统的措施,如平均因果效应。
2023-02-22 cs.LG stat.ML
A Causal Markov Condition for Value
University of Inland Norway(内陆挪威大学)
本文提出价值因果马尔可夫条件,发展因果价值理论,引入概率-价值对偶性,制定v-CMC不同版本并证明等价性,定义v-分离,推导贝尔曼型递归,还展示其对效用信息的作用并开发相关算法。
2026-07-21 cs.AI cs.LG stat.ML
A Recursive Markov Boundary-Based Approach to Causal Structure Learning
EPFL(洛桑联邦理工学院);Johns Hopkins University(约翰斯·霍普金斯大学)
基于约束的方法是因果结构学习的主要方法之一,因为它们可以渐近保证找到与系统的因果图等价的马尔可夫结构。另一方面,它们可能需要在系统的变量数量上进行指数级大量的条件独立性(CI)测试。在本文中,我们提出了一种新的递归约束为基础的因果结构学习方法,显着减少了所需的CI测试的数量相比,现有的文献。所提出的方法的思想是使用马尔可夫边界信息来识别可以从变量集合中移除的特定变量,而不会影响其他变量之间的统计依赖关系。识别出这样一个变量后,我们发现它的邻域,从变量集中删除该变量,并递归地学习剩余变量的因果结构。我们进一步提供了一个下限的CI测试所需的任何基于约束的方法的数量。将该下限与我们的可实现的界限进行比较,表明了所提出的方法的效率。我们的实验结果表明,该算法优于国家的最先进的合成和现实世界的结构。
2021-05-21 cs.AI cs.LG stat.ML
Learning Causal Models from Conditional Moment Restrictions by Importance Weighting
CyberAgent, Inc.(赛博代理公司);The University of Tokyo(东京大学);Temple University(天普大学)
我们考虑在条件矩约束下学习因果关系。与无条件矩约束下的因果推理不同,条件矩约束对因果推断提出了严峻的挑战,特别是在高维环境中。为了解决这个问题,我们提出了一种方法,转换条件矩约束无条件矩限制,通过重要性加权,使用条件密度比估计。利用这种变换,我们成功地估计了定义在条件矩约束下的非参数函数。我们提出的框架是通用的,可以应用于广泛的方法,包括神经网络。我们分析了估计误差,为我们提出的方法提供了理论支持。在实验中,我们证实了我们提出的方法的合理性。
2022-09-28 cs.LG econ.EM stat.AP
Causal Inference under Networked Interference and Intervention Policy Enhancement
Ludwig Maximilian University of Munich(慕尼黑大学);Siemens CT(西门子中央研究院)
根据随机实验数据估计个体处理效应是因果推断中的一项关键任务。在因果推断中,通常采用稳定单位处理值假设。然而,当一个单元的分配治疗影响相邻单元的潜在结果时,干扰可能会引入偏倚。这种干扰现象在经济学中被称为溢出效应,在社会科学中被称为同行效应。通常,在随机化实验或具有相互连接单元的观察性研究中,只能观察干扰下的治疗反应。因此,如何在干扰存在的情况下估计叠加的因果效应并恢复个体的处理效应成为因果推断中的一个挑战性任务。在这项工作中,我们使用GNNs研究了一般网络干扰下的因果效应估计,GNNs是捕获图中依赖关系的强大工具。在导出因果效应估计量后,我们进一步研究了在容量约束下的图上的干预政策改进。在网络干扰和处理容量约束下,给出了策略遗憾界.此外,基于GNN因果估计的启发式图结构相关的误差界。
2021-05-04 cs.LG stat.ME stat.ML
Order-independent constraint-based causal structure learning
ETH Zurich(苏黎世联邦理工学院)
我们考虑基于约束的因果结构学习方法,例如PC-,FCI-,RFCI-和CCD-算法(Spirtes等人(2000,1993),Richardson(1996),Colombo等人(2012),Claassen等人(2013))。所有这些算法的第一步由PC算法组成。已知该算法是依赖于顺序的,在这个意义上,输出可以依赖于给定变量的顺序。这种顺序依赖性在低维设置中是一个小问题。然而,我们表明,它可以在高维设置中非常明显,在那里它可以导致高度可变的结果。我们提出了几个修改的PC算法(因此也是其他算法),删除部分或全部的顺序依赖。所有提出的修改是一致的,在高维设置下,在相同的条件下,他们原来的同行。我们比较PC,FCI和RFCI算法和它们的修改在模拟研究和酵母基因表达数据集。我们表明,我们的修改产生类似的性能在低维设置和高维设置中的性能提高。所有软件都在R-package pcalg中实现。
2013-09-27 cs.LG stat.ML
Causal Discovery from Conditionally Stationary Time Series
Imperial College London(帝国理工学院);University of Dundee(邓迪大学)
本文提出状态依赖因果推断(SDCI)方法,通过将非平稳性建模为以潜在状态为条件的平稳性,实现条件平稳时间序列中的因果发现,并在粒子交互、基因调控和NBA球员运动预测中验证其优越性。
2025-06-05 cs.LG stat.ML
Causal versions of Maximum Entropy and Principle of Insufficient Reason
Amazon Research(亚马逊研究院)
不充分理由原理(PIR)是指在没有理由的情况下,对随机试验中的每一种选择都赋予相等的概率。最大熵原理(MaxEnt)将PIR推广到给定期望等统计信息的情况。众所周知,这两个原则都会导致因果关系的联合分布的自相矛盾的概率更新。这是因为对条件P(效应)的约束|原因)导致P(原因)的变化,将更高的概率分配给那些为结果提供更多选择的原因值,这表明“故意行为”。因此,早期的工作建议根据因果顺序依次最大化(条件)熵,但没有进一步的理由,除了玩具例子的可解释性。我们证明因果关系的修改PIR和MaxEnt分离的限制,限制的原因和限制的机制,产生的影响,从原因。我们进一步勾勒为什么因果PIR也需要“信息几何因果推断“。我们简要地讨论了推广的因果版本的MaxEnt任意因果DAG的问题。
2021-11-24 cs.LG stat.ML
A practical guide to causal discovery with cohort data
本指南针对队列数据的因果发现需求,详细讲解pcalg、bnlearn、TETRAD三款软件在观测数据、混合数据、已知时序、缺失数据场景下的基于约束的因果发现操作,对比优劣并给出实用建议。
2023-12-18 stat.AP
Identification and Estimation of Conditional Average Partial Causal Effects via Instrumental Variable
Yokohama National University(横滨国立大学);Iowa State University(爱荷华州立大学)
本文研究了连续处理下揭示异质因果效应的条件平均部分因果效应(CAPCE),在工具变量设定下提供了较以往更弱假设的识别条件,并开发了sieve、参数化和基于RKHS的三类估计器且验证了其有效性。
2024-05-30 cs.LG stat.ML
Conditional Independence Tests for Constraint-Based Causal Discovery: A Survey
University of Nicosia(尼科西亚大学);School of Sciences and Engineering(科学与工程学院)
该综述针对生物医学领域常见的高维混合类型场景,梳理六大类条件独立性检验方法,分析其优缺点,关联测试级与图级错误,对比主流库应用并总结开放挑战。
2026-08-12 cs.LG stat.ML
Causal Inference via Conditional Kolmogorov Complexity using MDL Binning
Northeastern University(东北大学);GE Global Research(通用电气全球研究中心)
最近的发展已经将因果推理与数学信息论联系起来,并且已经开发了利用条件柯尔莫哥洛夫复杂性来确定两个随机变量之间的因果关系的方法。我们提出了一种方法来推断因果方向之间的连续变量使用MDL装箱技术的数据离散化和复杂性计算。我们的方法捕获数据的形状,并使用它来确定哪个变量具有更多关于另一个变量的信息。它的高预测性能和鲁棒性在几个真实世界的用例中得到了证明。
2019-11-06 cs.IT cs.LG math.IT
Polynomial Constraints in Causal Bayesian Networks
Iowa State University(爱荷华州立大学);Department of Computer Science(计算机科学系)
我们使用隐式化过程生成多项式等式约束的一组分布引起的局部干预变量的因果贝叶斯网络与隐藏变量。我们展示了如何降低隐式化问题的复杂性,并使问题在某些因果贝叶斯网络中易于处理。我们还展示了一些初步的结果多项式约束的代数结构。这些结果在区分因果模型和结合观测和实验数据检验因果模型方面具有应用价值。
2012-06-20 cs.AI stat.ME
Beyond Structural Causal Models: Causal Constraints Models
Informatics Institute(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
结构因果模型(SCM)提供了一个流行的因果建模框架。在这项工作中,我们表明,SCMs是不够灵活,以提供一个完整的因果关系表示的动力系统在平衡。相反,我们提出了一个概括的SCM的概念,我们称之为因果约束模型(CCM),并证明了CCM捕获的因果语义,这样的系统。我们将展示如何从微分方程和初始条件构建CCM,并进一步说明我们的想法,一个简单但无处不在的(生物)化学反应。我们的框架还允许模拟功能的法律,如理想气体法,在一个明智的和直观的方式。
2019-08-06 cs.AI stat.ME stat.ML
Linear Causal Discovery with Interventional Constraints
纳入因果知识和机制对于完善因果模型和改进下游任务(例如设计新治疗方法)至关重要。在本文中,我们引入了一个新的概念,在因果发现,称为介入约束,这从根本上不同于介入数据。虽然干预性数据需要变量的直接扰动,但干预性约束以因果效应的不等式约束的形式对高层次的因果知识进行编码。例如,在Sachs数据集中(Sachs et al.\ 2005年),Akt已被证明是由PIP3激活,这意味着PIP3对Akt发挥积极的因果作用。现有的因果发现方法允许强制执行结构约束(例如,需要从PIP3到Akt的因果路径),但它们仍然可能产生不正确的因果结论,例如学习“PIP3抑制Akt”。干预约束通过明确约束变量对之间的总因果效应来弥合这一差距,确保学习模型尊重已知的因果影响。为了形式化干预约束,我们提出了一个度量来量化线性因果模型的总因果效应,并将问题制定为约束优化任务,使用两阶段约束优化方法求解。我们在真实世界的数据集上评估了我们的方法,并证明了整合干预性约束不仅提高了模型的准确性,确保了与已有发现的一致性,使模型更易于解释,而且还有助于发现新的因果关系,否则识别成本很高。
2025-10-30 cs.AI cs.LG
Causal Models with Constraints
University of Tübingen(图宾根大学);Cornell University(康奈尔大学);California Institute of Technology(加州理工学院)
因果模型在提供一组变量之间因果关系的正式表示方面已经证明是非常有用的。然而,在许多情况下,变量之间存在非因果关系。例如,我们可能需要变量$LDL$、$HDL$和$TOT$,它们代表低密度脂蛋白胆固醇水平、脂蛋白高密度脂蛋白胆固醇水平和总胆固醇水平,关系为$LDL+HDL=TOT$。这在标准的因果模型中是做不到的,因为我们可以同时干预所有三个变量。本文的目标是扩展标准的因果模型,以允许对变量设置的约束。虽然扩展相对简单,但为了使其有用,我们必须定义一个新的干预操作,即$disconnects$从因果方程中提取变量。我们给出的例子表明这种扩展的有用性,并提供了一个健全的和完整的公理化因果模型的约束。
2023-01-17 cs.AI
A Review on Algorithms for Constraint-based Causal Discovery
因果发现研究从数据中挖掘变量之间的因果关系的问题,这是科学中的主要兴趣。在过去的几十年中,朝着这个基本的数据采掘范例已经取得了显著的进展。近年来,随着大规模、复杂观测数据的大量出现,基于约束的方法因其运行速度快、易于推广到因果不足问题而逐渐引起人们的关注,并被广泛应用于各种现实问题中。在本文中,我们的目的是审查基于约束的因果发现算法。首先,我们讨论了基于约束的方法的学习范式。其次,对基于约束的因果推理算法进行了综述和分析。第三,简要总结了几个相关的开源软件包和基准数据库。最后,对基于约束的因果发现中存在的问题进行了总结,并提出了进一步研究的方向。
2016-11-24 cs.AI
Causal Discovery from Subsampled Time Series Data by Constraint Optimization
University of Helsinki(赫尔辛基大学);Mind Research Network(心智研究网络);University of New Mexico(新墨西哥大学);California Institute of Technology(加州理工学院);Carnegie Mellon University(卡内基梅隆大学)
本文主要研究从时间序列数据中的因果结构估计,其中测量值是在比底层系统的因果时标更粗的时标上获得的。以前的工作表明,这种二次抽样可能会导致系统的因果结构,如果没有适当考虑到显着的错误。在本文中,我们首先考虑搜索系统的时间尺度因果结构,对应于一个给定的测量时间尺度结构。我们提供了一个约束满足过程,其计算性能比以前的方法好几个数量级。然后,我们考虑有限样本数据作为输入,并提出了第一个约束优化方法恢复系统的时标因果结构。该算法最佳地从由于统计误差而可能发生的冲突中恢复。更一般地说,这些进步允许一个强大的和非参数估计系统的时间尺度因果结构从二次采样的时间序列数据。
2016-07-13 cs.AI