Cycles in Causal Learning
Google Research(谷歌研究院)
在因果学习中,我们希望学习变量之间的因果关系,以便我们能够正确地推断干预的效果。虽然循环结构和非循环结构之间的差异可能只是一条边,但循环因果结构在干预下具有质的不同行为:当干预的下游效应传播回源变量时,循环会导致反馈回路。我们提出了三个理论观察概率分布与自指因子分解,即分布,可以用图形表示的一个周期。首先,我们证明了两个变量的自指分布实际上是独立的。其次,我们证明了N个变量的自参考分布具有零互信息。最后,我们证明了自指分布,因式分解在一个周期,也因式分解,好像周期被逆转。这些结果表明,即使观测数据表明变量之间的独立性,也可能存在循环因果依赖。基于估计互信息的方法,或基于独立因果机制的推理,很可能无法学习循环因果结构。我们鼓励未来的工作在因果学习,仔细考虑周期。
2020-07-24 cs.LG stat.ML
Cyclic quantum causal modelling with a graph separation theorem
本文提出适用于有限维系统上所有一致量子和经典循环因果模型的框架,引入稳健概率规则和图分离性质p-分离并证明其可靠性与完备性,通过后选择量子隐形传态将循环模型映射为无环模型,为循环因果发现及非经典性认证奠定基础。
2025-02-07 math.ST quant-ph stat.ML
Cyclic Causal Discovery from Continuous Equilibrium Data
University of Amsterdam(阿姆斯特丹大学);Radboud University Nijmegen(奈梅亨拉德堡德大学)
我们提出了一种从观测和干预平衡数据的组合中学习循环因果模型的方法。所提出的方法的新颖之处在于它能够处理连续数据(不假设线性)和处理反馈回路。在生物化学反应的背景下,我们还提出了一种新的建模干预措施的方式,修改化合物的活性,而不是它们的丰度。由于计算的原因,我们近似的非线性因果机制(耦合)局部线性化,每个实验条件。我们应用该方法从Sachs等人(2005)测量的流式细胞术数据重建细胞信号网络。我们表明,我们的方法发现反馈回路的数据中的证据,它提供了一个更准确的定量描述的数据在可比的模型复杂性。
2013-09-26 cs.AI cs.LG stat.ML
Structure Learning for Cyclic Linear Causal Models
研究了基于观测数据的线性因果模型的结构学习问题。我们对待可能的循环混合图,它允许反馈回路和潜在的混淆因素的影响给出的模型。推广了无弓无圈图的相关工作,我们假设底层图是简单的。这意味着,任何两个观察到的变量可以通过最多一个直接的因果关系的影响和结构方程中的误差项之间的相关性(混淆诱导)只发生在没有直接的因果关系的影响。我们发现,尽管新的微妙之处,在循环的情况下,所考虑的简单的循环模型是预期的尺寸和以前考虑的标准分布等价的弓无无圈图有类似的循环的情况下。我们的模型维数的结果证明,特别是基于分数的线性高斯混合图模型的结构学习方法,我们通过贪婪搜索实现。
2020-08-19 math.ST stat.ML stat.TH
Learning Cyclic Causal Models from Incomplete Data
Georgia Institute of Technology(佐治亚理工学院)
提出 MissNODAGS 框架,在加性噪声模型下结合 EM 交替进行缺失数据插补与可见数据期望对数似然最大化,以从含缺失的干预数据中学习循环因果图,并在合成及单细胞数据上验证性能提升。
2024-02-23 cs.AI cs.LG stat.ML
Characterizing Distribution Equivalence and Structure Learning for Cyclic and Acyclic Directed Graphs
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
定义非循环有向因果图模型之间等价性的主要方法是基于因果模型可以生成的分布中的条件独立关系,即马尔科夫等价性。然而,众所周知,当因果结构中允许循环时,条件独立性可能不是两个结构等价的合适概念,因为它不能反映分布中对识别底层结构有用的所有信息。在本文中,我们提出了一个一般的,统一的概念,等价的线性高斯因果有向图模型,无论它们是循环的或非循环的。在我们提出的等价定义中,如果两个结构可以生成相同的数据分布集,则它们是等价的。我们还提出了一个较弱的概念,称为准等价等价,我们表明是从观测数据的可识别性的程度。我们提出了分析以及图形的方法来表征两个结构的等价性。此外,我们提出了一个基于分数的方法来学习的结构从观测数据,成功地处理了非循环和循环结构。
2020-07-02 cs.LG stat.ML
SCOUT: Cyclic Causal Discovery Under Soft Interventions with Unknown Targets
School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
SCOUT提出一种新框架,通过最大化数据对数似然恢复图结构,利用合同残差流和神经样条流,实现从软干预数据中学习非线性循环因果关系,优于现有方法。
2026-05-15 cs.LG
Causal Discovery of Linear Cyclic Models from Multiple Experimental Data Sets with Overlapping Variables
University of Helsinki(赫尔辛基大学);Carnegie Mellon University(卡内基梅隆大学)
许多科学数据是以随机实验的方式收集的,这些实验干预了一些变量,并观察了其他感兴趣的变量。通常情况下,一个特定的现象在几项研究中进行调查,每项研究都涉及不同的变量。在这篇文章中,我们考虑的问题,整合这些知识,尽可能多地推断有关的基本因果结构的工会观察到的变量从这样的实验或被动观测重叠的数据集。我们不假设基础数据生成模型的非周期性或联合因果充分性,但我们确实将因果关系限制为线性,并且仅使用数据的二阶顺序统计量。我们推导出最通用的情况下,完整的模型可识别性的条件,并提供新的技术,将忠实的假设,以帮助推理。在每一种情况下,我们都试图根据手头的数据来确定什么是决定性的,什么不是决定性的。
2012-10-16 cs.AI stat.ME stat.ML
Local Causal Discovery with Linear non-Gaussian Cyclic Models
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出一种适用于线性非高斯模型的统一局部因果发现方法,通过扩展独立成分分析至独立子空间分析,实现从目标变量的马尔可夫毯中精确识别局部有向结构和因果强度,并在无环场景下提供基于回归的替代方法。
2024-03-21 cs.AI cs.LG
A general framework for cyclic and fine-tuned causal models and their compatibility with space-time
本研究提出一个适配循环、微调及非经典因果影响的通用因果建模框架,定义操作性与相对论性因果概念的独立表述及二者联系,给出时空嵌入的兼容性条件,识别多类因果循环并引入高阶影响关系以助力微调因果模型的因果发现。
2022-09-07 gr-qc math.ST quant-ph
Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning
Carnegie Mellon University(卡内基梅隆大学);FernUniversität in Hagen(哈根函授大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出了一种线性非高斯潜在变量循环因果模型的分布等价性特征化方法,填补了无结构假设的因果发现空白。
2026-03-05 cs.LG stat.ML
A Unified Experiment Design Approach for Cyclic and Acyclic Causal Models
EPFL(洛桑联邦理工学院);Leiden University(莱顿大学);Boston University(波士顿大学)
针对循环因果图实验设计的难点,提出统一适用于循环与非循环因果模型的实验设计方法,证明其在实验次数和受限实验规模下均达到最优性。
2023-12-13 cs.AI cs.LG
Data-Driven and Cycle-Agnostic Covariate Selection for Nonparametric Causal Effect Estimation
Leiden University(莱顿大学)
本文提出一种基于条件独立性的本地数据驱动方法,用于非参数和周期无关的因果效应估计,证明其在存在循环因果模型时的有效性,并通过合成数据验证了方法的可靠性。
2026-11-05 cs.LG
The Statistical Cost of Causal Discovery with Feedback
Seoul National University(首尔国立大学);Princeton University(普林斯顿大学)
本文研究循环线性非高斯因果发现中精确恢复强连通分量及外部边的样本复杂度,提出信息论下界及BlockExo算法,实现结构匹配的样本效率。
2026-09-29 cs.LG stat.ML
Characteristic Imsets for Cyclic Linear Causal Models and the Chickering Ideal
本文研究循环线性因果模型中的协方差等价性,利用与特征 imset 对应线性映射相关的环面理想,证明相同特征 imset 向量蕴含协方差等价,为贪心因果发现提供更小搜索空间。
2025-06-16 math.AG math.CO math.ST
Near-Optimal Experiment Design in Linear non-Gaussian Cyclic Models
EPFL(苏黎世联邦理工学院);Leiden University(莱顿大学)
本文提出了一种基于随机优化的近最优实验设计方法,用于从线性非高斯循环模型中学习因果结构。
2025-12-04 cs.AI cs.LG stat.ML
Causal Discovery with a Mixture of DAGs
Vanderbilt University Medical Center(范德比尔特大学医学中心)
生物医学中的因果过程可能包含周期,随着时间的推移而演变或在人群之间存在差异。然而,许多图形模型不能适应这些条件。我们建议使用有向循环图(DAG)的混合物来建模因果关系,其中人口中的联合分布在任何单个时间点都遵循DAG,但在时间上可能不同的DAG。我们还介绍了一种算法,称为因果推断混合,使用纵向数据来推断一个图形,总结了从混合的DAG产生的因果关系。实验表明,与现有方法相比,性能有所改善。
2020-09-05 cs.LG stat.AP stat.ML
An Asymmetric Independence Model for Causal Discovery on Path Spaces
Technical University of Munich(慕尼黑工业大学);Helmholtz Munich(亥姆霍兹慕尼黑中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Copenhagen Business School(哥本哈根商学院)
针对随机微分方程的因果发现,论文提出在边缘化下封闭的非对称E-分离独立性模型,证明循环及部分观测SDE的全局马尔可夫性质,并给出图等价类最大元的识别算法。
2025-03-12 cs.LG stat.ML
Interventional Causal Discovery in a Mixture of DAGs
Rensselaer Polytechnic Institute(伦斯勒理工学院);Carnegie Mellon University(卡内基梅隆大学);IBM Research(IBM研究院)
本文针对混合DAG因果系统的发现挑战,确立干预规模充要条件并设计自适应算法,用O(n²)干预识别真边,且在无循环时达最优。
2024-12-03 cs.AI cs.LG stat.ME
Equilibrium Causal Games: Separation, Identification, and the Identifiability of Cyclic Latent States
Department of Mechanical & Industrial Engineering, Montana State University(机械与工业工程系,蒙大拿州立大学);Gianforte School of Computing, Montana State University(计算机学院,蒙大拿州立大学)
研究平衡因果博弈中,通过结合博弈与多种模型及规则,探讨在不同条件下因果关系的分离、识别等问题,包括线性和非线性传感情况,明确平衡数据能支持的因果结论及需针对性实验的情况。
2026-07-23 cs.LG cs.SY eess.SY
Causal Discovery from Heteroscedastic Stochastic Dynamical Systems under Imperfect Physical Models
Department of Mechanical & Industrial Engineering(机械与工业工程系);Northeastern University(东北大学);Department of Industrial Engineering and Management Sciences(工业工程与管理科学系);Department of Mechanical Engineering(机械工程系);Northwestern University(西北大学)
本文提出了一种整合因果发现框架,利用随机微分方程中的部分物理知识来提高动态系统中因果图的恢复能力,同时分析了在不完美物理模型下的鲁棒性。
2026-05-20 cs.AI cs.LG stat.ME
Cyclic Counterfactuals under Shift-Scale Interventions
Computer Vision and Pattern Recognition Unit Indian Statistical Institute(计算机视觉与模式识别单位印度统计研究所)
本文研究了在位移-缩放干预下循环结构因果模型中的反事实推断问题,提出了一种处理具有反馈环的系统的新方法。
2026-01-17 cs.AI cs.LG math.ST
Learning soft interventions in complex equilibrium systems
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
复杂系统通常包含反馈回路,可以描述为循环因果模型。干预这样的系统可能会导致违反直觉的效果,这不能直接从图形结构中推断出来。在建立了基于李群的可微软干预框架之后,我们利用现代自动微分技术及其在隐函数中的应用,对循环因果模型中的干预进行了优化。我们通过调查向可持续经济过渡的情景来说明这一框架的使用。
2022-12-14 cs.LG
Causal Discovery with Heterogeneous Observational Data
我们考虑的问题,因果发现(结构学习)从异质观测数据。大多数现有的方法假设一个均匀的抽样方案,这导致误导性的结论时,违反了在许多应用中。为此,我们提出了一种新的方法,利用数据的异质性来推断因果关系不足的系统可能循环因果结构。核心思想是将直接因果效应建模为外源协变量的函数,从而正确解释数据的异质性。我们研究所提出的模型的结构可识别性。结构学习以完全贝叶斯的方式进行,这提供了自然的不确定性量化。我们通过大量的模拟和现实世界的应用程序证明了它的实用性。
2022-01-28 stat.ME
Differentiable Structure Learning for Cyclic Linear Gaussian Models with Latent Confounders
EPFL(洛桑联邦理工学院);Leiden University(莱顿大学)
本文提出一种可微结构学习方法,用于含潜在混杂因子的循环线性高斯模型,通过伯努利门和闭式可微惩罚实现全局一致的结构学习,实验显示恢复误差更低。
2026-10-01 cs.AI cs.LG
Constraint-based Causal Discovery for Non-Linear Structural Causal Models with Cycles and Latent Confounders
Informatics Institute(信息学研究所);University of Amsterdam(阿姆斯特丹大学)
我们解决的问题,因果发现数据,利用最近提出的因果建模框架的模块化结构因果模型(mSCM)来处理周期,潜在的混杂因素和非线性。本文引入了σ-连通图(σ-CG),这是一类新的具有附加结构的混合图(包含无向、双向和有向边),并将σ-分离的概念推广到σ-CG上,σ-分离是d-分离概念的适当推广.我们证明了σ-分离在边缘化和条件下的封闭性,并利用这一点来实现σ-CG上的σ-分离测试。然后,这将我们带到第一个因果发现算法,该算法可以处理非线性函数关系,潜在混杂因素,循环因果关系以及来自不同(随机)完美干预的数据。作为概念证明,我们在合成数据上展示了该算法如何恢复模块化结构因果模型的因果图的特征。
2018-07-09 cs.AI cs.LG stat.ML
What is a good matching of probability measures? A counterfactual lens on transport maps
Institut Elie Cartan de Lorraine, Université de Lorraine(伊莱·卡坦研究所(洛林)、洛林大学);Université Paris-Saclay, CNRS, Inria, Laboratoire de mathématiques d’Orsay(巴黎-萨克雷大学、国家科学研究中心、法国国家信息与自动化技术研究院、奥赛数学实验室)
本文比较循环单调、保分位数和三角单调三类传输映射的等价条件,并将反事实推理形式化为边缘分布间传输映射的选择,从而建立统计传输与因果推断的理论联系。
2025-09-19 cs.LG math.ST stat.ME
Causal Structure Learning in Directed, Possibly Cyclic, Graphical Models
针对含环有向图的非参数因果结构学习问题,提出基于贪心得分优化的偏序划分两步混合方法,可唯一刻画马尔可夫等价类并构造对应图,兼具理论正确性与实用性。
2025-02-22 math.CO math.ST stat.TH
Causal Consistency of Structural Equation Models
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学研究所);Empirical Inference, MPI for Intelligent Systems(马克斯·普朗克智能系统研究所经验推断部);Machine Learning Group, University of Cambridge(剑桥大学机器学习组);Max Planck ETH Center for Learning Systems(马克斯·普朗克-苏黎世联邦理工学院学习系统中心)
复杂的系统可以在不同的细节层次上进行建模。理想情况下,同一系统的因果模型应该是相互一致的,因为它们在预测干预措施的效果时是一致的。我们正式的结构方程模型(SEM)的情况下,通过引入精确的转换SEM之间的一致性的概念。这就提供了一种一般性语言来考虑,例如,在下列三种情况下的不同层次的描述:(a)有大量变量的模型与“无关”或不可观察变量被边缘化的模型;(b)微观层次的模型与宏观层次的模型,其中宏观变量是微观变量的总体特征;(c)动态时间序列模型与静态行为模型。我们的分析强调了在因果建模过程中明确干预的重要性,并阐明了对周期性SEM的解释。
2017-07-04 cs.AI cs.LG stat.ME
Evaluation of the Causal Effect of Control Plans in Nonrecursive Structural Equation Models
Osaka University(大阪大学);Kyoto University(京都大学)
当观测数据可从实际研究和有向循环图的各种变量如何相互影响是已知的基础上的实质性理解的过程中,我们考虑的问题,其中的控制计划的治疗变量进行,以使响应变量接近目标值的变化减少。在线性非递归结构方程模型的框架下,通过路径系数,我们制定了关于某一治疗变量的最优控制计划。在此基础上,阐明了控制计划实施过程中因果效应的性质。结果使我们能够评估控制计划对观测数据方差的影响。
2012-06-20 cs.AI stat.ME
Lower Bounds on the Size of Markov Equivalence Classes
Engineering and Applied Science(工程与应用科学);California Institute of Technology(加州理工学院)
本文研究因果发现中Markov等价类的可辨识性极限,证明放宽无环性、因果充分性或均匀先验后,三类随机图的等价类期望大小具有指数级下界。
2025-07-25 cs.LG math.ST stat.ML
Foundations of Structural Causal Models with Cycles and Latent Variables
University of Amsterdam(阿姆斯特丹大学)
结构因果模型(SCM),也称为(非参数)结构方程模型(SEM),广泛用于因果建模目的。特别是,非循环SCM,也被称为递归SEM,形成了一个研究得很好的SCM子类,概括了因果贝叶斯网络,以允许潜在的混淆。在本文中,我们调查SCM在一个更一般的设置,允许潜在的混杂因素和周期的存在。我们发现,在周期的存在下,非循环SCM的许多方便的性质一般不成立:它们不总是有一个解决方案;他们不总是诱导唯一的观察,干预和反事实的分布;边缘化并不总是存在,如果它存在的边际模型并不总是尊重潜在的投影;他们并不总是满足一个马尔可夫性;并且它们的图并不总是与它们的因果语义一致。我们证明,在一般情况下,这些属性的SCM不持有在一定的可解性条件。我们的工作概括了SCM的结果与周期,只有已知的某些特殊情况下,到目前为止。我们介绍了类的简单SCM,扩展类的非循环SCM的循环设置,同时保留了许多方便的性质的非循环SCM。在本文中,我们的目标是提供一个一般的理论与SCM的统计因果建模的基础。
2021-11-22 cs.AI cs.LG stat.ME
Controlled Causal Hallucinations Can Estimate Phantom Nodes in Multiexpert Mixtures of Fuzzy Cognitive Maps
Signal and Image Processing Institute(信号与图像处理研究所);University of Southern California(南加州大学)
本文提出通过多专家混合模糊认知图并利用受控因果幻觉估计缺失的幻影节点,以可扩展方式逼近大规模因果反馈系统的平衡行为与未来轨迹。
2024-12-31 cs.LG
Causal Discovery for Linear Non-Gaussian Models with Disjoint Cycles
本文研究线性非高斯模型下不相交环的因果发现问题,通过低阶矩多项式关系定位源环,结合去相关与多元回归推断块拓扑序,提出一种一致且计算高效的学习算法。
2025-07-14 math.ST stat.ME stat.ML
A Practical Approach to Causal Inference over Time
University of Pisa(比萨大学);Saarland University(萨尔兰大学)
本文提出一种基于向量自回归模型与结构因果模型等价映射的因果VAR框架,用于从观测时间序列数据中估计干预随时间对动态系统的因果效应,并在合成和真实数据上验证了其预测与因果推断性能。
2024-10-14 cs.AI cs.LG cs.NA
Robust Causal Analysis of Linear Cyclic Systems With Hidden Confounders
Technical University Berlin(柏林工业大学)
本文针对含反馈循环和隐藏混杂因子的复杂系统,分析了因果方法LLC的鲁棒性并提出鲁棒扩展,同时公开源代码以促进可复现研究。
2024-12-22 cs.LG stat.ML
Dynamic Structural Causal Models
Booking.com, Amsterdam, The Netherlands
研究动态结构因果模型(DSCM),其内生变量为时间函数,可表示某些随机微分方程系统。定义时间分割与子采样操作,用于分析局部独立性及处理子采样时间序列,还给出DSCMs在因果效应识别和算法应用方面的建议。
2026-07-21 math.PR math.ST stat.ML
Sign Identifiability of Causal Effects in Stationary Stochastic Dynamical Systems
Leiden University(莱顿大学)
本文研究了平稳随机动力学系统中因果效应的符号可识别性,提出边符号可识别性概念,并通过具体因果结构分析确定了边符号的显式表达式。
2026-07-10 cs.LG math.ST stat.TH
Causal Graphs, Markov Properties and Do-calculus for Stochastic Differential Equations
VU Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学)
研究随机微分方程的图形因果模型,提出因果SDE系统可解性条件,建立基于因果图的马尔可夫性质和do-演算,证明一类SDEs的更强性质,引入时间分割系统,探讨因果发现算法在框架内对SDEs的应用。
2026-07-23 math.ST stat.ML stat.TH
Feedback System Neural Networks for Inferring Causality in Directed Cyclic Graphs
University of Bergen(卑尔根大学);isee systems inc.(isee系统公司)
本文提出了一种新的因果网络学习算法(FSNN,Feedback System神经网络),它是在构造和分析非线性常微分方程组的基础上提出的。所构建的系统提供了对负责生成动态系统的过去和潜在未来行为的机制的洞察。它也可以用真实的系统变量来解释,提供了一个整体的,因果准确的,系统的理解现实生活中的相互作用,控制观察到的现象。本文演示了一个n维常微分方程模型,可以参数化,以适应测量数据,使用标准的数值优化技术的生成。该模型利用前馈人工神经网络来捕捉非线性,但在复杂系统中的因果关系网络是一个简约和可解释的表示。所生成的模型可以容易且快速地进行实验和分析,以使用循环重要方法(Schoenberg et. al 2019)。该方法的实用性和适用性的演示给出,表明它产生一个准确的,因果关系正确的模型为三状态,非线性,复杂的动态系统的已知来源。推广到其他动态系统与其他数据源,然后讨论。
2020-05-27 cs.LG stat.ML
Root Cause Analysis of Outliers in Unknown Cyclic Graphs
Amazon Research Tübingen, Germany(亚马逊研究图宾根,德国);Technical University of Munich, Germany(慕尼黑工业大学,德国)
针对线性结构方程循环因果图中的异常值传播,提出无需先验因果图知识即可识别潜在根因列表的方法,并在模拟和真实数据上验证。
2026-07-02 cs.LG stat.ME stat.ML
PACER: Acyclic Causal Discovery from Large-Scale Interventional Data
Swiss Federal Technology Institute of Lausanne (EPFL), Switzerland(瑞士联邦理工学院洛桑分校);Cornell University, USA(康奈尔大学);ETH Zurich, Zurich, Switzerland(苏黎世联邦理工学院)
PACER通过构建无环性保证的因果发现框架,在大规模高维干预数据中实现高效且准确的因果结构推断,优于现有方法。
2026-05-14 cs.AI cs.LG q-bio.MN
Identifying Macro Causal Effects in C-DMGs over DMGs
Sorbonne Université(索邦大学);INSERM(法国国家医学研究院);Institut Pierre Louis d’Epidémiologie et de Santé Publique(皮埃尔-路易流行病学与公共卫生研究所)
本文研究了基于有向混合图(DMG)的聚类有向混合图(C-DMG)中的宏观因果效应识别问题,证明了do-calculus在该场景下是无条件健全且完备的,并将不可识别性的图判据扩展至该图模型的子集。
2025-06-24 cs.AI stat.ME
DynGFN: Towards Bayesian Inference of Gene Regulatory Networks with GFlowNets
University of Toronto(多伦多大学);Vector Institute(向量研究所);Mila - Quebec AI Institute(Mila-魁北克人工智能研究所);University Health Network(大学健康网络);Université de Montréal(蒙特利尔大学);Valence Labs(Valence实验室)
DynGFN利用RNA速度信息和GFlowNets,在贝叶斯框架下同时处理基因调控网络的环状结构和不确定性,学习更优的后验分布。
2023-12-22 cs.AI cs.LG
Counterfactual analyses with graphical models based on local independence
我们表明,一个可以执行因果推理的连续时间的情况下,使用随机分析的工具,在一个自然的方式。这为逆概率加权的正性条件提供了新的替代方案。在反事实情景中,决定观测频率的概率分布可以用所谓的鞅问题来描述。反事实和事实概率分布可以通过由随机微分方程给出的似然比来关联。我们可以根据原始观察结果对反事实场景进行推断,并根据此似然比进行重新加权。如果随机微分方程的解是一致可积的,这是可能的,这一性质可以通过比较相应的事实和反事实短期预测来确定。局部独立图是有向的,可能是循环的,表示充分自治的随机过程之间的短期预测的图。我们通过一个例子表明,这些图可以用来识别和提供一致的估计在连续时间的反事实参数。这类似于Judea Pearl如何使用图形信息来识别有限状态贝叶斯网络中的因果效应。
2013-04-22 math.PR math.ST stat.TH
Causal and Interpretable Structures in LLM Compositional Tasks
Cornell University(康奈尔大学);Goodfire AI
本研究通过分析循环概念任务中的激活,揭示了LLM在Transformer层中逐步组织关系信息的几何与因果机制,并发现限制到因果相关联合表示可提升预测准确性。
2026-09-30 cs.AI cs.CL cs.LG
Efficient structure learning with automatic sparsity selection for causal graph processes
Imperial College London(帝国理工学院)
我们提出了一种新的算法,有效地计算一组时间序列的稀疏有向邻接矩阵的因果图过程。我们的解决方案是可扩展的密集和稀疏图,并自动选择LASSO系数,以获得适当数量的边缘的邻接矩阵。当前最先进的方法依赖于稀疏矩阵计算库来缩放,并且避免LASSO惩罚系数的自动选择或者依赖于预测均方误差,其与边缘的正确数量不直接相关。相反,我们提出了一个循环坐标下降算法,采用两个新的非参数误差度量自动选择LASSO系数。我们展示了我们的算法在模拟随机块模型和S\&P $500$的股票真实数据集上的最新性能。
2019-11-18 cs.LG stat.ML
Toward Cyclic A.I. Modelling of Self-Regulated Learning: A Case Study with E-Learning Trace Data
University of St. Andrews(圣安德鲁大学);University of Portsmouth(普利茅斯大学)
本文针对自我调节学习理论模型难以在机器学习框架中表征的问题,提出将SRL特征应用于电子学习追踪数据,以提升学习因果效应的预测准确性和可解释性,并验证了循环建模技术的进一步研究价值。
2025-06-25 cs.AI cs.CY cs.HC
Inferring dynamic regulatory interaction graphs from time series data with perturbations
Yale University(耶鲁大学);Mila, Université de Montréal(蒙特利尔大学米拉研究所)
针对复杂系统动态交互推断难题,提出结合时空图注意力与图神经ODE的RiTINI方法,可推断有环有向时变图,在多数据集上达到SOTA性能。
2023-06-13 cs.LG