Entropic Causal Inference
The University of Texas at Austin(德克萨斯大学奥斯汀分校);California Institute of Technology(加州理工学院)
本文研究了利用观测数据确定两个离散随机变量之间因果关系方向的问题。与以前的工作不同,我们保留了最一般的函数模型,但对未观察到的外生变量做了一个假设:受奥卡姆剃刀的启发,我们假设外生变量在真正的因果方向上是简单的。我们用雷尼熵来量化简单性。我们的主要结果是,在自然假设下,如果外生变量在真实方向上具有低$H_0$熵(基数),则它在错误方向上必须具有高$H_0$熵。建立了估计最小熵外生变量的几个算法困难性结果。我们证明了寻找具有最小熵的外生变量的问题等价于寻找给定$n$边缘分布的最小联合熵的问题,也称为最小熵耦合问题。我们提出了一个有效的贪心算法的最小熵耦合问题,即$n=2$可证明找到一个局部最优。这给出了一个贪心算法来寻找具有最小$H_1$(香农熵)的外生变量。我们的贪婪熵为基础的因果推理算法具有类似的性能,最先进的加性噪声模型在真实的数据集。我们的方法的一个优点是,我们不使用随机变量的值,但只有他们的分布。因此,我们的方法可以用于因果推理的顺序和分类数据,不像加性噪声模型。
2016-11-15 cs.AI cs.IT math.IT
Granger Mediation Analysis of Multiple Time Series with an Application to fMRI
对来自复杂实验研究的复杂数据进行中介分析变得越来越流行。在本文中,我们提出了格兰杰中介分析(GMA),一个新的框架,因果中介分析的多个时间序列。这个框架的动机是一个功能性磁共振成像(fMRI)的实验,我们有兴趣在一个随机的刺激时间序列和大脑活动的时间序列从两个大脑区域之间的中介作用估计。因此,对于这种类型的时间序列数据来说,因果中介分析的稳定单元处理假设是不切实际的。为了应对这一挑战,我们的框架集成了两种类型的模型:跨变量的因果中介分析和跨时间观测的向量自回归模型。我们进一步扩展这个框架来处理多层次的数据,以解决个体的变异性和相关的错误之间的调解人和结果变量。这些模型不仅为时间序列数据提供了有效的因果调解,而且还对跨时间的因果动态进行了建模。我们表明,在我们的模型中的建模参数是可识别的,我们开发的计算效率的方法,以最大限度地提高基于似然的优化标准。仿真研究表明,与现有方法相比,该方法降低了估计偏差,提高了统计功效。在一个真实的fMRI数据集上,我们的方法不仅推断了大脑通路的因果效应,而且准确地捕捉了结果区域对中介区域的反馈效应。
2017-09-15 stat.AP stat.ME stat.ML
Causal mediation analysis with one or multiple mediators: a comparative study
本文系统比较单中介与多中介因果分析中的经典及先进估计量,通过模拟和 UK Biobank 数据验证多重稳健与双重机器学习方法的优势,并给出建模假设与估计选择指南。
2025-05-12 stat.AP stat.ML
MERLiN: Mixture Effect Recovery in Linear Networks
因果推断涉及变量之间因果关系的识别,例如确定刺激是否影响大脑某个区域的活动。然而,观察到的变量本身往往并不构成有意义的因果变量,需要考虑线性组合。例如,在脑电图研究中,人们对建立电极信号(观察变量)之间的因果关系不感兴趣,而是对皮层信号(因果变量)之间的因果关系感兴趣,皮层信号可以被恢复为电极信号的线性组合。我们介绍MERLiN(线性网络中的混合效应恢复),一个家庭的因果推断算法,实现了一种新的手段,从非因果变量构建因果变量。我们演示了如何通过应用程序的EEG数据的基本MERLiN算法可以扩展到不同的(神经成像)数据模式的应用程序。给定一个观察到的线性混合,该算法可以恢复一个因果变量,该变量是另一个给定变量的线性效应。也就是说,MERLiN允许我们恢复受某个大脑区域活动影响的皮层信号,而不是刺激的直接影响。所有提出的算法的Python/Matlab实现可在https://github.com/sweichwald/MERLiN上获得
2016-09-27 q-bio.NC stat.AP stat.ME
Unified model selection approach based on minimum description length principle in Granger causality analysis
Granger因果分析(GCA)为利用神经影像技术揭示脑连接机制的模式提供了一个强有力的工具。传统的GCA在两阶段方案中应用两种不同的数学理论:(1)贝叶斯信息准则(BIC)或赤池信息准则(AIC)用于与内外生信息相关的回归模型阶数;(2)F-统计量用于确定外生变量的因果效应。虽然确定内生和外生效应本质上是同一个模型选择问题,但这可能在两个阶段产生不同的基准,从而降低一般分析的性能。在这门课程中,我们提出了一个统一的模型选择方法的最小描述长度(MDL)的原则为GCA的背景下,一般的回归模型范例。与传统的方法相比,我们的方法强调了一个单一的数学理论应举行整个GCA过程。在这个框架下,模型空间中的所有候选模型可以在代码长度的上下文中自由地进行比较,而不需要中间模型。我们在3节点网络和5节点网络合成实验中说明了它相对于传统两阶段GCA方法的优势。统一的模型选择方法能够识别实际的连通性,同时避免噪声的虚假影响。更重要的是,所提出的方法获得了更一致的结果在一个挑战fMRI数据集的因果关系调查,心理计算网络在视觉和听觉刺激下分别。所提出的方法有可能适应其他函数空间中的其他Granger因果关系表示。不同函数空间中不同GC表示之间的比较也可以在框架中自然处理。
2020-03-19 stat.ME
A Bayesian Nonparametric Approach for Evaluating the Causal Effect of Treatment in Randomized Trials with Semi-Competing Risks
我们开发了一种贝叶斯非参数(BNP)方法来评估随机试验中治疗的因果效应,其中非终末事件可以被终末事件删失,但反之亦然(即,半竞争风险)。基于主分层的思想,我们定义了一个新的估计量的因果关系的治疗对非终端事件。我们引入识别假设,索引的敏感性参数,并显示如何使用我们的BNP方法得出推论。我们进行模拟研究,并说明我们的方法使用数据从脑癌试验。
2019-07-21 stat.ME
Causal and anti-causal learning in pattern recognition for neuroimaging
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Bernstein Center Freiburg, University of Freiburg(弗赖堡大学伯恩斯坦弗莱堡中心)
神经成像中的模式识别区分了两种类型的模型:编码模型和解码模型。这种区别是基于这样的认识,即在实验范式中被发现相关的大脑状态特征在编码模型中具有不同的意义,而不是在解码模型中。在本文中,我们认为这种区分是不够的:编码和解码模型中的相关特征具有不同的含义,这取决于它们是否代表因果关系或反因果关系。我们提供了一个理论上的理由,这一论点,并得出结论,因果推断是必不可少的解释在神经影像学。
2015-12-15 cs.LG q-bio.NC stat.ME
Minimum Specification Perturbation: Robustness as Distance-to-Falsification in Causal Inference
RMIT University(拉筹伯大学);Florida Atlantic University(佛罗里达 Atlantic 大学)
本文提出最小规范扰动(MSP)方法,用于衡量因果推断中规范变化到 falsification 的距离,改进传统鲁棒性工具,降低假阳性率,展示其在 LaLonde 数据集上的应用。
2026-09-30 cs.LG stat.ME
Causal Discovery in Hawkes Processes by Minimum Description Length
Columbia University(哥伦比亚大学);Sharif University of Technology(谢里夫理工大学);University of Vienna(维也纳大学);Czech Academy of Sciences(捷克科学院)
霍克斯过程是一类特殊的时间点过程,它表现出因果关系的自然概念,因为过去事件的发生可能会增加未来事件的概率。发现多维时间过程的维度之间的潜在影响网络在高频数据要建模的学科中是非常重要的,例如在金融数据或地震数据中。本文研究了多维Hawkes过程中Granger因果网络的学习问题。我们制定这个问题作为一个模型选择任务,我们遵循最小描述长度(MDL)的原则。此外,我们提出了一个通用的算法MDL为基础的推理,使用蒙特卡罗方法,我们用它为我们的因果发现问题。我们将我们的算法与最先进的合成和真实世界的金融数据的基线方法进行比较。合成实验表明,我们的方法的优越性incausal图发现相比,基线方法的数据的大小。用七国集团债券价格数据进行的实验结果与专家知识相一致。
2022-06-10 cs.LG math.ST stat.TH
Markov Blanket Discovery using Minimum Message Length
The Australian National University(澳大利亚国立大学);Monash University(莫纳什大学)
因果发现可以自动从数据中学习因果贝叶斯网络,从一开始就引起了人们的积极兴趣。随着从互联网上获取大型数据集,对扩展到非常大的数据集的兴趣已经增长。对此的一种方法是使用马尔可夫毯(MB)发现作为第一步来并行化搜索,随后是在全局因果模型中组合MB的过程。我们开发和探索三种新的MB发现方法,使用最小消息长度(MML),并将它们与现有的最佳方法进行经验比较,无论是专门作为MB发现还是作为特征选择。我们最好的MML方法始终具有竞争力,并具有一些有利的功能。
2021-07-16 cs.LG stat.ML
Functional Linear Non-Gaussian Acyclic Model for Causal Discovery
Graduate School of Engineering Science Osaka University(大阪大学工学研究科);Department of Statistics, Operations, and Data Science(统计学、运营与数据科学系);Machine Learning Department(机器学习系);Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·拉希德智能大学)
本文提出函数型线性非高斯无环模型(Func-LiNGAM),将因果发现扩展至无限维函数数据,并利用函数型主成分分析解决稀疏性问题,在合成数据和fMRI数据上验证了其有效性。
2024-01-17 cs.LG math.ST q-bio.NC
Directed Cyclic Graph for Causal Discovery from Multivariate Functional Data
本文提出一种函数型线性结构方程模型,通过低维因果嵌入空间处理可能含循环的多元函数数据因果发现,并建立完全贝叶斯推断框架,在模拟和脑电图数据上验证了其优越性。
2023-10-31 stat.ME stat.ML
Experimental Design for Cost-Aware Learning of Causal Graphs
IBM Research(IBM研究院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑最小成本干预设计问题:给定因果图的基本图和干预变量的成本,确定具有最小总成本的干预集,该干预集可以学习具有给定基本图的任何因果图。我们首先证明了这个问题是NP难的。然后,我们证明,我们可以实现一个常数因子近似这个问题的贪心算法。然后,我们约束每个干预的稀疏性。我们开发了一种算法,返回一个干预设计,这是几乎最佳的稀疏图的大小与稀疏干预,我们讨论了如何使用它时,有成本的顶点。
2018-10-28 cs.DM cs.LG stat.ML
Identifying Nonstationary Causal Structures with High-Order Markov Switching Models
Imperial College London(帝国理工学院);University of Michigan(密歇根大学);University College London(伦敦大学学院)
本研究通过机制依赖的因果结构解决时间序列非平稳性问题,建立了高阶马尔可夫切换模型的可识别性,并实证验证了该方法在大脑活动数据上的可扩展性与适用性。
2024-06-25 cs.LG stat.ML
Causal Inference for Network Autoregression Model: A Targeted Minimum Loss Estimation Approach
本文提出了一种基于目标最小损失估计的方法,用于估计网络自回归模型中的平均治疗效应,通过引入网络依赖结构和异质权重,提高了估计的精度和可靠性。
2026-02-27 stat.ME
Deep Structural Causal Models for Tractable Counterfactual Inference
Imperial College London(伦敦帝国理工学院)
我们制定了一个通用框架,用于构建具有深度学习组件的结构因果模型(SCM)。所提出的方法采用规范化流和变分推断来实现对外源噪声变量的易处理的推理-这是现有深度因果学习方法中缺少的反事实推理的关键步骤。我们的框架在MNIST上构建的合成数据集以及真实世界的大脑MRI扫描医学数据集上进行了验证。我们的实验结果表明,我们可以成功地训练深SCM,能够所有三个层次的珍珠的阶梯的因果关系:关联,干预和反事实,从而产生一个强大的新方法来回答因果问题的成像应用和超越。我们所有实验的代码都可以在https://github.com/biomedia-mira/deepscm上找到。
2020-10-22 cs.LG stat.ML
Fast Rerandomization via the BRAIN
针对再随机化计算效率低的问题,提出基于整数规划元启发式的 BRAIN 方法,在保证协变量平衡和统计性质的同时显著加速计算,并通过模拟和真实数据验证其优势。
2025-05-25 math.OC stat.CO stat.ME
Integrating Causal Inference with Graph Neural Networks for Alzheimer's Disease Analysis
Kennesaw State University(凯斯韦尔州立大学)
针对现有AD分类模型易受混杂因素干扰、缺乏可解释性的问题,提出融合后门调整的Causal-GCN框架,在ADNI数据集上取得与基线GNN相当的性能,同时可识别与AD神经病理一致的因果脑区。
2025-11-18 cs.LG stat.ME
Causal Mediation Analysis with Multi-dimensional and Indirectly Observed Mediators
Duke University(杜克大学);University of Michigan Ross School of Business(密歇根大学罗斯商学院)
针对现有因果中介分析方法难以处理多维、间接观测中介变量的局限,提出基于iVAE的可辨识框架,可解耦表征潜中介变量并准确估计效应,具备实际应用潜力。
2023-06-13 cs.LG stat.ML
Joint Causal Structure and Cluster Discovery Using Variational Inference
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
本文提出基于变分推断的新方法,可同时推断潜在聚类与因果结构,经合成及真实数据集验证了其在聚类与因果发现上的有效性。
2026-08-25 cs.AI cs.LG stat.ML
Bivariate Causal Discovery Using Rate-Distortion MDL: An Information Dimension Approach
本文提出基于率-失真理论的RDMDL方法,改进了传统MDL在因果变量描述长度估计上的不足,通过信息维度和直方图密度估计结合,提升双变量因果发现性能。
2026-04-07 cs.LG stat.ML
Multiscale Bayesian State Space Model for Granger Causality Analysis of Brain Signal
对两个大脑信号之间随时间变化和频率特定的关系进行建模,正成为回答实验神经科学理论问题的重要方法论工具。在这篇文章中,我们建议估计一个频率格兰杰因果关系统计,可能会随着时间的推移,以评估两个大脑区域之间的功能连接在一个任务。为此,我们使用的自适应卡尔曼滤波器类型的线性高斯向量自回归模型的系数随时间的推移而演变的估计。估计过程是通过变分贝叶斯近似实现的,并扩展到多个试验。这种贝叶斯状态空间(BSS)模型提供了一个非常自然的动态Granger因果统计。我们建议扩展BSS模型,包括à trous Haar分解。这种基于小波的预测方法是基于多尺度分辨率分解的信号,使用冗余à trous小波变换,并允许我们捕捉短期和长期信号之间的依赖关系。同样重要的是,它使我们能够得到所需的动力学和频率特定的格兰杰因果关系统计。这些模型的应用程序在心理实验任务期间记录的颅内局部场电位数据显示杏仁核和内侧眶额皮质之间的复杂的频率为基础的串扰。保留字:à trous Haar小波;多次审判;神经科学数据;非平稳性;时频;这篇文章的出版版本是Cekic,S.,Grandjean,D.,Renaud,O.(2018年)。脑信号Granger因果分析的多尺度贝叶斯状态空间模型。应用统计学杂志。https://doi.org/10.1080/02664763.2018.1455814
2018-04-13 stat.ME
Information Theoretic Measures of Causal Influences during Transient Neural Events
瞬变现象在多尺度协调大脑活动中起着关键作用,然而,其潜在机制在很大程度上仍然未知。因此,神经数据科学的一个关键挑战是描述这些事件中网络的交互作用。使用结构因果模型及其图形表示的形式主义,我们调查的理论和经验性质的信息理论为基础的因果强度措施的背景下,反复自发的瞬态事件。在说明了转移熵和动态因果强度在这种情况下的局限性之后,本文引入了一种新的测度--相对动态因果强度,并对其优势提供了理论和实证支持。这些方法被应用到模拟和实验记录的神经时间序列,并提供与我们目前的理解的基本脑回路的协议的结果。
2022-09-15 q-bio.NC stat.ME stat.ML
Granger Causality Analysis Based on Quantized Minimum Error Entropy Criterion
基于均方误差(MSE)准则的线性回归模型(LRM)被广泛应用于格兰杰因果分析(GCA),这是检测一对时间序列之间因果关系的最常用方法。然而,当信号被非高斯噪声严重污染时,LRM系数将不能准确识别。这可能导致GCA检测到错误的因果关系。最小误差熵准则可以代替均方误差准则来处理非高斯噪声。但它的计算需要进行双重求和运算,这给GCA带来了计算瓶颈,特别是当信号规模较大时。为了解决上述问题,在这项研究中,我们提出了一种新的方法,称为基于量化误差熵(QRST)准则的GCA(GCA-QRST),其中QRST准则被应用于识别LRM系数和量化误差熵被用来计算因果关系指数。与传统的GCA相比,GCA-QCA不仅使结果更具鉴别力,而且具有更强的鲁棒性。它的计算复杂度也不高,因为量化操作。合成和EEG数据集上的说明性例子,以验证所需的性能和可用性的GCA-QALND。
2018-08-07 stat.ME
SCAU: Modeling spectral causality for multivariate time series with applications to electroencephalograms
脑电图(EEG)是脑中电神经元活动的非侵入性测量信号。当前的主要统计挑战之一是正式测量这些复杂信号之间的函数依赖性。本文提出了谱因果关系模型(SCAU),一个强大的线性模型,因果关系范式下,以反映间和频率内调制的影响,不能使用其他方法来识别。SCAU推断通过三个主要步骤进行:(a)信号分解成频率仓,(b)中间谱带映射,以及(c)通过频率特定自回归模型(VAR)的依赖性建模。我们应用SCAU研究复杂的依赖关系,在视觉和词汇流畅性任务(单词生成和视觉固定)在26名参与者的脑电图。我们比较了连接网络估计使用SCAU相对于VAR模型。SCAU网络对两种刺激都表现出明显的对比,而与VAR网络相比,幅度链接也表现出较低的方差。此外,SCAU依赖性连接不仅与神经科学文献中的发现一致,而且还提供了关于空间-频谱依赖性的方向性的进一步证据,例如额颞脑网络中的δ起源和θ诱导的链接。
2021-05-13 q-bio.NC stat.ME
Quantifying information transfer and mediation along causal pathways in complex systems
信息传递的测量已经成为一种流行的方法来分析复杂系统中的相互作用,如地球或人脑从测量的时间序列。最近的工作集中在信息传递的因果定义,排除了共同驱动因素和间接影响的影响。虽然前者显然构成了一个虚假的因果关系,本文的目的是制定措施,量化不同的概念的强度沿间接因果路径的信息传递,首先重建的多元因果网络(\emph{Tigramite}方法)的基础上。另一类新的测量方法量化了因果路径上不同的中间过程在多大程度上有助于确定因果信息传递途径的相互作用机制。一个严格的数学框架允许一个明确的信息理论的解释,也可以与潜在的动力学证明某些类的过程。然而,一般来说,信息传递的估计仍然很难解释非线性交织的复杂系统。但是,如果没有实验或数学模型,测量因果依赖结构中的信息传递路径至少可以抽象出动态。这些措施说明了一个气候的例子,解开欧洲上空的大气流动路径。
2016-03-18 math.ST stat.ME stat.OT