Building Hyper Dirichlet Processes for Graphical Models
图模型用于描述多元数据中的条件独立关系。它们已被用于各种问题,包括对数线性模型(Liu和Massam,2006)、网络分析(Holland和Leinhardt,1981; Strauss和Ikeda,1990; Wasserman和Pattison,1996; Pattison和Wasserman,1999; Robins等人,1999);图形高斯模型(Roverato和Whittaker,1998; Giudici和Green,1999; Marvanic和Benali,2006)和遗传学(Dobra等人,2004年)。满足图的条件独立结构的分布是马尔可夫分布。图模型是一个分布族,它被限制为关于某个图的马尔可夫。在贝叶斯问题中,可以指定图形模型的先验。如果随机边缘也满足独立性约束,则这种先验称为超马尔可夫定律。以前在这一领域的工作包括(Dempster,1972年; Dawid和Lauritzen,1993年; Giudici和Green,1999年; Letac和Massam,2007年)。我们探索图形模型的基础上的非参数家庭的分布,从狄利克雷过程。
2008-07-22 math.ST stat.TH
Predictive Independence Testing, Predictive Conditional Independence Testing, and Predictive Graphical Modelling
University College London(伦敦大学学院)
检验多变量随机变量的(条件)独立性是统计推断和一般建模的核心任务-尽管不幸的是,迄今为止还不存在可行的工作流程。最先进的工作流程需要启发式或主观的手动选择、高计算复杂性或强参数假设。我们通过建立多元/条件独立性检验和多元预测建模(又称监督学习任务)中的模型比较之间的理论联系来解决这些问题。这个链接允许在广泛研究的监督学习工作流程中的进步直接转移到独立性测试工作流程中-包括自动调整机器学习类型,其解决了启发式选择的需求,定量权衡计算需求与准确性的能力,以及用于检查和接口的现代黑箱哲学。作为两个工作流之间这种联系的实际实现,我们提出了一个python包“pcit”,它实现了我们新颖的多变量和条件独立性测试,与scikit-learn包的监督学习API接口。理论和包还允许基于图形模型结构的学习的直接独立性测试。我们的经验表明,我们提出的预测独立性测试优于或等同于目前的做法,和派生的图形模型结构学习算法渐近恢复的“真”图。这篇文章,以及它附带的“pcit”包,为多元和条件独立性测试以及图形模型结构学习提供了强大的,可扩展的,可推广的和易于使用的方法。
2018-04-28 cs.LG math.ST stat.ME
An additive graphical model for discrete data
Pennsylvania State University(宾夕法尼亚州立大学)
我们介绍了一个非参数图模型的离散节点变量的基础上加性条件独立。加性条件独立性是一种三向统计关系,它通过满足半图形公理而具有与条件独立性相似的性质。基于这种关系,我们建立了一个添加剂的图形模型的离散变量,不受参数模型,如伊辛模型的限制。我们开发了一个新的图形模型的估计通过惩罚估计的离散版本的加性精度算子,并建立在超高维设置下的估计的一致性。随着这些方法的发展,我们还利用离散随机变量的属性来揭示加性条件独立性和条件独立性之间比以前已知的更深层次的关系。在一定的稀疏性条件下,新的图模型简化为条件独立图模型。我们进行模拟实验和分析的艾滋病毒抗逆转录病毒治疗数据集,比较新的方法与现有的。
2021-12-29 cs.LG math.ST stat.ME
Markov equivalence of marginalized local independence graphs
对称独立关系通常使用图形表示来研究。具有$m$ -分离的祖先图或无环有向混合图提供了一类在边缘化下封闭的对称图独立模型。非对称的独立关系自然出现在多变量随机过程中,例如在局部独立性方面。然而,没有一类图表示这种不对称的独立关系,这也是封闭的边缘化,已被开发。我们开发的理论与$μ$ -分离的有向混合图,并表明,这提供了一个图形独立的模型类,这是封闭的边缘化,并概括了以前考虑的图形表示的地方独立。对于统计应用,它是关键的特征图,诱导相同的独立关系,如图的马尔可夫等价类是最终可从观测数据识别的对象。我们的主要结果是,有向混合图的$μ$ -分离的每个马尔可夫等价类包含一个极大元,它可以构造的独立关系单独。此外,我们引入了有向混合等价图作为带边标记的极大图。该图编码了所有可从独立关系中识别的关于边的信息,并且可以从最大图中有效地计算。
2019-02-11 math.ST stat.OT stat.TH
Generalized Permutohedra from Probabilistic Graphical Models
图形模型通过马尔可夫性对条件独立关系进行编码。对于一个无向图,这些条件独立关系可以用一个简单的多面体来表示,称为图结合面体,它可以被构造为标准单形的Minkowski和。有一个类似的多面体的条件独立关系来自一个规则的高斯模型,它可以定义使用多信息或相对熵。对于有向无环图形模型,也为混合图形模型包含无向,有向和双向边,我们给这个多面体的建设,正常球迷的等价,作为Minkowski和拟阵多面体。最后,我们应用这种几何洞察力,通过有向无环图模型构建一个新的基于排序的因果推理搜索算法。
2017-12-07 math.CO math.ST stat.TH
Quantile Graphical Models: Prediction and Conditional Independence with Applications to Systemic Risk
我们提出了两种分位数图模型-条件独立分位数图模型和预测分位数图模型。CIQGM通过评估每个分位数指数处的分布依赖结构来表征分布的条件独立性。因此,CIQGM可用于验证因果图模型(\cite{pearl2009causality, robins1986new, heckman2015causal})中的图结构。这些模型的一个主要优点是,我们可以将它们应用于由非高斯和不可分离冲击驱动的大量变量。PQGM通过非对称损失函数下的最佳线性预测量的图来表征统计依赖性。PQGM比CIQGM做出更弱的假设,因为它们允许错误指定。由于QGM能够处理大量变量并专注于分布的特定部分,因此我们可以应用它们来量化尾部相互依赖性。由此产生的尾部风险网络可以用来衡量系统性风险的贡献,有助于在了解国际金融传染和依赖结构的回报下的市场走势。我们开发的估计和推理方法QGM专注于高维的情况下,在图中的变量的数量是大的观察的数量相比。对于CIQGM,这些方法和结果包括同时有效的惩罚函数的选择、一致的收敛速度和同时有效的置信区域。我们还推导出类似的结果PQGM,其中包括惩罚分位数回归在高维设置的新结果,以处理错误,许多控制,和连续的额外的条件事件。
2019-10-28 econ.EM math.ST stat.TH
Graphical models for infinite measures with applications to extremes
本文为在原点爆炸的无限测度提出新的条件独立性概念,并用核与密度分解刻画无向和有向图模型,从而统一并扩展极值分析与 Lévy 过程中的图建模理论。
2024-09-11 math.PR math.ST stat.ME
Graphical methods for efficient likelihood inference in Gaussian covariance models
在图形建模中,有向图对用图的顶点标识的随机变量之间的边缘独立性进行编码。我们展示了如何将一个双有向图转换成一个最大的祖先图,(i)表示与原始双有向图相同的独立结构,(ii)最小化满足(i)的所有祖先图中箭头的数量。这里,祖先图的箭头数是有向边数加上双向边数的两倍。在高斯模型中,这种构造可用于似然函数的更有效的迭代最大化,并确定何时最大似然估计等于经验对应值。
2008-03-25 math.ST stat.TH
Unifying Markov Properties for Graphical Models
几种具有不同条件独立性解释的图-也被称为马尔可夫性-已经被提出并用于图形模型。在本文中,我们统一这些马尔可夫性通过引入一类图的四种类型的边缘-线,箭头,弧,虚线-和一个单一的分离标准。我们表明,独立结构定义的这个类专门为以前定义的情况下,当适当的子类图被认为是。此外,我们定义了一个成对的马尔可夫性的子类链混合图,其中包括链图的LWF解释,以及摘要图(因此祖先图)。我们证明了这种成对的马尔可夫性的组合图独立模型的全局马尔可夫性的等价性。
2017-07-11 math.ST stat.OT stat.TH
Learning general conditional independence structures via the neighbourhood lattice
本文提出通过邻域晶格分解学习高维条件独立结构,无需先验图知识,有效避免维度诅咒。
2026-03-29 cs.DM math.ST stat.ML
Multiple Testing and Error Control in Gaussian Graphical Model Selection
图形模型为探索多元依赖模式提供了一个框架。图和统计模型之间的连接是通过识别具有观察到的变量的图的顶点,并将图中的边的模式转换为施加在变量的联合分布上的条件独立性的模式来实现的。聚焦高斯模型,我们回顾经典的图形模型。对于这些模型,定义的条件独立性等同于与图中不存在的各个边相关联的某些(部分)相关系数的消失。因此,高斯图形模型选择可以通过对关于消失(部分)相关系数的假设进行多次测试来执行。我们展示并分析了这种方法如何在控制不正确边缘包含的差错率的同时进行模型选择。
2008-02-05 math.ST stat.TH
PC algorithm for Gaussian copula graphical models
PC算法使用无环有向图的图形建模中的模型选择的条件独立性测试。在高斯模型中,条件独立性的测试通常基于皮尔逊相关性,并且在这种设置中已经获得了PC算法的高维一致性结果。我们证明,高维一致性进行到更广泛的类高斯copula或\textit{nonparanormal}模型时,使用基于秩的相关性措施。对于度有界的图,我们的结果与高斯结果一样强。在模拟中,“秩PC”算法对于正态数据的工作效果与“皮尔逊PC”算法一样好,对于非正态高斯copula数据的工作效果要好得多,而计算时间的增加可以忽略不计。污染数据的模拟表明,秩相关性也可以比其他鲁棒估计在以前的工作中考虑的基础分布不属于nonparanormal家庭。
2012-07-01 math.ST stat.TH
Graphical structure of conditional independencies in determinantal point processes
行列式点过程最近被用作机器学习中的模型,这引起了关于条件独立性的刻画的问题。在本文中,我们研究的条件独立性的特征。我们描述了一些条件的独立性,通过一个决定性的点过程的核的条件,并显示许多可以得到使用的$L$ -系综的核诱导的图。
2014-06-29 math.PR math.ST stat.ML
Counterfactual analyses with graphical models based on local independence
我们表明,一个可以执行因果推理的连续时间的情况下,使用随机分析的工具,在一个自然的方式。这为逆概率加权的正性条件提供了新的替代方案。在反事实情景中,决定观测频率的概率分布可以用所谓的鞅问题来描述。反事实和事实概率分布可以通过由随机微分方程给出的似然比来关联。我们可以根据原始观察结果对反事实场景进行推断,并根据此似然比进行重新加权。如果随机微分方程的解是一致可积的,这是可能的,这一性质可以通过比较相应的事实和反事实短期预测来确定。局部独立图是有向的,可能是循环的,表示充分自治的随机过程之间的短期预测的图。我们通过一个例子表明,这些图可以用来识别和提供一致的估计在连续时间的反事实参数。这类似于Judea Pearl如何使用图形信息来识别有限状态贝叶斯网络中的因果效应。
2013-04-22 math.PR math.ST stat.TH
Graphical Models for Extremes
条件独立性、图形模型和稀疏性是简约统计模型和理解数据结构关系的关键概念。多变量和空间极值理论通过渐近合理的极限模型(如最大稳定分布和多变量帕累托分布)描述罕见事件的风险。到目前为止,这一领域的统计建模仅限于中等规模,部分原因是复杂的可能性和缺乏对潜在概率结构的了解。我们介绍了一个通用的理论,允许定义的图形模型和稀疏的极端多变量帕累托分布的条件独立。Hammersley-Clifford定理将这个新概念与图上的极值模型的密度因子分解联系起来。对于Hüsler-Reiss分布的流行类,我们表明,类似于高斯的情况下,一般极值图形模型的稀疏模式可以从合适的逆协方差阵读出。新的参数模型可以以模块化的方式构建,并且统计推断可以简化为低维边缘。我们讨论学习的最小生成树和模型选择的极值图结构,并说明其使用与多瑙河洪水风险评估的应用程序。
2019-11-13 math.ST stat.TH
Lévy graphical models
针对高维 Lévy 过程缺乏条件独立性与图模型研究的问题,本文基于 Lévy-Itô 分解推导跳跃过程条件独立性刻画,定义 Lévy 图模型并证明图结构不变性,开发了树结构的图恢复统计方法,应用于股票收益建模。
2024-11-11 math.ST stat.ME stat.TH
Learning extremal graphical structures in high dimensions
本文研究多元极值的条件独立性结构,提出基于经验极值变差图的非渐近集中界,并针对 Hüsler--Reiss 模型设计多数投票算法,通过 $L^1$ 正则化优化实现图的恢复,证明了任意连通图一致恢复的显式条件。
2025-11-04 math.ST stat.TH
Stochastic kinetic models: Dynamic independence, modularity and graphs
分析了随机动力学模型的动力学性质和独立性结构。SKM是一种高度多变量的跳跃过程,用于模拟化学反应网络,特别是生物化学和细胞系统中的化学反应网络。我们确定SKM子进程与相应的计数过程,并提出了一个有向的,循环图(动力学独立图或KIG),编码的本地独立结构的条件强度。给定顶点的分区$[A,D,B]$,无向KIG中的图形分离$A\perp B|D$具有直观的化学解释,并且意味着给定$A\cup D$,$A$局部独立于$B$。证明了这种分离也导致了$A$和$B$的内部历史的全局独立性,条件是$D$中的跳跃历史,在我们导出的条件下,对应于$D$的内部历史。结果使数学定义的模块化SKM使用其隐含的动态。图形分解方法开发的识别和有效的计算嵌套模块化。应用于红细胞的SKM推进了对该生化系统的理解。
2010-10-19 math.ST q-bio.QM stat.TH
Graphical modeling of stochastic processes driven by correlated errors
我们研究了一类图,表示局部独立结构的随机过程,允许相关的错误过程。几个图可以编码相同的局部独立性,我们刻画了这样的等价类的图。在最坏的情况下,在我们的特征的条件的数量增长超多项式作为一个函数的节点集在图中的大小。我们发现,决定马尔可夫等价是coNP-完全的,这表明我们的特征不能得到改善后,大大。本文证明了由相关布朗运动驱动的多变量Ornstein-Uhlenbeck过程的全局马尔可夫性。
2020-09-11 math.ST stat.TH
Conditional Independence in Stationary Diffusions
本文研究具有稀疏漂移结构的平稳多元扩散过程,利用图形表示刻画了其平稳分布中由漂移稀疏性所蕴含的条件独立性关系。
2024-08-01 math.PR math.ST stat.TH
A skew Gaussian decomposable graphical model
本文提出了一种新的可分解的图形模型,以适应斜高斯图形模型。我们通过一个可分解的图对多元闭斜向正态随机向量的分量之间的条件独立结构进行编码,使得精度矩阵中的零非对角元素的模式对应于给定图的缺失边。我们提出的条件,保证适当的后验分布下的标准无信息的先验均值向量和精度矩阵,和一个适当的偏度参数的先验。的参数的可识别性进行了研究,通过仿真研究。最后,我们将我们的方法应用于两个数据集。
2013-09-20 math.ST stat.ME stat.TH
On perfectness in Gaussian graphical models
为了将图中的分离与分布中的条件独立性联系起来,知道图模型何时对于分布是完美的是必不可少的,这在从数据进行推断时尤其重要。当模型是完美的时,分布中的条件独立语句和图中的分离语句之间存在一一对应。以前的工作已经表明,几乎所有基于线性有向无圈图以及高斯链图的模型都是完美的,后者包含高斯图形模型(即,无向高斯模型)作为特例。然而,链图模型的复杂性导致了这个结果的证明,这是间接的,并且由于参数化这个通用类的复杂性而陷入困境。在本文中,我们直接接近的高斯图形模型的完美性问题,并提供了一个新的证明,通过一个更透明的参数化,几乎所有这样的模型是完美的。我们的方法是基于,并大大扩展,建设Lnnička和Matúnika显示存在一个完美的高斯分布的任何图形。
2019-09-03 cs.LG math.ST stat.ML
Hierarchical Models for Independence Structures of Networks
我们引入了一系列新的网络模型,称为分层网络模型,它使我们能够以显式的方式表示网络的二元组(随机联系)之间的随机依赖性。特别是,这个家族的每个成员都可以与一个图形模型相关联,该图形模型定义了网络的二元组之间的条件独立子句,称为依赖图。每一个具有并元独立性假设的网络模型都可以推广到这个新的网络族中。使用这个新的框架,我们推广的Erdös-Rényi和beta模型,创建分层的Erdös-Rényi和beta模型。我们描述了各种方法的参数估计以及模型与稀疏依赖图的模拟研究。
2019-11-26 math.ST stat.ME stat.TH
An explicit link between graphical models and Gaussian Markov random fields on metric graphs
本文建立度量图上高斯马尔可夫随机场与高斯图模型的显式对应,证明顶点限制分布忠实于邻域图,并据此推出一般度量图上不存在兼具马尔可夫性与各向同性的高斯随机场。
2025-01-07 math.PR math.ST stat.TH
Symmetries in Directed Gaussian Graphical Models
我们定义高斯图形模型的有向无圈图与着色的顶点和边,称之为RDAG(限制有向无圈图)模型。如果两个顶点或边具有相同的颜色,则它们在模型中的参数必须相同。提出了一种算法来求RDAG模型的最大似然估计,并通过线性独立性条件证明了MLE的存在性。我们关系到一个图的属性,它的着色,需要的MLE存在和唯一的样本个数。我们还讨论了当RDAG模型等于一个相关的无向图形模型,并研究连接组和不变理论。我们提供的例子和模拟研究的好处RDAGs在无色的DAG。
2022-05-27 math.AG math.ST stat.TH
Conditional Independence under Infinite Measures and Poisson Point Processes
University of Georgia(佐治亚大学)
本文研究了在刺穿乘积空间上的无限测度下的条件独立性概念,通过泊松点过程的坐标投影建立了与经典条件独立性的等价关系,并扩展了其应用范围。
2026-04-01 math.PR math.ST stat.TH
Partial correlation networks of Gaussian processes
University of Michigan–Ann Arbor(密歇根大学安娜堡分校)
本文提出高斯过程中偏相关网络的新型表征,通过构建谱内-外过程类,揭示了多变量高斯过程的条件独立性条件,并展示了现有方法的局限性。
2026-04-10 math.ST stat.ME stat.TH
Gaussian Covariance faithful Markov Trees
协方差图是与给定随机向量的多变量概率分布相关联的无向图,其中每个顶点表示随机向量的每个不同分量,并且其中任何一对变量之间的边缘的缺失意味着这两个变量之间的边际独立性。协方差图模型最近在文献中得到了广泛的关注,并构成了一个子族的图形模型。虽然它们在概念上很容易理解,但分析起来要困难得多。在对概率分布进行适当假设的情况下,协方差图模型还可以用来表示变量子集之间更复杂的条件独立关系。当协方差图捕捉或反映了概率分布中存在的所有条件独立性陈述时,后者被称为忠实于其协方差图-尽管不存在这样的先验保证。尽管这两种类型的图形模型的使用越来越广泛,但迄今为止,在忠实性假设方面,还没有对这类模型进行深入的概率分析。这样的分析对于理解图(离散对象)完全捕捉其旨在描述的概率分布的显著特征的能力至关重要。在本文中,我们证明了多元高斯分布,有树作为协方差图必然是忠实的。证明的方法是原始的,因为它使用了一种全新的方法,并在这个过程中产生了一种技术,这是新的图形模型领域。
2009-12-14 math.PR math.ST stat.TH
Lattice supported distributions and graphical models
本文研究二元随机变量分布中支撑集与条件独立性的关系,推广了Hammersley-Clifford定理至自然分配格支撑情形,并揭示了与Hibi理想的联系。
2024-11-05 math.AC math.AG math.CO
Decomposable Tail Graphical Models
我们开发了一个渐近理论的极端可分解的图形模型,提出适用于一系列的极端依赖类型的结果。具体而言,我们调查的弱极限分布的适当规范化的随机向量,条件上的极端组件,其中的条件独立关系的随机向量所描述的弦图。在适当的假设下,对应于弱极限分布的随机向量,称为尾图模型,继承了原弦图的图形结构。我们的理论适用于广泛的可分解的图形模型,包括渐近依赖和渐近独立的图形模型。此外,我们分析了Copula类的组合与不同的极值依赖的情况下,在正常化的条件变量是不保证我们的假设。我们表明,在一个方块图中,与分离器相关的随机变量归一化的随机向量的分布收敛弱分布,我们术语尾噪声。特别地,我们研究了归一化随机向量的极限,其中团分布属于两个广泛使用的copula类,高斯copula和最大稳定copula。
2023-02-10 math.ST stat.ME stat.TH
Graphical Negative Multinomial and Multinomial Models with Dirichlet-type priors
本文提出图形负多项式和多项式分布,打破连续与离散图形模型的二分法,并引入图形Dirichlet先验,推导其归一化常数和强超马尔可夫性质。
2025-03-29 math.PR math.ST stat.TH
Trek separation for Gaussian graphical models
高斯图模型是正定协方差阵锥的半代数子集。低秩子矩阵对应于随机变量集合上条件独立约束的推广。我们给出了一个精确的图论表征时的协方差阵的子矩阵有小秩的一般类的混合图,其中包括有向无环和无向图作为特殊情况。我们新的Trek分离准则推广了熟悉的$d$ -分离准则。证明是基于跋涉规则,由此产生的矩阵分解和经典的代数组合定理的道路多项式的行列式的扩展。
2010-10-04 math.CO math.ST stat.ML