Graphical Models for Discrete and Continuous Data
我们介绍了一个无向图模型的一般框架。它将高斯图形模型推广到广泛的连续，离散和不同类型数据的组合。该框架中的模型，称为指数跟踪模型，适合于基于最大似然的估计。我们引入了一个基于采样的近似算法来计算最大似然估计，我们应用这个管道来学习同步神经活动的尖峰数据。
2019-06-15 math.ST stat.OT stat.TH
On some algorithms for estimation in Gaussian graphical models
本文研究高斯图模型似然方程的迭代求解，比较避免大矩阵求逆的迭代比例缩放与零惩罚 graphical lasso 的邻域坐标下降算法，并为低色数图构造正定初值及简化 MLE 存在性证明。
2023-12-11 stat.CO
Gaussian Graphical Models: An Algebraic and Geometric Perspective
高斯图形模型在自然科学、社会科学和经济学中广泛使用，以图形的形式对感兴趣的变量之间的统计关系进行建模。在这里，我们提供了一个教学介绍高斯图形模型和审查最近的结果极大似然估计这样的模型。在整个过程中，我们强调了高斯图形模型的丰富的代数和几何属性，并解释了这些属性与凸优化的关系，并最终导致对最大似然估计（MLE）的存在性和算法计算MLE的见解。
2017-07-13 math.ST stat.TH
Marginal Likelihoods for Distributed Parameter Estimation of Gaussian Graphical Models
University of Michigan（密歇根大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
我们考虑分布估计的逆协方差阵，也称为浓度或精度矩阵，在高斯图形模型。传统的集中估计通常需要对协方差阵进行全局推断，这在大维度上可能是计算密集的。另一方面，基于消息传递算法的近似推理可能导致循环图模型中的不稳定和有偏估计。在本文中，我们提出了一个分布式估计的最大边际似然（MML）方法的基础上的一般框架。这种方法通过最大化从局部邻域收集的数据定义的边际似然来计算局部参数估计。由于MML问题的非凸性，我们引入并解决了凸松弛。然后将局部估计组合成全局估计，而不需要在邻域之间进行迭代消息传递。所提出的算法是自然的并行化和计算效率，从而使其适合于高维问题。在经典的制度，其中变量的数量$p$是固定的，样本的数量$T$增加到无穷大，所提出的估计被证明是渐近一致的，并改善单调的局部邻域大小的增加。在高维缩放制度，其中$p$和$T$增加到无穷大，收敛速度的真实参数的推导和被认为是可比的集中式极大似然估计。大量的数值实验表明，改进的性能的两跳版本的建议的估计，这足以几乎关闭的差距，集中式极大似然估计，以减少计算成本。
2014-08-13 cs.LG stat.ML
A computational approach to maximum likelihood thresholds for colored Gaussian graphical models
Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（加泰罗尼亚理工大学（巴塞罗那科技大学））；Aalto University（阿尔托大学）；Max Planck Institute of Biochemistry（马克斯·普朗克生物化学研究所）；Munich Center for Machine Learning（慕尼黑机器学习中心）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本文针对有色高斯图模型，建立统一理论框架并引入符号算法，结合拓扑数据分析开展计算研究，以解决其最大似然阈值的计算问题，突破传统方法的计算瓶颈。
2026-09-03 cs.LG math.AG math.ST
Multivariate Generalized Gaussian Distribution: Convexity and Graphical Models
本文研究了多元广义高斯分布（MGGD）和椭圆对称分布（ES）下的协方差估计。与此问题相关的极大似然优化是非凸的，但它已被证明，其全局解往往可以通过简单的不动点迭代计算。我们的第一个贡献是一个新的分析这种可能性的基础上测地凸，需要较弱的假设。我们的第二个贡献是稀疏约束下的结构协方差估计的广义框架。我们表明，只要MGGD形状参数大于一半，稀疏模式是弦，优化可以制定为凸最小化。这些包括，例如，极大似然估计的带状逆协方差在多变量拉普拉斯分布，这是与时变自回归过程。
2013-09-01 stat.ME
Two new algorithms for maximum likelihood estimation of sparse covariance matrices with applications to graphical modeling
本文提出两种基于协方差图的两阶段稀疏协方差矩阵最大似然估计算法，分别采用块坐标下降与近端距离法，在样本数低于维度时仍有效，且估计精度优于两种现有方法。
2023-05-11 eess.SP stat.ME
Learning the distribution of latent variables in paired comparison models with round-robin scheduling
本文考虑的配对比较数据来源于夫妇中大量N个个体的比较。数据集是两个人之间的比赛结果的集合，每个人都面对n个对手，其中n比N大得多。个体由独立同分布的随机参数表示，本文研究了参数分布的极大似然估计。分析依赖于一个图形模型的建设，编码的条件依赖的观察，这是第一个n比赛的结果，每个人都参与。这个图形模型允许证明几何损失的记忆性能和推导出的似然函数的渐近行为。本文的重点是从这些比赛的循环调度得到的图形模型。在学习理论的经典结构，渐近似然用来衡量性能的最大似然估计。该估计量的风险界最后由应用于图模型的马尔可夫链的次高斯偏差结果得到。
2020-02-13 math.PR math.ST stat.TH
Locally associated graphical models and mixed convex exponential families
多元总正性的概念已被证明在金融和心理学中是有用的，但在其他应用中可能过于局限。在本文中，我们提出了一个概念的局部关联，其中高度连接的组件在一个图形模型是积极的关联，并研究其性质。我们的主要动机来自基因表达数据，其中图形模型已成为一种流行的探索工具。该模型的实例，我们称之为混合凸指数家庭，我们表明，混合双似然估计具有简单的确切性质，这样的家庭以及渐近性质类似的极大似然估计。我们进一步放宽了积极性假设，惩罚负的偏相关性，我们称之为积极的图形套索。最后，我们开发了一个基于块坐标下降的GOLAZO算法，该算法适用于图形模型中出现的一些优化过程，包括上述估计问题。我们得到的结果存在的最佳这类问题。
2022-02-09 math.ST stat.ME stat.TH
A local approach to estimation in discrete loglinear models
本文研究了高维离散图模型参数的极大似然估计的两个相关问题：最大似然估计的存在性及其计算.当数据稀疏时，列联表中有许多零，参数的最大似然估计可能不存在。Fienberg和Rinaldo（2012）已经证明了，当数据向量属于由模型的设计矩阵的行所跨越的所谓边缘锥的面时，mle不存在。在高维中识别这些面孔是具有挑战性的。在本文中，我们采取了一个本地的方法：我们表明，这样的脸，虽然可能不是最小的一个，可以通过查看诱导子图$G_i,i=1,\ldots,k$的$G$产生的边缘图形模型的集合来识别。这是我们的第一个贡献。我们的第二个贡献涉及复合最大似然估计。当问题的维数很大时，通过极大似然估计给定图形模型的参数是具有挑战性的，如果不是不可能的话。传统的方法来解决这个问题一直是本地的使用复合似然的基础上当地的条件似然。最近的发展是使复合似然的分量是以每个$v$为中心的边缘似然。我们首先表明，通过局部条件和边际似然性的共识获得的估计是相同的。然后，我们研究了当模型的维数和样本量$N$都趋于无穷大时，复合最大似然估计的渐近性质。
2015-04-21 stat.ML
Log-concave density estimation in undirected graphical models
Aalto University（阿尔托大学）；University of British Columbia（不列颠哥伦比亚大学）
本文提出了一种在无向图模型中对数凹密度估计的方法，通过有限维凸优化问题求解MLE，并探讨了其存在性、唯一性和自洽性条件。
2022-06-10 math.ST stat.CO stat.ME
Partial Gaussian Graphical Model Estimation
Rutgers University（罗格斯大学）
本文研究了高斯图模型在高维经验观测下的部分估计问题。我们推导出一个凸公式，这个问题使用$\ell_1$正则化最大似然估计，这可以通过块坐标下降算法来解决。统计估计性能可以建立我们的方法。所提出的方法具有竞争力的经验性能相比，现有的方法，合成和真实数据集上的各种实验证明。
2012-09-28 cs.IT cs.LG math.IT
Parameterising Gaussian Graphical Models
Universitat Pompeu Fabra（庞培法布拉大学）
本文将高斯图模型的精度矩阵分解为边际方差、偏相关系数和方差膨胀因子，解释了精度矩阵惩罚选中心变量差的原因，阐明了偏相关系数方法的优势，还研究了惩罚对边际方差估计的影响。
2026-09-02 math.ST stat.ME stat.TH
Some context-specific graphical models for discrete longitudinal data
Ron等人（1998）介绍了离散纵向数据的一系列丰富的模型，称为非循环概率有限自动机。这些可以被描述为特定于上下文的图形模型，因为它们被表示为体现特定于上下文的条件独立关系的有向多重图。在这里，我们从统计建模的角度开发了该方法。我们将展示如何使用标准的列联表方法构建似然比检验，并指出这些方法可用于模型选择。我们还表明，该模型推广了传统的无向和有向图形模型的某些子类。
2014-08-13 math.ST stat.TH
Local and Global Inference for High Dimensional Nonparanormal Graphical Models
本文提出了一个统一的框架，以量化的局部和全局的非paranormal图形模型的推理不确定性。特别是，我们考虑的问题，测试存在的一个单一的边缘和构造一个统一的信心子图。由于存在未知的边缘变换，我们提出了一种基于伪似然的推理方法。与现有的高维分数检验方法形成鲜明对比的是，我们的方法是免费的调整参数给定的初始估计，并扩展了现有的基于似然的推理框架的范围。此外，我们提出了一个U-统计量的乘数自助方法来构建置信子图。我们证明了所构造的子图以大于给定标称水平的概率包含在真图中。与现有的构造置信子图的方法相比，我们的方法不依赖于高斯或亚高斯假设。所提出的推理方法的理论性能进行了验证，通过彻底的数值实验和实际数据分析。
2015-06-30 stat.ML
High-Dimensional Covariate-Dependent Gaussian Graphical Models
针对动态生物网络分析，提出协变量依赖的高斯图模型（cdexGGM），通过似然框架联合估计动态参数，并开发推断方法，在高维下用复合似然和ℓ1惩罚发现稀疏结构，经流感疫苗和唐氏综合征数据验证有效性。
2025-02-24 stat.ME
Leave-one-out testing for node-level differences in Gaussian graphical models
University of Padova（帕多瓦大学）
本文提出了一种基于留一验证和巴特利特调整的检验方法，用于高斯图模型中节点级差异的相等性检验，通过模拟和案例研究验证了方法的有效性和实用性。
2026-01-22 stat.ME
Post-selection inference for L1-penalized likelihood models
本文提出了一种新的L1（lasso）惩罚似然模型（包括广义回归模型）的后选择推断方法。我们的方法概括了Lee et al（2014）提出的选择后框架。该方法提供了渐进有效的p值和置信区间，条件是套索完成的固有选择。我们目前的应用这项工作（正规化）逻辑斯谛回归，Cox的比例风险模型和图形套索。
2016-10-13 stat.ME
Inference in high-dimensional graphical models
我们提供了一个选定的方法和理论的概述估计和推理的边权重在高维有向和无向高斯图形模型。对于无向图形模型，提供了两种主要的显式构造：一种基于最大化联合似然的全局方法（图形Lasso），另一种基于顺序应用Lasso来估计每个节点的邻域的局部（逐节点）方法。所提出的估计导致边缘权重的置信区间和边缘结构的恢复。我们评估他们的经验表现在一个广泛的模拟研究。该方法的理论保证是在相对于样本量和规则性条件的稀疏条件下实现的。对于有向无环图，当有向无圈图是可识别的时，我们应用类似的思想来构造边权重的置信区间。
2018-01-25 math.ST stat.ME stat.TH
Symmetries in Directed Gaussian Graphical Models
我们定义高斯图形模型的有向无圈图与着色的顶点和边，称之为RDAG（限制有向无圈图）模型。如果两个顶点或边具有相同的颜色，则它们在模型中的参数必须相同。提出了一种算法来求RDAG模型的最大似然估计，并通过线性独立性条件证明了MLE的存在性。我们关系到一个图的属性，它的着色，需要的MLE存在和唯一的样本个数。我们还讨论了当RDAG模型等于一个相关的无向图形模型，并研究连接组和不变理论。我们提供的例子和模拟研究的好处RDAGs在无色的DAG。
2022-05-27 math.AG math.ST stat.TH
On model misspecification and KL separation for Gaussian graphical models
我们建立了两个多元高斯分布之间的KL分歧的界限，在相应的图形模型的边缘集之间的汉明距离。我们表明，KL分歧是有界的一个常数，当图形不同的至少一个边缘，这基本上是最严格的可能的界限，因为类的图形存在的边缘差异增加，但KL分歧仍然有界的一个常数以上。作为KL下限的自然推论，我们还通过最大似然估计建立了正确模型选择的样本量要求。我们的研究结果严格的概念，它是必不可少的估计高斯图形模型的边缘结构准确，以近似的真实分布接近精度。
2015-04-03 cs.IT math.IT math.ST
Learning Pairwise Graphical Models with Nonlinear Sufficient Statistics
本文研究了一类具有全局映射函数定义的两两充分统计量的两两指数族图模型的学习问题，例如，默瑟玉米粒。这个成对图模型的子类允许我们灵活地捕捉变量之间的复杂交互作用，而不仅仅是成对乘积。我们提出了两个$\ell_1$ -范数惩罚的极大似然估计学习模型参数从独立同分布。样品第一种是联合估计器，它同时估计所有参数。第二个是逐节点条件估计器，它为每个节点单独估计参数。对于这两个估计，我们表明，在适当的条件下，在我们的模型中获得的额外的灵活性几乎没有成本的统计和计算效率。我们展示了我们的模型在合成和真实数据集上的优势。
2013-11-22 stat.ML
Computing the Dirichlet-Multinomial Log-Likelihood Function
IBM Research（IBM研究院）
狄利克雷-多项（DMN）分布常用来模拟计数数据中的过度分散。DMN对数似然函数的精确和快速数值计算对于使用该分布执行统计推断是重要的，并且仍然是一个挑战。为了解决这个问题，我们使用的伽马函数的数学性质，推导出一个封闭的形式表达的DMN对数似然函数。与现有方法相比，该方法计算复杂度低，速度快，且不影响计算精度。
2020-07-17 cs.AI cs.LG stat.ML
Learning Latent Variable Gaussian Graphical Models
University of Michigan（密歇根大学）；Technicolor Research Center（特艺集团研究中心）
高斯图模型（GGM）已经广泛应用于从生物和金融数据到推荐系统的许多高维应用中。GGM中的稀疏性在统计和计算上都起着核心作用。不幸的是，真实世界的数据往往不适合稀疏的图形模型。在本文中，我们专注于一个家庭的潜变量高斯图形模型（LVGGM），该模型是有条件的稀疏给定的潜变量，但在一定程度上非稀疏。在LVGGM中，逆协方差矩阵具有低秩加稀疏结构，并且可以在正则化的极大似然框架中学习。在高维环境下，我们在温和的条件下得到了新的LVGGM的参数估计误差界。这些结果补充了现有的结构学习理论，并开辟了新的可能性，使用LVGGM的统计推断。
2014-06-10 cs.LG math.ST stat.ML
Linear Estimating Equations for Exponential Families with Application to Gaussian Linear Concentration Models
在许多分布族中，极大似然估计是难以处理的，因为进入似然函数的密度的归一化常数不容易获得。Hyvärinen（2005）的评分匹配估计量提供了一种不需要该归一化常数的替代方案。对于指数族，相应的估计方程变为线性。分数匹配估计是一致的，渐近正态分布的这种模式，虽然不一定有效。高斯线性浓度模型就是这类模型的例子。对于在协方差中也是线性的线性浓度模型，我们证明了分数匹配估计量与最大似然估计量相同，因此在这种情况下它也是有效的。高斯图形模型和图形模型的对称形式特别有趣的线性浓度模型的子类，我们调查的分数匹配估计这种情况下的潜在用途。
2014-06-12 math.ST stat.TH
Discrete Statistical Models with Rational Maximum Likelihood Estimator
离散统计模型是概率单纯形的子集。它的最大似然估计（MLE）是从单纯形到模型的收缩。我们刻画了所有的模型，这种回缩是一个有理函数。这是一个贡献，通过真正的代数几何取决于结果由于Huh和Kapranov霍恩均匀化。我们提出了一个算法，合理的MLE构建模型，我们证明了它的一系列实例。我们的重点在于统计学家熟悉的模型，如贝叶斯网络，可分解的图形模型和阶段树。
2020-06-15 math.AG math.ST stat.TH
Computing all roots of the likelihood equations of seemingly unrelated regressions
看似无关回归是基于高斯分布的统计回归模型。它们在计量经济学中很流行，但也出现在多元依赖关系的图形建模中。在极大似然估计中，通过最大化似然函数来估计模型的参数，该函数将参数映射到观察给定数据的似然。通过将这个最优化问题转化为一个多项式最优化问题，最近证明了一个简单的二元看似无关回归模型的似然函数可以有多个平稳点。因此，局部最大值可能使极大似然估计复杂化。在本文中，我们研究了几个更复杂的看似无关的回归模型，并展示了如何使用代数几何计算的所有平稳点的似然函数。
2005-08-23 math.ST stat.TH
Composite likelihood estimation of sparse Gaussian graphical models with symmetry
在这篇文章中，我们讨论了稀疏高斯图模型的复合似然估计。当浓度矩阵或偏相关矩阵存在对称性约束时，似然估计可能是计算密集型的。复合似然提供了目标函数的另一种形式，并产生相合估计量。当考虑稀疏模型时，惩罚复合似然估计能得到同时满足对称性和稀疏性约束的估计，并具有ORACLE性质。所提出的方法的应用证明通过模拟研究和网络分析的生物数据集。
2012-08-21 stat.CO
Invariant theory and scaling algorithms for maximum likelihood estimation
揭示了统计学中的极大似然估计与不变理论中群轨道上的范数极小化之间的联系。我们重点研究高斯变换族，包括由传递有向无圈图给出的矩阵正规模型和高斯图模型。我们利用群作用下的稳定性来刻画似然估计的有界性和最大似然估计的存在唯一性。我们的方法揭示了不变量理论和统计之间的相互作用的有前途的后果。特别是，现有的缩放算法，从统计学可以在不变理论中使用，反之亦然。
2021-08-23 math.AG math.ST stat.TH
Mean likelihood estimators
讨论了{ \it Mathematica}在推导均值似然估计量中的应用。比较最大似然估计，平均似然估计和贝叶斯估计的基础上，杰弗里的无信息的前使用的标准均方误差和Pitman措施的接近。基于这些准则，我们发现，对于一阶滑动平均时间序列模型，平均似然估计优于极大似然估计和贝叶斯估计与杰弗里的无信息的先验。{ \it Mathematica}用于符号和数值计算以及结果的图形显示。可从http://www.stats.uwo.ca/mcleod/epubs/mele获得{ \it Mathematica}笔记本，其中提供补充推导和代码。感兴趣的读者可以使用此补充轻松复制或扩展本文中的任何结果。
2016-11-03 math.ST stat.TH
Estimation of Graphical Models using the $L_{1,2}$ Norm
高斯图模型最近被用于经济学中，以获得代理之间的依赖网络。广泛使用的估计量是图形套索（GLASSO），其相当于使用精度矩阵$Ω$上的$L_{1,1}$矩阵范数正则化的最大似然估计。$L_{1,1}$范数是控制稀疏性或$Ω$中零的数量的套索惩罚。我们提出了一个新的估计称为结构化图形套索（SGLASSO），使用$L_{1,2}$混合范数。使用$L_{1,2}$惩罚控制$Ω$中稀疏性的结构。我们表明，当网络规模是固定的，SGLASSO是渐近等价于一个不可行的GLASSO问题，优先稀疏恢复度高的节点。蒙特卡罗模拟表明，SGLASSO优于GLASSO的整体精度矩阵的估计方面，并在估计结构的图形模型。在使用经典企业投资数据集的实证说明中，我们获得了一个企业依赖网络，该网络呈现出核心-外围结构，通用汽车公司，通用电气公司和美国钢铁公司形成了核心企业群。
2017-10-01 econ.EM stat.ME
Speeding Up Latent Variable Gaussian Graphical Model Estimation via Nonconvex Optimizations
University of Virginia（弗吉尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
研究了隐变量高斯图模型（LVGGM）的估计问题，其中精度矩阵是稀疏矩阵和低秩矩阵的叠加。为了提高稀疏和低秩分量的估计速度，提出了一种基于矩阵分解的稀疏约束极大似然估计方法和一种有效的硬阈值交替梯度下降算法，该算法比基于凸松弛的LVGGM估计方法快几个数量级.此外，我们证明了我们的算法是保证线性收敛到未知的稀疏和低秩组件的最佳统计精度。在合成数据和基因组数据上的实验证明了该算法的优越性，并证实了我们的理论。
2017-02-28 cs.LG stat.ML
Graphical Models for Non-Negative Data Using Generalized Score Matching
在估计概率密度函数的参数时，一个常见的挑战是归一化常数的棘手性。虽然在这种情况下，可以使用数值积分来实现极大似然估计，但是该方法在计算上变得密集。相比之下，Hyvärinen（2005）的得分匹配方法避免了直接计算归一化常数，并为$\mathbb{R}^m$上的连续分布的指数族提供了封闭形式的估计。Hyvärinen（2007）将该方法扩展到非负正负号$\mathbb{R}_+^m$上支持的分布。在本文中，我们给出了一个广义形式的得分匹配的非负数据，提高了估计效率。我们还将Lin等人的正则化得分匹配方法推广到非负高斯图模型（2016），并改进了理论保证。
2018-02-18 stat.ME
Graphical Models for Extremes
条件独立性、图形模型和稀疏性是简约统计模型和理解数据结构关系的关键概念。多变量和空间极值理论通过渐近合理的极限模型（如最大稳定分布和多变量帕累托分布）描述罕见事件的风险。到目前为止，这一领域的统计建模仅限于中等规模，部分原因是复杂的可能性和缺乏对潜在概率结构的了解。我们介绍了一个通用的理论，允许定义的图形模型和稀疏的极端多变量帕累托分布的条件独立。Hammersley-Clifford定理将这个新概念与图上的极值模型的密度因子分解联系起来。对于Hüsler-Reiss分布的流行类，我们表明，类似于高斯的情况下，一般极值图形模型的稀疏模式可以从合适的逆协方差阵读出。新的参数模型可以以模块化的方式构建，并且统计推断可以简化为低维边缘。我们讨论学习的最小生成树和模型选择的极值图结构，并说明其使用与多瑙河洪水风险评估的应用程序。
2019-11-13 math.ST stat.TH
Context-specific independence in graphical log-linear models
对数线性模型是分析列联表的常用工具。交互模型的对数线性参数化可以比基于概率的直接参数化更有表现力，从而产生了一种强大的方式来定义来自边缘、条件和特定于上下文的独立性的限制。然而，参数估计往往是简单的直接参数化下，提供的模型享有一定的分解性能。在这里，我们介绍了一个循环投影算法，获得最大似然估计的对数线性参数下的任意上下文特定的图形日志线性模型，它不需要满足标准的可分解性。我们说明，解除限制的可分解性，使模型更具表现力，这样，额外的上下文特定的独立性嵌入在真实的数据可以被识别。它还示出了如何上下文特定的图形模型可以对应于一个非层次的对数线性参数化与简洁的解释。这种观察可以为进一步发展非分层对数线性模型铺平道路，这种模型由于缺乏可解释性而在很大程度上被忽视。
2014-09-09 stat.ML
Likelihood Based Inference in Fully and Partially Observed Exponential Family Graphical Models with Intractable Normalizing Constants
Purdue University（普渡大学）
本文提出一种在对数稀疏设置下对完全和部分观测指数族图模型进行高效完全似然推断的方法，利用可处理独立模型估计难处理的归一化常数及其梯度，并通过数值结果和理论验证其有效性。
2026-09-23 stat.CO stat.ME stat.ML
Optimization Methods for Sparse Pseudo-Likelihood Graphical Model Selection
Lawrence Berkeley National Lab（劳伦斯伯克利国家实验室）；Stanford University（斯坦福大学）；University of Florida（佛罗里达大学）
稀疏高维图模型选择是当代机器学习的一个热门课题。为此，已经提出了各种有用的方法的上下文中的$\ell_1$惩罚估计的高斯框架。虽然这些逆协方差估计方法中的许多是可扩展的，并且利用了凸优化的最新进展，但它们仍然依赖于高斯函数形式。为了解决这一问题，最近提出了一种基于凸伪似然的部分相关图估计方法（CONCORD）。该方法使用基于伪似然的回归的坐标最小化，并且与高斯方法相比已被证明具有鲁棒的模型选择特性。然而，与高斯设置中的并行工作形成直接对比的是，这种新的凸伪似然框架没有利用机器学习文献中提出的用于凸优化的广泛的方法阵列。在本文中，我们提出了两个最接近的梯度方法（CONCORD-ISTA和CONCORD-FISTA）执行$\ell_1$正则化逆协方差阵估计的伪似然框架，以解决这个关键的差距。我们提出的时间比较与坐标明智的最小化，并证明我们的方法产生巨大的回报$\ell_1$惩罚部分相关图估计高斯设置之外，从而产生最快，最具可扩展性的方法，这样的问题。我们对我们的方法进行理论分析，并严格证明收敛性，并得出其速度。
2014-09-12 cs.LG stat.CO stat.ML
Leveraging graphical model techniques to study evolution on phylogenetic networks
本文提出将系统发育网络上的性状演化模型重新表述为图模型，利用信念传播算法实现高效、可扩展的似然与梯度计算及参数推断，显著降低计算成本。
2024-08-26 q-bio.PE stat.CO
Graphical models in Macaulay2
Macaulay 2软件包GraphicalModels包含用于对与无向图、有向图和混合图相关的图形模型进行代数研究的算法，以及相关的条件独立语句集合。其中实现的算法是程序计算消失的理想的图形模型，生成条件独立理想的家庭的独立报表相关联的图形，并检查可识别的参数高斯混合图模型。这些程序可以用来研究有关图模型的基本问题。
2013-01-08 math.AC stat.CO
Scalable Bayesian Structure Learning for Gaussian Graphical Models Using Marginal Pseudo-likelihood
针对高斯图模型贝叶斯学习可扩展性差的问题，提出基于边际伪似然的连续时间与离散时间MCMC算法，实现千节点图的高效后验探索，兼具理论保证与计算优势。
2025-08-27 stat.CO stat.ME stat.ML
An empirical Bayes procedure for the selection of Gaussian graphical models
提出了一种新的可分解图高斯模型的模型确定方法。贝叶斯范式的使用，并为每个给定的图形，超逆Wishart先验分布的协方差阵被认为是。这种先验分布依赖于超参数。众所周知，模型的后验分布对这些超参数的规格是敏感的，并且没有完全令人满意的方法被注册。为了避免这个问题，我们建议采用经验贝叶斯策略，即使用数据确定超参数值的策略。通常，超参数被固定到它们的极大似然估计。为了计算这些极大似然估计，我们提出了一个马尔可夫链蒙特卡罗版本的随机逼近期望最大化算法。此外，我们在图空间中引入了一个新的采样方案，改进了Armstrong等人（2009）的添加和删除建议。我们说明了这种新方案的效率在模拟和真实数据集。
2011-05-23 stat.CO
Existence and optimisation of the partial correlation graphical lasso
针对偏相关图形套索（PCGLASSO）的非凸优化计算难题，证明其在样本量小于维度时估计量存在，提出交替算法并推出首个公开R实现，在中等维度下计算效率具竞争力。
2025-10-29 stat.CO stat.ME
Bayesian Analysis of High-dimensional Discrete Graphical Models
这项工作介绍了一种贝叶斯方法来拟合大型离散图形模型与尖峰和板先验编码稀疏。我们考虑一个准似然方法，使节点并行计算，从而降低计算复杂度。我们引入了一个可扩展的Langevin MCMC算法的采样从准后验分布，使变量的选择和估计同时进行。我们提出了广泛的仿真结果，以证明该方法的可扩展性和准确性。我们还分析了16个人格因素（PF）数据集，以说明该方法的性能。
2019-10-17 stat.CO stat.ME
Robust Bayesian Model Selection for Variable Clustering with the Gaussian Graphical Model
变量聚类对于解释性分析很重要。然而，只有少数专门的方法与高斯图形模型的变量聚类已经提出。甚至更严重的是，由于噪声导致的微小的不显著的偏相关性可以在例如使用贝叶斯信息准则（BIC）进行评估时显著地改变聚类结果。在这项工作中，我们试图解决这个问题，提出了一个贝叶斯模型，占可以忽略不计的小，但不一定为零，偏相关。基于我们的模型，我们建议使用边际似然来评估变量聚类结果。为了解决棘手的计算的边际似然，我们提出了两种解决方案：一个基于变分近似，另一个基于MCMC。仿真数据的实验表明，该方法是类似的准确BIC在无噪声设置，但有噪声的偏相关时，准确得多。此外，在真实数据上，所提出的方法提供了直观合理的聚类结果，这在使用BIC或其扩展时并不总是如此。
2018-06-15 stat.AP stat.CO stat.ML
A convex pseudo-likelihood framework for high dimensional partial correlation estimation with convergence guarantees
稀疏高维图形模型选择是现代统计学中一个非常有趣的话题。一种流行的方法是将l1-罚分应用于（1）参数似然，或者（2）正则化回归/伪似然，后者具有明显的优势，即它们不显式地假设高斯性。由于没有一个流行的方法提出解决伪似然为基础的目标函数具有可证明的收敛保证，这是不清楚，如果相应的估计存在或甚至是可计算的，或者如果他们实际上产生正确的偏相关图。本文提出了一种新的基于伪似然的图形化模型选择方法，旨在克服现有方法的一些缺点，但在同一时间保留各自的优点。特别是，我们引入了一个新的框架，导致凸制定的偏协方差回归图的问题，导致在一个目标函数组成的二次型。然后通过坐标方式优化目标。目标函数的特定函数形式便于进行严格的收敛性分析，从而保证收敛性;当维数大于样本量时，这是一个无法使用标准结果建立的重要属性，这在高维应用中经常发生。这些收敛保证确保估计量在非常一般的条件下是定义良好的，并且总是可计算的。此外，该方法产生的估计，具有良好的大样本特性，也尊重对称性。此外，模拟/真实数据，时序比较和数值收敛的应用程序被证明。我们还提出了一个新颖的统一框架，该框架将所有图形伪似然方法作为更一般公式的特殊情况，从而获得重要的见解。
2014-08-14 stat.CO stat.ME stat.ML
Approximate Bayesian Computing for Spatial Extremes
用于模拟空间极值的最大稳定过程的统计分析受到计算联合似然函数的困难的限制。这排除了所有标准的基于可能性的方法，包括贝叶斯方法。在本文中，我们提出了一个贝叶斯方法，通过使用近似贝叶斯计算。这避免了联合似然函数的需要，而是依赖于来自（不可用的）似然的模拟。该方法与基于复合似然的另一种方法进行了比较。我们表明，近似贝叶斯计算可以导致较低的均方误差比复合似然方法估计的极端空间依赖性时，虽然在一个明显更高的计算成本。我们还说明了该方法的性能与应用程序，美国的温度数据估计作物损失的风险，由于不太可能冻结事件。
2011-12-13 stat.CO stat.ME
An effective likelihood-free approximate computing method with statistical inferential guarantees
近似贝叶斯计算是一种强大的无似然方法，自早期在群体遗传学中的应用以来越来越受欢迎。然而，复杂化出现在理论上的理由进行贝叶斯推断从这种方法与不充分的汇总统计。在本文中，我们试图重新框架内的频率论的上下文中的近似贝叶斯计算，并证明其性能的标准设置的频率覆盖率。在这样做的过程中，我们开发了一种新的计算技术，称为近似置信分布计算，产生的理论支持使用不充分的汇总统计的似然自由的方法。此外，我们证明了近似置信分布计算扩展了近似贝叶斯计算的范围，包括数据相关的先验，而不损害推理的完整性。这种数据依赖的先验可以被看作是目标参数的初始“分布估计”，其用近似置信分布计算方法的结果更新。还讨论了一个一般的策略，用于构建一个适当的数据相关的先验，并显示出往往增加计算速度，同时保持统计推断的保证。我们补充的理论与模拟研究说明所提出的方法的好处，即更广泛的应用和增加的计算速度相比，标准的近似贝叶斯计算方法的潜力。
2018-11-30 math.ST stat.CO stat.TH
Computing Elimination Ideals and Discriminants of Likelihood Equations
我们开发了一个概率算法计算消除理想的似然方程，这是更大的模型，比直接计算Groebner基地或插值方法中提出的第一作者以前的工作更有效。理论结果表明，数据变量之和出现在消去理想的生成多项式的大多数系数中，从而提高了算法的效率。此外，利用判别式的牛顿多面体的已知结构，我们还可以有效地推导出消去理想的判别式。例如，我们的方法可以计算3 × 3矩阵模型和一个Jukes-Cantor模型的判别式（分别为30 GB和8 GB的文本文件）。
2018-10-12 cs.SC math.AG stat.CO
LARGE: A Locally Adaptive Regularization Approach for Estimating Gaussian Graphical Models
Cornell University（康奈尔大学）
LARGE通过自适应学习节点层面的正则化参数，提高高斯图模型的估计和选择精度，尤其在处理异质性fMRI数据时表现优异。
2026-01-14 stat.CO stat.ME stat.ML
Computing log-likelihood and its derivatives for restricted maximum likelihood methods
Laboratory of Computational Physics, Institute of Applied Physics and Computational Mathematics（应用物理与计算数学研究所计算物理实验室）；Oxford Center for Collaborative and Applied Mathematics & Numerical Analysis Group, Mathematical Institute, The University of Oxford（牛津大学数学学院合作与应用数学中心及数值分析组）
本文提出通过串行矩阵变换和平均信息分割技术，高效计算线性混合模型中限制最大似然方法的对数似然及其导数，以提高大规模基因组关联分析的统计效率。
2016-08-25 cs.NA math.NA stat.CO
