Likelihood Based Inference in Fully and Partially Observed Exponential Family Graphical Models with Intractable Normalizing Constants
Purdue University(普渡大学)
本文提出一种在对数稀疏设置下对完全和部分观测指数族图模型进行高效完全似然推断的方法,利用可处理独立模型估计难处理的归一化常数及其梯度,并通过数值结果和理论验证其有效性。
2026-09-23 stat.CO stat.ME stat.ML
A composite likelihood approach to computer model calibration using high-dimensional spatial data
计算机模型用于模拟各种学科中的复杂过程。通常,复杂计算机模型的行为中的不确定性的关键来源是由于未知的模型输入参数引起的不确定性。统计计算机模型校准是从物理过程的观测和各种参数设置下的模型输出推断模型参数值以及相关不确定性的过程。观测和模型输出通常是以高维空间场的形式出现的,特别是在环境科学中。在这种情况下,合理的统计推断可能在计算上具有挑战性。在这里,我们介绍了一种复合似然为基础的方法来执行计算机模型校准与高维空间数据。虽然复合似然在空间统计学的背景下被广泛研究,但使用复合似然的计算机模型校准提出了几个新的挑战。我们提出了一个计算效率的方法贝叶斯计算机模型校准使用复合似然。我们还开发了一种基于渐近理论的方法,用于调整复合似然后验分布,使其准确地表示后验不确定性。我们研究了我们的新方法在气候模型校准的背景下的应用。
2013-07-31 stat.CO stat.ME
Selective Inference in Graphical Models via Maximum Likelihood
KU Leuven(鲁汶大学);University of Michigan(密歇根大学)
该研究针对图套索推断边值函数时缺乏统计保证的问题,提出带随机化的选择性推断方法,通过条件最大似然实现有效区间估计与假设检验,效果优于数据拆分。
2026-08-26 stat.AP stat.CO stat.ME
An empirical Bayes procedure for the selection of Gaussian graphical models
提出了一种新的可分解图高斯模型的模型确定方法。贝叶斯范式的使用,并为每个给定的图形,超逆Wishart先验分布的协方差阵被认为是。这种先验分布依赖于超参数。众所周知,模型的后验分布对这些超参数的规格是敏感的,并且没有完全令人满意的方法被注册。为了避免这个问题,我们建议采用经验贝叶斯策略,即使用数据确定超参数值的策略。通常,超参数被固定到它们的极大似然估计。为了计算这些极大似然估计,我们提出了一个马尔可夫链蒙特卡罗版本的随机逼近期望最大化算法。此外,我们在图空间中引入了一个新的采样方案,改进了Armstrong等人(2009)的添加和删除建议。我们说明了这种新方案的效率在模拟和真实数据集。
2011-05-23 stat.CO
Optimal combination of composite likelihoods using approximate Bayesian computation with application to state-space models
本文提出利用近似贝叶斯计算和多个复合得分函数作为汇总统计量,解决复合似然中的权重选择与曲率调整问题,并通过蒙特卡洛估计和自适应方案提升计算可行性与推断效率。
2024-09-04 stat.CO stat.ME
Fast Multivariate Probit Estimation via a Two-Stage Composite Likelihood
多变量概率单位是流行的建模相关的二进制数据,具有灵活性和简单性的一个有吸引力的平衡。然而,在计算和制定明确的统计框架方面仍然存在相当大的挑战。近年来,对多元概率单位的兴趣有所增加。目前的应用包括基因组学和精密医学,其中多个性状的同时建模可能是感兴趣的,并且计算效率是一个重要的考虑因素。我们提出了一种快速的方法,通过两个阶段的复合似然多变量概率估计。我们探讨了计算和统计效率,并指出,该方法设置的扩展阶段超越了纯粹的二进制设置。
2020-04-20 stat.CO stat.ME
Calibration of conditional composite likelihood for Bayesian inference on Gibbs random fields
Université Montpellier(蒙彼利埃大学);University College Dublin(都柏林大学学院)
本文提出了一种校准方法,用于通过复合似然进行Gibbs随机场的贝叶斯推断,通过实例验证了该方法的有效性。
2015-11-18 math.ST stat.CO stat.TH
Neural composite likelihood estimation: simulation based inference for time series
University of Bristol(布里斯托大学);School of Mathematics, University of Bristol(布里斯托大学数学学院);School of Biological Sciences, University of Bristol(布里斯托大学生物科学学院)
本文提出神经复合似然估计(NCLE),将长序列划分为等大小批次分别估计似然,以乘积作为复合似然进行频率推断,从而将基于模拟的推断扩展到高维时间序列数据。
2026-09-21 stat.CO stat.ML
Leveraging graphical model techniques to study evolution on phylogenetic networks
本文提出将系统发育网络上的性状演化模型重新表述为图模型,利用信念传播算法实现高效、可扩展的似然与梯度计算及参数推断,显著降低计算成本。
2024-08-26 q-bio.PE stat.CO
Optimization Methods for Sparse Pseudo-Likelihood Graphical Model Selection
Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室);Stanford University(斯坦福大学);University of Florida(佛罗里达大学)
稀疏高维图模型选择是当代机器学习的一个热门课题。为此,已经提出了各种有用的方法的上下文中的$\ell_1$惩罚估计的高斯框架。虽然这些逆协方差估计方法中的许多是可扩展的,并且利用了凸优化的最新进展,但它们仍然依赖于高斯函数形式。为了解决这一问题,最近提出了一种基于凸伪似然的部分相关图估计方法(CONCORD)。该方法使用基于伪似然的回归的坐标最小化,并且与高斯方法相比已被证明具有鲁棒的模型选择特性。然而,与高斯设置中的并行工作形成直接对比的是,这种新的凸伪似然框架没有利用机器学习文献中提出的用于凸优化的广泛的方法阵列。在本文中,我们提出了两个最接近的梯度方法(CONCORD-ISTA和CONCORD-FISTA)执行$\ell_1$正则化逆协方差阵估计的伪似然框架,以解决这个关键的差距。我们提出的时间比较与坐标明智的最小化,并证明我们的方法产生巨大的回报$\ell_1$惩罚部分相关图估计高斯设置之外,从而产生最快,最具可扩展性的方法,这样的问题。我们对我们的方法进行理论分析,并严格证明收敛性,并得出其速度。
2014-09-12 cs.LG stat.CO stat.ML
Composite likelihood methods for histogram-valued random variables
符号数据分析已经被提出作为一种技术,用于将大型和复杂的数据集总结为更小和易于处理的分布数量-例如随机矩形或直方图-每个描述较大数据集的一部分。最近的工作已经开发出基于似然的方法,允许拟合模型的基础数据,而只观察分布摘要。然而,虽然功能强大,但当处理随机直方图时,随着底层数据的维度增加,这种方法在计算上迅速变得难以处理。我们引入了一个复合似然变化的可能性为基础的方法分析随机直方图在$K$维度,通过建设低维边缘直方图。这种方法的性能进行检查,通过模拟和真实的数据分析的最大稳定模型的空间极值,使用数百万个观测数据点在多个$K=100$尺寸。与现有的模型拟合方法相比,可以节省大量的计算。
2020-03-20 math.ST stat.CO stat.TH
Consistent and Scalable Composite Likelihood Estimation of Probit Models with Crossed Random Effects
针对交叉随机效应Probit模型计算成本高且高维积分困难的问题,提出仅需一维积分的复合似然分层模型替代法,实现参数一致估计且计算量随样本量线性增长。
2025-04-29 stat.CO stat.ME
Composite likelihood inference for the Poisson log-normal model
CEREMADE, Université Paris-Dauphine, Université PSL, CNRS(巴黎第九大学CEREMAS研究中心,巴黎文理研究大学,法国国家科学研究中心);Université Paris-Saclay, INRAE, AgroParisTech, UMR MIA Paris-Saclay(巴黎萨克雷大学,法国国家农业食品与环境研究院,巴黎高等农学院);Sorbonne Université, CNRS, Laboratoire de Probabilités, Statistique et Modélisation(索邦大学,法国国家科学研究中心)
本文提出了一种结合EM框架与复合似然和重要性采样估计的新型推断方法,用于泊松对数正态模型参数估计,解决了高维积分瓶颈问题,实现了计算可行性,同时保持了最大似然估计的渐近性质。
2026-01-15 stat.CO stat.ME
Prepivoting composite score statistics by weighted bootstrap iteration
对数似然比的复合模拟在假设检验和设置置信区域中所起的作用并不像在典型似然设置中那样突出,因为它的渐近分布取决于未知参数。基于复合对数似然比的近似主元可以通过使用渐近参数来导出。然而,这种枢轴的实际分布可能与渐近参考有很大不同,导致测试和置信区域的水平远离标称值。在复合似然框架中使用自举而不是渐近分布进行了探讨。基于适当统计量的预旋转测试和置信度集被证明是准确的和计算上有吸引力的推理工具。
2013-01-29 math.ST stat.CO stat.ME
Scalable Bayesian Structure Learning for Gaussian Graphical Models Using Marginal Pseudo-likelihood
针对高斯图模型贝叶斯学习可扩展性差的问题,提出基于边际伪似然的连续时间与离散时间MCMC算法,实现千节点图的高效后验探索,兼具理论保证与计算优势。
2025-08-27 stat.CO stat.ME stat.ML
Composite Bayesian inference
我们重新审视和概括的概念,复合似然作为一种方法,使概率推理聚合多个贝叶斯代理,从而定义了一类预测模型,我们称之为复合贝叶斯。这种观点提供了选择与复合似然相关的权重的见解,无论是先验的还是通过学习;在后一种情况下,它们可以被调整,以最小化预测交叉熵,从而产生易于解决的凸问题。我们认为,复合贝叶斯推断是生成模型和判别模型之间的中间道路,在可解释性和预测性能之间进行权衡,这两者对许多人工智能任务都至关重要。
2019-04-17 stat.CO stat.ME
Linear mixed models for complex survey data: implementing and evaluating pairwise likelihood
本文在R中实现了基于成对复合似然的两层线性混合模型,用于复杂调查数据,并通过模拟和PISA数据评估其计算效率及与分阶段伪似然估计量的表现差异。
2023-07-11 stat.CO stat.ME
Composite likelihood inference of fractional Gaussian processes with sequentially optimal subset selection
ESILV;De Vinci Higher Education, De Vinci Research Center(德芬奇高等教育,德芬奇研究中心)
针对分数高斯过程,提出通过顺序最大化Godambe信息来选择子集,以平衡估计精度与计算成本,并推导了Fisher信息和Godambe信息的理论表达式。
2026-07-15 q-fin.ST stat.CO stat.ME
Student-t Stochastic Volatility Model With Composite Likelihood EM-Algorithm
提出了一种新的具有Student-t边际的鲁棒随机波动模型。我们的过程是通过一个线性正态回归模型驱动的潜在伽马过程,控制时间依赖性。这个伽玛过程的战略选择,使我们能够找到一个明确的表达成对联合密度函数的学生t响应过程。有了这个在手,我们提出了一个复合似然(CL)为我们的模型,它可以直接实现低计算成本的推理。这是一个显着的特点,我们的学生-t SV过程中现有的SV模型在文献中,涉及计算量大的算法估计参数。为了精确估计与潜在过程相关的参数,本文提出了CL期望最大化算法,并讨论了自举法获取标准误的方法。通过蒙特卡罗模拟,我们的复合似然方法的有限样本性能进行评估。该方法的动机是在金融市场的实证应用。我们分析的关系,在多个时间段内,各种美国部门的交易所交易基金回报率和个别公司的股票价格回报率的基础上,我们的新学生t模型。这种关系进一步用于选择最佳的金融投资组合。
2021-05-27 stat.AP stat.CO stat.ME
Existence and optimisation of the partial correlation graphical lasso
University of Genoa(热那亚大学);Universitat Pompeu Fabra(庞培法布拉大学);Barcelona Graduate School of Economics(巴塞罗那经济高等学院)
针对偏相关图形套索(PCGLASSO)的非凸优化计算难题,证明其在样本量小于维度时估计量存在,提出交替算法并推出首个公开R实现,在中等维度下计算效率具竞争力。
2025-10-29 stat.CO stat.ME
Fast Stochastic Nearest Neighbor Pairwise Composite Likelihood for Massive Spatial Datasets
Universidad Adolfo Ibáñez(阿道夫·伊巴涅斯大学);Ca’ Foscari University of Venice(威尼斯卡福斯卡里大学);Universidad Técnica Federico Santa María(弗雷德里科·圣塔玛丽亚理工大学);Universidad del Bío-Bío(比奥比奥大学)
针对大规模空间数据集,提出基于随机加速的NN成对复合似然估计方法,含两种稀疏设计。模拟研究表明该方法能在统计与计算间取得平衡,应用中预测精度与Vecchia基准相当,且协方差拟合时间大幅缩短。
2026-07-08 stat.CO stat.ME
Robust Bayesian Model Selection for Variable Clustering with the Gaussian Graphical Model
变量聚类对于解释性分析很重要。然而,只有少数专门的方法与高斯图形模型的变量聚类已经提出。甚至更严重的是,由于噪声导致的微小的不显著的偏相关性可以在例如使用贝叶斯信息准则(BIC)进行评估时显著地改变聚类结果。在这项工作中,我们试图解决这个问题,提出了一个贝叶斯模型,占可以忽略不计的小,但不一定为零,偏相关。基于我们的模型,我们建议使用边际似然来评估变量聚类结果。为了解决棘手的计算的边际似然,我们提出了两种解决方案:一个基于变分近似,另一个基于MCMC。仿真数据的实验表明,该方法是类似的准确BIC在无噪声设置,但有噪声的偏相关时,准确得多。此外,在真实数据上,所提出的方法提供了直观合理的聚类结果,这在使用BIC或其扩展时并不总是如此。
2018-06-15 stat.AP stat.CO stat.ML
A convex pseudo-likelihood framework for high dimensional partial correlation estimation with convergence guarantees
稀疏高维图形模型选择是现代统计学中一个非常有趣的话题。一种流行的方法是将l1-罚分应用于(1)参数似然,或者(2)正则化回归/伪似然,后者具有明显的优势,即它们不显式地假设高斯性。由于没有一个流行的方法提出解决伪似然为基础的目标函数具有可证明的收敛保证,这是不清楚,如果相应的估计存在或甚至是可计算的,或者如果他们实际上产生正确的偏相关图。本文提出了一种新的基于伪似然的图形化模型选择方法,旨在克服现有方法的一些缺点,但在同一时间保留各自的优点。特别是,我们引入了一个新的框架,导致凸制定的偏协方差回归图的问题,导致在一个目标函数组成的二次型。然后通过坐标方式优化目标。目标函数的特定函数形式便于进行严格的收敛性分析,从而保证收敛性;当维数大于样本量时,这是一个无法使用标准结果建立的重要属性,这在高维应用中经常发生。这些收敛保证确保估计量在非常一般的条件下是定义良好的,并且总是可计算的。此外,该方法产生的估计,具有良好的大样本特性,也尊重对称性。此外,模拟/真实数据,时序比较和数值收敛的应用程序被证明。我们还提出了一个新颖的统一框架,该框架将所有图形伪似然方法作为更一般公式的特殊情况,从而获得重要的见解。
2014-08-14 stat.CO stat.ME stat.ML
Log-concave density estimation in undirected graphical models
Aalto University(阿尔托大学);University of British Columbia(不列颠哥伦比亚大学)
本文提出了一种在无向图模型中对数凹密度估计的方法,通过有限维凸优化问题求解MLE,并探讨了其存在性、唯一性和自洽性条件。
2022-06-10 math.ST stat.CO stat.ME