Graphical posterior predictive classifier: Bayesian model averaging with particle Gibbs
在这项研究中,我们提出了一个多类的图形贝叶斯预测分类器,将不确定性的模型选择到标准的贝叶斯形式主义。对于每个类,所观察到的功能的依赖结构表示由一组可分解的高斯图形模型。然后重点放在贝叶斯模型平均,充分考虑到类特定的模型的不确定性,平均后验图模型的概率。众所周知,对模型概率的明确评估是不可行的。为了解决这个问题,我们考虑Olsson等人的粒子Gibbs策略。(2018 b)用于可分解图形模型的后验采样,该模型利用Olsson等人的圣诞树算法。(2018 a)作为建议内核。我们还推导出一个强大的超马尔可夫定律,我们称之为超正常Wishart法,允许进行贝叶斯计算本地。所提出的预测图形分类器显示出优越的性能相比,普通的贝叶斯预测规则,不考虑模型的不确定性,以及一些开箱即用的分类器。
2018-06-06 stat.ML
Utilizing remote sensing data in forest inventory sampling via Bayesian optimization
University of Turku(图尔库大学);Natural Resources Institute Finland (LUKE)(芬兰自然资源研究所)
在大面积森林清查中,必须在所要抽样的数据量和收集数据的费用之间作出权衡。在处理基于抽样的清单时,并不总是可能有非常大的数据样本。因此,有必要优化抽样设计,以实现最佳的总体参数估计。相反,与森林清查变量相关的遥感数据的可得性通常要高得多。森林资源清查参数的估计常采用遥感与野外实测数据相结合的方法。此外,研究遥感数据在清查抽样中的利用也是合理的,可以进一步提高森林变量的估计。在这项研究中,我们提出了一种基于贝叶斯优化的数据抽样方法,使用遥感数据在森林资源调查样本选择。所提出的方法适用于新的抽样决策的RS和库存数据之间的学习函数关系。我们评估我们的方法进行模拟采样实验与合成数据和测量数据在芬兰的Aland地区。所提出的方法是基准对两个基线方法:简单随机抽样和当地的关键方法。模拟实验的结果表明,当RS和库存数据之间的函数关系从可用的训练数据中正确学习时,所提出的方法的MSE值方面的最佳结果。
2020-09-17 cs.LG stat.ML
Graphical Models and Exponential Families
Microsoft Research(微软研究院);Technion(以色列理工学院)
我们提供了一个分类的图形模型,根据其表示为指数族的子族。无隐变量的无向图模型是线性指数族(LEF),无隐变量的有向无环图模型和链图,包括具有多个局部分布族的贝叶斯网络,是弯曲指数族(CEF),而具有隐变量的图模型是分层指数族(SEF)。SEF是满足边界条件的CEF的有限并集。此外,我们说明了如何可以自动生成的独立性和非独立性约束的分布上的可观察变量隐含的贝叶斯网络的隐变量。这些结果的模型选择的相关性进行检查。
2013-01-30 cs.LG stat.ML
Maximum Margin Bayesian Networks
University of Alberta(阿尔伯塔大学);University of Waterloo(滑铁卢大学)
我们考虑学习贝叶斯网络分类器的问题,最大限度地提高了marginover一组分类变量。我们发现,这个问题是贝叶斯网络比无向图形模型,如最大利润马尔可夫网络更难。主要的困难是贝叶斯网络中的参数必须满足无向图模型不需要遵守的附加规范化约束。这些额外的约束使优化任务复杂化。尽管如此,我们得到了一个有效的训练算法,解决了贝叶斯网络拓扑结构的范围内的最大保证金训练问题,并收敛到任意网络拓扑结构的近似解。实验结果表明,当有向图结构编码相关知识时,该方法可以在马尔可夫网络上表现出更好的泛化性能。在实践中,训练技术允许将表示为定向(因果)模型的先验知识与最先进的判别学习方法相结合。
2012-07-04 cs.LG stat.ML
Searching in the Forest for Local Bayesian Optimization
Leibniz University Hannover(汉诺威莱布尼茨大学)
贝叶斯优化(BO)由于其样本效率而成为处理昂贵的黑盒优化问题(例如超参数优化(HPO))的流行方法。最近的实证实验表明,HPO问题的损失景观往往比以前假设的更良性,即在最好的情况下是单峰和凸的,因此,如果BO框架可以专注于那些有希望的局部区域,它可能会更有效。在本文中,我们提出了BOinG,一个两阶段的方法,是专门针对中型配置空间,在许多HPO问题中遇到的。在第一阶段,我们建立了一个可扩展的全球代理模型与随机森林来描述整体景观结构。此外,我们选择一个有前途的子区域,通过自底向上的方法上的上层树结构。在第二阶段中,利用该子区域中的局部模型来建议接下来要评估的点。实验结果表明,BOinG能够利用典型的HPO问题的结构,并表现得特别好的中型问题,从合成功能和HPO。
2021-11-10 cs.LG stat.ML
Joint Bayesian Inference of Graphical Structure and Parameters with a Single Generative Flow Network
本文提出名为JSP-GFN的方法,用单个生成流网络联合推断贝叶斯网络的图结构与参数,该方法在模拟和真实数据上的表现优于现有方法,可准确近似联合后验分布。
2026-08-31 cs.LG stat.ML
A Bayesian Solution to the M-Bias Problem
Criteo AI Lab(Criteo人工智能实验室)
在使用回归类型模型推断因果效应时,通常的做法是推断正确的因果关系需要包括或“调整”额外的协变量。如果不进行这种调整,就可以推断出错误的因果效应。考虑到这种现象,通常的做法是包括尽可能多的协变量,但这样的建议在M偏置的存在下无法坚持。M-偏倚是因果推断中的一个问题,其中处理效应的正确估计要求某些变量不进行调整,即从模型中忽略。这个问题在2009年引起了一场争论,当时鲁宾、珀尔和其他人不同意在推断因果效应时在模型中加入额外的变量是否会有问题。本文对这一问题做出了两个贡献。首先,我们提供了一个贝叶斯解决方案的M偏置问题。该解决方案复制了Pearl的解决方案,但与Rubin的建议一致,我们以所有变量为条件。其次,我们能够用贝叶斯术语来解决这个问题,这一事实表明,在贝叶斯范式中表示因果关系确实是可能的,尽管是在一个扩展的空间中。我们做了几个评论的因果关系的图形模型,实现了做演算和概率图形模型,使贝叶斯统计之间的异同。我们希望这项工作将刺激更多的研究,统一珍珠的因果演算使用因果图形模型与传统的贝叶斯统计和概率图形模型。
2019-06-17 cs.LG stat.ML
Learning Selectively Conditioned Forest Structures with Applications to DBNs and Classification
Carnegie Mellon University(卡内基梅隆大学)
使用最大后验概率(MAP)估计或贝叶斯模型平均(BMA)处理贝叶斯网络结构中的不确定性通常是棘手的,因为可能的有向非循环图的超指数数量。当先验是可分解的时,可以进行有效学习的两类图是树结构和有限入度的固定序。我们将展示如何MAP估计和BMA选择性条件森林(SCF),这两个类的组合,可以有效地计算有序的变量集。我们将SCF应用于时态数据来学习具有时间步长内森林和时间步长间有限度结构的动态贝叶斯网络,从而在没有结构组合的情况下提高DBN的模型准确性。我们还将SCF应用于贝叶斯网络分类,以学习选择性森林增强朴素贝叶斯分类器。我们认为,内置的特征选择的选择性增强贝叶斯分类器,使他们更可取的类似的非选择性分类器的基础上的经验证据。
2012-06-20 cs.LG stat.ML
An Expectation Conditional Maximization approach for Gaussian graphical models
贝叶斯图模型是理解许多变量之间依赖关系的有用工具,特别是在具有外部先验信息的情况下。在高维环境中,可能的图的空间变得巨大,使得即使是最先进的贝叶斯随机搜索在计算上也不可行。我们提出了一个确定性的替代估计高斯和高斯copula图形模型使用期望条件最大化(ECM)算法,扩展EM方法从贝叶斯变量选择图形模型估计。我们表明,ECM方法可以快速后验探索下的混合先验序列,并可以将多个信息源。
2019-02-06 stat.ML
How To Grade a Test Without Knowing the Answers --- A Bayesian Graphical Model for Adaptive Crowdsourcing and Aptitude Testing
Microsoft Research(微软研究院)
我们提出了一个新的概率图形模型,共同模拟问题的难度,参与者的能力和正确的答案,在能力倾向测试和众包设置的问题。我们设计了一个主动学习/自适应测试计划的基础上,贪婪的预期模型熵最小化,它允许一个更有效的资源分配,通过动态选择下一个问题要问的基础上以前的反应。我们目前的实验结果,确认我们的模型推断所需的参数的能力,并证明自适应测试方案需要更少的问题,以获得相同的精度作为一个静态的测试方案。
2012-06-27 cs.AI cs.LG stat.ML
Graphical Normalizing Flows
ULiège(列日大学)
规范化流通过将基本分布与一系列双射神经网络相结合来模拟复杂的概率分布。最先进的架构依赖于耦合和自回归变换来将可逆函数从标量提升到向量。在这项工作中,我们重新审视这些转换作为概率图形模型,显示它们减少到贝叶斯网络与预定义的拓扑结构和可学习的密度在每个节点。从这个新的角度来看,我们提出了图形规范化流,一个新的可逆变换,无论是规定的或可学习的图形结构。该模型提供了一种很有前途的方式注入领域知识的规范化流,同时保持贝叶斯网络的可解释性和规范化流的表示能力。我们发现,图形条件发现相关的图形结构时,我们不能hypothesize. In此外,我们分析的效果$\ell_1$ -惩罚上恢复的结构和质量的密度估计。最后,我们表明,图形条件导致有竞争力的白盒密度估计。我们的实现可以在https://github.com/AWehenkel/DAG-NF上获得。
2021-02-12 cs.LG stat.ML
Empirical Bayesian Learning in AR Graphical Models
我们解决的问题,学习对应于高维自回归平稳随机过程的图形模型。图模型描述了随机过程各组成部分之间的条件依赖关系,是许多领域的重要工具。提出了稀疏自回归图模型和潜变量自回归图模型的经验贝叶斯估计。数值实验表明,这种贝叶斯的角度来学习这些类型的图形模型的好处。
2019-07-08 math.OC stat.ME
Exact Bayesian inference for off-line change-point detection in tree-structured graphical models
本文研究了多变量时间序列的变点检测问题。观测值的多变量分布应该遵循一个图形模型,其图形和参数随时间的突变而变化。我们证明,它是可能的执行精确的贝叶斯推断,只要一个认为是一个简单的类的无向图称为生成树作为可能的结构。然后,我们能够整合的图形和分割空间在同一时间结合经典的动态规划与代数结果有关的生成树。特别是,我们表明,数量,如后验分布的变化点或后边缘概率随时间的推移,可以有效地获得。我们说明了我们的研究结果的合成和实验数据来自生物学和神经科学。
2016-06-16 stat.ML
Bayesian Regularization for Functional Graphical Models with Applications to Neuroimaging
图模型用于表达在不同节点上观察到的随机变量之间的条件依赖关系,广泛应用于遗传学、神经科学和社会网络分析等许多领域。虽然目前大多数用于估计图形模型的统计方法都集中在标量数据上,但当在每个节点处观察到的数据是功能性的(例如信号或图像)时,人们对估计类似的依赖结构感兴趣。在本文中,我们提出了一个完全贝叶斯正则化计划估计功能图模型。我们首先考虑乔等人提出的函数图形套索的直接贝叶斯模拟。(2019)。然后,我们提出了一个正则化策略,通过图形马蹄铁。我们通过模拟研究比较这些方法,并将我们提出的功能图形马蹄铁应用于两个激励应用程序,用于比较酒精组和对照组之间的脑激活的脑电图数据,以及在创伤性脑损伤(TBI)存在下结构连接的变化。我们的研究结果让我们深入了解了大脑在受伤后如何试图补偿断开的网络。
2022-10-21 stat.AP stat.ME stat.ML
A closed-form approach to Bayesian inference in tree-structured graphical models
我们考虑在一个精确的贝叶斯框架中的无向图模型的结构的推断。更具体地说,我们的目标是实现封闭形式的后验推理,避免任何采样步骤。这个任务将是棘手的,没有任何限制所考虑的图,所以我们限制我们的探索混合生成树。我们考虑在贝叶斯框架中的无向图模型的结构的推断。为了避免收敛问题和高要求的蒙特卡罗采样,我们专注于精确的推断。更具体地说,我们的目标是实现封闭形式的后验推理,避免任何采样步骤。为了这个目的,我们限制了一组考虑图的混合物的生成树。我们调查的条件下,先验-对树结构和参数-精确的贝叶斯推断可以实现。在这些条件下,我们得到了一个快速的精确算法来计算后验概率的边缘属于{树模型}使用一个代数结果称为矩阵树定理。我们表明,我们所做的假设并不妨碍我们的方法在合成和流式细胞术数据上表现良好。
2017-05-01 stat.ML
Consistency of Graphical Model-based Clustering: Robust Clustering using Bayesian Spanning Forest
University of Florida(佛罗里达大学)
本文研究了基于图模型的聚类一致性问题,通过贝叶斯生成森林方法在数据生成过程偏离假设图模型时仍能获得一致聚类结果,包括聚类数估计。
2026-05-13 math.ST stat.TH
Bayesian and empirical Bayesian forests
我们通过非参数贝叶斯模型获得决策树的集合,使我们能够将随机森林视为来自后验分布的样本。这种见解提供了大量的收益,在可解释性,并激励一类贝叶斯森林(BF)算法,产生小,但可靠的性能增益。基于BF框架,我们能够证明,高层次树层次结构是稳定的大样本。这导致了一个经验贝叶斯森林(EBF)算法建立近似的BF上的大规模分布式数据集,我们表明,EBF优于子采样为基础的替代品的大幅度。
2015-05-15 stat.AP
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式,在此形式下,精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用,我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题,制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
Interpretable Selection and Visualization of Features and Interactions Using Bayesian Forests
对于机器学习方法来说,做出可解释且准确的预测变得越来越重要。在许多实际应用中,哪些特征和特征交互与预测任务相关是令人感兴趣的。我们提出了一种新的方法,选择性贝叶斯森林分类器,通过同时执行分类,特征选择,特征交互检测和可视化,在预测能力和可解释性之间取得平衡。它使用树形结构的贝叶斯网络构建简约而灵活的模型,并使用马尔可夫链蒙特卡罗对这些模型的集合进行采样。我们通过将树根据其与感兴趣的结果的相关性分为两组来构建特征选择。我们的方法在低维度和高维度的分类和特征选择基准上具有竞争力,并且包括一个可视化工具,可以深入了解相关特征和相互作用。
2016-02-07 stat.ML
A Data Driven Bayesian Graphical Ridge Estimator
贝叶斯方法在高斯图模型(GGM)估计中将精确关联优先于稀疏性,在科学文献中仍然相对较少。人们普遍认为,$\ell_2$惩罚在GGM估计中享有较小的计算足迹,而$\ell_1$惩罚鼓励被估量的稀疏性。贝叶斯自适应图形套索先验被用来作为一个出发点,在制定一个计算效率高的图形脊型先验的事件,准确的关联优先于稀疏表示。利用脊型惩罚构造了一种新的模拟精度矩阵的块吉布斯采样器。将贝叶斯图脊型先验扩展为贝叶斯自适应图脊型先验。合成实验表明,图形脊型估计享有计算效率,在中等尺寸,和数值性能,相对非稀疏精度矩阵,当比较他们的套索同行。自适应图形脊型估计应用于细胞信号数据,以推断人类T细胞信号中磷酸化蛋白质之间的关键关联。所有计算工作量都使用baygel R软件包进行。
2022-10-28 stat.ME
Bayesian functional graphical models
We develop a Bayesian graphical modeling framework for functional data for correlated multivariate random variables observed over a continuous domain. Our method leads to graphical Markov models for functional data which allows the graphs to vary over the functional domain. The model involves estimation of graphical models that evolve functionally in a nonparametric fashion while accounting for within-functional correlations and borrowing strength across functional positions so contiguous locations are encouraged but not forced to have similar graph structure and edge strength. We utilize a st…
2021-08-11 stat.ME
Bayesian Inference for Single-factor Graphical Models
University of Washington(华盛顿大学)
本文提出单因子图模型的贝叶斯推断方法,通过MCMC算法处理相关残差,并扩展至分类变量及多数据集,以捕捉时空关联和条件依赖结构。
2025-10-15 stat.ME
A scalable quasi-Bayesian framework for Gaussian graphical models
本文研究了高维高斯图模型的贝叶斯估计。我们开发了Meinshausen和Buhlmann(2006)的邻域选择方法的准贝叶斯实现,用于估计高斯图模型。该方法产生的产品形式的准后验分布,可以有效地探索并行计算。我们推导出了拟后验分布的收缩率的非渐近界。结果表明,所提出的准后验分布以邻域选择中涉及的线性回归的最差收缩率的速率向真精度矩阵收缩.我们开发了一个用于近似计算的马尔可夫链蒙特卡罗算法,遵循Atchade(2015)的方法。我们说明了模拟研究的方法。结果表明,该方法可以拟合高斯图模型的规模与其他贝叶斯方法的图模型。
2015-12-25 math.ST stat.TH
Bayesian Analysis of Marginal Log-Linear Graphical Models for Three Way Contingency Tables
本文讨论了三向列联表边际独立图模型的贝叶斯分析。我们使用一个边际对数线性参数化,根据该模型是通过合适的零约束的相互作用参数计算的边缘分布。我们对这些模型进行了全面的贝叶斯分析,包括先验分布的适当选择、估计、模型确定以及相关的计算问题。该方法示出了参考两个真实的数据集。
2008-07-07 stat.ME
Regression-Based Bayesian Estimation and Structure Learning for Nonparanormal Graphical Models
非超常图模型是高斯图模型的半参数推广,其中假设变量仅在某些未知的平滑单调变换后才遵循高斯图模型。我们认为贝叶斯方法推理的非超自然图形模型,我们把先验的未知变换通过一个随机序列的基础上B-样条。我们使用一个回归公式来构建的可能性,通过Cholesky分解的转换变量的基础精度矩阵,并把收缩先验的回归系数。我们应用一个插件变分贝叶斯算法学习稀疏精度矩阵和性能比较后吉布斯抽样计划在模拟研究。最后,我们将所提出的方法应用到一个真实的数据集。关键词:
2021-02-20 stat.ME
Bayesian Analysis of High-dimensional Discrete Graphical Models
这项工作介绍了一种贝叶斯方法来拟合大型离散图形模型与尖峰和板先验编码稀疏。我们考虑一个准似然方法,使节点并行计算,从而降低计算复杂度。我们引入了一个可扩展的Langevin MCMC算法的采样从准后验分布,使变量的选择和估计同时进行。我们提出了广泛的仿真结果,以证明该方法的可扩展性和准确性。我们还分析了16个人格因素(PF)数据集,以说明该方法的性能。
2019-10-17 stat.CO stat.ME
Bayesian Structure Learning in Graphical Models using Shrinkage priors
我们考虑在稀疏性假设下学习高维精度矩阵结构的问题。我们建议使用收缩先验,称为DL-图形先验的基础上的狄利克雷-拉普拉斯先验用于高斯均值问题。同时给出了一种基于Gibbs抽样的后验抽样方案,并通过精度矩阵的后验收敛速度给出了该方法的理论保证。
2019-07-26 math.ST stat.ME stat.TH
A Tutorial on Learning With Bayesian Networks
Microsoft Research(微软研究院)
贝叶斯网络是一种图形化模型,它对感兴趣的变量之间的概率关系进行编码。当与统计技术结合使用时,图形模型对数据分析有几个优点。第一,因为模型对所有变量之间的依赖关系进行了编码,所以它很容易处理某些数据录入丢失的情况。第二,贝叶斯网络可用于学习因果关系,因此可用于了解问题领域并预测干预的后果。第三,因为模型同时具有因果和概率语义,所以它是结合先验知识(通常以因果形式出现)和数据的理想表示。第四,贝叶斯统计方法结合贝叶斯网络提供了一种有效和原则性的方法来避免数据的过度拟合。在本文中,我们讨论了从先验知识构建贝叶斯网络的方法,并总结了贝叶斯统计方法,使用数据来改善这些模型。关于后一项任务,我们描述了学习贝叶斯网络的参数和结构的方法,包括使用不完整数据学习的技术。此外,我们将贝叶斯网络学习方法与监督和无监督学习技术联系起来。我们说明了图形建模方法使用现实世界的案例研究。
2022-01-10 cs.AI cs.LG stat.ML
Extended Bayesian Information Criteria for Gaussian Graphical Models
在逆协方差阵中具有稀疏性的高斯图模型在许多现代应用中具有重要意义。对于恢复的图形结构的问题,信息标准提供了有用的优化目标的算法搜索通过组的图形或其他方法,如图形套索,这是一种可能性惩罚技术的调整参数的选择。在本文中,我们建立了一个扩展的贝叶斯信息准则的一致性高斯图模型的情况下,变量的数量p和样本量n增长。与早期的工作相比,回归的情况下,我们的治疗允许增长的非零参数的数量在真正的模型,这是必要的,以覆盖连通图。我们证明了这个标准的性能与图形套索一起使用时,模拟数据,并验证该标准确实比交叉验证或普通贝叶斯信息标准时,p和非零参数q的数量都与n的规模更好。
2010-11-30 math.ST stat.TH
Measures of Variability for Bayesian Network Graphical Structures
贝叶斯网络的结构包括大量关于数据的概率分布的信息,这些信息在给定一些一般分布假设的情况下是唯一确定的。因此,研究其变异性是非常重要的,它可以用来比较不同的学习算法的性能,并衡量任何弧的任意子集的强度。在本文中,我们将介绍一些描述性统计和相应的参数和蒙特卡罗测试的无向图的贝叶斯网络的结构,建模为一个多变量的伯努利随机变量。一个简单的数值例子和一些结构学习算法在小样本上的性能比较将说明它们的使用。
2011-12-06 math.ST stat.ME stat.ML
Robust Bayesian Model Selection for Variable Clustering with the Gaussian Graphical Model
变量聚类对于解释性分析很重要。然而,只有少数专门的方法与高斯图形模型的变量聚类已经提出。甚至更严重的是,由于噪声导致的微小的不显著的偏相关性可以在例如使用贝叶斯信息准则(BIC)进行评估时显著地改变聚类结果。在这项工作中,我们试图解决这个问题,提出了一个贝叶斯模型,占可以忽略不计的小,但不一定为零,偏相关。基于我们的模型,我们建议使用边际似然来评估变量聚类结果。为了解决棘手的计算的边际似然,我们提出了两种解决方案:一个基于变分近似,另一个基于MCMC。仿真数据的实验表明,该方法是类似的准确BIC在无噪声设置,但有噪声的偏相关时,准确得多。此外,在真实数据上,所提出的方法提供了直观合理的聚类结果,这在使用BIC或其扩展时并不总是如此。
2018-06-15 stat.AP stat.CO stat.ML
A naıve Bayesian graphical elastic net: driving advances in differential network analysis
本研究提出朴素贝叶斯自适应图弹性网(BAE)先验用于估计差异网络,推导了启发式结构确定机制和块Gibbs采样器,在合成与真实数据集上验证了其优越的适应性和实用性。
2023-06-25 stat.ME
Bayesian Inference in Nonparanormal Graphical Models
高斯图形模型已被用来研究几个变量之间的内在依赖性,但高斯假设可能在许多应用中受到限制。非超常图模型是连续变量的半参数推广,其中假设变量仅在每个变量上进行一些未知的平滑单调变换后才遵循高斯图模型。我们认为贝叶斯方法的nonparanormal图形模型,把先验的未知变换通过一个随机序列的基础上B-样条的系数有序诱导单调性。截断的正态先验导致模型中的部分共轭性,并且对于使用吉布斯抽样的后验模拟是有用的。在转换变量的基础精度矩阵上,我们考虑了尖峰和平板先验,并使用有效的后验吉布斯抽样方案。我们使用贝叶斯信息准则来选择尖峰和平板先验的超参数。我们提出了一个后验一致性结果的基础转换和精度矩阵。我们研究了所提出的方法的数值性能,通过广泛的模拟研究,最后将所提出的方法应用于一个真实的数据集。
2019-04-11 stat.ME
Bayesian Analysis of Nonparanormal Graphical Models Using Rank-Likelihood
高斯图形模型,假设感兴趣的变量共同遵循具有稀疏精度矩阵的多元正态分布,已被用于研究变量之间的内在依赖性,但正态假设在许多设置中可能是限制性的。非超常图模型是高斯图模型的半参数推广,假设变量仅在某些未知的平滑单调变换后才遵循高斯图模型。我们认为贝叶斯方法的nonparanormal图形模型使用的秩似然保持不变的单调变换下,从而避免了需要把一个先验的变换函数。在转换变量的基础精度矩阵上,我们考虑了其Cholesky分解的马蹄先验,并使用有效的后验吉布斯抽样方案。我们提出了一个后验一致性结果的精度矩阵的基础上基于秩的似然。我们通过模拟研究研究所提出的方法的数值性能,并将其应用于一个真实的数据集。
2019-04-17 stat.ME
Bayesian Regularization for Graphical Models with Unequal Shrinkage
Department of Statistics, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校统计学系)
我们考虑一个贝叶斯框架估计高维稀疏精度矩阵,其中自适应收缩和稀疏性诱导的拉普拉斯先验的混合物。除了讨论我们的配方从贝叶斯的角度来看,我们调查的MAP(最大后验概率)估计从惩罚的可能性的角度来看,产生了一个新的非凸罚款近似的$\ell_0$罚款。最佳的误差率估计一致性的各种矩阵范数以及稀疏结构恢复的选择一致性的唯一MAP估计在温和的条件下。为了快速有效地计算,提出了一种期望最大化算法来计算精度矩阵的MAP估计和底层稀疏结构边缘上的(近似)后验概率。通过广泛的模拟研究和实际应用的呼叫中心数据,我们已经证明了我们的方法与现有的替代品相比,优良的性能。
2018-05-20 cs.LG math.ST stat.CO
Quantile Graphical Models: Bayesian Approaches
图形模型是描述同时测量的变量之间相互依赖性的普遍工具,例如大规模基因或蛋白质表达数据。高斯图模型(GGM)是使用精度矩阵对依赖结构进行概率探索的成熟工具,并且它们是在多元正态联合分布下生成的。然而,它们有几个缺点,因为它们是基于高斯分布假设。在这篇文章中,我们提出了一个贝叶斯分位数为基础的方法稀疏估计的图。我们证明,由此产生的图估计是强大的离群值和一般分布假设下适用。此外,我们开发了有效的变分贝叶斯近似来扩展大数据集的方法。我们的方法被应用到一个新的癌症蛋白质组学数据集,其中多个蛋白质组抗体同时评估肿瘤样本使用反相蛋白质阵列(RPPA)技术。
2020-01-08 stat.ME
Bayesian Covariance Matrix Estimation using a Mixture of Decomposable Graphical Models
贝叶斯方法用于估计高斯数据的协方差阵。从高斯图形模型和模型选择的想法被用来构建一个先验的协方差阵,是一个混合在所有可分解的图。对于该先验,每个图大小的概率由用户指定,并且相同大小的图被分配相同的概率。大多数以前的方法假设所有的图都是同样可能的。我们的经验表明,分配相等的概率在图形大小的先验优于分配相等的概率在所有图形的先验,无论是在识别正确的可分解图,并在更有效地估计的协方差阵。
2007-06-09 stat.ME
Bayesian Graphical Models for Multivariate Functional Data
图形模型表达变量之间的条件独立关系。虽然矢量值数据的方法已经很成熟,但函数数据图形模型仍然不发达。我们引入了随机函数之间的条件独立性的概念,并构建了一个框架,贝叶斯推断的无向,可分解的图在多元函数数据的背景下。这个框架是基于扩展马尔可夫分布和超马尔可夫定律从随机变量随机过程,提供了一个原则性的替代天真的应用程序的多元方法离散化的功能数据。马尔可夫性便于根据图的分解来组合似然和先验。我们的重点是使用正交基展开的高斯过程图形模型。我们提出了基展开的无穷系数序列的协方差核的超逆Wishart-process先验,证明了其存在性、唯一性、强超马尔可夫性和共轭性.随机搜索马尔可夫链蒙特卡罗算法的后验推理,通过模拟评估,并应用于大脑活动和酗酒的研究。
2016-01-05 stat.ME
Graphical Assistant Grouped Network Autoregression Model: a Bayesian Nonparametric Recourse
向量自回归模型在经典的时间序列数据分析中是普遍存在的。随着社交网站的迅速发展,基于潜图的时间序列数据越来越流行。在本文中,我们开发了一种新的贝叶斯分组网络自回归模型,同时估计组信息(组数和组配置)和组的参数。具体而言,一个图形辅助的中国餐馆的过程中纳入网络自回归模型的框架下,以提高统计推断性能。采用一种有效的马尔可夫链蒙特卡罗抽样算法对后验分布进行抽样。进行了广泛的研究,以评估我们提出的方法的有限样本性能。此外,我们分析了两个真实的数据集作为我们的方法的有效性的说明。
2021-10-11 stat.ME
A Bayesian Approach to Joint Estimation of Multiple Graphical Models
高维数据中多个图模型的联合估计问题已经在统计学和机器学习文献中进行了研究,因为它在包括分子生物学、神经科学和社会科学在内的各个领域都很重要。这项工作开发了一种贝叶斯方法,该方法将多个图形模型中的模型参数分解为模型和边缘子集之间的共享组件以及特殊组件。此外,它利用了一种新的多变量先验分布,再加上一个伪似然,使快速计算,通过一个强大的和有效的吉布斯抽样计划。我们建立了强后验一致性的模型选择,以及估计模型参数的高维尺度下的变量的数量与样本量呈指数增长。所提出的方法的有效性说明合成和真实数据。关键词:伪似然,吉布斯抽样,后验一致性,组学数据
2019-07-02 stat.ME
A Bayesian approach for partial Gaussian graphical models with sparsity
我们探索各种贝叶斯方法来估计部分高斯图形模型。我们的分层结构能够处理单输出以及多输出线性回归,在小或高维,通过预测和响应之间的部分相关性(直接链接),通过与每个设置对应的尖峰和板先验,强制执行无稀疏性,稀疏性,组稀疏性或甚至稀疏组稀疏性的双水平选择。适应性和全球收缩也纳入贝叶斯建模的直接联系。现有的模型选择一致性的结果是重新制定坚持我们的稀疏和组稀疏设置,提供了理论保证下的一些技术假设。吉布斯采样器的开发和仿真研究表明,我们的模型,这给非常有竞争力的结果,特别是在支持恢复的效率。最后,研究了一个真实的数据集。
2021-12-13 math.ST stat.ME stat.TH
Fast Bayesian inference in large Gaussian graphical models
尽管主要的方法的发展,贝叶斯推断高斯图形模型仍然具有挑战性的高维由于巨大的规模的模型空间。本文提出了一种通过假设的多重检验来推断变量间的边际和条件独立结构的方法。具体而言,我们在高斯共轭模型下引入封闭形式的贝叶斯因子来评估变量之间的边际和条件独立性的零假设。它们对所有变量对的计算都非常有效,从而使我们能够解决具有数千个节点的大型问题。此外,我们从贝叶斯因子的零分布中推导出精确的尾概率。这些允许使用任何多重性校正程序来控制错误边缘包含的错误率。我们证明了所提出的方法,图形模型选择各种模拟的例子,以及从癌症基因组图谱的大型基因表达数据集。
2018-04-06 stat.ME
Approximate Bayesian estimation in large coloured graphical Gaussian models
分布式估计方法最近被用来计算大型图形高斯模型精度矩阵的最大似然估计。我们的目的,在本文中,是给贝叶斯估计的精度矩阵的大型图形高斯模型,此外,对称性约束所施加的基础图形是彩色的。我们将精度矩阵的样本后验均值作为我们的估计。我们研究它的渐近行为下,经常渐近制度时,变量p是固定的,双渐近制度下,当p和n都增长到无穷大。我们特别表明,当局部模型的参数的数量是一致有界的,标准的收敛速度,我们得到的渐近一致性,在Frobenius范数,我们的精度矩阵的估计相比,以及在当前文献中的速率的最大似然估计。
2016-05-26 stat.ME
Exploring complex dependence structures using Bayesian bi-clustering and log-linear graphical modelling
University of St Andrews(圣安德鲁斯大学)
该研究结合贝叶斯双聚类与对数线性图模型,通过理论推导与模拟、真实数据验证,揭示变量依赖结构,阐明混合建模与图对数线性建模的关系,助力高效探索庞大的模型空间。
2026-11-10 stat.ME
A positive-definiteness-assured block Gibbs sampler for Bayesian graphical models with shrinkage priors
尽管Wang(2012)提出的贝叶斯图LASSO的块Gibbs采样器近年来已被广泛应用并扩展到各种收缩先验,但它具有不太明显但可能严重的缺点,即在Gibbs采样器的每个循环中不能保证高斯图模型中精度矩阵的正定性。具体地说,如果精度矩阵的维数超过样本量,精度矩阵的正定性将难以满足,吉布斯采样器几乎肯定会失败。在本文中,我们建议修改原来的块吉布斯采样器,使精度矩阵永远不会失败,是正定的采样,正是从域的正定性。正如我们在蒙特卡罗实验中所示,这种修改不仅稳定了采样过程,而且显着提高了参数估计和图形结构学习的性能。我们还将我们提出的算法应用于股票数量超过样本周期的月度回报数据的图形模型,证明了其稳定性和可扩展性。
2022-04-14 stat.CO
Accelerating Bayesian Structure Learning in Sparse Gaussian Graphical Models
高斯图模型是学习变量之间条件独立结构的相关工具。在这类模型中,贝叶斯结构学习通常通过图空间上的搜索算法来完成。满足图形约束的精度矩阵的共轭先验是著名的G-Wishart。有了这个先验,搜索算法中的转移概率需要评估G-Wishart的先验归一化常数的比率。在中到高维中,这个比率通常使用基于采样的方法来近似,作为搜索算法中计算昂贵的更新。到目前为止,计算这个比率一直是一个主要的计算瓶颈。我们克服了这个问题,表示一个搜索算法,在该算法中,归一化常数的比例进行了显式的封闭形式近似。在我们的搜索算法中使用这种近似,在不牺牲结构学习精度的情况下,显著提高了结构学习的可扩展性。我们研究的条件下,近似是有效的。我们还评估了我们的方法与模拟研究的有效性。我们表明,新的搜索算法与我们的近似优于国家的最先进的方法在计算效率和准确性。我们工作的实现可以在R包BDgraph中找到。
2021-07-16 math.ST stat.ME stat.ML
Bayesian model selection approach for colored graphical Gaussian models
我们考虑了一类有色图形高斯模型,通过在贝叶斯框架下对精度矩阵施加对称性约束而得到。精度矩阵上的先验分布是着色的$G$ -Wishart先验,其是Diaconis-Ylvisaker共轭先验。在本文中,我们开发了一个计算效率高的模型搜索算法,结合线性回归与双可逆跳马尔可夫链蒙特卡罗(MCMC)方法。后者是估计表示为两个竞争模型的后验概率之比的Bayes因子。我们还建立了基于贝叶斯因子的模型选择过程的渐近一致性。我们的程序避免了计算上不可能的穷举搜索。我们的方法与模拟和现实世界中的应用程序与蛋白质信号数据集。
2020-04-02 stat.ME
Stratified Graphical Models - Context-Specific Independence in Graphical Models
图模型理论已经成熟了三十多年,为用于疾病遗传图谱、信用风险评估、可靠性和计算机安全等无数应用的几类模型提供了主干。尽管它们具有普遍的适用性和广泛的采用性,由无向图形模型和贝叶斯网络施加的约束也被认为在某些情况下是不必要的严格。这一观察结果导致了几个概括的建议,旨在更宽松的约束,模型可以施加本地或特定于上下文的依赖结构。在这里,我们考虑另一类这样的模型,称为分层图形模型。我们开发了一种贝叶斯学习这些模型的方法,推导出一个分析表达式的边际可能性的数据下的一个特定子类的可分解分层模型。一个不可逆的马尔可夫链蒙特卡罗方法被进一步用于识别高度支持的模型的后验分布在模型空间。我们的方法进行了说明,并通过应用到几个真实的和合成的数据集与普通的图形模型进行比较。
2013-11-14 stat.ML
Bayesian Structure Learning in Undirected Gaussian Graphical Models: Literature Review with Empirical Comparison
本文综述并实证比较了无向高斯图模型中用于结构学习的多种贝叶斯方法,通过模拟研究评估其效能并展示真实数据集应用,为各层级研究者提供全面参考。
2024-07-29 stat.ME
A Bayesian Graphical Approach for Large-Scale Portfolio Management with Fewer Historical Data
管理包含许多资产的大规模投资组合是金融领域最具挑战性的任务之一。这部分是因为当资产数量$p$超过观测数量$n$时,资产收益的协方差或精度矩阵的估计趋于不稳定甚至不可行。基于这个原因,以往关于投资组合管理的研究大多集中在$ p < n$的案例上。为了处理$p > n$的情况下,我们建议使用一个新的贝叶斯框架的基础上自适应图形LASSO估计的精度矩阵的资产收益率在一个大规模的投资组合。与以往文献中关于图形LASSO的研究不同,我们的方法利用了Oya和Nakatsuma(2022)提出的精度矩阵的贝叶斯估计方法,以便始终保证精度矩阵的正定性。作为一个实证应用,我们构造了$p = 100$的全局最小方差投资组合的不同值的n与所提出的方法以及非贝叶斯图形LASSO方法,并比较他们的样本外的表现与等权重的投资组合作为基准.在这个比较中,所提出的方法产生更稳定的结果比非贝叶斯方法的夏普比率,投资组合的组成和营业额。此外,所提出的方法成功地估计精度矩阵,即使$n$是远远小于$p$和非贝叶斯方法无法做到这一点。
2022-03-05 q-fin.PM stat.AP
Robust Bayesian graphical modeling using $γ$-divergence
本文提出一种基于 $\gamma$-散度的稳健贝叶斯高斯图模型推断方法,通过贝叶斯图形套索实现后验稳健性,并开发了加权贝叶斯自助法高效计算算法。
2025-01-23 stat.ME
Bayesian Gaussian Copula Graphical Modeling for Dupuytren Disease
Dupuytren病是一种病因不明的纤维增生性疾病,通常会进展并最终导致受影响手指的永久性挛缩。在本文中,我们提供了一个计算效率的贝叶斯框架,发现潜在的风险因素,并调查哪些手指共同受到影响。我们的贝叶斯方法是基于高斯copula图形模型,这是一个潜在的方式来发现潜在的条件独立结构的变量在多元混合数据。特别地,我们将半参数高斯copula与扩展秩似然相结合,适用于分析具有任意边缘分布的多元混合数据。对于图结构学习,我们构造了一个计算效率高的搜索算法,这是一个跨维MCMC算法的基础上的生灭过程。此外,为了使我们的统计方法易于其他研究人员使用,我们已经在C++中实现了我们的方法,并与R软件接口,作为R软件包BDgraph,可在线使用。
2015-09-15 stat.AP
Spectral Clustering, Bayesian Spanning Forest, and Forest Process
本文提出贝叶斯森林模型和森林过程,为谱聚类提供生成式图建模框架,从而量化聚类不确定性并支持高维与多视图聚类等扩展。
2023-04-12 stat.ME
Bayesian sparse graphical models and their mixtures using lasso selection priors
我们提出了高斯图形模型的贝叶斯方法,导致稀疏和自适应收缩的精度(逆协方差)矩阵的估计。我们的方法是基于套索型正则化先验导致简约的参数化的精度矩阵,这是必不可少的几个应用程序,涉及学习变量之间的关系。在这种情况下,我们引入了一种新类型的选择之前,开发一个稀疏结构的精度矩阵,使大多数元素正好为零,除了确保正定性-从而进行模型选择和估计同时进行。我们将这些方法扩展到有限和无限混合高斯图形模型的聚类数据使用Dirichlet过程先验。我们讨论了适当的后验模拟方案,以实现后验推理在所提出的模型,包括评估的归一化常数,这是感兴趣的参数的功能,从而导致相关矩阵的限制。我们评估我们的方法的操作特性,通过几个模拟和应用到真实的数据集。
2013-10-03 stat.ME