Personalized Treatment Hierarchies in Bayesian Network Meta-Analysis
McGill University(麦吉尔大学)
本文探讨了在包含治疗-协变量交互的贝叶斯网络元分析中,如何根据特定协变量配置创建治疗等级,通过实证研究展示了方法的应用。
2026-01-27 stat.AP stat.ME
Bayesian Regression with Undirected Network Predictors with an Application to Brain Connectome Data
本文提出了一种贝叶斯方法,回归连续标量响应和无向网络预测。无向网络预测器通常用对称邻接矩阵表示,矩阵的行和列表示节点,零条目表示两个对应节点之间没有关联。网络预测器矩阵通常在任何分析之前被向量化,因此无法考虑网络中的重要结构信息。这导致在小样本量的情况下推断和预测性能较差。我们提出了一类新的网络收缩先验的系数对应的无向网络预测。所提出的框架被设计为检测网络中的节点和边缘预测的响应。我们的框架是使用一个有效的马尔可夫链蒙特卡罗算法。仿真研究的实证结果表明,与普通的高维贝叶斯收缩先验和惩罚优化方案相比,所提出的框架具有显着优越的推理和预测增益。我们将我们的方法应用于大脑连接体数据集,该数据集包含大脑网络的信息以及多个人的创造力测量。在这里,兴趣在于建立一个回归模型的创造力措施的网络预测,以确定重要的区域和连接在大脑中与创造力密切相关。据我们所知,我们的方法是第一个原则性的贝叶斯方法,能够在小样本量的情况下检测大脑中积极影响连续反应(创造力)的科学可解释区域和连接。
2018-03-28 stat.ME
IPF for Discrete Chain Factor Graphs
Nijmegen University(奈梅亨大学)
迭代比例拟合(IPF)与EM相结合,通常用作无向图模型中似然最大化的算法。在本文中,我们提出了两个迭代算法,推广IPF。第一个是离散链因子图中的似然最大化,我们将其定义为一类广泛的离散变量模型,包括无向图模型和贝叶斯网络,但也包括链图和S形信念网络。第二个是标准无向模型和贝叶斯网络中的条件似然最大化。在这两种算法中,迭代步骤都以封闭形式表示。数值模拟表明,该算法是有竞争力的最先进的方法。
2012-12-12 cs.AI cs.LG stat.ML
Bayesian Structure Learning in Undirected Gaussian Graphical Models: Literature Review with Empirical Comparison
本文综述并实证比较了无向高斯图模型中用于结构学习的多种贝叶斯方法,通过模拟研究评估其效能并展示真实数据集应用,为各层级研究者提供全面参考。
2024-07-29 stat.ME
Bayesian Edge Regression in Undirected Graphical Models to Characterize Interpatient Heterogeneity in Cancer
图形模型通常用于发现复杂疾病(如癌症)的基因或蛋白质网络之间的关联。大多数现有的方法估计一个单一的图形的人口,而在许多情况下,研究人员感兴趣的是表征个体网络的异质性,跨学科的受试者水平的协变量。例子包括评估网络如何随着患者特异性预后评分或肿瘤和正常图的比较而变化,同时将肿瘤纯度作为连续预测因子。在本文中,我们提出了一种新的无向图的边回归模型,估计作为主题级协变量的函数的条件依赖。贝叶斯收缩算法用于在底层图形模型中诱导稀疏性。我们通过模拟研究来评估我们的模型性能,模拟研究的重点是比较肿瘤和正常图,同时调整肿瘤纯度,以及评估肝细胞癌患者的血液蛋白网络如何随疾病严重程度而变化的案例研究,由HepatoScore(一种测量疾病严重程度的新型生物标志物签名)测量。
2021-01-23 stat.AP stat.ME
Comment on Vogels et al.'s (2024) "Bayesian Structure Learning in Undirected Gaussian Graphical Models: Literature Review with Empirical Comparison": An updated performance check using BGGM
评论指出 Vogels 等人比较中 BGGM 因先验包含概率设置不当(2/3 对其他方法 0.2)导致性能被低估,改用 0.2 后 BGGM 性能与其他贝叶斯方法相当。
2026-09-29 stat.ME
A closed-form approach to Bayesian inference in tree-structured graphical models
我们考虑在一个精确的贝叶斯框架中的无向图模型的结构的推断。更具体地说,我们的目标是实现封闭形式的后验推理,避免任何采样步骤。这个任务将是棘手的,没有任何限制所考虑的图,所以我们限制我们的探索混合生成树。我们考虑在贝叶斯框架中的无向图模型的结构的推断。为了避免收敛问题和高要求的蒙特卡罗采样,我们专注于精确的推断。更具体地说,我们的目标是实现封闭形式的后验推理,避免任何采样步骤。为了这个目的,我们限制了一组考虑图的混合物的生成树。我们调查的条件下,先验-对树结构和参数-精确的贝叶斯推断可以实现。在这些条件下,我们得到了一个快速的精确算法来计算后验概率的边缘属于{树模型}使用一个代数结果称为矩阵树定理。我们表明,我们所做的假设并不妨碍我们的方法在合成和流式细胞术数据上表现良好。
2017-05-01 stat.ML
Bayesian Rose Trees
Gatsby Computational Neuroscience Unit(盖茨比计算神经科学单元);University College London(伦敦大学学院);University of Cambridge(剑桥大学)
层次结构在许多领域的数据中普遍存在。有许多层次聚类方法,领域专家经常使用,努力发现这种结构。然而,这些方法中的大多数将可扩展的层次结构限制为具有二进制分支结构的层次结构。这种限制虽然在计算上方便,但通常是不期望的。在本文中,我们探讨了贝叶斯层次聚类算法,可以产生任意分支结构的树,在每个节点,被称为玫瑰树。我们将这些树解释为数据集分区上的混合物,并使用计算效率高,贪婪凝聚算法来找到玫瑰树,这些玫瑰树具有较高的边际似然数据。最后,我们进行实验,证明玫瑰树是更好的数据模型比典型的二叉树返回的其他层次聚类算法。
2012-03-15 cs.LG stat.ML
Graphical Models and Exponential Families
Microsoft Research(微软研究院);Technion(以色列理工学院)
我们提供了一个分类的图形模型,根据其表示为指数族的子族。无隐变量的无向图模型是线性指数族(LEF),无隐变量的有向无环图模型和链图,包括具有多个局部分布族的贝叶斯网络,是弯曲指数族(CEF),而具有隐变量的图模型是分层指数族(SEF)。SEF是满足边界条件的CEF的有限并集。此外,我们说明了如何可以自动生成的独立性和非独立性约束的分布上的可观察变量隐含的贝叶斯网络的隐变量。这些结果的模型选择的相关性进行检查。
2013-01-30 cs.LG stat.ML
Exact Bayesian inference for off-line change-point detection in tree-structured graphical models
本文研究了多变量时间序列的变点检测问题。观测值的多变量分布应该遵循一个图形模型,其图形和参数随时间的突变而变化。我们证明,它是可能的执行精确的贝叶斯推断,只要一个认为是一个简单的类的无向图称为生成树作为可能的结构。然后,我们能够整合的图形和分割空间在同一时间结合经典的动态规划与代数结果有关的生成树。特别是,我们表明,数量,如后验分布的变化点或后边缘概率随时间的推移,可以有效地获得。我们说明了我们的研究结果的合成和实验数据来自生物学和神经科学。
2016-06-16 stat.ML
Structure Variability in Bayesian Networks
贝叶斯网络的结构编码了关于数据的概率分布的大部分信息,在给定一些一般分布假设的情况下,这些信息是唯一识别的。因此,研究其网络结构的可变性是非常重要的,它可以用来比较不同的学习算法的性能,并衡量任何弧的任意子集的强度。在本文中,我们将介绍一些描述性统计和相应的参数和蒙特卡罗测试的无向图的贝叶斯网络的结构,建模为一个多变量的伯努利随机变量。
2010-05-16 math.ST stat.ME stat.ML
Properties and Bayesian fitting of restricted Boltzmann machines
Duke University(杜克大学);Iowa State University(爱荷华州立大学)
受限玻尔兹曼机(RBM)是为离散或连续随机变量构造的无向图模型,具有两层,一层隐藏,一层可见,并且层内没有条件依赖。近年来,RBM由于与深度学习的联系而变得突出。通过将一个RBM的隐藏层视为第二RBM中的可见层,可以创建深层架构。RBM因此被认为有能力在数据中编码非常复杂和丰富的结构,使它们对监督学习具有吸引力。然而,RBM的生成行为在很大程度上是未开发的,典型的拟合方法不容易允许不确定性量化,除了点估计。在本文中,我们讨论了在二元情况下的RBM参数指定和模型的性质,如退化,不稳定性和不可解释性之间的关系。我们还描述了相关的困难,可能会出现基于似然的推理,并进一步讨论潜在的贝叶斯拟合等(高度灵活的)模型,特别是吉布斯抽样(准贝叶斯)的方法往往主张的RBM模型结构。
2018-09-25 cs.LG stat.ML
Beyond black-boxes in Bayesian inverse problems and model validation: applications in solid mechanics of elastography
本文的动机是反问题中最基本的挑战之一,即量化模型的差异和错误。虽然在校准模型参数方面取得了重大进展,但绝大多数相关方法都是基于完美模型的假设。出于固体力学的问题,在连续热力学的所有问题,所描述的守恒定律和唯象本构闭包,我们认为,为了量化模型的不确定性在物理上有意义的方式,应该打破打开黑箱向前模型。特别是,我们建议制定一个无向概率模型,明确占的控制方程及其有效性。这将正问题和逆问题的解决方案重新定义为概率推理任务,其中问题的状态变量不仅应与数据兼容,而且还应与控制方程兼容。尽管所涉及的概率密度不包含任何黑盒项,但它们存在于高维空间中。结合所采用的无向模型的归一化常数的棘手性,这提出了重大的挑战,我们建议解决与线性缩放,双层随机变分推理。我们证明了所提出的模型在弹性成像中的合成正问题和逆问题(有和没有模型误差)的能力和功效。
2018-03-07 physics.comp-ph stat.ML
Bayesian estimation of the latent dimension and communities in stochastic blockmodels
Imperial College London(帝国理工学院)
无向图的邻接矩阵或拉普拉斯矩阵的谱嵌入是在低维潜在空间中表示网络的常用技术,具有最佳理论保证。嵌入可以用来估计网络的社区结构,在随机块模型框架下具有强一致性结果。用于从谱嵌入进行社区发现的标准算法的主要实际限制之一是必须预先指定社区的数目和嵌入的潜在维度。在这篇文章中,提出了一种新的贝叶斯模型,同时和自动选择适当的尺寸的潜在空间和块的数量。扩展到有向图和二分图进行了讨论。该模型进行了测试模拟和真实世界的网络数据,表现出良好的性能恢复潜在的社区结构。
2020-05-28 cs.LG cs.SI stat.AP
Algorithms and Complexity Results for Exact Bayesian Structure Learning
贝叶斯结构学习是一个NP难问题,即发现一个最佳表示给定训练数据集的贝叶斯网络。在本文中,我们研究了计算的最坏情况下的复杂性的精确贝叶斯结构学习的图论限制的超结构。超结构(Perrier,Imoto和Miyano在JMLR 2008中引入的概念)是一个无向图,包含解网络的骨架作为子图。我们的研究结果适用于基于分数的贝叶斯结构学习的几个变体,其中网络的分数分解为其节点的局部分数。结果如下:我们证明了,如果超结构具有有界树宽,精确贝叶斯结构学习可以在非均匀多项式时间内进行,如果超结构具有有界最大度,精确贝叶斯结构学习可以在线性时间内进行。我们补充了一些硬度结果。我们表明,这两个限制(树宽和程度)是必不可少的,不能被丢弃而不失去统一的多项式时间的易处理性(受复杂性理论的假设)。此外,我们表明,如果我们不搜索全局最优网络,但我们的目标是通过最多k个弧添加,弧删除或弧反转(k邻域局部搜索)来改善给定的网络,则这些限制仍然是必不可少的。
2012-03-15 cs.DS cs.LG stat.ML
Measures of Variability for Bayesian Network Graphical Structures
贝叶斯网络的结构包括大量关于数据的概率分布的信息,这些信息在给定一些一般分布假设的情况下是唯一确定的。因此,研究其变异性是非常重要的,它可以用来比较不同的学习算法的性能,并衡量任何弧的任意子集的强度。在本文中,我们将介绍一些描述性统计和相应的参数和蒙特卡罗测试的无向图的贝叶斯网络的结构,建模为一个多变量的伯努利随机变量。一个简单的数值例子和一些结构学习算法在小样本上的性能比较将说明它们的使用。
2011-12-06 math.ST stat.ME stat.ML
Deep Hierarchy in Bandits
University of California, Berkeley(加州大学伯克利分校);Amazon(亚马逊);DeepMind(深度思维);Google Research(谷歌研究院)
行动的平均回报往往是相关的。这些相关性的形式可能是复杂的并且是先验未知的,诸如用户对推荐产品及其类别的偏好。为了最大限度地提高统计效率,重要的是在学习时利用这些相关性。我们制定了这个问题的一个强盗变体,其中的相关性的平均行动奖励表示的层次贝叶斯模型与潜在变量。由于层次结构可以有多个层,我们称之为深层次。我们提出了一个分层的汤普森采样算法(HierTS),这个问题,并展示了如何实现它有效的高斯层次结构。有效的实施是可能的,由于一种新的精确的层次表示的后,这本身是独立的利益。我们使用这个精确的后验分析的贝叶斯后悔HierTS高斯土匪。我们的分析反映了问题的结构,即后悔减少与事先的宽度,也表明,层次减少了后悔的行动数量的非常数因素。我们证实了这些理论研究结果的经验,在合成和现实世界的实验。
2022-02-03 cs.LG stat.ML
Bayesian Parameter Estimation for Latent Markov Random Fields and Social Networks
University of Oxford(牛津大学)
无向图模型在统计学、物理学和机器视觉等领域有着广泛的应用。然而,无向模型的贝叶斯参数估计是极具挑战性的,因为后验的评估通常涉及到一个棘手的归一化常数的计算。这个问题已经得到了很大的关注,但很少集中在重要的实际情况下,数据包括噪音或不完整的观察潜在的隐藏结构。本文专门针对这个问题,比较两种替代方法。在这些方法的第一种中,粒子马尔可夫链蒙特卡罗(Andrieu等人,2010)用于有效地探索参数空间,结合交换算法(Murray et al.,2006),以避免计算棘手的归一化常数(证明这种组合的目标是正确的分布,可以在在线补充附录中找到)。该方法与近似贝叶斯计算(Pritchard等人,1999年)。应用估计伊辛模型和指数随机图的参数从噪声数据。由于使用MCMC从潜在图形模型进行模拟,本文中使用的每个算法都以接近真实后验为目标,而不是能够在一般情况下准确地做到这一点。补充附录还说明了由此得出的近似值的性质。
2012-03-14 cond-mat.stat-mech cs.AI cs.SI
A Transformational Characterization of Unconditionally Equivalent Bayesian Networks
KTH Royal Institute of Technology(瑞典皇家理工学院)
我们考虑的问题,表征贝叶斯网络的无条件等价,即,当有向无环图(DAG)具有相同的无条件$d$分离语句集时。每个无条件等价类(UEC)是唯一表示的无向图的团结构编码的类的成员。通过这种结构,我们提供了无条件等价的转换表征;即,我们表明,两个DAG是在同一UEC当且仅当一个可以通过一个有限序列的指定移动到其他转换。我们还扩展了这种特征的基本图表示的马尔可夫等价类(MEC)的UEC。UEC划分MEC的空间,并且很容易从边缘独立性测试中估计。因此,无条件等价的表征在涉及搜索贝叶斯网络的MEC空间的方法中具有应用。
2022-08-10 cs.LG math.CO math.ST
Nonparametric Bayesian inference of the microcanonical stochastic block model
描述网络隐藏结构的一种原则性方法是制定生成模型,然后从数据中推断其参数。当所需的结构是由模块或“社区”,这个任务的一个合适的选择是随机块模型(SBM),其中节点被划分成组,和边缘的位置是有条件的组成员。在这里,我们提出了一个非参数贝叶斯方法来推断经验网络的模块结构,包括模块的数量和它们的层次组织。我们专注于SBM的微规范变体,其中结构通过硬约束施加,即生成的网络不允许违反模型施加的模式。我们展示了这个简单的模型变化如何同时允许两个重要的改进,超过更传统的推理方法:1。更深层次的贝叶斯层次结构,用先验和超先验序列取代非信息先验,不仅消除了严重降低大型网络推理的限制,而且还揭示了多尺度的结构; 2.一个非常有效的推理算法,不仅适用于具有大量节点和边的网络,而且适用于无限数量的模块。我们还展示了如何使用这种方法从后验分布中对模块化层次结构进行采样,以及进行模型选择。我们讨论并分析了后验抽样和简单地找到使后验抽样最大化的单参数估计之间的差异,并揭示了我们的微正则方法和基于正则SBM的替代推导之间的直接等价性。
2018-08-22 physics.data-an physics.soc-ph stat.ML
Learning Gaussian DAGs from Network Data
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
有向无环图(DAG)或贝叶斯网络的结构学习已经被广泛研究的假设下,数据是独立的。我们提出了一个新的高斯DAG模型的依赖数据,假设的观察是相关的,根据一个无向网络。在此模型下,我们开发了一种方法来估计DAG结构给定的拓扑排序的节点。所提出的方法联合估计贝叶斯网络和观测之间的相关性,通过优化的评分函数的基础上惩罚似然。我们证明了在一些温和的条件下,所提出的方法产生相合估计量后,一个迭代。大量的数值实验也表明,通过联合估计DAG结构和样本相关性,我们的方法实现了更高的精度在结构学习。在节点排序未知的情况下,通过对合成数据和真实数据的实验,证明了该算法能够估计样本间的相关性,并通过对相关数据的去相关处理,显著提高了传统DAG学习方法的性能.
2021-07-29 cs.LG stat.ML
Bayesian Inference for Duplication-Mutation with Complementarity Network Models
我们观察到一个无向图$G$,它没有多重边和自环,这是代表一个蛋白质-蛋白质相互作用(PPI)网络。我们假设$G$从一个种子图$G_0$演化为具有互补性的重复突变模型(DMC),我们还观察到代表$G$重复历史的二元森林$Γ$。DMC模型参数的后验密度的建立,我们概述了一个采样策略,通过它可以执行贝叶斯推断,采样策略采用粒子边际Metropolis-Hastings(PMMH)算法。我们测试我们的方法数值例子证明了高精度和精度的DMC模型的突变和同源二聚化参数的推断。
2015-04-08 stat.CO
Bayesian Inference with Posterior Regularization and applications to Infinite Latent SVMs
Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
现有的贝叶斯模型,特别是非参数贝叶斯方法,依赖于专门构思的先验知识,以发现改进的潜在表示。虽然先验可以通过贝叶斯规则影响后验分布,但施加后验正则化可以说更直接,在某些情况下更自然和一般。在本文中,我们提出了正则化贝叶斯推理(RegBayes),一种新的计算框架,执行后验推理与信息理论公式下所需的后验数据分布的正则化项。RegBayes比通过先验知识来推断专家知识的过程更灵活,并且它涵盖了有向贝叶斯网络和无向马尔可夫网络,其贝叶斯公式导致混合链图模型。当正则化是由后验分布上的线性算子(如期望算子)诱导时,我们给出了一个一般的凸分析定理来刻画RegBayes的解。此外,我们提出了两个具体的例子,RegBayes,无限潜在的支持向量机(iLSVM)和多任务无限潜在的支持向量机(MT-iLSVM),探索大利润的想法结合非参数贝叶斯模型发现预测的潜在特征分类和多任务学习,分别。我们提出了有效的推理方法,并报告了几个基准数据集的实证研究,这似乎证明了继承大利润率学习和贝叶斯nonparametrics的优点。这些结果直到现在才出现,并有助于推动这两个重要子领域之间的接口,这两个子领域在社区中基本上被视为孤立的。
2014-02-12 cs.AI cs.LG stat.ME
Bayesian stochastic blockmodeling
本章提供了一个自包含的介绍使用贝叶斯推断提取大规模的模块化结构的网络数据,基于随机块模型(SBM),以及它的度校正和重叠的概括。我们专注于非参数公式,允许他们的推理的方式,防止过拟合,并使模型选择。我们讨论的先验的选择方面,特别是如何避免通过增加贝叶斯层次欠拟合,我们对比的任务,从后验分布的采样网络分区找到单点估计,最大化它,同时描述高效的算法来执行任何一个。我们还展示了如何推断的SBM可以用来预测丢失和虚假的链接,并阐明了网络中的模块化结构的可检测性的基本限制。
2023-03-22 cond-mat.stat-mech physics.data-an stat.ML
Creating treatment and component hierarchies in component network meta-analysis
本文提出在频繁ist和贝叶斯CNMA中回答治疗层次问题的步骤流程,明确识别可唯一估计的相对效应,通过两个不同网络示例展示方法。
2026-05-14 stat.ME
A Hierarchical Bayesian Framework for Constructing Sparsity-inducing Priors
由于越来越多的回归和分类应用涉及高维数据,我们希望一些预测是不重要的,变量选择技术已成为统计学家之间越来越流行。在这种情况下,贝叶斯变量选择技术,涉及马尔可夫链蒙特卡罗探索的后验分布的模型可以是令人望而却步的计算昂贵的,所以已经注意到准贝叶斯方法,如最大后验概率(MAP)估计使用先验,诱导稀疏性,在这样的估计。我们专注于后一种方法,扩展到目前为止提出的层次结构,以提供贝叶斯解释和概括的最先进的惩罚优化方法,并同时提供一种自然的方式,包括在此框架内的参数先验信息。我们给出了如何使用这个层次结构来计算线性和逻辑斯谛回归的MAP估计以及高斯图形模型中的稀疏精度矩阵估计的例子。此外,一个自适应群套索方法推导出使用的框架。
2010-09-16 stat.CO stat.ME
Covariate-Assisted Bayesian Graph Learning for Heterogeneous Data
提出协变量依赖的贝叶斯高斯图模型,利用乘积划分、似然/伪似然与 G-Wishart 先验刻画异质数据的图结构,并证明 minimax 后验收缩率。
2023-08-15 stat.ME
Combinatorial and algebraic perspectives on the marginal independence structure of Bayesian networks
本文刻画Bayes网络无条件依赖图,利用Gröbner基与二项式关系构建图空间上的MCMC搜索方法GrUES,在合成Gaussian数据上提升真实边际独立结构恢复率并给出可靠后验可信集。
2024-01-31 math.AG math.CO math.ST
A hierarchical Bayesian non-asymptotic extreme value model for spatial data
针对极端降水空间重现水平估计,本文提出放宽渐近假设的贝叶斯分层非渐近极值模型,利用潜在时空过程和地理协变量刻画事件发生与空间依赖,并通过模拟和北卡罗来纳州降雨应用证明其显著降低了估计不确定性。
2023-04-26 stat.ME
Structural Markov graph laws for Bayesian model uncertainty
本文考虑了在图结构上定义分布的问题。我们提出了一个扩展的超马尔可夫性的Dawid和Lauritzen [安统计。21(1993)1272-1317],我们称之为结构马尔可夫性,用于无向可分解图和有向无圈图,它要求图的不同分量的结构在给定分离分量存在的情况下是条件独立的。这允许分析和比较多个图形结构,同时能够利用常见的条件独立约束。此外,我们表明,这些属性的指数族,形成共轭先验下从兼容的马尔可夫分布采样。
2015-07-30 math.ST stat.TH
Infinitely exchangeable random graphs generated from a Poisson point process on monotone sets and applications to cluster analysis for networks
通过在$\mathbb{N}$的幂集上具有平均测度$Λ$的Poisson点过程,构造了自然数$\mathbb{N}$的幂集子集的集合$\cate$上的一个无限可交换过程.每个$E\in\cate$在$\cate$的单调子集的集合$\catf$中具有最小单调覆盖,并且每个单调子集映射到无向图$G\in\catg$,即具有顶点集$\mathbb{N}$的无向图空间。我们证明了一个自然映射$\cate\rightarrow\catf\rightarrow\catg$,它诱导一个无限可交换的措施的投影系统$\catg^{\rest}$的图$\catg$下的置换和限制映射的子集的投影系统$\cate^{\rest}$上的一个无限可交换的措施。我们展示了这个过程在聚类分析、机器学习、分类和贝叶斯推理中的应用的潜在联系。
2011-10-24 math.ST stat.ML stat.TH
Bayesian Graphical Models for Multivariate Functional Data
图形模型表达变量之间的条件独立关系。虽然矢量值数据的方法已经很成熟,但函数数据图形模型仍然不发达。我们引入了随机函数之间的条件独立性的概念,并构建了一个框架,贝叶斯推断的无向,可分解的图在多元函数数据的背景下。这个框架是基于扩展马尔可夫分布和超马尔可夫定律从随机变量随机过程,提供了一个原则性的替代天真的应用程序的多元方法离散化的功能数据。马尔可夫性便于根据图的分解来组合似然和先验。我们的重点是使用正交基展开的高斯过程图形模型。我们提出了基展开的无穷系数序列的协方差核的超逆Wishart-process先验,证明了其存在性、唯一性、强超马尔可夫性和共轭性.随机搜索马尔可夫链蒙特卡罗算法的后验推理,通过模拟评估,并应用于大脑活动和酗酒的研究。
2016-01-05 stat.ME
Bayesian Sparse Global-Local Shrinkage Regression for Selection of Grouped Variables
惩罚线性回归的大多数估计可以被视为适当选择先验分布的后验模式。贝叶斯收缩方法,特别是马蹄估计,近年来在估计稀疏、高维线性模型的问题中引起了极大的关注。本文扩展了这些想法,并提出了一个贝叶斯分组模型与连续的全局-局部收缩先验来处理复杂的组层次结构,包括重叠和多级组结构。由于后验均值从来不是线性模型系数的稀疏估计,我们将最近提出的解耦收缩和选择(DSS)技术的问题,从后验样本中选择变量组。为了选择一个最终的,稀疏的模型,我们还适应广义信息标准的方法的DSS框架。为了确保稀疏组,其中只有少数预测是活跃的,可以有效地识别,我们提供了一个替代度的自由估计稀疏贝叶斯线性模型,考虑到收缩的影响模型系数。模拟和实际数据分析,使用我们提出的方法显示出良好的性能,在正确识别的活动和不活动的群体,预测,与贝叶斯分组板和穗的方法相比。
2017-11-03 stat.ME
Multiple Jump MCMC: A Scalable Algorithm for Bayesian Inference on Binary Model Spaces
University of Amsterdam(阿姆斯特丹大学);Sabanci University(萨贝里大学)
本文提出多重跳跃MCMC算法,用于二元模型空间的贝叶斯推断,该算法简单、无拒绝机制且速度快,适用于高斯图模型、异或模型和变量选择等场景。
2026-04-02 stat.ME
Hybrid Bayesian Models for Community Detection with Application to a Colombian Conflict Network
本文提出基于随机块模型的两种混合贝叶斯扩展(类距离模型和类双线性模型),用于无向二值网络节点聚类,并在哥伦比亚武装冲突网络及合成与基准数据集上验证了其揭示复杂结构模式的有效性。
2025-05-27 stat.ME
Joint likelihood calculation for intervention and observational data from a Gaussian Bayesian network
从转录组数据推断基因调控网络的方法学发展是一个活跃而重要的研究领域。已经提出了几种方法来推断基因之间的关系,从观察到的稳态表达数据,主要是基于使用图形高斯模型。然而,这些方法依赖于偏相关的估计,只能提供无向图,不能突出基因之间的因果关系。即将到来的一个主要挑战是联合分析观察转录组数据和通过敲除或敲低实验获得的干预数据,以揭示因果基因调控关系。为此,在本技术说明中,我们给出了高斯贝叶斯网络背景下任何复杂干预设计的似然函数的显式公式及其分析最大化。这允许直接计算已知图结构的因果效应。我们还展示了如何获得费舍尔信息在这种情况下,这将是非常有用的最佳干预设计的选择在未来。
2013-06-27 stat.AP
A multiscale Bayesian nonparametric framework for partial hierarchical clustering
本文提出一种多尺度贝叶斯非参数无限混合模型,通过精心设计核参数和无限分解实现部分层次聚类,能有效处理微小簇与单例,并支持 Gibbs 采样高效推断。
2024-06-28 stat.ME
Bayesian Variable Selection for High-Dimensional Predictors with Missing Psychometric Outcomes
Vanderbilt University Medical Center(范德堡大学医学中心);University of California, Riverside(加州大学河滨分校)
针对心理测量中高维多模态预测变量与缺失多变量结果,提出SHIM贝叶斯框架,结合层次马蹄收缩与缺失结果处理,模拟验证平衡灵敏度与假阳性,并应用于阿尔茨海默病队列。R包shim已公开。
2026-09-11 stat.AP stat.ME
Hyperboloid GPLVM for Discovering Continuous Hierarchies via Nonparametric Estimation
Hokkaido University(北海道大学)
本文提出双曲面GPLVM模型,通过非参数估计实现高维层次数据的连续嵌入,采用生成模型和Riemannian优化方法提升层次嵌入效果。
2026-04-23 cs.LG
The LORACs prior for VAEs: Letting the Trees Speak for the Data
U.C. San Diego(加州大学圣地亚哥分校);Google AI(谷歌人工智能);Google Brain(谷歌大脑)
在变分自编码器中,潜在代码$z$的先验知识通常被视为事后的想法,但先验知识塑造了模型学习的潜在表示类型。如果目标是学习一种可解释且有用的表示,那么先验应该反映描述数据的高级因素的变化方式。“默认”先验是各向同性正态分布,但如果数据集中的自然变异因子表现出离散结构或不独立,则各向同性正态先验实际上会鼓励学习掩盖这种结构的表示。为了缓解这个问题,我们建议使用一个灵活的贝叶斯非参数层次聚类先验的基础上的时间边缘化的聚结(TMC)。为了将学习扩展到大数据集,我们开发了一种新的诱导点近似和推理算法。然后,我们将该方法应用于几个数据集,并检查推断的层次结构和学习的潜在空间的可解释性和实际性能。
2018-10-16 cs.LG stat.ML
Bayesian Inference for Vertex-Series-Parallel Partial Orders
本文针对顶点串联平行偏序集(VSPs)构建了边缘一致的先验分布,扩展了噪声观测模型,并在Royal Acta和F1赛车数据上验证了其优于Plackett-Luce等模型且与一般偏序集模型相当。
2023-06-27 stat.ME
Gaussian Conditional Random Fields for Classification
Faculty of Organizational Sciences, University of Belgrade(贝尔格莱德大学组织科学学院);Faculty of Mathematics, University of Belgrade(贝尔格莱德大学数学学院)
高斯条件随机场(Gaussian Conditional Random Fields,GCRF)是一种常用的连续输出结构化模型,它使用多个非结构化预测因子来形成其特征,同时利用输出之间的依赖结构,这是由相似性度量提供的。提出了一种用于结构化二元分类的高斯条件随机场模型。该模型适用于无向图的分类问题,难以为标准分类CRF。GCRFBC的模型表示扩展的潜变量,产生一些有吸引力的属性。由于GCRF的潜在结构,该模型变得易于处理,高效,并开放以前应用于GCRF回归模型的改进。此外,该模型允许减少噪声,如果结构直接定义在离散输出之间,则可能出现噪声。此外,提出了两种不同形式的算法:GCRFBCb(GCRGBC -贝叶斯)和GCRFBCnb(GCRFBC -非贝叶斯)。在贝叶斯GCRFBCb变体中,使用扩展的sigmoid函数局部变分逼近方法求解经验贝叶斯,而在GCRFBCnb变体中,隐变量的MAP值是学习和推理的基础。GCRFCB中的推论由一维积分的Newton-Cotes公式求解。这两个模型进行评估的合成数据和现实世界的数据。结果表明,这两种模型实现更好的预测性能比非结构化的预测。此外,计算和内存的复杂性进行了评估。详细讨论了GCRFBCb和GCRFBCnb的优缺点。
2019-01-31 cs.AI cs.LG stat.ML
Quantifying constraint hierarchies in Bayesian PINNs via per-constraint Hessian decomposition
School of Mathematical Sciences(数学科学学院);STAG Research Centre, University of Southampton(STAG研究中心,南安普顿大学)
为阐明单个物理约束对贝叶斯物理信息神经网络的塑造作用,提出一种可扩展无矩阵拉普拉斯框架,通过逐约束Hessian分解量化各约束相对影响,在Van der Pol方程上验证了其可追踪约束对网络几何的塑造及权重调整的曲率重分布效应。
2025-09-28 cs.AI cs.LG
Bayesian inference for Gaussian graphical models beyond decomposable graphs
图模型的贝叶斯推断近年来受到了广泛的关注。众所周知,当图G是可分解的时,贝叶斯推断比在一般的不可分解设置中明显更易处理。另一方面,惩罚似然推理在过去几年中在可扩展性和易处理性方面取得了巨大的进步。然而,贝叶斯推断并没有取得同样的成功,尽管可扩展的贝叶斯方法有其各自的优势,特别是在量化不确定性方面。为了解决这个问题,我们提出了一个可扩展的和灵活的新贝叶斯方法估计和模型选择高斯无向图模型。首先,我们开发了一类广义G-Wishart分布的多个形状参数的任意底层图。这个类包含G-Wishart分布作为特例。然后,我们引入了广义Bartlett(GB)图的类,并推导出一个有效的吉布斯抽样算法,以获得后验绘制从广义G-Wishart分布对应的GB图。广义Bartlett图类包含可分解图类作为特殊情况,但比可分解图类大得多。我们继续推导出所提出的吉布斯采样器的理论性质。然后,我们证明,建议的吉布斯采样器是可扩展的显着高维问题相比,使用一个接受拒绝或大都市-黑斯廷斯算法。最后,我们展示了所提出的方法对模拟和真实数据的有效性。
2015-05-04 stat.ME
Semi-Modular Inference: enhanced learning in multi-modular models by tempering the influence of components
University of Oxford(牛津大学)
本文提出半模ularity推断方法,通过调节组件影响提升多模块模型的学习效果,针对生成模型的不规范性问题提供改进方案。
2020-03-15 math.ST stat.ME stat.ML
Bayesian Hierarchical Emulators for Multi-Level Models: BayHEm
针对多层级模型仿真中顶层运行昂贵的问题,提出BayHEm方法,通过将上一层后验作为下一层先验构建贝叶斯分层GP仿真器,共享信息并限制参数总数,提升顶层仿真精度。
2025-02-24 stat.ME
Gene-gene interaction analysis incorporating network information via a structured Bayesian approach
越来越多的证据表明,基因-基因相互作用对人类疾病的生物学过程有重要影响。由于遗传测量的高维性,现有的互作分析方法通常受到缺乏足够信息的困扰,仍然不能令人满意。生物网络已经大量积累,使研究人员能够通过利用网络选择(由功能相关的生物标志物组成)以及网络结构从系统的角度来识别生物标志物。在主效应分析中,网络信息被广泛纳入,导致生物学上更有意义和更准确的估计。然而,在交互作用分析方面仍存在很大差距。在这项研究中,我们开发了一种新的结构化贝叶斯交互分析方法,有效地将网络信息。这项研究是第一个确定基因-基因相互作用的网络选择的帮助下,表型预测,同时适应底层网络结构。它创新地尊重主效应、交互和网络之间的多层次。贝叶斯方法被采用,它已被证明具有多个优点,比其他一些技术。提出了一种有效的变分推断算法来探索后验分布。广泛的仿真研究表明,所提出的方法的实际优势。对黑色素瘤和肺癌的TCGA数据的分析导致具有令人满意的预测准确性和选择稳定性的生物学上合理的发现。
2021-01-08 stat.ME
A simple sampler for the horseshoe estimator
本文提出一种简单贝叶斯采样器用于线性回归中的horseshoe层级结构,并探讨了其在逻辑回归和替代层级结构中的扩展应用。
2015-09-28 stat.CO
Learning bounded-degree polytrees with known skeleton
National University of Singapore(新加坡国立大学);University of Sydney(悉尼大学)
本文研究骨架已知时的有界度多树学习,提出多项式时间与样本复杂度的 d-多树学习算法,并用信息论下界证明其维度与精度依赖近乎最优。
2024-01-22 cs.DS cs.LG math.PR
Some models are useful, but how do we know which ones? Towards a unified Bayesian model taxonomy
针对贝叶斯模型定义与评估问题,提出PAD分类法定义四类模型,并给出十个效用维度及决策树以全面评估模型。
2023-09-25 stat.ME
Bayesian Inference for Discrete Markov Random Fields Through Coordinate Rescaling
University of Amsterdam(阿姆斯特丹大学)
本文提出了一种基于坐标重新缩放的采样方法,用于提高离散马尔可夫随机场中贝叶斯推断的效率和准确性。
2026-10-02 stat.ME
A Bayesian View of the Poisson-Dirichlet Process
NICTA(澳大利亚国家信息与通信技术研究院);Australian National University(澳大利亚国立大学)
双参数泊松-狄利克雷过程(PDP)是狄利克雷过程的推广,越来越多地用于语言技术、生物信息学和图像分析等离散领域的概率建模。关于PDP及其衍生分布,如中国餐馆过程(CRP),有丰富的文献。本文回顾了离散问题贝叶斯建模的一些基本理论和主要结果,包括先验、后验和计算细节。PDP允许在可数分区上构建分布。PDP有两个其他显着的属性:第一,它是部分共轭本身,这使得人们可以建立层次结构的PDP,第二,使用边缘化的相对CRP,一个得到的碎片和聚类属性,让一层分区,以建立树。本文介绍了理解划分和分布概念的基本理论,PDP和CRP,以及共轭,分裂和聚类的重要性质,以及一些关键的相关性质,如一致性和收敛性。本文还提出了一个贝叶斯解释的泊松-狄利克雷过程的基础上不适当的和无限维狄利克雷分布。这意味着我们可以将这个过程理解为另一个狄利克雷过程,因此它的所有采样性质都自然出现。PDP的理论通常是针对连续分布(更一般地称为非原子分布)提出的,然而,当应用于离散分布时,其显着的共轭性质出现。这方面的基本结果,以及技术计算二阶斯特林数发生在后验的离散分布。
2012-02-15 cs.LG math.PR math.ST
Log-Scale Shrinkage Priors and Adaptive Bayesian Global-Local Shrinkage Estimation
Monash University(莫纳什大学);The University of Melbourne(墨尔本大学)
全局-局部收缩层次是贝叶斯估计的一个重要创新。我们提出了使用对数尺度分布作为一种新的基础上生成家庭的先验分布的局部收缩超参数。通过改变尺度参数,可以改变先验分布在系数估计中促进稀疏性的程度。通过检查类分布的对数的局部收缩参数,有对数线性,或子对数线性的尾巴,我们表明,许多标准的先验分布的局部收缩参数可以统一的尾部行为和浓度特性,其相应的边缘分布的系数$β_j$。我们推导出$|β_j|=0$周围的浓度率的上限,和尾部衰减为$|β_j| \to \infty$,可实现这一广泛的一类先验分布。然后,我们提出了一种新的类型的超重尾先验,称为log- $t$先验的属性,无论相关的尺度参数的选择,边缘分布总是发散在$β_j = 0$,并始终具有超柯西尾。我们发展的结果表明,当先验分布(子)对数线性尾部达到Kullback-Leibler超有效性,并证明了对数- $t$先验分布总是超有效的。我们发现,日志- $t$先验是不太敏感的错误指定的全球收缩参数比马蹄铁或套索先验。通过将尺度参数的对数尺度先验分布的贝叶斯层次,我们得到新的自适应收缩程序。仿真结果表明,自适应log- $t$程序似乎总是表现良好,无论水平的稀疏性或信噪比的基础模型。
2020-01-30 cs.LG math.ST stat.TH
Bayesian Robust Learning in Chain Graph Models for Integrative Pharmacogenomics
对多水平药物基因组学数据进行综合分析,以建立各种生物学领域之间的依赖关系,对于开发基于基因组学检测的治疗方法至关重要。链图表征了这种多级数据的条件依赖结构,其中变量被自然地划分为多个有序层,由有向和无向边组成。现有的文献主要集中在高斯链图,这是不适合的非正态分布的重尾边缘,潜在地导致不准确的推断。我们提出了一个贝叶斯鲁棒链图模型(RCGM)的基础上随机变换的边缘使用高斯尺度的混合物来考虑节点级的非正态性连续的多变量数据。这种灵活的建模策略有助于识别非正常节点之间的条件符号依赖关系,同时仍然能够推断正常节点之间的条件依赖关系。在模拟中,我们证明了RCGM优于现有的高斯链图推理方法,从各种非正常机制产生的数据。我们将我们的方法应用于基因组,转录组和蛋白质组数据,以全面了解肺癌细胞系中药物反应和耐药性的潜在生物学过程。我们的分析揭示了关键信号通路对埃克替尼、厄洛替尼和奥希替尼等药物单药治疗的平台间和平台内依赖性,以及药物作用背后的分子机制的共享模式。
2021-11-22 stat.AP stat.ME