A Note on Consistency of the Bayes Estimator of the Density
在较弱的条件下,证明了密度Bayes估计的强相合性。此外,当样本大小达到$\infty$时,密度(即后验预测密度)的贝叶斯估计的贝叶斯风险(对于一些常见的损失函数)达到零。顺便说一下,对于抽样分布的估计也得到了类似的结果。
2021-11-24 math.ST stat.TH
New approaches to Bayesian consistency
我们使用鞅来研究贝叶斯一致性。我们推导出了Hellinger和Kullback-Leibler相容性的充分条件,这些条件不依赖于筛子的使用。替代的充分条件的Hellinger一致性也被发现和证明的例子。
2005-03-29 math.ST stat.TH
Consistency of the Bayes Estimator of a Regression Curve
证明了回归曲线的$L^1$平方损失函数的Bayes估计的强相合性。它也表明收敛到0的贝叶斯风险的估计都为$L^1$和$L^1$平方损失函数。回归曲线的贝叶斯估计量是关于后验预测分布的回归曲线。
2022-07-19 math.ST stat.TH
Bayesian Hierarchical Words Representation Learning
Microsoft(微软公司);Tel Aviv University(特拉维夫大学);Bar-Ilan University(巴伊兰大学)
本文提出了贝叶斯层次词表示(BHWR)学习算法。BHWR促进了变分贝叶斯词表示学习与通过分层先验的语义分类建模相结合。通过在相关词之间传播相关信息,BHWR利用分类法来提高这种表示的质量。几个语言数据集的评估表明,BHWR的优势,适当的替代品,促进贝叶斯建模或没有语义先验。最后,我们进一步表明,BHWR产生更好的表示罕见的话。
2020-04-12 cs.CL cs.LG stat.ML
Hierarchical Dependency Constrained Tree Augmented Naive Bayes Classifiers for Hierarchical Feature Spaces
Birkbeck, University of London(伦敦大学伯克贝克学院);University of Kent(肯特大学)
树增强朴素贝叶斯(TAN)分类器是一种概率图模型,它构造一个单亲依赖树来估计数据的分布。在这项工作中,我们提出了两个新的层次依赖的树增强朴素贝叶斯算法,即Hie-TAN和Hie-TAN-Lite。这两种方法都利用预定义的父子(泛化-专业化)之间的关系的功能作为一种类型的约束,学习树表示的依赖关系的功能,而后者进一步消除了分层冗余在分类器学习阶段。实验结果表明,Hie-TAN成功地获得了比其他几种层次依赖约束分类算法更好的预测性能,并通过消除层次冗余进一步提高了其预测性能,Hie-TAN-Lite获得了更高的准确率。
2022-02-08 cs.LG stat.ML
Both necessary and sufficient conditions for Bayesian exponential consistency
在过去的十年中,贝叶斯非参数过程的渐近理论有了显著的发展。指数一致性在这方面发挥了重要作用。已知$f_0$在先验的Kullback-Leibler支持下的条件不能保证后验的指数一致性。许多作者得到了后验的指数相合性的额外充分条件,例如,参见Schwartz(1965),Barron,Schervish and Wasserman(1999),Ghosal,Ghosh and Ramamoorthi(1999),Walker(2004),Xing and Ranneby(2008)。然而,由于Kullback-Leibler支持条件,很少知道的充要条件和充分条件。本文给出了一类既有充要条件。作为结果,我们得到了一个简单的贝叶斯指数一致性的充分条件,这是弱于以前的充分条件。
2008-12-05 math.ST stat.TH
Bayesian Hierarchical Invariant Prediction
Department of Technology, Management and Economics, Danish Technical University(丹麦技术大学技术、管理与经济系);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出贝叶斯分层不变预测(BHIP),通过分层贝叶斯框架重新定义不变因果预测(ICP),利用分层结构显式测试因果机制在异质数据下的不变性,提升计算可扩展性,并利用先验信息。
2026-04-04 cs.AI cs.LG stat.ME
Nonparametric Bayesian models of hierarchical structure in complex networks
分析和理解复杂关系数据的结构在许多应用中非常重要,包括分析人脑中的连通性。这样的网络在不同的尺度上可能有突出的模式,需要一个分层结构的模型。我们提出了两个非参数贝叶斯分层网络模型的吉布斯碎片树先验的基础上,并证明了他们的能力,捕捉嵌套模式在模拟网络。在真实的网络上,我们展示了层次结构的检测,并显示出与最先进水平相当的预测性能。我们设想,我们的方法可以用于探索性分析大规模复杂网络,例如模拟人脑连接。
2013-11-21 stat.ML
On Posterior Consistency of Tail Index for Bayesian Kernel Mixture Models
尾指数估计的渐近理论在极值的频率论文献中得到了广泛的研究,但很少在贝叶斯上下文中。我们研究流行的贝叶斯核混合模型是否能够支持重尾分布和一致的尾部指数估计。我们发现,尾部指数的后验不一致性在参数和非参数混合模型中都非常普遍。然后给出了一组尾部指标的后验一致性的充分条件,并对一般混合先验下的Pareto混合模型验证了这些条件.
2018-04-18 math.ST stat.TH
Comment: Bayesian Checking of the Second Levels of Hierarchical Models
注释:分层模型第二水平的贝叶斯检验[arXiv:0802.0743]
2008-02-06 stat.ME
Comment: Bayesian Checking of the Second Levels of Hierarchical Models
注释:分层模型第二水平的贝叶斯检验[arXiv:0802.0743]
2008-02-06 stat.ME
On Quantification of Borrowing of Information in Hierarchical Bayesian Models
本文通过非渐近框架和积分风险度量,系统研究了层次贝叶斯模型中共享超参数对信息借用的影响,并给出了更深层次模型优于嵌套模型的充分必要条件。
2025-09-22 math.ST stat.ME stat.ML
Consistency of Bayesian Inference for Multivariate Max-Stable Distributions
预测极端事件在风险分析的许多应用中非常重要。极值理论建议用最大稳定分布来模拟极值。贝叶斯方法为统计预测提供了一个自然的框架。虽然在单变量极值和多变量极值的文献中已经提出了各种贝叶斯推理程序,但对它们的渐近性质的研究在很大程度上没有触及。本文主要研究任意维极大稳定分布的半参数贝叶斯估计方法。我们建立了相关的后验分布的一致性相当普遍,明确规定的最大稳定模型,其利润率可以是短,轻或重尾。然后,我们扩展我们的一致性结果的情况下,数据来自一个分布躺在附近的一个最大稳定的,这代表了最现实的推理设置。
2020-09-20 math.ST stat.TH
Rejoinder: Bayesian Checking of the Second Levels of Hierarchical Models
反驳:分层模型第二层的贝叶斯检验[arXiv:0802.0743]
2008-02-06 stat.ME
BOSH: Bayesian Optimization by Sampling Hierarchically
Lancaster University(兰卡斯特大学)
贝叶斯优化(BO)用于具有随机评估的函数的部署,例如通过交叉验证和仿真优化的参数调整,通常优化目标函数的固定噪声实现集合的平均值。然而,以这种方式忽略真正的目标函数会找到错误函数的高精度最优值。为了解决这个问题,我们提出了贝叶斯优化分层采样(BOSH),一种新的BO例程配对的分层高斯过程与信息理论框架,以生成一个不断增长的实现池的优化进展。我们证明了BOSH在综合基准测试、仿真优化、强化学习和超参数调整任务中提供了比标准BO更高效、更高精度的优化。
2020-07-02 cs.LG stat.ML
Detailed Derivations of Small-Variance Asymptotics for some Hierarchical Bayesian Nonparametric Models
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
本文详细推导了分层狄利克雷过程(HDP)混合模型和HDP隐马尔可夫模型(HDP-HMM,a.k.a.无限HMM)。我们包括推导某些CRP和CRF分区的概率,这是更普遍的兴趣。
2014-12-31 cs.LG stat.ML
Variational Bayesian hierarchical regression for data analysis
用于分析或预测任务的收集的数据通常具有分层结构,例如,来自执行相同任务的各个人的数据。对数据结构进行建模可以提高导出结果的可靠性和新的未观测数据的预测性能。贝叶斯建模为设计层次模型提供了一个工具包。然而,通常用于参数估计的马尔可夫链蒙特卡罗方法在计算上昂贵。这通常使其在许多应用中不适用。然而,变分贝叶斯方法允许以少得多的计算工作量得到近似。本文描述了分层线性贝叶斯回归的变分近似的推导,并演示了其在数据分析中的应用。
2018-11-08 stat.AP
Bayes factor consistency
良好的大样本性能通常是任何模型选择标准的最低要求。本文重点讨论了贝叶斯因子的一致性性质,贝叶斯因子是一种常用的模型比较工具,最近在文献中受到了极大的关注。我们全面审查现有成果。由于存在要考虑的各种各样的设置,例如参数与非参数、嵌套与非嵌套等,我们认为一个统一的架构具有教育意义。利用Chib(1995)的基本边际似然恒等式,通过将边际似然比的自然对数分解为三个分量,研究了贝叶斯因子渐近性。这些分别是似然、先验密度和后验密度的对数比。这产生了一个解释的对数比的后验作为一个惩罚项,并强调,要理解贝叶斯因子的一致性,驱动后验一致性在每个相应的模型进行比较的先验支持条件应对比后验收缩率,他们暗示。
2016-07-01 math.ST stat.TH
Bayesian hierarchical stacking: Some models are (somewhere) useful
Columbia University(哥伦比亚大学);University of Ljubljana(卢布尔雅那大学);Aalto University(阿尔托大学)
堆叠是一种广泛使用的模型平均技术,其在线性平均值之间渐近地产生最优预测。我们发现,当模型预测性能在输入中是异质的时,堆叠是最有效的,并且我们可以用分层模型进一步改进堆叠的混合物。我们将堆叠推广到贝叶斯分层堆叠。模型权重作为数据的函数而变化,部分合并,并使用贝叶斯推断进行推断。我们进一步结合离散和连续的输入,其他结构化的先验,时间序列和纵向数据。为了验证所提出的方法的性能增益,我们推导出理论界,并证明了几个应用问题。
2021-05-20 cs.LG stat.ME stat.ML
A Hierarchical Bayesian Model for Frame Representation
在许多信号处理问题中,将所研究的信号表示在一个帧中可能是富有成效的。如果采用概率方法,则需要估计表征帧系数的概率分布的超参数。这个问题是困难的,因为通常帧合成算子不是双射的。因此,帧系数不是直接可观察的。本文介绍了一种用于帧表示的分层贝叶斯模型。推导了框架系数和模型超参数的后验分布。混合马尔可夫链蒙特卡罗算法随后提出了从这个后验分布的样本。然后利用所生成的样本来估计目标信号的超参数和帧系数。验证实验表明,所提出的算法提供了准确的帧系数和超参数的估计。图像去噪的实际问题的应用表明所得到的贝叶斯估计恢复的信号质量的影响。
2009-11-15 math.PR math.ST stat.ME
Comment: Bayesian Checking of the Second Level of Hierarchical Models: Cross-Validated Posterior Predictive Checks Using Discrepancy Measures
注释:分层模型第二水平的贝叶斯检验[arXiv:0802.0743]
2008-02-06 stat.ME
Posterior Consistency for Bayesian Inverse Problems through Stability and Regression Results
在贝叶斯方法中,关于数学模型的输入的先验知识通过概率测度来描述。然后,使用贝叶斯公式对未知输入和数据的联合分布进行调节,得到未知输入的后验分布。在这种情况下,我们证明非线性反问题的后验一致性:一个序列的数据被认为是一个单一的真理与周围的波动减少,然后它是有趣的,以显示所产生的序列的后验措施所产生的这个序列的数据集中在用于生成数据的真理。后验一致性证明了贝叶斯方法的使用非常相同的方式,误差界和收敛结果的正则化技术。作为一个指导性的例子,我们考虑的逆问题重建的扩散系数从噪声观测的解决方案,椭圆型偏微分方程的散度型。这个问题是通过分裂成基础的连续模型和一个更简单的观察运营商的基础上的模型的输出的前向运营商。一般来说,这些分裂使我们能够得出结论后验一致性提供了一个确定性的稳定性结果的基础逆问题和后验一致性结果的贝叶斯回归问题与前推先验。此外,我们证明后验一致性的贝叶斯回归问题的基础上的规则性,尾部行为和小球概率的先验。
2013-07-16 math.ST stat.TH
Risk and Regret of Hierarchical Bayesian Learners
MIT(麻省理工学院)
通常的统计实践表明,贝叶斯方法的全部功能在使用分层先验之前是无法实现的,因为这些先验允许更大的“鲁棒性”和“共享统计强度”的能力。“然而,这是一个持续的挑战,提供一个学习理论上健全的形式主义的概念,这些概念:提供有关何时以及如何最好地利用分层模型的实际指导;提供洞察什么是一个良好的分层先验;并且,当先验的形式已经选择,可以指导超参数设置的选择。我们提出了一套分析工具,用于理解在线和批处理学习设置中的分层先验。我们提供了遗憾的界限下的对数损失,这表明某些层次模型比较,在回顾中,最好的单一模型的模型类。我们还展示了如何转换贝叶斯日志损失的遗憾界到贝叶斯风险界的任何有界损失,结果可能是独立的利益。Student的$t$和分层高斯先验的风险和后悔界限允许我们形式化“鲁棒性”和“共享统计强度”的概念。“也研究了特征选择的先验。我们的研究结果表明,使用分层先验的学习理论的好处往往可以在实际问题上的成本很小。
2015-05-19 cs.LG stat.ML
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent(腾讯);University College Dublin(都柏林大学学院);Trinity College Dublin(都柏林圣三一学院)
针对贝叶斯层次混合聚类(BHMC)高层节点分离度弱的问题,提出对各层节点施加最大间隔约束的后验正则化方法,有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
A Hierarchical Distance-dependent Bayesian Model for Event Coreference Resolution
Cornell University(康奈尔大学)
提出了一种新的基于距离依赖的贝叶斯事件共指消解模型。虽然现有的生成模型的事件共指消解是完全无监督的,我们的模型允许合并事件提及之间的成对距离-信息,被广泛用于监督共指模型,以指导生成聚类处理更好的事件聚类内和跨文件。我们使用一个功能丰富的可学习的距离函数来模拟事件提及之间的距离,并将其编码为贝叶斯先验,用于非参数聚类。在ECB+语料库上的实验表明,我们的模型在文档内和跨文档事件共指消解方面都优于最先进的方法。
2015-09-25 cs.CL stat.ML
Hierarchical Bayesian Level Set Inversion
水平集方法自20世纪90年代系统发展以来,在界面反问题的研究中取得了广泛的成功。最近,它已被用于贝叶斯反演的背景下,允许量化的不确定性重建的接口。然而,贝叶斯方法是非常敏感的长度和幅度尺度的先验概率模型。本文演示了如何规模的敏感性,可以规避通过一个层次的方法,使用一个单一的标量参数。随着分层参数的变化,编码概率测度等价的算法的发展与仔细考虑一起,这导致了通过交替的Metropolis-Hastings更新的水平集函数和分层参数发现的定义良好的基于Gibbs的MCMC方法。这些方法明显优于非分层贝叶斯水平集方法。
2016-09-09 math.PR stat.ME
Statistical comparison of classifiers through Bayesian hierarchical modelling
Istituto Dalle Molle di studi sull’Intelligenza Artificiale (IDSIA)(达勒莫勒人工智能研究所 (IDSIA));University of Ljubljana(卢布尔雅那大学)
通常人们通过零假设显著性检验(nhst)来比较两个竞争分类器的准确性。然而,nhst测试遭受的重要缺点,这可以通过切换到贝叶斯假设检验克服。我们提出了一个贝叶斯分层模型,共同分析交叉验证结果,由两个分类器在多个数据集。它返回两个分类器的准确度实际上相等或显著不同的后验概率。分层模型的另一个优点是,通过联合分析所有数据集上获得的结果,与对给定数据集上获得的交叉验证结果进行平均的通常方法相比,它减少了估计误差。
2016-11-22 cs.LG stat.ME stat.ML
Bayes factors and the geometry of discrete hierarchical loglinear models
贝叶斯框架中模型选择的标准工具是贝叶斯因子,它比较两个给定不同模型下数据的边际似然性。本文研究了一类以列联表形式给出的多项抽样的离散数据的分层对数线性模型。我们假设Diaconis-Ylvisaker共轭先验是对数线性参数的先验分布,均匀先验是模型空间上的先验分布。在这些条件下,两个模型之间的贝叶斯因子是它们的先验和后验归一化常数的函数。这些常数是超参数$(m,α)$的函数,它们可以分别解释为虚拟列联表的边际计数和总计数。我们研究了当$α$趋于零时贝叶斯因子的行为。在这项研究中,两个数学对象起着最重要的作用。它们是,第一,内部$C$的凸包$\bar{C}$的支持的多项式分布的一个给定的分层对数线性模型连同它的脸,第二,这个凸集$C$的特征函数$\mathbb{J}_C$。我们表明,当$α$趋于0,如果数据位于一个面$F_i$的$\bar{C_i},i=1,2$的尺寸$k_i$,贝叶斯因子的行为像$α^{k_1-k_2}$。这特别意味着当数据在$C_1$和$C_2$中时,即当$k_i$等于模型$J_i$的维数时,更稀疏的模型更受欢迎,从而证实了贝叶斯正则化的思想。
2011-10-20 math.ST stat.TH
Application of Bayesian Hierarchical Prior Modeling to Sparse Channel Estimation
用于稀疏信道估计的现有方法通常提供作为最大化目标函数的解来计算的估计,该目标函数被定义为对数似然函数和与感兴趣的参数的l1范数成比例的惩罚项的和。然而,其他惩罚项已被证明具有很强的稀疏诱导属性。在这项工作中,我们设计了导频辅助信道估计OFDM无线接收机的框架内的稀疏贝叶斯学习,通过定义层次贝叶斯先验模型,导致稀疏诱导惩罚条款。估计的结果作为一个应用程序的变分的消息传递算法的因素图表示的信号模型扩展的分层先验模型。数值结果表明,我们的信道估计相比,传统的和国家的最先进的稀疏方法的优越性能。
2012-04-03 stat.ML
Hierarchical Stochastic Model in Bayesian Inference: Theoretical Implications and Efficient Approximation
本文将文献中的多层贝叶斯模型分为两类,即多层先验模型(HPM)和多层随机模型(HSM)。然后,我们重点研究了高速模型的理论含义。使用多项式函数的例子,我们表明,HSM是能够分离系统中不同类型的不确定性和量化的降阶模型的不确定性下的贝叶斯模型类选择框架。针对高速模型分析计算量大的问题,提出了一种基于重要性抽样和经验插值方法的高速模型逼近方法。我们用两个例子来说明我们的方法-氪的分子动力学模拟和抗癌药物的药代动力学/药效学模型。
2016-11-09 stat.AP
Bayesian Sample Size Determination for Planning Hierarchical Bayes Small Area Estimates
本文设计了一种基于决策风险的分层模型小区域估计的完全贝叶斯样本量确定方法。围绕所需的最大后验方差目标指定的新损失函数实现了估计可靠性的传统官方统计标准(变异系数高达20%)。这种方法附带一种高效的二分搜索算法,可识别在此阈值约束下生成小面积估计所需的最小有效样本量。然后,可使用传统的调查抽样设计工具,利用由此产生的有效样本量目标,规划适当的数据收集。这种方法是说明在一个案例研究的小面积流行的生活限制健康问题的6个年龄组在英格兰北部的1,956个小地区,使用最近开发的集成嵌套拉普拉斯近似方法的空间广义线性混合层次模型。
2018-02-26 stat.ME
Bayes-Factor-VAE: Hierarchical Bayesian Deep Auto-Encoder Models for Factor Disentanglement
Samsung AI Center(三星人工智能中心);Rutgers University(罗格斯大学)
我们提出了一系列新型分层贝叶斯深度自动编码器模型,能够识别数据变异性的分解因素。虽然最近的许多尝试因素解开集中在复杂的学习目标的VAE框架内,他们选择的标准正常的潜在因素之前是次优和有害的性能。我们的关键观察是,解开的潜在变量负责的主要来源的变异性,相关因素,可以更适当地使用长尾分布建模。另一方面,典型的高斯先验更适合于滋扰因素的建模。出于这一动机,我们通过引入高斯潜在先验方差的超先验,模仿无限混合,同时保持传统VAE的易处理的学习和推理,将VAE扩展到分层贝叶斯模型。这一分析表明,以不同的方式划分和处理相应的相关因素和滋扰的潜在层面的重要性。我们提出的模型,被称为贝叶斯因子VAE,表现出优于现有的方法在定量和定性方面的潜在解开在几个具有挑战性的基准任务。
2019-09-06 cs.CV cs.LG stat.ML
Visualisation for Exploratory Modelling Analysis of Bayesian Hierarchical Models
针对贝叶斯分层模型开发中结构选择的挑战,本文提出基于稳健原则的新型可视化方法,通过参数/超参数比较多模型,结合PISA数据案例验证其能辅助模型选择并增强决策合理性。
2024-12-04 stat.AP stat.ME
Multilevel and hierarchical Bayesian modeling of cosmic populations
宇宙人口的人口学研究必须与测量误差和选择效应作斗争。我们调查的一些关键的想法天文学家已经开发出处理这些并发症,在银河系调查和文学Malmquist和爱丁顿偏差的校正的背景下。从现代统计学的角度来看,这种修正在多水平模型的背景下自然出现,特别是在贝叶斯处理这种模型时:分层贝叶斯模型。我们调查了分层贝叶斯模型的一些关键教训,包括收缩估计,这是密切相关的天文学家设计的传统修正。我们描述了一个框架,层次贝叶斯模型的宇宙人口,量身定制的天文调查,是不是典型的调查在其他学科的功能。这种细化的潜在标记点过程框架占选择(检测)和测量之间的联系,在天文调查,治疗选择和测量误差的影响,在一个自洽的方式。
2019-11-27 astro-ph.IM stat.AP
Hellinger Distance and Bayesian Non-Parametrics: Hierarchical Models for Robust and Efficient Bayesian Inference
本文介绍了一个层次化的框架,将Hellinger距离方法贝叶斯分析。我们建议修改先验的非参数密度的指数的两倍之间的候选人和参数密度的Hellinger距离。通过将先验的第二密度的参数,我们到达一个层次模型,其中的非参数模型之间的参数和数据。族的参数然后可以被估计为模型中的超参数。在频率估计中,最小化核密度估计和参数族之间的Hellinger距离已被证明可以产生对离群值具有鲁棒性的估计量,并且在参数模型正确时具有统计效率。在本文中,我们证明了同样的结果是适用时,非参数贝叶斯密度估计取代核密度估计。然后,我们证明了所提出的分层模型的鲁棒性和效率。有限样本的估计行为进行了研究,通过模拟和现实世界的数据。
2013-09-26 stat.ME
Hierarchical Bayesian modeling of fluid-induced seismicity
在这项研究中,我们提出了一个贝叶斯层次框架来模拟流体诱发的地震活动。该框架是基于一个非齐次泊松过程(NHPP)与流体诱发地震率成比例的注入流体的速率。流体诱发地震率模型依赖于一组物理上有意义的参数,并已验证了六个流体诱发的案例研究。根据分层贝叶斯建模的观点,将速率参数视为随机变量。我们开发的贝叶斯推断和更新规则,这是用来开发一个概率预测模型。我们测试了巴塞尔2006年流体诱发地震的案例研究,以证明层次贝叶斯模型提供了一个合适的框架,连贯编码认知的不确定性和偶然的变化。此外,它提供了一个强大的和一致的短期地震预测模型,适用于在线风险量化和缓解。
2017-11-24 stat.AP
Hierarchical Bayesian Personalized Recommendation: A Case Study and Beyond
Facebook Inc(脸书公司)
现代推荐系统中的项目通常以层次结构组织。这些层次结构和其中的数据为构建个性化推荐系统提供了有价值的信息。在本文中,我们提出了一个通用的分层贝叶斯学习框架,即,\emph{HBayes},学习结构和相关的潜在因素。此外,我们开发了一个变分推理算法,能够学习模型参数,经验收敛速度快。建议HBayes评估两个现实世界的数据集,从不同的领域。结果表明,我们的方法的项目推荐任务的好处,并表明,它可以优于国家的最先进的模型在精度,召回率和归一化的折扣累积增益。为了鼓励可重复的结果,我们在git repo上公开了我们的代码:\url{https://tinyurl.com/ycruhk4t}。
2019-08-20 cs.IR cs.LG stat.ML
Income, education, and other poverty-related variables: a journey through Bayesian hierarchical models
本研究提出使用贝叶斯分层模型分析泰国多分辨率治理结构中的贫困相关变量,发现其优于完全池化和无池化模型,并揭示教育在地区与家庭收入间起中介作用。
2023-08-31 math.ST stat.AP stat.ME
Consistency of Bayesian nonparametric inference for discretely observed jump diffusions
我们引入可验证的标准弱后验一致性的可识别贝叶斯非参数推断跳跃扩散与单位扩散系数和一致Lipschitz漂移和跳跃系数在任意维。该标准用描述该过程的随机微分方程的系数来表示,并且不依赖于跃迁密度等棘手的量。我们还表明,产品的离散网络和狄利克雷混合模型先验满足我们的条件下,再次可识别的假设。这概括了已知的结果,将跳跃到以前的工作单位扩散一致Lipschitz漂移系数。
2018-09-14 math.PR math.ST stat.TH
Flexible and Hierarchical Prior for Bayesian Nonnegative Matrix Factorization
在本文中,我们介绍了一个概率模型学习非负矩阵分解(NMF),通常用于预测缺失值和发现隐藏模式的数据,其中矩阵因子是与每个数据维度相关的潜在变量。潜在因子的非负约束通过选择在非负子空间上具有支持度的先验来处理。贝叶斯推理过程的基础上吉布斯抽样。我们在几个真实世界的数据集上评估了该模型,包括具有不同大小和维度的MovieLens 100K和MovieLens 1M,并表明与现有的贝叶斯NMF方法相比,所提出的贝叶斯NMF GRRN模型可以实现更好的预测并避免过拟合。
2022-06-20 cs.IT cs.LG math.IT
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics(洞察数据分析中心);University College Dublin(都柏林大学);Maynooth University(梅努斯大学)
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中,每个数据项与恰好一个叶节点相关联,并且每个内部节点与存储在其下的子树中的所有数据项相关联,使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法,该方法结合了嵌套中餐厅过程(nCRP)和分层狄利克雷过程(HDP)。与其他现有的贝叶斯方法相比,我们的解决方案处理的数据与复杂的潜在的混合特征,以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外,在三个数据集上的实验表明,与现有的算法相比,我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
Comment: Bayesian Checking of the Second Levels of Hierarchical Models
我们讨论了Evans和Moshonov [Bayesian Analysis 1(2006)893- 914,Bayesian Statistics and Its Applications(2007)145- 159]关于检查先验数据冲突的方法及其与本文提出的方法的相关性。[arXiv:0802.0743]
2008-02-06 stat.ME
Hierarchical Bayesian sparse image reconstruction with application to MRFM
本文提出了一种分层贝叶斯模型,当观测值由线性变换获得并被加性高斯白噪声破坏时,重建稀疏图像。我们的分层贝叶斯模型非常适合于这种自然稀疏的图像应用,因为它无缝地通过适当的贝叶斯先验解释了图像的稀疏性和积极性等属性。我们提出了一个先验,是基于一个加权的混合正指数分布和质量为零。先验具有通过分层贝叶斯模型的边缘化自动调整的超参数。为了克服后验分布的复杂性,提出了一种Gibbs抽样策略。吉布斯样本可以用于估计要恢复的图像,例如通过最大化估计的后验分布。在我们的完全贝叶斯方法中,所有参数的后验均可用。因此,我们的算法提供了更多的信息比其他以前提出的稀疏重建方法,只给一个点估计。我们的分层贝叶斯稀疏重建方法的性能说明合成和真实的数据从烟草病毒样本使用原型MRFM仪器。
2009-09-23 cs.IT math.IT physics.data-an
Nonparametric Bayesian Topic Modelling with the Hierarchical Pitman-Yor Processes
The Australian National University(澳大利亚国立大学);Data61/NICTA;Monash University(莫纳什大学);Duke University(杜克大学)
Dirichlet过程及其扩展Pitman-Yor过程是以概率分布为参数的随机过程。这些过程可以堆叠起来形成分层非参数贝叶斯模型。在这篇文章中,我们提出了有效的方法来使用这些过程在这个层次的背景下,并将其应用到文本分析的潜变量模型。特别是,我们提出了一个通用的框架来设计这些贝叶斯模型,这被称为主题模型在计算机科学界。然后,我们提出了一个特定的非参数贝叶斯主题模型从社交媒体的文本建模。我们在这篇文章中关注tweets(Twitter上的帖子),因为它们易于访问。我们发现,我们的非参数模型比现有的参数模型在拟合优度和现实世界中的应用。
2016-09-22 cs.CL cs.LG stat.ML
Parallel hierarchical sampling: a practical multiple-chains sampler for Bayesian model selection
本文介绍了并行分层采样器(PHS),一种同时使用多个链的马尔可夫链蒙特卡罗算法。说明了PHS与并行回火(PT)算法之间的联系,证明了PHS联合转移核的收敛性,强调了PHS联合转移核的实用优势。我们说明了使用PHS,并行回火和梅特罗波利斯-黑斯廷斯算法的贝叶斯模型选择问题,即高斯聚类,协变量的选择线性回归模型和选择的结构树生存模型的推断。
2008-12-08 stat.CO stat.ME
Bayesian hierarchical modelling for inferring genetic interactions in yeast
鉴定给定微生物如酵母的遗传相互作用是困难的。定量适合度分析(QFA)是一种用于定量微生物培养物适合度的高通量实验和计算方法。QFA可用于比较不同基因型的适合度观测值,从而推断遗传互作强度。目前的“天真”的频率统计方法中使用的QFA不模型之间的基因型变异或不同条件下的基因型变异的差异。在这篇论文中,贝叶斯方法被引入到评估层次模型,更好地反映结构或设计的QFA实验。首先,提出了一个两阶段的方法:一个层次的逻辑模型拟合微生物培养生长曲线,然后一个层次的相互作用模型拟合每个基因型推断的健身总结。接下来,一个阶段的贝叶斯方法:一个联合层次模型,不需要一个单变量的健身总结,用于模型之间传递信息。新的分层方法,然后使用数据集检查端粒缺陷对酵母的影响进行比较。通过更好地描述实验结构,发现了与端粒帽相互作用的基因和复合物的新证据。这些模型的各种扩展,包括模型的数据转换,批量效应,本质上随机增长模型也被认为是。
2014-05-27 math.ST stat.AP stat.CO
Bayesian inference in hierarchical models by combining independent posteriors
层次模型是用于对来自不同但相关的源的数据集进行联合建模的通用工具。然而,如果特定于源的数据模型是复杂的,或者如果源的数量非常大,则完全贝叶斯推断可能在计算上变得禁止。为了便于计算,我们提出了一种方法,其中的推理是第一次独立的每个数据集的参数,从而获得的后验样本被用来作为观测数据的替代分层模型,基于缩放的似然函数。与完全分层模型中的直接推理相比,该方法的优点是能够通过将初始大推理问题分解为具有更好收敛特性的较小个体子问题来加快收敛。此外,它使并行处理的可能复杂的推断的源特定的参数,否则可能会创建一个计算瓶颈,如果共同处理的一部分,一个分层模型。该方法与模拟和真实的数据进行说明。
2016-04-13 stat.CO stat.ME stat.ML
Scalable Rejection Sampling for Bayesian Hierarchical Models
贝叶斯分层建模是一种流行的方法来捕捉未观察到的异质性在各个单位。然而,标准的估计方法,如马尔可夫链蒙特卡罗(MCMC)的建模结果,从大量的单位可能是不切实际的。本文提出了一种新的贝叶斯模型的后验分布抽样方法,而不需要使用MCMC。样本是独立的,所以它们可以并行收集,我们不需要关心链收敛和自相关等问题。该算法在单个单元条件独立的弱假设下是可扩展的,使其适用于大型数据集。它也可以用来计算边际似然。
2014-11-02 stat.CO stat.ME
Generalized Direct Sampling for Hierarchical Bayesian Models
本文提出了一种不使用马尔可夫链蒙特卡罗的分层模型后验分布抽样的新方法。这种方法是重要性抽样思想的一种变体,通常适用于涉及大数据集的高维模型。样本是独立的,所以它们可以并行收集,我们不需要关心链收敛和自相关等问题。此外,该方法可用于计算边际似然。
2012-08-09 stat.CO stat.ME
Bayesian Hierarchical Copula Models with a Dirichlet-Laplace Prior
本文针对金融时间序列聚类提出贝叶斯分层copula模型,采用Dirichlet-Laplace全局-局部收缩先验解决后验不适定问题并刻画聚类间依赖,通过模拟和真实数据验证性能。
2025-02-06 stat.ME
A Bayes factor with reasonable model selection consistency for ANOVA model
对于方差分析模型,我们提出了一个新的基于g先验的贝叶斯因子,没有积分表示,合理的模型选择一致性的任何渐近情况下(无论是因子的水平数和/或在每个水平的重复数趋于无穷大)。精确的分析计算的边缘密度下的先验的特殊选择,使这样的贝叶斯因子。
2012-06-13 stat.ME
Bayesball: A Bayesian hierarchical model for evaluating fielding in major league baseball
统计建模在棒球中的应用最近在媒体和学术界都受到了极大的关注。我们专注于一个相对未充分探讨的主题:使用统计模型的分析,基于高分辨率的数据组成的现场位置的击球防守。我们结合空间建模与层次贝叶斯结构,以评估个人的外野手的表现,同时在每个位置的外野手之间共享信息。我们目前的结果在四个赛季的MLB数据(2002- 2005年),并比较我们的方法与其他的外场评估程序。
2009-08-14 stat.AP
Hierarchical Bayes meets hierarchical forecasting: A flexible framework for level-focused forecasts
Queensland University of Technology(昆士兰科技大学)
提出全贝叶斯层次预测框架,通过层级间信息共享和软惩罚不连贯性,聚焦决策相关层级,提升预测精度。
2026-06-23 stat.ME
Nonparametric hierarchical Bayesian quantiles
在这里,我们开发了一种方法进行非参数贝叶斯推断的分位数。依靠几何测度理论和采用Hausdorff基测度,我们能够指定有意义的先验的分位数,而处理的数据分布,否则非参数。我们进一步扩展的方法,一个层次模型的分位数的亚群,仅通过他们的分位数连接在一起的子组。我们的方法是计算简单,允许审查和噪声数据。我们展示了模拟数据和应用问题,从体育统计,它被观察到稳定和改善推理和预测的建议的方法。
2016-05-11 stat.ME