The Pólya sum kernel and Bayes estimation
我们认为一个特定的Cox过程从贝叶斯的观点和贝叶斯估计的强度措施是所谓的Pólya和内核,最近发生的背景下,建设的所谓的Papangelou过程。更准确地说,如果先验,考克斯过程的直接测度,是泊松-伽马随机测度,那么后验也是泊松-伽马随机测度,强度的贝叶斯估计是波利亚和核。此外,我们将这一结果扩展到双随机Poisson-Gamma先验,并给出了条件下,人们可以确定的贝叶斯估计的强度。
2012-05-10 math.PR math.ST stat.TH
Modeling complex species-environment relationships through spatially-varying coefficient occupancy models
针对传统占据模型假设物种-环境关系系数恒定的不足,研究开发了单/多物种空间变系数占据模型,结合高效贝叶斯计算方法,经草原鸟类数据验证多物种模型更优,可支撑大尺度生态研究。
2023-08-04 stat.AP
Dependent Multinomial Models Made Easy: Stick Breaking with the Pólya-Gamma Augmentation
许多实际建模问题涉及离散数据,这些数据最好表示为来自多项式或分类分布的数据。例如,DNA序列中的核苷酸、给定州和年份中的孩子的名字以及文本文档都通常用多项分布建模。在所有这些情况下,我们预期抽签之间存在某种形式的依赖性:DNA链中某个位置的核苷酸可能取决于前面的核苷酸,孩子的名字每年都高度相关,文本中的主题可能是相关的和动态的。这些依赖关系并不自然地被典型的狄利克雷多项式公式所捕获。在这里,我们利用一个逻辑棒打破表示和最近的创新Pólya-gamma增强重新制定的多项分布的潜变量与联合高斯似然,使我们能够利用主机的贝叶斯推断技术的高斯模型,以最小的开销。
2015-06-18 stat.ML
Bayesian Few-Shot Classification with One-vs-Each Pólya-Gamma Augmented Gaussian Processes
Vector Institute, University of Toronto(向量研究所,多伦多大学)
Few-Shot分类(FSC)是在给定小的标记数据集的情况下使分类器适应看不见的类的任务,是迈向类人机器学习的重要一步。贝叶斯方法非常适合解决在Few-Shot场景中过度拟合的基本问题,因为它们允许从业者指定先验信念并根据观察到的数据更新这些信念。当代的贝叶斯Few-Shot分类方法保持了模型参数的后验分布,这很慢,并且需要随模型大小而扩展的存储。相反,我们提出了一个基于Pólya-Gamma增强和one-vs-each softmax近似的新组合的高斯过程分类器,使我们能够有效地边缘化函数而不是模型参数。我们证明了改进的准确性和不确定性量化标准的Few-Shot分类基准和Few-Shot域转移任务。
2021-01-21 cs.LG stat.ML
Geometric ergodicity of Polya-Gamma Gibbs sampler for Bayesian logistic regression with a flat prior
逻辑斯谛回归模型是分析二进制数据最常用的模型。在贝叶斯逻辑斯谛回归模型中,在没有先验信息的情况下,回归系数往往采用不适当的平坦先验。由此产生的顽固性后壁密度可以通过运行Polson et al.的(2013)数据增强(DA)算法。在本文中,我们建立了马尔可夫链的基础上Polson等人。的(2013)DA算法是几何遍历的。证明这一理论结果具有重要的实际意义,因为它保证了有限二阶矩条件下样本平均值的中心极限定理的存在性。CLT又允许DA算法的用户计算后验估计的标准误差。
2018-07-02 math.ST stat.TH
Efficient Gibbs Sampling in Cox Regression Models Using Composite Partial Likelihood and Pólya-Gamma Augmentation
针对Cox回归贝叶斯方法基线风险建模复杂、计算低效的问题,提出GS4Cox全吉布斯采样器,结合广义贝叶斯框架、复合部分似然、Pólya-Gamma增强及仿射校准,实现高效采样并提升估计性能。
2025-11-18 stat.ME
The Cox-Polya-Gamma Algorithm for Flexible Bayesian Inference of Multilevel Survival Models
本文提出Cox-Polya-Gamma算法,通过泊松过程近似与充分降维策略,解决贝叶斯多层Cox半参数回归中非参数基线累积风险的单调性约束计算难题,并给出算法的一致遍历性条件。
2024-11-23 stat.ME
Bayesian Analysis of Dynamic Linear Topic Models
Duke University(杜克大学);Sciome, LLC(Sciome有限责任公司)
在动态主题建模中,主题对文档的贡献比例取决于该主题在语料库中的总体流行度的时间动态。我们扩展了Blei和Lafford(2006)的动态主题模型,通过显式地建模文档级别的主题比例与协变量和动态结构,包括多项式趋势和周期性。一个马尔可夫链蒙特卡罗(MCMC)算法,利用Polya-Gamma数据增强的后验推理。模型和采样的条件独立性是明确的,我们的MCMC算法是并行的,在可能的情况下,允许在大型语料库中的推理。为了解决与Polya-Gamma采样相关的计算瓶颈,我们呼吁中心极限定理开发一个高斯近似的Polya-Gamma随机变量。这种近似对于文本挖掘领域中相关的参数值是快速和可靠的。我们的模型和推理算法进行了验证与多个模拟的例子,我们认为在PubMed摘要建模趋势的应用。我们证明了跨文档共享信息对于准确估计文档特定主题比例至关重要。我们还表明,显式建模多项式和周期性行为提高了我们的能力,预测主题流行在未来的时间点。
2015-11-12 cs.LG stat.ME stat.ML
Some Relationships and Properties of the Hypergeometric Distribution
二项分布和泊松分布分别与贝塔分布和Γ分布有着有趣的关系,这涉及到它们的累积分布函数和贝叶斯统计中共轭先验的使用。我们简要地讨论了这些关系以及由此产生的一些性质,这些性质在构造精确嵌套双侧置信区间和计算双尾P值中起着重要的作用。本文的目的是证明这种关系也存在于超几何分布和Polya(或β-二项)分布的一种特殊情况之间,并由此导出超几何分布的一些性质。关键词:Beta、二项式、Gamma、Poisson和Polya(或beta-二项式)分布;共轭先验分布;累积分布函数;后验分布。
2016-10-24 math.ST stat.TH
Clustering dynamics in a class of normalised generalised gamma dependent priors
标准化广义伽玛过程是随机概率测度,其导致广泛用于贝叶斯统计的非参数先验分布,特别是用于混合建模。我们构造了一类由Moran型平稳种群模型诱导的依赖归一化广义Gamma先验,该模型利用了与先验相关的广义Pólya urn方案。我们研究了样本中集群数量的动态的渐近缩放,这反过来又提供了一个动态的措施,在底层人口的多样性。极限形式化为一个正的非平稳扩散过程,它落在众所周知的家庭,无界漂移和入口边界的起源。我们还引入了一类新的平稳正扩散,其不变测度是显式的,并具有幂律尾,弱逼近标度极限。
2016-11-04 math.PR math.ST stat.TH
spOccupancy: An R package for single-species, multi-species, and integrated spatial occupancy models
占领建模是一种常见的方法来评估空间和时间的物种分布模式,同时明确占测量误差常见的检测-非检测数据。基本的单物种占有模型存在许多扩展,以解决动态,多个物种或状态,相互作用,假阳性错误,自相关,并整合多个数据源。然而,开发专门的和计算效率高的软件,以适应空间模型的大型数据集是稀缺或缺乏。我们介绍了spOccupational R包,旨在适应单物种,多物种,和集成的空间明确的占用模型。使用贝叶斯框架,我们利用Pólya-Gamma数据增强和最近邻高斯过程来确保模型对于潜在的海量数据集具有计算效率。spOccupational为数据模拟、模型拟合、模型验证(通过后验预测检查)、模型比较(使用信息标准和k折交叉验证)和样本外预测提供了用户友好的功能。我们通过一个小插曲,模拟数据分析,和两个鸟的案例研究,我们估计发生的黑喉绿莺(Setophaga virens)在整个美国东部和物种丰富度的树叶拾荒鸟类社区在美国新罕布什尔州的哈伯德溪实验森林的功能。spOccupational软件包提供了一种用户友好的方法来拟合各种单一和多物种占用模型,即使对于大型数据集,也可以直接解决物种分布模型中的检测偏差和空间自相关问题。
2022-05-03 stat.AP
Compound random measures and their use in Bayesian nonparametrics
提出了一类新的相依随机测度,我们称之为{ \it复合随机测度},并考虑了在贝叶斯非参数混合模型中使用这些随机测度的归一化形式作为先验.它们的易处理性允许复合随机措施和归一化复合随机措施的属性来推导。特别是,我们展示了如何复合随机措施,可以与伽玛,$σ$稳定和广义伽玛过程边际。我们还推导了拉普拉斯指数的几种形式,并通过Lévy copula和相关函数来描述依赖性。在非参数混合模型中,当混合测度为归一化复合随机测度时,给出了用于后验推断的切片采样器和增广Pólya urn方案采样器,并给出了数据实例.
2015-09-02 stat.ME
Bayesian Inference in Recurrent Explicit Duration Switching Linear Dynamical Systems
University of Wroclaw(弗罗茨瓦夫大学)
本文提出REDSLDS模型,通过引入循环显式持续时间变量并采用Pólya-gamma增广进行推断,在三个基准数据集上提升了分割能力。
2024-11-06 cs.AI cs.LG math.DS
Some Bayesian Perspectives on Clinical Trials
George Mason University(乔治梅森大学)
本文通过贝叶斯框架分析三个临床试验案例,提出两臂二项式试验的精确逆向归纳方法,改进样本量和功率平衡,适用于罕见病等患者节省场景。
2026-02-11 stat.ME
Multivariate mixed membership modeling: Inferring domain-specific risk profiles
在一个分类方案中,描述个体的共享成员身份会带来严重的可解释性问题,即使使用中等数量的类(比如4个)。混合隶属度模型量化了这一现象,但它们通常更关注拟合优度而不是可解释的推断。为了实现良好的数值拟合,这些模型实际上可能需要许多极端剖面,使得结果难以解释。我们引入了一类新的多元混合隶属度模型,当变量可以被划分为基于主题的域,可以提供一个很好的适合的数据使用更少的配置文件比标准配方。所提出的模型明确占块的变量对应的不同的域以及跨域的相关性结构,这提供了新的信息共享的成员资格的个人在一个复杂的分类方案。我们指定一个多元逻辑正态分布的成员向量,这使得很容易引入辅助信息,利用潜在的多元逻辑斯谛回归。贝叶斯推理方法依赖于Pólya伽马数据增强,通过马尔可夫链蒙特卡罗促进有效的后验计算。我们将这种方法应用于巴西亚马逊边境疟疾风险随时间变化的空间显式研究。
2020-12-31 stat.AP
spNNGP R package for Nearest Neighbor Gaussian Process models
本文描述并说明了spNNGP R包的功能。该软件包为空间索引的高斯和非高斯点参考结果提供了一套空间回归模型。该软件包实现了几个马尔可夫链蒙特卡罗(MCMC)和无MCMC的最近邻高斯过程(NNGP)模型,用于推断大型空间数据。使用NNGP Polya-Gamma潜在变量对非高斯结果进行建模。为了利用多处理器系统,提供了OpenMP并行化选项。包功能说明使用模拟和真实的数据集。
2021-04-15 stat.CO
Locally Adaptive Dynamic Networks
我们的重点是现实建模和预测个人之间的面对面接触的动态网络。导致当前方法问题的此类数据的重要方面包括接触在缓慢和快速变化的时期之间移动的趋势,以及参与者的连接行为的动态异质性。受此应用的启发,我们开发了一种新的局部自适应动态(LADY)网络推理方法。该模型依赖于一个动态的潜在空间表示,其中每个演员的位置通过随机微分方程随时间演变。使用这些随机过程的状态空间表示和Pólya-gamma数据增强,我们开发了一种有效的MCMC算法,用于后验推理以及在线更新和预测未来网络的易处理程序。我们在模拟研究中评估性能,并考虑在一所小学的个人之间的面对面的接触的应用。
2016-08-18 stat.AP stat.ML
A New Spatial Count Data Model with Bayesian Additive Regression Trees for Accident Hot Spot Identification
事故热点识别是道路安全管理的中心任务。贝叶斯计数数据模型已经成为生产道路网络中的危险场所的概率排名的主力方法。通常,这些方法假设简单的线性链接函数规范,然而,这限制了模型的预测能力。此外,由于需要考虑未观察到的异质性和空间相关性而产生的复杂模型结构,排除了广泛的规格搜索。现代机器学习(ML)方法提供了自动化链接函数规范的方法。然而,这些方法不捕捉估计的不确定性,它也很难纳入空间相关性。鉴于这些文献中的空白,本文提出了一种新的空间负二项模型,它使用贝叶斯加性回归树内生地选择连接函数的规格。在所提出的模型的后验推理是可行的Polya-Gamma数据增强技术的帮助下。我们测试这个新模型的性能,从一个大都市的高速公路网络的碰撞计数数据集。实证结果表明,所提出的模型执行至少以及基线空间计数数据模型与随机参数的拟合优度和网站排名能力。
2020-05-24 stat.AP
Efficient Bayesian Inference for a Gaussian Process Density Model
Artificial Intelligence Group(人工智能组);Technische Universität Berlin(柏林工业大学)
我们重新考虑一个基于高斯过程的非参数密度模型。通过增广模型与潜在的Pólya-Gamma随机变量和潜在的标记泊松过程,我们得到了一个新的似然共轭模型的高斯过程的先验。增强后允许有效的推理吉布斯抽样和近似变分平均场方法。对于后者,我们利用稀疏GP近似来解决无限维的问题。这两种算法的性能和与其他密度估计的比较,证明了人工和真实的数据集,多达几千个数据点。
2018-05-29 cs.LG stat.ML
Microbiome subcommunity learning with logistic-tree normal latent Dirichlet allocation
混合隶属度(MM)模型,如潜在狄利克雷分配(LDA)已被应用于微生物组成数据,以确定潜在的亚群落的微生物物种。这些亚群落对于理解微生物的生物相互作用和预测健康结果是有用的。然而,微生物组组成通常在亚群落组成中显示出实质性的跨样品异质性-即样品间共享亚群落中微生物比例的变异性-这在先前的分析中没有考虑到。因此,LDA可以产生推理,这是高度敏感的规格的数量的子社区,往往把一个单一的子社区到多个人工的。为了解决这个问题,我们将逻辑树正常(LTN)模型LDA形成一个新的MM模型。该模型允许每个子社区的组成围绕一些定义子社区的“质心”组成进行跨样本变化。结合辅助Pólya-Gamma变量,使计算效率高的崩溃块吉布斯采样器进行贝叶斯推断在这个模型下。通过考虑这种异质性,我们的新模型恢复了子社区数量规范中的推断的鲁棒性,并允许识别有意义的子社区。
2022-05-17 stat.AP stat.ML
Zero-inflated stochastic volatility model for disaggregated inflation data with exact zeros
The University of Tokyo(东京大学)
本文提出零膨胀随机波动模型,用于处理包含精确零的分解通胀数据,通过联合动态零生成过程提升时变趋势和波动率估计的准确性,并在预测中表现更优。
2026-03-03 stat.AP stat.ME
Nonparametric Bayes dynamic modeling of relational data
对称二元矩阵表示实体之间的关系,在许多领域中是常见的。我们的重点是动态发展的二元关系矩阵,与兴趣是在推理的关系结构和预测。我们提出了一个非参数贝叶斯动态模型,它降低了通过低维潜在空间表示的特征的二进制矩阵的维数,通过高斯过程的潜坐标在连续时间演变。通过使用从概率矩阵空间到潜在关系空间的逻辑映射函数,我们得到了一个灵活且易于计算的公式。采用Pandelya-Gamma数据增强,一个有效的吉布斯采样器的后验计算,与自动推断的潜在空间的维数。我们提供了一些理论结果的模型的灵活性,并通过仿真实验来说明性能。我们还考虑了在世界金融市场的共同运动的应用。
2013-11-19 stat.ML
Bayesian factor zero-inflated Poisson model for multiple grouped count data
针对多组计数数据,提出一种结合连接函数、数据增广、Pólya-Gamma增广与参数扩展的贝叶斯因子零膨胀泊松模型,并通过模拟和真实数据验证其效果。
2024-05-10 stat.ME
Tractable Bayesian Density Regression via Logit Stick-Breaking Priors
人们越来越关注响应变量的分布如何随一组预测变量而变化。贝叶斯非参数依赖混合模型提供了一种灵活的方法来解决这个问题。然而,几个公式需要计算要求高的算法后验推理。基于这个问题,我们研究了一类预测依赖的无限混合模型,它依赖于一个简单的表示的棒断裂先验通过顺序逻辑斯谛回归。该公式保持了与流行的预测依赖棒断裂先验相同的理想特性,并利用最近的Pólya-gamma数据增强来促进后验推理的几种计算方法的实现。这些例程包括马尔可夫链蒙特卡罗通过吉布斯抽样,期望最大化算法,和平均场变分贝叶斯可扩展的推理,从而刺激了更广泛的实施贝叶斯密度回归的从业者。与这些方法相关的算法详细介绍,并在毒理学研究中进行测试。
2020-05-04 stat.CO
Bayesian Semiparametric Modeling of Response Mechanism for Nonignorable Missing Data
无应答的统计推断是相当具有挑战性的,特别是当应答机制不可解释时。在这种情况下,统计推断的有效性取决于响应模型的不可检验的正确规范。为了避免误指定,我们提出了半参数贝叶斯估计,其中结果模型是参数的,但响应模型是半参数的,因为我们不假设任何参数形式的非响应变量。我们采用惩罚样条方法来估计未知函数。我们还考虑了一个完全非参数的方法来建模的响应机制,使用径向基函数方法。使用Polya-Gamma数据增强,我们开发了一个有效的后验计算算法,通过吉布斯抽样,其中最完整的条件分布可以得到熟悉的形式。所提出的方法的性能证明在模拟研究和应用程序的纵向数据。
2021-01-14 stat.ME
Bayesian Degree-Corrected Stochastic Blockmodels for Community Detection
网络中的社区发现在社会科学领域引起了广泛的关注。鉴于其重要性,已经有大量的文献从许多领域的方法。在这里,我们提出了一个统计框架,是有代表性的,可扩展的,并产生一个估计具有良好的性能。我们提出的方法认为,一个随机块模型的基础上,逻辑斯谛回归制定与节点校正项。我们遵循贝叶斯方法,通过事先规范明确捕获社区行为。我们进一步采用了一个数据增强策略与潜在的Polya-Gamma变量,以获得后验样本。我们进行推理的基础上的原则,规范映射的质心估计,正式解决标签不可识别性,并捕捉代表性的社区分配。我们证明了所提出的模型和估计在现实世界以及模拟的基准网络,并表明,所提出的模型和估计更灵活,代表性,并产生较小的错误率相比,MAP估计从经典的度校正随机块模型。
2014-12-17 cs.SI physics.soc-ph stat.ME
Modelling Animal-Vehicle Collision Counts across Large Networks Using a Bayesian Hierarchical Model with Time-Varying Parameters
动物-车辆碰撞(AVC)在世界各地都很常见,导致动物和人类生命的巨大损失,以及重大的财产损失和定期的保险索赔。了解其发生与各种促成因素的关系,并能够确定高风险地点,对于预防AVC,节省经济,社会和环境成本非常重要。然而,在AVC数据集的研究中存在许多挑战。这些包括动物活动的季节性,未知的暴露(即,动物穿越的数量),在广泛的道路网络的大多数部分非常低的AVC计数,以及使用大型数据集进行离散响应分析带来的计算负担。为了克服这些挑战,提出了一种贝叶斯分层模型,其中暴露量采用非参数Dirichlet过程建模,并且假设段级AVC的数量遵循二项分布。一个Pólya-Gamma增强吉布斯采样器推导出估计所提出的模型。通过使用美国德克萨斯州约10万条州控高速公路路段多年的AVC数据,结果表明,该模型可扩展到大型数据集,具有零的优势和明显的月度季节性计数,同时识别高风险位置(用于设计处理的应用,如带围栏的动物隔离交叉)和基于特定分段因素的关键解释因素(例如改变车速限制),为决策提供有用的数据。
2021-06-14 stat.AP stat.ME
Efficient posterior sampling for Bayesian Poisson regression
Poisson对数线性模型在许多应用中是普遍存在的,并且是参数计数回归的最流行的方法之一。然而,在贝叶斯上下文中,没有足够的具体计算工具用于从参数的后验分布进行有效采样,并且通常使用标准算法,例如随机游动Metropolis-Hastings或哈密顿蒙特卡罗算法。在此,我们开发了一个有效的梅特罗波利斯-黑斯廷斯算法和重要性采样器来模拟条件高斯先验下的泊松对数线性模型的参数的后验分布,相对于最先进的替代品具有优越的性能。这两种算法的关键是引入一个建议密度的基础上的高斯近似的后验分布的参数。具体而言,我们的结果利用了泊松似然的负二项近似和成功的Pólya-gamma数据增强方案。通过仿真,我们得到的时间,每个独立的样本的建议采样器是具有竞争力的,使用成功的哈密顿蒙特卡罗采样,与大都会黑斯廷斯显示出优越的性能,在所有的情况下考虑。
2022-09-01 stat.CO
Scalable Bayesian Tensor Ring Factorization for Multiway Data Analysis
Tokyo University of Agriculture and Technology(东京农工大学);RIKEN AIP(理化学研究所人工智能项目)
针对现有贝叶斯张量环(BTR)分解方法存在的次优解、仅适用于连续数据及难以处理大型张量等问题,提出采用非参数乘法伽马过程(MGP)先验、波利亚-伽马增强及高效吉布斯采样器与在线EM算法的新BTR模型,提升潜在结构识别准确性、离散数据处理能力及大规模张量适用性。
2024-12-04 cs.LG stat.ML
A generalized Bayesian approach to multiple changepoint analysis
Florida State University(佛罗里达州立大学);University of Iowa(爱荷华大学)
本文提出一种通用贝叶斯方法用于多变化点分析,通过受多项逻辑回归启发的损失函数,无需指定数据生成过程,避免对变化点性质的限制,同时推断变化点位置和多项逻辑回归系数,通过模拟和应用展示其准确性和可解释性。
2026-03-26 stat.ME
Bayesian Boundary Trend Filtering
本文针对边界趋势估计问题,提出结合截断多元正态近似与Pólya-Gamma数据增广的贝叶斯趋势滤波方法,引入马蹄先验实现局部自适应收缩,还扩展了近似保序约束版本,经实验验证性能良好。
2023-11-10 stat.ME
Bayesian latent structure discovery from multi-neuron recordings
神经回路包含在类型、位置、连接性和基本响应特性上不同的异质神经元组。然而,传统的降维和聚类方法不适合恢复神经回路组织的结构。特别是,它们没有利用多神经元记录中丰富的时间依赖性,也没有考虑到神经尖峰序列中的噪声。在这里,我们描述了新的工具,用于推断潜在的结构,从同时记录的尖峰训练数据使用的多神经元点过程模型,通常被称为广义线性模型(GLM)的分层扩展。我们的方法结合了GLM与灵活的图论先验管理潜在功能和神经连接模式之间的关系。完全贝叶斯推断通过波利亚-伽马增强的结果模型,使我们能够分类神经元和推断潜在的尺寸电路组织相关的尖峰列车。我们证明了我们的方法的有效性与应用程序的合成数据和多神经元记录在灵长类动物视网膜,揭示了潜在的模式的神经类型和位置,从尖峰列车。
2016-10-26 q-bio.NC stat.ML
Efficient Bayesian Inference of Sigmoidal Gaussian Cox Processes
Technische Universität Berlin(柏林工业大学)
提出了一种估计非齐次泊松过程强度的近似贝叶斯推断方法,其中强度函数通过S型连接函数使用高斯过程(GP)先验建模.使用潜在的标记泊松过程和Pólya-Gamma随机变量来增强模型,我们获得了与GP先验共轭的可能性的表示。我们估计后使用变分自由形式的平均场优化与稀疏GP的框架。此外,作为替代近似,我们提出了一个稀疏的拉普拉斯方法的后,一个有效的期望-最大化算法推导出找到后的模式。这两种算法比较以及对精确的推理得到的马尔可夫链蒙特卡罗采样器和标准的变分高斯方法解决相同的模型,而一个数量级更快。此外,我们的方法的性能和速度是有竞争力的另一个最近提出的泊松过程模型的基础上的二次链接函数,而不限于GP与平方指数内核和矩形域。
2019-05-03 cs.LG stat.ML
Hyperbolic Secant representation of the logistic function: Application to probabilistic Multiple Instance Learning for CT intracranial hemorrhage detection
University of Granada(格拉纳达大学);Research Centre for Information and Communication Technologies, University of Granada(格拉纳达大学信息与通信技术研究中心);Northwestern University(西北大学);Center for Computational Imaging and Signal Analytics in Medicine, Northwestern University(西北大学医学计算成像与信号分析中心)
本文提出一种基于Pólya-Gamma随机变量和双曲正割分布的通用VGPMIL方法,通过引入Gamma分布构建新模型,在医学CT颅内出血检测等任务中实现了更优的预测性能与效率。
2024-03-21 cs.LG stat.ML
Dynamic Shrinkage Processes
提出了一类新的贝叶斯时间序列和回归分析的动态收缩过程。建立在一个全球性的局部框架之前的建设,其中连续规模的高斯分布的混合物采用理想的收缩性能和计算的易处理性,我们模型之间的依赖关系的局部尺度参数。由此产生的过程继承了流行的全局-局部先验(如马蹄铁先验)的理想收缩行为,但提供了额外的局部自适应性,这对于建模时间序列数据或具有局部特征的回归函数非常重要。我们构建了一个计算效率高的吉布斯抽样算法的基础上的Pólya-Gamma尺度混合表示的建议的过程。使用动态收缩过程,我们开发了一个贝叶斯趋势过滤模型,产生更准确的估计和更紧密的后验可信区间比竞争的方法,并应用该模型的不规则曲线拟合的每分钟的Twitter CPU使用数据。此外,我们开发了一个自适应的时变参数回归模型,以评估法玛-弗伦奇五因素资产定价模型的有效性与动量添加为第六个因素。我们对制造业和医疗保健行业数据的动态分析表明,除了市场风险外,没有其他风险因素是显著的,除了短期内。
2018-02-24 stat.ME
A Bayesian Sparse Kronecker Product Decomposition Framework for Tensor Predictors with Mixed-Type Responses
针对超高维张量预测变量下混合类型响应建模难题,提出贝叶斯稀疏克罗内克积分解框架,结合收缩先验与数据增广实现高效计算,证明后验性质,在模拟和真实影像数据上表现优于现有方法。
2025-05-20 stat.ME
Bayesian ICA with super-Gaussian Source Priors
Department of Statistics, Virginia Tech(弗吉尼亚理工大学统计系);Department of Statistics, University of Wisconsin–Madison(威斯康星大学麦迪逊分校统计系);Booth School of Business, University of Chicago(芝加哥大学商学院)
针对独立成分分析任务,本文提出带波利亚-伽马尺度混合表示的马蹄型超高斯源先验的贝叶斯ICA方法,实现可扩展的点估计与全后验推断,给出理论保证且性能表现优异。
2025-11-14 cs.LG stat.ME
Bayesian Modeling of the Stochastic Block Model for Weighted Network Data with Zero-Inflated Negative Binomial Distribution
Department of Mathematics, Hiroshima University(广岛大学数学系)
本文提出基于零膨胀负二项分布的贝叶斯块模型,以应对加权网络中的过分散数据,通过零膨胀自然处理缺失交互,并利用多项式伽玛数据增强实现高效后验计算,提升社区检测和链接预测性能。
2026-04-27 stat.ME
Variational Bayesian Bow tie Neural Networks with Shrinkage
School of Mathematics and Maxwell Institute for Mathematical Sciences, University of Edinburgh(数学学院和麦克斯韦数学科学研究所,爱丁堡大学)
针对深度模型预测过度自信、易受攻击及现有贝叶斯推理依赖假设、对架构敏感等问题,提出带收缩的变分贝叶斯蝴蝶结神经网络,结合稀疏先验与Polya-Gamma数据增强推导快速推理算法,增强架构鲁棒性并兼顾可扩展性与多模态。
2025-06-17 cs.LG math.ST stat.ME
Default Bayesian analysis for multi-way tables: a data-augmentation approach
针对Meta分析和多中心临床试验中常见的多元列联表,提出了一种正则化估计策略。我们的方法是基于数据增强,并呼吁大量的一类新的Polya-Γ分布。我们的主要贡献是建立相关的分布理论,并证明了这种数据增强计划的三个有用的功能。首先,它导致简单的EM和吉布斯采样算法的后验推理,规避解析近似,数值积分,大都市-黑斯廷斯,或变分方法的需要。其次,它允许建模者在选择先验时有更大的灵活性,而先验传统上来自狄利克雷或逻辑正态族。例如,我们的方法允许用户将经典惩罚似然技术(例如套索或桥)的贝叶斯模拟用于计算对数比值比的正则化估计。最后,我们的数据增强方案自然地提出了一个默认的策略,事先选择的基础上的逻辑-Z模型,这是密切相关的杰弗里斯先验的二项式比例。为了说明该方法,我们主要关注荟萃分析/多中心研究(或JxKxN表)的特定情况。但是,一般的方法包括许多其他常见的情况,我们将提供一些例子。
2011-09-19 math.ST stat.CO stat.ME
An Integrative Approach for Subtyping Mental Disorders Using Multimodal Data
本文提出贝叶斯层次模型MINDS,整合临床、认知和神经影像多模态数据,在ABCD数据上识别出ADHD和OCD的临床可解释亚型,提升了亚型划分的稳定性与准确性。
2025-11-06 stat.ME
Bayesian changepoint detection via logistic regression and the topological analysis of image series
本文提出BCLR方法,将贝叶斯变点检测与逻辑回归结合,利用Pólya-gamma增广的Gibbs采样进行推断,并结合拓扑特征嵌入有效检测图像序列中的拓扑变化。
2025-03-07 stat.ME
A Framework of Zero-Inflated Bayesian Negative Binomial Regression Models For Spatiotemporal Data
该研究提出一种基于贝叶斯框架的零膨胀负二项回归模型,利用Pólya-Gamma潜变量和最近邻高斯过程处理大规模时空数据中的大量零值,并应用于佛罗里达州COVID-19死亡数据分析。
2024-02-06 stat.CO stat.ME
Task Diversity in Bayesian Federated Learning: Simultaneous Processing of Classification and Regression
School of Statistics, Renmin University of China(中国人民大学统计学院);School of Statistics and Data Science, Southeast University(东南大学统计与数据科学学院);Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing(未来区块链与隐私计算北京高精尖创新中心)
本文针对联邦学习中本地任务同质化问题,提出结合多输出高斯过程与联邦学习的贝叶斯多任务框架,通过Pólya-Gamma增强和变分推断提升效率,实验证明其在预测、OOD检测和校准上表现优越。
2024-12-25 cs.LG stat.ML
Handling bounded response in high dimensions: a Horseshoe prior Bayesian Beta regression approach
针对高维有界响应数据建模,提出基于 Horseshoe 先验和 Pólya-Gamma 增广的贝叶斯 Beta 回归方法,并首次给出后验一致性理论证明,在估计精度和可解释性上优于现有方法。
2025-05-28 math.ST stat.ME stat.ML
Baysian inference via classes of normalized random measures
贝叶斯非参数理论的主要研究领域之一是提出和研究推广Dirichlet过程的先验。在这里,我们利用泊松随机措施的理论性质,以提供一个全面的贝叶斯分析的随机概率,通过适当的归一化。具体来说,我们实现明确和易于处理的形式的后验和边缘分布,包括一个明确的和易于使用的描述概括的重要的Blackwell-MacQueen Pólya瓮分布。这种简化是通过使用一个潜在的变量,它承认相当有趣的解释,允许获得更好的理解这些随机概率测度的行为。值得注意的是,这些模型是Kingman(1975)在非贝叶斯背景下考虑的模型的推广。这种模型在遗传学、物理学、随机映射和组装等领域都有着重要的应用。因此,我们的分析在这些背景下也是有用的。我们还展示了如何将我们的结果可以应用到贝叶斯混合模型和描述的计算方案,这是已知的有效方法的情况下的Dirichlet过程的推广。我们说明了新的例子的过程中,可以发挥先验的作用贝叶斯非参数推断,最后指出一些有趣的连接与理论的广义伽马卷积发起的索林和进一步发展的邦德森。
2005-03-19 math.PR math.ST stat.TH
Fast Bayesian Estimation of Spatial Count Data Models
Imperial College London(帝国理工学院);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
空间计数数据模型被用来解释和预测现象的频率,如交通事故在地理上不同的实体,如人口普查区或路段。这些模型通常使用贝叶斯马尔可夫链蒙特卡罗(MCMC)模拟方法来估计,然而,该方法在计算上昂贵并且不能很好地扩展到大数据集。变分贝叶斯(VB)是一种来自机器学习的方法,它通过将贝叶斯估计视为优化问题而不是模拟问题来解决MCMC的缺点。考虑到VB的这些优点,本文提出了一种用于参数异质性和空间依赖性的负二项模型后验推断的VB方法。Pólya-Gamma增广用于处理负二项似然的非共轭性,并采用变分分布的集成非因式分解规范来捕获后验依赖性。在蒙特卡罗研究和经验应用估计青年行人伤害计数在纽约市的人口普查区所提出的方法的好处。在模拟和实证研究中,VB方法比常规八核处理器上的MCMC快45到50倍,同时提供类似的估计和预测精度。有条件的计算资源的可用性,所提出的VB方法的并行架构可以被利用,以进一步加速其估计高达20倍。
2020-10-16 cs.LG stat.ME stat.ML
Lognormal and Gamma Mixed Negative Binomial Regression
Duke University(杜克大学)
在计数的回归分析中,由于缺乏简单有效的后验计算算法,使得贝叶斯方法显得缺乏吸引力,从而发展不足。我们提出了一个对数正态和伽马混合负二项(NB)回归模型计数,并提出了有效的封闭形式贝叶斯推断,不同于传统的泊松模型,所提出的方法有两个自由参数,包括两种不同的随机效应,并允许将先验信息,如稀疏性的回归系数。通过在NB离散参数r上放置一个Γ分布先验,并将对数正态分布先验与NB概率参数p的logit相联系,得到了有效的吉布斯抽样和变分贝叶斯推断.封闭形式的更新是通过利用条件共轭通过复合泊松表示和Polya-Γ分布为基础的数据增强方法。建议的贝叶斯推断可以实现常规,同时很容易推广到更复杂的设置,涉及多元依赖结构。最后用实例说明了算法的有效性。
2012-06-27 cs.LG stat.AP stat.ME
A Bayesian Approach to Unit-level Dependent Multi-type Survey Data
University of Missouri(密苏里大学);University of California Santa Cruz(加州大学圣克鲁兹分校)
本文提出一种贝叶斯分层框架,联合建模单位层面的高斯和二项式调查数据,通过共享区域随机效应捕捉响应间依赖,采用伪似然和Polya-Gamma数据增强实现高效推断,实验证明该模型在均方误差和区间评分上优于传统方法。
2026-04-16 stat.ME
Bayesian multivariate logistic regression for superiority and inferiority decision-making under observable treatment heterogeneity
本文提出一种基于Pólya-Gamma展开的贝叶斯多元逻辑回归方法,用于在异质性治疗效应的随机对照试验中进行优越性决策,包含系数转换与决策程序,有效揭示亚组治疗差异。
2024-03-26 stat.ME
On the Use of Cauchy Prior Distributions for Bayesian Logistic Regression
在逻辑斯谛回归中,当预测因子的线性组合可以完美地分类样本中的部分或全部观测值时,分离发生,并且因此,回归系数的有限最大似然估计不存在。Gelman等人(2008)建议将独立柯西分布作为逻辑斯谛回归中回归系数的默认先验,即使在分离的情况下也是如此,并在其分析中报告了后验模式。由于柯西先验的均值不存在,一个自然的问题是分离下回归系数的后验均值是否存在。我们证明定理,提供了必要和充分条件下独立的柯西先验的logit链接和一般家庭的链接函数,包括概率链接后的手段存在。我们还研究了多元柯西先验下后验均值的存在性。对于完整的贝叶斯推断,我们开发了一个基于Polya-Gamma数据增强的Gibbs采样器,用于在独立的Student-t先验(包括Cauchy先验)下从后验分布中采样,并在补充中提供了配套的R软件包。我们的经验表明,即使在分离下的回归系数的后验均值存在,柯西先验的后验样本的大小可能是异常大,相应的吉布斯采样器显示出非常缓慢的混合。虽然Stan中的No-U-Turn Sampler等替代算法可以极大地改善混合,但为了解决分离下Cauchy先验的极重尾后验问题,需要考虑自由度大于1的轻尾先验,如正常先验或Student-t先验。
2017-02-09 stat.ME
The Triply-Randomized Negative Binomial Beta for Robust Regression and Conjugate Models of Bounded Support Data
University of Chicago(芝加哥大学);Data Science Institute, University of Chicago(芝加哥大学数据科学研究所)
提出三重随机负二项贝塔分布(TNBbeta),通过随机化标准贝塔分布的参数,解决其对异常值敏感、无法处理零观测及缺乏共轭先验的问题,并利用Pólya-gamma增广实现高效吉布斯采样。
2026-06-11 stat.ME
Synthetic Priors
本文提出合成先验方法,通过虚拟观测和Polya-Gamma数据增强,实现GLMs的精确共轭采样,提升预测精度和决策可靠性。
2026-02-27 stat.ME
Contrastive Bayesian Inference for Unnormalized Models
Graduate School of Economics, Keio University(庆应义塾大学经济学研究科);Faculty of Economics, Keio University(庆应义塾大学经济学部);The Institute of Statistical Mathematics(统计数学研究所);Graduate School of Information Science and Technology, The University of Tokyo(东京大学信息理工学系研究科);RIKEN Center for Brain Science(理化学脑科学研究中心)
本文提出了一种无需调整似然信息的完全贝叶斯框架,用于无归一化模型的推断,通过噪声对比估计和高斯分布转换实现高效的吉布斯采样。
2026-09-09 stat.ME