The Bayesian approach to inverse Robin problems
本文研究逆Robin问题的贝叶斯方法,证明后验均值随观测数增加依概率收敛到真实值,对Sobolev正则系数建立对数收敛速率、对解析系数达到代数速率,并用数值实验验证收敛性质。
2023-11-29 math.AP math.ST stat.TH
Inferring Ice Thickness from a Glacier Dynamics Model and Multiple Surface Datasets
西南极冰盖(WAIS)的未来行为可能对未来气候产生重大影响。例如,冰盖融化可能对全球海平面上升起重要作用。因此,了解WAIS的当前状态非常有意义。WAIS被快速流动的冰川排空,这是冰损失的主要原因。因此,了解冰川的稳定性和动态对于预测冰盖的未来至关重要。冰川动力学受地形、温度和冰下基础条件之间的相互作用驱动。冰川动力学模型描述了这些过程之间的相互作用。我们开发了一个分层贝叶斯模型,集成了多个冰盖表面数据集与冰川动力学模型。我们的方法使我们能够(1)推断描述冰川动力学的重要参数,(2)了解冰盖厚度,(3)解释观测和模型中的误差。因为我们有相对密集和准确的冰厚度数据从西南极洲的Thwaites冰川,我们使用这些数据来验证所提出的方法。这项工作的长期目标是建立一个可用于研究南极多个冰川的通用模型。关键词:冰盖,冰川动力学,分层贝叶斯,高斯过程,马尔可夫链蒙特卡罗,西南极冰盖。
2017-06-30 stat.AP
A Review of Bayesian Modelling in Glaciology
贝叶斯建模和推理方法越来越多地用于冰冻圈科学,特别是冰川学。在这里,我们提出了一个审查最近的作品在冰川学,采用贝叶斯方法进行分析时。我们将本章分为三类:i)高斯-高斯模型,ii)贝叶斯分层模型,iii)贝叶斯校准方法。此外,我们提出了两个详细的案例研究,涉及贝叶斯层次模型在冰川学中的应用。第一个案例研究是关于冰岛Langjökull山冰川表面物质平衡的空间预测,第二个案例研究是关于Antactcic冰盖对海平面上升贡献的预测。这一章是以这样一种方式提出的,它是统计学家以及地球科学家都可以访问。
2021-12-20 stat.AP
Multivariate EDF tests for uniformity, normality,spherical and elliptical symetry, and independence based on a Brownian sheet deconstruction
Universitat Autònoma de Barcelona(巴塞罗那自治大学);PEDECIBA, Uruguay(乌拉圭PEDECIBA)
本文扩展了一种最近提出的基于EDF的适配性检验方法,用于超立方体[0,1]^p,即m检验和s检验,这些方法基于对p参数Brownian sheet的独特分解。通过将原假设所隐含的联合分布经过适当映射后分解为独立的连续分量,可以将问题转化为超立方体上的均匀性检验。本文引入并分析了基于这些原理的新检验方法,用于检验超球面S^p上的均匀性、多变量正态性、球面和椭球对称性以及R^p中的独立性。该方法基于将有限的有符号测度分解为零边际分量,以隔离坐标间相互作用。实证检验显示,这些扩展方法在统计文献中与现有方法具有竞争力,特别是在检测基于坐标的依赖性和联合依赖结构方面表现出高度敏感性。
2026-06-24 math.ST stat.ME stat.TH
An Oracle Inequality for Quasi-Bayesian Non-Negative Matrix Factorization
本文的目的是提供一些理论上的理解准贝叶斯聚集方法的非负矩阵分解。我们得到了一个聚集估计量的预言不等式。这一结果适用于一个非常一般的先验分布类,并显示了先验如何影响收敛速度。
2018-06-26 math.ST stat.ML stat.TH
Variational Approximation Error in Bayesian Non-negative Matrix Factorization
NTT DATA Mathematical Systems Inc.(NTT数据数学系统公司);Tokyo Institute of Technology(东京工业大学)
非负矩阵分解(NMF)是一种应用广泛的知识发现方法。变分推理和吉布斯抽样方法也是众所周知的。然而,由于变分贝叶斯NMF(VBNMF)中的先验分布不具有统计正则性,变分贝叶斯NMF(VBNMF)中的变分逼近误差存在零点或发散点,因此变分贝叶斯NMF的变分逼近误差尚未得到明确的解释。本文利用代数几何的方法,从理论上分析了负对数证据(也称“负对数证据”)的差异。自由能),即,变分后验和真后验之间的Kullback-Leibler分歧。我们推导出学习系数(a.k.a.)的上界。贝叶斯NMF中的实对数典型阈值)。通过使用上界,我们找到了一个下界的近似误差,渐近。结果定量地表明VBNMF算法能够很好地逼近贝叶斯NMF,其下界取决于超参数和真非负秩。数值实验验证了理论结果。
2020-02-20 cs.LG math.ST stat.ML
Scalable, Likelihood-Free Calibration of Ice-Sheet Models with Deep Diffusion Emulators and Feature Matching
Yonsei University(延世大学);Bayer AG(拜耳股份公司);Seoul National University(首尔大学)
本文提出SC-DS方法,结合扩散模型与孪生网络实现冰盖模型可扩展无似然校准,精度相当且成本低,可应用于现有方法无法处理的全分辨率冰盖模拟场景。
2026-09-01 stat.AP
The Bayesian optimal two-stage design for clinical phase II trials based on Bayes factors
Faculty of Medicine, University of Cologne(科隆大学医学院)
本文提出了一种基于贝叶斯因子的临床II期试验的贝叶斯最优两阶段设计,通过三元树分支方法优化样本量并提高设计效率。
2025-11-28 math.ST stat.AP stat.ME
Bayesian/Graphoid intersection property for factorisation spaces
我们注意到,珍珠的图形交叉属性,也称为贝叶斯网络中的交叉属性,是一般交叉属性的一种特殊情况,在覆盖交叉的意义上,对于因子分解空间,也被称为因子分解模型,因子图或Lauritzen在他的参考书“图形模型”中作为分层模型子空间。一个特殊的情况下,这种交叉财产出现在劳里岑的书作为一个后果的分解成相互作用的子空间;新的证明,我们给这个结果使我们能够延长它在最一般的设置。它还允许我们给一个直接的和新的证明的Hammersley-Clifford定理转置和减少到一个相应的声明的图形,证明正式的几何直观的独立性,并将其扩展到非有限图。这个相交属性是将分解为相互作用子空间推广到向量空间集合的起点。
2021-05-21 cs.IT math.IT math.ST
Fast Bayesian Non-Negative Matrix Factorisation and Tri-Factorisation
University of Cambridge(剑桥大学)
本文提出一种快速变分贝叶斯算法,用于非负矩阵分解和三因子分解,相比Gibbs采样和非概率方法,该方法在迭代和时间步收敛速度更快,且无需额外样本估计后验。
2016-10-26 cs.AI cs.LG cs.NA
Flexible and Hierarchical Prior for Bayesian Nonnegative Matrix Factorization
在本文中,我们介绍了一个概率模型学习非负矩阵分解(NMF),通常用于预测缺失值和发现隐藏模式的数据,其中矩阵因子是与每个数据维度相关的潜在变量。潜在因子的非负约束通过选择在非负子空间上具有支持度的先验来处理。贝叶斯推理过程的基础上吉布斯抽样。我们在几个真实世界的数据集上评估了该模型,包括具有不同大小和维度的MovieLens 100K和MovieLens 1M,并表明与现有的贝叶斯NMF方法相比,所提出的贝叶斯NMF GRRN模型可以实现更好的预测并避免过拟合。
2022-06-20 cs.IT cs.LG math.IT
Deep Bayesian Nonparametric Factor Analysis
Columbia University(哥伦比亚大学)
我们提出了一个深度生成因子分析模型与beta过程之前,可以近似复杂的非阶乘分布的潜在代码。我们概述了一个随机的期望最大化算法可扩展的推理在这个模型的一个特定的实例,并提出了一些初步的结果。
2020-11-09 cs.LG stat.ML
Bayesian multi-tensor factorization
我们介绍贝叶斯多张量因式分解,这是第一个贝叶斯公式的多个矩阵和张量的联合因式分解模型。研究问题将联合矩阵-张量因式分解问题推广到任意深度的张量集合,包括矩阵,可以解释为从多个数据张量进行无监督多视图学习,并且可以推广到放松通常的三线性张量因式分解假设。结果是将张量集合分解为张量的任何子集共享的因子和单个张量的私有因子。我们证明了在结构毒理基因组学和功能神经成像中的多个张量因子分解任务中对现有基线的性能。
2016-10-12 stat.ML
A Review of Bayesian Methods for Infinite Factorisations
本文综述了用于无限因子分解的贝叶斯方法,重点介绍通过递增收缩和自适应MCMC自动确定潜在因子数量的原理,并讨论其性质与优缺点。
2023-09-22 stat.ME
Comparative Study of Inference Methods for Bayesian Nonnegative Matrix Factorisation
University of Cambridge(剑桥大学);IT University of Copenhagen(哥本哈根信息技术大学)
在本文中,我们研究了贝叶斯矩阵分解方法的不同推理方法的权衡,这些方法通常用于预测缺失值,并在数据中查找模式。特别是,我们考虑贝叶斯非负变量的矩阵分解和三因子分解,并比较非概率推理,吉布斯抽样,变分贝叶斯推断,和最大后验方法。变分方法是贝叶斯非负模型的一种新方法。我们比较了它们的收敛性,对噪声和稀疏数据的鲁棒性,在合成和真实世界的数据集。此外,我们扩展的模型与贝叶斯自动相关性确定先验,允许模型执行自动模型选择,并证明其效率。
2017-07-13 cs.LG stat.ML
Rapid Posterior Exploration in Bayesian Non-negative Matrix Factorization
非负矩阵分解(NMF)是一种流行的数据探索工具。贝叶斯NMF也承诺在因子分解中表征不确定性。不幸的是,目前的推理方法,如MCMC混合缓慢,往往陷入单一模式。我们介绍了一种新的方法,使用快速探索随机树(RRT)渐近覆盖区域的高后验密度。这些被放置在一个原则贝叶斯框架通过在线扩展到非参数变分推断。在真实数据和合成数据上的实验中,我们获得了比标准NMF推理方法更大的后验覆盖率和更高的ELBO值。
2016-10-27 stat.ML
Fast Non-Bayesian Poisson Factorization for Implicit-Feedback Recommendations
本文研究了基于正则化泊松模型的非负低秩矩阵分解(PF或Poisson factorization)在隐式反馈数据推荐系统中的应用。泊松似然的特性允许在零值输入上进行非常快速的计算,并且通常会导致用户和项目的非常稀疏的因子。与HPF(一种流行的贝叶斯公式的问题与分层先验)相比,这里提出的基于频率论优化的方法往往会产生更好的前N个建议,拟合时间显着缩短,在稀疏的解决方案之上。
2022-02-23 cs.LG stat.ML
Bayesian inference for latent factor GARCH models
潜在因子Gestival模型难以使用贝叶斯方法进行估计,因为标准的马尔可夫链蒙特卡罗采样器从模型参数的后验分布产生缓慢的混合和低效的提取。本文介绍了如何应用粒子吉布斯算法来有效地估计因子Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-Gester-G该方法与以前的方法相比有两个优点。首先,它概括在一个straightfoward的方式,以多个因素的模型和各种成员的甘精胰岛素家族。第二,它随着o,b向量的维数的增加而很好地扩展。
2015-07-05 stat.ME
On finite-population Bayesian inferences for $2^K$ factorial designs with binary outcomes
受Rubin(1978)的开创性工作的启发,我们采用潜在结果框架为医学研究中常见的具有二元结果的随机对照$2^K$析因设计开发了一个有限总体贝叶斯因果推断框架。模拟和实证的例子表明,所提出的框架纠正了著名的方差高估问题的经典的“奈曼”推理框架,在各种设置。
2019-01-24 stat.ME
Optimal Bayesian clustering using non-negative matrix factorization
基于贝叶斯模型的聚类是一种广泛应用的发现数据集中相关观测组的过程。这些方法使用贝叶斯混合模型,用MCMC估计,提供模型参数和聚类分区的后验样本。虽然对模型参数的推断已经很好地建立,但对聚类分区的推断还不太发达。提出了一种基于贝叶斯聚类模型的两两后验相似矩阵估计最优划分的新方法。这种方法使用非负矩阵分解(NMF)提供一个低秩近似的相似性矩阵。因子分解允许硬或软分区,并表现出更好的性能比几个流行的替代品下的各种惩罚函数。
2018-09-20 stat.ME
A particle-based variational approach to Bayesian Non-negative Matrix Factorization
贝叶斯非负矩阵分解(NMF)是一种很有前途的方法来理解矩阵数据的不确定性和结构。然而,大量的应用工作优化了传统的非贝叶斯NMF目标,无法提供一个原则性的理解NMF固有的不可识别性-一个问题,理想地解决了贝叶斯方法。尽管它们的适用性,目前的贝叶斯NMF方法未能获得普及的应用环境中,他们牺牲灵活性建模易于处理的计算,往往陷入局部模式,并需要成千上万的样本有意义的不确定性估计。我们通过贝叶斯NMF的基于粒子的变分方法来解决这些问题,该方法仅需要联合似然可微以实现可处理性,使用新型初始化技术来识别后验中的多个模式,并允许领域专家检查“小”集忠实地代表后验的因子分解。我们引入并采用了一类似然和先验分布的NMF,制定一个贝叶斯模型,使用流行的非贝叶斯NMF目标。在几个真实的数据集上,我们在比基线更短的时间内获得了对贝叶斯NMF后验的更好的粒子近似,并证明了多模态在NMF相关任务中发挥的重要作用。
2018-03-16 stat.ML
Cauchy Markov Random Field Priors for Bayesian Inversion
在统计逆问题中使用柯西马尔可夫随机场先验可能导致非高斯、高维、多峰和重尾的后验分布。为了成功地使用这样的先验,通常需要复杂的优化和马尔可夫链蒙特卡罗(MCMC)方法。在本文中,我们的重点主要是审查最近开发的柯西差分先验,同时引入有趣的新变种,同时提供了一个比较。首先提出了一维二阶Cauchy差分先验,并构造了新的一阶和二阶二维迷向Cauchy差分先验。另一种新的柯西先验是基于随机偏微分方程方法,来自Matérn型高斯表示。比较还包括柯西单。我们的数值计算是基于最大后验概率和条件均值估计。我们利用最先进的MCMC方法,如吉布斯内的大都市,排斥吸引大都市,和无U形转弯采样器变体的哈密顿蒙特卡罗。我们展示了一维和二维反褶积问题的模型和方法。为所有测试用例提供了全面的MCMC统计数据,包括潜在的规模缩减因子。
2022-02-13 stat.CO stat.ME
Sparse Bayesian factor analysis when the number of factors is unknown
有越来越多的研究兴趣在子字段的稀疏贝叶斯因子分析收缩先验,实现额外的稀疏性超出自然简约的因素模型。本着这种精神,我们估计的共同因素的数量,在高度实施的稀疏潜在的因素模型与尖峰和板先验的因素负载矩阵。我们的框架导致一个自然的,高效的,同时耦合的模型估计和选择,一方面和模型识别和秩估计(因子数)的另一方面。更准确地说,通过嵌入无序广义下三角负载表示过拟合稀疏因子模型,我们获得后验总结因子负载,共同的因素,以及通过后处理的因素尺寸从我们的高效和定制的马尔可夫链蒙特卡罗计划。
2023-01-16 stat.ME
Sparse Bayesian joint modal estimation for exploratory item factor analysis
The University of Tokyo(东京大学);London School of Economics and Political Science(伦敦政治经济学院)
本文提出一种可扩展的贝叶斯估计算法,用于探索性项目因子分析中的稀疏估计,基于经典贝叶斯估计方法——联合模态估计(BJME)。该算法通过交替优化方案迭代更新模型参数和潜在变量,实现高效计算和准确的变量选择与潜在因子恢复。
2026-10-01 stat.CO stat.ME
On Posterior Consistency of Bayesian Factor Models in High Dimensions
因子模型作为一种原则性的降维技术,已被广泛应用于社会科学、经济学、生物信息学等诸多领域。然而,在高维环境中,进行“正确的”贝叶斯因子分析可能是微妙的,因为它需要仔细规定的先验分布和合适的计算策略。特别是,我们分析的问题有关的尝试是“非信息”的因素加载矩阵的元素,特别是稀疏贝叶斯因子模型在高维,并提出解决方案。我们在这里表明,为什么采用正交因子假设是适当的,可以导致一致的后验推断的加载矩阵的条件下,真正的特质方差和分配的非零元素在真正的加载矩阵。我们还提供了一个有效的吉布斯采样器,根据Rockova和George(2016)的先验设置和因子矩阵上的均匀正交因子假设进行完整的后验推断。
2021-01-01 stat.ME
Factorized Asymptotic Bayesian Inference for Factorial Hidden Markov Models
阶乘隐马尔可夫模型是对序列数据建模的有力工具。学习FHH产生具有挑战性的同时模型选择问题,即,选择多个马尔可夫链的数目和每个链的维数。我们的主要贡献是解决这个模型选择的问题,通过扩展因子分解渐近贝叶斯(FAB)推理FHSTUDIO。首先,我们提供了一个更好的近似边际对数似然比以前的FAB推理。我们的关键思想是积分出转移概率,但仍然应用拉普拉斯近似的发射概率。其次,我们证明了如果在FHMM中有两个非常相似的隐藏状态,即一个是冗余的,那么FAB几乎肯定会缩小并消除其中一个,使模型简约。实验结果表明,FAB算法在模型选择精度上明显优于现有的非参数贝叶斯iFHMM和变分FHMM,并具有较强的抗困惑能力.
2015-06-26 stat.ML
Coefficients of factor score determinacy for mean plausible values of Bayesian factor analysis
在贝叶斯因子分析的背景下,可以计算平均似然值,这些值可以用作协变量或预测变量,或者为贝叶斯潜变量提供个体评分。以前的模拟研究确定的合理值的有效性的合理值和生成因子得分的均方差。然而,在实证研究中,生成因子得分是未知的,因此需要一个仅基于模型参数的指标,以评估实证研究中因子得分估计值的有效性。确定性系数是基于模型参数的,并且可以在经验设置中执行贝叶斯因子分析时计算。因此,本模拟研究的主要目的是比较基于模型参数的确定性系数与平均合理值与生成因子的相关性。结果发现,系数的确定性产生一个可接受的估计平均合理值的有效性。对于小样本量和小显著负荷量,确定性系数高估了有效性,建议报告确定性系数和偏倚校正,以估计经验设置中平均合理值的有效性。
2021-09-20 stat.AP
Bayesian integrative factor analysis methods, with application in nutrition and genomics data
本教程比较五种贝叶斯整合因子模型及两种基准方法,通过模拟评估性能,并提供R代码工作流,应用于营养和基因组学数据,指导提取可解释的稳健模式。
2025-06-23 stat.AP
Bayesian Inference for Single-factor Graphical Models
University of Washington(华盛顿大学)
本文提出单因子图模型的贝叶斯推断方法,通过MCMC算法处理相关残差,并扩展至分类变量及多数据集,以捕捉时空关联和条件依赖结构。
2025-10-15 stat.ME
Sparse Bayesian Factor Models with Mass-Nonlocal Factor Scores
针对传统贝叶斯因子模型忽略因子得分异质性的问题,提出BFMAN框架,通过引入质量非局部先验捕捉个体稀疏性与异质性,并利用Gibbs采样器估计参数,在因子恢复与最优因子数选择上表现优异。
2025-04-04 stat.ME
Bayesian Combinatorial Multi-Study Factor Analysis
分析多项研究可以利用来自一系列来源和人群的数据,但直到最近,只有有限的方法来处理多项高维研究的联合无监督分析。最近的一种方法,贝叶斯多研究因素分析(BMSFA),确定潜在的因素共同的所有研究,以及潜在的因素,具体到个别研究。然而,BMSFA不允许部分共享的因素,即潜在的因素共享一个以上,但少于所有的研究。我们扩展BMSFA引入一种新的方法,俄罗斯方块,贝叶斯组合多研究因素分析,确定潜在的因素,可以共享的任何组合的研究。我们模拟的子集的研究,共享潜在的因素与印度自助餐过程。我们测试我们的方法与广泛的模拟范围,并展示其效用不仅在降维,但也在协方差估计。最后,我们将俄罗斯方块应用于高维基因表达数据集,以确定乳腺癌基因表达的模式,包括由种系突变定义的已知类别。
2020-07-24 stat.ME
Efficient Bayesian Community Detection using Non-negative Matrix Factorisation
识别网络中的重叠社区是一项具有挑战性的任务。在这项工作中,我们提出了一种新的方法来社区检测,利用贝叶斯非负矩阵分解(NMF)模型产生一个概率输出的节点成员资格。该方案具有计算效率高,软社区成员和直观的基础。我们提出了对各种基准问题的方法的性能,并比较和对比它与其他几种算法的社区检测。与其他方法相比,我们的方法在计算成本的一小部分上表现良好。
2010-09-25 cond-mat.stat-mech physics.soc-ph stat.ML
VarFA: A Variational Factor Analysis Framework For Efficient Bayesian Learning Analytics
Rice University(莱斯大学);Northwestern University(西北大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);OpenStax
我们提出VarFA,一个变分推断因子分析框架,扩展现有的因子分析模型的教育数据挖掘,有效地输出模型的估计因素的不确定性估计。这样的不确定性信息例如对于自适应测试场景是有用的,其中如果模型对学生的技能水平估计不太确定,则可以管理附加测试。产生这种不确定性信息的传统贝叶斯推断方法在计算上是昂贵的,并且不能扩展到大的数据集。VarFA利用变分推断,这使得即使在非常大的数据集上也可以有效地执行贝叶斯推断。我们使用稀疏因子分析模型作为案例研究,并证明了VarFA在合成和真实数据集上的有效性。VarFA也非常通用,可以应用于各种因子分析模型。
2020-08-14 cs.CY cs.LG stat.AP
A Bayesian Matrix Factorization Model for Relational Data
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学)
关系学习可以用来用其他相关的信息源来增强一个数据源,以提高预测的准确性。我们框架的关系学习问题的一大类矩阵分解问题,并提出了一个层次贝叶斯模型。使用随机行走Metropolis-Hastings训练我们的贝叶斯模型是不切实际的慢,所以我们开发了一个块Metropolis-Hastings采样器,它使用梯度和Hessian的可能性来动态调整建议。我们证明,大脑对刺激的反应的预测模型可以通过增加有关刺激的边信息来改善。
2012-03-15 cs.LG stat.ML
Bayesian Group Factor Analysis
我们引入了一个因子分析模型,它总结了观察到的变量组之间的依赖关系,而不是像标准因子分析那样单个变量之间的依赖关系。一个组可以对应于同一组对象的一个视图、通过同现绑定的许多数据集之一、或从统计表收集的用于测量一个感兴趣的属性的一组替代变量。我们表明,通过假设组明智的稀疏因素,活跃在一个子集的集合,变化可以被分解成因素解释之间的关系的集合和因素解释了特定的变化。我们制定的贝叶斯模型提供的因素的假设,并将该模型应用到两个数据分析任务,在神经成像和化学系统生物学。
2011-10-14 stat.ML
Nonnegative Bayesian nonparametric factor models with completely random measures for community detection
我们提出了一个贝叶斯非参数泊松因子分解模型建模网络数据的未知和潜在的重叠社区的数量不断增加。该构造基于完全随机的措施,并允许社区的数量以指定的对数或多项式速率随节点的数量增加,或者有界。我们开发的节点数量和网络的度分布的渐近性,并推导出一个马尔可夫链蒙特卡罗算法,针对这个模型的确切后验分布。该方法的实用性说明了各种真实的网络。
2019-02-27 cs.SI stat.ME
Bayesian Power and Sample Size Calculations for Bayes Factors in the Binomial Setting
本文针对二项分布设定下贝叶斯因子检验,提出一种数值求根方法以快速计算达到预设贝叶斯功效和第一类错误率界限所需的样本量,并通过临床试验案例验证其有效性,相关方法已实现于R包bfpwr。
2025-02-05 stat.AP stat.ME
Projected Bayesian Spatial Factor Models
USC PPHS Division of Biostatistics(南加州大学预防医学与预防健康科学学院生物统计学系)
本文提出投影贝叶斯空间因子模型,通过投影MCMC方法提升空间因子分析的可扩展性和可识别性,适用于大规模空间数据的低维表示学习。
2025-12-13 stat.ME
Bayesian Group Nonnegative Matrix Factorization for EEG Analysis
Korea Advanced Institute of Technology(韩国高等科学技术院)
我们提出了一个生成模型的一组EEG分析,基于适当的内核假设的EEG数据。我们推导出变分推理更新规则使用各种近似技术。所提出的模型优于当前国家的最先进的算法在共同的模式提取。该模型的有效性进行了测试的BCI竞争数据集。
2012-12-18 cs.LG stat.ML
Bayesian Dynamic Clustering Factor Models
提出贝叶斯动态聚类因子模型,结合因子分析与隐马尔可夫模型,实现多元纵向数据的降维、聚类及动态转换估计,并验证其有效性。
2025-05-27 stat.ME
Simulation-Free Bayesian Power and Sample Size Calculations for Bayes Factors in Single-Arm Phase II Trials with Binary Endpoints
研究具有二元终点的单臂II期试验中贝叶斯因子的无模拟功效和样本量计算方法,通过该方法设计试验并校准相关概率,以适应临床试验设计创新现代化,两个肿瘤学例子及代码展示了该方法。
2026-07-28 stat.AP stat.ME
Factorized Asymptotic Bayesian Hidden Markov Models
NEC Laboratories America(美国 NEC 实验室);University of Tokyo(东京大学)
本文讨论了隐马尔可夫模型(HMM)的模型选择问题。我们推广了因子分解渐近贝叶斯推断(FAB),这是最近开发的独立隐变量模型选择(即,混合模型),用于时间依赖的隐变量。与混合模型中的FAB算法一样,本文推导出了基于因子分解信息准则(FIC)的混合模型中的FAB算法。它继承了混合模型的FAB,学习障碍的几个理想的属性,如FIC与边际对数似然的渐近一致性,隐藏状态选择的收缩效应,通过迭代优化的FIC下限的单调增加。此外,它没有可调的超参数,因此其模型选择过程可以完全自动化。实验结果表明,FAB优于国家的最先进的变分贝叶斯HMM和非参数贝叶斯HMM的模型选择精度和计算效率。
2012-06-18 cs.LG stat.ML
Bayes-Factor-VAE: Hierarchical Bayesian Deep Auto-Encoder Models for Factor Disentanglement
Samsung AI Center(三星人工智能中心);Rutgers University(罗格斯大学)
我们提出了一系列新型分层贝叶斯深度自动编码器模型,能够识别数据变异性的分解因素。虽然最近的许多尝试因素解开集中在复杂的学习目标的VAE框架内,他们选择的标准正常的潜在因素之前是次优和有害的性能。我们的关键观察是,解开的潜在变量负责的主要来源的变异性,相关因素,可以更适当地使用长尾分布建模。另一方面,典型的高斯先验更适合于滋扰因素的建模。出于这一动机,我们通过引入高斯潜在先验方差的超先验,模仿无限混合,同时保持传统VAE的易处理的学习和推理,将VAE扩展到分层贝叶斯模型。这一分析表明,以不同的方式划分和处理相应的相关因素和滋扰的潜在层面的重要性。我们提出的模型,被称为贝叶斯因子VAE,表现出优于现有的方法在定量和定性方面的潜在解开在几个具有挑战性的基准任务。
2019-09-06 cs.CV cs.LG stat.ML
Bayesian Poisson Tensor Factorization for Inferring Multilateral Relations from Sparse Dyadic Event Counts
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Columbia University(哥伦比亚大学);Microsoft Research(微软研究院)
我们提出了一个贝叶斯张量分解模型,用于从动态成对交互模式推断潜在组结构。几十年来,政治学家收集和分析了“国家$i$在时间$t$对国家$j$采取行动$a$“的记录-被称为二元事件-以形成和检验国际关系理论。我们将这些事件数据表示为计数张量,并开发贝叶斯泊松张量因子分解来推断其显着模式的低维,可解释的表示。我们证明了我们的模型的预测性能优于标准的非负张量因子分解方法。我们还提供了一个比较我们的变分更新,他们的极大似然同行。在这样做时,我们确定了一个更好的方式来形成点估计的潜在因素比通常使用的贝叶斯泊松矩阵分解。最后,我们展示了我们的模型作为政治科学家的探索性分析工具。我们发现,推断的潜在因素矩阵捕捉可解释的多边关系,既符合我们的知识,并告知国际事务。
2015-06-10 cs.AI cs.LG cs.SI
Classification of weak multi-view signals by sharing factors in a mixture of Bayesian group factor analyzers
我们提出了一种新的弱信号数据分类模型,建立在最近的贝叶斯多视图学习模型,组因子分析(GFA)。而不是假设所有数据都来自一个单一的GFA模型,我们允许潜在的集群,每个集群有一个不同的GFA模型,并产生不同的类分布。我们发现,通过共享因子,在集群之间共享信息,大大提高了分类精度;共享因子基本上形成了一个灵活的噪声模型,可以解释与分类无关的数据部分。设置的动机来自单次试验功能性脑成像数据,具有非常低的信噪比和自然的多视图设置,具有不同的传感器,测量模态(EEG,MEG,fMRI)和可能的辅助信息作为视图。我们在MEG数据集上展示了我们的模型。
2016-06-07 stat.ML
Enhancing Scalability in Bayesian Nonparametric Factor Analysis of Spatiotemporal Data
针对中大型时空数据的贝叶斯非参数因子分析计算瓶颈,提出切片采样、最近邻高斯过程先验和顺序更新算法,提升可扩展性、存储效率及预测聚类性能。
2025-02-16 stat.CO stat.ME
Efficient leave-one-out cross-validation for Bayesian non-factorized normal and Student-t models
交叉验证可用于测量模型的预测准确性,以进行模型比较、平均或选择。标准的留一交叉验证(LOO-CV)要求观测模型可以分解为简单的项,但时间和空间统计学中的许多重要模型不具备这一特性,或者在强制分解为简单项时效率低下或不稳定。我们推导出如何有效地计算和验证任何贝叶斯非因子分解模型的精确和近似LOO-CV,其结果值为多元正态分布或Student- t分布。我们演示的方法使用滞后同时自回归(SAR)模型作为案例研究。
2020-10-01 stat.ME
Robust Sparse Bayesian Infinite Factor Models
以往的贝叶斯因子模型的研究和应用大多假设正态似然,而忽略了其有效性。为了获得更好的协方差估计,提出了一种基于多元Student- $t$似然的高维重尾数据贝叶斯因子模型.我们使用Bhattacharya和Dunson [Biometrika(2011)291-306]中提出的乘法伽马过程收缩先验和因子数自适应方案。由于该模型的朴素Gibbs采样器混合速度慢,我们提出了一种马尔可夫链蒙特卡罗算法,其中哈密顿蒙特卡罗的快速混合被利用的一些参数,在所提出的模型。仿真结果表明,在重尾高维数据的协方差估计的性能增益。我们还提供了一个理论结果,该模型的后验是弱相容的合理条件下。最后,我们总结了本文提出的因子模型在乳腺癌转移预测中的应用,给出了癌细胞的DNA特征数据。
2020-12-09 stat.ME
Bayesian factorization via $L_{1/2}$ shrinkage
Central South University(中南大学);CSIRO(澳大利亚联邦科学与工业研究组织)
本文提出基于 $L_{1/2}$ 缩减的贝叶斯因子分解方法,通过简单先验设定实现递增收缩特性,提升后验推断效率,并提出变分近似算法以加快计算速度,经数值研究验证其在准确性和计算效率上的优势。
2026-03-28 stat.ME
Large Scale Variational Bayesian Inference for Structured Scale Mixture Models
自然图像统计在多个尺度上表现出层次依赖性。在非阶乘潜在树模型中表示这样的先验知识可以大大提高图像去噪、修复、去卷积或重建的性能,超越标准阶乘“稀疏”方法。我们推导出一个大规模的近似贝叶斯推理算法的线性模型与非阶乘(潜在树结构)规模的混合先验。一系列去噪和修复问题的实验结果表明,大大提高了性能相比,MAP估计或推断与阶乘先验。
2012-06-27 cs.CV cs.LG stat.ML
Product Kanerva Machines: Factorized Bayesian Memory
Google DeepMind(谷歌DeepMind)
一个理想的受认知启发的记忆系统会压缩和组织传入的项目。Kanerva Machine(Wu et al,2018)是一种贝叶斯模型,可以自然地实现在线内存压缩。然而,Kanerva机器的组织受到其使用单个高斯随机矩阵进行存储的限制。在这里,我们介绍产品Kanerva机器,它动态地结合了许多较小的Kanerva机器。它的分层结构提供了一种原则性的方法来抽象不变的特征,并提供了比单个Kanerva机器更大的扩展和容量优势。我们表明,它可以表现出无监督的聚类,找到稀疏和组合的分配模式,并发现空间调整,近似分解简单的图像对象。
2020-02-06 cs.LG stat.ML
Variational Bayesian Inference for Robust Streaming Tensor Factorization and Completion
Department of Mathematics, UC Santa Barbara(加州大学圣巴巴拉分校数学系);Department of ECE, UC Santa Barbara(加州大学圣巴巴拉分校电气工程与计算机科学系)
流张量分解是一个强大的工具,用于处理互联网网络,推荐系统和图像/视频数据分析中的大容量和多路时态数据。现有的流式张量分解算法依赖于最小二乘数据拟合,并且它们不具有用于张量秩确定的机制。这使得它们容易受到离群值的影响,并且容易过度拟合。本文提出了一种贝叶斯鲁棒流张量分解模型,用于识别稀疏离群点,自动确定底层张量秩,精确拟合低秩结构。我们在Matlab中实现了我们的模型,并将其与动态MRI和互联网流量生成的张量数据集上的现有算法进行了比较。
2018-12-31 cs.LG eess.SP stat.ML
A Bayesian sparse factor model with adaptive posterior concentration
Inha University(仁荷大学);The University of Notre Dame(圣母大学);Seoul National University(首尔国立大学)
本文提出一种新的高维稀疏因子模型贝叶斯推断方法,通过引入稀疏水平与因子维数之间的依赖关系,在保持计算可处理性的同时实现自适应后验收缩,并证明其在因子维数检测和协方差矩阵估计上具有最优或近似最优的理论性质与数值优势。
2023-05-29 cs.LG stat.ME stat.ML
Factor Investing: A Bayesian Hierarchical Approach
本文研究了收益可预测时的资产配置问题。我们引入了一个市场时机贝叶斯分层(BH)的方法,采用异质时变系数驱动的滞后基本特征。我们的方法包括联合估计的条件预期收益和协方差矩阵,并考虑估计风险的投资组合分析。分层先验允许单独建模不同的资产,同时在资产之间共享信息。我们展示了美国股票市场的表现。虽然贝叶斯预测略有偏差,但我们的BH方法在点和区间预测中优于大多数替代方法。我们的BH方法在最近20年的行业投资中提供了0.92%的平均月回报率和0.32%的显着Jensen's alpha。我们还发现,科技、能源和制造业是过去十年的重要板块,规模、投资和短期反转因素权重较大。最后,我们的BH方法构造的随机贴现因子解释了大多数异常。
2020-09-17 econ.EM stat.AP