Consistent and scalable Bayesian joint variable and graph selection for disease diagnosis leveraging functional brain network
考虑高维probit回归中协变量的回归系数和逆协方差阵的联合推断,其中预测变量既与二元响应相关,又在函数上相互关联.一个层次模型与穗和板坯先验的回归系数和逆协方差阵中的元素,同时进行变量和图形的选择。我们建立联合选择一致性的变量和底层图形的预测时,尺寸允许增长远远大于样本量,这是贝叶斯文献中的第一个理论结果。一个可扩展的吉布斯采样器推导出,在高维模拟研究中表现得更好,与其他国家的最先进的方法。我们通过功能性MRI数据集说明了所提出的方法的实际影响和实用性,其中具有改变的功能活动的感兴趣区域和潜在的功能性脑网络被推断并整合在一起,用于对疾病风险进行分层。
2022-03-14 math.ST stat.ME stat.TH
Bayesian Sample Size Determination of Vibration Signals in Machine Learning Approach to Fault Diagnosis of Roller Bearings
VIT University(韦洛尔理工大学)
数据集的样本量确定是一个重要的统计过程,用于分析数据以达到最佳准确度并使用最少的计算工作。这一过程的应用是可信的,在每一个领域,处理大数据集和高计算工作。本研究使用贝叶斯分析确定的最小样本量的振动信号被认为是使用预定义的参数,如逆标准概率和可接受的误差幅度的轴承故障诊断。为此,本文提出了确定样本量的解析公式。轴承的故障诊断是使用机器学习方法,使用基于熵的J48算法。下面的方法将帮助参与故障诊断的研究人员确定最小样本量进行分析,以获得良好的统计稳定性和精度。
2014-02-25 cs.LG stat.ML
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式,在此形式下,精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用,我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题,制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
Objective Bayesian analysis under sequential experimentation
序贯实验的客观先验被认为是。常见的先验,如Jeffreys先验和参考先验,通常取决于用于序贯实验的停止规则。在各种情况下获得新的表达式的参考先验,并考虑涉及这种先验的计算问题。
2008-05-20 math.ST stat.CO stat.TH
A Sparse Bayesian Learning for Diagnosis of Nonstationary and Spatially Correlated Faults with Application to Multistation Assembly Systems
Virginia Tech(弗吉尼亚理工大学)
针对制造系统中传感器有限及时变工况导致的非平稳空间相关故障,提出聚类空间相关稀疏贝叶斯学习(CSSBL)方法,通过变分贝叶斯推断求解近似后验分布,有效实现多工站装配系统故障诊断并具备跨领域泛化能力。
2023-10-20 cs.LG stat.AP
Latent Conjunctive Bayesian Network: Unify Attribute Hierarchy and Bayesian Network for Cognitive Diagnosis
针对传统属性层级方法参数复杂度高、缺乏统计依赖性解释的问题,提出统一属性层级与贝叶斯网络的潜在合取贝叶斯网络,搭配两步EM算法,在国际教育评估数据集上得到可解释的认知诊断结果。
2023-08-24 stat.AP stat.ME
Alleviating Hyperparameter-Tuning Burden in SVM Classifiers for Pulmonary Nodules Diagnosis with Multi-Task Bayesian Optimization
Yau Mathematical Sciences Center Tsinghua University(姚数学科学中心清华大学);The First Affiliated Hospital of Guangzhou Medical University(广州医科大学第一附属医院);China State Key Laboratory of Respiratory Disease(中国呼吸疾病国家重点实验室);Academy of Mathematics and Systems Science Chinese Academy of Sciences(数学科学学院中国科学院);University of Chinese Academy of Sciences(中国科学院大学);Department of Thoracic Surgery and Oncology The First Affiliated Hospital of Guangzhou Medical University(胸外科与肿瘤科广州医科大学第一附属医院)
本研究针对肺结节诊断中图像离散化方法导致的SVM超参数调优耗时问题,首次提出利用多任务贝叶斯优化加速RBF SVM分类器的超参数搜索,显著提升了调优效率。
2025-11-05 cs.CV cs.LG eess.IV
Sequential Bayesian diagnosis and prognosis of structural deterioration from measured structural responses
Bundesanstalt für Materialforschung und -prüfung (BAM)(联邦材料研究与测试研究所)
本文提出一个序贯贝叶斯框架,通过扩展BUS方法实现基于实测响应的结构退化诊断、预后与可靠性预测,并在导管架结构疲劳退化案例中验证其有效性。
2026-09-29 stat.AP
On Bayesian Sequential Clinical Trial Designs
临床试验通常涉及连续的患者输入。在设计临床试验时,通常需要包括对累积数据进行中期分析的规定,这些数据可能会提前停止试验。我们回顾贝叶斯序贯临床试验设计的基础上后验概率,后验预测概率和决策理论框架。一个相关的问题是贝叶斯序贯设计是否需要调整中期分析的计划。我们从三个角度回答这个问题:频率导向的角度,校准贝叶斯的角度,和主观贝叶斯的角度。我们还提供了新的见解似然原理,这是通常绑在统计推断和决策的顺序临床试验。一些理论结果的推导,并进行数值研究,以说明和评估这些设计。
2023-03-10 stat.ME
UBMF: Uncertainty-Aware Bayesian Meta-Learning Framework for Fault Diagnosis with Imbalanced Industrial Data
Hangzhou International Innovation Institute, Beihang University(北京航空航天大学杭州国际创新研究院);Institute of Reliability Engineering, Beihang University(北京航空航天大学可靠性工程研究所);Science & Technology on Reliability & Environmental Engineering Laboratory(可靠性与环境工程技术重点实验室);School of Reliability and Systems Engineering, Beihang University(北京航空航天大学可靠性与系统工程学院)
针对工业数据不平衡导致故障诊断不确定性高的问题,提出集成扰动、自监督、不确定性过滤与贝叶斯元学习的 UBMF,并在十个数据集上验证其显著性能提升。
2025-03-14 cs.LG stat.ML
A Bayesian sequential test for the drift of a fractional Brownian motion
Steklov Mathematical Institute of Russian Academy of Sciences(俄罗斯科学院斯捷克洛夫数学研究所)
本文提出了一种基于贝叶斯方法的序列检验,用于检测分数布朗运动的漂移方向,通过将问题转化为标准布朗运动的最优停止问题,解决了漂移正负的假设检验问题。
2018-04-08 math.ST stat.TH
Breast Cancer Diagnosis via Classification Algorithms
University of Toronto(多伦多大学)
在本文中,我们使用机器学习分类技术,如SVM,贝叶斯逻辑斯谛回归(变分近似)和K-最近邻分析威斯康星州诊断乳腺癌数据。我们描述了每种模型,并通过不同的措施来比较它们的性能。我们的结论是,支持向量机具有最好的性能在所有其他分类器,而它的竞争密切与贝叶斯逻辑斯谛回归,这是排名第二的最佳方法为这个数据集。
2018-07-03 cs.LG stat.AP stat.CO
Bayesian optimization using sequential Monte Carlo
SUPELEC(巴黎高等电力学院)
我们认为,使用贝叶斯方法,其中$f$的评价是通过结合有关$f$,这是由一个随机过程模型,和过去的评价结果的先验信息顺序选择的实值连续函数$f$的优化问题。这种方法的主要困难是能够计算用于选择评估点的感兴趣的量的后验分布。在本文中,我们决定使用顺序蒙特卡罗(SMC)方法。
2011-11-21 cs.LG math.OC stat.CO
Flexible cost-penalized Bayesian model selection: developing inclusion paths with an application to diagnosis of heart disease
本文提出一种灵活成本惩罚的贝叶斯模型选择方法,通过可调先验和包含路径可视化,帮助医疗从业者在考虑预测变量成本的情况下选择有用子集,并在心脏病诊断数据上验证其有效性。
2024-05-06 stat.ME
Reference priors of nuisance parameters in Bayesian sequential population analysis
为模拟贝叶斯渔业种群模型的自然波动或参数的不确定性而引出的先验分布,可以在大量的统计规律中选择。由于统计框架是由观测过程确定的,因此观测参数进入估计,必须被视为随机的,类似于种群水平或实际渔获量等参数或感兴趣的状态。因此,前者被认为是冗余参数,其值与所考虑的实验有内在联系,这也需要无信息的先验。在渔业研究中,Millar(2002年)提出Jeffreys的方法是一种引出这种先验的实用方法。然而,它们可能在多参数上下文中呈现错误的属性。因此,我们建议使用Berger和Bernardo提出的启发式方法,以避免Jeffreys先验提出的悖论结果。这些基准先验是在序贯总体分析的框架中得出的。
2010-10-11 math.ST stat.TH
Employing Bayesian Networks for the Diagnosis and Prognosis of Diseases: A Comprehensive Review
该综述通过检索筛选60篇相关文献,系统梳理了贝叶斯网络的基础方法与在疾病诊断、预后领域的应用现状,验证了其平均AUC超75%的有效性,并指出需进一步研发以拓展其医疗应用场景。
2023-10-06 stat.AP
Bayesian Learning from Sequential Data using Gaussian Processes with Signature Covariances
University of Oxford(牛津大学)
我们开发了一种贝叶斯方法,通过使用高斯过程(GP)与所谓的签名内核作为协方差函数从序列数据中学习。这允许使不同长度的序列具有可比性,并依赖于来自随机分析的强有力的理论结果。签名捕获序列结构与张量,可以缩放不利的序列长度和状态空间维度。为了解决这个问题,我们引入了一个稀疏变分方法与诱导张量。然后,我们将得到的GP与LSTM和GRU相结合,以构建更大的模型,这些模型利用了每种方法的优势,并将得到的GP在多变量时间序列(TS)分类数据集上进行基准测试。代码可在https://github.com/tgcsaba/GPSig获得。
2020-07-06 cs.LG math.PR stat.ML
Bayesian sequential analysis of adverse events with binary data
提出基于双臂临床试验二元数据的贝叶斯序贯检验方法评估相对风险,通过停止规则原则计算错误概率,并揭示与UMPBT的联系及实证验证。
2025-04-03 stat.AP stat.ME
Sequential Cooperative Bayesian Inference
Rutgers University(罗格斯大学)
在向其他代理人学习时,合作往往是隐含的假设。合作意味着选择数据的主体和从数据中学习的主体具有相同的目标,即学习者推断预期的假设。人类和机器学习的最新模型已经证明了合作的可能性。我们通过序列数据寻求贝叶斯代理合作推理的基础理论结果。我们开发了新的方法分析的一致性,收敛速度和稳定性的顺序合作贝叶斯推理(SCBI)。我们的有效性,样本效率和鲁棒性的分析表明,合作不仅是可能的,在特定的情况下,但在理论上是有根据的一般。我们讨论了人与人和人机合作的影响。
2020-07-01 cs.LG cs.MA stat.ML
A Novel Sparse Bayesian Learning and Its Application to Fault Diagnosis for Multistation Assembly Systems
Virginia Tech(弗吉尼亚理工大学);New Jersey Institute of Technology(新泽西理工学院)
本文研究多工位装配系统的故障诊断问题。故障诊断是利用尺寸测量来识别导致产品尺寸过度变化的过程故障。对于这样的问题,挑战是解决一个欠定系统所造成的一个常见的现象在实践中,即,测量的数量小于过程误差。为了应对这一挑战,本文试图解决以下两个问题:(1)如何利用每个过程错误的时间序列数据中的时间相关性以及(2)如何应用有关哪些过程错误更有可能成为过程故障的先验知识。提出了一种新的稀疏贝叶斯学习方法来实现上述目标。该方法包括三个层次。第一层具有利用每个过程误差的时间相关性的参数化先验分布。第二层和第三层分别得到表征过程故障先验知识的先验分布。然后,利用过程测量样本的似然函数对这些先验分布进行更新,得到欠定系统过程故障的精确后验分布。由于过程故障的后验分布是难以求解的,本文利用变分贝叶斯推断方法推导了过程故障的近似后验分布。最后,以实际的车身装配过程为例进行了数值仿真,验证了该方法的有效性。
2022-10-28 cs.LG stat.AP
Bayesian sequential least-squares estimation for the drift of a Wiener process
给定一个未知和不可观测的漂移的维纳过程,我们试图有效地估计这种漂移,但也尽可能快,在存在的估计误差的二次惩罚和一个固定的,每单位观测时间的正成本。在贝叶斯框架中,假设不可观测的漂移具有已知的“先验”分布,这个问题归结为明智地选择一个适当的扩散过程在自然尺度的停时。我们建立了相应的最佳停止问题的解决方案的结构特性。特别是,我们表明,无论先验分布,连续区域是单调收缩的时间,并提供条件的先验分布保证一个片面的停止区域。最后,我们通过一些具体的先验分布的详细研究来说明理论结果。
2019-05-23 math.ST stat.TH
Bayesian Design Principles for Frequentist Sequential Learning
Columbia University(哥伦比亚大学)
本文提出基于贝叶斯原理的通用理论,通过“算法信息比”优化频率派遗憾,实现无需先验且适用于对抗性设置的算法,并在多臂老虎机等场景中达到最佳全场景性能。
2024-02-09 cs.LG math.OC math.ST
Bayesian sequential parameter estimation with a Laplace type approximation
提出了一种基于迭代拉普拉斯近似的动态隐高斯模型固定参数的序贯推断方法。该方法提供了一个有用的计算性能和准确性之间的权衡近似真实的后验分布。近似校正,以提高模拟研究中的近似精度。基于人口的方法也被证明提供了一个更强大的推理方法。
2015-09-25 stat.CO stat.ME
Bayesian Sequential Detection with Phase-Distributed Change Time and Nonlinear Penalty -- A POMDP Approach
我们证明了几种类型的贝叶斯序贯检测问题的最优决策策略在后验分布空间上具有阈值切换曲线结构。这是建立在部分观测马尔可夫决策过程(POMDP)框架中使用格规划和随机订单。提出了一种随机梯度算法来估计该阈值曲线的最佳线性逼近。我们说明这些结果首先考虑最快的时间检测相位型分布的变化时间和方差停止处罚。然后证明了阈值切换曲线也出现在其他几个贝叶斯决策问题,如最快的瞬态检测,指数延迟(风险敏感)的处罚,停止时间问题的社会学习,和多智能体调度在不断变化的世界。利用Blackwell优势,证明了动态决策问题的最优决策策略是近视策略的下界。最后,它示出了如何实现的最优决策策略的成本变化与变化的时间分布施加偏序的过渡矩阵。
2011-06-13 cs.IT math.IT stat.ME
Sequential Bayesian Model Selection of Regular Vine Copulas
正则vine copula比多元Gaussian copula和多元Student's t copula能描述更广泛的依赖模式。本文提出了两个贡献有关的正则藤copula模型的选择。首先,我们的对copula家庭选择过程扩展了现有的贝叶斯家庭选择方法,允许对家庭从任意一组候选家庭中选择。其次,我们的方法代表了第一种将常规藤蔓密度构建纳入其推理范围的贝叶斯模型选择方法。我们的方法的优点是建立在一个模拟研究中,基准对目前文献中提出的方法。一个用于风险度量和投资分配的组合资产收益预测的实际数据例子说明了所提出的方案的可行性和相关性。
2015-12-03 math.ST stat.ME stat.TH
Sequential Rank and Preference Learning with the Bayesian Mallows Model
本文提出基于贝叶斯马洛斯模型的序列估计算法,通过嵌套序列蒙特卡罗方法实现高效后验推断,并在F1车手排名中展示应用。
2025-06-03 stat.CO
Sequential Selection for Accelerated Life Testing via Approximate Bayesian Inference
加速寿命试验(ALT)通常用于评估材料在所需应力水平下的寿命可靠性。材料工程的最新进展使各种材料替代品变得容易获得。为了确定最可靠的材料设置与有效的试验设计,一个连续的测试计划策略是首选。为了保证一个易于处理的统计机制的信息收集和更新,我们开发了明确的模型参数更新公式,通过近似贝叶斯推断。理论表明,我们的显式更新公式给出了一致的参数估计。仿真研究和算例分析表明,与其他设计方法相比,所提出的序贯选择方法可以显著提高确定最佳可靠性性能材料方案的概率。
2020-01-16 stat.ME
Fully Bayesian Sequential Design for Heteroscedastic Stochastic Simulations
Department of Statistics and Actuarial Science, University of Waterloo(滑铁卢大学统计与精算科学系)
针对异方差随机模拟模型,提出一种基于双高斯过程和期望贝叶斯积分均方预测误差的完全贝叶斯序贯设计策略,有效提升有限预算下的预测精度和不确定性量化。
2026-07-03 stat.ME
A Comparative Tutorial of Bayesian Sequential Design and Reinforcement Learning
强化学习(RL)是一种在序列决策问题中进行奖励驱动学习的计算方法。它通过从与环境交互的代理中学习而不是从监督数据中学习来实现最佳动作的发现。我们对比和比较RL与传统的序贯设计,重点是基于模拟的贝叶斯序贯设计(BSD)。最近,人们对用于医疗保健应用的RL技术越来越感兴趣。我们介绍两个相关的应用程序作为激励的例子。在这两个应用程序中,决策的顺序性质仅限于顺序停止。而不是一个全面的调查,讨论的重点是使用标准工具的解决方案,这两个相对简单的顺序停止问题。这两个问题的灵感来自适应性临床试验设计。我们使用例子来解释每个框架的术语和数学背景,并将一个映射到另一个。实现和结果说明了RL和BSD之间的许多相似之处。这些结果激发了对每种方法的潜在优势和局限性的讨论。
2022-10-05 stat.ME
Sequential multiple importance sampling for high-dimensional Bayesian inference
本文提出序贯多重重要性采样(SeMIS)算法,通过软截断先验作为中间提议分布连接先验与后验,在高维贝叶斯推断中实现了更优的证据估计与后验采样,并在有限元模型更新中成功定位结构损伤。
2025-07-07 cs.NA math.NA math.ST
Sequential Sampling for Optimal Bayesian Classification of Sequencing Count Data
高通量技术已成为生物医学应用中比较研究的首选实践。由于测序成本或获得感兴趣的生物体而导致的有限数量的样本点需要开发有效的样品收集以最大化下游统计分析的功效。本文提出了一种在最优贝叶斯分类框架下顺序选择训练样本的方法。针对RNA测序计数数据,所提出的方法利用了具有封闭形式更新的高效吉布斯抽样过程。我们的研究结果表明,增强的分类精度,相比随机抽样。
2018-07-12 eess.SP stat.ME
A Bayesian adaptive ensemble Kalman filter for sequential state and parameter estimation
本文提出了一种新的集合卡尔曼滤波器的序列状态和参数估计方法。该方法是完全贝叶斯和传播的联合后验密度的状态和参数随着时间的推移。为了实现该方法,我们考虑两种表示的边缘后验分布的参数:基于网格的方法和高斯近似。与现有的算法相反,新方法明确地考虑了参数的不确定性,并提供了一种正式的方法来结合不同时间段数据中的参数信息。该方法的说明和现有的方法相比,使用模拟和真实的数据。
2016-11-11 stat.CO stat.ME
Sequential Bayesian Learning for Merton's Jump Model with Stochastic Volatility
跳随机波动率模型是金融计量经济学中波动率预测、投资组合风险管理和衍生品定价的核心。马尔可夫链蒙特卡罗(MCMC)算法对于波动状态变量和参数的顺序学习在计算上是不可行的,由此投资者必须在新信息到达时更新所有后验和预测密度。本文提出了一种粒子滤波和学习算法来对Merton跳跃随机波动率的后验分布进行采样。这允许过滤现货波动率和跳跃时间,以及跳跃和波动率参数的顺序更新(学习)。我们说明了我们的方法对谷歌的股票回报。我们的结论与未来的研究方向。
2016-10-31 stat.AP
Sequential Bayesian Inference for Factor Analysis
我们开发了一个有效的贝叶斯序贯推理框架,通过各种数据类型,如连续,二进制和有序数据的因素分析模型观察。在连续数据的情况下,它是可能的边缘化的潜在因素,建议的方法量身定制的迭代批量重要性抽样(IBIS)的肖邦(2002年)来处理这样的模型,我们将汉密尔顿马尔可夫链蒙特卡罗。对于二进制和有序数据,我们开发了一个有效的IBIS计划来处理参数和潜在的因素,结合拉普拉斯或变分贝叶斯近似。该方法可用于通过贝叶斯因子进行序贯假设检验的背景下,已知贝叶斯因子比传统的原假设检验具有优势。此外,开发的顺序框架提供了多种好处,即使在非顺序的情况下,通过提供后验分布,模型证据和评分规则(在先决框架下),并通过提供一个更强大的替代计算方案,马尔可夫链蒙特卡罗,可以在有问题的目标分布是有用的。
2022-01-26 stat.ME
Sequential Ensemble Transform for Bayesian Inverse Problems
我们提出了顺序包络变换(SET)方法,一种从贝叶斯后验分布生成近似样本的方法。该方法探讨了后验分布,通过解决一系列离散的最优运输问题,产生一系列的运输计划,映射前样本后验样本。我们证明了当样本量趋于无穷大时,SET方法产生的Dirac混合分布序列弱收敛于真后验。此外,我们的数值计算结果表明,相比标准的序贯蒙特卡罗(SMC)方法,SET方法是更强大的马尔可夫突变内核的选择,并需要较少的计算工作,以达到类似的精度时,用于探索复杂的后验分布。最后,我们描述了自适应计划,允许完全自动化的SET方法的使用。
2020-09-20 stat.CO stat.ME
On Bayesian index policies for sequential resource allocation
本文研究随机多臂强盗模型中最小化(频率主义)后悔的指数策略,其灵感来自于贝叶斯观点。我们的主要贡献是证明了贝叶斯UCB算法,它依赖于分位数的后验分布,是渐近最优的奖励分布属于一个一维指数族,一个大类的先验分布。我们还表明,贝叶斯文献提供了新的见解,什么样的探索率可以用于频率,UCB型算法。事实上,贝叶斯最优解或有限时域Gittins指数的近似值为kl-UCB+和kl-UCB-H+算法提供了理由,其渐近最优性也被建立。
2017-11-06 stat.ML
Bayesian Optimization Sequential Surrogate (BOSS) Algorithm: Fast Bayesian Inference for a Broad Class of Bayesian Hierarchical Models
本文提出BOSS算法,结合贝叶斯优化与近似贝叶斯推断,大幅减少拟合条件潜在高斯模型的计算开销,并通过模拟及多领域实际应用验证其高效性与准确性。
2024-03-18 stat.AP stat.CO stat.ME
Connections between sequential Bayesian inference and evolutionary dynamics
长期以来,人们一直认为,描述生物学进化过程的动力学方程与序贯贝叶斯学习方法之间存在联系。这份手稿描述了一项新的研究,其中这种精确的联系是在连续时间设置中严格建立的。在这里,我们专注于一个偏微分方程称为Kushner-Stratonovich方程描述的后验密度随时间的演变。特别重要的是一个分段光滑的近似的观察路径,从离散时间滤波方程,这是收敛到一个Stratonovich解释的Kushner-Stratonovich方程。然后,这种光滑的公式将被用来绘制非线性随机滤波和复制-增变动力学之间的精确连接。此外,梯度流制剂将被调查,以及一种形式的复制-增变动力学,这是有益的误指定模型过滤问题。希望这项工作将刺激进一步研究顺序学习和进化生物学之间的交流,并激发过滤和采样的新算法。
2025-03-12 math.PR q-bio.PE stat.ME
Bayesian Inference for Logistic Regression Models Using Sequential Posterior Simulation
logistic规范已被广泛用于非贝叶斯统计,以模拟离散结果对指定协变量值的依赖性。由于似然函数是全局弱凹的,所以即使在通常出现的具有几十个或几百个参数的应用中,极大似然估计也是直接的。相比之下,贝叶斯推断已被证明是笨拙的,需要对现有的马尔可夫链蒙特卡罗和数据增强方法的可能性或专门的适应性进行正常近似。本文使用最近开发的一般序贯后验模拟(SPS)方法,只需要多一点的能力,以评估的似然函数的逻辑模型的贝叶斯推断。与现有的替代方案相比,SPS是简单得多,并提供了数字标准误和准确的近似边际可能性作为副产品。用于贝叶斯推断的SPS算法适合于大规模并行实现,并且当使用图形处理单元实现时,它比现有的替代方案更有效。本文通过几个例子来说明这些观点。
2013-04-16 stat.CO
Sequential Embedding Induced Text Clustering, a Non-parametric Bayesian Approach
State University of New York at Buffalo(纽约州立大学布法罗分校);University of California, Irvine(加州大学欧文分校)
当前最先进的非参数贝叶斯文本聚类方法通过词袋上的多项分布对文档进行建模。虽然这些方法可以有效地利用文档的单词突发性表示,并取得不错的性能,但它们没有探索文本的顺序信息和同义词之间的关系。本文将文档建模为词袋、序列特征和词嵌入的结合点。我们提出了顺序嵌入诱导狄利克雷过程混合模型(SiDPMM),有效地利用这种联合文档表示文本聚类。序列特征由编码器-解码器组件提取。通过连续词袋模型(CBOW)产生的词嵌入来处理同义词。实验结果表明,我们的模型在两个主要方面的好处:1)提高了性能在多个不同的文本数据集的归一化互信息(NMI); 2)更准确的推理地面真理的聚类数与正则化效果的微小离群聚类。
2018-11-29 cs.IR cs.LG stat.ML
Sequential Bayesian inference for spatio-temporal models of temperature and humidity data
我们开发了一个时空模型来预测传感器输出在英格兰东北部的五个位置。该信号使用耦合动态线性模型描述,空间效应由高斯过程指定。使用随机算法分析数据流,该算法通过一系列重新加权和重新排序步骤依次逼近参数后验。迭代批量重要性抽样计划是用来规避粒子退化通过重采样移动步骤。对算法进行了改进,使其更高效、更可并行。该模型给出了一个很好的描述的基本过程,并提供合理的预测精度。
2018-06-14 stat.AP stat.CO
Bayesian sequential estimation of the reliability of a parallel-series system
我们给出了一个风险规避的解决方案的问题,并串联系统的可靠性估计。我们采用β-二项式模型的组件的可靠性,并假设总的样本量的经验是固定的。在子系统或组件级的分配可以是随机的。在分别对并联系统和串联系统采样的基础上,提出了一种适用于并-串联系统的混合时序采样方案。利用鞅收敛性质证明了二次损失下的贝叶斯风险的渐近最优性。
2012-04-02 stat.AP
Sequential Bayesian Experimental Design for Implicit Models via Mutual Information
University of Edinburgh(爱丁堡大学);Queensland University of Technology(昆士兰科技大学)
贝叶斯试验设计(Bayesian Experimental Design,简称BED)是一种利用统计模型和不确定性下的决策来优化科学实验成本和性能的框架。与静态BED相反,序贯BED考虑的是我们可以通过实验中收集的数据顺序更新我们对模型参数的信念的场景。对于自然科学和医学科学特别感兴趣的一类模型是隐式模型,其中数据生成分布是棘手的,但从中采样是可能的。尽管在过去的几年里,隐式模型的静态床层展开已经有了大量的工作,但隐式模型的序贯床层展开这一出了名的难题却很少有人涉及。我们通过设计一种新颖的用于参数估计的序贯设计框架来解决文献中的这一差距,该框架使用模型参数和模拟数据之间的互信息(MI)作为效用函数来寻找最佳试验设计,这是以前没有针对隐式模型进行过的。我们的方法使用比率估计的似然自由推断,同时估计后验分布和MI。在连续的BED过程中,我们利用贝叶斯优化来帮助我们优化MI效用。我们发现,我们的框架是有效的各种隐式模型测试,产生准确的参数估计后,只有几次迭代。
2020-03-20 cs.LG stat.CO stat.ME
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所)
我们引入了一个框架,在一般的状态空间隐马尔可夫模型(HHALGORY)的可能性误指定的推理。特别是,我们利用广义贝叶斯推断(GBI)的损失理论的角度来定义广义过滤递归的障碍,可以解决模型误指定下的推理问题。在这样做的过程中,我们到达的原则性程序,强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法(SMC),其中大多数标准粒子方法及其相关的收敛结果,可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题,并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Sequential Bayesian Inference for Uncertain Nonlinear Dynamic Systems: A Tutorial
本文综述非线性非高斯动态系统的序贯贝叶斯方法,围绕粒子滤波构建统一框架,以稀疏测量解决状态、参数与驱动输入联合估计问题。
2022-01-20 cs.SY eess.SY stat.ME
Bayesian nonparametric modelling of sequential discoveries
我们的目标是在一系列的标签对象建模的外观不同的标签。这种类型的数据的常见示例包括语料库中的单词或样本中的不同物种。这些连续的发现通常通过累积曲线来总结,累积曲线计算在越来越大的对象集合中观察到的不同实体的数量。我们提出了一种新的贝叶斯非参数方法的物种抽样建模直接指定的概率,一个新的发现,因此允许灵活的规格。这种方法的渐近行为和有限样本性质进行了广泛的研究。有趣的是,我们扩大的序列过程类包括高度易处理的特殊情况。我们提出了一个子类的模型,其特征在于吸引人的理论和计算性能。此外,由于与逻辑斯谛回归模型的紧密联系,后一个子类可以自然地解释协变量。最后,我们测试我们的建议在合成和真实的数据,特别强调在芬兰的大型真菌生物多样性研究。
2020-11-12 stat.ME
Sequential edge detection using joint hierarchical Bayesian learning
Dartmouth College(达特茅斯学院);Old Dominion University(欧道明大学)
本文介绍了一种新的稀疏贝叶斯学习(SBL)算法,联合恢复的时间序列的边缘地图从噪声和欠采样的傅立叶数据。新方法是投在贝叶斯框架,并使用一个先验,同时结合图像内的信息,以促进稀疏在每个单独的边缘图与图像间的信息,以促进任何不变的区域的相似性。通过将边缘以及相邻图像之间的相似性都视为随机变量,不需要单独形成变化区域。因此,我们既避免了额外的计算成本,以及任何信息损失所造成的预处理的图像。我们的数值例子表明,我们的新方法相比,更标准的SBL方法。
2023-02-28 cs.LG stat.AP
Bayesian Sequential Experimental Design for a Partially Linear Model with a Gaussian Process Prior
研究了在高斯过程先验下估计部分线性模型参数分量的序贯试验设计问题。我们考虑一个主动学习设置,实验者自适应地决定收集哪些数据,以有效地实现他们的目标。实验者的目标可能会有所不同,例如降低分类错误概率或提高估计数据生成过程的参数的准确性。本研究旨在提高部分线性模型参数分量估计的精度。在某些假设下,部分线性模型的参数分量可被视为因果参数,即平均处理效应(ATE)或平均因果效应(ACE)。我们提出了一个贝叶斯序贯试验设计算法的部分线性模型与高斯过程先验,这也被认为是一个序贯试验设计定制的ATE或ACE的估计。我们通过数值实验的基础上合成和半合成数据所提出的方法的有效性。
2022-11-04 stat.ME
Efficient Bayesian estimation for GARCH-type models via Sequential Monte Carlo
利用序贯蒙特卡罗(SMC)方法的优点,研究了广义自回归条件异方差模型的参数估计和模型选择方法.它提供了一种替代方法来量化相对于经典推理的估计不确定性。即使是长时间序列,它表明,模型参数的后验分布是非正态的,突出了贝叶斯方法和有效的后验抽样方法的需要。有效的方法,既在SMC的分布序列的构建,留一交叉验证,长时间序列数据也被提出。最后,一个无偏估计量的可能性开发的坏环境良好的环境模型,一个复杂的GARCH型模型,它允许精确的贝叶斯推断以前没有在文献中。
2020-03-05 econ.EM stat.AP stat.CO
Sequential Monte Carlo for Cut-Bayesian Posterior Computation
提出一种序贯蒙特卡洛方法高效计算 cut-Bayesian 后验量,通过有限样本集中界证明理论性质,并结合线性回火与参数排列优化计算效率,在化学反应器模块化推断中验证了其准确性与计算优势。
2024-11-12 stat.CO stat.ME
Sequential Bayesian Learning for Hidden Semi-Markov Models
在本文中,我们探讨类的隐半马尔可夫模型(HSMM),一个灵活的扩展流行的隐马尔可夫模型(HMM),允许潜在的随机过程是一个半马尔可夫链。由于在评估似然函数时增加的计算挑战,HSMM通常比它们的基本HMM对应物使用得不那么频繁。此外,虽然两个模型本质上都是序贯的,但参数估计主要通过批估计方法进行。因此,本文的一个主要动机是提供方法来估计HSMM(1)在计算上可行的时间,(2)在一个精确的方式,即只受蒙特卡罗误差,(3)在一个连续的设置。我们提供并验证了一个高效的计算方案贝叶斯参数估计的HSMM。此外,我们探讨了自回归(AR)模型与隐半马尔可夫状态的波动率指数时间序列的HSMM的性能,并演示了如何使用该算法可以用于政权切换,模型选择和聚类的目的。
2023-01-25 econ.EM stat.AP stat.CO
Sequential Bayesian inference for static parameters in dynamic state space models
提出了一种动态状态空间模型静态参数的序贯贝叶斯推断方法。该方法是基于观察到许多动态状态空间模型具有相对较少的静态参数(或超参数),因此原则上可以计算后验并存储在可以动态跟踪的实际大小的离散网格上。此外,该方法能够使用计算状态过程的滤波和预测分布的任何现有方法。卡尔曼滤波器及其扩展到非线性/非高斯的情况下,本文已经使用。这是说明使用几个应用程序:线性高斯模型,二项式模型,随机波动率模型和极端非线性单变量非平稳增长模型。性能进行了比较,现有的在线方法和离线方法。
2017-06-27 stat.CO
Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors
我们处理贝叶斯全局优化算法的高效并行化,更具体地说,那些基于预期的改进标准及其变种。建立了基于多元高斯累积分布函数的多点期望改进准则的广义形式的封闭形式公式。反过来,后者依赖于中间的结果,可能是独立的利益有关的截断高斯向量的时刻。所得到的扩展的标准,使研究其可微性方面的点批和计算相应的梯度在封闭的形式。此外,我们得到快速数值逼近这个梯度,并提出有效的批量优化策略。数值实验表明,所提出的方法,使计算节省一个和两个数量级之间,因此,使基于导数的批量顺序采集函数最大化,成为一个切实可行的和有效的标准。
2016-09-09 stat.AP stat.ME stat.ML
Sequential discretisation schemes for a class of stochastic differential equations and their application to Bayesian filtering
针对一类随机微分方程,提出弱收敛阶1.0的序贯预测-校正离散化方案,适用于高维模型,可降低计算成本,且用于贝叶斯滤波时性能更优。
2024-01-31 cs.NA math.NA math.PR