A Privacy-Aware Bayesian Approach for Combining Classifier and Cluster Ensembles
University of Texas (UT) at Austin(德克萨斯大学奥斯汀分校);University of Sao Paulo (USP)(圣保罗大学)
本文介绍了一种隐私感知贝叶斯方法,它结合了分类器和聚类器的集成来执行半监督和直推学习。我们考虑的情况下,实例及其分类/聚类结果分布在不同的数据站点,并有共享限制。作为一种特殊情况,当目标数据的实例分布在不同的数据站点时,模型的隐私感知计算也进行了讨论。实验结果表明,该方法可以提供良好的分类精度,同时坚持数据/模型共享的限制。
2012-04-20 cs.CV cs.LG stat.ML
Assimilated LVEF: A Bayesian technique combining human intuition with machine measurement for sharper estimates of left ventricular ejection fraction and stronger association with outcomes
心脏病专家测量收缩性心力衰竭的主要工具是左心室射血分数(LVEF)。经过培训的心脏病专家报告了LVEF的视觉和机器引导测量,但仅在分析中使用该机器引导测量。我们使用贝叶斯技术结合PARTNER-IIA试验(一组接受生物主动脉瓣治疗的中度风险主动脉瓣狭窄患者)的视觉和机器引导估计,发现我们的联合估计减少了测量误差,并改善了LVEF与1年复合终点之间的相关性。
2018-05-07 stat.AP
Combining interdependent climate model outputs in CMIP5: A spatial Bayesian approach
对未来气候变化的预测在很大程度上依赖于气候模型,通过多模型集合将气候模型结合起来不仅比单一气候模型更准确,而且对不确定性量化也很有价值。然而,贝叶斯方法的多模型集成已被批评,使过于简化的假设偏差和变异性,以及处理不同的模型作为统计独立的。本文通过明确解释空间变异性和模型间依赖性,扩展了Sansom等人(2017)的贝叶斯分层方法。我们提出了一个贝叶斯层次模型,占气候模型和观测,空间和模型间的依赖性,历史和未来时期之间的紧急关系,自然变率之间的偏差。大量的模拟表明,我们的模型提供了更好的估计和不确定性量化比常用的简单模型的意思。这些结果使用CMIP 5模型档案中的数据进行了说明。例如,对于北美洲中部,我们预测的2070- 2100年的平均温度比简单模式平均值低0.8 K,而对于东亚,它高出约0.5 K;然而,在这两种情况下,90%可信区间的宽度都在3- 6 K的数量级,因此不确定性压倒了预测平均温度中相对较小的差异。
2020-02-26 stat.AP
Robust Bayesian Inference for Big Data: Combining Sensor-based Records with Traditional Survey Data
大数据通常表现为大量的非概率样本。不仅是选择机制往往是未知的,但更大的数据量放大了选择偏差的相对贡献总误差。现有的偏差调整方法假设已经为选择指标或关键实质性措施正确指定了条件均值结构。在存在参考概率样本的情况下,这些方法依赖于伪似然方法来考虑参考样本的采样权重,其本质上是参数化的。在贝叶斯框架下,处理抽样权重是一个更大的障碍。为了进一步防止模型误指定,我们扩展了双重鲁棒性的思想,以便更灵活的非参数方法以及贝叶斯模型可以用于预测。特别是,我们采用贝叶斯加性回归树,它不仅自动捕获非线性关联,但允许直接量化点估计的不确定性,通过其后验预测绘制。我们将我们的方法应用于第二个战略公路研究计划的基于传感器的自然驾驶数据,使用2017年全国家庭旅行调查作为基准。
2022-03-26 stat.AP stat.ME
Bivariate Hierarchical Bayesian Model for Combining Summary Measures and their Uncertainties from Multiple Sources
将来自多个数据来源的类似数量的现有估计数结合起来往往是有意义的。当每个估计值的相应方差也可用时,模型应考虑估计值本身的不确定性以及方差估计的不确定性。此外,如果估计值与其方差之间存在强关联,则还应考虑这两个量之间的相关性。在本文中,我们提出了一个双变量层次贝叶斯模型,联合模型的估计和估计方差假设这两个措施之间的相关性。我们进行模拟,以探讨所提出的双变量贝叶斯模型的性能,并比较它与其他常用的方法在不同的相关性的情况下。提出的双变量贝叶斯模型具有广泛的应用。我们说明了它的应用程序在三个非常不同的领域:PET脑成像研究,荟萃分析和小面积估计。
2021-09-15 stat.ME
Bayesian Synthesis: Combining subjective analyses, with an application to ozone data
贝叶斯模型平均使人们能够以连贯的方式组合多个模型的不同预测,从而获得卓越的预测性能。性能的提高来自于对做出不同预测的模型进行平均。在这项工作中,我们利用可能是不同预测的最大驱动力-不同的分析师-以获得模型平均的全部好处。在我们的方法的标准实现中,几个数据分析师独立地处理数据集的各个部分,得出单独的模型,这些模型最终通过特定的加权方法进行更新和组合。我们称这个建模过程为贝叶斯综合。该方法有助于减轻人们对贝叶斯范式的基本基础与贝叶斯统计实践之间存在巨大差距的担忧。在实验工作中,我们表明,人类建模的预测性能优于许多自动建模技术,包括AIC,BIC,平滑样条,CART,袋装CART,贝叶斯CART,BMA和LARS,只有略逊于BART。我们还表明,贝叶斯合成进一步提高了预测性能。此外,我们检查了分析师之间的简单平均值的预测性能,我们称之为凸合成,并发现它也产生了改进。
2011-07-29 stat.AP
Combining support for hypotheses over heterogeneous studies with Bayesian Evidence Synthesis: A simulation study
本研究通过蒙特卡洛模拟评估贝叶斯证据综合在异质性研究间汇总假设支持的性能,证明其能处理复杂假设且不受方法论差异影响,为传统方法失效时提供新工具。
2023-12-22 stat.ME
Asymptotic Properties for Methods Combining Minimum Hellinger Distance Estimates and Bayesian Nonparametric Density Estimates
在频率论推断中,最小化核密度估计和参数族之间的Hellinger距离产生估计,当参数模型正确时,该估计对离群值具有鲁棒性并且具有统计效率。本文旨在扩展这些结果的使用非参数贝叶斯密度估计的差距的方法。我们提出了两个估计:一种方法是用来自随机直方图先验的期望后验密度来替换核密度估计器;另一种方法是通过随机直方图的后验来诱导参数上的后验。我们表明,它是可能的,以适应有效的影响函数从半参数模型的数学机器,以证明我们的估计是有效的意义上实现的Cramer-Rao下界。我们进一步证明了Bernstein-von-Mises的结果,我们的第二个估计表明,它的后验是渐近高斯。此外,经典的最小Hellinger距离估计的鲁棒性继续举行。
2018-12-11 math.ST stat.TH
A Bayesian hierarchical modeling approach to combining multiple data sources: A case study in size estimation
为了有效防治艾滋病毒/艾滋病流行病,在某些关键人群中采取有针对性的干预措施至关重要。这类关键人群的例子包括性工作者、注射毒品者和男男性行为者。虽然准确估计这些关键人群的规模很重要,但很难直接接触或统计这些人群的成员。因此,使用间接方法来产生规模估计。已经提出了多种方法来估计这类人群的规模,但往往得出相互矛盾的结果。因此,必须有一个原则性的方法来合并和调和这些估计数。为此,我们提出了一个贝叶斯分层模型,估计的大小,结合多个估计从不同的信息来源的关键人群。所提出的模型利用多年的数据,并明确建模所使用的数据源中的系统误差。我们使用该模型来估计在乌克兰注射毒品的人数。我们评估模型的适当性,并比较每个数据源对最终估计的贡献。
2021-07-13 stat.AP
Combining Bayesian Optimization and Lipschitz Optimization
Mila(米拉研究所)
贝叶斯优化和Lipschitz优化已经开发了优化黑盒函数的替代技术。它们各自利用关于函数的不同形式的先验。在这项工作中,我们将探索将这些技术结合起来以实现更好的全局优化的策略。特别是,我们提出了在传统BO算法中使用Lipschitz连续性假设的方法,我们称之为Lipschitz贝叶斯优化(LBO)。这种方法不会增加渐近运行时间,并且在某些情况下会大幅提高性能(而在最坏的情况下,性能相似)。事实上,在一个特定的设置,我们证明,使用Lipschitz信息产生相同或更好的约束的遗憾相比,使用贝叶斯优化自己。此外,我们提出了一个简单的估计Lipschitz常数的方法,并证明了Lipschitz常数的增长估计在某种意义上是“无害的”。我们在15个数据集上进行的实验表明,在最坏的情况下,LBO的性能与底层BO方法相似,而在某些情况下,它的性能要好得多。特别是汤普森抽样,通常有很大的改进(因为Lipschitz信息纠正了其众所周知的“过度探索”现象),其LBO变体通常优于其他收购功能。
2020-07-28 cs.LG stat.ML
Meta-analysis of Bayesian analyses
本文提出一个框架,将多个相关贝叶斯研究的后验分布组合进行荟萃分析,能重用预计算后验、事后更新局部后验以共享统计强度,并适用于无似然贝叶斯分析。
2024-10-14 stat.ME
Bayesian inference in hierarchical models by combining independent posteriors
层次模型是用于对来自不同但相关的源的数据集进行联合建模的通用工具。然而,如果特定于源的数据模型是复杂的,或者如果源的数量非常大,则完全贝叶斯推断可能在计算上变得禁止。为了便于计算,我们提出了一种方法,其中的推理是第一次独立的每个数据集的参数,从而获得的后验样本被用来作为观测数据的替代分层模型,基于缩放的似然函数。与完全分层模型中的直接推理相比,该方法的优点是能够通过将初始大推理问题分解为具有更好收敛特性的较小个体子问题来加快收敛。此外,它使并行处理的可能复杂的推断的源特定的参数,否则可能会创建一个计算瓶颈,如果共同处理的一部分,一个分层模型。该方法与模拟和真实的数据进行说明。
2016-04-13 stat.CO stat.ME stat.ML
Using Statistical Mechanics to Improve Real-World Bayesian Inference: A New Method Combining Tempered Posteriors and Wang-Landau Sampling
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
本文提出一种简单方法,通过统计力学语言重新表述贝叶斯定理,结合温后验和王-兰道采样,提升贝叶斯推断质量,应用于材料科学中的方程状态建模问题。
2026-04-26 physics.comp-ph physics.data-an stat.CO
Combining Bayesian and Frequentist Inference for Laboratory-Specific Performance Guarantees in Copy Number Variation Detection
Pillar Biosciences Inc(Pillar 生物科技公司)
本文提出一种混合框架,通过在验证样本上评估贝叶斯后验函数并建模平方损失,实现频主义覆盖的容忍区间。方法包括填补、正则化和证据基于的分层,有效解决小样本和非交换性噪声问题。
2026-04-15 cs.LG q-bio.GN stat.AP
Bayesian hierarchical space-time models to improve multispecies assessment by combining observations from disparate fish surveys
许多受人类活动影响的野生物种需要采用不同设计的多次调查,以捕捉对广泛栖息地条件的行为反应,并对其进行绘图和量化。例如,虽然使用不同渔具进行的交叉但不同的鱼类调查的数据广泛存在,但设计和方法上的差异往往限制了它们的整合。新的统计方法可以利用来自不同来源的观测结果,可以提高我们对多个物种同时分布的理解,从而为保护其种群和生物多样性提供重要证据。在INLA-SPDE框架内使用一种新的贝叶斯分层二项式对数正态栅栏建模方法,我们结合并分析了北海鲱鱼,鲱鱼和东北大西洋鲭鱼的声学和底拖网调查数据。这些模型使用INLA-SPDE技术实现。除了增加空间覆盖范围外,通过考虑调查中的齿轮特定效率,我们获得了更大的统计功效,同时大大降低了估计中的不确定性。我们的统计方法提供了一个方法的发展,以改善多物种评估和海洋生态系统为基础的管理的证据基础。在更广泛的范围内,它可以很容易地应用于不同的生物调查和采样方法交叉的地方,例如使用全球物种分布数据集提供关于生物多样性模式的信息。
2020-12-03 stat.AP stat.ME
Combining chains of Bayesian models with Markov melding
MRC Biostatistics Unit, University of Cambridge(剑桥大学生物统计单元);The Alan Turing Institute(艾伦·图灵研究所)
本文提出了一种扩展的马尔可夫熔合方法,用于整合多个子模型,解决子模型间共同量的先验依赖和先验差异问题,并通过生态模型和纵向时间到事件模型验证了该方法的有效性。
2022-05-30 stat.AP stat.ME
A Unified Bayesian Model for Voter Turnout Estimation: Combining Surveys, Aggregate Data, and Selection Correction
School of Economics and Business Administration, University of Tartu(塔尔图大学经济与商业管理学院)
该研究提出整合调查、汇总数据与选择校正的贝叶斯层次框架,含三类模型,经模拟和爱沙尼亚选举数据验证,可提升小区域选民投票率估计精度。
2026-08-17 stat.AP stat.ME
A Bayesian Ensemble for Unsupervised Anomaly Detection
Columbia University(哥伦比亚大学);Facebook Data Engineering(Facebook数据工程)
无监督异常检测方法的缺点是数据是未标记的,这使得难以评估检测算法的最优性。包围学习在分类和聚类问题中表现出了出色的结果,但在离群点检测方面的研究并不多。现有的方法侧重于结合输出分数的各个检测器,但这导致输出,是不容易解释。在本文中,我们介绍了一个理论基础,结合个人检测器与贝叶斯分类器组合。后验分布不仅很容易被解释为异常的概率分布,而且检测器的偏差、方差和个体错误率都很容易获得。在实际数据集上的性能表明,在不同类型的时间序列数据中具有很高的准确性。
2016-10-24 cs.LG stat.ML
Characterization and valuation of uncertainty of calibrated parameters in stochastic decision models
我们评估了不同的方法来表征不确定性的校准参数的随机决策模型(DMs)的量化值,这样的不确定性在决策的影响。我们使用显微模拟DM结直肠癌(CRC)筛查进行了10年结肠镜筛查的成本效益分析(CEA)。我们校准CRC的自然历史模型的流行病学数据具有不同程度的不确定性,并获得联合后验分布的参数,使用贝叶斯方法。我们进行了概率敏感性分析(PSA)的所有模型参数与不同的表征的不确定性的校准参数和估计值的信息分析的不同表征的不确定性的价值。所有分析都使用运行Extreme-scale Model Exploration with Swift(EMEWS)框架的高性能计算资源进行。部分参数间的后验分布具有较高的相关性。腺瘤发病年龄的威布尔风险函数参数的后验相关性最高,为-0.958。考虑到校准参数的完全后验分布和最大后验估计,在WTP为66,000/QALY时,CEA结果分布的扩散几乎没有差异,完全信息的期望值(EVPI)分别为\$653和\$685。忽略校准参数的后验分布的相关性,在相同的WTP下,CEA结果的分布最广,EVPI最高,为809。校准参数的不确定度的不同表征对CEA上降低不确定度的期望值有影响。忽略PSA上校准参数之间的固有相关性会高估不确定性的值。
2019-06-11 q-bio.QM stat.AP stat.CO
Combining Climate Models using Bayesian Regression Trees and Random Paths
Battelle Memorial Institute(巴特尔纪念研究所);The Ohio State University(俄亥俄州立大学);Washington University in St. Louis(圣路易斯华盛顿大学);Indiana University(印第安纳大学)
本文提出随机路径BART模型,通过引入随机路径分配实现平滑权重函数,以整合多个气候模型并提高预测性能。
2026-01-24 stat.ME
Bayesian Posteriors Without Bayes' Theorem
经典的贝叶斯后验作为几个不同最优化问题的唯一解自然出现,而不需要将数据解释为条件概率,然后使用贝叶斯定理。例如,经典的贝叶斯后验是唯一的后验,它最大限度地减少了在结合先验分布和似然分布时香农信息的损失。这些结果,最近的结果合并的概率分布的直接推论,加强使用贝叶斯后验,并可能有助于部分调和经典和贝叶斯统计之间的一些差异。
2012-03-01 cs.IT math.IT math.PR
Subspace Shrinkage in Conjugate Bayesian Vector Autoregressions
使用大型数据集的宏观经济学家经常面临使用大型向量自回归(VAR)或因子模型的选择。在本文中,我们开发的方法结合使用子空间收缩前两者。子空间先验朝着一类函数收缩,而不是直接迫使模型的参数朝着某个预先指定的位置。我们开发了一种共轭VAR先验,它向因子模型定义的子空间收缩。我们的方法允许估计收缩的强度以及因子的数量。在建立了我们提出的先验的理论属性后,我们进行了模拟,并将其应用于美国宏观经济数据。使用模拟,我们表明,我们的框架成功地检测到的因素的数量。在涉及大型宏观经济数据集的预测实践中,我们发现将VAR与使用我们的先验知识的因子模型相结合可以改善预测。
2021-07-16 econ.EM stat.AP
Momentum-Space Renormalization Group Transformation in Bayesian Image Modeling by Gaussian Graphical Model
Tohoku University(东北大学);Yamagata University(山形大学)
针对高斯图模型,提出了一种将边际似然最大化与动量空间重整化群变换相结合的贝叶斯建模方法。此外,我们提出了一个计划计算的统计平均值的超参数和均方误差在我们提出的方法的基础上动量空间重整化变换。
2018-03-20 cond-mat.stat-mech cs.LG stat.ML
Inverse Renormalization Group Transformation in Bayesian Image Segmentations
Tohoku University(东北大学);Yamagata University(山形大学);Kyoto University(京都大学)
提出了一种新的贝叶斯图像分割算法,该算法将循环置信传播和逆实空间重整化群变换相结合,以减少计算时间。在我们的实验结果中,我们观察到,所提出的方法可以减少计算时间,传统的贝叶斯方法所采取的不到十分之一。
2015-01-05 cond-mat.stat-mech cs.CV stat.ML
Bayesian hierarchical modelling approaches for combining information from multiple data sources to produce annual estimates of national immunization coverage
国家免疫覆盖率的估计对于指导国家免疫规划的政策和决策以及制定全球免疫议程至关重要。世卫组织和儿童基金会每年利用来自多个数据来源的信息和确定性计算逻辑方法,为各种疫苗剂量组合和所有世卫组织会员国编制国家免疫覆盖率估计数。然而,这种方法无法描述覆盖面测量和估计中固有的不确定性。它也没有提供统计原则的方法来利用和说明为多种疫苗、国家和时间点收集的免疫覆盖率数据的相互依赖性。在这里,我们开发贝叶斯分层建模方法,用于准确估计国家免疫覆盖率及其相关的不确定性。我们提出并探讨了两个候选模型:平衡数据单似然(BDSL)模型和不规则数据多似然(IDML)模型,这两个模型的不同之处在于处理缺失数据和表征与多个输入数据源相关的不确定性。我们提供了一个模拟研究,证明了所提出的模型产生的估计的高度准确性,这也表明,IDML模型是更好的模型。我们应用该方法对2000-2019年期间选定的疫苗剂量组合进行覆盖率估计。贡献的R包{ \tt imcover}在Stan编程语言中实现了无U形转弯采样器(NUTS),增强了该方法的实用性和可重复性。
2022-11-27 stat.ME
A Bayesian Semiparametric Gaussian Copula Approach to a Multivariate Normality Test
在本文中,贝叶斯半参数Copula方法被用来模拟潜在的多元分布$F_{true}$。首先,在$F_{true}$的未知边缘分布上构造Dirichlet过程。然后利用高斯copula模型来捕捉$F_{true}$的依赖结构。最后,结合相对置信比和能量距离建立了贝叶斯多元正态性检验。几个有趣的理论结果的方法。最后,通过几个模拟的例子和一个真实的数据集,所提出的方法显示出良好的性能。
2019-07-04 stat.AP stat.CO stat.ME
Reductions of discrete Bayesian networks via lumping
本文通过满射函数合并状态以降低贝叶斯网络维度,研究因子分解结构的保持性,并探讨与马尔可夫链约简的联系。
2024-02-08 math.ST stat.TH
The Relevance of Bayesian Layer Positioning to Model Uncertainty in Deep Bayesian Active Learning
Stanford University(斯坦福大学);NVIDIA(英伟达)
深度学习工具的主要挑战之一是它们无法捕捉模型的不确定性。虽然贝叶斯深度学习可以用来解决这个问题,但贝叶斯神经网络通常需要比确定性网络更多的时间和计算能力来进行训练。我们的工作探讨是否需要完全贝叶斯网络来成功地捕捉模型的不确定性。我们改变贝叶斯层在网络中的数量和位置,并将它们在主动学习上的性能与MNIST数据集进行比较。我们发现,我们可以充分捕捉模型的不确定性,只需使用几个贝叶斯层附近的网络输出,结合确定性和贝叶斯网络的优势。
2018-11-29 cs.AI cs.LG stat.ML
Bayesian optimization using sequential Monte Carlo
SUPELEC(巴黎高等电力学院)
我们认为,使用贝叶斯方法,其中$f$的评价是通过结合有关$f$,这是由一个随机过程模型,和过去的评价结果的先验信息顺序选择的实值连续函数$f$的优化问题。这种方法的主要困难是能够计算用于选择评估点的感兴趣的量的后验分布。在本文中,我们决定使用顺序蒙特卡罗(SMC)方法。
2011-11-21 cs.LG math.OC stat.CO
A Bayesian Approach for De-duplication in the Presence of Relational Data
在本文中,我们研究了在重复数据消除设置中合并配置文件和网络数据的影响。我们还评估了一系列的先验分布的连锁结构的影响。此外,我们探索随机梯度哈密顿蒙特卡罗方法作为一种更快的替代方案,以获得样本的后验分布的网络参数。我们的方法使用RLdata500数据,这是一个流行的数据集,在记录链接文献进行评估。
2021-11-16 stat.ME
Chaotic Bayesian Inference: Strange Attractors as Risk Models for Black Swan Events
本文提出一种基于混沌吸引子塑造贝叶斯推断几何的新风险框架,结合重尾先验与Lorenz/Rossler动力学,通过两种互补模型实现黑天鹅事件的双重视角分析。
2025-09-09 econ.EM q-fin.RM q-fin.ST
Combining probability distributions: Extending the logarithmic pooling approach
组合分布是决策理论和贝叶斯推断中的一个重要问题。对数池是一种通过使用一组反映每个信息源可靠性的权重来聚合专家意见的流行方法。然而,由此产生的汇总分布在很大程度上取决于给每个意见/先验的权重集,因此必须仔细考虑权重的选择。在本文中,我们回顾和扩展的对数池的统计理论,侧重于使用分层先验分布的权重分配。我们探讨了几个统计应用,如生存概率的估计,荟萃分析和贝叶斯融合的人口增长和流行病的确定性模型。我们表明,它是可以学习的权重数据,虽然可识别性问题可能会出现一些配置的先验知识和数据。此外,我们展示了如何分层的方法导致后验分布,能够适应复杂模型中的先验数据冲突。
2020-12-30 stat.ME
What is in a Price? Estimating Willingness-to-Pay with Bayesian Hierarchical Models
Department of Computer Science & Engineering(计算机科学与工程系);Department of Mathematics(数学系);Manipal Academy of Higher Education(曼普及高等教育学院)
本文提出用贝叶斯分层模型分析消费者对iPhone等产品特征的支付意愿,通过模拟选择实验和构建Logit模型,揭示产品价格构成中各组成部分的真实价值。
2025-09-14 cs.LG econ.EM stat.AP
Bayesian inference via rejection filtering
Microsoft Research(微软研究院);University of Sydney(悉尼大学)
我们提供了一种近似贝叶斯推理的方法,使用拒绝抽样。我们不仅使过程高效,而且还大大减少了所需的内存相对于传统的方法相结合的拒绝采样与粒子滤波。我们还提供了一个近似形式的拒绝采样,使拒绝滤波易于处理的情况下,精确拒绝采样是没有效率的。最后,我们提出了几个数值例子的拒绝过滤,显示其跟踪时间依赖的参数在在线设置的能力,也基准测试其性能的MNIST分类问题。
2015-12-03 cs.LG quant-ph stat.ML
Multimodel Bayesian Analysis of Load Duration Effects in Lumber Reliability
本文基于多模型贝叶斯方法,考虑了不同载荷分布下的载荷持续时间(DOL)效应,对木材的可靠性进行评估。以前用于可靠性评估的三个单独的DOL模型被认为是:美国模型,加拿大模型,伽马过程模型。随机生成的住宅,雪,风荷载的程序也进行了说明。我们提出了贝叶斯模型平均(BMA)作为一种方法,结合在一个给定的负载配置文件,连贯地占模型和参数值的选择统计不确定性的各个模型的可靠性估计。该方法被应用到铁杉实验数据集的分析,其中BMA结果说明通过估计的可靠性指标连同95%的区间带。
2021-10-22 stat.AP
Inferential Induction: A Novel Framework for Bayesian Reinforcement Learning
Chalmers University of Technology(查尔姆斯理工大学);University of Oslo(奥斯陆大学)
贝叶斯强化学习(BRL)为强化学习提供了一种决策理论解决方案。虽然“基于模型”的BRL算法集中在维护模型或值函数的后验分布,并将其与近似动态规划或树搜索相结合,但以前的贝叶斯“无模型”价值函数分布方法隐含地进行了强假设或近似。我们描述了一种新的贝叶斯框架,推理归纳,正确推断价值函数分布的数据,这导致了一类新的BRL算法的发展。我们设计了一个算法,贝叶斯反向归纳,在这个框架。我们的实验表明,该算法是有竞争力的最先进的。
2020-07-01 cs.LG stat.ML
Model-based Kernel Sum Rule: Kernel Bayesian Inference with Probabilistic Models
核贝叶斯推断是概率图模型中非参数推理的一种原则性方法,其中变量之间的概率关系以非参数方式从数据中学习。核贝叶斯推断的各种算法已经通过结合核化的基本概率运算,如核求和规则和核贝叶斯规则而发展起来。然而,目前的框架是完全非参数的,它不允许用户灵活地结合非参数和基于模型的推理。当图形模型的某些部分有好的概率模型(或仿真模型)可用时,这是低效的;在“模型”是研究的中心主题的科学领域中尤其如此。我们在本文中的贡献是介绍一种新的方法,称为{ \em模型为基础的内核和规则}(Mb-KSR),结合概率模型和内核贝叶斯推断。通过将Mb-KSR与现有的核化概率规则相结合,可以开发用于混合(即,非参数和基于模型的)推断。作为一个说明性的例子,我们考虑贝叶斯滤波的状态空间模型,通常存在一个准确的概率模型的状态转换过程。我们提出了一种新的过滤方法,结合基于模型的推理的状态转换过程和数据驱动的,非参数的观察生成过程的推断。我们经验验证我们的方法与合成和真实数据的实验,后者是基于视觉的移动机器人定位在机器人技术,这说明了所提出的混合方法的有效性的问题。
2019-04-17 stat.ME stat.ML
Bayesian Wavelet Shrinkage of the Haar-Fisz Transformed Wavelet Periodogram
人们越来越多地认识到,许多现实世界的时间序列是不稳定的,并表现出不断发展的二阶自协方差或频谱结构。本文介绍了一种贝叶斯方法建模的局部平稳小波时间序列的小波谱的演变。我们的新方法的工作原理相结合的Haar-Fisz变换频谱的优点,一个简单的,但功能强大,贝叶斯小波收缩方法。我们的新方法产生优秀和稳定的谱估计,这是通过模拟数据和不同的婴儿心电图数据证明。贝叶斯范式的一个主要的额外好处是,我们得到严格的和有用的可信区间的不断发展的光谱结构。我们展示了如何贝叶斯可信区间提供额外的洞察婴儿心电图数据。
2013-09-10 stat.ME
A Hybrid Prior Bayesian Method for Combining Domestic Real-World Data and Overseas Data in Global Drug Development
针对多源数据整合中的异质性与偏倚问题,提出新型混合贝叶斯框架EQPS-rMAP,通过倾向评分分层等机制实现数据可靠整合,提升试验效率与准确性,为混合临床试验设计提供实证支持。
2025-05-18 math.ST stat.ME stat.TH
Bayesian Predictive Decision Synthesis
该研究提出贝叶斯预测决策综合(BPDS)方法,以决策导向视角拓展模型不确定性研究,通过新颖的主观贝叶斯模型加权视角,将决策分析结果整合到多模型评估比较中,并在回归设计、金融预测等场景验证了有效性。
2023-05-05 math.ST stat.ME stat.TH
Variational Bayesian Last Layers
Google DeepMind(谷歌DeepMind);Vector Institute(矢量研究所)
该研究提出变分贝叶斯最后层(VBLL)方法,通过确定性变分公式训练贝叶斯最后层神经网络,无需采样且计算复杂度低,能提升不确定性估计、预测准确率等性能,还可结合特征学习实现低方差塌陷变分推断。
2024-04-17 cs.CV cs.LG stat.ML
Efficient and Scalable Batch Bayesian Optimization Using K-Means
IBM Research UK(IBM英国研究院)
本文提出了一种新的贝叶斯优化批量抽样算法--K-Means批量贝叶斯优化(KMBBO)。KMBBO使用无监督学习来有效地估计模型采集函数的峰值。我们在实证实验中表明,我们的方法优于目前最先进的批分配算法的各种测试问题,包括调整算法超参数和一个具有挑战性的药物发现问题。为了适应现实世界中的高维数据的问题,我们提出了一个修改KMBBO结合压缩感知投影到一个较低的维度子空间的优化。我们的经验表明,这两步方法优于没有降维发生的算法。
2018-09-19 cs.AI cs.LG stat.ML
Combining Evidence
讨论了组合每个$k$贝叶斯推理基中包含的有关未知数的证据的问题。这可以被认为是汇集$k$先验以确定共识先验的问题的一般化。Stone(1961)的线性意见库被认为具有最适合这个角色的属性。特别是,线性池保留了关于证据的共识,而其他规则则没有。虽然线性池不保持先前的独立性,它表明,它仍然表现出适当的表达在这样的背景下的证据。对于一般的证据组合问题,Jeffrey条件化起着关键作用。
2022-02-07 math.ST stat.TH
PAC-Bayesian Analysis of the Exploration-Exploitation Trade-off
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Università degli Studi di Milano(米兰大学);Université Laval(拉瓦尔大学);University of Leoben(莱奥本大学);University College London(伦敦大学学院)
我们开发了一个连贯的框架,综合同时分析的勘探开发和模型顺序选择的权衡。我们改进了我们以前在同一主题上的结果(Seldin等人,2011)通过结合PAC-Bayesian分析和鞅的Bernstein型不等式。这样的组合对于研究多个同时发展的鞅也有独立的意义。
2011-05-23 cs.LG stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);University of Helsinki(赫尔辛基大学)
贝叶斯模型量化不确定性,并促进下游应用的最佳决策。然而,对于大多数模型,从业者被迫使用近似推理技术,由于不正确的后验预测分布,导致次优决策。我们提出了一种新的方法,通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型,使最佳决策下的近似后验,结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序,无论后验推理策略。我们证明了经验的方法在几个问题,确认其潜力。
2019-09-11 cs.LG stat.ML
A Tractable Fully Bayesian Method for the Stochastic Block Model
National Institute of Informatics(国立信息学研究所);Tokyo Institute of Technology(东京工业大学)
随机块模型(SBM)是一个生成模型,揭示了图的宏观结构。贝叶斯方法用于(i)聚类分配推断和(ii)聚类数的模型选择。本文研究了大样本极限下SBM中贝叶斯推理的行为。结合变分逼近和拉普拉斯方法,建立了完全边缘化对数似然的一致性判据。在此基础上,我们导出了一个易于处理的算法,可以同时解决任务(i)和(ii),从而避免了需要外部循环来检查所有候选模型。我们的经验和理论结果表明,我们的方法是可扩展的计算,准确的近似,和简洁的模型选择。
2016-02-06 cs.LG stat.ML
ShaplEIG: Bayesian Experimental Design for Shapley Value Estimation
Department of Statistics, LMU Munich(LMU慕尼黑统计系);Institute for Informatics, LMU Munich(LMU慕尼黑信息学院);Department of Computer Science, TU Dortmund University(图腾大学计算机科学系);Munich Center for Machine Learning(慕尼黑机器学习中心);Lamarr Institute for Machine Learning(拉马尔机器学习研究所)
提出ShaplEIG方法,通过高斯过程代理和期望信息增益自适应选择联盟,以高效估计Shapley值,在低预算场景下显著提升样本效率。
2026-06-01 cs.LG stat.ML