Quantifying the mini-batching error in Bayesian inference for Adaptive Langevin dynamics
CERMICS, Ecole des Ponts(巴黎桥路学校 CERMICS 实验室);Inria Paris(法国国家信息与自动化研究所巴黎中心)
贝叶斯推断允许获得关于模型参数的有用信息,无论是在计算统计学中还是最近在贝叶斯神经网络的上下文中。在贝叶斯推断中,用于采样后验律的常用蒙特卡罗方法的计算成本与数据点的数量成线性比例。将其减少到该成本的一小部分的一个选项是采用mini-slave结合朗之万动力学的未调整离散化,在这种情况下,仅使用数据的随机部分来估计梯度。然而,这导致动态中的附加噪声,并且因此导致对由马尔可夫链采样的不变测量的偏差。我们提倡使用所谓的自适应朗之万动力学,这是一个标准的惯性朗之万动力学的修改与动态摩擦,自动纠正从迷你噪音所产生的增加。我们调查的实际相关性的假设支撑自适应Langevin(恒定协方差的梯度估计,高斯miniquisite噪声),这是不满意的贝叶斯推断的典型模型,并量化在这种情况下miniquisite引起的偏见。我们还提出了一个可能的扩展AdL,以进一步减少偏见的后验分布,通过考虑动态摩擦取决于当前值的参数样本。
2023-03-01 cs.LG stat.ML
Flexible Bayesian modelling in dichotomous item response theory using mixtures of skewed item curves
大多数项目反应理论(IRT)的二分法反应模型是基于概率或logit链接函数,假设一个正确的反应的概率和提交给测试的个人的潜在特质之间的对称关系。这一假设将这些模型的使用限制在所有项目都具有对称行为的情况下。另一方面,文献中提出的非对称模型要求测试中的所有项目都具有非对称行为。这一假设不适用于大多数由对称和非对称项目组成的测验。此外,文献中现有模型的直接扩展将需要事先选择项目的对称/不对称状态。本文提出了一个贝叶斯项目反应理论模型,它以一种灵活而简约的方式解释了对称和非对称项目。这是通过在偏度参数之前分配一个有限混合物来实现的,其中一个混合物成分是零处的点质量。这允许在模型选择和模型平均方法下进行分析。非对称项曲线是通过中心偏态正态分布设计的,它在参数解释和计算效率方面具有特别吸引人的参数化。提出了一种有效的MCMC算法来进行贝叶斯推断,并在一些模拟例子中研究了它的性能。最后,所提出的方法被应用到一个大规模的教育考试在巴西的数据集。
2022-05-20 stat.ME
Categorical data analysis using a skewed Weibull regression model
本文对二项和多项模型的分类响应数据提出了一个威布尔链(偏)模型。我们表明,对于这种类型的分类数据,最常用的模型(logit,probit和互补的对数-对数)可以作为限制情况下获得。我们进一步比较了所提出的模型与其他一些非对称模型。详细介绍了二项和多项数据响应的贝叶斯和频率估计程序。两个数据集的分析,以显示所提出的模型的效率进行。
2017-11-16 stat.ME
Textual Bayes: Quantifying Prompt Uncertainty in LLM-Based Systems
Layer 6 AI
本文通过贝叶斯视角量化LLM系统提示的不确定性,提出MHLP算法结合提示优化与MCMC方法,提升预测准确性和不确定性量化性能。
2026-04-17 cs.AI cs.LG stat.ML
Borrowing strength between unaligned binary time-series via Bayesian nonparametric rescaling of Unified Skewed Normal priors
针对未对齐纵向二元数据,提出基于Pitman-Yor先验与SUN二元状态空间模型的贝叶斯半参数方法,以在保留个体异质性的同时跨患者借用信息。
2025-05-10 stat.AP stat.ME
Quantifying uncertainty in the numerical integration of evolution equations based on Bayesian isotonic regression
本文提出一种新的贝叶斯框架,通过引入收缩先验、变量变换和单调性约束,将贝叶斯等渗回归技术应用于常微分方程数值解的离散化误差方差估计,并利用高斯混合模型开发了高效的吉布斯采样算法。
2024-11-13 cs.NA math.NA physics.data-an
Dynamic modeling of mortality via mixtures of skewed distribution functions
人们对预测死亡率越来越感兴趣。在这篇文章中,我们提出了一种新的动态贝叶斯方法建模和预测的死亡年龄分布,专注于一个狄拉克质量,高斯分布和斜正态分布的三个组成部分的混合物。根据指定的模型,死亡年龄分布的特征是通过与婴儿、成人和老年死亡率的主要方面相对应的七个参数来确定的。所提出的方法侧重于多个国家的连贯建模,并遵循贝叶斯方法进行推理,我们允许跨人群借用信息,并将参数缩小到一个共同的平均水平,隐含地惩罚不同的场景。跨年度的动态建模是通过一个层次的动态先验分布,可以描述每个死亡率组成部分的时间演变,并预测死亡年龄分布。多个国家的实证结果表明,所提出的方法优于流行的方法预测死亡率,提供了可解释的见解的死亡率的演变。
2021-12-17 stat.AP
Skewed Score: A statistical framework to assess autograders
UK AI Security Institute(英国人工智能安全研究所)
本文提出基于贝叶斯广义线性模型的统计框架,用于评估自动评分器的可靠性与偏见,提升LLM评估的稳健性和可解释性。
2026-02-26 cs.LG stat.ML
Multivariate Log-Skewed Distributions with normal kernel and their Applications
本文介绍了两类具有正态核的多元对数偏态分布:对数典型基本偏态分布(log-CFUSN)和对数统一偏态分布(log-SUN)。我们还讨论了log-CFUSN分布族的一些性质。这些新的对数偏态分布包括对数正态和多元对数偏态族作为特殊情况。讨论了log-CFUSN分布族中与贝叶斯推断相关的一些问题,主要讨论了如何对偏斜参数的先验不确定性进行建模。基于log-CFUSN族的随机表示,我们提出了一种从后验分布采样的数据增强策略。这个建议的家庭是用来分析美国全国的月降水量数据。我们的结论是,一个高维的偏斜函数导致一个更好的模型拟合。
2020-05-01 stat.AP stat.ME
Bayesian Spillover Graphs for Dynamic Networks
Cornell University(康奈尔大学)
我们提出了贝叶斯溢出图(BSG),一种新的方法,学习时间关系,识别关键节点,并量化不确定性的动态系统中的多水平溢出效应。BSG通过预测误差方差分解(FEVD)和贝叶斯时间序列模型的全面不确定性量化来利用可解释的框架,以系统性风险和预测变异性的时间关系为背景。预测范围超参数$h$允许学习短期和平衡状态网络行为。在各种图形和错误规范下识别源节点和汇聚节点的实验显示,与最先进的贝叶斯网络和深度学习基线相比,性能有了显著提高。实际系统的应用也展示了BSG作为一种探索性分析工具,用于发现间接溢出效应和量化系统性风险。
2022-06-16 cs.LG stat.AP stat.ME
GAN-based Priors for Quantifying Uncertainty
University of Southern California(南加州大学)
贝叶斯推断被广泛地用于量化在一个相关领域的测量时,两者通过一个数学模型联系在一起的推断领域的不确定性。尽管有许多应用,贝叶斯推断面临的挑战时,推断具有大尺寸的离散表示,和/或具有先验分布,是难以数学表征的领域。在这项工作中,我们演示了如何将深度生成对抗网络(GAN)学习的近似分布用作贝叶斯更新中的先验,以解决这两个挑战。我们证明了这种方法在两个不同的,非常广泛的,类的问题的有效性。第一类是用于图像分类的监督学习算法,具有优越的分布检测和准确性,以及用于具有内置方差估计的图像修复。第二类导致图像去噪和解决物理驱动的逆问题的无监督学习算法。
2020-03-27 cs.CV cs.LG physics.comp-ph
WIKS: A general Bayesian nonparametric index for quantifying differences between two populations
确定两个样本是否来自同一分布的问题往往是许多研究调查中感兴趣的问题。许多统计方法已经致力于这个问题,但只有少数人认为贝叶斯非参数方法。我们提出了一个非参数贝叶斯指数(WIKS),它的目标是量化两个人口之间的差异$P_1$和$P_2$基于他们的样本。WIKS指数由$P_1$和$P_2$之间的Kolmogorov-Smirnov距离的加权后验期望定义,并且与大多数现有方法不同,可以使用$(P_1,P_2)$上的任何先验分布来容易地计算。此外,WIKS计算速度快,可以证明贝叶斯决策理论框架下。我们提出了一个模拟研究表明,WIKS方法是更强大的竞争方法在几个设置,甚至在多变量设置。我们还证明,WIKS是一个一致的程序,并控制的显着性水平均匀的原假设。最后,我们将WIKS应用于三组不同患者的量表测量数据集,这些患者提交了阿尔茨海默病诊断问卷。
2018-06-22 math.ST stat.TH
A Bayesian approach to quantifying uncertainties and improving generalizability in traffic prediction models
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出一种引入谱归一化的贝叶斯循环神经网络框架,用于交通预测中的不确定性量化,通过控制模型复杂度减少过拟合,从而在分布外数据上提升泛化性能,并显著优于层归一化和无归一化方法。
2023-07-26 cs.LG stat.ML
Quantifying Uncertainty in Deep Spatiotemporal Forecasting
UC San Diego(加州大学圣地亚哥分校);University of Washington(华盛顿大学);Northeastern University(东北大学)
深度学习在时空预测中越来越受欢迎。然而,以前的工作主要集中在点估计没有量化的预测的不确定性。在高风险领域,能够生成具有置信区间的概率预测对于风险评估和决策制定至关重要。因此,不确定性量化(UQ)的时空预测方法的系统研究是在社区失踪。在本文中,我们描述了两种类型的时空预测问题:定期网格为基础的和图形为基础的。然后,我们分析了UQ方法从贝叶斯和频率的角度来看,铸造在一个统一的框架,通过统计决策理论。通过对现实世界道路网络交通,流行病和空气质量预测任务的广泛实验,我们揭示了不同UQ方法的统计和计算权衡:贝叶斯方法通常在平均预测中更稳健,而从频率论方法获得的置信水平提供了更广泛的覆盖范围。在计算上,分位数回归类型的方法对于单个置信区间更便宜,但需要重新训练不同的区间。基于采样的方法生成可以形成多个置信区间的样本,尽管计算成本较高。
2021-06-12 cs.AI cs.LG stat.AP
How Much Can I Trust You? -- Quantifying Uncertainties in Explaining Neural Networks
TU Berlin(柏林工业大学);MPII(马克斯·普朗克信息学研究所);Korea University(高丽大学);Google Research(谷歌研究院);RIKEN AIP(理化学研究所人工智能项目中心);TU Kaiserslautern(凯泽斯劳滕工业大学)
可解释人工智能(XAI)旨在为学习机器(如深度神经网络)做出的预测提供解释,以便使机器对用户更加透明,并且对于安全关键领域的应用也更加值得信赖。然而,到目前为止,还没有构想出量化解释的不确定性的方法,这在解释的高置信度是先决条件的领域中是有问题的。因此,我们提出了一个新的框架,允许转换任何任意的解释方法为神经网络到贝叶斯神经网络的解释方法,与内置的不确定性建模。在贝叶斯框架内,网络的权重遵循将标准单一解释分数和热图扩展到其分布的分布,以这种方式将固有网络模型不确定性转化为解释不确定性的量化。这使我们第一次能够排除与模型解释相关的不确定性,并随后为用户(使用随机数)衡量解释置信度的适当水平。我们证明了我们的方法的有效性和实用性,在各种实验中,定性和定量。
2020-06-16 cs.AI cs.CV cs.LG
Simulation-based Estimation of Mean and Standard Deviation for Meta-analysis via Approximate Bayesian Computation (ABC)
背景资料:当对连续结局进行荟萃分析时,需要估计所选研究的平均值和标准差,以获得平均效应及其置信区间的总体估计值。如果出版物中没有直接报告这些数量,则必须根据其他报告的汇总统计量(如中位数、最小值、最大值和四分位数)估计这些数量。研究方法:我们提出了一种基于模拟的估计方法,使用近似贝叶斯计算(ABC)技术估计平均值和标准差的基础上,在已发表的研究中发现的各种汇总统计。我们进行了一项模拟研究,将提出的ABC方法与Hozo et al.(2005),Bland(2015)和Wan et al.(2014)的现有方法进行比较。结果:在标准差的估计中,我们的ABC方法在偏态或重尾分布中表现最好。随着样本量的增加,平均相对误差(ARE)趋于零。在正态分布中,我们的ABC表现良好。然而,Wan等人的方法是最好的,因为它基于正态分布假设。当分布是偏态或重尾分布时,Wan等人的ARE会随着样本量的增加而远离零。在均值的估计中,我们的ABC方法是最好的,因为ARE收敛到零。结论:ABC是一种灵活的方法,用于估计荟萃分析的研究特定平均值和标准差,特别是在潜在的偏态或重尾分布的情况下。当采用贝叶斯分析时,ABC方法可以使用其他报告的汇总统计量,例如后验均值和95%可信区间。
2015-04-02 stat.ME
Quantifying the probable approximation error of probabilistic inference programs
Massachusetts Institute of Technology(麻省理工学院)
本文介绍了一种新的技术量化的近似误差的概率推理程序,包括基于变分和蒙特卡罗方法。其关键思想是推导出一个主观界的对称KL分歧之间的分布实现的近似推理程序和它的真正的目标分布。界限的有效性(和主观性)取决于两个辅助概率程序的准确性:(i)一个“参考”推理程序,定义了一个黄金标准的准确性和(ii)一个“元推理”程序,回答了这样一个问题:“什么样的内部随机选择原始近似推理程序可能会产生一个特定的结果?”“本文包括从线性回归,狄利克雷过程混合建模,障碍和贝叶斯网络得出的推理问题的实证结果。实验表明,该技术是强大的参考推理程序的质量,它可以检测到执行错误,是不明显的预测性能。
2016-05-31 cs.AI cs.LG stat.ML
Bernoulli Trials With Skewed Propensities for Certification and Validation
撰写这篇论文的动力是媒体的广泛报道,即软件故障是波音737 Max飞机最近两次事故的原因。然而,这里考虑的问题是一个特定的问题,在这个意义上,它致力于解决诸如药物、材料样本或复杂系统之类的物品可以基于大量的伯努利试验而被认证使用的条件的一般问题,这些试验都是成功的。更广泛地说,这篇论文试图回答一个古老而光荣的哲学问题,即”什么时候经验检验本身可以验证自然规律?““我们的信息是,答案取决于一个人从什么开始,也就是说,一个人的先验分布是什么,这个先验分布赋予了什么未知数,以及观察到的数据是什么。本文件是简要的,因为它以历史回顾开始,并以解决所提出的问题的一些新的想法和建议结束。在续集中,它还阐明了波普尔的“倾向”的概念及其在伯努利试验下为贝叶斯推断提供适当框架的作用,以及需要与主观指定的后验分布进行接触;也就是说,在后验迭代之前不求助于通常的贝叶斯。
2020-03-06 stat.OT
Quantifying the limits of human athletic performance: A Bayesian analysis of elite decathletes
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Tufts University(塔夫茨大学)
本文通过贝叶斯模型分析十项全能运动员表现,旨在量化人类极限运动能力的边界。
2026-02-19 stat.AP
Model-based clustering via skewed matrix-variate cluster-weighted models
加权模型(CWM)扩展了有限混合回归(FMR),以允许协变量的分布有助于聚类过程。在矩阵变量框架中,最近引入了矩阵变量正态CWM。然而,当数据在响应、协变量或两者中表现出偏态或其他偏离正态性时,可能会遇到问题。因此,我们引入了一个家庭的24矩阵变量CWM,这是通过允许的响应和协变量进行建模,通过使用现有的四个偏态矩阵变量分布或矩阵变量正态分布。我们的矩阵变量CWM具有更大的灵活性,能够以更合适的方式处理这类数据。作为副产品,四个斜矩阵变量FMR也被引入。极大似然参数估计使用期望条件最大化算法。参数恢复,分类评估,和贝叶斯信息标准的能力,以检测潜在的群体进行了研究,使用模拟数据。最后,我们的矩阵变量CWM,随着矩阵变量正常CWM和矩阵变量FMR,被应用到两个真实的数据集进行说明。
2021-11-29 stat.AP stat.ME
A Bayesian Framework for Quantifying Association Between Functional and Structural Data in Neuroimaging
Texas A&M University(德克萨斯农工大学);Department of Statistics, Texas A&M University(德克萨斯农工大学统计学系);Department of Psychological & Brain Sciences, Texas A&M University(德克萨斯农工大学心理与脑科学系)
本文提出一种贝叶斯框架,用于量化神经影像中功能与结构数据的关联,通过构建功能脑网络并结合层次贝叶斯模型,实现对不同数据结构的适应性和后验不确定性量化。
2026-03-22 stat.ME
Bayesian nonparametric partial clustering: Quantifying the effectiveness of agricultural subsidies across Europe
本文提出贝叶斯非参数部分聚类模型,结合多项Logit与BNP先验,利用22个欧盟成员国数据评估共同农业政策对土地利用的影响,发现其效果异质性大,需定制补贴以提升有效性。
2024-12-17 stat.ME
A Case Study on Quantifying Reliability under Extreme Risk Constraints in Space Missions
本文采用贝叶斯框架下的高斯过程建模,量化地球再入返回舱在极端载荷下的可靠性,验证成功概率达0.999999的稀有事件安全目标,展示了贝叶斯方法在风险规避环境中进行复杂不确定性量化分析的有效性。
2025-07-10 stat.AP
Quantifying the `end of history' through a Bayesian Markov-chain approach
政治制度在人类历史上一直在变化。在二十世纪末自由民主取得明显胜利之后,弗朗西斯·福山和其他人一直认为,人类正在以自由民主的普遍性的形式接近“历史的终结”。这种观点受到了最近事态发展的挑战,这些事态发展似乎表明,有缺陷的民主在全球范围内崛起。没有尝试用统计方法量化预期的EoH。在这项研究中,我们将政治制度之间的过渡建模为马尔可夫过程,并使用贝叶斯推断方法,我们从描述1800- 2018年政治制度演变的时间序列数据中估计政治制度之间的过渡概率。然后,我们计算这个马尔可夫过程的稳态,它代表了EoH的数学抽象,并预测大约46%的国家将是完全民主的。此外,我们发现,在我们的模型下,世界上的独裁统治的比例预计将在未来半个世纪内增加,然后下降。使用随机游走理论,我们然后估计不同类型的政权的生存曲线和估计的民主和专制的特征寿命分别为244年和69年。量化预期的EoH使我们能够挑战关于政治均衡性质的共同信念。具体来说,我们没有发现统计证据表明,EoH构成了一个固定的,完全无所不在的民主政权。
2022-11-03 nlin.AO physics.soc-ph stat.AP
Objective Bayesian analysis for the multivariate skew-t model
我们进行贝叶斯分析的p变量偏t模型,提供了一个新的参数化,一组非信息先验和专门设计的采样器,以探索模型参数的后验密度。扩展,如带有偏斜误差的多元回归模型和随机前沿模型,很容易适应。本文中引入的新颖性是通过将Liseo & Parisi(2013)中给出的二元偏态正态模型扩展到更现实的p-变量偏态t模型来给出的。我们还介绍了R包mvst,它允许估计多变量skew-t模型。
2017-05-03 stat.CO stat.ME
Bayesian Perceptron: Towards fully Bayesian Neural Networks
University of Stuttgart(斯图加特大学);Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所)
人工神经网络(NN)已经成为机器学习中事实上的标准。它们允许在大量应用中学习高度非线性变换。然而,NN通常仅提供点估计,而没有系统地量化相应的不确定性。在本文中,提出了一种新的方法对完全贝叶斯神经网络,训练和预测的感知器内的贝叶斯推断框架内的封闭形式。感知器的权重和预测被认为是高斯随机变量。为常用的激活函数(如sigmoid或ReLU)提供了用于预测感知器输出和学习权重的分析表达式。这种方法不需要计算上昂贵的梯度计算,并进一步允许顺序学习。
2020-09-10 cs.LG stat.ML
Quantifying sleep apnea heterogeneity using hierarchical Bayesian modeling
Duke University(杜克大学);Duke University School of Medicine(杜克大学医学院)
本文通过分层贝叶斯建模量化睡眠呼吸暂停的异质性,提出了一种基于随机效应的患者聚类方法,发现OSA与认知表现的关联。
2026-01-30 stat.AP
Quantifying Power Systems Resilience Using Statistical Analysis and Bayesian Learning
Washington State University(华盛顿州立大学);Iowa State University(爱荷华州立大学)
本研究提出结合统计分析和贝叶斯学习的框架,定量建模天气参数与电力系统韧性指标的关系,发现风速、温度和降水对韧性有显著综合影响,为风险缓解和资源分配提供决策支持。
2025-11-04 cs.SY eess.SY stat.AP
Quantifying uncertainty in thermal properties of walls by means of Bayesian inversion
我们引入了一个计算框架,从现场测量的空气温度和表面热通量的统计推断任何给定的墙壁的热物理性质。所提出的框架使用这些测量,在贝叶斯校准方法,顺序推断输入参数的一维热扩散模型,描述了热性能的墙壁。这些输入包括空间可变的函数,其表征壁的热导率和体积热容。我们编码我们的计算框架中的算法,顺序更新我们的概率知识的热物理性质的新的测量变得可用,从而使这些属性的动态不确定性量化。此外,所提出的算法使我们能够调查的影响的离散化的基本热扩散模型的热物理性质和相应的预测分布的热通量的估计的准确性。通过虚拟/合成和真实实验,我们展示了所提出的方法的能力:(i)分析与未知腔和绝缘体相关的非均匀热物理性质;(ii)获得有效热性质的快速准确的不确定性估计(例如热透射率);以及(iii)精确地计算壁的热性能的统计描述,反过来,在评估可能的改造措施方面至关重要。
2018-08-15 stat.AP
Quantifying Uncertainties in Natural Language Processing Tasks
University of California, Santa Barbara(加州大学圣巴巴拉分校)
可靠的不确定性量化是构建可解释、透明和负责任的人工智能系统的第一步。贝叶斯深度学习的最新进展使这种量化成为可能。在本文中,我们提出了新的方法来研究自然语言处理(NLP)任务的特征模型和数据的不确定性的好处。通过对情感分析、命名实体识别和使用卷积和递归神经网络模型进行语言建模的实证实验,我们表明,显式建模不确定性不仅是测量输出置信度所必需的,而且有助于增强各种NLP任务中的模型性能。
2018-11-18 cs.AI cs.CL cs.LG
Quantifying model form uncertainty in Reynolds-averaged turbulence models with Bayesian deep neural networks
在雷诺平均纳维尔-斯托克斯(RANS)模拟中,用于改进湍流模型的数据驱动方法在计算流体动力学界引起了极大的兴趣。现代机器学习算法开辟了黑箱湍流模型的新领域,允许调整RANS模拟以提高其预测精度。虽然已经报道了几种数据驱动的湍流模型,但引入的不确定性的量化大多被忽视。这种数据驱动的模型的不确定性量化是必不可少的,因为它们的预测能力迅速下降,因为它们被测试为偏离训练数据中的流动物理。在这项工作中,我们提出了一种新的数据驱动的框架,不仅提高了RANS预测,但也提供了概率边界的流体量,如速度和压力。不确定性捕获模型形式的不确定性以及有限的训练数据引起的认知不确定性。不变贝叶斯深度神经网络用于预测雷诺应力的各向异性张量分量。该模型使用Stein变分梯度下降算法进行训练。雷诺应力的计算不确定性通过香草蒙特卡罗模拟传播到感兴趣的量。两个测试的情况下,不同的几何形状的训练流在几个不同的雷诺数的结果。数据驱动模型的预测增强进行了讨论,以及相关的概率边界感兴趣的流特性。最终,该框架允许对模型置信度进行定量测量,并对没有高保真观测或先验知识的流进行不确定性量化。
2019-02-02 physics.comp-ph physics.flu-dyn stat.ML
A similarity-based Bayesian mixture-of-experts model
KTH Royal Institute of Technology(瑞典皇家理工学院);RaySearch Laboratories(瑞镭实验室);Silo AI(Silo AI(西洛人工智能公司))
我们提出了一个新的非参数混合专家模型的多元回归问题,启发的概率k-近邻算法。使用条件指定的模型,对样本外输入的预测基于与每个观察到的数据点的相似性,产生由高斯混合表示的预测分布。后验推理的混合物成分的参数,以及使用平均场变分贝叶斯算法伴随着随机梯度为基础的优化过程的距离度量。所提出的方法是特别有利的设置,其中输入是相对较高的维度相比,数据的大小,其中输入-输出关系是复杂的,并且其中预测分布可能是偏斜的或多模态的。对五个数据集的计算研究,其中两个是综合生成的,说明了我们的混合专家方法对高维输入的明显优势,在验证指标和目视检查方面都优于竞争对手的模型。
2022-08-03 cs.LG stat.ME stat.ML
Quantifying uncertainty of individualized treatment effects in right-censored survival data: A comparison of Bayesian additive regression trees and causal survival forest
本文通过广泛的模拟研究,比较了在右删失生存数据中量化个体化处理效应不确定性时,贝叶斯加性回归树(BART)和因果生存森林(CSF)的区间估计覆盖率,发现BART在三种设置下均优于CSF。
2025-04-06 stat.AP stat.ME
The Wasserstein Impact Measure (WIM): a generally applicable, practical tool for quantifying prior impact in Bayesian statistics
先验分布是贝叶斯分析中的一个重要组成部分,它的选择将影响后续的推理。因此,重要的是要有一个方便的方法来量化这种影响,因为这样的措施,以前的影响将有助于我们选择两个或两个以上的先验在一个给定的情况。最近提出的一种方法是确定由两个不同的先验产生的后验之间的瓦瑟斯坦距离,揭示它们有多近或多远。特别地,如果一个先验是均匀/平坦先验,则该距离导致对另一先验的先验影响的真实测量。虽然从理论的角度来看非常有吸引力和成功,但该建议受到实际限制:它要求先验分布嵌套,后验分布不应具有太复杂的形式,在大多数考虑的设置中,没有计算精确的距离,但提出了尖锐的上限和下限,并且到目前为止,该建议仅限于标量参数设置。在本文中,我们克服了所有这些限制,通过引入这种理论方法的实际版本,即Wasserstein影响测量(WIM)。在三个模拟的情况下,我们将比较WIM的理论Wasserstein的方法,以及两个竞争对手的影响之前的措施,从文献。最后,我们通过将其应用于两个数据集来说明WIM的多功能性。
2020-10-23 stat.CO stat.ME
A Robust Bayesian Copas Selection Model for Quantifying and Correcting Publication Bias
荟萃分析结论的有效性可能受到发表偏倚的威胁。大多数现有的纠正发表偏倚的程序都假设研究特异性效应的正态性,这是研究间异质性的原因。然而,该假设可能无效,并且这些偏倚校正程序的性能对偏离正态性高度敏感。此外,有几个措施来量化的选择模型的基础上的出版物偏差的大小。在本文中,我们解决这两个问题。首先,我们探索在贝叶斯分层框架内使用重尾分布来研究特定效应。偏差信息准则(DIC)用于确定用于进行最终分析的适当分布。其次,我们开发了一个新的措施来量化的大小的基础上Hellinger距离的出版物偏差。我们的措施是很容易解释,并利用自然提供的后验分布的估计不确定性。我们通过对肺癌和抗抑郁药的模拟研究和荟萃分析来说明我们提出的方法。为了评估发表偏倚的发生率,我们将我们的方法应用于Cochrane系统评价数据库中1500项二分结局的荟萃分析。我们的方法在公开可用的R包RobustBayesianCopas中实现。
2021-02-09 stat.ME
Bayesian shape-constrained regression for quantifying Alzheimer's disease biomarker progression
本文提出一种贝叶斯形状约束回归模型,通过单调样条、导数消失条件和唯一拐点约束量化阿尔茨海默病生物标志物随年龄的进展轨迹,并在BIOCARD数据上验证了其可解释性和时间顺序估计能力。
2025-05-09 stat.AP stat.ME
Nonparanormal Bayesian Learning of Directed Acyclic Graphs under Gamma and Inverse-Gamma Innovation Priors: Closed-Form Scores and Informed Sampling
Department of Statistics, Faculty of Mathematical Sciences, Ferdowsi University of Mashhad(马什哈德费尔多西大学数学科学学院统计学系)
针对非高斯数据,提出非参数正态贝叶斯DAG学习方法,利用Gamma和逆Gamma先验获得闭式得分,构建知情采样器,在模拟和真实数据上优于高斯方法。
2026-09-14 stat.ME
Quantifying Uncertainty in the Presence of Distribution Shifts
本文提出了一种适应性先验的贝叶斯框架,用于在存在分布偏移时提高神经网络的不确定性估计性能。
2025-12-18 cs.LG stat.ML
Comparison of Azzalini and Geometric Skew Normal Distributions Under Bayesian Paradigm
正态分布的偏态推广由于其在多个领域的广泛应用,一直是统计学界非常感兴趣的话题。由于其直观的吸引力,最流行的偏正态分布之一是Azzalini的偏正态分布。然而,由于分布的性质,它遭受严重的推理问题。有趣的是,贝叶斯方法已被证明可以缓解这些问题。最近,另一种偏态正态分布,几何偏态正态分布,这是结构上不同于Azzalini的偏态正态分布,已被提出作为一种替代建模偏态数据。尽管在偏态正态分布的兴趣,有限数量的文章处理比较不同的偏态分布的性能,特别是在贝叶斯上下文中。为了解决这一差距,本文试图比较这两个偏态正态分布的贝叶斯模型的数据与不同的偏态。利用混合Gibbs-Metropolis算法得到了几何偏态正态分布参数的后验估计,并得到了数据的后验预测拟合。类似地,对于Azzalini的偏态正态分布,使用吉布斯抽样算法导出后验预测拟合。为了比较性能,利用后验预测分布和原始数据之间的Kolmogorov-Smirnov距离来测量两种模型的拟合优度。分类的真实和模拟数据集,具有广泛的偏度,使用这两种模型进行了分析,并讨论了这两种模型的优点和缺点。最后,提出了一种更快的变分贝叶斯方法来逼近几何斜正态模型的后验分布,并讨论了它的性能。
2023-01-04 stat.ME
Quantifying Evidential Rigor in Meta-Analytic Corpora: A Simulation-Characterized, Bias-Robust Bayesian Workflow with a Nutrition Case Study
University of Arkansas at Little Rock(阿肯色大学小石城分校)
提出一个语料库规模的贝叶斯证据审计工作流,通过联合贝叶斯因子综合效应/无效应证据和偏差成分缺失来量化证据严谨性,并使用ADEMP框架的模拟/重采样设计进行表征,以营养干预语料库作为案例研究。
2026-05-31 stat.AP stat.ME
Meta-Uncertainty in Bayesian Model Comparison
University of Stuttgart(斯图加特大学);Heidelberg University(海德堡大学)
贝叶斯模型比较(BMC)提供了一种原则性的概率方法来研究和排名竞争模型。在标准BMC中,我们在可能的模型集合上构造离散概率分布,条件是观察到的感兴趣的数据。这些后验模型概率(PMP)是不确定性的度量,但是-当从有限数量的观察中得出时-本身也是不确定的。在本文中,我们概念化的BMC中出现的不同层次的不确定性。我们探索了一个完全概率的框架,量化元不确定性,从而在一个应用的方法,以提高任何BMC的工作流程。利用贝叶斯和频率论技术,我们通过元模型表示不确定PMP的不确定性,该元模型将模拟和观察数据结合到新数据上PMP的预测分布中。我们证明了所提出的方法在共轭贝叶斯回归,似然推理与马尔可夫链蒙特卡罗,和基于模拟的推理与神经网络的背景下的效用。
2023-02-21 cs.LG stat.ML
Bayesian analysis of data from segmented super-resolution images for quantifying protein clustering
超分辨率成像技术大大提高了我们在生物系统中可视化纳米结构的能力。它们的应用进一步使人们能够潜在地定量相关参数以确定细胞中的分子组织和化学计量。然而,荧光发射和标记策略的固有随机性迫使使用专用方法来精确测量这些参数。在这里,我们描述了一种贝叶斯方法来精确定量的相对丰度的分子寡聚体从分割的图像。集群中分子数量的代理分布-例如定位数量或荧光强度-通过嵌套采样算法进行拟合,以比较复杂性不断增加的混合模型,并确定混合组分的最佳数量及其权重。我们测试了该算法的性能{ \it in silico}数据作为数据点的数量,阈值和分布形状的函数。我们将这些结果与其他统计方法获得的结果进行比较,显示了我们方法的改进性能。我们的方法提供了一个强大的工具,在拟合从荧光成像中提取的数据的模型选择,从而提高了参数确定的精度。重要的是,这种方法的最大好处发生在小统计量或不完整的数据集上,从而能够在单个图像水平上进行准确的分析。我们进一步提出了其应用的结果,从超分辨率成像的HeLa细胞中的动力蛋白的实验数据,证实了细胞质的单电机和高阶结构的混合人口的存在。
2019-09-28 physics.bio-ph physics.data-an q-bio.QM
A general measure of the impact of priors in Bayesian statistics via Stein's Method
我们提出了一个措施的影响,任何两个选择的先验分布量化的Wasserstein距离之间的各自产生的后验分布在任何固定的样本量。我们说明了这一措施的正常,二项和泊松模型。
2018-02-28 math.ST stat.TH
Conditional Bayesian Quadrature
University College London(伦敦大学学院);Gatsby Computational Neuroscience Unit(盖茨比计算神经科学中心)
针对采样与被积函数评估成本高的场景,提出基于概率数值框架的条件贝叶斯求积方法,整合被积函数先验平滑性等信息,可量化不确定性、提升收敛速度,且经理论与多领域任务实证验证。
2024-06-24 cs.LG stat.CO stat.ML
A Bayesian nonparametric test for conditional independence
本文介绍了一种贝叶斯非参数方法,用于量化数据集中的相对证据,以支持两个变量在第三个变量条件下的依赖或独立。该方法使用Polya树先验空间的条件概率密度,占不确定性的形式的基本分布的非参数的方式。贝叶斯观点提供了条件依赖性或独立性的固有对称概率测度,这是在因果发现中特别有利的特征,并且在这种类型的现有程序中没有采用。
2020-07-16 stat.CO stat.ME stat.ML
Quantifying patient and neighborhood risks for stillbirth and preterm birth in Philadelphia with a Bayesian spatial model
该研究用贝叶斯空间模型整合电子健康记录与人口普查数据,量化费城患者及社区因素对死产和早产的风险,揭示患者层面分析遗漏的社区关联。
2024-06-14 stat.AP stat.ME
Infinite mixtures of multivariate normal-inverse Gaussian distributions for clustering of skewed data
多变量正态逆高斯(MNIG)分布的混合可以用于对表现出偏态和重尾等特征的数据进行聚类。然而,对于聚类分析,使用传统的有限混合模型框架,或者组分的数量需要是已知的$a$ - $priori$,或者需要在导出可能数量的组分的范围的结果之后使用某种模型选择标准来估计$a$ - $posteriori$。然而,不同的模型选择标准有时会导致不同数量的组件产生不确定性。在这里,一个无限混合模型框架,也被称为狄利克雷过程混合模型,提出了混合MNIG分布。该狄利克雷过程混合物模型方法允许组分数量从1到$\infty$(实际上从1到$N$)自由增长或衰减,并且组分数量与贝叶斯框架中的参数估计值一起推断,从而减轻了对模型选择标准的需求。我们提供了真实的数据应用程序与基准数据集,以及一个小的模拟实验,与其他现有的模型进行比较。所提出的方法提供了竞争力的聚类结果,其他聚类方法的模拟和真实的数据和参数恢复说明使用模拟研究。
2020-05-11 stat.ME
Bayesian inference and non-linear extensions of the CIRCE method for quantifying the uncertainty of closure relationships integrated into thermal-hydraulic system codes
在核安全和许可过程中,将最佳估计加不确定性(BEPU)方法应用于热工水力系统规范中,封闭关系的不确定性量化是一个关键的先决条件,CIRCE方法的目的是估计应用于参考封闭关系的乘法因子的(log)-高斯概率分布,以评估其不确定性。尽管这种方法已经在许多物理场景中成功实施,但它仍然受到诸如线性假设和难以适当考虑固有的统计不确定性等实质性限制。在本文中,我们将从两个方面扩展CIRCE方法。一方面,我们采用贝叶斯设置把先验概率分布的(对数)-高斯分布的参数。然后通过马尔可夫链蒙特卡罗(MCMC)算法计算相对于实验数据库的参数的后验分布。另一方面,我们解决了更一般的设置,其中模拟不对乘法因子线性移动。当热工水力模拟超过几分钟时,MCMC算法变得时间限制。这个障碍是克服使用高斯过程(GP)仿真器,可以产生可靠和快速的预测的模拟。基于GP的MCMC算法将应用于量化安全注射时两个冷凝闭合关系相对于实验测试数据库的不确定性。将使用CATHARE 2计算机代码运行热工水力模拟。
2020-03-09 stat.AP stat.CO
A Bayesian Nonparametric Meta-Analysis Model
在荟萃分析中,重要的是要指定一个模型,充分描述研究的基础人群的效应量分布。传统的正态固定效应和正态随机效应模型假设效应量总体分布为正态分布,以参数和协变量为条件。对于估计平均总体效应量,这些模型可能是足够的,但对于预测,如果效应量分布表现出非正态行为,它们肯定不是。为了解决这个问题,我们提出了一个贝叶斯非参数荟萃分析模型,它可以描述更广泛的效应量分布,包括单峰对称分布,以及偏态和更多的多峰分布。我们证明我们的模型,通过分析真正的元分析数据所产生的行为遗传学研究。我们比较了贝叶斯非参数模型对各种传统和更现代的正态固定效应和随机效应模型的预测性能。
2013-10-17 stat.ME
Copula Approximate Bayesian Computation Using Distribution Random Forests
该研究提出名为copulaABcdrf的新型近似贝叶斯计算框架,结合分布随机森林与多元copula元t分布估计后验分布,兼具变量选择、模型选择等功能,在多类模拟与真实网络数据上表现优于标准ABC方法,还可缓解模拟成本问题。
2024-09-11 stat.CO stat.ME
Quantifying contribution and propagation of error from computational steps, algorithms and hyperparameter choices in image classification pipelines
Rensselaer Polytechnic Institute(伦斯勒理工学院)
数据科学依赖于以相互依赖的计算步骤的形式组织的管道。每个步骤由可能用于执行特定功能的各种候选算法组成。每个算法都由多个超参数组成。算法和超参数必须作为一个整体进行优化,以产生最佳性能。典型的机器学习流水线在每个步骤中都包含复杂的算法。不仅选择过程是组合的,而且解释和理解管道也很重要。我们提出了一种方法来量化管道中不同组件的重要性,通过计算相对于计算步骤,算法和超参数的不可知选择的误差贡献。我们还提出了一种方法来量化传播的错误,从个别组件的管道的帮助下,一个天真的基准测试算法不参与管道。我们证明了我们的方法对图像分类管道。不可知和朴素方法分别从图像分类流水线中的计算步骤、算法和超参数量化误差贡献和传播。我们表明,算法选择和超参数优化方法,如网格搜索,随机搜索和贝叶斯优化可以用来量化的错误贡献和传播,随机搜索是能够量化他们更准确地比贝叶斯优化。领域专家可以使用这种方法来理解机器学习和数据分析管道的各个组件,这有助于对管道的不同组件进行优先级排序。
2019-02-21 cs.CV cs.LG stat.ML
Bayesian Inference for the Multivariate Extended-Skew Normal Distribution
多元扩展的偏态正态分布允许容纳偏态和重尾的原始数据,并且具有至少三个吸引人的统计特性,即条件下的闭合、仿射变换和边缘化。在本文中,我们提出了一个贝叶斯计算方法的基础上的序贯蒙特卡罗(SMC)抽样估计这样的分布。讨论了该算法的每一步的实际实现,先验分布的推导考虑了似然函数和相应的费舍尔信息矩阵的一些不寻常的行为。使用蒙特卡罗模拟,我们提供了强有力的证据,SMC采样器的性能以及一些新的见解有关的参数化的扩展的偏态正态分布。推广到扩展的偏正态样本选择模型。最后,我们对两个真实数据集进行了分析。
2015-06-18 stat.ME
Quantifying and correcting geolocation error in spaceborne LiDAR forest canopy observations using high spatial accuracy ALS: A Bayesian model approach
针对星载采样LiDAR森林观测的地理定位误差影响数据集成的问题,提出基于高空间精度ALS的贝叶斯模型,结合G-LiHT与GEDI数据量化校正误差,明确了系统性误差与误差分布概率,助力星载LiDAR数据集成。
2023-08-23 stat.AP
Bayesian Hidden Markov Modelling Using Circular-Linear General Projected Normal Distribution
我们引入了一个多变量隐马尔可夫模型来联合聚类具有不同支持度的时间序列观测,即循环和线性。依赖于一般的预计正态分布,我们的方法允许双峰和/或倾斜的集群特定分布的圆形变量。此外,我们放宽了同时观测到的圆形分量和线性分量之间的独立性假设。这样的假设通常用于减轻参数估计步骤中涉及的计算负担,但在经验应用中很难证明。我们进行了模拟研究,使用不同的数据生成方案来调查模型的行为,重点是恢复隐藏的结构。最后,利用该模型对一个风速风向双变量时间序列进行了拟合。
2015-01-24 stat.AP stat.CO