Unbiased estimation of log normalizing constants with applications to Bayesian cross-validation
后验分布通常具有难以处理的归一化常数,称为边缘似然或证据,这对于通过贝叶斯因子进行模型比较很有用。这激发了许多方法来估计统计学中归一化常数的比率。在计算物理学中,这些比率的对数对应于自由能差。结合无偏马尔可夫链蒙特卡罗估计与路径抽样,也称为热力学积分,我们提出了新的无偏估计量的比值归一化常数的对数。作为副产品,我们提出了贝叶斯交叉验证准则的无偏估计量。所提出的估计是一致的,渐近正态的,可以很容易地受益于并行处理设备。考虑各种示例用于说明。
2018-10-02 stat.CO stat.ME
Bayesian computation for statistical models with intractable normalizing constants
本文讨论了具有难处理的归一化常数的统计模型的贝叶斯分析中的一些计算问题。当似然函数中存在难以处理的归一化常数时,传统的MCMC方法无法应用。我们提出了一种方法,从这样的后验分布的样本。该方法可以被认为是Geyer和Thompson(1992)的MCMCMC-MLE方法的贝叶斯版本。据我们所知,这是第一个一般的和渐近一致的蒙特卡罗方法,这样的问题。我们用图像分割和社会网络建模的例子来说明该方法。我们还研究了算法的渐近性态,得到了经验平均值的一个强大数定律。
2008-04-21 stat.CO stat.ME
Elastic Bayesian Model Calibration
本文提出一种针对未对齐函数数据的贝叶斯模型校准框架,通过生成隔离幅度与相位变化的两类数据实现同时匹配,并在仿真数据与动态材料科学实验中验证了有效性。
2024-09-23 stat.AP stat.ME
Bayesian Estimation of Kendall's tau Using a Latent Normal Approach
两个变量之间基于秩的关联可以通过向有序数据引入潜在正态水平来建模。我们演示了这种方法如何产生贝叶斯推断肯德尔的秩相关系数,改善最近的贝叶斯解的渐近性质的检验统计量。
2018-05-24 stat.ME
A Bayesian Semiparametric Gaussian Copula Approach to a Multivariate Normality Test
在本文中,贝叶斯半参数Copula方法被用来模拟潜在的多元分布$F_{true}$。首先,在$F_{true}$的未知边缘分布上构造Dirichlet过程。然后利用高斯copula模型来捕捉$F_{true}$的依赖结构。最后,结合相对置信比和能量距离建立了贝叶斯多元正态性检验。几个有趣的理论结果的方法。最后,通过几个模拟的例子和一个真实的数据集,所提出的方法显示出良好的性能。
2019-07-04 stat.AP stat.CO stat.ME
Joint Inference of Misaligned Irregular Time Series with Application to Greenland Ice Core Data
冰芯提供了对过去数千年气候的深入了解。由于冰的压实,任何单个岩心的原始数据在时间上都是不规则的。多个磁芯具有不同的不规则性;这些系列共同未对准。经过处理后,这些数据作为常规时间序列提供给研究人员:数据产品。通常,这些核被独立地处理。在本文中,我们考虑了一个快速贝叶斯方法的联合处理的多个不规则系列。这被证明是更有效的。此外,我们的方法允许一个现实的建模的影响,多种来源的不确定性。一对冰芯(GISP 2和GRIP)的分析说明了该方法。我们的数据产品,在一个任意的时间网格上的边缘后验分布的形式,是有限的高斯混合。我们还可以从联合后验分布中产生样本路径来研究感兴趣的非线性泛函。更一般地,通过分层高斯过程模型的联合分析的概念可以被广泛地扩展,因为所使用的模型可以在连续时空过程的更大背景下被查看。
2014-09-22 stat.AP
Contribution to the discussion of "When should meta-analysis avoid making hidden normality assumptions?": A Bayesian perspective
对“元分析何时应避免做出隐藏的正态假设?作者:Dan Jackson and Ian R.白色(2018; https://doi.org/10.1002/bimj.201800071)。
2018-09-17 stat.ME
Convergence and asymptotic normality of variational Bayesian approximations for exponential family models with missing values
研究了缺失值指数族模型变分Bayes逼近的性质。证明了当样本量变大时,变分贝叶斯估计的迭代算法以概率1局部收敛于真值。证明了变分后验分布是渐近正态的。
2012-07-11 math.ST stat.CO stat.ME
Generative Quantile Bayesian Prediction
提出生成式分位数贝叶斯预测(GQBP),通过直接学习预测分位数解决大规模预测问题,并与共形预测等方法对比,展示了在正态-正态学习和因果推断中的应用。
2025-10-18 stat.CO stat.ME
Bayesian Parameter Estimation of Normal Distribution from Sample Mean and Extreme Values
本文针对仅有样本均值、极值和样本量可用的情况,提出基于 Gibbs 采样器与数据增广的贝叶斯正态参数估计方法,并通过模拟验证其精度接近理论预期。
2024-11-20 stat.ME
Bayesian test of normality versus a Dirichlet process mixture alternative
本文提出基于狄利克雷过程混合备择模型的贝叶斯正态性检验方法,利用潜在聚类标量参数化和序贯重要性采样计算贝叶斯因子,在保持正态性成立时不误判的同时有效检测非正态性。
2019-11-14 math.ST stat.CO stat.ME
The Soft Multivariate Truncated Normal Distribution with Applications to Bayesian Constrained Estimation
我们提出了一种新的分布,称为软tMVN分布,它提供了一个光滑的近似截断多元正态分布(tMVN)与线性约束。提出了一种高效的分块Gibbs采样器,用于对软tMVN分布进行高维采样。我们提供的软tMVN的逼近能力的理论支持,并提供进一步的经验证据。软tMVN分布可用于从具有线性约束的多变量截断正态分布近似模拟,或其本身作为形状约束问题中的先验。
2019-09-02 stat.CO
DPGLM: A Semiparametric Bayesian GLM with Inhomogeneous Normalized Random Measures
提出一种变权重相依狄利克雷过程模型,扩展半参数广义线性模型,通过非参数先验和指数倾斜实现非齐次随机测度,并验证其有效性与应用。
2025-03-28 stat.ME
Bayesian Inference for the Multivariate Extended-Skew Normal Distribution
多元扩展的偏态正态分布允许容纳偏态和重尾的原始数据,并且具有至少三个吸引人的统计特性,即条件下的闭合、仿射变换和边缘化。在本文中,我们提出了一个贝叶斯计算方法的基础上的序贯蒙特卡罗(SMC)抽样估计这样的分布。讨论了该算法的每一步的实际实现,先验分布的推导考虑了似然函数和相应的费舍尔信息矩阵的一些不寻常的行为。使用蒙特卡罗模拟,我们提供了强有力的证据,SMC采样器的性能以及一些新的见解有关的参数化的扩展的偏态正态分布。推广到扩展的偏正态样本选择模型。最后,我们对两个真实数据集进行了分析。
2015-06-18 stat.ME
Tractable Bayesian variable selection: beyond normality
贝叶斯变量选择通常假设正态性,但模型误设的影响还没有得到充分的理解。这个假设背后有合理的理由,特别是对于大的$p$:易于解释,分析和计算方便。存在更灵活的框架,包括半参数或非参数模型,但往往以一些易处理性为代价。我们提出了一个简单的扩展正常模型,允许偏度和厚于正常的尾巴,但保留了易处理性。它导致易于解释和对数凹可能性,有利于优化和集成。我们的特点渐近参数估计和贝叶斯因子率,特别是研究模型误设定的影响。在适当的条件下,误指定的贝叶斯因子是一致的,并在相同的渐近速率比正确的模型诱导稀疏。然而,检测信号的速率被指数因子改变,通常导致灵敏度的损失。这些缺陷可以通过从数据推断误差分布来改善,这是一种可以大大改善推断的简单策略。我们的工作重点是可能性,因此可以与任何可能性惩罚或先验相结合,但在这里,我们专注于非局部先验,以诱导额外的稀疏性和改善由错误指定引起的有限样本效应。我们的研究结果强调了在贝叶斯变量选择中,关注可能性而不是仅仅关注先验的实际重要性。该方法可在R软件包“mombf”中找到。
2017-08-04 stat.AP stat.CO stat.ME
Bayesian Multinomial Logistic Normal Models through Marginally Latent Matrix-T Processes
贝叶斯多项逻辑正态(MLN)模型对于序列计数数据的分析是流行的(例如,微生物组或基因表达数据),这是由于它们能够对具有复杂协方差结构的多变量计数数据进行建模。然而,MLN模型的现有实现限于处理小数据集,由于多项式和逻辑正态分布的非共轭性。我们介绍MLN模型,可以写为边际潜在矩阵-t过程(LTP)模型。边际LTP模型描述了一类灵活的广义线性回归、非线性回归和时间序列模型。我们开发的推理方案边际LTP模型,并通过应用到MLN模型,表明我们的推理方案是高度准确的,往往比MCMC快4-5个数量级。
2019-04-01 stat.ME
Comparison of Azzalini and Geometric Skew Normal Distributions Under Bayesian Paradigm
正态分布的偏态推广由于其在多个领域的广泛应用,一直是统计学界非常感兴趣的话题。由于其直观的吸引力,最流行的偏正态分布之一是Azzalini的偏正态分布。然而,由于分布的性质,它遭受严重的推理问题。有趣的是,贝叶斯方法已被证明可以缓解这些问题。最近,另一种偏态正态分布,几何偏态正态分布,这是结构上不同于Azzalini的偏态正态分布,已被提出作为一种替代建模偏态数据。尽管在偏态正态分布的兴趣,有限数量的文章处理比较不同的偏态分布的性能,特别是在贝叶斯上下文中。为了解决这一差距,本文试图比较这两个偏态正态分布的贝叶斯模型的数据与不同的偏态。利用混合Gibbs-Metropolis算法得到了几何偏态正态分布参数的后验估计,并得到了数据的后验预测拟合。类似地,对于Azzalini的偏态正态分布,使用吉布斯抽样算法导出后验预测拟合。为了比较性能,利用后验预测分布和原始数据之间的Kolmogorov-Smirnov距离来测量两种模型的拟合优度。分类的真实和模拟数据集,具有广泛的偏度,使用这两种模型进行了分析,并讨论了这两种模型的优点和缺点。最后,提出了一种更快的变分贝叶斯方法来逼近几何斜正态模型的后验分布,并讨论了它的性能。
2023-01-04 stat.ME
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注,特别是在处理具有偏态和重尾等特征的数据时。在这里,这样的混合分布,基于多元正态逆高斯(MNIG)分布。对于混合模型的参数估计,采用基于Gibbs抽样的贝叶斯方法,提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析,我们表明参数恢复,我们的方法提供了竞争力的聚类结果相比,其他聚类方法。
2020-05-06 stat.CO
An approach for finding fully Bayesian optimal designs using normal-based approximations to loss functions
决策理论贝叶斯最优设计的生成是复杂的显着的计算挑战,最小化的分析棘手的预期损失函数在一个潜在的,高维的设计空间。提出了一种新的近似寻找贝叶斯最优设计的一般方法,该方法使用计算效率高的基于正态近似的后验摘要,以帮助近似的预期损失。这种新的方法是证明说明性的,但具有挑战性的,包括层次模型的阻塞实验,实验目标的参数估计和模型歧视的例子。在可能的情况下,所提出的方法的结果进行比较,无论是在性能和计算时间方面,从使用计算更昂贵,但可能更准确,蒙特卡罗近似的结果。此外,该方法还适用于使用蒙特卡罗近似在计算上不可行的问题。
2017-02-06 stat.ME
Efficient leave-one-out cross-validation for Bayesian non-factorized normal and Student-t models
交叉验证可用于测量模型的预测准确性,以进行模型比较、平均或选择。标准的留一交叉验证(LOO-CV)要求观测模型可以分解为简单的项,但时间和空间统计学中的许多重要模型不具备这一特性,或者在强制分解为简单项时效率低下或不稳定。我们推导出如何有效地计算和验证任何贝叶斯非因子分解模型的精确和近似LOO-CV,其结果值为多元正态分布或Student- t分布。我们演示的方法使用滞后同时自回归(SAR)模型作为案例研究。
2020-10-01 stat.ME
A Bayesian Nonparametric Meta-Analysis Model
在荟萃分析中,重要的是要指定一个模型,充分描述研究的基础人群的效应量分布。传统的正态固定效应和正态随机效应模型假设效应量总体分布为正态分布,以参数和协变量为条件。对于估计平均总体效应量,这些模型可能是足够的,但对于预测,如果效应量分布表现出非正态行为,它们肯定不是。为了解决这个问题,我们提出了一个贝叶斯非参数荟萃分析模型,它可以描述更广泛的效应量分布,包括单峰对称分布,以及偏态和更多的多峰分布。我们证明我们的模型,通过分析真正的元分析数据所产生的行为遗传学研究。我们比较了贝叶斯非参数模型对各种传统和更现代的正态固定效应和随机效应模型的预测性能。
2013-10-17 stat.ME
Bayesian Measurement Error Models Using Finite Mixtures of Scale Mixtures of Skew-Normal Distributions
我们提出了一个建议,以处理的非正态性问题的背景下,测量误差的回归模型的响应和解释变量的观察误差。我们扩展了正态模型的未观察到的协变量和随机误差的斜正态分布的规模混合的有限混合联合建模。这种方法使我们能够以极大的灵活性对数据进行建模,适应偏斜,重尾和多模态。
2020-07-26 stat.AP stat.ME
An interpretable family of projected normal distributions and a related copula model for Bayesian analysis of hypertoroidal data
Institute of Statistical Mathematics, Japan(日本统计数学研究所);Department of Mathematics, Polytechnic of Turin, Italy(都灵理工大学数学系);Mitsui Sumitomo Insurance Co., Ltd., Japan(三井住友海上保险株式会社)
本文提出可解释的投影正态分布族及相关皮尔逊模型,用于贝叶斯分析超环面数据,通过边缘化和灵活扩展实现参数的直观解释。
2025-12-01 stat.ME
Generalized Bayesian Clustering with Regression for Unaligned Longitudinal Binary Data
Texas A&M University(德克萨斯农工大学);University of Colorado Anschutz(科罗拉多大学安舒茨分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对未对齐纵向二元数据,提出带回归的广义贝叶斯聚类模型,结合轨迹相似性与回归损失,用切片沃尔什斯坦因距离实现无对齐比较,以狄利克雷过程定义聚类参数先验,解决单一生成模型的设定或效率问题。
2026-09-02 stat.AP stat.CO stat.ME
Informative Bayesian inference for the skew-normal distribution
出于对大学成绩分布的分析,这通常是不对称的,我们讨论了两个信息先验的形状参数的偏正态分布,表明它们导致封闭形式的全条件后验分布,特别是有用的MCMC计算。给出了位置和尺度参数的独立先验分布,讨论了参数联合向量的吉布斯抽样算法。进行模拟研究,以评估吉布斯采样器的性能,并比较选择的信息先验对一个非信息。运用该方法对意大利帕多瓦大学经济学院本科一年级学生的基础统计学考试成绩进行了分析。
2013-05-14 stat.ME
Bayesian Inference in the Presence of Intractable Normalizing Functions
具有难以处理的归一化函数的模型在统计学中经常出现。这种模型的常见示例包括用于社交网络的指数随机图模型和用于生态学和疾病建模的马尔可夫点过程。对这些模型的推断是复杂的,因为它们的概率分布的归一化函数包括感兴趣的参数。在贝叶斯分析中,它们导致所谓的双重棘手的后验分布,这带来了重大的计算挑战。近年来出现了几种蒙特卡罗方法来解决此类模型的贝叶斯推断。我们提供了一个框架来理解算法和阐明它们之间的联系。通过多个模拟和真实数据的例子,我们比较和对比这些算法的计算和统计效率,并讨论其理论基础。我们的研究为从业者提供了实用的建议,并为MCMC方法学家提供了未来研究的方向。
2018-08-02 stat.AP stat.CO
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University(广岛大学)
研究贝叶斯混合模型中成分数量未知的情况,提出基于归一化逆高斯权重的MFM方法,通过引入潜在变量用块吉布斯采样计算后验,经数值实验和实际数据示例验证性能,还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
Bayesian inference for the multivariate skew-normal model: a Population Monte Carlo approach
基于多变量偏正态模型的频率主义和似然推理方法在使用该模型时遇到了一些技术困难。尽管这类密度的普及,有没有广泛满意的解决方案的估计和测试问题。提出了一种一般群体的蒙特卡罗算法,该算法利用了偏态随机变量的潜在结构随机表示,对模型进行了完整的贝叶斯分析,并考虑了参数空间中的约束条件。所提出的方法可以被定义为弱信息,因为先验分布近似于形状参数向量的实际参考先验。与现有的经典解决方案的结果进行了比较,并通过仿真研究和实际数据的例子说明了该算法的实际实施。对具有偏正态误差的矩阵变量回归模型进行了推广。
2013-02-05 stat.AP stat.ME
Unbiased estimator for the variance of the leave-one-out cross-validation estimator for a Bayesian normal model with fixed variance
当使用留一交叉验证(LOO-CV)评估和比较模型时,估计值的不确定性通常使用抽样分布的方差进行评估。考虑不确定性很重要,因为在某些情况下估计值的变异性可能很高。Bengio和Grandvalet(2004)的一个重要结果指出,没有一般的无偏方差估计可以构建,这将适用于任何效用或损失度量和任何模型。我们表明,它是可能的,以构建一个无偏估计量考虑一个特定的预测性能的措施和模型。我们证明了一个无偏的抽样分布方差估计的贝叶斯正态模型与固定的模型方差使用预期对数逐点预测密度(elpd)效用得分。这个例子表明,它是可能的,以获得改进的,特定于问题的,无偏估计量评估LOO-CV估计的不确定性。
2022-02-15 stat.ME
High-dimensional Multivariate Geostatistics: A Bayesian Matrix-Normal Approach
空间导向因变量的联合建模在环境科学中很常见,科学家们试图估计一组环境结果之间的关系,这些结果之间的依赖性和每个结果的空间依赖性。这种建模现在正在寻求大量的数据集,在非常大量的位置测量的变量。贝叶斯推断,虽然有吸引力的容纳不确定性,通过层次结构,可以成为计算繁重的建模海量空间数据集,因为它依赖于迭代估计算法。这篇手稿开发了一个共轭贝叶斯框架,用于分析多变量空间数据,使用分析易处理的后验分布,迭代算法。我们讨论了建模的多变量响应本身作为一个空间的过程和建模的层次模型中的一个潜在的过程之间的差异。我们说明了这些模型的计算和推理的好处,使用模拟研究和分析的植被指数数据集与空间相关的观测编号为数百万。
2020-12-07 stat.ME
Normalized Power Prior Bayesian Analysis
在历史数据可用性的基础上,通过将历史数据的似然函数提升到分数次幂δ,量化了用当前数据进行推理时对历史信息的折扣程度,实现了幂先验的提取。当δ未预先指定并被视为随机时,可以使用贝叶斯更新范式从数据中估计δ。然而,在联合功效先验贝叶斯方法的原始形式中,当采用不同的充分统计量设置时,历史数据的似然性之前的某些正常数可以相乘。这将改变具有不同常数的功率先验,因此违反了似然原理。在这篇文章中,我们研究了一个归一化的功率先验方法,它遵守似然原理,是一个修改形式的联合功率先验。研究了归一化幂先验在极小化加权库尔贝克-莱布勒散度意义下的最优性。通过研究几种常用分布的后验,我们表明,历史和当前数据之间的差异可以很好地量化的归一化功率先验设置下的功率参数。还提出了计算比例因子的有效算法。此外,我们用三个数据例子说明了归一化功率先验贝叶斯分析的使用,并提供了一个R包NPP的实现。
2022-04-12 stat.AP stat.ME
Spatial data fusion adjusting for preferential sampling using INLA and SPDE
提出一种考虑优先采样的贝叶斯空间融合模型,结合贝叶斯融合规范与依赖采样过程,利用INLA和SPDE方法实现快速推断,有效融合点数据与面数据以预测空气污染。
2024-06-05 stat.ME
Bayesian model comparison with un-normalised likelihoods
在计算机科学、统计物理学、空间统计学和网络分析中广泛使用的模型,其似然函数只能被评估到一个依赖于参数的未知归一化常数,如马尔可夫随机场模型。然而,由于这些模型的似然函数的复杂性,使用标准蒙特卡罗方法对这些模型进行贝叶斯分析是不可能的。最近开发了几种允许精确或接近精确的后验分布模拟的方法。然而,估计这些模型的证据和贝叶斯因子(BF)仍然具有挑战性。本文介绍了新的随机权重重要性抽样和序贯蒙特卡罗方法估计BF使用模拟,以规避评价的棘手的可能性,并比较它们与现有的方法。在某些情况下,我们观察到使用有偏权重估计的优势。这类方法的理论和经验性质的初步调查。使用有偏估计的一些支持,但我们主张谨慎使用这种估计。
2016-01-20 physics.data-an stat.CO stat.ME
Bayesian Chain Ladder For Cumulative Run-Off Triangle Under Half-Normal Distribution Assumption
本文针对尾部较轻的索赔数据,将Wuthrich和Merz的贝叶斯链梯法从伽马分布推广到半正态分布,用于IBNR准备金估计。
2024-02-26 math.PR math.ST stat.ME
A normal-inverse-Wishart (NIW) Bayesian synthesizer for multivariate normal data with application to polygenic risk scores
Aalborg University(奥尔堡大学);Aalborg University Hospital(奥尔堡大学医院)
本文提出基于正态-逆Wishart先验的多元正态数据贝叶斯合成器,揭示合成数据泄露风险与原始数据集规模、特征维度及合成信息量的关系,并将其应用于多基因风险评分数据集生成。
2026-09-03 math.PR stat.ME
Probabilistic wind speed forecasting using Bayesian model averaging with truncated normal components
贝叶斯模型平均(Bayesian Model Averaging,BMA)是一种统计方法,用于对从多次运行的数值天气预报模型中获得的大气变量的预报集合进行后处理,以创建校准的预测概率密度函数(PDF)。未来天气量的BMA预测PDF是对应于集合成员的各个PDF的混合,并且使用集合成员和来自给定训练期的验证观测来估计权重和模型参数。在本文中,我们介绍了一个BMA模式校准风速预报,其中的PDF组件遵循截断正态分布与截止为零,并将其应用到ALADIN-HUNEPS集合的匈牙利气象服务。提出了三种参数估计方法,每种方法的模型在校正和预测精度方面都优于传统的伽马BMA模型。此外,由于这里参数的极大似然估计不需要数值优化,因此可以比在伽马混合物的情况下更快地执行建模。
2013-05-07 stat.ME
Bayesian Indirect Inference for Models with Intractable Normalizing Functions
由于这些模型的难以处理的归一化函数包含感兴趣的参数,因此对双重难以处理的分布进行推断是具有挑战性的。以往的辅助变量MCMC算法对于大数据集的多维模型是不可行的,因为它们在每次迭代时都依赖于昂贵的辅助变量模拟。我们开发了一个快速贝叶斯间接算法,取代昂贵的辅助变量模拟从概率模型与计算便宜的模拟从代理模型。我们使用高斯过程近似学习代理模型参数和概率模型参数之间的关系。我们将我们的方法应用于具有挑战性的模拟和真实数据的例子,并说明该算法解决了双重棘手的分布的计算和推理的挑战。特别是对于一个有10个参数的大型社会网络模型,我们表明,我们的方法可以减少计算时间从约2周到5小时,与以前的方法相比。我们的方法允许从业者进行贝叶斯推断更复杂的模型与更大的数据集比以前。
2020-08-06 stat.AP stat.CO
Compound random measures and their use in Bayesian nonparametrics
提出了一类新的相依随机测度,我们称之为{ \it复合随机测度},并考虑了在贝叶斯非参数混合模型中使用这些随机测度的归一化形式作为先验.它们的易处理性允许复合随机措施和归一化复合随机措施的属性来推导。特别是,我们展示了如何复合随机措施,可以与伽玛,$σ$稳定和广义伽玛过程边际。我们还推导了拉普拉斯指数的几种形式,并通过Lévy copula和相关函数来描述依赖性。在非参数混合模型中,当混合测度为归一化复合随机测度时,给出了用于后验推断的切片采样器和增广Pólya urn方案采样器,并给出了数据实例.
2015-09-02 stat.ME
Bayesian Boundary Trend Filtering
本文针对边界趋势估计问题,提出结合截断多元正态近似与Pólya-Gamma数据增广的贝叶斯趋势滤波方法,引入马蹄先验实现局部自适应收缩,还扩展了近似保序约束版本,经实验验证性能良好。
2023-11-10 stat.ME
Stochastic Normalizations as Bayesian Learning
Czech Technical University in Prague(布拉格捷克理工大学)
在这项工作中,我们研究了批量归一化(BN)提高深度网络泛化性能的原因。我们认为,一个主要的原因,区别于数据无关的归一化方法,是随机性的批量统计。这种随机性出现在参数中,而不是在激活中,并承认作为一个实际的贝叶斯学习的解释。我们将这个想法应用到其他(确定性)规范化技术,这些技术不考虑批量大小。我们表明,他们的泛化性能可以显着提高贝叶斯学习的相同形式。我们获得了与BN相当的测试性能,同时,通过近似贝叶斯后验,更好的验证损失适合于随后的输出不确定性估计。
2018-11-01 cs.LG cs.NE stat.ML
A note on the normality assumption for Bayesian models of constraint in behavioral individual differences
为了研究行为任务表现的个体差异结构,Haaf和Rouder(2017)开发了一类分层贝叶斯混合模型,对个体效应具有不同程度的约束。然后通过贝叶斯因子比较模型,告诉我们哪个模型最能预测观测数据。对他们的方法的一个常见的批评是假设观测数据是从正态分布中得出的。然而,对于大多数认知任务,性能的主要衡量标准是响应时间,众所周知,其分布不是正态的。本文研究了数值认知中两个数据集的正态性假设。具体来说,我表明,使用移位对数正态模型的响应时间不会改变推理的整体模式。此外,由于模型估计的效应现在处于对数尺度,因此建模的解释变得更加困难,特别是因为估计的效应现在是乘法而不是加法。因此,我建议即使响应时间一般不是正态分布的,Haaf和Rouder(2017)方法提供的简化提供了一种实用的方法来建模行为任务中的个体差异。
2022-10-20 stat.AP stat.ME
Bayesian Uncertainty Estimation for Batch Normalized Deep Networks
我们证明了使用批量归一化训练深度网络相当于贝叶斯模型中的近似推理。我们进一步证明,这一发现使我们能够使用传统架构对模型的不确定性进行有意义的估计,而无需修改网络或训练过程。通过在一系列不同任务的实证实验中测量不确定性的质量,我们的方法得到了彻底验证。它的表现优于基线,具有很强的统计意义,并显示出与最近的贝叶斯方法的竞争力。
2018-07-16 stat.ML
Bayesian random-effects meta-analysis using the bayesmeta R package
随机效应或正态-正态分层模型常用于广泛的荟萃分析应用中。在这种情况下,贝叶斯推理方法非常有吸引力,特别是当荟萃分析仅基于少数研究时。bayesmeta R包提供了易于访问的工具来执行贝叶斯元分析并生成图表和摘要,而不必担心计算细节。它允许灵活的事先规范和即时访问所产生的后验分布,包括预测和收缩估计,并促进例如快速灵敏度检查。本文介绍了基本理论和展示其使用。
2018-10-10 stat.CO
Robust Generalised Bayesian Inference for Intractable Likelihoods
广义贝叶斯推断使用损失函数而不是似然更新先验信念,因此可以用于赋予针对可能的似然错误指定的鲁棒性。在这里,我们认为广义贝叶斯推断与斯坦差异作为一个损失函数,动机的应用程序中的可能性包含一个棘手的归一化常数。在这种情况下,斯坦差异规避评价的归一化常数,并产生广义后验,要么是封闭的形式或使用标准的马尔可夫链蒙特卡罗访问。在理论层面上,我们表现出一致性,渐近正态性和偏置鲁棒性的广义后验,突出这些属性是如何影响的选择斯坦差异。然后,我们提供了一系列的棘手的分布,包括应用基于核的指数族模型和非高斯图形模型的数值实验。
2022-01-11 math.ST stat.CO stat.ME
Variational Bayesian Inference For A Scale Mixture Of Normal Distributions Handling Missing Data
本文提出了一种适用于含有异常值和缺失值的数据分类和聚类的正态分布尺度混合模型。分类方法,基于混合模型,侧重于引入潜变量,使我们有可能处理模型对离群值的敏感性,并允许对缺失数据进行限制性较小的建模。通过变分贝叶斯近似进行推理,并采用贝叶斯处理进行模型学习、监督分类和聚类。
2017-11-22 stat.ML
Bayesian Hidden Markov Modelling Using Circular-Linear General Projected Normal Distribution
我们引入了一个多变量隐马尔可夫模型来联合聚类具有不同支持度的时间序列观测,即循环和线性。依赖于一般的预计正态分布,我们的方法允许双峰和/或倾斜的集群特定分布的圆形变量。此外,我们放宽了同时观测到的圆形分量和线性分量之间的独立性假设。这样的假设通常用于减轻参数估计步骤中涉及的计算负担,但在经验应用中很难证明。我们进行了模拟研究,使用不同的数据生成方案来调查模型的行为,重点是恢复隐藏的结构。最后,利用该模型对一个风速风向双变量时间序列进行了拟合。
2015-01-24 stat.AP stat.CO
Bayesian Compressive Sensing Using Normal Product Priors
University of Electronic Science and Technology of China(电子科技大学)
在本文中,我们引入了一个新的稀疏促进先验,即“正常产品”的先验,并开发了一个有效的算法稀疏信号恢复贝叶斯框架下。正态乘积分布是两个均值为零且方差可能不同的正态分布变量的乘积的分布。与其他稀疏性鼓励分布(如学生$t$分布)一样,正态积分布在原点有一个尖峰,这使其成为鼓励稀疏解的合适先验。提出了一种基于正态产品的两阶段递阶模型。我们诉诸变分贝叶斯(VB)方法来执行推理。仿真结果表明,我们提出的算法相比,其他国家的最先进的压缩感知算法的有效性。
2017-08-24 cs.IT cs.LG math.IT
A Menu-Driven Software Package of Bayesian Nonparametric (and Parametric) Mixed Models for Regression Analysis and Density Estimation
大多数应用统计学涉及数据的回归分析。本文介绍了一个独立的和菜单驱动的软件包,贝叶斯回归:非参数和参数模型。目前,该软件包为用户提供了83个贝叶斯模型的选择,用于数据分析。它们包括47个贝叶斯非参数(BNP)无限混合回归模型; 5个用于密度估计的BNP无限混合模型;以及31个正态随机效应模型(HLM),包括正态线性模型。78个回归模型中的每一个都处理连续、二元或有序因变量,并且可以处理多水平(分组)数据。所有83个贝叶斯模型都可以处理加权观测的分析(例如,对于荟萃分析),以及左删失、右删失和/或区间删失数据的分析。每个BNP无限混合模型具有分配了各种BNP先验分布之一的混合分布,包括由Dirichlet过程、Pitman-Yor过程(包括归一化稳定过程)、beta(双参数)过程、归一化逆高斯过程、几何权重先验、相关Dirichlet过程或相关无限概率先验定义的先验。软件用户可以点击鼠标选择贝叶斯模型,并通过马尔可夫链蒙特卡罗(MCMC)抽样进行数据分析。采样完成后,软件自动打开文本输出,报告模型后验分布的基于MCMC的估计值和模型对数据的预测拟合。通过鼠标单击其他菜单选项可以生成其他文本和/或图形输出。这包括MCMC收敛分析的输出,以及选定泛函和协变量值的模型后验预测分布的估计。用MATLAB语言编制了BNP回归分析软件,并对实际数据进行了BNP回归分析。
2015-07-14 stat.CO
Calibration-Free Robust Bayesian Inference for Discrete Unnormalized Models
Texas A&M University(得克萨斯农工大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出DFD-BETEL,一种无需标定的半参数贝叶斯框架,通过离散Fisher散度矩条件实现非归一化离散模型的鲁棒推断,保证渐近校准的不确定性量化。
2026-10-08 stat.AP stat.ME
Bayesian inference and prediction for mean-mixtures of normal distributions
本文研究了多元正态分布均值混合的预测密度估计的频率风险性质,其中包含一个未知的位置参数$θ\in \mathbb{R}^d$,并且包含多元斜正态分布.我们提供明确的表示贝叶斯后验和预测密度,包括基准最小风险同变(MRE)密度,这是极大极小和广义贝叶斯相对于一个不适当的均匀密度$θ$。对于四个维度或更多,我们得到的贝叶斯密度,提高均匀的MRE密度下Kullback-Leibler损失。我们还提供插件类型的改进,调查的影响,某些类型的参数限制$θ$,并说明和评论的结果的基础上数值评估。
2022-02-01 math.ST stat.TH
Bayesian Analysis of AR(1) Model
一阶自回归过程AR(1)在时间序列分析中得到了广泛的应用。为了估计自回归参数,采用了不同的估计方法。这篇文章的重点是主观贝叶斯估计,而不是客观贝叶斯估计和频率程序。截断的正态分布被认为是先验的,以施加平稳性。导出了后验分布和Bayes估计。新推导的估计和其他现有的估计方法(频率论)之间的比较研究采用的模拟和实际数据。此外,后敏感性分析进行基于四种不同的先验:g先验,自然共轭先验,Jeffreys'先验和截断的正常先验和性能进行比较的最高后验密度区域的标准。
2016-11-26 stat.ME
An Extension of the Unified Skew-Normal Family of Distributions and Application to Bayesian Binary Regression
针对贝叶斯二元回归模型,提出扰动统一偏正态(pSUN)分布族以推广SUN分布,证明其在链接函数为高斯CDF尺度混合时与二元回归模型共轭,在logit情形下简化后验计算且p>n时性能更优。
2025-02-12 math.ST stat.ME stat.TH
Optimal Bayesian stepped-wedge cluster randomised trial designs for binary outcome data
基于广义估计方程和近似设计理论确定二元结局阶梯整群随机试验的贝叶斯D-最优设计,发现其效率优势取决于相关结构,在强时间段效应下可能显著优于传统设计,但需更多假设且正态近似方法通常更简便。
2024-02-15 stat.ME
Bayesian inference for scale mixtures of skew-normal linear models under the centered parameterization
本文针对偏态及重尾/轻尾数据,在中心化参数化下构建了偏态正态分布尺度混合类及线性回归模型,利用分层表示和MCMC方案进行参数估计,并开发了残差与影响分析工具,通过模拟和真实数据验证了方法有效性。
2024-06-05 stat.ME