Conditionally linear, matrix normal state space models
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Pontifical Catholic University of Rio de Janeiro（里约热内卢天主教大学）
本文提出矩阵正态状态空间模型，推导矩阵卡尔曼滤波与贝叶斯推断算法，应用于美国50州宏观经济面板，以少量潜在因子实现高维系统的简约建模。
2026-09-17 econ.EM stat.ME
Bayesian Model Selection for Beta Autoregressive Processes
本文研究了Beta自回归过程的贝叶斯推断。我们限制我们的注意力的类的条件线性过程。这些过程特别适合于预测目的，但是由于对参数空间的约束而难以估计。我们提供了一个完整的贝叶斯方法的估计，包括在推理问题的参数限制的先验分布的一个合适的规格。此外，在贝叶斯框架中，参数估计和模型选择可以同时解决。特别是，我们提出了一个马尔可夫链蒙特卡罗（MCMC）程序的基础上，吉布斯算法内的大都会黑斯廷斯和解决模型选择问题的可逆跳MCMC方法。
2010-07-31 math.ST stat.CO stat.ME
Bayesian Modeling of Air Pollution Extremes Using Nested Multivariate Max-Stable Processes
捕捉空间区域内多种空气污染物峰值浓度之间潜在的强相关性对于评估相关的公共健康风险至关重要。为了研究大气污染极值的多元空间相关性，我们引入了一类新的多元极大稳定过程。我们提出的模型承认一个层次树为基础的配方，其中的数据是有条件的独立给定一些潜在的嵌套$α$稳定的随机因素。分层结构有利于贝叶斯推断，并提供了一个方便和可解释的表征。我们拟合这个嵌套的多变量最大稳定模型的最大值的空气污染浓度和温度记录在洛杉矶地区的一些网站，表明该模型成功地捕捉到他们复杂的尾部依赖结构。
2018-03-18 stat.AP
Leveraging joint sparsity in hierarchical Bayesian learning
MIT（麻省理工学院）；Dartmouth College（达特茅斯学院）
提出层次贝叶斯方法，利用联合稀疏先验从多测量向量中推断稀疏参数，实验证明其优于常用方法。
2024-05-24 cs.LG cs.NA math.NA
Bayesian Nonparametric Density Estimation under Length Bias
一个密度估计方法在贝叶斯非参数框架下，当记录的数据不是直接来自感兴趣的分布，但从一个长度偏置的版本。从贝叶斯的角度来看，由于无法规避归一化常数的问题，有条件地对长度偏差数据进行计算评估后验量的努力受到了阻碍。在本文中，我们提出了一种新的贝叶斯非参数方法的长度偏差抽样问题，它绕过了归一化常数的问题。给出了数值例子和一个实际数据例子，并将该估计量与Jones（1991）的间接数据核密度估计量进行了比较。
2015-10-22 math.ST stat.TH
Analysis of rolling group therapy data using conditionally autoregressive priors
团体治疗是一种治疗行为健康障碍的中心治疗方式，如酒精和其他药物使用（AOD）和抑郁症。团体治疗通常是在滚动（或开放）招生政策下提供的，在空间允许的情况下，新客户不断加入一个团体。滚动招生政策导致客户结果之间的复杂相关结构。尽管滚动录取在实践中无处不在，但很少有关于分析此类数据的指导。我们讨论了以前提出的方法的局限性，在一项研究的背景下，提供团体认知行为治疗抑郁症的住宅药物滥用治疗的客户端。我们改进了以前的滚动组分析方法，通过使用分层贝叶斯模型对客户抑郁症状评分的相关性进行全面建模，该模型假设会话级随机效应的条件自回归先验。我们使用我们的方法来估计模型参数的方差，并增强了学习滚动治疗组参与者之间复杂相关结构的能力，从而提高了性能。我们的方法广泛适用于任何团体治疗设置，其中团体有不断变化的客户组成。它将导致更有效地分析客户端的数据，并提高团体治疗研究社区的能力，以了解滚动组的动态如何导致客户端的结果。
2011-08-01 stat.AP
Bayesian inference for general Gaussian graphical models with application to multivariate lattice data
我们介绍了有效的马尔可夫链蒙特卡罗方法的推断和模型确定的多元和矩阵变量高斯图形模型。我们的框架是基于G-Wishart先验的精度矩阵与图，可以是可分解或不可分解的。我们扩展我们的抽样算法，一类新的条件自回归模型的稀疏估计在多元格数据，特别强调空间数据的分析。这些模型在估计跨结果的相关性结构和空间相关性结构方面具有很大的灵活性，从而允许自适应平滑和空间自相关参数。我们的方法使用模拟和现实世界的例子，包括癌症死亡率监测的应用程序进行说明。
2010-05-21 stat.ME
Convergence analysis of the Gibbs sampler for Bayesian general linear mixed models with improper priors
一般线性混合模型数据的贝叶斯分析是具有挑战性的，因为任何非平凡的前导致一个棘手的后验密度。然而，如果采用条件共轭先验密度，则可以使用简单的Gibbs采样器来探索后验密度。在条件共轭先验中，一个常见的缺陷是不适当的先验，它与回归参数上的平坦先验和每个方差分量上的所谓幂先验形成乘积形式。本文对相应的Gibbs采样器进行了收敛速度分析。主要结果是Gibbs-马尔可夫链几何遍历性的一个简单、易检验的充分条件。这个结果接近于最好的可能结果，因为这个充分条件仅仅比确保后验适当性所需的条件稍微强一些。本文中开发的理论是非常重要的，从实用的角度来看，因为它保证了存在的中心极限定理，允许计算有效的渐近标准误差的估计使用吉布斯采样器计算。
2013-02-18 math.ST stat.TH
Bayesian inference of grid cell firing patterns using Poisson point process models with latent oscillatory Gaussian random fields
关于大脑编码信息的问题需要统计框架来推断神经放电和世界特征之间的关系。网格细胞的里程碑式发现表明，神经元可以通过定期重复的放电场来表示空间信息。然而，协变量的影响可能被掩盖在网格细胞活动的当前统计模型中，其通过采用诸如离散化、聚集和平滑的方法，在计算上是低效的并且不考虑物理世界的连续性质。这些限制促使我们开发基于可能性的程序，用于建模和估计有条件地基于生物相关协变量的网格细胞的放电活动。我们的方法模型使用泊松点过程与潜在的高斯效应，它可以容纳持久的不均匀的空间方向模式和过度分散的放电活动。推理是以完全贝叶斯的方式进行的，这使我们能够量化不确定性。应用这些方法的实验数据，我们提供了证据的时间和局部头部方向的影响网格发射。我们的方法提供了一个新的和原则性的框架，分析神经表征的空间。
2023-03-30 stat.AP stat.ME
Asymptotic behaviour of weighted differential entropies in a Bayesian problem
我们考虑一个贝叶斯问题的成功概率估计的一系列条件独立的试验与二进制的结果。研究了$n$条件独立试验后$x$成功的后验概率密度函数微分熵的渐近行为，当$n \to \infty$ .结果表明，在适当的归一化后，$x \sim n$和$x$ $\sim n^β$（$0<β<1$）的极限分布为高斯分布，标准化RV的微分熵收敛于标准高斯随机变量的微分熵.当$x$或$n-x$为常数时，微分熵的极限分布不是高斯分布，但仍能显式地求出微分熵的渐近性。然后假设人们有兴趣知道硬币是否公平，并且对于大的$n$，对真实频率感兴趣。为此，当需要强调频率$γ$时，使用在\cite{Belis1968}中引入的加权微分熵的概念。结果表明，所建议的形式的权重并不改变香农熵、Renyi熵、Tsallis熵和Fisher熵的渐近形式，但改变了常数。加权Fisher信息中的主项被改变为某个常数，该常数取决于真实频率与我们想要强调的值之间的距离。第三部分给出了Rao-Cramér不等式、Bhattacharyya不等式和Kullback不等式的加权形式。该结果被应用于上述贝叶斯问题。对于一类特殊的权函数，得到了这些不等式的渐近形式。
2015-07-29 cs.IT math.IT math.ST
Non-Stationary Multi-layered Gaussian Priors for Bayesian Inversion
在这篇文章中，我们研究了多层高斯先验的贝叶斯反问题。我们首先描述的条件高斯层的随机偏微分方程的系统。我们使用有限维Galerkin方法建立计算推理方法。我们表明，所提出的近似具有收敛的概率属性的原始多层模型的解决方案。然后，我们进行贝叶斯推理使用预处理的曲柄-尼科尔森算法，修改工作与多层高斯场。我们通过信号反卷积和计算机X射线层析成像问题的数值实验表明，所提出的方法可以同时提供平滑和边缘保护。
2020-06-28 math.ST stat.TH
A note on a Bayesian nonparametric estimator of the discovery probability
Favaro、Lijoi和Pruenster（2012，Biometrics，68，1188- 1196）推导了一种新的贝叶斯非参数估计，该估计是在$(n+m+1)$次观察时检测到一个物种的概率，该物种已经在$n+m$大小的扩大样本中以任何给定频率观察到，条件是大小为$n$的基本样本。不幸的是，吉布斯先验下的一般结果（定理2），以及因此在$(α, θ)$泊松-狄利克雷先验下的显式结果（命题3），似乎是错误的。在这里，我们提供了两个结果的正确公式，通过Cerquetti（2013）设计的新技术获得。我们验证了我们的推导的正确性，明确的反证的两个参数Poisson-Dirichlet的情况。
2013-04-03 math.ST stat.TH
Entropic bounds for conditionally Gaussian vectors and applications to neural networks
Department of Mathematics, Luxembourg University（数学系，卢森堡大学）
本文利用信息论熵不等式建立条件高斯律与高斯律之间全变差和2-Wasserstein距离的新界，并应用于刻画随机初始化全连接神经网络及其导数向高斯极限的收敛速率，改进并推广了多项已有结果。
2025-06-03 cs.AI cs.LG math.PR
Targeted empirical Bayes for more supervised joint factor analysis
针对标准联合贝叶斯因子模型在响应变量不依赖预测因子主导主成分时难以识别信号的问题，提出靶向响应预测性能的经验贝叶斯方法估计残差方差，提升了模拟效果，并应用于环境暴露健康效应评估的NHANES数据。
2025-05-16 stat.ME
A Bayes method for a Bathtub Failure Rate via two $\mathbf{S}$-paths
一类具有浴缸形状的半参数危险/失效率是令人感兴趣的。它不仅提供了很大的灵活性，现有的参数化方法在建模方面，但也导致在封闭和易于处理的贝叶斯估计的浴缸形故障率（BFR）。这样的估计量是由于两个（条件独立的）$\mathbf{S}$-路径的显式后验分析而导出的两个$\mathbf{S}$-路径的有限和。这些新发现的显式结果可以被证明是对应结果的Rao-Blackwellization，这些结果可以通过James（2005）的工作的专门化而容易地获得。基于已有的有效的蒙特卡罗方法，我们提出了一种对单$\mathbf{S}$路径进行采样的迭代和非迭代计算方法，并通过数值模拟验证了该方法的实用性和有效性.最后讨论了该方法的两个应用，一个是失效率的贝叶斯检验，另一个是协变量建模。
2007-07-16 stat.ME
Horseshoe priors for edge-preserving linear Bayesian inversion
在许多大规模的反问题中，如计算机断层扫描和图像去模糊，需要描述解中的尖锐边缘。在逆问题的贝叶斯方法中，边缘保持通常使用基于重尾分布的马尔可夫随机场先验来实现。另一个在统计学中很流行的策略是分层收缩先验的应用。该公式的优点在于将先验表示为依赖于被赋予重尾超先验的全局和局部超参数的条件高斯分布。在这项工作中，我们重新审视收缩马蹄事先，并介绍其制定的边缘保持设置。我们讨论了一个抽样框架的基础上的吉布斯采样器来解决由此产生的贝叶斯逆问题的分层制定。特别地，其中一个条件分布是高维高斯分布，其余的是通过使用重尾超先验的尺度混合表示以封闭形式导出的。从成像科学的应用表明，我们的计算过程是能够计算尖锐的边缘保持后点估计减少不确定性。
2022-07-19 stat.AP stat.CO
Inference in Hybrid Bayesian Networks Using Mixtures of Gaussians
University of Kansas（堪萨斯大学）
本文的主要目标是描述一种方法，在一般的混合贝叶斯网络（BN）（离散和连续的机会变量的混合）的精确推理。我们的方法包括近似一般的混合贝叶斯网络的混合高斯（MoG）BN。Lauritzen-Jensen（LJ）提出了一种在MoG贝叶斯网络中进行精确推理的快速算法，并给出了该算法的商业实现。然而，该算法只能用于MoG BN。这种网络的一些限制如下。所有连续的机会变量必须有条件线性高斯分布，离散的机会节点不能有连续的父母。本文所描述的方法将使我们能够使用LJ算法的更大的一类混合贝叶斯网络。这包括具有非高斯分布的连续机会节点的网络，对离散和连续变量的拓扑结构没有限制的网络，具有条件确定性变量的网络，这些变量是其连续父母的非线性函数，以及具有连续机会变量的网络，其方差是其父母的函数。
2012-06-27 cs.AI stat.ME
Bayesian Markov Blanket Estimation
University of Basel（巴塞尔大学）
本文考虑了一个贝叶斯观点估计一个子网络在马尔可夫随机场。子网络对应于一组查询变量的马尔可夫毯，其中潜在邻居的集合很大。我们因式分解后验，使马尔可夫毯有条件地独立于网络的潜在邻居。通过利用这种分块解耦，我们推导出后验条件的解析表达式。随后，我们开发了一个推理方案，利用因式分解。结果，可以在不推断整个网络的情况下估计子网络。由于得到的吉布斯采样器与变量的数量呈线性关系，因此它可以处理相对较大的邻域。所提出的方案的结果更快的收敛速度和优越的混合比现有的贝叶斯网络估计技术的马尔可夫链。
2015-10-06 cs.LG stat.ML
A similarity-based Bayesian mixture-of-experts model
KTH Royal Institute of Technology（瑞典皇家理工学院）；RaySearch Laboratories（瑞镭实验室）；Silo AI（Silo AI（西洛人工智能公司））
我们提出了一个新的非参数混合专家模型的多元回归问题，启发的概率k-近邻算法。使用条件指定的模型，对样本外输入的预测基于与每个观察到的数据点的相似性，产生由高斯混合表示的预测分布。后验推理的混合物成分的参数，以及使用平均场变分贝叶斯算法伴随着随机梯度为基础的优化过程的距离度量。所提出的方法是特别有利的设置，其中输入是相对较高的维度相比，数据的大小，其中输入-输出关系是复杂的，并且其中预测分布可能是偏斜的或多模态的。对五个数据集的计算研究，其中两个是综合生成的，说明了我们的混合专家方法对高维输入的明显优势，在验证指标和目视检查方面都优于竞争对手的模型。
2022-08-03 cs.LG stat.ME stat.ML
Modular Bayes screening for high-dimensional predictors
在许多应用领域中，随着多维预测因子的常规收集，快速识别有希望的预测因子的小子集的筛选方法已经变得司空见惯。我们提出了一种新的模数贝叶斯筛选（MOBS）方法，其中涉及几个新的特点，可能会导致性能的提高。MOBS首先将贝叶斯混合模型应用于响应的边缘分布，获得混合权重的后验样本、集群特定参数和每个主题的集群分配。然后引入假设检验，对应于是否包括给定的预测因子，每个假设的后验概率可有条件地分析在第一阶段中采样的未知数，并调整控制跨测试的信息借用的参数。通过对第一阶段后验样本进行边缘化，我们避免了两阶段方法中典型的不确定性估计不足。通过使用{ \em模块化}，我们大大简化了模型规范，降低了计算复杂度。我们为这种方法提供了基本的理论支持，并说明了在模拟研究中相对于竞争对手的出色性能，以及捕捉复杂变化的能力，超越了简单的差异。该方法说明了基因组学的应用程序，通过使用一个非常高维的顺式eQTL数据集，约38万个SNP。
2017-03-29 stat.ME
Bayesian predictive inference without a prior
设$(X_n:n\ge 1)$为随机观测序列。设$σ_n(\cdot)=P\bigl(X_{n+1}\in\cdot\mid X_1,\ldots,X_n\bigr)$为第$n$个预测分布，$σ_0(\cdot)=P(X_1\in\cdot)$为$X_1$的边缘分布。在贝叶斯框架中，要对$(X_n)$进行预测，只需要集合$σ=(σ_n:n\ge 0)$。由于Ionescu-Tulcea定理，$σ$可以直接分配，而无需通过通常的先验/后验方案。一个主要优点是不必选择先验概率。在本文中，$σ$受到两个要求：（i）所得到的序列$(X_n)$是条件同分布的，在Berti，Pratelli和Rigo（2004）的意义下;（ii）每个$σ_{n+1}$是$σ_n$的简单递归更新。介绍并研究了满足（i）-（ii）的各种新的$σ$。对于这样的$σ$，确定$σ_n$的渐近性，作为$n\rightarrow\infty$。在某些情况下，还评估了$(X_n)$的概率分布。
2021-04-26 math.ST stat.ME stat.TH
Bayesian non-parametric survival estimation: stochastic hyperparameter sequences and distribution splicing
本文提出一种用于生存时间数据的贝叶斯非参数框架，允许先验分布依赖随机源并随样本量更新，利用混合非递减可加过程研究累积危险函数，证明了其渐近性质并提供精确模拟算法，为非参数拼接模型提供了新方案。
2025-05-02 stat.ME
Multilevel linear models, Gibbs samplers and multigrid decompositions
我们研究了条件高斯分层模型的贝叶斯分析所产生的后验分布的背景下的吉布斯采样器的收敛性质。我们开发了一个多重网格的方法，推导出各种广泛使用的模型结构，包括嵌套和交叉随机效应的算法的收敛速度的解析表达式。我们的结果适用于多级模型的层次结构中的任意层数，而以前的工作仅限于两级嵌套的情况下。理论结果提供了明确的和易于实施的指导方针，以优化实际实施的吉布斯采样器，如指示上的参数化选择（如中心和非中心），施加约束，以保证统计可识别性，以及哪些参数监测诊断过程中。模拟结果表明，在非高斯分布和更一般的MCMC计划，如基于梯度的上下文中也是信息丰富的。条件高斯分层模型的吉布斯采样器的实现。
2019-06-26 math.PR stat.CO stat.ME
Cost free hyper-parameter selection/averaging for Bayesian inverse problems with vanilla and Rao-Blackwellized SMC Samplers
在贝叶斯逆问题中，人们的目标是在给定间接测量的情况下，描述一组未知数的后验分布。对于非线性/非高斯问题，解析解很少可用：序贯蒙特卡罗采样器通过构建平滑到达后验的辅助密度序列，为近似复杂后验提供了强大的工具。后验通常取决于标量超参数。在这项工作中，我们表明，适当设计的序贯蒙特卡罗（SMC）采样器自然提供了一个近似的边际似然与此超参数免费，即在一个可以忽略不计的额外计算成本。所提出的方法通过构造分布的辅助序列来进行，使得它们中的每一个可以被解释为对应于超参数的不同值的后验分布。这可以被利用来在经验贝叶斯方法中执行超参数的选择，以及在完全贝叶斯方法中根据一些超先验分布对超参数的值进行平均。对于FB方法，所提出的方法具有允许以可忽略的计算成本进行先前的敏感性分析的进一步益处。此外，所提出的方法在所有（相关）迭代中利用粒子，从而减轻SMC采样器的已知限制之一，即中间迭代中的所有样本通常被丢弃的事实。我们展示了两种不同情况下的数值结果，其中超参数只影响可能性：一个玩具的例子，其中SMC采样器用于近似完整的后验分布;和一个脑成像的例子，其中Rao-Blackwellized SMC采样器用于近似条件线性高斯模型中的参数子集的后验分布。
2022-12-23 stat.AP stat.ME
Gaussian processes and Bayesian moment estimation
给定一组的时刻限制（MR），overidentify一个参数$θ$，我们调查的半参数贝叶斯方法推断$θ$，不限制数据分布$F$除了MR。作为主要的贡献，我们构建了一个退化高斯过程之前，有条件地对$θ$，限制$F$产生的这之前，以满足MR的概率1。我们先前的工作甚至在MR的数量大于$θ$的维度的更复杂的情况下。我们证明了相应的后$θ$是计算方便。此外，我们表明，我们的程序，广义经验似然二次准则和有限的信息似然为基础的程序之间存在着联系。我们提供了一个频率验证我们的程序显示一致性和渐近正态性的后验分布的$θ$。我们的方法的有限样本特性说明通过Monte Carlo实验，我们提供了一个应用程序，在航空市场的需求估计。
2019-09-10 math.ST stat.TH
Multi-modal Bayesian Neural Network Surrogates with Conjugate Last-Layer Estimation
National Laboratory of the Rockies（落基山脉国家实验室）
本文提出两种多模态贝叶斯神经网络代理模型，利用共轭分布估计参数，提升多模态数据下标量和时间序列的预测精度与不确定性量化。
2026-05-12 cs.LG stat.ML
Marginal and simultaneous predictive classification using stratified graphical models
归纳概率分类规则一般必须遵循贝叶斯预测推理的原则，使得所有观察到的和未观察到的随机量被联合建模，并且通过后验预测分布完全承认参数的不确定性。几个这样的规则最近已被认为是其渐近行为的特征在于假设所观察到的功能或用于建立一个分类器的变量是有条件的独立给定的同时标记的训练样本和那些从一个未知的来源。在这里，我们将理论结果扩展到预测分类器，通过图形模型或定义为分层图形模型的稀疏替代品来确认特征依赖关系。我们还表明，通过实验与合成和真实的数据，预测分类器的基础上分层的图形模型具有一致的最佳精度相比，预测分类器的基础上，无论是条件独立的功能或普通的图形模型。
2014-01-31 stat.ML
Bridged Posterior: Optimization, Profile Likelihood and a New Approach to Generalized Bayes
本文提出桥接后验这一广义贝叶斯框架，将优化子问题嵌入似然以保留计算效率与约束结构，并证明其参数后验渐近等价于积分后验，从而消除部分优化会低估不确定性的传统顾虑。
2025-07-22 stat.ME
Probabilistic Meta-Representations Of Neural Networks
Uber AI Labs（优步人工智能实验室）；University College London（伦敦大学学院）；University of Cambridge（剑桥大学）
现有的神经网络的贝叶斯处理通常以弱先验分布和近似后验分布为特征，根据该分布，独立地提取所有权重。在这里，我们考虑一个更丰富的先验分布，其中网络中的单元由潜在变量表示，单元之间的权重根据这些变量的集合的值有条件地绘制。这允许相关权重之间具有丰富的相关性，并且可以被视为实现具有贝叶斯复杂性正则化器的函数先验，以确保简单的解决方案。我们说明了由此产生的元表示和表示，阐明了这个先验的力量。
2018-10-01 cs.AI cs.LG stat.ML
Bayesian inversion with Student's t priors based on Gaussian scale mixtures
针对贝叶斯反问题的结构先验建模需求，提出结合马尔可夫随机场与Student's t分布的先验类，借助高斯尺度混合表示实现高效后验计算，经信号去卷积和图像去模糊算例验证有效性。
2024-07-15 stat.CO
Bayesian prior elicitation and selection for extreme values
极值分析的一个主要问题是确定形状参数$ξ$的通用广义极值（GEV）和广义帕累托（GP）分布，驱动尾部的行为，并对收益率水平和周期的估计有重大影响。许多从业者选择贝叶斯框架来进行这种评估，以核算参数不确定性，这些不确定性在以少量观测为特征的分析中通常很高。尽管如此，这样的方法可以为$ξ$提供大的可信度域，包括负值和正值，这不允许对尾部的性质做出结论。考虑到块极大值的框架，一个通用的方法来确定的值和符号的$ξ$从模型选择之间的Fréchet，Gumbel和Weibull可能的域的吸引条件的观察。与通常选择GEV作为{ \it采样}极值的适当模型相反，必须非常小心地进行这种模型选择。正确的，信息丰富的和易于使用的先验的启发是基于以下原则进行的：对于所有的参数尺寸，他们作为后验的noninformative先验和虚拟样本。这些虚拟样本的统计数据可以从先前的预测信息中评估，并且可以执行相容性规则以完成校准，即使它们只是半共轭的。此外，模型选择是使用混合包围框架进行的，该框架允许处理贝叶斯因子的计算。激励一个真正的案例研究，涉及气象量级的专家知识的启发，玩具的例子也说明了整体的方法。
2018-06-17 stat.ME
Semiparametric Bayesian structure learning of nonparanormal directed acyclic graphs with local--global shrinkage
Ferdowsi University of Mashhad（马什哈德 Ferdowsi 大学）
提出NPN-DAG-HS，一种结合非参数正态族与马蹄形收缩的贝叶斯半参数DAG模型，无需估计单调变换即可处理非高斯数据，在高维下具有理论保证，并在模拟和真实数据中优于高斯方法。
2026-09-14 stat.ME
Martingale posterior distributions
抽样分布参数的先验分布通常是贝叶斯不确定性量化的起点。在本文中，我们提出了一个不同的视角，重点放在缺失观测作为统计不确定性的来源，与整个人口的利益被精确地知道的参数。我们认为，贝叶斯推断的基础是分配一个分布的条件下，已观察到的缺失的意见。在有条件i.i.d.设置具有大小为$n$的观察样本，贝叶斯将因此在缺失的$Y_{n+1:\infty}$上分配以$Y_{1:n}$为条件的预测分布，其然后诱导参数上的分布。演示鞅的应用，Doob表明，选择贝叶斯预测分布返回传统的后验分布的参数。以此为线索，我们放松了预测机器，避免了预测仅仅从通常的先验到后验到预测密度公式中推导出来的需要。我们介绍了\textit{martingale posterior distribution}，它返回贝叶斯不确定性直接对任何统计的兴趣，而不需要的可能性和先验，这个分布可以通过一个计算方案，我们命名为\textit{predictive resampling}采样。为此，我们介绍了新的预测方法，多变量密度估计，回归和分类，建立在最近的工作二元copula。
2021-11-22 math.ST stat.ME stat.TH
Estimation and uncertainty quantification for extreme quantile regions
极端分位数区域的估计是极端分析中的一项重要任务，极端分位数区域是未来极端事件可能以给定的低概率发生的空间，甚至超出了观测数据的范围。现有的方法来估计这些区域是可用的，但不提供任何估计不确定性的措施。我们开发了单变量和双变量方案估计极端分位数区域下的贝叶斯范式，优于现有的方法，并提供自然的措施分位数区域估计的不确定性。我们检查的方法的性能在控制模拟研究。我们说明了所提出的方法的适用性，通过分析高双变量分位数对污染物，有条件地在不同的温度梯度，记录在意大利米兰。
2020-10-27 stat.ME
When Noise Estimation Hides Basis Misspecification in Repeated Bayesian Inverse Problems
University of Cambridge（剑桥大学）
本研究针对贝叶斯反问题中基受限先验的覆盖损失问题，提出利用John球度统计量检验残差谱形状以检测基外变异，该方法在合成和实际地形数据中有效，但无法检测各向同性高斯变异。
2026-09-30 math.ST stat.ME stat.ML
Hierarchical Ensemble Kalman Methods with Sparsity-Promoting Generalized Gamma Hyperpriors
本文介绍了一种计算框架，将灵活的正则化技术集成卡尔曼方法的非线性反问题。所提出的方法近似的最大后验概率（MAP）估计的分层贝叶斯模型，其特征在于由一个条件高斯先验和广义伽玛超先验。选择合适的超参数会产生稀疏促进正则化。我们提出了一种迭代算法的MAP估计，它交替更新未知的集合卡尔曼方法和更新超参数的正则化，以促进稀疏性。我们的方法的有效性证明在几个计算实例，包括压缩传感和地下水流逆问题。
2022-05-19 cs.NA math.NA math.OC
A stochastic optimisation unadjusted Langevin method for empirical Bayesian estimation in semi-blind image deblurring problems
针对半盲图像去卷积中边际似然计算难的问题，提出结合Moreau-Yosida正则化未调整朗之万MCMC的随机近似近端梯度优化方法，可自动校准多类参数，有收敛保证且效果优于现有方法。
2024-03-07 stat.AP stat.CO
Convergence analysis of block Gibbs samplers for Bayesian linear mixed models with $p>N$
探索与一般线性混合模型的贝叶斯版本相关的棘手的后验分布，经常使用马尔可夫链蒙特卡罗。特别地，如果使用条件共轭先验，则存在可用的简单两块吉布斯采样器。Román和Hobert [线性代数Appl. 473（2015）54-77]表明，当先验是适当的并且$X$矩阵具有满列秩时，这些Gibbs采样器下的马尔可夫链几乎总是几何遍历的。在本文中，Román和Hobert（2015）的结果通过允许方差分量上的不适当先验，更重要的是，通过删除$X$矩阵上的所有假设来扩展。因此，$X$不仅允许（列）秩亏，这在参数化固定效应时提供了额外的灵活性，还允许列数多于行数，这在$p>N$越来越重要的情况下是必要的。关于$X$的满秩假设是Román和Hobert（2015）证明的核心。因此，扩展到无限制的$X$需要一个完全不同的分析。
2016-09-30 math.ST stat.TH
Bayesian Semi-supervised Multi-category Classification under Nonparanormality
Google Inc.（谷歌公司）；North Carolina State University（北卡罗来纳州立大学）
本文提出一种完全贝叶斯半监督多类别分类算法，通过未知变换和 B 样条展开处理非正态数据，采用 Gibbs 采样推断，实验表明预测精度优于现有方法。
2024-07-19 cs.LG stat.AP stat.ML
Principled Estimation and Prediction with Competing Risks: a Bayesian Nonparametric Approach
University of Milano-Bicocca（米兰比可卡大学）；Bocconi Institute for Data Science and Analytics, Bocconi University（博科尼大学数据科学与分析研究所）
本文提出一种贝叶斯非参数方法，用于竞争风险下的估计与预测，通过多状态模型框架和灵活的非参数先验模型，构建预测曲线并评估生存函数和病因特异性发病率。
2026-04-29 math.ST stat.ME stat.TH
Posterior Inference on Shallow Infinitely Wide Bayesian Neural Networks under Weights with Unbounded Variance
Purdue University（普渡大学）；Aalto University（阿尔托大学）
针对权重无界方差下贝叶斯神经网络缩放极限为非高斯过程导致后验推断困难的问题，提出一种基于条件高斯表示的推断程序，实现非高斯情况下的后验推断与不确定性量化。
2024-06-04 cs.LG stat.ML
SIMD Parallel MCMC Sampling with Applications for Big-Data Bayesian Analytics
Sentrana Inc.（森特拉纳公司）；Imperial College London（伦敦帝国学院）
统计学和机器学习中贝叶斯方法估计技术的计算强度和顺序性质，以及它们在大数据分析中日益增加的应用，需要识别并行化技术（如MCMC采样）的潜在机会，以及将这种并行算法映射到现代CPU的一般策略的开发，以便引出基于计算和/或存储器的性能-基于硬件限制。两个机会的单指令多数据（SIMD）并行MCMC采样概率图形模型。在具有许多观测的可交换模型（如贝叶斯广义线性模型）中，可以同时计算子节点对每个节点的条件后验的贡献。在具有离散节点的无向图中，条件独立节点的并发采样可以转换为SIMD形式。具有多线程和向量化功能的高性能库可以很容易地应用于这样的SIMD机会，以获得适当的加速，而一系列高级源代码和运行时修改通过减少并行化开销和增加NUMA架构的数据本地性来提供进一步的性能提升。对于大数据贝叶斯GLM图，最终结果是一个用于评估条件后验及其梯度向量的例程，其速度比使用（内置）多线程英特尔MKL BLAS的简单实现快5倍，并且在内存带宽引起的硬件限制的影响范围内。所提出的优化策略提高了性能随内核数量和向量单元宽度的扩展（适用于众核SIMD处理器，如英特尔至强融核和GPU），从而在多核x86处理器上实现成本效益、能源效率和更高的速度。
2014-11-19 cs.AI cs.DC stat.CO
Bayesian Causal Inference in Doubly Gaussian DAG-probit Models
Shahid Beheshti University（沙希德·贝赫什提大学）；University of Colorado（科罗拉多大学）
本文提出双高斯DAG-probit模型，在共享部分参数的前提下为两组观测数据分别构建有向无环图，并通过MCMC后验采样估计DAG骨架、节点效应大小及模型参数，模拟与真实数据实验验证了分组变量在因果推断中的价值。
2023-04-12 cs.AI stat.ME stat.ML
On Theory for BART
University of Chicago Booth School of Business（芝加哥大学布斯商学院）；University of Chicago（芝加哥大学）
包围学习是一种统计范式，其前提是许多弱学习者在集体部署时可以表现得非常好。Chipman等人（2010）的BART方法是贝叶斯集成学习的一个突出例子，其中每个学习者都是一棵树。由于其令人印象深刻的表现，BART受到了很多从业者的关注。尽管它的广泛流行，然而，理论研究的捷运已经开始出现只是最近。为贝叶斯森林的理论分析奠定了基础，Rockova和van der Pas（2017）在条件均匀树先验下显示了最佳后验浓度。在这里，我们研究了确切的BART先验，并提出了一个简单的修改，使它也享有最优性能。为此，我们深入研究分支过程理论。我们得到的总后代分布下异质Galton-Watson（GW）的过程利用其连接到随机游动的尾界。最后，我们得出一个结果，说明最佳的后验收敛率为BART。
2018-10-05 cs.LG stat.ML
Learning of Optimal Forecast Aggregation in Partial Evidence Environments
Faculty of Industrial Engineering, Technion—Israel Institute of Technology（以色列理工学院工业工程学院）
我们认为预测聚合问题在重复设置，其中的预测是在一个二进制事件。在每个时期，多位专家提供关于事件的预测。聚合器的目标是将这些预测聚合成主观准确的预测。我们假设专家是贝叶斯的，也就是说，他们有一个共同的先验，每个专家都暴露在一些证据中，每个专家都应用贝叶斯规则来推断他的预测。聚合器对于信息结构是无知的（即，专家们根据这些数据进行预测。聚合器只观察专家的预测。在每个周期结束时，实现实际状态。我们专注于聚合器是否可以学习最佳地聚合专家的预测，其中最佳的聚合是贝叶斯聚合，考虑到系统中的所有信息（证据）的问题。我们考虑的类的部分证据信息结构，每个专家暴露于不同的子集的条件独立的信号。我们的主要结果是积极的;我们表明，最佳聚集可以在多项式时间内学习在相当广泛的部分证据环境的情况下。我们提供了一个严格的表征的情况下，学习是可能的和不可能的。
2018-02-20 cs.LG stat.ML
Testing a Large Number of Composite Null Hypotheses Using Conditionally Symmetric Multidimensional Gaussian Mixtures in Genome-Wide Studies
本文提出条件对称多维高斯混合模型（csmGmm），用于统一遗传研究中中介、多效性和重复性分析的复合原假设检验，并证明其能使lfdr与z统计量检验规则保持一致，在肺癌遗传关联数据上验证了方法的稳健性和可解释性。
2023-09-22 stat.AP stat.ME
Covariance estimation for multivariate conditionally Gaussian dynamic linear models
在多变量时间序列中，观测新息的协方差阵的估计在预测中起着重要的作用，因为它使得能够计算标准化的预测误差向量，以及它使得能够计算预测的置信界限。我们开发了一个在线的，非迭代贝叶斯算法的估计和预测。实验结果表明，对于一定范围的模拟时间序列，所提出的协方差估计器具有良好的性能收敛到未知观测协方差阵的真值。在一个模拟的时间序列，新的方法近似正确的估计，产生的非序贯蒙特卡罗模拟程序，这是在这里使用的黄金标准。特殊的，但重要的，向量自回归（VAR）和随时间变化的VAR模型说明考虑伦敦金属交易所的数据组成的现货价格的铝，铜，铅和锌。
2008-02-01 stat.AP stat.ME
