Posterior Model Consistency in Variable Selection as the Model Dimension Grows
回归分析中变量选择的贝叶斯方法的一致性分析大多涉及两两一致性，即贝叶斯因子的一致性。然而，回归中的变量选择是在给定的一类回归模型中进行的，其中自然变量选择器是模型的后验概率。在本文中，我们分析了后验模型概率的一致性时，随着样本量的增长，潜在的回归数量的增长。后验模型一致性的新颖之处在于，它不仅依赖于通过贝叶斯因子得到的模型参数的先验，而且还依赖于模型的先验，因此它是为模型和模型参数选择先验的有用工具。我们已经发现，通常用于变量选择的某些类别的先验会产生后验模型不一致性，而这些先验的混合物会改善这种不受欢迎的行为。对于中等样本量，我们评估贝叶斯成对变量选择程序，通过比较其频率论I型和II型错误概率。这提供了有价值的信息来区分变量选择常用的模型参数的先验。
2015-07-29 stat.ME
On Consistency of Approximate Bayesian Computation
近似贝叶斯计算（ABC）方法最近变得越来越流行，因为它们可以分析棘手的或具有挑战性的统计问题。随着最初的重点主要是在ABC的实际进口，其正式的统计属性的探索已开始吸引更多的关注。本文的目的是建立一般条件下，ABC方法是贝叶斯一致的，在这个意义上生产提请，产生一个退化的后验分布在真正的参数（向量）渐近（在样本量）。我们推导出条件下，任意汇总统计量产生一致的推断贝叶斯意义上的，这些条件与识别的真实参数。使用简单的说明性的例子，在文献中，我们表明，识别，因此一致性，是不可能实现在许多情况下，并提出了一个简单的诊断程序，可以表明存在这个问题。我们还正式探讨了ABC内的一致性和辅助模型的使用之间的联系，并说明了随后的结果在Lotka-Volterra捕食模型。
2015-08-21 stat.CO stat.ME
High-Dimensional Multivariate Posterior Consistency Under Global-Local Shrinkage Priors
本文研究了带有$p$回归变量和$q$响应变量的经典多元线性回归模型的稀疏贝叶斯估计。在单响应$y$的单变量贝叶斯线性回归中，收缩先验可以表示为正态密度的尺度混合，用于获得系数的稀疏估计。在本文中，我们扩展使用这些先验的多变量的情况下，估计一个$p \times q$系数矩阵$\mathbf{B}$。我们推导出贝叶斯多元线性回归框架下的后验一致性的充分条件，并证明我们的方法实现后验一致性，即使当$p>n$，甚至当$p$增长与样本量的近指数率。我们推导出一个有效的吉布斯抽样算法，并提供了一个全面的R包称为MBSP的实施。最后，我们通过仿真和数据分析表明，我们的模型具有良好的有限样本性能。
2018-04-16 stat.ME
The Bayes Estimator of a Conditional Density: Consistency
在贝叶斯框架下，我们证明了条件密度的最优估计是相容的。
2022-06-24 math.ST stat.TH
Bayesian iterative screening in ultra-high dimensional linear regressions
针对超高维线性回归，提出基于后验模型概率的贝叶斯迭代筛选方法（BITS），整合先验信息，快速Cholesky更新实现，具有筛选一致性，并提供良好起点和停止规则。
2025-02-26 stat.ME
On the Consistency of Bayesian Adaptive Testing under the Rasch Model
本研究针对贝叶斯自适应测验缺乏大样本性质证明的问题，推导了Rasch模型下潜在特质后验分布收敛的条件，验证了先验误设时的稳健性，还提出了匹配最优估计性能的新型选题策略，为该类方法提供了理论支撑。
2024-12-10 stat.AP stat.ME
Posterior Consistency of Bayesian Inverse Regression and Inverse Reference Distributions
我们认为贝叶斯推断逆回归问题的目标是推断未观察到的协变量从观察到的响应和协变量。我们建立后验一致性的贝叶斯逆回归problemunder适当的先验在留一交叉验证设置中的未观察到的协变量。我们将其与逆参考分布的后验一致性（Bhattacharya（2013））相关联，以评估模型的充分性。我们用贝叶斯逆回归的各种例子来说明我们的理论和方法，以及足够的模拟实验。
2020-05-01 math.ST stat.TH
A Note on Consistency of the Bayes Estimator of the Density
在较弱的条件下，证明了密度Bayes估计的强相合性。此外，当样本大小达到$\infty$时，密度（即后验预测密度）的贝叶斯估计的贝叶斯风险（对于一些常见的损失函数）达到零。顺便说一下，对于抽样分布的估计也得到了类似的结果。
2021-11-24 math.ST stat.TH
Bayesian Tensor Regression
本文提出了一种贝叶斯回归方法，对向量和张量协变量进行标量响应。张量协变量通常在分析之前被向量化，未能利用张量的结构，导致估计和预测性能差。本文提出了一类新的多元收缩先验，用于张量回归模型的系数。性质进行了描述，包括后验一致性在温和的条件下，和一个有效的马尔可夫链蒙特卡罗算法的后验计算。模拟研究表明，在估计和参数推断方面，向量化或使用现有的张量回归方法有很大的收益。该方法在神经成像应用中进一步说明。保留字：降维;多路收缩优先;磁共振成像; parafac分解;后验一致性;张量回归
2015-09-22 stat.ME
New approaches to Bayesian consistency
我们使用鞅来研究贝叶斯一致性。我们推导出了Hellinger和Kullback-Leibler相容性的充分条件，这些条件不依赖于筛子的使用。替代的充分条件的Hellinger一致性也被发现和证明的例子。
2005-03-29 math.ST stat.TH
Consistency of the Bayes Estimator of a Regression Curve
证明了回归曲线的$L^1$平方损失函数的Bayes估计的强相合性。它也表明收敛到0的贝叶斯风险的估计都为$L^1$和$L^1$平方损失函数。回归曲线的贝叶斯估计量是关于后验预测分布的回归曲线。
2022-07-19 math.ST stat.TH
On Posterior consistency of Bayesian Changepoint models
虽然最近在高维线性模型的贝叶斯模型选择和变量选择方面取得了很多进展，但与频率论不同，文献中存在变点的工作并不多。我们考虑一个分层贝叶斯线性模型，其中通过均值模型影响观测值的协变量的活动集在不同的时间段之间可以变化。这种结构可能出现在社会科学/经济科学中，例如基于外部经济因素的房价突然变化，基于社会和建筑环境因素的犯罪率变化等。使用适当的自适应先验，我们概述了一个分层贝叶斯方法的发展，可以选择真正的变化点以及真正的协变量，具有很高的概率。我们提供了第一个详细的理论分析后验一致性或无协变量，在适当的条件下。吉布斯抽样技术提供了一种有效的计算策略。我们也考虑小样本模拟研究以及应用于犯罪预测的应用。
2021-02-25 math.ST stat.ME stat.TH
Bayesian Joint Chance Constrained Optimization: Approximations and Statistical Consistency
Texas A& M University（得克萨斯农工大学）；Purdue University（普渡大学）
本文研究贝叶斯框架下机会约束随机优化问题，证明使用近似后验分布所得最优值具有频率学派统计一致性并给出概率收敛速率，同时证明问题的凸可行性，并在M/M/c排队模型上验证了方法有效性。
2022-10-01 cs.LG math.OC math.ST
Bayesian Consistency with the Supremum Metric
我们提出了简单的条件贝叶斯一致性的上确界度量。该技术的关键是一个三角不等式，它允许我们明确使用弱收敛，一个标准的Kullback-Leibler支持条件的先验的后果。另一个条件是确保密度的平滑版本不会太远离原始密度，从而处理可能过于接近数据的密度。本文的一个关键结果是，我们证明上确界的一致性使用较弱的条件相比，目前使用的安全$\mathbb{L}_1$的一致性。
2022-01-10 math.ST stat.ML stat.TH
Response to: "A note on conditional densities, Bayes' rule, and recent criticisms of Bayesian inference" by Yan et al., 2026
Niels Bohr Institute, University of Copenhagen（哥本哈根大学尼尔斯·玻尔研究所）；University of Edinburgh（爱丁堡大学）
本文回应Yan等人对条件密度和贝叶斯推断的批评，指出使用条件期望方法并不能解决物理不一致性，并指出对方存在数学错误。
2026-04-30 stat.ME
A Bayesian Approach to Joint Estimation of Multiple Graphical Models
高维数据中多个图模型的联合估计问题已经在统计学和机器学习文献中进行了研究，因为它在包括分子生物学、神经科学和社会科学在内的各个领域都很重要。这项工作开发了一种贝叶斯方法，该方法将多个图形模型中的模型参数分解为模型和边缘子集之间的共享组件以及特殊组件。此外，它利用了一种新的多变量先验分布，再加上一个伪似然，使快速计算，通过一个强大的和有效的吉布斯抽样计划。我们建立了强后验一致性的模型选择，以及估计模型参数的高维尺度下的变量的数量与样本量呈指数增长。所提出的方法的有效性说明合成和真实数据。关键词：伪似然，吉布斯抽样，后验一致性，组学数据
2019-07-02 stat.ME
Both necessary and sufficient conditions for Bayesian exponential consistency
在过去的十年中，贝叶斯非参数过程的渐近理论有了显著的发展。指数一致性在这方面发挥了重要作用。已知$f_0$在先验的Kullback-Leibler支持下的条件不能保证后验的指数一致性。许多作者得到了后验的指数相合性的额外充分条件，例如，参见Schwartz（1965），Barron，Schervish and Wasserman（1999），Ghosal，Ghosh and Ramamoorthi（1999），Walker（2004），Xing and Ranneby（2008）。然而，由于Kullback-Leibler支持条件，很少知道的充要条件和充分条件。本文给出了一类既有充要条件。作为结果，我们得到了一个简单的贝叶斯指数一致性的充分条件，这是弱于以前的充分条件。
2008-12-05 math.ST stat.TH
A Bayesian Stochastic Approximation Method
为了提高小样本设计的效率，提出了一种新的贝叶斯随机逼近方法来估计回归函数的根。该方法具有自适应局部建模和非递归迭代的特点。得到了Bayes估计的强相合性。仿真研究表明，我们的方法是优越的有限样本性能Robbins-Monro型程序。给出了极值搜索的扩展和广义多元分位数的一种形式。
2017-05-05 stat.ME
On Posterior Consistency of Tail Index for Bayesian Kernel Mixture Models
尾指数估计的渐近理论在极值的频率论文献中得到了广泛的研究，但很少在贝叶斯上下文中。我们研究流行的贝叶斯核混合模型是否能够支持重尾分布和一致的尾部指数估计。我们发现，尾部指数的后验不一致性在参数和非参数混合模型中都非常普遍。然后给出了一组尾部指标的后验一致性的充分条件，并对一般混合先验下的Pareto混合模型验证了这些条件.
2018-04-18 math.ST stat.TH
Compound random measures and their use in Bayesian nonparametrics
提出了一类新的相依随机测度，我们称之为{ \it复合随机测度}，并考虑了在贝叶斯非参数混合模型中使用这些随机测度的归一化形式作为先验.它们的易处理性允许复合随机措施和归一化复合随机措施的属性来推导。特别是，我们展示了如何复合随机措施，可以与伽玛，$σ$稳定和广义伽玛过程边际。我们还推导了拉普拉斯指数的几种形式，并通过Lévy copula和相关函数来描述依赖性。在非参数混合模型中，当混合测度为归一化复合随机测度时，给出了用于后验推断的切片采样器和增广Pólya urn方案采样器，并给出了数据实例.
2015-09-02 stat.ME
Discussion on Bayesian Cluster Analysis: Point Estimation and Credible Balls by Sara Wade and Zoubin Ghahramani
我开始我的讨论，给出一个概述的主要结果。然后，我继续触及的问题，是否可信的球构造可以被解释为一个信心球，建议减少计算成本，和后验一致性或收缩率。
2018-06-27 stat.ME
Posterior Consistency for Bayesian Relevance Vector Machines
University of Florida（佛罗里达大学）
样本量远小于可用协变量数量的统计建模和推断问题具有挑战性。Chakraborty等人（2012）使用基于再生核希尔伯特空间（RKHS）的相关向量机对这种情况下的非线性回归进行了全面的分层贝叶斯分析。但他们没有提供任何与他们的程序相关的理论性质。本文重新审视了他们的问题，引入了一类新的全局-局部先验，并给出了后验一致性和后验收缩率的结果
2022-02-11 cs.LG stat.ML
Consistency of Bayesian Inference for Multivariate Max-Stable Distributions
预测极端事件在风险分析的许多应用中非常重要。极值理论建议用最大稳定分布来模拟极值。贝叶斯方法为统计预测提供了一个自然的框架。虽然在单变量极值和多变量极值的文献中已经提出了各种贝叶斯推理程序，但对它们的渐近性质的研究在很大程度上没有触及。本文主要研究任意维极大稳定分布的半参数贝叶斯估计方法。我们建立了相关的后验分布的一致性相当普遍，明确规定的最大稳定模型，其利润率可以是短，轻或重尾。然后，我们扩展我们的一致性结果的情况下，数据来自一个分布躺在附近的一个最大稳定的，这代表了最现实的推理设置。
2020-09-20 math.ST stat.TH
Bayesian Nonparametric Analysis of Multivariate Time Series: A Matrix Gamma Process Approach
虽然有越来越多的文献贝叶斯时间序列分析，只有少数贝叶斯非参数方法，多变量时间序列存在。大多数方法依赖于Whittle的李克图，涉及到平稳时间序列的二阶结构，通过其谱密度矩阵。这通常是根据Cholesky分解建模，以确保正定性。然而，渐近性质，如后验一致性或后验收缩率是未知的。一个不同的想法是通过随机测量来模拟谱密度矩阵。这与单变量情况下的现有方法一致，其中归一化谱密度被建模为类似于概率密度，例如具有Beta密度的Dirichlet过程混合。在这项工作中，我们提出了一个相关的方法多变量时间序列，矩阵值的混合权重诱导的Hermitian正定Gamma过程。所提出的程序被证明是执行良好的模拟和真实的数据。后的一致性和收缩率也成立。
2018-11-26 stat.ME
Bayes factor consistency
良好的大样本性能通常是任何模型选择标准的最低要求。本文重点讨论了贝叶斯因子的一致性性质，贝叶斯因子是一种常用的模型比较工具，最近在文献中受到了极大的关注。我们全面审查现有成果。由于存在要考虑的各种各样的设置，例如参数与非参数、嵌套与非嵌套等，我们认为一个统一的架构具有教育意义。利用Chib（1995）的基本边际似然恒等式，通过将边际似然比的自然对数分解为三个分量，研究了贝叶斯因子渐近性。这些分别是似然、先验密度和后验密度的对数比。这产生了一个解释的对数比的后验作为一个惩罚项，并强调，要理解贝叶斯因子的一致性，驱动后验一致性在每个相应的模型进行比较的先验支持条件应对比后验收缩率，他们暗示。
2016-07-01 math.ST stat.TH
Posterior Consistency for Bayesian Inverse Problems through Stability and Regression Results
在贝叶斯方法中，关于数学模型的输入的先验知识通过概率测度来描述。然后，使用贝叶斯公式对未知输入和数据的联合分布进行调节，得到未知输入的后验分布。在这种情况下，我们证明非线性反问题的后验一致性：一个序列的数据被认为是一个单一的真理与周围的波动减少，然后它是有趣的，以显示所产生的序列的后验措施所产生的这个序列的数据集中在用于生成数据的真理。后验一致性证明了贝叶斯方法的使用非常相同的方式，误差界和收敛结果的正则化技术。作为一个指导性的例子，我们考虑的逆问题重建的扩散系数从噪声观测的解决方案，椭圆型偏微分方程的散度型。这个问题是通过分裂成基础的连续模型和一个更简单的观察运营商的基础上的模型的输出的前向运营商。一般来说，这些分裂使我们能够得出结论后验一致性提供了一个确定性的稳定性结果的基础逆问题和后验一致性结果的贝叶斯回归问题与前推先验。此外，我们证明后验一致性的贝叶斯回归问题的基础上的规则性，尾部行为和小球概率的先验。
2013-07-16 math.ST stat.TH
DPGLM: A Semiparametric Bayesian GLM with Inhomogeneous Normalized Random Measures
提出一种变权重相依狄利克雷过程模型，扩展半参数广义线性模型，通过非参数先验和指数倾斜实现非齐次随机测度，并验证其有效性与应用。
2025-03-28 stat.ME
Posterior Graph Selection and Estimation Consistency for High-dimensional Bayesian DAG Models
高维多元数据的协方差估计与选择是现代统计学中的一个基本问题。高斯有向无环图（DAG）模型是用于此目的的一类流行的模型。高斯DAG模型在逆协方差阵的Cholesky因子中引入稀疏性，稀疏性模式又对应于对基础变量的特定条件独立性假设。近年来，各种先验已经开发了贝叶斯推断在DAG模型，但这些模型的关键收敛性和稀疏性选择属性还没有得到彻底的研究。这些先验知识中的大多数是Wishart分布在DAG上下文中的适应或概括。在本文中，我们考虑了灵活的和一般的类，这些“DAG Wishart”先验与多个形状参数。在弱正则性假设下，当变量p随样本量样本量n以适当的次指数速率增长时，我们建立了强图选择一致性和后验收敛率.
2017-10-11 math.ST stat.ME stat.TH
Stabilizing Thompson Sampling with Null Hypothesis Bayesian Response-Adaptive Randomization
University of Zurich（苏黎世大学）
提出基于贝叶斯假设检验的零假设贝叶斯响应自适应随机化方法，通过贝叶斯模型平均向等概率随机化收缩，解决汤普森采样高变异性导致的分配劣势和推断问题。
2026-10-19 stat.ME
Combined shrinkage of fixed and random effects in linear mixed models using empirical Bayes
本文提出了一种数据驱动的方法，用于线性混合模型中固定效应和随机效应的联合先验参数选择，通过经验贝叶斯框架提高参数估计和预测性能。
2026-04-27 stat.ME
Consistency of Variational Bayes Inference for Estimation and Model Selection in Mixtures
混合模型广泛应用于贝叶斯统计和机器学习，特别是在计算生物学，自然语言处理和许多其他领域。变分推理是一种通过优化算法来近似难以处理的后验的技术，在处理混合物等复杂模型时，在实践中非常流行。本文的贡献是双重的。首先，我们研究了后验变分逼近的集中性，这对于一般的混合物仍然是一个开放的问题，我们得到了一致性和收敛速度。我们还解决了模型选择的组件的数量的问题：我们研究的方法已经在实践中使用，其中包括在最大限度地提高数值标准（证据下界）。我们证明了这种策略确实会导致强预言不等式。我们说明我们的理论结果的应用高斯和多项式混合物。
2018-08-12 math.ST stat.CO stat.ME
On the Consistency of Graph-based Bayesian Learning and the Scalability of Sampling Algorithms
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Brown University（布朗大学）；University of Chicago（芝加哥大学）
半监督学习的一种流行方法是通过赋予输入数据一个图结构来提取几何信息并将其纳入贝叶斯框架。我们引入了新的理论，给出了适当的缩放图参数，可证明导致一个定义良好的限制后的未标记的数据集的大小增长。此外，我们表明，这些一致性的结果有深刻的算法影响。当一致性保持时，精心设计的基于图的马尔可夫链蒙特卡罗算法被证明具有均匀的谱间隙，与未标记输入的数量无关。几个数值实验证实了统计的一致性和算法的可扩展性建立的理论。
2020-01-12 cs.LG math.PR stat.CO
On the design-consistency property of hierarchical Bayes estimators in finite population sampling
当样本量较大时，得到了有限总体均值的分层Bayes估计的一个极限。极限是在普通微积分的意义上，其中样本观测被视为固定量。我们的结果提出了一种简单的方法来纠正分层贝叶斯估计，以实现设计的一致性，一个众所周知的属性在传统的随机化方法，有限总体抽样。我们还提出了三种不同的措施，我们提出的估计的不确定性。
2007-08-14 math.ST stat.TH
Consistency of Bayesian nonparametric inference for discretely observed jump diffusions
我们引入可验证的标准弱后验一致性的可识别贝叶斯非参数推断跳跃扩散与单位扩散系数和一致Lipschitz漂移和跳跃系数在任意维。该标准用描述该过程的随机微分方程的系数来表示，并且不依赖于跃迁密度等棘手的量。我们还表明，产品的离散网络和狄利克雷混合模型先验满足我们的条件下，再次可识别的假设。这概括了已知的结果，将跳跃到以前的工作单位扩散一致Lipschitz漂移系数。
2018-09-14 math.PR math.ST stat.TH
Consistency of Bayes factor for nonnested model selection when the model dimension grows
Zellner的$g$ -先验是正态回归模型中模型选择问题的一种常用先验选择。Wang和Sun [J. Statistist.计划Inference 147（2014）95-105]最近采用了这种先验，并为$g$设置了一个特殊的超先验，这导致了嵌套线性模型比较的贝叶斯因子的封闭形式表达式。他们已经证明，在非常一般的条件下，当两个竞争模型具有$O(n^τ)$阶时，贝叶斯因子是一致的，对于$τ<1$和对于$τ=1$，除了原假设周围的一个小的不一致区域外，几乎是一致的。本文研究了具有增长参数的非嵌套线性模型的Bayes因子相合性。其中一些结果推广了嵌套线性模型的Bayes因子的结果。具体来说，我们比较了文献中提出的贝叶斯因子和内在贝叶斯因子之间的渐近行为。
2016-06-06 math.ST stat.TH
Bayesian non-parametric inference for $Λ$-coalescents: consistency and a parametric method
研究了单位区间上概率测度参数化的具有常返突变的$Λ$ -聚结过程的$Λ$ -测度的贝叶斯非参数推断.给出了观测值为时间序列时后验一致性先验的可验证准则，并证明了当所有观测值同时发生时，任何非平凡先验都是不一致的.然后，我们表明，给定的数据集的大小$n \in \mathbb{N}$的可能性是恒定的$Λ$ -措施，其领先的$n - 2$时刻同意，并专注于推断截断序列的时刻。我们提供了一个大类的泛函，可以使用有限的计算给出了一个可信的区域后截断矩序列，和一个伪边缘梅特罗波利斯-黑斯廷斯算法采样后。最后，我们比较了效率的准确和嘈杂的伪边缘算法，并没有延迟接受加速使用模拟研究。
2017-01-23 math.PR math.ST q-bio.PE
Consistency of modified versions of Bayesian Information Criterion in sparse linear regression with subgaussian errors
我们考虑一个稀疏的线性回归模型，当可用的预测，$p$，是远远大于样本量，$n$，和非零系数的数量，$p_0$，是小的。在这种情况下，我们不能使用经典的模型选择标准来选择回归模型。近年来，已经提出了特殊的方法来处理这类问题，例如贝叶斯信息准则的修改版本，如mBIC或mBIC 2。结果表明，这些标准是一致的假设下，$n$和$p$以及$p_0$趋于无穷大和误差项是正态分布。本文在误差项为次高斯随机变量的假设下证明了mBIC和mBIC 2的相合性。
2018-05-29 math.ST stat.TH
Consistency of Bayes factors for linear models
本文研究线性模型中贝叶斯因子的一致性，分析了回归变量数量随样本量增长时不同先验的不一致性表现，并通过后验模型概率评估中等样本量下的贝叶斯因子，为变量选择的先验选取提供参考。
2025-05-16 math.ST stat.TH
Consistency and efficiency of Bayesian estimators in generalised linear inverse problems
将统计逆问题公式化为贝叶斯模型中的推理之一具有很大的吸引力，特别是这在一致性方面带来了什么，正则化惩罚的可解释性，所有不确定性的整合，以及可以详细说明设置的原则性方式，以涵盖更广泛的背景特征，例如测量误差，间接观察，贝叶斯公式接近于大多数科学家直观地看待推理任务的方式，并且原则上允许在概率模型构建中自由使用学科知识。然而，在某些问题的解决方案是不唯一的，例如在不适定的反问题，重要的是要了解所选择的贝叶斯模型和所得的解决方案之间的关系。以发射断层成像为例，给出了重建后验分布一致性的结果，以及研究后验分布收敛性的一般方法。为了研究约束条件下不适定线性反问题的贝叶斯推断的有效性，我们证明了非正则贝叶斯模型的Bernstein-vonMises定理。
2012-12-18 math.ST stat.TH
Joint Bayesian Variable and DAG Selection Consistency for High-dimensional Regression Models with Network-structured Covariates
考虑了高维回归模型中协变量的回归系数和协变量的协方差阵的联合稀疏估计问题，其中预测变量既与响应变量相关，又通过高斯有向无圈图（DAG）模型在函数上相互关联.高斯DAG模型在逆协方差阵的Cholesky因子中引入稀疏性，而稀疏性模式又对应于对基础预测变量的特定条件独立性假设。近年来已经开发了各种方法贝叶斯推理在确定这样的网络结构的预测回归设置，但这些模型的重要稀疏性选择属性还没有得到彻底的研究。本文研究了一类在回归系数上具有spike和slab先验的递阶模型和一类在逆协方差阵的Cholesky因子上具有多个形状参数的灵活且一般的DAG-Wishart分布.在温和的规律性假设下，我们建立了联合选择一致性的变量和潜在的DAG的协变量时，预测的维度允许增长远远大于样本量。我们证明了我们的方法优于现有的方法在选择网络结构的预测在几个模拟设置。
2020-04-20 math.ST stat.ME stat.TH
Bayesian Exponential Random Graph Models with Nodal Random Effects
我们扩展了著名的和广泛使用的指数随机图模型（ERGM），包括节点的随机效应，以补偿网络节点的异质性。Caimo和Friel（2011）提出的ERGM的贝叶斯框架为我们的建模算法提供了基础。网络模型中的一个中心问题是模型选择问题，并且遵循贝叶斯范式，我们专注于估计贝叶斯因子。要做到这一点，我们开发了一个近似的，但可行的计算贝叶斯因子，允许一个追求模型选择。两个数据示例和一个小型模拟研究说明了我们的混合模型方法和相应的模型选择。
2015-01-12 stat.AP stat.ME
Bayesian model selection consistency and oracle inequality with intractable marginal likelihood
在这篇文章中，我们研究了大样本性质的模型选择过程中的一般贝叶斯框架时，封闭形式的表达的边缘似然函数是不可用的或局部渐近二次近似的对数似然函数不存在。在真实模型的适当可辨识性假设下，我们提供了贝叶斯模型选择过程是一致的并服从奥卡姆剃刀现象的充分条件，即，当样本量趋于无穷大时，选择包含真值的“最小”模型的概率趋于1。为了表明贝叶斯模型选择过程选择包含真理的最小模型，我们施加了先验反集中条件，要求由大模型分配给真理邻域的先验质量足够小。在一个更一般的设置，强模型可识别性假设可能不成立，我们引入了局部贝叶斯复杂性的概念，并开发贝叶斯模型选择过程的预言不等式。我们的贝叶斯预言不等式的特点之间的权衡近似误差和贝叶斯表征的局部复杂性的模型，说明了自适应性质的平均为基础的贝叶斯程序实现最佳的后验收敛率。模型选择理论的具体应用进行了讨论的背景下，高维非参数回归和密度回归的回归函数或条件密度被假定为依赖于一个固定的子集的预测。作为独立兴趣的结果，我们提出了一种获得平稳高斯过程小球概率上界的一般方法。
2017-01-09 math.ST stat.ME stat.ML
Consistency of Bayes estimators of a binary regression function
非参数贝叶斯过程何时“过拟合”？为了阐明这个问题，我们详细考虑了二元回归问题，并建立了基于分层先验（称为均匀混合先验）的某类贝叶斯程序的频率一致性。这些定义如下：设$ν$为非负整数上的任何概率分布。为了从先前的$π^ν$对函数$f$进行采样，首先从$ν$对$m$进行采样，然后从从$[0,1]$到$[0,1]$的阶跃函数的集合中均匀地对$f$进行采样，所述阶跃函数恰好具有$m$跳跃（即，对所有$m$跳转位置和$m+1$函数值独立且均匀地采样）。主要结果表明，如果数据流是根据任意固定的、可测的二进制回归函数$f_0\not\equiv1/2$生成的，则获得了频率一致性：即对于任意具有无限支持度的$ν$，$π^ν$的后验集中在$f_0$的任意$L^1$邻域上.一个相关的大偏差问题的解决方案是一致性证明的核心。
2006-07-31 math.ST stat.TH
On posterior concentration rates for Bayesian quantile regression based on the misspecified asymmetric Laplace likelihood
非对称拉普拉斯密度（ALD）被用作贝叶斯分位数回归的工作似然。Sriram等人（2013）基于错误指定的ALD推导出贝叶斯线性分位数回归的后验一致性。虽然他们的论文也主张$\sqrt{n}-$的一致性，但Sriram和Ramamoorthi（2017）强调，该论点仅适用于小于$\sqrt{n}$的比率。因此，$\sqrt{n}-$率的问题仍然没有得到解决，但有必要进行有意义的贝叶斯推断的基础上的ALD。在本文中，我们得出的结果，以获得后验一致率贝叶斯分位数回归的基础上误指定的ALD。我们得出我们的结果在一个稍微一般的设置，分位数函数可能是非线性的。特别地，我们给出了使用ALD的贝叶斯线性分位数回归的$\sqrt{n}-$一致性的充分条件。我们还提供了贝叶斯非线性分位数回归的例子。
2020-08-08 math.ST stat.TH
Large Deviation Asymptotics and Bayesian Posterior Consistency on Stochastic Processes and Dynamical Systems
本文结合 Varadhan 引理、淬火/退火大偏差与指数逼近，建立长程相关随机过程及动力系统的广义贝叶斯后验收敛性框架，并给出混合过程与 Markov 过程的新结果。
2023-04-24 math.DS math.PR math.ST
On the Consistency of Optimal Bayesian Feature Selection in the Presence of Correlations
The Ohio State University（俄亥俄州立大学）
最佳贝叶斯特征选择（OBFS）是一种多变量监督筛选方法，旨在从根本上发现生物标志物。在这项工作中，我们证明了高斯OBFS是强一致的温和的条件下，并提供关键后验的收敛速度的框架。这些结果是非常重要的，因为他们准确地确定了OBFS渐近选择的功能，表征不同类型的功能的后验的相对收敛速度，提供条件，保证收敛，证明使用OBFS时，其内部假设是无效的，并设置为理解基于OBFS框架的其他算法的渐近行为的阶段。
2020-02-01 cs.CV cs.LG stat.ML
Consistency of Empirical Bayes And Kernel Flow For Hierarchical Parameter Estimation
高斯过程回归在统计、机器学习和逆问题中被证明是非常强大的。这种方法成功的一个关键方面，在复杂和现实世界的问题的广泛应用，是分层建模和学习的超参数。本文的目的是研究两种范式的学习层次参数：一个是从概率贝叶斯的角度来看，特别是经验贝叶斯方法，已被大量使用的贝叶斯统计;另一个是从确定性和近似理论的观点，特别是核流算法，最近提出的机器学习文献。本文针对环面上的Matérn类模型，分析了它们在大数据极限下的一致性，以及它们在参数学习中的隐式偏差.一个特殊的技术挑战，我们克服的是学习的规律性参数在Matérn类领域，一致性的结果一直非常罕见的空间统计文献。此外，我们进行了广泛的数值实验超越Matérn模型，进一步比较这两种算法。这些实验展示了其他层次参数的学习，如幅度和长度尺度;它们还说明了模型误指定的设置，其中内核流方法可以显示出优于更传统的经验贝叶斯方法的性能。
2021-03-16 cs.NA math.NA math.ST
Consistency of objective Bayes factors as the model dimension grows
在具有有限数量回归变量的正态回归模型类中，并且对于广泛的一类先验分布，基于贝叶斯因子的贝叶斯模型选择过程是一致的[Casella和Moreno J. Amer. Statist. 104（2009）1261- 1271]。然而，在模型中，参数的数量随着样本量的增加而增加，贝叶斯因子的属性并不完全清楚。本文研究了当回归变量个数随样本量增加时，嵌套正态线性模型的Bayes因子的相合性。我们注意到两个成功的工具模型选择[施瓦茨安。6（1978）461- 464]近似的贝叶斯因子，以及内在先验的贝叶斯因子[Berger和Pericchi J. Amer. Statist. Assoc.91（1996）109- 122，Moreno，Bertolino和Lacugno J. Amer. Statistist. Assoc.93（1998）1451- 1460]。我们发现当大模型的维数增长率为$O(n^b)$时，Schwarz近似和内在先验的Bayes因子是一致的，其中对$b<1$ .当$b=1$的Schwarz近似总是不一致的替代下，而贝叶斯因子的内在先验是一致的，除了一小部分替代模型的特点。
2010-10-19 math.ST stat.TH
Bayesian Bandwidth Test and Selection for High-dimensional Banded Precision Matrices
假设带状结构是估计高维精度矩阵的常见做法之一。在这种情况下，估计精度矩阵的带宽是后续分析的关键初始步骤。虽然存在一些一致的频率论测试的带宽参数，带宽选择的一致性精度矩阵尚未建立在贝叶斯框架。在本文中，我们提出了一个适合于高维精度矩阵带宽估计的先验分布。带状结构是通过修正的Cholesky分解的Cholesky因子施加的。我们建立了带宽的强模型选择一致性以及贝叶斯因子的一致性。贝叶斯因子下的零假设和备择假设的收敛速度推导出产生类似的顺序的速率。作为一个副产品，我们还提出了一个估计程序的Cholesky因素产生一个几乎最优的收敛速度。还考虑了双样本带宽测试，结果表明，我们的方法能够一致地检测两个精度矩阵之间的带宽相等。仿真研究证实，我们的方法一般优于现有的频率和贝叶斯方法。
2018-10-26 math.ST stat.ME stat.TH
Consistency of Bayesian Linear Model Selection With a Growing Number of Parameters
参数越来越多的线性模型在现代统计学中得到了广泛的应用。这类模型的一个重要问题是变量的选择问题。贝叶斯方法，它提供了一个随机搜索的信息变量，已经得到普及。本文研究了当模型维数$p$随样本量$n$增长时贝叶斯模型选择的渐近性质。我们考虑$p\le n$，并提供了充分条件，在此条件下：（1）大概率下，真实模型（从中抽取样本）的后验概率均匀地支配任何不正确模型的后验概率;（2）大概率下，真实模型的后验概率收敛于1。（1）和（2）都保证在贝叶斯框架下选择真实模型。我们还演示了（1）成立但（2）失败的几种情况，这说明了这两个属性之间的差异。最后给出了模拟算例来说明主要结果。
2012-02-02 math.ST stat.TH
On the Statistical Consistency of Risk-Sensitive Bayesian Decision-Making
我们在贝叶斯框架下研究数据驱动的决策问题，其中贝叶斯风险中的期望被风险敏感的熵风险度量所取代。我们专注于计算的后验分布是棘手的问题，在现代应用程序中的一个典型的情况下，大型数据集和复杂的数据生成模型。我们利用熵风险度量的双重表示引入一种新的风险敏感变分贝叶斯（RSVB）框架，用于联合计算风险敏感后验近似和相应的决策规则。建议RSVB框架可以用来提取计算方法做风险敏感的近似贝叶斯推理。我们表明，我们的一般框架包括两个著名的计算方法做近似贝叶斯推理即天真VB和损失校准VB。我们还研究了这些计算近似对推断的决策规则和值的预测性能的影响。我们计算了RSVB近似后验的收敛速度以及相应的最优值和决策规则。我们说明了我们的理论研究结果在参数和非参数设置的帮助下，三个例子：单一和多产品报童模型和高斯过程分类。
2021-09-09 math.OC math.PR math.ST
Schnorr Randomness and Effective Bayesian Consistency and Inconsistency
University of California, Irvine（加州大学尔湾分校）；University of California, Los Angeles（加州大学洛杉矶分校）；Carnegie Mellon University（卡内基梅隆大学）
该研究从可计算概率与算法随机性视角，结合Schnorr随机性，解决了Diaconis和Freedman关于贝叶斯规则一致性参数的问题，强化了Martin-Löf随机性相关结果。
2026-10-19 math.LO math.ST stat.TH
Bayesian Model Selection on Random Networks
随机网络模型的模型选择的一般贝叶斯框架，考虑其功能。我们的目标是开发一个原则贝叶斯模型选择的方法来比较不同的适合，不一定嵌套，模型的推理对这些网络的实现。随机网络模型的比较准则是通过贝叶斯因子和使用最广泛使用的损失函数的惩罚来制定的。参数化在不同的空间是不同的。为了克服这个问题，我们结合和编码的不同方面的复杂性的可观察空间。因此，给定一个特征的值范围，网络实现被提取。所提出的原则方法是基于寻找随机网络模型，这样，在感兴趣的特征和模型的复杂性之间保持合理的权衡，避免过拟合问题。
2020-04-28 stat.AP stat.ME
Multiplicative noise in Bayesian inverse problems: Well-posedness and consistency of MAP estimators
乘性噪声出现在反问题中，例如，测量的不确定性与测量本身的大小成比例。因此，产生的可能性比来自加性噪声的可能性更复杂。我们考虑两种乘性噪声模型：纯乘性噪声，和乘性噪声和加性噪声的混合。采用贝叶斯方法，我们提供的条件所产生的后验分布在巴拿赫空间上是连续的扰动的数据;除了乘性噪声的加性噪声的列入作为一种形式的正则化，允许温和的条件下的前向映射。此外，我们表明，MAP估计存在的纯乘性和混合噪声模型时，高斯先验，并为后者证明，他们是一致的小噪声限制时，所有的噪声是高斯。
2019-10-31 math.PR math.ST stat.TH
