Asymptotics for power posterior mean estimation
本文研究幂后验的渐近矩性质，证明其矩收敛于 Bernstein-von Mises 极限正态分布，并据此说明幂后验均值与最大似然估计量渐近等价。
2024-01-18 math.ST stat.TH
Learning under Model Misspecification: Applications to Variational and Ensemble methods
University of Almería（阿尔梅里亚大学）；University of Copenhagen（哥本哈根大学）
事实上，我们在机器学习中用来进行预测的任何模型都不能完美地代表现实。因此，大多数学习都发生在模型错误指定的情况下。在这项工作中，我们对模型误指定和独立同分布下的贝叶斯模型平均的泛化性能提出了一种新的分析数据使用一个新的家庭的二阶PAC-Bayes界限。该分析以简单直观的方式表明，当模型被错误指定时，贝叶斯模型平均提供了次优的泛化性能。因此，我们提供了强有力的理论论据，表明贝叶斯方法不是学习预测模型的最佳方法，除非模型类是完全指定的。使用新的二阶PAC-Bayes界，我们得到了一个新的家庭的贝叶斯算法，它可以实现为变分和集成方法。这些算法的输出是一个新的后验分布，不同于贝叶斯后验，它导致后验预测分布具有更好的泛化性能。贝叶斯神经网络的实验说明了这些发现。
2020-10-22 cs.LG math.ST stat.ML
Robust Inference and Model Criticism Using Bagged Posteriors
已知标准贝叶斯推断对模型错误指定敏感，导致不可靠的不确定性量化和较差的预测性能。然而，找到普遍适用的和计算上可行的方法，鲁棒的贝叶斯推断下的误指定已被证明是一个困难的挑战。一个有趣的、易于使用的、广泛适用的方法是在贝叶斯后验（BayesBag）上使用装袋;也就是说，使用以自举数据集为条件的后验分布的平均值。在本文中，我们发展的渐近理论贝叶斯袋，提出了一个模型-数据失配指数的模型批评使用贝叶斯袋，并实证验证我们的理论和方法的合成和真实世界的数据在线性回归，稀疏逻辑斯谛回归，分层混合效应模型。我们发现，在存在显着的错误指定，贝叶斯袋产生更多的可重复的推论，并具有更好的预测精度比标准的贝叶斯后验;另一方面，当模型被正确指定，贝叶斯袋产生优越或同样好的结果。总的来说，我们的研究结果表明，贝叶斯袋结合了有吸引力的建模功能的标准贝叶斯推断与分布鲁棒性的频率论方法，提供的好处超过单独的贝叶斯和单独的引导。
2020-07-30 math.ST stat.ME stat.TH
A General Space of Belief Updates for Model Misspecification in Bayesian Networks
针对贝叶斯网络模型误设下的信念更新难题，提出表达性更强的切割后验通用类别，对后验空间参数化以支持元学习，给出可输出任意贝叶斯网络所有切割后验的通用算法。
2023-11-09 math.ST stat.ME stat.TH
Reproducible Parameter Inference Using Bagged Posteriors
Boston University（波士顿大学）；Harvard University（哈佛大学）
针对模型误设下标准贝叶斯后验不可复现的问题，提出 BayesBag 袋装后验方法，证明其满足置信集交叠下界并具有渐近正态性，实验验证了其优势。
2023-11-03 cs.LG math.ST stat.ME
Model Misspecification in ABC: Consequences and Diagnostics
Monash University（莫纳什大学）；Université Paris Dauphine PSL, CEREMADE CNRS（巴黎第九大学 PSL，CNRS CEREMADE）；University of Oxford（牛津大学）
本文研究了ABC方法在模型不规范性下的行为，分析了不同ABC变体在模型不规范时可能产生显著不同的结果，并提出了两种诊断模型不规范性的方法。
2019-07-09 econ.GN math.ST q-fin.EC
Diagnosing model misspecification and performing generalized Bayes' updates via probabilistic classifiers
模型误设是贝叶斯推断框架的一个长期存在的谜，因为后验者倾向于过度集中于对大样本限制的不知情的参数值。在存在模型错误指定的情况下，可能性的缓和已经被确定为从之前到之后进行更新的更安全的方式。在一个极端，调和可以完全忽略数据，而在另一个极端，当假设不存在错误指定时，它提供标准贝叶斯更新。然而，如何在没有真实生成模型的情况下最好地识别错误规范并选择合适的回火级别是一个悬而未决的问题。在这里，我们将展示如何使用概率分类器来解决这个问题。通过训练概率分类器来区分模拟数据和观察数据，在分类器的区分能力内，提供了模型似然性与未观察到的真实生成过程下的数据的似然性之间的比率的估计。相对于数据生成过程的比率的对数的期望给出了统计生成模型和真实生成分布之间的负库尔贝克-莱布勒散度的估计。使用一组典型的例子，我们表明，这种分歧提供了一个有用的误指定诊断，模型比较工具，和一种方法来通知广义贝叶斯更新的存在误指定的可能性为基础的模型。
2019-12-12 math.ST stat.ME stat.ML
Posterior accuracy and calibration under misspecification in Bayesian generalized linear models
针对广义线性模型中似然族和连接函数选择困难的问题，通过大规模模拟研究评估错误设定下的后验准确性与校准，发现某些似然和连接函数稳健，并给出实用选择建议。
2023-11-15 stat.ME
Non-parametric Bayesian inference via loss functions under model misspecification
King’s College London（伦敦国王学院）；McGill University（麦吉尔大学）；Imperial College London（帝国理工学院）；London School of Economics and Political Science（伦敦政治经济学院）
本文提出了一种基于损失函数的非参数贝叶斯方法，在模型不规范情况下构建有效的后验分布，并通过模拟验证了其恢复真实参数的能力。
2026-01-19 stat.ME
Flow Matching Calibration for Simulation-Based Inference under Model Misspecification
Institut national de physique de la matière (CNRS UMR 7586)（物质物理国家研究院（CNRS UMR 7586））
针对基于模拟推断中模型误设定导致的偏差，提出流匹配校正后验估计方法，通过少量校准样本利用流匹配范式修正后验估计器，提高推断准确性和不确定性量化。
2026-06-03 cs.LG stat.ML
Dynamic Decision-Making under Model Misspecification: A Stochastic Stability Approach
Brown University（布朗大学）
本文研究了在模型不规范情况下汤普森采样算法的行为和性能，提出了一种统一的随机稳定性框架，为贝叶斯学习与进化动态的结合提供了新的视角。
2026-07-21 cs.LG econ.TH math.ST
Introducing prior information in Weighted Likelihood Bootstrap with applications to model misspecification
我们提出后验Bootstrap，一组算法扩展加权Likestive Bootstrap，适当地将先验信息和解决问题的模型误指定贝叶斯推断。我们考虑两种方法来结合先验知识：第一种是基于惩罚的加权Likestival Bootstrap目标函数，第二种是使用伪样本的先验预测分布。我们还提出了分层模型的方法，这是以前不知道的方法的基础上加权Likestival Bootstrap。Edgeworth展开指导我们的方法的发展，并使我们能够提供更深入的了解加权Likestrant Bootstrap的属性比以前已知的。我们的实验证实了理论结果，并显示在错误指定的设置对贝叶斯推断的模型误指定的影响减少。
2021-04-16 math.ST stat.ME stat.TH
Bayesian inference under model misspecification
Monash University（莫纳什大学）
本文针对贝叶斯分析中似然与数据生成不匹配的模型误设问题，通过回顾后验的变分解释提供替代依据，并介绍相关广义贝叶斯推断技术以解决该问题。
2026-10-09 stat.ME
Synthetic likelihood in misspecified models
Monash University（莫纳什大学）；National University of Singapore（新加坡国立大学）；Queensland University of Technology（昆士兰科技大学）
研究分析了在模型不恰当情况下合成似然后验行为，揭示其可能呈现非标准特性如多模态和非高斯性，并指出传统鲁棒方法在合成似然中的不足。
2026-04-16 math.ST stat.ME stat.TH
Bayesian Graph Selection Consistency Under Model Misspecification
高斯图模型是一种流行的工具，用于学习感兴趣的变量之间的图形式的依赖结构。贝叶斯方法在过去的二十年里越来越受欢迎，因为它们能够同时学习协方差和图形，并描述选择中的不确定性。为了提高马尔可夫链蒙特卡罗算法的可扩展性，通常在图空间上施加可分解性。各种各样的图形共轭先验联合提出的协方差阵和图与改进的算法，搜索沿空间的可分解图，呈现的方法非常流行的背景下，多元依赖建模。{ \it贝叶斯可分解结构学习中的一个开放问题是当变量的维数随着样本量增加时，后验分布是否能够选择一个有意义的可分解图，该图在适当的意义上与真正的不可分解图“接近”。在这篇文章中，我们探讨了真正的精度矩阵和图形的具体条件，这导致在一个肯定的答案，这个问题使用一个常用的超逆Wishart先验的协方差阵和一个合适的复杂性先验的图空间，无论是在良好的指定和错误的设置。在没有结构稀疏性假设的情况下，我们的强选择一致性在高维环境中成立，其中$p = O(n^α)$为$α< 1/3$。我们证明了当真图是不可分解的时，图上的后验分布集中在一组图上，这些图是真图的{ \it最小三角剖分}。
2019-04-01 math.ST stat.TH
Exploring Learning Rate Selection in Generalised Bayesian Inference using Posterior Predictive Checks
本文探索利用后验预测检查为广义贝叶斯推断设置学习率，以EDiSC模型为案例，选取使对数似然检验在10%水平不被拒绝的最低值，结果有前景但需进一步研究。
2025-01-21 stat.AP stat.ME
Suboptimal behaviour of Bayes and MDL in classification under misspecification
我们表明，贝叶斯和MDL推理的形式，往往适用于分类问题，可以 * 不一致 *。这意味着存在一个学习问题，使得对于所有数据量，MDL分类器和贝叶斯分类器相对于贝叶斯后验的泛化误差都保持远离最小可实现的泛化误差。
2004-06-10 cs.IT cs.LG math.IT
Misspecification-robust amortised simulation-based inference using variational methods
Institute of Astronomy, University of Cambridge（天文研究所，剑桥大学）；Statistical Laboratory, University of Cambridge（统计实验室，剑桥大学）；Kavli Institute for Cosmology, University of Cambridge（宇宙学研究所，剑桥大学）；Institute of Astrophysics, FORTH（天体物理学研究所，福蒂斯研究所）
本文提出了一种基于变分方法的抗规格错误的amortised模拟推断方法，通过弥合模拟与现实的差距，实现鲁棒的后验推断。
2025-12-16 astro-ph.GA cs.LG stat.ML
MMD-Bayes: Robust Bayesian Estimation via Maximum Mean Discrepancy
CREST（Crest研究中心）；ENSAE（法国国立统计与经济管理学院）；Institut Polytechnique de Paris（巴黎理工学院）；RIKEN Center for AI Project（理化学研究所人工智能项目中心）
在某些错误指定的设置中，贝叶斯统计中的后验分布可能导致不一致的估计。为了解决这个问题，已经建议用伪似然代替似然，伪似然是享受适当鲁棒性特性的损失函数的指数。在本文中，我们建立了一个伪似然最大均值离散的基础上，定义通过嵌入的概率分布到再生核希尔伯特空间。我们表明，这种MMD-Bayes后验是一致的和强大的模型误设定。由于以这种方式获得的后验可能是棘手的，我们还证明了合理的变分近似后享有相同的属性。我们提供的随机梯度算法来计算这些变分近似的细节。数值模拟确实表明，我们的估计是更强大的误指定比的基础上的可能性。
2019-12-11 cs.LG math.ST stat.ML
Bayesian inference under model misspecification using transport-Lagrangian distances: an application to seismic inversion
在许多反问题中，模型误设定是可靠推理的主要障碍。例如，地震学中的反问题特别容易受到波传播速度的错误设定的影响。在本文中，我们专注于一个特定的地震反演问题-全波形矩张量反演-并开发了一个贝叶斯框架，寻求速度误指定的鲁棒性。我们的框架的一个新的元素是使用观察到的和模型预测的波形之间的运输拉格朗日（TL）距离指定的损失函数，并使用这种损失定义一个广义的信念更新通过吉布斯后验。TL距离自然忽略了对模型误指定更敏感的数据的某些特征，因此在此设置中产生较少的偏差或分散的后验分布。为了使后一个概念精确，我们使用几种诊断来评估推理和不确定性量化的质量，即，连续秩概率得分和秩直方图。我们解释这些诊断在贝叶斯设置和比较的结果，使用更典型的高斯噪声模型和平方误差损失，在各种情况下的误指定。最后，我们讨论了潜在的推广所提出的框架，更广泛的一类反问题模型误指定的影响。
2021-05-14 stat.CO stat.ME
Posterior risk of modular and semi-modular Bayesian inference
本文首次精确刻画了切断反馈中的偏差-方差权衡，并提出一种新的半模块化后验，证明其在后验风险意义上优于切断后验，从而使切断后验下的点推断不可容许。
2024-11-25 math.ST stat.CO stat.ME
Asymptotic Analysis of Statistical Estimators related to MultiGraphex Processes under Misspecification
本文在模型错误设定下研究源自MultiGraphex过程的统计估计量的渐近性质，在弱假设下将参数估计极限与真实稀疏性常数关联，并证明贝叶斯后验渐近正态性。
2022-05-25 math.ST stat.TH
Predictively Oriented Posteriors
University College London（伦敦大学学院）；CNRS, Sorbonne Université（法国国家科学研究中心，索邦大学）；Department of Econometrics and Business Statistics, Monash University（蒙纳士大学计量经济学与商业统计系）
本文提出面向预测的后验分布，通过适应模型不规范程度，实现预测最优的不确定性估计。
2026-07-20 stat.ME stat.ML
Bayesian Modular Inference for Copula Models with Potentially Misspecified Marginals
National University of Singapore（新加坡国立大学）；Monash University（蒙纳士大学）；University of Melbourne（墨尔本大学）
本文提出一种新的Copula SMI方法，通过贝叶斯优化选择影响参数，实现对边缘分布和Copula函数误指定的鲁棒推断，应用于对称性依赖的权益波动与债券收益率的Copula模型。
2026-09-23 econ.EM math.ST stat.ME
Gaussian Comparison Theorems for High-Dimensional Posterior Inference
Department of Physics, Duke University（杜克大学物理系）；Departments of Statistical Science and Electrical and Computer Engineering, Duke University（杜克大学统计科学与电气与计算机工程系）
本文提出非高斯高维模型后验推断的高斯比较理论，通过矩条件建立自由能及后验误差的夹逼界，并应用于稀疏伯努利超图推断。
2026-09-15 math.ST stat.TH
Preconditioned Robust Neural Posterior Estimation for Misspecified Simulators
Monash University（莫纳什大学）；Queensland University of Technology（昆士兰科技大学）
本文提出预条件鲁棒神经后验估计方法，通过数据依赖权重和森林邻近预条件化提升模型在规格不明确下的稳定性与准确性。
2026-02-20 stat.CO stat.ME stat.ML
Objective Bayesian inference with proper scoring rules
当完全似然性以及完全后验分布过于复杂且难以指定时，或者如果需要对数据或模型错误指定的稳健性，则可能难以执行标准贝叶斯分析。在这些情况下，我们建议根据适当的评分规则，对感兴趣的参数采用后验分布。评分规则是一种损失函数，设计用于测量随机变量的概率分布的质量（给定其观测值）。重要的例子是Tsallis评分和Hyvärinen评分，它们允许我们处理模型错误指定或复杂模型。此外，完全似然和合成似然都是评分规则的特殊实例。该文致力于研究两个问题.首先，我们讨论了在贝叶斯公式中使用评分规则来计算一个后验分布，称为SR-后验分布，并推导了它的渐近正态性。其次，我们提出了一个为感兴趣的未知参数建立默认先验的过程，该过程可以用于更新SR-后验分布中的评分规则所提供的信息。特别地，通过最大化来自SR-后验分布的平均$α-$散度来获得参考先验.对于$0 \leq |α|<1$，结果是Jeffreys型先验，其与关联于评分规则的Godambe信息矩阵的行列式的平方根成比例。文中还讨论了一些实例。
2019-01-06 math.ST stat.ME stat.TH
Convergence Rates of Nonparametric Posterior Distributions
研究了后验分布的渐近性态。给出了一般的后验收敛速度定理，推广了Ghosal和Van der Vaart（2000），Shen和Wasserman（2001）以及Walker，Lijor和Prunster（2007）关于后验收敛速度的结果.我们的主要工具是Hausdorff $α$ -熵（Xing and Ranneby，2008）和先验集中度的新概念，它是Ghosal和Van der Vaart（2000）提供的通常先验集中度的轻微改进。我们将我们的结果应用到几个统计模型。
2008-04-17 math.ST stat.TH
Scalable Diffusion SBI for Compositional Inference under Simulator Misspecification
University of California, Irvine（加利福尼亚大学尔湾分校）
针对模拟器误设下的组合推断，提出可扩展扩散SBI方法，包括组合采样、分层块状采样和路径正则化微调，并在基准和生物模型上验证了有效性。
2026-09-30 cs.LG q-bio.QM stat.ML
PAC-Bayes Bounds on Variational Tempered Posteriors for Markov Models
本文针对马尔可夫模型，提出变分贝叶斯近似温度化后验的PAC-Bayes风险界，该界与数据生成模型的混合和遍历性质相关，并验证了对模型误设的鲁棒性。
2021-01-13 math.ST stat.TH
The Inuence of Misspecified Covariance on False Discovery Control when Using Posterior Probabilities
研究了大规模多重检验问题中协方差结构的错误设定对错误发现率的影响。具体来说，我们评估的影响，局部FDR统计，这是在许多多重检验程序和相关的贝叶斯后验概率的边缘分布。在正确指定和不正确指定的模型下，推导出了边缘分布的显式形式。Kullback-Leibler分歧被用来量化错误指定所造成的影响。数值例子说明了这种影响。讨论了一个真实的土壤湿度时空数据。
2017-09-15 math.ST stat.ME stat.TH
Gibbs posterior inference on multivariate quantiles
贝叶斯和其他基于似然性的方法需要统计模型的规范，并且对于不自然定义为模型参数的量（例如分位数）的推断可能不完全令人满意。本文构造了多元分位数的直接和无模型的Gibbs后验分布。无模型意味着从吉布斯后验中得出的推论不受模型误设偏倚的影响，而直接意味着不需要冗余参数的先验或边缘化。我们在这里表明，吉布斯后验享有根$n$收敛速度和伯恩斯坦-冯米塞斯属性，即，对于大的n，吉布斯后验分布可以用高斯近似。此外，我们提出的数值结果显示的有效性和效率的可信集来自一个适当规模的吉布斯后验。
2021-04-13 math.ST stat.ME stat.TH
On posterior contraction of parameters and interpretability in Bayesian mixture modeling
我们研究的背景下，贝叶斯混合建模，混合组件的数量是未知的，而模型本身可能会或可能不会被正确指定的参数的后验收缩行为。将考虑两种有代表性的先验规范：一种明确要求混合组分的数量上的先验分布，而另一种将混合分布的空间上的非参数先验。前者示出在最小条件下对模型参数产生最优的后验收缩率，而后者可以用来一致地恢复混合物成分的未知数，借助快速的概率后处理过程。然后，我们把这些贝叶斯程序的研究模型误设定的现实设置。它将被证明，核密度函数的建模选择可能起着最有影响力的作用，在错误指定的情况下，在确定后验收缩率。利用本文中建立的具体后验收缩率，我们希望强调一些方面的有趣的权衡模型的表达性和可解释性之间的统计建模必须谈判在丰富的世界的混合建模。
2019-01-15 math.ST stat.TH
If there is no underfitting, there is no Cold Posterior Effect
University of Copenhagen（哥本哈根大学）；South Denmark University（南丹麦大学）；Autonomous University of Madrid（马德里自治大学）；University of Aalborg（奥尔堡大学）
该研究针对贝叶斯深度学习中的冷后验效应（CPE）展开理论分析，提出仅当贝叶斯后验存在欠拟合时模型误设才会引发CPE，并从理论上证明无欠拟合则无CPE，深化了对CPE成因的认知。
2023-10-02 cs.LG stat.ML
On convergence rates of Bayesian predictive densities and posterior distributions
贝叶斯后验分布的频率型大样本性质，如一致性和收敛速度，在非参数问题中是重要的考虑因素。在本文中，我们给出了贝叶斯渐近分析的基础上，主要是预测密度。我们的分析是统一的，在这个意义上，基本上可以采取相同的方法来开发收敛速度的结果在iid，错误指定的iid，独立的非iid，和依赖的数据情况。
2012-09-29 math.ST stat.TH
General Robust Bayes Pseudo-Posterior: Exponential Convergence results with Applications
虽然贝叶斯推理在包括统计学家在内的很大一部分科学家中是一种非常流行的范式，但大多数应用都考虑了客观的先验知识，需要进行严格的调查（Efron，2013，Science）。虽然它有几个最佳的属性，贝叶斯推理的一个主要缺点是缺乏对数据污染和模型错误指定的鲁棒性，这在使用客观先验时变得有害。本文给出了一种能产生稳健推断的Bayes伪后验分布的一般形式。在一般的参数设置下建立了与新的伪后验估计和相应的Bayes估计相关的指数收敛结果，并对独立平稳和非齐次模型进行了说明.几个额外的细节和属性的过程中描述，包括固定设计回归模型下的估计。
2020-09-10 math.ST stat.ME stat.TH
Convergence rates for posterior distributions and adaptive estimation
本文的目的是提供后验分布的收敛速度的定理，可以应用于获得良好的收敛速度的背景下，密度估计以及回归。我们展示了如何选择先验，使后验分布收敛于最佳速率，而无需事先知道的光滑程度的密度函数或回归函数估计。
2004-10-05 math.ST stat.TH
Regularized-Likelihood Deconvolution with Posterior-Density Reconstruction
University of Chieti-Pescara（基耶蒂-佩斯卡拉大学）；University of Luxembourg（卢森堡大学）
针对密度反卷积的不适定问题，提出两阶段基于似然的方法，建立高斯误差下的收敛速率，数值实验及弗雷明汉血压数据应用验证其互补的有限样本表现。
2026-09-17 math.ST stat.TH
Decision Making under Model Misspecification: DRO with Robust Bayesian Ambiguity Sets
University of Warwick（华威大学）
本文提出DRO-RoBAS方法，通过以鲁棒后验预测分布为中心的最大均值差异模糊集处理模型误设问题，在报童和投资组合问题上取得优于现有贝叶斯及经验DRO方法的样本外表现。
2025-05-06 cs.LG stat.ML
Posterior Convergence and Model Estimation in Bayesian Change-point Problems
研究了变点个数和位置未知时贝叶斯多变点回归问题的后验分布。虽然它是相对容易应用的一般理论，以获得$O(1/\sqrt{n})$率到一些对数因子，显示精确的参数收敛速率的后验分布需要额外的工作和假设。此外，我们证明了在这些假设下的段水平的渐近正态性。对于变点数量的推断，我们表明贝叶斯方法可以产生一致的后验估计。最后，我们认为，逐点后验收敛性能证明可能有坏的有限样本性能，一致的后验模型选择必然意味着最大平方风险将渐近大于最佳$O(1/\sqrt{n})$率。这是其他作者已经注意到并研究过的同一现象的贝叶斯版本。
2008-08-20 math.ST stat.TH
On rates of convergence for posterior distributions in infinite-dimensional models
本文介绍一种研究后验分布收敛速度的新方法。它是最近贝叶斯一致性研究方法的自然扩张。特别地，我们改进了Dirichlet过程模型和随机伯恩斯坦多项式模型的混合模型的收敛速度。
2007-08-14 math.ST stat.TH
On posterior distribution of Bayesian wavelet thresholding
我们调查后收敛速率小波收缩使用贝叶斯方法在一般Besov空间。而不是研究与特定损失函数相关的贝叶斯估计，我们专注于后验分布本身从非参数贝叶斯渐近的角度来看，并研究其收敛速率。我们得到相同的速度在\citet{abramovich04}，其中作者研究了几个贝叶斯估计的收敛性。
2007-09-21 math.ST stat.TH
Gibbs posterior concentration rates under sub-exponential type losses
本文为次指数型损失函数下的Gibbs后验分布建立了集中速率的充分条件，并将其应用于均值回归、分位数回归、稀疏高维分类及个性化最小临床重要差异估计等问题。
2022-03-16 math.ST stat.ME stat.TH
Asymptotic equivalence of empirical likelihood and Bayesian MAP
在本文中，我们感兴趣的经验似然（EL）作为一种估计方法，我们解决了以下两个问题：（1）选择在EL框架中的各种经验差异和（2）证明，EL有一个定义良好的概率解释，将证明其使用在贝叶斯上下文中。使用大偏差的方法，贝叶斯大数定律的发展，这意味着EL和贝叶斯最大后验概率（MAP）估计是一致的误设定和EL可以被看作是一个渐近形式的MAP。基于其他经验差异的估计，在一般情况下，不一致的误指定。
2009-08-24 math.ST stat.TH
Quotient EM under Misspecification:Tight Local Rates and Finite-Sample Bounds in General Integral Probability Metrics
本文研究了在分布偏差和非识别性下，EM算法在一般积分概率度量中的局部收敛速率和有限样本界。
2026-08-14 math.ST stat.ME stat.TH
Robust Neural Posterior Estimation and Statistical Model Criticism
Bristol University（布里斯托大学）；Improbable（Improbable公司）；Durham University（杜伦大学）
计算机模拟已被证明是理解跨学科复杂现象的宝贵工具。然而，模拟器用于建模和预测目的的效用往往受到低数据质量以及模型保真度的实际限制的限制。为了规避这些困难，我们认为，建模者必须把模拟器作为真实数据生成过程的理想化表示，因此应该深思熟虑地考虑模型错误指定的风险。在这项工作中，我们重新审视神经后验估计（NPE），一类算法，使黑盒参数推断仿真模型，并考虑模拟现实差距的影响。虽然最近的工作已经证明了这些方法的可靠性能，分析已经使用模拟器模型本身生成的合成数据进行，因此只解决了指定的情况。在本文中，我们发现，相比之下，当天真地使用NPE时，错误指定的存在会导致不可靠的推理。作为一种补救措施，我们认为，原则性的科学调查与模拟器应纳入模型的批评组件，以促进可解释的识别错误和强大的推理组件，以适应“错误但有用的”模型。我们提出了鲁棒神经后验估计（RNPE），NPE的扩展，同时实现这两个目标，通过明确建模模拟和观测数据之间的差异。我们评估了一系列人为错误指定的例子的方法，并发现RNPE在整个任务中表现良好，而天真地使用NPE会导致误导和不稳定的后验。
2022-10-12 cs.LG stat.ME stat.ML
Optimization-centric cutting feedback for semiparametric models
National University of Singapore（新加坡国立大学）；Monash University（莫纳什大学）
本文提出一种以优化为中心的切割反馈方法，用于半参数模块推理，通过使用Rényi分歧而非Kullback-Leibler分歧提高鲁棒性，解决模型误标和先验-数据冲突问题。
2026-03-26 math.ST stat.CO stat.ME
Posterior convergence for approximated unknowns in non-Gaussian statistical inverse problems
在贝叶斯框架下，研究了在有噪声的间接观测下，估计无穷维未知量的概率分布的统计逆问题。在实践中，人们通常只考虑有限维的未知数，并在数值上研究它们的概率。由于许多未知数是函数值的，所以当对未知数的有限维近似进行细化时，了解估计的概率是否收敛是有意义的。在这项工作中，广义贝叶斯公式是一个强有力的工具，在收敛性的研究。借助于广义贝叶斯公式，将后验分布的收敛问题归结为未知量的有限维（或任何其他）近似的收敛问题。该方法允许多种先验分布，而限制主要针对噪声模型和直接理论。讨论了后验分布的三种收敛模式：弱收敛、集态收敛和变分收敛。研究了条件均值估计的收敛性。提供了几个适用的无限维非高斯噪声模型的例子，包括某些非高斯措施的Cameron-Martin公式的推广。研究了贝叶斯统计反问题的适定性。
2011-12-05 math.ST stat.TH
Bernstein - von Mises theorem and misspecified models: a review
本文综述了贝叶斯方法在模型误设定下的一致性及局部高斯性质，并探讨了如何调整推断以实现渐近有效性。
2022-04-28 math.ST stat.TH
Exploring Model Misspecification in Statistical Finite Elements via Shallow Water Equations
本文针对统计有限元方法（statFEM）在严重模型误设下的表现，以浅水方程为背景，通过线性化、粘性和海底地形故意引入误设，并结合不同时空观测频率，系统评估了后验分布质量，证明statFEM仍能保持合理准确性。
2023-07-11 physics.data-an stat.AP stat.CO
Some Simple Formulas for Posterior Convergence Rates
我们推导出一些简单的关系，展示了如何后验收敛速度与两个驱动因素：一个“惩罚发散”的前，这措施的能力，提出了一个不可忽略的工作模型，以近似真实的模型和“规范复杂性”的前，这措施的复杂性的前支持，加权的先验概率群众的先验分布。这些公式是明确的，不涉及任何必要的假设，易于应用。我们将这种方法应用到模型平均的情况下，得到一些有用的预言不等式，可以优化性能自适应不知道真正的模型。
2014-11-11 math.ST stat.TH
Bayesian sandwich posteriors for pseudo-true parameters
在模型误指定下，MLE通常收敛于伪真参数，该参数对应于模型内最接近数据从中采样的分布的分布。在许多问题中，伪真参数对应于感兴趣的总体参数，因此错误指定的模型可以为该参数提供一致的估计。此外，著名的三明治方差公式Huber（1967）提供了一个渐近准确的抽样分布的最大似然估计，即使在模型误设。然而，基于夹心方差估计的置信区间对于低样本量可能表现不佳，部分原因是使用了插入式方差估计。从贝叶斯的角度来看，干扰参数的插件估计通常低估了未知参数中的不确定性，并且对这些参数进行平均有望提供更好的性能。考虑到这一点，我们提出了一个贝叶斯三明治后验分布，其可能性是基于三明治抽样分布的极大似然估计。这种贝叶斯方法允许将先验信息的参数的利益，平均超过不确定性的滋扰参数，是渐近稳健的模型误设定。在一个小的模拟研究估计的回归参数下异方差，增加准确的先验信息和平均的滋扰参数都被认为是提高精度和校准的置信区间的参数。
2012-11-01 stat.ME
When can a posterior predictive check identify the learning rate? Exact degeneracy in Gaussian models and implications for Generalised Bayesian Inerence
National Economics University（国家经济大学）
本文通过精确有限样本分析，揭示了在高斯线性模型中，基于后验预测检查的学习率选择器存在退化现象，即p值不依赖于学习率或数据，导致选择器失效，并提出了数据无关的预筛选诊断方法。
2026-06-05 math.ST stat.ME stat.TH
Convergence rates of posterior distributions for noniid observations
研究了基于既不独立又不同分布观测值的后验分布和Bayes估计的渐近性态。我们给出了一般结果的收敛速率的后验测量相对于来自测试标准的距离。然后，我们专门研究我们的结果，独立的，非同分布的观测，马尔可夫过程，平稳高斯时间序列和白噪声模型。我们将我们的一般结果应用到无限维统计模型的几个例子中，包括带正态误差的非参数回归、二元回归、泊松回归、区间删失模型、时间序列谱密度的Whittle估计和非线性自回归模型。
2007-08-03 math.ST stat.TH
