Misspecification-robust Sequential Neural Likelihood for Simulation-based Inference
School of Mathematical Sciences(数学科学学院);Centre for Data Science(数据科学中心);Queensland University of Technology(昆士兰科技大学);Institute of Operations Research and Analytics(运营研究与分析研究所);National University of Singapore(新加坡国立大学);Department of Econometrics and Business Statistics(计量经济学与商务统计系);Monash University(莫纳什大学)
针对序列神经似然(SNL)在模型误设下性能不可靠、易产生过置信后验的问题,提出引入额外调整参数的新型SNL方法,兼具模型误设鲁棒性与数据不可复现特征识别能力,实验验证其点估计和不确定性量化效果优于传统SNL。
2024-03-07 cs.LG stat.CO stat.ME
Bayesian Conformal Prediction via the Bayesian Bootstrap
针对贝叶斯方法预测区间频率派校准效果差的问题,提出基于影响函数贝叶斯自助法、数据驱动调优狄利克雷参数α的贝叶斯共形方法,可构建校准性好且锐利的预测区间与分布,性能优于标准贝叶斯后验,且实现简便灵活。
2025-08-02 math.ST stat.ME stat.TH
Posterior contraction under misspecification and heteroscedasticity in non-linear inverse problems
University of Cambridge(剑桥大学);Heidelberg University(海德堡大学)
本文研究了非线性反问题中异方差非参数回归问题,通过构建代理误差方差的对数似然模型,证明了后验分布的收缩性,适用于偏微分方程约束的反问题,并考虑了规格不正确和线性化模型的影响。
2026-03-30 math.ST stat.TH
Misspecification-robust likelihood-free inference in high dimensions
针对高维参数空间中基于ABC的无似然推断挑战,本文扩展基于贝叶斯优化的方法,通过参数专属采集函数与差异及指数损失似然,实现计算可扩展性与误设定鲁棒性,在100维空间及细菌传播模型拟合中表现优异。
2025-02-14 stat.CO stat.ME stat.ML
Asymptotic equivalence of empirical likelihood and Bayesian MAP
在本文中,我们感兴趣的经验似然(EL)作为一种估计方法,我们解决了以下两个问题:(1)选择在EL框架中的各种经验差异和(2)证明,EL有一个定义良好的概率解释,将证明其使用在贝叶斯上下文中。使用大偏差的方法,贝叶斯大数定律的发展,这意味着EL和贝叶斯最大后验概率(MAP)估计是一致的误设定和EL可以被看作是一个渐近形式的MAP。基于其他经验差异的估计,在一般情况下,不一致的误指定。
2009-08-24 math.ST stat.TH
General Bayesian Updating and the Loss-Likelihood Bootstrap
在本文中,我们重新审视加权似然自助法,一种从参数模型的近似贝叶斯后验生成样本的方法。我们表明,相同的方法可以得到,没有近似,在贝叶斯非参数模型与参数定义为最小化预期的负对数似然未知的抽样分布下的利益。这种解释使我们能够将加权似然自助法扩展到参数的后验抽样,以最大限度地减少预期损失。我们称这种方法为损失似然自助法。我们在此和一般贝叶斯更新之间建立了联系,贝叶斯更新是一种更新先验置信分布的方法,而无需构建全局概率模型,但需要校准两种形式的损失函数。损失似然自举法用于通过匹配渐近费舍尔信息来校准一般贝叶斯后验。我们证明了一些例子的方法。
2018-05-22 stat.ME stat.ML
Model-based Clustering using Automatic Differentiation: Confronting Misspecification and High-Dimensional Data
National University of Singapore(新加坡国立大学)
我们研究了两个实际上重要的情况下,基于模型的聚类使用高斯混合模型:(1)当有错误的规格和(2)在高维数据,在最近的进展,梯度下降(GD)的优化使用自动微分(AD)。我们的模拟研究表明,EM有更好的聚类性能,衡量调整后的兰德指数,相比GD的情况下,误指定,而在高维数据GD优于EM。我们观察到,EM和GD都有许多解决方案具有高可能性,但聚类解释较差。为了解决这个问题,我们设计了一个新的惩罚条款的基础上的库尔贝克-莱布勒散度对拟合组件之间的可能性。这种惩罚可能性的梯度的封闭形式表达式很难导出,但AD可以毫不费力地完成,说明了基于AD的优化的优点。扩展这种惩罚高维数据和模型选择进行了讨论。合成和真实数据集上的数值实验证明了使用所提出的惩罚似然方法进行聚类的有效性。
2020-07-08 cs.LG stat.CO stat.ML
A Theory of Bootstrap Coverage Calibration for Generalized Posterior Credible Sets
Faculty of Economics, Fukuoka University(福冈大学经济学部)
针对广义后验可信集缺乏频率覆盖渐近保证的问题,提出通过Bootstrap估计覆盖并选择标量学习率进行校准,利用Edgeworth展开分析覆盖误差来源,证明校准的一致性。
2026-06-25 math.ST stat.CO stat.ME
Statistical models, likelihood, penalized likelihood and hierarchical likelihood
我们概述了统计模型和可能性,以及它的两个变体:惩罚和分层可能性。Kullback-Leibler分歧被反复提及,用于定义模型的错误设定风险,用于为可能性和可能性交叉验证奠定基础,该交叉验证可用于选择惩罚可能性中的权重。惩罚的可能性和筛估计的家庭是等价的。这些可能性与贝叶斯方法中的后验分布的相似性。
2008-08-29 math.ST stat.TH
Investigation of Parameter Uncertainty in Clustering Using a Gaussian Mixture Model Via Jackknife, Bootstrap and Weighted Likelihood Bootstrap
混合模型是基于模型聚类的一种常用工具。这种模型通常通过最大化似然的过程来拟合,例如期望最大化算法。在收敛时,通常报告极大似然参数估计值,但在大多数情况下,很少强调与这些估计值相关的变异性。这部分地可能是由于在模型拟合算法中不直接计算标准误的事实,或者因为不需要它们来拟合模型,或者因为它们难以计算。因此,基于模型的聚类中的标准误的检查通常被忽略。最近广泛使用的R包方法引入了bootstrap和加权似然bootstrap方法,以方便标准误估计。本文提供了一个经验比较这些方法(连同刀切法)产生的标准误和置信区间的混合参数。这些方法的说明和对比,在模拟研究和传统的老忠实的数据集和甲状腺数据集。
2019-07-22 stat.CO stat.ME
Bayesian inference under model misspecification
Monash University(莫纳什大学)
本文针对贝叶斯分析中似然与数据生成不匹配的模型误设问题,通过回顾后验的变分解释提供替代依据,并介绍相关广义贝叶斯推断技术以解决该问题。
2026-10-09 stat.ME
Fast Bootstrapping Nonparametric Maximum Likelihood for Latent Mixture Models
本文针对潜在混合模型混合密度估计中传统自助法不可扩展的问题,提出基于生成过程和新型两阶段优化算法的快速非参数最大似然自助估计,可在十万观测下低成本准确估计。
2024-02-28 stat.ME
Bayesian Estimation and Comparison of Moment Condition Models
在本文中,我们考虑的推断问题,统计模型的特点是矩限制铸造的问题内的指数倾斜的经验似然(ETEL)的框架。由于ETEL函数具有定义良好的概率解释,并且扮演非参数似然的角色,因此可以开发完全贝叶斯半参数框架。我们建立了一些强大的结果,围绕贝叶斯ETEL框架在这样的模型。推动我们工作的一个主要问题是错误指定的可能性。为了适应这种可能性,我们展示了如何的时刻条件可以重新表示在额外的滋扰参数,即使在误指定,贝叶斯ETEL后验分布满足伯恩斯坦冯米塞斯的结果。本文的第二个主要贡献是开发了一个基于边际似然和贝叶斯因子的框架,以比较由不同矩条件定义的模型。边缘似然的计算是通过Chib(1995)的方法进行的,该方法被扩展到Chib和Jeliazkov(2001)的Metropolis-Hastings采样器。我们建立了边际似然的模型选择一致性,并证明了边际似然有利于具有最少参数和最大有效矩约束的模型。当模型被错误指定时,边际似然模型选择程序根据库尔贝克-莱布勒散度选择更接近(未知)真实数据生成过程的模型。本文的思想和结果提供了进一步拓宽的理论基础和价值的贝叶斯ETEL框架可能具有深远的实际影响。通过几个例子说明了讨论。
2017-04-07 math.ST stat.ME stat.TH
Exploring Learning Rate Selection in Generalised Bayesian Inference using Posterior Predictive Checks
本文探索利用后验预测检查为广义贝叶斯推断设置学习率,以EDiSC模型为案例,选取使对数似然检验在10%水平不被拒绝的最低值,结果有前景但需进一步研究。
2025-01-21 stat.AP stat.ME
On the Robustness to Misspecification of $α$-Posteriors and Their Variational Approximations
Columbia University(哥伦比亚大学);Northwestern University(西北大学)
$α$ -后验和它们的变分近似通过降低似然的权重和引入变分近似误差来扭曲标准后验推断。我们表明,这种扭曲,如果调整适当,减少Kullback-Leibler(KL)偏离真实的,但也许是不可行的,后验分布时,有潜在的参数模型误设定。为了使这一点,我们推导出一个Bernstein-von Mises定理,显示收敛的全变差距离的$α$后验和他们的变分近似极限高斯分布。我们使用这些分布来评估真实和报告后验之间的库尔贝克-莱布勒散度。我们表明,这种分歧是最小化的选择严格小于一个$α$,假设有一个消失的小概率模型误设定。当错误设定变得更严重时,优化值变得更小。优化后的库尔贝克-莱布勒散度在错误指定的程度上线性增加,而不是像通常的后验那样线性增加。
2021-04-16 cs.LG math.ST stat.ML
A Bootstrap Likelihood approach to Bayesian Computation
有越来越多的文献集中在贝叶斯计算方法来解决棘手的可能性问题。一种方法是称为近似贝叶斯计算(ABC)方法的一组算法。这些算法的问题之一是性能依赖于一些参数的调整,如汇总统计量,距离和公差水平。为了绕过这个问题,Mengersen,Pudlo和Robert(2013)引入了一种基于经验似然的替代方法,当一组与分布矩相关的约束已知时,该方法可以很容易地实现。然而,约束条件的选择有时具有挑战性。为了克服这个问题,我们提出了一种替代方法的基础上的自助似然方法。该方法易于实现,在某些情况下,它比其他方法更快。在群体遗传学,时间序列和随机微分方程的例子说明了该算法的性能。最后,我们在真实数据集上测试了该方法。
2015-10-25 stat.ME
Non-parametric Bayesian inference via loss functions under model misspecification
King’s College London(伦敦国王学院);McGill University(麦吉尔大学);Imperial College London(帝国理工学院);London School of Economics and Political Science(伦敦政治经济学院)
本文提出了一种基于损失函数的非参数贝叶斯方法,在模型不规范情况下构建有效的后验分布,并通过模拟验证了其恢复真实参数的能力。
2026-01-19 stat.ME
Robust Approximate Bayesian Inference with Synthetic Likelihood
贝叶斯合成似然(BSL)是一种用于在模型中进行近似贝叶斯推断的成熟方法,其中,由于似然函数的棘手性,精确贝叶斯方法要么是不可行的,要么是计算量太大。BSL应用中隐含的假设是,数据生成过程(DGP)可以生成模拟汇总统计量,以捕获观察到的汇总统计量的行为。我们证明,如果实际和假设的DGP之间的兼容性不满足,即,如果模型被错误指定,BSL会产生不可靠的参数推断。为了规避这个问题,我们提出了一个新的BSL方法,可以检测模型的误指定的存在,并同时提供有用的推论,即使在显着的模型误指定。两个模拟和两个真实数据的例子证明了这种新的方法BSL的性能,并证明其优越的精度比标准BSL时,假设的模型是错误的。
2020-06-11 stat.AP stat.CO stat.ME
MMD-Bayes: Robust Bayesian Estimation via Maximum Mean Discrepancy
CREST(Crest研究中心);ENSAE(法国国立统计与经济管理学院);Institut Polytechnique de Paris(巴黎理工学院);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
在某些错误指定的设置中,贝叶斯统计中的后验分布可能导致不一致的估计。为了解决这个问题,已经建议用伪似然代替似然,伪似然是享受适当鲁棒性特性的损失函数的指数。在本文中,我们建立了一个伪似然最大均值离散的基础上,定义通过嵌入的概率分布到再生核希尔伯特空间。我们表明,这种MMD-Bayes后验是一致的和强大的模型误设定。由于以这种方式获得的后验可能是棘手的,我们还证明了合理的变分近似后享有相同的属性。我们提供的随机梯度算法来计算这些变分近似的细节。数值模拟确实表明,我们的估计是更强大的误指定比的基础上的可能性。
2019-12-11 cs.LG math.ST stat.ML
Convergence Guarantees for Gaussian Process Means With Misspecified Likelihoods and Smoothness
Imperial College London(帝国理工学院);University College London(伦敦大学学院);University of Cambridge(剑桥大学)
高斯过程在机器学习、统计学和应用数学中无处不在。他们提供了一个灵活的建模框架逼近函数,同时量化的不确定性。然而,只有当模型被很好地指定时,这才是正确的,而实际情况往往不是这样。本文研究了当模型的光滑性和似然函数被错误指定时,高斯过程均值的性质。在这种情况下,一个与实际相关的重要理论问题是,考虑到问题的难度、我们的模型和错误指定的程度,高斯过程近似的准确性如何。这个问题的答案是特别有用的,因为它可以告知我们的模型和试验设计的选择。特别是,我们描述了如何的试验设计和选择的内核和内核超参数可以适应,以减轻模型的误指定。
2021-05-18 cs.LG cs.NA math.NA
Targeting functional parameters with semiparametric Bayesian inference
典型的贝叶斯推断需要通过似然参数化进行参数识别,这招致了批评,因为它比频率论框架灵活性差,并且容易出现错误。虽然在非参数模型空间下可以通过函数参数推断来避免误指定,但是不存在允许完全控制任何一般函数参数的边缘先验的灵活的贝叶斯半参数模型。我们提出了$θ$ -增强技术,它可以帮助我们将非参数模型操作成直接针对任何功能参数的半参数模型。该方法允许贝叶斯概率报表被定义为一个功能的经验分布的任何估计,而不需要一个似然函数,从而提供了一个路径贝叶斯分析的问题,如因果推断和审查,其中不存在公认的似然函数。
2022-11-25 stat.ME
Scalable Nonparametric Sampling from Multimodal Posteriors with the Posterior Bootstrap
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所)
越来越复杂的数据集对贝叶斯推断提出了许多挑战。基于马尔可夫链蒙特卡罗的传统后验采样可能计算量太大,本质上是串行的,并且后验模式之间的混合很差。此外,所有模型都是错误指定的,这使人们对传统贝叶斯更新的有效性产生了疑问。我们提出了一个可扩展的贝叶斯非参数学习例程,使后验采样通过适当的随机目标函数的优化。一个Dirichlet过程之前的未知数据分布帐户的模型误指定,并承认一个非常并行的后验自举算法,从非参数后验分布产生独立和准确的样本。我们的方法是特别善于通过随机重新启动机制从多峰后验分布采样。我们证明了我们的方法在高斯混合模型和稀疏逻辑斯谛回归的例子。
2019-08-25 cs.LG stat.ME stat.ML
Tractable Bayesian variable selection: beyond normality
贝叶斯变量选择通常假设正态性,但模型误设的影响还没有得到充分的理解。这个假设背后有合理的理由,特别是对于大的$p$:易于解释,分析和计算方便。存在更灵活的框架,包括半参数或非参数模型,但往往以一些易处理性为代价。我们提出了一个简单的扩展正常模型,允许偏度和厚于正常的尾巴,但保留了易处理性。它导致易于解释和对数凹可能性,有利于优化和集成。我们的特点渐近参数估计和贝叶斯因子率,特别是研究模型误设定的影响。在适当的条件下,误指定的贝叶斯因子是一致的,并在相同的渐近速率比正确的模型诱导稀疏。然而,检测信号的速率被指数因子改变,通常导致灵敏度的损失。这些缺陷可以通过从数据推断误差分布来改善,这是一种可以大大改善推断的简单策略。我们的工作重点是可能性,因此可以与任何可能性惩罚或先验相结合,但在这里,我们专注于非局部先验,以诱导额外的稀疏性和改善由错误指定引起的有限样本效应。我们的研究结果强调了在贝叶斯变量选择中,关注可能性而不是仅仅关注先验的实际重要性。该方法可在R软件包“mombf”中找到。
2017-08-04 stat.AP stat.CO stat.ME
Asymptotics for power posterior mean estimation
本文研究幂后验的渐近矩性质,证明其矩收敛于 Bernstein-von Mises 极限正态分布,并据此说明幂后验均值与最大似然估计量渐近等价。
2024-01-18 math.ST stat.TH
Detecting Model Misspecification in Amortized Bayesian Inference with Neural Networks
Cluster of Excellence SimTech(SimTech卓越集群);University of Stuttgart(斯图加特大学);Heidelberg University(海德堡大学);Cluster of Excellence STRUCTURES(STRUCTURES卓越集群)
神经密度估计器已被证明在各种研究领域中执行有效的基于模拟的贝叶斯推断方面非常强大。特别是,贝叶斯流框架使用两步方法,使摊销参数估计的设置中的似然函数是由一个模拟程序隐式定义。但是,当模拟并不能很好地代表现实时,这种推断的可信度又有多大呢?在本文中,我们概念化的模型误指定的类型所产生的基于模拟的推理和系统地研究这些误指定下的贝叶斯流框架的性能。我们提出了一个增强的优化目标,它对潜在的数据空间施加概率结构,并利用最大平均差异(MMD)来检测潜在的灾难性的错误规范在推理破坏所获得的结果的有效性。我们验证了我们的检测标准的一些人为的和现实的错误规格,从玩具共轭模型到复杂的模型的决策和疾病爆发的动态应用到真实的数据。此外,我们表明,后验推理误差增加的函数之间的距离的真实数据生成分布和典型的一组模拟在潜在的摘要空间。因此,我们证明了MMD的双重效用,作为一种方法,用于检测模型的错误说明,并作为代理验证摊销贝叶斯推断的忠实性。
2022-11-08 cs.LG stat.ME stat.ML
Generalized Bayesian Inference using the Bayesian Bootstrap for Survival Models
The University of Sydney(悉尼大学);Kids Research Institute, The Children’s Hospital at Westmead(西梅德儿童医院儿童研究所)
本文提出结合贝叶斯自助法与广义贝叶斯更新的生存分析贝叶斯方法,可稳健量化不确定性、整合先验信息,已开发Cox比例风险模型框架并通过模拟与实际数据验证,对应开源R包为BayesBoots。
2026-09-09 stat.AP stat.ME
Bootstrap Inference for Multiple Imputation under Uncongeniality and Misspecification
多重插补已成为统计分析中处理缺失数据最常用的方法之一。这一成功部分归功于鲁宾简单的组合规则。当估算和分析程序是所谓的适宜的,完整的数据分析是有效的,这些给频率论有效的推论,但否则可能不。粗略地说,适合性对应于插补和分析模型是否对数据做出不同的假设。在实践中,插补和分析程序往往不合适,这样的测试可能没有正确的大小和置信区间覆盖范围偏离广告的水平。我们研究了一些最近的建议,结合自举与多重插补,并确定哪些是有效的uncongeniality和模型误指定。在不一致性或错误指定的情况下,插补后自举通常不会得到有效的方差估计,而插补后自举则会得到有效的方差估计。我们建议一个特定的计算效率的自举的变种,其次是插补。
2019-11-27 stat.ME
Assigning a value to a power likelihood in a general Bayesian model
贝叶斯数据分析和机器学习方法是广泛和流行的,因为它们为从数据中学习提供了直观而严格的公理;参见Bernardo and Smith(2004)and Bishop(2006)。然而,这种严格性伴随着一个警告,即贝叶斯模型是自然的精确反映。最近的趋势是通过将似然函数提高到幂来解决潜在的模型误设定,主要是出于鲁棒性原因,但不完全是。在本文中,我们提供了一个连贯的规范的功率参数,一旦贝叶斯模型已指定在没有一个完美的模型。
2017-01-30 stat.ME
When Noise Estimation Hides Basis Misspecification in Repeated Bayesian Inverse Problems
University of Cambridge(剑桥大学)
本研究针对贝叶斯反问题中基受限先验的覆盖损失问题,提出利用John球度统计量检验残差谱形状以检测基外变异,该方法在合成和实际地形数据中有效,但无法检测各向同性高斯变异。
2026-09-30 math.ST stat.ME stat.ML
Reproducible Parameter Inference Using Bagged Posteriors
Boston University(波士顿大学);Harvard University(哈佛大学)
针对模型误设下标准贝叶斯后验不可复现的问题,提出 BayesBag 袋装后验方法,证明其满足置信集交叠下界并具有渐近正态性,实验验证了其优势。
2023-11-03 cs.LG math.ST stat.ME
Simulation-based Bayesian inference under model misspecification
School of Mathematical Sciences, Queensland University of Technology(昆士兰科技大学数学科学学院);Centre for Data Science, Queensland University of Technology(昆士兰科技大学数据科学中心);Department of Econometrics and Business Statistics, Monash University(莫纳什大学计量经济学与商业统计系);Department of Statistics and Data Science, National University of Singapore(新加坡国立大学统计与数据科学系);Institute for Adaptive & Neural Computation, University of Edinburgh(爱丁堡大学自适应与神经计算研究所);Centre of Excellence for the Mathematical Analysis of Cellular Systems, Queensland University of Technology(昆士兰科技大学细胞系统数学分析卓越中心)
本文综述模型误设下基于模拟的贝叶斯推断难题,梳理稳健摘要统计量、广义贝叶斯推断及误差建模三类策略,并通过示例实证展示常规方法的脆弱性与稳健替代方案的效果。
2025-03-16 cs.LG stat.CO stat.ME
Bayesian Restricted Likelihood Methods: Conditioning on Insufficient Statistics in Bayesian Regression
贝叶斯方法已被证明在广泛的科学问题上是成功的,并且与竞争方法相比具有许多有据可查的优势。然而,这些方法遇到困难的两个主要和普遍的问题:处理数据集与离群值和处理模型误指定。我们概述了这些问题的以前的解决方案的缺点,并提出了一种新的方法作为替代。当使用新方法时,数据通过一组不充分的统计量进行汇总,目标是感兴趣的推断量,并且先验分布使用汇总统计量而不是完整的数据进行更新。通过仔细选择条件统计量,我们保留了贝叶斯方法的主要优点,同时降低了分析对条件统计量未捕获的数据特征的敏感性。为了降低对离群值的敏感性,经典的鲁棒估计(例如,M-估计)是条件统计的自然选择。这项工作的一个主要贡献是发展的数据增强马尔可夫链蒙特卡罗(MCMC)算法的线性模型和一大类的汇总统计。我们证明了模拟和真实的数据集包含离群值和模型误指定的方法。与竞争方法相比,成功表现在对感兴趣的数据点具有更好的预测性能。
2018-12-19 stat.ME
Simple bootstrap for linear mixed effects under model misspecification
线性混合效应被认为是各个领域中聚类水平参数的优秀预测因子。然而,以前的工作表明,他们的表现可能会受到严重影响,从建模假设的偏离。由于后者在应用研究中很常见,因此需要一种推理方法,这种方法在一定程度上对误解具有鲁棒性,但同时又足够简单,可以吸引从业者。我们使用直接的半参数随机效应自助法构建了用于模型误设下混合效应的聚类和同时推断的统计工具。在我们的理论分析中,我们证明了我们的方法在一般的正则条件下是渐近相容的。在模拟中,我们的区间对严重偏离模型假设的情况具有鲁棒性,并且在经验覆盖概率方面表现优于竞争对手。
2022-07-25 stat.CO stat.ME
Robust Predictive Uncertainty and Double Descent in Contaminated Bayesian Random Features
The University of Manchester, UK(英国曼彻斯特大学);University of Pisa, Italy(意大利比萨大学);Nanyang Technological University, Singapore(新加坡南洋理工大学);Max Planck Institute for Mathematics in the Sciences, Germany(德国马克斯·普朗克数学研究所)
提出一种鲁棒贝叶斯随机特征回归方法,通过Huber污染集处理先验和似然误设,推导出后验预测密度的上下界,并引入不精确最高密度区域进行鲁棒不确定性量化,证明预测不确定性保持计算可行性并继承经典双重下降相位结构。
2026-06-01 cs.LG math.PR math.ST
Deep Bootstrap for Bayesian Inference
对于贝叶斯,定义可能性的任务可能与定义先验的任务一样令人困惑。我们专注于当感兴趣的参数已经从可能性中解放出来,并通过损失函数直接与数据相关联时的情况。我们调查现有的工作都与吉布斯后验贝叶斯参数推断以及贝叶斯非参数推断。然后,我们强调最近的自举计算方法近似损失驱动的后验。特别是,我们专注于通过一个潜在的前推映射定义的隐式自举分布。我们调查iid采样器从近似后验通过随机引导权重通过一个训练有素的生成网络。在训练深度学习映射之后,这种iid采样器的模拟成本可以忽略不计。我们在几个例子(包括支持向量机或分位数回归)上比较了这些深度自举采样器与精确自举和MCMC的性能。我们还提供了理论上的见解,引导后验模型的错误规范的连接。
2022-05-30 stat.CO
Scalable Diffusion SBI for Compositional Inference under Simulator Misspecification
University of California, Irvine(加利福尼亚大学尔湾分校)
针对模拟器误设下的组合推断,提出可扩展扩散SBI方法,包括组合采样、分层块状采样和路径正则化微调,并在基准和生物模型上验证了有效性。
2026-09-30 cs.LG q-bio.QM stat.ML
Generalized Bayes Approach to Inverse Problems with Model Misspecification
针对基于PDE的逆问题中似然或数据生成过程难以设定的问题,提出采用Gibbs后验的广义贝叶斯框架,并通过预测性能与交叉验证选择损失、校准正则化参数。
2023-09-26 stat.ME
Overcoming Model Misspecification in Bayesian Inference of Molecular Signalling Networks
Newcastle University(纽卡斯尔大学);University of Turin(都灵大学);Collegio Carlo Alberto(卡洛阿尔贝托学院)
针对分子信号网络贝叶斯推断中模型误设导致过度自信的问题,提出基于预测导向后验的后贝叶斯方法,并扩展至潜变量模型,实证验证其在网络推断中的有效性。
2026-09-22 stat.AP stat.ME
A Variant of AIC based on the Bayesian Marginal Likelihood
我们提出的信息标准,衡量预测密度的预测风险的贝叶斯边际似然从频率论的角度来看。假设回归系数具有先验分布,我们推导出了线性回归模型中变量的选择准则。然后,我们讨论了所提出的标准和相关标准之间的关系。我们的方法有三个优点。首先,这是频率论和贝叶斯观点之间的妥协,因为它评估了贝叶斯模型的频率论风险。因此,它受先前错误指定的影响较小。其次,在选择真实模型时,标准具有一致性。第三,当为回归系数假设均匀先验时,得到的准则等价于Shi和Tsai(2002)的残差信息准则(RIC)。
2017-10-19 stat.ME
Non-Bayesian Post-Model-Selection Estimation as Estimation Under Model Misspecification
针对模型选择后估计问题,提出三种非贝叶斯解释,并开发误设最大似然估计器与Cramér-Rao型下界,仿真显示选择性推断解释具有最低均方误差。
2023-08-22 cs.IT eess.SP math.IT
A Bayesian Bootstrap for Mixture Models
本文提出一种新的非参数贝叶斯自助法用于混合模型,通过将传统贝叶斯自助法重新解释为梯度上升算法并改用连续核,基于非参数最大似然估计工作,并证明了算法的收敛性与可交换性。
2023-10-02 stat.CO stat.ME
Assessing Estimation Uncertainty under Model Misspecification
针对广义线性模型可能误设导致经典推断失效的问题,提出局部残差 bootstrap,通过邻近观测残差重采样直接重建响应,以更准确评估不确定性,并验证了理论有效性与性能优势。
2023-12-18 stat.ME
Ribbon: Scalable Approximation and Robust Uncertainty Quantification
提出Ribbon方法,通过影响函数线性化近似贝叶斯自举不确定性,避免重复模型重拟合,在合成回归、MNIST分类和加州房价基准上实现竞争性预测与改进校准。
2026-06-26 cs.LG stat.ML
Robust Bayesian Inference for Unnormalized Models with Mixed-Domain Data
Texas A&M University(德克萨斯农工大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对混合域未归一化模型的鲁棒贝叶斯推断难题,提出SME-BETEL半参数贝叶斯框架,证明其理论性质并通过模拟和臭氧监测应用验证了方法的有效性。
2026-09-18 stat.ME stat.ML
Uncertainty estimation under model misspecification in neural network regression
ETH Zürich(苏黎世联邦理工学院)
虽然神经网络是功能强大的函数逼近器,但底层建模假设最终定义了可能性,从而定义了它们参数化的假设类。在分类中,这些假设是最小的,因为常用的softmax能够表示任何分类分布。然而,在回归中,通常会对要实现的连续分布类型进行限制性假设,例如通过均方误差及其潜在的高斯假设进行训练的主导选择。最近,建模的进步允许对要建模的连续分布的类型不可知,赋予回归分类模型的灵活性。虽然过去的研究强调这种灵活的回归模型在性能方面的好处,在这里,我们研究的不确定性估计的模型选择的效果。我们强调,根据模型误指定,任意的不确定性没有被正确捕获,贝叶斯处理的误指定模型导致不可靠的认知不确定性估计。总的来说,我们的研究提供了一个概述,如何在回归模型的选择可能会影响不确定性估计,从而任何下游的决策过程。
2021-11-23 cs.LG stat.ML
Learning rate selection via weighted Fisher divergence
Graduate School of Social Sciences, Chiba University(千叶大学社会科学研究生院)
提出基于加权Fisher散度选择学习率的方法,校准一般贝叶斯后验,得到闭式解,数值实验验证有效性。
2026-09-22 stat.ME
Generalized Geographically Weighted Regression Model within a Modularized Bayesian Framework
MRC Biostatistics Unit(MRC生物统计单元);University of Cambridge(剑桥大学)
本文提出基于模块化贝叶斯框架的广义地理加权回归模型,解决传统GWR模型在处理部分模型不规范性时的局限性,通过地理加权核和KL散度优化实现空间数据的高效处理。
2022-02-21 stat.ME
Calibration-Free Robust Bayesian Inference for Discrete Unnormalized Models
Texas A&M University(得克萨斯农工大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出DFD-BETEL,一种无需标定的半参数贝叶斯框架,通过离散Fisher散度矩条件实现非归一化离散模型的鲁棒推断,保证渐近校准的不确定性量化。
2026-10-08 stat.AP stat.ME
Likelihood-Free Parameter Estimation with Neural Bayes Estimators
本文介绍神经点估计器这一无似然推断工具,提出用置换不变神经网络处理重复数据推断问题,通过模拟验证其在弱识别高参数化模型中的最优估计性能,还开源软件并在红海海温分析中证实其实用性。
2023-10-04 stat.ME stat.ML
Improving the Accuracy of Amortized Model Comparison with Self-Consistency
本文研究了自一致性如何改进模型比较的准确性,发现基于参数后验估计边际似然的方法在模型不规范性下表现更优。
2026-01-26 cs.LG stat.CO stat.ML
Assessment of Misspecification in CDMs Using a Generalized Information Matrix Test
本研究提出基于信息矩阵行列式差异的广义信息矩阵检验(GIMT_Det)用于检测认知诊断模型误设,通过DINA模型及自举数据验证其在不同误设程度下的判别性能,表明该方法有前景但需更多实证研究。
2024-11-05 math.ST stat.ME stat.TH
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所)
我们引入了一个框架,在一般的状态空间隐马尔可夫模型(HHALGORY)的可能性误指定的推理。特别是,我们利用广义贝叶斯推断(GBI)的损失理论的角度来定义广义过滤递归的障碍,可以解决模型误指定下的推理问题。在这样做的过程中,我们到达的原则性程序,强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法(SMC),其中大多数标准粒子方法及其相关的收敛结果,可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题,并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Misspecification Analysis of High-Dimensional Random Effects Models for Estimation of Signal-to-Noise Ratios
University of California, Davis(加州大学戴维斯分校)
研究高维线性模型中估计信噪比和残差方差的高斯随机效应最大似然估计器在模型误设下的行为,通过建立一致性和渐近正态性等,给出渐近方差显式形式,经模拟和实际数据验证校准效果。
2026-07-13 math.ST stat.ME stat.TH
Additive Bayesian variable selection under censoring and misspecification
我们讨论了在右删失生存和凹对数似然回归的背景下,误设和删失对贝叶斯模型选择的作用。错误说明包括错误地假设审查机制是没有信息的。重点放在添加剂加速失效时间,Cox比例风险和概率单位模型。我们提供了一个理论上的治疗,包括本地和非本地的先验,和一般的非线性效果分解,以提高功率稀疏性权衡。我们讨论一个基本的问题:当(不可避免地)模型被错误指定时,人们希望得到什么样的解决方案,以及如何解释它?渐近地,在减少可能性相关损失的意义上,对于结局和(对于生存数据)删失时间都没有预测能力的协变量被丢弃。错误指定和删失对假阳性的影响可以忽略不计,但它们对功效的影响是指数级的。我们表明,它可以是有利的,考虑简单的模型,计算上的实用性,但达到良好的功率来检测潜在的复杂的影响,包括使用有限维的基础来检测真正的非参数效应。我们还讨论了算法,以利用充分统计量和快速似然近似高斯为基础的生存和二元模型。
2021-11-12 math.ST stat.AP stat.CO