Bayesian X-Learner: Calibrated Posterior Inference for Heterogeneous Treatment Effects under Heavy-Tailed Outcomes
Independent researcher（独立研究者）
本文提出贝叶斯X学习器，通过交叉拟合双重稳健伪结果和Welsch红降伪似然，实现对异质处理效应的校准后验推断，具有鲁棒性与高精度。
2026-04-30 cs.LG stat.ML
How Many Posterior Samples? Calibrated Stopping for Adaptive Sensing
Mitsubishi Electric R&D Centre Europe（三菱电机欧洲研发中心）
针对自适应感知中的停止问题，本文校准固定样本和序贯规则以控制错误声明概率，并证明截断可节省高达62%的后验样本，序贯停止在匹配工作点下成本最低。
2026-10-01 cs.CV eess.SP stat.ML
Curvature-Calibrated Quasi-Bayesian Updating for Moment-Restricted Models
Faculty of Economics, Fukuoka University（福冈大学经济学部）
针对矩约束模型，提出曲率校准准贝叶斯更新方法，经理论证明与模拟验证，可改善协方差校准与区间覆盖率，适用于含被试内依赖的纵向二元响应数据。
2026-11-05 econ.EM math.ST stat.ME
Randomised Postiterations for Calibrated BayesCG
University of Southampton, United Kingdom（南安普顿大学，英国）
针对BayesCG方法校准差的问题，提出随机后迭代策略，在保持收敛特性的同时增强后验校准，并通过理论保证与数值实验验证其在不确定性量化中的有效性。
2025-08-12 cs.LG cs.NA math.NA
Tutorial on Implied Posterior Probability for SVMs
Medical Data Science Ltd.（医学数据科学有限公司）
给定模型（例如支持向量机（SVM））在点$\bf{x}$的隐含后验概率是与应用于给定数据集的模型的函数类有关的类后验概率的估计。它可以被视为真实后验概率的得分（或估计），然后可以将其校准/映射到由生成数据的基础函数所暗示的预期（非模型暗示）后验概率上。在本教程中，我们将讨论如何计算二进制分类情况下SVM的隐含后验概率，以及如何通过保序回归的标准方法对其进行校准。
2019-09-30 cs.LG stat.ML
Uncertainty-Aware Calibrated Clinical Text Classification with Large Language Models
Faculty of Dental Medicine and Oral Health Sciences, McGill University（牙医学院与口腔健康科学学院，麦吉尔大学）；McGill University（麦吉尔大学）；Mila–Quebec Artificial Intelligence Institute（魁北克人工智能研究所）；School of Computer Science, McGill University（计算机科学学院，麦吉尔大学）
本研究提出基于似然自由后验推断的临床文本分类方法，利用LLM作为模拟器结合SMC-ABC，在多个基准上优于黑盒置信度，并支持临床先验，发布OLB-300基准。
2026-09-15 cs.AI cs.LG stat.ML
Bayesian Entropy-based Reordering for Calibrated Diffusion Language Models
The University of British Columbia（不列颠哥伦比亚大学）
本文提出BayesER，一种基于贝叶斯后验熵的扩散语言模型解码框架，通过不确定性引导标记提交，降低校准误差并保持或提升准确性，且不确定性信号可跨数据集迁移。
2026-10-06 cs.AI cs.LG
Computational methods for fast Bayesian model assessment via calibrated posterior p-values
针对校准后验预测p值（cppps）计算成本高的问题，提出高效近似方法，通过短MCMC链优化计算权衡、设计方差估计量，在NIMBLE框架实现快速贝叶斯模型评估。
2024-01-30 stat.CO stat.ME
Calibrated Generalized Bayesian Inference
Monash University（莫纳什大学）；Queensland University of Technology（昆士兰科技大学）；University of New South Wales（新南威尔士大学）
本文提出了一种校准的广义贝叶斯推断方法，通过替代后验来实现准确的不确定性量化，适用于多种模型。
2026-03-10 stat.ME
Neural Chinese Word Segmentation with Lexicon and Unlabeled Data via Posterior Regularization
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）
现有的CWS方法通常依赖于大量的标记句子来训练分词模型，这是昂贵的和耗时的注释。幸运的是，未标注的数据通常很容易收集，并且许多高质量的中文词汇是现成的，这两者都可以为CWS提供有用的信息。在本文中，我们提出了一种神经网络方法，用于中文分词，可以利用词典和未标记的数据。我们的方法是基于后验正则化算法的一个变种，和未标记的数据和词汇被纳入模型训练作为间接监督，通过正则化CWS模型的预测空间。在多个基准数据集上进行的大量实验验证了该方法的有效性。
2019-04-26 cs.CL cs.LG stat.ML
Uncertainty and Explainability in Deep Rough Volatility: A Neural Information-Theoretic Posterior Approach
Imperial College（帝国理工学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出一种基于模拟推理的粗糙Heston模型校准框架，利用神经比率估计学习参数后验分布，并引入Hellinger-SHAP可解释性方法，以提供不确定性感知的价格区间和参数信息增益分析。
2026-10-23 cs.LG q-fin.PR stat.AP
Calibrated Computation-Aware Gaussian Processes
University of Southampton（南安普顿大学）
针对传统高斯过程计算复杂度高、现有计算感知高斯过程不确定性量化过于保守的问题，提出基于高斯-赛德尔迭代的校准型CAGP-GS框架，在低维少迭代场景下表现更优。
2025-03-21 cs.LG cs.NA math.NA
On Calibrated Model Uncertainty in Deep Learning
Brunel University（布鲁内尔大学）
贝叶斯神经网络中的近似后验估计的不确定性容易发生误校准，这会导致在具有明显不对称成本或重大损失的关键任务中过度自信的预测。在这里，我们通过最大化模型后验的预期效用来校准深度学习中的不确定性，将损失校准贝叶斯框架的近似推理扩展到基于dropweights的贝叶斯神经网络。此外，我们发现，损失校准的不确定性的决策可以提高诊断性能，在更大程度上比直接的替代品。我们提出最大不确定性校准误差（MUCE）作为衡量校准置信度的一个指标，除了它的预测，特别是对于高风险的应用程序，其目标是最大限度地减少误差和估计的不确定性之间的最坏情况下的偏差。在实验中，我们通过将Wasserstein距离解释为预测的准确性来显示预测误差和估计不确定性之间的相关性。我们评估了我们从X射线图像中检测Covid-19的方法的有效性。实验结果表明，我们的方法大大减少了误校准，而不影响模型的准确性，并提高了基于计算机的诊断的可靠性。
2022-06-15 cs.CV cs.LG eess.IV
Preventing Posterior Collapse with Levenshtein Variational Autoencoder
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
变分自编码器（VAE）是一个标准的框架，用于诱导潜在变量模型，已被证明有效的学习文本表示以及文本生成。使用VAE的关键挑战是{ \it后验崩溃}问题：学习倾向于收敛到生成器忽略潜在变量的平凡解。在我们的Levenstein VAE中，我们建议用一个新的目标来取代证据下限（ELBO），该目标易于优化并可防止后塌陷。直观地说，它对应于从自动编码器生成一个序列，并鼓励模型根据Levenshtein距离（LD）与生成序列中每个时间步的参考句子预测最佳延续。我们激励的方法从概率的角度来看，它是密切相关的优化边界上的棘手的Kullback-Leibler发散的LD为基础的核密度估计模型分布。有了这个目标，任何忽视潜变量的生成器都将招致巨大的惩罚，因此不会发生后验崩溃。我们将我们的方法与政策蒸馏\cite{RossGB11}和动态预言机\cite{GoldbergN12}联系起来。通过考虑Yelp和SNLI基准，我们表明，Levenstein VAE产生更多的信息比其他方法，以防止后崩溃的潜在表示。
2020-04-30 cs.CL cs.LG stat.ML
Scalable and Calibrated Sampling for Bayesian Generalized Linear Mixed Model via Stochastic Gradient Markov Chain Monte Carlo
Duke University（杜克大学）；Universität Bern（伯尔尼大学）；University of Miami（迈阿密大学）
本文提出了一种针对广义线性混合模型的随机梯度马尔可夫链蒙特卡洛算法，通过Fisher恒等式构建梯度估计器，实现大规模数据下的准确后验推断，并通过模拟和电子健康记录分析验证了方法的有效性。
2026-11-11 stat.CO stat.ME stat.ML
Calibrated Bayesian Inference for Stochastic Intervention Effects
University of Iowa（爱荷华大学）
本研究针对随机干预效应的贝叶斯推断，提出一种不改变先验或拟合算法的后处理校正方法，经理论与模拟验证可提升推断的校准度与性能，并通过他汀类药物对LDL胆固醇影响的实例说明其应用。
2026-08-05 math.ST stat.ME stat.ML
Blade: A Derivative-free Bayesian Inversion Method using Diffusion Priors
California Institute of Technology（加州理工学院）；University of Toronto（多伦多大学）；Peking University（北京大学）
本文提出Blade方法，通过使用扩散模型作为数据驱动的先验，解决无导数贝叶斯反演中高维非线性问题的后验估计问题，实现了准确且校准良好的后验分布。
2026-06-03 cs.LG stat.ML
Fast and Locally Adaptive Bayesian Quantile Smoothing using Calibrated Variational Approximations
提出一种贝叶斯分位数趋势滤波方法，利用收缩先验和校准变分近似实现局部自适应的非平稳分位数趋势快速推断，计算效率优于Gibbs采样器且结果稳定。
2023-10-20 stat.ME
Flow Annealing Posterior Sampling for Function-Space Regression and Inverse Problems
California Institute of Technology（加州理工学院）
提出流退火后验采样（FAPS），首个统一随机过程回归与PDE逆问题的函数空间后验采样框架，利用预训练函数空间流匹配先验，通过低秩协方差预条件器的朗之万校正实现稀疏噪声观测下的似然引导后验推断。
2026-10-01 cs.AI cs.LG stat.ML
Predictively Oriented Gaussian Process Posteriors
University College London（伦敦大学学院）
本文提出面向预测的高斯过程（PrO-GPs），以预测不确定性为推断目标，通过简化公式和采样方案高效计算后验，实验证明在模型错误指定下其预测分布校准优于标准高斯过程。
2026-10-15 cs.LG stat.ML
Low-Budget Simulation-Based Inference with Bayesian Neural Networks
University of Liège（列日大学）；MIT（麻省理工学院）；IAIFI（人工智能与基本物理中心）；Anthropic（Anthropic公司）
针对数据匮乏时仿真推断易过拟合且不可靠的问题，提出在低预算仿真推断中使用贝叶斯神经网络以显式考虑计算不确定性，设计了专用先验，在极少量仿真下即可获得校准良好的后验。
2024-08-27 cs.LG stat.ML
Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference
LMU Munich \& Munich Center for Machine Learning (MCML), Munich, Germany；University of Toronto \& Vector Institute, Toronto, Canada
本文分析基于先验数据拟合网络（PFN）的平均处理效应（ATE）估计量的频率派一致性，发现其存在先验诱导的混淆偏差，并提出基于一步后验校正（OSPC）的校准方法，结合鞅后验恢复功能干扰后验，从而恢复频率派一致性并实现半参数Bernstein-von Mises定理。
2026-07-23 cs.LG
Loss-Calibrated Approximate Inference in Bayesian Neural Networks
University of Oxford（牛津大学）
贝叶斯神经网络的近似推理中的当前方法最小化库尔贝克-莱布勒散度以近似权重上的真实后验。然而，这种近似没有最终应用的知识，因此不能保证给定任务的最佳预测。为了使更合适的特定于任务的近似，我们引入了一个新的损失校准证据下限贝叶斯神经网络的监督学习的背景下，通知贝叶斯决策理论。通过引入依赖于效用函数的下限，我们确保我们的近似比具有非对称效用函数的应用程序的传统方法实现更高的效用。此外，在使用dropout推理时，我们强调我们的新目标与标准dropout神经网络的目标相同，只是增加了一个依赖于效用的惩罚项。我们展示了我们的新的损失校准模型与说明性的医疗例子和限制模型容量实验，并突出故障模式的可比加权交叉熵的方法。最后，我们展示了我们的方法的可扩展性，以现实世界的应用程序与自动驾驶数据集上的每像素语义分割。
2018-05-10 cs.LG stat.ML
Calibrated Bayesian Nonparametric Tolerance Intervals
Data and Statistical Sciences, AbbVie（AbbVie 数据与统计科学）；Department of Statistics, Brigham Young University（杨百翰大学统计系）；Department of Statistics, University of California, Santa Cruz（加州大学圣克鲁兹分校统计系）
本文提出了一种基于校准Gibbs后验的非参数方法，用于构建更短且可靠的容忍区间，适用于多种分布和应用场景。
2026-03-11 stat.ME
Constant-Time Predictive Distributions for Gaussian Processes
Cornell University（康奈尔大学）
高斯过程（GP）回归最引人注目的特征之一是它能够提供校准良好的后验分布。诱导点方法的最新进展加快了GP边缘似然和后验均值的计算，留下后验协方差估计和采样作为剩余的计算瓶颈。在本文中，我们解决这些缺点，使用Lanczos算法快速近似的预测协方差矩阵。我们的方法，我们称之为LOVE（LanczOs方差估计），大大提高了时间和空间复杂度。在我们的实验中，LOVE计算协方差的速度比现有方法快2,000倍，绘制样本的速度比现有方法快18,000倍，而所有这些都没有牺牲准确性。
2018-06-20 cs.LG stat.ML
Calibration of Pre-trained Transformers
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
预先训练的Transformers现在在自然语言处理中无处不在，但是尽管它们具有高端的任务性能，但很少有人知道它们是否经过校准。具体来说，这些模型的后验概率是否提供了一个准确的经验测量，来衡量模型在给定示例中正确的可能性？我们专注于BERT和RoBERTa在这项工作中，并分析他们的校准跨越三个任务：自然语言推理，释义检测，和常识推理。对于每一项任务，我们都考虑了域内和具有挑战性的域外设置，在这些设置中，模型面临更多的不确定示例。我们证明：（1）当开箱即用时，预训练模型在域内进行校准，与基线相比，其域外校准误差可以低3.5倍;（2）温度缩放在进一步减少域内校准误差方面是有效的，并且使用标签平滑故意增加经验不确定性有助于校准域外后验。
2020-10-15 cs.CL cs.LG
Post-hoc loss-calibration for Bayesian neural networks
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；IBM Research（IBM研究院）
贝叶斯决策理论提供了一个优雅的框架下采取最佳行动的不确定性时，易于处理的后验分布。然而，现代贝叶斯模型通常涉及难以处理的后验，这些后验是用可能是粗糙的替代品近似的。这种困难产生了损失校准技术，旨在学习有利于高效用决策的后验近似。在本文中，专注于贝叶斯神经网络，我们开发的方法来纠正近似后验预测分布，鼓励他们喜欢高效用的决定。与以前的工作相比，我们的方法是不可知的近似推理算法的选择，允许有效的测试时间决策，通过摊销，并根据经验产生更高质量的决策。我们通过跨越各种任务和数据集的对照实验证明了我们方法的有效性。
2021-06-13 cs.LG stat.ML
Calibrated Inference for the Conditional Average Treatment Effect in the Few-Placebo Regime via Gaussian Processes
AFLO
针对少安慰剂条件下条件平均处理效应估计的校准不确定性，提出GP-CATE方法，通过高斯过程直接建模每个臂的结果曲面，实现校准覆盖。
2026-05-26 cs.LG stat.ML
Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models
Duke University（杜克大学）；School of Medicine（医学院）；Center for Cognitive Neuroscience（认知神经科学中心）
本文提出膨胀流，利用扩散模型中的概率流ODE将高维数据唯一可逆地映射到低维高斯隐空间，从而实现校准且可识别的贝叶斯推断。
2024-12-31 cs.LG stat.ML
Bayesian Latent Space Models for Graphs Are Misspecified: Toward Robust Inference via Generalized Posteriors
Centre Borelli, Université Paris-Saclay（巴黎-萨克雷大学博雷利中心）；Department of Computer Science, University of Geneva（日内瓦大学计算机科学系）
本文研究了基于图的贝叶斯潜在空间模型的规格问题，提出了一种广义后验框架，通过Link-Sequential R-SafeBayes方法改进模型的鲁棒性，提升了校准性和链接预测性能。
2026-05-18 cs.LG math.PR stat.ML
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University（统计系，维萨-巴哈蒂大学）；S. N. Bose National Centre for Basic Sciences（S. N. Bose基础科学国家中心）
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题，本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架，经多数据集验证可输出校准风险、优化模型性能，支撑流行病学决策。
2025-11-15 cs.LG stat.ML
Towards Intrinsically Calibrated Uncertainty Quantification in Industrial Data-Driven Models via Diffusion Sampler
College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院）；Electrical Engineering Department, Polytechnique Montreal（蒙特利尔理工学院电气工程系）；GERAD；State Key Lab of General AI, School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院通用人工智能国家重点实验室）；Guangdong Provincial Key Laboratory of Petrochemical Equipment Fault Diagnosis, Guangdong University of Petrochemical Technology（广东石油化工学院广东省石化装备故障诊断重点实验室）
本文提出一种基于扩散的后验采样框架，通过忠实的后验采样实现固有校准的预测不确定性量化，解决了数据驱动方法中不确定性量化难题。
2026-04-02 cs.LG cs.SY eess.SY
Empirical Bayes analysis of spike and slab posterior distributions
在稀疏正态均值模型中，考虑了与尖峰和平板先验分布相关的贝叶斯后验分布的收敛性。通过边际最大似然经验贝叶斯校准的关键稀疏超参数。插件的后验平方$L^2$规范收敛于最小最大速率的欧几里德规范适当选择的尖峰和板分布。可能的选择包括标准的道钉和厚尾板，以及Rocková和George的道钉和厚尾板LASSO。令人惊讶的是，流行的拉普拉斯平板显示，导致一个次优率的完整的经验贝叶斯后验。这提供了一个引人注目的例子，其中经验贝叶斯后验的各方面的收敛并不需要完整的经验贝叶斯后验本身的收敛。
2018-10-16 math.ST stat.TH
Neural Posterior Estimation for Spatial Individual-Level Epidemic Models
University of Calgary（卡尔加里大学）
针对空间个体级流行病模型，提出使用神经后验估计（NPE）进行摊销贝叶斯推断，通过条件归一化流直接近似后验，避免推断时的似然计算，并比较了两种嵌入架构，其中图神经网络（GNN）嵌入在空间传播参数上误差更低且置信区间更窄。
2026-10-21 stat.CO
Moral Entropy: Auditing Bias and Uncertainty in Moral Judgment
University of Luxembourg（卢森堡大学）
本文提出道德熵框架，用贝叶斯后验分解标注分歧为偶然与认知不确定性，并审计共识规则，发现任意标注者规则产生约30%假阳性，多数规则遗漏63-83%真阳性。
2026-09-21 cs.CL cs.CY stat.ML
Provable diffusion-based posterior sampling for linear inverse problems via DDIM
该研究针对线性逆问题，提出\pddim算法，通过对标准DDIM更新进行轻量级逐坐标修改并纳入测量模型，沿测量算子奇异方向分别采样。此算法收敛到贝叶斯后验，在图像恢复任务中性能优于现有方法，实现高效且具后验一致性。
2026-07-22 cs.AI cs.LG stat.ML
Calibrated Model Criticism Using Split Predictive Checks
针对现有贝叶斯模型检验方法在校准性、自动化与效率间的权衡问题，提出结合后验预测检验优势与良好校准性的分裂预测检验，构建两类方法的渐近理论并通过模拟和真实数据验证其效用与优势。
2024-05-22 math.ST stat.ME stat.TH
Exploring the Uncertainty Properties of Neural Networks' Implicit Priors in the Infinite-Width Limit
Google Brain（谷歌大脑（Google Brain））
现代深度学习模型在许多数据模式的预测准确性方面取得了巨大成功。然而，他们的应用到许多现实世界的任务是限制了穷人的不确定性估计，如过度自信的分布外（OOD）数据和不优雅的失败下分布的转变。以前的基准测试已经发现，神经网络（NN）的集合通常是OOD数据的最佳校准模型。受此启发，我们利用最新的理论进展，其特征的功能空间前的合奏无限宽的神经网络作为一个高斯过程，称为神经网络高斯过程（NNGP）。我们使用带有softmax链接函数的NNGP来构建多类分类的概率模型，并对潜在高斯输出进行边缘化以从后验中采样。这使我们更好地理解了函数空间上的隐式先验NN，并允许直接比较NNGP及其有限宽度模拟的校准。我们还研究了以前的方法与NNGP分类的校准，将分类问题视为回归到一个热标签。在这种情况下，贝叶斯后验是精确的，我们比较了几个分类来生成类的分类分布。我们发现这些方法在分布偏移下得到了很好的校准。最后，我们考虑一个无限宽度的最终层与一个预先训练好的嵌入。这复制了迁移学习的重要实际用例，并允许扩展到更大的数据集。除了实现有竞争力的预测精度外，这种方法比其有限宽度模拟更好地校准。
2020-10-14 cs.LG stat.ML
Bayesian semi-supervised learning for uncertainty-calibrated prediction of molecular properties and active learning
University of Cambridge（剑桥大学）
预测小分子的生物活性和物理性质是药物发现的核心挑战。深度学习正在成为首选方法，但迄今为止的研究都集中在平均准确度作为主要指标。然而，要用模型取代昂贵的关键任务实验，高平均精度是不够的：离群值可能会破坏发现活动，因此模型需要可靠地预测何时会失败，即使训练数据有偏差;实验是昂贵的，因此模型需要数据高效，并使用主动学习建议信息丰富的训练集。我们表明，不确定性量化和主动学习可以实现贝叶斯半监督图卷积神经网络。贝叶斯方法通过从后验分布中采样，以统计学原则的方式估计不确定性。半监督学习将表示学习和回归分离，在低数据限制下保持不确定性估计的准确性，并允许模型从一个小的初始训练数据池开始主动学习。我们的研究强调了贝叶斯深度学习在化学领域的前景。
2019-07-25 cs.LG physics.chem-ph stat.ML
Laplace-PSN-IRT: Uncertainty Quantification for Neural Item Response Theory Models of LLM Benchmarks
Cimat（西马研究所）
研究针对大语言模型基准神经项目反应理论模型，提出拉普拉斯-PSN-IRT方法，通过近似贝叶斯后验推断增强模型，能恢复校准不确定性，可进行可信区间等分析，实验表明该方法在模型比较、信息稳定性及能力排名恢复等方面表现良好。
2026-07-29 cs.AI cs.LG stat.AP
Predictive posteriors under hidden confounding
针对隐藏混杂导致外部领域预测困难且缺乏不确定性量化的问题，提出一种贝叶斯框架，能跨域提供校准良好的预测分布并实现随数据集增加而改善的后验收缩率。
2025-10-11 stat.ME
Sampling-Free Learning of Bayesian Quantized Neural Networks
University of Maryland, College Park（马里兰大学帕克分校）；Amazon Web Services（亚马逊云科技）；Amazon.com, Inc.（亚马逊公司）
神经网络中模型参数的贝叶斯学习在具有良好校准的不确定性的估计是重要的情况下是重要的。在本文中，我们提出了贝叶斯量化网络（BQNs），量化神经网络（QNN），我们学习其离散参数的后验分布。我们提供了一组用于BQN中学习和预测的有效算法，而无需从其参数或激活中进行采样，这不仅允许QNN中的可微学习，而且还减少了梯度的方差。我们在MNIST，Fashion-MNIST，KMNIST和CIFAR 10图像分类数据集上评估BQN，并与QNN的自举集成（E-QNN）进行比较。我们证明了BQN比E-QNN实现了更低的预测误差和更好的校准不确定性（小于20%的负对数似然）。
2019-12-06 cs.LG stat.ML
GATSBI: Generative Adversarial Training for Simulation-Based Inference
University of Tübingen（图宾根大学）；TU Munich（慕尼黑工业大学）；Helmholtz Centre Hereon（亥姆霍兹Hereon中心）
基于仿真的推断（SBI）是指对随机模型的统计推断，我们可以为其生成样本，但不能计算似然性。像SBI算法一样，生成对抗网络（GANs）不需要显式的似然性。研究了SBI与GANs之间的关系，介绍了一种对抗SBI的方法GATSBI。GATSBI在对抗环境中重新制定变分目标，以学习隐式后验分布。与GATSBI的推断是摊销的观察，工程在高维后空间，并支持隐式先验。我们评估GATSBI的两个SBI基准问题和两个高维模拟器。在浅水水体表面的波传播模型，我们表明，GATSBI可以返回校准后的估计，即使在高维度。在相机光学模型上，它推断出一个高维度的后验，给出了一个隐式的先验，并表现得比一个国家的最先进的SBI方法。我们还展示了如何GATSBI可以扩展到执行顺序后验估计，专注于个人的意见。总的来说，GATSBI为利用GANs的进步在基于高维仿真的模型上执行贝叶斯推断提供了机会。
2022-03-12 cs.LG stat.ME stat.ML
Overcoming Mean-Field Approximations in Recurrent Gaussian Process Models
University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
我们确定了一个新的变分推断计划的动力系统的过渡函数建模的高斯过程。在这种情况下的推理要么采用计算密集型MCMC方法，或依赖于变分后验的因式分解。正如我们在实验中所证明的那样，潜在系统状态和过渡函数之间的因子分解可能导致校准错误的后验，并学习不必要的大噪声项。我们消除这种因式分解明确建模状态轨迹和高斯过程后的依赖性。然后，潜在状态的样本可以通过对该表示进行调节而可追踪地生成。我们得到的方法（VCDT：变分耦合动力学和轨迹）提供了更好的预测性能和更多的校准估计的过渡函数，但保持相同的时间和空间的复杂性平均场方法。代码可从以下网址获得：github.com/ialong/GPt。
2019-06-13 cs.LG stat.ML
Location--Scale Calibration for Generalized Posteriors
The University of Tokyo（东京大学）；National Institute of Infectious Diseases, Japan（日本国立感染症研究所）
本文提出位置-尺度校准方法，用于改进广义后验的不确定性量化，使其对学习率不变，并在理论和实证上验证其有效性。
2026-11-13 stat.ME
Semiparametric posterior corrections
提出一种通过贝叶斯自助法校正非参数后验分布来推断低维泛函的半参数方法，保证频率论性质，并在多个示例及ACIC 2016竞赛中验证其优于现有方法。
2023-06-20 math.ST stat.ME stat.TH
Bayesian inference for generalized linear models via quasi-posteriors
针对广义线性模型的模型误设问题，提出基于准后验分布的稳健贝叶斯推断方法，证明其自洽性与渐近性质，验证频率校准性并给出统一矩估计方案。
2023-11-09 stat.ME
Bayesian Inference for Large Scale Image Classification
Google Brain（谷歌大脑）
贝叶斯推理有望巩固和提高深度神经网络的性能。它承诺对过拟合具有鲁棒性，简化训练过程和超参数空间，并提供校准的不确定性度量，可以增强决策，代理探索和预测公平性。马尔可夫链蒙特卡罗（MCMC）方法通过从模型参数的后验分布生成样本来实现贝叶斯推断。尽管贝叶斯推理的理论优势以及MCMC和优化方法之间的相似性，但迄今为止，采样方法的性能落后于大规模深度学习任务的优化方法。我们的目标是填补这一空白，并介绍ATMC，自适应噪声MCMC算法，估计，并能够从后验的神经网络。ATMC动态地调整应用于每个参数更新的动量和噪声的量，以补偿随机梯度的使用。我们使用没有批量归一化的ResNet架构在Cifar 10基准测试和大规模ImageNet基准测试上测试ATMC，结果表明，尽管没有批量归一化，ATMC在分类准确性和测试对数似然性方面都优于强大的优化基线。我们表明，ATMC本质上是强大的过拟合的训练数据和ATMC提供了一个更好的校准措施的不确定性相比，优化基线。
2019-08-09 cs.CV cs.LG stat.ML
Likelihood-Ratio E-Value Monitoring for Benchmark-Based Decisions in Early-Phase Oncology Trials
Chuo University（中央大学）
早期肿瘤学试验需临时规则，现有设计通过后验概率等量化证据。本文提出校准e值监测（CEVAM）框架，直接根据临床基准定义监测证据，无需先验贝叶斯分析等，给出二元疗效终点的构建方法及模拟与应用结果。
2026-07-07 stat.ME
Marginally-calibrated deep distributional regression
深度神经网络（DNN）回归模型广泛用于需要最先进的预测精度的应用中。然而，直到最近，很少有工作准确的不确定性量化预测从这样的模型。我们添加到这个文献中，概述了一种方法来构建预测分布，是“边缘校准”。这是响应变量的预测分布的长期平均值与观察到的经验边际相匹配的地方。我们的方法考虑了DNN回归，最终层权重具有条件高斯先验，从中提取特征空间上的隐式copula过程。该Copula过程与响应的非参数估计的边缘分布相结合。最终的结果是一个可扩展的分布式DNN回归方法，具有边缘校准的预测，我们的工作补充了现有的概率校准方法。该方法首先说明使用两个应用程序的密集层前馈神经网络。然而，我们的主要激励应用是在似然自由推理中，其中分布深度回归用于估计边缘后验分布。在两个复杂的生态时间序列的例子中，我们采用卷积网络的隐式copula，并表明边际校准的结果，在改进的不确定性量化。我们的方法还避免了需要手动规范的汇总统计，这是一个要求，是繁重的用户和典型的竞争似然自由推理方法。
2020-09-03 stat.CO stat.ME stat.ML
On Inherent Privacy of Posterior Sampling: A Unified Rényi-Divergence Framework
University of Rhode Island（罗德岛大学）；University of Notre Dame（圣母大学）
本研究提出统一Rényi散度框架，刻画贝叶斯后验采样的固有差分隐私保障，推导OPS隐私损失边界，将框架应用于多类贝叶斯模型，恢复并拓展了现有相关结果。
2026-10-15 cs.LG math.ST stat.ML
A Fast and Calibrated Computer Model Emulator: An Empirical Bayes Approach
在计算机上实现的数学模型已经成为加速科学过程周期的驱动力。这是因为计算机模型通常比物理实验运行得更快和更经济。在这项工作中，我们开发了一种经验贝叶斯方法，使用计算机模型来预测物理量，我们假设所考虑的计算机模型需要校准，并且计算成本很高。我们提出了一个高斯过程仿真器和一个高斯过程模型的计算机模型和底层的物理过程之间的系统差异。这允许由高斯过程引起的条件分布给出的封闭形式和易于计算的预测。我们提供了一个严格的理论依据所提出的方法，通过建立后验的一致性估计的物理过程。在一个广泛的模拟研究和一个真实的数据示例中证明了该方法的计算效率。新建立的方法从实践和理论的角度加强了计算机模型的使用。
2021-07-02 stat.CO stat.ME
Risk-Calibrated Bayesian Streaming Intrusion Detection with SRE-Aligned Decisions
Independent Researcher（独立研究者）
提出一种结合BOCPD与SRE错误预算对齐阈值的风险校准流式入侵检测方法，在UNSW-NB15和CIC-IDS2017上优于无监督基线，提升精确率-召回率和校准性能。
2026-09-16 cs.CR cs.LG
Bayesian Conservative Policy Optimization (BCPO): A Novel Uncertainty-Calibrated Offline Reinforcement Learning with Credible Lower Bounds
Visva-Bharati University（维萨瓦巴拉蒂大学）；S. N. Bose National Centre for Basic Sciences（S.N. 玻色基础科学国立中心）
BCPO通过贝叶斯方法构建可信下界，将不确定性转化为保守策略改进，提升离线强化学习的鲁棒性和稳定性。
2026-03-06 stat.ME stat.ML
