Calibrated Bayesian inference for overall and subgroup-specific causal effects in stepped-wedge cluster-randomized trials
Yale School of Public Health(耶鲁公共卫生学院);University of Florida(佛罗里达大学);Medical College of Wisconsin(威斯康星医科大学)
本研究针对阶梯楔形整群随机试验,开发了校准贝叶斯推断方法,采用模型稳健标准化结合校准方差估计量,在模拟及创伤幸存者试验重分析中验证了其因果效应估计的可靠性。
2026-10-16 stat.ME
Calibrated Generalized Bayesian Inference
Monash University(莫纳什大学);Queensland University of Technology(昆士兰科技大学);University of New South Wales(新南威尔士大学)
本文提出了一种校准的广义贝叶斯推断方法,通过替代后验来实现准确的不确定性量化,适用于多种模型。
2026-03-10 stat.ME
Calibrated Bayes analysis of cluster-randomized trials
Yale School of Public Health(耶鲁大学公共卫生学院);Rutgers University(罗格斯大学)
本文提出一种校准的贝叶斯方法,用于在群组随机试验中处理模型不恰当情况下的估计量对齐分析。
2026-08-26 stat.ME
Calibrated Bayesian inference for random fields on large irregular domains using the debiased spatial Whittle likelihood
针对空间数据Whittle似然存在偏差的问题,提出基于去偏空间Whittle似然并结合复合似然调整的平稳随机场贝叶斯推断方法,在保持准线性计算时间的同时实现了校准良好的后验,并验证了其有效性。
2025-05-29 stat.ME
Frequentist-calibrated Bayesian group sequential design with dynamic borrowing
Sapienza University of Rome(罗马第一大学);McGill University(麦吉尔大学)
该研究针对临床试验设计的监管要求,提出带动态借用的贝叶斯组序贯设计,利用贝叶斯与频率学派检验的对应关系,通过数值研究及结核病预防试验验证了其性能。
2026-08-03 stat.ME
Calibrated Bayesian Nonparametric Tolerance Intervals
Data and Statistical Sciences, AbbVie(AbbVie 数据与统计科学);Department of Statistics, Brigham Young University(杨百翰大学统计系);Department of Statistics, University of California, Santa Cruz(加州大学圣克鲁兹分校统计系)
本文提出了一种基于校准Gibbs后验的非参数方法,用于构建更短且可靠的容忍区间,适用于多种分布和应用场景。
2026-03-11 stat.ME
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University(统计系,维萨-巴哈蒂大学);S. N. Bose National Centre for Basic Sciences(S. N. Bose基础科学国家中心)
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题,本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架,经多数据集验证可输出校准风险、优化模型性能,支撑流行病学决策。
2025-11-15 cs.LG stat.ML
A Globally Calibrated Bayesian Optimal Phase II Design for Adaptive Enrichment Trials
Kyowa Kirin Co., Ltd.(协和麒麟株式会社);Faculty of Science and Engineering, Chuo University(中央大学理工学部);Graduate School of Medicine, The University of Osaka(大阪大学大学院医学系研究科)
研究针对适应性富集试验,开发路径全局校准的BOP2框架,通过联合校准全人群和生物标志物阳性阈值,推导精确有限状态递归枚举,控制全局I型错误率,优于单独校准的BOP2方法。
2026-08-19 stat.ME
Loss-calibrated expectation propagation for approximate Bayesian decision-making
Princeton Neuroscience Institute(普林斯顿神经科学研究所);Princeton University(普林斯顿大学)
近似贝叶斯推断方法提供了一套强大的工具,找到近似的棘手的后验分布。然而,机器学习应用程序通常涉及选择动作,在贝叶斯设置中,这些动作仅通过其对预期效用的贡献取决于后验分布。因此,越来越多的关于损失校准近似推理方法的工作试图开发对效用函数的影响敏感的后验近似。在这里,我们引入损失校准期望传播(Loss-EP),期望传播的损失校准变体。这种方法类似于标准EP,但有一个额外的因素使后验概率向更高效用的决策“倾斜”。我们展示了应用程序的高斯过程分类下的二进制效用函数与不对称的罚款假阴性和假阳性错误,并显示这种不对称性如何可以有戏剧性的后果,什么信息是“有用的”捕捉在一个近似。
2022-01-10 cs.LG stat.ML
A Fast and Calibrated Computer Model Emulator: An Empirical Bayes Approach
在计算机上实现的数学模型已经成为加速科学过程周期的驱动力。这是因为计算机模型通常比物理实验运行得更快和更经济。在这项工作中,我们开发了一种经验贝叶斯方法,使用计算机模型来预测物理量,我们假设所考虑的计算机模型需要校准,并且计算成本很高。我们提出了一个高斯过程仿真器和一个高斯过程模型的计算机模型和底层的物理过程之间的系统差异。这允许由高斯过程引起的条件分布给出的封闭形式和易于计算的预测。我们提供了一个严格的理论依据所提出的方法,通过建立后验的一致性估计的物理过程。在一个广泛的模拟研究和一个真实的数据示例中证明了该方法的计算效率。新建立的方法从实践和理论的角度加强了计算机模型的使用。
2021-07-02 stat.CO stat.ME
Calibration-Free Robust Bayesian Inference for Discrete Unnormalized Models
Texas A&M University(得克萨斯农工大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出DFD-BETEL,一种无需标定的半参数贝叶斯框架,通过离散Fisher散度矩条件实现非归一化离散模型的鲁棒推断,保证渐近校准的不确定性量化。
2026-10-08 stat.AP stat.ME
Calibrated Bayesian Selection of Schema Subgraphs for Database Question Answering
Department of Statistics, Brigham Young University(杨百翰大学统计系)
提出层次贝叶斯模型,将模式链接视为图上的结构化子集选择,通过成对耦合和数据库级随机效应,在BIRD和Spider上改善相关子图恢复与预测校准。
2026-10-06 stat.AP
Calibrated Bayesian Inference for Stochastic Intervention Effects
University of Iowa(爱荷华大学)
本研究针对随机干预效应的贝叶斯推断,提出一种不改变先验或拟合算法的后处理校正方法,经理论与模拟验证可提升推断的校准度与性能,并通过他汀类药物对LDL胆固醇影响的实例说明其应用。
2026-08-05 math.ST stat.ME stat.ML
Diffeomorphic registration distances for Bayesian calibration of infinite-dimensional computer models
CEA, DAM, DIF(法国原子能和替代能源委员会,核能部,核研究与发展局)
本文提出利用LDDMM框架中的diffeomorphic距离进行贝叶斯校准,以处理无限维输出空间中的参数不确定性,提供可解释的校准方法。
2026-07-03 stat.ME
Bayesian Conservative Policy Optimization (BCPO): A Novel Uncertainty-Calibrated Offline Reinforcement Learning with Credible Lower Bounds
Visva-Bharati University(维萨瓦巴拉蒂大学);S. N. Bose National Centre for Basic Sciences(S.N. 玻色基础科学国立中心)
BCPO通过贝叶斯方法构建可信下界,将不确定性转化为保守策略改进,提升离线强化学习的鲁棒性和稳定性。
2026-03-06 stat.ME stat.ML
Loss-Calibrated Approximate Inference in Bayesian Neural Networks
University of Oxford(牛津大学)
贝叶斯神经网络的近似推理中的当前方法最小化库尔贝克-莱布勒散度以近似权重上的真实后验。然而,这种近似没有最终应用的知识,因此不能保证给定任务的最佳预测。为了使更合适的特定于任务的近似,我们引入了一个新的损失校准证据下限贝叶斯神经网络的监督学习的背景下,通知贝叶斯决策理论。通过引入依赖于效用函数的下限,我们确保我们的近似比具有非对称效用函数的应用程序的传统方法实现更高的效用。此外,在使用dropout推理时,我们强调我们的新目标与标准dropout神经网络的目标相同,只是增加了一个依赖于效用的惩罚项。我们展示了我们的新的损失校准模型与说明性的医疗例子和限制模型容量实验,并突出故障模式的可比加权交叉熵的方法。最后,我们展示了我们的方法的可扩展性,以现实世界的应用程序与自动驾驶数据集上的每像素语义分割。
2018-05-10 cs.LG stat.ML
Asymptotically well-calibrated Bayesian $p$-value using the Kolmogorov-Smirnov statistic
Duke University(杜克大学)
本文提出了一种基于 Kolmogorov-Smirnov 统计量的渐近良好的贝叶斯 p 值方法,适用于多种数据类型和模型检验。
2026-01-12 math.ST stat.ME stat.TH
Large Language Model-Derived Priors Can Improve Bayesian Survival Analyses: A Glioblastoma Application
University of Minnesota(明尼苏达大学);Medical College of Wisconsin(威斯康星医学院)
本文提出利用生成式 AI 快速生成贝叶斯生存模型中比较胶质母细胞瘤疗法的风险比先验分布,经放射肿瘤学家评估与敏感性分析,证实 AI 先验是替代专家意见获取的优选方法。
2025-11-03 stat.AP
Randomised Postiterations for Calibrated BayesCG
University of Southampton, United Kingdom(南安普顿大学,英国)
针对BayesCG方法校准差的问题,提出随机后迭代策略,在保持收敛特性的同时增强后验校准,并通过理论保证与数值实验验证其在不确定性量化中的有效性。
2025-08-12 cs.LG cs.NA math.NA
Curvature-Calibrated Quasi-Bayesian Updating for Moment-Restricted Models
Faculty of Economics, Fukuoka University(福冈大学经济学部)
针对矩约束模型,提出曲率校准准贝叶斯更新方法,经理论证明与模拟验证,可改善协方差校准与区间覆盖率,适用于含被试内依赖的纵向二元响应数据。
2026-11-05 econ.EM math.ST stat.ME
Accurate Uncertainties for Deep Learning Using Calibrated Regression
Stanford University(斯坦福大学)
在不确定性条件下进行推理的方法是准确可靠的机器学习系统的关键组成部分。贝叶斯方法提供了一个量化不确定性的一般框架。然而,由于模型错误指定和近似推理的使用,贝叶斯不确定性估计通常是不准确的-例如,90%的可信区间可能不包含90%的真实结果。在这里,我们提出了一个校准任何回归算法的简单过程;当应用于贝叶斯和概率模型时,它保证在给定足够数据的情况下产生校准的不确定性估计。我们的程序的灵感来自普拉特缩放和扩展以前的工作分类。我们在贝叶斯线性回归、前馈和递归神经网络上评估了这种方法,发现它始终输出校准良好的可信区间,同时提高了时间序列预测和基于基于模型的强化学习任务的性能。
2018-07-01 cs.LG stat.ML
A calibrated BISG for inferring race from surname and geolocation
针对 BISG 因族裔内部姓氏与地理位置相关而对少数群体产生的偏差,论文提出利用各州选民档案补充姓氏—地理位置分布并采用 raking 校准,在含自报族裔的选民登记名单上验证改进效果。
2025-06-09 stat.AP stat.ME
Computational methods for fast Bayesian model assessment via calibrated posterior p-values
针对校准后验预测p值(cppps)计算成本高的问题,提出高效近似方法,通过短MCMC链优化计算权衡、设计方差估计量,在NIMBLE框架实现快速贝叶斯模型评估。
2024-01-30 stat.CO stat.ME
Bayesian Stacked Parametric Survival with Frailty Components and Interval Censored Failure Times
为了更好地了解暴露于食物过敏原的影响,食物挑战研究旨在缓慢增加过敏个体的过敏原剂量,直到发生客观反应。这些失效剂量研究用于确定可接受的摄入水平,并使用参数失效时间模型进行分析。虽然这些模型可以提供生存曲线的估计值,但它们的参数形式可能会错误地表示目标剂量的生存函数,并且类似地描述数据的不同模型可能会产生不同的失效剂量估计值。受预测推理的启发,我们开发了一种贝叶斯方法,根据后验预测叠加来组合生存估计,其中形成权重以最大化后验预测准确性。该方法允许包含灵活的模型,并且在我们的情况下,允许我们包含随机效应,以解释通过研究间异质性进入模型的脆弱成分。该方法在模拟中进行了研究,并用于估计多个食物过敏原的过敏人群诱发剂量。
2019-08-29 stat.AP
Longitudinal Brain Aging in Covariance Space: Temporally Calibrated Bayesian Inference for Adaptive Covariance Operators
St. Edward’s University(圣爱德华大学);Indiana University(印第安纳大学)
本研究提出贝叶斯纵向协方差算子框架,结合达拉斯寿命脑研究发现人群大脑老化特征与个体老化轨迹存在差异,需直接建模纵向协方差变化。
2026-10-15 stat.AP stat.CO stat.ME
Scalable and Calibrated Sampling for Bayesian Generalized Linear Mixed Model via Stochastic Gradient Markov Chain Monte Carlo
Duke University(杜克大学);Universität Bern(伯尔尼大学);University of Miami(迈阿密大学)
本文提出了一种针对广义线性混合模型的随机梯度马尔可夫链蒙特卡洛算法,通过Fisher恒等式构建梯度估计器,实现大规模数据下的准确后验推断,并通过模拟和电子健康记录分析验证了方法的有效性。
2026-11-11 stat.CO stat.ME stat.ML
A Bayesian predictive framework for adaptive interim-analysis timing with robust borrowing in confirmatory trials
Peking University(北京大学);China Novartis Institutes for BioMedical Research Co.(诺华生物医学研究院(中国))
针对确证性III期试验,提出基于贝叶斯信息借用和贝叶斯预测概率的自适应中期分析时间框架,校准借用模型控制I类错误率,模拟显示该方法能维持错误率并提高中期效能。
2026-07-07 stat.AP
Bayesian semi-supervised learning for uncertainty-calibrated prediction of molecular properties and active learning
University of Cambridge(剑桥大学)
预测小分子的生物活性和物理性质是药物发现的核心挑战。深度学习正在成为首选方法,但迄今为止的研究都集中在平均准确度作为主要指标。然而,要用模型取代昂贵的关键任务实验,高平均精度是不够的:离群值可能会破坏发现活动,因此模型需要可靠地预测何时会失败,即使训练数据有偏差;实验是昂贵的,因此模型需要数据高效,并使用主动学习建议信息丰富的训练集。我们表明,不确定性量化和主动学习可以实现贝叶斯半监督图卷积神经网络。贝叶斯方法通过从后验分布中采样,以统计学原则的方式估计不确定性。半监督学习将表示学习和回归分离,在低数据限制下保持不确定性估计的准确性,并允许模型从一个小的初始训练数据池开始主动学习。我们的研究强调了贝叶斯深度学习在化学领域的前景。
2019-07-25 cs.LG physics.chem-ph stat.ML
Bayes and empirical Bayes: do they merge?
贝叶斯推理以其良好的一致性和频率特性而备受关注。然而,这是一个共同的经验,引出一个诚实的先验可能是困难的,在实践中,人们经常采取{ \em经验贝叶斯}的方法,插入经验估计先验超参数到后验分布。即使没有严格的理由,基本的想法是,当样本量是大的,经验贝叶斯导致“相似的”推理答案。然而,精确的数学结果似乎缺失了。在这项工作中,我们给出了一个更严格的理由在合并贝叶斯和经验贝叶斯后验分布。我们考虑两个概念的合并:贝叶斯弱合并和频率合并全变差。由于弱合并与相合性有关,我们给出了经验贝叶斯后验相合性的充分条件。此外,我们表明,在正则性条件下,经验贝叶斯过程渐近选择的超参数的值,先验最有利于“真理”。例子包括经验贝叶斯密度估计与狄利克雷过程的混合物。
2012-04-06 math.ST stat.TH
Calibrated One Round Federated Learning with Bayesian Inference in the Predictive Space
University of Waterloo(滑铁卢大学);Vector Institute(矢量研究所)
针对贝叶斯联邦学习中局部预测后验乘积导致过度自信的问题,提出β-Predictive Bayes算法,通过可调参数β在混合与乘积之间插值以改善全局集成校准,并在多种数据集上验证了其优于基线。
2024-01-09 cs.LG stat.ML
Variational Routing: A Scalable Bayesian Framework for Calibrated Mixture-of-Experts Transformers
Department of Computing, Imperial College London(伦敦帝国理工学院计算机系)
提出变分混合专家路由(VMoER),通过将贝叶斯推断限制在专家选择阶段,实现大规模模型的不确定性校准,在微调基础模型上显著提升路由稳定性、降低校准误差并提高分布外检测AUROC,且额外计算开销极小。
2026-05-28 cs.AI cs.LG stat.ML
A Bayesian Search for the Higgs Particle
本文研究了寻找希格斯玻色子的统计过程。提出了一种贝叶斯分层模型,该模型使用理论提供的信息来分析粒子探测器产生的数据。此外,我们开发了一个贝叶斯决策过程,结合了两个步骤的当前方法(发现和排除)成一个,可以校准,以满足频率理论的错误率要求。.
2016-05-09 stat.AP
re:Linde et al. (2021): The Bayes factor, HDI-ROPE and frequentist equivalence tests can all be reverse engineered -- almost exactly -- from one another
Linde等人(2021年)进行了一项广泛的模拟研究,比较了用于确定等效性的三种不同程序(频率论“TOST”、贝叶斯“HDI-ROPE”和贝叶斯因子区间零程序)的操作特征,并得出结论,建议“研究人员更多地依赖贝叶斯因子区间零方法来量化等效性证据。“我们重新进行了Linde等人(2021)的整个模拟研究,但校准了不同的程序,以具有相同的预定最大类型1错误率。我们的研究结果表明,当以这种方式校准时,贝叶斯因子,HDI-ROPE和频率论等效性测试都具有相似的-几乎完全相同的-类型2错误率。一般来说,任何主张频率主义检验比贝叶斯检验在经验发现方面更好或更差的观点,充其量都是值得怀疑的。如果一个人决定在处理一个给定的问题时要遵循哪一个基本原则,那么方法自然就遵循了。请记住,每一个过程都可以从其他过程中逆向工程(至少是近似的),试图用经验表现来证明一种方法优于另一种方法似乎是在风车上倾斜。
2022-03-11 stat.ME
Bayesian Synthesis: Combining subjective analyses, with an application to ozone data
贝叶斯模型平均使人们能够以连贯的方式组合多个模型的不同预测,从而获得卓越的预测性能。性能的提高来自于对做出不同预测的模型进行平均。在这项工作中,我们利用可能是不同预测的最大驱动力-不同的分析师-以获得模型平均的全部好处。在我们的方法的标准实现中,几个数据分析师独立地处理数据集的各个部分,得出单独的模型,这些模型最终通过特定的加权方法进行更新和组合。我们称这个建模过程为贝叶斯综合。该方法有助于减轻人们对贝叶斯范式的基本基础与贝叶斯统计实践之间存在巨大差距的担忧。在实验工作中,我们表明,人类建模的预测性能优于许多自动建模技术,包括AIC,BIC,平滑样条,CART,袋装CART,贝叶斯CART,BMA和LARS,只有略逊于BART。我们还表明,贝叶斯合成进一步提高了预测性能。此外,我们检查了分析师之间的简单平均值的预测性能,我们称之为凸合成,并发现它也产生了改进。
2011-07-29 stat.AP
SCOPE Before You Sample: Conformal Scores Guide Posterior Exploration for Fast and Calibrated Bayesian Predictive Inference
University of California, Irvine(加州大学尔湾分校);University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
针对贝叶斯预测推断中全MCMC成本高、近似方法校准差的问题,本文提出SCOPE方法,通过分数梯度识别相关参数方向,结合MCMC与投影变分近似,实现了接近全HMC的预测精度,且速度提升12-15倍。
2026-10-14 cs.LG stat.ML
Informed Bayesian Finite Mixture Models via Asymmetric Dirichlet Priors
本文提出一种基于非对称 Dirichlet 先验的有限混合方法,允许直接对聚类数量设定先验信息,并通过数值实验和真实数据集验证了其灵活性与实用性。
2023-08-01 stat.ME
Marginalising over Stationary Kernels with Bayesian Quadrature
University of Oxford(牛津大学)
边缘化高斯过程内核的家庭产生灵活的模型类与良好校准的不确定性估计。现有的方法需要对许多内核进行似然评估,这使得它们对于较大的数据集来说过于昂贵。我们提出了一个贝叶斯正交方案,使这种边缘化更有效,从而更实用。通过使用分布之间的最大平均差异,我们定义了一个内核,捕获光谱混合(SM)内核之间的不变性。核样本的选择通过概括的信息理论的收购函数扭曲贝叶斯正交。我们表明,我们的框架实现了更准确的预测,具有更好的校准不确定性比最先进的基线,特别是在有限的(挂钟)时间预算。
2023-03-15 cs.LG stat.ML
BayCANN: Streamlining Bayesian Calibration with Artificial Neural Network Metamodeling
目的:贝叶斯校正算法能够揭示校正后参数的联合后验分布,因而在理论上优于标准的直接搜索算法。然而,到目前为止,贝叶斯校准还没有经常使用的健康决策科学由于实际和计算负担。在本文中,我们建议使用人工神经网络(ANN)作为这些限制的解决方案之一。研究方法:使用人工神经网络的贝叶斯校准(BayCANN)涉及(1)在模型输入和输出的样本上训练ANN元模型,以及(2)然后在概率编程语言中校准经训练的ANN元模型而不是完整模型,以获得校准参数的后验联合分布。我们通过校准结直肠癌的自然史模型来证明BayCANN,以腺瘤患病率和癌症发病率数据。此外,我们比较的效率和准确性BayCANN对执行贝叶斯校准直接使用增量混合重要性抽样(IMIS)算法的模拟模型。结果:BayCANN在恢复“真实”参数值方面通常比IMIS更准确。在9个校准参数中,有8个参数的绝对ANN偏离真实值的比率小于1,表明BayCANN比综管系统更准确。此外,BayCANN总共花了大约15分钟,而综管系统的方法花了80分钟。结论:在我们的案例研究中,BayCANN比IMIS更准确,速度快五倍。由于BayCANN不依赖于仿真模型的结构,它可以适应各种复杂程度的模型,只需对其结构进行微小的更改。我们提供BayCANN在R中的开源实现。
2020-10-26 stat.CO stat.ME stat.ML
Objective Bayesian analysis for spatial Student-t regression models
先验分布的选择是贝叶斯分析的一个关键方面。对于空间回归模型,参数的主观先验选择可能并不简单,从这一角度出发,利用客观贝叶斯分析框架,为自由度未知的空间Student-t回归模型引入了一个参考。空间Student-t回归模型提出了两个主要的挑战时,引发的先验:一个空间依赖参数和自由度的其他之一。众所周知,后验分布相对于客观先验的适当性并不总是得到保证,而适当的先验分布的使用可能会主导和偏置后验分析。在本文中,我们展示的条件下,我们提出的参考先验收益率适当的后验分布。模拟研究,以评估性能的参考之前,一个常用的模糊适当的前。
2020-04-09 math.ST stat.TH
Efficient Bayesian Deep Ensembles via Analytic Predictive Inference
Wm Michael Barnes ’64 Department of Industrial and Systems Engineering(工业与系统工程系)
该研究提出一种高效贝叶斯深度集成方法用于预测回归,结合贝叶斯推理与深度集成优势。通过低维集成表示、闭式贝叶斯聚合和独立集成训练三个关键组件,在保持可靠不确定性估计时实现了有竞争力的预测性能。
2026-07-09 cs.LG stat.ME
Bayesian X-Learner: Calibrated Posterior Inference for Heterogeneous Treatment Effects under Heavy-Tailed Outcomes
Independent researcher(独立研究者)
本文提出贝叶斯X学习器,通过交叉拟合双重稳健伪结果和Welsch红降伪似然,实现对异质处理效应的校准后验推断,具有鲁棒性与高精度。
2026-04-30 cs.LG stat.ML
Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models
Duke University(杜克大学);School of Medicine(医学院);Center for Cognitive Neuroscience(认知神经科学中心)
本文提出膨胀流,利用扩散模型中的概率流ODE将高维数据唯一可逆地映射到低维高斯隐空间,从而实现校准且可识别的贝叶斯推断。
2024-12-31 cs.LG stat.ML
Bayesian Effect Selection in Structured Additive Distributional Regression Models
我们提出了一种新的spike和slab先验规范与缩放的beta素数边缘的重要性参数的回归系数,允许一般的效果选择类结构添加剂分布回归。这使我们能够对任意参数分布的所有分布参数进行建模,并考虑各种效应类型,如非线性或空间效应以及分层回归结构。我们的尖峰和板前依赖于一个参数扩展,分离块的回归系数到整体标量的重要性参数和向量的标准化系数。因此,我们可以使用标量来进行效果选择,而不是使用可能的高维效果向量,与经典的正态-逆伽马先验相比,这会产生改进的收缩和采样性能。我们调查的后验的适当性,显示出的前收益率理想的收缩性能,提出了一种方法,引出先验参数,并提供有效的马尔可夫链蒙特卡罗采样。使用模拟和三个大规模的数据集,我们表明,我们的方法是适用于数据的潜在大量的协变量,多层次的预测因子占分层嵌套的数据和非标准的响应分布,如二元正态或零膨胀泊松。
2019-02-27 stat.ME
Bayesian Predictive Synthesis for Dynamic Networks: Forecasting and Identifying Structural Mechanisms
Yale University(耶鲁大学);The Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
提出动态贝叶斯预测合成方法,通过时变权重组合多个结构机制(如社区、几何、枢纽)的预测,实现校准的边预测并识别主导机制。
2026-06-26 cs.SI math.ST stat.ME
On Bayesian Modelling of the Uncertainties in Palaeoclimate Reconstruction
我们概述了一个模型和算法来执行推断的古气候和古气候波动的花粉代用数据。我们使用了一种新的多元非线性非高斯状态空间模型,该模型由一个将气候与代理数据联系起来的观测方程和一个驱动气候随时间变化的演化方程组成。Salter-Townshend和Haslett(2012年)以及Sweeney(2012年)开发的预先校准的正演模型界定了气候与代用数据之间的联系。气候变化是由一个时间上不确定的正态-逆高斯-列维过程表示的,它能够在保持时间一致的同时捕捉到多变量气候的大跳跃。前向模型的预校准性质使我们能够在观测和演化方程之间切断反馈,从而完全整合状态变量,同时进行最小的简化假设。这种方法的一个关键部分是创建混合的边际数据后验,代表从每个单独的时间点获得的有关气候的信息。我们的方法允许一个非常有效的MCMC算法,我们证明了从Sluggan沼泽,安特里姆郡,北爱尔兰的花粉核心。
2012-06-21 stat.AP
Disentangling Latent Risk Pathways via Bayesian Hypergraph Inference
University of Science and Technology of China(中国科学技术大学)
提出贝叶斯超图推断框架,通过风险因子调节的潜在疾病路径建模多疾病,实现可解释的高阶结构、校准的不确定性估计和罕见病改进预测。
2026-06-04 cs.LG stat.AP stat.ME
Sampling-Free Learning of Bayesian Quantized Neural Networks
University of Maryland, College Park(马里兰大学帕克分校);Amazon Web Services(亚马逊云科技);Amazon.com, Inc.(亚马逊公司)
神经网络中模型参数的贝叶斯学习在具有良好校准的不确定性的估计是重要的情况下是重要的。在本文中,我们提出了贝叶斯量化网络(BQNs),量化神经网络(QNN),我们学习其离散参数的后验分布。我们提供了一组用于BQN中学习和预测的有效算法,而无需从其参数或激活中进行采样,这不仅允许QNN中的可微学习,而且还减少了梯度的方差。我们在MNIST,Fashion-MNIST,KMNIST和CIFAR 10图像分类数据集上评估BQN,并与QNN的自举集成(E-QNN)进行比较。我们证明了BQN比E-QNN实现了更低的预测误差和更好的校准不确定性(小于20%的负对数似然)。
2019-12-06 cs.LG stat.ML
On Bayesian Sequential Clinical Trial Designs
临床试验通常涉及连续的患者输入。在设计临床试验时,通常需要包括对累积数据进行中期分析的规定,这些数据可能会提前停止试验。我们回顾贝叶斯序贯临床试验设计的基础上后验概率,后验预测概率和决策理论框架。一个相关的问题是贝叶斯序贯设计是否需要调整中期分析的计划。我们从三个角度回答这个问题:频率导向的角度,校准贝叶斯的角度,和主观贝叶斯的角度。我们还提供了新的见解似然原理,这是通常绑在统计推断和决策的顺序临床试验。一些理论结果的推导,并进行数值研究,以说明和评估这些设计。
2023-03-10 stat.ME
Subspace Inference for Bayesian Deep Learning
Cornell University(康奈尔大学);Samsung AI Center in Moscow(三星莫斯科人工智能中心);Higher School of Economics(高等经济学院);Courant Institute and Center for Data Science, New York University(纽约大学库朗研究所与数据科学中心)
贝叶斯推理曾经是神经网络学习的黄金标准,提供准确的完整预测分布和良好校准的不确定性。然而,由于参数空间的高维性,将贝叶斯推理技术扩展到深度神经网络是具有挑战性的。在本文中,我们构造参数空间的低维子空间,如随机梯度下降(SGD)轨迹的第一主成分,其中包含不同的高性能模型集。在这些子空间中,我们能够应用椭圆切片采样和变分推理,这在全参数空间中是很困难的。我们表明,贝叶斯模型平均在这些子空间中的诱导后产生准确的预测和校准预测的不确定性回归和图像分类。
2019-07-17 cs.LG stat.ML
Calibration of Deep Probabilistic Models with Decoupled Bayesian Neural Networks
Universitat Politècnica de València(瓦伦西亚理工大学);Universidad Autónoma de Madrid(马德里自治大学)
深度神经网络(DNN)在许多任务中已经实现了最先进的准确性性能。然而,最近的工作指出,这些模型提供的输出没有得到很好的校准,严重限制了它们在关键决策场景中的使用。在这项工作中,我们建议使用一个解耦的贝叶斯阶段,实现了贝叶斯神经网络(BNN),映射由DNN提供的未校准的概率校准,不断提高校准。我们的研究结果表明,纳入不确定性提供了更可靠的概率模型,实现良好的校准的关键条件。我们报告了在标准化图像分类基准测试中使用高精度DNN的大量实验结果,显示了我们的方法相对于几种最先进的校准方法的良好性能,灵活性和鲁棒性。提供了再现性代码。
2020-02-28 cs.LG stat.ML
On one-sample Bayesian tests for the mean
本文讨论了一种新的贝叶斯方法的标准单样本$z$ -和$t$ -测试。更具体地说,假设$x_1,\ldots,x_n$是来自具有平均值$μ$和方差$σ^2$的正态分布的独立随机样本。目标是针对所有可能的替代方案检验原假设$\mathcal{H}_0: μ=μ_1$。该方法基于使用两个正态分布(以适当方式选择的抽样和假设分布)之间的Kullbak-Leibler散度的著名公式。从先验到后验的距离变化通过相对置信比(证据的度量)进行比较。还考虑了诱导先验、检查先验数据冲突和偏差。该过程的许多理论性质已经被开发出来。与经典方法不同,新方法除了简单之外,还具有支持原假设等吸引人的特点。它还避免了一些不可取的悖论,如林德利悖论,可能会遇到一些现有的贝叶斯方法。通过几个例子说明了这种方法的使用。
2020-03-30 math.ST stat.TH
Cohort Revenue & Retention Analysis: A Bayesian Approach
提出一种结合BART与线性模型的贝叶斯框架,用于队列留存与收入分析,量化不确定性并预测未来。
2025-04-22 stat.AP
Bayesian Neural Network Versus Ex-Post Calibration For Prediction Uncertainty
Monash University(莫纳什大学)
来自神经网络的概率预测在分类期间解释预测不确定性,这在许多现实世界和高影响决策制定设置中是至关重要的。然而,在实践中,大多数数据集都是在非概率神经网络上训练的,默认情况下,这些神经网络不捕获这种固有的不确定性。这个众所周知的问题导致了事后校准程序的发展,例如普拉特缩放(逻辑),等渗和β校准,将分数转换为校准良好的经验概率。校准方法的一个合理替代方案是使用贝叶斯神经网络,它直接对预测分布进行建模。虽然它们已被应用于图像和文本数据集,但它们在表格和小数据领域的应用有限。在本文中,我们证明了贝叶斯神经网络产生竞争力的性能相比,校准的神经网络,并在广泛的数据集进行实验。
2022-09-29 cs.AI cs.LG stat.ML
Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks
University of Tübingen(图宾根大学);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
ReLU分类网络的点估计--可以说是最广泛使用的神经网络架构--已经被证明可以产生远离训练数据的任意高置信度。这种架构,结合最大后验估计方案,因此没有校准,也没有鲁棒性。近似贝叶斯推断已被经验证明,以改善神经网络中的预测不确定性,虽然这种贝叶斯近似的理论分析是有限的。我们从理论上分析了ReLU网络权重的近似高斯分布,并表明它们解决了过度自信问题。此外,我们表明,即使是一个简单的,因此便宜,贝叶斯近似,也解决了这些问题。这表明ReLU网络上校准不确定性的充分条件是“有点贝叶斯”。这些理论结果验证了最后一层贝叶斯近似的使用,并激发了一系列的可靠性成本权衡。我们通过使用常见的深度ReLU网络和拉普拉斯近似的各种标准实验进一步验证了这些发现。
2020-07-17 cs.LG stat.ML