Fact Sheet Research on Bayesian Decision Theory
在这份情况说明书中，我们给出了贝叶斯决策论的一些初步研究结果。这个理论在过去的两年里一直在构建中。但是，一开始作为一个足够直观的想法，现在似乎有更基本的东西的素质。
2015-01-26 math.ST q-fin.GN stat.TH
Likelihood distortion and Bayesian local robustness
ETH Zurich（苏黎世联邦理工学院）；Università della Svizzera italiana（瑞士意大利语大学）；National Research Council of Italy（意大利国家研究委员会）；University of Insubria（因斯布鲁克大学）
提出新的贝叶斯局部稳健性方法，先聚焦似然函数稳健性，后扩展到先验及二者联合，基于扭曲函数概念，该度量易处理计算，推导渐近性质并通过数值实验验证其理论及建模适用性。
2026-07-28 math.ST stat.ME stat.TH
Differences Among Noninformative Stopping Rules Are Often Relevant to Bayesian Decisions
萨维奇曾经希望表明，“表面上不相容的思想体系一方面与[主观贝叶斯主义]有关，另一方面与[古典统计学]有关.互相支持和澄清。然而，到了1972年，他已经基本上“对经典统计学的方法失去了信心”。他发现这些“装置”的一个方面令人反感的是，用于决定何时结束实验的“停止规则“之间的差异从贝叶斯的角度来看是“无信息”的，可能会影响使用经典方法做出的决定。使用不同的停止规则产生相同数据的两个实验，似乎只在实验者的意图上有所不同，即如果数据不同，他们是否会继续进行，这似乎与数据的证据输入无关，因此与数据证明什么行为的事实无关。我认为，古典和贝叶斯关于停止规则的想法实际上确实“互相借”了萨维奇最初希望找到的那种“相互支持和澄清”。他们这样做是在一种科学实践中常见的情况下，在这种情况下，设计实验的人与根据实验结果做出决定的人有不同的利益。我表明，在这种情况下，贝叶斯原理提供了合格的支持经典的统计实践的“惩罚”“有偏见的”停止规则。然而，与传统原则相比，这些原则要求在更窄的范围内实行这一做法，而且原因也不同。我认为，这种做法的经典论点是令人信服的，正是在这类情况下，贝叶斯原则也需要它，因此，我们应该把贝叶斯原则作为澄清经典统计思想的停止规则，而不是相反。
2017-07-01 math.ST stat.TH
Compound decisions and empirical Bayes via Bayesian nonparametrics
University of Chicago（芝加哥大学）
本文通过贝叶斯非参数方法研究高斯序列复合决策问题，证明基于狄利克雷过程的估计器可实现接近最优的懊悔界，并展示后验均值贝叶斯规则的可接受性。
2026-09-10 econ.EM math.ST stat.ME
Dynamic Bayesian Combination of Multiple Imperfect Classifiers
分类器组合方法需要充分利用多个不完美分类器的输出，以实现更高精度的分类。在许多情况下，例如当需要结合人类决策时，基本决策的可靠性可能会有很大差异。这种不确定组合的贝叶斯方法使我们能够推断出个体之间的性能差异，并在训练数据稀疏时结合有关其能力的任何可用先验知识。在本文中，我们探讨贝叶斯分类器组合，使用计算效率的变分贝叶斯推理框架。我们将该方法应用于一个大型公民科学项目Galaxy Zoo Supernovae的真实数据，并表明我们的方法远远优于其他已建立的不完美决策组合方法。我们继续分析假定的社区结构的决策者，根据他们推断的决策策略，并表明自然群体的形成。最后，我们提出了一个动态贝叶斯分类器组合的方法，并调查随着时间的推移在基础分类器的性能变化。
2012-06-08 astro-ph.IM math.ST stat.TH
Robustness of Bayesian ordinal response model against outliers via divergence approach
针对有序响应模型受异常值影响的问题，提出基于密度幂散度和γ-散度的一般后验方法，实现稳健贝叶斯推断，并通过实验验证其优于普通贝叶斯方法。
2023-05-12 math.ST stat.ME stat.TH
On the Statistical Consistency of Risk-Sensitive Bayesian Decision-Making
我们在贝叶斯框架下研究数据驱动的决策问题，其中贝叶斯风险中的期望被风险敏感的熵风险度量所取代。我们专注于计算的后验分布是棘手的问题，在现代应用程序中的一个典型的情况下，大型数据集和复杂的数据生成模型。我们利用熵风险度量的双重表示引入一种新的风险敏感变分贝叶斯（RSVB）框架，用于联合计算风险敏感后验近似和相应的决策规则。建议RSVB框架可以用来提取计算方法做风险敏感的近似贝叶斯推理。我们表明，我们的一般框架包括两个著名的计算方法做近似贝叶斯推理即天真VB和损失校准VB。我们还研究了这些计算近似对推断的决策规则和值的预测性能的影响。我们计算了RSVB近似后验的收敛速度以及相应的最优值和决策规则。我们说明了我们的理论研究结果在参数和非参数设置的帮助下，三个例子：单一和多产品报童模型和高斯过程分类。
2021-09-09 math.OC math.PR math.ST
An Outline of the Bayesian Decision Theory
本文对贝叶斯决策理论作了一个概述。
2015-09-28 stat.OT
Retraining as Approximate Bayesian Inference
本文提出将重新训练视为在计算限制下进行近似贝叶斯推断的方法，通过建立决策理论框架，用基于证据的触发机制替代日历计划，使治理可审计。
2026-03-26 cs.AI math.ST stat.TH
Merging of Bayes and quasi-Bayes empirical Bayes procedures for Poisson compound decisions
University of Torino（都灵大学）；Collegio Carlo Alberto（卡洛·阿尔贝托学院）；Bocconi University（博科尼大学）
研究泊松复合决策问题中贝叶斯与拟贝叶斯经验贝叶斯策略的融合，建立边际概率质量函数的集中速率并证明频率学派融合结果，数值实验显示拟贝叶斯策略在保持精度的同时大幅降低计算成本。
2026-07-07 math.ST stat.ME stat.OT
A Bayesian decision-theoretic approach to sparse estimation
本文扩展了Hahn和Carvalho的工作，提出Bayesian Decoupling方法，通过在决策理论框架内结合贝叶斯正则化与惩罚最小二乘法，采用重加权l1惩罚和后验基准准则，在高维相关预测变量设置中实现了更优的预测和变量选择性能。
2025-01-31 math.ST stat.ME stat.TH
Some comments about James Watson's and Chris Holmes' "Approximate Models and Robust Decisions": Nonparametric Bayesian clay for robust decision bricks
本文讨论了Watson和Holmes（2016）以及他们对更稳健的贝叶斯决策的支持。虽然我们承认并赞扬作者为贝叶斯鲁棒性设定了新的和包罗万象的原则，我们也欣赏这些原则在决策理论参考中的强大锚定，但我们仍然不确定这些原则在多大程度上可以应用于二元决策之外。我们还想知道Kullback-Leibler邻域的最终相关性，以增强鲁棒性，并有利于沿非参数轴的扩展。
2016-04-09 stat.CO stat.ME
Sample Complexity and Decision-Theoretic Guarantees for Bayesian Model Averaging over Decision Trees with Catalan-Exponential Priors
School of Computing and Engineering University of Bedfordshire, Luton, UK（计算与工程学院贝德福德郡大学，卢顿，英国）
针对具有Dirichlet-Multinomial叶模型和Catalan指数树大小先验的贝叶斯决策树，建立了理性承诺阈值的完整非渐近理论，回答了贝叶斯模型平均权重何时蕴含足够认知信息以证明对平均分布的承诺利用是合理的。
2026-06-02 cs.LG stat.ML
Bayesian decision-making under misspecified priors with applications to meta-learning
UC Berkeley（加州大学伯克利分校）；Columbia University（哥伦比亚大学）；Microsoft Research NYC（微软研究院纽约）；Massachusetts Institute of Technology（麻省理工学院）
汤普森采样和其他贝叶斯顺序决策算法是解决（上下文）强盗中探索/利用权衡的最流行方法之一。这些算法中先验的选择提供了对领域知识进行编码的灵活性，但当错误指定时也会导致性能不佳。在本文中，我们证明了性能下降优雅的错误。我们证明了汤普森采样（TS）与一个错误指定的先验知识的预期奖励相差最多$\tilde{\mathcal{O}}(H^2 ε)$从TS与一个良好指定的先验知识，其中$ε$是先验知识之间的总变差距离和$H$是学习视野。我们的界不要求先验具有任何参数形式。对于先验有界支持，我们的界是独立的基数或结构的行动空间，我们表明，它是紧到普遍常数在最坏的情况下。我们的敏感性分析的基础上，我们建立通用PAC保证算法在最近研究的贝叶斯元学习设置和推导推论的各种家庭的先验。我们的结果沿着两个轴进行推广：（1）它们适用于更广泛的贝叶斯决策算法家族，包括知识梯度算法（KG）的蒙特卡罗实现，（2）它们适用于贝叶斯POMDP，最一般的贝叶斯决策设置，包括上下文强盗作为特例。通过数值模拟，我们说明了如何事先错误指定和部署的一步前瞻（如在KG）可以影响的收敛元学习在多武装和上下文土匪结构和相关的先验。
2021-07-03 cs.LG math.ST stat.ML
Bayesian emulation for optimization in multi-step portfolio decisions
本文讨论了金融时间序列中多步投资组合研究的贝叶斯仿真计算方法。“决策的贝叶斯仿真”涉及将决策分析问题的技术结构映射到纯合成“仿真”统计模型中的贝叶斯推断。这提供了访问标准的后验分析，模拟和优化方法，产生决策问题的间接解决方案。我们在时间序列投资组合分析中使用经济和心理相关的多步投资组合效用函数。多变量货币，商品和股票指数时间序列的研究说明了这种方法，并显示了贝叶斯仿真方法的一些实际效用和好处。
2016-07-06 stat.AP stat.ME
A warped kernel improving robustness in Bayesian optimization via random embeddings
该工作扩展了随机嵌入贝叶斯优化方法，通过在协方差核内集成高维子空间的翘曲。所提出的翘曲，依赖于基本的几何考虑，允许减轻高外在维度的缺点，同时避免算法评估点给出多余信息。它还简化了嵌入域的边界选择约束，从而提高了鲁棒性，如具有25个变量和内在维度6的测试用例所示。
2015-03-18 math.OC stat.ML
A Bayesian Application in Judicial Decisions
本文提出了一种新的工具，以支持巴西南里奥格兰德州司法机构关于精神损害赔偿价值的决定。一个贝叶斯方法，以允许分配的裁判官的意见，这种赔偿金额，根据历史价值。该解决方案使用公共数据以自由软件的形式提供，以便将来进行审计。
2019-12-23 stat.AP
Optimal Regret Exponents for Bayesian Statistical Decision Problems
School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院电气工程学院）
研究有限状态有限动作贝叶斯统计决策问题，通过最小化不相容状态子集上的多元Chernoff信息，给出了任意损失函数下最优遗憾的精确指数，并首次得到列表假设检验的精确指数。
2026-06-08 cs.IT math.IT math.ST
SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules
Texas A&M University（德克萨斯农工大学）；University of Cincinnati（辛辛那提大学）；Shell International Exploration and Production Inc（壳牌国际勘探与生产公司）
针对标准决策树单变量确定性分裂规则难以捕捉复杂决策边界的问题，提出采用自适应软半多变量分裂规则的SBAMDT概率加性决策树模型，可适配不同平滑度，经多数据集对比验证了其实用性。
2025-01-17 cs.LG math.ST stat.ME
A Bayesian Decision Tree Algorithm
UBS（瑞银集团（UBS））
贝叶斯决策树以其概率可解释性而闻名。然而，它们的建造有时可能是昂贵的。在这篇文章中，我们提出了一个通用的贝叶斯决策树算法适用于回归和分类问题。该算法不应用马尔可夫链蒙特卡罗，不需要修剪步骤。虽然可以构造一个加权概率树空间，但我们发现一个特定的树，贪婪模态树（GMT），解释了数值示例中包含的大部分信息。这种方法似乎与随机森林类似。
2020-09-22 cs.LG stat.ML
The Effect of Prior Lipschitz Continuity on the Adversarial Robustness of Bayesian Neural Networks
University of Oxford（牛津大学）；Oxford-Man Institute（牛津-曼学院）
机器学习模型对对抗性攻击具有鲁棒性是理想的，并且通常是必要的。贝叶斯模型尤其如此，因为它们非常适合安全关键型应用，在这些应用中，对抗性攻击可能会产生灾难性的后果。在这项工作中，我们深入研究了贝叶斯神经网络（BNN）的对抗鲁棒性。特别是，我们考虑BNN的对抗鲁棒性是否可以通过模型选择来增加，特别是由先验引起的Lipschitz连续性。对i.i.d.的案例进行深入分析，零均值高斯先验和后验近似通过平均场变分推断，我们发现证据表明，对抗鲁棒性确实是敏感的先验方差。
2021-01-07 cs.LG stat.ML
Bayesian Model Robustness via Disparities
本文提出了一种方法，通过使用的差距强大的贝叶斯推断。Hellinger距离和负指数视差等参数在频率论推断的稳健估计中有着悠久的历史。我们证明了一个等价的鲁棒性可以在贝叶斯推断通过取代一个适当的缩放的差距的对数可能性，其中标准的蒙特卡罗马尔可夫链方法可以应用。最小差异方法的一个特别吸引人的特性是，虽然它们在1/2的崩溃点下产生鲁棒性，但当假设的概率模型正确时，所得参数估计也是有效的。我们证明了一个类似的属性持有基于概率的贝叶斯推断。我们进一步表明，在贝叶斯设置，它也可以扩展这些方法，以robustify回归模型，随机效应分布和其他层次模型。这些方法在真实世界的数据上得到了证明。
2012-11-26 stat.ME
Bayesian Robustness to Outliers in Linear Regression and Ratio Estimation
整体鲁棒性是统计模型的一个很好的属性。这意味着当离群值接近正负无穷大时，其影响逐渐消失。到目前为止，贝叶斯文献提供的结果，确保整体的鲁棒性的位置-尺度模型。在本文中，我们做了两个贡献。首先，我们推广的结果，以达到整个鲁棒性在简单的线性回归通过原点，这是一个必要的步骤，一般的线性回归模型的结果。我们允许误差项的方差依赖于解释变量。这种灵活性导致的第二个贡献：我们提供了一个简单的贝叶斯方法来鲁棒地估计有限的人口手段和比率。由于采用了超重尾分布假设代替了传统的误差项正态假设，因此获得全局鲁棒性的策略很简单。因此，用户可以像往常一样使用后验分布估计参数。
2018-08-12 stat.ME
Duality between Approximate Bayesian Methods and Prior Robustness
在本文中，我们表明，有一个近似贝叶斯方法和先验鲁棒性之间的联系。我们表明，通常被认为是近似的可能性，无论是由于模拟数据的近似贝叶斯计算（ABC）方法或由于功能近似的可能性，而不是也可以被视为一个隐含的演习之前的鲁棒性。我们首先定义两个新的类的先验的情况下，有足够的统计数据，建立其数学性质和显示，一个简单的说明性的例子，这些类的先验也可以用来获得后验分布，将通过实施ABC。然后，我们概括和定义两个进一步类的先验，适用于非常一般的情况下，一个充分统计量是不可用的，另一个地方的可能性近似使用函数逼近。然后，我们讨论的解释和启发方面提出的类，以及它们的潜在应用和可能的计算效益。这些类建立了近似贝叶斯推断和先验鲁棒性之间的对偶性，用于广泛的贝叶斯推断方法。
2020-04-02 stat.ME
Bayesian Decision Making in Groups is Hard
Massachusetts Institute of Technology（麻省理工学院）
我们研究贝叶斯代理在网络上交换意见时进行的计算。代理人的行为反复对他们的私人信息，并采取短视的行动，最大化他们的预期效用根据一个完全理性的后验信念。我们表明，这样的计算是NP-困难的两个自然的效用函数：一个与二进制的行动，和另一个代理揭示他们的后验信念。事实上，我们证明了区分集中在世界不同状态的后验是NP困难的。因此，即使近似贝叶斯后验信念也很困难。我们还描述了一个自然的搜索算法来计算代理的行动，我们称之为消除不可能的信号，并表明，如果网络是可传递的，该算法可以修改为在多项式时间内运行。
2019-07-27 cs.CC cs.LG cs.MA
Scalable Decisions using a Bayesian Decision-Theoretic Approach
Amazon.com, Inc.（亚马逊公司）；Stanford University（斯坦福大学）
本文提出一种贝叶斯决策理论框架，通过整合多个目标和权衡，实现更高效和可扩展的决策制定。
2026-01-27 stat.AP stat.ME
Bayesian A/B Testing for Business Decisions
受控实验（A/B测试或随机现场实验）是在实施更改和观察客户响应时做出数据驱动决策的事实标准。分析这些实验的方法应该易于产品和营销经理等利益相关者理解。贝叶斯推断最近获得了很大的普及，在A/B测试方面，一个关键的论点是易于解释。对于涉众来说，“最佳概率”（以及相应的可信区间）提供了一个自然的度量来做出业务决策。在本文中，我们激发了企业主通常具有的典型问题以及如何用贝叶斯方法回答这些问题。我们介绍了我们公司中常见的三个实验场景，它们是如何以贝叶斯方式建模的，以及如何使用模型来绘制业务决策。对于每个场景，我们都提出了一个真实的实验，结果和最终的商业决策。
2020-03-05 stat.AP
Variational Bayesian Decision-making for Continuous Utilities
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯决策理论概述了一个严格的框架，使最佳决策的基础上最大限度地提高预期效用的模型后验。然而，从业者往往没有获得完整的后验和诉诸近似推理策略。在这种情况下，在执行推理时考虑最终的决策任务允许校准后验近似以最大化效用。我们提出了一个自动流水线，co-opts连续效用到变分推断算法，占决策。我们提供了实用的策略，近似和最大化的增益，并根据经验证明一致的改进时，校准近似特定的实用程序。
2019-10-27 cs.LG stat.ML
Bayesian decision theory for wildlife management under uncertainty: from inference to action
CEFE, Univ Montpellier, CNRS, EPHE, IRD（法国国家科学研究中心生态与功能演化中心）；University of California, Berkeley（加州大学伯克利分校）
本文提出基于贝叶斯决策理论的实用工作流程，通过两个案例展示如何在不确定性下平衡生态、经济和社会目标，提升管理决策的透明度和可重复性。
2026-08-26 stat.AP
Assessing the Robustness of Bayesian Dark Knowledge to Posterior Uncertainty
College of Information and Computer Sciences, University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校信息与计算机科学学院）
贝叶斯暗知识是一种用于将神经网络模型的后验预测分布压缩成更紧凑形式的方法。具体而言，该方法试图将参数后验的Monte Carlo近似压缩到表示后验预测分布的单个网络中。此外，作者表明，这种方法在使用学生网络的分类设置中是成功的，该学生网络的架构与教师集成中的单个网络相匹配。在这项工作中，我们研究了贝叶斯暗知识对更高水平的后验不确定性的鲁棒性。我们表明，使用与教师架构相匹配的学生网络可能无法产生可接受的性能。我们研究了一种方法，通过增加学生模型容量来缩小由此产生的性能差距。
2019-06-10 cs.LG stat.ML
Bayesian reliability acceptance sampling plans for competing risks data under interval censoring
Indian Statistical Institute（印度统计研究所）
本文针对区间删失的独立竞争风险数据，利用贝叶斯方法及MLE渐近性质构建并优化可靠性验收抽样计划，给出算法与数值比较。
2025-10-19 stat.AP
Decision Theory and Large Deviations for Dynamical Hypotheses Tests: Neyman-Pearson, Min-Max and Bayesian Tests
我们分析假设检验使用经典的结果大偏差比较两个模型，每一个描述了不同的Hölder吉布斯概率测度。与决策论中的经典假设检验的一个主要区别是，这里的两个度量相对于彼此是奇异的。在其他目标中，我们感兴趣的是当样本量$n$趋于无穷大时，错误决策概率的衰减率。我们展示了一个动态版本的内曼-皮尔逊引理显示理想的测试在某一类类似的测试。当样本量达到无穷大时，与其他替代检验相比，该检验呈指数级更好。我们能够提出明确的指数衰减率。我们还考虑了Min-Max和某种类型的贝叶斯假设检验。我们将使用热力学形式主义的几种工具，在对数似然框架中考虑这些检验。还介绍了Stein引理的版本和Bauffff的信息。
2021-12-27 cond-mat.stat-mech math-ph math.DS
Adversarial robustness of amortized Bayesian inference
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
研究摊销贝叶斯推断的对抗鲁棒性，发现微小观测扰动会导致后验剧烈变化，提出基于Fisher信息惩罚的高效正则化方案以提升鲁棒性。
2023-05-24 cs.LG stat.ML
Interaction Detection with Bayesian Decision Tree Ensembles
基于贝叶斯决策树集成的方法已被证明在构建高质量预测方面很有价值，并且在某些设置中特别有吸引力，因为它们鼓励低阶交互效应。尽管为了预测的目的而适应低阶相互作用的存在，我们表明贝叶斯决策树集合通常是反保守的，以进行相互作用检测。我们通过引入狄利克雷过程森林（DP森林）来解决这个问题，该森林通过对树进行聚类来利用低阶相互作用的存在，从而使同一聚类内的树专注于检测特定的相互作用。我们在模拟和基准数据上表明，相对于现有的用于检测低阶相互作用的相互作用检测技术，DP森林表现良好，获得了非常低的假阳性和假阴性率，同时使用可比的计算预算保持相同的预测性能。
2018-09-23 stat.ME
Statistical Guarantees for the Robustness of Bayesian Neural Networks
University of Oxford（牛津大学）；Royal Holloway University of London（伦敦大学皇家霍洛威学院）
我们引入了一个概率鲁棒性贝叶斯神经网络（BNN）的措施，定义为概率，给定一个测试点，有界集内存在一个点，使BNN预测两者之间的差异。例如，这种度量可以用来量化对抗性示例存在的概率。基于概率模型的统计验证技术，我们开发了一个框架，允许我们估计具有统计保证的BNN的概率鲁棒性，即，具有先验误差和置信界限。我们提供了实验比较几个近似BNN推理技术的图像分类任务与MNIST和两个类的GTSRB数据集的子集。我们的研究结果使BNN预测在对抗环境中的不确定性量化成为可能。
2019-03-05 cs.CV cs.LG stat.ML
Bayesian Networks, Total Variation and Robustness
现在贝叶斯网络（BN）已经得到了广泛的应用，人们正在认识到某些目标变量的敏感性和鲁棒性对模型变化的重要性。当时间资源有限时，这些问题直接影响BN的复杂性水平以及我们能够得出的缺失概率的数量。目前，大多数这样的分析是在整个BN被引出后进行的，并且基于Kullback-Leibler信息测量。在本文中，我们认为，鲁棒性方法的基础上，而不是熟悉的全变差距离提供了简单的和更有用的界限，鲁棒性的误指定，这是形式上合理的和透明的。我们演示了如何在构建BN的过程中嵌入这种正式的鲁棒性考虑。在这里，我们关注建模者需要做出的两个特定选择：每个节点的父节点的选择和为系统中的每个变量选择的水平数。我们的分析说明了整个使用两个BN从最近的文献。
2018-11-17 stat.ME
Attacking Bayes: On the Adversarial Robustness of Bayesian Neural Networks
New York University（纽约大学）
本文通过三类任务上的攻击实验，证明贝叶斯神经网络及其不确定性预测流程并不天然具备对抗鲁棒性，并纠正了先前工作中的概念与实验错误。
2024-04-27 cs.AI cs.CV cs.LG
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）
贝叶斯模型量化不确定性，并促进下游应用的最佳决策。然而，对于大多数模型，从业者被迫使用近似推理技术，由于不正确的后验预测分布，导致次优决策。我们提出了一种新的方法，通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型，使最佳决策下的近似后验，结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序，无论后验推理策略。我们证明了经验的方法在几个问题，确认其潜力。
2019-09-11 cs.LG stat.ML
Post-hoc loss-calibration for Bayesian neural networks
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；IBM Research（IBM研究院）
贝叶斯决策理论提供了一个优雅的框架下采取最佳行动的不确定性时，易于处理的后验分布。然而，现代贝叶斯模型通常涉及难以处理的后验，这些后验是用可能是粗糙的替代品近似的。这种困难产生了损失校准技术，旨在学习有利于高效用决策的后验近似。在本文中，专注于贝叶斯神经网络，我们开发的方法来纠正近似后验预测分布，鼓励他们喜欢高效用的决定。与以前的工作相比，我们的方法是不可知的近似推理算法的选择，允许有效的测试时间决策，通过摊销，并根据经验产生更高质量的决策。我们通过跨越各种任务和数据集的对照实验证明了我们方法的有效性。
2021-06-13 cs.LG stat.ML
Local and global robustness in conjugate Bayesian analysis
研究了共轭先验扰动对贝叶斯推断的影响。一个扰动前定义在一个更大的家庭，局部混合模型，后验推理的效果进行了研究。该扰动在某种意义上推广了\cite{Gustafson1996}中研究的线性扰动。它是直观的，自然规范化，是灵活的统计应用。考虑了全局和局部敏感性分析。采用几何方法优化灵敏度方向函数、后验均值差和后验预测模型间的发散函数。所有的灵敏度测度函数都定义在一个具有非平凡边界的凸空间上，该凸空间是一个光滑流形。
2015-08-31 stat.AP stat.CO stat.ME
Reconciling Bayesian and frequentist approaches to robustness against outliers
Université de Montréal（蒙特利尔大学）；Université du Québec à Montréal（蒙特利尔魁北克大学）
本文通过广义贝叶斯框架弥合贝叶斯与频数派在抗异常值方法上的差异，使两者能够使用相同工具并获得一致结果。
2026-07-24 stat.ME
Object-oriented Bayesian networks for a decision support system for antitrust enforcement
Università Roma Tre（罗马第三大学）；Università di Bologna（博洛尼亚大学）
我们研究的经济决策问题的演员是两个公司和反垄断机构，其主要任务是监测和防止公司的潜在的反竞争行为及其对市场的影响。反托拉斯管理局的决策过程是使用贝叶斯网络模型的关系结构和模型的参数估计从管理局本身提供的数据集。一些影响这一决策过程的经济变量也包括在模型中。我们分析了反垄断机构的监督如何影响企业的合作战略。企业的战略建模为一个重复的囚徒困境，使用面向对象的贝叶斯网络。我们展示了如何整合企业的决策过程和外部市场信息，可以用这种方式建模。各种决策方案和战略说明。
2013-12-06 cs.AI stat.AP
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University（统计系，维萨-巴哈蒂大学）；S. N. Bose National Centre for Basic Sciences（S. N. Bose基础科学国家中心）
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题，本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架，经多数据集验证可输出校准风险、优化模型性能，支撑流行病学决策。
2025-11-15 cs.LG stat.ML
Robustness Guarantees for Bayesian Inference with Gaussian Processes
University of Oxford（牛津大学）；Microsoft Research Cambridge（微软剑桥研究院）
贝叶斯推理和高斯过程被广泛用于从机器人和控制到生物系统的应用中。这些应用中有许多是安全关键的，需要与学习模型相关的不确定性的表征及其预测的正式保证。在本文中，我们定义了一个鲁棒性措施贝叶斯推理对输入扰动，给出的概率，测试点和一个紧凑的集在输入空间包含测试点，学习模型的预测将保持$δ-$接近所有的点在集合中，对于$δ>0.$这样的措施可以用来提供正式的保证，没有对抗性的例子。通过采用高斯过程的理论，我们推导出严格的上界所产生的鲁棒性，利用Borell-TIS不等式，并提出算法计算。我们在两个例子上评估了我们的技术，一个GP回归问题和一个完全连接的深度神经网络，在那里我们依赖于对GP的弱收敛来研究MNIST数据集上的对抗性例子。
2018-10-24 cs.LG stat.ML
Decision Making under Model Misspecification: DRO with Robust Bayesian Ambiguity Sets
University of Warwick（华威大学）
本文提出DRO-RoBAS方法，通过以鲁棒后验预测分布为中心的最大均值差异模糊集处理模型误设问题，在报童和投资组合问题上取得优于现有贝叶斯及经验DRO方法的样本外表现。
2025-05-06 cs.LG stat.ML
Long-tailed Classification from a Bayesian-decision-theory Perspective
Purdue University（普渡大学）
长尾分类是一个挑战，因为它的严重不平衡的类概率和尾部敏感性风险与不对称的错误预测成本。最近的尝试使用了重新平衡损失和集成方法，但它们在很大程度上是启发式的，严重依赖于经验结果，缺乏理论解释。此外，现有的方法忽略了决策损失，其特征在于与尾类相关的不同成本。本文从贝叶斯决策理论的角度提出了一个一般性和原则性的框架，它统一了现有的技术，包括再平衡和集成方法，并提供了理论证明，他们的有效性。从这个角度来看，我们得到一个新的目标的基础上的综合风险和贝叶斯深度集成方法，以提高所有类的准确性，特别是“尾巴”。此外，我们的框架允许任务自适应决策损失，提供可证明的最佳决策，在不同的任务场景，以及量化不确定性的能力。最后，我们进行了全面的实验，包括标准分类，尾部敏感的分类与一个新的假头率度量，校准，和消融研究。我们的框架显着改进了当前的SOTA，即使是在像ImageNet这样的大规模真实世界数据集上。
2023-03-21 cs.CV cs.LG stat.ML
RJHMC-Tree for Exploration of the Bayesian Decision Tree Posterior
本文提出RJHMC-Tree方法，利用哈密顿蒙特卡洛结合似然几何结构高效探索贝叶斯决策树后验，并在标准数据集上验证其在预测准确率、接受率和树复杂度方面的优势。
2023-12-04 cs.LG stat.CO stat.ML
Estimating the Sampling Distribution of Posterior Decision Summaries in Bayesian Clinical Trials
本文提出利用后验分布大样本理论建立后验决策摘要抽样分布的参数模型，通过少量模拟场景估计参数，从而在纳入试验假设不确定性的同时显著降低贝叶斯临床试验设计的计算负担。
2024-04-28 stat.ME
Measuring the robustness of the journal h-index with respect to publication and citation values: A Bayesian sensitivity analysis
Braun et al.（2006）建议使用h指数作为期刊影响因子（IF）的替代方法来评定期刊。本文利用数学模型对期刊h指数对期刊发表/被引数变化的影响进行了基于贝叶斯的敏感性分析。h指数的敏感性对于引文数量的变化最为明显，几乎所有模型都显示出类似的行为模式，并且独立于研究领域。一般来说，h指数被发现对引用分布的第25个百分位数的引用变化具有鲁棒性，之后会膨胀其值。
2017-08-25 stat.AP
Targeted Active Learning for Bayesian Decision-Making
Aalto University（阿尔托大学）；University of Manchester（曼彻斯特大学）
在监督学习中，主动学习通常用于获取信息数据点的标签，以样本有效的方式最大限度地提高准确性。然而，当结果用于决策时，例如在个性化医疗或经济学中，最大限度地提高准确性并不是最终目标。我们认为，当连续获取样本时，分离学习和决策是次优的，我们引入了一个主动学习策略，该策略考虑到了线下决策问题。具体来说，我们引入了一种新的主动学习标准，最大限度地提高预期的信息增益的后验分布的最优决策。我们将我们的目标主动学习策略与模拟和真实数据上的现有替代方案进行了比较，并在决策准确性方面表现出更好的性能。
2021-10-20 cs.AI cs.LG stat.ML
GS-BART: Bayesian Additive Regression Trees with Graph-split Decision Rules
GS-BART提出一种基于图分裂规则的贝叶斯加性决策树方法，通过编码图拓扑信息并设计可扩展MCMC算法，在空间和网络数据回归与分类中优于传统集成树和高斯过程模型。
2025-09-08 stat.ME
Top-down particle filtering for Bayesian decision trees
University College London（伦敦大学学院）；University of Cambridge（剑桥大学）；University of Oxford（牛津大学）
决策树学习是机器学习和统计学中分类和回归的一种流行方法，贝叶斯公式--在决策树上引入先验分布，并将学习公式化为给定数据的后验推理--已被证明具有竞争力的性能。与以自上而下方式工作的经典决策树学习算法如ID 3、C4.5和CART不同，现有贝叶斯算法通过经由对树的结构的局部蒙特卡罗修改迭代地演化完整树（或其集合）来产生对后验分布的近似，例如，使用马尔可夫链蒙特卡罗（MCMC）。我们提出了一个序贯蒙特卡罗（SMC）算法，而不是工作在一个自上而下的方式，模仿经典算法的行为和速度。我们的经验表明，我们的方法提供的准确性相比，最流行的MCMC方法，但操作速度超过一个数量级，因此代表了一个更好的计算精度权衡。
2013-08-22 cs.LG stat.ML
Embedded Bayesian Network Classifiers
Microsoft Research（微软研究院）；Microsoft Corporation（微软公司）
贝叶斯网络中局部分布函数的低维概率模型包括决策树、决策图和因果独立模型。我们描述了一个新的概率模型的离散贝叶斯网络，我们称之为嵌入式贝叶斯网络分类器或EBNC。给定父节点$\bf X$的节点$Y$的模型从用于$Y$和$\bf X$的（通常不同的）贝叶斯网络获得，其中$\bf X$不需要是$Y$的父节点。我们证明了EBNC是softmax多项式回归模型的一个特例。此外，我们将展示如何识别一个EBNC的非冗余参数集，并描述了一个渐近近似学习的贝叶斯网络，包含EBNC的结构。与决策树、决策图和因果独立模型不同，我们不知道使用这些模型的语义理由。需要实验来确定本文提出的模型是否在实践中是有用的。
2019-10-22 cs.AI cs.LG stat.ML
Total robustness in Bayesian Nonlinear Regression
University of Warwick（华威大学）；University College London（伦敦大学学院）
本文提出首个针对非线性回归中协变量测量误差、模型误设和误差分布误设的总稳健性贝叶斯非参数学习框架，通过联合狄利克雷过程先验和后验伪样本实现推断校准，建立泛化界并证明在非退化测量误差下的收敛性与一致性。
2026-03-24 stat.ME stat.ML
