Bayesian emulation for optimization in multi-step portfolio decisions
本文讨论了金融时间序列中多步投资组合研究的贝叶斯仿真计算方法。“决策的贝叶斯仿真”涉及将决策分析问题的技术结构映射到纯合成“仿真”统计模型中的贝叶斯推断。这提供了访问标准的后验分析,模拟和优化方法,产生决策问题的间接解决方案。我们在时间序列投资组合分析中使用经济和心理相关的多步投资组合效用函数。多变量货币,商品和股票指数时间序列的研究说明了这种方法,并显示了贝叶斯仿真方法的一些实际效用和好处。
2016-07-06 stat.AP stat.ME
An Outline of the Bayesian Decision Theory
本文对贝叶斯决策理论作了一个概述。
2015-09-28 stat.OT
Fact Sheet Research on Bayesian Decision Theory
在这份情况说明书中,我们给出了贝叶斯决策论的一些初步研究结果。这个理论在过去的两年里一直在构建中。但是,一开始作为一个足够直观的想法,现在似乎有更基本的东西的素质。
2015-01-26 math.ST q-fin.GN stat.TH
A Bayesian Application in Judicial Decisions
本文提出了一种新的工具,以支持巴西南里奥格兰德州司法机构关于精神损害赔偿价值的决定。一个贝叶斯方法,以允许分配的裁判官的意见,这种赔偿金额,根据历史价值。该解决方案使用公共数据以自由软件的形式提供,以便将来进行审计。
2019-12-23 stat.AP
Compound decisions and empirical Bayes via Bayesian nonparametrics
University of Chicago(芝加哥大学)
本文通过贝叶斯非参数方法研究高斯序列复合决策问题,证明基于狄利克雷过程的估计器可实现接近最优的懊悔界,并展示后验均值贝叶斯规则的可接受性。
2026-09-10 econ.EM math.ST stat.ME
Decision-theoretic justifications for Bayesian hypothesis testing using credible sets
在贝叶斯统计中,精确点原假设$θ=θ_0$可以通过检查$θ_0$是否包含在可信集中来检验.这允许测试$θ=θ_0$,而不必对假设施加先验概率。虽然这种可信集的反演在贝叶斯推理中有很长的历史,但它们因缺乏决策理论的理由而受到批评。我们认为,这些测试有许多优势,比标准的贝叶斯检验,使用点质量概率的原假设。通过研究一个具有方向性结论的三判定问题,我们给出了中心可信区间的反演的决策理论证明,并在一个特殊情况下证明了HPD集。通过解释证明中所使用的损失函数,讨论了基于可信集的检验在什么情况下适用。然后,我们给出了一些理由,使用可信集测试复合假设时,可信集的基础上,在这种情况下,测试符合标准测试。
2012-12-17 math.ST stat.TH
Bayesian Decision Making in Groups is Hard
Massachusetts Institute of Technology(麻省理工学院)
我们研究贝叶斯代理在网络上交换意见时进行的计算。代理人的行为反复对他们的私人信息,并采取短视的行动,最大化他们的预期效用根据一个完全理性的后验信念。我们表明,这样的计算是NP-困难的两个自然的效用函数:一个与二进制的行动,和另一个代理揭示他们的后验信念。事实上,我们证明了区分集中在世界不同状态的后验是NP困难的。因此,即使近似贝叶斯后验信念也很困难。我们还描述了一个自然的搜索算法来计算代理的行动,我们称之为消除不可能的信号,并表明,如果网络是可传递的,该算法可以修改为在多项式时间内运行。
2019-07-27 cs.CC cs.LG cs.MA
On the Statistical Consistency of Risk-Sensitive Bayesian Decision-Making
我们在贝叶斯框架下研究数据驱动的决策问题,其中贝叶斯风险中的期望被风险敏感的熵风险度量所取代。我们专注于计算的后验分布是棘手的问题,在现代应用程序中的一个典型的情况下,大型数据集和复杂的数据生成模型。我们利用熵风险度量的双重表示引入一种新的风险敏感变分贝叶斯(RSVB)框架,用于联合计算风险敏感后验近似和相应的决策规则。建议RSVB框架可以用来提取计算方法做风险敏感的近似贝叶斯推理。我们表明,我们的一般框架包括两个著名的计算方法做近似贝叶斯推理即天真VB和损失校准VB。我们还研究了这些计算近似对推断的决策规则和值的预测性能的影响。我们计算了RSVB近似后验的收敛速度以及相应的最优值和决策规则。我们说明了我们的理论研究结果在参数和非参数设置的帮助下,三个例子:单一和多产品报童模型和高斯过程分类。
2021-09-09 math.OC math.PR math.ST
Some comments about James Watson's and Chris Holmes' "Approximate Models and Robust Decisions": Nonparametric Bayesian clay for robust decision bricks
本文讨论了Watson和Holmes(2016)以及他们对更稳健的贝叶斯决策的支持。虽然我们承认并赞扬作者为贝叶斯鲁棒性设定了新的和包罗万象的原则,我们也欣赏这些原则在决策理论参考中的强大锚定,但我们仍然不确定这些原则在多大程度上可以应用于二元决策之外。我们还想知道Kullback-Leibler邻域的最终相关性,以增强鲁棒性,并有利于沿非参数轴的扩展。
2016-04-09 stat.CO stat.ME
Sample Complexity and Decision-Theoretic Guarantees for Bayesian Model Averaging over Decision Trees with Catalan-Exponential Priors
School of Computing and Engineering University of Bedfordshire, Luton, UK(计算与工程学院贝德福德郡大学,卢顿,英国)
针对具有Dirichlet-Multinomial叶模型和Catalan指数树大小先验的贝叶斯决策树,建立了理性承诺阈值的完整非渐近理论,回答了贝叶斯模型平均权重何时蕴含足够认知信息以证明对平均分布的承诺利用是合理的。
2026-06-02 cs.LG stat.ML
Scalable Decisions using a Bayesian Decision-Theoretic Approach
Amazon.com, Inc.(亚马逊公司);Stanford University(斯坦福大学)
本文提出一种贝叶斯决策理论框架,通过整合多个目标和权衡,实现更高效和可扩展的决策制定。
2026-01-27 stat.AP stat.ME
Optimal Visual Search with Highly Heuristic Decision Rules
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究探讨人类隐蔽视觉搜索的决策过程,发现其表现略优于贝叶斯最优水平,通过启发式决策规则、中央凹忽视的局部影响及空间相关神经噪声三个因素解释该悖论,为视觉搜索机制提供新见解。
2025-02-10 cs.CV q-bio.NC stat.AP
Bayesian A/B Testing for Business Decisions
受控实验(A/B测试或随机现场实验)是在实施更改和观察客户响应时做出数据驱动决策的事实标准。分析这些实验的方法应该易于产品和营销经理等利益相关者理解。贝叶斯推断最近获得了很大的普及,在A/B测试方面,一个关键的论点是易于解释。对于涉众来说,“最佳概率”(以及相应的可信区间)提供了一个自然的度量来做出业务决策。在本文中,我们激发了企业主通常具有的典型问题以及如何用贝叶斯方法回答这些问题。我们介绍了我们公司中常见的三个实验场景,它们是如何以贝叶斯方式建模的,以及如何使用模型来绘制业务决策。对于每个场景,我们都提出了一个真实的实验,结果和最终的商业决策。
2020-03-05 stat.AP
Bayesian decision theory for wildlife management under uncertainty: from inference to action
CEFE, Univ Montpellier, CNRS, EPHE, IRD(法国国家科学研究中心生态与功能演化中心);University of California, Berkeley(加州大学伯克利分校)
本文提出基于贝叶斯决策理论的实用工作流程,通过两个案例展示如何在不确定性下平衡生态、经济和社会目标,提升管理决策的透明度和可重复性。
2026-08-26 stat.AP
Value of information from vibration-based structural health monitoring extracted via Bayesian model updating
量化从结构健康监测(SHM)系统中提取的信息的价值是说服决策者实施这些系统的重要一步。我们量化这个值的贝叶斯决策分析框架的适应。与以往的工作相比,我们详细的模型的数据生成到处理,模型更新和可靠度计算的整个过程,并调查它在一个日益恶化的桥梁系统。该框架假设动态响应数据是以顺序的方式从部署的加速度计中获得的,随后通过仅输出的操作模态分析方案进行处理,以识别系统的模态特性。我们采用了经典的贝叶斯模型更新方法,顺序学习的恶化和估计的结构损伤随时间的演变。这将导致连续更新的结构可靠性,这构成了前验贝叶斯决策分析的基础。替代行动的定义和一个基于进化论的方法是采用生命周期优化。通过解决前验贝叶斯决策分析,人们能够量化长期SHM振动数据的可用性的好处。数值研究表明,该框架可以提供定量的措施,在特定的决策背景下的SHM系统的最优性。
2021-03-12 cs.SY eess.SY stat.AP
Bayesian reliability acceptance sampling plans for competing risks data under interval censoring
Indian Statistical Institute(印度统计研究所)
本文针对区间删失的独立竞争风险数据,利用贝叶斯方法及MLE渐近性质构建并优化可靠性验收抽样计划,给出算法与数值比较。
2025-10-19 stat.AP
Dynamic Bayesian Combination of Multiple Imperfect Classifiers
分类器组合方法需要充分利用多个不完美分类器的输出,以实现更高精度的分类。在许多情况下,例如当需要结合人类决策时,基本决策的可靠性可能会有很大差异。这种不确定组合的贝叶斯方法使我们能够推断出个体之间的性能差异,并在训练数据稀疏时结合有关其能力的任何可用先验知识。在本文中,我们探讨贝叶斯分类器组合,使用计算效率的变分贝叶斯推理框架。我们将该方法应用于一个大型公民科学项目Galaxy Zoo Supernovae的真实数据,并表明我们的方法远远优于其他已建立的不完美决策组合方法。我们继续分析假定的社区结构的决策者,根据他们推断的决策策略,并表明自然群体的形成。最后,我们提出了一个动态贝叶斯分类器组合的方法,并调查随着时间的推移在基础分类器的性能变化。
2012-06-08 astro-ph.IM math.ST stat.TH
Covariate balance under Bayesian decision theory
本文在贝叶斯线性模型下推导同时依赖样本量与协变量均值平衡的贝叶斯风险,刻画最优处理-对照分配及等分配最优条件,并扩展至序贯患者到达场景。
2025-09-01 math.ST stat.TH
A Bayesian Decision Tree Algorithm
UBS(瑞银集团(UBS))
贝叶斯决策树以其概率可解释性而闻名。然而,它们的建造有时可能是昂贵的。在这篇文章中,我们提出了一个通用的贝叶斯决策树算法适用于回归和分类问题。该算法不应用马尔可夫链蒙特卡罗,不需要修剪步骤。虽然可以构造一个加权概率树空间,但我们发现一个特定的树,贪婪模态树(GMT),解释了数值示例中包含的大部分信息。这种方法似乎与随机森林类似。
2020-09-22 cs.LG stat.ML
Merging of Bayes and quasi-Bayes empirical Bayes procedures for Poisson compound decisions
University of Torino(都灵大学);Collegio Carlo Alberto(卡洛·阿尔贝托学院);Bocconi University(博科尼大学)
研究泊松复合决策问题中贝叶斯与拟贝叶斯经验贝叶斯策略的融合,建立边际概率质量函数的集中速率并证明频率学派融合结果,数值实验显示拟贝叶斯策略在保持精度的同时大幅降低计算成本。
2026-07-07 math.ST stat.ME stat.OT
Object-oriented Bayesian networks for a decision support system for antitrust enforcement
Università Roma Tre(罗马第三大学);Università di Bologna(博洛尼亚大学)
我们研究的经济决策问题的演员是两个公司和反垄断机构,其主要任务是监测和防止公司的潜在的反竞争行为及其对市场的影响。反托拉斯管理局的决策过程是使用贝叶斯网络模型的关系结构和模型的参数估计从管理局本身提供的数据集。一些影响这一决策过程的经济变量也包括在模型中。我们分析了反垄断机构的监督如何影响企业的合作战略。企业的战略建模为一个重复的囚徒困境,使用面向对象的贝叶斯网络。我们展示了如何整合企业的决策过程和外部市场信息,可以用这种方式建模。各种决策方案和战略说明。
2013-12-06 cs.AI stat.AP
Variational Bayesian Decision-making for Continuous Utilities
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);University of Helsinki(赫尔辛基大学)
贝叶斯决策理论概述了一个严格的框架,使最佳决策的基础上最大限度地提高预期效用的模型后验。然而,从业者往往没有获得完整的后验和诉诸近似推理策略。在这种情况下,在执行推理时考虑最终的决策任务允许校准后验近似以最大化效用。我们提出了一个自动流水线,co-opts连续效用到变分推断算法,占决策。我们提供了实用的策略,近似和最大化的增益,并根据经验证明一致的改进时,校准近似特定的实用程序。
2019-10-27 cs.LG stat.ML
SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules
Texas A&M University(德克萨斯农工大学);University of Cincinnati(辛辛那提大学);Shell International Exploration and Production Inc(壳牌国际勘探与生产公司)
针对标准决策树单变量确定性分裂规则难以捕捉复杂决策边界的问题,提出采用自适应软半多变量分裂规则的SBAMDT概率加性决策树模型,可适配不同平滑度,经多数据集对比验证了其实用性。
2025-01-17 cs.LG math.ST stat.ME
Bayesian Optimization for Multi-objective Optimization and Multi-point Search
Kobe Steel, Ltd.(神户制钢所);The Institute of Statistical Mathematics(统计数理研究所);RIKEN AIP(理化学研究所AIP)
贝叶斯优化是一种有效的方法,以有效地优化未知的目标函数,高评价成本。传统的贝叶斯优化算法对单目标函数每次迭代选择一个点,而近年来,人们提出了多目标优化的贝叶斯优化或每次迭代多点搜索。然而,目前还没有一种非启发式的贝叶斯优化方法能够同时处理这两种问题。提出了一种能够同时处理多目标优化和多点搜索的贝叶斯优化算法。首先,我们定义了一个采集功能,同时考虑多目标和多点搜索问题。这是很难解析最大化的采集功能的计算成本是禁止的,即使当近似计算,如采样近似进行,因此,我们提出了一个准确的和计算效率高的方法估计梯度的采集功能,并开发了一个算法贝叶斯优化与多目标和多点搜索。数值实验表明,该方法的性能与启发式方法相当或优于启发式方法。
2019-05-07 cs.LG stat.ML
Bayesian decision-making under misspecified priors with applications to meta-learning
UC Berkeley(加州大学伯克利分校);Columbia University(哥伦比亚大学);Microsoft Research NYC(微软研究院纽约);Massachusetts Institute of Technology(麻省理工学院)
汤普森采样和其他贝叶斯顺序决策算法是解决(上下文)强盗中探索/利用权衡的最流行方法之一。这些算法中先验的选择提供了对领域知识进行编码的灵活性,但当错误指定时也会导致性能不佳。在本文中,我们证明了性能下降优雅的错误。我们证明了汤普森采样(TS)与一个错误指定的先验知识的预期奖励相差最多$\tilde{\mathcal{O}}(H^2 ε)$从TS与一个良好指定的先验知识,其中$ε$是先验知识之间的总变差距离和$H$是学习视野。我们的界不要求先验具有任何参数形式。对于先验有界支持,我们的界是独立的基数或结构的行动空间,我们表明,它是紧到普遍常数在最坏的情况下。我们的敏感性分析的基础上,我们建立通用PAC保证算法在最近研究的贝叶斯元学习设置和推导推论的各种家庭的先验。我们的结果沿着两个轴进行推广:(1)它们适用于更广泛的贝叶斯决策算法家族,包括知识梯度算法(KG)的蒙特卡罗实现,(2)它们适用于贝叶斯POMDP,最一般的贝叶斯决策设置,包括上下文强盗作为特例。通过数值模拟,我们说明了如何事先错误指定和部署的一步前瞻(如在KG)可以影响的收敛元学习在多武装和上下文土匪结构和相关的先验。
2021-07-03 cs.LG math.ST stat.ML
Interaction Detection with Bayesian Decision Tree Ensembles
基于贝叶斯决策树集成的方法已被证明在构建高质量预测方面很有价值,并且在某些设置中特别有吸引力,因为它们鼓励低阶交互效应。尽管为了预测的目的而适应低阶相互作用的存在,我们表明贝叶斯决策树集合通常是反保守的,以进行相互作用检测。我们通过引入狄利克雷过程森林(DP森林)来解决这个问题,该森林通过对树进行聚类来利用低阶相互作用的存在,从而使同一聚类内的树专注于检测特定的相互作用。我们在模拟和基准数据上表明,相对于现有的用于检测低阶相互作用的相互作用检测技术,DP森林表现良好,获得了非常低的假阳性和假阴性率,同时使用可比的计算预算保持相同的预测性能。
2018-09-23 stat.ME
BOP2-DC: Bayesian optimal phase II designs with dual-criterion decision making
传统的II期试验设计范式是基于假设检验框架做出进行/不进行决定。然而,仅凭统计学意义本身可能不足以确定该药物的临床有效性足以保证确证性III期试验。我们提出了贝叶斯最优II期试验设计与双标准决策(BOP 2-DC),它结合了统计学意义和临床相关性的决策。基于处理效应达到较低参考值(统计学显著性)和具有临床意义的值(临床显著性)的后验概率,BOP 2-DC允许进行/考虑/不进行决策,而不是二元进行/不进行决策,并进行了优化,以在治疗有效时最大化进行决策的概率,或在治疗无效时最小化样本量。BOP 2-DC具有高度灵活性,可在单组和随机试验中适应各种类型的终点,包括二元、连续、至事件发生时间、多重和共同主要终点。仿真研究表明,BOP 2-DC设计产生理想的操作特性。可在\url{www.trialdesign.org}上免费获得执行BOP 2-DC的软件。
2021-12-20 stat.AP stat.ME
A Bayesian Decision Support System in Energy Systems Planning
高斯过程(GP)仿真器被广泛用于在输入空间上近似复杂的计算机模型行为。受计算机模型耦合问题的影响,近年来在连通GP仿真器网络分析理论方面取得了一些进展。在本文中,我们结合这些最新的方法与经典的状态空间模型来构建贝叶斯决策支持系统。这种方法给出了一个连贯的概率模型,产生的预测与测量的不确定性方面的两个第一时刻,使不确定性的传播,从个人的决策组件。这种方法是用来产生一个决策支持工具,英国郡议会考虑低碳技术改造其基础设施,以达到净零碳目标。特别是,我们演示了如何耦合来自能源模型,供热需求模型,天然气和电力价格时间序列的信息,以定量评估各种政策选择和能源市场变化对运营成本的影响。
2022-04-19 stat.AP
Bayesian decision-theoretic model selection for monitored systems
本文利用贝叶斯决策理论,在候选模型具有不同保真度的情况下,选择在恢复目标兴趣量精度与模型复杂度成本间最优平衡的模型,并在IMAC-MVUQ挑战赛中验证了该方法。
2023-10-16 stat.AP
Finding Consensus Bayesian Network Structures
Linköping University(林雪平大学)
假设多个专家(或学习算法)为我们提供了一个域上的替代贝叶斯网络(BN)结构,并且我们有兴趣将它们组合成一个单一的共识BN结构。具体地说,我们感兴趣的是,一致BN结构只代表所有给定BN结构都同意的独立性,并且它具有尽可能少的相关参数。在本文中,我们证明了可能存在几个非等价的一致BN结构,并发现其中之一是NP-困难的。因此,我们决定求助于算法来找到一个近似的共识BN结构。在本文中,我们认为启发式提出的\citep{MatzkevichandAbramson1992,MatzkevichandAbramson1993a,MatzkevichandAbramson1993b}。这种启发式算法建立在两个算法,称为方法A和B,有效地推导出BN结构相对于给定的节点排序的最小有向独立映射。方法A和B被声称是正确的,尽管没有提供证明(只是粗略地证明)。在本文中,我们表明,方法A和B是不正确的,并提出了一个纠正。
2011-07-11 cs.AI math.ST stat.ML
Correcting Predictions for Approximate Bayesian Inference
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);University of Helsinki(赫尔辛基大学)
贝叶斯模型量化不确定性,并促进下游应用的最佳决策。然而,对于大多数模型,从业者被迫使用近似推理技术,由于不正确的后验预测分布,导致次优决策。我们提出了一种新的方法,通过改变决策过程来纠正后验推理的不准确性。我们训练一个单独的模型,使最佳决策下的近似后验,结合可解释的贝叶斯建模与优化的直接预测精度的原则性的方式。该解决方案是一般适用于作为一个插件模块的预测决策的任意概率程序,无论后验推理策略。我们证明了经验的方法在几个问题,确认其潜力。
2019-09-11 cs.LG stat.ML
Post-hoc loss-calibration for Bayesian neural networks
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Research(IBM研究院)
贝叶斯决策理论提供了一个优雅的框架下采取最佳行动的不确定性时,易于处理的后验分布。然而,现代贝叶斯模型通常涉及难以处理的后验,这些后验是用可能是粗糙的替代品近似的。这种困难产生了损失校准技术,旨在学习有利于高效用决策的后验近似。在本文中,专注于贝叶斯神经网络,我们开发的方法来纠正近似后验预测分布,鼓励他们喜欢高效用的决定。与以前的工作相比,我们的方法是不可知的近似推理算法的选择,允许有效的测试时间决策,通过摊销,并根据经验产生更高质量的决策。我们通过跨越各种任务和数据集的对照实验证明了我们方法的有效性。
2021-06-13 cs.LG stat.ML
Data-Driven Bayesian Network Models of Hurricane Evacuation Decision Making
Northeastern University(东北大学);Thammasat University(法政大学)
本文利用问卷数据构建数据驱动的贝叶斯网络模型,分析飓风哈维和艾尔玛中的疏散决策,揭示社会影响等关键预测因素之间的潜在因果关系。
2024-09-28 cs.AI stat.AP
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University(统计系,维萨-巴哈蒂大学);S. N. Bose National Centre for Basic Sciences(S. N. Bose基础科学国家中心)
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题,本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架,经多数据集验证可输出校准风险、优化模型性能,支撑流行病学决策。
2025-11-15 cs.LG stat.ML
Decision Making under Model Misspecification: DRO with Robust Bayesian Ambiguity Sets
University of Warwick(华威大学)
本文提出DRO-RoBAS方法,通过以鲁棒后验预测分布为中心的最大均值差异模糊集处理模型误设问题,在报童和投资组合问题上取得优于现有贝叶斯及经验DRO方法的样本外表现。
2025-05-06 cs.LG stat.ML
Long-tailed Classification from a Bayesian-decision-theory Perspective
Purdue University(普渡大学)
长尾分类是一个挑战,因为它的严重不平衡的类概率和尾部敏感性风险与不对称的错误预测成本。最近的尝试使用了重新平衡损失和集成方法,但它们在很大程度上是启发式的,严重依赖于经验结果,缺乏理论解释。此外,现有的方法忽略了决策损失,其特征在于与尾类相关的不同成本。本文从贝叶斯决策理论的角度提出了一个一般性和原则性的框架,它统一了现有的技术,包括再平衡和集成方法,并提供了理论证明,他们的有效性。从这个角度来看,我们得到一个新的目标的基础上的综合风险和贝叶斯深度集成方法,以提高所有类的准确性,特别是“尾巴”。此外,我们的框架允许任务自适应决策损失,提供可证明的最佳决策,在不同的任务场景,以及量化不确定性的能力。最后,我们进行了全面的实验,包括标准分类,尾部敏感的分类与一个新的假头率度量,校准,和消融研究。我们的框架显着改进了当前的SOTA,即使是在像ImageNet这样的大规模真实世界数据集上。
2023-03-21 cs.CV cs.LG stat.ML
Strategic decision points in experiments: A predictive Bayesian optional stopping method
本文提出预测性贝叶斯可选停止方法(pBOS),结合预演模拟预测未来数据,在资源约束下动态决定实验停止时机,成本效益较传统BOS提升118%,优化了资源利用。
2025-03-02 stat.AP stat.ME
RJHMC-Tree for Exploration of the Bayesian Decision Tree Posterior
本文提出RJHMC-Tree方法,利用哈密顿蒙特卡洛结合似然几何结构高效探索贝叶斯决策树后验,并在标准数据集上验证其在预测准确率、接受率和树复杂度方面的优势。
2023-12-04 cs.LG stat.CO stat.ML
Estimating the Sampling Distribution of Posterior Decision Summaries in Bayesian Clinical Trials
本文提出利用后验分布大样本理论建立后验决策摘要抽样分布的参数模型,通过少量模拟场景估计参数,从而在纳入试验假设不确定性的同时显著降低贝叶斯临床试验设计的计算负担。
2024-04-28 stat.ME
Decision Theory and Large Deviations for Dynamical Hypotheses Tests: Neyman-Pearson, Min-Max and Bayesian Tests
我们分析假设检验使用经典的结果大偏差比较两个模型,每一个描述了不同的Hölder吉布斯概率测度。与决策论中的经典假设检验的一个主要区别是,这里的两个度量相对于彼此是奇异的。在其他目标中,我们感兴趣的是当样本量$n$趋于无穷大时,错误决策概率的衰减率。我们展示了一个动态版本的内曼-皮尔逊引理显示理想的测试在某一类类似的测试。当样本量达到无穷大时,与其他替代检验相比,该检验呈指数级更好。我们能够提出明确的指数衰减率。我们还考虑了Min-Max和某种类型的贝叶斯假设检验。我们将使用热力学形式主义的几种工具,在对数似然框架中考虑这些检验。还介绍了Stein引理的版本和Bauffff的信息。
2021-12-27 cond-mat.stat-mech math-ph math.DS
Targeted Active Learning for Bayesian Decision-Making
Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
在监督学习中,主动学习通常用于获取信息数据点的标签,以样本有效的方式最大限度地提高准确性。然而,当结果用于决策时,例如在个性化医疗或经济学中,最大限度地提高准确性并不是最终目标。我们认为,当连续获取样本时,分离学习和决策是次优的,我们引入了一个主动学习策略,该策略考虑到了线下决策问题。具体来说,我们引入了一种新的主动学习标准,最大限度地提高预期的信息增益的后验分布的最优决策。我们将我们的目标主动学习策略与模拟和真实数据上的现有替代方案进行了比较,并在决策准确性方面表现出更好的性能。
2021-10-20 cs.AI cs.LG stat.ML
GS-BART: Bayesian Additive Regression Trees with Graph-split Decision Rules
GS-BART提出一种基于图分裂规则的贝叶斯加性决策树方法,通过编码图拓扑信息并设计可扩展MCMC算法,在空间和网络数据回归与分类中优于传统集成树和高斯过程模型。
2025-09-08 stat.ME
Top-down particle filtering for Bayesian decision trees
University College London(伦敦大学学院);University of Cambridge(剑桥大学);University of Oxford(牛津大学)
决策树学习是机器学习和统计学中分类和回归的一种流行方法,贝叶斯公式--在决策树上引入先验分布,并将学习公式化为给定数据的后验推理--已被证明具有竞争力的性能。与以自上而下方式工作的经典决策树学习算法如ID 3、C4.5和CART不同,现有贝叶斯算法通过经由对树的结构的局部蒙特卡罗修改迭代地演化完整树(或其集合)来产生对后验分布的近似,例如,使用马尔可夫链蒙特卡罗(MCMC)。我们提出了一个序贯蒙特卡罗(SMC)算法,而不是工作在一个自上而下的方式,模仿经典算法的行为和速度。我们的经验表明,我们的方法提供的准确性相比,最流行的MCMC方法,但操作速度超过一个数量级,因此代表了一个更好的计算精度权衡。
2013-08-22 cs.LG stat.ML
The Bayesian Sorting Hat: A Decision-Theoretic Approach to Size-Constrained Clustering
大小约束聚类(SCC)是指使用观测值来确定潜在聚类结构,同时将观测值分配给未知聚类的双重问题,该未知聚类受到分析师定义的聚类大小约束。虽然已经提出了几种方法,SCC仍然是一个困难的问题,由于观测之间的组合依赖性的大小约束。在这里,我们重新制定SCC作为一个决策问题,并引入了一个新的损失函数来捕捉各种类型的大小约束。相对于以前的工作,我们的方法是唯一适合的情况下,大小约束反映和外部限制或愿望,而不是内部功能的数据生成过程。为了证明我们的方法,我们开发了一个贝叶斯混合模型,用于使用模拟和真实的分类调查数据对受访者进行聚类。我们的动机,这种决策理论的方法,SCC的发展是确定最佳的团队分配哈利波特为主题的寻宝游戏的基础上,从参与者的分类调查数据。
2017-10-17 stat.AP stat.ME
Embedded Bayesian Network Classifiers
Microsoft Research(微软研究院);Microsoft Corporation(微软公司)
贝叶斯网络中局部分布函数的低维概率模型包括决策树、决策图和因果独立模型。我们描述了一个新的概率模型的离散贝叶斯网络,我们称之为嵌入式贝叶斯网络分类器或EBNC。给定父节点$\bf X$的节点$Y$的模型从用于$Y$和$\bf X$的(通常不同的)贝叶斯网络获得,其中$\bf X$不需要是$Y$的父节点。我们证明了EBNC是softmax多项式回归模型的一个特例。此外,我们将展示如何识别一个EBNC的非冗余参数集,并描述了一个渐近近似学习的贝叶斯网络,包含EBNC的结构。与决策树、决策图和因果独立模型不同,我们不知道使用这些模型的语义理由。需要实验来确定本文提出的模型是否在实践中是有用的。
2019-10-22 cs.AI cs.LG stat.ML
Dynamic Control of Explore/Exploit Trade-Off In Bayesian Optimization
IBM Research(IBM研究院);Hartree Centre(哈特里中心)
贝叶斯优化提供了优化通过传统技术无法访问的黑盒操作的可能性。贝叶斯优化方法的成功与否,如期望改进(EI),很大程度上取决于勘探和开采之间的权衡程度。过多的探索可能导致低效的优化协议,而过多的开发会使协议容易受到强烈的初始偏差的影响,并且很有可能陷入局部最小值。通常,使用恒定裕度来控制这种权衡,这导致另一个超参数被优化。我们提出上下文改进作为一个简单的,但有效的启发式来对付这一点-实现一次性优化策略。我们提出的启发式可以快速计算,提高了发现最优解的速度和鲁棒性。我们证明了它的有效性,在合成和现实世界的问题,并探讨了未知的不确定性,在预先确定的搜索超参数控制探索利用权衡。
2018-07-03 cs.AI cs.LG stat.ML
Loss-calibrated expectation propagation for approximate Bayesian decision-making
Princeton Neuroscience Institute(普林斯顿神经科学研究所);Princeton University(普林斯顿大学)
近似贝叶斯推断方法提供了一套强大的工具,找到近似的棘手的后验分布。然而,机器学习应用程序通常涉及选择动作,在贝叶斯设置中,这些动作仅通过其对预期效用的贡献取决于后验分布。因此,越来越多的关于损失校准近似推理方法的工作试图开发对效用函数的影响敏感的后验近似。在这里,我们引入损失校准期望传播(Loss-EP),期望传播的损失校准变体。这种方法类似于标准EP,但有一个额外的因素使后验概率向更高效用的决策“倾斜”。我们展示了应用程序的高斯过程分类下的二进制效用函数与不对称的罚款假阴性和假阳性错误,并显示这种不对称性如何可以有戏剧性的后果,什么信息是“有用的”捕捉在一个近似。
2022-01-10 cs.LG stat.ML
Goal-driven Bayesian Optimal Experimental Design for Robust Decision-Making Under Model Uncertainty
Computing & Data Sciences, Brookhaven National Laboratory(布鲁海文国家实验室计算与数据科学部);Department of Electrical & Computer Engineering, Texas A&M University(德克萨斯农工大学电气与计算机工程系);Department of Computer Science & Engineering, Texas A&M University(德克萨斯农工大学计算机科学与工程系)
提出GoBOED框架,通过结合变分后验代理与可微凸决策层,直接优化实验设计以提升下游决策质量,并理论证明其对决策无关参数方向不敏感。
2026-05-25 cs.LG stat.ML
Monografía de Estadística Bayesiana
本文是贝叶斯统计导论的课程笔记,前三章详细阐述贝叶斯范式,第四章介绍决策论基础,进而在第五章将参数化贝叶斯推断作为决策问题引入。
2023-09-12 stat.OT
Bayesian Mendelian randomization testing of interval causal null hypotheses: ternary decision rules and loss function calibration
我们的方法孟德尔随机化(MR)分析的目的是增加因果效应的“发现”的可重复性:(i)使用贝叶斯方法进行推理;(ii)用实际等效区域代替点原假设,该实际等效区域包括对于感兴趣的效应的可忽略量值的值,同时利用贝叶斯分析的能力来量化落在区域内/区域外的影响的证据;(iii)拒绝通常的二元决策逻辑,而赞成三元逻辑,其中假设检验可能导致接受或拒绝空值,同时还适应“不确定”的结果。我们提出了一种方法来校准所提出的方法,通过损失函数,我们用我们的方法与频率论的比较。我们说明的方法与援助的因果关系的影响,肥胖的青少年心肌梗死的风险的研究。
2022-08-10 stat.ME
Bayesian learning of noisy Markov decision processes
University of Cambridge(剑桥大学);CREST—ENSAE(法国国家统计与经济研究所-国立统计与经济管理学院);HEC Paris(巴黎高等商学院);University of Bristol(布里斯托大学)
我们考虑逆强化学习问题,也就是说,学习的问题,然后预测或模仿基于状态/动作数据的控制器。我们提出了一个统计模型,这样的数据,来自结构的马尔可夫决策过程。采用贝叶斯推理方法,我们展示了如何估计模型的潜在变量,以及如何在一个统一的框架中预测行动。设计了一种新的基于后验分布的马尔可夫链蒙特卡罗(MCMC)采样器。这一步包括一个参数扩展步骤,这是必不可少的良好的收敛性能的MCMC采样器。作为示例,该方法被应用于学习人类控制器。
2012-11-26 cs.LG stat.CO stat.ML
Optimal simulation-based Bayesian decisions
Calda AI AB(Calda AI公司);Oskar Klein Centre for Cosmoparticle Physics, Stockholm University(斯德哥尔摩大学奥斯卡·克莱因宇宙粒子物理中心);William H. Miller III Department of Physics and Astronomy, Johns Hopkins University(约翰斯·霍普金斯大学威廉·H·米勒三世物理与天文学系);Center for Computational Astrophysics, Flatiron Institute(熨斗研究所计算天体物理中心);Sorbonne Université(索邦大学);Institut d’Astrophysique de Paris(巴黎天体物理研究所)
该框架通过替代模型和主动学习,在似然难以处理时高效计算最优贝叶斯决策,模拟效率比蒙特卡洛方法高100-1000倍。
2023-11-09 astro-ph.IM cs.AI cs.GT
qEUBO: A Decision-Theoretic Acquisition Function for Preferential Bayesian Optimization
Caltech(加州理工学院);Meta;Cornell University(康奈尔大学)
偏好贝叶斯优化(PBO)是一种利用偏好反馈优化决策者潜在效用函数的框架。这项工作介绍了预期效用的最佳选择(qEUBO)作为一种新的收购功能PBO。当决策者的响应是无噪声的,我们表明,qEUBO是一步贝叶斯最优,从而相当于流行的知识梯度采集功能。我们还表明,qEUBO享有一个加性常数近似保证一步贝叶斯最优策略时,决策者的响应被噪声破坏。我们提供了一个广泛的评估qEUBO,并证明它优于国家的最先进的采集功能PBO在许多设置。最后,我们表明,在充分的规律性条件下,qEUBO的贝叶斯简单的遗憾收敛到零的速度$o(1/n)$的查询,$n$,去无穷大的数量。相比之下,我们表明,简单的遗憾下qEI,一个流行的收购功能,标准BO经常用于PBO,可能无法收敛到零。qEUBO具有优越的性能、简单的计算和基于决策理论的合理性,是PBO的一种很有前途的捕获函数。
2023-03-28 cs.LG stat.ML
Bayesian fairness
University of Oslo(奥斯陆大学);Chalmers University(查尔姆斯理工大学);UC Santa Cruz(加州大学圣克鲁兹分校);Harvard University(哈佛大学)
我们考虑的问题,如何决策可以是公平的,当世界的基本概率模型是不确定的。我们认为,最近的机器学习中的公平性的概念需要明确地纳入参数的不确定性,因此,我们引入了{ \em贝叶斯公平性}的概念作为一个合适的候选人公平的决策规则。使用平衡,Kleinberg et al(2016)引入的公平性定义,我们展示了贝叶斯观点如何导致即使在高度不确定性下也能表现良好,公平的决策规则。
2018-11-04 cs.LG stat.ML