Hierarchical Bayesian Bandits
UC Berkeley（加州大学伯克利分校）；Amazon（亚马逊）；Google DeepMind（谷歌DeepMind）；Google Research（谷歌研究院）
Meta-、多任务和联邦学习都可以被视为解决类似的任务，从反映任务相似性的分布中提取。我们提供了一个统一的观点，所有这些问题，作为学习采取行动的分层贝叶斯强盗。我们提出并分析了这类问题的自然分层汤普森采样算法（HierTS）。我们的遗憾界持有的问题，包括当任务是顺序或并行解决的许多变种，并显示，遗憾减少了更多的信息之前。我们的证明依赖于一种新的总方差分解，可以应用于我们的模型之外。我们的理论是由实验，这表明，层次结构有助于与任务之间的知识共享。这证实了分层贝叶斯强盗是一个通用的和高效的学习与类似的强盗任务采取行动的工具。
2022-03-05 cs.AI cs.LG
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent（腾讯）；University College Dublin（都柏林大学学院）；Trinity College Dublin（都柏林圣三一学院）
针对贝叶斯层次混合聚类（BHMC）高层节点分离度弱的问题，提出对各层节点施加最大间隔约束的后验正则化方法，有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
A Probabilistic Approach to Hierarchical Model-based Diagnosis
Stanford University（斯坦福大学）；Rockwell International Science Center（罗克韦尔国际科学中心）
基于模型的诊断从系统的功能示意图向后推理，以在观察到异常行为的情况下隔离故障。我们开发了一个完全概率的方法，基于模型的诊断，并将其扩展到支持层次模型。我们的计划将功能原理图转换为贝叶斯网络和诊断推理发生在贝叶斯网络。一个贝叶斯网络诊断推理算法的修改，利用层次结构，以提供计算增益。
2013-02-27 cs.AI
Context Exploitation using Hierarchical Bayesian Models
Boston Fusion Corp.（波士顿融合公司(Boston Fusion Corp.)）
我们考虑的问题，如何提高自动目标识别融合天真的传感器级的分类决策与“直觉”，或上下文，在数学原则的方式。这是一个通用的方法，是兼容的许多定义的背景下，但具体来说，我们认为语境共现的形象。特别是，我们认为，包含多个对象的图像在不同的置信水平。我们学习每个上下文中的同现模式，然后使用这些模式作为分层贝叶斯模型的超参数。结果是，通过将这些读数与上下文融合，可以显著改善低置信度传感器分类决策。我们进一步使用hyperprior来解决多个上下文可能合适的情况。我们还考虑了贝叶斯网络，替代分层贝叶斯模型，这是计算效率更高，但假设上下文和传感器读数是不相关的。
2018-05-30 cs.AI cs.CV
Exploring Bayesian Models for Multi-level Clustering of Hierarchically Grouped Sequential Data
Indian Institute of Science（印度科学学院）
已经提出了各种各样的贝叶斯模型的数据，分为分层成组。这些模型的目的是通过为每个数据点分配混合成分，并为每个组分配混合分布，在不同的分组级别上对数据进行聚类。通过组共享这些组件和分布，促进了多级聚类。在本文中，我们引入了共享度（DoS）的概念的混合成分和分布，旨在分析和分类各种现有的模型。接下来，我们介绍了一个广义的层次贝叶斯模型，现有的模型可以被证明是特殊情况。与大多数这些模型不同，我们的模型在分配混合成分和分布时考虑了数据的顺序性质以及不同级别的各种其他时间结构。我们展示了该模型的一个专门化，旨在新闻文本的分层分割，并提出了一个基于Gibbs抽样的推理算法。我们还通过实验表明，该模型优于现有的模型，对于相同的任务。
2015-04-19 cs.AI cs.LG
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）；Maynooth University（梅努斯大学）
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中，每个数据项与恰好一个叶节点相关联，并且每个内部节点与存储在其下的子树中的所有数据项相关联，使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法，该方法结合了嵌套中餐厅过程（nCRP）和分层狄利克雷过程（HDP）。与其他现有的贝叶斯方法相比，我们的解决方案处理的数据与复杂的潜在的混合特征，以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外，在三个数据集上的实验表明，与现有的算法相比，我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
A Hierarchical Bayesian Approach to Inverse Reinforcement Learning with Symbolic Reward Machines
Boston University（波士顿大学）
在强化学习（RL）问题中，错误的奖励会降低样本效率并导致不期望的行为。我们提出了符号奖励机，将高层次的任务知识时，指定的奖励信号。符号奖励机通过允许转换携带谓词和符号奖励输出来增强现有的奖励机形式。这种形式主义很适合逆强化学习，其中的关键挑战是从一些专家演示中确定符号值的适当分配。我们提出了一个层次贝叶斯方法推断最有可能的任务，使具体化的奖励机可以区分专家演示的轨迹，从其他轨迹具有高精度。实验结果表明，学习奖励机可以显着提高复杂RL任务的训练效率，并在不同的任务环境配置之间具有很好的泛化能力。
2022-04-20 cs.AI cs.LG
Metadata-based Multi-Task Bandits with Bayesian Hierarchical Models
North Carolina State University（北卡罗来纳州立大学）
如何有效地进行侦查是多兵种土匪的核心问题。在本文中，我们介绍了基于元数据的多任务强盗问题，其中代理需要解决大量相关的多臂强盗任务，并且可以利用一些特定于任务的特征（即，元数据）来跨任务共享知识。作为一个通用的框架，我们建议通过贝叶斯分层模型的镜头捕捉任务关系，汤普森采样算法的设计，有效地学习任务关系，共享信息，并尽量减少累积的遗憾。对高斯强盗和伯努利强盗的两个具体例子进行了仔细的分析。贝叶斯对高斯强盗的遗憾清楚地表明了与我们的算法共享信息的好处。所提出的方法是进一步支持广泛的实验。
2021-08-13 cs.AI cs.LG
Semi-Separable Hamiltonian Monte Carlo for Inference in Bayesian Hierarchical Models
University of Edinburgh（爱丁堡大学）
由于模型参数和超参数之间的强相关性，MCMC方法通常难以从分层贝叶斯模型中进行采样。最近的黎曼流形哈密顿蒙特卡罗（RMHMC）方法在这种情况下有显着的潜在优势，但计算昂贵。我们介绍了一种新的RMHMC方法，我们称之为半可分的哈密顿蒙特卡罗，它使用一个专门设计的质量矩阵，允许联合哈密尔顿模型参数和超参数分解成两个更简单的哈密尔顿。这种结构是利用一个新的积分器，我们称之为交替块蛙跳算法。所得到的方法可以混合比简单的吉布斯抽样更快，而更简单，更有效地比以前的RMHMC的实例。
2014-06-15 cs.AI cs.LG stat.CO
Bayesian Hierarchical Models for Counterfactual Estimation
JPMorgan AI Research（摩根大通人工智能研究院）
反事实解释利用特征扰动来分析原始决策的结果，并建议可操作的追索权。我们认为，这是有益的，而不是一个单点的解决方案，提供几种替代的解释，并提出了一个概率范式来估计一组不同的反事实。具体来说，我们把扰动作为随机变量赋予先验分布函数。这允许从后验密度中采样多个反事实，并具有合并归纳偏差、保留特定领域约束和量化估计中的不确定性的额外好处。更重要的是，我们利用贝叶斯分层模型来共享人口的不同子组之间的信息，这既可以提高鲁棒性，又可以衡量公平性。一个基于梯度的采样器具有优越的收敛特性，有效地计算后验样本。在几个数据集上的实验表明，使用我们的方法估计的反事实是有效的，稀疏的，多样的和可行的。
2023-01-21 cs.AI cs.LG
HiBayES: A Hierarchical Bayesian Modeling Framework for AI Evaluation Statistics
UK AI Security Institute（英国人工智能安全研究所）
针对AI评估的高成本与分层复杂性，提出分层贝叶斯建模框架HiBayES，基于广义线性模型实现稳健的不确定性量化与参数估计，尤其适用于低数据场景，并提供配套软件包。
2025-07-13 cs.AI stat.AP
A Bayesian Hierarchical Model for Criminal Investigations
The Alan Turing Institute（艾伦·图灵研究所）；Imperial College London（帝国理工学院）；University of Warwick（华威大学）
潜在的暴力犯罪分子往往需要经过一系列的准备步骤，然后才能执行他们的计划。在这一升级过程中，警察有机会通过他们所了解的情况，观察和从关于这些人活动的情报报告中了解到的情况，评估这些人构成的威胁。在本文中，我们定制了一个三层贝叶斯层次模型来描述这个过程。这能够实时的传播常规和意外的证据。我们讨论了如何建立这样一个模型，使其校准领域专家的判断。模型插图包括基于潜在的基于车辆的恐怖袭击的假设示例。
2019-11-05 cs.AI cs.LG stat.AP
Correcting Prompt Dependence in LLM Benchmarks: A Bayesian Hierarchical Model with Embedding-Space Clustering
University of Cambridge（剑桥大学）
本文提出了一种贝叶斯分层模型，通过嵌入空间聚类来纠正大语言模型基准测试中的提示依赖问题，在数据有限的情况下提供更稳健的性能指标，并在对抗鲁棒性基准测试中实现了性能指标的显著提升。
2026-06-04 cs.AI cs.CL cs.CR
HINT: Hierarchical Invertible Neural Transport for Density Estimation and Bayesian Inference
Heidelberg University（海德堡大学）
许多最近的可逆神经架构是基于耦合块设计，其中变量被分成两个子集，作为一个容易可逆的（通常是仿射）三角变换的输入。虽然这样的变换是可逆的，但其雅可比矩阵非常稀疏，因此可能缺乏表达性。这项工作提出了一个简单的补救措施，注意到细分和（仿射）耦合可以在得到的子集内递归地重复，导致一个高效的可逆块与密集的三角形雅可比矩阵。通过经由分层架构制定我们的递归耦合方案，HINT允许从联合分布p（y，x）和对应的后验p（x）进行采样|y）使用单个可逆网络。我们评估我们的方法在一些标准的数据集和基准的密度估计和贝叶斯推断的一个新的数据集的二维形状的傅立叶参数化，这使得一致的可视化不同维度的样本的全部权力。
2021-05-25 cs.AI cs.LG stat.ML
