BOSH: Bayesian Optimization by Sampling Hierarchically
Lancaster University(兰卡斯特大学)
贝叶斯优化(BO)用于具有随机评估的函数的部署,例如通过交叉验证和仿真优化的参数调整,通常优化目标函数的固定噪声实现集合的平均值。然而,以这种方式忽略真正的目标函数会找到错误函数的高精度最优值。为了解决这个问题,我们提出了贝叶斯优化分层采样(BOSH),一种新的BO例程配对的分层高斯过程与信息理论框架,以生成一个不断增长的实现池的优化进展。我们证明了BOSH在综合基准测试、仿真优化、强化学习和超参数调整任务中提供了比标准BO更高效、更高精度的优化。
2020-07-02 cs.LG stat.ML
HTMOT : Hierarchical Topic Modelling Over Time
ULiege(列日大学);HEC Liege(列日高等商学院)
多年来,主题模型提供了一种从文本中提取见解的有效方法。然而,虽然已经提出了许多模型,没有一个能够建模的主题时间性和层次联合。建模时间通过分离词汇上接近但时间上不同的主题来提供更精确的主题,而建模层次结构提供了文档语料库的内容的更详细的视图。因此,在这项研究中,我们提出了一种新的方法,HTMOT,随着时间的推移进行分层主题建模。我们训练HTMOT使用吉布斯采样的新实现,这是更有效的。具体来说,我们表明,只有应用时间建模深子主题提供了一种方法来提取特定的故事或事件,而高层次的主题提取语料库中的较大的主题。我们的结果表明,我们的训练过程是快速的,可以提取准确的高级别主题和时间上精确的子主题。我们测量我们的模型的性能使用Word入侵任务,并概述了这种评估方法的一些限制,特别是对于层次模型。作为案例研究,我们重点关注了2020年航天工业的各种发展。
2023-01-24 cs.CL cs.IR cs.LG
Detailed Derivations of Small-Variance Asymptotics for some Hierarchical Bayesian Nonparametric Models
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
本文详细推导了分层狄利克雷过程(HDP)混合模型和HDP隐马尔可夫模型(HDP-HMM,a.k.a.无限HMM)。我们包括推导某些CRP和CRF分区的概率,这是更普遍的兴趣。
2014-12-31 cs.LG stat.ML
Bayesian Hierarchical Invariant Prediction
Department of Technology, Management and Economics, Danish Technical University(丹麦技术大学技术、管理与经济系);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出贝叶斯分层不变预测(BHIP),通过分层贝叶斯框架重新定义不变因果预测(ICP),利用分层结构显式测试因果机制在异质数据下的不变性,提升计算可扩展性,并利用先验信息。
2026-04-04 cs.AI cs.LG stat.ME
Bayesian hierarchical stacking: Some models are (somewhere) useful
Columbia University(哥伦比亚大学);University of Ljubljana(卢布尔雅那大学);Aalto University(阿尔托大学)
堆叠是一种广泛使用的模型平均技术,其在线性平均值之间渐近地产生最优预测。我们发现,当模型预测性能在输入中是异质的时,堆叠是最有效的,并且我们可以用分层模型进一步改进堆叠的混合物。我们将堆叠推广到贝叶斯分层堆叠。模型权重作为数据的函数而变化,部分合并,并使用贝叶斯推断进行推断。我们进一步结合离散和连续的输入,其他结构化的先验,时间序列和纵向数据。为了验证所提出的方法的性能增益,我们推导出理论界,并证明了几个应用问题。
2021-05-20 cs.LG stat.ME stat.ML
Risk and Regret of Hierarchical Bayesian Learners
MIT(麻省理工学院)
通常的统计实践表明,贝叶斯方法的全部功能在使用分层先验之前是无法实现的,因为这些先验允许更大的“鲁棒性”和“共享统计强度”的能力。“然而,这是一个持续的挑战,提供一个学习理论上健全的形式主义的概念,这些概念:提供有关何时以及如何最好地利用分层模型的实际指导;提供洞察什么是一个良好的分层先验;并且,当先验的形式已经选择,可以指导超参数设置的选择。我们提出了一套分析工具,用于理解在线和批处理学习设置中的分层先验。我们提供了遗憾的界限下的对数损失,这表明某些层次模型比较,在回顾中,最好的单一模型的模型类。我们还展示了如何转换贝叶斯日志损失的遗憾界到贝叶斯风险界的任何有界损失,结果可能是独立的利益。Student的$t$和分层高斯先验的风险和后悔界限允许我们形式化“鲁棒性”和“共享统计强度”的概念。“也研究了特征选择的先验。我们的研究结果表明,使用分层先验的学习理论的好处往往可以在实际问题上的成本很小。
2015-05-19 cs.LG stat.ML
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent(腾讯);University College Dublin(都柏林大学学院);Trinity College Dublin(都柏林圣三一学院)
针对贝叶斯层次混合聚类(BHMC)高层节点分离度弱的问题,提出对各层节点施加最大间隔约束的后验正则化方法,有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
Fast Low-Rank Bayesian Matrix Completion with Hierarchical Gaussian Prior Models
University of Electronic Science and Technology of China(电子科技大学);Stevens Institute of Technology(斯蒂文斯理工学院)
研究了低秩矩阵的完备化问题。为了利用数据矩阵的底层低秩结构,我们提出了一个分层高斯先验模型,其中假设低秩矩阵的列遵循具有零均值和公共精度矩阵的高斯分布,并将Wishart分布指定为精度矩阵的超先验。我们表明,这样的分层高斯先验有可能鼓励低秩的解决方案。基于所提出的层次先验模型,提出了一种矩阵完备化的变分贝叶斯方法,该方法将广义近似消息传递(GAMP)技术嵌入到变分贝叶斯推理中,以避免繁琐的矩阵求逆运算.仿真结果表明,我们提出的方法表现出优于现有的国家的最先进的矩阵完成方法。
2017-08-26 cs.LG stat.ML
Hierarchical Bayesian Bandits
UC Berkeley(加州大学伯克利分校);Amazon(亚马逊);Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
Meta-、多任务和联邦学习都可以被视为解决类似的任务,从反映任务相似性的分布中提取。我们提供了一个统一的观点,所有这些问题,作为学习采取行动的分层贝叶斯强盗。我们提出并分析了这类问题的自然分层汤普森采样算法(HierTS)。我们的遗憾界持有的问题,包括当任务是顺序或并行解决的许多变种,并显示,遗憾减少了更多的信息之前。我们的证明依赖于一种新的总方差分解,可以应用于我们的模型之外。我们的理论是由实验,这表明,层次结构有助于与任务之间的知识共享。这证实了分层贝叶斯强盗是一个通用的和高效的学习与类似的强盗任务采取行动的工具。
2022-03-05 cs.AI cs.LG
Statistical comparison of classifiers through Bayesian hierarchical modelling
Istituto Dalle Molle di studi sull’Intelligenza Artificiale (IDSIA)(达勒莫勒人工智能研究所 (IDSIA));University of Ljubljana(卢布尔雅那大学)
通常人们通过零假设显著性检验(nhst)来比较两个竞争分类器的准确性。然而,nhst测试遭受的重要缺点,这可以通过切换到贝叶斯假设检验克服。我们提出了一个贝叶斯分层模型,共同分析交叉验证结果,由两个分类器在多个数据集。它返回两个分类器的准确度实际上相等或显著不同的后验概率。分层模型的另一个优点是,通过联合分析所有数据集上获得的结果,与对给定数据集上获得的交叉验证结果进行平均的通常方法相比,它减少了估计误差。
2016-11-22 cs.LG stat.ME stat.ML
Additive Bayesian Network Modelling with the R Package abn
Zurich University(苏黎世大学);Danone Nutricia Research(达能纽迪希亚研究中心);National Veterinary Institute(国家兽医研究所);Geneva University(日内瓦大学)
R包abn旨在将添加的贝叶斯模型拟合到观测数据集。它包含基于广义线性模型的贝叶斯或信息理论公式对贝叶斯网络进行评分的例程。它配备了精确搜索和贪婪搜索算法来选择最佳网络。它支持连续、离散和计数数据的可能混合,并在结构层面上输入先验知识。贝叶斯实现支持随机效应来控制单层聚类。在本文中,我们给出了一个概述的方法,并说明该软件包的功能,使用兽医数据集的呼吸道疾病在商业猪生产。
2019-11-20 cs.LG stat.ME stat.ML
Variational Bayesian modelling of mixed-effects
Brain and Spine Institute(脑与脊柱研究所);ETH(苏黎世联邦理工学院);INSERM(法国国家健康与医学研究院)
本文讨论混合效应模型的一种精确和计算效率高的变分平衡处理方法。我们专注于组研究,即报告在多个受试者中获得的多个测量的实证研究。当从生物学的角度来看时,这种混合效应模型通常依赖于数据的分层生成模型,其中受试者内和受试者间效应都有助于观察到的总体方差。随后的VB方案可用于评估组水平的统计学显著性和/或捕获个体间差异。或者,它可以被视为自适应正则化过程,其从感兴趣的效应的组分布的估计迭代地学习对应的受试者内先验(cf.所谓的“经验贝叶斯”方法)。我们概述了随后的VB方案的数学推导,其开源实现是可作为的一部分,可在Windows工具箱。
2019-03-21 cs.LG stat.ML
CATVI: Conditional and Adaptively Truncated Variational Inference for Hierarchical Bayesian Nonparametric Models
London School of Economics(伦敦政治经济学院);JP Morgan Chase & Co.(摩根大通公司)
现有的多层贝叶斯非参数模型的变分推断方法由于均值场的设置,既不能刻画潜变量间的相关结构,又由于普遍截断,不能推断真实的后验维数。为了克服这些局限性,我们提出了条件和自适应截断变分推断方法(CATVI),通过最大化的非参数证据下限,并集成蒙特卡罗到变分推断框架。与传统方法相比,CATVI具有几个优点,包括变分后验和真后验之间的偏差较小,欠拟合或过拟合的风险降低,以及预测精度提高。在三个大型数据集上的实证研究表明,CATVI应用于贝叶斯非参数主题模型大大优于竞争模型,提供更低的困惑和更清晰的主题词聚类。
2022-04-05 cs.LG stat.ML
Hierarchical Bayesian Personalized Recommendation: A Case Study and Beyond
Facebook Inc(脸书公司)
现代推荐系统中的项目通常以层次结构组织。这些层次结构和其中的数据为构建个性化推荐系统提供了有价值的信息。在本文中,我们提出了一个通用的分层贝叶斯学习框架,即,\emph{HBayes},学习结构和相关的潜在因素。此外,我们开发了一个变分推理算法,能够学习模型参数,经验收敛速度快。建议HBayes评估两个现实世界的数据集,从不同的领域。结果表明,我们的方法的项目推荐任务的好处,并表明,它可以优于国家的最先进的模型在精度,召回率和归一化的折扣累积增益。为了鼓励可重复的结果,我们在git repo上公开了我们的代码:\url{https://tinyurl.com/ycruhk4t}。
2019-08-20 cs.IR cs.LG stat.ML
Sparse Bayesian Dictionary Learning with a Gaussian Hierarchical Model
University of Electronic Science and Technology of China(电子科技大学);Stevens Institute of Technology(史蒂文斯理工学院)
我们考虑一个字典学习问题,其目标是设计一个字典,使得信号在学习过的字典上具有稀疏或近似稀疏表示。这样的问题发现了各种各样的应用,如图像去噪,特征提取等,在本文中,我们提出了一种新的分层贝叶斯模型的字典学习,其中高斯逆伽玛分层先验是用来促进稀疏的表示。合适的先验也被放置在字典和噪声方差上,使得它们可以从数据中合理地推断出来。基于层次模型,提出了贝叶斯推理的变分贝叶斯方法和吉布斯抽样方法。所提出的方法的优点是,它们不需要噪声方差\emph{a priori}的知识。数值结果表明,所提出的方法是能够学习字典的准确性比现有的方法,特别是对于有一个有限数量的训练信号的情况下。
2015-03-07 cs.IT cs.LG math.IT
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics(洞察数据分析中心);University College Dublin(都柏林大学);Maynooth University(梅努斯大学)
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中,每个数据项与恰好一个叶节点相关联,并且每个内部节点与存储在其下的子树中的所有数据项相关联,使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法,该方法结合了嵌套中餐厅过程(nCRP)和分层狄利克雷过程(HDP)。与其他现有的贝叶斯方法相比,我们的解决方案处理的数据与复杂的潜在的混合特征,以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外,在三个数据集上的实验表明,与现有的算法相比,我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
Flexible and Hierarchical Prior for Bayesian Nonnegative Matrix Factorization
在本文中,我们介绍了一个概率模型学习非负矩阵分解(NMF),通常用于预测缺失值和发现隐藏模式的数据,其中矩阵因子是与每个数据维度相关的潜在变量。潜在因子的非负约束通过选择在非负子空间上具有支持度的先验来处理。贝叶斯推理过程的基础上吉布斯抽样。我们在几个真实世界的数据集上评估了该模型,包括具有不同大小和维度的MovieLens 100K和MovieLens 1M,并表明与现有的贝叶斯NMF方法相比,所提出的贝叶斯NMF GRRN模型可以实现更好的预测并避免过拟合。
2022-06-20 cs.IT cs.LG math.IT
Exploring Bayesian Models for Multi-level Clustering of Hierarchically Grouped Sequential Data
Indian Institute of Science(印度科学学院)
已经提出了各种各样的贝叶斯模型的数据,分为分层成组。这些模型的目的是通过为每个数据点分配混合成分,并为每个组分配混合分布,在不同的分组级别上对数据进行聚类。通过组共享这些组件和分布,促进了多级聚类。在本文中,我们引入了共享度(DoS)的概念的混合成分和分布,旨在分析和分类各种现有的模型。接下来,我们介绍了一个广义的层次贝叶斯模型,现有的模型可以被证明是特殊情况。与大多数这些模型不同,我们的模型在分配混合成分和分布时考虑了数据的顺序性质以及不同级别的各种其他时间结构。我们展示了该模型的一个专门化,旨在新闻文本的分层分割,并提出了一个基于Gibbs抽样的推理算法。我们还通过实验表明,该模型优于现有的模型,对于相同的任务。
2015-04-19 cs.AI cs.LG
Bayesian algorithmic perfumery: A Hierarchical Relevance Vector Machine for the Estimation of Personalized Fragrance Preferences based on Three Sensory Layers and Jungian Personality Archetypes
University of Groningen(格罗宁根大学)
本研究提出一种结合层级相关向量机与荣格人格原型的贝叶斯算法,用于个性化香氛推荐,通过三层香气偏好与人格特质关联,实现自适应可解释推荐。
2024-11-06 cs.LG stat.AP
Nonparametric Bayesian Topic Modelling with the Hierarchical Pitman-Yor Processes
The Australian National University(澳大利亚国立大学);Data61/NICTA;Monash University(莫纳什大学);Duke University(杜克大学)
Dirichlet过程及其扩展Pitman-Yor过程是以概率分布为参数的随机过程。这些过程可以堆叠起来形成分层非参数贝叶斯模型。在这篇文章中,我们提出了有效的方法来使用这些过程在这个层次的背景下,并将其应用到文本分析的潜变量模型。特别是,我们提出了一个通用的框架来设计这些贝叶斯模型,这被称为主题模型在计算机科学界。然后,我们提出了一个特定的非参数贝叶斯主题模型从社交媒体的文本建模。我们在这篇文章中关注tweets(Twitter上的帖子),因为它们易于访问。我们发现,我们的非参数模型比现有的参数模型在拟合优度和现实世界中的应用。
2016-09-22 cs.CL cs.LG stat.ML
Modelling trait dependent speciation with Approximate Bayesian Computation
系统发育是模拟物种形成的时间离散动态的领域。复杂的模型现在可以使用近似贝叶斯计算方法来研究,避免了似然计算。由于缺乏强大的软件来估计物种形成过程的众多参数,该领域的进展受到阻碍。在这项工作中,我们提出了一个R包,pcmabc,基于近似贝叶斯计算,实现了三种新的系统发育算法的性状依赖的物种形成模型。我们的系统发育比较方法考虑到模拟性状和遗传,试图估计参数的过程中产生的表型和性状。用户不限于一组预定义的模型,可以指定各种进化和分支模型。我们说明了软件的模拟重新估计研究集中在分支Ornstein-Uhlenbeck过程,其中分支率非线性地依赖于驱动Ornstein-Uhlenbeck过程的值。包括在这项工作是一个教程如何使用该软件。
2018-12-10 cs.LG q-bio.PE stat.AP
Semi-Separable Hamiltonian Monte Carlo for Inference in Bayesian Hierarchical Models
University of Edinburgh(爱丁堡大学)
由于模型参数和超参数之间的强相关性,MCMC方法通常难以从分层贝叶斯模型中进行采样。最近的黎曼流形哈密顿蒙特卡罗(RMHMC)方法在这种情况下有显着的潜在优势,但计算昂贵。我们介绍了一种新的RMHMC方法,我们称之为半可分的哈密顿蒙特卡罗,它使用一个专门设计的质量矩阵,允许联合哈密尔顿模型参数和超参数分解成两个更简单的哈密尔顿。这种结构是利用一个新的积分器,我们称之为交替块蛙跳算法。所得到的方法可以混合比简单的吉布斯抽样更快,而更简单,更有效地比以前的RMHMC的实例。
2014-06-15 cs.AI cs.LG stat.CO
A Hierarchical Bayesian Approach to Inverse Reinforcement Learning with Symbolic Reward Machines
Boston University(波士顿大学)
在强化学习(RL)问题中,错误的奖励会降低样本效率并导致不期望的行为。我们提出了符号奖励机,将高层次的任务知识时,指定的奖励信号。符号奖励机通过允许转换携带谓词和符号奖励输出来增强现有的奖励机形式。这种形式主义很适合逆强化学习,其中的关键挑战是从一些专家演示中确定符号值的适当分配。我们提出了一个层次贝叶斯方法推断最有可能的任务,使具体化的奖励机可以区分专家演示的轨迹,从其他轨迹具有高精度。实验结果表明,学习奖励机可以显着提高复杂RL任务的训练效率,并在不同的任务环境配置之间具有很好的泛化能力。
2022-04-20 cs.AI cs.LG
Metadata-based Multi-Task Bandits with Bayesian Hierarchical Models
North Carolina State University(北卡罗来纳州立大学)
如何有效地进行侦查是多兵种土匪的核心问题。在本文中,我们介绍了基于元数据的多任务强盗问题,其中代理需要解决大量相关的多臂强盗任务,并且可以利用一些特定于任务的特征(即,元数据)来跨任务共享知识。作为一个通用的框架,我们建议通过贝叶斯分层模型的镜头捕捉任务关系,汤普森采样算法的设计,有效地学习任务关系,共享信息,并尽量减少累积的遗憾。对高斯强盗和伯努利强盗的两个具体例子进行了仔细的分析。贝叶斯对高斯强盗的遗憾清楚地表明了与我们的算法共享信息的好处。所提出的方法是进一步支持广泛的实验。
2021-08-13 cs.AI cs.LG
Automatic Relevance Determination Bayesian Neural Networks for Credit Card Default Modelling
University of Johannesburg(约翰内斯堡大学)
信用风险建模是全球金融体系的一个组成部分。虽然用于信用违约预测的神经网络模型受到了极大的关注,但此类模型往往缺乏所需的解释机制和对其预测不确定性的测量。这项工作的发展和比较贝叶斯神经网络(BNN)的信用卡违约建模。这包括高斯近似训练的BNN和混合蒙特卡罗(HMC)训练的BNN在信用风险建模中的首次实现。在台湾信用数据集上的结果表明,具有自动相关性确定(ARD)的BNN优于没有ARD的正常BNN。结果还表明,高斯近似训练的BNN显示出与HMC训练的BNN相似的预测性能。结果进一步表明,BNN与ARD可以用来推断不同功能的相对重要性,从而至关重要地帮助决策者解释模型输出给消费者。使用两种不同的方法训练BNN,识别为重要的特征之间的高度一致性加强了这一结果的鲁棒性。
2019-06-14 cs.LG stat.AP stat.ML
Bayesian Models of Data Streams with Hierarchical Power Priors
University of Torontoland(托伦托兰大学);Googol ShallowMind;University of Edenborrow(伊登伯勒大学)
从数据流进行推断是许多现代数据分析应用中普遍存在的问题。但它需要解决模型的持续更新问题,并适应底层数据生成分布的变化或漂移。在本文中,我们从贝叶斯的角度来处理这些问题,包括一般的共轭指数模型。我们的建议是利用非共轭层次先验明确模型的模型参数的时间变化。我们还得到了一个新的变分推理方案,克服了使用非共轭先验,同时保持共轭模型的变分方法的计算效率。该方法是在三个真实的数据集在三个潜变量模型进行验证。
2017-07-07 cs.LG stat.ML
Sequential edge detection using joint hierarchical Bayesian learning
Dartmouth College(达特茅斯学院);Old Dominion University(欧道明大学)
本文介绍了一种新的稀疏贝叶斯学习(SBL)算法,联合恢复的时间序列的边缘地图从噪声和欠采样的傅立叶数据。新方法是投在贝叶斯框架,并使用一个先验,同时结合图像内的信息,以促进稀疏在每个单独的边缘图与图像间的信息,以促进任何不变的区域的相似性。通过将边缘以及相邻图像之间的相似性都视为随机变量,不需要单独形成变化区域。因此,我们既避免了额外的计算成本,以及任何信息损失所造成的预处理的图像。我们的数值例子表明,我们的新方法相比,更标准的SBL方法。
2023-02-28 cs.LG stat.AP
Combining Multi-Fidelity Modelling and Asynchronous Batch Bayesian Optimization
Imperial College London(帝国理工学院);BASF SE(巴斯夫欧洲公司)
贝叶斯优化是实验设计中的一个有用工具。不幸的是,贝叶斯优化的经典顺序设置不能很好地转化为实验室实验,例如电池设计,其中测量可能来自不同的来源,并且它们的评估可能需要大量的等待时间。多保真度贝叶斯优化解决了来自不同来源的测量的设置。异步批处理贝叶斯优化提供了一个框架,可以在先前实验的结果显示之前选择新的实验。本文提出了一种结合多保真度和异步批处理方法的算法。我们实证研究的算法行为,并表明它可以优于单保真度批处理方法和多保真度顺序方法。作为一个应用,我们考虑使用纽扣电池实验来近似电池性能,设计电极材料以获得袋状电池的最佳性能。
2023-02-23 cs.CE cs.LG stat.ML
Bayesian Hierarchical Models for Counterfactual Estimation
JPMorgan AI Research(摩根大通人工智能研究院)
反事实解释利用特征扰动来分析原始决策的结果,并建议可操作的追索权。我们认为,这是有益的,而不是一个单点的解决方案,提供几种替代的解释,并提出了一个概率范式来估计一组不同的反事实。具体来说,我们把扰动作为随机变量赋予先验分布函数。这允许从后验密度中采样多个反事实,并具有合并归纳偏差、保留特定领域约束和量化估计中的不确定性的额外好处。更重要的是,我们利用贝叶斯分层模型来共享人口的不同子组之间的信息,这既可以提高鲁棒性,又可以衡量公平性。一个基于梯度的采样器具有优越的收敛特性,有效地计算后验样本。在几个数据集上的实验表明,使用我们的方法估计的反事实是有效的,稀疏的,多样的和可行的。
2023-01-21 cs.AI cs.LG
A Bayesian Hierarchical Model for Criminal Investigations
The Alan Turing Institute(艾伦·图灵研究所);Imperial College London(帝国理工学院);University of Warwick(华威大学)
潜在的暴力犯罪分子往往需要经过一系列的准备步骤,然后才能执行他们的计划。在这一升级过程中,警察有机会通过他们所了解的情况,观察和从关于这些人活动的情报报告中了解到的情况,评估这些人构成的威胁。在本文中,我们定制了一个三层贝叶斯层次模型来描述这个过程。这能够实时的传播常规和意外的证据。我们讨论了如何建立这样一个模型,使其校准领域专家的判断。模型插图包括基于潜在的基于车辆的恐怖袭击的假设示例。
2019-11-05 cs.AI cs.LG stat.AP
Forecasting COVID-19 Counts At A Single Hospital: A Hierarchical Bayesian Approach
Tufts University(塔夫茨大学);Tufts Medical Center(塔夫茨医学中心)
我们考虑预测单个医院站点的每日住院COVID-19患者人数的问题,以帮助管理人员进行物流和规划。我们开发了几个候选的分层贝叶斯模型,直接捕捉计数性质的数据通过广义泊松似然,模型时间序列的依赖性,通过自回归和高斯过程潜在的过程,并在相关的网站共享统计强度。我们在美国马萨诸塞州的8家医院和英国的10家医院的公共数据集上展示了我们的方法。进一步的前瞻性评估将我们的方法与3家相关医院的利益相关者目前使用的基线进行了比较,通过重新调整州一级的预测来预测未来2周的需求。
2021-04-14 cs.LG stat.ML
A Bayesian Approach to Modelling Longitudinal Data in Electronic Health Records
University of Cambridge(剑桥大学);The Alan Turing Institute(艾伦·图灵研究所);University of California Los Angeles(加州大学洛杉矶分校)
分析电子健康记录(EHR)带来了重大挑战,因为通常很少有样本可以描述患者的健康状况,并且在可用时,其信息内容高度多样化。我们考虑的问题是如何整合稀疏采样的纵向数据,缺失的测量信息的基础健康状况和固定的人口统计信息,以产生估计的生存分布更新通过患者的后续行动。我们提出了一个非参数概率模型,生成生存轨迹的贝叶斯树,学习变量的相互作用随着时间的推移,而无需事先指定的纵向过程的合奏。我们显示了原发性胆汁性肝硬化患者数据的性能改善。
2019-12-19 cs.LG stat.AP stat.ML
Conditional Hierarchical Bayesian Tucker Decomposition for Genetic Data Analysis
Engineering Sciences and Applied Mathematics(应用数学与工程科学);Industrial Engineering and Management Sciences(工业工程与管理科学);Preventive Medicine (Health and Biomedical Informatics)(预防医学(健康与生物医学信息学))
提出条件分层贝叶斯 Tucker 分解,将 LDA 扩展至多维稀疏遗传计数数据,以识别癌症与孤独症的共同风险因素,并取得优于基线的主题一致性。
2025-08-29 cs.LG stat.ME stat.ML
Next Visit Diagnosis Prediction via Medical Code-Centric Multimodal Contrastive EHR Modelling with Hierarchical Regularisation
University College London(伦敦大学学院)
提出NECHO框架,以医疗编码为中心融合多模态EHR数据,并通过层次正则化建模医学本体结构,提升下次就诊诊断预测性能。
2024-05-01 cs.AI cs.IR cs.LG
Normalizing Flows for Hierarchical Bayesian Analysis: A Gravitational Wave Population Study
University of Amsterdam(阿姆斯特丹大学);Flatiron Institute(熨斗研究所);Princeton University(普林斯顿大学)
我们建议参数化人口分布的引力波人口建模框架(层次贝叶斯分析)与规范化流程。我们首先证明了这种方法的优点说明性实验,然后分析了最新的LIGO/Virgo数据发布的四个参数:初级质量,次级质量,红移,和有效自旋。我们的研究结果表明,尽管小而臭名昭著的噪声数据集,后验预测分布(假设在流动的参数先验)所观察到的引力波人口恢复结构,同意与强大的以前的现象学建模结果,同时不太容易受到不太灵活的模型引入的偏见。因此,该方法形成了一个有前途的灵活,可靠的替代人口推断分布,即使数据是高度嘈杂的。
2022-12-29 astro-ph.HE astro-ph.IM cs.LG
BoRA: Bayesian Hierarchical Low-Rank Adaption for Multi-Task Large Language Models
University of Oslo(奥斯陆大学);Schibsted(谢布斯泰德公司)
提出贝叶斯分层低秩适配BoRA,通过全局分层先验实现多任务信息共享与任务专业化,实验表明其困惑度更低、跨任务泛化更好。
2025-01-07 cs.CL cs.LG stat.ML
Approximate Cross-validated Mean Estimates for Bayesian Hierarchical Regression Models
Pennsylvania State University(宾夕法尼亚州立大学);University of Florida(佛罗里达大学);Dalian University of Technology(大连理工大学)
本文提出一种通过以方差-协方差参数为条件、将交叉验证转化为优化问题的方法,从而高效获得贝叶斯分层回归模型的近似交叉验证预测估计,避免逐折重跑昂贵计算,并在理论与实验上验证其有效性。
2024-09-27 cs.LG stat.CO stat.ML
Simultaneous Skull Conductivity and Focal Source Imaging from EEG Recordings with the help of Bayesian Uncertainty Modelling
Tampere University(坦佩雷大学);University of Bath(巴斯大学)
脑电图(EEG)源成像问题是非常敏感的检查下的病人的头骨的电气建模。不幸的是,目前可用的EEG设备及其嵌入式软件没有考虑到这一点;相反,通常使用基于文献的颅骨电导率参数。在本文中,我们提出了一种基于贝叶斯近似误差方法的统计方法,以补偿由于未知的颅骨电导率引起的源成像误差,同时计算实际颅骨电导率值的低阶估计。通过使用模拟的EEG数据,对应于焦点源活动,我们证明了潜在的方法来重建潜在的焦点源和低阶错误引起的未知的颅骨电导率。随后,使用估计的误差来近似颅骨电导率。结果表明,在源定位精度和可行的颅骨电导率估计的明显改善。
2020-01-31 cs.LG eess.SP stat.AP