Recursive Two-Step Lookahead Expected Payoff for Time-Dependent Bayesian Optimization
我们提出了一种新的贝叶斯方法来解决最大化的不定常昂贵的评估预言。我们感兴趣的决定,最大限度地提高了预言在有限的时间范围内,当相对较少的噪声评估可以在地平线之前进行。我们的递归,两步前瞻预期收益($\texttt{r2LEY}$)收购功能,使非近视的决定,在每一个阶段,通过最大化的估计期望值的预言在地平线上。$\texttt{r2LEY}$通过在每个阶段递归地优化两步前视采集函数来规避昂贵的多步(多于两步)前视采集函数的评估;后一个函数及其梯度的无偏估计用于有效的优化。$\texttt{r2LEY}$表现出自然的探索性质,远离时间范围,使准确的模拟的甲骨文,这是利用在地平线上作出的最后决定。为了证明$\texttt{r2LEY}$的实用性,我们通过合成和真实世界的数据集将其与流行的近视采集功能的不定常扩展进行比较。
2020-12-08 math.OC stat.ML
Recursive Gaussian Processes and the Bayesian Brain
Indian Institute of Management, Udaipur(乌代布尔印度管理学院);Ashoka University(阿肖克大学);Indian Statistical Institute(印度统计研究所)
该研究将预测编码与递归高斯过程(RGPs)形式化关联,证明RGPs可实现分层贝叶斯推理等功能,将其组成部分映射到皮层微回路,定位其为计算工具与大脑预测机制模型,可产生可检验的神经动力学预测。
2026-08-04 cs.LG q-bio.NC stat.ML
Generative Filtering for Recursive Bayesian Inference with Streaming Data
针对流式递归贝叶斯更新中滤波样本退化的问题,本文提出 Generative Filtering,以并行更新兼顾效率与非退化性,并给出收敛速率、充分统计量条件及模拟与生态数据验证。
2024-12-06 stat.CO
Online Bayesian system identification in multivariate autoregressive models via message passing
Eindhoven Artificial Intelligence Systems Institute(埃因霍温人工智能系统研究所);Department of Electrical Engineering, Eindhoven University of Technology(电子工程系,埃因霍温理工大学)
本文提出基于因子图消息传递的多元自回归模型递归贝叶斯辨识方法,可同时估计自回归系数与噪声精度的完整后验分布,并支持在线模型证据计算,在合成与机械系统上验证了收敛性和竞争力。
2025-06-03 cs.LG eess.SP stat.ML
Making Recursive Bayesian Inference Robust
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对先验提议-递归贝叶斯推断在阶段间后验分布偏移时产生错误推断的问题,提出并行回火先验提议-递归贝叶斯推断,通过Metropolis耦合马尔可夫链蒙特卡洛思想扩展原方法,理论证明其收敛到真实后验,并在数值实验和实际数据分析中验证了其高效性。
2026-06-06 stat.CO stat.ME
A strategy to avoid particle depletion in recursive Bayesian inference
针对递归贝叶斯推理中滤波方法的粒子耗尽问题,提出基于前序样本经验分布平滑版生成提议的方法,保留计算优势且无粒子耗尽,经仿真和两类模型模拟数据验证有效。
2025-08-03 stat.CO stat.ME
Simultaneous quantification and changepoint detection of point source gas emissions using recursive Bayesian inference
最近的研究结果表明,石油和天然气供应链中设备的异常操作条件占人为甲烷排放量的很大一部分。因此,要有效减少排放,就必须迅速查明和修复故障设备造成的排放源。除了传感技术的进步,允许更频繁的监测,及时和具有成本效益的源识别需要计算框架,提供自动故障检测。在这里,我们提出了一个变点检测算法的基础上,允许同时排放率估计和故障检测的递归贝叶斯方案。所提出的算法进行了测试的一系列近场控制释放移动实验,与有希望的结果表明成功检测(>90%的成功率)的变化时,泄漏率的排放率是三倍后突然变化。此外,我们表明,统计的测量,如变异系数和范围是很好的预测算法的性能。最后,我们描述了这种方法可以很容易地适应固定传感器测量的时间平均浓度数据,从而展示了其灵活性。
2021-09-03 stat.AP
Black-box density function estimation using recursive partitioning
University of Bristol(布里斯托大学);Spotify(声田);University of Bath(巴斯大学);University of Cambridge(剑桥大学)
我们提出了一种新的方法来贝叶斯推断和一般贝叶斯计算,定义通过一个顺序的决策循环。我们的方法定义了一个递归分区的样本空间。它既不依赖于梯度,也不需要任何特定问题的调整,并且对于任何有界域的密度函数都是渐近精确的。输出是整个密度函数的近似值,包括归一化常数,通过有效的数据结构组织的分区。此类近似可用于证据估计或快速后验抽样,但也可作为处理更大类估计问题的构建模块。该算法表现出竞争力的性能,最近的国家的最先进的方法对合成和现实世界的问题,包括引力波物理参数推断。
2021-06-08 cs.LG stat.ML
A Novel Sparsity-Based Approach to Recursive Estimation of Dynamic Parameter Sets
我们考虑的问题,估计一个变量的参数与动态性质。一个熟悉的例子是使用传感器阵列观测来找到移动目标的位置。在观测结果不可靠或参数变化迅速的情况下,这个问题具有挑战性。受基于稀疏性技术的启发,我们引入了一种新的贝叶斯模型的兴趣的问题,并研究其相关的递归贝叶斯滤波器。我们提出了一种近似贝叶斯滤波器的算法,保持了合理的计算量。我们比较数值评估所得到的技术,在不同的情况下,最先进的算法。在低信噪比的情况下,所提出的方法优于其他复杂的技术。
2015-04-02 math.ST stat.CO stat.TH
Integrating Expert Knowledge and Recursive Bayesian Inference: A Framework for Spatial and Spatio-Temporal Data Challenges
本文提出了一种整合专家知识与递归贝叶斯推断的框架,用于解决空间和时空数据挑战,通过递归推断和支持转换方法提高估计准确性。
2025-11-25 stat.ME
Nested Gaussian filters for recursive Bayesian inference and nonlinear tracking in state space models
我们引入了一种新的顺序方法来校准的固定参数和跟踪的状态空间系统的随机动态变量。所提出的方法是基于嵌套混合滤波(NHF)框架[1],它结合了两层滤波器,一个在另一个里面,以计算静态参数和状态变量的联合后验概率分布。特别是,我们探讨了使用确定性采样技术的高斯近似在第一层的算法,而不是在原来的程序中采用的蒙特卡罗方法。由此产生的计划降低了计算成本,使算法可能更好地适用于高维状态和参数空间。我们描述了一个具体的例子,新的方法,然后研究其性能和效率的随机Lorenz 63模型与不确定参数的算法。
2021-03-23 stat.CO
Community Detection through Recursive Partitioning in Bayesian Framework
本文提出一种贝叶斯框架下的递归划分社区检测方法,无需预设社区数并可捕捉层次结构,证明了随机块模型下的一致性,且在模拟和医院数据中验证有效。
2025-09-28 stat.ME
Oblique Bayesian additive regression trees
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
针对轴对齐BART的局限,提出基于线性组合的斜BART方法,利用数据自适应先验沿随机超平面递归划分特征空间,实验证明其预测性能具竞争力且有时更优。
2024-11-13 cs.LG stat.ML
Tutorial on Exact Belief Propagation in Bayesian Networks: from Messages to Algorithms
在贝叶斯网络中,通过消息传递算法实现精确的置信传播。这些算法(例如:向内和向外)仅提供相应消息的递归定义。相比之下,当处理隐马尔可夫模型和变体时,人们通常首先明确定义这些消息(前向和后向量),然后导出所有结果和算法。在本文中,我们概括了隐马尔可夫模型的方法,通过引入一个明确的定义,在贝叶斯网络中的消息,从中我们得到所有相关的属性和结果,包括递归算法,允许计算这些消息。两个教学的例子(降水隐马尔可夫模型和谱系贝叶斯网络)被认为是沿文件来说明新的形式主义和独立的R信源编码中提供的附录。
2012-01-23 math.PR stat.CO
HINT: Hierarchical Invertible Neural Transport for Density Estimation and Bayesian Inference
Heidelberg University(海德堡大学)
许多最近的可逆神经架构是基于耦合块设计,其中变量被分成两个子集,作为一个容易可逆的(通常是仿射)三角变换的输入。虽然这样的变换是可逆的,但其雅可比矩阵非常稀疏,因此可能缺乏表达性。这项工作提出了一个简单的补救措施,注意到细分和(仿射)耦合可以在得到的子集内递归地重复,导致一个高效的可逆块与密集的三角形雅可比矩阵。通过经由分层架构制定我们的递归耦合方案,HINT允许从联合分布p(y,x)和对应的后验p(x)进行采样|y)使用单个可逆网络。我们评估我们的方法在一些标准的数据集和基准的密度估计和贝叶斯推断的一个新的数据集的二维形状的傅立叶参数化,这使得一致的可视化不同维度的样本的全部权力。
2021-05-25 cs.AI cs.LG stat.ML
Newton's Algorithm as a Gradient Flow: A Geometric Framework for Recursive Mixture Estimation
Department of Statistics & Data Sciences, University of Texas at Austin(德克萨斯大学奥斯汀分校统计与数据科学系)
本文提出牛顿递归作为梯度流的几何解释,揭示其在概率测度空间中的动态特性,为递归混合估计提供了理论基础。
2026-04-14 stat.ME
Quasi-Bayes properties of a recursive procedure for mixtures
Bocconi University(博科尼大学)
本文提出了一种递归过程在非参数混合模型中的近似贝叶斯性质方法,通过重新解释为预测规则,展示了其渐近贝叶斯特性,并提供了后验分布和可信区间。
2026-02-17 math.ST stat.ME stat.TH
Bayesian autoregression to optimize temporal Matérn kernel Gaussian process hyperparameters
Eindhoven University of Technology(埃因霍温理工大学)
本文提出一种基于递归贝叶斯自回归估计的方法,用于优化时间Matérn核高斯过程的超参数,在运行时间和均方根误差上均优于边际似然最大化和HMC采样。
2025-08-13 cs.LG eess.SP stat.ML
Lagged Exact Bayesian Online Changepoint Detection with Parameter Estimation
识别序列数据生成过程中的变化,称为变点检测,已经成为各种领域越来越重要的主题。最近开发的一种方法,我们称之为精确在线贝叶斯变点检测(EXO),已经显示出合理的结果与实时更新的有效计算。该方法基于\textit{forward}递归消息传递算法。然而,从这些方法检测到的变化点是不稳定的。我们提出了一种新的算法称为滞后精确在线贝叶斯变点检测(LEXO),提高了检测的准确性和稳定性,通过将$\ell$ -时间滞后的推理。新算法在前向EXO算法中增加了一个递归的\textit{backward}步,计算复杂度与增加的滞后数成线性关系。与政权相关的参数估计也被开发。三个常见的变点模型的仿真研究表明,从LEXO检测到的变点是更稳定的,从LEXO参数估计有相当低的MSE比EXO。我们说明了两个现实世界的数据例子比较EXO和LEXO的方法的适用性。
2018-10-13 stat.ML
Low-Complexity Nonparametric Bayesian Online Prediction with Universal Guarantees
Amadeus SAS(艾玛迪斯公司);Université Côte d’Azur(蔚蓝海岸大学);Inria(法国国家信息与自动化研究所)
我们提出了一种新的非参数在线预测的离散标签条件下的多变量连续功能。该预测器基于由具有随机选择的方向和递归贝叶斯分布的完整k-d树引起的特征空间离散化,其允许自动学习表征条件分布的最相关特征尺度。我们证明了它的逐点普适性,即,它实现了标准化的对数损失性能,其渐近地与给定特征的标签的真实条件熵一样好。处理第$n$个样本点的时间复杂度是相对于生成数据点的分布的概率的$O(\log n)$,而其他精确的非参数方法需要处理所有过去的观测。在具有挑战性的数据集上的实验表明,与标准和最先进的方法相比,我们的算法的计算和统计效率。
2020-01-31 cs.IT cs.LG math.IT
Bayesian Multi-scale Modeling of Factor Matrix without using Partition Tree
多尺度因子模型对于分析矩阵或张量值数据特别有吸引力,因为它们对局部几何形状的适应性和直观的解释。然而,依赖于二叉树进行递归划分在参数空间中产生了高复杂性,使得量化其不确定性极具挑战性。在这篇文章中,我们发现了一种使用简单的矩阵运算生成多尺度矩阵的替代方法:从每列具有两个唯一值的随机矩阵开始,其Cholesky白化变换遵循递归划分结构。这使我们能够考虑一个生成的分布与常见的多尺度因子模型,并通过哈密顿蒙特卡罗有效的后验计算的大先验支持。我们在多尺度因子模型中展示了它的潜力,可以为人脑连接找到更广泛的感兴趣区域。
2020-02-25 stat.ME
Learning Asymmetric and Local Features in Multi-Dimensional Data through Wavelets with Recursive Partitioning
在多维网格上观察到的图像和其他数据中的非对称和局部特征的有效学习对于涉及生物医学和自然图像的广泛图像处理应用来说是一个具有挑战性的目标。它需要对局部细节敏感的方法,同时足够快以处理不断增加大小的大量图像。我们引入了一个基于概率模型的框架,该框架通过贝叶斯分层建模将自适应性纳入离散小波变换(DWT)来实现这些目标,从而允许小波基适应数据的几何结构,同时保持小波方法的高计算可扩展性-样本量线性(例如,图像的分辨率)。我们推导出一个递归表示的贝叶斯后验模型,导致一个精确的消息传递算法来完成学习和推理。虽然我们的框架适用于一系列问题,包括多维信号处理,压缩和结构学习,但我们使用ImageNet数据库中的真实图像来说明其工作并评估其性能,ImageNet数据库是两个广泛使用的基准数据集,和视网膜光学相干断层扫描的数据集,并将其性能与基于基础变换和深度学习的最先进方法进行比较。
2020-11-06 stat.CO stat.ME stat.ML
A new approach to Poissonian two-armed bandit problem
本文考虑了一个连续时间的双臂强盗问题,其中收入由泊松过程描述。我们发展了任意先验分布的贝叶斯方法。给出了确定贝叶斯分段常数策略和贝叶斯风险的两种形式的递推方程和极限情形下的偏微分方程。与先前考虑的贝叶斯设置不同,我们的描述使用过程的当前历史,而不是后验分布的演变。
2019-07-13 math.ST stat.TH
Bayesian Filtering in Physical Systems via Test-time Trained Flow Matching
Westlake University(西湖大学);Zhejiang University(浙江大学)
本文提出信念流滤波器(BFF),通过测试时梯度下降更新流匹配模型权重以跟踪后验演化,绕过粒子表示和高斯假设的限制,在多个物理系统基准上取得最优性能。
2026-09-22 cs.AI cs.LG stat.ML
Recurrent Neural Networks and Universal Approximation of Bayesian Filters
University of Technology Sydney(悉尼科技大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61研究所)
我们考虑贝叶斯最优滤波问题:即从观测序列估计潜在时间序列信号的某些条件统计量。传统的方法往往依赖于使用假设或估计的过渡和观察模型。相反,我们制定了一个通用的递归神经网络框架,并寻求直接学习从观测输入到所需的估计统计的递归映射。本文的主要焦点是这个框架的近似能力。我们提供了一般非紧域上滤波的近似误差界。我们还考虑了强时间一致逼近误差界,保证良好的长期性能。我们讨论并说明了一些实际问题和这些结果的影响。
2023-03-15 cs.LG eess.SP math.OC
A Recursive Exponential-Gamma Mixture: a New Generalized of the Lindley Distribution
Faculty of Mathematics and Computer Science, Amirkabir University of Technology(阿米尔卡比尔大学数学与计算机科学学院)
本文提出一种基于Lindley分布与伽马分布递归关系的新分布,通过统计特性检验和实际例子展示其优于现有广义Lindley分布。
2025-12-28 math.ST stat.TH
Fast Non-Parametric Bayesian Inference on Infinite Trees
注射了。从未知分布的数据,我们考虑预测未来项目的问题。估计概率密度的自适应方法是递归地将域细分为适当的数据相关粒度。贝叶斯将为“细分”分配一个与数据无关的先验概率,这将导致在无限(许多)树上的先验。我们推导出一个精确的,快速的,简单的推理算法,这样的先验,数据证据,预测分布,有效的模型维数,和其他数量。
2004-11-23 cs.LG math.PR math.ST
Discrete Max-Linear Bayesian Networks
离散最大线性贝叶斯网络是一种有向图模型,它由与最大线性模型相同的递归结构方程描述,但具有离散的新息。当模型中的所有随机变量都是二进制时,这些模型同构于Beerenwinkel,Eriksson和Sturmfels的合取贝叶斯网络(CBN)模型。许多用于研究CBN模型的技术可以扩展到离散的最大线性模型,并且可以得到类似的结果。特别地,我们将CBN模型在坐标线性变化后是复曲面变种的事实推广到所有离散的最大线性模型。
2021-02-05 math.CO math.ST stat.TH
Exact Non-Parametric Bayesian Inference on Infinite Trees
注射了。从未知分布的数据,我们考虑预测未来项目的问题。估计概率密度的自适应方法是递归地将域细分为适当的数据相关粒度。贝叶斯将为“细分”分配一个与数据无关的先验概率,这将导致在无限(许多)树上的先验。我们推导出一个精确的,快速的,简单的推理算法,这样的先验,数据证据,预测分布,有效的模型维数,矩,和其他数量。我们证明了渐近收敛和一致性结果,并说明了我们的模型在一些原型函数上的行为。
2009-03-30 cs.LG math.PR math.ST
Recursive Estimation for Sparse Gaussian Process Regression
University of Limerick(利默里克大学)
高斯过程(GPs)是一种强大的非参数回归核化方法,在许多应用中得到了广泛的应用。然而,由于其立方时间复杂度,它们的使用仅限于几千个训练样本。为了将GP扩展到更大的数据集,文献中已经提出了几种基于所谓的诱导点的稀疏近似。在这项工作中,我们研究了一类稀疏诱导点GP回归方法和贝叶斯递归估计,使卡尔曼滤波器像更新在线学习之间的连接。以前的大部分工作都集中在批量设置上,特别是学习模型参数和诱导点的位置,这里我们专注于使用小批量进行训练。通过利用卡尔曼滤波器的制定,我们提出了一种新的方法,估计这样的参数,通过递归传播的分析梯度后的小批量的数据。与最先进的方法相比,我们的方法保持后验均值和协方差的解析更新,从而大大减少了优化问题的大小。我们表明,我们的方法实现了更快的收敛速度和优越的性能相比,最先进的顺序高斯过程回归的合成GP以及现实世界的数据高达一百万的数据样本。
2020-06-22 cs.LG stat.ML
Score and Information for Recursive Exponential Models with Incomplete Data
Aalborg University(奥尔堡大学);Microsoft Research(微软研究院)
递归图模型通常是基于贝叶斯网络的概率专家系统统计建模的基础。本文定义了这些模型的一个版本,表示为递归指数模型,这已经演变的愿望,施加复杂的领域知识的局部片段的模型。除了由给定模型指定的结构知识之外,统计建模还可以包括关于模型中的参数值的专家意见。它示出了如何翻译成近似共轭先验分布的不精确的专家知识。基于可能不完整的数据,这些模型的得分和观察到的信息。这说明了传统得分和观测信息(作为对数似然的导数导出)以及后验得分和观测信息(作为对数后验分布的导数导出)。在整个文件的递归图形模型的专业化占一个简单的例子。
2013-02-06 cs.AI stat.ME
People infer recursive visual concepts from just a few examples
New York University(纽约大学);University of California Berkeley(加州大学伯克利分校)
机器学习在对图像中的对象进行分类方面取得了重大进展,但最好的算法忽略了人们如何学习和思考类别的重要方面。人们可以从更少的例子中学习更丰富的概念,包括解释类别成员如何形成的因果模型。在这里,我们探索这种人类能力的限制,推断因果“程序”-潜在的生成过程与非平凡的算法属性-从一个,两个或三个视觉的例子。人们被要求以几种方式推断程序,既分类又产生新的例子。作为这些归纳能力的理论,我们提出了一个贝叶斯程序学习模型,搜索空间的程序的最佳解释的意见。虽然变量,但人们的判断与模型大致一致,与几种替代方案不一致,包括用于对象识别的预训练深度神经网络,这表明人们可以从稀疏的输入数据中学习和推理丰富的算法抽象。
2019-07-29 cs.CV cs.LG q-bio.NC
Algebraic geometry of Gaussian Bayesian networks
高斯情形下的条件独立模型是正定协方差阵锥上的代数簇。我们研究这些品种的情况下,贝叶斯网络,以期推广递归因式分解定理的情况下,隐藏变量。在底层图是树的情况下,我们证明了模型的消失理想是由图所隐含的条件独立语句所生成的。我们还表明,理想的任何贝叶斯网络是均匀的,相对于一个多级诱导的上游随机变量的集合。这对隐变量模型有许多重要的影响。最后,我们将贝叶斯网络的理想与代数几何中的一些经典结构联系起来,包括格拉斯曼曲面退化、矩阵舒伯特簇和割线簇。
2007-05-22 math.AG math.ST stat.TH
Implementing Bayesian predictive procedures: The K-prime and K-square distributions
标准正态模型下的贝叶斯预测程序的实施。有两个分布是特别有趣的,K-素数和K-平方分布。它们也给出了简单和多重相关系数的精确推论。它们的累积分布函数可以用不完全贝塔函数比的无穷级数表示,因而适于递归计算。提供了有效的算法。为了处理特殊情况下,可能的下溢可能会阻止正常工作的复发,提出了一个简单的解决方案,导致在两类算法之间的过程。给出了一些应用实例。
2010-03-25 stat.ME
A Fast Non-Gaussian Bayesian Matching Pursuit Method for Sparse Reconstruction
提出了一种基于贝叶斯方法的快速匹配追踪稀疏信号恢复方法。该方法被称为nGpFBMP,即使当信号先验是非高斯或未知时,也执行稀疏信号的贝叶斯估计。它是不可知的信号统计,并利用先验统计的加性噪声和稀疏率的信号,这是很容易估计的数据,如果没有。nGpFBMP利用一个贪婪的方法和顺序递归更新的度量,找到最主要的稀疏支持,以确定近似的最小均方误差(MMSE)估计的稀疏信号。仿真结果表明,我们提出的估计的权力和鲁棒性。
2012-06-19 stat.OT
Qualitative Robustness in Bayesian Inference
贝叶斯推理的实际实现需要数值逼近时,封闭形式的表达式不可用。什么类型的精确度(收敛性)的数值逼近保证鲁棒性,什么类型不能?特别是,当后续数据或后验近似时,贝叶斯规则的递归应用是否稳健?当先验是由偏微分方程的解诱导的映射对分布的推进时,该解应近似于哪个范数?出于这样的问题,我们调查的灵敏度分布的后验分布(即后验分布值的随机变量,随机通过数据)相对于扰动的先验和数据生成分布的限制时,数据点的数量增长到无穷大。
2016-04-20 math.ST stat.TH
ViBR-WM: Visual Bayesian Regression for World Modeling
Texas A&M University(德州农工大学)
ViBR-WM是一种视觉贝叶斯回归世界模型,通过可解释回归和贝叶斯变量选择,在四项预测任务中均优于现有方法,实现更低的物理目标误差。
2026-09-29 cs.CV cs.LG stat.ME
Bayesian Estimation with Distance Bounds
我们考虑的问题时,估计一个随机状态向量的子向量之间的最大距离的信息。估计问题是在贝叶斯框架中提出的,其中状态的最小均方误差(MMSE)估计由条件均值给出。由于寻找条件均值需要多维积分,提出了一种近似MMSE估计。所提出的估计器的性能进行评估,在定位问题。最后,通过将该估计器应用于航位推算问题,说明了该估计器在不等式约束递归滤波中的应用。估计的MSE与两个相关的后验Cramér-Rao界进行了比较。
2012-10-12 math.ST stat.TH
Multistatic-Radar RCS-Signature Recognition of Aerial Vehicles: A Bayesian Fusion Approach
Northeastern University(东北大学);University of Pittsburgh(匹兹堡大学);DEVCOM ARL(DEVCOM陆军研究实验室)
针对多基地雷达RATR中融合方法次优的问题,提出结合最优贝叶斯融合与递归贝叶斯分类的全贝叶斯框架,经7种无人机模拟轨迹实验验证,分类准确率显著优于单雷达及次优融合方法。
2024-08-16 cs.CV cs.LG eess.SP
Exponential two-armed bandit problem
研究了收益服从指数分布密度的指数型双臂强盗问题。我们发展了贝叶斯方法,并给出了确定贝叶斯策略和贝叶斯风险的递归方程。在控制时域趋于无穷大的极限情形下,得到了“闭分布”区域内的二阶偏微分方程。并与高斯双臂强盗模型进行了比较。事实证明,指数型和高斯型双臂强盗在极限情况下具有相同的描述。由于高斯双臂强盗描述了批处理,这意味着在指数双臂强盗的情况下,批处理与一个接一个的最佳处理相比不会扩大贝叶斯风险,因为处理的数据项的总数趋于无穷大。
2019-08-15 math.ST stat.TH
Generative Bayesian Filtering and Parameter Learning
本文提出生成式贝叶斯滤波(GBF)框架,将生成式贝叶斯计算扩展到动态状态空间模型,并引入生成式-Gibbs采样器进行参数学习,在不可处理密度场景下显著优于现有免似然方法。
2025-11-06 stat.CO stat.ME stat.ML
Tempering by Subsampling
在本文中,我们证明了回火马尔可夫链蒙特卡罗抽样贝叶斯模型的递归二次抽样观察不更换可以提高性能的基线抽样的有效样本量每次计算。我们提出了两个回火子采样算法,子采样并行回火和子采样回火过渡。我们提供了一个渐近分析回火的计算成本的子采样,验证回火的子采样成本低于传统的回火,并证明了贝叶斯方法学习高维多元正态和估计高斯过程超参数的平均值的算法。
2014-01-28 stat.ML
Multi-objective Bayesian Optimization using Pareto-frontier Entropy
Osaka University(大阪大学);Japan Fine Ceramics Center(日本精细陶瓷中心);Nagoya Institute of Technology(名古屋工业大学);National Institute for Material Science(国立材料科学研究所)
研究了一种基于熵的多目标贝叶斯优化算法。熵搜索是贝叶斯优化的一种成功方法。然而,对于目标管理,现有的基于熵的方法忽略了目标之间的权衡或引入不可靠的近似。本文提出了一种新的基于熵的目标优化算法--Pareto-frontier entropy search(PFES)。我们的熵可以将最优值的权衡关系,并且进一步地,我们推导出一个分析公式,而无需对标准熵搜索设置引入额外的近似或简化。我们还表明,我们的熵计算实际上是可行的,通过使用递归分解技术,已被称为研究的Pareto超体积计算。除了通常的MBO设置,其中所有的目标是同时观察,我们还考虑了“解耦”设置,其中的目标函数可以单独观察。PFES可以很容易地适应解耦的设置,通过考虑每个输出维度的边际密度的熵。该方法在Pareto边界条件下考虑了目标间的相关性,而现有方法忽略了这一点。我们的数值实验表明PFES通过几个基准数据集的有效性。
2020-02-11 cs.LG stat.ML
Bayesian Optimization of Functions over Node Subsets in Graphs
University of Oxford(牛津大学);Google(谷歌公司)
针对图上节点子集函数的组合黑箱优化难题,提出基于贝叶斯优化与组合图局部递归采样的新框架,并在合成与真实任务中验证其有效性。
2025-01-05 cs.LG stat.ML
Variational message passing for online polynomial NARMAX identification
TU Eindhoven(埃因霍温理工大学)
提出了一种在线非线性系统辨识的变分贝叶斯推断方法。对于每个输出观测,更新一组参数后验分布,然后将其用于形成未来输出的后验预测分布。我们专注于一类多项式NARMAX模型,我们铸造成概率的形式,并表示在Forney风格的因子图。在这个图中的推理是有效地执行的变分消息传递算法。我们的经验表明,我们的变分贝叶斯估计优于在线递归最小二乘估计,最明显的是在小样本量设置和低噪声制度,并执行与离线训练的迭代最小二乘估计。
2022-04-02 cs.LG cs.SY eess.SP
Lookahead Acquisition Functions for Finite-Horizon Time-Dependent Bayesian Optimization and Application to Quantum Optimal Control
我们提出了一种新的贝叶斯方法来解决一个时间依赖的昂贵的评估随机预言的最大化。我们感兴趣的决定,最大限度地提高了甲骨文在有限的时间范围内,给出了有限的预算的噪音评估的甲骨文,可以在地平线之前进行。我们的递归两步前瞻收购功能贝叶斯优化,使非近视的决定,在每一个阶段,在指定的时间范围内最大化的预期效用。具体来说,我们提出了一个通用的两步前瞻框架,可定制的\emph{value}功能,允许用户定义的实用程序。我们说明了如何前瞻版本的经典收购功能,如预期的改善,改善的概率,和置信上限可以得到这个框架。我们证明了我们所提出的方法的实用性几个精心构造的合成情况下,现实世界的量子最优控制问题。
2021-05-20 math.OC stat.CO
Recursive Gaussian Process State Space Model
School of Astronautics, Beihang University, Beijing, 102206, China(航天学院,北航,北京,102206,中国);State Key Laboratory of High-Efficiency Reusable Aerospace Transportation Technology, Beijing, 102206, China(高效可重复使用航天运输技术国家重点实验室,北京,102206,中国)
本文提出一种递归高斯过程状态空间模型方法,通过一阶线性化贝叶斯更新、在线诱导点选择和超参数优化,实现在线自适应学习,在合成与真实数据上优于现有方法。
2025-10-17 cs.LG cs.SY eess.SY
Quasi-Bayesian sequential deconvolution
University of Torino(都灵大学);Collegio Carlo Alberto(卡罗阿尔贝托学院);Bocconi University(博科尼大学)
针对流式数据密度反卷积的计算瓶颈,提出基于牛顿递归算法的准贝叶斯非参数序列反卷积方法,兼具精度与计算优势,可扩展至大规模数据。
2026-08-10 stat.ME stat.ML
Bayesian Discovery of Linear Acyclic Causal Models
Helsinki Institute for Information Technology(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
从非干预性数据中自动发现因果关系的方法最近受到了广泛关注。线性非循环因果模型(递归结构方程模型)是一种广泛使用且易于理解的模型族。对于高斯数据,两种基于约束的方法(Spirtes等人,一九九三年; Pearl,2000年)(输出一个单一的等价类)和基于贝叶斯评分的方法(Geiger和Heckerman,1994年)(为等价类分配相对评分)。相反,能够利用数据中的非高斯性的所有当前方法(Shimizu等人,2006; Hoyer等人,2008)总是只返回一个图或一个等价类,因此根本无法表达输出的确定性程度。在本文中,我们开发了一个贝叶斯评分为基础的方法,能够利用非高斯估计线性非循环因果模型时,我们的经验表明,至少在非常适度的规模的网络,其准确性是一样好或优于现有的方法。我们提供了一个完整的代码包(在R),实现所有的算法,并执行所有的分析提供的文件,并希望这将进一步应用这些方法来解决因果推断问题。
2012-05-09 cs.LG stat.ME stat.ML
Minimum bounding polytropes for estimation of max-linear Bayesian networks
本文利用热带多面体研究最大线性贝叶斯网络的最小比率估计器,刻画参数恢复所需最小最佳样本的集合覆盖结构,并将几何方法用于结构推断,在模拟与真实数据上验证了有效性。
2025-11-08 math.CO math.ST stat.ME
Dimensionality Reduction and State Space Systems: Forecasting the US Treasury Yields Using Frequentist and Bayesian VARs
使用状态空间系统,我预测美国国债收益率采用频率和贝叶斯方法后,首先分解成其不可观测的期限结构因素的不同期限的收益率。然后,利用状态空间模型的结构对国债收益率进行预测,并利用均方预测误差比较了各个模型的预测性能。在频率论方法中,我采用了两步Diebold-Li,两步主成分和一步卡尔曼滤波方法。同样,我在贝叶斯VAR中使用了五种不同的先验:扩散、明尼苏达、自然共轭、独立正态逆(Wishart)和随机搜索变量选择先验。在对9个不同预测期的国债收益率进行预测后,我发现具有明尼苏达先验的BVAR通常使损失函数最小化。我增加了上述BVAR包括宏观经济变量和构造脉冲响应函数与递归排序识别计划。最后,我用虚拟观测值拟合了一个符号限制的BVAR。
2021-08-14 econ.EM stat.AP
An Efficient Algorithm for Bayesian Nearest Neighbours
UBS Securities LLC(瑞银证券有限责任公司);University College London(伦敦大学学院)
K-最近邻(k-NN)是一种流行的分类和回归算法,但其主要局限性之一是难以选择邻居的数量。我们提出了一种贝叶斯算法来计算后验概率分布k给定一个目标点内的数据集,有效地,而不使用马尔可夫链蒙特卡罗(MCMC)方法或模拟-旁边的指数族内的分布的精确解。其中心思想是,我们目标周围的数据点是由相同的概率分布产生的,向外延伸到适当的(尽管未知的)邻居数量。一旦数据被投影到选择的距离度量上,我们就可以将k的选择转化为变点检测问题,对此有一个有效的解决方案:当我们向目标移动时,我们递归地计算最后一个变点的概率,从而实际上计算出k上的后验概率分布。将这种方法应用于分类和回归UCI数据集,我们比较有利,最重要的是,通过消除模拟的需要,我们能够准确和快速地计算k的后验概率。例如,Ripley数据集的计算时间为几毫秒,而使用MCMC方法时为几小时。
2017-06-02 cs.LG stat.ML
A Recursive Theory of Variational State Estimation: The Dynamic Programming Approach
本文提出了一种基于动态规划的变分状态估计理论,通过逆向和正向方法结合,得出了变分双滤波公式,并展示了在特定模型中价值函数递归的可行性。
2025-12-16 stat.ME
Density Regression and Uncertainty Quantification with Bayesian Deep Noise Neural Networks
University of Pennsylvania(宾夕法尼亚大学);Purdue University(普渡大学);University of Michigan(密歇根大学)
深度神经网络(DNN)模型在广泛的监督学习应用中实现了最先进的预测精度。然而,准确量化DNN预测中的不确定性仍然是一项具有挑战性的任务。对于连续的结果变量,一个更困难的问题是估计预测密度函数,它不仅提供了预测不确定性的自然量化,而且还完全捕获了结果中的随机变化。在这项工作中,我们提出了贝叶斯深度噪声神经网络(B-DeepNoise),它通过将随机噪声变量从输出层扩展到所有隐藏层来推广标准贝叶斯DNN。潜在的随机噪声使B-DeepNoise能够灵活地近似高度复杂的预测分布,并准确量化预测的不确定性。对于后验计算,B-DeepNoise的独特结构导致了一种封闭形式的Gibbs采样算法,该算法从模型参数的后验全条件分布迭代模拟,从而规避了计算密集型Metropolis-Hastings方法。B-DeepNoise的理论分析建立了预测分布的递归表示,并分解了关于潜在参数的预测方差。我们在基准回归数据集上对B-DeepNoise与现有方法进行了评估,证明了其在预测精度、不确定性量化精度和不确定性量化效率方面的卓越性能。为了说明我们的方法在科学研究中的有用性,我们在青少年大脑认知发展(ABCD)项目中应用B-DeepNoise来预测神经成像特征的一般智力。
2022-06-12 cs.LG stat.ML