Online Calibrated and Conformal Prediction Improves Bayesian Optimization
Cornell Tech(康奈尔科技学院);Cornell University(康奈尔大学);Stanford University(斯坦福大学)
本文提出基于在线学习的校准算法,在非平稳数据上可证明地维持预测校准,并以最小开销集成到 Bayesian optimization 中,实验证明其能以更少步骤收敛至更优解。
2024-06-25 cs.LG stat.ML
Experimenting, Fast and Slow: Bayesian Optimization of Long-term Outcomes with Online Experiments
Meta
针对在线A/B测试中长期实验耗时过长的问题,提出结合快速实验或离线代理与慢速实验的方法,在短时间内对大型动作空间执行顺序贝叶斯优化。
2025-06-30 cs.LG stat.ML
Constrained Bayesian Experimental Design via Online Planning
ELLIS Institute Finland(芬兰ELLIS研究所);Department of Computer Science, Aalto University, Finland(芬兰阿尔托大学计算机科学系);Department of Computer Science, University of Manchester, UK(英国曼彻斯特大学计算机科学系)
提出一种结合离线预训练摊销策略和后验网络与在线多步前瞻规划(场景树)的方法,以在动态约束下优化贝叶斯实验设计,相比现有方法获得更优信息序列且计算开销适中。
2026-05-26 cs.LG stat.ML
A Generalization Bound for Online Variational Inference
CREST, ENSAE, Institut Polytechnique de Paris(巴黎综合理工学院国立统计与经济行政学院 CREST);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
贝叶斯推断提供了一个有吸引力的在线学习框架来分析序列数据,并提供了泛化保证,即使在模型不匹配和对手。不幸的是,精确的贝叶斯推断在实践中很少是可行的,并且通常采用近似方法,但是这样的方法保持了贝叶斯推断的泛化特性吗?在本文中,我们表明,这确实是一些变分推断(VI)算法的情况。我们认为一些现有的在线,回火VI算法,以及一个新的算法,并推导出其泛化界。我们的理论结果依赖于变分目标的凸性,但我们认为,该结果应持有更普遍的,目前的经验证据支持这一点。在本文中,我们的工作提出了理论上的理由,有利于在线算法依赖于近似贝叶斯方法。
2019-12-10 cs.LG math.ST stat.CO
Primal-Dual Contextual Bayesian Optimization for Control System Online Optimization with Time-Average Constraints
EPFL(洛桑联邦理工学院);Swiss Federal Laboratories for Materials Science and Technology (Empa)(瑞士联邦材料科学与技术研究所(Empa))
本文提出原始-对偶上下文贝叶斯优化算法,用于受约束控制系统的在线优化,在实现次线性累积遗憾的同时保证零时间平均约束违反,并通过仿真验证了其性能优势。
2023-09-20 cs.LG math.OC
Online Preconditioning of Experimental Inkjet Hardware by Bayesian Optimization in Loop
MIT(麻省理工学院)
高性能半导体光电子器件如钙钛矿具有高维和巨大的组成空间,其控制材料的性能特性。为了具有成本效益地搜索这些组合物空间,我们利用了一种高通量的实验方法,通过喷墨沉积快速打印离散液滴,其中每个液滴是由一个独特的排列的半导体材料。然而,喷墨打印机系统没有被优化以在半导体材料上运行高通量实验。因此,在这项工作中,我们开发了一个计算机视觉驱动的贝叶斯优化框架,用于优化从喷墨打印机沉积的液滴结构,使其被调整为在半导体材料上进行高通量实验。该框架的目标是使用最少数量的液滴样本在最短的时间内调整到喷墨打印机的硬件条件,使得我们最小化在设置用于材料发现应用的系统上花费的时间和资源。我们证明了收敛在10分钟内使用贝叶斯优化的计算机视觉评分液滴结构的最佳喷墨硬件条件。我们比较我们的贝叶斯优化结果与随机梯度下降。
2021-05-06 cs.CV cs.LG eess.IV
Bayesian-based Online Label Shift Estimation with Dynamic Dirichlet Priors
Department of Electrical and Electronic Engineering, Imperial College London(帝国理工学院伦敦分校电子与电气工程系)
本文提出FMAPLS和online-FMAPLS方法,通过动态优化Dirichlet超参数和类别先验,有效解决标签偏移问题,提升分类性能。
2025-11-23 cs.LG stat.ML
Robust Bayesian Optimization via Localized Online Conformal Prediction
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);King’s College London(伦敦国王学院);Imperial College London(帝国理工学院)
针对贝叶斯优化在模型误设下性能下降的问题,提出LOCBO算法,通过局部在线保形预测校准高斯过程似然并去噪以获得校准后验,在最小噪声假设下提供理论保证,实验证明其在模型误设下优于现有算法。
2025-04-01 cs.LG eess.SP
Apple Tasting Revisited: Bayesian Approaches to Partially Monitored Online Binary Classification
Lancaster University(兰开斯特大学)
研究“苹果品尝”在线二分类问题,将其建模为带辅助信息的部分监控问题,并基于 logistic regression 模型,证明 Thompson Sampling 实现了改进阶的 Bayesian regret 界,且其高效近似在实验中表现优于现有方法。
2024-04-22 cs.LG
Learning to select data for transfer learning with Bayesian Optimization
University of Groningen(格罗宁根大学);National University of Ireland, Galway(爱尔兰国立大学(高威));Aylien Ltd.(Aylien有限公司)
领域相似性度量可用于衡量适应性并选择合适的数据用于迁移学习,但现有方法定义了被认为适合于相应任务的自组织度量。受课程学习工作的启发,我们提出了使用贝叶斯优化的\emph{learn}数据选择措施,并跨模型,域和任务进行评估。我们学习的措施优于现有的领域相似性措施显着三个任务:情感分析,词性标注和解析。我们表明了用多样性补充相似性的重要性,并且在某种程度上,学习的措施可以跨模型,域甚至任务转移。
2017-07-17 cs.CL cs.LG
PACTran: PAC-Bayesian Metrics for Estimating the Transferability of Pretrained Models to Classification Tasks
Google Research(谷歌研究院)
近年来,随着预训练模型的日益丰富,为特定的下游分类任务选择最佳预训练检查点的问题越来越受到关注。虽然最近已经提出了几种方法来解决选择问题(例如LEEP,H-评分),这些方法诉诸于应用学习理论没有很好的动机。在本文中,我们提出了PACTran,这是一个用于预训练模型选择和可移植性测量的理论基础指标家族。我们首先展示了如何在迁移学习设置下从最佳PAC-Bayesian界导出PACTran度量。然后,我们凭经验评估PACTran的三个度量实例的视觉任务(VTAB)以及语言和视觉(OKVQA)的任务。结果分析表明,PACTran是一个更一致和有效的可转移性措施相比,现有的选择方法。
2022-07-19 cs.LG
Transfer Learning for Bayesian Optimization: A Survey
Beijing Institute of Technology(北京理工大学);Tencent Inc.(腾讯公司);Peking University(北京大学);Mila - Québec AI Institute(米拉 - 魁北克人工智能研究所)
广泛的设计和决策问题,包括参数调整,A/B测试和药物设计,本质上是黑箱优化的实例。贝叶斯优化(BO)是一个强大的工具,模型和优化这种昂贵的“黑盒”功能。然而,在优化的开始,香草贝叶斯优化方法往往遭受缓慢的收敛问题,由于不准确的建模基于少量的试验。为了解决这个问题,BO社区的研究人员提出将迁移学习的精神融入到优化过程中,这可以从过去的任务(源任务)中借用力量来加速当前的优化问题(目标任务)。本文首先从初始点设计、搜索空间设计、代理模型和获取函数四个方面总结了贝叶斯优化的迁移学习方法。然后,它强调了每种方法的方法学方面和技术细节。最后,它展示了广泛的应用,并提出了有前途的未来方向。
2023-02-12 cs.AI cs.LG
Online Optimization with Costly and Noisy Measurements using Random Fourier Expansions
Delft University of Technology(代尔夫特理工大学)
本文分析了DONE,在线优化算法,迭代最小化一个未知的功能的基础上昂贵和嘈杂的测量。该算法以随机傅立叶展开(RFE)的形式维护未知函数的代理。每当有新的测量值可用时,替代值就会更新,然后用于确定下一个测量点。该算法与贝叶斯优化算法相当,但其每次迭代的计算复杂性不依赖于测量的数量。我们得出了几个理论结果,提供洞察力的超参数的算法应该如何选择。该算法相比,贝叶斯优化算法的基准问题和三个应用程序,即,光学相干断层扫描,光学波束形成网络调整,和机器人手臂控制。结果发现,DONE算法是明显快于贝叶斯优化在讨论的问题,同时实现类似或更好的性能。
2016-09-29 cs.LG math.OC stat.ML
Transfer Learning in Bayesian Optimization for Aircraft Design
McGill University(麦吉尔大学);Bombardier(庞巴迪);Polytechnique Montréal(蒙特利尔综合理工学院);GERAD;Clemson University(克莱姆森大学)
本文提出利用迁移学习的贝叶斯优化方法,通过源数据辅助目标问题优化,解决冷启动问题。采用集成代理模型和约束框架,针对飞机设计中的异质变量和约束提出降维和代理选择方法,提升收敛速度和预测精度。
2026-03-30 cs.LG math.OC stat.ML
Online Bayesian Passive-Aggressive Learning
Institute for Interdisciplinary Information Sciences, Tsinghua(清华大学交叉信息研究院);Department of Computer Science and Technology, Tsinghua(清华大学计算机科学与技术系)
在线被动-攻击学习是一种有效的实现最大边际在线学习的框架。但是,确定性公式和估计的单一大利润率模型可能会限制其发现复杂数据下的描述性结构的能力。本文介绍了在线贝叶斯被动攻击(BayesPA)学习,它包含在线PA,并自然扩展到包含潜在变量和执行非参数贝叶斯推理,从而为探索性分析提供了极大的灵活性。我们应用贝叶斯PA主题建模,并获得有效的在线学习算法的最大利润主题模型。我们进一步发展非参数方法来解决主题的数量。真实数据集上的实验结果表明,我们的方法显着提高了时间效率,同时保持与批处理同行的可比结果。
2013-12-12 cs.LG
Particle-based Online Bayesian Sampling
University of California, Santa Barbara(加州大学圣巴巴拉分校);Microsoft Research Asia(微软亚洲研究院)
在线优化由于其跟踪真实世界流数据的能力而获得了越来越多的关注。虽然在线优化方法已被广泛研究的设置频率统计,很少有作品考虑在线优化与贝叶斯抽样问题。在本文中,我们研究了在线粒子变分推理(OPVI)算法,使用一组粒子来表示近似分布。为了减少使用随机近似所造成的梯度误差,我们包括一个次线性增加批量的方法,以减少方差。为了跟踪一系列动态变化的目标后验序列的OPVI算法的性能,我们提供了一个详细的理论分析,从Wasserstein梯度流的角度与动态遗憾。综合实验和贝叶斯神经网络实验表明,该算法比单纯应用现有的贝叶斯抽样方法在在线环境下取得了更好的效果。
2023-02-28 cs.LG
Low-Complexity Nonparametric Bayesian Online Prediction with Universal Guarantees
Amadeus SAS(艾玛迪斯公司);Université Côte d’Azur(蔚蓝海岸大学);Inria(法国国家信息与自动化研究所)
我们提出了一种新的非参数在线预测的离散标签条件下的多变量连续功能。该预测器基于由具有随机选择的方向和递归贝叶斯分布的完整k-d树引起的特征空间离散化,其允许自动学习表征条件分布的最相关特征尺度。我们证明了它的逐点普适性,即,它实现了标准化的对数损失性能,其渐近地与给定特征的标签的真实条件熵一样好。处理第$n$个样本点的时间复杂度是相对于生成数据点的分布的概率的$O(\log n)$,而其他精确的非参数方法需要处理所有过去的观测。在具有挑战性的数据集上的实验表明,与标准和最先进的方法相比,我们的算法的计算和统计效率。
2020-01-31 cs.IT cs.LG math.IT
Online Learning via Learned Latent Bayesian Tracking
Ben-Gurion University(本-古里安大学);Northeastern University London(东北大学伦敦校区)
针对非平稳环境下高维模型在线学习计算困难的问题,提出AURA元学习框架,通过学习低维潜状态空间模型并利用扩展卡尔曼滤波实现高效在线适应,在无线接收机和图像分类任务上显著提升适应速度与精度。
2026-09-30 cs.LG eess.SP
Robust and Scalable Bayesian Online Changepoint Detection
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
提出一种在线、可证明鲁棒且可扩展的贝叶斯变点检测算法,利用广义贝叶斯和扩散分数匹配实现闭式共轭后验,速度比最接近方法快10倍以上。
2023-05-12 cs.LG stat.ML
PBODL : Parallel Bayesian Online Deep Learning for Click-Through Rate Prediction in Tencent Advertising System
Tencent(腾讯)
我们描述了一个用于预测当前腾讯广告系统中点击率(CTR)的并行baidu在线深度学习框架(PBODL),它可以快速准确地学习用户偏好。我们首先用一个深度概率回归模型来解释这个框架,这个模型是在假设的高斯密度过滤模式下用概率反向传播来训练的。然后,我们将模型家族扩展到各种具有越来越多的特征嵌入能力的baker-online模型,如Sparse-MLP,FM-MLP和FFM-MLP。最后,我们实现了一个基于流计算基础设施和参数服务器的并行训练系统。在公开数据集和腾讯行业数据集上的实验表明,我们框架内的模型性能优于几种常见的在线模型,如AdPredictor,FTRL-Proximal和MatchBox。在腾讯广告系统中的在线A/B测试进一步证明了我们的框架可以通过更快更准确的学习来实现CTR和CPM的提升。
2017-07-09 cs.LG
Detecting and Adapting to Irregular Distribution Shifts in Bayesian Online Learning
University of California, Irvine(加州大学欧文分校)
我们考虑的问题,在线学习的分布变化,发生在一个未知的速度和未知的强度的存在。我们推导出一种新的贝叶斯在线推理方法,同时推断这些分布的变化,并通过整合变点检测,切换动力系统和贝叶斯在线学习的想法,使模型适应检测到的变化。使用一个二进制的“变化变量”,我们构建了一个信息丰富的先验,这样-如果检测到变化-模型部分删除过去的模型更新的信息,通过回火,以促进适应新的数据分布。此外,该方法使用波束搜索来跟踪多个变点假设,并在事后选择最可能的一个。我们提出的方法是模型不可知的,适用于监督和无监督学习设置,适用于概念漂移或协变量漂移的环境,并产生比最先进的贝叶斯在线学习方法的改进。
2021-10-26 cs.LG stat.ML
Online Transfer Learning: Negative Transfer and Effect of Prior Knowledge
University of Melbourne(墨尔本大学)
迁移学习是一种机器学习范例,其中来自一个任务的知识被用来解决相关任务中的问题。一方面,可以想象,从一个任务中获得的知识可能对解决相关问题有用。另一方面,人们也认识到,如果不正确执行,迁移学习算法实际上可能会损害学习性能,而不是提高它-通常称为“负迁移”。本文研究了源样本以离线方式给出而目标样本顺序到达的在线迁移学习问题。我们定义了在线迁移学习问题的期望后悔,并使用信息理论量提供了后悔的上界。当样本量变大时,我们也得到了精确的边界表达式。实例表明,即使对于小样本量,推导的界限也是准确的。此外,所获得的界限提供了宝贵的洞察力的影响,先验知识的迁移学习在我们的配方。特别是,我们正式的负迁移发生的条件下的特征。
2021-05-04 cs.IT cs.LG math.IT
Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes
Stony Brook University(石溪大学);Brookhaven National Laboratory(布鲁赫斯国家实验室);Basis Research Institute(基础研究机构)
本文提出在线贝叶斯堆叠(OBS)方法,通过优化预测分布的对数得分来适应性地组合贝叶斯模型,并将其与投资组合选择理论联系起来,提供了一种新的理论框架和高效算法。
2026-01-22 cs.LG stat.CO stat.ME
Bayesian Online Prediction of Change Points
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);TU Darmstadt(达姆施塔特工业大学)
在线检测数据序列生成过程中的瞬时变化通常集中在对这些变化点的回顾性推断上,而不考虑它们未来的出现。我们扩展了贝叶斯在线变化点检测算法,以推断直到下一个变化点的时间步长的数量(即,剩余时间)。这使得能够处理依赖于总段持续时间的观察模型,这对于用时间缩放来建模数据序列是有用的。由此产生的推理算法段检测可以部署在一个在线的方式,我们说明了应用程序的合成和两个医疗现实世界的数据集。
2020-06-24 cs.LG stat.ML
Online and Distributed learning of Gaussian mixture models by Bayesian Moment Matching
David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学大卫·R·切里顿计算机科学学院)
高斯混合模型是聚类和数据建模的经典技术,在许多应用中使用。随着大数据的兴起,需要能够处理流数据并将计算分布在多个处理器上的参数估计技术。虽然存在期望最大化(EM)算法的在线变体,但它们的数据效率因E步的随机近似而降低,并且不清楚如何将计算分布在多个处理器上。我们提出了一种贝叶斯学习技术,自然适合在线和分布式计算。由于贝叶斯后验是不听话的,我们将其投影到一个家庭听话的分布后,每个观察匹配一组足够的时刻。在一组数据建模基准上,这种贝叶斯矩匹配技术在时间和精度方面优于在线EM。
2016-09-19 cs.AI cs.LG stat.ML
Adaptive Bayesian Online Learning via Expert Aggregation
Inha University(仁荷大学)
研究如何改进贝叶斯在线学习,将其更新规则视为专家,按顺序预测损失聚合专家。通过在线共形推理和高斯过程回归实例化框架,得到平滑贝叶斯对应物及神谕不等式,实验显示聚合能跟踪强大专家且无需神谕专家选择。
2026-07-23 cs.LG stat.ML
Bayesian Online Model Selection
Boston University(波士顿大学);Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所)
本文提出了一种贝叶斯算法,用于解决随机多臂老虎机中的在线模型选择问题,证明了算法的理论保证并展示了其在不同设置下的实证性能。
2026-02-20 cs.LG
Online parameter inference for the simulation of a Bunsen flame using heteroscedastic Bayesian neural network ensembles
University of Cambridge(剑桥大学)
本文提出了一种贝叶斯数据驱动的机器学习方法,用于管道预混火焰G方程模型参数的在线推断。异方差贝叶斯神经网络集成在LSGEN 2D(G方程求解器)中模拟的170万个火焰前沿库上进行训练,以学习给定观测值的模型参数的贝叶斯后验分布。然后,系综用于推断本生火焰实验的参数,使这些动态可以在LSGEN 2D中模拟。这允许计算火焰边缘的表面积变化,即热释放速率的代表。所提出的方法提供了廉价和在线的参数和不确定性估计匹配的结果与合奏卡尔曼滤波器,在较少的计算成本。这使得能够快速可靠地模拟燃烧过程。
2021-04-26 cs.LG stat.AP
Online Bayesian Risk-Averse Reinforcement Learning
School of Industrial and Systems Engineering(工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院)
本文研究强化学习中的贝叶斯风险规避问题,采用BRMDP应对模型参数不确定性,推导值函数差异的渐近正态性,提出基于后验采样的在线RL与CMAB算法,并证明其次线性遗憾界与有效性。
2025-09-17 cs.LG
Efficient RF Passive Components Modeling with Bayesian Online Learning and Uncertainty Aware Sampling
ShanghaiTech University(上海科技大学)
针对传统射频无源元件机器学习建模计算量大的问题,提出带可重构头贝叶斯神经网络与不确定性引导自适应采样的贝叶斯在线学习框架,在保证精度的同时将电磁仿真时间降至原流程的2.86%,提速35倍。
2025-11-19 cs.LG
Efficient Online Bayesian Inference for Neural Bandits
Queen Mary University(玛丽女王大学);Boğaziçi University(博阿齐奇大学);Google Research(谷歌研究院)
在本文中,我们提出了一个新的算法在线(顺序)推理贝叶斯神经网络,并显示其适用于解决上下文强盗问题。关键思想是将扩展卡尔曼滤波器(在每个时间步局部线性化似然函数)与参数的(学习或随机)低维仿射子空间相结合;子空间的使用使我们能够将算法扩展到具有$\sim 1M$参数的模型。虽然大多数其他神经强盗方法需要存储整个过去的数据集,以避免“灾难性遗忘“的问题,我们的方法使用恒定的记忆。这是可能的,因为我们表示模型中所有参数的不确定性,而不仅仅是最终的线性层。我们在“Deep Bayesian Bandit Showdown”基准测试以及MNIST和推荐系统上显示了良好的结果。
2021-12-01 cs.LG
The Bayesian Prophet: A Low-Regret Framework for Online Decision Making
Cornell University(康奈尔大学)
我们开发了一个新的框架,用于设计在线政策的访问提供统计信息的离线基准的甲骨文。访问这样的预测预言使简单而自然的贝叶斯选择策略成为可能,并提出了这些策略在不同环境中如何执行的问题。我们的工作对这个问题做出了两个重要的贡献:首先,我们开发了一种通用的技术,我们称之为补偿耦合,它可以用来推导出预期后悔的界限(即,相对于基准的附加损失)。其次,使用这种技术,我们证明了一个自然的贪婪策略,我们称之为 * 贝叶斯定理 *,具有恒定的预期后悔(即,独立于到达的数量和资源水平)的一大类问题,我们称之为有限类型的在线分配,其中包括广泛研究的在线包装和在线匹配问题。我们的研究结果概括和简化了在线包装和在线匹配的几个现有的结果,并提出了一个有前途的途径,为其他在线决策设置获得甲骨文驱动的政策。
2020-02-26 cs.DS cs.LG math.PR
Dynamic pricing with Bayesian updates from online reviews
Universidad de Chile(智利大学);LIRMM, Université de Montpellier, CNRS(蒙彼利埃大学计算机科学、机器人技术与微电子实验室,法国国家科学研究中心);Flagship(Flagship 公司)
本文研究包含在线评论的动态定价模型,将卖家定价问题建模为bandits问题并利用Catalan数高效计算折扣奖励,进而分析比较了最优静态与动态定价策略在学习产品质量概率上的表现。
2024-04-23 cs.LG
Online Bayesian system identification in multivariate autoregressive models via message passing
Eindhoven Artificial Intelligence Systems Institute(埃因霍温人工智能系统研究所);Department of Electrical Engineering, Eindhoven University of Technology(电子工程系,埃因霍温理工大学)
本文提出基于因子图消息传递的多元自回归模型递归贝叶斯辨识方法,可同时估计自回归系数与噪声精度的完整后验分布,并支持在线模型证据计算,在合成与机械系统上验证了收敛性和竞争力。
2025-06-03 cs.LG eess.SP stat.ML
Wasserstein-Splitting Gaussian Process Regression for Heterogeneous Online Bayesian Inference
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学);U.S. Army Research Laboratory(美国陆军研究实验室)
高斯过程(Gaussian processes,GP)是一种著名的非参数贝叶斯推断技术,但对于大样本量,GP存在可扩展性问题,对于非平稳或空间异构数据,GP的性能会降低。在这项工作中,我们试图克服这些问题,通过(i)采用变分自由能近似的GP与在线期望传播步骤的串联操作;和(ii)引入一个本地分裂步骤,每当后验分布变化显着量化的Wasserstein度量超过后验分布,实例化一个新的GP。然后,随着时间的推移,这产生了稀疏GP的集合,其可以增量地更新,并且适应训练数据中的局部性、异质性和非平稳性。
2021-07-26 cs.LG stat.ML
Online Bayesian Meta-Learning for Cognitive Tracking Radar
Virginia Tech(弗吉尼亚理工大学);US Army Research Laboratory(美国陆军研究实验室)
认知雷达的一个关键组成部分是泛化能力,或在一系列感知环境中实现一致的性能,因为物理场景的各个方面可能会随时间而变化。这对基于学习的波形选择方法提出了挑战,因为在一个场景中有效的传输策略在另一个场景中可能是非常次优的。我们解决这个问题的战略偏见的学习算法,通过利用高层次的结构跟踪实例,称为元学习。在这项工作中,我们开发了一种在线元学习方法,用于波形敏捷跟踪。该方法使用从先前目标跟踪中获得的信息来加速和增强新跟踪实例中的学习。这导致在样本有效的学习,通过利用固有的相似性,在跟踪场景中,由于共同的物理元素,如目标类型或杂波统计的一类有限状态目标通道。我们制定的贝叶斯学习的框架内的在线波形选择问题,并提供先验依赖的性能界限的元学习问题,使用概率近似正确(PAC)贝叶斯理论。我们提出了一个计算上可行的元后验采样算法,并研究了在不同场景的仿真研究中的性能。最后,我们研究了与波形敏捷跟踪的在线元学习相关的潜在性能优势和实际挑战。
2023-02-07 cs.IT cs.LG cs.SY
Marginal and Joint Cross-Entropies & Predictives for Online Bayesian Inference, Active Learning, and Active Sampling
University of Oxford(牛津大学)
当我们只关注边际预测分布(边际预测)时,原则贝叶斯深度学习(BDL)并没有发挥出它的潜力。最近的工作突出了联合预测(贝叶斯)顺序决策的重要性,从理论和合成的角度。我们提供了更多的实际论据,立足于现实世界的应用,专注于联合预测:我们讨论在线贝叶斯推理,这将使我们能够作出预测,同时考虑到额外的数据,而无需再培训,我们提出了新的具有挑战性的评估设置使用主动学习和主动采样。这些设置的动机是检查边缘和联合预测,他们各自的交叉熵,以及他们在离线和在线学习的地方。它们比以前建议的更现实,建立在Wen等人的工作基础上。(2021)和Osband等人。(2022),并专注于评估在线监督环境中近似BNN的性能。然而,最初的实验,这些想法在高维参数空间与当前BDL推理技术的可行性提出了问题,我们建议的实验,可能有助于进一步阐明这些问题的实用性,目前的研究。重要的是,我们的工作突出了当前研究中以前未发现的差距,以及对更好的近似联合预测的需求。
2022-05-18 cs.LG stat.ML
Adaptive, Robust and Scalable Bayesian Filtering for Online Learning
School of Mathematical Sciences(数学科学学院)
该论文以贝叶斯滤波统一在线学习、序贯预测和上下文老虎机问题,提出自适应框架、鲁棒广义贝叶斯滤波器及可扩展二阶更新工具。
2025-05-12 cs.LG stat.ML
Evolving Robustness--Exploration Trade-off in Online Reinforcement Learning via Quantile Bayesian Risk MDPs
School of Industrial and Systems Engineering(工业与系统工程系);Georgia Institute of Technology(佐治亚理工学院)
本文提出一种基于分位数贝叶斯风险MDP的自适应算法,通过动态调整分位数水平来平衡早期鲁棒性与后期探索,并证明了亚线性贝叶斯遗憾界。
2026-05-23 cs.LG
Bayesian Nonexhaustive Learning for Online Discovery and Modeling of Emerging Classes
IUPUI(印第安纳大学-普渡大学印第安纳波利斯分校);Purdue University(普渡大学);Biindley Bioscience Center(宾德利生物科学中心)
我们提出了一个在线推理的框架,在存在一个非穷举定义的类集,将监督分类与类发现和建模。定义在类分布上的狄利克雷过程先验(DPP)模型确保已知和未知类分布都根据共同的基础分布起源。在尝试自动发现潜在的感兴趣的类形成,先验模型与适当选择的数据模型相结合,并使用顺序蒙特卡罗采样来执行在线推理。我们的研究是由生物检测应用程序驱动的,其中一类新的病原体可能突然出现,并且源自该类的样本数量的快速增加表明爆发的开始。
2012-06-18 cs.LG stat.ML
Online Incident Response Planning under Model Misspecification through Bayesian Learning and Belief Quantization
KTH Royal Institute of Technology(皇家理工学院);City University of Hong Kong(香港城市大学)
针对网络攻击响应框架依赖详细系统模型的局限,提出MOBAL方法,通过贝叶斯学习迭代优化模型推测并量化为有限马尔可夫模型,实验证明其在模型错误设定下的适应性和鲁棒性优于现有技术。
2025-08-20 cs.AI cs.CR cs.LG
Low Complexity Approximate Bayesian Logistic Regression for Sparse Online Learning
Google(谷歌);Purdue University(普渡大学)
理论结果表明,贝叶斯方法可以实现在线逻辑回归的遗憾下界。然而,在实践中,这种技术可能不可行,特别是对于非常大的特征集。对于巨大的稀疏特征集,必须使用各种近似,从而减少理论上的优势。通常,他们应用随机梯度方法,超参数必须根据一些替代损失进行调整,从而击败贝叶斯方法的理论优势。替代损失,定义为近似的混合,需要的技术,如蒙特卡罗抽样,增加每个例子的计算。我们提出了低复杂度的分析近似稀疏在线逻辑和概率回归。与变分推理和其他方法不同,我们的方法使用解析闭合形式,大大降低了计算量。与密集的解决方案不同,作为高斯混合,我们的方法允许具有巨大特征集的稀疏问题,而不会增加复杂性。使用解析闭合形式,也不需要对代理损失应用随机梯度方法,也不需要调整和平衡学习和正则化超参数。经验结果顶部的性能更涉及计算的方法。像这样的方法,我们的方法仍然揭示每个功能和每个例子的不确定性措施。
2021-01-28 cs.LG stat.ML
Bayesian Online Learning for Consensus Prediction
University of California, Irvine(加州大学欧文分校)
针对无基准真值、模型预测免费但人工查询有成本的在线分类场景,提出基于多元超几何分布的在线贝叶斯共识估计框架,从部分反馈动态估计专家共识,在查询成本与性能间实现可解释权衡,在两个大规模众包数据集上验证了有效性。
2023-12-12 cs.LG stat.ML
Online Label Aggregation: A Variational Bayesian Approach
Delft University of Technology(代尔夫特理工大学);Tsinghua University(清华大学);ABB Research(ABB研究院)
对于众包内容来说,嘈杂的标记数据更像是一种常态,而不是罕见的。通过人群工作者的聚集结果来提取噪声并推断正确的标签是有效的。为了确保时间相关性并克服工人的缓慢响应,越来越多地要求在线标签聚合,需要能够通过数据项的子集增量地推断真实标签分布的解决方案。在本文中,我们提出了一种新的在线标签聚合框架,BiLA,它采用变分贝叶斯推理方法,并设计了一种新的随机优化方案的增量训练。BiLA是灵活的,以适应任何生成的标签分布的精确计算其后验分布。我们还推导出所提出的优化的收敛界。我们比较BiLA与最先进的最小最大熵,神经网络和期望最大化算法的基础上,合成和真实世界的数据集。我们对各种在线场景的评估结果表明,BiLA可以有效地推断真实标签,对于合成和真实世界的数据集,出错率分别降低至少10到1.5个百分点。
2020-11-15 cs.LG stat.ML
Distributed Bayesian Online Learning for Cooperative Manipulation
Technical University of Munich(慕尼黑工业大学)
对于多个代理的动态在物理上耦合的任务,例如,在协同操作中,个体智能体之间的协调变得至关重要,这需要对相互作用动力学的精确知识。这个问题通常使用集中式估计器来解决,这会对整个系统的灵活性和鲁棒性产生负面影响。为了克服这一缺点,我们提出了一种新的分布式学习框架的示范性任务的合作操作使用贝叶斯原理。仅使用本地状态信息,每个代理获得的对象动态和把握运动学的估计。这些局部估计值使用动态平均一致性进行组合。由于该方法的强概率基础,对象动力学和抓取运动学的每个估计都伴随着不确定性的测量,这允许保证具有高概率的有界预测误差。此外,贝叶斯原理直接允许具有恒定复杂度的迭代学习,使得所提出的学习方法可以在实时应用中在线使用。在一个模拟的协同操作任务中证明了该方法的有效性。
2022-06-28 cs.LG cs.RO
Decentralized Online Ensembles of Gaussian Processes for Multi-Agent Systems
Stony Brook University(石溪大学)
针对多智能体系统中贝叶斯去中心化学习方案有限的问题,提出完全去中心化、渐近精确的高斯过程随机特征近似方法,并结合基于在线贝叶斯模型平均的集成方案解决超参数选择,在数据集上与贝叶斯及频率主义方法测试对比。
2025-02-07 cs.LG cs.MA eess.SP
Bayesian Discovery of Multiple Bayesian Networks via Transfer Learning
University of New Mexico(新墨西哥大学);Google, Inc(谷歌公司)
具有有限数据的贝叶斯网络结构学习算法正用于系统生物学和神经科学等领域,以深入了解产生观测数据的底层过程。从有限的数据中学习可靠的网络是困难的,因此迁移学习可以通过利用来自相关任务的数据来提高学习网络的鲁棒性。现有的贝叶斯网络结构学习的迁移学习算法给出了一个单一的最大后验估计的网络模型。然而,许多其他模型可能同样可能,因此贝叶斯结构发现提供了更多信息的结果。贝叶斯结构发现算法估计诸如边缘的结构特征的后验概率。我们提出了贝叶斯结构发现的迁移学习,它允许我们探索相关任务之间共享和独特的结构特征。有效的计算要求我们将学习的客观因素转移到本地计算中,我们证明了这是由广泛的转移偏差。从理论上讲,我们证明了我们的方法的效率。从经验上讲,我们表明,与单任务学习相比,迁移学习能够更好地积极识别真正的边缘。我们将该方法应用于全脑神经成像数据。
2013-07-09 cs.LG stat.ML
Addressing modern and practical challenges in machine learning: A survey of online federated and transfer learning
University of Essex(埃塞克斯大学)
在线联邦学习(OFL)和在线迁移学习(OTL)是克服现代机器学习挑战(如数据孤岛、流数据和数据安全)的两种协作范例。这项调查探讨了OFL和OTL的主要演变路线,以加强对在线联邦和迁移学习的理解。此外,在这项工作中,流行的数据集和在线联邦和迁移学习的前沿应用程序的实际方面突出。此外,这项调查提供了对未来潜在研究领域的深入了解,旨在为开发在线联合和迁移学习框架的专业人员提供资源。
2022-02-07 cs.LG
Online Bayesian Collaborative Topic Regression
Zhejiang University(浙江大学);Singapore Management University(新加坡管理大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
协作主题回归(CTR)结合了概率矩阵分解(PMF)和主题建模(例如,LDA)的推荐系统,在许多应用中取得了越来越多的成功。现有的CTR算法虽然具有许多优点,但也存在一些严重的局限性。首先,它们通常被设计为以批量学习的方式工作,这使得它们不适合处理真实世界推荐系统中的流数据或大数据。其次,LDA的文档特定主题比例被馈送到下游PMF,但不是反向的,这是次优的,因为在发现文档的低维表示时没有利用评级信息,因此可能导致用于预测的次优表示。在本文中,我们提出了一种新的方案,在线贝叶斯协作主题回归(OBCTR),这是有效的和可扩展的学习数据流。特别地,我们{ \it联合}以在线学习的方式优化PMF和LDA的组合目标函数,其中PMF和LDA任务可以在在线学习过程中相互加强。我们令人鼓舞的实验结果对现实世界的数据验证了所提出的方法的有效性。
2016-05-28 cs.IR cs.LG
Online Bayesian inference for multiple changepoints and risk assessment
RandomPulse;Advestis
本研究的目的是检测突然的趋势变化的多维序列信号的平均值。直接受到Fernhead和Liu([4]和[5])论文的启发,这项工作以分层的方式描述了信号:时间分割过程的变化日期触发分段常数发射定律的更新。获得了有关变化日期和排放参数的贝叶斯后验信息。这些估计可以在线修订,即随着新数据的到来。本文提出了明确的配方对应于各种排放法律,以及推广的情况下,只有部分观测数据。实际应用包括部分观察到的多资产投资策略的回报,当只有很少的先验知识的回报的推动者是在手,限于一些统计假设。这种情况与研究单个资产收益的趋势变化不同,在这种情况下,基本面外生信息(新闻,盈利公告,争议等)可以使用
2021-05-31 cs.LG stat.ME
Virtual Vector Machine for Bayesian Online Classification
Microsoft Research(微软研究院);Purdue University(普渡大学)
在典型的在线学习场景中,要求学习器使用小的存储器缓冲器来处理大的数据流。这样的要求通常与学习者对预测准确性的主要追求相冲突。为了解决这个难题,我们引入了一种新的贝叶斯在线分类算法,称为虚拟向量机。虚拟向量机允许您平滑地权衡预测精度与内存大小。虚拟向量机通过在分类权重上的高斯分布加上恒定数量的虚拟数据点来总结包含在先前数据流中的信息。虚拟数据点被设计为添加关于分类权重的额外非高斯信息。为了保持虚拟点的数量不变,虚拟向量机将当前真实数据点添加到虚拟点集合中,将两个最相似的虚拟点合并为新的虚拟点,或者删除远离决策边界的虚拟点。在这个过程中丢失的信息被吸收到高斯分布中。由虚拟点提供的额外信息导致比以前的在线分类算法更高的预测准确性。
2012-05-09 cs.LG stat.ML
Confirmatory Bayesian Online Change Point Detection in the Covariance Structure of Gaussian Processes
Ulsan National Institute of Science and Technology(蔚山科学技术院)
在序列数据的分析中,突变的检测对于预测未来的变化非常重要。在本文中,我们提出了统计假设检验检测协方差结构的变化,局部光滑的高斯过程(GP)建模的时间序列。我们为测试提供了理论上合理的阈值,并通过确认统计上显著的变化和非变化来使用它们来改进贝叶斯在线变化点检测(BOCPD)。我们的解释性BOCPD(CBOCPD)算法发现多个结构断裂的GP,即使超参数没有精确调整。我们还提供了条件下,CBOCPD提供较低的预测误差相比,BOCPD。在合成和真实世界数据集上的实验结果表明,我们的新测试正确地检测到GP中协方差结构的变化。所提出的算法也优于现有的方法,在回归误差和对数似然预测的非平稳性。
2020-02-07 cs.LG stat.ML
Sample-Efficient Bayesian Transfer Learning for Online Machine Parameter Optimization
Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所IPA);TRUMPF SE + Co. KG(通快集团)
针对生产机器参数优化迭代成本高的问题,提出一种结合贝叶斯优化与迁移学习的样本高效方法,利用已有机器数据减少迭代次数,并在实际钣金切割激光机器上完成验证。
2025-03-21 cs.LG
Bayesian Online Change Point Detection for Baseline Shifts
Intel K.K.(英特尔株式会社)
在时间序列数据分析中,实时(在线)检测变化点在许多领域都有很大的兴趣,例如金融,环境监测和医学。一个有前途的手段来实现这一点是贝叶斯在线变化点检测(BOCPD)算法,这已成功地通过在特定的情况下,其中的时间序列的利益有一个固定的基线。然而,我们已经发现,当基线不可逆地从其初始状态转移时,该算法会出现问题。这是因为使用原始BOCPD算法,如果数据点在相对远离原始基线的位置处波动,则可以检测到变化点的灵敏度降低。在本文中,我们不仅扩展了原来的BOCPD算法适用于一个时间序列,其基线是不断向未知值,但也可视化为什么建议的扩展工程。为了证明所提出的算法的有效性相比,原来的,我们研究这些算法在两个真实世界的数据集和六个合成数据集。
2022-01-07 cs.LG stat.AP stat.ML