Efficient RF Passive Components Modeling with Bayesian Online Learning and Uncertainty Aware Sampling
ShanghaiTech University(上海科技大学)
针对传统射频无源元件机器学习建模计算量大的问题,提出带可重构头贝叶斯神经网络与不确定性引导自适应采样的贝叶斯在线学习框架,在保证精度的同时将电磁仿真时间降至原流程的2.86%,提速35倍。
2025-11-19 cs.LG
Efficient Online Bayesian Inference for Neural Bandits
Queen Mary University(玛丽女王大学);Boğaziçi University(博阿齐奇大学);Google Research(谷歌研究院)
在本文中,我们提出了一个新的算法在线(顺序)推理贝叶斯神经网络,并显示其适用于解决上下文强盗问题。关键思想是将扩展卡尔曼滤波器(在每个时间步局部线性化似然函数)与参数的(学习或随机)低维仿射子空间相结合;子空间的使用使我们能够将算法扩展到具有$\sim 1M$参数的模型。虽然大多数其他神经强盗方法需要存储整个过去的数据集,以避免“灾难性遗忘“的问题,我们的方法使用恒定的记忆。这是可能的,因为我们表示模型中所有参数的不确定性,而不仅仅是最终的线性层。我们在“Deep Bayesian Bandit Showdown”基准测试以及MNIST和推荐系统上显示了良好的结果。
2021-12-01 cs.LG
Adaptive Candidate Point Thompson Sampling for High-Dimensional Bayesian Optimization
University of British Columbia(不列颠哥伦比亚大学);Vector Institute(向量研究所)
本文提出ACTS方法,通过自适应缩减搜索空间提高高维贝叶斯优化效率,改进了现有汤普森采样方法在合成和现实基准中的表现。
2026-04-10 cs.LG
Dynamic pricing with Bayesian updates from online reviews
Universidad de Chile(智利大学);LIRMM, Université de Montpellier, CNRS(蒙彼利埃大学计算机科学、机器人技术与微电子实验室,法国国家科学研究中心);Flagship(Flagship 公司)
本文研究包含在线评论的动态定价模型,将卖家定价问题建模为bandits问题并利用Catalan数高效计算折扣奖励,进而分析比较了最优静态与动态定价策略在学习产品质量概率上的表现。
2024-04-23 cs.LG
Evolving Robustness--Exploration Trade-off in Online Reinforcement Learning via Quantile Bayesian Risk MDPs
School of Industrial and Systems Engineering(工业与系统工程系);Georgia Institute of Technology(佐治亚理工学院)
本文提出一种基于分位数贝叶斯风险MDP的自适应算法,通过动态调整分位数水平来平衡早期鲁棒性与后期探索,并证明了亚线性贝叶斯遗憾界。
2026-05-23 cs.LG
Online Learning via Learned Latent Bayesian Tracking
Ben-Gurion University(本-古里安大学);Northeastern University London(东北大学伦敦校区)
针对非平稳环境下高维模型在线学习计算困难的问题,提出AURA元学习框架,通过学习低维潜状态空间模型并利用扩展卡尔曼滤波实现高效在线适应,在无线接收机和图像分类任务上显著提升适应速度与精度。
2026-09-30 cs.LG eess.SP
Robust and Scalable Bayesian Online Changepoint Detection
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
提出一种在线、可证明鲁棒且可扩展的贝叶斯变点检测算法,利用广义贝叶斯和扩散分数匹配实现闭式共轭后验,速度比最接近方法快10倍以上。
2023-05-12 cs.LG stat.ML
Deep Bayesian Bandits Showdown: An Empirical Comparison of Bayesian Deep Networks for Thompson Sampling
Google Brain(谷歌大脑)
深度强化学习的最新进展在Go和Atari游戏等应用程序的性能方面取得了重大进展。然而,在复杂领域开发平衡勘探和开采的实用方法在很大程度上仍然没有解决。Thompson Sampling及其对强化学习的扩展提供了一种优雅的探索方法,只需访问模型的后验样本。与此同时,近似贝叶斯方法的进步使灵活的神经网络模型的后验近似变得实用。因此,在Thompson采样框架中考虑近似贝叶斯神经网络是有吸引力的。为了了解使用近似后验对汤普森采样的影响,我们对一系列上下文强盗问题的近似后验采样与汤普森采样相结合的方法进行了基准测试。我们发现,许多在监督学习环境中取得成功的方法在顺序决策场景中表现不佳。特别是,我们强调了适应缓慢收敛的不确定性估计在线设置的挑战。
2018-02-26 cs.LG stat.ML
Detecting and Adapting to Irregular Distribution Shifts in Bayesian Online Learning
University of California, Irvine(加州大学欧文分校)
我们考虑的问题,在线学习的分布变化,发生在一个未知的速度和未知的强度的存在。我们推导出一种新的贝叶斯在线推理方法,同时推断这些分布的变化,并通过整合变点检测,切换动力系统和贝叶斯在线学习的想法,使模型适应检测到的变化。使用一个二进制的“变化变量”,我们构建了一个信息丰富的先验,这样-如果检测到变化-模型部分删除过去的模型更新的信息,通过回火,以促进适应新的数据分布。此外,该方法使用波束搜索来跟踪多个变点假设,并在事后选择最可能的一个。我们提出的方法是模型不可知的,适用于监督和无监督学习设置,适用于概念漂移或协变量漂移的环境,并产生比最先进的贝叶斯在线学习方法的改进。
2021-10-26 cs.LG stat.ML
Bayesian Online Prediction of Change Points
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);TU Darmstadt(达姆施塔特工业大学)
在线检测数据序列生成过程中的瞬时变化通常集中在对这些变化点的回顾性推断上,而不考虑它们未来的出现。我们扩展了贝叶斯在线变化点检测算法,以推断直到下一个变化点的时间步长的数量(即,剩余时间)。这使得能够处理依赖于总段持续时间的观察模型,这对于用时间缩放来建模数据序列是有用的。由此产生的推理算法段检测可以部署在一个在线的方式,我们说明了应用程序的合成和两个医疗现实世界的数据集。
2020-06-24 cs.LG stat.ML
Adaptive Bayesian Online Learning via Expert Aggregation
Inha University(仁荷大学)
研究如何改进贝叶斯在线学习,将其更新规则视为专家,按顺序预测损失聚合专家。通过在线共形推理和高斯过程回归实例化框架,得到平滑贝叶斯对应物及神谕不等式,实验显示聚合能跟踪强大专家且无需神谕专家选择。
2026-07-23 cs.LG stat.ML
Adaptive Sampling for Estimating Distributions: A Bayesian Upper Confidence Bound Approach
University of Southern California(南加州大学);University of California, San Diego(加州大学圣地亚哥分校)
研究了概率质量函数(pmf)一致估计的自适应抽样问题。采样策略的性能以最差情况下的均方误差来衡量。提出了一种贝叶斯变体现有的置信上限(UCB)为基础的方法。分析表明,这种贝叶斯变体的性能并不比现有的方法差。贝叶斯设置中pmfs上的后验分布允许更严格地计算置信上限,这在实践中导致显著的性能增益。使用这种方法,自适应采样协议提出了估计SARS-CoV-2血清阳性率在不同的群体,如位置和种族。这一战略的有效性进行了讨论,使用从洛杉矶县的血清阳性率调查获得的数据。
2020-12-08 cs.LG stat.ME
Online parameter inference for the simulation of a Bunsen flame using heteroscedastic Bayesian neural network ensembles
University of Cambridge(剑桥大学)
本文提出了一种贝叶斯数据驱动的机器学习方法,用于管道预混火焰G方程模型参数的在线推断。异方差贝叶斯神经网络集成在LSGEN 2D(G方程求解器)中模拟的170万个火焰前沿库上进行训练,以学习给定观测值的模型参数的贝叶斯后验分布。然后,系综用于推断本生火焰实验的参数,使这些动态可以在LSGEN 2D中模拟。这允许计算火焰边缘的表面积变化,即热释放速率的代表。所提出的方法提供了廉价和在线的参数和不确定性估计匹配的结果与合奏卡尔曼滤波器,在较少的计算成本。这使得能够快速可靠地模拟燃烧过程。
2021-04-26 cs.LG stat.AP
Scaling Up Bayesian DAG Sampling
针对贝叶斯网络结构推断中DAG采样效率问题,提出基础边操作高效实现与父集剪枝预处理两种技术,显著提升了马尔可夫链采样的效率。
2025-10-29 cs.AI cs.LG
Bayesian Optimization for Policy Search via Online-Offline Experimentation
Facebook(脸书)
在线现场实验是评估现实世界交互式机器学习系统变化的黄金标准。然而,我们探索复杂的多维策略空间的能力--比如在推荐和排名问题中发现的那些--往往受到可以同时运行的实验数量有限的限制。为了减轻这些限制,我们用离线模拟器增强在线实验,并应用多任务贝叶斯优化来调整实时机器学习系统。我们描述了在这些类型的应用程序中出现的实际问题,包括使用模拟器和多任务内核的假设所产生的偏见。我们测量的经验学习曲线,显示了大量的收益,包括数据有偏见的离线实验,并显示这些学习曲线是如何与多任务高斯过程推广的理论结果是一致的。我们发现,改进的内核推理是一个显着的驱动程序的多任务泛化。最后,我们展示了几个贝叶斯优化的例子,通过结合离线和在线实验,有效地调整了一个活的机器学习系统。
2019-04-29 cs.LG stat.ML
Thompson Sampling for Online Learning with Linear Experts
Technion(以色列理工学院)
在这篇文章中,我们提出了一个版本的汤普森采样算法的问题,在线线性推广与充分的信息(即,Kalai和Vempala在2005年进行了研究。该算法使用高斯先验和随时间变化的高斯似然,我们表明,它基本上减少到Kalai和Vempala的跟随扰动领导者的策略,用高斯噪声代替指数分布的噪声。这意味着对于具有完整信息的在线学习,Thompson采样(具有时变似然)的sqrt(T)遗憾界限。
2013-11-03 cs.LG stat.ML
Diversified Sampling for Batched Bayesian Optimization with Determinantal Point Processes
ETH Zurich(苏黎世联邦理工学院)
在贝叶斯优化(BO)中,我们研究了带有噪声点评估和贝叶斯先验的黑盒函数优化。BO的收敛速度可以大大加快,其中黑盒函数的多个评估在单轮中执行。在这种情况下,主要困难是同时提出各种各样的、内容丰富的评价要点。在这项工作中,我们介绍了DPP-Batch Bayesian Optimization(DPP-BBO),一个通用的框架,用于通过利用行列式点过程(DPP)的排斥特性来诱导基于BO的抽样中的批次多样性,从而自然地使批次抽样过程多样化。通过将DPP-Thompson Sampling(DPP-TS)算法作为Thompson Sampling(TS)算法的一种变体,引入Markov Chain Monte Carlo方法进行抽样,证明了经典批量TS和DPP-TS算法的贝叶斯简单遗憾界,后者的界更紧.我们的真实世界,以及合成,实验表明,改进的性能DPP-BBO在经典的高斯过程和Cox过程模型的方法。
2022-02-08 cs.LG stat.ML
Sampling Techniques in Bayesian Target Encoding
Spok, Inc.(Spok公司)
目标编码是一种有效的分类变量编码技术,经常用于机器学习系统中,用于处理具有混合数值和分类变量的表格数据集。最近,一个增强版本的这种编码技术提出了使用共轭贝叶斯建模。本文提出了一种基于抽样技术的贝叶斯编码方法,该方法有助于从目标变量的类内分布中提取信息,提高泛化能力,减少目标泄漏。
2020-11-23 cs.DM cs.LG stat.ML
Online and Distributed learning of Gaussian mixture models by Bayesian Moment Matching
David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学大卫·R·切里顿计算机科学学院)
高斯混合模型是聚类和数据建模的经典技术,在许多应用中使用。随着大数据的兴起,需要能够处理流数据并将计算分布在多个处理器上的参数估计技术。虽然存在期望最大化(EM)算法的在线变体,但它们的数据效率因E步的随机近似而降低,并且不清楚如何将计算分布在多个处理器上。我们提出了一种贝叶斯学习技术,自然适合在线和分布式计算。由于贝叶斯后验是不听话的,我们将其投影到一个家庭听话的分布后,每个观察匹配一组足够的时刻。在一组数据建模基准上,这种贝叶斯矩匹配技术在时间和精度方面优于在线EM。
2016-09-19 cs.AI cs.LG stat.ML
Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes
Stony Brook University(石溪大学);Brookhaven National Laboratory(布鲁赫斯国家实验室);Basis Research Institute(基础研究机构)
本文提出在线贝叶斯堆叠(OBS)方法,通过优化预测分布的对数得分来适应性地组合贝叶斯模型,并将其与投资组合选择理论联系起来,提供了一种新的理论框架和高效算法。
2026-01-22 cs.LG stat.CO stat.ME
Parallel Sampling for Efficient High-dimensional Bayesian Network Structure Learning
Queen Mary University of London(伦敦玛丽女王大学)
学习贝叶斯网络结构的基于分数的算法可用于精确和近似解决方案。虽然近似学习随着变量的数量而更好地扩展,但在存在高维数据的情况下,它在计算上可能是昂贵的。本文描述了一个近似算法,执行并行采样的候选父集(CPS),并可以被视为一个扩展的MINOBS,这是一个国家的最先进的算法,从高维数据的结构学习。修改后的算法,我们称之为并行采样MINOBS(PS-MINOBS),构造的图形,通过采样CPS为每个变量。假设CPS的分布按每个变量的贝叶斯评分排序时为半正态分布,平行进行采样。从半正态分布中抽样可确保抽样的CPS可能是产生较高分数的CPS。实证结果表明,在大多数情况下,该算法发现更高的分数结构比MINOBS时,这两种算法被限制到相同的运行时间限制。
2022-02-19 cs.AI cs.LG
BOSH: Bayesian Optimization by Sampling Hierarchically
Lancaster University(兰卡斯特大学)
贝叶斯优化(BO)用于具有随机评估的函数的部署,例如通过交叉验证和仿真优化的参数调整,通常优化目标函数的固定噪声实现集合的平均值。然而,以这种方式忽略真正的目标函数会找到错误函数的高精度最优值。为了解决这个问题,我们提出了贝叶斯优化分层采样(BOSH),一种新的BO例程配对的分层高斯过程与信息理论框架,以生成一个不断增长的实现池的优化进展。我们证明了BOSH在综合基准测试、仿真优化、强化学习和超参数调整任务中提供了比标准BO更高效、更高精度的优化。
2020-07-02 cs.LG stat.ML
Weighting Is Worth the Wait: Bayesian Optimization with Importance Sampling
Northeastern University(东北大学);Google Research(谷歌研究院)
许多当代的机器学习模型需要大量的超参数调整才能表现良好。各种方法,如贝叶斯优化,已被开发来自动化和加快这一过程。然而,调优仍然非常昂贵,因为它通常需要反复完全训练模型。我们提出了加速贝叶斯优化方法的超参数调整的神经网络,考虑到每个训练样本贡献的相对信息量。为此,我们利用了重要性采样(IS);这显著提高了黑盒函数计算的质量,但也提高了它们的运行时间,因此必须小心完成。将超参数搜索作为超参数和重要性采样设计的多任务贝叶斯优化问题,实现了两全其美:通过学习IS的参数化,权衡评估复杂性和质量,我们改进了贝叶斯优化最先进的运行时间和最终验证错误,跨越各种数据集和复杂的神经架构。
2020-02-23 cs.LG stat.ML
Bayesian Negative Sampling for Recommendation
Huazhong University of Science and Technology (HUST)(华中科技大学)
如何从未标记的数据中采样高质量的负实例,即,负采样对于训练隐式协同过滤和对比学习模型是非常重要的。虽然以前的研究已经提出了一些方法来样本信息的情况下,很少有人做了区分假阴性和真阴性的无偏阴性抽样。在对负样本得分进行序关系分析的基础上,我们首先推导出真负样本和假负样本的类条件密度。接下来,我们设计了一个贝叶斯分类器的阴性分类,我们定义了一个模型不可知的后验概率估计的实例是真阴性作为一个定量的阴性信号的措施。我们还提出了一个贝叶斯最优抽样规则来抽样高质量的底片。提出的贝叶斯负采样(BNS)算法具有线性时间复杂度。实验研究验证了BNS在更好的采样质量和更好的推荐性能方面优于同行。
2022-07-09 cs.AI cs.IR cs.LG
Wasserstein-Splitting Gaussian Process Regression for Heterogeneous Online Bayesian Inference
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学);U.S. Army Research Laboratory(美国陆军研究实验室)
高斯过程(Gaussian processes,GP)是一种著名的非参数贝叶斯推断技术,但对于大样本量,GP存在可扩展性问题,对于非平稳或空间异构数据,GP的性能会降低。在这项工作中,我们试图克服这些问题,通过(i)采用变分自由能近似的GP与在线期望传播步骤的串联操作;和(ii)引入一个本地分裂步骤,每当后验分布变化显着量化的Wasserstein度量超过后验分布,实例化一个新的GP。然后,随着时间的推移,这产生了稀疏GP的集合,其可以增量地更新,并且适应训练数据中的局部性、异质性和非平稳性。
2021-07-26 cs.LG stat.ML
Bayesian Optimal Control of Smoothly Parameterized Systems: The Lazy Posterior Sampling Algorithm
Queensland University of Technology(昆士兰科技大学);University of Alberta(阿尔伯塔大学)
研究了一类光滑参数化马尔可夫决策问题的贝叶斯最优控制。由于计算的最优控制是计算昂贵的,我们设计了一个算法,权衡性能的计算效率。该算法是一个懒惰的后验抽样方法,保持分布的未知参数。该算法仅在分布的方差充分减小时才改变其策略。重要的是,我们分析了算法,并显示了性能与计算权衡的精确性质。最后,我们在一个Web服务器控件应用程序上展示了该方法的有效性。
2014-06-16 cs.LG stat.ML
Marginal and Joint Cross-Entropies & Predictives for Online Bayesian Inference, Active Learning, and Active Sampling
University of Oxford(牛津大学)
当我们只关注边际预测分布(边际预测)时,原则贝叶斯深度学习(BDL)并没有发挥出它的潜力。最近的工作突出了联合预测(贝叶斯)顺序决策的重要性,从理论和合成的角度。我们提供了更多的实际论据,立足于现实世界的应用,专注于联合预测:我们讨论在线贝叶斯推理,这将使我们能够作出预测,同时考虑到额外的数据,而无需再培训,我们提出了新的具有挑战性的评估设置使用主动学习和主动采样。这些设置的动机是检查边缘和联合预测,他们各自的交叉熵,以及他们在离线和在线学习的地方。它们比以前建议的更现实,建立在Wen等人的工作基础上。(2021)和Osband等人。(2022),并专注于评估在线监督环境中近似BNN的性能。然而,最初的实验,这些想法在高维参数空间与当前BDL推理技术的可行性提出了问题,我们建议的实验,可能有助于进一步阐明这些问题的实用性,目前的研究。重要的是,我们的工作突出了当前研究中以前未发现的差距,以及对更好的近似联合预测的需求。
2022-05-18 cs.LG stat.ML
Sampling Bias Correction for Supervised Machine Learning: A Bayesian Inference Approach with Practical Applications
Local Maximum Labs(Local Maximum实验室)
给定一个有监督的机器学习问题,其中训练集受到已知的采样偏差的影响,如何训练模型来拟合原始数据集?我们通过贝叶斯推断框架,通过改变后验分布来解释抽样函数。然后,我们将此解决方案应用于二进制逻辑斯谛回归,并讨论了数据集可能会受到故意的样本偏差,如标签不平衡的情况。这种技术广泛适用于大数据的统计推断,从医学科学到图像识别再到营销。熟悉它将为从业者提供工具,以改进从数据收集到模型选择的推理管道。
2022-03-15 cs.LG stat.ML
Adaptive, Robust and Scalable Bayesian Filtering for Online Learning
School of Mathematical Sciences(数学科学学院)
该论文以贝叶斯滤波统一在线学习、序贯预测和上下文老虎机问题,提出自适应框架、鲁棒广义贝叶斯滤波器及可扩展二阶更新工具。
2025-05-12 cs.LG stat.ML
Variational Bayesian Optimistic Sampling
DeepMind
我们考虑在线顺序决策问题,代理必须平衡探索和利用。我们推导出一组贝叶斯“乐观”的政策,其中,在随机多臂土匪的情况下,包括汤普森抽样政策。我们提供了一个新的分析表明,任何算法产生的政策,在乐观的设置享受$\tilde O(\sqrt{AT})$贝叶斯遗憾的问题与$A$行动后,$T$轮。我们扩展的遗憾分析的乐观政策的双线性鞍点问题,其中包括零和矩阵游戏和约束土匪作为特殊情况。在这种情况下,我们表明,汤普森抽样可以产生的乐观集之外的政策,并在某些情况下遭受线性遗憾。在乐观集内找到一个策略相当于解决一个凸优化问题,我们称之为变分贝叶斯乐观采样算法(VBOS)。该过程适用于任何后验,\ie,它不需要后验具有任何特殊属性,如对数,单峰,或光滑。问题的变分视图具有许多有用的属性,包括调整探索-开发权衡、添加正则化、合并约束和线性参数化策略的能力。
2021-10-29 cs.LG stat.ML
Designing over uncertain outcomes with stochastic sampling Bayesian optimization
National Institute of Standards and Technology(美国国家标准与技术研究院)
优化在科学和工程领域变得越来越普遍。通常,这些问题涉及各种程度的随机性或不确定性,在产生建议的解决方案。因此,在这些情况下的优化必须考虑这种随机性,以正确指导未来实验的设计。在这里,我们适应贝叶斯优化来处理不确定的结果,提出了一个新的框架,称为随机抽样贝叶斯优化(SSBO)。我们发现,在SSBO的置信上限搜索的预期遗憾的界限类似于早期的贝叶斯优化方法,由于随机生成的输入增加了处罚。此外,我们适应现有的批处理优化技术,以适当地限制近视决策时,可能会出现选择多个实例反馈之前。最后,我们表明,SSBO技术适当地优化了一组标准的优化问题,以及生物工程启发的应用问题。
2020-06-03 cs.LG stat.ML
Bayesian Graph Neural Networks with Adaptive Connection Sampling
Texas A&M University(德克萨斯A&M大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了一个统一的框架,自适应连接采样的图神经网络(GNNs),概括了现有的随机正则化方法训练GNNs。所提出的框架不仅消除了深度GNN的过度平滑和过度拟合趋势,而且还可以在使用GNN的图分析任务中进行不确定性学习。与现有随机正则化方法中使用固定采样率或手动调整它们作为模型超参数不同,我们的自适应连接采样可以与GNN模型参数以全局和局部方式联合训练。使用自适应连接采样的GNN训练在数学上等价于训练贝叶斯GNN的有效近似。在基准数据集上进行消融研究的实验结果验证了自适应学习给定图训练数据的采样率是提高GNNs在半监督节点分类中性能的关键,不易于过平滑和过拟合,具有更强大的预测能力。
2020-06-30 cs.LG stat.ML
Bayesian Nonexhaustive Learning for Online Discovery and Modeling of Emerging Classes
IUPUI(印第安纳大学-普渡大学印第安纳波利斯分校);Purdue University(普渡大学);Biindley Bioscience Center(宾德利生物科学中心)
我们提出了一个在线推理的框架,在存在一个非穷举定义的类集,将监督分类与类发现和建模。定义在类分布上的狄利克雷过程先验(DPP)模型确保已知和未知类分布都根据共同的基础分布起源。在尝试自动发现潜在的感兴趣的类形成,先验模型与适当选择的数据模型相结合,并使用顺序蒙特卡罗采样来执行在线推理。我们的研究是由生物检测应用程序驱动的,其中一类新的病原体可能突然出现,并且源自该类的样本数量的快速增加表明爆发的开始。
2012-06-18 cs.LG stat.ML
The Bayesian Prophet: A Low-Regret Framework for Online Decision Making
Cornell University(康奈尔大学)
我们开发了一个新的框架,用于设计在线政策的访问提供统计信息的离线基准的甲骨文。访问这样的预测预言使简单而自然的贝叶斯选择策略成为可能,并提出了这些策略在不同环境中如何执行的问题。我们的工作对这个问题做出了两个重要的贡献:首先,我们开发了一种通用的技术,我们称之为补偿耦合,它可以用来推导出预期后悔的界限(即,相对于基准的附加损失)。其次,使用这种技术,我们证明了一个自然的贪婪策略,我们称之为 * 贝叶斯定理 *,具有恒定的预期后悔(即,独立于到达的数量和资源水平)的一大类问题,我们称之为有限类型的在线分配,其中包括广泛研究的在线包装和在线匹配问题。我们的研究结果概括和简化了在线包装和在线匹配的几个现有的结果,并提出了一个有前途的途径,为其他在线决策设置获得甲骨文驱动的政策。
2020-02-26 cs.DS cs.LG math.PR
Low Complexity Approximate Bayesian Logistic Regression for Sparse Online Learning
Google(谷歌);Purdue University(普渡大学)
理论结果表明,贝叶斯方法可以实现在线逻辑回归的遗憾下界。然而,在实践中,这种技术可能不可行,特别是对于非常大的特征集。对于巨大的稀疏特征集,必须使用各种近似,从而减少理论上的优势。通常,他们应用随机梯度方法,超参数必须根据一些替代损失进行调整,从而击败贝叶斯方法的理论优势。替代损失,定义为近似的混合,需要的技术,如蒙特卡罗抽样,增加每个例子的计算。我们提出了低复杂度的分析近似稀疏在线逻辑和概率回归。与变分推理和其他方法不同,我们的方法使用解析闭合形式,大大降低了计算量。与密集的解决方案不同,作为高斯混合,我们的方法允许具有巨大特征集的稀疏问题,而不会增加复杂性。使用解析闭合形式,也不需要对代理损失应用随机梯度方法,也不需要调整和平衡学习和正则化超参数。经验结果顶部的性能更涉及计算的方法。像这样的方法,我们的方法仍然揭示每个功能和每个例子的不确定性措施。
2021-01-28 cs.LG stat.ML
Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks
Gatsby Computational Neuroscience Unit(盖比计算神经科学单元);University College London(伦敦大学学院)
马尔可夫跳过程和连续时间贝叶斯网络是一类重要的连续时间动态系统。在本文中,我们通过引入一个快速辅助变量吉布斯采样器来解决这些模型中未观测路径的推断问题。我们的方法是基于均匀化的思想,并建立了一个马尔可夫链的路径通过采样一组有限的虚拟跳跃时间,然后运行一个标准的隐马尔可夫模型的前向滤波-后向采样算法的状态在现有的和虚拟的跳跃时间。我们证明了显着的计算效益超过一个国家的最先进的吉布斯采样器上的一些连续时间贝叶斯网络。
2012-02-14 cs.LG stat.ME stat.ML
Kalman Bayesian Neural Networks for Closed-form Online Learning
Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所IPA);University of Stuttgart(斯图加特大学)
与由标准神经网络计算的点估计相比,贝叶斯神经网络(BNN)提供输出预测和模型参数的概率分布,即,重量然而,由于底层贝叶斯推理问题的棘手性,训练BNN的权重分布更加复杂,因此需要有效的近似。在本文中,我们提出了一种新的方法,通过封闭式贝叶斯推理的BNN学习。为此,输出的预测分布的计算和权重分布的更新被视为贝叶斯滤波和平滑问题,其中权重被建模为高斯随机变量。这允许用于以顺序/在线方式训练网络参数的封闭形式表达式,而无需梯度下降。我们在几个UCI数据集上展示了我们的方法,并将其与最先进的方法进行了比较。
2022-11-30 cs.AI cs.LG stat.ML
Sampling Acquisition Functions for Batch Bayesian Optimization
University of Oxford(牛津大学);UC Berkeley(加州大学伯克利分校);IBM Research, Zurich(IBM研究院苏黎世分部)
我们提出了采集汤普森采样(ATS),一种新的技术,批量贝叶斯优化(BO)的基础上,从一个随机过程中采样多个采集功能的想法。我们通过一组模型超参数上的采集函数的依赖性来定义这个过程。ATS在概念上是简单的,直接实现,并且与其他批处理BO方法不同,它可以用于并行化任何顺序采集功能或使现有的并行方法进一步扩展。我们提出了各种基准函数和超参数优化的一个流行的梯度提升树算法的实验。这些证明了ATS的优势,经典的并行汤普森采样BO,其竞争力与两个国家的最先进的批BO方法,其有效性,如果应用于现有的并行BO算法。
2019-10-16 cs.LG stat.ML
Data Sampling Affects the Complexity of Online SGD over Dependent Data
University of Utah(犹他大学);Ohio State University(俄亥俄州立大学)
传统的机器学习应用通常假设数据样本是独立且同分布(i.i.d.)的。然而,实际场景通常涉及产生高度依赖的数据样本的数据生成过程,已知这会严重影响随机优化过程并减缓学习的收敛。本文对不同的随机数据采样方案如何影响高度依赖数据的在线随机梯度下降(SGD)的样本复杂度进行了基础研究。具体而言,与$ϕ$混合模型的数据依赖,我们表明,在线SGD与适当的周期性数据子采样实现了改进的样本复杂度超过标准的在线SGD在全谱的数据依赖水平。有趣的是,即使对数据样本的子集进行二次采样,也可以加速在线SGD在高度依赖数据上的收敛。此外,我们表明,在线SGD与小批量采样可以进一步大大提高样本的复杂性,在线SGD与周期性数据子采样高度依赖的数据。数值实验验证了我们的理论结果。
2022-03-31 cs.LG math.OC
Bayesian Optimization with Output-Weighted Optimal Sampling
Massachusetts Institute of Technology(麻省理工学院)
在贝叶斯优化中,考虑输出相对于输入的重要性是一项至关重要但具有挑战性的工作,因为它可以大大改善最终结果,但通常涉及不准确和繁琐的熵估计。我们从重要性抽样理论的角度来处理这个问题,并主张使用似然比来引导搜索算法向输入空间的区域,其中要最小化的目标函数假设异常小的值。似然比作为一个抽样权重,可以在每次迭代计算,而不会严重恶化算法的整体效率。特别是,它可以近似的方式,使该方法在高维易于处理。在这项工作中引入的“似然加权”的采集功能被发现在许多应用中优于其未加权的同行。
2020-10-03 cs.LG stat.ML
Structure Learning in Bayesian Networks of Moderate Size by Efficient Sampling
Iowa State University(爱荷华州立大学)
我们研究了贝叶斯模型平均方法来学习贝叶斯网络结构(DAG)的数据。我们开发了新的算法,包括第一个算法,能够有效地采样DAG根据确切的结构后验。然后,可以使用DAG样本来构建任何特征的后验估计。我们从理论上证明了我们的估计良好的性能和经验表明,我们的估计大大优于估计从以前的国家的最先进的方法。
2015-01-19 cs.AI cs.LG stat.ML
Online Bayesian system identification in multivariate autoregressive models via message passing
Eindhoven Artificial Intelligence Systems Institute(埃因霍温人工智能系统研究所);Department of Electrical Engineering, Eindhoven University of Technology(电子工程系,埃因霍温理工大学)
本文提出基于因子图消息传递的多元自回归模型递归贝叶斯辨识方法,可同时估计自回归系数与噪声精度的完整后验分布,并支持在线模型证据计算,在合成与机械系统上验证了收敛性和竞争力。
2025-06-03 cs.LG eess.SP stat.ML
Bayesian Online Learning for Consensus Prediction
University of California, Irvine(加州大学欧文分校)
针对无基准真值、模型预测免费但人工查询有成本的在线分类场景,提出基于多元超几何分布的在线贝叶斯共识估计框架,从部分反馈动态估计专家共识,在查询成本与性能间实现可解释权衡,在两个大规模众包数据集上验证了有效性。
2023-12-12 cs.LG stat.ML
High-dimensional near-optimal experiment design for drug discovery via Bayesian sparse sampling
Chalmers University of Technology(查尔姆斯理工大学);AstraZeneca AB(阿斯利康公司)
我们研究的问题进行自动化实验设计的药物筛选,通过贝叶斯推理和优化。特别是,我们比较和对比的线性高斯模型和高斯过程的行为,当与置信上限算法,汤普森采样,或有界水平树搜索。我们表明,非近视的复杂的探索技术,使用稀疏树搜索有一个明显的优势,如汤普森采样或置信上限在这种情况下的方法。我们证明了显着的优越性,该方法比现有的和合成的药物毒性数据集。
2021-04-23 cs.LG q-bio.QM stat.ML
Online Label Aggregation: A Variational Bayesian Approach
Delft University of Technology(代尔夫特理工大学);Tsinghua University(清华大学);ABB Research(ABB研究院)
对于众包内容来说,嘈杂的标记数据更像是一种常态,而不是罕见的。通过人群工作者的聚集结果来提取噪声并推断正确的标签是有效的。为了确保时间相关性并克服工人的缓慢响应,越来越多地要求在线标签聚合,需要能够通过数据项的子集增量地推断真实标签分布的解决方案。在本文中,我们提出了一种新的在线标签聚合框架,BiLA,它采用变分贝叶斯推理方法,并设计了一种新的随机优化方案的增量训练。BiLA是灵活的,以适应任何生成的标签分布的精确计算其后验分布。我们还推导出所提出的优化的收敛界。我们比较BiLA与最先进的最小最大熵,神经网络和期望最大化算法的基础上,合成和真实世界的数据集。我们对各种在线场景的评估结果表明,BiLA可以有效地推断真实标签,对于合成和真实世界的数据集,出错率分别降低至少10到1.5个百分点。
2020-11-15 cs.LG stat.ML
Distributed Bayesian Online Learning for Cooperative Manipulation
Technical University of Munich(慕尼黑工业大学)
对于多个代理的动态在物理上耦合的任务,例如,在协同操作中,个体智能体之间的协调变得至关重要,这需要对相互作用动力学的精确知识。这个问题通常使用集中式估计器来解决,这会对整个系统的灵活性和鲁棒性产生负面影响。为了克服这一缺点,我们提出了一种新的分布式学习框架的示范性任务的合作操作使用贝叶斯原理。仅使用本地状态信息,每个代理获得的对象动态和把握运动学的估计。这些局部估计值使用动态平均一致性进行组合。由于该方法的强概率基础,对象动力学和抓取运动学的每个估计都伴随着不确定性的测量,这允许保证具有高概率的有界预测误差。此外,贝叶斯原理直接允许具有恒定复杂度的迭代学习,使得所提出的学习方法可以在实时应用中在线使用。在一个模拟的协同操作任务中证明了该方法的有效性。
2022-06-28 cs.LG cs.RO
Learning Embeddings for Product Visual Search with Triplet Loss and Online Sampling
Yahoo Research(雅虎研究院)
在本文中,我们提出了学习嵌入功能的电子商务领域内的基于内容的图像检索使用的三重损失和在线采样方法,从一个minibatch构建三胞胎。我们将我们的方法与几个强大的基线以及DeepFashion和Stanford Online Product数据集的最新作品进行了比较。我们的方法在DeepFashion数据集上的表现明显优于最先进的方法。通过修改以支持从单个产品类别中采样小批量,与斯坦福在线产品数据集的最新技术相比,相同的方法显示出具有竞争力的结果。
2018-10-10 cs.CV cs.IR cs.LG
Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking Posterior Symmetries
University of Michigan(密歇根大学)
贝叶斯低秩矩阵分解技术已成为关系数据分析和矩阵补全的重要工具。标准的方法是在因子矩阵的列或行上分配零均值高斯先验以创建共轭系统。这种先验的选择导致简单的实现;然而,它也会导致后验分布的对称性,这会严重降低马尔可夫链蒙特卡罗(MCMC)采样方法的效率。在本文中,我们提出了一个简单的修改先验选择,可证明打破这些对称性,并保持/提高精度。具体来说,我们提供的条件,高斯先验均值和协方差必须满足,使后验不表现出不变性,产生采样困难。例如,我们表明,使用非零线性独立的先验均值显着降低了MCMC样本的自相关性,也可以导致较低的重建误差。
2020-11-10 cs.LG stat.ML
Optimize Your Sampling: Tuned Diffusion Sampling with Bayesian Optimization
Cornell University(康奈尔大学)
本研究提出OYS方法,将扩散模型采样的时间步长选择作为黑盒优化问题,用贝叶斯优化直接优化目标指标,可提升多类图像生成任务性能,大幅降低推理成本且无需额外训练。
2026-08-19 cs.CV cs.LG
Online Calibrated and Conformal Prediction Improves Bayesian Optimization
Cornell Tech(康奈尔科技学院);Cornell University(康奈尔大学);Stanford University(斯坦福大学)
本文提出基于在线学习的校准算法,在非平稳数据上可证明地维持预测校准,并以最小开销集成到 Bayesian optimization 中,实验证明其能以更少步骤收敛至更优解。
2024-06-25 cs.LG stat.ML
Rate-Informed Discovery via Bayesian Adaptive Multifidelity Sampling
Waymo, LLC(Waymo有限责任公司)
针对自动驾驶车辆安全性需准确估计性能与高效发现故障案例的问题,本文提出贝叶斯自适应多保真采样(BAMS),其优先探索低性能区域,发现的问题数量是MC和IS的10倍,速率估计方差分别窄15倍和6倍。
2024-11-26 cs.LG cs.RO stat.ML
A Finite Time Analysis of Thompson Sampling for Bayesian Optimization with Preferential Feedback
Imperial College London(帝国理工学院伦敦分校);MediaTek Research(联发科技研究)
本文提出一种基于偏好反馈的贝叶斯优化的强化学习方法,通过单调链接建模比较并利用双核机制,证明其性能与传统贝叶斯优化方法一致。
2026-04-27 cs.LG stat.ML
Prune Sampling: a MCMC inference technique for discrete and deterministic Bayesian networks
TNO(荷兰应用科学研究组织);Utrecht University(乌得勒支大学);University of Amsterdam(阿姆斯特丹大学)
本文介绍了马尔可夫链蒙特卡罗(MCMC)推理方法Prune Sampling,并对它在离散和确定性贝叶斯网络(BN)中的性能进行了分析。我们开发了一个程序,以获得性能的MCMC采样方法在无限的模拟时间的限制,从相对较短的模拟外推。这种方法被用来进行一项研究,以比较准确性,收敛速度和时间消耗的修剪采样与两个传统的MCMC采样方法:吉布斯和大都会采样。我们发现,修剪采样创建的马尔可夫链总是收敛到所需的后验分布,也为传统的吉布斯抽样失败的网络。除此之外,我们证明了修剪优于吉布斯抽样,至少对于某一类BN。不过,这个诱人的功能是有代价的。在Prune Sampling的第一个版本中,对于大BN,统一选择下一个迭代步骤的过程是相当耗时的。我们的结论是,修剪采样是所有类型的小型和中型BN的竞争力的方法,但(现在)标准方法仍然表现更好的所有类型的大型BN。
2019-08-17 cs.AI cs.LG stat.CO
Bayesian Online Natural Gradient (BONG)
University of Colorado(科罗拉多大学);MIT(麻省理工学院);Google DeepMind(谷歌DeepMind)
本研究提出基于变分贝叶斯的序列贝叶斯推断新方法BONG,通过仅优化期望对数似然的单步自然梯度下降实现,共轭模型下可恢复精确推断,非共轭场景中性能优于现有在线VB方法且计算成本可控。
2024-10-31 cs.LG stat.CO stat.ML