Scalable Batch Bayesian Optimization Via Subspace Acquisition Functions
School of Computing and Artificial Intelligence(计算与人工智能学院)
提出通过从原始问题的轴对齐子空间中各选一点来扩展贝叶斯优化至大规模批量评估,显著加速收敛,与十种批量算法相比极具竞争力。
2026-06-18 cs.AI cs.LG cs.NE
Towards Automatic Bayesian Optimization: A first step involving acquisition functions
贝叶斯优化是用于优化黑盒的最先进技术,即,函数,我们不能访问它们的解析表达式,也不能访问它的梯度,它们的计算代价很高,而且它的计算是嘈杂的。最流行的应用是机器学习算法的自动超参数调整,其中我们通过优化这些算法的泛化误差的估计来获得机器学习算法的最佳配置。尽管成功地应用,但生物学优化方法也具有需要配置的超参数,例如所使用的概率代理模型或采集函数。对这些超参数的配置的错误决策意味着获得质量差的结果。通常,这些超参数是通过对我们想要评估的目标函数进行假设来调整的,但在某些情况下,我们没有关于目标函数的任何先验信息。在本文中,我们提出了第一次尝试,通过探索几个自动调整的采集功能的baidu优化。我们在一组基准问题和一个机器学习算法的超参数调整问题中说明了这些方法的有效性。
2021-01-12 cs.AI cs.LG stat.ML
Adaptive Acquisition Selection for Bayesian Optimization with Large Language Models
Applied Artificial Intelligence Initiative(应用人工智能计划);Deakin University(德肯大学)
本文提出LMABO框架,利用预训练大语言模型作为自适应策略,通过结构化状态表示选择最优获取函数,提升贝叶斯优化性能。
2026-02-08 cs.AI cs.LG
Bayesian Optimization for Enhanced Language Models: Optimizing Acquisition Functions
Fuzhou University(福州大学);Xi’an Jiaotong-Liverpool University(西安交通大学利物浦大学);Dalian University of Technology(大连理工大学)
针对语言模型微调中超参数优化忽视采集函数选择的问题,提出结合模型融合与双层贝叶斯优化的方法,在GLUE任务上使用RoBERTa-base验证,微调性能提升达2.7%。
2025-05-22 cs.AI cs.CL
Robust Bayesian optimization with reinforcement learned acquisition functions
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心);State Key Laboratory of Aerodynamics(空气动力学国家重点实验室)
在贝叶斯优化(BO)昂贵的黑盒优化任务,采集功能(AF)指导顺序采样,并发挥了关键作用,有效收敛到更好的最优。流行的AF通常依赖于人工经验,在探索或开发的偏好方面,这会带来计算浪费或陷入局部最优和由此产生的重新优化的风险。为了解决这个问题,提出了数据驱动的AF选择思想,并将顺序AF选择任务进一步形式化为马尔可夫决策过程(MDP),并采用强大的强化学习(RL)技术。该算法从优势BO轨迹中学习合适的AF选择策略,实时的在探测和利用之间取得平衡,称为基于学习辅助的贝叶斯优化(RLABO)。五个基准问题的竞争力和强大的BO评估表明RL的认可的隐式AF选择模式,并暗示该建议的潜在实用性,智能AF选择,以及在昂贵的黑箱问题的有效优化。
2022-10-02 cs.AI cs.LG math.OC
Efficient Rollout Strategies for Bayesian Optimization
Cornell University(康奈尔大学);Uber AI(优步人工智能实验室);SigOpt(SigOpt公司)
贝叶斯优化(BO)是一类样本有效的全局优化方法,其中以先前观测为条件的概率模型用于通过优化采集函数来确定未来的评估。大多数获取函数都是短视的,这意味着它们只考虑下一个函数评估的影响。非近视采集函数考虑下一个$h$函数评估的影响,并且通常通过卷展来计算,其中模拟BO的$h$步骤。这些卷展获取函数被定义为$h$维积分,并且计算和优化成本很高。我们表明,准蒙特卡罗,共同的随机数,和控制变量的组合显着降低了计算负担的推出。然后,我们制定了一个基于策略搜索的方法,消除了需要优化的推出收购功能。最后,我们讨论了在多模态目标和模型误差的设置下,推出策略的定性行为。
2020-06-19 cs.AI cs.LG stat.ML
End-to-End Learning of Deep Kernel Acquisition Functions for Bayesian Optimization
NTT Communication Science Laboratories(NTT通信科学实验室)
对于具有复杂结构的高维数据上的贝叶斯优化(BO),基于神经网络的高斯过程(GP)内核已被用于通过深度学习的高表示能力来学习灵活的代理函数。然而,现有的方法通过最大化边缘似然来训练神经网络,这并不直接改善BO性能。在本文中,我们提出了一个元学习方法BO与神经网络为基础的内核,最大限度地减少真正的最佳值和BO发现的最佳值之间的预期差距。我们建模的政策,这需要当前评估的数据点作为输入,并输出下一个数据点进行评估,由神经网络,其中神经网络为基础的内核,GP,和互信息为基础的采集功能作为其层。利用我们的模型,通过将间隙反向传播通过采集函数和GP,将基于神经网络的内核训练为适合于采集函数。我们的模型是由多个任务的强化学习框架训练的。由于神经网络在不同的任务之间共享,我们可以从多个训练任务中收集关于BO的知识,并将这些知识用于看不见的测试任务。在使用三个文本文档数据集的实验中,我们证明了所提出的方法比现有的方法实现了更好的BO性能。
2021-11-01 cs.AI cs.LG stat.ML
Multi-Agent LLMs for Adaptive Acquisition in Bayesian Optimization
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文研究多智能体大语言模型在贝叶斯优化中的自适应获取策略,通过分解探索-利用控制与候选生成,提升搜索效率与稳定性。
2026-10-30 cs.AI cs.LG
SymQNet: Amortized Acquisition for Low-Latency Adaptive Hamiltonian Learning
University of California, Berkeley(加州大学伯克利分校)
提出SymQNet,一种摊销强化学习方法,通过离线学习后验条件获取策略,在线快速前向传播,显著降低自适应哈密顿量学习的获取延迟。
2026-07-24 cs.AI cs.LG
Two-step Lookahead Bayesian Optimization with Inequality Constraints
Cornell University(康奈尔大学)
计算高效的非近视贝叶斯优化(BO)的最新进展,提高了查询效率比传统的近视方法,如预期的改善,而只有适度增加计算成本。然而,这些进展在很大程度上局限于无约束优化。对于约束优化,现有的几个非近视BO方法需要大量的计算。例如,一种现有的非近视约束BO方法[Lam和Willcox,2017]依赖于蒙特卡罗卷展获取函数的计算成本高、不可靠、无蛮力导数的优化。在无约束设置中使用重新参数化技巧以更有效地基于导数优化非近视采集函数的方法,如样本平均近似和无穷小扰动分析,不扩展:约束在采样采集函数表面中引入不连续性,从而阻碍其优化。此外,我们认为,在约束问题中,非近视更为重要,因为对违反约束的恐惧会使近视方法远离对可行区域和不可行区域之间的边界进行采样,从而减缓发现具有严格约束的最优解。在本文中,我们提出了一个计算效率高的两步前瞻约束贝叶斯优化采集功能(2-OPT-C)支持顺序和批量设置。为了使快速采集功能优化,我们开发了一种新的似然比为基础的无偏估计量的梯度的两步最佳采集功能,不使用重新参数化技巧。在数值实验中,2-OPT-C通常比以前的方法提高查询效率2倍或更多,在某些情况下提高10倍或更多。
2021-12-06 cs.AI cs.LG stat.ML
Meta-Learning Acquisition Functions for Transfer Learning in Bayesian Optimization
ETH Zürich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Bosch Center for Artificial Intelligence(博世人工智能中心);University of Freiburg(弗莱堡大学)
跨任务传输知识以提高数据效率是全局黑箱优化领域的开放式关键挑战之一。现成的算法通常被设计为通用优化器,因此对于特定任务来说往往是次优的。我们提出了一种新的迁移学习方法,以获得定制的优化贝叶斯优化的成熟框架内,使我们的算法利用高斯过程的泛化能力。使用强化学习对一组相关任务的采集函数(AF)进行元训练,所提出的方法学习提取隐含的结构信息并利用它来提高数据效率。我们目前的实验模拟到真实的传输任务,以及几个合成功能和两个超参数搜索问题。结果表明,我们的算法(1)自动从可用的源任务或模拟中识别目标函数的结构属性,(2)在源数据稀缺和丰富的环境中表现良好,(3)如果没有特定的结构,则会回落到一般AF的性能水平。存在。
2020-02-14 cs.AI cs.LG stat.ML
A General Recipe for Likelihood-free Bayesian Optimization
NVIDIA(英伟达);Stanford University(斯坦福大学)
获取函数是贝叶斯优化(BO)中的一个关键组成部分,通常可以写成代理模型下效用函数的期望。然而,为了确保获取函数易于优化,必须对代理模型和效用函数进行限制。为了将BO扩展到更广泛的一类模型和实用程序,我们提出了无似然BO(LFBO),一种基于无似然推理的方法。LFBO直接对采集功能进行建模,而不必单独执行概率代理模型的推断。我们表明,计算LFBO中的获取函数可以简化为优化加权分类问题,其中权重对应于所选择的效用。通过选择期望改进(EI)的效用函数,LFBO在几个现实世界的优化问题上优于各种最先进的黑盒优化方法。LFBO还可以有效地利用目标函数的复合结构,这进一步提高了几个数量级的遗憾。
2022-10-06 cs.AI cs.LG stat.ML
Mastering the exploration-exploitation trade-off in Bayesian Optimization
University of Milano-Bicocca(米兰比可卡大学)
本文提出一种自适应平衡探索与利用的新型采集函数,在多个测试函数上优于现有方法,几乎总是帕累托最优且权衡最平衡。
2023-05-15 cs.AI cs.LG math.OC
Scalable Batch-Mode Deep Bayesian Active Learning via Equivalence Class Annealing
University of Chicago(芝加哥大学)
主动学习已经在许多领域证明了数据效率。现有的主动学习算法,特别是在批量模式深度贝叶斯主动模型的背景下,严重依赖于模型的不确定性估计的质量,并且通常难以扩展到大批量。在本文中,我们提出了批平衡,一个可扩展的批处理模式的主动学习算法,它结合了决策理论的见解主动学习,组合信息测量,多样性采样。在其核心,批量平衡依赖于一个新的决策理论采集功能,促进不同的等价类之间的差异。直觉上,每个等价类都由假设组成(例如,深度神经网络的后验样本)具有相似的预测,并且Batch-BALanCe随着学习的进行自适应地调整等价类的大小。为了将查询的计算扩展到大批量,我们进一步提出了一个高效的批处理模式采集过程,其目的是最大限度地提高通过采集函数定义的新信息度量。我们表明,我们的算法可以有效地处理现实的多类分类任务,并在几个基准数据集上取得令人信服的性能低批量和大批量制度下的主动学习。参考代码发布于https://github.com/zhangrenyuuchicago/BALanCe。
2023-02-20 cs.AI cs.LG
Reinforced Few-Shot Acquisition Function Learning for Bayesian Optimization
National Chiao Tung University(国立交通大学);Facebook AI(脸书人工智能研究院)
贝叶斯优化(BO)传统上依赖于手工制作的采集函数(AF)来顺序地确定样本点。然而,在实践中已经广泛观察到,在后悔方面表现最好的AF在不同类型的黑盒函数下可以显著变化。设计一种能够在各种黑盒功能上实现最佳性能的自动对焦仍然是一个挑战。本文旨在通过强化Few-Shot AF学习(FSAF)的角度来应对这一挑战。具体来说,我们首先将AF的概念与Q函数联系起来,并将深度Q网络(DQN)视为代理可微AF。虽然将DQN和现有的少样本学习方法相结合是一个自然的想法,但我们发现,由于严重的过拟合,这种直接组合并不能很好地执行,这在BO中特别关键,因为需要通用的采样策略。为了解决这个问题,我们提出了一个具有以下三个特征的贝叶斯DQN变体:(i)它基于Kullback-Leibler正则化框架学习Q网络的分布作为AF。这本质上提供了BO采样所需的不确定性,并减轻了过拟合。(ii)对于贝叶斯DQN的先验,我们建议使用由现成的AF诱导的演示策略以获得更好的训练稳定性。(iii)在元层面上,我们利用贝叶斯模型不可知元学习的元损失,这是所提出的FSAF的自然伴侣。此外,通过适当的Q网络设计,FSAF是通用的,因为它是不可知的输入域的维数和基数。通过大量的实验,我们证明了FSAF实现了类似或更好的遗憾比国家的最先进的基准上各种各样的合成和现实世界的测试功能。
2021-06-08 cs.AI cs.LG stat.ML
Bayesian Optimization with LLM-Based Acquisition Functions for Natural Language Preference Elicitation
University of Waterloo(滑铁卢大学);University of Toronto(多伦多大学)
针对冷启动自然语言偏好 elicitation,提出基于贝叶斯优化的PEBOL算法,结合NLI与BO采集函数,在10轮对话后MRR@10达0.27,优于单一LLM基线。
2024-08-20 cs.AI cs.CL
Icebreaker: Element-wise Active Information Acquisition with Bayesian Deep Latent Gaussian Model
University of Cambridge(剑桥大学);Microsoft Research(微软研究院)
在本文中,我们介绍了冰启动问题,即,当最初只有很少或没有训练数据可用时部署机器学习模型的挑战,以及获取数据的每个特征元素与成本相关联。此设置代表真实世界的机器学习应用程序。例如,在医疗保健领域,当训练人工智能系统从实验室测试中预测患者指标时,获得每一个测量值都需要很高的成本。只有标签与成本相关联的主动学习不适用于这种问题,因为执行所有可能的实验室测试以获取新的训练数据将是昂贵的,并且由于冗余而不必要。我们提出了破冰者,一个原则性的框架来处理冰启动问题。Icebreaker使用了一个完整的贝叶斯深层潜在高斯模型(BELGAM)和一种新的推理方法。我们提出的方法结合了摊销推理和随机梯度MCMC的最新进展,使快速和准确的后验推理。通过利用BELGAM的能力,充分量化模型的不确定性,我们还提出了两个信息采集功能的插补和主动预测问题。我们证明,BELGAM表现明显优于以前的VAE(变分自编码器)为基础的模型,当数据集的大小是小的,使用机器学习基准和现实世界的推荐系统和医疗保健应用程序。此外,基于BELGAM,Icebreaker进一步提高了性能,并展示了使用最小量的训练数据来获得最高测试时间性能的能力。
2019-08-14 cs.AI cs.LG stat.ML
Information-theoretic Bayesian Optimization: Survey and Tutorial
Universidad Pontificia Comillas(康普卢滕塞大学)
本文综述与教程介绍信息论贝叶斯优化,针对非凸黑箱函数优化问题,详述其基于高斯过程等代理模型及信息论采集函数的方法,覆盖复杂场景适配并指出研究方向。
2025-01-22 cs.AI cs.IT cs.LG
Advancing Bayesian Optimization: The Mixed-Global-Local (MGL) Kernel and Length-Scale Cool Down
University of Stuttgart(斯图加特大学)
贝叶斯优化(BO)已成为解决昂贵的黑箱优化问题的核心方法。虽然许多研究集中在采集函数的选择,我们专注于在线长度-尺度自适应和核函数的选择。我们建议使用采集函数来更稳健地决定超参数自适应,而不是根据过去数据的最大似然来选择超参数。此外,我们提出了一个特定的核函数,包括非平稳性和局部各向异性,从而隐含地集成了局部凸优化与全局贝叶斯优化的效率。与最先进的BO方法的比较强调了这些机制在全局优化基准上的效率。
2016-12-09 cs.AI cs.LG stat.ML
A New Knowledge Gradient-based Method for Constrained Bayesian Optimization
Southern University of Science and Technology(南方科技大学)
黑盒问题在现实生活中很常见,如结构设计、药物实验和机器学习。在优化黑箱系统时,决策者往往综合考虑多个性能指标,通过综合评价给出最终决策。出于这样的实际需要,我们专注于约束黑箱问题的目标和约束缺乏已知的特殊结构,评估是昂贵的,甚至与噪音。提出了一种基于知识梯度法的约束贝叶斯优化方法($c-\rm{KG}$)。考虑到最优性和可行性,提出了一种新的采集函数来确定下一批样本。新的捕获函数的梯度的无偏估计,推导出实现$c-\rm{KG}$的方法。
2021-01-20 cs.AI cs.LG stat.ML
Practical First-Order Bayesian Optimization Algorithms
Indian Institute of Technology, Dharwad(印度理工学院达瓦德分校);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术学院)
本文提出一类实用的多级采集函数一阶贝叶斯优化算法,利用梯度高斯过程识别零梯度点并排序,在测试函数上优于现有方法,并应用于超参数调优和强化学习策略优化。
2023-06-19 cs.AI cs.LG stat.ML
On Some Tunable Multi-fidelity Bayesian Optimization Frameworks
Department of Chemical and Biomolecular Engineering, Johns Hopkins University, U.S.A.(化学与生物分子工程系,约翰霍普金斯大学,美国);Department of Civil and Systems Engineering, Johns Hopkins University, U.S.A.(土木与系统工程系,约翰霍普金斯大学,美国);Department of Mechanical Engineering, Massachusetts Institute of Technology, U.S.A.(机械工程系,麻省理工学院,美国)
本文提出基于邻近性的多保真采集策略及多保真UCB方法,简化保真度选择并控制高保真使用,在化学动力学等任务中验证了其收敛效率与可调性。
2025-08-01 cs.AI cs.LG math.OC
Generalizing Bayesian Optimization with Decision-theoretic Entropies
Stanford University(斯坦福大学)
贝叶斯优化(BO)是一种流行的方法,用于通过查询序列有效地推断昂贵的黑盒函数的最优解。现有的信息理论BO程序的目的是使查询,最大限度地减少最优的不确定性,其中的不确定性是由香农熵捕获。然而,理想情况下,不确定性的最佳度量将考虑我们打算如何在某些下游过程中使用推断的量。在本文中,我们考虑的是从统计决策论(DeGroot 1962,Rao 1984)中得到的香农熵的推广,它包含了一个广泛的不确定性度量,由对应于下游任务的特定问题损失函数参数化。我们首先表明,这种熵的特殊情况下,导致流行的收购功能BO程序,如知识梯度,预期的改善,熵搜索。然后,我们将展示如何替代选择的损失产生一个灵活的家庭的收购功能,可以定制用于新的优化设置。此外,我们开发了基于梯度的方法,以有效地优化我们提出的家庭的收购功能,并展示了强大的经验表现在一组不同的顺序决策任务,包括变体的顶部- $k$优化,多水平集估计,序列搜索。
2022-10-04 cs.AI cs.LG stat.ML
Nonparametric Bayesian Double Articulation Analyzer for Direct Language Acquisition from Continuous Speech Signals
Ritsumeikan University(立命馆大学)
人类婴儿可以直接从未分割的语音信号中发现单词,而无需任何明确标记的数据。在本文中,我们开发了一种新的机器学习方法,称为非参数贝叶斯双清晰度分析器(NPB-DAA),可以直接从观察到的连续语音信号获取语言和声学模型。为此,我们提出了一个综合的生成模型,结合了语言模型和声学模型到一个单一的生成模型称为“层次狄利克雷过程隐藏语言模型“(HDP-HLM)。HDP-HLM是通过扩展Johnson等人提出的分层Dirichlet过程隐半马尔可夫模型(HDP-HSMM)而得到的,并利用HDP-HSMM的分块Gibbs采样器导出了HDP-HLM的推理过程.该过程使得能够从连续的语音信号同时和直接地推断语言和声学模型。基于HDP-HLM及其推理过程,我们开发了一种新的双清晰度分析器。通过假设HDP-HLM作为观测时间序列数据的生成模型,并通过推断模型的潜在变量,该方法可以分析潜在的双发音结构,即,分层组织的潜在单词和音素,以无监督的方式的数据。新型无监督双清晰度分析器被称为NPB-DAA。该算法能自动估计出语音信号中的双清晰度结构。我们还进行了两个评价实验,使用合成数据和实际的人连续语音信号代表日本元音序列。在单词获取和音素分类任务中,NPB-DAA优于传统的双清晰度分析器(DAA)和基线自动语音识别系统,其声学模型以监督的方式进行训练。
2016-03-09 cs.AI cs.CL cs.LG
Differentiable Expected Hypervolume Improvement for Parallel Multi-Objective Bayesian Optimization
Facebook(脸书)
在许多现实场景中,决策者寻求以样本效率的方式有效地优化多个竞争目标。多目标贝叶斯优化(BO)是一种常用的方法,但许多性能最佳的采集功能不具有已知的分析梯度,并遭受高计算开销。我们利用最新的进展,在编程模型和硬件加速多目标BO使用预期超卷改进(EHVI)-一个算法臭名昭著的高计算复杂性。我们推导出一种新的配方的q-预期超容量改进(qEHVI),采集功能,扩展EHVI的并行,约束的评价设置。qEHVI是q个新候选点的联合EHVI的精确计算(直到蒙特卡罗(MC)积分误差)。而以前的EHVI配方依赖于无梯度采集优化或近似梯度,我们通过自动微分计算MC估计器的精确梯度,从而实现高效和有效的优化使用一阶和准二阶方法。我们的实证评估表明,qEHVI是计算上易于处理的在许多实际情况下,并优于国家的最先进的多目标BO算法在一小部分的墙壁时间。
2020-10-23 cs.AI cs.LG math.OC