Adaptive Sequential Optimization with Applications to Machine Learning
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
介绍了一个框架,用于解决一系列缓慢变化的优化问题,包括回归和分类应用中出现的问题,使用优化算法,如随机梯度下降(SGD)。优化问题的变化缓慢,在这个意义上,最小化改变在一个固定的或有界的速率。引入了一种基于最小化器和优化算法的性质的变化的估计的方法,用于自适应地从每个问题的基础分布中选择所需的样本数量,以确保过度风险,即,由优化算法产生的近似最小值和精确最小值所实现的损耗之间的预期差距不超过目标水平。用合成数据和真实数据进行的实验证实了该方法的有效性。
2015-09-24 cs.DS cs.LG
Sequential Gallery for Interactive Visual Design Optimization
National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所);The University of Tokyo(东京大学)
可视化设计任务通常涉及调整许多设计参数。例如,照片的颜色分级涉及许多参数,其中一些非专家用户可能不熟悉。我们提出了一种新的用户在循环优化方法,允许用户有效地找到一个合适的参数集,通过更容易的二维搜索子任务探索这样一个高维的设计空间。这种方法被称为顺序平面搜索,它基于贝叶斯优化,使用户尽可能少地进行必要的查询。为了帮助用户响应平面搜索查询,我们还建议使用基于图库的界面,该界面提供在自适应网格视图中排列的二维子空间中的选项。我们称这个交互式框架为顺序画廊,因为用户顺序地从界面提供的选项中选择最佳选项。我们的合成函数的实验表明,我们的顺序平面搜索可以找到令人满意的解决方案,在更少的迭代比基线。我们还进行了初步的用户研究,结果表明,新手可以有效地完成搜索任务与顺序画廊在照片增强的情况下。
2020-05-08 cs.GR cs.HC cs.LG
SequentialAttention++ for Block Sparsification: Differentiable Pruning Meets Combinatorial Optimization
Google Research(谷歌研究院)
该研究结合可微分剪枝与组合优化,提出SequentialAttention++框架,理论证明其非凸正则化特性与近似最优性,在ImageNet和Criteo数据集上实现块剪枝任务的SOTA性能。
2025-02-10 cs.LG
Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization
Seoul National University(首尔国立大学)
我们专注于对离散序列数据模型进行对抗攻击的问题,在黑盒设置中,攻击者的目标是制作对抗示例,对受害者模型进行有限的查询访问。现有的黑盒攻击,主要是基于贪心算法,发现敌对的例子使用预先计算的关键位置扰动,这严重限制了搜索空间,并可能导致次优的解决方案。为此,我们提出了一个查询高效的黑盒攻击,使用贝叶斯优化,动态计算重要的位置,使用自动相关性确定(ARD)分类内核。当输入序列变长时,我们引入块分解和历史子采样技术来提高贝叶斯优化的可扩展性。此外,我们开发了一个后优化算法,发现具有较小扰动大小的对抗性示例。在自然语言和蛋白质分类任务上的实验表明,与现有的方法相比,该方法具有更高的攻击成功率,查询次数和修改率显著降低.
2022-06-17 cs.CR cs.LG
Achieving Long-Term Fairness in Sequential Decision Making
University of Arkansas(阿肯色大学)
在本文中,我们提出了一个框架,实现长期公平的顺序决策。通过进行硬干预和软干预,我们建议将时滞因果图上的路径特定效应作为衡量长期公平性的定量工具。然后将公平序贯决策问题转化为一个以效用为目标,以长期公平性和短期公平性为约束的约束优化问题。我们表明,这样的优化问题可以转换为表演风险优化。最后,采用重复风险最小化(RRM)进行模型训练,并从理论上分析了RRM的收敛性。实验结果表明,该算法在合成和半合成时态数据集上是有效的。
2022-04-04 cs.AI cs.LG
Speeding-Up Convergence via Sequential Subspace Optimization: Current State and Future Directions
Technion—Israel Institute of Technology(以色列理工学院)
本文综述了顺序子空间优化框架在大规模无约束优化中的应用,探讨了其与并行坐标下降法的结合,以及如何通过改进方法提升求解效率。
2013-12-31 cs.LG cs.NA math.NA
Sequential Importance Sampling for Hybrid Model Bayesian Inference to Support Bioprocess Mechanism Learning and Robust Control
Northeastern University(东北大学);University of Waterloo(滑铁卢大学)
在生物制造4.0的关键需求的驱动下,我们引入了一个概率知识图混合模型,该模型表征了对生物过程机制的基于风险和科学的理解。它可以忠实地捕捉重要的性质,包括非线性反应,部分可观测状态,和非平稳动力学。给出了非常有限的实际过程的观察,我们得到了一个后验分布量化模型估计的不确定性。为了避免计算复杂的似然性,采用序贯蒙特卡罗近似贝叶斯计算抽样(ABC-SMC)来近似后验分布。在高度随机和模型不确定性下,匹配输出轨迹的计算代价很高。因此,我们创建了一个线性高斯动态贝叶斯网络(LG-DBN)辅助似然ABC-SMC方法。通过匹配由LG-DBN似然驱动的摘要统计量,可以捕获关键的相互作用和变化,所提出的算法可以加速混合模型推理,支持过程监控,并促进机制学习和鲁棒控制。
2022-09-30 cs.LG stat.ML
Scalable Hybrid HMM with Gaussian Process Emission for Sequential Time-series Data Clustering
KAIST(韩国科学技术院)
隐马尔可夫模型(HMM)结合高斯过程(GP)发射,可以有效地估计隐藏状态的一系列复杂的输入输出关系的观察。特别是当光谱混合(SM)核用于GP发射时,我们称此模型为混合HMM-GPSM。该模型可以有效地对时间序列数据进行建模。然而,由于SM内核的大量参数,该模型不能有效地用大量数据进行训练,这些数据具有(1)用于状态转换的长序列和2)每个序列中的大量时间序列数据集。本文提出了一种可扩展的HMM-GPSM学习方法。为了有效地训练模型与长序列,所提出的方法采用随机变分推理(SVI)的方法。同时,为了有效地处理每个时间序列数据的大量数据点,我们使用重新参数化的随机傅立叶特征(R-RFF)来近似SM核。这两种技术的结合大大减少了训练时间。我们验证了所提出的学习方法的隐藏状态估计精度和计算时间,使用大规模的合成和真实数据集缺失值。
2020-01-07 cs.LG stat.ML
Sequential Preference-Based Optimization
Uber Advanced Technologies Group(优步先进技术集团);SigOpt
许多现实世界的工程问题依赖于人类的偏好来指导其设计和优化。我们提出PrefOpt,一个开源软件包,以简化顺序优化任务,将人类的偏好反馈。我们的方法扩展了现有的二进制偏好的潜变量模型,允许观察用户的等效偏好。
2018-01-09 cs.CE cs.HC cs.LG
Hybrid State Space-based Learning for Sequential Data Prediction with Joint Optimization
Bilkent University(比尔肯特大学)
本文提出一种基于混合状态空间的在线序列预测模型,首次通过状态空间表示和粒子滤波对LSTM与SARIMAX进行单次联合优化,避免分离训练,并在公开竞赛数据集上取得显著提升。
2023-09-19 cs.LG stat.ML
Primal-Dual Sequential Subspace Optimization for Saddle-point Problems
Huawei(华为);Technion, IIT(以色列理工学院)
针对大规模鞍点问题,提出了一种新的序列子空间最优化方法。它迭代地解决了一系列的辅助鞍点问题的低维子空间,跨越的方向来自一阶信息的原始\emph{and}对偶变量。近端正则化被进一步部署以稳定优化过程。实验结果表明,相对于流行的一阶方法显着更好的收敛性。我们分析了子空间对算法收敛性的影响,并评估了其在各种确定性优化场景中的性能,如双线性游戏,基于ADMM的约束优化和生成对抗网络。
2020-08-20 cs.LG math.OC stat.ML
Hyperparameter Optimization via Sequential Uniform Designs
University of Hong Kong(香港大学)
超参数优化(HPO)在自动机器学习(AutoML)中起着核心作用。这是一个具有挑战性的任务,因为超参数的响应曲面通常是未知的,因此本质上是一个全局优化问题。本文将HPO转化为计算机实验,提出了一种新的顺序均匀设计(SeqUD)策略,该策略具有以下三个优点:a)均匀分布的设计点自适应地探索超参数空间,而不需要昂贵的元建模和获取优化; b)在并行处理支持下,逐批顺序生成设计点;(3)提出了一种新的增广均匀设计算法,用于有效地实时生成后续设计点。在全局优化任务和HPO应用程序上进行了大量的实验。数值结果表明,所提出的SeqUD策略优于基准HPO方法,因此它可以成为现有AutoML工具的有前途和有竞争力的替代方案。
2021-06-17 cs.LG math.OC stat.ML
Sequential Model-Based Ensemble Optimization
Université Laval(拉瓦尔大学);Université de Sherbrooke(舍布鲁克大学)
机器学习应用中最繁琐的任务之一是模型选择,即超参数选择。幸运的是,最近通过使用顺序基于模型的优化(SMBO)方法,在此过程的自动化方面取得了进展。这可以用于优化学习算法在其超参数值上的交叉验证性能。然而,众所周知,学习模型的集合几乎始终优于单个模型,即使选择得当。因此,在本文中,我们提出了一个扩展的SMBO方法,自动构建这样的合奏。这种方法建立在最近提出的集成建设范式称为不可知贝叶斯学习。在22个回归和39个分类数据集上的实验中,我们证实了所提出的方法是成功的,它能够优于SMBO的模型选择。
2014-02-04 cs.LG stat.ML
Covariance-Adaptive Sequential Black-box Optimization for Diffusion Targeted Generation
CFAR, IHPC(CFAR、IHPC);A*STAR(新加坡科技研究局);College of Computing and Data Science(计算与数据科学学院);Nanyang Technological University(南洋理工大学)
本文针对扩散模型定向生成问题,将定向储备时间SDE微调建模为序列黑盒优化,提出协方差自适应序列优化算法,在无光滑和强凸假设下证明 $O(\frac{d^2}{\sqrt{T}})$ 收敛速率,并在数值测试和三维分子生成任务中验证其优越性。
2024-06-08 cs.LG stat.ML
On Uncertainty Estimation by Tree-based Surrogate Models in Sequential Model-based Optimization
POSTECH(浦项科技大学);BARO AI
基于模型的序贯优化通过构造具有评价历史的代理模型来顺序地选择候选点,以解决黑盒优化问题。高斯过程(GP)回归是一个流行的选择作为代理模型,因为它的能力,分析计算预测的不确定性。另一方面,随机化树的集合是另一种选择,并且由于其可扩展性和易于处理连续/离散混合变量而具有优于GP的实际优点。在本文中,我们重新审视各种合奏的随机树的预测不确定性估计的角度来研究他们的行为。然后,我们提出了一种新的方法来构建一个合奏的随机树,被称为BwO森林,装袋与过采样被用来构建自举样本,用于建立随机树与随机分裂。实验结果表明,在各种情况下,BwO森林的有效性和良好的性能比现有的基于树的模型。
2022-02-22 cs.LG math.OC stat.ML
Sequential Randomized Matrix Factorization for Gaussian Processes: Efficient Predictions and Hyper-parameter Optimization
United Technologies Research Center(联合技术研究中心)
本文提出了一种序列随机低秩矩阵分解方法,使用高斯过程框架增量预测未知函数在测试点处的值。众所周知,在高斯过程框架中,计算瓶颈是(正则化)核矩阵的求逆和定义核的超参数的计算。本文的主要贡献是双重的。首先,我们形式化了一种在流媒体场景中使用随机矩阵分解算法计算核矩阵逆的方法,即,数据是随着时间递增地生成的。所提出的方法的准确性和计算效率的指标进行比较,对一个批处理方法的基础上使用的随机矩阵分解和现有的流方法的基础上近似高斯过程的一组有限的基向量。其次,我们扩展的顺序因式分解方法的一类核函数的超参数可以有效地优化。所有结果都在两个公开的数据集上得到了证明。
2017-11-19 cs.LG stat.ML
A Sequential Quadratic Programming Method with High Probability Complexity Bounds for Nonlinear Equality Constrained Stochastic Optimization
本文提出一种步长搜索序列二次规划方法,在仅能获得目标函数随机近似的条件下求解非线性等式约束随机优化问题,并推导了迭代复杂度的高概率界。
2024-10-06 math.OC stat.ML
A Stochastic Sequential Quadratic Optimization Algorithm for Nonlinear Equality Constrained Optimization with Rank-Deficient Jacobians
提出了一种序列二次优化算法,用于求解光滑非线性等式约束最优化问题,其中目标函数由随机函数的期望定义。所提出的方法的算法结构是基于在文献中已知的在实践中广泛有效的步骤分解策略,其中每个搜索方向被计算为正常步骤(朝向线性化可行性)和切向步骤(朝向约束雅可比矩阵的零空间中的目标减少)的和。然而,所提出的方法是独特的,从其他文献中,它既允许使用随机目标梯度估计,并具有收敛保证,即使在设置中的约束雅可比矩阵可能是秩亏。数值实验的结果表明,该算法提供了优越的性能相比,流行的替代品。
2023-03-16 math.OC stat.ML
Sequential Monte Carlo for Policy Optimization in Continuous POMDPs
University of Amsterdam(阿姆斯特丹大学);Aalto University(阿尔托大学)
本文提出了一种基于序列蒙特卡洛的策略优化方法,用于解决连续部分可观测马尔可夫决策过程中的探索与利用平衡问题。
2025-12-04 cs.AI cs.LG stat.ML
Targeting Solutions in Bayesian Multi-Objective Optimization: Sequential and Batch Versions
Groupe PSA(标致雪铁龙集团);École Nationale Supérieure des Mines de Saint-Étienne(圣艾蒂安国立高等矿业学校);CNRS LIMOS(法国国家科学研究中心LIMOS实验室);INRA Toulouse(法国国家农业科学研究院图卢兹分院)
多目标优化的目的是找到折衷的解决方案,以冲突的目标。这些构成了帕累托最优集合。在评价费用很高的职能的情况下,不可能而且往往没有任何信息来寻找整个集合。由于最终用户通常更喜欢目标空间的某一部分,我们修改了贝叶斯多目标优化算法,该算法使用高斯过程来最大化预期超卷改进,以将搜索集中在首选区域。高斯过程和目标策略的累积效应导致特别有效地收敛到帕累托集合的期望部分。为了充分利用并行计算的优势,提出并分析了目标准则的多点扩展。
2020-02-19 cs.LG math.OC stat.ML
Stackelberg Learning from Human Feedback: Preference Optimization as a Sequential Game
ETH Zürich(苏黎世联邦理工学院)
SLHF通过连续博弈框架实现偏好优化,优于RLHF和NLHF,在一致性、数据敏感性和鲁棒性方面具有优势,并在大规模语言模型中展示出强对齐能力。
2025-12-18 cs.AI cs.GT cs.LG
Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors
我们处理贝叶斯全局优化算法的高效并行化,更具体地说,那些基于预期的改进标准及其变种。建立了基于多元高斯累积分布函数的多点期望改进准则的广义形式的封闭形式公式。反过来,后者依赖于中间的结果,可能是独立的利益有关的截断高斯向量的时刻。所得到的扩展的标准,使研究其可微性方面的点批和计算相应的梯度在封闭的形式。此外,我们得到快速数值逼近这个梯度,并提出有效的批量优化策略。数值实验表明,所提出的方法,使计算节省一个和两个数量级之间,因此,使基于导数的批量顺序采集函数最大化,成为一个切实可行的和有效的标准。
2016-09-09 stat.AP stat.ME stat.ML
Dynamic Knapsack Optimization Towards Efficient Multi-Channel Sequential Advertising
Tianjin University(天津大学);Alimama, Alibaba Group(阿里妈妈,阿里巴巴集团);Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
在电子商务中,广告对于商家接触目标用户至关重要。典型的目标是在预算约束下最大化广告客户在一段时间内的累积收入。在实际应用中,广告(ad)通常需要多次暴露给同一用户,直到用户最终贡献收入(例如,下订单)。然而,现有的广告系统主要关注单次广告曝光的即时收入,忽略了每次曝光对最终转化的贡献,因此通常陷入次优解决方案。在本文中,我们将顺序广告策略优化描述为一个动态背包问题。我们提出了一个理论上有保证的双层优化框架,它大大减少了原来的优化空间的解决方案空间,同时确保解决方案的质量。为了提高强化学习的探索效率,我们还设计了一种有效的动作空间缩减方法。大量的离线和在线实验表明,我们的方法在累积收入方面优于最先进的基线。
2020-06-29 cs.DS cs.IR cs.LG
A sequential Monte Carlo approach to Thompson sampling for Bayesian optimization
Delft University of Technology(代尔夫特理工大学);Uppsala University(乌普萨拉大学)
本文提出一种基于序贯蒙特卡洛方法的算法,用于近似高斯过程最大值的分布,从而在连续输入空间中应用汤普森采样进行贝叶斯优化,无需优化非线性获取函数。
2017-05-16 cs.SY eess.SY stat.ML