Changepoint Detection for Real-Time Spectrum Sharing Radar
雷达必须适应不断变化的环境，我们提出了变点检测作为这样做的方法。在无线电频率日益拥挤的世界中，雷达必须适应以避免干扰。许多雷达系统在频谱共享时采用预测动作周期来主动确定传输模式。该方法构建并实现了一个环境模型来预测未使用的频率，然后在此预测的可用性中进行传输。对于这些选择策略，性能直接依赖于基本环境模型的质量。为了跟上不断变化的环境，这些模型可以采用变点检测。变点检测是识别从中提取数据的分布中的突然变化或变点。这些信息允许模型丢弃来自先前分发的“垃圾”数据，这些数据与环境的当前状态无关。本文将贝叶斯在线变点检测（BOCD）应用于感知和预测算法中，以提高模型的准确性，改善其性能。在频谱共享的背景下，这些变化点表示离开和进入频谱环境的干扰源。增加的变化点检测允许动态和鲁棒的频谱共享，即使干扰模式急剧变化。BOCD是特别有利的，因为它能够在线检测变点，允许模型不断更新，因为数据收集。这种策略也可以应用于在不断变化的环境中创建模型的许多其他预测算法。
2022-06-30 cs.LG cs.SY eess.SY
Sequential Changepoint Approach for Online Community Detection
Georgia Institute of Technology（佐治亚理工学院）
我们提出了新的算法来检测一个社区的出现在大型网络中的连续观测。网络建模使用Erdos-Renyi随机图与边缘之间形成的社区中的节点具有较高的概率。基于统计变点检测方法，我们开发了三种算法：穷举搜索（ES）方法，混合方法和分层混合（H-Mix）方法。这些方法的性能进行评估的平均运行长度（ARL），它捕获的频率的虚警，和检测延迟。数值比较表明，ES方法的性能最好，但它是指数复杂。混合方法是多项式复杂的，通过利用社区的大小在大型网络中通常很小的事实。然而，它可能对不形成社区的一组活动边做出反应。这个问题是解决的H-Mix方法，这是基于网络的树状图分解。当阈值较大时，我们给出了混合方法ARL的渐近解析表达式。数值模拟验证了我们的近似是准确的，即使在非渐近制度。因此，它可以用于有效地确定期望的阈值。最后，数值算例表明，混合方法和H-Mix方法都可以快速检测出一个社区，而复杂度低于ES方法。
2014-07-24 cs.LG cs.SI math.ST
Changepoint detection for high-dimensional time series with missing data
Duke University（杜克大学）
本文提出了一种新的方法来检测变点时，观察高维数据可能有丢失的元素。经典的变点检测方法的性能通常与数据的维数成比例，因此在真正的变点之后收集大量的观测值，然后才能可靠地检测到。此外，观察到的数据中缺少的成分阻碍了传统的方法。所提出的方法通过将数据的动态分布建模为接近嵌入在环境观测空间内的时变低维子流形来解决这些挑战。具体而言，流数据用于跟踪子流形近似，测量与该近似的偏差，并计算偏差的一系列统计数据，以检测底层流形何时以急剧或意外的方式改变。本文所述的方法利用了高维数据分析领域的几个最新成果，包括缺失数据的子空间跟踪、点云的多尺度分析技术、在线优化和变点检测性能分析。仿真和实验突出了所提出的方法在检测突变，否则缓慢变化的低维流形的鲁棒性和有效性。
2012-12-07 cs.LG stat.ML
Bandit Quickest Changepoint Detection
Indian Institute of Science（印度科学学院）；Boston University（波士顿大学）
针对传感器资源受限下的突变检测问题，提出bandit最快变点检测的在线感知方案，推导了信息论下界与方案的期望延迟界，证明低虚警率下的最优性，实验验证了方法有效性。
2023-06-13 cs.IT cs.LG math.IT
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
Slow Momentum with Fast Reversion: A Trading Strategy Using Deep Learning and Changepoint Detection
Oxford-Man Institute of Quantitative Finance, University of Oxford（牛津大学牛津-曼量化金融研究所）
动量策略是另类投资的重要组成部分，也是商品交易顾问（CTA）的核心。然而，这些策略被发现难以适应市场条件的快速变化，例如在2020年市场崩溃期间。特别是，在动量转折点之后，趋势从上升趋势（下降趋势）逆转为下降趋势（上升趋势），时间序列动量（TSTK）策略很容易做出错误的押注。为了改善对状态变化的响应，我们引入了一种新的方法，在这种方法中，我们将在线变点检测（CPD）模块插入深度动量网络（DMN）[1904.04912]管道中，该管道使用LSTM深度学习架构同时学习趋势估计和位置调整。此外，我们的模型能够优化它平衡的方式：1）利用持续趋势的缓慢动量策略，但不会对局部价格变动做出过度反应，2）快速均值回归策略制度，通过快速翻转其位置，然后再次将其交换回来以利用局部价格变动。我们的CPD模块输出一个变点位置和严重性分数，允许我们的模型学习以数据驱动的方式响应不同程度的不平衡，或更小和更局部化的变点。回溯测试我们的模型在1995-2020年期间，CPD模块的增加导致夏普比率提高了三分之一。该模块在显著的非平稳性时期特别有益，特别是在最近几年的测试中（2015-2020年），性能提升约为三分之二。这很有趣，因为传统的势头战略在这一时期表现不佳。
2021-12-20 cs.LG q-fin.TR stat.ML
Budget Online Multiple Kernel Learning
School of Information Systems（信息系统学院）；Singapore Management University（新加坡管理大学）；Institute for Infocomm Research (I2R)（资讯通信研究院（I2R））；A*STAR（新加坡科技研究局）
多核在线学习近年来得到了越来越多的关注，并得到了广泛的应用。对于分类任务，在线多核分类（OMKC），它学习基于核的分类器，通过寻求最佳的线性组合池的单核分类器在在线的时尚，实现了优越的精度和享有极大的灵活性相比，传统的单核分类器。尽管被广泛研究，现有的OMKC算法遭受高的计算成本，由于其无限数量的支持向量。为了克服这个缺点，我们提出了一个新的预算在线多核学习（BOMKL）的框架，并提出了一个新的稀疏被动积极学习执行有效的预算在线学习。具体来说，我们采用了一个简单而有效的Bernoulli采样来决定是否应该将传入的实例添加到当前的支持向量集。通过限制支持向量的数量，我们的方法可以显着加快OMKC，同时保持令人满意的精度，是现有的OMKC算法相媲美。我们从理论上证明了我们的新方法达到了预期的最佳遗憾界，并实证发现，该算法优于各种OMKC算法，可以很容易地扩展到大规模数据集。
2015-11-18 cs.LG
Online Decision Deferral under Budget Constraints
Georgia Institute of Technology（佐治亚理工学院）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（蒂宾根大学）
本文针对预算约束下模型与专家决策延迟的在线自适应问题，提出上下文赌博机框架及其高效扩展，在真实数据集上验证了显著性能。
2024-09-30 cs.LG
Hidden Representation Clustering with Multi-Task Representation Learning towards Robust Online Budget Allocation
Meituan Beijing, China（美团北京）
本文提出一种基于多任务表示学习和隐表示聚类的在线预算分配方法，将大规模个体分组并建模为整数随机规划问题，在美团平台实验中显著优于现有算法。
2025-06-01 cs.LG
BARA: Efficient Incentive Mechanism with Online Reward Budget Allocation in Cross-Silo Federated Learning
Sun Yat-sen University（中山大学）；Macquarie University（麦考瑞大学）
本文针对跨机构联邦学习中奖励预算跨轮次分配难题，提出基于贝叶斯优化的在线算法BARA，通过建模预算分配与模型精度关系动态优化各轮预算，结合逆向拍卖机制，在同等预算下显著提升了模型效用。
2023-05-16 cs.LG
AFA-BANDIT: Provably Near-Optimal Online Multi-Feature Classification Under Budget Constraints
The University of Sydney（悉尼大学）
本文提出LP-Chain算法，将在线主动特征获取建模为组合背包老虎机问题，实现预算约束下可证明近似最优的分类，并在合成数据上优于现有基线。
2026-10-07 cs.LG
Continuous Meta-Learning without Tasks
Stanford University（斯坦福大学）
元学习是一种很有前途的学习策略，它使用从任务分布中收集的数据，在新任务中有效地学习。然而，迄今为止的元学习文献都集中在任务分段设置上，其中在训练时，离线数据被假设为根据底层任务进行分割，而在测试时，算法被优化为在单个任务中学习。在这项工作中，我们使通用的元学习算法的应用程序的设置，这种任务分割是不可用的，如连续的在线学习与随时间变化的任务。我们提出了元学习通过在线变点分析（MOCA），一种方法，它增加了一个元学习算法与可微贝叶斯变点检测方案。该框架允许直接在时间序列数据上进行训练和测试，而无需将其分割为离散的任务。我们证明了这种方法的实用性的非线性元回归基准以及两个元图像分类基准。
2020-10-21 cs.CV cs.LG cs.NE
An Empirical Study on Budget-Aware Online Kernel Algorithms for Streams of Graphs
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）；University of Padova（帕多瓦大学）
核方法被认为是一种有效的在线学习技术。许多方法已经被开发用于当问题施加存储器约束时表示核方法的对偶解决方案的压缩。然而，在文献中没有工作是专门针对流的图形。出于这样一个事实，即许多国家的最先进的图形内核的特征空间表示的大小是相对较小的，因此它是明确可计算的，我们研究是否执行内核算法在特征空间中可以更有效地比经典的对偶方法。我们研究了三种不同的算法和各种战略的预算管理。所提出的方法的效率和功效进行了实验评估相对较大的图形流表现出概念漂移。事实证明，当必须强制执行严格的内存预算约束时，考虑到图内核的当前技术水平，在特征空间中工作不仅仅是双重方法的可行替代方案，无论是在速度还是分类性能方面。
2016-07-20 cs.LG
Bi-Level Online Provisioning and Scheduling with Switching Costs and Cross-Level Constraints
Dept. of Electrical Engineering University at Buffalo, Buffalo, NY（电气工程系 网络布法罗大学）；Computer Engineering The Ohio State University, Columbus, OH（计算机工程 俄亥俄州立大学）
本文提出了一种双层OCO-CMDP算法，解决具有切换成本和跨层约束的网络资源配置与调度问题，通过双时间尺度交互和预算自适应探索实现近最优性能。
2026-02-20 cs.LG
Showing Your Offline Reinforcement Learning Work: Online Evaluation Budget Matters
Tinkoff（廷科夫银行）
在这项工作中，我们认为在线评估预算的重要性，深离线RL算法的可靠比较。首先，我们描述了在线评价预算是问题依赖性的，其中一些问题允许更少，但其他更多。其次，我们证明了算法之间的偏好在机器人、金融和能源管理等各种决策领域都是依赖于时间的。根据以上几点，我们建议报告不同在线评估预算下深度离线RL算法的性能。为了促进这一点，我们建议使用NLP领域的报告工具，预期验证性能。这种技术使得在不同预算下可靠地估计预期的最大性能成为可能，同时不需要超参数搜索之外的任何额外计算。通过使用这个工具，我们还表明，在有限的预算范围内工作时，行为克隆通常更有利于离线RL算法。
2022-06-05 cs.AI cs.LG
Doubly Robust Bayesian Inference for Non-Stationary Streaming Data with $β$-Divergences
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）
我们提出了第一个强大的贝叶斯在线变点检测算法，通过一般贝叶斯推断（GBI）与$β$ -分歧。由此产生的推理过程是双重强大的参数和变点（CP）后，线性时间和恒定的空间复杂度。我们提供了一个指数模型的构造，并在贝叶斯线性回归模型上进行了演示。在这样做时，我们做了两个额外的贡献：首先，我们使GBI可扩展的结构变分近似是精确的$β\to 0$。其次，我们给出了一个原则性的方法来选择的分歧参数$β$的期望预测损失最小的在线。将CP的错误发现率从超过90%降低到真实世界数据的0%，这提供了最先进的技术。
2018-11-27 cs.LG stat.ML
Ahpatron: A New Budgeted Online Kernel Learning Machine with Tighter Mistake Bound
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学院）
针对预算在线核学习的错误界问题，提出新型模型Ahpatron，通过基于主动更新感知机AVP的半样本移除投影预算维护机制，实现更紧错误界，性能在同或更小预算下优于现有最优算法。
2023-12-12 cs.LG stat.ML
Memory Constraint Online Multitask Classification
Università degli Studi di Milano（米兰大学）
我们调查在线内核算法，同时处理多个分类任务，而一个固定的约束施加在其活动集的大小。我们特别关注的算法设计，可以有效地处理任务的数量是非常高的，任务数据是大规模的问题。引入了两种新的基于投影的算法，以有效地解决这些问题，同时提出了不同的权衡如何管理可用的内存相对于先验信息的学习任务。通过将随机预算感知器和Forgetron算法与多任务内核耦合，设计了理论上合理的预算算法。我们展示了如何从多个任务中学习和保持恒定的内存足迹这两个看似对立的属性可以平衡，以及如何自动照顾不同任务之间的可用空间共享。我们提出并讨论了多任务内核的新见解。实验表明，在线内核多任务算法运行在预算可以有效地解决现实世界中的学习问题，涉及多个任务。
2012-10-01 cs.LG
Budgeted Online Model Selection and Fine-Tuning via Federated Learning
University of California Irvine（加州大学尔湾分校）
针对边缘设备内存受限问题，提出服务器存储全部候选模型、客户端仅存子集并协作微调的在线联邦模型选择框架，证明其次线性遗憾并通过真实数据集验证有效性。
2024-01-19 cs.LG
Information-Theoretic Foundations of Online Temperature Sampling
Purdue University（普渡大学）
针对LLM解码的重复退化问题，该研究提出熵在线采样（EOS）方法，在信息论框架下解决在线温度采样的最优策略问题，其性能在$\log n$因子内达到最优，且实验表现优于固定温度采样。
2026-10-14 cs.LG
Near-Optimal Experimental Design Under the Budget Constraint in Online Platforms
Peking University（北京大学）；Purdue University（普渡大学）；Zhejiang University（浙江大学）；Tencent Technology (Shenzhen) Co., Ltd.（腾讯科技（深圳）有限公司）
A/B测试或受控实验是在在线平台上因果比较算法性能的金标准方法。然而，传统的伯努利随机化在A/B测试面临着许多挑战，如溢出和结转效应。我们的研究重点是另一个挑战，特别是对于双边平台上的A/B测试-预算限制。双边平台上的买家通常预算有限，传统的A/B测试可能无法应用，部分原因是两种分配算法可能会冲突，如果同时实施，可能会导致一些买家超出预算。我们开发了一个模型来描述买家预算有限的双边平台。然后，我们提供了一个最佳的实验设计，保证小偏差和最小方差。当有更多的预算和更高的供求率时，偏差更低。我们在合成数据和真实数据上测试了我们的实验设计，验证了理论结果，并显示了我们与Bernoulli随机化相比的优势。
2023-02-10 cs.LG cs.PF
Competitive Algorithms for Online Budget-Constrained Continuous DR-Submodular Problems
University of Washington（华盛顿大学）；Tetration Analytics, Cisco Systems, Inc.（思科系统公司Tetration Analytics部门）
在本文中，我们研究了一类在线最优化问题，其中的目标是最大化一个函数，不一定是凹的，并满足递减收益（DR）的预算约束下的性质。我们分析了一个原始对偶法，称为广义序列算法，我们得到的竞争比的第一界的在线单调DR-次模函数最大化的线性包装约束下匹配的特殊情况下的线性目标函数紧界。
2019-06-30 cs.LG math.OC stat.ML
An Adaptable Budget Planner for Enhancing Budget-Constrained Auto-Bidding in Online Advertising
School of Computer Science, Peking University（北京大学计算机学院）；Center on Frontiers of Computing Studies, Peking University（北京大学计算科学前沿中心）；Alibaba Group（阿里巴巴集团）
本文提出少样本可适配预算规划器ABPlanner，通过分层竞价框架和上下文强化学习驱动的序贯决策，在不同广告主间快速调整预算分配，从而提升预算约束下自动竞价的累积价值。
2025-01-26 cs.GT cs.LG
QueryMarket: Cost-Aware Online Active Learning in Data Markets
Dyson School of Design Engineering, Imperial College London（帝国理工学院戴森设计工程学院）；Halfspace (part of Accenture)（埃森哲旗下Halfspace）；Technical University of Denmark (DTU Management)（丹麦技术大学（DTU管理系））；Aarhus University (CoRE)（奥胡斯大学（CoRE））
提出QueryMarket框架和OVBAL算法，通过D-最优性准则估计边际效用，在滚动预算约束下实现成本感知的在线主动学习，适应非平稳流和异构标签成本。
2026-06-17 cs.LG
Real Time Bid Optimization with Smooth Budget Delivery in Online Advertising
Turn Inc（Turn公司）
如今，每天都有数十亿的展示广告展示通过实时的竞价（RTB）交易所主办的公开拍卖进行购买。广告商必须在毫秒内做出决定，为每个选定的RTB广告请求提交出价。受预算限制，目标是购买一组广告展示，以达到尽可能多的目标用户。广告主特定的期望动作（转换）包括购买产品、填写表格、注册电子邮件等。此外，广告主通常更喜欢随着时间的推移平稳地花费他们的预算，以便在一天中接触到更广泛的受众，并产生可持续的影响。然而，由于转换很少发生，并且发生反馈通常延迟，因此同时实现预算和性能目标非常具有挑战性。在本文中，我们提出了一种在线方法，以顺利交付预算，同时优化转换性能。我们的算法试图选择高质量的印象，并调整投标价格的基础上，在一个自适应的方式，通过分配预算最佳跨时间的先验性能分布。我们从真实的广告活动的实验结果表明，我们所提出的方法的有效性。
2013-05-14 cs.GT cs.LG
An End-to-End Framework for Marketing Effectiveness Optimization under Budget Constraint
Kuaishou Inc（快手公司）
在线平台通常激励消费者提高用户参与度和平台收入。由于不同的消费者可能会对激励措施做出不同的反应，因此个人层面的预算分配是营销活动中的一项重要任务。在这一领域的最新进展往往解决预算分配问题，使用两个阶段的范例：第一阶段估计个人水平的治疗效果，使用因果推理算法，第二阶段调用整数规划技术，以找到最佳的预算分配解决方案。由于这两个阶段的目标可能并不完全一致，这样的两阶段模式可能会损害整体营销效果。在本文中，我们提出了一种新的端到端的框架，直接优化预算约束下的业务目标。我们的核心思想是构造一个正则化器来表示营销目标，并使用梯度估计技术有效地优化它。因此，所获得的模型可以直接和精确地学习最大化营销目标。我们广泛评估我们提出的方法在离线和在线实验，实验结果表明，我们的方法优于当前国家的最先进的方法。我们提出的方法目前已被部署用于为短视频平台上的数亿用户分配营销预算，并实现了显着的业务目标改进。我们的代码将公开。
2023-02-09 cs.LG
Learning-Assisted Algorithm Unrolling for Online Optimization with Budget Constraints
University of California, Riverside（加州大学河滨分校）
多预算约束的在线优化是具有挑战性的，因为在短时间内的在线决策是由严格的库存约束耦合在一起的。现有的人工设计的算法不能达到令人满意的平均性能，因为他们往往需要大量的时间步长收敛和/或可能违反库存约束。在本文中，我们提出了一种新的机器学习（ML）辅助展开方法，称为LAAU（学习辅助算法展开），它展开在线决策管道，并利用ML模型在线更新拉格朗日乘子。为了通过反向传播进行有效的训练，我们推导出决策管道随时间的梯度。我们还提供了两种情况下的平均成本界限时，训练数据离线和在线收集，分别。最后，我们提出了数值结果，以强调LAAU可以优于现有的基线。
2023-03-07 cs.AI cs.LG math.OC
Adapter-Augmented Bandits for Online Multi-Constrained Multi-Modal Inference Scheduling
School of Computer Science and Engineering, Sun Yat-sen University, Guangzhou, 510006, China.（中山大学计算机科学与工程学院）；School of Computing, Macquarie University, NSW 2109, Australia（麦考瑞大学计算机学院）
M-CMAB通过多适配器增强框架，实现多模态任务调度中的多约束优化，提升推断效率和预算利用效率。
2026-03-06 cs.LG
Online Continuous DR-Submodular Maximization with Long-Term Budget Constraints
University of Washington（华盛顿大学）
在本文中，我们研究了一类具有长期预算约束的在线优化问题，其中目标函数不一定是凹的（也不一定是凸的），但它们满足递减收益（DR）性质。具体地，单调DR-子模块目标函数$\{f_t(x)\}_{t=1}^T$和单调线性预算函数$\{\langle p_t,x \rangle \}_{t=1}^T$的序列随时间到达，并且假设总目标预算$B_T$，目标是在每个时间$t\in\{1,\dots,T\}$选择点$x_t$，而不知道该步骤上的$f_t$和$p_t$，以实现次线性遗憾界限，同时总预算违反$\sum_{t=1}^T \langle p_t,x_t \rangle -B_T$也是次线性的。先前的工作表明，实现次线性后悔是不可能的，如果预算功能选择相反。因此，我们修改的概念，遗憾的代理人对$(1-\frac{1}{e})$ -近似的最佳固定的决定，在事后，满足预算约束成比例的任何窗口长度$W$。我们提出了在线鞍点混合梯度（OSPHG）算法来解决这类在线问题。对于$W=T$，我们恢复了上述不可能结果。然而，当$W=o(T)$，我们表明，它是可能的，以获得次线性界限为$(1-\frac{1}{e})$ -遗憾和总预算违反。
2019-06-30 cs.LG math.OC stat.ML
Safe and Efficient Online Convex Optimization with Linear Budget Constraints and Partial Feedback
Research Institute of China Electronics Technology Group（中国电子科技集团公司研究所）；School of Information Science and Technology（信息科学与技术学院）；ShanghaiTech University（上海科技大学）
本文研究未知线性预算约束下的在线凸优化问题，提出安全高效的Lyapunov优化算法SELO，实现$O(\sqrt{T})$遗憾与零累积约束违反，计算高效并在分布式数据中心应用中验证有效。
2025-03-07 cs.LG math.OC
Online Budgeted Matching with General Bids
University of Houston（休斯顿大学）；University of California, Riverside（加州大学河滨分校）；California Institute of Technology（加州理工学院）
本文研究了一般出价下的在线预算匹配问题，移除了分数最后匹配假设，提出了元算法MetaAd，实现了由最大出价预算比参数化的可证明竞争比，并扩展至学习增强算法设计。
2024-11-14 cs.DM cs.GT cs.LG
Online Learning with Cumulative Oversampling: Application to Budgeted Influence Maximization
Columbia University（哥伦比亚大学）；Fudan University（复旦大学）
提出了一种用于在线学习的累积过采样方法。我们的主要思想是在每一轮中从更新的信念空间中对参数估计进行一次采样（类似于Thompson采样），并利用当前轮的累积样本来构建乐观的参数估计，这些参数估计渐近地集中在真实参数周围，与标准UCB方法构建的参数估计相比，置信上限更紧。我们将CO应用到一个新的预算变体的影响力最大化（IM）半土匪与线性推广的边缘权重，其离线问题是NP-难的。结合CO和我们为离线问题设计的预言机，我们的在线学习算法同时处理预算分配、参数学习和奖励最大化。我们表明，对于IM半土匪，我们的CO为基础的算法实现了规模的遗憾相比，基于UCB的算法在理论上，并在数值实验中表现与汤普森采样。
2020-09-16 cs.LG cs.SI stat.ML
Online Adaptive Asymmetric Active Learning with Limited Budgets
South China University of Technology（华南理工大学）；Tencent AI Lab（腾讯人工智能实验室）
在线主动学习（OAL）通过有选择地查询数据的标签来管理未标记的数据流。OAL适用于许多现实问题，如医疗保健和金融领域的异常检测。在这些问题中，有两个关键的挑战：查询预算往往是有限的，类之间的比例是高度不平衡的。在实践中，当只有有限的标签预算可以查询用于训练时，处理不平衡的未标记数据流是相当困难的。为了解决这个问题，以前的OAL研究采用非对称损失或查询（一个孤立的非对称策略）来解决不平衡，并使用一阶方法来优化成本敏感的措施。然而，孤立策略限制了它们在类不平衡中的性能，而一阶方法限制了它们的优化性能。在本文中，我们提出了一种新的在线自适应非对称主动学习算法，基于一种新的非对称策略（合并非对称损失和查询策略），和二阶优化。从理论上分析了它的错误界和代价敏感度量界。此外，为了更好地平衡性能和效率，我们通过草图技术增强了我们的算法，这大大加快了计算速度，性能略有下降。实验结果表明了所提方法的有效性和高效性。
2019-11-18 cs.LG stat.ML
Adapt Only When It Pays: Budgeted Decision-Loss Priority for Delayed Online Time-Series Adaptation
Xibai Wang（王希拜）
提出ADOWIP框架，通过决策损失优先级门控在反馈到达时选择性更新，在有限预算下降低决策损失，并在公共数据集上验证有效性。
2026-06-25 cs.AI cs.LG
When and What to Teach: Budget-Aware Online Adaptation for Web Agents
University of Electronic Science and Technology of China（电子科技大学）；Institute of Software Chinese Academy of Sciences（中国科学院软件研究所）
针对Web智能体在线部署中教学成本高的问题，提出预算感知框架，通过可解性门控和分数引导回合选择，在保持性能的同时大幅降低教师调用和训练计算。
2026-09-09 cs.AI cs.CV cs.LG
Online Joint Bid/Daily Budget Optimization of Internet Advertising Campaigns
Politecnico di Milano（米兰理工大学）
按点击付费广告包括各种形式（\emph{e.g.}、搜索、上下文、社交），全球每年的总投资超过2000亿美元。广告主每天都有预算分配几个，甚至数千个活动，主要是区分广告，目标或渠道。此外，发布商选择要显示的广告以及如何使用拍卖机制来分配它们，在拍卖机制中，广告商每天为每个活动设置与他们愿意支付的每次点击的最大金额和每日预算的一部分相对应的出价。在本文中，我们研究的问题，自动化的在线联合投标/每日预算优化付费点击广告活动在多个渠道。我们制定我们的问题作为一个组合半强盗问题，这需要解决一个特殊的情况下，多选择背包问题的每一天。此外，对于每个广告系列，我们通过高斯过程捕获点击次数对出价和每日预算的依赖性，因此需要对这些函数的规律性进行温和的假设。我们设计了四个算法，并表明他们遭受的遗憾，这是一个上限的高概率为O（sqrt{T}），其中T是学习过程的时间范围。我们实验评估我们的算法与合成设置从雅虎的真实数据生成，我们提出了在现实世界的应用程序中采用我们的算法的结果，每天平均花费1,000欧元超过一年。
2020-03-03 cs.LG stat.ML
Safe Online Bid Optimization with Return on Investment and Budget Constraints
Politecnico di Milano（米兰理工学院）
本文提出GCB_safe算法，在保证投资回报和预算约束安全的同时，通过容忍度ψ和ϕ实现子线性遗憾和线性约束违反。
2025-12-04 cs.AI cs.LG
An Efficient Variant of One-Class SVM with Lifelong Online Learning Guarantees
New York University（纽约大学）；Columbia University（哥伦比亚大学）
本文提出SONAR，一种基于SGD的高效单类SVM求解器，通过强凸正则化实现非平稳数据下的终身学习保证，并在对抗性数据中展示适应性保证。
2025-12-11 cs.LG stat.ML
Very Fast Kernel SVM under Budget Constraints
ENSEA（法国高等电力学院）；Université de Cergy-Pontoise（塞尔吉-蓬图瓦兹大学）；CNRS（法国国家科学研究中心）
在本文中，我们提出了一种快速在线核SVM算法在紧预算约束。我们建议使用LVQ分割输入空间，并在每个聚类中训练一个核SVM。为了允许在线训练，我们建议使用不同的策略限制每个集群的支持向量集的大小。我们在实验中表明，我们的算法能够实现高精度，同时在训练和评估中每秒处理的样本数量非常多。
2016-12-31 cs.LG stat.ML
Online Learning under Budget and ROI Constraints via Weak Adaptivity
Politecnico di Milano（米兰理工大学）；Bocconi University（博科尼大学）；Columbia University（哥伦比亚大学）
针对预算与 ROI 约束在线学习，本文提出带弱自适应遗憾最小化器的 dual-balancing 原始-对偶框架，无需 Slater 参数和逐轮严格可行性，并给出随机/对抗输入下的无遗憾保证及广告拍卖最优竞价应用。
2024-03-02 cs.GT cs.LG
Budgeted Online Continual Learning by Adaptive Layer Freezing and Frequency-based Sampling
Seoul National University（首尔大学）
针对在线持续学习中计算与存储预算不一致导致比较不公的问题，提出以 FLOPs 和总字节内存统一预算，并结合自适应层冻结与频率采样检索，在多个图像数据集上以同等总预算取得优于 SOTA 的效果。
2025-03-16 cs.AI cs.CV cs.LG
Online Fair Division with Budget Constraints
University of Oxford（牛津大学）
研究广义分配预算约束下离散公平分配的在线变体，确定有界密度扩展条件并获近似算法，研究资源增强及刻画保证改进，还开发学习增强框架，证明其性质及单独预测边际的不足。
2026-07-28 cs.AI cs.GT cs.LG
No-regret Learning in Repeated First-Price Auctions with Budget Constraints
Peking University（北京大学）；Zhejiang University（浙江大学）；Shanghai Jiaotong University（上海交通大学）
最近，在线广告市场已经呈现出从第二价格拍卖到第一价格拍卖的逐渐转变。虽然已经有一系列的工作，关于网上投标策略在一价拍卖，它仍然是开放的，如何处理预算约束的问题。在本文中，我们提出了一个买家的预算学习在线投标策略在重复的第一价格拍卖。针对静态竞争下的最优非预期策略，提出了一种基于RL的竞价算法。我们的算法获得$\widetilde O(\sqrt T)$ -如果出价都在每轮结束时显示，则表示遗憾。在每轮投标后买方只能看到中标者的限制下，我们的改进算法利用生存分析的技术得到$\widetilde O(T^{\frac{7}{12}})$ -后悔。我们的分析扩展到更一般的情况下，买方有任何有界的瞬时效用函数的遗憾相同的顺序。
2022-05-29 cs.GT cs.LG
Budget-Constrained Online Retrieval-Augmented Generation: The Chunk-as-a-Service Model
Information and Computing Technology (ICT) Division, College of Science and Engineering, Hamad Bin Khalifa University（信息与计算技术系（ICT）, 科学与工程学院, 哈马德·本·卡西姆大学）；School of Electrical Engineering and Information Technology, German Jordanian University（电气工程与信息科技学院, 德国约旦大学）；Department of Computer and Information Sciences, Fordham University（计算机与信息科学系, 芙兰克大学）；Department of Computer Science and Engineering, College of Engineering, Qatar University（计算机科学与工程系, 工程学院, 卡塔尔大学）
本文提出块即服务模型，通过在线选择算法提升检索增强生成的透明性和成本效益，实验显示其在性能和预算利用上优于现有方法。
2026-04-28 cs.IR cs.LG
Coordinated Dynamic Bidding in Repeated Second-Price Auctions with Budgets
Peking University（北京大学）；Huawei TCS Lab（华为TCS实验室）
该研究针对带预算的重复第二价格拍卖场景，提出可保证每个客户效用高于独立出价最优水平、实现最大联盟福利的协同出价算法，并通过实验验证性能，填补了带约束在线重复拍卖中竞拍者协同研究的空白。
2023-06-13 cs.GT cs.LG econ.TH
WISERouter: LLM Routing with Workload Budget Constraint
The University of British Columbia（英属哥伦比亚大学）
研究针对大规模使用LLMs成本高的问题，将LLM路由建模为约束上下文多臂老虎机问题，提出WISERouter框架，支持离线和在线学习。证明WR-Online有次线性遗憾界，实验表明WR-Offline性能超基线且更守预算，WR-Online用较少探索数据达可比性能。
2026-07-28 cs.AI cs.LG
DARA: Few-shot Budget Allocation in Online Advertising via In-Context Decision Making with RL-Finetuned LLMs
Peking University（北京大学）；School of Computer Science（计算机科学学院）；Alibaba Group（阿里巴巴集团）；Theta Labs, Inc.（Theta Labs公司）
DARA通过结合LLMs的上下文学习与细粒度优化，实现在线广告中的少样本预算分配，提升广告商价值。
2026-01-21 cs.AI cs.LG
Online Uniform Sampling: Randomized Learning-Augmented Approximation Algorithms with Application to Digital Health
Duke-NUS Medical School（杜克-国大医学院）；Cornell Tech（康奈尔理工学院）；Texas A&M（德克萨斯农工大学）；Harvard University（哈佛大学）；Amazon（亚马逊公司）
本文针对数字健康场景中的在线均匀采样问题，提出首个随机算法及其学习增强版本，给出最坏情况近似保证，并通过合成实验与HeartSteps真实案例验证其优于已有启发式方法的平均性能。
2024-10-19 cs.LG math.OC
E-Commerce Promotions Personalization via Online Multiple-Choice Knapsack with Uplift Modeling
促销和折扣是现代电子商业平台的重要组成部分，通常用于激励客户完成购买。促销活动也会影响收入，并可能导致经常受到专用促销预算限制的金钱损失。我们研究的在线约束多选择促销个性化问题，其中的优化目标是为每个客户选择的促销，以最大限度地提高购买完成，同时也符合全球预算的限制。我们的工作形式化的问题作为一个在线多选择背包问题，并通过解决负权重和值的情况下，现有的文献进行了扩展。我们提供了一种实时的自适应方法，保证了预算约束的合规性，并在各种数据集上实现了99.7%以上的最佳促销效果。我们的方法在世界领先的在线旅游平台之一的大规模实验研究中进行了评估。
2021-08-31 cs.AI cs.IR cs.LG
Near-Optimal Online Deployment and Routing for Streaming LLMs
Stony Brook University（史泰森布鲁克大学）
StageRoute算法通过优化部署和路由策略，在流式LLM管理中实现近最优的并发和成本控制。
2026-01-29 cs.AI cs.LG
Stochastic Bandits for Multi-platform Budget Optimization in Online Advertising
Facebook Core Data Science（Facebook核心数据科学部门）；Sapienza University of Rome（罗马大学）；Facebook AI Applied Research（Facebook人工智能应用研究部门）
我们研究的问题，一个在线广告系统，希望以最佳的方式花费广告客户的给定预算的活动在多个平台上，不知道的价值为显示广告的用户在这些平台上。我们模拟这个具有挑战性的实际应用作为一个背包问题的随机土匪在$T$轮的投标与一组不同的投标$m$ -元组，其中$m$是平台的数量的一组武器。我们修改了Badanidiyuru \emph{et al.,}中提出的算法，将其扩展到多平台的情况下，获得离散和连续出价空间的算法。也就是说，对于离散投标空间，我们给出了一个带遗憾的算法$O\left(OPT \sqrt {\frac{mn}{B} }+ \sqrt{mn OPT}\right)$，其中$OPT$是已知分布的最优算法的性能。对于连续的出价空间，我们的算法的遗憾是$\tilde{O}\left(m^{1/3} \cdot \min\left\{ B^{2/3}, (m T)^{2/3} \right\} \right)$。当限制到这种特殊情况时，这个界限在$OPT \ll T$体系中比Sankararaman和Slivkins更好，就像手头的特定应用中的情况一样。其次，我们显示了一个$ Ω\left (\sqrt {m OPT} \right)$的离散情况下的下限和一个$Ω\left( m^{1/3} B^{2/3}\right)$的连续设置的下限，几乎匹配的上限。最后，我们使用了一个来自一家拥有…
2021-03-25 cs.GT cs.LG
Large-scale Kernel-based Feature Extraction via Budgeted Nonlinear Subspace Tracking
University of Minnesota（明尼苏达大学）
基于核的方法在处理各种学习任务时具有强大的泛化能力。当这样的方法提供有足够的训练数据，广泛适用的类的非线性函数可以近似所需的精度。然而，基于核的估计的非参数性质所固有的计算和内存要求，成为大规模数据集的禁止。为了应对这一艰巨的挑战，目前的工作提出了一个低秩，基于内核的，特征提取方法，特别是针对在线操作，其中数据流不需要存储在内存中。一种新的生成模型被引入到近似高维（可能是无限的）的功能，通过一个低秩的非线性子空间，学习导致一个直接的核函数近似。离线和在线求解器的子空间学习任务，以及负担得起的版本，其中存储的数据向量的数量被限制在一个预定义的预算。分析结果提供了性能界限如何以及内核矩阵以及基于内核的分类和回归任务可以近似利用预算在线子空间学习和特征提取方案。合成和真实数据集上的测试表明，当线性分类和回归应用于提取的特征时，所提出的方法的效率和基准。
2017-12-26 cs.LG stat.ML
Black-Box Targeted Reward Poisoning Attack Against Online Deep Reinforcement Learning
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出首个针对在线深度强化学习的黑盒定向奖励投毒攻击，仅需有限预算和计算资源即可在未知环境中高效引导智能体达到目标策略，并在理论框架下证明了其最优性。
2023-05-18 cs.CR cs.LG
Online Stochastic Optimization with Wasserstein Based Non-stationarity
New York University（纽约大学）
我们考虑一个一般的在线随机优化问题，多个预算约束在有限的时间段内的地平线。在每个时间段内，揭示了一个奖励函数和多个成本函数，决策者需要从凸和紧凑的行动集中指定一个行动，以收集奖励并消耗预算。每个成本函数对应于一个预算的消耗。在每个周期中，奖励和成本函数都是从一个未知的分布中得出的，这个分布在时间上是非平稳的。决策者的目标是在预算约束下最大化累积报酬。该公式涵盖了广泛的应用，包括在线线性规划和网络收入管理等。在本文中，我们考虑两种设置：（i）数据驱动的设置，其中真实分布是未知的，但先验估计（可能不准确）是可用的;（ii）无信息的设置，其中真实分布是完全未知的。我们提出了一个统一的Wasserstein距离为基础的措施，以量化的不准确性的先验估计设置（i）和非平稳的系统设置（ii）。我们表明，建议的措施导致一个次线性遗憾在这两种设置的可达性的充分必要条件。对于设置（i），我们提出了一个新的算法，它采取了原始-对偶的角度来看，并集成到一个在线的梯度下降过程中的对偶空间的潜在分布的先验信息。该算法也自然延伸到无信息的设置（ii）。在这两种情况下，我们证明了相应的算法实现了最优顺序的遗憾。在数值实验中，我们演示了如何将所提出的算法自然地与重新求解技术相结合，以进一步提高经验性能。
2022-07-25 cs.LG math.OC
