Leveraging Model Inherent Variable Importance for Stable Online Feature Selection
University of Tuebingen（蒂宾根大学）；Schufa Holding AG（Schufa控股股份公司）
特征选择是获得稳健和准确预测的关键因素。然而，在线特征选择模型在相当大的限制下运行;它们需要基于有界的观测集有效地提取显著的输入特征，同时实现鲁棒和准确的预测。在这项工作中，我们介绍FIRES，一个新的框架在线特征选择。所提出的特征加权机制利用预测模型的参数中固有的重要性信息。通过将模型参数视为随机变量，我们可以惩罚具有高不确定性的特征，从而生成更稳定的特征集。我们的框架是通用的，因为它把底层模型的选择留给了用户。引人注目的是，实验表明，模型复杂性对所选特征集的鉴别能力和稳定性只有很小的影响。事实上，使用一个简单的线性模型，FIRES获得了与最先进的方法竞争的特征集，同时大大减少了计算时间。此外，实验表明，所提出的框架显然是优越的特征选择的稳定性。
2020-06-18 cs.LG stat.ML
Cost-Sensitive Online Window Size Selection for Portfolio Management
National Tsing Hua University（国立清华大学）
本文提出一个两层框架，通过在线学习动态聚合候选窗口大小的投资组合，并推导成本敏感跟踪遗憾界，以应对市场变化。
2026-09-29 cs.LG math.OC q-fin.PM
An Online Sparse Streaming Feature Selection Algorithm
Southwest University（西南大学）；University of Chinese Academy of Sciences（中国科学院大学）
在线流特征选择（OSFS）是一种在线进行特征选择的方法，在高维数据处理中起着重要的作用。在许多实际应用中，例如智能医疗平台，流媒体功能总是有一些缺失的数据，这对进行OSFS提出了关键挑战，即，如何建立稀疏流特征和标签之间的不确定关系。遗憾的是，现有的OSFS算法没有考虑这种不确定的关系。为了填补这一空白，我们在本文中提出了一个在线稀疏流特征选择与不确定性（OS 2FSU）算法。OS 2FSU主要包括两个部分：1）在进行特征选择之前，利用潜在因子分析对稀疏流特征中的缺失数据进行预估计; 2）在进行特征选择时，利用模糊逻辑和邻域粗糙集来消除估计的流特征与标签之间的不确定性。在实验中，OS 2FSU与五个国家的最先进的OSFS算法在六个真实的数据集进行了比较。结果表明，OS 2FSU优于其竞争对手时，在OSFS中遇到丢失的数据。
2022-08-03 cs.LG
Online Self-Concordant and Relatively Smooth Minimization, With Applications to Online Portfolio Selection and Learning Quantum States
National Taiwan University（台湾大学）；Hon Hai (Foxconn) Quantum Computing Centre（鸿海（富士康）量子计算中心）；National Center for Theoretical Sciences（台湾理论科学中心）
本文研究自和谐且相对光滑的在线凸优化，统一分析了在线镜像下降的遗憾界，并据此改进了在线投资组合选择中指数梯度变体的遗憾界，同时为在线量子态学习给出了每次迭代更快的算法。
2023-09-21 cs.LG math.OC q-fin.PM
Online Laplace Model Selection Revisited
University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
本工作重新推导了在线 Laplace 方法，证明其优化一个不作平稳性假设的模式校正变分界，并在 UCI 回归数据集上验证其能有效防止过拟合，优于基于验证的早期停止。
2024-01-09 cs.LG stat.ML
MOANOFS: Multi-Objective Automated Negotiation based Online Feature Selection System for Big Data Classification
REsearch Groups in Intelligent Machines（智能机器研究组）；University of Sfax（斯法克斯大学）；ENIS（斯法克斯国立工程师学院）
特征选择在学习和分类任务中起着重要的作用。FS的目的是选择相关的和非冗余的功能。由于实际应用中特征数量巨大，采用批量学习技术的FS方法无法解决大数据问题，特别是当数据顺序到达时。在本文中，我们提出了一个在线特征选择系统，解决了这个问题。更具体地说，我们把在线监督的二进制分类的特征选择的问题作为一个决策问题。这个问题的哲学视野导致两个重要领域之间的杂交：特征选择使用在线学习技术（OFS）和自动协商（AN）。提出的OFS系统称为MOANOFS（多目标自动协商基于在线特征选择）使用两个层次的决策。在第一级中，从n个学习者（或OFS方法）中，我们决定哪些是k个可信的学习者（具有高置信度或信任值）。这些选出的k学习者将参加第二级。在这个层次上，我们整合我们提出的多边自动协商的OFS（MANOFS）方法，以决定最终哪个是最好的解决方案或相关功能。我们表明，MOANOFS系统是适用于不同的领域成功地实现了高精度与几个现实世界的应用。索引术语：特征选择、在线学习、多目标自动协商、信任、分类、大数据。
2019-06-18 cs.AI cs.CV cs.LG
Online Batch Selection for Faster Training of Neural Networks
Univesity of Freiburg（弗莱堡大学）
深度神经网络通常使用随机非凸优化过程进行训练，该过程由在数据集的分数（批次）上估计的梯度信息驱动。虽然人们普遍认为批量大小是离线调优的一个重要参数，但对在线选择批量的好处仍然知之甚少。我们调查在线批量选择策略的两个国家的最先进的方法的随机梯度为基础的优化，AdaDelta和亚当。由于整个数据集要最小化的损失函数是各个数据点的损失函数的聚合，直观地说，应该更频繁地考虑（批量选择）具有最大损失的数据点。然而，这种直觉的局限性和随着时间的推移对选择压力的适当控制是一个悬而未决的问题。我们提出了一个简单的策略，所有的数据点排名w.r.t.它们的最新已知损失值和被选择的概率作为等级的函数呈指数衰减。我们在MNIST数据集上的实验结果表明，选择批次可以将AdaDelta和Adam的速度提高约5倍。
2016-04-25 cs.LG cs.NE math.OC
Scalable and Accurate Online Feature Selection for Big Data
Simon Fraser University（西蒙弗雷泽大学）；Hefei University of Technology（合肥工业大学）；University of Vermont（佛蒙特大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）
特征选择在许多大数据应用中非常重要。与大数据密切相关的两个关键挑战。首先，在许多大数据应用中，维度非常高，以百万计，并且还在不断增长。其次，大数据应用要求以在线方式的高度可扩展的特征选择算法，使得每个特征可以在顺序扫描中被处理。本文提出了一种可扩展的、精确的在线特征选择方法SAOLA。通过对特征间成对相关性的理论分析，SAOLA采用了新的成对比较技术，并以在线方式随时间保持一个简约模型。此外，为了处理即将到来的功能，到达组，我们扩展了SAOLA算法，然后提出了一个新的组-SAOLA算法的在线组特征选择。group-SAOLA算法能够同时在线维护一组在组和个体特征两个层次上都稀疏的特征组。使用一系列基准真实数据集的实证研究表明，我们的两个算法，SAOLA和组SAOLA，是可扩展的数据集的极高维，并具有优越的性能比国家的最先进的特征选择方法。
2016-07-28 cs.LG
Best of many worlds: Robust model selection for online supervised learning
UC Berkeley（加州大学伯克利分校）
我们介绍了在线，全信息预测的算法，具有竞争力的上下文树专家未知的复杂性，在概率和对抗性设置。我们表明，通过将结构风险最小化的概率框架到现有的自适应算法，我们可以鲁棒地学习不仅存在的随机结构时，它的存在（导致常数，而不是$\mathcal{O}(\sqrt{T})$遗憾），但也正确的模型顺序。因此，我们获得的遗憾界的竞争力与遗憾的最佳算法，拥有强大的边信息的复杂性的最佳上下文树专家和生成数据的过程是否是随机的或对抗性的。这些是第一个建设性的保证，同时适应模型和随机性的存在。
2018-05-22 cs.LG stat.ML
Online Sparse Streaming Feature Selection Using Adapted Classification
Southwest University（西南大学）
传统的特征选择需要在学习之前知道特征空间，而在线流特征选择（OSFS）被提出来动态地处理流特征。现有方法在不丢失数据的情况下将特征分为相关和不相关，删除不相关特征可能导致信息丢失。基于此，本文重点研究了流特征矩阵的构造和特征相关性的划分，提出了基于自适应分类的在线稀疏流特征选择算法（OS 2FS-AC）。本研究使用潜在因素分析（LFA）来预估缺失数据。此外，我们使用自适应的方法来获得阈值，将特征分为强相关，弱相关和不相关的特征，然后再划分弱相关与更多的信息。在10个真实数据集上的实验结果表明，OS 2FS-AC的性能优于现有算法。
2023-02-25 cs.AI cs.LG
Large-scale Online Feature Selection for Ultra-high Dimensional Sparse Data
Singapore Management University（新加坡管理大学）；Microsoft Research（微软研究院）
大规模高维数据的特征选择在机器学习和数据采掘中具有重要的意义和挑战性。在线特征选择是一种比批处理特征分割方法更有效、更可扩展的新方法，但现有的在线特征选择方法与批处理方法相比往往效率较低。在本文中，我们提出了一种新的二阶在线特征选择计划，是简单而有效的，非常快速和极具可扩展性，以处理大规模的超高维稀疏数据流。其基本思想是改进现有的一阶在线特征选择方法，利用二阶信息选择具有高置信度权重的重要特征子集。然而，不像许多二阶学习方法，往往遭受额外的高计算成本，我们设计了一种新的智能算法二阶在线特征选择使用基于MaxHeap的方法，这不仅是更有效的比现有的一阶方法，但也显着更有效和可扩展的大规模特征选择与超高维稀疏数据，从我们广泛的实验验证。令人印象深刻的是，在一个十亿规模的合成数据集（10亿个维度，10亿个非零特征和100万个样本）上，我们的新算法在一台PC上只花了8分钟，比传统的批处理方法快了几个数量级。\url{http://arxiv.org/abs/1409.7794}
2015-11-19 cs.CV cs.LG
Online Sparse Feature Selection in Data Streams via Differential Evolution
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）
本文提出了一种基于微分进化的在线稀疏特征选择方法，通过潜在因子分析插补缺失数据并评估特征重要性，以提升数据流中特征选择的性能。
2025-11-24 cs.AI cs.LG
Particle swarm optimization for online sparse streaming feature selection under uncertainty
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）
针对在线稀疏流式特征选择中特征-标签关系不确定和数据不完整问题，提出融合粒子群优化与三支决策的POS2FS框架，在六个真实数据集上验证其优于现有OSFS和OS2FS方法。
2025-08-24 cs.AI cs.LG cs.NE
Agile Online Model Selection: Resolving Adaptation Lag via Safeguarded Large Learning Rates
NEC Corporation（日本电报电话株式会社）
提出一种乐观在线镜像下降算法，利用受保护的大学习率（高达Θ(T)）并引入事后惩罚机制，在非平稳环境中实现快速适应，同时保持近最优的遗憾界。
2026-06-01 cs.LG stat.ML
Data-Driven Online Model Selection With Regret Guarantees
Boston University（波士顿大学）；Broad Institute of MIT and Harvard（布罗德研究所）；Google Research（谷歌研究院）
本文研究随机赌博机反馈下的在线模型选择，提出两种数据驱动算法，利用基学习器的实际遗憾而非先验遗憾上界进行遗憾平衡，并给出理论保证与实验验证。
2024-01-23 cs.AI cs.LG stat.ML
Online Feature Screening for Data Streams with Concept Drift
Florida State University（佛罗里达州立大学）
筛选特征选择方法通常用作预处理步骤，用于在训练步骤之前减少变量的数量。传统的筛选方法只关注于处理完整的高维数据集。现代数据集不仅具有更高的维数和更大的样本量，而且具有流输入、稀疏性和概念漂移等特性。因此近年来出现了大量的在线特征选择方法来处理这类问题。在线筛选方法是在线特征选择方法的一种。我们在本研究中提出的方法能够处理上述三种情况。我们的研究重点是分类数据集。我们的实验表明，所提出的方法可以产生相同的特征重要性，他们的离线版本，更快的速度和更少的存储消耗。此外，实验结果表明，在具有概念漂移特性的数据流上，集成模型自适应的在线筛选方法比没有模型自适应的方法具有更高的真实特征检测率。在两个潜在具有概念漂移性质的大型真实数据集中，具有模型自适应的在线筛选方法在节省计算时间和空间、降低模型复杂度或提高预测精度方面显示出优势。
2021-04-07 cs.LG stat.ML
On the Necessity of Collaboration for Online Model Selection with Decentralized Data
Harbin Institute of Technology Shenzhen（哈尔滨工业大学深圳校区）；Fudan University（复旦大学）；The Chinese University of Hong Kong（香港中文大学）
该研究从计算约束视角探讨去中心化数据下在线模型选择的客户端协作必要性，证明遗憾值上下界，明确无计算约束时协作不必要、计算成本限$o(K)$时必要，还提出含三项新技术的联邦算法并改进遗憾界。
2024-10-06 cs.LG
Online Feature Selection for Efficient Learning in Networked Systems
KTH Royal Institute of Technology（瑞典皇家理工学院）
目前用于数据驱动工程的AI/ML方法使用的模型大多是离线训练的。就通信和计算成本而言，建立这样的模型可能是昂贵的，并且它们依赖于长时间收集的数据。此外，当系统发生变化时，它们就会过时。为了应对这些挑战，我们研究了在线学习技术，这些技术可以自动减少用于模型训练的可用数据源的数量。我们提出了一个在线算法称为在线稳定特征集算法（OSFS），它选择一个小的功能集从大量的可用数据源后，收到少量的测量。该算法初始化的特征排名算法，特征集的稳定性度量，和搜索策略。我们进行了广泛的实验评估，该算法使用的痕迹，从内部的测试平台和数据中心的操作。我们发现，OSFS实现了大规模减少的特征集的大小由1-3个数量级的所有调查数据集。最重要的是，我们发现在OSFs产生的特征集上训练的预测器的准确性比在通过离线特征选择获得的特征集上训练的预测器的准确性要好一些。因此，OSFS被证明是有效的，作为一个在线特征选择算法和强大的关于用于特征选择的采样间隔。我们还发现，当模型基础数据中的概念漂移发生时，可以通过重新计算特征集和重新训练预测模型来减轻其影响。
2021-12-15 cs.LG
Improved Regret Bounds for Online Kernel Selection under Bandit Feedback
Tianjin University（天津大学）
本文改进了基于强盗反馈的在线核选择的后悔界。该算法对Lipschitz损失函数具有$O((\Vert f\Vert^2_{\mathcal{H}_i}+1)K^{\frac{1}{3}}T^{\frac{2}{3}})$期望界。我们证明了两种类型的遗憾界改进以前的界限。对于光滑损失函数，我们提出了一个算法与$O(U^{\frac{2}{3}}K^{-\frac{1}{3}}(\sum^K_{i=1}L_T(f^\ast_i))^{\frac{2}{3}})$期望界$L_T(f^\ast_i)$是最佳假设的累积损失$\mathbb{H}_{i}=\{f\in\mathcal{H}_i:\Vert f\Vert_{\mathcal{H}_i}\leq U\}$。数据依赖的边界保持以前的最坏情况下的边界，并且如果大多数候选核与数据匹配良好，则该边界较小。对于Lipschitz损失函数，我们提出了一种算法，其$O(U\sqrt{KT}\ln^{\frac{2}{3}}{T})$期望界渐近地改进了先前的界。我们将这两个算法应用到有时间约束的在线核选择中，证明了新的后悔界匹配或改进了以前的$O(\sqrt{T\ln{K}} +\Vert f\Vert^2_{\mathcal{H}_i}\max\{\sqrt{T},\frac{T}{\sqrt{\mathcal{R}}}\})$期望界，其中$\…
2023-03-23 cs.LG
Adaptive Feature Selection: Computationally Efficient Online Sparse Linear Regression under RIP
Google Research（谷歌研究院）；Amazon（亚马逊）；University of Chicago（芝加哥大学）；Yahoo Research（雅虎研究院）
在线稀疏线性回归是一个在线问题，其中算法重复选择一个坐标子集以在反向选择的特征向量中进行观察，进行实值预测，接收真实标签，并产生平方损失。目标是设计一个在线学习算法，具有次线性遗憾的最佳稀疏线性预测后见之明。在没有任何假设的情况下，这个问题在计算上是难以处理的。在本文中，我们假设数据矩阵满足限制等距性质，并表明，这一假设导致计算效率的算法与次线性遗憾的两个变种的问题。在第一种变体中，根据具有加性高斯噪声的稀疏线性模型生成真实标签。在第二种情况下，真正的标签被对立地选择。
2017-06-14 cs.LG
Bilevel Data Curation for LLM Fine-tuning: Offline Selection and Online Self-Refining Generation
Cornell University（康奈尔大学）；Cisco Research（思科研究）
提出双层框架结合离线数据选择与在线自优化生成，提升微调数据质量，理论证明优于直接混合，实验验证效果。
2026-06-24 cs.CL cs.LG math.OC
Convex Online Video Frame Subset Selection using Multiple Criteria for Data Efficient Autonomous Driving
IIT Kharagpur（印度理工学院克勒格布尔分校）；Hewlett Packard Enterprise（慧与科技公司）
基于视觉的城市自动驾驶模型训练是一个具有挑战性的问题，是近年来研究的热点。训练这种模型是一项数据密集型任务，需要存储和处理大量（可能是冗余的）驾驶视频数据。在本文中，我们研究了开发数据高效的自动驾驶系统的问题。在此背景下，我们研究了多准则在线视频帧子集选择问题。我们研究凸优化为基础的解决方案，并表明，他们无法提供解决方案，高权重的损失选定的视频帧。我们设计了一种新的凸优化的多准则在线子集选择算法，使用一个阈值凹函数的选择变量。我们还提出并研究了一个基于子模块优化的算法。使用驾驶模拟器CARLA进行的大量实验表明，我们能够丢弃80%的帧，同时成功完成100%的w.r.t.集。该模型在100%的数据上训练，在最困难的轮流任务中。这导致与整个数据集的训练相比，训练时间不到30%。我们还进行了详细的实验预测性能的各种启示所使用的条件示能表示学习（CAL）模型，并表明我们的子集选择提高性能的关键示能表示“相对角度”在转弯。
2021-03-24 cs.CV cs.LG
Online Learning of Portfolio Ensembles with Sector Exposure Regularization
Technion – Israel Institute of Technology（以色列理工学院）
我们考虑投资组合选择算法的集合的在线学习，并旨在通过鼓励相对于预定义的风险驱动的股票分组的多样化来规范风险。我们的程序使用在线凸优化来控制资本分配到基础投资算法，同时鼓励在给定的分组非稀疏。我们证明了这个过程中的最佳事后合奏的对数遗憾。我们应用的程序与已知的均值回归投资组合选择算法，使用标准的GICS行业部门分组。实证实验结果表明，风险调整后的回报率（夏普比率）的增加令人印象深刻。
2016-04-12 cs.LG
Online Learning with Probing for Sequential User-Centric Selection
Tulane University, United States（路易斯安那州立大学）；Boston University, United States（波士顿大学）；University of Houston, United States（休斯顿大学）
该研究提出探测增强的以用户为中心的选择框架PUCS，分别针对离线、在线场景设计带近似保证的贪心探测算法和遗憾界紧的OLPA算法，实验验证了方案有效性。
2025-08-17 cs.AI cs.DS cs.LG
Online Unsupervised Multi-view Feature Selection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Shenzhen University（深圳大学）；Institute for Data Science, Tsinghua University（清华大学数据科学研究院）
在大数据时代，具有多种形式或来自多个来源的数据变得越来越普遍，称为“多视图数据”。多视图数据通常是未标记的，并且来自高维空间（如语言词汇），无监督的多视图特征选择在许多应用中至关重要。然而，由于以下挑战，它并非微不足道。首先，存在太多实例或特征维度太大。因此，数据可能不适合存储器。如何在内存空间有限的情况下选择有用的功能？第二，如何从流数据中选择特征并处理概念漂移？第三，如何利用来自不同视图的一致性和互补性信息，在数据量过大或数据流的情况下改进特征选择？据我们所知，以前的作品都不能同时解决所有的挑战。在本文中，我们提出了一个在线无监督多视图特征选择，OMVFS，它处理大规模/流媒体多视图数据在一个在线的方式。OMVFS通过稀疏学习的NMF将无监督特征选择嵌入到聚类算法中。它进一步结合了图正则化，以保持局部结构信息，并帮助选择判别特征。OMVFS不是存储所有的历史数据，而是逐块处理多视图数据，并将所有必要的信息聚合到几个小矩阵中。通过使用缓冲技术，所提出的OMVFS可以减少计算和存储成本，同时利用结构信息。此外，OMVFS可以捕获数据流中的概念漂移。在四个真实数据集上的实验表明了该方法的有效性和效率。更重要的是，OMVFS比离线方法快100倍。
2016-09-27 cs.LG
Online Learning of Commission Avoidant Portfolio Ensembles
Technion – Israel Institute of Technology（以色列理工学院）
我们提出了一种新的在线集成学习策略的投资组合选择。新的策略控制和利用任何一套佣金遗忘投资组合选择算法。该策略使用一种新颖的佣金规避机制来处理交易成本。我们证明了我们的策略的最佳混合物的基础算法的对数遗憾界。数值例子验证了我们的方法的可行性，并显示出显着的改进，在国家的最先进的。
2016-05-29 cs.AI cs.LG
Minimal cost feature selection of data with normal distribution measurement errors
最小代价特征选择致力于在测试代价和误分类代价之间取得折衷。这个问题最近在名义数据上得到了解决。本文考虑具有测量误差的数值数据，研究了该模型中的最小代价特征选择问题。首先，我们建立了测量误差服从正态分布的数据模型。其次，通过置信区间构造每个数据项的邻域。与离散化区间相比，邻域更能合理地保持数据的信息。第三，我们定义了一个新的最小总成本特征选择问题，通过考虑测试成本和误分类成本之间的权衡。第四，我们提出了一个回溯算法，三个有效的修剪技术来处理这个问题。该算法在四个UCI数据集上进行了测试。实验结果表明，剪枝技术是有效的，该算法是有效的数据集的近千个对象。
2013-06-03 cs.AI cs.LG
Unsupervised Online Feature Selection for Cost-Sensitive Medical Diagnosis
Indian Institute of Technology Bombay（印度理工学院孟买分校）
在医学诊断中，医生通过检查从一系列测试获得的测量结果（特征）来预测患者的状态，例如，验血验尿然后是侵入性检查由于检验往往费用高昂，人们希望只获得那些能够最终确定国家存在或不存在的特征（检验）。医学诊断的另一个方面是，我们经常面临无监督的预测任务，因为患者的真实状态可能不知道。受这些医疗诊断问题的启发，我们考虑了{ \it成本敏感医疗诊断}（CSMD）问题，其中患者的真实状态是未知的。我们制定的CSMD问题作为一个特征选择的问题，每个测试给出了一个功能，可用于预测模型。我们的目标是学习策略，选择的功能，使准确性和成本之间的最佳权衡。我们利用问题的“弱主导”属性来开发在线算法，这些算法可以识别一组特征，从而在预测成本和准确性之间提供“最佳”权衡，而无需知道医疗状况的真实状态。我们的实证结果验证了我们的算法对现实世界的数据集生成的问题实例的性能。
2019-12-25 cs.AI cs.LG stat.AP
Online Learning in a Contract Selection Problem
University of California, Los Angeles（加州大学洛杉矶分校）；University of Michigan（密歇根大学）
在一个在线合同选择问题中，有一个卖方提供一组合同给顺序到达的买方，这些买方的类型来自一个未知的分布。如果在提供的集合中存在对买方有利的合同，即，一个合同的收益高于不接受任何合同的收益，买方选择最大化其收益的合同。本文研究了以卖方利润最大化为目标的在线合同选择问题。假设买方的支付函数的结构属性称为有序的偏好，我们提出了在线学习算法，具有次线性遗憾的最佳合同集的分布在买方的类型。这个问题有许多应用，包括频谱合同，无线服务提供商的数据计划和推荐系统。
2013-05-15 cs.GT cs.LG math.OC
Online structural kernel selection for mobile health
Harvard University（哈佛大学）；University of Michigan（密歇根大学）
出于对移动健康中高效和个性化学习的需求，我们研究了多任务环境下高斯过程回归的在线核选择问题。为此，我们提出了一种新的生成过程的内核组成。我们的方法表明，内核演变的轨迹可以在用户之间转移，以改善学习，内核本身对于mHealth预测目标是有意义的。
2021-07-21 cs.LG stat.ML
Information-theoretic Online Memory Selection for Continual Learning
DeepMind（深度思维）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Google Brain（谷歌大脑）；Baidu Apollo（百度阿波罗）
无任务持续学习中的一个挑战性问题是从数据流中在线选择代表性重放记忆。在这项工作中，我们从信息论的角度研究了在线记忆选择问题。为了收集最多的信息，我们提出了\textit{surprise}和\textit{learnability}标准来挑选信息点并避免离群值。我们提出了一个贝叶斯模型来计算的标准，有效地利用秩一矩阵结构。我们证明，这些标准鼓励选择信息点在线记忆选择的贪心算法。此外，通过识别\textit{the timing to update the memory}的重要性，我们介绍了随机信息理论水库采样器（InfoRS），它进行高信息的选择点之间的采样。与水库采样相比，InfoRS显示出对数据不平衡的更好的鲁棒性。最后，通过对持续学习基准的实证分析，证明了该方法的有效性。
2022-04-10 cs.LG stat.ML
Parameter-free online learning via model selection
Cornell University（康奈尔大学）；Google Research（谷歌研究院）；NYU（纽约大学）
我们介绍了一个有效的算法框架模型选择在线学习，也被称为无参数在线学习。从以前的工作，重点是高度结构化的函数类，如嵌套球在希尔伯特空间，我们提出了一个通用的元算法框架，实现在线模型选择预言的不平等下最小的结构假设。我们给出了第一个计算效率高的无参数算法，工作在任意Banach空间下温和的光滑性假设，以前的结果只适用于希尔伯特空间。我们进一步推导出矩阵类，非嵌套凸集，和$\mathbb{R}^{d}$一般正则化新的甲骨文不等式。最后，我们推广了这些结果，提供了预言不等式的任意非线性类在线监督学习模型。这些结果都是通过一个统一的元算法方案，使用一种新的“多尺度”算法预测与专家意见的基础上随机播放，这可能是独立的利益。
2018-01-03 cs.LG stat.ML
Online Selective Conformal Prediction: Errors and Solutions
Carnegie Mellon University（卡内基梅隆大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
针对在线选择性共形推断中现有校准选择策略存在的理论错误，本文提出可保持数据可交换性的新策略，证明其能同时保证选择条件覆盖率与FCR控制，并通过实验验证了有效方法间的权衡关系。
2025-03-21 cs.LG stat.ML
Damped Online Newton Step for Portfolio Selection
Massachusetts Institute of Technology（麻省理工学院）
我们重新审视经典的在线投资组合选择问题，在每一轮中，学习者选择一组投资组合的分布来分配其财富。众所周知，对于这个问题，例如，使用通用投资组合选择算法可以实现关于覆盖损失的对数后悔。然而，所有现有的算法，实现了对数遗憾这个问题的每轮时间和空间复杂度的规模与总轮数的多项式，使他们不切实际。在本文中，我们以Haipeng等人2018年的最新工作为基础，提出了第一个实用的在线投资组合选择算法，该算法具有对数遗憾，其每轮时间和空间复杂度仅在数学上依赖于地平线。在我们的方法背后是两个独立兴趣的关键技术创新。我们首先表明，即使在处理时变正则化器时，阻尼在线牛顿步骤也可以很好地逼近镜像下降迭代。其次，我们提出了一个新的元算法，实现了自适应对数遗憾（即对数遗憾的任何子区间）的混合损失。
2022-02-15 cs.LG math.OC
Online Conformal Selection with Accept-to-Reject Changes
本文提出OCS-ARC方法，将在线Benjamini-Hochberg过程融入共形选择框架，实现选择决策不可逆的在线候选筛选，并在i.i.d.和可交换数据假设下保证任意时间步的FDR控制，实验证明其显著提升选择功效。
2025-08-19 cs.LG stat.ML
Provably Efficient Representation Selection in Low-rank Markov Decision Processes: From Online to Offline RL
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Facebook AI Research（脸书人工智能研究实验室）
研究低秩MDPs中的表示选择问题，提出ReLEX算法用于在线和离线RL，ReLEX-UCB在覆盖条件下实现严格更优的常数遗憾，ReLEX-LCB首次在离线RL表示学习中实现常数样本复杂度。
2024-02-14 cs.LG math.OC stat.ML
Online Active Model Selection for Pre-trained Classifiers
ETH Zürich（苏黎世联邦理工学院）
给定$k$预训练的分类器和一系列未标记的数据示例，我们如何主动决定何时查询标签，以便在进行少量查询的同时区分最佳模型？探讨这个问题对一系列实际情况有着深远的影响。在这项工作中，我们设计了一个在线选择性抽样方法，积极选择信息丰富的例子进行标记，并在任何一轮输出最佳模型的概率很高。我们的算法可用于在线预测任务的对抗性和随机流。我们建立了几个理论保证我们的算法，并广泛地证明了它的有效性，在我们的实验研究。
2021-04-17 cs.LG stat.ML
Fully Dynamic Online Selection through Online Contention Resolution Schemes
Meta
我们研究完全动态的在线选择问题的对抗/随机设置，包括贝叶斯在线选择，先知不等式，张贴价格机制，随机探测问题的组合约束。在经典的“增量”版本的问题中，选定的元素保持活跃，直到输入序列结束。另一方面，在问题的完全动态版本中，元素在有限的时间间隔内保持活跃，然后离开。例如，该模型将任务与具有任务/工人依赖的工作时间的工人进行在线匹配，以及易腐货物的顺序发布定价。在线竞争解决方案（OCRS）的概念给出了对抗环境中在线选择问题的一种成功方法，该方案使用先验信息来制定潜在优化问题的线性松弛，其最佳分数解对于输入序列的任何对抗顺序都是在线舍入的。我们的主要贡献是提供了一个通用的方法来构建一个OCRS的完全动态在线选择问题。然后，我们展示了如何使用这样的OCRS构造无悔算法的部分信息模型与半强盗反馈和对抗性的输入。
2023-01-08 cs.AI cs.LG
Adaptive Configuration Oracle for Online Portfolio Selection Methods
Oxford-Man Institute（牛津-曼研究所）；University of Oxford（牛津大学）
金融市场是一个复杂的环境，会产生大量的噪声和非平稳数据。一个基本问题是在线投资组合选择，其目标是利用这些数据按顺序选择资产组合，以实现积极的投资成果，同时管理风险。在诸如金融、统计和机器学习等领域中，已经提出了各种算法来解决这个问题。大多数方法都有从回测中估计的参数，以获得良好的性能。由于这些算法的非平稳数据，反映了金融市场的复杂性，我们认为，自适应调整这些参数的智能方式是一种补救措施，处理这种复杂性。在本文中，我们使用一个高斯过程先验模型的参数空间和性能指标的空间之间的映射。然后，我们提出了一个基于自适应贝叶斯优化的预言机，用于自动、自适应地配置在线投资组合选择方法。我们测试了我们的解决方案在不同市场的股票和指数数据上运行的算法的有效性。
2019-08-22 cs.LG stat.ML
An Analysis of Selection Bias Issue for Online Advertising
Yahoo Japan Corporation（雅虎日本公司）
在在线广告中，一组潜在的广告可以通过某个拍卖系统进行排名，其中通常前1个广告将被选择并显示在广告空间处。在本文中，我们展示了一个选择偏差的问题，是目前在拍卖系统。我们分析了选择偏差破坏了拍卖的真实性，这意味着拍卖中的买家（广告商）不能最大化他们的利润。虽然选择偏差在统计学领域是众所周知的，并且有很多关于它的研究，但我们的主要贡献是将选择偏差的理论分析与拍卖机制结合起来。在我们的实验中，使用在线A/B测试，我们评估的选择偏差的拍卖系统的排名分数是预测的CTR（点击率）的广告。实验表明，通过使用学习所有广告数据的多任务学习，选择偏差大大减少。
2022-06-07 cs.GT cs.IR cs.LG
Improved Training Mechanism for Reinforcement Learning via Online Model Selection
Boston University（波士顿大学）；Broad Institute of MIT and Harvard（MIT和哈佛大学Broad研究所）
本文提出通过在线模型选择改进强化学习训练，提升效率和性能，探讨了资源分配、非平稳动态适应及训练稳定性等理论问题，并通过实验验证。
2025-12-01 cs.AI cs.LG
Model Selection for Production System via Automated Online Experiments
Spotify（声田）
行业中的机器学习从业者面临的一个挑战是选择最佳模型部署到生产中。由于模型通常是生产系统的中间组件，因此在线受控实验（如A/B测试）可以对整个系统的有效性进行最可靠的估计，但由于预算限制，只能比较两个或几个模型。我们提出了一个自动化的在线实验机制，可以有效地执行模型选择从大量的模型与少量的在线实验。我们从使用历史日志训练的贝叶斯代理模型中获得包含模型不确定性的感兴趣度量的概率分布。我们的方法通过从候选集中顺序选择和部署一系列模型来有效地识别最佳模型，这些模型平衡了探索-开发。使用基于真实数据的模拟，我们证明了我们的方法在两个不同的任务上的有效性。
2021-05-27 cs.AI cs.LG stat.ML
Denoising Neural Machine Translation Training with Trusted Data and Online Data Selection
Google Research（谷歌研究院）
测量数据的领域相关性并识别或选择适合机器翻译（MT）的领域数据是一个研究得很好的主题，但去噪还没有。去噪涉及不同类型的数据质量，并试图减少数据噪声对MT训练，特别是神经MT（NMT）训练的负面影响。本文总结了域MT数据的测量和选择方法，并将其应用于去噪NMT训练。所提出的方法使用可信的数据和在线数据选择实现的去噪课程。该方法的内在和外在的评价表明，其显着的有效性NMT训练的数据与严重的噪音。
2018-08-31 cs.CL cs.LG stat.ML
Which LLM to Play? Convergence-Aware Online Model Selection with Time-Increasing Bandits
Shanghai Jiao Tong University（上海交通大学）；University of Michigan（密歇根大学）；Adobe Research（奥多比研究院）；Tsinghua University（清华大学）
针对大语言模型在线选择中现有老虎机方法忽略模型微调后性能先升后敛趋势的问题，提出带收敛检测的时间递增老虎机算法TI-UCB，理论上达到对数遗憾上界，实验验证其在模型选择上更高效经济。
2024-03-11 cs.LG stat.ML
Online Model Selection: a Rested Bandit Formulation
Italian Institute of Technology（意大利理工学院）；Google Research（谷歌研究院）；University College London（伦敦大学学院）
出于一个自然的问题，在线模型选择与强盗信息，我们介绍和分析了最佳的手臂识别问题，在休息的强盗设置，其中手臂预期损失减少的次数，手臂已经发挥。期望损失函数的形状在各臂之间是相似的，并且假设对于必须在运行中学习的未知参数是可用的。我们为这个问题定义了一个新的后悔概念，我们将其与总是在游戏结束时具有最小预期损失的策略进行比较。我们分析了一个手臂消除算法，其遗憾消失的时间范围增加。实际的收敛速度在细节上取决于预期损失的假定函数形式。不同于已知的模型选择的努力，在最近的土匪文学，我们的算法利用问题的具体结构，学习的未知参数的预期损失函数，以确定最好的手臂尽快。我们补充我们的分析与下限，表明所提出的解决方案的优势和局限性。
2020-12-07 cs.LG stat.ML
Dimension Reduction in Contextual Online Learning via Nonparametric Variable Selection
University of Toronto（多伦多大学）；Fudan University（复旦大学）
我们考虑一个上下文在线学习（多臂强盗）问题，高维协变量$\mathbf{x}$和决策$\mathbf{y}$。要学习的奖励函数$f(\mathbf{x},\mathbf{y})$没有特定的参数形式。文献表明，最佳后悔是$\tilde{O}(T^{(d_x+d_y+1)/(d_x+d_y+2)})$，其中$d_x$和$d_y$是$\mathbf x$和$\mathbf y$的维度，因此它遭受维数灾难。在许多应用中，协变量中只有一小部分变量会影响$f$的值，在统计学中称为\textit{sparsity}。为了利用协变量的稀疏结构，我们提出了一个变量选择算法称为\textit{BV-LASSO}，它采用了新的想法，如装箱和投票应用LASSO非参数设置。我们的算法实现了遗憾$\tilde{O}(T^{(d_x^*+d_y+1)/(d_x^*+d_y+2)})$，其中$d_x^*$是有效的协变量维度。当协变量为$d^*_x$维时，遗憾匹配最佳遗憾，因此无法改善。我们的算法可以作为一个通用的配方，以实现降维通过变量选择在非参数设置。
2022-10-03 cs.LG stat.ML
Online Learning-based Waveform Selection for Improved Vehicle Recognition in Automotive Radar
本文介绍了与调频连续波（FMCW）汽车雷达系统中基于在线学习的波形选择目标识别相关的重要考虑因素和挑战。我们提出了一种新的学习方法的基础上满意汤普森采样，快速识别波形，预计将产生令人满意的分类性能。我们通过测量级仿真证明，即使在雷达必须从大量候选波形中进行选择的情况下，也可以快速学习有效的波形选择策略。雷达学习自适应地选择适当的分辨率的带宽和慢时间单模码的干扰缓解在感兴趣的场景中通过优化预期的分类度量。
2022-12-01 cs.LG eess.SP
Online Conformal Model Selection for Nonstationary Time Series
University of Connecticut（康涅狄格大学）
MPS通过结合符合推断与模型置信集，实现在线非平稳时间序列模型的自适应选择，提供可靠且高效的模型识别能力。
2026-01-28 cs.LG stat.ML
Uncertainty-Aware Selection of Online Algorithms with Simulator Ensembles
本文提出不确定性感知的模拟器集成选择方法，以缓解离线数据有限时Plug-In选择的不稳定性，并在理论上和机器人控制实验中证明其能提升在线强化学习的可靠性与性能。
2026-09-29 cs.AI cs.LG
Learnability in Online Kernel Selection with Memory Constraint via Data-dependent Regret Analysis
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
针对带内存约束的在线核选择问题，提出依赖核对齐和竞争假设累积损失的数据依赖上界，构建基于新型缓冲区与专家建议预测归约的算法框架，证明小内存下次线性数据复杂度下可学习，并经实验验证性能。
2025-03-24 cs.LG
Online Data Selection Is Implicit Alignment
East China Normal University（华东师范大学）；Shanghai University（上海大学）
研究将在线数据选择视为隐式对齐机制，给定相同条件比较多种在线选择器在无偏好优化时引起的行为漂移，提出评估和量化方法，引入ADA和AAS，可在保持数据效率时限制安全和风格轴漂移。
2026-07-09 cs.LG
Online Algorithm for Unsupervised Sensor Selection
IIT Bombay（印度理工学院孟买分校）；DeepMind（深度思维）；Boston University（波士顿大学）
在许多安全和医疗保健系统中，检测和诊断系统使用一系列传感器/测试。每个测试输出潜在状态的预测，并携带固有成本。然而，预测的正确性无法评估，因为地面实况注释可能不可用。我们的目标是学习策略，选择一个测试，给出了最好的权衡精度和成本之间的无监督传感器选择（USS）的问题。显然，只有当可以从问题结构中（显式或隐式）推断出基本事实时，学习才是可行的。据观察，如果问题满足“弱优势”（WD）属性，则会发生这种情况。我们建立了USS问题作为一个随机部分监控问题，并开发了一个算法与次线性遗憾下WD性质。我们认为，我们的算法是最佳的，并评估其性能的问题产生的合成和真实世界的数据集的实例。
2019-03-04 cs.LG stat.ML
Online Individualized Treatment Selection under Partial Feedback: False Discovery Control and Minimax Optimality
Center for Data Science, Zhejiang University（浙江大学数据科学中心）；Department of Statistics, University of Michigan（密歇根大学统计系）
本研究针对部分反馈下的在线个体化治疗选择问题，提出PAITS方法，实现错误发现率控制与极小极大最优性，经模拟和Jester数据集验证其有限样本性能。
2026-10-14 cs.LG stat.ME stat.ML
Online Feature Selection for Activity Recognition using Reinforcement Learning with Multiple Feedback
University of Bristol（布里斯托大学）
机器学习和物联网的最新进展吸引了人们对自动活动识别的关注，其中用户佩戴具有传感器的设备，并且他们的输出被映射到预定义的活动集合。然而，很少有研究考虑可穿戴设备功耗和活动识别准确性之间的平衡。当计算负载的一部分发生在可穿戴设备上时，这是特别重要的。在本文中，我们提出了一种新的方法来执行特征选择的设备上的基础上强化学习（RL），找到功耗和准确性之间的最佳平衡。为了加快学习速度，我们扩展了RL算法来处理多个反馈源，并使用它们来调整策略，同时估计反馈精度。我们在SPHERE挑战数据集上评估了我们的系统，这是一个公开的研究数据集。结果表明，我们提出的方法实现了可穿戴功耗和活动识别精度之间的良好权衡。
2019-08-16 cs.LG stat.ML
