Data-efficient Online Classification with Siamese Networks and Active Learning
KIOS Research and Innovation Center of Excellence（KIOS卓越研究与创新中心）；University of Cyprus（塞浦路斯大学）
如今，在许多应用领域中，例如在关键基础设施系统、金融和银行、安全和犯罪以及网络分析中，越来越多的数据量正在以流的方式变得可用。为了满足这一新的需求，需要在线构建预测模型，其中学习是动态进行的。在线学习提出了重要的挑战，影响在线分类系统的部署，以现实生活中的问题。在本文中，我们研究学习有限的标记，非平稳和不平衡的数据在线分类。我们提出了一种学习方法，协同结合暹罗神经网络和主动学习。该方法使用多滑动窗口的方法来存储数据，并保持单独的和平衡的队列为每个类。我们的研究表明，该方法对数据非平稳性和不平衡性具有鲁棒性，并且在学习速度和性能方面显着优于基线和最先进的算法。重要的是，即使到达实例的标签只有1%可用，它也是有效的。
2020-10-04 cs.LG stat.ML
Active Online Learning with Hidden Shifting Domains
Stanford University（斯坦福大学）；University of Southern California（南加州大学）；University of Arizona（亚利桑那大学）
在线机器学习系统需要适应领域的变化。同时，在每个时间步获取标签是昂贵的。我们提出了一个令人惊讶的简单的算法，自适应平衡其遗憾和标签查询的设置，其中数据流是从隐藏域的混合物。对于具有不经意对手的在线线性回归，我们提供了一个紧密的权衡，取决于隐藏域的持续时间和维度。我们的算法可以自适应地处理来自不同域的输入的交织跨度。我们还将我们的结果推广到非线性回归的假设类有界逃避维度和自适应对手。在人工数据集和真实数据集上的实验表明，该算法在相同的标记预算下，比均匀查询和贪婪查询具有更低的遗憾度。
2021-02-26 cs.LG stat.ML
Disagreement-based Active Learning in Online Settings
Cornell University（康奈尔大学）
我们研究在线主动学习分类流实例的统计学习理论的框架内。每次，学习器要么查询当前实例的标签，要么根据过去看到的示例预测标签。我们的目标是最小化查询的数量，同时限制预测错误的数量超过长度$T$的地平线。我们开发了一个基于分歧的在线学习算法的一般假设空间和Tsybakov噪声下。我们表明，该算法有一个标签的复杂度为$O(dT^{\frac{2-2α}{2-α}}\log^2 T)$的约束下有界遗憾的分类错误，其中$d$是VC维的假设空间和$α$是Tsybakov噪声参数。我们进一步建立了一个匹配（多对数因子）下界，证明了该算法的顺序最优性。我们解决标签的复杂性和遗憾之间的权衡，并表明该算法可以修改操作在权衡曲线上的不同点。
2020-11-16 cs.LG stat.ML
Online Continual Adaptation with Active Self-Training
Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Tsinghua University（清华大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Berkeley（加州大学伯克利分校）
使用离线数据训练的模型通常会在不断变化的环境中遭受持续的分布偏移和昂贵的标签。这就需要一种新的在线学习范式，学习者可以不断适应不断变化的环境，有限的标签。在本文中，我们提出了一个新的在线设置-在线主动持续适应，学习者的目标是不断适应不断变化的分布使用未标记的样本和有限的标签的主动查询。为此，我们提出了在线自适应镜像下降（OSAMD），它采用了在线师生结构，使在线自我训练从未标记的数据，和一个基于边缘的标准，决定是否查询标签，以跟踪不断变化的分布。理论上，我们表明，在可分离的情况下，OSAMD有一个$O({T}^{2/3})$动态遗憾界温和的假设下，这是对齐的$Ω(T^{2/3})$下界的在线学习算法与完整的标签。在一般情况下，我们证明了$O({T}^{2/3} + α^* T)$的遗憾界，其中$α^*$表示域的可分性，并且通常很小。我们的理论结果表明，OSAMD可以快速适应不断变化的环境与主动查询。从经验上讲，我们证明了OSAMD实现有利的遗憾在不断变化的环境下，有限的标签上的模拟和现实世界的数据，这证实了我们的理论研究结果。
2022-03-20 cs.AI cs.LG stat.ML
Online Adaptive Asymmetric Active Learning with Limited Budgets
South China University of Technology（华南理工大学）；Tencent AI Lab（腾讯人工智能实验室）
在线主动学习（OAL）通过有选择地查询数据的标签来管理未标记的数据流。OAL适用于许多现实问题，如医疗保健和金融领域的异常检测。在这些问题中，有两个关键的挑战：查询预算往往是有限的，类之间的比例是高度不平衡的。在实践中，当只有有限的标签预算可以查询用于训练时，处理不平衡的未标记数据流是相当困难的。为了解决这个问题，以前的OAL研究采用非对称损失或查询（一个孤立的非对称策略）来解决不平衡，并使用一阶方法来优化成本敏感的措施。然而，孤立策略限制了它们在类不平衡中的性能，而一阶方法限制了它们的优化性能。在本文中，我们提出了一种新的在线自适应非对称主动学习算法，基于一种新的非对称策略（合并非对称损失和查询策略），和二阶优化。从理论上分析了它的错误界和代价敏感度量界。此外，为了更好地平衡性能和效率，我们通过草图技术增强了我们的算法，这大大加快了计算速度，性能略有下降。实验结果表明了所提方法的有效性和高效性。
2019-11-18 cs.LG stat.ML
Active multi-fidelity Bayesian online changepoint detection
Princeton University（普林斯顿大学）；Arm ML Research Lab（Arm机器学习研究实验室）
用于检测变化点或时间序列的行为中的突然转变的在线算法通常利用有限的资源来部署，移动电话或工业传感器等边缘计算环境。在这些情况下，将收集环境测量的成本与该测量的质量或"保真度"以及测量如何影响变点估计进行交易可能是有益的。例如，可以在惯性测量或GPS之间做出决定，以确定运动的变化点。贝叶斯变点检测方法特别有吸引力，因为我们可以表示关于变点的后验不确定性，并对数据保真度做出积极的、成本敏感的决策，以减少这种后验不确定性。此外，通过主动保真切换，总成本可以大大降低，同时对数据分布的变化保持鲁棒性。我们提出了一个多保真度的方法，使成本敏感的决定，收集数据保真度的基础上最大限度地提高信息增益的变化点。我们对合成，视频和音频数据的框架进行了评估，并表明这种基于信息的方法可以在降低总成本的同时实现准确的预测。
2021-07-25 cs.LG stat.ML
Online Active Regression
School of Physical and Mathematical Sciences（物理与数学科学学院）；Nanyang Technological University（南洋理工大学）
主动回归考虑线性回归问题，其中学习者接收大量数据点，但只能观察少量标签。由于在线算法可以处理增量训练数据，并利用低计算成本，我们考虑的主动回归问题的在线扩展：学习者接收数据点一个接一个，并立即决定是否应该收集相应的标签。目标是用少量的标签查询预算有效地维护接收到的数据点的回归。我们提出了新的算法，这个问题下的$\ell_p$损失$p\in[1,2]$。为了实现一个$(1+ε)$近似的解决方案，我们提出的算法只需要$\tilde{\mathcal{O}}(ε^{-1} d \log(nκ))$查询的标签，其中$n$是数据点的数量和$κ$是一个数量，称为条件数，数据点。数值结果验证了我们的理论结果，并表明我们的方法具有可比的性能与离线主动回归算法。
2022-08-30 cs.DS cs.LG stat.ML
Outlier Robust Online Learning
National University of Singapore（新加坡国立大学）；Georgia Institute of Technology（佐治亚理工学院）；Technion – Israel Institute of Technology（以色列理工学院）
我们考虑在实际环境中的数据的大小是太大，存储在一台机器上的噪声数据的学习问题。更具挑战性的是，来自野外的数据可能包含恶意离群值。为了解决可扩展性和鲁棒性问题，我们提出了一个在线鲁棒学习（ORL）的方法。ORL易于实现，并且具有可证明的鲁棒性保证-与现有的在线学习方法形成鲜明对比，这些方法通常对离群值很脆弱。我们专门的ORL方法的两个具体情况下：在线强大的主成分分析和在线线性回归。我们证明了ORL的效率和鲁棒性的优势，通过全面的模拟和预测图像标签的大规模数据集。我们还讨论了扩展的ORL分布式学习，并提供实验评估。
2017-01-01 cs.LG stat.ML
Online Robustness Training for Deep Reinforcement Learning
ETH Zurich（苏黎世联邦理工学院）
在深度强化学习（RL）中，对抗攻击可以欺骗代理进入不想要的状态并中断训练。我们提出了一个名为Robust Student-DQN（RS-DQN）的系统，该系统允许与Q网络一起进行在线鲁棒性训练，同时保持竞争性能。我们表明，RS-DQN可以与（i）最先进的对抗训练和（ii）可证明的鲁棒训练相结合，以获得在训练和评估期间对强攻击具有弹性的代理。
2019-11-22 cs.LG stat.ML
Active Learning for Online Recognition of Human Activities from Streaming Videos
从流媒体视频中识别人类活动对学习算法提出了独特的挑战：预测模型需要可扩展，可增量训练，并且即使在数据流任意长的情况下也必须保持大小有限。此外，由于参数调整在流设置中是有问题的，因此合适的方法应该是无参数的，并且不对流中可能出现什么类标签做出假设。我们在这里提出了一种从流数据中识别人类动作的方法，它满足所有这些要求：（1）增量学习一个模型，该模型自适应地覆盖具有简单局部分类器的特征空间;（2）采用主动学习策略来减少注释请求;（3）在固定模型大小内实现有希望的准确性。在标准基准上的大量实验表明，我们的方法与最先进的非增量方法相比具有竞争力，并且优于现有的主动增量基线。
2016-04-11 cs.CV cs.LG stat.ML
O-MedAL: Online Active Deep Learning for Medical Image Analysis
Carnegie Mellon University（卡内基梅隆大学）；INESC TEC（INESC TEC 科技研究院）
主动学习方法从未标记的数据创建优化的标记训练集。我们介绍了一种新的在线主动深度学习方法用于医学图像分析。我们扩展了我们的MedAL主动学习框架，在本文中提出新的结果。我们的新的采样方法查询未标记的例子，最大化的平均距离的所有训练集的例子。我们的在线方法增强了其底层基线深度网络的性能。这些创新性带来了显著的性能提升，包括将模型的底层深度网络准确度提高了6.30%，仅使用25%的标记数据集来实现基线准确度，将训练过程中的反向传播图像减少了67%，并在二进制和多类任务中展示了对类不平衡的鲁棒性。
2020-07-27 cs.CV cs.LG eess.IV
Online Active Learning for Soft Sensor Development using Semi-Supervised Autoencoders
Technical University of Denmark（丹麦技术大学）；Norwegian University of Science and Technology（挪威科技大学）
针对工业过程中软传感器回归模型标注成本高且多为离线主动学习的问题，提出基于正交自编码器的半监督架构，将离线主动学习策略适配至基于流的场景以选择信息量最大的数据点，并在 Tennessee Eastman Process 上验证了预测性能。
2023-04-09 cs.LG stat.ML
Doubly Outlier-Robust Online Infinite Hidden Markov Model
Oxford-Man Institute of Quantitative Finance（牛津量化金融研究所）；Mathematical Institute, University of Oxford（牛津大学数学研究所）
本文提出BR-iHMM，通过引入两个可调参数平衡适应性与鲁棒性，在限价订单数据、小时电力需求和高维线性系统中，将一阶预测误差降低67%，并提供有界后验影响函数的理论保证。
2026-05-12 cs.LG stat.ML
Online reinforcement learning with sparse rewards through an active inference capsule
Delft University of Technology（代尔夫特理工大学）；MRC Brain Network Dynamics Unit（医学研究委员会脑网络动力学组）；University of Oxford（牛津大学）
智能代理必须在复杂的环境中追求他们的目标，部分信息和有限的计算能力。强化学习方法已经通过创建优化工程奖励函数的代理而取得了巨大的成功，但是这些代理通常难以在稀疏奖励环境中学习，通常需要许多环境交互才能良好地执行，并且通常在计算上非常昂贵。主动推理是一种基于模型的方法，它指导代理探索不确定的状态，同时坚持其目标行为的先验模型。本文介绍了一种主动推理代理，它使预期未来的新自由能最小化。我们的模型是能够解决稀疏回报问题，由于其目标函数，鼓励直接探索不确定的状态，具有非常高的样本效率。此外，我们的模型在计算上非常轻，可以以完全在线的方式操作，同时实现与离线RL方法相当的性能。我们通过解决山地车问题展示了我们模型的能力，在那里我们展示了其优越的探索特性和对观测噪声的鲁棒性，这实际上提高了性能。我们还介绍了一种新的方法近似先验模型的奖励函数，简化了复杂的目标的表达，并提高了性能比以前的主动推理方法。
2021-06-04 cs.AI cs.LG stat.ML
Online Policy Optimization for Robust MDP
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Tsinghua University（清华大学）
强化学习（RL）在许多合成环境中（如视频游戏和围棋）已经超过了人类的表现。然而，端到端RL模型的实际部署并不常见，因为RL模型对环境的轻微扰动非常敏感。鲁棒马尔可夫决策过程（MDP）框架-其中转移概率属于标称模型周围的不确定性集-提供了一种开发鲁棒模型的方法。虽然之前的分析表明，RL算法在假设访问生成模型的情况下是有效的，但目前尚不清楚RL在更现实的在线设置下是否有效，这需要在探索和利用之间保持谨慎的平衡。在这项工作中，我们考虑在线鲁棒MDP通过与一个未知的标称系统。我们提出了一个鲁棒的乐观策略优化算法，可证明是有效的。为了解决对抗性环境引起的额外不确定性，我们的模型具有通过Fenchel共轭导出的新的乐观更新规则。我们的分析建立了第一个遗憾的在线强大的MDPs。
2022-09-28 cs.LG stat.ML
Optimality of Robust Online Learning
Zhejiang University（浙江大学）；University of Bayreuth（拜罗伊特大学）；Fudan University（复旦大学）
本文提出在 RKHS 回归中使用含尺度参数的鲁棒损失 $\mathcal{L}_σ$ 的在线算法，并证明其最后一次迭代具有最优的容量无关均方收敛及容量相关强收敛速率。
2023-04-20 cs.LG stat.ML
Oracle-Robust Online Alignment for Large Language Models
Purdue University（普渡大学）
本文提出了一种Oracle鲁棒的在线对齐方法，通过引入不确定性集和敏感性惩罚，实现了对大语言模型在不准确偏好反馈下的鲁棒优化。
2026-11-06 cs.LG stat.ML
Robust and Scalable Bayesian Online Changepoint Detection
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）
提出一种在线、可证明鲁棒且可扩展的贝叶斯变点检测算法，利用广义贝叶斯和扩散分数匹配实现闭式共轭后验，速度比最接近方法快10倍以上。
2023-05-12 cs.LG stat.ML
Active Offline Policy Selection
DeepMind（深度思维）
本文讨论的问题，在域中的政策选择与丰富的记录数据，但有限的互动预算。解决这个问题将使离线强化学习策略在工业、机器人和推荐等领域的安全评估和部署成为可能。已经提出了几种脱离策略评估（OPE）技术来仅使用记录的数据来评估策略的价值。但是，OPE的评估与完全在线评估之间仍有很大差距。然而，大量的在线互动在实践中往往是不可能的。为了克服这个问题，我们引入了主动离线策略选择-一种新的顺序决策方法，结合记录的数据与在线交互，以确定最佳的政策。我们使用OPE估计来启动在线评估。然后，为了明智地利用有限的环境相互作用，我们决定下一个政策评估的基础上贝叶斯优化方法的内核，代表政策的相似性。我们使用多个基准，包括现实世界的机器人技术，大量的候选政策，以表明所提出的方法提高了最先进的OPE估计和纯在线政策评估。
2022-05-06 cs.AI cs.LG stat.ML
Confidence Decision Trees via Online and Active Learning for Streaming (BIG) Data
决策树分类器是数据流挖掘中广泛使用的工具。使用置信区间来估计与每个分裂相关联的增益导致非常有效的方法，如流行的Hoeffding树算法。从统计学的角度来看，在流设置中的决策树分类器的分析需要知道何时已经收集了足够的新信息来证明分裂叶子是合理的。虽然Hoeffding树的统计分析中的一些问题已经澄清，一般和严格的研究置信区间的分裂标准是失踪。我们填补了这一空白，推导出准确的置信区间估计分裂增益决策树学习的三个标准：熵，基尼指数，和第三个指标提出的卡恩斯和曼苏尔。我们的置信区间更详细地依赖于树的参数。我们还将我们的置信度分析扩展到选择性采样设置，其中决策树学习器自适应地决定在流中查询哪些标签。我们提供了理论保证边界的概率，分类是非最优的学习决策树通过我们的选择性抽样策略。在流媒体环境中对真实数据和合成数据的实验表明，我们的树确实比其他技术生成的具有相同数量叶子的树更准确，并且我们的主动学习模块允许节省标记成本。此外，比较我们的标签策略与最近的方法，我们表明，我们的方法是更强大的和一致的尊重所有其他技术应用于增量决策树。
2016-04-12 cs.LG stat.ML
Robust Regression via Online Feature Selection under Adversarial Data Corruption
Virginia Tech（弗吉尼亚理工大学）；George Mason University（乔治梅森大学）；U. S. Army Corps of Engineers（美国陆军工程兵团）
用户生成的流数据（如社交媒体）中存在数据损坏，这激发了一个新的基本问题，即当特征不能一次完全访问时，学习可靠的回归系数。到目前为止，几个重要的挑战仍然无法同时处理：1）当只有部分特征可访问时，损坏的数据估计; 2）当数据包含对抗性损坏时，在线特征选择;以及3）扩展到大规模数据集。本文提出了一种新的RObust回归算法通过在线特征选择（\textit{RoOFS}），同时解决所有上述挑战。具体地说，该算法通过一个强大的在线特征替换方法迭代地更新回归系数和未损坏的集合。我们还证明了我们的算法有一个有限的误差界相比，最优解。在合成数据集和真实数据集上的大量实验表明，该方法在恢复特征选择和回归系数方面均优于现有方法，具有非常有竞争力的效率.
2019-02-05 cs.LG stat.ML
An Online Stochastic Kernel Machine for Robust Signal Classification
U.S. Naval Research Laboratory（美国海军研究实验室）
我们提出了一种新的变化的在线内核机，其中我们利用基于共识的优化机制，以指导决策函数的演变从再生核希尔伯特空间，有效地模拟所观察到的平稳过程。
2019-12-16 cs.LG eess.SP stat.ML
Active Collaborative Filtering
University of Toronto（多伦多大学）
协同过滤（CF）允许汇集多个用户的偏好，以针对未见过的产品进行推荐。我们认为在本文中的问题，在线和互动CF：鉴于当前的收视率与用户，什么样的查询（新的收视率）将最能提高质量的建议？我们将此术语转换为信息的期望值（EVOI）;但是计算最优查询的在线计算成本是令人望而却步的。我们展示了如何离线原型设计和计算的界限EVOI可以用来显着减少所需的在线计算。我们开发的框架是一般的，但我们专注于推导和实证研究的多原因矢量量化模型的特定情况下。
2012-10-19 cs.IR cs.LG stat.ML
Active Deep Learning Attacks under Strict Rate Limitations for Online API Calls
Intelligent Automation, Inc.（智能自动化公司）
机器学习已应用于广泛的应用程序，其中一些可作为免费（试用）或付费订阅的应用程序编程接口（API）在线提供。在本文中，我们以在线分类器API的后台攻击形式研究对抗性机器学习。我们从基于深度学习的探索（推理）攻击开始，其目的是构建一个分类器，该分类器可以提供与目标分类器相似的分类结果（标签）。为了最小化推断分类器和目标分类器返回的标签之间的差异，我们证明了基于深度学习的探索性攻击需要大量标记的训练数据样本。这些标签可以通过调用在线API来收集，但通常对允许的API调用数量有严格的速率限制。为了减轻有限训练数据的影响，我们开发了一种主动学习方法，首先基于少量API调用构建分类器，并使用该分类器选择样本以进一步收集其标签。然后，使用更多的训练数据样本构建新的分类器。这个更新过程可以重复多次。我们表明，这种主动学习方法可以建立一个对抗分类器与目标分类器的统计差异很小，只使用有限数量的训练数据样本。我们进一步考虑规避和使役（中毒）攻击的基础上推断的分类器，是由探索性攻击。规避攻击确定目标分类器可能错误分类的样本，而因果攻击提供错误的训练数据样本以降低重新训练的分类器的可靠性。这些攻击的成功表明，对抗性机器学习在训练数据有限的现实情况下成为一种可行的威胁。
2018-11-05 cs.CR cs.LG stat.ML
Online A-Optimal Design and Active Linear Regression
ENS Paris-Saclay（巴黎萨克雷高等师范学院）；Inria（法国国家信息与自动化研究所）；Deepmind（深度思维）；ENSAE（法国国家统计与经济管理学院）；Criteo AI Lab（Criteo人工智能实验室）
本文考虑了最优试验设计问题，其中决策者可以选择哪些点进行采样，以获得潜在线性模型的隐参数$β^{\star}$的估计$\hatβ$。这项工作的关键挑战在于我们所做的异方差假设，这意味着每个协变量都有一个不同的未知方差。然后，决策者的目标是找出在协变量之间分配$T$样本的总预算的最佳方法，因为对特定样本进行多次采样将减少其周围估计模型的方差（但以其他地方可能更高的方差为代价）。通过尝试最小化$\ell^2$ -损失$\mathbb{E} [\lVert\hatβ-β^{\star}\rVert^2]$，决策者实际上是最小化问题的协方差阵的迹，这对应于在线A-最优设计。结合强盗和凸优化技术，我们提出了一个新的主动采样算法，我们比较它与现有的。我们在不同的设置，包括$\mathcal{O}(T^{-2})$遗憾的情况下，协变量形成的基础上的特征空间，推广和改进现有的结果，该算法提供了理论保证。数值实验验证了我们的理论研究结果。
2020-12-30 cs.LG math.OC stat.ML
Wasserstein Distributionally Robust Online Learning
University of Michigan（密歇根大学）；Cornell University（康奈尔大学）
本文提出了一种基于Wasserstein分布鲁棒优化的在线学习框架，通过将问题建模为随机博弈并利用问题几何特性，实现对最坏情况分布的鲁棒优化，同时提高了计算效率。
2026-10-30 cs.LG math.OC stat.ML
Online Feedback Efficient Active Target Discovery in Partially Observable Environments
提出 DiffATD，利用扩散置信分布与增量奖励模型平衡探索和利用，在无预训练、部分可观测且预算固定条件下高效发现目标。
2025-10-19 cs.AI cs.LG stat.ML
Large Scale Model Predictive Control with Neural Networks and Primal Active Sets
University of Pennsylvania（宾夕法尼亚大学）；University of California San Diego（加利福尼亚大学圣迭戈分校）
本文提出了一种显式-隐式方法来计算模型预测控制（MPC）律，并保证其递归可行性和渐近稳定性。该方法结合了离线训练的全连接神经网络与在线原始有效集求解器。神经网络提供了一个控制输入初始化，而原始有效集方法确保递归的可行性和渐近稳定性。该神经网络的训练与原始-对偶损失函数，旨在生成控制序列，是原始可行的，并满足所需的次优水平。由于单独的神经网络不能保证约束满足，它的输出被用来在线热启动原始有效集方法。我们证明了这种方法可以扩展到具有数千个优化变量的大型问题，这对于当前的方法来说是具有挑战性的。我们的方法实现了2倍减少在线推理时间相比，在不同的求解器和初始化策略的基准套件的最佳方法。
2021-07-05 cs.LG cs.SY eess.SY
Byzantine-Robust Online and Offline Distributed Reinforcement Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Princeton University（普林斯顿大学）；Massachusetts Institute of Technology（麻省理工学院）
我们考虑一个分布式的强化学习设置，多个代理分别探索环境，并通过中央服务器交流他们的经验。然而，$α$ -分数的代理是敌对的，可以报告任意的假信息。至关重要的是，这些敌对代理可以勾结，他们的假数据可以是任何大小。我们希望在这些对抗性代理存在的情况下，为底层马尔可夫决策过程鲁棒地确定一个接近最优的策略。我们的主要技术贡献是加权团，一种新的算法的强大的平均估计批量问题，可以处理任意批量大小。在此基础上，在离线环境下，设计了一个拜占庭鲁棒分布式悲观值迭代算法;在在线环境下，设计了一个拜占庭鲁棒分布式乐观值迭代算法.这两种算法都获得了接近最优的样本复杂度，并实现了比以前的作品更好的鲁棒性保证。
2022-06-01 cs.DC cs.LG stat.ML
Integrating Active Learning in Causal Inference with Interference: A Novel Approach in Online Experiments
National University of Singapore（新加坡国立大学）；Tencent（腾讯）
本文提出ACI方法，将主动学习与高斯过程及遗传算法结合，在网络干扰和混杂因素下高效估计直接与溢出处理效应，并在模拟数据和腾讯游戏数据上验证了其数据效率优势。
2024-02-20 cs.LG stat.ME stat.ML
Online and Distributed Robust Regressions under Adversarial Data Corruption
Virginia Tech（弗吉尼亚理工大学）；George Mason University（乔治梅森大学）；U. S. Army Corps of Engineers（美国陆军工程兵团）
在当今的大数据时代，当考虑到数据集爆炸性增长的对抗性腐败时，鲁棒最小二乘回归成为一个更具挑战性的问题。传统的鲁棒方法可以处理噪声，但在应用于大型数据集时会遇到一些挑战，包括1）一次处理整个数据集的计算不可行性，2）存在异构分布的损坏，以及3）当数据无法完全加载时难以估计损坏。本文提出了在线和分布式鲁棒回归方法，这两种方法可以同时解决所有上述挑战。具体地说，分布式算法通过启发式硬阈值优化每个数据块的回归系数，并将所有估计值组合在分布式鲁棒合并中。此外，提出了一个在线版本的分布式算法，以增量更新现有的估计与新的传入数据。我们还证明了我们的算法受益于强大的鲁棒性保证回归系数恢复与一个恒定的上限的错误的国家的最先进的批处理方法。在人工数据集和真实数据集上的大量实验表明，我们的方法在有效性上优于现有方法，具有竞争力的效率。
2017-10-02 cs.DS cs.LG stat.ML
Online Robust Principal Component Analysis with Change Point Detection
SAS Institute（SAS研究所）；Shanghai Jiao Tong University（上海交通大学）
鲁棒PCA方法通常是批处理算法，需要在处理之前将所有观测加载到内存中。这使得他们处理大数据的效率低下。本文提出了一种有效的在线鲁棒主成分分析方法，即在线移动窗口鲁棒主成分分析（OMWRPCA）。与现有的算法不同，OMWRPCA不仅可以成功地跟踪缓慢变化的子空间，也可以跟踪突变的子空间。通过在算法中嵌入假设检验，OMWRPCA可以检测到底层子空间的变化点。大量的仿真研究表明，OMWRPCA的优越性能相比，其他国家的最先进的方法。我们还将该算法应用于监控视频的实时背景减除。
2017-03-20 cs.CV cs.LG stat.AP
Low-Rank Robust Online Distance/Similarity Learning based on the Rescaled Hinge Loss
Sabzevar University of New Technology（萨布泽瓦尔新技术大学）；Ferdowsi University of Mashhad（马什哈德费尔多西大学）；Hakim Sabzevari University（哈基姆萨布泽瓦里大学）
度量学习中的一个重要挑战是对输入数据的大小和维度的可伸缩性。在线度量学习算法被提出来解决这一挑战。现有的方法通常基于（被动主动）PA方法。因此，它们可以以自适应的学习率快速处理大量数据。然而，这些算法是基于铰链损失，因此对离群值和标签噪声不鲁棒。此外，现有的在线方法通常假设预先存在训练三元组或成对约束。然而，现实世界应用中的许多数据集都是以输入数据及其关联标签的形式存在的。我们解决这些挑战，制定了强大的重新缩放铰链损失函数的在线距离相似性学习问题。该模型具有较强的通用性，可以应用于任何基于PA的在线距离相似度算法。此外，我们开发了一个有效的强大的一次通过三重构造算法。最后，为了在高维DML环境中提供可扩展性，提出了所提出的方法的低秩版本，不仅显著降低了计算成本，而且保持了学习度量的预测性能。此外，它还为深度距离相似性学习提供了一个简单的扩展。我们对来自各种应用程序的数据集进行了几次实验。结果证实，所提出的方法显着优于国家的最先进的在线DML方法的标签噪声和离群值的存在下，由一个很大的利润。
2020-10-10 cs.CV cs.LG stat.ML
FormulaZero: Distributionally Robust Online Adaptation via Offline Population Synthesis
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）；Massachusetts Institute of Technology（麻省理工学院）
平衡性能和安全性对于在多智能体环境中部署自动驾驶汽车至关重要。特别是，自动驾驶赛车是一个惩罚安全但保守的政策的领域，突出了对稳健，适应性策略的需求。目前的方法要么简化了对其他代理人的假设，要么缺乏强大的在线适应机制。这项工作使算法的贡献，这两个挑战。首先，为了生成一个现实的，多样化的对手，我们开发了一种新的方法，自我发挥的基础上复制交换马尔可夫链蒙特卡罗。其次，我们提出了一个分布式鲁棒的强盗优化过程，自适应调整风险规避相对于对手的行为信念的不确定性。当在实时运动规划中近似这些计算时，我们严格量化了性能和鲁棒性的权衡，并且我们在自动驾驶汽车上实验性地展示了我们的方法，这些自动驾驶汽车可以达到与一级方程式赛车相当的缩放速度。
2020-08-22 cs.LG cs.MA cs.RO
Fast and Robust Online Inference with Stochastic Gradient Descent via Random Scaling
Columbia University（哥伦比亚大学）；Rutgers University（罗格斯大学）；Seoul National University（首尔国立大学）；McMaster University（麦克马斯特大学）
我们开发了一种新的方法在线推断的参数估计的Polyak-Ruppert平均过程的随机梯度下降（SGD）算法的向量。我们利用计量经济学中时间序列回归的见解，通过随机尺度构建渐近关键统计。我们的方法是完全可操作的在线数据，并严格支持的功能中心极限定理。我们提出的推理方法与现有方法相比具有几个关键优势。首先，检验统计量以仅SGD迭代的在线方式计算，并且可以在没有任何重新排序方法的情况下获得临界值，从而允许适合于大量在线数据的高效实现。其次，没有必要估计渐近方差和我们的推理方法被证明是强大的SGD算法在模拟实验中的调整参数的变化与合成数据。
2021-10-07 cs.LG econ.EM math.ST
Robust online joint state/input/parameter estimation of linear systems
本文提出了一种在线联合估计线性系统状态、输入和参数的方法。该方法是专为测量损坏与非高斯噪声或离群值，这是常见的工程应用。特别是，它结合了递归，交替，迭代加权最小二乘法到一个单一的，一步的算法，解决了在线估计问题，并受益于最小偏差回归方法的鲁棒性。形式上保证了迭代方法的收敛性。数值实验表明，在存在离群值的情况下，与现有的方法相比，该估计算法具有良好的性能。
2022-04-12 cs.SY eess.SY stat.ML
Online and Offline Robust Multivariate Linear Regression
本研究提出多元线性回归的在线与离线鲁棒估计方法，基于鲁棒马氏最小二乘准则，证明渐近正态性，并在合成数据上展示鲁棒性与计算效率优势。
2025-10-10 math.ST stat.ML stat.TH
Online Robust Subspace Tracking from Partial Information
Nanjing University of Information Science and Technology（南京信息工程大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；The Chinese University of Hong Kong（香港中文大学）
提出GRASTA算法，利用鲁棒l1范数从高度不完整数据中在线跟踪子空间，应用于鲁棒矩阵补全和视频背景-前景实时分离，在基准视频上达到57帧/秒。
2011-09-20 cs.CV cs.IT cs.SY
