ACDC: Online Unsupervised Cross-Domain Adaptation
Nanyang Technological University(南洋理工大学);Singapore Institute of Manufacturing Technology(新加坡制造技术研究院)
我们考虑在线无监督的跨领域自适应问题,其中两个独立但相关的数据流具有不同的特征空间-一个完全标记的源流和一个未标记的目标流-一起学习。出现了独特的特征和挑战,例如协变量偏移、异步概念偏移和对比数据吞吐量。我们提出了ACDC,一个对抗性的无监督领域自适应框架,它可以用一个完整的自进化神经网络结构来处理多个数据流,对这些挑战做出反应。ACDC将三个模块封装到一个模型中:一个提取特征的去噪自动编码器,一个执行域转换的对抗模块,以及一个学习源流并预测目标流的估计器。ACDC是一个灵活且可扩展的框架,具有很少的超参数可调性。我们的实验结果下的prequential测试,然后训练协议表明,在基线方法的目标精度的改善,在某些情况下,实现了超过10%的增加。
2021-10-04 cs.LG
Rectifying Geometric Misalignment: Online Source-Free Adaptation for Class-Imbalanced EEG
针对类别不平衡脑电图的在线源适配问题,提出OSPDIM框架,通过流形约束偏置参数的实时优化校正几何错位,在运动想象数据集上显著优于标准黎曼基线。
2026-08-07 cs.LG
Online Variance Reduction for Domain Adaptation on Streaming Data
University of Southampton(南安普顿大学)
研究流数据域适应的随机方差缩减问题,提出在线SVR算法ARROW,通过维护移动平均参考和自适应重新加权小批量数据,使小批量与参考统计量对齐,实验表明该算法在运行时间、方差缩减及目标域准确性方面与离线算法相当。
2026-07-23 cs.LG
Online Adaptation to Label Distribution Shift
Cornell University(康奈尔大学);Facebook AI Research(Facebook 人工智能研究院)
机器学习模型在现实世界中部署时经常遇到分布偏移。在本文中,我们专注于适应标签分布偏移在线设置,测试时的标签分布是不断变化的,模型必须动态地适应它,而不观察到真正的标签。利用一种新的分析,我们表明,缺乏真正的标签并不妨碍估计的预期测试损失,这使得减少在线标签偏移适应传统的在线学习。根据这一观察,我们提出了经典的在线学习技术,如跟随领导者(FTL)和在线梯度下降(OGD)的启发自适应算法,并推导出他们的遗憾界限。我们根据经验验证我们的研究结果在模拟和现实世界的标签分布偏移,并表明OGD是特别有效和强大的各种具有挑战性的标签偏移的情况。
2022-01-05 cs.LG stat.ML
Temporal Memory-Aware Online Test-Time Adaptation on Dynamic Graphs
Griffith University(格里菲斯大学);RMIT University(皇家墨尔本理工大学)
本文针对动态图测试时自适应的研究空白,提出DGOTTA框架,通过三个模块提升DGNN在分布偏移下的泛化性能,经多数据集实验验证有效。
2026-09-09 cs.LG
Step-size Adaptation Using Exponentiated Gradient Updates
Google Research(谷歌研究院)
像Adam和AdaGrad这样的优化器在训练大规模神经网络方面非常成功。然而,这些方法的性能在很大程度上依赖于仔细调整的学习率调度。我们表明,在许多大规模的应用程序中,增加一个给定的优化与自适应调整方法的步长大大提高了性能。更确切地说,我们为更新维护了一个全局步长尺度,以及每个坐标的增益因子。我们根据平均梯度和当前梯度向量的对齐来调整全局尺度。类似的方法用于更新局部增益因子。这种类型的步长比例调整以前已经用梯度下降更新完成过。在本文中,我们更新的步长尺度和增益变量的指数梯度更新。实验表明,我们的方法可以在标准模型上实现令人信服的准确性,而无需使用任何专门调整的学习率调度。我们还展示了我们的方法在训练过程中快速适应数据中的分布偏移的有效性。
2022-01-31 cs.LG
Learning to Predict Distributions over Weight Updates for Test-Time Adaptation
University of Minnesota(明尼苏达大学);IBM Research AI(IBM研究院人工智能)
本文提出分布性超网络,根据查询预测LoRA权重更新分布,通过蒙特卡洛采样实现测试时扩展,性能优于确定性超网络及token采样基线。
2026-10-02 cs.LG
Addressing Data Distribution Shifts in Online Machine Learning Powered Smart City Applications Using Augmented Test-Time Adaptation
Hamad Bin Khalifa University(哈马德·本·哈利法大学);Mohammed V University in Rabat(拉巴特穆罕默德五世大学);Qatar University(卡塔尔大学)
本文提出一种增强测试时适应的方法,通过三个关键方面解决智慧城市应用中的数据分布偏移问题,实验证明其性能提升显著。
2023-05-23 cs.LG
Burn After Reading: Online Adaptation for Cross-domain Streaming Data
University of Maryland(马里兰大学);Salesforce Research(Salesforce 研究院)
在在线隐私的背景下,许多方法提出了复杂的隐私和安全保护措施来保护敏感数据。在本文中,我们认为:不存储任何敏感数据是最好的安全形式。因此,我们提出了一个“阅后即焚”的在线框架,即每个在线样本在处理后立即删除。同时,我们解决了不可避免的分布偏移之间的标记的公共数据和未标记的私人数据作为无监督的领域自适应的问题。具体来说,我们提出了一种新的算法,旨在在线自适应设置的最根本的挑战-缺乏不同的源-目标数据对。因此,我们设计了一个跨域自举的方法,称为CroDoBo,以增加跨域的组合多样性。此外,为了充分利用不同组合之间的有价值的差异,我们采用了多个学习者与共同监督的培训策略。CroDoBo在四个领域自适应基准上实现了最先进的在线性能。
2021-12-08 cs.CV cs.LG
When Does Online Adaptation Pay on the Edge? A Leakage-Free Evaluation of Warmup, Learning-Rate Selection, and Resource Trade-offs for Time-Series Forecasting
Keio University(庆应义塾大学)
该研究针对边缘时间序列预测,通过无泄漏评估明确了预热预算、优化器学习率选择等因素对在线自适应收益的影响,提出仅验证的调试流程,为边缘场景的时间序列预测自适应提供了关键指导。
2026-09-02 cs.LG
Online ML Self-adaptation in Face of Traps
Charles University(查理大学);Katholieke Universiteit Leuven(鲁汶天主教大学);Linnaeus University(林奈大学)
本文探讨了在线机器学习在自适应系统应用中遇到的规范、训练与评估等陷阱,并总结经验教训为后续研究提供指导。
2023-09-11 cs.LG cs.NE
METER: A Dynamic Concept Adaptation Framework for Online Anomaly Detection
Beijing Institute of Technology(北京理工大学);National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学)
针对现有在线异常检测方法应对概念漂移能力不足、适配慢的问题,提出基于超网络动态参数调整与证据深度学习漂移检测的METER框架,实验证明其性能显著优于现有方法。
2023-12-28 cs.LG
Revisiting Dynamic Evaluation: Online Adaptation for Large Language Models
Google DeepMind(谷歌DeepMind)
本文研究大型语言模型在测试时的在线微调(动态评估),从权重记忆与上下文扩展视角分析其样本效率、分布漂移敏感性和计算开销,并指出其模糊了上下文学习与微调的界限。
2024-03-03 cs.CL cs.LG
Hybrid Active-Online Learning Framework for Label-Efficient Concept Drift Adaptation in Optical Network Failure Detection
提出混合主动在线学习框架,通过基于间隔的选择性标记仅查询3.4%的流样本,实现接近上限的准确率和AUC,且延迟开销可忽略。
2026-06-29 cs.LG eess.SP
Robust Parameter-Efficient LLM Adaptation on Analog Hardware
Cornell University(康奈尔大学)
针对模拟硬件上大语言模型微调受硬件非理想性影响的问题,提出基于LoRA的参数高效适配方法,通过输入重塑和更新累积改善噪声MVM和有限状态编程下的适配性能。
2026-10-06 cs.LG
Online Test-Time Adaptation for Generalizable Dynamic Graph Anomaly Detection
The Hong Kong Polytechnic University(香港理工大学);Institute of Information Processing and Automation, Zhejiang University of Technology(浙江工业大学信息处理与自动化研究所);University of Illinois at Chicago (UIC)(伊利诺伊大学芝加哥分校)
针对可泛化动态图异常检测现有方法的局限,提出OTTA-DGAD方法,通过时序自图提取动态原型并结合内存缓冲区,在10个真实世界数据集上实现了最优性能。
2026-08-21 cs.LG
MuLoRA: Spectrally Balanced Low-Rank Adaptation for Continual Learning
Tianjin University(天津大学)
针对持续学习中低秩适配的谱可塑性坍缩问题,MuLoRA通过历史白化与动量更新的近似极正交化联合控制容量分配与利用,在多个类增量基准上取得最优平均准确率。
2026-10-05 cs.LG
On the Design Space of Discrete Diffusion Online Adaptation for Molecular Optimization
Caltech(加州理工学院);ETH Zurich(苏黎世联邦理工学院);ETH AI Center(苏黎世联邦理工学院人工智能中心);Genesis Molecular AI(创世纪分子人工智能公司)
研究离散扩散模型的适应问题,通过控制实验发现获取、奖励塑造、模型去偏等方法互补,重放稳定学习,有效性惩罚限制小分子探索,给出反馈高效的分子优化实用方法,优于离线微调等基线。
2026-11-02 cs.LG
Robust Online Model Adaptation by Extended Kalman Filter with Exponential Moving Average and Dynamic Multi-Epoch Strategy
Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学)
智能代理的高保真行为预测在许多应用中至关重要。然而,在训练集上训练的预测模型可能由于域移位和时间方差而不能推广到测试集。这种挑战促使采用在线自适应算法来实时更新预测模型以提高预测性能。受扩展卡尔曼滤波器(EKF)的启发,本文介绍了一系列适用于基于神经网络模型的在线自适应方法。首先介绍了一种带遗忘因子的修正EKF算法(MEKF $_λ$),然后介绍了指数移动平均滤波技术。为了有效利用实时的,本文提出了一种动态的多历元更新策略。在此基础上,提出了一种基于指数移动平均和动态多历元策略的自适应算法MEKF($_{\text{EMA-DME}}$)。实验结果表明,该算法优于现有的方法。源代码在下面的链接https://github.com/intelligent-control-lab/MEKF_MAME中开放。
2020-04-28 cs.LG stat.ML
Offline Meta Reinforcement Learning with In-Distribution Online Adaptation
Tsinghua University(清华大学);Huazhong University of Science and Technology(华中科技大学);Peking University(北京大学)
针对离线元强化学习中离线数据与在线适应间的转移—奖励分布偏移问题,提出 IDAQ 框架,通过基于回报的不确定性量化生成分布内上下文并推断任务信念,在 Meta-World ML1 上达到最优性能。
2023-06-01 cs.AI cs.LG
From Static Constraints to Dynamic Adaptation: Sample-Level Constraint Relaxation for Offline-to-Online Reinforcement Learning
Department of Computer Science, Florida State University, Tallahassee, FL, USA(佛罗里达州立大学计算机科学系)
本文提出DARE框架,通过行为一致性实现样本级约束放松,解决了离线到在线强化学习中保留离线保守性与适应在线反馈之间的挑战,改进了细调稳定性并优于现有基线。
2026-05-17 cs.LG
A probabilistic framework for online test-time adaptation
Institute of Mathematical Sciences, ICMAT-CSIC(数学科学研究所,ICMAT-CSIC);Escuela de Doctorado, Universidad Autónoma de Madrid(博士学院,马德里自治大学)
提出基于状态空间模型的概率框架,通过参数学习、时间演化、先验调整和预测,解决测试时分布偏移下的无标签数据适应问题。
2026-06-26 cs.LG stat.ML
A Fuzzy-set-based Joint Distribution Adaptation Method for Regression and its Application to Online Damage Quantification for Structural Digital Twin
Politecnico di Milano(米兰理工大学);Beihang University(北京航空航天大学)
在线损害量化遭受不充分的标记数据,削弱了其准确性。在这种情况下,采用对来自类似结构/损伤的历史标记数据或模拟数字孪生数据的领域自适应来辅助当前诊断任务将是有益的。然而,大多数领域自适应方法是为分类而设计的,并且不能有效地解决损伤量化,这是一个具有连续实值标签的回归问题。本研究首先提出一种新的领域自适应方法--基于在线模糊集的回归联合分布自适应方法。通过模糊集将连续实值标签转换为模糊类别标签,同时度量边缘和条件分布差异,实现损伤量化任务的领域自适应。基于该方法的优越性,提出了一种基于领域自适应的在线损伤量化框架。最后,以某型直升机为例,进行了不同损伤位置、不同损伤类型和从仿真到试验的3种损伤领域自适应,验证了该方法在真实环境下能够显著提高损伤量化的准确性。预计该方法将应用于考虑个体差异的船队级数字孪生。
2023-02-07 cs.CE cs.LG
Feature-Model-Guided Online Learning for Self-Adaptive Systems
University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Lille(里尔大学);Politecnico di Milano(米兰理工大学)
自适应系统可以在运行时根据其对环境、自身和需求的感知来修改其自身的结构和行为。为了开发一个自适应系统,软件开发人员编纂有关系统及其环境的知识,以及适应行为如何影响系统。然而,由于设计时间的不确定性,编码的知识可能是不够的,因此自适应系统可能执行不具有期望效果的自适应动作。在线学习是通过在运行时采用机器学习来解决设计时间不确定性的新兴方法。在线学习通过例如探索尚未执行的适应动作来在运行时积累知识。我们解决两个具体的问题,在线学习自适应系统。首先,可能的适应行动的数量可能非常大。现有的在线学习技术随机地探索可能的适应动作,但是这可能导致学习过程的缓慢收敛。第二,可能的适应行动可以改变作为系统进化的结果。现有的在线学习技术没有意识到这些变化,因此不探索新的适应动作,而是探索不再有效的适应动作。我们建议使用特征模型来构造适应动作集,从而指导在线学习的探索过程。涉及四个真实世界系统的实验结果表明,考虑特征模型的层次结构可以平均加速收敛7.2%。考虑到进化步骤之前和之后的特征模型之间的差异,可以平均加速收敛64.6%。[...]
2019-07-22 cs.LG cs.SE
Protected Test-Time Adaptation via Online Entropy Matching: A Betting Approach
Technion IIT(以色列理工学院)
针对测试时分布偏移问题,提出结合投注鞅检测与在线熵匹配的自训练适应框架,并基于最优传输构建自监督损失,提升偏移场景下准确率且保持无偏移时的校准性能。
2025-01-05 cs.LG stat.ML
Intrinsic Motivation and Mental Replay enable Efficient Online Adaptation in Stochastic Recurrent Networks
Technische Universität Darmstadt(达姆施塔特工业大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Universität zu Lübeck(吕贝克大学)
自主机器人需要与未知、非结构化和不断变化的环境进行交互,不断面临新的挑战。因此,持续在线适应终身学习和样本效率机制的需求,以适应环境,约束,任务或机器人本身的变化至关重要。在这项工作中,我们提出了一个新的框架,概率在线运动规划与在线适应的基础上,生物启发的随机递归神经网络。通过使用模仿内在动机信号的学习信号,加上心理重放策略来强化经验,随机递归网络可以从很少的物理交互中学习,并在几秒钟内适应新的环境。我们在拟人KUKA LWR手臂上评估了我们的在线规划和自适应框架。快速在线自适应通过从少量物理交互中有效地学习未知的工作空间约束,同时遵循给定的路径点来实现。
2018-10-23 cs.AI cs.LG cs.RO
Meta-Tracker: Fast and Robust Online Adaptation for Visual Object Trackers
Department of Computer Science, University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校计算机科学系)
本文改进了使用在线自适应的最先进的视觉对象跟踪器。我们的核心贡献是一种基于离线元学习的方法,用于调整在线自适应跟踪中使用的初始深度网络。Meta学习由深度网络的目标驱动,可以快速适应未来帧中的特定目标。理想情况下,生成的模型将重点放在对未来帧有用的特征上,并避免过度拟合背景杂波、目标的小部分或噪声。通过在元学习过程中强制执行少量的更新迭代,最终的网络训练速度明显更快。我们证明了这种方法的高性能跟踪方法的顶部:跟踪检测为基础的MDNet和相关性为基础的CREST。在标准基准测试OTB 2015和VOT 2016上的实验结果表明,我们的两种跟踪器的元学习版本提高了速度、准确性和鲁棒性。
2018-03-19 cs.CV cs.LG
Efficient transfer learning and online adaptation with latent variable models for continuous control
Uber AI Labs(优步人工智能实验室)
传统的基于模型的强化学习依赖于手工指定或学习的环境过渡动态模型。这些方法是样本有效的,并且促进了在现实世界中的学习,但是不能推广到底层动态中的细微变化,例如,这是由于机器人代理或时间上的质量、摩擦或致动器的差异。我们建议使用变分推理来学习未知环境属性的显式潜在表示,以加速学习并促进测试时对新环境的泛化。我们使用这些学习到的潜在的在线贝叶斯推理,以快速适应在线环境的变化,而无需保留最近数据的大型重放缓冲区。结合一个神经网络合奏,模型动态和捕捉动态的不确定性,我们的方法表明,在训练和在线适应的连续控制任务HalfCheetah的正迁移。
2018-12-08 cs.LG stat.ML
Online Multi-Source Domain Adaptation through Gaussian Mixtures and Dataset Dictionary Learning
Université Paris-Saclay(巴黎-萨克雷大学);CEA, List(法国原子能和替代能源委员会List研究所);Ecole Centrale de Lyon(里昂中央理工学院)
针对流式目标域的在线多源域适应问题,提出基于Wasserstein几何的在线高斯混合模型与数据集字典学习新方法,在Tennessee Eastman Process基准上实现实时适应并作为数据流记忆。
2024-07-29 cs.LG stat.ML
Online Task Adaptation via Self-Organisation
本文提出一种基于神经细胞自动机的元学习自组织机制,通过快速记忆更新实现无梯度的在线任务自适应,在保留分类任务上显著提升性能。
2026-09-25 cs.LG cs.NE
Online Learning via Learned Latent Bayesian Tracking
Ben-Gurion University(本-古里安大学);Northeastern University London(东北大学伦敦校区)
针对非平稳环境下高维模型在线学习计算困难的问题,提出AURA元学习框架,通过学习低维潜状态空间模型并利用扩展卡尔曼滤波实现高效在线适应,在无线接收机和图像分类任务上显著提升适应速度与精度。
2026-09-30 cs.LG eess.SP
Fast On-Device Adaptation for Spiking Neural Networks via Online-Within-Online Meta-Learning
King’s College London(伦敦国王学院)
脉冲神经网络(SNN)最近因其低功耗特性而成为移动医疗管理和自然语言处理等应用的设备上边缘智能的机器学习模型。在这种高度个性化的用例中,重要的是模型能够仅用最少量的训练数据来适应个体的独特特征。元学习已经被提出作为一种训练模型的方法,这些模型面向快速适应新任务。SNN的少数现有元学习解决方案离线运行,需要某种形式的反向传播,这与当前的神经形态边缘设备不兼容。在本文中,我们提出了一个名为OWOML-SNN的SNN的在线内在线元学习规则,该规则可以在任务流上进行终身学习,并依赖于本地,无反向传播,嵌套更新。
2021-02-21 cs.LG cs.NE eess.SP
Scaling Combinatorial Optimization Neural Improvement Heuristics with Online Search and Adaptation
本研究提出有限滚动束搜索LRBS,用于基于深度强化学习的组合优化改进启发式算法,可提升分布内性能与大实例泛化能力,结合离线在线自适应进一步超越现有自适应构造式启发式方法。
2024-12-13 cs.AI cs.LG
ROAD-VLA: Robust Online Adaptation via Self-Distillation for Vision-Language-Action Models
Air Force Research Laboratory(空军研究实验室)
针对稀疏奖励下VLA模型在线自适应困难,提出ROAD-VLA框架,通过优势引导的自蒸馏在动作空间构建近端教师,将稀疏奖励转化为密集token级监督,并在7个机器人操作环境中优于PPO。
2026-06-25 cs.LG cs.RO
One-Shot Learning of Manipulation Skills with Online Dynamics Adaptation and Neural Network Priors
University of California, Berkeley(加州大学伯克利分校)
将强化学习应用于复杂的机器人控制任务的关键挑战之一是需要收集大量的经验,以便为手头的任务找到有效的策略。基于模型的强化学习可以实现良好的样本效率,但需要学习足够好以学习有效策略的动态模型的能力。在这项工作中,我们开发了一个基于模型的强化学习算法,结合了先前任务的先验知识与动态模型的在线适应。这两个成分使得即使在估计真实动态非常困难的情况下也能够实现高度样本有效的学习,因为在线模型自适应允许该方法局部补偿动态中的未建模变化。我们编码到一个神经网络动态模型的先验经验,适应它在线逐步改装的局部线性模型的动态,并使用模型预测控制计划根据这些动态。我们的实验结果表明,这种方法可以用来解决各种复杂的机器人操作任务,在一个单一的尝试,使用其他操作行为的先验数据。
2016-08-11 cs.LG cs.RO
Automatic Online Multi-Source Domain Adaptation
Nanyang Technological University(南洋理工大学)
跨多个流流程的知识转移仍然是一个具有挑战性的问题,这不仅是因为每个流的分布不同,而且还因为数据流的环境瞬息万变且永无休止。虽然这方面的研究成果越来越多,但大多数现有的工作都是针对单个源域开发的,这限制了其利用多源域的弹性,这有利于快速从概念漂移中恢复并避免负迁移问题。提出了一种多媒体流处理下的在线领域自适应技术,即自动在线多源领域自适应(AOMSDA)。AOMSDA的在线领域自适应策略是在去噪自动编码器(DAE)的生成和判别耦合方法下制定的,其中基于中心矩差异(CMD)的正则化器被集成以处理多源域的存在,从而利用互补的信息源。通过自组织结构和节点权重调整策略,解决了不同时间段发生的异步概念漂移问题。我们的数值研究表明,AOMSDA是能够超越其同行的8个研究案例中的5个,而消融研究描绘了每个学习组件的优势。此外,AOMSDA一般适用于任何数量的源流。AOMSDA的源代码在https://github.com/Renchunzi-Xie/AOMSDA.git上公开共享。
2021-09-12 cs.AI cs.LG
Coordinate Descent with Online Adaptation of Coordinate Frequencies
Institut für Neuroinformatik(神经信息学研究所);Ruhr-Universität Bochum(波鸿鲁尔大学);Institut für Mathematik(数学研究所);Universität Potsdam(波茨坦大学)
坐标下降(CD)算法已成为解决机器学习中许多优化问题的首选方法。它们特别适用于训练线性模型,包括线性支持向量机分类、LASSO回归和逻辑斯谛回归。我们考虑一般CD与非均匀选择的坐标。而不是固定的选择频率预先,我们提出了一个在线自适应机制,这个重要的参数,称为自适应坐标频率(ACF)的方法。这种机制消除了预先估计最佳坐标频率的需要,并且在优化运行期间自动对不断变化的要求做出反应。我们证明了我们的ACF-CD方法的有用性,在机器学习上下文中出现的各种优化问题。我们的算法比最先进的训练方法提供了显着的速度提升。
2014-01-15 cs.LG stat.ML
Brain-Inspired Online Adaptation for Remote Sensing with Spiking Neural Network
Brain-Inspired Application Technology Center (BATC)(脑启发应用技术中心);School of Electronic Information and Electrical Engineering(电子信息与电气工程学院);Shanghai Jiao Tong University(上海交通大学);ATR Key Lab(ATR重点实验室);School of Electronic Science and Engineering(电子科学与工程学院);National University of Defense Technology(国防科学技术大学)
本文首次提出基于脉冲神经网络的遥感在线自适应框架,通过BPTT近似、自适应激活缩放和置信度实例加权,在七个基准数据集上显著超越现有方法,实现边缘设备上的高能效快速适应。
2025-07-21 cs.CV cs.LG cs.NE
Policy Plasticity Matters in Offline-to-Online Reinforcement Learning: Refitting Offline Policies for Online Adaptation
针对离线到在线强化学习中离线策略可塑性下降的问题,提出REFIT方法,通过蒸馏到新初始化的学生网络并冻结随机子集来恢复可塑性,在D4RL和OGBench上超越现有方法。
2026-09-29 cs.AI cs.LG
Experimental Demonstration of Online Learning-Based Concept Drift Adaptation for Failure Detection in Optical Networks
1 Aston Institute of Photonic Technologies, Aston University, B4 7ET Birmingham, UK 2 Nokia, Optical Networks, 2790-078 Carnaxide, Portugal 3 Instituto de Telecomunica c \ o es, Instituto Superior T\' e cnico, 1049-001 Lisboa, Portugal 4 Nokia, Optical Networks, 81541 Munich, Germany
本研究提出一种基于在线学习的概念漂移适应方法,用于提升光学网络故障检测性能,实现70%的性能提升并保持低延迟。
2026-02-11 cs.LG eess.SP physics.optics
Online Meta-Learning for Multi-Source and Semi-Supervised Domain Adaptation
Samsung AI Center Cambridge(三星人工智能中心剑桥);The University of Edinburgh(爱丁堡大学)
领域自适应(Domain adaptation,DA)是一个热门的问题,它从标记的源数据集调整模型,使其在只有未标记或部分标记数据的目标数据集上表现良好。已经提出了许多方法来解决这个问题,通过不同的方式来最小化源和目标数据集之间的域偏移。在本文中,我们采取了正交的角度来看,并提出了一个框架,以进一步提高性能的元学习现有DA算法的初始条件。由于所涉及的计算图的长度,与更广泛考虑的Few-Shot元学习的设置相比,这是具有挑战性的。因此,我们提出了一个在线最短路径元学习框架,这是计算上易于处理和实际有效的提高DA性能。我们提出了多源无监督领域自适应(MSDA)和半监督领域自适应(SSDA)的变体。重要的是,我们的方法是不可知的基础适应算法,并可以应用于改善许多技术。在实验中,我们展示了经典(DANN)和最近(MCD和MME)的MSDA和SSDA技术的改进,并最终实现了几个DA基准测试,包括最大规模的DomainNet的最先进的结果。
2020-07-27 cs.CV cs.LG
Online Adaptation for Enhancing Imitation Learning Policies
School of Computing University of Eastern Finland Joensuu, Finland
本文提出在线自适应方法,将预训练模仿学习策略的动作提议与专家经验相结合,以在基础策略失败时恢复并提升智能体性能。
2024-06-07 cs.AI cs.LG
Online and Offline Domain Adaptation for Reducing BCI Calibration Effort
DataNova, NY USA(DataNova(美国纽约))
许多真实世界的脑机接口(BCI)应用依赖于EEG信号中事件相关电位(ERP)的单次试验分类。然而,由于不同的主题有不同的神经反应,即使是相同的刺激,这是非常困难的建立一个通用的ERP分类器的参数适合所有的主题。分类器需要使用一些标记的特定于对象的数据来针对每个个体对象进行校准。本文提出了在线和离线加权自适应正则化(wAR)算法来减少这种校准工作,即,以最小化BCI校准中所需的标记的受试者特定EEG数据的量,并因此增加BCI系统的实用性。我们证明使用视觉诱发电位古怪的任务和三种不同的EEG耳机,无论是在线和离线WAR算法显着优于其他几种算法。此外,通过源域选择,我们可以减少约50%的计算成本,使他们更适合实时应用。
2017-02-09 cs.HC cs.LG
Continual Test-Time Adaptation via Entropy Sensitivity-Guidance in Strict Online Setting
Norwegian University of Life Sciences (NMBU)(挪威生命科学大学);Tulane University(杜兰大学)
本文提出SEGA方法,用于严格在线持续测试时适应,通过结构化擦除探测熵变化以协调恢复与样本选择,在多数据集上提升了鲁棒性与稳定性并减少反向传播次数。
2026-09-01 cs.CV cs.LG
Driver Drowsiness Estimation from EEG Signals Using Online Weighted Adaptation Regularization for Regression (OwARR)
DataNova;U.S. Army Research Laboratory(美国陆军研究实验室);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);DCS Corp(DCS公司);University of Technology, Sydney(悉尼科技大学);National Chiao-Tung University(国立交通大学)
阻碍脑机接口(BCI)从实验室环境过渡到现实生活应用的一个巨大挑战是高性能和鲁棒的学习算法的可用性,其可以有效地处理个体差异,即,可以应用于具有零或非常少的对象特定校准数据的新对象的算法。迁移学习和领域自适应已被广泛用于这一目的。然而,大多数以前的作品集中在分类问题。本文考虑了脑机接口中一个重要的回归问题,即从脑电信号中在线估计驾驶员的困倦程度。通过将模糊集与领域自适应相结合,提出了一种新的在线加权自适应正则化回归(OwARR)算法以减少特定对象的校准数据量,并提出了一种源域选择(SDS)方法以节省OwARR算法一半的计算量。使用模拟驾驶数据集与15个科目,我们表明,OwARR和OwARR-SDS可以实现显着较小的估计误差比其他几种方法。我们还对OwARR和OwARR-SDS的鲁棒性进行了全面的分析。
2017-02-09 cs.HC cs.LG
Online conformal inference with retrospective adjustment for faster adaptation to distribution shift
Inha University(仁荷大学)
针对在线环境数据分布变化问题,提出具有回顾性调整的在线共形推理方法,利用回归方法和高效公式追溯调整预测,经实验表明该方法能在接近标称覆盖率时减少预测区间宽度约30%,提升统计效率与适应性。
2026-07-14 cs.LG stat.ML
Federated Learning with Hypergradient-based Online Update of Aggregation Weights
Nagoya Institute of Technology(名古屋技术大学)
本文提出FedHAW方法,通过超梯度实现聚合权重的在线更新,提升联邦学习在异构数据和通信环境中的泛化能力和鲁棒性。
2026-05-01 cs.LG eess.SP
DIB-OD: Preserving the Invariant Core for Robust Heterogeneous Graph Adaptation via Decoupled Information Bottleneck and Online Distillation
School of Information Technology and Engineering, Tianjin University of Technology and Education(天津职业技术师范大学信息技术工程学院);School of Computer Science and Technology, Tiangong University(天工大学计算机科学与技术学院);Department of Computer Science at University of Exeter(埃克塞特大学计算机科学系)
本文提出DIB-OD框架,通过解耦信息瓶颈和在线蒸馏保留异构图适应中的不变核,解决异构领域泛化难题,实验显示其在跨类型领域转移中表现优异。
2026-08-05 cs.AI cs.LG
OSOA: One-Shot Online Adaptation of Deep Generative Models for Lossless Compression
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
显式深度生成模型(DGMs),例如,VAE和标准化流已被证明为无损压缩提供了一种有效的数据建模替代方案。然而,DGMs本身通常需要大的存储空间,因此污染了精确的数据密度估计带来的优势。为了消除为不同目标数据集保存单独模型的要求,我们提出了一种新的设置,该设置从预训练的深度生成模型开始,并压缩数据批次,同时仅在一个时期内使用动态系统调整模型。我们正式这个设置为单镜头在线适应(OSOA)的DGMs的无损压缩,并提出了香草算法在此设置下。实验结果表明,与训练定制模型相比,香草OSOA可以节省大量时间,与对所有目标使用一个模型相比,可以节省空间。在相同的自适应步长或自适应时间下,vanilla OSOA可以表现出更好的空间效率,例如,与微调预训练模型并保存微调后的模型相比,$47\%$占用的空间更少。此外,我们展示了潜力的OSOA和激励更复杂的OSOA算法,显示进一步的空间或时间效率与多个更新每批和早期停止。
2021-11-02 cs.AI cs.LG
Multi-step Online Unsupervised Domain Adaptation
Purdue University(普渡大学)
在本文中,我们解决在线无监督领域自适应(OUDA)问题,其中目标数据是未标记的,并按顺序到达。针对OUDA问题,传统的方法主要是将每个到达的目标数据转换到源域,没有充分考虑到达目标数据之间的时间相关性和累积统计性。我们提出了一个多步框架的OUDA问题,它建立了一个新的方法来计算的平均目标子空间的几何解释的启发下,在欧几里德空间。该平均目标子空间包含到达的目标数据之间的累积时间信息。此外,作为预处理步骤,将从平均目标子空间计算的变换矩阵应用于下一个目标数据,使目标数据更接近源域。在四个数据集上的实验证明了我们提出的多步OUDA框架中每一步的贡献及其性能优于以前的方法。
2020-02-20 cs.LG stat.ML
PointFix: Learning to Fix Domain Bias for Robust Online Stereo Adaptation
Yonsei University(延世大学);NAVER AI Lab(NAVER AI实验室);Ewha Womans University(成均馆大学)
针对在线立体匹配中动态区域域偏移问题,提出PointFix辅助点选择网络嵌入元学习框架,通过元梯度修复局部变异以稳健初始化模型,实现即插即用并在多种序列自适应中达到最先进性能。
2025-08-26 cs.CV cs.LG
Analysis of Pseudo-Labeling for Online Source-Free Universal Domain Adaptation
Institute of Signal Processing and System Theory , University of Stuttgart, Germany(信号处理与系统理论研究所,斯图加特大学)
本文系统分析了在线无源通用域适应(SF-UniDA)中伪标签对适应结果的影响,发现伪标签准确率比数量更关键,对比损失对中等准确率鲁棒而交叉熵损失在接近完美时更优,揭示了当前方法与理论上界间的差距。
2025-05-30 cs.CV cs.LG
Online Adaptation of Deep Architectures with Reinforcement Learning
University of Sydney(悉尼大学)
在线学习已经成为解决机器学习中许多问题的关键。随着更多的数据被连续收集,快速适应数据分布的变化可以提供几个竞争优势,例如避免先验知识的丢失和更有效的学习。然而,需要在不损害已经内置的模型中的过去知识的情况下执行对数据分布中的变化(也称为协变量偏移)的自适应,以应对大量和动态的数据。在本文中,我们提出了一个在线堆叠去噪自动编码器,其结构是通过强化学习适应。我们的算法迫使网络利用和探索有利的架构,采用估计的效用函数,最大限度地提高看不见的验证序列的准确性。不同的操作,如池,增量和合并可用于修改网络的结构。正如我们通过一系列实验所观察到的那样,我们的方法比非平稳和平稳数据分布的对应方法更具响应性,鲁棒性和原则性。实验结果表明,该算法在保持已有的先验知识和响应数据分布变化方面有较好的性能。
2016-08-08 cs.LG cs.NE
Online-LoRA: Task-free Online Continual Learning via Low Rank Adaptation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);AMD(超威半导体公司)
本文提出Online-LoRA,一种基于低秩适应和在线权重正则化的无任务在线持续学习框架,通过实时微调预训练ViT模型并自动识别数据分布偏移,在多个基准数据集上超越现有方法。
2024-11-08 cs.CV cs.LG