RLSbench: Domain Adaptation Under Relaxed Label Shift
Carnegie Mellon University（卡内基梅隆大学）；Amazon Web Services（亚马逊云科技）
本文构建涵盖视觉、表格和语言的 RLSbench 松弛标签偏移基准，评估13种域适应方法，并提出可兼容多数启发式方法的伪平衡与分类器调整两步元算法。
2023-06-05 cs.CV cs.LG stat.ML
ROAD-VLA: Robust Online Adaptation via Self-Distillation for Vision-Language-Action Models
Air Force Research Laboratory（空军研究实验室）
针对稀疏奖励下VLA模型在线自适应困难，提出ROAD-VLA框架，通过优势引导的自蒸馏在动作空间构建近端教师，将稀疏奖励转化为密集token级监督，并在7个机器人操作环境中优于PPO。
2026-06-25 cs.LG cs.RO
Combating Label Distribution Shift for Active Domain Adaptation
POSTECH（浦项科技大学）
我们考虑的问题，主动领域自适应（ADA）的未标记的目标数据，其中的子集是积极选择和标记给定的预算约束。受最近对领域自适应中源和靶之间标签分布失配的关键问题的分析的启发，我们设计了一种方法，该方法首次在ADA中解决了该问题。其核心是一种新颖的采样策略，该策略寻求最接近整个目标分布的目标数据，并且具有代表性，多样性和不确定性。采样的目标数据，然后不仅用于监督学习，但也用于匹配源和目标域的标签分布，导致显着的性能改善。在四个公共基准测试中，我们的方法在每一个适应场景中都大大优于现有方法。
2022-08-13 cs.AI cs.CV cs.LG
Robust Online Model Adaptation by Extended Kalman Filter with Exponential Moving Average and Dynamic Multi-Epoch Strategy
Peking University（北京大学）；Carnegie Mellon University（卡内基梅隆大学）
智能代理的高保真行为预测在许多应用中至关重要。然而，在训练集上训练的预测模型可能由于域移位和时间方差而不能推广到测试集。这种挑战促使采用在线自适应算法来实时更新预测模型以提高预测性能。受扩展卡尔曼滤波器（EKF）的启发，本文介绍了一系列适用于基于神经网络模型的在线自适应方法。首先介绍了一种带遗忘因子的修正EKF算法（MEKF $_λ$），然后介绍了指数移动平均滤波技术。为了有效利用实时的，本文提出了一种动态的多历元更新策略。在此基础上，提出了一种基于指数移动平均和动态多历元策略的自适应算法MEKF（$_{\text{EMA-DME}}$）。实验结果表明，该算法优于现有的方法。源代码在下面的链接https://github.com/intelligent-control-lab/MEKF_MAME中开放。
2020-04-28 cs.LG stat.ML
A probabilistic framework for online test-time adaptation
Institute of Mathematical Sciences, ICMAT-CSIC（数学科学研究所，ICMAT-CSIC）；Escuela de Doctorado, Universidad Autónoma de Madrid（博士学院，马德里自治大学）
提出基于状态空间模型的概率框架，通过参数学习、时间演化、先验调整和预测，解决测试时分布偏移下的无标签数据适应问题。
2026-06-26 cs.LG stat.ML
Efficient transfer learning and online adaptation with latent variable models for continuous control
Uber AI Labs（优步人工智能实验室）
传统的基于模型的强化学习依赖于手工指定或学习的环境过渡动态模型。这些方法是样本有效的，并且促进了在现实世界中的学习，但是不能推广到底层动态中的细微变化，例如，这是由于机器人代理或时间上的质量、摩擦或致动器的差异。我们建议使用变分推理来学习未知环境属性的显式潜在表示，以加速学习并促进测试时对新环境的泛化。我们使用这些学习到的潜在的在线贝叶斯推理，以快速适应在线环境的变化，而无需保留最近数据的大型重放缓冲区。结合一个神经网络合奏，模型动态和捕捉动态的不确定性，我们的方法表明，在训练和在线适应的连续控制任务HalfCheetah的正迁移。
2018-12-08 cs.LG stat.ML
Online Multi-Source Domain Adaptation through Gaussian Mixtures and Dataset Dictionary Learning
Université Paris-Saclay（巴黎-萨克雷大学）；CEA, List（法国原子能和替代能源委员会List研究所）；Ecole Centrale de Lyon（里昂中央理工学院）
针对流式目标域的在线多源域适应问题，提出基于Wasserstein几何的在线高斯混合模型与数据集字典学习新方法，在Tennessee Eastman Process基准上实现实时适应并作为数据流记忆。
2024-07-29 cs.LG stat.ML
Coordinate Descent with Online Adaptation of Coordinate Frequencies
Institut für Neuroinformatik（神经信息学研究所）；Ruhr-Universität Bochum（波鸿鲁尔大学）；Institut für Mathematik（数学研究所）；Universität Potsdam（波茨坦大学）
坐标下降（CD）算法已成为解决机器学习中许多优化问题的首选方法。它们特别适用于训练线性模型，包括线性支持向量机分类、LASSO回归和逻辑斯谛回归。我们考虑一般CD与非均匀选择的坐标。而不是固定的选择频率预先，我们提出了一个在线自适应机制，这个重要的参数，称为自适应坐标频率（ACF）的方法。这种机制消除了预先估计最佳坐标频率的需要，并且在优化运行期间自动对不断变化的要求做出反应。我们证明了我们的ACF-CD方法的有用性，在机器学习上下文中出现的各种优化问题。我们的算法比最先进的训练方法提供了显着的速度提升。
2014-01-15 cs.LG stat.ML
Ensemble Multi-Source Domain Adaptation with Pseudolabels
Seoul National University（首尔国立大学）
给定带有标签的多个源数据集，我们如何训练没有标签数据的目标模型？多源领域自适应（MSDA）的目的是在没有目标数据标签的情况下，使用与目标数据集不同的多个源数据集训练模型。MSDA是一个关键的问题，适用于许多实际情况下，标签的目标数据是不可用的，由于隐私问题。现有的MSDA框架是有限的，因为它们对齐数据而不考虑条件分布p（x|（1）每个域。他们也错过了大量的目标标签信息，不考虑目标标签在所有和依赖于只有一个特征提取器。在本文中，我们提出了一种新的方法，多源领域自适应与伪标签的包围多源领域自适应（EnMDAP）。EnMDAP利用标签式矩匹配来对齐条件分布p（x| y），对不可用的目标标签使用伪标签，并通过使用多个特征提取器来引入集成学习主题以进行精确的领域自适应。实验结果表明，EnMDAP在图像域和文本域的多源领域自适应任务中均具有较好的性能。
2020-09-29 cs.LG stat.ML
Unsupervised Domain Adaptation with Random Walks on Target Labelings
Radboud University（拉德堡德大学）
无监督域自适应（DA）用于自动化标记数据的任务：使用来自相关域的标记数据集（源）对未标记数据集（目标）进行注释。我们铸造域适应的问题，找到稳定的标签为目标的例子。标签稳定性的一个新的定义，提出了一个大的利润线性分类器的泛化误差界的动机：一个目标标签是稳定的，以高概率，一个分类器训练的随机子样本的目标与标签产生相同的标签。我们发现稳定的标签使用一个有向图的转移概率的标签稳定性的基础上的随机游动。遍历所访问的标签的多数投票为每个目标示例生成一个稳定的标签。由此产生的域自适应算法非常容易实现和应用：它不依赖于数据转换，这在存在许多输入特征的情况下通常是计算禁止的，并且不需要访问源数据，这在数据共享受到限制时是有利的。通过作用于原始特征空间，我们的方法能够充分利用外部预训练神经网络的深度特征，正如我们的实验结果所证明的那样。
2018-03-20 cs.LG stat.ML
Collaborative Unsupervised Domain Adaptation for Medical Image Diagnosis
South China University of Technology（华南理工大学）；Tencent AI Lab（腾讯人工智能实验室）
基于深度学习的医学影像诊断在临床医学中显示出巨大的潜力。然而，它在实践中经常遭受两个主要困难：1）由于医学图像上昂贵的注释成本，只有有限的标记样本可用; 2）标记图像可能包含相当大的标记噪声（例如，标签错误），因为诊断困难。在本文中，我们试图利用丰富的相关领域的标记数据，以帮助学习的目标任务与无监督领域自适应（UDA）。与大多数现有的UDA方法依赖于干净的标记数据或假设样本是平等可转移的不同，我们提出了一种新的协作无监督领域自适应算法，以进行可转移性感知的领域自适应，并以合作的方式克服标签噪声。实验结果验证了该方法的优越性。
2019-11-17 cs.LG stat.ML
Class Probability Matching Using Kernel Methods for Label Shift Adaptation
University of Twente（特温特大学）
针对标签偏移自适应现有方法仍用特征概率匹配的问题，提出类别概率匹配框架，结合核逻辑回归推出CPMKM算法，推导了其最优收敛速率，实验证明其性能优于现有相关算法。
2023-12-12 cs.LG stat.ML
Multi-step Online Unsupervised Domain Adaptation
Purdue University（普渡大学）
在本文中，我们解决在线无监督领域自适应（OUDA）问题，其中目标数据是未标记的，并按顺序到达。针对OUDA问题，传统的方法主要是将每个到达的目标数据转换到源域，没有充分考虑到达目标数据之间的时间相关性和累积统计性。我们提出了一个多步框架的OUDA问题，它建立了一个新的方法来计算的平均目标子空间的几何解释的启发下，在欧几里德空间。该平均目标子空间包含到达的目标数据之间的累积时间信息。此外，作为预处理步骤，将从平均目标子空间计算的变换矩阵应用于下一个目标数据，使目标数据更接近源域。在四个数据集上的实验证明了我们提出的多步OUDA框架中每一步的贡献及其性能优于以前的方法。
2020-02-20 cs.LG stat.ML
Learning Condensed and Aligned Features for Unsupervised Domain Adaptation Using Label Propagation
Seoul National University（首尔国立大学）
为了解决监督学习中的标记问题，特别是在实际中难以获得大量标记数据的情况下，出现了无监督领域自适应，其目的是使用另一个领域的数据来学习一个领域的特定任务。现有的方法通过减少两个域的嵌入特征之间的差异而取得了成功，但是与监督学习方案相比，性能仍然不能令人满意。这是由于嵌入的特征彼此围绕，但不能完美地对齐，并建立明确可分离的集群。提出了一种基于标签传播和循环一致性的领域自适应方法，使两个领域的特征聚类准确重叠，并变得清晰，从而提高了分类精度。具体来说，我们引入循环一致性来加强每个簇之间的关系，并利用标签传播来实现数据之间的关联，从流形结构的角度来看，而不是一对一的关系。因此，我们成功地形成了对齐的和有区别的集群。我们提出了我们的方法为各种领域自适应方案的实证结果和可视化的嵌入式功能，以证明我们的方法是更好的领域自适应的关键。
2019-03-12 cs.LG stat.ML
Intrinsic Motivation and Mental Replay enable Efficient Online Adaptation in Stochastic Recurrent Networks
Technische Universität Darmstadt（达姆施塔特工业大学）；Max-Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Universität zu Lübeck（吕贝克大学）
自主机器人需要与未知、非结构化和不断变化的环境进行交互，不断面临新的挑战。因此，持续在线适应终身学习和样本效率机制的需求，以适应环境，约束，任务或机器人本身的变化至关重要。在这项工作中，我们提出了一个新的框架，概率在线运动规划与在线适应的基础上，生物启发的随机递归神经网络。通过使用模仿内在动机信号的学习信号，加上心理重放策略来强化经验，随机递归网络可以从很少的物理交互中学习，并在几秒钟内适应新的环境。我们在拟人KUKA LWR手臂上评估了我们的在线规划和自适应框架。快速在线自适应通过从少量物理交互中有效地学习未知的工作空间约束，同时遵循给定的路径点来实现。
2018-10-23 cs.AI cs.LG cs.RO
Provably Efficient Offline-to-Online Value Adaptation with General Function Approximation
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
研究离线到在线强化学习中的价值适应问题，提出O2O-LSVI算法，在特定条件下证明其优于纯在线强化学习。
2026-10-09 cs.LG
Labeled Memory Networks for Online Model Adaptation
IIT Bombay（印度理工学院孟买分校）
用记忆增强神经网络，而不增加训练参数的数量，是一个最近的强大概念，有许多令人兴奋的应用。我们提出了一种设计的记忆增强神经网络（MANN）称为标签记忆网络（LMNs）适合于需要在线适应分类模型的任务。LMN以类作为主键码来组织记忆，记忆作为继常规神经网络之后的第二个提升阶段，从而允许记忆和主网络发挥互补作用。与针对每个实例写入存储器并使用基于LRU的存储器替换的现有MANN不同，LMN仅针对具有非零丢失的实例写入并使用基于标签的存储器替换。我们在各种任务上表现出显着的准确性增益，包括单词建模和少样本学习。在本文中，我们建立了他们的潜力，在线适应一批训练神经网络领域相关的标记数据在部署时。我们表明，LMNs优于其他MANN设计的元学习。我们还发现，它们比最先进的重新调整模型参数的方法更准确，更快，以适应特定领域的标记数据。
2017-12-02 cs.LG stat.ML
Online probabilistic label trees
Poznan University of Technology（波兹南理工大学）；Yahoo Research（雅虎研究院）
我们引入了在线概率标签树（OPLT），这是一种以完全在线的方式训练标签树分类器的算法，而无需任何关于训练实例数量、特征和标签的先验知识。OPLT的特点是时间和空间复杂度低，理论保证强。它们可用于在线多标签和多类分类，包括非常具有挑战性的一次性或少样本学习场景。我们在对上述任务的几个实例进行的广泛实证研究中展示了OPLT的吸引力。
2021-03-26 cs.LG stat.ML
Graph Domain Adaptation with Localized Graph Signal Representations
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；METU（中东技术大学）；Koç University（科奇大学）
本文提出了一种针对图域设计的领域自适应算法。给定一个具有许多标记节点的源图和一个具有很少或没有标记节点的目标图，我们的目标是通过利用两个图上的标签函数的变化特征之间的相似性来估计目标标签。我们关于源域和目标域的假设是，标签函数的局部行为，例如其在图上的传播和变化速度，在两个图之间具有相似性。我们估计未知的目标标签，通过解决一个优化问题，其中标签信息从源图转移到目标图的基础上，在本地化图基地的标签函数的投影是相似的源和目标图之间的先验。为了有效地捕捉标签函数在图上的局部变化，谱图小波被用作图基。在不同数据集上的实验结果表明，与参考领域自适应方法相比，该方法具有令人满意的分类精度。
2021-12-01 cs.LG stat.ML
Hot Swapping for Online Adaptation of Optimization Hyperparameters
University of California, Irvine（加州大学尔湾分校）；eBay Research Labs（eBay研究实验室）
我们描述了一个一般的框架在线适应优化超参数“热交换”在学习过程中的值。我们调查这种方法的背景下，自适应学习率选择使用的探索-利用策略，从多臂土匪文献。在一个基准神经网络上的实验表明，与AdaDelta和具有穷举超参数搜索的随机梯度等知名替代方案相比，热插拔方法始终导致更好的解决方案。
2015-04-13 cs.LG
Online Feature Updates Improve Online (Generalized) Label Shift Adaptation
UC San Diego（加利福尼亚大学圣迭戈分校）；Cornell University（康奈尔大学）；University of Oxford（牛津大学）；Google DeepMind（谷歌DeepMind）
针对在线场景下带标签缺失的标签偏移问题，提出结合自监督学习在线更新特征的OLS-OFU方法，理论上保持相近在线遗憾收敛性，实验效果较现有方法有显著提升。
2024-10-31 cs.LG
Source Component Shift Adaptation via Offline Decomposition and Online Mixing Approach
NEC Corporation（日本电报电话株式会社）
针对源成分偏移自适应问题，提出基于离线分解与在线混合的方法，通过 EM 算法离线学习源成分并利用在线凸优化更新混合权重，显著提升了自适应性能并降低了累积测试损失。
2025-08-14 cs.LG
Learning the Context of Errors: Black-Box Online Adaptation of Time Series Foundation Models
Ant International（蚂蚁国际）；The Chinese University of Hong Kong（香港中文大学）
针对黑盒时间序列基础模型在线自适应问题，提出ORCA方法，通过学习基础模型预测误差的上下文（输入和输出）进行自适应，在5个模型和8个数据集上验证有效性。
2026-10-06 cs.LG
Online classifier adaptation for cost-sensitive learning
Xi’an University of Architecture and Technology（西安建筑科技大学）；Universitat Jaume I（海梅一世大学）
在本文中，我们提出了在线成本敏感分类器自适应问题以及解决该问题的第一个算法。我们假设我们有一个用于成本敏感分类问题的基础分类器，但它是针对与期望的成本设置不同的成本设置进行训练的。此外，我们也有一些训练数据样本流到算法一个接一个。问题是使用在线的蒸汽训练样本使给定的基本分类器适应所需的成本设置。为了解决这个问题，我们提出了学习一个新的分类器，通过添加一个自适应函数的基本分类器，并根据流数据样本更新的自适应函数参数。给定一个输入数据样本和错误分类它的成本，我们通过最小化成本加权铰链损失并同时考虑先前学习的参数来更新自适应函数参数。在两个代价敏感分类问题上，将该算法与在线代价敏感算法和离线代价敏感算法进行了比较，实验结果表明，该算法不仅在分类性能上优于在线代价敏感算法和离线代价敏感算法，而且运行时间明显缩短。
2015-03-23 cs.LG
Online ML Self-adaptation in Face of Traps
Charles University（查理大学）；Katholieke Universiteit Leuven（鲁汶天主教大学）；Linnaeus University（林奈大学）
本文探讨了在线机器学习在自适应系统应用中遇到的规范、训练与评估等陷阱，并总结经验教训为后续研究提供指导。
2023-09-11 cs.LG cs.NE
Importance Weight Estimation and Generalization in Domain Adaptation under Label Shift
Purdue University（普渡大学）
本文研究范畴和一般赋范标号空间在标号移位下的推广。我们提出了一系列的方法来估计从标记源到未标记目标域的重要性权重，并提供这些估计的置信界。我们部署这些估计器，并提供在未标记的目标域的泛化范围。
2021-06-05 cs.LG
Unsupervised Domain Adaptation with Progressive Adaptation of Subspaces
Nanjing University of Aeronautics & Astronautics（南京航空航天大学）
无监督领域自适应（UDA）是一种基于领域移位的知识转移算法，通过对已有标记的源领域进行知识转移，实现对未标记目标领域的分类。现有的大多数UDA方法试图通过减少域差异来减轻迁移带来的不利影响。然而，由于目标域中缺少标签，这样的方法容易遭受臭名昭著的模式坍塌问题。自然，缓解这个问题的有效方法之一是可靠地估计目标域的伪标签，这本身就很难。为了克服这一点，我们提出了一种新的UDA方法命名为渐进适应子空间的方法（PAS），我们利用这样的直觉，似乎更合理，逐步获得可靠的伪标签。具体而言，我们通过自适应地锚定/选择和利用具有可靠伪标签的目标样本，逐步稳步地改进共享子空间作为知识传递的桥梁。随后，细化的子空间又可以提供目标域的更可靠的伪标签，使得模式坍塌得到高度缓解。我们的全面评估表明，PAS不仅是有效的共同的UDA，但也优于国家的艺术更具有挑战性的部分领域自适应（PDA）的情况下，源标签集包含的目标之一。
2020-09-01 cs.CV cs.LG stat.ML
Revisiting Dynamic Evaluation: Online Adaptation for Large Language Models
Google DeepMind（谷歌DeepMind）
本文研究大型语言模型在测试时的在线微调（动态评估），从权重记忆与上下文扩展视角分析其样本效率、分布漂移敏感性和计算开销，并指出其模糊了上下文学习与微调的界限。
2024-03-03 cs.CL cs.LG
Hybrid Active-Online Learning Framework for Label-Efficient Concept Drift Adaptation in Optical Network Failure Detection
提出混合主动在线学习框架，通过基于间隔的选择性标记仅查询3.4%的流样本，实现接近上限的准确率和AUC，且延迟开销可忽略。
2026-06-29 cs.LG eess.SP
Deep Online Learning via Meta-Learning: Continual Adaptation for Model-Based RL
UC Berkeley（加州大学伯克利分校）
人类和动物可以学习复杂的预测模型，使他们能够准确可靠地推理现实世界的现象，并且他们可以在面对意外变化时非常迅速地适应这些模型。深度神经网络模型允许我们表示非常复杂的功能，但缺乏快速在线适应的能力。本文的目标是开发一种使用深度神经网络模型从传入数据流中进行持续在线学习的方法。我们制定了一个在线学习程序，使用随机梯度下降更新模型参数，并与中国餐厅的过程之前，开发和维护的混合模型来处理非平稳任务分布的期望最大化算法。这允许所有模型根据需要进行调整，新模型针对任务更改进行实例化，旧模型在再次遇到以前看到的任务时被调用。此外，我们观察到元学习可以用于元训练模型，使得SGD的这种直接在线自适应是有效的，否则对于大型函数逼近器来说就不是这种情况。在这项工作中，我们将我们的元学习在线学习（MOLe）方法应用于基于模型的强化学习，其中调整预测模型对于控制至关重要;我们证明MOLe优于其他先验方法，并在非平稳任务分布（如变化的地形，电机故障和意外干扰）中实现有效的连续适应。
2019-01-28 cs.AI cs.LG cs.RO
Offline Meta Reinforcement Learning with In-Distribution Online Adaptation
Tsinghua University（清华大学）；Huazhong University of Science and Technology（华中科技大学）；Peking University（北京大学）
针对离线元强化学习中离线数据与在线适应间的转移—奖励分布偏移问题，提出 IDAQ 框架，通过基于回报的不确定性量化生成分布内上下文并推断任务信念，在 Meta-World ML1 上达到最优性能。
2023-06-01 cs.AI cs.LG
A Fuzzy-set-based Joint Distribution Adaptation Method for Regression and its Application to Online Damage Quantification for Structural Digital Twin
Politecnico di Milano（米兰理工大学）；Beihang University（北京航空航天大学）
在线损害量化遭受不充分的标记数据，削弱了其准确性。在这种情况下，采用对来自类似结构/损伤的历史标记数据或模拟数字孪生数据的领域自适应来辅助当前诊断任务将是有益的。然而，大多数领域自适应方法是为分类而设计的，并且不能有效地解决损伤量化，这是一个具有连续实值标签的回归问题。本研究首先提出一种新的领域自适应方法--基于在线模糊集的回归联合分布自适应方法。通过模糊集将连续实值标签转换为模糊类别标签，同时度量边缘和条件分布差异，实现损伤量化任务的领域自适应。基于该方法的优越性，提出了一种基于领域自适应的在线损伤量化框架。最后，以某型直升机为例，进行了不同损伤位置、不同损伤类型和从仿真到试验的3种损伤领域自适应，验证了该方法在真实环境下能够显著提高损伤量化的准确性。预计该方法将应用于考虑个体差异的船队级数字孪生。
2023-02-07 cs.CE cs.LG
ACDC: Online Unsupervised Cross-Domain Adaptation
Nanyang Technological University（南洋理工大学）；Singapore Institute of Manufacturing Technology（新加坡制造技术研究院）
我们考虑在线无监督的跨领域自适应问题，其中两个独立但相关的数据流具有不同的特征空间-一个完全标记的源流和一个未标记的目标流-一起学习。出现了独特的特征和挑战，例如协变量偏移、异步概念偏移和对比数据吞吐量。我们提出了ACDC，一个对抗性的无监督领域自适应框架，它可以用一个完整的自进化神经网络结构来处理多个数据流，对这些挑战做出反应。ACDC将三个模块封装到一个模型中：一个提取特征的去噪自动编码器，一个执行域转换的对抗模块，以及一个学习源流并预测目标流的估计器。ACDC是一个灵活且可扩展的框架，具有很少的超参数可调性。我们的实验结果下的prequential测试，然后训练协议表明，在基线方法的目标精度的改善，在某些情况下，实现了超过10%的增加。
2021-10-04 cs.LG
Towards Understanding GD with Hard and Conjugate Pseudo-labels for Test-Time Adaptation
Yale University（耶鲁大学）
我们考虑一个设置，模型需要适应一个新的域下分布偏移，给定的只有未标记的测试样本从新的域是在测试时可访问的。在大多数相关工作中，一个共同的想法是为未标记的测试样本构造伪标签，并将梯度下降（GD）应用于具有伪标签的损失函数。最近，\cite{GSRK22}提出了共轭标签，这是一种新的伪标签，用于在测试时进行自训练。他们的经验表明，共轭标签优于许多领域自适应基准上的伪标记的其他方式。然而，可证明地显示具有共轭标签的GD学习用于测试时自适应的良好分类器仍然是开放的。在这项工作中，我们的目标是在理论上理解GD与硬共轭标签的二进制分类问题。我们发现，对于平方损失，共轭标签GD收敛到一个$ε$ -最佳的预测高斯模型下的任何任意小的$ε$，而GD硬伪标签失败，在这项任务。我们还分析了他们在不同的损失函数的更新。我们的研究结果有助于理解GD与硬标签或共轭标签在测试时自适应中工作的时间和原因。
2023-02-26 cs.LG
On Label Shift in Domain Adaptation via Wasserstein Distance
Monash University（莫纳什大学）；VinAI Research（VinAI研究院）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
我们研究了一般领域自适应（DA）设置中源域和目标域之间的标签偏移问题。我们考虑将目标转换到源域，这使我们能够对齐源和目标示例。通过这些转换，我们通过最佳传输定义了两个域之间的标签偏移，并发展了理论来研究DA在各种DA设置下的性质（例如，闭集、部分集、开集和通用集）。从发达的理论的启发，我们提出了标签和数据移位减少通过最佳传输（LDROT），可以减轻数据和标签偏移同时。最后，我们进行了全面的实验，以验证我们的理论研究结果，并比较LDROT与国家的最先进的基线。
2022-03-02 cs.LG stat.ME stat.ML
Feature-Model-Guided Online Learning for Self-Adaptive Systems
University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Lille（里尔大学）；Politecnico di Milano（米兰理工大学）
自适应系统可以在运行时根据其对环境、自身和需求的感知来修改其自身的结构和行为。为了开发一个自适应系统，软件开发人员编纂有关系统及其环境的知识，以及适应行为如何影响系统。然而，由于设计时间的不确定性，编码的知识可能是不够的，因此自适应系统可能执行不具有期望效果的自适应动作。在线学习是通过在运行时采用机器学习来解决设计时间不确定性的新兴方法。在线学习通过例如探索尚未执行的适应动作来在运行时积累知识。我们解决两个具体的问题，在线学习自适应系统。首先，可能的适应行动的数量可能非常大。现有的在线学习技术随机地探索可能的适应动作，但是这可能导致学习过程的缓慢收敛。第二，可能的适应行动可以改变作为系统进化的结果。现有的在线学习技术没有意识到这些变化，因此不探索新的适应动作，而是探索不再有效的适应动作。我们建议使用特征模型来构造适应动作集，从而指导在线学习的探索过程。涉及四个真实世界系统的实验结果表明，考虑特征模型的层次结构可以平均加速收敛7.2%。考虑到进化步骤之前和之后的特征模型之间的差异，可以平均加速收敛64.6%。[...]
2019-07-22 cs.LG cs.SE
Rectifying Geometric Misalignment: Online Source-Free Adaptation for Class-Imbalanced EEG
针对类别不平衡脑电图的在线源适配问题，提出OSPDIM框架，通过流形约束偏置参数的实时优化校正几何错位，在运动想象数据集上显著优于标准黎曼基线。
2026-08-07 cs.LG
Fast On-Device Adaptation for Spiking Neural Networks via Online-Within-Online Meta-Learning
King’s College London（伦敦国王学院）
脉冲神经网络（SNN）最近因其低功耗特性而成为移动医疗管理和自然语言处理等应用的设备上边缘智能的机器学习模型。在这种高度个性化的用例中，重要的是模型能够仅用最少量的训练数据来适应个体的独特特征。元学习已经被提出作为一种训练模型的方法，这些模型面向快速适应新任务。SNN的少数现有元学习解决方案离线运行，需要某种形式的反向传播，这与当前的神经形态边缘设备不兼容。在本文中，我们提出了一个名为OWOML-SNN的SNN的在线内在线元学习规则，该规则可以在任务流上进行终身学习，并依赖于本地，无反向传播，嵌套更新。
2021-02-21 cs.LG cs.NE eess.SP
Online Variance Reduction for Domain Adaptation on Streaming Data
University of Southampton（南安普顿大学）
研究流数据域适应的随机方差缩减问题，提出在线SVR算法ARROW，通过维护移动平均参考和自适应重新加权小批量数据，使小批量与参考统计量对齐，实验表明该算法在运行时间、方差缩减及目标域准确性方面与离线算法相当。
2026-07-23 cs.LG
Brain-Inspired Online Adaptation for Remote Sensing with Spiking Neural Network
Brain-Inspired Application Technology Center (BATC)（脑启发应用技术中心）；School of Electronic Information and Electrical Engineering（电子信息与电气工程学院）；Shanghai Jiao Tong University（上海交通大学）；ATR Key Lab（ATR重点实验室）；School of Electronic Science and Engineering（电子科学与工程学院）；National University of Defense Technology（国防科学技术大学）
本文首次提出基于脉冲神经网络的遥感在线自适应框架，通过BPTT近似、自适应激活缩放和置信度实例加权，在七个基准数据集上显著超越现有方法，实现边缘设备上的高能效快速适应。
2025-07-21 cs.CV cs.LG cs.NE
RCPN: towards robust pseudo-labels in unsupervised CLIP adaptation via consistent prototypes and neighborhoods
Mohamed Bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学）；Indian Institute of Technology Delhi（印度德里理工学院）；Alexandria University（亚历山大大学）
针对CLIP等视觉-语言模型无监督适配中伪标签噪声大、传统过滤方法不可靠的问题，提出融合原型与邻域一致性的自适应伪标签框架，含PICS、NALR模块及自适应加权机制，在11个基准上实现无监督适配SOTA。
2026-10-19 cs.LG
Domain Adaptation under Open Set Label Shift
Carnegie Mellon University（卡内基梅隆大学）
本文介绍了开放集标签偏移（OSLS）下的领域自适应问题，其中标签分布可以任意改变，新的类可能在部署过程中到达，但类条件分布p（x| y）是域不变的。OSLS将领域自适应纳入标签偏移和正未标记（PU）学习中。这里学习器的目标有两个：（a）估计目标标签分布，包括新类;（b）学习目标分类器。首先，我们建立了确定这些量的充分必要条件。其次，在标签偏移和PU学习的进步的激励下，我们提出了利用黑盒预测器的两个任务的实用方法。与典型的开集领域自适应（OSDA）问题，往往是不适定的，只服从于数学，OSLS提供了一个良定的问题，服从于更有原则的机制。在视觉、语言和医学数据集上进行的大量半合成基准测试表明，我们的方法始终优于OSDA基线，目标域准确度提高了10- 25%。最后，我们分析了所提出的方法，建立有限样本收敛到真正的标签边缘和收敛到最佳分类器的线性模型在高斯设置。代码可在https://github.com/acmi-lab/Open-Set-Label-Shift上获得。
2022-10-16 cs.LG
Meta-Tracker: Fast and Robust Online Adaptation for Visual Object Trackers
Department of Computer Science, University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校计算机科学系）
本文改进了使用在线自适应的最先进的视觉对象跟踪器。我们的核心贡献是一种基于离线元学习的方法，用于调整在线自适应跟踪中使用的初始深度网络。Meta学习由深度网络的目标驱动，可以快速适应未来帧中的特定目标。理想情况下，生成的模型将重点放在对未来帧有用的特征上，并避免过度拟合背景杂波、目标的小部分或噪声。通过在元学习过程中强制执行少量的更新迭代，最终的网络训练速度明显更快。我们证明了这种方法的高性能跟踪方法的顶部：跟踪检测为基础的MDNet和相关性为基础的CREST。在标准基准测试OTB 2015和VOT 2016上的实验结果表明，我们的两种跟踪器的元学习版本提高了速度、准确性和鲁棒性。
2018-03-19 cs.CV cs.LG
ELSA: Efficient Label Shift Adaptation through the Lens of Semiparametric Models
University of Waterloo（滑铁卢大学）；Meta Inc.（Meta公司）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文提出ELSA方法，通过矩匹配框架和影响函数几何性质求解线性方程组来估计标签偏移适应权重，无需预测后校准即可实现高效且具有理论保证的领域适应。
2023-05-30 cs.LG math.ST stat.ML
Experimental Demonstration of Online Learning-Based Concept Drift Adaptation for Failure Detection in Optical Networks
1 Aston Institute of Photonic Technologies, Aston University, B4 7ET Birmingham, UK 2 Nokia, Optical Networks, 2790-078 Carnaxide, Portugal 3 Instituto de Telecomunica c \ o es, Instituto Superior T\' e cnico, 1049-001 Lisboa, Portugal 4 Nokia, Optical Networks, 81541 Munich, Germany
本研究提出一种基于在线学习的概念漂移适应方法，用于提升光学网络故障检测性能，实现70%的性能提升并保持低延迟。
2026-02-11 cs.LG eess.SP physics.optics
Online Task Adaptation via Self-Organisation
本文提出一种基于神经细胞自动机的元学习自组织机制，通过快速记忆更新实现无梯度的在线任务自适应，在保留分类任务上显著提升性能。
2026-09-25 cs.LG cs.NE
Online Learning via Learned Latent Bayesian Tracking
Ben-Gurion University（本-古里安大学）；Northeastern University London（东北大学伦敦校区）
针对非平稳环境下高维模型在线学习计算困难的问题，提出AURA元学习框架，通过学习低维潜状态空间模型并利用扩展卡尔曼滤波实现高效在线适应，在无线接收机和图像分类任务上显著提升适应速度与精度。
2026-09-30 cs.LG eess.SP
Scaling Combinatorial Optimization Neural Improvement Heuristics with Online Search and Adaptation
本研究提出有限滚动束搜索LRBS，用于基于深度强化学习的组合优化改进启发式算法，可提升分布内性能与大实例泛化能力，结合离线在线自适应进一步超越现有自适应构造式启发式方法。
2024-12-13 cs.AI cs.LG
FormulaZero: Distributionally Robust Online Adaptation via Offline Population Synthesis
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）；Massachusetts Institute of Technology（麻省理工学院）
平衡性能和安全性对于在多智能体环境中部署自动驾驶汽车至关重要。特别是，自动驾驶赛车是一个惩罚安全但保守的政策的领域，突出了对稳健，适应性策略的需求。目前的方法要么简化了对其他代理人的假设，要么缺乏强大的在线适应机制。这项工作使算法的贡献，这两个挑战。首先，为了生成一个现实的，多样化的对手，我们开发了一种新的方法，自我发挥的基础上复制交换马尔可夫链蒙特卡罗。其次，我们提出了一个分布式鲁棒的强盗优化过程，自适应调整风险规避相对于对手的行为信念的不确定性。当在实时运动规划中近似这些计算时，我们严格量化了性能和鲁棒性的权衡，并且我们在自动驾驶汽车上实验性地展示了我们的方法，这些自动驾驶汽车可以达到与一级方程式赛车相当的缩放速度。
2020-08-22 cs.LG cs.MA cs.RO
Cross-Domain Label Propagation for Domain Adaptation with Discriminative Graph Self-Learning
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Nanjing University of Science and Technology（南京理工大学）
领域自适应设法将良好标记的源数据的知识转移到未标记的目标数据。许多最近的努力集中在提高目标伪标记的预测准确性以减少条件分布偏移。本文提出了一种新的领域自适应方法，该方法通过跨领域标签传播来推断目标伪标签，从而可以探索两个领域数据的底层流形结构。与现有的跨域标签传播方法不同，将域不变特征学习，亲和矩阵构建和目标标签推断分为三个独立的阶段，我们建议将它们集成到一个统一的优化框架中。通过这种方式，这三个部分可以从迭代优化的角度相互促进，从而实现更有效的知识转移。此外，为了构造高质量的亲和矩阵，提出了一种判别图自学习策略，该策略不仅能够自适应地捕获两个领域数据的内在相似性，而且能够有效地利用良好标记的源数据和伪标记的目标数据中所包含的判别信息.设计了一个有效的迭代优化算法来求解我们提出的目标函数。值得注意的是，所提出的方法可以以简单但有效的方式扩展到半监督领域自适应，并且可以用相同的算法来解决相应的优化问题。在六个标准数据集上的实验验证了该方法在无监督和半监督领域自适应环境下的显著优越性。
2023-02-17 cs.LG
Domain-Invariant Feature Alignment Using Variational Inference For Partial Domain Adaptation
Arizona State University（亚利桑那州立大学）
标准闭集领域自适应方法试图在两个域共享相同标签集的约束下减轻两个域之间的分布差异。然而，在现实的情况下，找到一个最佳的源域具有相同的标签空间是一个具有挑战性的任务。部分领域自适应解决了获取具有相同标签空间假设的标记数据集的问题，并解决了源标签集包含目标标签集的更实际的场景。然而，这在适应过程中造成了一些额外的障碍。带有源域私有类别的样本会阻碍相关知识的传递并降低模型性能。在这项工作中，我们试图通过将变分信息和对抗学习与伪标签技术相结合来解决这些问题，以加强类分布对齐并最大限度地减少源样本中多余信息的传输。在许多跨域分类任务的实验结果表明，所提出的技术提供了优越的和可比的准确性，现有的方法。
2022-12-03 cs.LG
One-Shot Learning of Manipulation Skills with Online Dynamics Adaptation and Neural Network Priors
University of California, Berkeley（加州大学伯克利分校）
将强化学习应用于复杂的机器人控制任务的关键挑战之一是需要收集大量的经验，以便为手头的任务找到有效的策略。基于模型的强化学习可以实现良好的样本效率，但需要学习足够好以学习有效策略的动态模型的能力。在这项工作中，我们开发了一个基于模型的强化学习算法，结合了先前任务的先验知识与动态模型的在线适应。这两个成分使得即使在估计真实动态非常困难的情况下也能够实现高度样本有效的学习，因为在线模型自适应允许该方法局部补偿动态中的未建模变化。我们编码到一个神经网络动态模型的先验经验，适应它在线逐步改装的局部线性模型的动态，并使用模型预测控制计划根据这些动态。我们的实验结果表明，这种方法可以用来解决各种复杂的机器人操作任务，在一个单一的尝试，使用其他操作行为的先验数据。
2016-08-11 cs.LG cs.RO
Automatic Online Multi-Source Domain Adaptation
Nanyang Technological University（南洋理工大学）
跨多个流流程的知识转移仍然是一个具有挑战性的问题，这不仅是因为每个流的分布不同，而且还因为数据流的环境瞬息万变且永无休止。虽然这方面的研究成果越来越多，但大多数现有的工作都是针对单个源域开发的，这限制了其利用多源域的弹性，这有利于快速从概念漂移中恢复并避免负迁移问题。提出了一种多媒体流处理下的在线领域自适应技术，即自动在线多源领域自适应（AOMSDA）。AOMSDA的在线领域自适应策略是在去噪自动编码器（DAE）的生成和判别耦合方法下制定的，其中基于中心矩差异（CMD）的正则化器被集成以处理多源域的存在，从而利用互补的信息源。通过自组织结构和节点权重调整策略，解决了不同时间段发生的异步概念漂移问题。我们的数值研究表明，AOMSDA是能够超越其同行的8个研究案例中的5个，而消融研究描绘了每个学习组件的优势。此外，AOMSDA一般适用于任何数量的源流。AOMSDA的源代码在https://github.com/Renchunzi-Xie/AOMSDA.git上公开共享。
2021-09-12 cs.AI cs.LG
Adaptive label thresholding methods for online multi-label classification
Yangzhou University（扬州大学）；Nanjing University of Information Science and Technology（南京信息工程大学）
现有的在线多标签分类算法不能很好地处理在线标签阈值问题，并且缺乏对在线算法的遗憾分析。针对现有自适应标签阈值算法在在线多标签分类中的不足，提出了一种新的自适应标签阈值算法。我们的框架的主要特点是，评分和阈值模型包括作为在线多标签分类器的重要组成部分，并纳入一个在线优化问题。此外，为了建立评分和阈值模型之间的关系，一种新的多标签分类损失函数的推导，它的措施，在何种程度上的多标签分类器可以区分相关的标签和不相关的传入的实例。基于这个新的框架和损失函数，我们提出了一个一阶线性算法和二阶线性算法，这两个算法都享有封闭形式的更新，但依赖于不同的技术来更新多标签分类器。这两种算法被证明是实现一个次线性遗憾。使用Mercer内核，我们的一阶算法已被扩展到处理非线性多标签预测任务。实验表明，我们的线性和非线性算法的优势，在各种多标签的性能指标。
2021-12-04 cs.LG
