Source -Free Domain Adaptation for Speaker Verification in Data-Scarce Languages and Noisy Channels
Afeka Center for Language Processing（阿费卡语言处理中心）；Afeka Tel-Aviv College of Engineering（阿费卡特拉维夫工程学院）
本文研究在数据稀缺语言和噪声信道下，无需访问源数据的说话人验证域自适应方法，比较不同规模有标签数据的微调策略，并提出迭代聚类-学习算法处理无标签目标数据。
2024-06-09 cs.LG cs.SD eess.AS
Meta Label Correction for Noisy Label Learning
Microsoft Research（微软研究院）
利用弱监督或噪声监督来构建有效的机器学习模型一直是一个重要的研究问题。最近，由于越来越需要大规模数据集来训练深度学习模型，其重要性进一步增加。弱或嘈杂的监督可能来自多个来源，包括非专家注释者或基于语义或用户交互信号的自动标记。以前有大量的工作集中在利用嘈杂的标签。最值得注意的是，最近的工作已经显示出令人印象深刻的收益，通过使用元学习的实例重新加权方法，其中元学习框架用于分配实例权重到嘈杂的标签。在本文中，我们扩展了这种方法，通过提出的问题作为标签校正问题的元学习框架内。我们将标签校正过程视为一个元过程，并提出了一个新的基于元学习的框架MLC（Meta Label Correction），用于带噪声标签的学习。具体而言，采用标签校正网络作为元模型，以产生噪声标签的校正标签，同时训练主模型以利用校正标签。这两个模型通过解决双层优化问题来联合训练。我们在图像识别和文本分类任务中使用不同的标签噪声水平和类型进行了广泛的实验。我们比较了重新加权和校正方法，表明校正框架解决了重新加权的一些局限性。我们还表明，建议的MLC方法实现了很大的改进，在许多设置比以前的方法。
2021-08-06 cs.LG stat.ML
PID-Gated Continual Prompt Adaptation Under Noisy Feedback
该研究针对非平稳环境中LLM智能体的提示适配问题，提出PID门控方法，在任务性能与编辑成本间实现更优帕累托权衡，为不可靠反馈下的鲁棒提示适配提供了通用工具。
2026-10-14 cs.AI cs.CL cs.LG
The effects of negative adaptation in Model-Agnostic Meta-Learning
Mila – Université de Montréal（米拉研究所——蒙特利尔大学）
元学习算法快速适应各种任务的能力，包括它们在元训练期间没有经历过的任务，是这些方法最近在少样本学习问题上取得成功的关键因素。使用元学习优于标准监督学习或强化学习的这种特殊优势只有在假设适应阶段确实提高了我们模型在感兴趣任务上的性能的情况下才有充分的依据。然而，在元学习的经典框架中，这种约束即使没有也只是温和地强制执行，我们只能看到任务分配的平均改善。在本文中，我们证明了MAML算法中的自适应可以显着降低Meta强化学习设置中代理的性能，即使是在一系列元训练任务中。
2018-12-05 cs.LG stat.ML
Meta-SAGE: Scale Meta-Learning Scheduled Adaptation with Guided Exploration for Mitigating Scale Shift on Combinatorial Optimization
KAIST（韩国科学技术院）
提出 Meta-SAGE，通过尺度元学习器和带引导探索的调度式自适应，在测试时将组合优化深度强化学习模型迁移到更大规模问题并提升性能。
2023-06-07 cs.LG stat.ML
Curriculum Guided Domain Adaptation in the Dark
Rochester Institute of Technology（罗切斯特理工学院）
针对暗黑领域自适应中黑盒模型迁移问题，提出CABB方法，利用Jensen-Shannon散度分离样本并通过双分支协同训练实现端到端课程引导适应，性能优于现有黑盒方法且媲美白盒模型。
2023-08-02 cs.CV cs.LG
Fast Context Adaptation via Meta-Learning
University of Oxford（牛津大学）；Latent Logic（潜在逻辑公司）；Microsoft Research（微软研究院）
我们提出了CAVIA的元学习，一个简单的扩展MAML，是不太容易元过拟合，更容易并行化，更可解释。CAVIA将模型参数分为两部分：上下文参数，作为模型的额外输入，并根据各个任务进行调整;以及共享参数，经过元训练并在任务之间共享。在测试时，只有上下文参数被更新，导致低维的任务表示。我们的经验表明，CAVIA优于MAML回归，分类，和强化学习。我们的实验还突出了当前基准的弱点，在某些情况下，所需的适应量很小。
2019-06-10 cs.LG stat.ML
Blending-target Domain Adaptation by Adversarial Meta-Adaptation Networks
Sun Yat-sen University（中山大学）；DarkMatter AI Research（暗物质人工智能研究院）
（无监督）领域自适应（DA）寻求在仅提供源标记和目标未标记的样本用于训练时对目标实例进行分类。学习域不变特征有助于实现这一目标，而它支持从单个或多个显式目标域（多目标DA）提取的未标记样本。在本文中，我们考虑了一个更现实的迁移场景：我们的目标域是由多个子目标隐式地相互混合，使学习者无法识别每个未标记的样本属于哪个子目标。这种混合目标领域自适应（BTDA）场景在实践中经常出现，并威胁到大多数现有DA算法的有效性，这是由于这些隐藏子目标之间存在域间隙和类别失配。为了在这种新的场景中获得传输性能的提升，我们提出了对抗性元适应网络（AMEAN）。AMEAN需要两个对抗性的迁移学习过程。第一种是传统的对抗性转移，以连接我们的源域和混合目标域。为了避免目标类别内的不一致，第二个过程表现为“学习适应”：它部署了一个无监督的元学习器，接收目标数据及其正在进行的特征学习反馈，以发现目标集群作为我们的“元-子目标”域。这些元-子目标自动设计了我们的元-子目标DA损失，这根据经验消除了我们的混合目标中的隐式类别不匹配。我们评估AMEAN和各种DA算法在BTDA设置下的三个基准测试。实验结果表明，BTDA是一个相当具有挑战性的转移设置为大多数现有的DA算法，但AMEAN显着优于这些国家的最先进的基线，并有效地抑制了BTDA的负转移效应。
2019-07-08 cs.LG stat.ML
A Meta Approach to Defend Noisy Labels by the Manifold Regularizer PSDR
The Chinese University of Hong Kong（香港中文大学）；Tencent（腾讯）
噪声标签在现实世界的数据集中无处不在，这对鲁棒训练深度神经网络（DNN）提出了挑战，因为DNN很容易过拟合噪声标签。最近的努力已经致力于通过从训练集中丢弃噪声样本或向训练样本分配权重来保护噪声标签，其中与噪声样本相关联的权重预计是小的。因此，这些先前的努力导致样本的浪费，特别是那些分配有小权重的样本。输入$x$总是有用的，无论其观察到的标签$y$是否干净。为了充分利用所有样本，我们引入了一个流形正则化器，称为配对Softmax发散正则化（PSDR），以惩罚类似输入的softmax输出之间的Kullback-Leibler（KL）发散。特别地，可以通过数据增强有效地生成类似的输入。PSDR可以在任何类型的DNN上轻松实现，以提高对噪声标签的鲁棒性。正如在基准数据集上的经验证明的那样，我们的PSDR显著提高了最先进的结果。
2019-06-13 cs.LG stat.ML
Butterfly: One-step Approach towards Wildly Unsupervised Domain Adaptation
University of Technology Sydney（悉尼科技大学）；RIKEN（理化学研究所）；Hong Kong Baptist University（香港浸会大学）；University of Tokyo（东京大学）
在无监督领域自适应（UDA）中，用来自源域（SD）的干净标记数据和来自TD的未标记数据来训练目标域（TD）的分类器。然而，在野外，由于预算有限，很难在SD中获得大量完全干净的标记数据。因此，我们考虑一个新的，更现实，更具有挑战性的问题设置，其中分类器必须用来自SD的噪声标记数据和来自TD的未标记数据进行训练-我们将其命名为wildly UDA（WUDA）。我们表明，WUDA破坏所有的UDA方法，如果不照顾标签噪音在SD，为此，我们提出了一个蝴蝶框架，一个强大而有效的解决方案WUDA。Butterfly同时维护四个深度网络，其中两个负责所有适应（即，噪声到干净、标记到未标记和SD到TD分布），然后其他两个可以集中于TD中的分类。因此，Butterfly拥有解决WUDA的所有概念上必要的组件。实验表明，在WUDA下，Butterfly显著优于现有的基线方法。
2021-02-18 cs.LG stat.ML
Noisy Test-Time Adaptation in Vision-Language Models
Hong Kong Baptist University（香港浸会大学）；Hefei University of Technology（合肥工业大学）；The University of Sydney（悉尼大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）
本文针对视觉-语言模型在测试时遇到噪声样本的问题，提出零样本噪声测试时自适应框架ZS-NTTA，通过解耦分类器与检测器并设计自适应噪声检测器AdaND，在保持分类器冻结的同时提升噪声检测和分布外检测性能，在ImageNet上显著超越现有方法。
2025-04-07 cs.LG
UDAMA: Unsupervised Domain Adaptation through Multi-discriminator Adversarial Training with Noisy Labels Improves Cardio-fitness Prediction
University of Cambridge（剑桥大学）；Nokia Bell Labs（诺基亚贝尔实验室）；MRC Epidemiology Unit（医学研究委员会流行病学研究组）
针对医疗数据标签噪声与分布偏移问题，提出UDAMA方法，结合无监督域适应和多判别器对抗训练，在心肺适能预测任务中相比现有方法性能提升达12%。
2023-07-31 cs.LG
When Source-Free Domain Adaptation Meets Learning with Noisy Labels
University of Western Ontario（西安大略大学）
最近的国家的最先进的无源领域自适应（SFDA）的方法集中在学习有意义的集群结构的特征空间，这已经成功地适应知识从源域到未标记的目标域，而无需访问私人源数据。然而，现有的方法依赖于由源模型生成的伪标签，由于域偏移，这些伪标签可能是有噪声的。在本文中，我们研究SFDA的角度与标签噪声（LLN）的学习。与传统LLN场景中的标签噪声不同，我们证明了SFDA中的标签噪声遵循不同的分布假设。我们还证明了这种差异使得现有的LLN方法依赖于他们的分布假设无法解决SFDA中的标签噪声。经验证据表明，只有边际改善时，应用现有的LLN方法来解决SFDA的问题。另一方面，虽然在这两种情况下的标签噪声之间存在着根本的差异，我们从理论上证明了早期训练现象（ETP），这是以前在传统的标签噪声设置中观察到的，也可以在SFDA问题中观察到。大量的实验表明，通过利用ETP来解决SFDA中的标签噪声，对现有的SFDA算法进行了显着改进。
2023-02-24 cs.CV cs.LG
Meta Soft Label Generation for Noisy Labels
Middle East Technical University（中东技术大学）；ASELSAN（阿瑟尔桑公司）
数据集中噪声标签的存在会导致深度神经网络（DNN）的性能显著下降。为了解决这个问题，我们提出了一种称为MSLG的Meta软标签生成算法，它可以使用元学习技术联合生成软标签，并以端到端的方式学习DNN参数。我们的方法采用元学习范式，通过检查有噪训练数据和无噪元数据的梯度方向来估计最佳标签分布。为了迭代地更新软标签，对估计的标签执行Meta梯度下降步骤，这将使无噪声Meta样本的损失最小化。在每次迭代中，基础分类器在估计的Meta标签上进行训练。MSLG与模型无关，可以轻松地添加到任何现有模型之上。我们在CIFAR10，Clothing1M和Food101N数据集上进行了广泛的实验。结果表明，我们的方法优于其他国家的最先进的方法，由一个很大的保证金。
2021-01-19 cs.CV cs.LG stat.ML
Robust Domain Adaptation for Machine Reading Comprehension
Ant Group（蚂蚁集团）；College of Computer Science, Sichuan University（四川大学计算机学院）
大多数用于机器阅读理解（MRC）的领域自适应方法使用预训练的问答（QA）构造模型来生成用于MRC迁移的伪QA对。这样的过程将不可避免地引入失配对（即，噪声对应），这是由于i）目标文档中不可用的QA对，以及ii）在将QA构造模型应用于目标域期间的域移位。毫无疑问，噪声对应会降低MRC的性能，但这一点被现有的研究所忽视。为了解决这样一个未触及的问题，我们提出了通过额外使用与文档相关的对话来构建QA对，以及一种新的领域自适应方法用于MRC。具体来说，我们提出了鲁棒的领域自适应机器阅读理解（RMRC）方法，它包括一个答案提取器（AE），一个问题选择器（QS），和一个MRC模型。具体而言，RMRC通过AE估计与文档的相关性来过滤掉不相关的答案，并通过QS融合多轮对话聊天中的候选问题来提取问题。利用提取的QA对，MRC进行微调，并通过一种新的强化自训练方法提供反馈以优化QS。由于QS的优化，我们的方法将大大减轻噪声对应问题所造成的域移动。据我们所知，这可能是第一个研究，以揭示噪声对应的影响，在领域自适应MRC模型，并显示一个可行的方法来实现鲁棒性失配对。在三个数据集上的实验证明了该方法的有效性。
2022-09-23 cs.CL cs.LG
Adaptation-Agnostic Meta-Training
The Hong Kong Polytechnic University（香港理工大学）
许多元学习算法可以被公式化为交错过程，在这个意义上，任务特定的预测器在内部任务自适应期间被学习，并且元参数在元更新期间被更新。常规的元训练策略需要通过任务内自适应过程进行区分，以优化元参数。这导致了一个约束，即内部任务算法应该解析求解。在此约束下，只有简单的算法与解析解可以作为内部任务的算法，限制了模型的表达能力。为了解除限制，我们提出了一个适应不可知的元训练策略。按照我们提出的策略，我们可以应用更强大的算法（例如，不同类型算法的集合）作为内部任务算法，以实现与流行基线相比更优的性能。源代码可在https://github.com/jiaxinchen666/AdaptationAgnosticMetaLearning上获得。
2021-08-24 cs.LG
Turning Silver into Gold: Domain Adaptation with Noisy Labels for Wearable Cardio-Respiratory Fitness Prediction
University of Cambridge（剑桥大学）；MRC Epidemiology Unit（英国医学研究委员会流行病学组）
深度学习模型在各种医疗保健应用中显示出巨大的前景。然而，大多数模型都是在小规模数据集上开发和验证的，因为为健康应用收集高质量（黄金标准）标签通常成本高昂且耗时。因此，这些模型可能会受到过度拟合的影响，并且不能很好地推广到看不见的数据。与此同时，大量带有不精确标签（银标准）的数据开始普遍可用，如从加速计和心电图传感器等廉价可穿戴设备收集的数据。可以利用这些目前未充分利用的数据集和标签来生成更准确的临床模型。在这项工作中，我们提出了UDAMA，这是一种新的模型，有两个关键组成部分：无监督域自适应和多目标对抗训练，它利用来自源域（银标准数据集）的噪声数据来改进金标准建模。我们验证了我们的框架预测实验室测量的最大耗氧量（VO $_{2}$ max）的挑战性任务，心肺健康的基准指标，使用来自两个队列研究的自由生活可穿戴传感器数据作为输入。我们的实验表明，所提出的框架实现了最好的性能corr = 0.665 $\pm$ 0.04，铺平了道路，在规模上准确的适应度估计。
2022-11-20 cs.LG eess.SP
Differentially Private Adaptation of Diffusion Models via Noisy Aggregated Embeddings
Stanford University（斯坦福大学）；ETH Zurich（苏黎世联邦理工学院）；Microsoft（微软公司）；Google DeepMind（谷歌DeepMind）；Yonsei University（延世大学）
本文提出DPAgg-TI方法，利用文本逆向技术在差分隐私约束下实现扩散模型的高效个性化，优于传统DP-SGD方法。
2026-02-06 cs.CR cs.CV cs.LG
Linear Representation Meta-Reinforcement Learning for Instant Adaptation
University of California, Berkeley（加州大学伯克利分校）
本文介绍了快速线性化自适应策略（FLAP），这是一种新的Meta强化学习（元RL）方法，能够很好地外推到分布外的任务，而不需要重用训练数据，并且在测试过程中只需要少量样本就可以几乎立即适应。FLAP建立在学习策略的共享线性表示的思想之上，以便在适应新任务时，预测一组线性权重就足够了。一个单独的适配器网络与策略同时训练，这样在适配过程中，我们可以直接使用适配器网络来预测这些线性权重，而不是通过梯度下降来更新元策略，例如在MAML等现有的元RL方法中，以获得新策略。单独的前馈网络的应用不仅显著加快了自适应运行时间，而且还非常好地推广到以前的Meta-RL方法无法推广的非常不同的任务。在标准连续控制元RL基准测试上的实验表明，与现有方法相比，FLAP在分布外任务上表现出更强的性能，平均回报率高达两倍，自适应运行速度高达8倍。
2021-01-12 cs.AI cs.LG stat.ML
Unsupervised Domain Adaptation of Black-Box Source Models
South China University of Technology（华南理工大学）；The Hong Kong Polytechnic University（香港理工大学）
无监督领域自适应（UDA）旨在通过从标记的源域转移知识来学习未标记数据的目标域的模型。在传统的UDA设置中，假设标记的源数据可用于适配。由于对数据隐私的日益关注，无源UDA作为一种新的UDA设置受到高度赞赏，其中仅假设训练的源模型可用，而标记的源数据保持私有。然而，由于源模型可能具有商业价值并且暴露源模型给源域带来风险，因此训练的源模型在实践中也可能不可用，例如，模型滥用和白盒攻击的问题。在这项工作中，我们研究了一个微妙的不同的设置，命名为黑盒无监督领域自适应（B $^2$ UDA），其中只有源模型的应用程序编程接口是可访问的目标域，换句话说，源模型本身是作为一个黑盒。为了解决B $^2$ UDA，我们提出了一种简单而有效的方法，称为带噪声标签的迭代学习（IterLNL）。使用黑盒模型作为噪声标记的工具，IterLNL迭代地进行噪声标记和噪声标记学习（LNL）。为了便于在B $^2$ UDA中实现LNL，我们从未标记目标数据的模型预测中估计噪声率，并提出分类采样来解决类别之间的不平衡标签噪声。在基准数据集上的实验表明了IterLNL的有效性。IterLNL既不给定源数据，也不给定源模型，它使用传统的UDA方法来执行数据挖掘，充分利用标记的源数据。
2021-03-28 cs.CV cs.LG
Meta-Reinforcement Learning with Universal Policy Adaptation: Provable Near-Optimality under All-task Optimum Comparator
School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）
本文提出一种用于元强化学习的双层优化框架BO-MRL，通过一次数据收集实现多步策略优化以学习元先验，并提供了期望最优性差距上界的理论分析与实证验证。
2024-10-13 cs.LG
Continuous Adaptation via Meta-Learning in Nonstationary and Competitive Environments
CMU（卡内基梅隆大学）；UMass Amherst（马萨诸塞大学阿默斯特分校）；OpenAI（开放人工智能研究中心）；UC Berkeley（加利福尼亚大学伯克利分校）
在非平稳环境中从有限的经验中不断学习和适应的能力是通往通用智能道路上的一个重要里程碑。在本文中，我们投的问题，不断适应学习的框架。我们开发了一个简单的基于梯度的元学习算法，适用于适应动态变化和对抗性的情况。此外，我们设计了一个新的多智能体竞争环境，RoboSumo，并定义了迭代适应游戏，用于测试连续适应策略的各个方面。我们证明了元学习比Few-Shot机制中的反应性基线能够实现更有效的适应。我们对一群学习和竞争的代理人的实验表明，元学习者是最合适的。
2018-02-23 cs.AI cs.LG
NASTAR: Noise Adaptive Speech Enhancement with Target-Conditional Resampling
National Taiwan University（国立台湾大学）；Academia Sinica（中央研究院）
对于基于深度学习的语音增强（SE）系统，训练-测试声学失配会导致显著的性能下降。为了解决失配问题，已经导出了许多噪声自适应策略。在本文中，我们提出了一种新的方法，称为噪声自适应语音增强与目标条件响应（NASTAR），它减少了失配与只有一个样本（单次）的噪声语音在目标环境中。NASTAR使用反馈机制通过噪声提取器和检索模型来模拟自适应训练数据。噪声提取器从噪声语音中估计目标噪声，称为伪噪声。噪声检索模型根据含噪语音从噪声信号池中检索相关噪声样本，称为相关队列。伪噪声和相关群组集合被联合采样并与源语音语料库混合以准备用于噪声自适应的模拟训练数据。实验结果表明，NASTAR可以有效地使用一个带噪的语音样本，以适应SE模型的目标条件。此外，噪声提取器和噪声恢复模型都有助于模型自适应。据我们所知，NASTAR是第一个通过噪声提取和检索进行单次噪声自适应的工作。
2022-06-18 cs.LG eess.AS
Towards Robust Cross-domain Image Understanding with Unsupervised Noise Removal
National University of Singapore（新加坡国立大学）；Beijing Institute of Technology（北京理工大学）；Zhejing University（浙江大学）
深度学习模型通常需要大量标记数据才能达到令人满意的性能。在多媒体分析中，领域自适应研究从标签丰富的源领域到标签稀缺的目标领域的跨领域知识转移问题，从而潜在地简化了深度学习模型的注释需求。然而，我们发现，当代领域自适应方法跨域图像理解时，源域是嘈杂的表现不佳。弱监督领域自适应（WSDA）研究源数据可能存在噪声的情况下的领域自适应问题。WSDA上的现有方法去除有噪声的源数据并且在不考虑嵌入空间中的细粒度语义结构的情况下跨域对齐边缘分布，这具有类不对齐的问题，例如，目标域中的猫的特征可以映射到源域中的狗的特征附近。在本文中，我们提出了一种新的方法，称为噪声容忍领域自适应，WSDA。具体来说，我们采用聚类假设，并在嵌入空间中使用类原型有区别地学习聚类。我们建议利用数据点在嵌入空间中的位置信息，并使用高斯混合模型对位置信息进行建模，以识别噪声源数据。然后，我们设计了一个网络，其中包括高斯混合噪声模型作为一个子模块，用于无监督噪声去除，并提出了一种新的集群级对抗适应方法，该方法将未标记的目标数据与噪声较小的类原型对齐，用于映射跨域的语义结构。我们进行了广泛的实验，以评估我们的方法对来自COVID-19和电子商务数据集的一般图像和医学图像的有效性。结果表明，我们的方法显着优于国家的最先进的WSDA方法。
2021-09-09 cs.CV cs.LG eess.IV
Faster Optimization-Based Meta-Learning Adaptation Phase
Dnipro University of Technology（第聂伯罗理工大学）
神经网络需要大量带注释的数据来学习。元学习算法提出了一种将训练样本的数量减少到仅几个的方法。最突出的基于优化的元学习算法之一是模型无关的元学习（MAML）。然而，MAML的关键过程适应新的任务是相当缓慢的。在这项工作中，我们提出了一个改进的MAML元学习算法。我们引入了Lambda模式，通过它我们限制了在适应阶段网络中更新的权重。这使得可以跳过某些梯度计算。给定允许的质量降级阈值参数，选择最快的模式。在某些情况下，通过仔细的模式选择，质量改进是可能的。所进行的实验表明，通过λ自适应模式选择，可以在以下方面显着改善MAML方法：自适应时间减少了3倍，精度损失最小;一步自适应的精度得到了大幅提高。
2022-06-13 cs.CV cs.LG
Meta-Forecasting by combining Global Deep Representations with Local Adaptation
IIT（意大利理工学院）；UCL（伦敦大学学院）；Amazon Web Services（亚马逊云服务）
虽然经典的时间序列预测孤立地考虑单个时间序列，但基于深度学习的最新进展表明，从大量相关时间序列中联合学习可以提高预测准确性。然而，当对样本外时间序列建模时，这些方法的准确性会受到很大影响，与经典预测方法相比，显着限制了它们的适用性。为了弥合这一差距，我们采用元学习的时间序列预测问题的观点。我们引入了一种新的预测方法，称为Meta全局-局部自回归（Meta-GLAR），它通过学习从递归神经网络（RNN）产生的表示到一步预测的封闭形式的映射来适应每个时间序列。至关重要的是，RNN的参数是通过封闭形式的自适应机制通过反向传播在多个时间序列中学习的。在我们广泛的实证评估中，我们表明，我们的方法是有竞争力的国家的最先进的样本预测精度在早期的工作。
2021-11-12 cs.AI cs.LG stat.ML
Zero-shot task adaptation by homoiconic meta-mapping
Stanford University（斯坦福大学）
深度学习系统如何灵活地重用它们的知识？为了实现这一目标，我们提出了一类新的挑战，以及一类可以解决这些挑战的架构。挑战是元映射，这涉及系统地转换任务行为，以适应新的任务zero-shot。实现这些挑战的关键是以这样一种方式表示正在执行的任务，即该任务表示本身是可转换的。因此，我们从函数式编程和最近的元学习工作中汲取灵感，提出了一类Homoiconic Meta-Mapping（HoMM）方法，该方法表示共享潜在空间中的数据点和任务，并学习推断该空间的转换。HoMM方法可以应用于任何类型的机器学习任务。我们展示了这种观点的效用，通过展示zero-shot重新映射的行为，以适应新的任务。
2019-11-12 cs.LG cs.NE stat.ML
On Enforcing Better Conditioned Meta-Learning for Rapid Few-Shot Adaptation
The University of Melbourne（墨尔本大学）；Monash University（莫纳什大学）
受预处理概念的启发，我们提出了一种新的方法来提高基于梯度的元学习方法的适应速度，而不会产生额外的参数。我们证明，重铸的优化问题的非线性最小二乘制定提供了一个原则性的方法，积极执行$\textit{well-conditioned}$参数空间的元学习模型的基础上的概念的条件数和局部曲率。我们的综合评估表明，该方法显着优于其无约束的对应，特别是在初始适应步骤，同时实现可比或更好的整体效果上几个Few-Shot分类任务-创建的可能性，动态选择的适应步骤的数量在推理时间。
2022-10-15 cs.CV cs.LG
Sparse Meta Networks for Sequential Adaptation and its Application to Adaptive Language Modelling
Microsoft Research（微软研究院）
训练深度神经网络需要大量的单任务数据，并且涉及到耗时较长的优化阶段。这无法扩展到具有新的意外更改的复杂、现实环境。人类可以在飞行中进行快速增量学习，大脑中的记忆系统起着关键作用。我们介绍稀疏Meta网络--一种元学习方法，通过使用深度神经网络来学习深度神经网络的在线顺序自适应算法。我们用特定于层的快速权重记忆来增强深度神经网络。快速权重在每个时间步稀疏地生成，并通过时间增量地累积，为在线连续适应提供有用的归纳偏差。我们在各种顺序适应场景中表现出强大的性能，从简单的在线强化学习到大规模自适应语言建模。
2020-09-03 cs.AI cs.CL cs.LG
Meta-RL with Shared Representations Enables Fast Adaptation in Energy Systems
Université Sorbonne Paris Nord（索邦巴黎北大学）；INSA Rouen（里昂大学 Rouen 分校）；Université Lumière Lyon 2, Université Claude Bernard Lyon 1, ERIC（里昂大学二分校、里昂大学一分校、ERIC）
本文提出了一种具有共享表示的元强化学习框架，通过改进的知识转移和参数共享机制，实现能源系统中的快速适应与高效泛化。
2026-03-09 cs.LG
Offline Meta Reinforcement Learning with In-Distribution Online Adaptation
Tsinghua University（清华大学）；Huazhong University of Science and Technology（华中科技大学）；Peking University（北京大学）
针对离线元强化学习中离线数据与在线适应间的转移—奖励分布偏移问题，提出 IDAQ 框架，通过基于回报的不确定性量化生成分布内上下文并推断任务信念，在 Meta-World ML1 上达到最优性能。
2023-06-01 cs.AI cs.LG
Fast Adaptation with Meta-Reinforcement Learning for Trust Modelling in Human-Robot Interaction
Uppsala University（乌普萨拉大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
在社会辅助机器人中，一个重要的研究领域是适应技术的发展及其对人机交互的影响。我们提出了一个基于元学习的策略梯度方法，用于解决人与机器人交互中的适应问题，并研究其作为信任建模机制的作用。通过在混合现实中与机器人建立一个逃生室场景，我们测试了我们的假设，即双向信任可以受到不同的适应算法的影响。我们发现，我们提出的模型增加了机器人的感知可信度，并影响了获得人类信任的动态。此外，参与者评价说，机器人认为他们更值得信赖的互动过程中与元学习为基础的适应相比，以前研究的统计适应模型。
2019-08-12 cs.HC cs.LG cs.RO
CoNMix for Source-free Single and Multi-target Domain Adaptation
Indian Institute of Science（印度科学学院）
本文提出了一种新的无源多目标领域自适应算法，并提出了一种基于\textbf{Co}核范数最大化和\textbf{Mix} Up知识蒸馏（\textit{CoNMix}）的自适应框架。这项工作的主要动机是解决单和多目标领域自适应（SMTDA）的无源范式，它强制执行的约束，标记的源数据是不可用的目标适应过程中，由于各种隐私相关的限制数据共享。无源方法利用目标伪标签，这可能是嘈杂的，以提高目标适应。我们引入标签保持增强之间的一致性，并利用伪标签细化方法来减少噪声伪标签。此外，我们提出了新的MixUp知识蒸馏（MKD）更好地推广多个目标域使用各种无源STDA模型。我们还表明，视觉Transformer（VT）的骨干提供了更好的特征表示与改进的域可转移性和类的可辨别性。我们提出的框架实现了国家的最先进的（SOTA）的结果，在流行的领域自适应数据集，如家庭，加州理工学院，和DomainNet的各种范式的无源STDA和MTDA设置。项目页面：https://sites.google.com/view/conmix-vcl
2022-11-07 cs.AI cs.CV cs.LG
A Student-Teacher Architecture for Dialog Domain Adaptation under the Meta-Learning Setting
University of California, Davis（加利福尼亚大学戴维斯分校）；Google Inc.（谷歌公司）
每天都有许多新的对话域被创建，而收集这些域的数据是非常昂贵的，因为它涉及到人类的交互。因此，在构建数据驱动的对话模型时，开发能够有效地适应不同领域的算法是至关重要的。目前关于领域自适应的研究主要集中在为模型提供一个更好的初始化，而不是优化自适应过程。我们提出了一个有效的域自适应面向任务的对话系统模型，它采用了元教师模型，强调生成的令牌之间的不同影响相对于上下文。我们首先训练我们的基本对话模型和元教师模型在丰富的资源领域的元学习设置对抗。元教师学习在不同领域的不同上下文下量化令牌的重要性。在适配过程中，元教师引导对话模型关注重要的标记，以实现更好的适配效率。我们在两个多域数据集MultiWOZ和Google Schema-Guided Dialogue上评估了我们的模型，并实现了最先进的性能。
2021-04-06 cs.CL cs.LG
Meta-Curriculum Learning for Domain Adaptation in Neural Machine Translation
University of Macau（澳门大学）
元学习已被充分验证，对低资源神经机器翻译（NMT）有益。然而，我们发现元训练的NMT未能提高在元训练阶段看不见的域的翻译性能。在本文中，我们的目的是缓解这个问题，提出了一种新的Meta课程学习的领域自适应在NMT。在元训练过程中，NMT首先学习各领域的相似课程，避免过早陷入局部最优，最后学习各领域的个性化课程，提高模型学习领域知识的鲁棒性。在10个不同的低资源领域的实验结果表明，Meta课程学习可以提高熟悉和不熟悉的领域的翻译性能。所有的代码和数据都可以在https://github.com/NLP2CT/Meta-Curriculum上免费获得。
2021-03-03 cs.CL cs.LG
Set a Thief to Catch a Thief: Combating Label Noise through Noisy Meta Learning
Nanyang Technological University（南洋理工大学）；University of Surrey（萨里大学）
针对现有元学习标签校正方法需额外干净验证集的局限，提出噪声元标签校正框架STCT，用同分布噪声数据作验证集，通过交替训练解耦双层优化，在高噪声场景下性能超越现有最优水平。
2025-02-22 cs.CV cs.LG
Learning Fast Adaptation with Meta Strategy Optimization
Georgia Institute of Technology（佐治亚理工学院）；Robotics at Google（谷歌机器人部门）
在新场景中行走的能力是足式机器人走向现实世界应用道路上的一个关键里程碑。在这项工作中，我们介绍了Meta Strategy Optimization，这是一种元学习算法，用于训练具有潜在变量输入的策略，可以快速适应目标环境中少量试验的新场景。MSO背后的关键思想是在训练和测试阶段暴露相同的适应过程，即策略优化（SO）。这使得MSO能够有效地学习运动技能以及适合快速适应的潜在空间。我们评估我们的方法在一个真正的四足机器人，并证明成功的适应在各种情况下，包括仿真到现实迁移，步行与削弱电机，或爬上斜坡。此外，我们定量地分析了在模拟环境中的训练策略的泛化能力。真实和模拟实验表明，我们的方法优于以前的方法，在适应新的任务。
2020-02-16 cs.LG cs.RO
Learning Sampling Policies for Domain Adaptation
Carnegie Mellon University（卡内基梅隆大学）
我们通过深度Q学习解决分类算法的半监督领域自适应问题。其核心思想是将源域网络对目标域数据的预测视为噪声标签，并学习从该数据中采样的策略，以便在目标域的小注释奖励分区上最大化分类准确性。我们的实验表明，学习的采样策略构建标记集，提高视觉分类器的准确性超过基线。
2018-05-19 cs.CV cs.LG
p-Meta: Towards On-device Deep Model Adaptation
ETH Zurich（苏黎世联邦理工学院）；Singapore Management University（新加坡管理大学）；Beihang University（北京航空航天大学）
物联网设备收集的数据通常是私有的，并且在用户之间具有很大的多样性。因此，学习需要使用可用的代表性数据样本预训练模型，在物联网设备上部署预训练模型，并使用本地数据调整设备上部署的模型。这种针对深度学习授权应用的设备上适配要求数据和存储器效率。然而，现有的基于梯度的元学习方案不能支持记忆高效的适应。为此，我们提出了p-Meta，这是一种新的元学习方法，它可以强制执行结构方面的部分参数更新，同时确保快速泛化到看不见的任务。对Few-Shot图像分类和强化学习任务的评估表明，与最先进的Few-Shot自适应方法相比，p-Meta不仅提高了准确性，而且将峰值动态记忆平均降低了2.5倍。
2022-06-25 cs.CV cs.LG
Robust Parameter-Efficient LLM Adaptation on Analog Hardware
Cornell University（康奈尔大学）
针对模拟硬件上大语言模型微调受硬件非理想性影响的问题，提出基于LoRA的参数高效适配方法，通过输入重塑和更新累积改善噪声MVM和有限状态编程下的适配性能。
2026-10-06 cs.LG
Improved Robustness and Safety for Pre-Adaptation of Meta Reinforcement Learning with Prior Regularization
University of Michigan（密歇根大学）；Ford Research and Advanced Engineering（福特研究与高级工程中心）
Meta强化学习（Meta-RL）最近取得了重大进展。特别是，开发了off-policy方法来提高Meta-RL技术的数据效率。\textit{Probabilistic embeddings for actor-critic RL}（PEARL）是解决多MDP适应问题的领先方法。许多现有的Meta-RL方法（包括PEARL）的一个主要缺点是，当第一次暴露给新任务时，它们没有明确考虑先前策略的安全性。安全对于许多现实世界的应用至关重要，包括现场机器人和自动驾驶汽车（AV）。在本文中，我们开发了PEARL PLUS（PEARL $^+$）算法，该算法优化了先前（预适应）的安全性和之后（适应后）的性能。在PEARL算法的基础上，我们提出的PEARL $^+$算法在奖励函数中引入了一个先验正则化项，并引入了一个新的Q-网络，用于在先验上下文假设下恢复状态-动作值，以提高对任务分布偏移的鲁棒性和训练网络首次暴露于新任务时的安全性。PEARL $^+$的性能进行了验证，通过解决三个安全关键问题的机器人和自动驾驶汽车，包括两个MuJoCo基准问题。仿真实验表明，与PEARL相比，该策略的安全性得到了显著提高，并且对任务分布偏移具有更强的鲁棒性。
2023-02-09 cs.LG
On the adaptation of in-context learners for system identification
IDSIA Dalle Molle Institute for Artificial Intelligence（IDSIA达莱·莫尔人工智能研究所）；USI-SUPSI（提契诺大学-瑞士南部应用科学与艺术大学）
本文研究上下文系统辨识中的元模型自适应问题，并通过三类现实数值场景表明，自适应可提升预测性能并增强元学习框架的稳健性与通用性。
2023-12-07 cs.LG cs.SY eess.SY
The Noisy Power Method: A Meta Algorithm with Applications
IBM Research Almaden（IBM阿尔马登研究中心）
我们提供了一个新的强大的收敛性分析众所周知的功率方法计算的矩阵，我们称之为噪声功率方法的主导奇异向量。我们的结果表征了算法的收敛行为时，一个显着的量的噪声引入后，每个矩阵向量乘法。噪声功率方法可以被看作是一种元算法，最近在广泛的机器学习问题中发现了许多重要的应用，包括矩阵完成的交替最小化，流式主成分分析（PCA）和隐私保护频谱分析。我们的一般分析包括几个现有的ad-hoc收敛范围，并解决了一些开放的问题，在多个应用程序，包括流PCA和隐私保护奇异向量计算。
2015-02-03 cs.DS cs.LG
Meta-Tracker: Fast and Robust Online Adaptation for Visual Object Trackers
Department of Computer Science, University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校计算机科学系）
本文改进了使用在线自适应的最先进的视觉对象跟踪器。我们的核心贡献是一种基于离线元学习的方法，用于调整在线自适应跟踪中使用的初始深度网络。Meta学习由深度网络的目标驱动，可以快速适应未来帧中的特定目标。理想情况下，生成的模型将重点放在对未来帧有用的特征上，并避免过度拟合背景杂波、目标的小部分或噪声。通过在元学习过程中强制执行少量的更新迭代，最终的网络训练速度明显更快。我们证明了这种方法的高性能跟踪方法的顶部：跟踪检测为基础的MDNet和相关性为基础的CREST。在标准基准测试OTB 2015和VOT 2016上的实验结果表明，我们的两种跟踪器的元学习版本提高了速度、准确性和鲁棒性。
2018-03-19 cs.CV cs.LG
Metadata-Free Meta-Reweighted Direct Preference Optimization under Noisy Preference Labels
Xi’an Jiaotong University（西安交通大学）
研究针对DPO性能依赖偏好数据质量问题，提出双层优化框架、无任务元知识驱动方法及结合中心差分近似与LoRA微调的可扩展训练方案，经实验验证该方法能在不同噪声率下提升训练性能。
2026-07-21 cs.LG
Reference Free Domain Adaptation for Translation of Noisy Questions with Question Specific Rewards
Indian Institute of Technology Patna（印度理工学院巴特那分校）；Flipkart（Flipkart公司）
针对噪声环境下社区问答问题的翻译难题，提出仅用源端数据微调NMT的方法，通过结合BERTScore和MLM分数的损失函数平衡充分性与流畅性，显著超越基线并提升鲁棒性。
2023-10-23 cs.AI cs.CL cs.LG
Back-Training excels Self-Training at Unsupervised Domain Adaptation of Question Generation and Passage Retrieval
Mila/McGill University（Mila/麦吉尔大学）；Korbit Technologies（Korbit 科技公司）；Facebook CIFAR AI Chair（Facebook CIFAR AI 讲席）
在这项工作中，我们引入了反向训练，一种替代自训练的无监督领域自适应（UDA）从源到目标域。虽然自训练生成合成训练数据，其中自然输入与噪声输出对齐，但反向训练导致自然输出与噪声输入对齐。这显著地减小了目标域和合成数据分布之间的间隙，并且减小了模型对源域的过拟合。我们从\textit{Natural Questions}域到机器学习和生物医学域运行UDA实验的问题生成和段落检索。我们发现，反向训练大大优于自我训练，平均提高了7.8 BLEU-4分，在两个领域的前20名检索准确率为17.6%。我们进一步提出了一致性过滤器，以在训练之前去除低质量的合成数据。我们还发布了一个新的领域适应数据集- \textit{MLQuestions}，包含35 K未对齐的问题，50 K未对齐的段落和3 K对齐的问题-段落对。
2021-09-09 cs.AI cs.CL cs.LG
Online Meta-Learning for Multi-Source and Semi-Supervised Domain Adaptation
Samsung AI Center Cambridge（三星人工智能中心剑桥）；The University of Edinburgh（爱丁堡大学）
领域自适应（Domain adaptation，DA）是一个热门的问题，它从标记的源数据集调整模型，使其在只有未标记或部分标记数据的目标数据集上表现良好。已经提出了许多方法来解决这个问题，通过不同的方式来最小化源和目标数据集之间的域偏移。在本文中，我们采取了正交的角度来看，并提出了一个框架，以进一步提高性能的元学习现有DA算法的初始条件。由于所涉及的计算图的长度，与更广泛考虑的Few-Shot元学习的设置相比，这是具有挑战性的。因此，我们提出了一个在线最短路径元学习框架，这是计算上易于处理和实际有效的提高DA性能。我们提出了多源无监督领域自适应（MSDA）和半监督领域自适应（SSDA）的变体。重要的是，我们的方法是不可知的基础适应算法，并可以应用于改善许多技术。在实验中，我们展示了经典（DANN）和最近（MCD和MME）的MSDA和SSDA技术的改进，并最终实现了几个DA基准测试，包括最大规模的DomainNet的最先进的结果。
2020-07-27 cs.CV cs.LG
Efficient Meta Reinforcement Learning for Preference-based Fast Adaptation
University of California, Los Angeles（加州大学洛杉矶分校）；Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院）；Helixon Ltd.（Helixon有限公司）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院）
从几次试验中学习新的特定任务技能是人工智能面临的根本挑战。Meta强化学习（meta-RL）通过学习可转移的策略来解决这个问题，这些策略支持对看不见的任务的Few-Shot适应。尽管元强化学习最近取得了进展，但大多数现有方法都需要访问新任务的环境奖励函数来推断任务目标，这在许多实际应用中并不现实。为了弥合这一差距，我们研究了在人在回路强化学习的背景下的Few-Shot适应问题。我们开发了一种元RL算法，可以通过基于偏好的反馈实现快速策略自适应。智能体可以通过查询人类行为轨迹之间的偏好来适应新的任务，而不是使用每步的数字奖励。通过扩展技术从信息论，我们的方法可以设计查询序列，以最大限度地提高信息增益从人类的互动，同时容忍的固有错误的非专家的人类预言。在实验中，我们广泛地评估我们的方法，适应与噪声的甲骨文（ANOLE），在各种元RL基准任务，并展示了大幅改善基线算法的反馈效率和容错性。
2022-11-20 cs.AI cs.LG
Deep Online Learning via Meta-Learning: Continual Adaptation for Model-Based RL
UC Berkeley（加州大学伯克利分校）
人类和动物可以学习复杂的预测模型，使他们能够准确可靠地推理现实世界的现象，并且他们可以在面对意外变化时非常迅速地适应这些模型。深度神经网络模型允许我们表示非常复杂的功能，但缺乏快速在线适应的能力。本文的目标是开发一种使用深度神经网络模型从传入数据流中进行持续在线学习的方法。我们制定了一个在线学习程序，使用随机梯度下降更新模型参数，并与中国餐厅的过程之前，开发和维护的混合模型来处理非平稳任务分布的期望最大化算法。这允许所有模型根据需要进行调整，新模型针对任务更改进行实例化，旧模型在再次遇到以前看到的任务时被调用。此外，我们观察到元学习可以用于元训练模型，使得SGD的这种直接在线自适应是有效的，否则对于大型函数逼近器来说就不是这种情况。在这项工作中，我们将我们的元学习在线学习（MOLe）方法应用于基于模型的强化学习，其中调整预测模型对于控制至关重要;我们证明MOLe优于其他先验方法，并在非平稳任务分布（如变化的地形，电机故障和意外干扰）中实现有效的连续适应。
2019-01-28 cs.AI cs.LG cs.RO
Efficient Bilevel Optimization for Meta Label Correction in Noisy Label Learning
Human-Machine Interaction Laboratory, VNU University of Engineering and Technology（人机交互实验室，越南工程与技术大学）
本文提出了一种高效的元标签校正方法EBOMLC，通过引入一步内循环更新、混合上界损失和对齐感知的动态障碍物，提高了元模型的训练效率和稳定性，实验表明其在高噪声环境下表现优异。
2026-05-18 cs.AI cs.LG
Multi-Source Unsupervised Domain Adaptation with Prototype Aggregation
South China University of Technology（华南理工大学）；Institute of International Services Outsourcing（国际服务外包研究院）；Operation and Maintenance Center of Information and Communication（信息通信运维中心）；CSG EHV Power Transmission Company（中国南方电网超高压输电公司）
针对多源领域自适应中类级差异量化、噪声伪标签不可用及源域可迁移性判别被忽略的问题，提出一种在类级和域级建模差异的原型聚合方法，通过互补机制提升自适应性能并在三个基准上优于多数最先进方法。
2024-12-20 cs.LG
Bayesian Meta-Learning with Expert Feedback for Task-Shift Adaptation through Causal Embeddings
Department of Computer Science, Aalto University, Espoo, Finland（Aalto大学计算机科学系）；ELLIS Institute Finland, Espoo, Finland（芬兰ELLIS研究所）；Department of Computer Science, University of Manchester, United Kingdom（曼彻斯特大学计算机科学系）
本文提出一种基于因果嵌入的贝叶斯元学习方法，通过专家反馈减少任务转移中的负转移，提升分布外适应性能。
2026-02-23 cs.LG
Adaptation of Quadruped Robot Locomotion with Meta-Learning
Russian Quantum Center（俄罗斯量子中心）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；University of Oxford（牛津大学）
动物有非凡的能力来适应不同的地形和任务。然而，通过强化学习训练的机器人通常只能解决单个任务，并且转移的策略通常不如从头开始训练的策略。在这项工作中，我们证明了Meta强化学习可以用来成功地训练一个机器人能够解决广泛的运动任务。经过元训练的机器人的性能类似于在单个任务上训练的机器人的性能。
2021-07-08 cs.LG cs.RO
