Meta-Learning Reliable Priors in the Function Space
ETH Zurich（苏黎世联邦理工学院）
当数据稀缺时，元学习可以通过利用相关学习任务的先前经验来提高学习者的准确性。然而，现有的方法有不可靠的不确定性估计，往往过于自信。为了解决这些缺点，我们引入了一种新的元学习框架，称为F-PACOH，它将元学习先验视为随机过程，并直接在函数空间中进行元级正则化。这使我们能够直接将元学习者的概率预测转向Meta训练数据不足的区域中的高认知不确定性，从而获得校准良好的不确定性估计。最后，我们展示了我们的方法可以与顺序决策，可靠的不确定性量化是必要的。在我们对贝叶斯优化（BO）的元学习的基准研究中，F-PACOH显著优于所有其他元学习者和标准基线。
2022-01-11 cs.AI cs.LG stat.ML
Unsupervised Curricula for Visual Meta-Reinforcement Learning
UC Berkeley（加州大学伯克利分校）；University of Toronto（多伦多大学）；Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）
原则上，Meta强化学习算法利用许多任务的经验来学习快速强化学习（RL）策略，这些策略可以转移到类似的任务中。然而，目前的元RL方法依赖于手动定义的训练任务分布，手工制作这些任务分布可能具有挑战性且耗时。“有用的”预训练任务可以在无监督的情况下发现吗？我们开发了一个无监督的算法，诱导自适应元训练任务分布，即自动课程，通过在视觉环境中建模无监督的交互。任务分布由元学习者轨迹分布的参数密度模型支撑。我们制定无监督元RL作为潜在的任务变量和元学习者的数据分布之间的信息最大化，并描述了一个实际的实例，它交替最近的经验整合到任务分布和元学习的更新任务。重复该过程导致迭代重组，使得课程随着元学习者的数据分布偏移而适应。特别是，我们展示了视觉表示的判别聚类如何支持具有像素观测的域中的自动级别任务获取和探索，避免了替代品的陷阱。在基于视觉的导航和操作领域的实验中，我们证明了该算法允许无监督元学习转移到由手工制作的奖励函数指定的下游任务，并作为测试任务分布的更有效的监督元学习的预训练。
2019-12-09 cs.AI cs.LG
Machine Teaching in Hierarchical Genetic Reinforcement Learning: Curriculum Design of Reward Functions for Swarm Shepherding
School of Engineering & IT University of New South Wales Canberra（新南威尔士大学堪培拉校区工程与信息技术学院）
强化学习中奖励函数的设计是一种人类技能，伴随着经验而来。不幸的是，在文献中没有任何方法可以指导人类设计奖励函数，或者允许人类以系统的方式将在设计奖励函数时开发的技能转移给另一个人。在本文中，我们使用系统教学设计，在人类教育的方法，工程师的机器教育方法来设计奖励功能的强化学习。我们展示了在设计一个层次遗传强化学习器，采用神经网络表示进化的代理牧羊基于boids群的群控制器的方法。结果表明，该方法能够指导分层强化学习器的设计，分层学习中的每个模型通过多部分奖励函数进行增量学习。层次结构充当决策融合功能，将每个指令所学习的个人行为和技能结合起来，以创建一个智能牧羊人来控制群体。
2019-01-04 cs.AI
Meta-Learning of Structured Task Distributions in Humans and Machines
Princeton Neuroscience Institute（普林斯顿神经科学研究所）；Princeton University（普林斯顿大学）
近年来，元学习（其中模型在一系列任务（即任务分布）上进行训练）已经成为训练神经网络执行先前被认为需要结构化表示的任务的方法，朝着缩小人类和机器之间的差距迈出了大步。然而，我们认为，评估元学习仍然是一个挑战，并可能错过元学习是否实际上使用嵌入在任务中的结构。因此，这些元学习者可能仍然与人类学习者有很大的不同。为了证明这种差异，我们首先定义了一个新的Meta强化学习任务，其中使用组合语法生成结构化任务分布。然后，我们引入了一种新的方法来构建一个“空任务分布”，具有相同的统计复杂性，这种结构化的任务分布，但没有明确的规则为基础的结构，用于生成结构化的任务。我们训练一个标准的元学习代理，一个用无模型强化学习训练的循环网络，并将其与两种任务分布的人类表现进行比较。我们发现了一个双重分离，其中人类在结构化任务分布中做得更好，而代理在空任务分布中做得更好-尽管具有可比的统计复杂性。这项工作强调了多种策略可以实现合理的元测试性能，并且仔细构建控制任务分布是了解元学习者获得哪些策略以及它们与人类有何不同的有价值的方法。
2021-03-18 cs.AI cs.LG
Meta Automatic Curriculum Learning
INRIA（法国国家信息与自动化研究所）；Microsoft Research（微软研究院）
深度RL（DRL）社区的一个主要挑战是训练代理能够在训练中从未见过的情况下推广他们的控制策略。对不同任务的训练已被确定为良好泛化的关键因素，这促使研究人员使用通过复杂连续参数空间控制的丰富程序任务生成系统。在如此复杂的任务空间中，必须依赖某种形式的自动课程学习（ACL）来使任务采样分布适应给定的学习代理，而不是随机采样任务，因为许多任务最终可能是微不足道的或不可行的。由于很难获得有关此类任务空间的先验知识，因此许多ACL算法探索任务空间以检测随时间推移的进度小生境，这是一个需要为每个新学习代理执行的代价高昂的tabula-rasa过程，尽管它们的能力配置文件可能具有相似性。为了解决这个问题，我们引入了元ACL的概念，并在黑盒RL学习者的上下文中将其形式化，即试图将课程生成推广到学习者（未知）分布的算法。在这项工作中，我们提出了再次，元ACL的第一个实例，并展示了它的好处，在多个模拟环境中，包括程序生成的跑酷环境与不同形态的学习者的课程生成经典ACL。视频和代码可在https://sites.google.com/view/meta-acl上获得。
2021-09-01 cs.AI cs.LG
Crossmodal Attentive Skill Learner
Massachusetts Institute of Technology（麻省理工学院）；Amazon Alexa（亚马逊 Alexa）
本文提出了跨模态注意力技能学习器（CASL），其与最近引入的异步优势选项-评论（A2 OC）架构集成[Harb等人，2017]以实现跨多个感官输入的分层强化学习。我们提供了具体的例子，该方法不仅提高了性能在一个单一的任务，但加速转移到新的任务。我们证明了注意力机制预期和识别有用的潜在功能，同时在执行过程中过滤不相关的传感器模态。我们修改了Arcade学习环境[Bellemare等人，2013]支持音频查询，并在Atari 2600游戏Amidar中进行跨模态学习的评估。最后，在Babaeizadeh等人[2017]最近工作的基础上，我们开源了CASL的快速混合CPU-GPU实现。
2018-05-22 cs.AI
Self-Attention Meta-Learner for Continual Learning
Eindhoven University of Technology（埃因霍温理工大学）；University of Twente（特文特大学）
持续学习旨在提供能够利用神经网络顺序地学习多个任务的智能代理。其主要挑战之一，灾难性遗忘，是由神经网络在非平稳分布中的非最佳学习能力引起的。在当前方法的大多数设置中，代理从随机初始化的参数开始，并被优化以掌握当前任务，而不管所学习的表示对未来任务的有用性。此外，每个未来的任务使用所有以前学习的知识，尽管这些知识的一部分可能对它的学习没有帮助。这些会导致任务之间的干扰，特别是当先前任务的数据不可访问时。在本文中，我们提出了一种新的方法，命名为自注意力元学习者（SAM），学习先验知识的持续学习，允许学习一系列的任务，同时避免灾难性遗忘。SAM结合了一个注意力机制，学习为每个未来的任务选择特定的相关表示。每个任务在所选知识的基础上构建一个特定的表示分支，避免任务之间的干扰。我们评估所提出的方法在分裂CIFAR-10/100和分裂MNIST基准在任务不可知推理。我们的经验表明，我们可以实现一个更好的性能比几个国家的最先进的持续学习的方法，通过建立在选定的表示学习SAM的顶部。我们还展示了Meta注意力机制在提升与输入数据相对应的信息特征和识别任务不可知推理中的正确目标方面的作用。最后，我们证明了流行的现有持续学习方法获得性能提升时，他们采用SAM作为起点。
2021-01-28 cs.AI cs.CV cs.LG
Data-Driven Online Model Selection With Regret Guarantees
Boston University（波士顿大学）；Broad Institute of MIT and Harvard（布罗德研究所）；Google Research（谷歌研究院）
本文研究随机赌博机反馈下的在线模型选择，提出两种数据驱动算法，利用基学习器的实际遗憾而非先验遗憾上界进行遗憾平衡，并给出理论保证与实验验证。
2024-01-23 cs.AI cs.LG stat.ML
Quick Learner Automated Vehicle Adapting its Roadmanship to Varying Traffic Cultures with Meta Reinforcement Learning
University of Michigan（密歇根大学）；Ford Motor Company（福特汽车公司）
在各种交通文化和驾驶条件下，自动驾驶车辆在野外以适当的道路驾驶技术（安全有效地驾驶，而不打扰或危及其他道路使用者）执行任意车道变换至关重要。虽然深度强化学习方法近年来表现出色，并被应用于自动驾驶汽车策略，但人们担心它们是否能够快速适应新环境动态下看不见的交通。我们将这一挑战表述为多马尔可夫决策过程（MDP）适应问题，并开发了Meta强化学习（MRL）驱动策略，以展示其快速学习能力。两种类型的分布变化的环境中设计和模拟，以验证快速适应能力的MRL驾驶策略，显着优于基线RL。
2021-04-18 cs.LG cs.SY eess.SY
Provable Hierarchy-Based Meta-Reinforcement Learning
Princeton University（普林斯顿大学）
分层强化学习（HRL）作为一种复杂模块化行为的易处理学习方法受到了广泛的关注。然而，现有的工作要么假设访问专家构造的层次结构，或使用层次学习算法，没有可证明的保证。为了解决这一差距，我们分析了元RL设置中的HRL，其中学习者在元训练期间学习潜在的层次结构，用于下游任务。我们考虑一个表格设置，自然的层次结构嵌入在过渡动态。类似于有监督的元学习理论，我们提供了“多样性条件”，连同一个易于处理的基于乐观主义的算法，保证样本有效的恢复这个自然的层次结构。此外，我们提供了后悔界限上的学习者使用恢复的层次结构来解决元测试任务。我们的界限纳入了HRL文献中的常见概念，如时间和状态/动作抽象，这表明我们的设置和分析在实践中捕捉到了HRL的重要特征。
2021-10-18 cs.LG stat.ML
An Orthogonal Learner for Individualized Outcomes in Markov Decision Processes
LMU Munich（慕尼黑莱茵豪森大学）
本文提出DRQ-学习器，通过因果推理方法在马尔可夫决策过程中实现个性化结果预测，具备双重稳健、奈曼正交和近似Oracle效率等理论优势。
2026-03-09 cs.LG stat.ML
Guided Meta-Policy Search
University of California, Berkeley（加州大学伯克利分校）
强化学习（RL）算法在复杂任务上已经展示了有希望的结果，但由于它们从头开始学习，因此通常需要不切实际的样本数量。Meta-RL旨在通过利用以前任务的经验来解决这一挑战，以便更快地解决新任务。然而，在实践中，这些算法在元训练过程中通常也需要大量的策略经验，这使得它们在许多问题中不切实际。为此，我们建议以联邦的方式学习强化学习过程，其中各个非策略学习者可以解决各个元训练任务，然后将这些解决方案合并到单个元学习者中。由于中央元学习者通过模仿单个任务的解决方案来学习，因此它可以适应标准的元RL问题设置或混合设置，其中一些或所有任务都提供了示例演示。前者的结果是一种方法，可以在元训练期间利用为先前任务学习的策略，而无需大量的策略数据，而后者在演示很容易提供的情况下特别有用。在许多连续控制元RL问题，我们证明了元RL样本效率的显着改善相比，以前的工作，以及扩展到域的视觉观察的能力。
2020-10-27 cs.AI cs.LG cs.RO
Online Meta-Learning in Adversarial Multi-Armed Bandits
Technion - Israel Institute of Technology（以色列理工学院）
我们研究了对抗性多武装匪徒的元学习。我们认为在线内在线设置，其中一个球员（学习者）遇到一系列的多武装土匪插曲。玩家的表现是根据对手造成的损失，在每一集中对最好的手臂进行后悔。问题的难度取决于对手选择的每集最佳手臂的经验分布。我们提出了一个算法，可以利用这种经验分布的非均匀性，并获得问题相关的遗憾界。该解决方案包括单独播放每一集的内部学习器，以及在剧集之间更新内部算法的超参数的外部学习器。在最佳手臂分布远不均匀的情况下，它改进了可以通过在每个情节上单独执行的任何在线算法而无需元学习来实现的最佳界限。
2022-07-12 cs.LG stat.ML
Meta-Learning Transferable Active Learning Policies by Deep Reinforcement Learning
University of Edinburgh（爱丁堡大学）；University College London（伦敦大学学院）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
主动学习（AL）的目标是通过预测未标记实例的哪个子集最有利于标记来训练具有低标注成本的高性能分类器。人工智能的重要性激发了广泛的研究，提出了各种各样的人工设计的人工智能算法与不同的理论和直观的动机。与此相反，我们建议将主动学习算法设计视为一个元学习问题，并从数据中学习最佳标准。我们将主动学习算法建模为深度神经网络，该网络输入基本学习者状态和未标记的点集，并预测接下来要注释的最佳点。用强化学习训练这个主动查询策略网络，为给定的数据集产生最佳的非近视策略。实现AL的通用解决方案的关键挑战就变成了学习者的泛化，特别是在异构数据集之间。我们提出了一个多任务的嵌入式方法，允许嵌入式不可知的主动学习者进行培训。我们的评估表明，以这种方式训练的AL算法可以直接概括各种问题。
2018-06-12 cs.LG stat.ML
RLOC: Neurobiologically Inspired Hierarchical Reinforcement Learning Algorithm for Continuous Control of Nonlinear Dynamical Systems
Imperial College London（帝国理工学院）；MRC Clinical Science Center（英国医学研究委员会临床科学中心）
非线性最优控制问题通常用数值方法来解决，该方法需要系统的动力学知识，这可能难以推断，并且与迭代计算相关联的计算成本很大。我们提出了一种新的神经生物学启发的分层学习框架，强化学习最优控制，它在两个抽象层次上运行，并利用减少数量的控制器来解决非线性系统的未知动态连续状态和动作空间。我们的方法的灵感来自于两个抽象层次的研究：首先，在肢体协调人类行为的水平是由线性最优反馈控制理论解释。其次，在涉及学习符号级动作选择的认知任务中，人类使用无模型和基于模型的强化学习算法来学习此类问题。我们建议，结合这两个层次的抽象导致一个快速的非线性控制问题的全局解决方案，减少控制器的数量。我们的框架从朴素的经验中学习局部任务动态，并形成局部最优的无限时域线性二次调节器，产生连续的低级控制。顶级强化学习器使用控制器作为动作，并学习如何在状态空间中最好地组合它们，同时最大化长期奖励。单个最优控制目标函数通过提供关于每个所选控制器的期望的训练信号来驱动高级符号学习。我们表明，少量的局部最优线性控制器能够解决全局非线性控制问题，未知的动态时，结合强化学习在这个层次框架。我们的算法竞争的计算成本和解决方案的质量与先进的控制算法，我们说明这与基准问题的解决方案。
2019-03-07 cs.LG stat.ML
Stochastic Dynamic Power Dispatch with High Generalization and Few-Shot Adaption via Contextual Meta Graph Reinforcement Learning
South China University of Technology（华南理工大学）；Fuzhou University（福州大学）
针对多元不确定性下实时多阶段随机电力调度策略泛化差、难适应新场景的问题，提出上下文 Meta-GRL，通过元学习与图表示实现少样本快速适配。
2024-01-19 cs.LG cs.SY eess.SY
Representation based and Attention augmented Meta learning
Northwestern Polytechnical University of China（西北工业大学）；Chinese Academy of Sciences（中国科学院）；JD Finance（京东金融）；JD AI Research（京东人工智能研究院）
基于深度学习的计算机视觉在标记图像稀缺时无法工作。近年来，元学习算法被证实是提高计算机视觉从少量图像中学习能力的一种很有前途的方法。然而，以往的元学习方法暴露出以下问题：1）它们忽视了注意力机制对Meta学习者的重要性; 2）它们没有赋予Meta学习者很好地利用过去知识的能力，这些知识有助于将图像表达成高表示，导致Meta学习者必须直接从原始的高维RGB图像解决少样本学习任务。在本文中，我们认为，注意力机制和过去的知识是至关重要的Meta学习者，和Meta学习者应该训练的RGB图像的高表示，而不是直接对原始的。基于这些论点，我们提出了两种方法：注意增强的元学习（AML）和基于表示和注意增强的元学习（RAML）。AML方法通过在Meta学习者的网络中显式地嵌入一个注意力模型来提高其注意力能力。RAML方法的目的是使Meta学习者能够利用过去学习的知识，通过将原始输入数据表示为高表示来降低其维数，并帮助Meta学习者更好地执行。大量的实验证明了所提出的模型的有效性，与国家的最先进的少样本学习性能的几个少样本学习基准。我们提出的方法的源代码将很快发布，以方便对上述问题的进一步研究。
2018-11-26 cs.AI cs.LG
Risk and Regret of Hierarchical Bayesian Learners
MIT（麻省理工学院）
通常的统计实践表明，贝叶斯方法的全部功能在使用分层先验之前是无法实现的，因为这些先验允许更大的“鲁棒性”和“共享统计强度”的能力。“然而，这是一个持续的挑战，提供一个学习理论上健全的形式主义的概念，这些概念：提供有关何时以及如何最好地利用分层模型的实际指导;提供洞察什么是一个良好的分层先验;并且，当先验的形式已经选择，可以指导超参数设置的选择。我们提出了一套分析工具，用于理解在线和批处理学习设置中的分层先验。我们提供了遗憾的界限下的对数损失，这表明某些层次模型比较，在回顾中，最好的单一模型的模型类。我们还展示了如何转换贝叶斯日志损失的遗憾界到贝叶斯风险界的任何有界损失，结果可能是独立的利益。Student的$t$和分层高斯先验的风险和后悔界限允许我们形式化“鲁棒性”和“共享统计强度”的概念。“也研究了特征选择的先验。我们的研究结果表明，使用分层先验的学习理论的好处往往可以在实际问题上的成本很小。
2015-05-19 cs.LG stat.ML
Conformal Meta-learners for Predictive Inference of Individual Treatment Effects
UC Berkeley（加州大学伯克利分校）；UCSF（加州大学旧金山分校）
本文提出共形元学习器框架，通过在CATE元学习器上应用共形预测，为个体治疗效果提供有效的预测区间，并证明其边际有效性与直接推断目标参数的优势。
2023-08-28 cs.LG
Meta-SGD: Learning to Learn Quickly for Few-Shot Learning
少样本学习对于孤立地从零开始学习每个任务的学习算法来说是具有挑战性的。相比之下，元学习从许多相关的任务中学习一个元学习者，可以用更少的例子更准确，更快地学习一个新的任务，其中元学习者的选择是至关重要的。在本文中，我们开发了元SGD，一个类似SGD的，易于训练的元学习器，可以在监督学习和强化学习的基础上，一步就可以初始化和适应任何可微学习器。与流行的元学习者LSTM相比，Meta-SGD在概念上更简单，更容易实现，并且可以更有效地学习。与最新的元学习器MAML相比，Meta-SGD具有更高的学习能力，不仅可以学习学习器初始化，还可以学习学习器更新方向和学习率，所有这些都在单个元学习过程中进行。Meta-SGD在回归、分类和强化学习的少样本学习方面表现出很强的竞争力。
2017-09-28 cs.LG
Few-shot Learning with Meta Metric Learners
Microsoft AI & Research（微软人工智能与研究）；IBM Research AI（IBM研究人工智能）；JD AI Research（京东人工智能研究）
少样本学习旨在学习新类的分类器，每个类只需几个训练样本。现有的基于元学习或度量学习的少样本学习方法在处理具有不同数量标签的不同领域时受到限制。元学习方法训练元学习器来预测复杂结构的任务特定网络的权重，要求跨任务的类的数量一致。度量学习方法为所有任务学习一个任务不变的度量，如果任务发散，它们就会失败。我们建议用元度量学习来处理这些限制。我们的元度量学习方法包括特定于任务的学习者，利用度量学习来处理灵活的标签，以及一个元学习者，发现好的参数和梯度下降来指定特定于任务的学习者的度量。因此，该模型能够处理不平衡的类，以及生成特定于任务的指标。我们测试我们的方法在"$k$-拍摄$N$-方式" Few-Shot学习设置在以前的工作和新的现实Few-Shot设置不同的多域任务和灵活的标签号码。实验表明，我们的方法在这两种情况下都取得了优异的性能。
2019-01-26 cs.AI cs.LG stat.ML
Auto-Meta: Automated Gradient Based Meta Learner Search
SK T-Brain；Yale University（耶鲁大学）
完全自动化机器学习管道是当前人工智能研究的关键挑战之一，因为实际的机器学习通常需要昂贵且耗时的人力流程，例如模型设计，算法开发和超参数调整。在本文中，我们验证了自动化架构搜索与基于梯度的元学习的效果协同作用。我们采用渐进式神经结构搜索\cite{liu:pnas_google:DBLP:journals/corr/abs-1712-00559}来寻找元学习器的最佳结构。基于梯度的元学习器的架构是自动发现的，它在5次5路Mini-ImageNet分类问题上取得了最先进的结果，具有$74.65\%$精度，这是$11.54\%$对第一个基于梯度的元学习器MAML \cite{finn:maml:DBLP:conf/icml/FinnAL17}获得的结果的改进。据我们所知，这项工作是在元学习的背景下第一个成功的神经架构搜索实现。
2018-12-10 cs.AI cs.CV cs.LG
Transformers are efficient hierarchical chemical graph learners
The University of Chicago（芝加哥大学）；Tsinghua University（清华大学）
针对图Transformer自注意力计算量随token数二次增长的问题，提出基于子图和消息传递的SubFormer，在分子性质预测任务上以极低计算成本达到前沿性能，还能缓解过平滑与过挤压问题。
2023-10-02 cs.LG
Constructing a meta-learner for unsupervised anomaly detection
Dublin City University（都柏林城市大学）
提出一种基于元特征的无监督异常检测元学习方法，能根据无标签数据集选择合适算法，性能优于现有方案，并在超万个数据集上验证了各组件对整体性能的影响。
2023-04-22 cs.LG
Model-agnostic meta-learners for estimating heterogeneous treatment effects over time
LMU Munich（慕尼黑大学）；Munich Center of Machine Learning (MCML)（慕尼黑机器学习中心）
本文首次针对时变设定下的异质性处理效应估计，提出一套模型无关的元学习器，通过加权伪结果回归实现高效估计，并提供理论分析与数值实验验证。
2025-02-06 cs.LG stat.ML
Meta-Learners for Partially-Identified Treatment Effects Across Multiple Environments
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；University of Cambridge（剑桥大学）
针对多环境观测数据中存在重叠性和无混淆性违反的CATE估计问题，提出将环境作为工具变量进行部分识别的模型无关元学习器，并在模拟与真实数据上验证了其有效性。
2024-06-04 cs.AI cs.LG stat.ML
MxML: Mixture of Meta-Learners for Few-Shot Classification
AITRICS；Pohang University of Science and Technology（浦项科技大学）；University of Technology Sydney（悉尼科技大学）
元模型是在类似任务的分布上训练的，这样它就可以学习一种算法，这种算法可以快速适应一个新的任务，而只需要少量的标记示例。目前的元学习方法大多假设元训练集由从单一分布中采样的相关任务组成。然而，在实践中，一个新的任务往往是在任务分布，产生性能下降。解决这个问题的一种方法是构建一个元学习器的集合，使得每个元学习器在不同的任务分配上进行训练。在本文中，我们提出了一种方法来构建一个混合的元学习者（MxML），其中混合参数确定的权重预测网络（WPN）优化，以提高Few-Shot分类性能。在各种数据集上的实验表明，MxML的性能明显优于最先进的元学习器，或者在分布外和分布内任务的情况下，它们的朴素集合。
2019-04-11 cs.LG stat.ML
Accelerating Gradient-based Meta Learner
IIIT Nagpur（那格浦尔印度信息技术学院）；TCS Research（TCS研究院）
元学习近年来一直是人们关注的焦点，因为元学习者模型能够很好地适应和概括新任务，从而减少了学习的时间和数据需求。然而，Meta学习器的一个主要缺点是，要达到一个状态，从那里学习新的任务变得可行，用更少的数据，它需要大量的迭代和大量的时间。我们通过提出各种加速技术来解决这个问题，以加速元学习算法，如MAML（模型不可知元学习）。我们在文献[11]中提出的基于RNN优化器的Meta学习器上提供了3.73倍的加速。我们引入了一种新的方法，在集群中训练任务，这不仅加快了元学习过程，但也提高了模型的准确性性能。关键词：元学习，RNN优化器，AGI，性能优化
2021-10-27 cs.DC cs.LG cs.PF
Hybrid Meta-learners for Estimating Heterogeneous Treatment Effects
UC Berkeley（伯克利大学）；UCSF（旧金山加州大学）；University of Washington（华盛顿大学）
本文提出混合学习器，通过结合直接和间接正则化策略，改进异质处理效应估计的偏差-方差权衡，实验证明其在半合成和真实数据集上均处于帕累托前沿。
2026-01-31 cs.LG stat.ME
Overlap-weighted orthogonal meta-learner for treatment effect estimation over time
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
本文提出了一种基于重叠权重的正交元学习器，用于在时间维度上更准确地估计异质治疗效应，通过减少估计方差提升可靠性。
2026-02-11 cs.LG
Meta Clustering for Collaborative Learning
University of Kentucky（肯塔基大学）；Google Research（谷歌研究院）；University of Minnesota（明尼苏达大学）
在协作学习中，学习者相互协调以提高各自的学习成绩。从任何学习者的角度来看，一个关键的挑战是过滤掉不合格的合作者。我们提出了一个名为Meta集群的框架来解决这一挑战。与聚类数据点的经典问题不同，Meta聚类对学习者进行分类。假设每个学习者在独立的本地数据集上执行监督回归，我们提出了一种选择-交换-聚类（SEC）方法，通过其底层监督函数对学习者进行分类。我们从理论上表明，SEC可以集群学习者到准确的合作集。实证研究证实了理论分析，并表明，SEC可以计算效率，强大的学习者异质性，并有效地提高单学习者的表现。此外，我们将展示如何使用所提出的方法来提高数据的公平性。本文的补充材料可在网上查阅。
2022-09-27 cs.LG stat.ML
BatMan-CLR: Making Few-shots Meta-Learners Resilient Against Label Noise
Delft University of Technology（代尔夫特理工大学）；University of Turin（都灵大学）；Universidad de los Andes（安第斯大学）
本文分析了标签噪声对少样本元学习器的负面影响，并提出两种采样技术（Man和BatMan）将噪声监督学习器转化为半监督学习器，有效缓解了元训练中的标签噪声问题。
2023-09-12 cs.AI cs.CV cs.LG
MAML is a Noisy Contrastive Learner in Classification
National Yang Ming Chiao Tung University（阳明交通大学）；IBM Research（IBM研究院）
模型不可知元学习（MAML）是最流行和广泛采用的元学习算法之一，在各种学习问题上取得了显着的成功。然而，由于MAML独特的内循环更新和外循环更新设计，MAML的底层学习目标仍然是隐含的，从而阻碍了对MAML工作机制的更直接的理解。我们发现MAML类似于使用监督对比目标的元学习器。查询特征被拉向同一类的支持特征，并反对不同类的支持特征。这种对比性通过基于余弦相似性的分析得到了实验验证。此外，我们发现，香草MAML有一个不希望的干扰来自随机初始化和跨任务的相互作用。因此，我们提出了一个简单而有效的技术，调零技巧，以减轻干扰。在mini-ImageNet和Omniglot数据集上进行了大量的实验，以证明我们提出的方法带来的一致改进，验证了其有效性。
2022-03-14 cs.AI cs.LG
Learning Mamba as a Continual Learner: Meta-Learning Selective State Space Models for Continual Learning
University of New South Wales (UNSW Sydney)（新南威尔士大学（UNSW悉尼））
该研究提出MambaCL，将Mamba作为固定大小状态序列模型，通过选择性正则化元训练，在元持续学习任务中实现了良好性能与强泛化性，展现了固定状态学习器用于高效持续学习的潜力。
2026-08-25 cs.LG
Few-Shot Learning with a Strong Teacher
Nanjing University（南京大学）；Ohio State University（俄亥俄州立大学）
少样本学习（FSL）的目标是使用有限的标记样本生成分类器。许多现有的作品采取元学习方法，构建一个Few-Shot学习器，可以从Few-Shot的例子学习，以生成一个分类器。通常，通过依次对多个Few-Shot任务进行采样并优化Few-Shot学习器在为这些任务生成分类器时的性能来构建或元训练Few-Shot学习器。性能是通过所得分类器对测试进行分类的程度来衡量的（即，这些任务的示例。在本文中，我们指出了这种方法的两个潜在的弱点。首先，采样的查询示例可能不能为元训练Few-Shot学习器提供足够的监督。其次，元学习的有效性随着镜头数量的增加而急剧下降。为了解决这些问题，我们提出了一种新的元训练目标的Few-Shot学习者，这是鼓励Few-Shot学习者生成分类器，执行像强分类器。具体地说，我们将每个采样的Few-Shot任务与一个强分类器相关联，该分类器用大量标记的示例进行训练。强分类器可以看作是我们希望Few-Shot学习器生成给定的Few-Shot样本的目标分类器，我们用强分类器来监督Few-Shot学习器。我们提出了一种有效的方法来构建强分类器，使我们提出的目标很容易即插即用现有的基于元学习的FSL方法。我们验证了我们的方法，LastShot，结合许多代表性的元学习方法。在几个基准数据集上，我们的方法在各种任务上都有显著的改进。更重要的是，通过我们的方法，基于元学习的FSL方法…
2022-07-11 cs.AI cs.CV cs.LG
Learner Referral for Cost-Effective Federated Learning Over Hierarchical IoT Networks
University of Electronic Science and Technology of China（电子科技大学）；La Trobe University（乐卓博大学）
针对分层物联网中部分客户端未注册联邦学习网络导致FL无法适用的问题，提出学习者引荐辅助的客户端选择与资源调度、精度优化方法，结合Lyapunov优化与多种算法求解，实现了精度与成本的良好平衡。
2023-07-19 cs.LG cs.NI
Stateless Neural Meta-Learning using Second-Order Gradients
Leiden University（莱顿大学）
深度学习通常需要大量的数据集和大量的计算能力来解决每个新问题。元学习可以用来学习一个好的先验知识，从而促进快速学习，从而放松这些要求，以便更快地学习新任务;两种流行的方法是MAML和元学习者LSTM。在这项工作中，我们比较了两者，并正式表明元学习者LSTM包含MAML。结合这一见解和最近的经验发现，我们构建了一个新的算法（称为TURTLE），它比元学习者LSTM更简单，但比MAML更具表达力。TURTLE在miniImageNet和CUB上的Few-Shot正弦波回归和图像分类方面优于这两种技术，无需任何额外的超参数调整，计算成本与二阶MAML相当。TURTLE成功的关键在于使用二阶梯度，这也将元学习者LSTM的性能显著提高了1-6%的准确率。
2021-04-21 cs.AI cs.LG stat.ML
Attentional Meta-learners for Few-shot Polythetic Classification
University of Cambridge（剑桥大学）
多元分类，基于共享的特征模式，在一个类的成员之间既不需要是普遍的也不需要是恒定的，在自然界中很常见，并且在一组特征上大大超过了一元化分类。我们表明，阈值元学习器，如原型网络，需要一个嵌入维数是指数的任务相关功能的数量来模拟这些功能。相比之下，注意力分类器，如匹配网络，默认情况下是多义性的，并且能够用线性嵌入维数来解决这些问题。然而，我们发现，在任务无关的功能，固有的元学习问题的存在下，注意力模型容易被误分类。为了解决这一挑战，我们提出了一个自我关注的特征选择机制，自适应稀释非歧视性的功能。我们证明了我们的方法在元学习布尔函数，合成和现实世界的少样本学习任务的有效性。
2022-06-27 cs.LG
Regularized boosting with an increasing coefficient magnitude stop criterion as meta-learner in hyperparameter optimization stacking ensemble
ArcelorMittal（安赛乐米塔尔）；University of Oviedo（奥维耶多大学）
针对超参数优化堆叠集成中元学习器易受多重共线性影响、需调优等问题，提出带隐式正则化和专属非参数停止准则的提升元学习器，无需调优且预测性能更具竞争力。
2024-02-02 cs.LG
Combining Domain-Specific Meta-Learners in the Parameter Space for Cross-Domain Few-Shot Classification
School of Computing Science（计算机科学学院）；Simon Fraser University（西蒙弗雷泽大学）
Few-Shot分类的目标是学习一个模型，该模型可以仅使用几个训练样本对新类别进行分类。尽管现有的元学习算法在解决Few-Shot分类问题方面取得了可喜的成果，但仍然存在一个重要的挑战：如何在多个可见域上进行元学习的同时推广到不可见域？在本文中，我们提出了一种基于优化的元学习方法，称为组合特定领域的元学习者（CosML），解决跨域的Few-Shot分类问题。CosML首先训练一组元学习器，每个训练域一个，以学习先验知识（即，元参数）特定于每个域。域特定的元学习者，然后结合在\emph{parameter space}中，通过采取加权平均的元参数，这是用来作为一个任务网络的初始化参数，快速适应新的Few-Shot分类任务在一个看不见的域。实验结果表明，CosML的性能优于一系列最先进的方法，并实现了强大的跨领域泛化能力。
2020-10-31 cs.CV cs.LG stat.ML
HGEN: Heterogeneous Graph Ensemble Networks
Dept. of Electrical Engineering and Computer Science, Florida Atlantic University, USA（佛罗里达大学电子工程与计算机科学系）；Department of Data Science, William & Mary, USA（威廉与玛丽学院数据科学系）
HGEN通过元路径和转换优化管道集成多个学习者，提升异构图分类精度，其残差-注意力机制和相关性正则化项增强了基础学习器的多样性和准确性。
2025-09-11 cs.AI cs.LG
Comparison of meta-learners for estimating multi-valued treatment heterogeneous effects
Ecole polytechnique, Institut Polytechnique de Paris（巴黎理工学院巴黎综合理工学院）；TotalEnergies One Tech（道达尔能源第一技术公司）
本文比较多值处理异质性效应估计中的多种元学习器，理论分析误差上界随处理水平数的变化，并通过合成与半合成数据验证其优劣。
2023-06-03 cs.LG stat.AP stat.ML
Meta-Learner with Linear Nulling
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
我们提出了一个元学习算法，利用线性Transformer进行零空间投影的神经网络输出。其主要思想是构造一个替代的分类空间，使得在少样本学习期间的误差信号在该空间上被快速地强制为零，从而使得在低数据上的可靠分类成为可能。查询的最终决策是利用网络输出和参考向量之间的零空间投影距离度量获得的，这两者都是在初始学习阶段训练的。在具有给定模型大小的已知方法中，我们的元学习器使用Omniglot和miniImageNet数据集实现了最佳或接近最佳的图像分类精度。
2018-12-05 cs.LG stat.ML
Meta-Learners for Few-Shot Weakly-Supervised Medical Image Segmentation
Institute of Mathematics and Statistics, Universidade de São Paulo（圣保罗大学数学与统计研究所）；Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；CNRS（法国国家科学研究中心）
提出通用元学习框架用于医学图像小样本弱监督分割，比较9种元学习器，发现基于度量的方法在域偏移小时更优，基于梯度和融合的方法泛化性更强。
2023-05-11 cs.CV cs.LG cs.NE
HGKT: Introducing Hierarchical Exercise Graph for Knowledge Tracing
Microsoft Corporation（微软公司）；AIXUEXI Education Group Ltd（爱学习教育集团有限公司）；University of Science and Technology of China（中国科学技术大学）
知识追踪是计算机辅助教学系统中的一个重要环节，其目的是预测学习者的知识掌握情况。近年来，许多深度学习模型已被应用于解决KT任务，并取得了可喜的成果。然而，仍然存在局限性。现有的方法大多将练习记录简化为知识序列，未能挖掘出练习中蕴含的丰富信息。另外，现有的知识追踪诊断方法忽略了练习之间的先验关系，诊断结果缺乏说服力。为了解决上述问题，我们提出了一个层次图知识追踪模型HGKT来探索练习之间潜在的层次关系。具体来说，我们引入问题图式的概念，构建一个层次化的练习图，可以模拟练习学习的依赖关系。此外，我们还采用了两种注意力机制来突出学习者的重要历史状态。在测试阶段，我们提出了一个K&S诊断矩阵，它可以跟踪知识掌握和问题模式的转变，可以更容易地应用到不同的应用程序。大量的实验表明，我们提出的模型的有效性和可解释性。
2022-08-29 cs.AI cs.CY cs.LG
Privacy Challenges in Meta-Learning: An Investigation on Model-Agnostic Meta-Learning
Sharif University of Technology（谢里夫理工大学）；Imperial College London（帝国理工学院）
本文研究了 Model-Agnostic Meta-Learning (MAML) 中的隐私挑战，分析了梯度共享导致的数据泄露风险，提出了针对任务数据集的成员推理攻击，并验证了噪声注入方法在保护隐私和抵御攻击方面的有效性。
2024-06-01 cs.CR cs.LG
Dynamic Long-Term Time-Series Forecasting via Meta Transformer Networks
University of South Australia（南澳大学）；University of New South Australia（新南威尔士大学）；A*Star（新加坡科技研究局）；System Research Institute, Polish Academy of Science（波兰科学院系统研究所）
本文提出 MANTRA，利用快速/慢速学习器与轻量通用表示 transformer 层适应动态环境，在四个数据集的长期单、多变量预测中较基线提升至少 3%。
2024-01-25 cs.AI cs.LG
View selection in multi-view stacking: Choosing the meta-learner
Leiden University（莱顿大学）；Bocconi University（博科尼大学）
该研究针对多视图堆叠的元学习器选择问题，对比七种元学习算法的视图选择与分类性能，发现非负套索、非负自适应套索和非负弹性网综合表现更优。
2024-04-15 cs.LG stat.ME stat.ML
Bootstrapped Meta-Learning
DeepMind（深度思维）
元学习使人工智能能够通过学习如何学习来提高效率。释放这种潜力需要克服一个具有挑战性的元优化问题。我们提出了一个算法，让元学习者教自己来解决这个问题。该算法首先从元学习器引导一个目标，然后通过在选定的（伪）度量下最小化到该目标的距离来优化元学习器。专注于梯度元学习，我们建立的条件，保证性能的改善，并表明该指标可以控制元优化。同时，自举机制可以扩展有效的元学习范围，而不需要通过所有更新的反向传播。我们实现了一个新的国家的最先进的无模型代理的Atari ALE基准，并证明它产生的多任务元学习的性能和效率的提高。最后，我们探索自举如何开辟新的可能性，并发现它可以在ε贪婪Q学习代理中进行元学习高效探索，而无需通过更新规则反向传播。
2022-03-16 cs.AI cs.LG stat.ML
Sequential Scenario-Specific Meta Learner for Online Recommendation
Tsinghua University（清华大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
冷启动问题是实际建议的长期挑战。大多数现有的推荐算法依赖于大量的观察数据，并且对于交互很少的推荐场景是脆弱的。本文使用少样本学习和Meta学习来解决这些问题。我们的方法是基于这样的见解，即从几个例子中获得良好的泛化依赖于通用模型初始化和使该模型适应新出现的任务的有效策略。为了实现这一点，我们将特定场景的学习与模型不可知的顺序元学习相结合，并将它们统一到一个集成的端到端框架中，即特定场景的顺序Meta学习器（或s^2 meta）。通过这样做，我们的元学习器通过聚合来自各种预测任务的上下文信息来生成通用的初始模型，同时通过利用学习知识来有效地适应特定的任务。在各种真实数据集上的大量实验表明，我们提出的模型可以在在线推荐的冷启动问题上取得显着的收益。部署在猜你喜欢的会议，手机淘宝的首页。
2019-06-02 cs.IR cs.LG stat.ML
Combining Forecasts using Meta-Learning: A Comparative Study for Complex Seasonality
Czestochowa University of Technology（琴斯托霍瓦工业大学）；Electrical Engineering Faculty（电气工程学院）
本文针对不同类型模型生成的预测结果组合问题，提出采用元学习方法替代简单平均，使用多种元学习器并定义全局与局部变体，在复杂季节性时间序列预测任务中证明其性能更优。
2025-04-11 cs.AI cs.LG
BERT Learns to Teach: Knowledge Distillation with Meta Learning
Stanford University（斯坦福大学）；University of California, San Diego（加州大学圣地亚哥分校）
我们提出了知识蒸馏与元学习（MetaDistil），一个简单而有效的替代传统的知识蒸馏（KD）的方法，教师模型是固定的培训。我们证明了教师网络可以学习更好地将知识传递给学生网络（即，学习教学），并具有来自元学习框架中的提炼学生网络的性能的反馈。此外，我们引入了一个试点更新机制，以提高对齐的内部学习者和元学习者之间的元学习算法，专注于一个改进的内部学习者。在各种基准测试上的实验表明，MetaDistil与传统KD算法相比，可以产生显著的改进，并且对不同学生容量和超参数的选择不太敏感，便于在不同任务和模型上使用KD。
2022-04-01 cs.AI cs.CL cs.CV
LLMs as In-Context Meta-Learners for Model and Hyperparameter Selection
Huawei Noah’s Ark Lab（华为诺亚实验室）；Centre de Recherche en Informatique, Mines Paris, PSL University（信息研究中心，巴黎 Mines，PSL 大学）；Department of Data Science, EURECOM（数据科学系，EURECOM）
本文提出利用大语言模型作为上下文元学习者，通过数据集元数据推荐模型和超参数，无需搜索即可实现高效优化。
2026-02-13 cs.LG stat.ML
Elastically-Constrained Meta-Learner for Federated Learning
Linklogis Inc.（联易融科技集团）
针对联邦学习中元学习方法因非凸损失和采样随机性导致本地适配目标不稳定、收敛受阻的问题，本文提出利用历史本地适配模型约束内循环方向的弹性约束方法，在不增加计算和通信开销的情况下加速元学习收敛并提升个性化性能，在三个公开数据集上达到SOTA。
2023-08-05 cs.AI cs.CV cs.LG
