Generative Continual Concept Learning
University of Pennsylvania（宾夕法尼亚大学）；HRL Laboratories, LLC（HRL实验室有限责任公司）；Stanford University（斯坦福大学）
在学习了一个概念之后，人类还能够通过只观察少数标记的实例而不干扰过去学习的知识来不断地将他们学习的概念推广到新的领域。相比之下，在持续学习环境中有效地学习概念仍然是当前人工智能算法的公开挑战，因为持续的模型再训练是必要的。受并行分布式处理学习和互补学习系统理论的启发，我们开发了一个计算模型，该模型能够使用少量标记样本有效地将先前学习的概念扩展到新的领域。我们将概念的新形式与其过去学习的形式结合在一个嵌入空间中，以实现有效的持续学习。这样做，生成分布被学习，使得它在嵌入空间中的任务之间共享，并对抽象概念进行建模。这个过程使模型能够生成伪数据点来重放过去的经验，以解决灾难性遗忘。
2019-09-07 cs.AI cs.LG stat.ML
ORDisCo: Effective and Efficient Usage of Incremental Unlabeled Data for Semi-supervised Continual Learning
Tsinghua University（清华大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
持续学习通常假设传入的数据是完全标记的，这在实际应用中可能不适用。在这项工作中，我们考虑半监督持续学习（SSCL），增量学习部分标记的数据。观察到现有的持续学习方法缺乏持续利用未标记数据的能力，我们提出了具有判别器一致性的深度在线重放（ORDisCo），以利用条件生成对抗网络（GAN）相互依赖地学习分类器，该网络不断将学习的数据分布传递给分类器。特别是，ORDisCo重放采样的数据从条件发生器的分类器在一个在线的方式，利用未标记的数据在时间和存储效率的方式。此外，为了明确地克服未标记数据的灾难性遗忘，我们选择性地稳定对于区分由分类器预测的旧的未标记数据和它们的伪标签对很重要的参数。我们在SSCL的各种半监督学习基准数据集上广泛评估了ORDisCo，并表明与强基线相比，ORDisCo在SVHN，CIFAR 10和Tiny-ImageNet上实现了显着的性能改进。
2021-04-09 cs.AI cs.LG stat.ML
Continual Learning as a Multiphase Moving-Boundary Problem
Independent Researcher（独立研究者）
受熔化物理学启发，提出Stefan-CL方法，将知识巩固视为固相、未用容量视为液相，通过控制潜热调节边界移动，在几乎零遗忘下实现持续学习，无需存储原始数据。
2026-06-01 cs.LG math-ph math.MP
Sample Compression for Self Certified Continual Learning
Département d’informatique et génie logiciel（计算机与软件工程系）；Université Laval（拉瓦尔大学）；Mila - Quebec Artificial Intelligence Institute（魁北克人工智能研究所）；Computer Science and Software Engineering Department（计算机科学与软件工程系）；Concordia University（康科德大学）
本文提出基于样本压缩理论的CoP2L方法，通过系统保留代表性样本，为持续学习提供可计算的泛化损失上界，有效缓解灾难性遗忘并保证预测器可靠性。
2026-02-26 cs.LG
Forgetting, plasticity, and co-observation: a third facet of continual learning
KU Leuven；ESAT；Bernoulli Institute（伯努利研究所）；University of Groningen（格罗宁根大学）
该研究提出数据共观测是持续学习的第三维度，发现其可提升泛化性，且记忆重放不仅缓解遗忘还能引入共观测益处。
2026-08-20 cs.AI cs.LG
HiCL: Hippocampal-Inspired Continual Learning
HiCL提出了一种基于海马体的持续学习架构，通过双记忆机制和稀疏路由策略减少任务干扰，实现高效多任务学习。
2026-02-10 cs.AI cs.LG
Meta Continual Learning via Dynamic Programming
Mathematics and Computer Science Division（数学与计算机科学部）；Leadership Computing Facility（领导力计算设施）；Argonne National Laboratory（阿贡国家实验室）
Meta持续学习算法寻求在面对以顺序方式观察到的类似任务时训练模型。尽管方法上取得了很大的进步，但缺乏理论框架来分析学习挑战，如泛化和灾难性遗忘。为此，我们开发了一种新的理论方法Meta持续学习~（MCL），我们数学模型的学习动态使用动态规划，我们建立MCL问题的最优性条件。此外，使用的理论框架，我们得到了一个新的动态规划为基础的MCL方法，采用随机梯度驱动的交替优化，以平衡泛化和灾难性遗忘。我们表明，在MCL基准数据集上，我们的理论接地方法实现的精度优于或媲美现有的最先进的方法。
2020-10-09 cs.LG cs.SY eess.SY
Look-Ahead Selective Plasticity for Continual Learning of Visual Tasks
University of Western Ontario（西安大略大学）
本文受大脑事件模型启发，提出任务边界处的前瞻选择性可塑性机制，利用对比损失冗余性和新任务少量样本保留关键迁移参数，在多种持续学习场景取得最先进性能。
2023-11-02 cs.AI cs.CV cs.LG
Brain-Inspired Hierarchical Modularity for General Continual Learning
Tsinghua University（清华大学）；IDG/McGovern Institute for Brain Research, Tsinghua University（清华大学IDG/麦戈文脑科学研究院）；Tsinghua-Peking Center for Life Sciences（清华-北大生命科学联合中心）
受果蝇大脑启发，提出层次模块化原则，通过专家专业化与集成整合，在预训练模型上轻量适配，显著提升在线不确定数据流下的通用持续学习性能。
2026-09-23 cs.AI cs.LG
Beyond Retention: Orchestrating Structural Safety and Plasticity in Continual Learning for LLMs
Yangtze Delta Region Institute of Tsinghua University（清华大学 Yangtze Delta 区研究所）
本文提出OSW方法，通过正交子空间唤醒协调连续学习中的结构安全与可塑性，有效保留脆弱任务能力并维持新任务学习。
2026-01-26 cs.AI cs.LG
Foundations of a Developmental Design Paradigm for Integrated Continual Learning, Deliberative Behavior, and Comprehensibility
École Polytechnique Fédérale de Lausanne（瑞士联邦理工学院）；Sabancı University（巴卡大学）
本文提出受进化发育生物学启发的三组件系统设计，通过无梯度 Modeller、规划器和层次化行为封装，实现持续学习、审慎行动与可理解性的集成。
2025-10-18 cs.AI cs.CV cs.LG
Distillation-Guided Structural Transfer for Continual Learning Beyond Sparse Distributed Memory
本文提出Selective Subnetwork Distillation (SSD)，通过结构引导的持续学习框架，利用知识蒸馏实现跨任务知识重用，提升稀疏持续学习的准确率和保留率。
2025-12-17 cs.LG
Sculpting Subspaces: Constrained Full Fine-Tuning in LLMs for Continual Learning
Red Hat AI Innovation（红帽AI创新中心）；IBM Research（IBM研究院）；IIT Bombay（印度理工学院孟买分校）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
本文提出基于自适应SVD的持续全量微调方法，通过识别任务特定低秩子空间并约束更新与先前任务关键方向正交，在无需额外参数的情况下有效缓解大语言模型持续学习中的灾难性遗忘，并在多个基准上取得最优结果。
2025-04-09 cs.AI cs.CL cs.LG
Always Learning, Always Mixing: Efficient and Simple Data Mixing All the Time
New York University（纽约大学）；Carnegie Mellon University（卡内基梅隆大学）；Microsoft（微软公司）
本文提出OP-Mix算法，通过低秩适配器插值实现数据混合，提升预训练和持续学习性能，减少计算资源消耗。
2026-10-30 cs.AI cs.CL cs.LG
Continual Learning with Deep Learning Methods in an Application-Oriented Context
抽象知识深深扎根于许多基于计算机的应用中。人工智能（AI）的一个重要研究领域涉及从数据中自动导出知识。机器学习提供了相应的算法。研究的一个领域集中在生物启发的学习算法的发展。各种机器学习方法基于神经学概念，使得它们可以系统地从数据中导出知识并将其存储。可以被归类为“深度学习“模型的一种类型的机器学习算法被称为深度神经网络（DNN）。DNN由多个人工神经元组成，这些神经元通过使用反向传播算法进行训练。这些深度学习方法展示了从高维数据中推断和存储复杂知识的惊人能力。然而，DNN会受到一个问题的影响，这个问题会阻止新知识被添加到现有的基础中。持续积累知识的能力是促进进化的重要因素，因此是发展强大人工智能的先决条件。所谓的“灾难性遗忘“（CF）效应会导致DNN在新数据分布上进行几次训练迭代后立即丢失已经获得的知识。只有通过对过去和新数据的联合数据分布进行能量昂贵的再训练，才能抽象出整个新的知识集。为了抵消这种影响，已经并且仍在开发各种技术，目的是减轻甚至解决CF问题。这些已发表的CF回避研究通常意味着他们的方法对各种持续学习任务的有效性。本论文是在连续机器学习与深度学习方法的背景下进行的。第一部分是关于一个…
2022-07-12 cs.AI cs.LG
Predicting the Susceptibility of Examples to Catastrophic Forgetting
本文发现学习速度快的样本更不易被遗忘，据此提出基于学习速度的回放采样策略SBS，可广泛提升持续学习基准上的性能。
2025-07-03 cs.LG
Parameter-Efficient Fine-Tuning for Continual Learning: A Neural Tangent Kernel Perspective
School of Electrical and Information Engineering, Tianjin Key Laboratory of Brain-Inspired Intelligence Technology, Tianjin University（电子信息工程学院，天津脑启发智能技术重点实验室，天津大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；College of Information Science and Electronic Engineering, Zhejiang University（信息科学与电子工程学院，浙江大学）；Department of Computer Science, the University of Sheffield（计算机科学系，谢菲尔德大学）；Institute of Artificial Intelligence (TeleAI) of China Telecom（中国电信人工智能研究院（TeleAI））
本研究从神经切线核视角出发，提出NTK-CL框架，通过优化特征表示和正则化策略，提升持续学习中参数效率和泛化能力。
2026-02-26 cs.AI cs.LG
Visually Grounded Continual Learning of Compositional Phrases
University of Southern California（南加州大学）
与当代NLP系统相比，人类不断地获取语言，每次对数据样本的访问要有限得多。为了研究这种类似人类的语言习得能力，我们提出了VisCOLL，一个视觉接地的语言学习任务，它模拟连续收购的组成短语从流视觉场景。在该任务中，模型在具有移动对象分布的成对图像-字幕流上进行训练;同时在保持的测试集上通过视觉接地的掩蔽语言预测任务进行不断评估。VisCOLL将持续学习的挑战（即，从连续移动的数据分布中学习）和合成概括（即，推广到新的组合物）。为了方便对VisCOLL的研究，我们构建了两个数据集，COCO-shift和Flickr-shift，并使用不同的持续学习方法对它们进行了基准测试。结果表明，SoTA持续学习方法对VisCOLL几乎没有改进，因为存储所有可能组合物的示例是不可行的。我们进行进一步的消融和分析，以指导未来的工作。
2020-11-17 cs.CL
Memory Replay with Data Compression for Continual Learning
Tsinghua University（清华大学）；Tsinghua-Peking Center for Life Sciences（清华-北大生命科学联合中心）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Renmin University of China（中国人民大学）
持续学习需要克服对过去的灾难性遗忘。具有代表性的旧训练样本的记忆重放已被证明是一种有效的解决方案，并达到了最先进的（SOTA）性能。然而，现有的工作主要是建立在一个小的内存缓冲区包含一些原始数据，这不能完全表征旧数据的分布。在这项工作中，我们提出了内存重放与数据压缩（MRDC），以减少旧的训练样本的存储成本，从而增加它们的量，可以存储在内存缓冲区。观察到压缩数据的质量和数量之间的权衡是非常重要的内存重放的功效，我们提出了一种新的方法，基于决定点过程（DPP），以有效地确定一个适当的压缩质量为当前到达的训练样本。以这种方式，使用具有适当选择的质量的朴素数据压缩算法可以通过在有限的存储空间中保存更多的压缩数据来大大提高最近的强基线。我们在类增量学习的几个基准测试和自动驾驶的目标检测的实际场景中广泛验证了这一点。
2022-03-09 cs.LG
SLCA: Slow Learner with Classifier Alignment for Continual Learning on a Pre-trained Model
University of Technology Sydney（悉尼科技大学）；Tsinghua University（清华大学）；Beihang University（北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）；Beijing Jiaotong University（北京交通大学）
针对预训练模型持续学习中的渐进式过拟合问题，提出SLCA方法，通过选择性降低表示层学习率、建模类别分布并事后对齐分类层，在多个基准数据集上大幅超越现有最优方法。
2023-10-09 cs.AI cs.CV cs.LG
Statistical mechanics of continual learning: variational principle and mean-field potential
Sun Yat-sen University（中山大学）
针对二值神经网络多任务持续学习缺乏统一理论的问题，提出变分贝叶斯学习设定与Franz-Parisi热力学势框架，通过平均场序参数解析学习性能，并推导出优于现有元可塑性算法的考虑权重不确定性的多层网络学习算法。
2023-06-20 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Spiking Neural Predictive Coding for Continual Learning from Data Streams
Rochester Institute of Technology（罗切斯特理工学院）
为了在专门的神经形态硬件中进行节能计算，我们提出了尖峰神经编码，这是基于预测编码理论的一系列人工神经模型的实例。这种模型是同类模型中的第一个，其工作原理是在一个永无止境的“猜测和检查”过程中运行，其中神经元预测彼此的活动值，然后调整自己的活动以做出更好的未来预测。我们的系统的交互式，迭代的性质很好地适合到连续时间的制定的感觉流预测，正如我们所展示的，该模型的结构产生一个本地突触更新规则，它可以用来补充或作为替代在线尖峰定时依赖可塑性。在这篇文章中，我们实验了一个由泄漏的积分和点火单元组成的模型的实例。然而，我们的系统所处的框架可以自然地包含更复杂的神经元，例如Hodgkin-Huxley模型。我们在模式识别的实验结果表明，当二进制尖峰列车是神经元间通信的主要范例时，该模型的潜力。值得注意的是，尖峰神经编码在分类性能方面具有竞争力，并且在从任务序列学习时经历较少的遗忘，为流行的人工神经网络提供了一种计算上更经济，生物学上更合理的替代方案。
2022-08-08 cs.LG cs.NE q-bio.NC
Task-agnostic Low-rank Residual Adaptation for Efficient Federated Continual Fine-Tuning
University of Exeter（埃克塞特大学）
本文提出Fed-TaLoRA，通过任务无关适应、后聚合模型校准和策略性低秩适应放置，解决联邦持续微调中的遗忘、参数增长和聚合不一致问题，提升效率。
2026-04-09 cs.LG
Improving Sparse Memory Finetuning
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
本文提出稀疏记忆微调方法，通过局部更新显式内存层参数，解决持续学习中的灾难性遗忘问题，并在消费级硬件上验证了其有效性。
2026-04-06 cs.CL cs.LG
Little by Little: Continual Learning via Incremental Mixture of Rank-1 Associative Memory Experts
University of New South Wales（新南威尔士大学）
针对持续学习中专家粒度粗糙导致的冗余、干扰和遗忘问题，提出MoRAM方法，将秩-1适配器作为细粒度专家和联想记忆单元，通过自激活机制实现增量扩展，显著提升塑性-稳定性权衡和泛化能力。
2026-05-29 cs.LG
Visually Grounded Continual Language Learning with Selective Specialization
University of Hamburg（汉堡大学）
本文针对视觉grounded持续语言学习中的选择性专精化策略进行广泛分析，提出两个诊断数据集并设计简单方法，优于常见持续学习基线，强调算法需与模型各部分学习行为对齐。
2023-10-24 cs.CL
Revisiting Neural Networks for Continual Learning: An Architectural Perspective
Sichuan University（四川大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）
本文从网络架构视角系统分析宽度、深度及跳跃连接等组件对持续学习的影响，提出 ArchCraft 方法将 AlexNet/ResNet 重构为 AlexAC/ResAC，在多种持续学习场景下以更少参数实现最先进性能。
2024-04-28 cs.CV cs.LG
VERDICT: Verifiable Evolving Reasoning with Directive-Informed Collegial Teams for Legal Judgment Prediction
University of Science and Technology of China（中国科学技术大学）；Chinese Academy of Sciences（中国科学院）；iFLYTEK AI Research（iFLYTEK人工智能研究院）
VERDICT通过模拟虚拟合议庭，提出自反思协作多智能体框架，结合混合法理记忆实现法律推理的可验证性和适应性，提升法律预测的准确性和解释性。
2026-03-13 cs.AI cs.IR cs.LG
RemixIT: Continual self-training of speech enhancement models via bootstrapped remixing
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Meta Reality Labs Research（Meta现实实验室）；Meta AI Research（Meta人工智能研究院）
我们提出了RemixIT，一种简单而有效的自监督方法，用于训练语音增强，而不需要单个孤立的域内语音，也不需要噪声波形。我们的方法克服了以前的方法，使他们依赖于干净的域内目标信号的局限性，因此，敏感的训练和测试样本之间的任何域失配。RemixIT是基于一个连续的自训练方案，其中一个预先训练的教师模型的域外数据推断估计的伪目标信号的域混合。然后，通过置换估计的清洁和噪声信号，并将它们重新混合在一起，我们产生一组新的自举混合物和相应的伪目标，用于训练学生网络。反之亦然，教师使用最新学生模型的更新参数定期改进其估计。在多个语音增强数据集和任务上的实验结果不仅表明了该方法优于现有方法，而且还表明RemixIT可以与任何分离模型相结合，并适用于任何半监督和无监督的领域自适应任务。我们的分析，结合经验证据，揭示了我们的自我训练计划的内部运作，其中学生模型在观察严重退化的伪目标的同时，不断获得更好的性能。
2022-08-03 cs.LG cs.SD eess.AS
Non-Equilibrium Stochastic Dynamics as a Unified Framework for Insight and Repetitive Learning: A Kramers Escape Approach to Continual Learning
Department of Physics, Sejong University（世宗大学物理系）
本文提出非平衡统计物理理论解决持续学习中的稳定性-可塑性矛盾，通过Kramers逃逸率模型揭示洞察与重复学习的温度协议差异，为持续学习系统提供物理基础框架。
2026-04-05 cond-mat.dis-nn cond-mat.stat-mech cs.LG
PMF-CL: Pareto-Minimal-Forgetting Continual Learner for Conflicting Tasks
Department of Electrical and Computer Engineering（电气与计算机工程系）
提出基于多任务学习视角的帕累托最优框架，通过寻找帕累托最优解实现冲突任务下最小化遗忘的持续学习，并推导出适用于线性回归、基函数回归及具有二次上界损失函数的帕累托最小遗忘算法。
2026-10-02 cs.LG
Evaluating Agentic Learning Harness Capabilities Without Labels via the Scaling Hypothesis
Georgian
该研究提出基于缩放假设的无标签智能体学习控制器评估框架，以教师模型与学生模型的收敛度为评分指标，验证其可作为标签缺失时控制器真实增益的有效代理。
2026-08-17 cs.AI cs.CR cs.LG
CurLL: A Developmental Framework to Evaluate Continual Learning in Language Models
Microsoft Research（微软研究院）；KTH Royal Institute of Technology（皇家理工学院）
本文提出CurLL，一个基于人类5-10岁发展轨迹的持续学习基准，通过技能图和234亿token合成数据，在1.35亿参数模型上评估遗忘与迁移，推进语言模型的持续学习评估。
2025-10-14 cs.AI cs.CL
GLIDE-RL: Grounded Language Instruction through DEmonstration in RL
Microsoft（微软）；AI Redefined Inc（AI Redefined 公司）；Microsoft Research（微软研究院）；University of Alberta（阿尔伯塔大学）
提出GLIDE-RL算法，引入教师-指导者-学生多智能体课程学习框架，通过多教师同时训练解决语言接地RL智能体的稀疏奖励与泛化难题。
2024-01-03 cs.AI cs.CL cs.LG
Analogical Reasoning for Visually Grounded Language Acquisition
Columbia University（哥伦比亚大学）
儿童通过观察周围的世界和听描述下意识地习得语言。即使没有明确的语言知识，他们也能发现单词的含义，并毫不费力地概括为新的作文。在本文中，我们通过研究视觉基础语言习得（VLA）的任务，将这种能力引入人工智能。我们提出了一个多模态的Transformer模型，增加了一个新的机制，类比推理，近似新的组合物，通过学习语义映射和推理操作，从以前看到的组合物。我们提出的方法，类比推理Transformer网络（ARTNet），训练的原始多媒体数据（视频帧和成绩单），并在观察一组组成，如“洗苹果”或“切胡萝卜”，它可以概括和识别新的视频帧，如“洗胡萝卜”或“切苹果”的新组成。为此，ARTNet参考训练数据中的相关实例，并使用其视觉特征和标题与查询图像建立类比。然后选择合适的动词和名词来创作一个新的作品，最好地描述新的形象。大量的教学视频数据集上的实验表明，该方法实现了显着更好的泛化能力和识别精度相比，国家的最先进的Transformer模型。
2020-07-22 cs.AI cs.CL cs.CV
Continual Robot Skill and Task Learning via Dialogue
Arizona State University（亚利桑那州立大学）
本文提出通过对话交互实现机器人持续学习任务和视觉-运动技能，开发了ACT-LoRA政策在模拟中优于基线，且在真实场景中成功教授烹饪技能。
2026-03-28 cs.AI cs.CL cs.RO
InsCL: A Data-efficient Continual Learning Paradigm for Fine-tuning Large Language Models with Instructions
OPPO AI Center（OPPO人工智能中心）；Tsinghua University（清华大学）
本文提出InsCL范式，利用指令的Wasserstein距离和InsInfo度量动态重放高质量数据，在16个任务上显著提升LLM持续学习性能。
2024-03-18 cs.CL
CoLLIE: Continual Learning of Language Grounding from Language-Image Embeddings
KTH Royal Institute of Technology（KTH皇家理工学院）
本文介绍了CoLLIE：一个简单，但有效的持续学习的语言是如何在视觉的基础模型。给定一个预先训练的多模态嵌入模型，其中语言和图像被投影在相同的语义空间中（在这种情况下，OpenAI的CLIP），CoLLIE学习一个转换函数，该函数在需要时调整语言嵌入以适应新的语言使用。这是通过预测需要应用的差向量以及该向量的缩放因子来完成的，使得仅在需要时应用调整。与传统的少样本学习不同，该模型不仅学习新的类和标签，还可以推广到类似的语言使用并利用语义组合。我们验证了该模型的性能上的两个不同的任务，确定的目标是指表达，它必须学习新的语言使用。结果表明，该模型可以有效地学习和推广，只有少数的例子，与模型的原始zero-shot性能的干扰很小。
2022-07-10 cs.CL
Evaluating Large Language Models for Document-grounded Response Generation in Information-Seeking Dialogues
Toshiba Europe Limited（东芝欧洲有限公司）
本文评估ChatGPT等大型语言模型在信息寻求对话中基于文档生成响应的能力，通过Chat-Completion和LlamaIndex两种方法在MultiDoc2Dial语料库上进行人工评估，发现ChatGPT变体虽更易产生幻觉但评分仍高于共享任务获胜系统和人类响应。
2023-09-21 cs.AI cs.CL
K-DeCore: Facilitating Knowledge Transfer in Continual Structured Knowledge Reasoning via Knowledge Decoupling
School of Computer Science and Engineering, Southeast University, China（东南大学计算机科学与工程学院）；Key Laboratory of New Generation Artificial Intelligence Technology and its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及 interdisciplinary 应用关键实验室（东南大学））；China Mobile Research Institute（中国移动研究院）；Department of Data Science & AI, Monash University, Australia（莫纳什大学数据科学与人工智能系）
K-DeCore提出知识解耦机制，将推理分为任务特定与无关阶段，结合双视角记忆巩固和结构引导伪数据合成，在固定参数下提升持续结构化知识推理的泛化与迁移能力。
2025-10-04 cs.CL
Autonomous Continual Learning for Environment Adaptation of Computer-Use Agents
The Ohio State University（俄亥俄州立大学）；University of California, Berkeley（加州大学伯克利分校）
本文提出ACuRL框架，通过自主生成任务实现持续学习，无需人工标注数据，在不同环境中实现3-29%的性能提升，且避免灾难性遗忘。
2026-05-11 cs.CL
Improving Grounded Natural Language Understanding through Human-Robot Dialog
University of Washington（华盛顿大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Tufts University（塔夫茨大学）
机器人的自然语言理解可能需要大量的特定于领域和平台的工程。例如，移动机器人在环境中拾取和放置物体以满足人类命令，我们可以指定人类用来发出此类命令的语言，并将概念词（如红色）与物理对象属性联系起来。一种方法来减轻这种工程的一个新的领域是使机器人在人类环境中动态适应-不断学习新的语言结构和感知概念。在这项工作中，我们提出了一个端到端的管道，用于将自然语言命令转换为离散的机器人动作，并使用澄清对话框来共同提高语言解析和概念基础。我们在Amazon Mechanical Turk上的虚拟环境中对该代理进行训练和评估，并将学习的代理转移到物理机器人平台上，以便在现实世界中进行演示。
2019-03-01 cs.CL cs.HC
Reasoning-Grounded Natural Language Explanations for Language Models
本文提出一种通过推理过程生成可信自然语言解释的方法，通过将推理过程转化为token序列并解码为自然语言，提升解释的准确性与答案质量。
2026-03-14 cs.CL cs.LG
Aligning Language Models from User Interactions
ETH Zurich（苏黎世联邦理工学院）；MIT（麻省理工学院）；University of Zurich（苏黎世大学）
本文提出通过自蒸馏直接从用户交互学习的方法，利用用户反馈调整模型行为，提升对齐和指令遵循能力，同时实现个性化和持续适应。
2026-02-18 cs.AI cs.CL cs.LG
Human-Grounded Multimodal Benchmark with 900K-Scale Aggregated Student Response Distributions from Japan's National Assessment of Academic Ability
Osaka Kyoiku University（大阪教养大学）；University of Tokyo（东京大学）；NII LLMC（日本国家信息与通信技术研究所大语言模型中心）
本文提出一个基于日本全国学业能力评估的多模态数据集，包含真实考试布局、图表和教育文本，用于评估多模态大语言模型的性能，通过精确匹配准确率和字符级F1分数分析不同学科间的差异。
2026-05-12 cs.CL
Learning a natural-language to LTL executable semantic parser for grounded robotics
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；CBMM（大脑、思维与机器研究中心）
儿童通过观察语言在语境中的使用情况并尝试自己使用语言，显然很容易习得母语。他们这样做没有费力的注释，负面的例子，甚至直接更正。我们通过训练一个接地的语义解析器，向可以做同样事情的机器人迈出了一步，该解析器可以发现可用于执行自然语言命令的潜在语言表示。特别是，我们专注于困难的领域的命令与时间方面，其语义，我们捕捉线性时序逻辑，LTL。我们的解析器是用成对的句子和执行以及执行器来训练的。在训练时，解析器假设输入的意义表示为LTL中的公式。三种相互竞争的压力使语法分析器能够从语言中发现意义。首先，任何假设的句子含义必须足够宽松，以反映所有注释的执行轨迹。其次，执行者--一个预先训练好的端到端LTL规划者--必须发现观察到的轨迹很可能是意义的执行。最后，生成器重建原始输入，鼓励模型找到保存有关命令的知识的表示。这些共同确保了含义既不太笼统也不太具体。我们的模型泛化良好，能够解析和执行机器生成和人类生成的命令，具有几乎相同的准确性，尽管人类生成的句子在开放词典中更加多样和复杂。这里提出的方法不是特定的LTL：它可以应用于任何领域，句子的含义可以假设和执行者可以验证这些含义，从而打开了大门，许多应用程序的机器人代理。
2021-03-17 cs.CL
SciDiagramEdit: Learning to Edit Scientific Diagrams from Paper Revisions
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Microsoft Research（微软研究院）；Nanyang Technological University（南洋理工大学）
研究针对科学论文图表编辑自动化的挑战，提出SciDiagramEdit框架，通过从arXiv版本历史挖掘数据，采用技能进化的智能体学习，能从自然论文修订中学习，提升编辑准确性。
2026-07-17 cs.AI cs.CL
