Evaluating the Impact of Task Granularity on Catastrophic Forgetting in Continual Learning
College of Engineering（工程学院）；College of Natural Science（自然科学学院）
研究任务粒度顺序对持续学习中灾难性遗忘的影响，通过CIFAR-100上的粗到细、细到粗和平坦三种训练策略，结合弹性权重巩固（EWC）方法，发现先学习一般类别可减少遗忘。
2026-06-06 cs.LG
Batch-level Experience Replay with Review for Continual Learning
University of Toronto（多伦多大学）；LG Sciencepark（LG科学园）
持续学习是深度学习的一个分支，它寻求在学习稳定性和可塑性之间取得平衡。CVPR 2020 CLVision计算机视觉持续学习挑战赛致力于使用CORe 50数据集评估和推进当前最先进的持续学习方法，并提供三种不同的持续学习场景。本文提出了我们的方法，称为批量级经验回放与审查，这一挑战。我们的团队在79个参赛团队中获得了所有三个场景的第一名。我们实现的代码库可以在https://github.com/RaptorMai/CVPR20_CLVision_challenge上公开获得
2020-07-11 cs.AI cs.CV cs.LG
What's a Good Prediction? Challenges in evaluating an agent's knowledge
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）；DeepMind（深度思维）
通过学习与任务无关的世界模型来构建通用知识，可以帮助智能体解决具有挑战性的问题。然而，构建和评估这些模型仍然是一个开放的挑战。评估模型的最常见方法是评估其相对于可观察值的准确性。然而，普遍依赖估计的准确性作为知识有用性的代理，有可能使我们误入歧途。我们展示了准确性和实用性之间的冲突，通过一系列说明性的例子，包括思想实验和经验的例子在MineCraft，使用一般价值函数框架（GVF）。在确定了评估代理的知识的挑战，我们提出了一种替代的评价方法，不断出现在网上持续学习设置，我们建议通过检查内部学习过程，特别是GVF的功能的相关性，预测任务在手的评价。本文通过使用预测，预测知识的一个组成部分，这是尚未探索的第一次看评估预测。
2021-04-13 cs.AI cs.LG
Generative Models from the perspective of Continual Learning
ENSTA ParisTech（巴黎高等科技学院）；INRIA（法国国家信息与自动化研究所）；Thales（泰雷兹集团）；Softbank Robotics Europe（软银机器人欧洲公司）
哪种生成模型最适合持续学习？本文旨在评估和比较不相交的序列图像生成任务的生成模型。我们研究了几个模型如何学习和忘记，考虑各种策略：排练，正则化，生成重放和微调。我们使用了两个定量指标来估计生成质量和记忆能力。我们在三个常用的持续学习基准测试（MNIST，Fashion MNIST和CIFAR10）上进行了顺序任务的实验。我们发现，在所有模型中，原始的GAN表现最好，在持续学习策略中，生成重放优于所有其他方法。即使我们在MNIST和Fashion MNIST上找到了令人满意的组合，在CIFAR10上连续训练生成模型也特别不稳定，仍然是一个挑战。我们的代码可在线获取\footnote{\url{https://github.com/TLESORT/Generative\_Continual\_Learning}}。
2018-12-21 cs.AI cs.CV cs.LG
Don't forget, there is more than forgetting: new metrics for Continual Learning
ENSTA ParisTech（巴黎高等先进技术学院）；INRIA Flowers（法国国家信息与自动化研究所Flowers实验室）；University of Bologna（博洛尼亚大学）
持续学习包括从数据/任务流中持续学习的算法和自适应的思考时间，从而实现更复杂知识和技能的增量开发。在评估持续学习算法方面缺乏共识，并且几乎只关注遗忘，这促使我们提出一套更全面的独立于实现的指标，考虑到我们认为在部署持续学习的真实AI系统时值得考虑的几个因素：随着时间的推移的准确性或性能，向后和向前的知识转移，内存开销以及计算效率。从标准的多属性值理论（MAVT）的启发，我们进一步提出将这些指标融合到一个单一的分数排名的目的，我们评估我们的建议与iCIFAR-100持续学习基准的五个持续学习策略。
2018-10-31 cs.AI cs.CV cs.LG
Neuroscience-Inspired Memory Replay for Continual Learning: A Comparative Study of Predictive Coding and Backpropagation-Based Strategies
Dartmouth College（达特茅斯学院）
本文提出一种受神经科学启发的持续学习框架，通过比较预测编码与反向传播策略，展示预测编码在提升模型保留性能方面的优势。
2025-11-29 cs.AI cs.LG
Learning an evolved mixture model for task-free continual learning
University of York（约克大学）
最近，持续学习（CL）引起了人们的极大兴趣，因为它使深度学习模型能够在不忘记先前学习的信息的情况下获取新知识。然而，大多数现有的工作需要知道的任务身份和边界，这是不现实的，在现实的情况下。在本文中，我们解决了CL中更具挑战性和现实性的设置，即无任务持续学习（TFCL），其中模型在没有明确任务信息的非平稳数据流上进行训练。为了解决TFCL，我们引入了一个进化的混合模型，其网络结构是动态扩展的，以适应数据分布偏移。我们实现这种扩展机制，通过评估存储在每个混合模型组件和当前的内存缓冲区使用希尔伯特施密特独立性准则（HSIC）的知识之间的概率距离。我们还引入了两个简单的dropout机制，选择性地删除存储的例子，以避免内存过载，同时保持内存的多样性。实验结果表明，该方法取得了良好的性能。
2022-07-11 cs.AI cs.LG
SkillLearnBench: Benchmarking Continual Learning Methods for Agent Skill Generation on Real-World Tasks
Carnegie Mellon University（卡内基梅隆大学）；Amazon AGI（亚马逊人工智能研究院）
SkillLearnBench评估持续学习方法在现实任务中生成技能的有效性，发现所有方法在无技能基线上有提升，但一致性改进困难，且更强LLM不总带来更好结果，开放任务表现不佳，外部反馈促进真实改进，自我反馈导致递归漂移。
2026-04-22 cs.CL cs.LG
Improving Online Continual Learning Performance and Stability with Temporal Ensembles
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）；University of Pisa（比萨大学）
本文针对在线持续学习中的性能下降与稳定性差距问题，提出一种轻量级时间集成方法，通过在测试时计算权重的指数移动平均（EMA），显著提升了在线持续学习的性能与稳定性。
2023-07-03 cs.AI cs.LG
How green is continual learning, really? Analyzing the energy consumption in continual training of vision foundation models
University of Florence（佛罗伦萨大学）
本文通过大量实验系统比较了多种持续学习算法在视觉基础模型持续训练中的能耗，并提出Energy NetScore指标，揭示推理阶段能耗对绿色评估的重要性。
2024-09-27 cs.LG
CLIMB: Language-Guided Continual Learning for Task Planning with Iterative Model Building
Georgia Institute of Technology（佐治亚理工学院）；University of Toronto（多伦多大学）；Georgia Tech Research Institute（佐治亚理工研究院）；Ohio State University（俄亥俄州立大学）；Nvidia（英伟达公司）
CLIMB是一个利用基础模型和执行反馈进行持续学习的机器人任务规划框架，能够从自然语言构建领域模型、学习非显而易见谓词并存储复用，在BlocksWorld++环境中相比基线方法显著提升规划性能。
2024-10-17 cs.AI cs.LG cs.RO
Probing Representation Forgetting in Supervised and Unsupervised Continual Learning
Concordia University（康考迪亚大学）；Mila – Quebec AI Institute（米拉 - 魁北克人工智能研究所）；Toyota Motor Europe（丰田汽车欧洲公司）
持续学习研究通常集中在解决神经网络中的灾难性遗忘现象。灾难性遗忘与当任务或更广泛地说数据分布在变化上训练时，模型先前学习的知识突然丢失有关。在监督学习问题中，这种遗忘是由模型表示的变化引起的，通常通过评估旧任务性能的下降来测量或观察。然而，模型的表示可以改变，而不会丢失关于先前任务的知识。在这项工作中，我们考虑表示遗忘的概念，观察到使用的最佳线性分类器的性能差异之前和之后引入一个新的任务。使用这个工具，我们重新审视了一些标准的持续学习基准，并观察到，通过这个镜头，没有任何显式控制遗忘训练的模型表示经常经历小的表示遗忘，有时可以与显式控制遗忘的方法相媲美，特别是在较长的任务序列中。我们还表明，表示遗忘可以导致新的见解的影响模型容量和损失函数中使用的持续学习。基于我们的研究结果，我们表明，一个简单而有竞争力的方法是学习表示不断与标准的监督对比学习，同时构建类样本的原型时，查询旧的样本。
2022-04-05 cs.AI cs.CV cs.LG
Beyond Retention: Orchestrating Structural Safety and Plasticity in Continual Learning for LLMs
Yangtze Delta Region Institute of Tsinghua University（清华大学 Yangtze Delta 区研究所）
本文提出OSW方法，通过正交子空间唤醒协调连续学习中的结构安全与可塑性，有效保留脆弱任务能力并维持新任务学习。
2026-01-26 cs.AI cs.LG
RECAP: Regression Evaluation for Continual Adaptation of Prompts
Capital One
提出RECAP基准，在严格主动适应-测试协议下评估提示优化方法对约束变化的持续学习能力，发现现有方法在主动场景下性能无显著提升，强调设计主动提示适应方法的必要性。
2026-09-02 cs.CL cs.LG
TTSDS2: Resources and Benchmark for Evaluating Human-Quality Text to Speech Systems
Centre for Speech Technology Research University of Edinburgh（语音技术研究中心爱丁堡大学）
TTSDS2是一种改进的TTS评估基准，通过高相关性指标和持续更新的资源，提升对合成语音真实性的评估能力。
2026-03-02 cs.CL cs.SD eess.AS
MedCL-Bench: Benchmarking stability-efficiency trade-offs and scaling in biomedical continual learning
本文提出MedCL-Bench，通过十个生物医学NLP数据集评估十一种持续学习策略，揭示不同方法在保留率、迁移能力和计算成本上的差异。
2026-03-17 cs.AI
Unbiased Online Curvature Approximation for Regularized Graph Continual Learning
针对图持续学习中的灾难性遗忘问题，提出基于Fisher信息矩阵的无偏在线曲率近似正则化方法，无需显式存储FIM即可在线估计正则化项，在稳定性和可塑性间实现更优权衡。
2025-09-16 cs.AI cs.LG
Continual evaluation for lifelong learning: Identifying the stability gap
KU Leuven（鲁汶大学）
本文针对持续学习模型在开始学习新任务时出现的暂时性遗忘现象（即“稳定性间隙”），提出了基于每次迭代评估的持续评估框架和新指标，揭示了多种主流方法均存在该问题，并给出了概念性解释。
2023-03-30 cs.AI cs.CV cs.LG
Can LLMs Alleviate Catastrophic Forgetting in Graph Continual Learning? A Systematic Study
The Chinese University of Hong Kong（香港中文大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；University of Science and Technology of China（中国科学技术大学）；University of Pittsburgh（匹兹堡大学）；Tongji University（同济大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本研究系统评估LLMs在GCL中的表现，指出任务ID泄露问题，提出SimGCL方法，在无重放约束下超越SOTA约20%，并发布基准LLM4GCL。
2025-09-26 cs.AI cs.LG
MemoryBench: A Benchmark for Memory and Continual Learning in LLM Systems
Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系）
提出用户反馈模拟框架及跨领域、多语言、多任务类型的综合基准MemoryBench，评估LLM系统从累积用户反馈中持续学习的能力，实验表明现有方法效果与效率均不理想。
2026-06-03 cs.AI cs.IR cs.LG
NPCL: Neural Processes for Uncertainty-Aware Continual Learning
UNSW Sydney（新南威尔士大学）
本文提出NPCL方法，利用神经过程为持续学习提供不确定性感知能力，通过层次潜变量模型和定制正则化器缓解遗忘，并验证其在任务推断和新数据识别上的优势。
2023-10-30 cs.AI cs.CV cs.LG
Evaluating Agentic Learning Harness Capabilities Without Labels via the Scaling Hypothesis
Georgian
该研究提出基于缩放假设的无标签智能体学习控制器评估框架，以教师模型与学生模型的收敛度为评分指标，验证其可作为标签缺失时控制器真实增益的有效代理。
2026-08-17 cs.AI cs.CR cs.LG
MANGO: Meta-Adaptive Network Gradient Optimization for Online Continual Learning
Purdue University（普渡大学）；TU Delft（代尔夫特理工大学）
本文提出MANGO框架，通过梯度门控和元学习正则化平衡持续学习中的稳定性与可塑性，实现对过去任务遗忘的克服和新任务高效学习。
2026-05-18 cs.AI cs.LG
Continual Learning for Robotics: Definition, Framework, Learning Strategies, Opportunities and Challenges
ENSTA Paris（巴黎高等先进技术学院）；Institut Polytechnique de Paris（巴黎理工学院）；INRIA（法国国家信息与自动化研究所）；Thales（泰雷兹集团）；University of Bologna（博洛尼亚大学）
持续学习（CL）是一种特殊的机器学习范例，其中数据分布和学习目标随时间变化，或者其中所有训练数据和客观标准永远不会同时可用。学习过程的演变是通过一系列学习经验来建模的，其目标是能够在整个过程中学习新技能，而不会忘记以前学到的东西。持续学习的目的还在于同时优化学习过程中的存储器、计算能力和速度。机器学习面临的一个重要挑战不一定是找到在现实世界中有效的解决方案，而是找到可以在现实世界中学习的稳定算法。因此，理想的方法是在一个具体的平台上处理现实世界：一个自主智能体。持续学习在自主智能体或机器人中将是有效的，它将随着时间的推移自主学习外部世界，并逐步发展一套复杂的技能和知识。机器人代理必须学习使用连续的观察流来适应环境并与环境交互。最近的一些方法旨在解决机器人技术的持续学习，但最近关于持续学习的大多数论文仅在模拟或静态数据集上进行实验。不幸的是，对这些算法的评估并没有提供关于它们的解决方案是否有助于机器人背景下的持续学习的见解。本文旨在回顾现有的持续学习的艺术状态，总结现有的基准和指标，并提出了一个框架，提出和评估机器人和非机器人的方法，使这两个领域之间的转移更容易。
2019-11-22 cs.LG cs.RO
A Probabilistic Framework for Modular Continual Learning
MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；UT Austin（德克萨斯大学奥斯汀分校）；University of Edinburgh（爱丁堡大学）
PICLE提出用概率模型低成本评估模块组合适应度，首次在模块化持续学习中同时实现感知、少样本和潜在迁移，并在长问题序列上超越现有方法。
2024-05-02 cs.LG stat.ML
Continual pretraining Prostate MRI ViT Encoder for task alignment
University College London（伦敦大学学院）
本研究针对MRI基础模型预训练与下游任务对齐不足的问题，采用LoRA对前列腺分割任务的ViT编码器持续预训练，结合CKA分析，使3/6下游任务性能提升。
2026-10-14 cs.CV cs.LG
TemporalWiki: A Lifelong Benchmark for Training and Evaluating Ever-Evolving Language Models
KAIST（韩国科学技术院）；Korea University（高丽大学）；LG AI Research（LG人工智能研究院）
本文提出 TemporalWiki 终身基准，利用维基百科与维基数据连续快照的差异训练和评估语言模型，验证了通过持续学习用最少数据更新事实知识可大幅降低计算成本。
2023-04-12 cs.CL
Continual Learning on a Data Diet
Eindhoven University of Technology（埃因霍温理工大学）
本文探索在持续学习中通过核心集选择技术从重要样本学习，实证表明选择性样本能提升增量准确性、知识保留和表示质量。
2024-10-23 cs.CV cs.LG
Continual Visual Anomaly Detection on the Edge: Benchmark and Efficient Solutions
University of Padova（帕多瓦大学）
本文提出边缘持续视觉异常检测的首个全面基准测试，评估了七种模型在三种轻量级架构上的表现，并提出Tiny-Dinomaly模型在内存和计算成本上显著降低的同时提升Pixel F1指标。
2026-08-11 cs.AI cs.CV
Efficient Continual Learning in Neural Networks with Embedding Regularization
Sapienza University of Rome（罗马第一大学）；University of Bologna（博洛尼亚大学）
深度神经网络的持续学习是将其扩展到更复杂的应用场景以及实现这些架构的真正终身学习的关键要求。以前解决这个问题的方法要么考虑了网络规模的逐步增加，要么试图将网络行为正则化，以使其与先前观察到的任务保持一致。在后一种情况下，了解什么类型的信息最能代表这种过去的行为是至关重要的。常见的技术包括正则化过去的输出、梯度或单个权重。在这项工作中，我们提出了一种新的，相对简单和有效的方法来执行持续学习，而不是正规化的网络内部嵌入。为了使该方法具有可扩展性，我们还提出了一个动态采样策略，以减少所需的外部存储的内存占用。我们表明，我们的方法表现良好，相对于国家的最先进的方法在文献中，同时需要显着更少的内存空间和计算时间。此外，灵感来自最近的作品，我们评估的影响，选择一个更灵活的模型内的网络激活功能，评估的影响灾难性遗忘的激活函数本身。
2020-02-11 cs.LG cs.NE stat.ML
Task-Core Memory Management and Consolidation for Long-term Continual Learning
School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院）；School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电子与电气工程学院）；Computation and Artificial Intelligence Innovative College, Fudan University（复旦大学计算与人工智能创新学院）
针对任务数量庞大导致灾难性遗忘加剧的长期持续学习问题，提出受人类记忆启发的Long-CL框架，通过任务核心记忆管理与长期记忆巩固提升知识保持，并发布两项基准，AP较此前最优方法分别提升7.4%和6.5%。
2025-05-15 cs.AI cs.LG
Continual Learning for Automated Audio Captioning Using The Learning Without Forgetting Approach
Tampere University（坦佩雷大学）
自动音频字幕（AAC）是自动为一般音频信号的内容创建文本描述（即字幕）的任务。大多数AAC方法都使用现有的数据集来优化和/或评估。鉴于AAC数据集所包含的信息有限，AAC方法很可能只学习所使用的数据集中包含的信息。在本文中，我们提出了第一种方法，不断适应AAC方法的新信息，使用持续学习方法。在我们的场景中，预优化的AAC方法用于一些看不见的一般音频信号，并且可以更新其参数以适应新的信息，给定新的参考标题。我们使用一个免费提供的，预优化的AAC方法和两个免费提供的AAC数据集来评估我们的方法。我们将我们提出的方法与三种情况进行比较，其中两种情况是在一个数据集上进行训练并在另一个数据集上进行评估，第三种情况是在一个数据集上进行训练并在另一个数据集上进行微调。实验结果表明，该方法在提取新知识和不遗忘前一个知识之间取得了很好的平衡。
2021-07-16 cs.LG cs.SD eess.AS
Continual Learning for On-Device Speech Recognition using Disentangled Conformers
Meta Inc.（Meta公司）
本文提出解耦 Conformer 模型与 DisentangledCL 持续学习算法，通过冻结核心网络和可调增强网络实现计算高效的说话人特定端侧语音识别自适应，并在通用和个性化 ASR 任务上显著优于基线。
2022-12-13 cs.CL cs.LG cs.SD
Self-paced Weight Consolidation for Continual Learning
Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所）；Institutes for Robotics and Intelligent Manufacturing, Chinese Academy of Sciences（中国科学院机器人与智能制造创新研究院）；University of Chinese Academy of Sciences（中国科学院大学）
针对持续学习中未区分旧任务贡献导致性能下降、正则化所有旧任务计算成本高的问题，提出自步权重整合框架，按准确率衡量旧任务难度并排序，选择性保留难任务知识，可即插即用适配多种算法，在多个基准数据集上有效提升性能。
2023-07-20 cs.CV cs.LG
CLDyB: Towards Dynamic Benchmarking for Continual Learning with Pre-trained Models
City University of Hong Kong（香港城市大学）；Nanyang Technological University（南洋理工大学）；Australian National University（澳大利亚国立大学）；Zhejiang University（浙江大学）
针对预训练持续学习评估中数据污染和静态基准的局限，提出基于马尔可夫决策过程和蒙特卡洛树搜索的动态基准框架CLDyB，动态生成困难任务序列以可靠评估方法并揭示各自优劣。
2025-05-23 cs.LG
CLOFAI: A Dataset of Real And Fake Image Classification Tasks for Continual Learning
Victoria University of Wellington（惠灵顿维多利亚大学）
本文提出CLOFAI数据集，用于持续学习下的真实与伪造图像分类，并评估EWC、GEM和Experience Replay三种方法，发现GEM和Experience Replay表现优于朴素基线。
2025-01-19 cs.AI cs.CV
Rank-Order N-of-M Codes for Sparse Distributed Memory: Disentangling Representation and Learning Effects in Noise Robustness Against Contemporary Neuromorphic Architectures
Independent Researcher（独立研究者）；Bengaluru, India（印度班加罗尔）
研究针对大语言模型持续学习受限问题，评估秩排序N选M编码替代稀疏分布式内存阈值二进制编码器。通过重新实现验证架构等效，实验表明其在容量和误码率鲁棒性上有优势，还分析了编码能量，为相关架构提供指导。
2026-07-08 cs.LG cs.NE
RealMath: A Continuous Benchmark for Evaluating Language Models on Research-Level Mathematics
ETH Zurich（苏黎世联邦理工学院）
本文提出直接源自论文与数学论坛、可持续刷新并支持自动验证的 RealMath 基准，用于评测 LLM 的真实研究级数学能力，发现现有模型已可辅助数学研究。
2025-10-19 cs.AI
Evaluating Model Performance in Medical Datasets Over Time
Carnegie Mellon University（卡内基梅隆大学）
针对医疗机器学习模型传统时间无关评估的不足，提出EMDOT框架模拟各时间点训练并评估未来性能的回测式评估框架，经6类医学数据验证不同数据下历史数据使用策略差异，发布工具包助力部署导向的时间评估研究。
2023-07-16 cs.AI cs.LG
Continual learning benefits from multiple sleep mechanisms: NREM, REM, and Synaptic Downscaling
The Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
连续学习新的任务和技能，而不会失去以前的学习（即，灾难性遗忘）对于人工和生物神经网络来说都是一个计算挑战，然而人工系统很难与它们的生物类似物实现对等。哺乳动物的大脑在睡眠期间使用许多神经操作来支持持续学习。人工适应的时机已经成熟。在这里，我们研究了如何建模哺乳动物睡眠的三个不同组成部分一起影响人工神经网络中的持续学习：（1）在非快速眼动（NREM）睡眠期间观察到的真实记忆重放过程;（2）与REM睡眠相关的生成记忆重放过程;以及（3）已被提议调整信噪比并支持神经维持的突触降尺度过程。我们发现的好处，包括所有三个睡眠成分时，评估性能的持续学习CIFAR-100图像分类基准。在训练过程中提高了最大准确性，在以后的任务中减少了灾难性遗忘。虽然在网络训练过程中，一些灾难性遗忘持续存在，但更高水平的突触降尺度导致更好地保留早期任务，并在随后的训练中进一步促进早期任务准确性的恢复。一个关键的结论是，在考虑使用突触降尺度的水平时，有一个权衡-更积极的降尺度更好地保护早期任务，但更少的降尺度增强了学习新任务的能力。中级水平可以在训练过程中达到最高的整体准确度。总的来说，我们的研究结果都为如何调整睡眠成分以增强人工持续学习系统提供了见解，并为未来的神经科学睡眠研究提供了重点领域，以进一步推动此类系统。
2022-09-09 cs.LG cs.NE eess.IV
Continual Learning-Aided Super-Resolution Scheme for Channel Reconstruction and Generalization in OFDM Systems
ZGC Institute of Ubiquitous-X Innovation and Applications（中关村泛在X创新与应用研究院）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出一种用于OFDM信道估计的深度学习方案，设计了双注意力辅助超分辨率神经网络（DA-SRNN）实现高效信道重建，并引入弹性权重巩固（EWC）的持续学习策略提升模型对不同信道分布的泛化能力，在3GPP模型下验证了其显著优于对比方案的性能。
2025-02-28 cs.AI cs.IT cs.LG
A preliminary study on continual learning in computer vision using Kolmogorov-Arnold Networks
University of Macerata（马切拉塔大学）；Università Politecnica delle Marche（马尔凯理工大学）
本文在计算机视觉持续学习场景下评估了Kolmogorov-Arnold Networks (KAN)的性能，发现其高效版本在MNIST类增量学习中优于MLPs和原始KAN，并分析了超参数及卷积网络变体的表现。
2024-09-27 cs.CV cs.LG
SCLATE: a Substrate for Continual-Learning Agent Training and Evaluation
SCLATE是一个统一事件调度与回滚引擎的基础设施，支持持续学习智能体的训练评估；实验表明附加记忆系统并非总优于原生记忆，且后训练Qwen3.5-4B显著提升性能。
2026-10-01 cs.AI cs.DC cs.LG
Continual Learning Bench: Evaluating Frontier AI Systems in Real-World Stateful Environments
UC Berkeley（伯克利大学）；Snorkel AI；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
提出首个专家验证的持续学习基准CL-Bench，涵盖六个领域，通过增益指标隔离在线学习能力，发现现有系统存在过拟合和知识复用不足问题。
2026-06-04 cs.AI cs.CL
Evaluating and Improving Continual Learning in Spoken Language Understanding
Carnegie Mellon University（卡内基梅隆大学）；University of Trento（特伦托大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出一种统一评估持续学习中稳定性、可塑性和泛化能力的方法，并证明引入知识蒸馏能改善SLU模型性能，且该指标对任务排序更敏感。
2024-02-16 cs.AI cs.CL cs.SD
Same Methods, Different Rankings: Trainable Depth as an Evaluation Variable in Continual Learning
Bitdefender, Romania（比特防御公司，罗马尼亚）；Politehnica University of Bucharest, Romania（布加勒斯特理工大学，罗马尼亚）
本文探讨了细调制度对持续学习方法性能的影响，发现不同细调深度下方法的相对表现不一致，强调细调制度应作为评估的关键变量。
2026-10-06 cs.LG
Computationally Budgeted Continual Learning: What Does Matter?
University of Oxford（牛津大学）；Meta AI；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
本文构建大规模计算预算受限持续学习基准，发现传统采样、蒸馏和微调方法在 ImageNet2K 等设置下均未超过均匀记忆采样基线。
2023-07-15 cs.CV cs.LG
Continual Learning Approach for Improving the Data and Computation Mapping in Near-Memory Processing System
Texas A&M University（德克萨斯A&M大学）；UC Santa Barbara（加州大学圣塔芭芭拉分校）
随着大数据的出现，近内存处理（NMP）的复兴已经将计算范式从以处理器为中心的计算转变为以内存为中心的计算。为了满足以存储器为中心的计算的带宽和容量需求，已经采用3D存储器来形成可扩展的存储立方体网络。随着NMP和存储系统的发展，存储立方体网络中的数据放置和引导计算的映射已经成为推动NMP性能改进的关键。然而，由于应用行为的独特性和决策空间的复杂性，设计一个通用的最优映射是非常具有挑战性的。在本文中，我们提出了一个人工智能的内存映射方案，AIMM，优化数据的位置和资源利用率，通过页面和计算重新映射。我们提出的技术涉及不断评估和学习映射决策对任何应用程序的系统性能的影响。AIMM使用神经网络在执行过程中实现接近最优的映射，使用强化学习算法进行训练，该算法已知可有效探索广阔的设计空间。我们还提供了一个详细的AIMM硬件设计，可以采用作为一个插件模块的各种NMP系统。我们的实验评估表明，AIMM提高了基线NMP的性能，在单一和多个程序的情况下，分别高达70%和50%。
2021-04-28 cs.AR cs.LG cs.NI
Evaluating Pretrained models for Deployable Lifelong Learning
University of Southern California（南加州大学）
该研究构建了评估视觉强化学习可部署终身学习系统的新基准，提出基于FSCIL任务映射器与预训练骨干网络的可扩展终身学习系统，在Atari游戏DeLL基准上验证了其低资源、高可扩展的优势。
2023-12-17 cs.LG
MedEvoEval: Evaluating Continual Evolution of Doctor Agents through Simulated Clinical Episodes
Beijing Institute of Technology (BIT)（北京理工大学）
提出MedEvoEval框架，基于动作门控的模拟门诊场景，评估医生智能体在跨场景中的决策演化、资源分配和经验迁移能力。
2026-10-20 cs.AI cs.CL
A Survey on Deep Industrial Transfer Learning in Fault Prognostics
University of Stuttgart（斯图加特大学）
由于其概率性质，故障诊断是利用大数据进行深度学习的用例的一个很好的例子。然而，这种数据集的低可用性与将复杂的学习算法拟合、参数化和评估到工业应用中典型的异质和动态设置的高工作量相结合，常常阻止这种方法的实际应用。可以使用迁移学习或持续学习方法来实现对新的或动态变化的故障诊断场景的自动适应。在本文中，这种方法进行了第一次调查，旨在建立在这一领域的未来研究的最佳实践。结果表明，该领域缺乏共同的基准来有力地比较结果和促进科学进步。因此，也对这些出版物中使用的数据集进行了调查，以确定这些基准情景的合适候选者。
2023-01-04 cs.AI cs.LG
Mining Hidden Thoughts from Texts: Evaluating Continual Pretraining with Synthetic Data for LLM Reasoning
NEC Corporation（日本电气株式会社）
本文提出 Reasoning CPT，利用合成数据重建文本背后的隐藏思维过程，并在 Gemma2-9B 与 MMLU 上验证其跨领域推理提升和迁移效果。
2025-05-15 cs.CL cs.LG
Deep Research Bench: Evaluating AI Web Research Agents
FutureSearch
本文提出 Deep Research Bench，通过 89 个多步骤任务和冻结网页的 RetroSearch 环境，可靠评估主流 LLM 与网络研究产品在幻觉、工具使用和遗忘等方面的表现。
2025-05-06 cs.AI
RoAD Benchmark: How LiDAR Models Fail under Coupled Domain Shifts and Label Evolution
LG AI Research（LG AI 研究院）；NAVER LABS（NAVER 实验室）；KAIST（韩国科学技术院）
RoAD基准评估LiDAR目标分类在域偏移与标签演变交织下的模型鲁棒性，通过三种学习场景测试模型适应能力，揭示子类细化和未见类插入导致的有限迁移性和持续学习中的快速遗忘问题。
2026-03-27 cs.AI cs.CV
