International Workshop on Continual Semi-Supervised Learning: Introduction, Benchmarks and Baselines
Oxford Brookes University(牛津布鲁克斯大学);Huawei Technologies(华为技术有限公司);University of Pisa(比萨大学)
本文的目的是形式化一种新的连续半监督学习(CSSL)范式,通过IJCAI 2021连续半监督学习国际研讨会(CSSL-IJCAI)引起机器学习社区的注意,旨在提高对这个问题的认识,并动员其在这个方向上的努力。在正式定义了持续半监督学习和适当的训练和测试协议后,本文介绍了两个新的基准,专门用于评估CSSL在两个重要的计算机视觉任务:活动识别和人群计数。我们描述了建立在这些基准之上的连续活动识别(CAR)和连续人群计数(CCC)挑战,为挑战提出的基线模型,并描述了一个简单的CSSL基线,该基线包括在有限数量的回合中在时间会话中应用批量自训练。结果表明,从未标记的数据流中学习是极具挑战性的,并刺激了对数据流动态编码方法的搜索。
2021-10-27 cs.AI cs.CV
Sparsity and Heterogeneous Dropout for Continual Learning in the Null Space of Neural Activations
Vanderbilt University(范德堡大学);University of California, Davis(加州大学戴维斯分校);Johns Hopkins University(约翰斯·霍普金斯大学)
从非平稳输入数据流中持续/终身学习是智能的基石。尽管深度神经网络在各种各样的应用中表现出色,但在学习新信息时,它很容易忘记以前学习过的信息。这种现象被称为"灾难性遗忘",深深植根于稳定性-可塑性困境。克服深度神经网络中的灾难性遗忘已成为近年来活跃的研究领域。特别地,基于梯度投影的方法最近在克服灾难性遗忘方面显示出优异的性能。本文提出了两种基于稀疏性和异质性辍学的生物启发机制,显着提高了连续学习者在长序列任务中的表现。我们提出的方法建立在梯度投影记忆(GPM)框架。我们在神经网络的每一层中利用k-winner激活来为每个任务执行逐层稀疏激活,以及任务间的异构dropout,鼓励网络在不同任务之间使用非重叠的激活模式。此外,我们还介绍了两个新的分布式转移下的持续学习基准,即Continual Swiss Roll和ImageNet SuperDog-40。最后,我们提供了一个深入的分析,我们提出的方法,并证明了各种基准持续学习问题的显着性能提升。
2022-07-08 cs.AI cs.CV cs.LG
Towards Continual Egocentric Activity Recognition: A Multi-modal Egocentric Activity Dataset for Continual Learning
School of Information and Communication Engineering, University of Electronic Science and Technology of China(电子科技大学信息与通信工程学院)
针对自我中心活动识别在多模态持续学习中的灾难性遗忘问题,本文提出了多模态数据集UESTC-MMEA-CL,并基于RGB、加速度和陀螺仪三种模态对四种基线方法进行了广泛评估。
2023-01-26 cs.CV
Continual Learning with Neuron Activation Importance
Kyunghee University(庆熙大学)
持续学习是一种具有多个顺序任务的在线学习的概念。持续学习的关键障碍之一是网络学习新任务时需要保留旧任务的知识,而不需要访问旧任务的任何数据。在本文中,我们提出了一种基于神经元激活重要性的正则化方法,用于稳定的持续学习,而不管任务的顺序。我们在现有的基准数据集上进行了全面的实验,不仅评估了我们的方法的稳定性和可塑性,提高了分类精度,而且还评估了任务顺序变化时性能的鲁棒性。
2021-07-27 cs.CV cs.LG
Continual Action Assessment via Task-Consistent Score-Discriminative Feature Distribution Modeling
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);School of Artificial Intelligence, Sun Yat-sen University(中山大学人工智能学院)
针对现有动作质量评估方法无法持续学习新动作评估任务且易遗忘的问题,提出特征-分数相关性感知回放与动作通用-特定图方法,构建任务一致的分数判别性特征分布,有效缓解持续学习中的遗忘问题。
2024-05-02 cs.CV
Activation Function Design Sustains Plasticity in Continual Learning
Department of Computer Science(计算机科学系)
本文探讨了激活函数在持续学习中的作用,提出两种新的非线性函数以缓解可塑性损失,通过监督学习和强化学习实验验证了其有效性。
2026-04-30 cs.AI cs.CV cs.LG
Efficient Online Continual Learning in Sensor-Based Human Activity Recognition
Department of Information and Communications Engineering, Aalto University(信息与通信工程系,阿尔托大学)
本文提出PTRN-HAR,首次将基于预训练模型的在线持续学习应用于传感器人类活动识别,通过对比学习预训练特征提取器并冻结、用关系模块网络替代分类层,在三个公开数据集上以更少标注数据和资源消耗超越现有最先进方法。
2025-11-04 cs.AI cs.CV
Continual Learning Improves Zero-Shot Action Recognition
University of Nottingham(诺丁汉大学);University of Bath(巴斯大学);University of Edinburgh(爱丁堡大学)
本文提出基于持续学习的GIL方法,利用过去类别的合成特征记忆与新颖类别真实特征结合训练分类模型,提升了零样本动作识别在未见类别上的泛化能力,并在多个基准上达到新SOTA。
2024-10-14 cs.CV
Continual Learning in Human Activity Recognition: an Empirical Analysis of Regularization
University of St Andrews(圣安德鲁斯大学)
考虑到专注于计算机视觉领域的深度神经网络的持续学习技术的增长趋势,需要确定这些技术中的哪一个可以很好地推广到其他任务,如人类活动识别(HAR)。由于最近的方法主要由丢失正则化项和记忆重放组成,因此我们对HAR数据集上使用这些技术的一些突出的任务增量学习技术进行了成分分析。我们发现,大多数正则化方法缺乏实质性的效果,并提供了一个直觉,当他们失败。因此,我们的情况下,持续学习算法的发展应该是由相当不同的任务域的动机。
2020-07-06 cs.CV cs.LG
Selective Knowledge Control for Continual GUI Agent Learning over Application Streams
Beijing Institute of Technology(北京理工大学);BIGAI(北京智源人工智能研究院);Wuhan University(武汉大学);Shenzhen MSU-BIT University(深圳北理莫斯科大学)
针对GUI智能体持续学习中的知识干扰问题,提出基于激活条件的神经元级梯度操控方法,实现选择性知识保留,缓解灾难性遗忘并保持对新应用的适应能力。
2026-10-14 cs.AI cs.CV
Few-Shot Continual Active Learning by a Robot
University of Waterloo(滑铁卢大学);Capital One(第一资本金融公司)
在本文中,我们考虑了一个具有挑战性的,但现实的持续学习(CL)问题,Few-Shot连续主动学习(FoCAL),其中CL代理提供了一个新的或以前学习的任务,在每个增量和代理只有有限的标签预算可用的未标记的数据。为此,我们建立在持续学习和主动学习文献,并开发了一个框架,可以让CL代理不断学习新的对象类从几个标记的训练样本。我们的框架表示每个对象类使用均匀高斯混合模型(GMM),并使用伪排练,以减轻灾难性遗忘。该框架还对先前学习的类的高斯表示使用不确定性度量,以找到要在增量中标记的信息量最大的样本。我们评估我们的方法对CORe-50数据集和一个真正的人形机器人的对象分类任务。结果表明,我们的方法不仅在数据集上产生了最先进的结果,而且还允许真实的机器人在用户提供有限的标签监督的情况下,在真实环境中不断学习看不见的对象。
2022-10-12 cs.CV cs.LG cs.RO
Few-Shot Continual Learning for Activity Recognition in Classroom Surveillance Images
University of Electronic Science and Technology of China(电子科技大学)
针对真实课堂监控中正常教学活动样本多、非教学活动样本少且持续出现的问题,本文构建 ARIC 数据集,并提出结合 SCL 与 ACC 的少样本持续学习方法,取得优于现有方法的性能。
2024-09-05 cs.CV
Bookworm continual learning: beyond zero-shot learning and continual learning
Computer Vision Center, Autonomous University of Barcelona (UAB)(巴塞罗那自治大学计算机视觉中心);Computer Vision and Machine Learning, University of Exeter(埃克塞特大学计算机视觉与机器学习)
我们提出了书虫持续学习(BCL),一个灵活的设置,看不见的类可以推断通过语义模型,和视觉模型可以不断更新。因此,BCL推广了持续学习(CL)和零样本学习(SCL)。我们还提出了双向想象(BImag)框架来解决BCL,其中生成了过去和未来类的特征。我们观察到,条件的特征生成器的属性,实际上可以损害持续学习能力,并提出了两个变种(联合类属性条件和非对称生成),以减轻这个问题。
2020-08-20 cs.CV
CE$^4$L: Continual Ego, Exo, and Ego-Exo Learning
Tsinghua University(清华大学)
本文提出CE$^4$L多视角持续学习基准及VISTA参数高效方法,通过子空间路由适配器应对任务与视角耦合变化,实现整体最优性能。
2026-09-22 cs.AI cs.CV
Continual Vision-and-Language Navigation
Interdisciplinary Program in Artificial Intelligence, Seoul National University(人工智能交叉学科项目,首尔国立大学);AI Institute for Seoul National University(首尔国立大学人工智能研究所);SK Telecom(SK电信);Korea Institute of Science and Technology(韩国科学技术院)
针对视觉与语言导航智能体在持续新环境中的适应问题,提出持续视觉与语言导航(CVLN)范式及两种设置,并设计PerpR与ESR两种重放基线,通过高效利用重放内存实现更优的持续学习性能。
2025-10-31 cs.AI cs.CV
POET: Prompt Offset Tuning for Continual Human Action Adaptation
Carnegie Mellon University, USA(卡内基梅隆大学);Meta Reality Labs(Meta现实实验室);Indian Institute of Technology, Hyderabad(印度海得拉巴理工学院)
POET提出提示偏移调优方法,实现隐私感知的少样本持续动作识别,在轻量级骨干和图神经网络上首次应用,并在两个基准上超越现有方法。
2025-04-25 cs.CV
Live and Learn: Continual Action Clustering with Incremental Views
School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院);School of Creative Technologies, University of Portsmouth(朴茨茅斯大学创意技术学院)
针对多视图动作聚类中视图增量获取及多视图不变信息学习难的问题,提出带类别记忆库和共识划分矩阵的持续动作聚类方法,经6个真实数据集验证,性能和时空效率优于15种现有基线方法。
2024-03-23 cs.CV cs.LG
TriRE: A Multi-Mechanism Learning Paradigm for Continual Knowledge Retention and Promotion
NavInfo Europe(四维图新欧洲);Eindhoven University of Technology (TU/e)(埃因霍温理工大学);TomTom(TomTom公司)
TriRE提出一种受大脑多机制启发的持续学习范式,通过保留突出神经元、巩固知识并促进低活跃神经元,显著减少任务干扰并超越现有方法。
2023-10-12 cs.AI cs.CV cs.LG
The Effectiveness of Memory Replay in Large Scale Continual Learning
University of Maryland(马里兰大学);DeepMind(深度思维)
本文研究了大规模环境下的持续学习问题,其中输入序列中的任务不限于分类,输出可以是高维的。在多种最先进的方法中,我们发现vanilla experience replay(ER)在性能和可扩展性方面仍然非常具有竞争力,尽管它很简单。然而,观察到性能下降的ER与小内存。特征空间的进一步可视化揭示了中间表示经历了分布漂移。虽然现有的方法通常只重放输入输出对,但我们假设它们的正则化效果对于复杂的深度模型和重放缓冲区大小较小的各种任务来说是不够的。根据这一观察,我们建议除了输入输出对之外,还重放中间层的激活。考虑到保存原始激活图会大大增加内存和计算成本,我们提出了压缩激活重放技术,其中层激活的压缩表示保存到重放缓冲区。我们表明,这种方法可以实现优越的正则化效果,同时增加可以忽略不计的内存开销重放方法。在具有不同任务集的大型Taskonomy基准测试和标准公共数据集(Split-CIFAR和Split-miniImageNet)上的实验证明了所提出方法的有效性。
2020-10-06 cs.AI cs.CV cs.LG
Benchmarking Sensitivity of Continual Graph Learning for Skeleton-Based Action Recognition
University of Antwerp(安特卫普大学);imec;IDLab
本文提出首个面向时空图的持续图学习基准,基于N-UCLA和NTU-RGB+D评估CGL方法,并揭示其类别顺序与架构敏感性。
2024-01-31 cs.CV cs.LG
Is Continual Learning Ready for Real-world Challenges?
ETH Zurich(苏黎世联邦理工学院)
本文指出持续学习评估协议与现实挑战存在错位,提出新基准OCL-3DSS评估发现现有方法表现不佳,呼吁采用更贴近现实的实验协议以推动领域突破。
2024-02-15 cs.AI cs.CV cs.LG
Dynamically Modular and Sparse General Continual Learning
NavInfo Europe(四维图新欧洲);Eindhoven University of Technology(埃因霍温理工大学)
现实世界的应用程序通常需要在不断变化的条件下从数据流中不断学习。当试图从这样的非平稳数据中学习时,深度神经网络(DNN)会经历对先前学习的信息的灾难性遗忘。在避免灾难性遗忘的常见方法中,基于排练的方法已被证明是有效的。然而,由于所有参数都响应于所有任务,因此它们仍然容易由于任务干扰而被遗忘。为了解决这个问题,我们从大脑中的稀疏编码中获得灵感,并引入动态模块化和稀疏性(Dynamos)用于基于排练的一般持续学习。在这种设置中,DNN通过激活相关的神经元子集来学习响应刺激。我们证明了Dynamos在具有挑战性的持续学习评估协议下对多个数据集的有效性。最后,我们表明,我们的方法学习的表示是模块化和专业化的,同时保持可重用性,通过激活与刺激的相似性相对应的重叠的神经元子集。
2023-01-02 cs.AI cs.CV cs.LG
PECoP: Parameter Efficient Continual Pretraining for Action Quality Assessment
University of Bristol(布里斯托大学)
PECoP通过引入3D适配器的持续预训练框架,减少领域偏移,提升动作质量评估性能,并在多个基准及新数据集上超越现有方法。
2023-11-11 cs.CV
Biologically-Inspired Continual Learning of Human Motion Sequences
Starmind AG(Starmind公司);University of Zurich(苏黎世大学)
这项工作提出了一个模型,持续学习的任务,涉及时间序列,特别是人类的运动。它通过构建一个生物启发的条件时间变分自编码器(BI-CTVAE)来改进最近提出的大脑启发的重放模型(BI-R),BI-CTVAE实例化潜在的高斯混合用于类表示。我们研究了一种新的连续学习生成(CL 2Gen)的情况下,该模型生成不同类别的运动序列。该模型的生成精度进行了测试,在一组任务。在顺序学习所有动作类后,BI-CTVAE对人体运动数据集的最终分类准确率为78%,比使用无重放高63%,仅比最先进的离线训练GRU模型低5.4%。
2023-03-15 cs.AI cs.CV cs.LG
SHARP: Sparsity and Hidden Activation RePlay for Neuro-Inspired Continual Learning
Georgia Institute of Technology(佐治亚理工学院);The Cyprus Institute(塞浦路斯研究所)
SHARP提出一种神经启发式持续学习方法,利用稀疏动态连接和激活回放,仅回放最近见过的少数类别即可持续更新所有层,在类别增量学习中优于现有回放方法。
2023-05-29 cs.CV cs.LG
Uncertainty Quantification in Continual Open-World Learning
Intel(英特尔)
针对部署后AI需持续适应含未知类的未标记数据这一难题,提出迭代不确定性估计算法COUQ,在持续新事物检测、主动学习和伪标注等子任务上取得优于SOTA的性能。
2024-12-21 cs.AI cs.CV cs.LG
Dynamic VAEs with Generative Replay for Continual Zero-shot Learning
Indian Institute of Science(印度科学研究院)
连续零样本学习(Continual zero-shot learning,CSCL)是一个新的领域,用于对模型在训练过程中没有看到的对象进行顺序分类。它比zero-shot和持续学习方法更适用于实际情况,即数据可能连续地只具有少数类的属性和其他类的属性和特征。持续学习(CL)遭受灾难性遗忘,并且由于在训练期间缺乏实际数据(或特征),零样本学习(ZNL)模型不能像最先进的监督分类器那样对对象进行分类。本文提出了一种新的连续零样本学习(DVGR-CQML)模型,该模型随着每个任务的大小而增长,并使用生成重放来更新先前学习的类以避免遗忘。我们证明了我们的混合模型(DVGR-CNOL)优于基线,并且在几个数据集上是有效的,即,CUB、AWA 1、AWA 2和aPY。我们表明,我们的方法是优越的任务顺序学习的零样本学习(Zero-Shot Learning)。我们还讨论了我们的结果对太阳数据集。
2021-04-26 cs.CV
Hierarchical-Task-Aware Multi-modal Mixture of Incremental LoRA Experts for Embodied Continual Learning
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Tsinghua University(清华大学);Huazhong University of Science and Technology(华中科技大学)
针对具身智能持续学习中高层规划能力不足与灾难性遗忘问题,提出分层设置HEC和Task-aware MoILE方法,通过聚类识别任务、双级路由选择LoRA专家,并利用SVD保留关键参数,有效减少旧任务遗忘。
2025-06-05 cs.CV
Domain-Incremental Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition
University of Cambridge(剑桥大学);Binghamton University(宾汉姆顿大学);Beijing University of Posts and Telecommunications(北京邮电大学)
随着面部表情识别(FER)系统融入我们的日常生活,这些系统需要优先做出公平的决策,而不是以更高的个人准确率为目标。从监测系统到诊断个人的心理和情绪健康状况,这些系统需要平衡准确性与公平性的权衡,以做出不会不公正地歧视特定代表性不足的人口群体的决定。将偏差识别为面部分析系统中的关键问题,已经提出了不同的方法,旨在在数据和算法级别上减轻偏差。在这项工作中,我们提出了新的使用持续学习(CL),特别是,使用域增量学习(域IL)设置,作为一个有力的偏见缓解方法,以提高FER系统的公平性,同时防止偏见所产生的数据分布偏态。我们使用两个流行的基准,RAF-DB和BP 4D数据集,分别比较了不同的非基于CL和基于CL的方法在表情识别和动作单元(AU)检测任务上的分类准确性和公平性得分。我们的实验结果表明,基于CL的方法,平均而言,优于其他流行的偏见缓解技术的准确性和公平性指标。
2021-03-15 cs.CV cs.LG
Peer-to-Peer Federated Continual Learning for Naturalistic Driving Action Recognition
Purdue University(普渡大学)
本文提出点对点联邦持续学习框架 FedPC,在无服务器架构下实现隐私保护的自然驾驶行为识别,并在两个真实数据集上验证其性能、知识传播速率和新客户端兼容性均优于传统客户端到服务器联邦学习。
2023-04-14 cs.CV cs.LG
Saliency-Guided Replay for Continual Learning in Deep Spiking Neural Networks
Sapienza University of Rome(罗马大学);Goethe University Frankfurt(法兰克福大学)
该研究针对深度脉冲神经网络的灾难性遗忘问题,提出结合VGG9 SNN与脉冲激活图(SAM)的显著性引导经验打包与重放策略,在Split CIFAR数据集上实现了更优的准确率-内存权衡。
2026-10-14 cs.AI cs.CV cs.LG
Learning to Continually Learn
University of Vermont(佛蒙特大学);Uber AI Labs(优步人工智能实验室);OpenAI(开放人工智能研究中心)
持续的终身学习要求智能体或模型学习许多顺序排列的任务,建立在以前的知识基础上,而不会灾难性地忘记它。许多工作都是为了防止机器学习模型的默认趋势灾难性地忘记,但几乎所有这些工作都涉及手动设计的问题解决方案。相反,我们提倡元学习,这是一种解决灾难性遗忘的方法,允许人工智能学习不断学习。受大脑中神经调节过程的启发,我们提出了一种神经调节元学习算法(ANML)。它通过顺序学习过程进行区分,以元学习激活门控功能,该功能能够在深度神经网络内实现上下文相关的选择性激活。具体来说,神经调节(NM)神经网络门控另一个(否则正常)称为预测学习网络(PLN)的神经网络的前向传递。因此,NM网络还间接地控制PLN的选择性可塑性(即,PLN的后向传递)。ANML能够实现持续学习,而不会大规模发生灾难性遗忘:它产生最先进的持续学习性能,连续学习多达600个类(超过9,000个SGD更新)。
2020-03-04 cs.CV cs.LG cs.NE
Continual Action Quality Assessment via Adaptive Manifold-Aligned Graph Regularization
Department of Psychological and Cognitive Sciences, Tsinghua University(心理与认知科学系,清华大学);Institute for AI, BNRist Center, Tsinghua-Bosch Joint ML Center, THBI Lab, Tsinghua University(人工智能研究院、北京人工智能研究所、清华大学-博世联合机器学习中心、THBI实验室,清华大学);Department of Computer Science, Durham University(计算机科学系,杜尔姆大学);State Key Laboratory of Virtual Reality Technology and Systems, Beihang University(虚拟现实技术与系统国家重点实验室,北京航空航天大学);Zhongguancun Laboratory, Beijing(中关村实验室,北京)
针对动作质量评估中分布非平稳问题,提出持续学习框架CAQA及自适应流形对齐图正则化MAGR++,通过全参数微调与特征校正,在四个基准上平均相关性提升3.6%离线、12.2%在线。
2026-10-06 cs.CV
Towards Fair Affective Robotics: Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition
Bogazici University(博阿齐奇大学);University of Cambridge(剑桥大学);Beijing University of Posts and Telecommunications(北京邮电大学)
随着情感机器人成为人类生活中不可或缺的一部分,这些智能体必须能够公平地评估人类的情感表达,而不歧视特定的人口群体。将机器学习(ML)系统中的偏差识别为一个关键问题,已经提出了不同的方法来在数据和算法级别上减轻模型中的此类偏差。在这项工作中,我们提出了持续学习(CL)作为一种有效的策略,以提高面部表情识别(FER)系统的公平性,防止偏见所产生的数据分布的不平衡。我们比较了不同的最先进的偏见缓解方法与基于CL的策略,以公平地对待表情识别和动作单元(AU)检测任务,使用流行的基准; RAF-DB和BP 4D。我们的实验表明,CL为基础的方法,平均而言,优于流行的偏见缓解技术,加强需要进一步调查CL的发展更公平的FER算法。
2021-03-15 cs.CV cs.LG cs.RO
Learning Bayesian Sparse Networks with Full Experience Replay for Continual Learning
The Australian Institute for Machine Learning(澳大利亚机器学习研究所);The University of Adelaide(阿德莱德大学);The University of New South Wales(新南威尔士大学)
持续学习(CL)方法旨在使机器学习模型能够学习新任务,而不会对先前已经掌握的任务造成灾难性遗忘。现有的CL方法通常保留先前看到的样本的缓冲区,执行知识蒸馏,或使用正则化技术来实现此目标。尽管他们表现出色,但他们仍然受到跨任务干扰的影响,这导致了灾难性遗忘。为了改善这个问题,我们建议在任何阶段只激活和选择稀疏神经元来学习当前和过去的任务。这样可以为以后的任务预留更多的参数空间和模型容量。这最大限度地减少了不同任务的参数之间的干扰。为此,我们提出了一个用于持续学习的稀疏神经网络(SNCL),它采用变分贝叶斯稀疏先验对所有层中的神经元的激活。全经验重放(FER)在学习不同层中的神经元的稀疏激活方面提供有效的监督。一个丢失感知的采样策略,以维护内存缓冲区。所提出的方法是不可知的网络结构和任务边界。在不同数据集上的实验表明,我们的方法在减轻遗忘方面达到了最先进的性能。
2022-02-21 cs.CV cs.LG
Continual HyperTransformer: A Meta-Learner for Continual Few-Shot Learning
Google Research(谷歌研究院)
针对持续小样本学习的不遗忘问题,提出基于HyperTransformer的递归权重复用方法,无需重放缓冲区等常用机制,可在多种学习场景下保留过往任务知识。
2024-08-18 cs.CV cs.LG
Latent Replay for Real-Time Continual Learning
University of Bologna(博洛尼亚大学)
在轻型计算设备、嵌入式系统和机器人平台的边缘训练深度神经网络如今非常具有挑战性。持续学习技术,其中复杂的模型在小批量的新数据上进行增量训练,可以使学习问题易于处理,即使对于只有CPU的嵌入式设备,也可以实现显着的自适应性和自主性。然而,还有一些实际问题需要解决:首先是灾难性遗忘。在本文中,我们介绍了一种名为“潜在重放”的原始技术,而不是在输入空间中存储过去的数据的一部分,我们存储在一些中间层的激活量。这可以显著减少本地排练所需的计算和存储。为了保持表示稳定和存储的激活有效,我们建议在潜在重放层以下的所有层放慢学习速度,让上面的层自由地全速学习。在我们的实验中,我们表明,潜在重放,结合现有的持续学习技术,实现了最先进的性能在复杂的视频基准,如CORe 50 NICv2(近400个小的和高度非i.i.d.批次)和OpenLORIS。最后,我们通过在智能手机设备上部署所提出的技术,证明了在边缘上进行近实时的【形】持续学习的可行性。
2020-03-04 cs.CV cs.LG stat.ML
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning
Humboldt-Universität zu Berlin(柏林洪堡大学);University of Trento(特伦托大学);SAP ML Research(SAP机器学习研究院)
在持续学习(CL)环境中训练的模型应该能够在未定义的时间段内从数据流中学习。这里的主要挑战是:1)维护旧知识,同时在学习新任务时从中受益,2)保证模型的可扩展性,并从越来越多的数据中学习。为了应对这些挑战,我们引入了动态生成记忆(DGM)-一个突触可塑性驱动的持续学习框架。DGM依赖于有条件的生成对抗网络,具有通过神经掩蔽实现的可学习连接可塑性。具体来说,我们评估了神经掩蔽的两种变体:(i)应用于层激活和(ii)直接应用于连接权重。此外,我们提出了一个动态的网络扩展机制,确保足够的模型容量,以适应不断传入的任务。增加的容量的量根据学习的二进制掩码动态地确定。我们在视觉分类任务的连续类增量设置中评估DGM。
2019-12-02 cs.CV cs.LG cs.NE
Bio-Inspired, Task-Free Continual Learning through Activity Regularization
Institute of Neuroinformatics, University of Zürich and ETH Zürich(苏黎世大学与苏黎世联邦理工学院神经信息学研究所);AI Center, ETH Zürich(苏黎世联邦理工学院人工智能中心)
连续学习多个任务而不忘记的能力是生物大脑的一项关键技能,而它代表了深度学习领域的一个重大挑战。为了避免灾难性遗忘,已经设计了各种持续学习(CL)方法。然而,这些通常需要离散的任务边界。这一要求在生物学上似乎是不可信的,并且经常限制CL方法在现实世界中的应用,因为现实世界中的任务并不总是很好地定义的。在这里,我们从神经科学中获得灵感,稀疏的,非重叠的神经元表征被认为可以防止灾难性遗忘。在大脑中,我们认为,这些稀疏表示应该选择前馈(刺激特定)以及自上而下(上下文特定)的信息的基础上。为了实现这样的选择性稀疏,我们使用一种生物合理的形式的分层信用分配称为深度反馈控制(DFC),并将其与赢家通吃稀疏机制。除了稀疏性之外,我们还在每一层中引入了横向递归连接,以进一步保护先前学习的表示。我们在分裂MNIST计算机视觉基准测试上评估了新的稀疏递归版本的DFC,并表明只有稀疏性和层内递归连接的组合才能提高CL相对于标准反向传播的性能。我们的方法实现了类似的性能,众所周知的CL方法,如弹性权重合并和突触智能,而不需要有关任务边界的信息。总的来说,我们展示了采用大脑的计算原理来获得新的,无任务的学习算法CL的想法。
2022-12-08 cs.CV cs.NE q-bio.NC
FCL-ViT: Task-Aware Attention Tuning for Continual Learning
Aristotle University of Thessaloniki(亚里士多德大学)
本文提出FCL-ViT,通过反馈机制与可调自注意力块实现任务感知的动态注意力调优,在持续学习中超越现有方法并保持较少可训练参数。
2025-08-18 cs.AI
Demonstrating the Continual Learning Capabilities and Practical Application of Discrete-Time Active Inference
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出基于主动推理的离散时间持续学习框架,推导变分与期望自由能公式并构建自学习智能体,实验证明其能在变化环境中高效更新模型,适用于金融、医疗等复杂领域。
2024-09-30 cs.AI cs.LG
Online Continual Adaptation with Active Self-Training
Tsinghua-Berkeley Shenzhen Institute(清华-伯克利深圳学院);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Tsinghua University(清华大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Berkeley(加州大学伯克利分校)
使用离线数据训练的模型通常会在不断变化的环境中遭受持续的分布偏移和昂贵的标签。这就需要一种新的在线学习范式,学习者可以不断适应不断变化的环境,有限的标签。在本文中,我们提出了一个新的在线设置-在线主动持续适应,学习者的目标是不断适应不断变化的分布使用未标记的样本和有限的标签的主动查询。为此,我们提出了在线自适应镜像下降(OSAMD),它采用了在线师生结构,使在线自我训练从未标记的数据,和一个基于边缘的标准,决定是否查询标签,以跟踪不断变化的分布。理论上,我们表明,在可分离的情况下,OSAMD有一个$O({T}^{2/3})$动态遗憾界温和的假设下,这是对齐的$Ω(T^{2/3})$下界的在线学习算法与完整的标签。在一般情况下,我们证明了$O({T}^{2/3} + α^* T)$的遗憾界,其中$α^*$表示域的可分性,并且通常很小。我们的理论结果表明,OSAMD可以快速适应不断变化的环境与主动查询。从经验上讲,我们证明了OSAMD实现有利的遗憾在不断变化的环境下,有限的标签上的模拟和现实世界的数据,这证实了我们的理论研究结果。
2022-03-20 cs.AI cs.LG stat.ML
Learning where to Attend with Deep Architectures for Image Tracking
University of British Columbia(不列颠哥伦比亚大学);University of Verona(维罗纳大学);University of Sherbrooke(舍布鲁克大学)
我们讨论了一个注意力模型,同时对象跟踪和识别,是由凝视数据驱动。受感知理论的启发,该模型由两个相互作用的通路组成:身份和控制,旨在反映神经科学模型中的什么和哪里通路。身份路径模型对象的外观和执行分类使用深(因子)限制玻尔兹曼机。在每一个时间点上,观察结果都是由中央凹图像组成的,分辨率朝着注视的边缘逐渐衰减。控制路径模拟被关注对象的位置、方向、规模和速度。这些状态的后验分布估计与粒子滤波。在控制通路的更深处,我们遇到了一种注意力机制,它学会选择凝视,以最大限度地减少跟踪的不确定性。与我们以前的工作不同,我们引入了凝视选择策略,该策略在部分信息的存在下和连续的动作空间上操作。我们表明,一个简单的扩展现有的方法的部分信息设置的结果在性能不佳,我们提出了一种替代方法的基础上建模的奖励表面作为高斯过程。这种方法在部分信息的存在下提供了良好的性能,并允许我们将动作空间从一个小的离散的固定点集扩展到一个连续的域。
2011-09-16 cs.AI
Sustainable Artificial Intelligence through Continual Learning
AI for People;University of Pisa(比萨大学);University of Oxford(牛津大学);Scuola Normale Superiore(高等师范学校)
对人工智能(AI)监管的日益关注导致了一系列伦理原则的定义,这些原则被纳入可持续AI框架。在本文中,我们将人工智能研究的一个活跃领域持续学习确定为设计符合可持续人工智能原则的系统的一种有前途的方法。虽然可持续人工智能概述了道德应用的一般需求,但持续学习提供了将这些需求付诸实践的方法。
2021-11-17 cs.AI cs.LG
NeSyC: A Neuro-symbolic Continual Learner For Complex Embodied Tasks In Open Domains
Sungkyunkwan University(成均馆大学)
针对具身智能体在开放域中因经验受限而难以泛化知识的问题,提出神经符号持续学习框架NeSyC,结合LLM与符号工具迭代生成并验证假设,有效解决复杂具身任务。
2025-03-07 cs.AI
I can attend a meeting too! Towards a human-like telepresence avatar robot to attend meeting on your behalf
TCS Research & Innovation, India(TCS研究与技术创新,印度)
远程呈现机器人在各种用例中以各种形式使用,有助于避免人类在行动现场的物理存在。在这项工作中,我们专注于一个远程呈现机器人,可用于远程参加会议的一群人。与一对一会议不同,小组会议的参与者可以位于会议室的不同位置,特别是在非正式会议中。因此,它们可能都不在机器人的视角上,也就是说,远程参与者。在这种情况下,为了提供更好的会议体验,机器人应该定位扬声器并将扬声器带到视角的中心。虽然使用麦克风阵列可以很容易地完成声源定位,但将扬声器或扬声器组置于视角并不是一项微不足道的任务。首先,机器人应该只对人类的声音做出反应,而不是对随机噪音做出反应。其次,如果有多个发言者,机器人应该面对谁,还是应该随着每个新的发言者不断旋转?最后,大多数机器人平台是资源受限的,并且为了实现实时响应,即,为了避免网络延迟,所有的算法都应该在机器人本身中实现。本文提出了一种研究和实施的注意力转移计划,在网真会议的情况下,最适合的需求和期望的搭配和远程与会者。我们定义了一个策略来决定机器人何时应该旋转,以及基于实时扬声器定位的旋转量。使用用户满意度研究,我们展示了我们的系统在会议场景的有效性和可用性。此外,我们的系统可以很容易地适应其他场景中,多人位于。
2020-06-28 cs.AI cs.HC cs.RO
Continual Robot Skill and Task Learning via Dialogue
Arizona State University(亚利桑那州立大学)
本文提出通过对话交互实现机器人持续学习任务和视觉-运动技能,开发了ACT-LoRA政策在模拟中优于基线,且在真实场景中成功教授烹饪技能。
2026-03-28 cs.AI cs.CL cs.RO
Gated Adaptation for Continual Learning in Human Activity Recognition
Arizona State University(亚利桑那州立大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一种基于通道级门控调制的持续学习框架,通过特征选择而非生成来减少HAR中的遗忘,提升准确率并降低参数训练量。
2026-07-30 cs.AI cs.LG
The World Model Remembers, the Actor Forgets: Dream Rehearsal for Continual Model-Based RL
Quantegra Research(Quantegra研究公司)
研究 DreamerV3 家族智能体在任务序列训练时的遗忘问题,通过组件级探测发现是通道问题,提出分级梦境排练方法,能产生无任务标签、参数恒定的持续学习者,在多任务链保留上表现优异。
2026-07-23 cs.AI cs.LG
The Cell Must Go On: Agar.io for Continual Reinforcement Learning
AgarCL是一个基于Agar.io游戏的持续强化学习研究平台,用于评估不同算法在复杂动态环境中的表现和挑战。
2026-08-11 cs.AI cs.LG
Continual Learning for Grounded Instruction Generation by Observing Human Following Behavior
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院)
通过观察人类用户的指令执行,我们研究了自然语言指令生成的持续学习。我们专注于一个协作的情况下,系统的行为和委托任务给人类用户使用自然语言。我们将用户执行生成的指令与原始系统意图进行比较,作为系统成功传达其意图的指示。我们展示了如何使用这个信号来提高系统的能力,通过上下文强盗学习生成指令。在与真实用户的交互中,我们的系统随着时间的推移在生成语言的能力上表现出了显着的改进。
2021-08-10 cs.AI cs.CL cs.LG
TaskVAE: Task-Specific Variational Autoencoders for Exemplar Generation in Continual Learning for Human Activity Recognition
Univ. Grenoble Alpes, CNRS, Grenoble INP(格拉诺布尔大学);Institute of Engineering Univ. Grenoble Alpes(格拉诺布尔大学工程学院);School of Computing and Engineering, Univ. of Huddersfield(赫德瑟尔菲尔德大学计算机与工程学院)
本文提出TaskVAE框架,通过任务特定变分自编码器为类别增量持续学习生成合成回放样本,在仅需极低内存的情况下解决了人类活动识别中的灾难性遗忘问题,并在多个数据集上验证了其优越性。
2025-05-10 cs.AI cs.LG
Dissecting Persona-Driven Reasoning in Language Models via Activation Patching
Independent(独立研究者)
本文利用激活修补方法研究人设如何影响LLM推理,发现早期MLP层处理人设语义、中间MHA层据此塑造输出,并定位了过度关注种族与肤色身份的注意力头。
2025-09-21 cs.AI cs.CL cs.LG