Labeled Memory Networks for Online Model Adaptation
IIT Bombay（印度理工学院孟买分校）
用记忆增强神经网络，而不增加训练参数的数量，是一个最近的强大概念，有许多令人兴奋的应用。我们提出了一种设计的记忆增强神经网络（MANN）称为标签记忆网络（LMNs）适合于需要在线适应分类模型的任务。LMN以类作为主键码来组织记忆，记忆作为继常规神经网络之后的第二个提升阶段，从而允许记忆和主网络发挥互补作用。与针对每个实例写入存储器并使用基于LRU的存储器替换的现有MANN不同，LMN仅针对具有非零丢失的实例写入并使用基于标签的存储器替换。我们在各种任务上表现出显着的准确性增益，包括单词建模和少样本学习。在本文中，我们建立了他们的潜力，在线适应一批训练神经网络领域相关的标记数据在部署时。我们表明，LMNs优于其他MANN设计的元学习。我们还发现，它们比最先进的重新调整模型参数的方法更准确，更快，以适应特定领域的标记数据。
2017-12-02 cs.LG stat.ML
Ferret: An Efficient Online Continual Learning Framework under Varying Memory Constraints
Sichuan University（四川大学）；National University of Singapore（新加坡国立大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Huazhong University of Science and Technology（华中科技大学）
本文提出 Ferret 框架，通过细粒度流水线并行、迭代梯度补偿及自动化模型划分，在变化内存预算下提升 OCL 的实时准确率与效率。
2025-03-15 cs.AI cs.LG
Dynamic Dual Buffer with Divide-and-Conquer Strategy for Online Continual Learning
Department of Computing, Imperial College London（帝国理工学院计算机系）；Department of Bioengineering, Imperial College London（帝国理工学院生物工程系）；School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）
本文提出ODEDM框架，通过动态双缓冲与分治策略，有效缓解在线持续学习中的灾难性遗忘问题，实现跨数据集的高性能表现。
2025-12-13 cs.LG
Online Continual Learning under Extreme Memory Constraints
University of Trento（特伦托大学）；SAP AI Research（SAP人工智能研究院）；LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信LTCI实验室）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
持续学习（CL）旨在开发能够模仿人类顺序学习新任务的能力的智能体，同时能够保留从过去经验中获得的知识。在本文中，我们介绍了新的问题的内存约束在线持续学习（MC-OCL），它对内存开销施加了严格的限制，一个可能的算法可以用来避免灾难性遗忘。由于大多数（如果不是全部）以前的CL方法违反了这些约束，我们提出了MC-OCL的算法解决方案：批量级蒸馏（BLD），这是一种基于正则化的CL方法，它有效地平衡了稳定性和可塑性，以便从数据流中学习，同时保留了通过蒸馏解决旧任务的能力。我们广泛的实验评估，进行了三个公开的基准，经验表明，我们的方法成功地解决了MC-OCL问题，并实现了相当的准确性，需要更高的内存开销之前的蒸馏方法。
2022-01-12 cs.CV cs.LG
From Offline to Online Memory-Free and Task-Free Continual Learning via Fine-Grained Hypergradients
The University of Tokyo（东京大学）；Japanese French Laboratory for Informatics, CNRS（日法信息实验室，CNRS）；Massachusetts Institute of Technology（麻省理工学院）
针对在线持续学习中无任务、无记忆方法难以适配的问题，本文用轻量级原型结合细粒度超梯度重加权缓解梯度不平衡，显著提升性能并超过在线基线。
2025-06-07 cs.AI cs.LG
Compressed Context Memory For Online Language Model Interaction
Seoul National University（首尔大学）；NAVER AI Lab（NAVER人工智能实验室）
本文提出一种压缩上下文记忆系统，通过轻量级条件LoRA在推理时持续压缩注意力键/值对，以5倍更小的记忆大小达到全上下文模型性能，并适用于无限长度的流式场景。
2024-02-06 cs.CL cs.LG
Online Adaptation of Language Models with a Memory of Amortized Contexts
KAIST（韩国科学技术院）；Yonsei University（延世大学）；Stanford University（斯坦福大学）；University of Oxford（牛津大学）；Harvard University（哈佛大学）；Thomson Reuters（汤森路透）
本文提出MAC框架，利用摊销元学习和记忆库实现语言模型在线高效自适应，无需梯度更新，提升性能与效率，并可与RAG结合。
2024-11-04 cs.CL cs.LG
Gradient-based Editing of Memory Examples for Online Task-free Continual Learning
University of Southern California（南加州大学）
我们探索了无任务的持续学习（CL），在这种学习中，一个模型被训练来避免在没有明确的任务边界或身份的情况下发生灾难性的遗忘。在无任务CL的许多努力中，一个值得注意的方法家族是基于记忆的，存储和重放训练示例的子集。然而，由于CL模型不断更新，因此存储的可见示例的效用可能会随着时间的推移而减少。在这里，我们提出了基于梯度的内存编辑（GMED），一个框架，用于编辑存储的例子在连续的输入空间通过梯度更新，以创建更多的“挑战性”的例子重放。GMED编辑的例子仍然类似于它们未经编辑的形式，但在即将到来的模型更新中可能会产生更多的损失，从而使未来的重放在克服灾难性遗忘方面更加有效。通过构造，GMED可以无缝地与其他基于内存的CL算法结合应用，以带来进一步的改进。实验验证了GMED的有效性，我们的最佳方法在六个数据集中的五个数据集上显著优于基线和以前的最新技术。代码可以在https://github.com/INK-USC/GMED上找到。
2021-12-07 cs.LG stat.ML
Online Continual Learning Via Candidates Voting
Purdue University（普渡大学）
在线场景中的持续学习旨在使用每个数据仅一次用于训练来从数据流中学习一系列新任务，这比离线模式中假设来自新任务的数据全部可用更现实。然而，对于具有挑战性的类增量设置，这个问题仍然没有得到充分的探讨，在这种设置中，模型对迄今为止在推理过程中看到的所有类进行分类。特别是，性能与任务数量的增加或为每个任务学习的额外课程有关。此外，大多数现有方法需要存储原始数据作为知识重放的样本，这对于具有有限存储器预算或隐私问题的某些应用可能是不可行的。在这项工作中，我们介绍了一种有效的和内存效率的方法在线持续学习类增量设置下，通过候选人选择从每个学习任务连同先前的合并使用存储的特征嵌入，而不是原始数据作为样本。我们提出的方法实现的图像分类任务取得了最好的结果，在不同的基准数据集在线持续学习，包括CIFAR-10，CIFAR-100和CORE-50，而需要更少的内存资源相比，现有的作品。
2021-10-17 cs.CV cs.LG
Sample Condensation in Online Continual Learning
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学院）
在线持续学习是一个具有挑战性的学习场景，模型必须从非平稳的数据流中学习，其中每个样本只看到一次。主要的挑战是在增量学习的同时避免灾难性遗忘，即在从新数据学习的同时忘记先前获得的知识的问题。在这些情况下，一个流行的解决方案是使用一个小内存来保留旧数据，并随着时间的推移排练它们。不幸的是，由于内存大小有限，内存的质量会随着时间的推移而恶化。在本文中，我们提出了OLCGM，一种新的重放为基础的持续学习策略，使用知识浓缩技术，不断压缩内存，实现更好地利用其有限的大小。样本压缩步骤压缩旧样本，而不是像其他重放策略那样删除它们。因此，实验表明，只要内存预算与数据的复杂性相比是有限的，OLCGM与最先进的重放策略相比，提高了最终的准确性。
2022-06-23 cs.AI cs.CV cs.LG
Online Continual Learning for Embedded Devices
Rochester Institute of Technology（罗切斯特理工学院）；University of Rochester（罗切斯特大学）
家用机器人、智能手机上的用户个性化以及增强/虚拟现实头戴设备等新应用都需要设备上的实时持续学习。然而，这种设置带来了独特的挑战：嵌入式设备的内存和计算能力有限，传统的机器学习模型在非平稳数据流上更新时会出现灾难性遗忘。虽然已经开发了几种在线持续学习模型，但它们在嵌入式应用中的有效性尚未得到严格的研究。在本文中，我们首先确定了在线持续学习者必须满足的标准，以有效地执行实时，在设备上学习。然后，我们研究了几种在线持续学习方法与移动神经网络一起使用时的有效性。我们测量它们的性能、内存使用、计算需求以及泛化到域外输入的能力。
2022-07-15 cs.AI cs.LG
Online Continual Learning via Spiking Neural Networks with Sleep Enhanced Latent Replay
针对边缘计算中在线持续学习的高内存开销和类别偏差问题，提出SESLR方法，结合脉冲神经网络与睡眠增强潜在重放，显著降低内存并提升准确率。
2025-10-16 cs.CV cs.LG cs.NE
Online Class-Incremental Continual Learning with Adversarial Shapley Value
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
随着基于图像的深度学习在从手机到智能手表的每一种设备上变得普遍，越来越需要开发不断从数据中学习的方法，同时最大限度地减少内存占用和功耗。虽然记忆回放技术已经显示出对于这种持续学习任务的特殊承诺，但是选择回放哪些缓冲图像的最佳方法仍然是一个悬而未决的问题。在本文中，我们特别关注在线类增量设置，其中模型需要从在线数据流中不断学习新类。为此，我们贡献了一种新的对抗Shapley值评分方法，该方法根据记忆数据样本保留先前观察到的类的潜在决策边界的能力（以保持学习稳定性并避免遗忘），同时干扰正在学习的当前类的潜在决策边界（以鼓励新类边界的可塑性和最佳学习）。总的来说，我们观察到，我们提出的ASER方法提供了竞争力或改进的性能相比，国家的最先进的重放为基础的持续学习方法在各种数据集。
2021-03-22 cs.CV cs.LG stat.ML
Budgeted Online Continual Learning by Adaptive Layer Freezing and Frequency-based Sampling
Seoul National University（首尔大学）
针对在线持续学习中计算与存储预算不一致导致比较不公的问题，提出以 FLOPs 和总字节内存统一预算，并结合自适应层冻结与频率采样检索，在多个图像数据集上以同等总预算取得优于 SOTA 的效果。
2025-03-16 cs.AI cs.CV cs.LG
Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries
NAVER CLOVA；NAVER AI Lab（NAVER人工智能实验室）；GIST（光州科学技术院）；Seoul National University（首尔国立大学）；Yonsei University（延世大学）
在具有不正确标签的连续变化的数据分布下学习是一个理想的现实世界问题，但具有挑战性。然而，大量的持续学习（CL）方法假设数据流具有干净的标签，并且在有噪声的数据流下的在线学习场景尚未被充分探索。我们考虑一个更实际的CL任务设置的在线学习从模糊的数据流与损坏的标签，现有的CL方法的斗争。为了解决这个问题，我们首先讨论了持续学习模型中情景记忆中样例的多样性和纯度的重要性。为了平衡情景记忆的多样性和纯度，我们提出了一种新的策略来管理和使用记忆的标签噪声感知不同的采样和鲁棒学习与半监督学习的统一方法。我们对四个真实世界或合成噪声数据集（CIFAR 10和100，mini-WebVision和Food-101 N）的经验验证表明，我们的方法在这种现实和具有挑战性的持续学习场景中显着优于现有技术。代码和数据分割可以在https://github.com/clovaai/puridiver上找到。
2022-03-30 cs.AI cs.CV cs.LG
An Application of Online Learning to Spacecraft Memory Dump Optimization
Università degli Studi di Milano（米兰大学）；Toulouse School of Economics（图卢兹经济学院）；CLC Space GmbH（CLC航天有限公司）；Politecnico di Milano（米兰理工大学）
在本文中，我们提出了一个真实世界的应用程序的在线学习与专家的意见，空间业务领域，测试我们的理论现实生活中的数据来自哥白尼哨兵-6卫星。我们表明，在航天器内存转储优化，一个轻量级的跟随领导者算法导致性能的增加超过$60\%$相比，传统的技术。
2022-09-24 cs.LG
Online Convex Optimization Against Adversaries with Memory and Application to Statistical Arbitrage
Technion（以色列理工学院）
具有记忆的在线学习的框架自然地捕获具有时间约束的学习问题，并且先前针对专家设置进行了研究。在这项工作中，我们扩展的概念，学习与记忆的一般在线凸优化（OCO）的框架，并提出了两个算法，达到低遗憾。第一个算法适用于Lipschitz连续损失函数，获得凸和强凸损失的最优遗憾界。第二个算法达到最佳遗憾界，并适用于更广泛的凸损失，而不需要Lipschitz连续性，但更复杂的实现。我们补充我们的理论结果与金融统计套利的应用：我们设计算法构建均值回复投资组合。
2014-06-10 cs.LG
Learnability in Online Kernel Selection with Memory Constraint via Data-dependent Regret Analysis
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
针对带内存约束的在线核选择问题，提出依赖核对齐和竞争假设累积损失的数据依赖上界，构建基于新型缓冲区与专家建议预测归约的算法框架，证明小内存下次线性数据复杂度下可学习，并经实验验证性能。
2025-03-24 cs.LG
OASIS: Online Activation Subspace Learning for Memory-Efficient Training
Purdue University（普渡大学）；Advanced Micro Devices, Inc. (AMD)（超威半导体公司（AMD））
OASIS通过在线学习动态激活子空间，减少内存消耗，无需修改前向计算，实现比全微调低2倍的峰值内存使用，同时保持性能并优于现有低秩方法。
2026-04-10 cs.LG
Memory Constraint Online Multitask Classification
Università degli Studi di Milano（米兰大学）
我们调查在线内核算法，同时处理多个分类任务，而一个固定的约束施加在其活动集的大小。我们特别关注的算法设计，可以有效地处理任务的数量是非常高的，任务数据是大规模的问题。引入了两种新的基于投影的算法，以有效地解决这些问题，同时提出了不同的权衡如何管理可用的内存相对于先验信息的学习任务。通过将随机预算感知器和Forgetron算法与多任务内核耦合，设计了理论上合理的预算算法。我们展示了如何从多个任务中学习和保持恒定的内存足迹这两个看似对立的属性可以平衡，以及如何自动照顾不同任务之间的可用空间共享。我们提出并讨论了多任务内核的新见解。实验表明，在线内核多任务算法运行在预算可以有效地解决现实世界中的学习问题，涉及多个任务。
2012-10-01 cs.LG
Online Reinforcement Learning with Passive Memory
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出利用预收集的被动记忆来改进在线强化学习，证明了其遗憾值接近极小极大最优，并表明被动记忆质量决定遗憾值的次优程度，且方法适用于连续和离散状态-动作空间。
2024-10-18 cs.AI cs.LG
Variance Reduced Online Gradient Descent for Kernelized Pairwise Learning with Limited Memory
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对核化在线成对学习，提出有限内存方差缩减OGD算法，利用分层样本和随机傅里叶特征降低梯度方差，实现改进的次线性遗憾，实验验证其优越性。
2023-10-10 cs.LG
Memory-Computation Tradeoffs in Semi Amortized Parametric Optimization
Johns Hopkins University（约翰·霍普金斯大学）
研究在固定在线计算预算下，半摊销参数优化中离线信息与精度的关系。通过构建非参数预测器分析，给出强凸和满足特定条件凸目标的内存上下界及证明框架，实验验证了内存-计算-精度权衡。
2026-07-24 cs.LG
Online Vector Quantized Attention
Zyphra
本文提出OVQ注意机制，通过稀疏内存更新提升长上下文处理能力，在保持线性计算和常数内存的同时，显著优于线性注意和SSM。
2026-05-14 cs.LG
Retrieval-Augmented Memory for Online Learning
Department of Computer Engineering, International College (MUTIC), Mahanakorn University of Technology（计算机工程系，国际学院（MUTIC），玛汉纳克恩技术大学）
RAM-OL通过结合检索增强的记忆机制，提升在线学习在概念漂移场景下的准确性和鲁棒性。
2025-12-02 cs.LG
Eigen Memory Trees
University of Virginia（弗吉尼亚大学）；Microsoft Research（微软研究院）
这项工作介绍了本征记忆树（EMT），一种新的在线记忆模型的顺序学习的情况。EMT将数据存储在二叉树的叶子上，并使用先前经验的主成分通过结构路由新样本，从而促进对相关存储器的有效（对数）访问。我们证明了EMT优于现有的在线记忆方法，并提供了一个混合EMT参数算法，享有显着提高性能的纯参数方法，几乎没有缺点。我们的研究结果验证使用206数据集从OpenML存储库中的有限和无限的内存预算的情况。
2022-10-31 cs.LG
Online Optimization with Memory and Competitive Control
Tsinghua University（清华大学）
针对一类新的带记忆的在线优化问题，提出了竞争算法。我们考虑的设置，学习者寻求最小化的命中成本和切换成本，取决于以前的$p$决定的总和。此设置泛化平滑在线凸优化。所提出的方法，乐观正则化在线平衡下降，实现了恒定的，无量纲的竞争比。此外，我们展示了具有记忆的在线优化与具有对抗性干扰的在线控制之间的联系。这种联系，反过来，导致一个新的恒定竞争的政策，丰富的在线控制问题。
2021-01-08 cs.LG cs.SY eess.SY
Constrained Online Convex Optimization with Memory and Predictions
本文研究了具有记忆的约束在线凸优化（COCO-M），提出首次实现亚线性后悔和亚线性累积约束违反的算法，适用于时间变化约束，且在有无预测情况下均有效。
2026-03-22 cs.LG stat.ML
Online Continual Learning via Multiple Deep Metric Learning and Uncertainty-guided Episodic Memory Replay -- 3rd Place Solution for ICCV 2021 Workshop SSLAD Track 3A Continual Object Classification
Xi’an Jiaotong University（西安交通大学）
在线持续学习是机器学习中一项非常困难的任务。在线持续学习的非平稳性可能会导致神经网络的灾难性遗忘。具体而言，使用SODA 10 M数据集进行自动驾驶的在线持续学习在具有连续分布偏移的极长尾分布上表现出额外的问题。为了解决这些问题，我们提出了多个深度度量表示学习，通过对比和监督对比学习以及软标签蒸馏来提高模型的泛化能力。此外，我们利用修改后的类平衡的焦点损失敏感的惩罚类不平衡和硬容易的样本。我们还存储一些样本的指导下的不确定性度量排练和执行在线和定期的内存更新。我们提出的方法取得了相当大的推广，平均平均类准确率（AMCA）64.01%的验证和64.53%的AMCA测试集。
2021-11-04 cs.CV cs.LG
ROIPCA: An online memory-restricted PCA algorithm based on rank-one updates
Tel-Aviv University（特拉维夫大学）
针对内存受限的流式 PCA 问题，提出基于秩一更新的 ROIPCA 与快速版 fROIPCA，并证明后者是最优学习率梯度算法，实验显示其在精度和运行时间上优于现有方法。
2023-06-07 cs.LG stat.ML
Adversarial Tracking Control via Strongly Adaptive Online Learning with Memory
Boston University（波士顿大学）
我们考虑的问题，跟踪一个敌对状态序列的线性动力系统的敌对干扰和损失函数，推广早期的设置在文献中。为此，我们开发了三种技术，每一个独立的利益。首先，我们提出了一个比较器自适应算法的移动成本的在线线性优化。如果不进行调整，事后看来，它几乎与最佳调整的梯度下降的性能相匹配。接下来，考虑到一个相关的问题，称为在线学习与记忆，我们构建了一个新的强自适应算法，使用我们的第一个贡献作为积木。最后，我们提出了第一个减少从对抗跟踪控制强自适应在线学习与记忆。总结这些单独的技术，我们得到了一个对抗跟踪控制器具有很强的性能保证，即使参考轨迹有很大的运动范围。
2022-02-22 cs.LG cs.SY eess.SY
Recurrent Memory for Online Interdomain Gaussian Processes
Imperial College London（伦敦帝国学院）；Canon Inc.（佳能公司）；University of Copenhagen（哥本哈根大学）
提出 OHSVGP，将 HiPPO 时变正交投影作为跨域 GP 的循环诱导变量，实现历史记忆与核矩阵在线递推更新，并在多类任务中提升预测、记忆和效率。
2025-09-28 cs.LG stat.ML
Live-Evo: Online Evolution of Agentic Memory from Continuous Feedback
Oregon State University（俄勒冈州立大学）；AG2 AI（AG2人工智能）；Penn State University（宾夕法尼亚州立大学）
Live-Evo通过在线进化记忆系统，在连续反馈中提升任务性能和市场收益。
2026-02-02 cs.AI cs.LG
EdgeRAG: Online-Indexed RAG for Edge Devices
University of Virginia（弗吉尼亚大学）；University of Waterloo（滑铁卢大学）；Google（谷歌）
EdgeRAG 针对边缘设备内存受限问题，通过簇内嵌入剪枝、按需生成与自适应缓存策略，在保持生成质量的同时显著降低检索延迟，并实现数据集全部装入内存。
2024-12-31 cs.LG
Working Memory for Online Memory Binding Tasks: A Hybrid Model
School of Mathematics, Institute for Research in Fundamental Sciences (IPM)（基础科学研究所数学学院（IPM））
工作记忆是大脑中保存和处理在线信息的模块。在这项工作中，我们设计了一个混合模型，其中一个简单的前馈网络耦合到一个平衡的随机网络通过一个读写向量称为接口向量。三种情况下，他们的结果进行了讨论类似的n-back任务，一阶记忆绑定任务，广义一阶记忆任务，二阶记忆绑定任务。重要的结果是，我们的工作记忆的双组件模型表现出良好的性能与学习仅限于前馈组件。在这里，我们利用了随机网络的特性，而无需学习。最后，一个更复杂的内存绑定任务称为，一个基于线索的内存绑定任务，其中的线索是作为输入表示的绑定关系，提示网络选择有用的内存块。据我们所知，这是第一次随机网络作为一个灵活的记忆被证明在在线绑定任务中发挥重要作用。我们可以将我们的结果解释为工作记忆的候选模型，其中前馈网络学习与临时存储随机网络交互，作为注意力控制执行系统。
2020-12-12 cs.AI cs.LG cs.NE
Distributed Associative Memory via Online Convex Optimization
KCLIP, CIIPS, Department of Engineering, King’s College London, London WC2R 2LS, UK（KCLIP、CIIPS、工程系、伦敦国王学院，伦敦 WC2R 2LS，英国）；Communication Systems Department, EURECOM, 06904 Sophia Antipolis, France（通信系统部门、EURECOM、法国索菲亚抗皮斯，06904）；Intelligent Networked Systems Institute, Northeastern University London, London E1 8PH, UK（智能网络系统研究所、伦敦东北大学、伦敦 E1 8PH，英国）
针对分布式联想记忆问题，提出基于路由树通信的分布式在线梯度下降方法以协同优化各智能体本地记忆，并证明次线性遗憾且实验优于现有基线。
2025-09-26 cs.LG eess.SP
Efficient Online Learning with Memory via Frank-Wolfe Optimization: Algorithms with Bounded Dynamic Regret and Applications to Control
University of Michigan（密歇根大学）
针对在线学习中投影操作的计算瓶颈，提出基于OFW和Hedge的无投影带记忆元-基学习算法，实现有界动态遗憾，并成功应用于线性时变系统的在线控制。
2023-03-31 cs.LG cs.SY eess.SY
Online Learning via Memory: Retrieval-Augmented Detector Adaptation
Microsoft Corp（微软公司）
本研究提出一种无需训练的检索增强在线学习方法，通过记忆库与RAC模块让现成目标检测器快速适配新域，仅需每类10张图像的记忆库即可显著优于基线。
2024-09-16 cs.CV cs.IR cs.LG
Capacity Provisioning Motivated Online Non-Convex Optimization Problem with Memory and Switching Cost
本文研究带记忆和切换代价的在线非凸优化问题，通过调节活跃服务器数量最小化作业总延迟，并针对最坏情况和随机输入分别提出竞争算法。
2024-07-01 cs.DS cs.LG
Self-Evolving Time-Series Forecasting Agents with Episodic Memory and Online Policy Learning
针对现有预测智能体忽视历史反馈的问题，提出FASE，结合情景记忆与在线策略学习，利用已完成实例反馈自我进化，在29个配置上MAE降低9.1%。
2026-09-29 cs.LG
Online Neural Space Time Memory for Dynamic Novel View Synthesis
University of Washington（华盛顿大学）；Google（谷歌）
研究多视图流视频在线新视角合成问题，提出解耦记忆更新与应用频率的方法，通过跨视图注意力管理变形，引入辅助记忆损失和记忆缓存策略，实现实时、领先性能及微小尺度在线记忆。
2026-10-07 cs.CV cs.GR cs.LG
Global Convergence of Online Limited Memory BFGS
University of Pennsylvania（宾夕法尼亚大学）
建立了求解大规模机器学习中随机目标最优化问题的Broyden-Fletcher- Goldfarb-Shanno（BFGS）拟牛顿法的在线（随机）有限记忆版本的整体收敛.样本函数的Hessian特征值的上界足以保证曲率近似矩阵具有有界的行列式和迹线，这反过来又允许以概率1收敛到最优参数。支持向量机与合成数据的数值实验展示减少收敛时间相对于随机梯度下降算法，以及减少存储和计算相对于其他在线拟牛顿法。通过对搜索引擎广告问题的实验评估，证实了这些优点在实际应用中也得到了体现。
2014-09-06 cs.LG math.OC stat.ML
Memory-Efficient Episodic Control Reinforcement Learning with Dynamic Online k-means
Imperial College London（帝国理工学院）
最近，已经开发了神经启发的情景控制（EC）方法来克服标准深度强化学习方法的数据低效。使用非/半参数模型来估计价值函数，它们可以快速学习，从类似的过去状态中检索缓存的值。在现实场景中，由于资源有限和数据嘈杂，在记忆中保持有意义的表征对于加速学习和避免灾难性遗忘至关重要。不幸的是，EC方法具有较大的空间和时间复杂度。我们调查不同的解决方案，这些问题的优先级和排名存储状态的基础上，以及在线聚类技术。我们还提出了一种新的动态在线k-means算法，既计算效率高，又在较小的内存大小下产生更好的性能;我们在经典的强化学习环境和Atari游戏中验证了这种方法。
2019-11-21 cs.LG cs.NE stat.ML
Non-stationary Online Learning with Memory and Non-stochastic Control
Nanjing University（南京大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
针对带记忆在线凸优化与非随机控制中的非平稳性，提出感知切换成本的在线集成算法及基于梯度的控制器，实现最优动态策略遗憾保证。
2023-08-15 cs.LG stat.ML
Online Limited Memory Neural-Linear Bandits with Likelihood Matching
Technion Institute of Technology（以色列理工学院）；DeepMind（深度思维）；Nvidia Research（英伟达研究院）
我们研究神经线性强盗解决问题，{\em两者}探索和表示学习发挥了重要作用。神经线性强盗利用深度神经网络（DNN）的表示能力，并通过利用模型的不确定性估计将其与高效的探索机制相结合，该模型专为最后一个隐藏层上的线性上下文强盗而设计。为了减轻在处理期间表示变化的问题，使用来自无限缓冲器的存储数据来计算新的不确定性估计。然而，当存储的数据量有限时，就会出现一种称为灾难性遗忘的现象。为了缓解这一点，我们提出了一个似然匹配算法，是弹性的灾难性遗忘，是完全在线的。我们应用我们的算法，有限记忆神经线性与Likestival匹配（NeuralLinear-LiM2）在各种数据集上，并观察到我们的算法实现了与无限记忆方法相当的性能，同时表现出对灾难性遗忘的弹性。
2021-06-08 cs.AI cs.LG
Neuromodulated Neural Architectures with Local Error Signals for Memory-Constrained Online Continual Learning
Argonne National Laboratory（阿贡国家实验室）
从输入数据流中持续学习而不发生灾难性遗忘的能力对于设计智能系统至关重要。许多现有的持续学习方法依赖于随机梯度下降及其变体。然而，这些算法必须实现各种策略，例如存储器缓冲器或重放，以克服随机梯度下降方法在稳定性、贪婪和短期记忆方面的众所周知的缺点。为此，我们开发了一个生物启发的轻量级神经网络架构，它结合了本地学习和神经调节，使输入处理数据流和在线学习。接下来，我们解决的挑战，是不知道的任务，提前实现转移元学习：使用贝叶斯优化，探索设计空间跨越多个本地学习规则和他们的超参数，我们确定高性能的配置在经典的单任务在线学习，我们将它们转移到持续学习任务与任务相似性的考虑。我们证明了我们的方法在单一任务和持续学习设置的有效性。对于单任务学习设置，我们在MNIST，Fashion MNIST和CIFAR-10数据集上展示了优于其他本地学习方法的性能。使用高性能的配置元在单任务学习设置，我们实现了优越的持续学习性能分裂MNIST，和分裂CIFAR-10数据相比，其他内存受限的学习方法，并匹配的最先进的内存密集型重放为基础的方法。
2021-03-13 cs.LG stat.ML
Online Multitask Learning with Long-Term Memory
University College London（伦敦大学学院）
我们介绍一种新颖的在线多任务设置。在这种设置中，每个任务都被划分为一系列学习者未知的片段。与每个段相关联的是来自某个假设类的假设。我们给出的算法，旨在利用的情况下，有许多这样的部分，但显着较少的相关假设。我们证明遗憾的界限，持有任何分割的任务和任何关联的假设的部分。在单任务设置中，这相当于在[Bousquet and Warfall; 2003]的意义上切换长期记忆。我们提供了一种算法，当假设类有限时，该算法在每次试验中的预测时间与假设数量呈线性关系。我们还考虑无限假设类从再生核希尔伯特空间，我们给一个算法，其每次试验的时间复杂度是立方的累积试验的数量。在单任务的特殊情况下，这是一个有效的遗憾有界的切换算法与长期记忆的非参数假设类的第一个例子。
2020-08-17 cs.LG stat.ML
Robustified Learning for Online Optimization with Memory Costs
UC Riverside（加州大学河滨分校）
针对带记忆成本的在线优化中传统算法平均性能差、ML优化器鲁棒性不足的问题，提出专家鲁棒化学习方法，结合专家算法投影鲁棒化与循环架构ML训练，兼具性能与鲁棒性，并通过能源调度实验验证。
2023-05-01 cs.DS cs.LG
Incremental Concept Learning via Online Generative Memory Recall
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
随着时间的推移，从逐渐到达的数据中学习越来越多的概念的能力对于终身学习系统的开发至关重要。然而，深度神经网络在不断学习新概念时，经常会忘记先前学习的概念，这被称为灾难性遗忘问题。灾难性遗忘的主要原因是过去的概念数据不可用，神经网络的权重在增量学习新概念的过程中发生了变化。在本文中，我们提出了一个伪排练类增量学习方法，使神经网络能够不断学习新的概念。我们使用一个条件生成对抗网络来巩固旧概念的记忆，并在学习新概念的过程中回忆伪样本，一个平衡的在线记忆回忆策略是最大限度地保持旧记忆。设计了一个可理解的增量式概念学习网络和概念对比损失来减轻神经网络权值变化的幅度。我们评估所提出的方法MNIST，时尚MNIST和SVHN数据集，并与其他排练为基础的方法进行比较。大量的实验证明了我们的方法的有效性。
2019-07-05 cs.CV cs.LG
TERN: A Delta-rule Memory with a Seasonal Reference and Online Adaptation for Epidemic Forecasting
Neurogica Inc.（Neurogica公司）；LTS, Inc.（LTS公司）
TERN提出一种带季节参考和在线自适应的增量规则记忆预测器，在流感基准上超越现有模型，验证了记忆机制的有效性。
2026-09-25 cs.AI cs.LG
Recurrent Autoregressive Networks for Online Multi-Object Tracking
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）
在线多目标跟踪的主要挑战是基于其跟踪历史将对象轨迹与每个视频帧中的检测可靠地关联。在这项工作中，我们提出了递归自回归网络（RAN），一个时间生成建模框架来表征多个对象随时间的外观和运动动态。RAN耦合外部存储器和内部存储器。外部存储器明确地存储时间窗口中每个轨迹的先前输入，而内部存储器通过处理外部存储器来学习总结长期跟踪历史并关联检测。我们在MOT 2015和2016数据集上进行了实验，以证明我们的跟踪方法在高度拥挤和遮挡场景中的鲁棒性。我们的方法在两个基准测试中取得了最好的结果。
2018-03-04 cs.AI cs.CV cs.LG
Hedging Memory Horizons for Non-Stationary Prediction via Online Aggregation
Department of Statistics, LSE London, UK（伦敦经济学院统计系）；Électricité de France R&D Palaiseau, France（法国电力公司Palaiseau研发部）
本文提出MELO方法，通过在线聚合和指数加权最小二乘法应对分布偏移，减少预测误差并提升适应性。
2026-05-07 cs.LG stat.ML
Online Convex Optimization with Unbounded Memory
Cornell University（康奈尔大学）
本文提出具有无界记忆的在线凸优化框架，引入p-有效记忆容量H_p量化历史决策影响，证明策略遗憾的O(√(H_pT))上下界，并应用于在线线性控制与执行预测等问题。
2024-03-29 cs.LG math.OC stat.ML
Episodic memory for continual model learning
Computational Systems Neuroscience Lab, Wigner Research Centre for Physics（维格纳物理研究中心计算系统神经科学实验室）；Institute of Physics, Eotvos Lorand University（罗兰大学物理研究所）
在现实世界或复杂环境中运行的人脑和人工学习代理都面临着在线模型选择的挑战。原则上，这个挑战是可以克服的：分层贝叶斯推理提供了一个原则性的方法模型选择，它收敛于离线（即批处理）和在线学习相同的后验。然而，并行地维护每个模型的参数后验通常具有比存储整个数据集更高的存储器成本，因此显然是不可行的。或者，在内存中仅维护有限的一组模型可以限制内存需求。然而，一个模型的足够的统计数据通常不足以拟合不同类型的模型，这意味着代理会随着每个模型的变化而丢失信息。我们提出，情景记忆可以通过保留选定的数据点子集来规避有限的记忆容量在线模型选择的挑战。我们设计了一种方法来计算模型选择所需的数量，即使数据被丢弃，只有一个（或几个）学习模型的统计数据可用。我们证明了一个简单的模型，一个有限大小的情景记忆缓冲区，当内容被优化，以保留与当前表示不匹配的统计数据，可以解决在线模型选择的根本挑战。
2017-12-04 cs.LG stat.ML
