Memory Constraint Online Multitask Classification
Università degli Studi di Milano（米兰大学）
我们调查在线内核算法，同时处理多个分类任务，而一个固定的约束施加在其活动集的大小。我们特别关注的算法设计，可以有效地处理任务的数量是非常高的，任务数据是大规模的问题。引入了两种新的基于投影的算法，以有效地解决这些问题，同时提出了不同的权衡如何管理可用的内存相对于先验信息的学习任务。通过将随机预算感知器和Forgetron算法与多任务内核耦合，设计了理论上合理的预算算法。我们展示了如何从多个任务中学习和保持恒定的内存足迹这两个看似对立的属性可以平衡，以及如何自动照顾不同任务之间的可用空间共享。我们提出并讨论了多任务内核的新见解。实验表明，在线内核多任务算法运行在预算可以有效地解决现实世界中的学习问题，涉及多个任务。
2012-10-01 cs.LG
Global Convergence of Online Limited Memory BFGS
University of Pennsylvania（宾夕法尼亚大学）
建立了求解大规模机器学习中随机目标最优化问题的Broyden-Fletcher- Goldfarb-Shanno（BFGS）拟牛顿法的在线（随机）有限记忆版本的整体收敛.样本函数的Hessian特征值的上界足以保证曲率近似矩阵具有有界的行列式和迹线，这反过来又允许以概率1收敛到最优参数。支持向量机与合成数据的数值实验展示减少收敛时间相对于随机梯度下降算法，以及减少存储和计算相对于其他在线拟牛顿法。通过对搜索引擎广告问题的实验评估，证实了这些优点在实际应用中也得到了体现。
2014-09-06 cs.LG math.OC stat.ML
Online Optimization with Memory and Competitive Control
Tsinghua University（清华大学）
针对一类新的带记忆的在线优化问题，提出了竞争算法。我们考虑的设置，学习者寻求最小化的命中成本和切换成本，取决于以前的$p$决定的总和。此设置泛化平滑在线凸优化。所提出的方法，乐观正则化在线平衡下降，实现了恒定的，无量纲的竞争比。此外，我们展示了具有记忆的在线优化与具有对抗性干扰的在线控制之间的联系。这种联系，反过来，导致一个新的恒定竞争的政策，丰富的在线控制问题。
2021-01-08 cs.LG cs.SY eess.SY
Online Convex Optimization Against Adversaries with Memory and Application to Statistical Arbitrage
Technion（以色列理工学院）
具有记忆的在线学习的框架自然地捕获具有时间约束的学习问题，并且先前针对专家设置进行了研究。在这项工作中，我们扩展的概念，学习与记忆的一般在线凸优化（OCO）的框架，并提出了两个算法，达到低遗憾。第一个算法适用于Lipschitz连续损失函数，获得凸和强凸损失的最优遗憾界。第二个算法达到最佳遗憾界，并适用于更广泛的凸损失，而不需要Lipschitz连续性，但更复杂的实现。我们补充我们的理论结果与金融统计套利的应用：我们设计算法构建均值回复投资组合。
2014-06-10 cs.LG
Online Convex Optimization with Unbounded Memory
Cornell University（康奈尔大学）
本文提出具有无界记忆的在线凸优化框架，引入p-有效记忆容量H_p量化历史决策影响，证明策略遗憾的O(√(H_pT))上下界，并应用于在线线性控制与执行预测等问题。
2024-03-29 cs.LG math.OC stat.ML
Multitask Online Learning: Listen to the Neighborhood Buzz
Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）
本文提出去中心化多任务在线学习算法 MT-CO₂OL，利用任务相似性与网络结构交互改进遗憾界，并证明其可差分隐私且实验验证有效。
2024-04-08 cs.LG
AdaTask: Adaptive Multitask Online Learning
本文提出 AdaTask 多任务在线学习算法，通过马氏范数势自适应学习任务结构，在随机任务激活下将遗憾最多降低 √N 倍，并给出理论分析与实验验证。
2023-10-27 cs.LG
Adversarial Tracking Control via Strongly Adaptive Online Learning with Memory
Boston University（波士顿大学）
我们考虑的问题，跟踪一个敌对状态序列的线性动力系统的敌对干扰和损失函数，推广早期的设置在文献中。为此，我们开发了三种技术，每一个独立的利益。首先，我们提出了一个比较器自适应算法的移动成本的在线线性优化。如果不进行调整，事后看来，它几乎与最佳调整的梯度下降的性能相匹配。接下来，考虑到一个相关的问题，称为在线学习与记忆，我们构建了一个新的强自适应算法，使用我们的第一个贡献作为积木。最后，我们提出了第一个减少从对抗跟踪控制强自适应在线学习与记忆。总结这些单独的技术，我们得到了一个对抗跟踪控制器具有很强的性能保证，即使参考轨迹有很大的运动范围。
2022-02-22 cs.LG cs.SY eess.SY
Variance Reduced Online Gradient Descent for Kernelized Pairwise Learning with Limited Memory
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对核化在线成对学习，提出有限内存方差缩减OGD算法，利用分层样本和随机傅里叶特征降低梯度方差，实现改进的次线性遗憾，实验验证其优越性。
2023-10-10 cs.LG
Memory-Computation Tradeoffs in Semi Amortized Parametric Optimization
Johns Hopkins University（约翰·霍普金斯大学）
研究在固定在线计算预算下，半摊销参数优化中离线信息与精度的关系。通过构建非参数预测器分析，给出强凸和满足特定条件凸目标的内存上下界及证明框架，实验验证了内存-计算-精度权衡。
2026-07-24 cs.LG
Efficient Online Learning with Memory via Frank-Wolfe Optimization: Algorithms with Bounded Dynamic Regret and Applications to Control
University of Michigan（密歇根大学）
针对在线学习中投影操作的计算瓶颈，提出基于OFW和Hedge的无投影带记忆元-基学习算法，实现有界动态遗憾，并成功应用于线性时变系统的在线控制。
2023-03-31 cs.LG cs.SY eess.SY
Retrieval-Augmented Memory for Online Learning
Department of Computer Engineering, International College (MUTIC), Mahanakorn University of Technology（计算机工程系，国际学院（MUTIC），玛汉纳克恩技术大学）
RAM-OL通过结合检索增强的记忆机制，提升在线学习在概念漂移场景下的准确性和鲁棒性。
2025-12-02 cs.LG
Distributed Associative Memory via Online Convex Optimization
KCLIP, CIIPS, Department of Engineering, King’s College London, London WC2R 2LS, UK（KCLIP、CIIPS、工程系、伦敦国王学院，伦敦 WC2R 2LS，英国）；Communication Systems Department, EURECOM, 06904 Sophia Antipolis, France（通信系统部门、EURECOM、法国索菲亚抗皮斯，06904）；Intelligent Networked Systems Institute, Northeastern University London, London E1 8PH, UK（智能网络系统研究所、伦敦东北大学、伦敦 E1 8PH，英国）
针对分布式联想记忆问题，提出基于路由树通信的分布式在线梯度下降方法以协同优化各智能体本地记忆，并证明次线性遗憾且实验优于现有基线。
2025-09-26 cs.LG eess.SP
Capacity Provisioning Motivated Online Non-Convex Optimization Problem with Memory and Switching Cost
本文研究带记忆和切换代价的在线非凸优化问题，通过调节活跃服务器数量最小化作业总延迟，并针对最坏情况和随机输入分别提出竞争算法。
2024-07-01 cs.DS cs.LG
Near Optimal Memory-Regret Tradeoff for Online Learning
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
在专家问题中，在$T$的每一天，代理需要遵循$n$“专家”之一的建议。每过一天，每个专家的建议都会带来损失。学习理论的一个基本结果是，智能体可以实现后悔消失，也就是说，他们的累积损失在事后诸葛亮专家的累积损失的$o(T)$范围内。如果没有足够的空间来记住所有的专家，智能体能否表现良好？我们在两个方向上扩展了对这个问题的一个新的研究路线：$\bullet$我们给出了一个新的算法，对不经意的对手，改进了[PZ 23]获得的内存后悔权衡，几乎匹配的下限[SWXZ 22]。$\bullet$我们还考虑了一个自适应对手谁可以观察过去的专家选择的代理。在这种情况下，我们给出了一个新的算法和一个新的下限，证明了大致$\sqrt{n}$内存是必要的和足够的$o(T)$遗憾。
2023-03-09 cs.AI cs.DS cs.LG
Multitask Learning with No Regret: from Improved Confidence Bounds to Active Learning
ETH Zürich（苏黎世联邦理工学院）；Università degli Studi di Milano（米兰大学）
本文在不可知设定下提出了新颖的多任务置信区间，基于此设计了能自动适应任务相似性的无遗憾在线学习算法，并引入了多任务主动学习设置，在合成和真实数据上验证了有效性。
2023-08-03 cs.LG
Learning Massively Multitask World Models for Continuous Control
University of California San Diego（加州大学圣地亚哥分校）
Newt通过大规模预训练和在线交互，实现智能体在数百个任务上的多任务学习，提升连续控制的效率和适应性。
2025-12-02 cs.CV cs.LG cs.RO
Towards Understanding the Benefit of Multitask Representation Learning in Decision Process
Tsinghua University（清华大学）；University of Washington（华盛顿大学）
本文扩展了多任务表示学习的理论分析至未知非线性表示，提出GFUCB算法并证明其遗憾上界优于独立学习，首次在通用函数类中证明了MRL的有效性及迁移条件。
2025-03-01 cs.LG
Information-theoretic Online Memory Selection for Continual Learning
DeepMind（深度思维）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Google Brain（谷歌大脑）；Baidu Apollo（百度阿波罗）
无任务持续学习中的一个挑战性问题是从数据流中在线选择代表性重放记忆。在这项工作中，我们从信息论的角度研究了在线记忆选择问题。为了收集最多的信息，我们提出了\textit{surprise}和\textit{learnability}标准来挑选信息点并避免离群值。我们提出了一个贝叶斯模型来计算的标准，有效地利用秩一矩阵结构。我们证明，这些标准鼓励选择信息点在线记忆选择的贪心算法。此外，通过识别\textit{the timing to update the memory}的重要性，我们介绍了随机信息理论水库采样器（InfoRS），它进行高信息的选择点之间的采样。与水库采样相比，InfoRS显示出对数据不平衡的更好的鲁棒性。最后，通过对持续学习基准的实证分析，证明了该方法的有效性。
2022-04-10 cs.LG stat.ML
Labeled Memory Networks for Online Model Adaptation
IIT Bombay（印度理工学院孟买分校）
用记忆增强神经网络，而不增加训练参数的数量，是一个最近的强大概念，有许多令人兴奋的应用。我们提出了一种设计的记忆增强神经网络（MANN）称为标签记忆网络（LMNs）适合于需要在线适应分类模型的任务。LMN以类作为主键码来组织记忆，记忆作为继常规神经网络之后的第二个提升阶段，从而允许记忆和主网络发挥互补作用。与针对每个实例写入存储器并使用基于LRU的存储器替换的现有MANN不同，LMN仅针对具有非零丢失的实例写入并使用基于标签的存储器替换。我们在各种任务上表现出显着的准确性增益，包括单词建模和少样本学习。在本文中，我们建立了他们的潜力，在线适应一批训练神经网络领域相关的标记数据在部署时。我们表明，LMNs优于其他MANN设计的元学习。我们还发现，它们比最先进的重新调整模型参数的方法更准确，更快，以适应特定领域的标记数据。
2017-12-02 cs.LG stat.ML
ROIPCA: An online memory-restricted PCA algorithm based on rank-one updates
Tel-Aviv University（特拉维夫大学）
针对内存受限的流式 PCA 问题，提出基于秩一更新的 ROIPCA 与快速版 fROIPCA，并证明后者是最优学习率梯度算法，实验显示其在精度和运行时间上优于现有方法。
2023-06-07 cs.LG stat.ML
Recurrent Memory for Online Interdomain Gaussian Processes
Imperial College London（伦敦帝国学院）；Canon Inc.（佳能公司）；University of Copenhagen（哥本哈根大学）
提出 OHSVGP，将 HiPPO 时变正交投影作为跨域 GP 的循环诱导变量，实现历史记忆与核矩阵在线递推更新，并在多类任务中提升预测、记忆和效率。
2025-09-28 cs.LG stat.ML
Hedging Memory Horizons for Non-Stationary Prediction via Online Aggregation
Department of Statistics, LSE London, UK（伦敦经济学院统计系）；Électricité de France R&D Palaiseau, France（法国电力公司Palaiseau研发部）
本文提出MELO方法，通过在线聚合和指数加权最小二乘法应对分布偏移，减少预测误差并提升适应性。
2026-05-07 cs.LG stat.ML
Episodic memory for continual model learning
Computational Systems Neuroscience Lab, Wigner Research Centre for Physics（维格纳物理研究中心计算系统神经科学实验室）；Institute of Physics, Eotvos Lorand University（罗兰大学物理研究所）
在现实世界或复杂环境中运行的人脑和人工学习代理都面临着在线模型选择的挑战。原则上，这个挑战是可以克服的：分层贝叶斯推理提供了一个原则性的方法模型选择，它收敛于离线（即批处理）和在线学习相同的后验。然而，并行地维护每个模型的参数后验通常具有比存储整个数据集更高的存储器成本，因此显然是不可行的。或者，在内存中仅维护有限的一组模型可以限制内存需求。然而，一个模型的足够的统计数据通常不足以拟合不同类型的模型，这意味着代理会随着每个模型的变化而丢失信息。我们提出，情景记忆可以通过保留选定的数据点子集来规避有限的记忆容量在线模型选择的挑战。我们设计了一种方法来计算模型选择所需的数量，即使数据被丢弃，只有一个（或几个）学习模型的统计数据可用。我们证明了一个简单的模型，一个有限大小的情景记忆缓冲区，当内容被优化，以保留与当前表示不匹配的统计数据，可以解决在线模型选择的根本挑战。
2017-12-04 cs.LG stat.ML
Gradient-based Editing of Memory Examples for Online Task-free Continual Learning
University of Southern California（南加州大学）
我们探索了无任务的持续学习（CL），在这种学习中，一个模型被训练来避免在没有明确的任务边界或身份的情况下发生灾难性的遗忘。在无任务CL的许多努力中，一个值得注意的方法家族是基于记忆的，存储和重放训练示例的子集。然而，由于CL模型不断更新，因此存储的可见示例的效用可能会随着时间的推移而减少。在这里，我们提出了基于梯度的内存编辑（GMED），一个框架，用于编辑存储的例子在连续的输入空间通过梯度更新，以创建更多的“挑战性”的例子重放。GMED编辑的例子仍然类似于它们未经编辑的形式，但在即将到来的模型更新中可能会产生更多的损失，从而使未来的重放在克服灾难性遗忘方面更加有效。通过构造，GMED可以无缝地与其他基于内存的CL算法结合应用，以带来进一步的改进。实验验证了GMED的有效性，我们的最佳方法在六个数据集中的五个数据集上显著优于基线和以前的最新技术。代码可以在https://github.com/INK-USC/GMED上找到。
2021-12-07 cs.LG stat.ML
Memory-Efficient Episodic Control Reinforcement Learning with Dynamic Online k-means
Imperial College London（帝国理工学院）
最近，已经开发了神经启发的情景控制（EC）方法来克服标准深度强化学习方法的数据低效。使用非/半参数模型来估计价值函数，它们可以快速学习，从类似的过去状态中检索缓存的值。在现实场景中，由于资源有限和数据嘈杂，在记忆中保持有意义的表征对于加速学习和避免灾难性遗忘至关重要。不幸的是，EC方法具有较大的空间和时间复杂度。我们调查不同的解决方案，这些问题的优先级和排名存储状态的基础上，以及在线聚类技术。我们还提出了一种新的动态在线k-means算法，既计算效率高，又在较小的内存大小下产生更好的性能;我们在经典的强化学习环境和Atari游戏中验证了这种方法。
2019-11-21 cs.LG cs.NE stat.ML
Optimizing Class Distribution in Memory for Multi-Label Online Continual Learning
Nanjing University（南京大学）
在线持续学习，特别是当任务身份和任务边界不可用时，是一种具有挑战性的持续学习设置。在线持续学习的一种典型方法是基于重放的方法，该方法通过维护一个称为记忆的重放缓冲区来保存一小部分过去的样本，以克服灾难性遗忘。在处理在线持续学习时，大多数现有的基于回放的方法都集中在单标签问题上，其中数据流中的每个样本只有一个标签。但多标签问题也可能发生在在线持续学习设置中，其中每个样本可能有一个以上的标签。在具有多标签样本的在线设置中，数据流中的类别分布通常是高度不平衡的，并且由于改变属于一个类别的样本的数量可能影响属于其他类别的样本的数量，因此控制存储器中的类别分布是具有挑战性的。但是，存储器中的类分布对于基于重放的存储器获得良好的性能至关重要，特别是当数据流中的类分布高度不平衡时。在本文中，我们提出了一个简单而有效的方法，称为优化类分布在内存（OCDM），多标签在线持续学习。OCDM将内存更新机制表述为一个优化问题，通过求解该优化问题来更新内存。在两个广泛使用的多标签数据集上的实验表明，OCDM可以很好地控制内存中的类分布，并且性能优于其他最先进的方法。
2022-09-23 cs.LG
An Application of Online Learning to Spacecraft Memory Dump Optimization
Università degli Studi di Milano（米兰大学）；Toulouse School of Economics（图卢兹经济学院）；CLC Space GmbH（CLC航天有限公司）；Politecnico di Milano（米兰理工大学）
在本文中，我们提出了一个真实世界的应用程序的在线学习与专家的意见，空间业务领域，测试我们的理论现实生活中的数据来自哥白尼哨兵-6卫星。我们表明，在航天器内存转储优化，一个轻量级的跟随领导者算法导致性能的增加超过$60\%$相比，传统的技术。
2022-09-24 cs.LG
Online Reinforcement Learning with Passive Memory
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出利用预收集的被动记忆来改进在线强化学习，证明了其遗憾值接近极小极大最优，并表明被动记忆质量决定遗憾值的次优程度，且方法适用于连续和离散状态-动作空间。
2024-10-18 cs.AI cs.LG
Learnability in Online Kernel Selection with Memory Constraint via Data-dependent Regret Analysis
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
针对带内存约束的在线核选择问题，提出依赖核对齐和竞争假设累积损失的数据依赖上界，构建基于新型缓冲区与专家建议预测归约的算法框架，证明小内存下次线性数据复杂度下可学习，并经实验验证性能。
2025-03-24 cs.LG
Dual Memory Architectures for Fast Deep Learning of Stream Data via an Online-Incremental-Transfer Strategy
Seoul National University（首尔大学）；Naver Labs
深度神经网络的在线学习是机器学习的一个有趣问题，因为例如，主要的IT公司希望管理每天上传到网络上的海量数据的信息，而这项技术可以为下一代终身学习做出贡献。我们的目标是以最小的计算成本从新数据中训练深度模型，这些数据由新的类、分布和任务组成，我们称之为在线深度学习。不幸的是，通过经典的在线和增量方法进行的深度神经网络学习在理论和实践上都不能很好地工作。在本文中，我们介绍了在线增量式深度学习的双内存架构。所提出的架构由深度表示学习器和快速学习的浅核网络组成，两者协同跟踪新数据的信息。在训练阶段，我们使用各种在线，增量集成，和迁移学习技术，以实现较低的错误的架构。在MNIST，CIFAR-10和ImageNet图像识别任务上，所提出的双存储器架构的性能远远优于经典的在线和增量集成算法，其精度与批处理学习器相似。
2015-06-15 cs.LG
Online Learning of a Memory for Learning Rates
MPI-IS（马克斯·普朗克智能系统研究所）；University of Washington（华盛顿大学）；USC（南加利福尼亚大学）
机器人学会学习的希望在于希望通过提取一些关于学习过程本身的信息，我们可以加快后续类似的学习任务。在这里，我们介绍了一个计算效率高的在线元学习算法，建立和优化记忆模型的最佳学习率景观从以前观察到的梯度行为。在执行特定于任务的优化时，该学习率的记忆预测如何缩放当前观察到的梯度。在应用梯度缩放后，我们的元学习器根据观察到的预测效果更新其内部内存。我们的元学习器可以与任何基于梯度的优化器相结合，动态学习，并可以转移到新的优化任务。在我们的评估中，我们表明，我们的元学习算法加快学习MNIST分类和各种学习控制任务，无论是在批量或在线学习设置。
2018-03-23 cs.LG
OASIS: Online Activation Subspace Learning for Memory-Efficient Training
Purdue University（普渡大学）；Advanced Micro Devices, Inc. (AMD)（超威半导体公司（AMD））
OASIS通过在线学习动态激活子空间，减少内存消耗，无需修改前向计算，实现比全微调低2倍的峰值内存使用，同时保持性能并优于现有低秩方法。
2026-04-10 cs.LG
Integrating Episodic Memory into a Reinforcement Learning Agent using Reservoir Sampling
University of Alberta（阿尔伯塔大学）；Tsinghua University（清华大学）
情景记忆是一个心理学术语，指的是回忆过去特定事件的能力。我们认为，这种特殊类型的记忆的一个优点是，当记忆的信息被发现是有用的时，能够很容易地将信用分配给特定的状态。受这一想法的启发，以及外部存储器机制在深度学习系统中处理长期依赖关系的日益普及，我们提出了一种新的算法，该算法使用水库采样过程来维护由固定数量的过去状态组成的外部存储器。该算法允许深度强化学习代理在线学习，优先记住那些被发现是有用的回忆later on.Critical状态，这种方法允许有效的在线计算相对于外部存储器的写入过程的梯度估计。因此，与用于外部存储器的大多数现有机制不同，在在线强化学习设置中使用是可行的。
2018-06-01 cs.AI cs.LG stat.ML
Continual Competitive Memory: A Neural System for Online Task-Free Lifelong Learning
Rochester Institute of Technology（罗切斯特理工学院）
在这篇文章中，我们提出了一种新的无监督学习形式，连续竞争记忆（CCM），以及一个计算框架，以统一相关的神经模型下的竞争原则。所得到的神经系统提供了一个有效的方法，打击灾难性遗忘在线连续分类问题。我们证明了所提出的CCM系统不仅优于其他竞争性学习神经模型，而且在Split MNIST和Split NotMNIST等基准上与几种现代最先进的终身学习方法相比具有竞争力。CCM为获取对数据流干扰具有鲁棒性的表示提供了一条有希望的前进道路，特别是当任务对模型未知并且必须在没有外部指导的情况下推断时。
2021-06-24 cs.LG
Online Continual Learning via Multiple Deep Metric Learning and Uncertainty-guided Episodic Memory Replay -- 3rd Place Solution for ICCV 2021 Workshop SSLAD Track 3A Continual Object Classification
Xi’an Jiaotong University（西安交通大学）
在线持续学习是机器学习中一项非常困难的任务。在线持续学习的非平稳性可能会导致神经网络的灾难性遗忘。具体而言，使用SODA 10 M数据集进行自动驾驶的在线持续学习在具有连续分布偏移的极长尾分布上表现出额外的问题。为了解决这些问题，我们提出了多个深度度量表示学习，通过对比和监督对比学习以及软标签蒸馏来提高模型的泛化能力。此外，我们利用修改后的类平衡的焦点损失敏感的惩罚类不平衡和硬容易的样本。我们还存储一些样本的指导下的不确定性度量排练和执行在线和定期的内存更新。我们提出的方法取得了相当大的推广，平均平均类准确率（AMCA）64.01%的验证和64.53%的AMCA测试集。
2021-11-04 cs.CV cs.LG
Online Vector Quantized Attention
Zyphra
本文提出OVQ注意机制，通过稀疏内存更新提升长上下文处理能力，在保持线性计算和常数内存的同时，显著优于线性注意和SSM。
2026-05-14 cs.LG
Ferret: An Efficient Online Continual Learning Framework under Varying Memory Constraints
Sichuan University（四川大学）；National University of Singapore（新加坡国立大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Huazhong University of Science and Technology（华中科技大学）
本文提出 Ferret 框架，通过细粒度流水线并行、迭代梯度补偿及自动化模型划分，在变化内存预算下提升 OCL 的实时准确率与效率。
2025-03-15 cs.AI cs.LG
Working Memory for Online Memory Binding Tasks: A Hybrid Model
School of Mathematics, Institute for Research in Fundamental Sciences (IPM)（基础科学研究所数学学院（IPM））
工作记忆是大脑中保存和处理在线信息的模块。在这项工作中，我们设计了一个混合模型，其中一个简单的前馈网络耦合到一个平衡的随机网络通过一个读写向量称为接口向量。三种情况下，他们的结果进行了讨论类似的n-back任务，一阶记忆绑定任务，广义一阶记忆任务，二阶记忆绑定任务。重要的结果是，我们的工作记忆的双组件模型表现出良好的性能与学习仅限于前馈组件。在这里，我们利用了随机网络的特性，而无需学习。最后，一个更复杂的内存绑定任务称为，一个基于线索的内存绑定任务，其中的线索是作为输入表示的绑定关系，提示网络选择有用的内存块。据我们所知，这是第一次随机网络作为一个灵活的记忆被证明在在线绑定任务中发挥重要作用。我们可以将我们的结果解释为工作记忆的候选模型，其中前馈网络学习与临时存储随机网络交互，作为注意力控制执行系统。
2020-12-12 cs.AI cs.LG cs.NE
Temporal Memory-Aware Online Test-Time Adaptation on Dynamic Graphs
Griffith University（格里菲斯大学）；RMIT University（皇家墨尔本理工大学）
本文针对动态图测试时自适应的研究空白，提出DGOTTA框架，通过三个模块提升DGNN在分布偏移下的泛化性能，经多数据集实验验证有效。
2026-09-09 cs.LG
Online Learning via Memory: Retrieval-Augmented Detector Adaptation
Microsoft Corp（微软公司）
本研究提出一种无需训练的检索增强在线学习方法，通过记忆库与RAC模块让现成目标检测器快速适配新域，仅需每类10张图像的记忆库即可显著优于基线。
2024-09-16 cs.CV cs.IR cs.LG
Efficiently Learning Branching Networks for Multitask Algorithmic Reasoning
研究旨在实现多任务算法推理，提出分支神经网络架构，通过递归树状划分任务，利用基于梯度的亲和度聚类，降低搜索复杂度。经实验验证，在多个基准测试中性能优于现有方法，减少运行时和内存使用，还可用于重叠社区检测。
2026-07-15 cs.AI cs.DS cs.LG
Live-Evo: Online Evolution of Agentic Memory from Continuous Feedback
Oregon State University（俄勒冈州立大学）；AG2 AI（AG2人工智能）；Penn State University（宾夕法尼亚州立大学）
Live-Evo通过在线进化记忆系统，在连续反馈中提升任务性能和市场收益。
2026-02-02 cs.AI cs.LG
Online Neural Space Time Memory for Dynamic Novel View Synthesis
University of Washington（华盛顿大学）；Google（谷歌）
研究多视图流视频在线新视角合成问题，提出解耦记忆更新与应用频率的方法，通过跨视图注意力管理变形，引入辅助记忆损失和记忆缓存策略，实现实时、领先性能及微小尺度在线记忆。
2026-10-07 cs.CV cs.GR cs.LG
Online Continual Learning under Extreme Memory Constraints
University of Trento（特伦托大学）；SAP AI Research（SAP人工智能研究院）；LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信LTCI实验室）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
持续学习（CL）旨在开发能够模仿人类顺序学习新任务的能力的智能体，同时能够保留从过去经验中获得的知识。在本文中，我们介绍了新的问题的内存约束在线持续学习（MC-OCL），它对内存开销施加了严格的限制，一个可能的算法可以用来避免灾难性遗忘。由于大多数（如果不是全部）以前的CL方法违反了这些约束，我们提出了MC-OCL的算法解决方案：批量级蒸馏（BLD），这是一种基于正则化的CL方法，它有效地平衡了稳定性和可塑性，以便从数据流中学习，同时保留了通过蒸馏解决旧任务的能力。我们广泛的实验评估，进行了三个公开的基准，经验表明，我们的方法成功地解决了MC-OCL问题，并实现了相当的准确性，需要更高的内存开销之前的蒸馏方法。
2022-01-12 cs.CV cs.LG
Escaping Stability-Plasticity Dilemma in Online Continual Learning for Motion Forecasting via Synergetic Memory Rehearsal
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）；Beijing Institute of Technology（北京理工大学）；Zhengzhou Research Institute, Beijing Institute of Technology（北京理工大学郑州研究所）；School of Mechanical and Aerospace Engineering, Nanyang Technological University（南洋理工大学机械与航空航天工程学院）；Key Laboratory of Road and Traffic Engineering, Ministry of Education, Tongji University（同济大学交通工程重点实验室）；Zhengzhou Nissan Automobile Co., Ltd.（郑州日产汽车有限公司）
针对运动预测在线持续学习中的稳定性-可塑性困境，本文提出协同记忆复述方法SyReM，通过不等式约束保证记忆稳定性，并基于损失梯度余弦相似度选择相似样本复述以增强可塑性，在INTERACTION的11个数据集上显著减轻灾难性遗忘并提升新场景预测精度。
2025-08-27 cs.LG
From Offline to Online Memory-Free and Task-Free Continual Learning via Fine-Grained Hypergradients
The University of Tokyo（东京大学）；Japanese French Laboratory for Informatics, CNRS（日法信息实验室，CNRS）；Massachusetts Institute of Technology（麻省理工学院）
针对在线持续学习中无任务、无记忆方法难以适配的问题，本文用轻量级原型结合细粒度超梯度重加权缓解梯度不平衡，显著提升性能并超过在线基线。
2025-06-07 cs.AI cs.LG
Online Limited Memory Neural-Linear Bandits with Likelihood Matching
Technion Institute of Technology（以色列理工学院）；DeepMind（深度思维）；Nvidia Research（英伟达研究院）
我们研究神经线性强盗解决问题，{\em两者}探索和表示学习发挥了重要作用。神经线性强盗利用深度神经网络（DNN）的表示能力，并通过利用模型的不确定性估计将其与高效的探索机制相结合，该模型专为最后一个隐藏层上的线性上下文强盗而设计。为了减轻在处理期间表示变化的问题，使用来自无限缓冲器的存储数据来计算新的不确定性估计。然而，当存储的数据量有限时，就会出现一种称为灾难性遗忘的现象。为了缓解这一点，我们提出了一个似然匹配算法，是弹性的灾难性遗忘，是完全在线的。我们应用我们的算法，有限记忆神经线性与Likestival匹配（NeuralLinear-LiM2）在各种数据集上，并观察到我们的算法实现了与无限记忆方法相当的性能，同时表现出对灾难性遗忘的弹性。
2021-06-08 cs.AI cs.LG
Compressed Context Memory For Online Language Model Interaction
Seoul National University（首尔大学）；NAVER AI Lab（NAVER人工智能实验室）
本文提出一种压缩上下文记忆系统，通过轻量级条件LoRA在推理时持续压缩注意力键/值对，以5倍更小的记忆大小达到全上下文模型性能，并适用于无限长度的流式场景。
2024-02-06 cs.CL cs.LG
Robustified Learning for Online Optimization with Memory Costs
UC Riverside（加州大学河滨分校）
针对带记忆成本的在线优化中传统算法平均性能差、ML优化器鲁棒性不足的问题，提出专家鲁棒化学习方法，结合专家算法投影鲁棒化与循环架构ML训练，兼具性能与鲁棒性，并通过能源调度实验验证。
2023-05-01 cs.DS cs.LG
Recurrent Autoregressive Networks for Online Multi-Object Tracking
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）
在线多目标跟踪的主要挑战是基于其跟踪历史将对象轨迹与每个视频帧中的检测可靠地关联。在这项工作中，我们提出了递归自回归网络（RAN），一个时间生成建模框架来表征多个对象随时间的外观和运动动态。RAN耦合外部存储器和内部存储器。外部存储器明确地存储时间窗口中每个轨迹的先前输入，而内部存储器通过处理外部存储器来学习总结长期跟踪历史并关联检测。我们在MOT 2015和2016数据集上进行了实验，以证明我们的跟踪方法在高度拥挤和遮挡场景中的鲁棒性。我们的方法在两个基准测试中取得了最好的结果。
2018-03-04 cs.AI cs.CV cs.LG
Incremental Concept Learning via Online Generative Memory Recall
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
随着时间的推移，从逐渐到达的数据中学习越来越多的概念的能力对于终身学习系统的开发至关重要。然而，深度神经网络在不断学习新概念时，经常会忘记先前学习的概念，这被称为灾难性遗忘问题。灾难性遗忘的主要原因是过去的概念数据不可用，神经网络的权重在增量学习新概念的过程中发生了变化。在本文中，我们提出了一个伪排练类增量学习方法，使神经网络能够不断学习新的概念。我们使用一个条件生成对抗网络来巩固旧概念的记忆，并在学习新概念的过程中回忆伪样本，一个平衡的在线记忆回忆策略是最大限度地保持旧记忆。设计了一个可理解的增量式概念学习网络和概念对比损失来减轻神经网络权值变化的幅度。我们评估所提出的方法MNIST，时尚MNIST和SVHN数据集，并与其他排练为基础的方法进行比较。大量的实验证明了我们的方法的有效性。
2019-07-05 cs.CV cs.LG
TERN: A Delta-rule Memory with a Seasonal Reference and Online Adaptation for Epidemic Forecasting
Neurogica Inc.（Neurogica公司）；LTS, Inc.（LTS公司）
TERN提出一种带季节参考和在线自适应的增量规则记忆预测器，在流感基准上超越现有模型，验证了记忆机制的有效性。
2026-09-25 cs.AI cs.LG
Online Adaptation of Language Models with a Memory of Amortized Contexts
KAIST（韩国科学技术院）；Yonsei University（延世大学）；Stanford University（斯坦福大学）；University of Oxford（牛津大学）；Harvard University（哈佛大学）；Thomson Reuters（汤森路透）
本文提出MAC框架，利用摊销元学习和记忆库实现语言模型在线高效自适应，无需梯度更新，提升性能与效率，并可与RAG结合。
2024-11-04 cs.CL cs.LG
