一种能够持续学习的网络提案
A Proposal for Networks Capable of Continual Learning
AI总结：
针对神经网络无法持续学习的问题，提出Modelleyen方法，通过固有响应保留实现持续学习，实验验证其有效性。
摘要：
我们分析了计算单元在参数更新后保留过去响应的能力，这是系统级持续学习的一个关键属性。使用梯度下降训练的神经网络缺乏这种能力，促使我们提出Modelleyen，一种具有固有响应保留的替代方法。我们通过对简单环境动力学建模和MNIST的实验证明，尽管计算复杂度增加且当前阶段存在一些表示限制，Modelleyen在不依赖样本回放或预定义任务边界的情况下实现了持续学习。
英文摘要：
We analyze the ability of computational units to retain past responses after parameter updates, a key property for system-wide continual learning. Neural networks trained with gradient descent lack this capability, prompting us to propose Modelleyen, an alternative approach with inherent response preservation. We demonstrate through experiments on modeling the dynamics of a simple environment and on MNIST that, despite increased computational complexity and some representational limitations at its current stage, Modelleyen achieves continual learning without relying on sample replay or predefined task boundaries.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
