学习的热力学理论 第二部分：关键期闭合与持续学习失败
A Thermodynamic Theory of Learning Part II: History-Dependent Reachability and Continual Learning
AI总结：
本研究提出学习的热力学理论，揭示了连续学习中由于动态不可逆性导致的重新配置能力损耗，从而建立轨迹层面的容量限制。
摘要：
在有限时间内进行的学习本质上是不可逆的。在本系列的第一部分中，我们将学习建模为参数分布空间中的传输过程，并推导出知识速度限制（ESL），该限制在有限时间动态下对熵产生进行下界约束。在本工作中（第二部分），我们展示了不可逆性通过学习动态的组合结构对未来的适应性施加几何限制。连续的学习阶段以乘积的方式作为传输映射组成，其雅可比矩阵形成一个半群，其秩和奇异值是子乘性的。结果，动态可用的重新配置度只能在组合过程中减少。我们以兼容的有效秩来形式化模型的剩余适应性，定义为任务保持方向的对数体积，这些方向仍然动态可访问。尽管任务性能可能保持不变，但有限时间学习可以逐步减少这种重新配置能力。我们证明了一个连续学习的容量阈值标准：设m_B表示新任务B的海森矩阵在先前学习任务A的任务保持流形上的稳定秩。如果m_B超过残余兼容有效秩，则任务B与任务A在轨迹层面不兼容；任何充分的适应必然导致遗忘。因此，灾难性遗忘并非源于多任务解决方案的缺失，而是源于在组合学习动态下不可逆地损失重新配置能力。这建立了连续学习的轨迹层面容量限制。
英文摘要：
We formulate plasticity as target-dependent, finite-horizon reachability under history-dependent dynamics, using standard minimum-energy control theory. An extended state includes parameters and internal variables that affect future updates. Around a reference trajectory, the input-to-endpoint response and its controllability Gramian determine the minimum input energy for each reachable displacement. Minimizing this energy over the joint task target defines a task-conditioned adaptation cost, exact for the arbitrary-input linear model. A solvable learning-retention example shows that this cost can increase without any rank loss, and distinguishes small directional gain from an inaccessible direction. Wasserstein transport supplies a complementary global lower bound, while learning-map Jacobians describe deformation of initial perturbations rather than response to future inputs. The resulting learning-retention frontier depends on the current extended state, admissible updates, target, horizon, and cost metric; nonlinear and constrained-update applications require additional control of these modeling choices.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
