Automatic-differentiated Physics-Informed Echo State Network (API-ESN)
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）；Imperial College London（帝国理工学院）；Technical University of Munich（慕尼黑工业大学）
我们提出了自动区分物理信息回声状态网络（API-ESN）。该网络通过水库的精确时间导数由物理方程约束，该时间导数由自动微分计算。与原始的物理信息回声状态网络相比，时间导数的准确性提高了7个数量级。这种提高的精度是混沌动力系统的关键，其中误差随时间呈指数增长。该网络在混沌系统的不可测（隐藏）状态的重建中得到了展示。API-ESN消除了在时间导数的计算中存在于现有的物理通知回声状态网络中的误差源。这为精确重建混沌动力学状态开辟了新的可能性。
2021-03-24 cs.LG nlin.CD
Using Echo-State Networks to Reproduce Rare Events in Chaotic Systems
University of Houston（德克萨斯大学休斯顿分校）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
本文应用回声状态网络预测混沌Lotka-Volterra模型的时间序列和统计特性，成功再现混沌吸引子及稀有事件，并用广义极值分布量化尾部行为。
2026-10-06 cs.AI cs.LG math.DS
Physics-Informed Echo State Networks for Chaotic Systems Forecasting
Technical University of Munich（慕尼黑工业大学）；Institute for Advanced Study, Technical University of Munich（慕尼黑工业大学高等研究院）；University of Cambridge（剑桥大学）
提出了一种基于物理信息的回声状态网络（ESN）来预测混沌系统的演化。与传统的ESN相比，基于物理的ESN被训练来解决监督学习任务，同时确保它们的预测不违反物理定律。这是通过在ESN的训练期间引入额外的损失函数来实现的，该损失函数在不需要任何额外训练数据的情况下惩罚非物理预测。这种方法被证明在一个混沌洛伦兹系统，其中的物理信息ESN提高了约两个李雅普诺夫时间相比，传统的ESN的可预测性地平线。所提出的框架显示了使用机器学习结合先验物理知识来提高混沌动力系统的时间精确预测的潜力。
2019-04-09 cs.ET cs.LG cs.NE
Adaptive Anomaly Detection in Chaotic Time Series with a Spatially Aware Echo State Network
Artificial Intelligence Center（人工智能中心）；Czech Technical University（捷克技术大学）；Niels Bohr Institute（尼尔斯·玻尔研究所）；University of Copenhagen（哥本哈根大学）
这项工作建立了一个自动异常检测方法的混沌时间序列，更具体地说，湍流，高维，海洋模拟。我们通过空间感知输入映射（如卷积、梯度、余弦变换等）以及空间感知损失函数扩展回声状态网络来解决此任务。空间ESN用于创建预测，其将检测问题减少到预测误差的阈值化。我们基准我们的检测框架上的不同任务的难度越来越大，以显示框架的一般性，然后将其应用到原始的气候模型输出在该地区的日本洋流黑潮，表现出双峰，不容易被肉眼检测到。该代码作为开源Python包Torsk提供，可在https：//github.com/nmheim/torsk上获得，在那里我们还提供了补充材料和程序，重现了本文中显示的结果。
2019-09-02 cs.LG cs.NE stat.ML
Attractor learning for spatiotemporally chaotic dynamical systems using echo state networks with transfer learning
Dept. of Natural and Behavioral Sciences, Sul Ross State University（自然与行为科学系，索尔罗斯州立大学）；Dept. of Mathematics, University of Houston（数学系，休斯顿大学）
本文提出利用回声状态网络与迁移学习预测时空混沌偏微分方程的长期统计特性，提升预测准确性时间长度。
2025-12-21 cs.AI cs.LG math.DS
Efficient Cross-Validation of Echo State Networks
Kaunas University of Technology（考纳斯理工大学）
回声状态网络（ESN）以其对时间序列的快速和精确的一次性学习而闻名。但它们通常需要良好的超参数调优以获得最佳性能。为此，良好的验证是关键，但通常使用单个验证分割。在这个相当实际的贡献，我们提出了几个方案，交叉验证ESN和介绍一个有效的算法来实现它们。在我们提出的进行$k$ -折叠交叉验证的方法中，主导已经相当快的ESN训练的时间复杂度的组件保持不变（不随$k$扩展）。与$k$成线性比例的组件仅在某些不太常见的情况下才开始占主导地位。因此，在许多情况下，ESN的$k$折叠交叉验证可以以与简单的单个分割验证几乎相同的时间复杂度完成。空间复杂度也可以保持不变。我们还讨论了ESN的拟议验证方案何时可能是有益的，并在几个不同的真实数据集上进行了实证研究。
2019-08-22 cs.LG stat.ML
Physics-Informed Echo State Networks
Technical University of Munich（慕尼黑工业大学）；University of Cambridge（剑桥大学）
提出了一种基于物理信息的回声状态网络（ESN）来预测混沌系统的演化。与传统的ESN相比，物理信息ESN被训练来解决监督学习任务，同时确保它们的预测不违反物理定律。这是通过在训练过程中引入一个额外的损失函数来实现的，该函数基于系统的控制方程。附加的损失函数惩罚非物理预测，而不需要任何附加的训练数据。这种方法被证明对混沌Lorenz系统和截断的Charney-DeVore系统。与传统的ESN相比，物理信息ESN提高了约两个李雅普诺夫时间的可预测性地平线。这种方法也被证明是强大的噪声方面。该框架显示了利用机器学习结合先验物理知识来提高混沌动力系统的时间精确预测的潜力。
2020-10-31 cs.LG nlin.CD
Gradient-free optimization of chaotic acoustics with reservoir computing
University of Cambridge（剑桥大学）；Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）；TU Munich（慕尼黑工业大学）
我们开发了一个通用的优化方法，找到的设计参数，最小化时间平均声学成本泛函。该方法是无梯度的，模型通知的，数据驱动的，基于回声状态网络的水库计算。首先，我们分析了回声状态网络在动态的短期和长期预测中的预测能力。我们发现，完全数据驱动和模型通知架构都可以学习混沌声学动力学，无论是时间准确性还是统计学。用具有一种声学模式的物理降阶模型来通知训练显著地提高了回声状态网络的准确性和鲁棒性，同时保持低计算成本。回声状态网络提供了对长时间动态的准确预测，否则通过集成控制方程来评估要优化的时间平均量将是昂贵的。其次，我们耦合回声状态网络与贝叶斯技术，探索设计热声参数空间。计算方法是最低限度的侵入。第三，我们找到了一组火焰参数，使混沌振荡的时间平均声能最小化，这是由正反馈与热源，如火焰在燃气轮机或火箭发动机。这些振荡被称为热声振荡。火焰参数的最佳设置被发现具有与蛮力网格搜索相同的精度，但是具有快一个数量级以上的收敛速度。这项工作开辟了新的可能性，非侵入式（“放手”）优化混沌系统，其中生成数据的成本，例如从高保真模拟和实验，是很高的。
2022-02-02 cs.LG nlin.CD physics.flu-dyn
Neural Echo State Network using oscillations of gas bubbles in water
Swinburne University of Technology（斯威本科技大学）
在物理储层计算（RC）的框架中，使用类似模拟计算机的非线性物理系统来执行为数字计算机设计的机器学习算法，所述非线性物理系统可以提供用于预测可以使用非线性微分方程找到的时间相关量的能量高效的计算能力。我们提出了一个基于气泡的RC（BRC）系统，该系统结合了水中振荡气泡簇的声学响应的非线性与标准回声状态网络（ESN）算法，该算法非常适合于预测混沌时间序列。我们确认的BRC系统的可扩展性，通过数值模拟证明其预测某些混沌时间序列的能力类似于或甚至更准确地比ESN。
2022-03-16 cs.ET cs.LG cs.NE
Using Connectome Features to Constrain Echo State Networks
The University of Western Ontario（西安大略大学）
我们报告了一个改进传统的回声状态网络（ESN）在三个基准混沌时间序列预测任务，单独使用果蝇连接体数据。我们还研究了关键连接体衍生的结构特征对预测性能的影响-独特地桥接神经生物学结构和机器学习功能;并发现增加全局平均聚类系数和修改权重的位置-通过排列它们的突触-突触伙伴-可以导致模型方差增加和（在某些情况下）性能下降。在所有我们认为四个拓扑点修改的connectome-derived ESN水库（空模型）：即，我们改变网络的稀疏性，重新绘制非零权重从一个均匀的分布，置换非零权重的位置，并增加网络的全球平均聚类系数。我们通过对Mackey-Glass 17（MG-17），Lorenz和Rossler混沌时间序列的大小变体进行时间序列预测实验，将四个ESN模型类和空模型与传统的ESN进行比较;表示每个模型的性能和训练验证试验的方差。
2023-02-10 cs.LG cs.NE
Control-aware echo state networks (Ca-ESN) for the suppression of extreme events
Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出控制感知回声状态网络（Ca-ESN），将回声状态网络与PID及模型预测控制结合以抑制极端事件，并在混沌湍流中使极端事件发生率降低两个数量级。
2023-08-06 cs.LG nlin.CD physics.flu-dyn
Imposing Connectome-Derived Topology on an Echo State Network
The University of Western Ontario（西安大略大学）
connectome-derived约束可以通知计算吗？在本文中，我们研究了果蝇连接体的拓扑结构对回声状态网络（ESN）性能的贡献-储备池计算的一个子集，这是混沌时间序列预测的最新技术。具体来说，我们取代水库层的经典ESN-通常是一个固定的，随机图表示为一个2-D矩阵-与一个特定的（女性）果蝇connectome-derived连接矩阵。我们将这类实验模型（具有连接体衍生的储库）称为"果蝇ESN"（FFESN）。我们训练和验证的FFESN的混沌时间序列预测任务，在这里，我们考虑四组试验不同的训练输入大小（小，大）和训练验证分裂（两个变种）。我们将所有最佳FFESN模型的验证性能（均方误差）与一类控制模型ESN（简称为“ESN”）进行比较。总的来说，对于所有四组试验，我们发现FFESN要么显著优于ESN（并且具有更低的方差）;要么只是具有比ESN更低的方差。
2022-01-23 cs.LG cs.NE
Echo State Networks for Bitcoin Time Series Prediction
DFKI, Saarland Informatics Campus, Germany（德国达姆施塔特研究所，萨尔兰信息技术校园）；Politecnico di Milano, Italy（意大利米兰理工学院）；University of Stirling, UK（英国斯特林大学）；National Institute of Informatics, Japan（日本信息学研究院）
本研究首次将回声状态网络应用于比特币价格预测，在极端波动下通过李雅普诺夫指数分析验证其鲁棒性，并显著优于现有机器学习方法。
2025-08-07 cs.CE cs.LG cs.NE
Learning ergodic averages in chaotic systems
University of Cambridge（剑桥大学）；Technical University of Munich（慕尼黑工业大学）
我们提出了一种物理信息的机器学习方法来预测混沌吸引子的时间平均值。该方法是基于混合回声状态网络（hESN）。我们假设系统是遍历的，所以时间平均等于遍历平均。与传统的回声状态网络（ESN）（纯数据驱动）相比，hESN使用来自不完整或不完美的物理模型的额外信息。我们评估的hESN的性能，并比较它的ESN。这种方法被证明在一个混沌的时间延迟的热声系统，其中包括一个物理模型显着提高了预测的准确性，减少相对误差从48%到7%。这种改进是在求解两个常微分方程的低额外成本下获得的。该框架显示了使用机器学习技术结合先验物理知识来改善混沌系统中时间平均量的预测的潜力。
2020-04-07 cs.LG cs.NE physics.comp-ph
Efficient implementations of echo state network cross-validation
Kaunas University of Technology（考纳斯理工大学）
背景/简介：交叉验证（CV）在时间序列建模中仍然不常见。回声状态网络（ESN）作为储备池计算（RC）模型的主要示例，以其快速和精确的一次性学习而闻名，其通常受益于良好的超参数调整。这使它们成为改变现状的理想选择。研究方法：我们讨论CV的时间序列预测一个具体的时间间隔的兴趣，提出了几个方案的交叉验证ESN和介绍一个有效的算法来实现它们。该算法被提出作为两个层次的优化做$k$倍CV。训练RC模型通常由两个阶段组成：（i）用数据运行储层和（ii）计算最佳读数。我们的第一级优化解决了计算成本最高的部分（i），并使其保持不变，而不管$k$。它显著减少了任何类型RC系统中的水库计算，并且如果$k$较小，就足够了。第二级优化还使得（ii）部分保持恒定，而不管大的$k$，只要输出的维数低。我们讨论了ESN的拟议验证方案何时可能是有益的，用于生成最终模型的三种选择，并在六个不同的真实世界数据集上对其进行实证研究，以及进行实证计算时间实验。我们在一个在线存储库中提供代码。结果：提出的CV方案在所有六种不同的真实世界数据集，三种任务类型中提供了更好和更稳定的测试性能。经验运行时间证实了我们的复杂性分析。结论：在大多数情况下，ESN和许多其他RC模型的$k$倍CV几乎可以与简单的单分裂验证在相同的时间和空间复杂度上完成。这使简历成为驻地协调员的标准做法。
2020-12-03 cs.LG cs.NE stat.ML
Deterministic Reservoir Computing for Chaotic Time Series Prediction
Technische Universität Ilmenau（伊尔梅瑙工业大学）；Friedrich Schiller University（弗里德里希·席勒大学）
本研究针对传统储备池计算随机初始化带来的理论分析难题，基于下一代储备池计算与时间卷积衍生储备池计算，提出采用确定性映射与Lobachevsky激活的全确定性储备池方案，在混沌与非混沌时间序列预测上均显著优于现有方法。
2025-03-20 cs.LG
Delay Embedded Echo-State Network: A Predictor for Partially Observed Systems
The Ohio State University（俄亥俄州立大学）
本文提出一种结合回声状态网络与时延嵌入的预测器，解决部分可观测系统的数据驱动预测难题，并基于Takens嵌入定理给出理论证明，在合成及真实数据上验证了有效性。
2023-04-05 cs.LG cs.SY eess.SY
Temporal Convolution Derived Multi-Layered Reservoir Computing
Technische Universität Ilmenau（伊尔梅瑙工业大学）；Friedrich Schiller University（弗里德里希·席勒大学）
本文提出时间卷积衍生的新型储备池输入映射及两种多层架构，以降低随机性并提升并行与预测能力，在 Mackey-Glass 和 SantaFe Laser 上显著优于 ESN、AE-ESN 与 GRU。
2024-11-03 cs.LG nlin.CD
Scaling up Echo-State Networks with multiple light scattering
Laboratoire Kastler Brossel（卡斯特勒布罗塞尔实验室）；CNRS（法国国家科学研究中心）；PSL Research University（巴黎文理研究大学）；Laboratoire de Physique Statistique（统计物理实验室）；LightOn（LightOn公司）
回声状态网络和储备池计算已经研究了十多年。它们为递归神经网络提供了一种更简单但功能强大的替代方案，每个内部权重都是固定的，只有最后一个线性层被训练。它们涉及到稠密随机矩阵的许多乘法。很难获得非常大的网络，因为复杂性在时间和内存上都是二次方的。在这里，我们提出了一种新的光学实现回声状态网络使用光散射介质和数字微镜设备。作为概念证明，二进制网络已成功训练用于预测混沌Mackey-Glass时间序列。这种新方法速度快，功耗低，易于扩展到非常大的网络。
2018-02-13 cs.ET cs.LG physics.optics
Sequential Learning from Noisy Data: Data-Assimilation Meets Echo-State Network
The Ohio State University（俄亥俄州立大学）
本文针对噪声数据训练循环神经网络的挑战，提出利用集合卡尔曼滤波器融合噪声观测，为回声状态网络（ESN）开发序列训练算法，所得KalT-ESN在保持低计算成本的同时，性能优于传统最小二乘法训练的ESN。
2023-04-01 cs.LG cs.SY eess.SY
Training Echo State Networks with Regularization through Dimensionality Reduction
University of Tromsø - The Arctic University of Norway（特罗姆瑟大学-挪威北极大学）
在本文中，我们介绍了一个新的框架训练回声状态网络预测实值时间序列。该方法包括在训练输出层学习目标任务之前，将网络内部层的输出投影到具有较低维度的空间上。值得注意的是，我们强制执行正则化约束，从而获得更好的泛化能力。我们评估我们的方法在几个基准测试的性能，使用不同的技术训练读出的网络，实现卓越的预测性能时，使用所提出的框架。最后，我们提供了一个洞察力的有效性，通过可视化的相空间中的轨迹，并依赖于非线性时间序列分析的方法。通过将我们的方法应用于众所周知的混沌系统，我们提供的证据表明，低维嵌入保留了底层系统的动力学特性比全维内部状态的网络。
2016-08-16 cs.LG cs.NE
Rethinking Reservoir Pruning: A Dynamical Perspective for Echo State Networks
Sungkyunkwan University（成均馆大学）
该研究针对回声状态网络储备池过参数化问题，提出动力学模式剪枝方法，通过轨迹平均雅可比格拉姆矩阵排序神经元，实验显示其可提升或保持预测精度并减少冗余组件。
2026-08-06 cs.AI cs.LG math.DS
Inferring stability properties of chaotic systems on autoencoders' latent spaces
Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）
本文研究CAE-ESN模型能否在自编码器潜在空间中推断混沌系统的稳定性，证明其可通过Lyapunov指数和协变Lyapunov向量恢复不变稳定性性质与切空间几何，为高维混沌系统稳定性推断提供新途径。
2024-10-23 cs.LG nlin.CD
Feature-Based Echo-State Networks: A Step Towards Interpretability and Minimalism in Reservoir Computer
The Ohio State University（俄亥俄州立大学）
本文提出基于特征的ESN（Feat-ESN），用多个小并行储备池分别处理不同输入特征并非线性融合，在减少节点数的同时提升预测性能与可解释性，并在混沌系统和交通数据上验证其优势。
2024-03-28 cs.LG cs.SY eess.SY
Empirical Investigation into Configuring Echo State Networks for Representative Benchmark Problem Domains
The University of Toledo（托莱多大学）
本文通过四个基准问题实证考察了Echo State Network的性能，提出了配置架构与参数选择的启发式经验法则，以填补初学者经验空白并指导成功构建。
2025-08-14 cs.AI cs.LG cs.NE
Adjoint Sensitivities of Chaotic Flows without Adjoint Solvers: A Data-Driven Approach
Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）；Politecnico di Torino（都灵理工大学）
提出一种数据驱动的伴随敏感性分析方法，利用参数感知回声状态网络及其伴随形式计算混沌流长时间平均梯度，无需代码特定伴随求解器，并在典型混沌系统上验证了其准确性。
2024-04-18 cs.LG nlin.CD
Data-driven prediction and control of extreme events in a chaotic flow
University of Cambridge（剑桥大学）；Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）；TU Munich（慕尼黑工业大学）
极端事件是非线性系统状态的突然和剧烈变化。在流体动力学中，极端事件会对系统的优化设计和可操作性产生不利影响，这就需要对其进行准确的预测和控制。在本文中，我们提出了一个数据驱动的方法来预测和控制极端事件的混沌剪切流。该方法是基于回声状态网络，这是一种类型的水库计算，学习时间相关的数据集内的时间相关性。目标有五个方面。首先，我们利用二进制分类的ad-hoc度量来分析（i）网络预测的极端事件中有多少实际发生在测试集中（精度），以及（ii）网络错过了多少极端事件（召回）。我们应用一个原则性的策略来选择最优的超参数，这是网络性能的关键。其次，我们关注极端事件的时间精确预测。我们表明，回声状态网络能够预测极端事件远远超出可预测时间，即，超过5个李雅普诺夫时间。第三，我们从统计学的角度关注极端事件的长期预测。通过使用包含非收敛统计数据的数据集训练网络，我们表明网络能够学习和推断流量的长期统计数据。换句话说，网络能够从相对较短的时间序列中推断出时间。第四，我们设计了一个简单有效的控制策略，以防止极端事件发生。该控制策略将极端事件的发生率降低了一个数量级，相对于不受控制的系统。最后，我们分析了一系列雷诺数的结果的鲁棒性。我们表明，网络在广泛的制度表现良好。
2022-04-25 cs.LG nlin.CD physics.flu-dyn
Adaptive Reservoir Computing for Multi-Scenario Chaotic System Forecasting
Politecnico di Torino（托里尼理工大学）
提出一种自适应储层计算框架，通过四种定制策略（精确状态同步、直方图引导候选选择、多种子搜索、顺序多序列训练）在CTF-4-Science Lorenz基准的12个任务中取得74.91分，证明其高效竞争力。
2026-05-27 cs.AI cs.LG
A Predictive On-Demand Placement of UAV Base Stations Using Echo State Network
National Chiao Tung University（国立交通大学）；University of Houston（休斯顿大学）
无人机基站（UAV-BS）在许多动态应用场景中具有广泛的应用潜力。在这些场景中，所服务的用户设备（UE）的移动是不可避免的，因此需要动态地重新定位UAV-BS以提供无缝服务。在本文中，我们提出了一个系统框架，包括UE聚类，UAV-BS放置，UE轨迹预测，和UAV-BS重新定位匹配方案，无缝服务的UE，以及最小化的能量成本UAV-BS的重新定位轨迹。分别设计了基于回声状态网络（ESN）的UE未来轨迹预测算法和基于Kuhn-Munkres的UAV-BS能量有效重定位轨迹算法。我们使用一个真实的开放数据集进行模拟，以进行性能验证。仿真结果表明，该框架具有较高的预测精度，并提供了节能的匹配方案。
2019-10-06 cs.LG cs.NI eess.SP
Echo State Networks with Self-Normalizing Activations on the Hyper-Sphere
Università della Svizzera Italiana（瑞士意大利语区大学）；Politecnico di Milano（米兰理工大学）；University of Manitoba（曼尼托巴大学）；University of Exeter（埃克塞特大学）
在递归神经网络的各种体系结构中，回声状态网络（ESN）由于其简化和廉价的训练过程而出现。众所周知，这些网络对超参数的设置非常敏感，这严重影响了它们的行为。结果表明，它们的性能通常是最大化的超参数空间的一个狭窄的区域称为混沌边缘。找到这样一个区域需要以合理的方式在超参数空间中进行搜索：在这样一个区域之外的超参数配置可能会产生表现出充分发展的混沌的网络，从而产生不可靠的计算。由于优化超参数的性能增益可以通过考虑存储器-非线性折衷来研究，即，增加网络的非线性行为会降低其记忆过去输入的能力，反之亦然。在本文中，我们提出了一种ESN模型，消除了对超参数的临界依赖，导致网络可证明不能进入混沌状态，同时，表示相空间中的非线性行为，其特征在于对过去输入的大量记忆，可与线性网络相媲美。我们的贡献是支持实验证实我们的理论研究结果，表明所提出的模型显示动态是丰富的，足以近似许多常见的非线性系统用于基准。
2019-09-06 cs.LG cs.NE nlin.CD
A tensor network approach for chaotic time series prediction
Donostia International Physics Center（多斯通国际物理中心）；Multiverse Computing（多维计算）；Ikerbasque Foundation for Science（伊克尔巴斯克科学基金会）
针对混沌时间序列预测问题，提出基于张量网络的模型，通过分解高维数组降低参数复杂度，在精度和计算效率上优于传统回声状态网络。
2026-06-17 cs.LG cs.NE physics.comp-ph
Evolutionary Echo State Network: evolving reservoirs in the Fourier space
Faculty of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；VŠB-Technical University of Ostrava（俄斯特拉发技术大学）；INRIA Rennes – Bretagne Atlantique（法国国家信息与自动化研究所雷恩-布列塔尼大西洋中心）
回声状态网络（ESN）是一类具有大量隐-隐权重（在所谓的水库中）的递归神经网络。规范ESN及其变体最近受到了极大的关注，因为它们在非线性动力系统建模方面取得了显着的成功。水库是随机连接的固定权重，在学习过程中不会改变。仅训练从库到输出的权重。由于水库在训练过程中是固定的，我们可能想知道递归结构的计算能力是否得到了充分利用。在这篇文章中，我们提出了一个新的计算模型的ESN类型，表示在傅立叶空间中的油藏权重，并执行这些权重的微调应用遗传算法在频域中。主要的兴趣是，这个过程将工作在一个更小的空间相比，经典的ESN，从而提供了一个降维变换的初始方法。所提出的技术使我们能够利用大型递归结构的好处，避免了基于梯度的方法的训练问题。我们提供了一个详细的实验研究，证明了我们的方法与著名的混沌系统和现实世界的数据的良好性能。
2022-09-29 cs.AI cs.LG cs.NE
Stability analysis of chaotic systems in latent spaces
Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）；Politecnico di Torino（都灵理工大学）
本文提出基于卷积自编码器回声状态网络（CAE-ESN）的潜空间方法，在低维流形上推断混沌系统的 Lyapunov 指数和协变 Lyapunov 向量，从而从数据中预测混沌偏微分方程及湍流的稳定性性质。
2024-10-01 cs.LG nlin.CD
Modelling spatiotemporal turbulent dynamics with the convolutional autoencoder echo state network
University of Cambridge（剑桥大学）；Delft University of Technology（代尔夫特理工大学）；Imperial College London（帝国理工学院）；The Alan Turing Institute（艾伦·图灵研究所）
湍流的时空动力学是混沌的，难以预测。这使得精确和稳定的降阶模型的设计具有挑战性。本文的首要目标是提出一个非线性分解的湍流状态的降阶表示的动态。我们将湍流问题分为空间问题和时间问题。首先，我们计算潜在空间，它是湍流动力学所处的流形（即，它是湍流吸引子的数值近似）。潜在空间是通过一系列非线性滤波操作找到的，这些操作由卷积自动编码器（CAE）执行。CAE提供了空间上的分解。其次，我们预测的时间演化的湍流状态的潜空间，这是由回声状态网络（ESN）。ESN提供了时间上的分解。第三，通过组装CAE和ESN，我们得到一个自治的动力系统：卷积自动编码器回声状态网络（CAE-ESN）。这是湍流的降阶模型。我们在二维流动上测试了CAE-ESN。我们表明，经过训练，CAE-ESN（i）发现湍流的潜在空间表示，其自由度小于物理空间的自由度的1%;（ii）在准周期和湍流状态下都能准确地预测时间和统计上的流动;（iii）对不同的流动状态具有鲁棒性（雷诺数）;（iv）预测湍流所需的计算时间比求解控制方程少1%。这项工作开辟了新的可能性，非线性分解和降阶建模的湍流的数据。
2022-11-22 cs.LG nlin.CD physics.flu-dyn
Multivariate time series prediction using clustered echo state network
Department of Physics, Centre for Nonlinear Science and Engineering, School of Electrical and Electronics Engineering（物理系、非线性科学与工程中心、电气与电子工程学院）
本文提出了一种聚类回声状态网络（CESNs），通过将 reservoir 节点划分为集群来提升多变量时间序列的预测能力，实验表明其在预测精度和抗噪声能力上优于传统 ESNs。
2025-11-28 cs.LG nlin.CD
Physics-Informed Echo State Networks for Modeling Controllable Dynamical Systems
Federal University of Santa Catarina（圣卡塔琳娜联邦大学）
本文将物理信息回声状态网络扩展至带外部输入的可控非线性系统，结合自适应平衡损失，在数据稀缺时显著降低过拟合和测试误差，并提升模型预测控制性能。
2025-02-04 cs.LG cs.NE math.DS
Prediction of Nonlinear Oscillations in a Jumping Quarter-Car Model Using Reservoir Computing
Tokyo University of Agriculture and Technology（东京农工大学）；Amity University Haryana - Gurugram（Amity大学哈里亚纳邦-古鲁格拉姆校区）；Nagoya Institute of Technology（名古屋工业大学）；Central University of Rajasthan（中央拉贾斯坦大学）
本研究利用回声状态网络（储层计算）对跳跃四分之一车模型的非线性振荡进行数据驱动预测，成功重建分岔图和吸引子，验证了其在非光滑车辆动力学中的可行性。
2026-09-22 cs.LG nlin.CD
Data-driven prediction of a multi-scale Lorenz 96 chaotic system using deep learning methods: Reservoir computing, ANN, and RNN-LSTM
Rice University（莱斯大学）
在本文中，三个深度学习方法预测短期演化和再现多尺度时空Lorenz 96系统的长期统计的性能进行了检查。这些方法是：回声状态网络（一种储备池计算，RC-ESN）、深度前馈人工神经网络（ANN）和具有长短期记忆的递归神经网络（RNN-LSTM）。这个Lorenz 96系统有三层非线性相互作用变量，分别代表慢/大尺度（$X$）、中间（$Y$）和快/小尺度（$Z$）过程。对于培训或测试，只有$X$可用; $Y$和$Z$从未知晓或使用。我们表明，RC-ESN在短期预测方面大大优于ANN和RNN-LSTM，例如，精确地预测了数百个数值求解器的时间步长的混沌轨迹，相当于几个李雅普诺夫时间尺度。RNN-LSTM和ANN也表现出了一些预测技巧; RNN-LSTM优于ANN。此外，即使在失去轨迹之后，RC-ESN和RNN-LSTM预测的数据也具有与真实PDF密切匹配的概率密度函数（PDF），即使在尾部也是如此。然而，使用ANN预测的数据的PDF偏离真实的PDF。本文讨论了数据驱动和数据辅助的复杂非线性动力系统（如天气/气候）的替代建模的含义、注意事项和应用。
2019-12-06 cs.LG math.DS nlin.CD
Adaptive Nonlinear Vector Autoregression: Robust Forecasting for Noisy Chaotic Time Series
Department of Mathematics, Pusan National University, Republic of Korea（釜山国立大学数学系）；Pusan National University, Republic of Korea（釜山国立大学）；Industrial Mathematics Center, Pusan National University, Republic of Korea（釜山国立大学工业数学中心）；Humanoid Olfactory Display Center, Pusan National University, Republic of Korea（釜山国立大学人形嗅觉显示中心）；Department of Mathematics, Yonsei University, Republic of Korea（成均馆大学数学系）；Innovation Center for MathScience Research&Education, Pusan National University, Republic of Korea（釜山国立大学数学科学研究与教育创新中心）；Marine Natural Disaster Research Department, Korea Institute of Ocean Science and Technology, Republic of Korea（韩国海洋科学与技术研究院海洋自然灾害研究部）；Institute for Future Earth, Pusan National University, Republic of Korea（未来地球研究所）
本文提出了一种自适应非线性向量自回归模型，通过联合训练MLP和线性读出层，提升了在噪声混沌时间序列中的预测鲁棒性。
2026-09-09 cs.AI cs.LG math.DS
Learning Dynamical Systems from Data: A Simple Cross-Validation Perspective, Part V: Sparse Kernel Flows for 132 Chaotic Dynamical Systems
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Imperial College London（帝国理工学院）；Zhejiang Zhelixin Credit Investigation Co., Ltd.（浙江浙里信征信有限公司）；Caltech（加州理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）
从有限数量的观测状态回归动力系统的向量场是学习此类系统的代理模型的自然方法。从数据中学习动力系统的一种简单且可解释的方法是用一个可通过使用核流学习的数据适应核来插值其向量场。核流方法是一种可训练的机器学习方法，它基于这样的前提来学习核的最佳参数：如果使用一半的数据，准确性没有显着损失，则核是好的。目标函数可以是短期预测或用于核流的其他变体的一些其他目标。然而，这种方法受到基础内核选择的限制。在本文中，我们介绍了\emph{Sparse Kernel Flows }的方法，以便从一个大的内核字典开始学习"最好的"内核。它是基于稀疏化的内核是一个线性组合的基本内核。我们将这种方法应用于132个混沌系统的库。
2023-02-27 cs.LG stat.ML
Causal Discovery from Sparse Time-Series Data Using Echo State Network
University of Waterloo（滑铁卢大学）；ATS Automation（ATS自动化公司）
时间序列数据集合之间的因果关系发现可以帮助诊断症状的原因，并有望在故障发生之前预防故障。然而，可靠的因果发现可能是非常具有挑战性的，特别是当数据采集速率变化时（即，非均匀数据采样），或者在存在缺失数据点的情况下（例如，稀疏数据采样）。为了解决这些问题，我们提出了一个由两部分组成的新系统，第一部分用高斯过程回归填充缺失数据，第二部分利用回声状态网络，这是一种水库计算机（即，用于混沌系统建模）用于因果发现。我们评估我们提出的系统对其他三个现成的因果发现算法，即结构期望最大化，子采样线性自回归绝对系数，和多变量Granger因果关系与向量自回归使用田纳西伊士曼化学数据集的性能;我们报告了相应的马修斯相关系数（MCC）和受试者工作特征曲线（ROC）并表明，该系统优于现有的算法，证明了我们的方法的可行性，发现在一个复杂的系统中的因果关系与丢失的条目。
2023-01-11 cs.LG stat.ME
A Comparison of Deep Learning Convolution Neural Networks for Liver Segmentation in Radial Turbo Spin Echo Images
University of Arizona（亚利桑那大学）
运动稳健的2D径向快速自旋回波（RADTSE）脉冲序列可提供高分辨率合成图像、多个回波时间（TE）的T2加权图像和定量T2图，所有这些均来自单次k空间采集。在这项工作中，我们使用深度学习卷积神经网络（CNN）对腹部RADTSE图像中的肝脏进行分割。提出了一种改进的UNET体系结构，并实现了一种广义的芯片损耗目标函数.训练了三个2D CNN，每个CNN用于从RADTSE序列获得的每种图像类型。在评估CNN在验证集上的性能时，我们发现在TE图像或T2图上训练的CNN的平均骰子得分高于合成图像。这又意味着关于组织中的T2变化的信息有助于提高分割性能。
2020-04-13 cs.CV cs.LG eess.IV
Data-Assimilated Model-Based Reinforcement Learning for Partially Observed Chaotic Flows
Imperial College London（帝国理工学院伦敦校区）；The Alan Turing Institute（阿兰·图灵研究所）；Politecnico di Torino（托里尼Politecnico）
针对部分观测和噪声测量下的混沌流动控制，提出数据同化的基于模型的强化学习框架，结合控制感知储备池网络与集合卡尔曼滤波，在Kuramoto-Sivashinsky方程上验证了稳定时空混沌的有效性。
2025-04-23 cs.LG cs.SY eess.SY
VISION-ICE: Video-based Interpretation and Spatial Identification of Arrhythmia Origins via Neural Networks in Intracardiac Echocardiography
Department of Electrical and Computer Engineering, Rice University, United States of America（电气与计算机工程系，里士大学，美国）；Electrophysiology Clinical Research and Innovations, Texas Heart Institute, United States of America（电生理临床研究与创新，德克萨斯心脏研究所，美国）；Department of Cardiology, Texas Heart Institute, United States of America（心内科部，德克萨斯心脏研究所，美国）
本文提出利用心内超声视频和深度学习自动定位心律失常起源，通过3D卷积神经网络实现三类分类，实验结果显示模型准确率高达66.2%。
2026-02-04 cs.CV cs.LG
Robust quantum reservoir computers for forecasting chaotic dynamics: generalized synchronization and stability
Department of Aeronautics, Imperial College London（帝国理工学院航空系）；Department of Engineering, City St George’s, University of London（伦敦大学城市圣乔治学院工程系）
本文将量子储备池计算机表述为广义同步系统，证明其能学习混沌动力学的不变属性，提出 $GS=ESP$ 准则以设计鲁棒架构，并发现噪声耗散能增强其鲁棒性，为近期量子硬件上的混沌时间序列预测开辟了新机遇。
2025-06-27 cs.LG nlin.CD quant-ph
Data-Driven Assessment of Concrete Slab Integrity via Impact-Echo Signals and Neural Networks
College of Engineering and Computing（工程与计算学院）；George Mason University（乔治·马歇尔大学）；School of Computing（计算学院）
本文提出基于冲击回波信号和神经网络的混凝土板完整性评估方法，通过FFT提取特征并利用LSTM网络实现缺陷分类，准确率达73%，提升了桥梁健康监测的智能化水平。
2025-11-26 cs.AI cs.LG eess.SP
