Simultaneous embedding of multiple attractor manifolds in a recurrent neural network using constrained gradient optimization
本文提出通过约束梯度优化调整突触权重，以最小化能量景观粗糙度损失函数，从而在单个RNN中同时嵌入多个连续吸引子流形时显著抑制有害干扰并提升状态稳定性，且不牺牲存储容量。
2023-10-28 cond-mat.dis-nn q-bio.NC
Forgetting leads to chaos in attractor networks
吸引子网络是大脑系统中记忆存储的一个有影响力的理论。这一理论最近受到了挑战，在记忆任务中神经元记录的强烈时间变异性的观察。在这项工作中，我们研究了一个稀疏连接的吸引子网络的记忆是根据赫布突触可塑性规则学习。在概括了已知的连续的，稀疏连接的Hopfield模型的结果后，我们研究了一个模型，在该模型中，新的记忆是不断学习和旧的记忆被遗忘，使用在线突触可塑性规则。我们发现，对于优化存储容量的遗忘时间尺度，网络的记忆检索动态的定性特征是年龄相关的：最近的记忆被检索为固定点吸引子，而旧的记忆被检索为混沌吸引子，其特征在于强异质性和时间波动。因此，不动点和混沌吸引子共存于网络相空间。该网络呈现出统计上可区分的记忆状态的连续体，其中混乱的波动在临界年龄以上突然出现，然后逐渐增加，直到记忆消失。我们开发了一个动态平均场理论（DMFT）来分析年龄相关的动力学，并将该理论与大型网络的模拟进行比较。我们的数值模拟表明，一个高度的稀疏性是必要的DMFT准确地预测网络容量。最后，我们的理论提供了具体的预测与老化备忘录的延迟反应任务。我们的吸引子网络理论以遗忘旧记忆为代价不断学习新信息，这一理论可以解释我们观察到的皮层提取状态的多样性，特别是皮层活动的强烈时间波动。
2021-11-30 cond-mat.dis-nn q-bio.NC
Short-Term Postsynaptic Plasticity Facilitates Predictive Tracking in Continuous Attractors
该研究将基于NMDAR的短期突触后可塑性引入连续吸引子神经网络，阐明其通过增强状态迁移实现对移动刺激的预测性追踪，并为脑启发预测算法提供新机制。
2023-09-27 cond-mat.dis-nn q-bio.NC
System size resonance in an attractor neural network
我们研究的吸引子神经网络，在铁磁相，外部的，随时间变化的刺激，驱动系统周期性地两个不同的吸引子的响应。我们证明了一个非平凡的依赖性的系统，通过系统的尺寸共振，通过显示在一定的有限尺寸的信号放大最大值。
2005-03-15 cond-mat.dis-nn cond-mat.stat-mech
Tracking Dynamics of Two-Dimensional Continuous Attractor Neural Networks
我们介绍了一个二维连续吸引子神经网络（CANNs）的解析可解模型。在没有外部刺激的情况下，突触输入和神经元响应形成高斯隆起，并使网络能够通过其在二维空间中的平移位移来跟踪外部刺激。引入极坐标系下二维量子谐振子的基函数来描述高斯凸点的畸变模。采用摄动法对其进行了动力学分析。通过考虑外部刺激突然改变其位置时的网络行为来测试该方法，我们得到了各种失真模式的反应时间和幅度的结果，与仿真结果非常吻合。
2009-10-08 cond-mat.dis-nn
The attractors in sequence processing neural networks
研究了序列处理神经网络中吸引子的平均长度和平均松弛时间。仿真结果表明，$α$存在一个临界点，即负载率，在该临界点以下，平均长度等于存储模式数，反之，长度与存储模式数之比呈指数关系$\exp (Aα) $增长.此外，我们还发现平均弛豫时间的对数与$α$仅呈线性关系，并且发现了耦合度的转折点，用于检验网络的鲁棒性。
2002-09-12 cond-mat.dis-nn
Non-Hermitian Quasi-Localization and Ring Attractor Neural Networks
一大类“稀疏”随机矩阵的本征模，其相互作用集中在对角线附近，在空间中呈指数局域化，如安德森在1957年首次发现的量子系统。安德森局域化在从固体中的电子到机械和光学系统的各种问题中起着普遍的作用。然而，它在神经科学中的意义（其中连接可以是强不对称的）在很大程度上尚未被探索，主要是因为神经系统的突触连接矩阵通常是“密集的”，这使得本征模空间扩展。在这里，我们探讨的角色，安德森局域化可以在神经网络中发挥的重点是“空间结构”的突触连接矩阵的障碍。最近，神经科学家通过实验证实了局部兴奋和全局抑制（LEGI）环吸引子模型可以在功能上代表果蝇（Drosophila melanogaster）中枢脑的头向细胞。我们首先研究了一个非厄米特（即不对称）的紧束缚模型与无序，然后建立一个连接到LEGI环吸引子模型。我们发现：（i）具有结构最近邻无序的LEGI环吸引子网络的主特征向量是“准局域化的”，即使具有完全稠密的抑制连接。(ii)准本地化特征向量在早期神经动力学中起主导作用，并且主要准本地化特征向量的位置预测代表例如昆虫头部方向的“活动块”的初始位置。我们的研究为探索安德森局域化理论和空间结构无序神经网络之间的交叉点开辟了一个新的途径。
2018-11-19 cond-mat.dis-nn cond-mat.stat-mech q-bio.NC
Attractor Modulation and Proliferation in 1+$\infty$ Dimensional Neural Networks
我们扩展了最近推出的一类精确可解模型的循环神经网络之间的竞争1D最近的邻居和无限范围的信息处理。我们增加了进一步的挫折和竞争的潜力，在这些模型中，以及它们的生物相关性，通过添加下一个最近的邻居耦合，我们允许调制的吸引子，使我们可以不断插入不同数量的存储模式的情况之间。我们的模型是通过结合平均场和随机场技术求解的。他们表现出越来越复杂的相图与新的阶段，分离的多个第一和第二阶的转变（动力学和热力学的），并在调制的吸引子强度，非平凡的情况下的相图变形。我们的预测与数值模拟非常吻合。
2000-08-03 cond-mat.dis-nn
Feed-forward chains of recurrent attractor neural networks with finite dilution near saturation
稳态副本分析的双神经网络模型，插值之间的一个完全经常性的对称吸引子网络和一个严格的前馈分层网络，研究的Coolen和Viana，在这项工作中扩展到占有限稀释的经常性赫布之间的相互作用的二进制伊辛单位在每一层。逐渐稀释被发现抑制的相变，所产生的经常性和前馈网络的操作模式之间的竞争。尽管如此，对于层间和层内相互作用之间的平衡比率，长链层在有限稀释下仍然表现出相对良好的性能。
2005-11-09 cond-mat.dis-nn
Topology and Computational Performance of Attractor Neural Networks
为了探索网络结构与功能之间的关系，研究了具有规则格、随机、小世界和无标度拓扑结构的Hopfield型吸引子神经网络的计算性能.随机网络是整个网络存储和检索模式的最有效方法。然而，在无标度的情况下，检索错误并不是均匀分布的：由高度连接的节点的子集编码的模式的一部分比模式的其余部分更鲁棒和有效地识别。因此，无标度网络实现了非常强的部分识别。对大脑功能和社会动力学的影响具有启发性。
2003-04-01 cond-mat.dis-nn
Attractor Dynamics with Synaptic Depression
神经元连接权重表现出短期抑制（STD）。本文研究了STD对连续吸引子神经网络（CANN）动力学的影响及其在神经信息处理中的潜在作用。我们发现，与STD网络可以产生静态和移动颠簸，STD提高了网络的性能，在跟踪外部输入。特别地，我们发现STD赋予网络缓慢衰减的平台行为，即，最初被刺激到活跃状态的网络将在STD的时间尺度上而不是在神经信号的时间尺度上非常缓慢地衰减到沉默。我们认为，这为神经系统提供了一种机制，可以轻松地保持短期记忆，并自然地关闭持续活动。
2010-11-22 cond-mat.dis-nn physics.bio-ph q-bio.NC
Approximating velocity fields with planted point attractors via Neural-ODE for classification purposes
Department of Informatics and Computer Science, University of Pisa, Italy（比萨大学信息学与计算机科学系）
本文利用带有植入平衡点的神经ODE进行分类，通过速度场塑造吸引域，将初始条件导向对应目标。
2026-10-26 cond-mat.dis-nn cs.LG
Finite Connectivity Attractor Neural Networks
我们研究一个家庭的稀释吸引子神经网络与有限的平均数（对称）连接每个神经元。在有限连接自旋玻璃，它们的平衡性质描述的序参量函数，我们推导出一个积分方程的副本对称（RS）近似。该方程的分叉分析揭示了顺磁到回忆和顺磁到自旋玻璃化转变线在相图中的位置。在零温度下计算分离回收相和自旋玻璃相的线。所有的相变被发现是连续的。
2003-04-11 cond-mat.dis-nn cond-mat.stat-mech
Non-backtracking operator for Ising model and its application in attractor neural networks
非回溯算子最近被证明是稀疏图中谱聚类的一种救赎。本文考虑具有一般耦合分布的一般图上的伊辛模型的非回溯算子，在顺磁固定点上将置信传播算法线性化.研究了该算子的谱，解析计算了体的锐边和体外可能的实本征值随耦合和温度的变化。我们展示了该算子在吸引子神经网络中的应用。在热力学极限下，我们的结果恢复了Hopfield模型的复型方法得到的相边界。在Hopfield模型的单个实例中，其特征向量可以同时用于检索所有模式。我们还给出了一个例子，如何控制神经网络，即使网络更稀疏，同时保持模式稳定，使用非回溯算子和矩阵扰动理论。
2014-09-10 cond-mat.dis-nn
Information and Topology in Attractor Neural Network
广泛的网络，包括小世界拓扑，可以通过链路的连通性$γ$和随机性$ω$来建模。神经网络的学习能力和吸引能力都可以通过互信息（MI）来衡量，作为负载率和模式与检索状态之间重叠的函数。我们使用MI搜索最佳拓扑结构，存储和吸引子的网络属性。我们发现，虽然最大的存储意味着一个最佳的$MI(γ,ω)$在$γ_{opt}(ω)\to 0$，最大的吸引盆地导致一个最佳的拓扑结构在中等水平的$γ_{opt}$，每当$0\leqω<0.3$。该$γ_{opt}$与网络的集群和路径长度有关。我们还建立了一个图的动力学阶段与随机和本地初始重叠，并表明非常稀释的网络失去吸引子的能力。
2005-06-21 cond-mat.dis-nn cond-mat.stat-mech
Attractors in fully asymmetric neural networks
在退火近似的框架中计算了完全非对称神经网络（即具有完全不相关的突触）中的周期长度和吸引盆的权重的统计特性，该框架是我们先前为研究考夫曼网络而引入的。我们的结果表明，该模型的行为本质上是一个具有反转对称性的随机映射。与数值计算结果的比较表明，该近似在无限尺寸极限下是精确的。
1997-08-28 cond-mat.dis-nn q-bio
A Moving Bump in a Continuous Manifold: A Comprehensive Study of the Tracking Dynamics of Continuous Attractor Neural Networks
理解神经网络的动态如何由网络结构塑造，以及网络结构如何促进神经系统实现的功能，是使用数学模型阐明大脑功能的核心。本文研究了连续吸引子神经网络（CANNs）的跟踪动力学。由于神经元周期性相互作用的平移不变性，CANN可以保持连续的稳态家族。它们形成了一个连续的流形，其中神经系统是中性稳定的。我们系统地探讨了这种属性如何促进CANN的跟踪性能，这被认为与大脑功能有明确的对应关系。通过使用量子谐振子的波函数作为基础，我们演示了如何CANN的动力学分解成不同的运动模式，对应于网络状态的振幅，位置，宽度或偏斜度的失真。然后，我们开发了一种微扰的方法，利用网络的静态在状态空间中的主导运动。这种方法使我们能够近似的网络动态到任意精度取决于所使用的扰动的顺序。我们量化的高斯凹凸跟踪过程中的失真，并研究其对跟踪性能的影响。结果得到的最大速度为一个移动的刺激是可跟踪的和反应时间的网络赶上一个突然变化的刺激。
2009-04-04 cond-mat.dis-nn
Analytic solution of attractor neural networks on scale-free graphs
我们研究了网络拓扑结构对递归神经网络检索性能的影响，使用稀释系统的副本技术。该理论提出了一个网络与任意度分布$p(k)$和适用于幂律分布$p(k) \sim k^{-γ}$，即神经网络的无标度图。分叉分析识别顺磁相与恢复相或自旋玻璃相之间的相边界。使用群体动力学算法，可以在整个相图中计算检索重叠和自旋玻璃序参量。结果表明，有一个增强的检索性能相比，泊松随机图。我们将我们的研究结果与模拟进行比较。
2004-04-01 cond-mat.dis-nn
Conditions for the emergence of spatial asymmetric states in attractor neural network
在本文中，我们表明，在检索过程中，在一个二进制对称的Hebb神经网络，可以观察到空间局部化状态时，网络的连接是距离相关的，当网络的活动施加约束，这迫使不同水平的活动在检索和学习状态。在检索和学习过程中的活动的这种不对称性被认为是充分的条件，以观察空间局域化的状态。分析和仿真结果证实了这一点。
2005-06-29 cond-mat.dis-nn cond-mat.stat-mech
Capacity-resolution trade-off in the optimal learning of multiple low-dimensional manifolds by attractor neural networks
递归神经网络（RNN）是解释吸引子如何从嘈杂的高维动力学中出现的强大工具。我们在这里研究如何学习具有N个神经元的RNN中的~N^（2）对相互作用，以嵌入D << N维的L流形。我们表明，容量，即最大比率L/N，随着|对数|^（-D），其中λ是由沿着每个流形的神经活动编码的位置上的误差。因此，RNN是灵活的存储设备，能够以高空间分辨率存储大量流形。我们的研究结果依赖于从统计力学和随机矩阵理论的分析工具的组合，扩展加德纳的经典学习理论的情况下，具有较强的空间相关性的模式。
2020-01-13 cond-mat.dis-nn cond-mat.stat-mech
Information content in continuous attractor neural networks is preserved in the presence of moderate disordered background connectivity
研究无序背景连接对连续吸引子神经网络位置信息编码的影响，发现中等强度无序下信息损失小且可通过线性读出提取，证明局部连接优势可抵消无序带来的不利影响。
2024-01-03 cond-mat.dis-nn cond-mat.stat-mech
Bump formation in a binary attractor neural network
本文研究了具有空间依赖连接的二元吸引子神经网络活动中局部凸点的形成条件。我们发现，这些形成时，观察到的检索和学习过程中的活动之间的不对称。推导了序参量的解析近似。相应的相图显示了一个相对较大且稳定的区域，在该区域中观察到这种效应，尽管该区域内的临界存储和信息容量急剧下降。我们证明了网络的稳定性，当从凸点形成开始时，甚至从整个图案开始时的稳定性更大。最后，我们表现出一个非常好的协议之间的分析结果和模拟不同的拓扑结构的网络。
2005-12-19 cond-mat.dis-nn cond-mat.soft
One+Infinite Dimensional Attractor Neural Networks
我们求解了一类混合了一维最近邻居和无限范围相互作用的吸引子神经网络模型，这些模型具有赫布型形式。我们的解决方案是基于平均场方法，传输矩阵和一维随机场技术的组合，并获得玻尔兹曼型平衡（以下顺序Glauber动态）和佩雷托型平衡（以下并行动态）。通过短程相互作用介导的对齐力之间的竞争，和那些通过无限程介导的，被发现产生新的现象，如多个局部稳定的“纯”状态，回忆状态，2-循环和非回忆状态之间的一阶转换，和域形成导致非常长的弛豫时间。我们测试我们的结果对数值模拟和简单的基准情况下，发现很好的协议。
2000-03-10 cond-mat.dis-nn cond-mat.stat-mech
Categorization by a three-state attractor neural network
研究了由三态神经元构成的吸引子网络的范畴化性质。在极端稀释极限下，讨论了零温下网络状态与实例、网络状态与概念以及神经元活动重叠时的并行动力学演化方程。当样本数目或样本间的相关性增加时，会出现从检索区域到分类区域的过渡。如果模式活动足够小，则可以很好地检索（分类）示例（概念），以适当选择神经元的零活动阈值。
1997-04-18 cond-mat.dis-nn q-bio
Storing Infinite Dynamical Attractors in Nonreciprocal Associative Neural Networks
BCAM – Basque Center for Applied Mathematics（巴斯克应用数学中心）；IKERBASQUE, Basque Foundation for Science（伊克尔巴斯基克科学基金会）；Biofisika Institute (CSIC, EHU)（生物物理研究所（西班牙国家研究委员会、巴斯克大学））
本文提出非互易联想网络的动力学平均场理论，发现耦合矩阵特征值退相干可抵消噪声，从而大幅提升极限环和混沌吸引子的存储容量。
2026-09-09 cond-mat.dis-nn cond-mat.stat-mech
Universal computation using localized limit-cycle attractors in neural networks
神经网络是利用其动力学进行计算的动力学系统。一个例子是Hopfield模型，它形成了一个关联记忆，将模式存储为网络动力学的全局吸引子。通过对动力学网络的研究，我们知道局域吸引子也是存在的。然而，它们还没有在计算范例中使用。在这里，我们表明，在阈值网络中的相互作用的局部吸引子可以导致通用计算。我们开发了一种重新布线算法，该算法使用基于碰撞的计算在受生物启发的二维阈值网络中构建通用布尔门，该网络具有随机放置和连接的节点。我们的目的是展示的计算能力和控制本地极限环吸引子在这样的网络中，通过创建简单的布尔门，通过这些本地激活的能力。大门使用滑翔枪，即，局部活动周期性地产生活动的“滑翔机”，通过空间传播。几个这样的滑翔机碰撞，其相互作用的结果被用作布尔门的输出。我们表明，这些门可以用来建立一个通用的计算机。
2021-12-10 cond-mat.dis-nn cs.ET cs.NE
Topology and Dynamics of Attractor Neural Networks: The Role of Loopiness
我们推导出一个精确的表示序列处理神经网络的动态信号噪声分析的拓扑效应。引入了一个新的网络结构参数--环路系数，定量研究了环路对网络动力学的影响。大的循环系数意味着在网络中发现循环的概率很大。根据神经网络的循环性，导出了神经网络重叠参数的递推方程。研究发现，大的循环度会增加网络状态之间的相关性，最终降低神经网络的性能。将该理论应用于全连通、稠密连通随机、稠密连通规则和稠密连通小世界等网络拓扑结构，得到了令人鼓舞的结果。
2008-05-11 cond-mat.dis-nn cond-mat.stat-mech
Attractor neural networks storing multiple space representations: a model for hippocampal place fields
分析了一个存储多个空间映射或“图表”的递归神经网络模型。这种类型的网络被认为是啮齿动物海马体中位置细胞起源的模型。研究了极端稀释和完全连通的极限，发现了存储容量和信息容量，确定网络性能的重要参数是空间表示的稀疏性和连通性程度，正如在自联想网络的一般理论中已经发现的那样。这些结果表明，不同动物物种的海马功能理论之间存在定量的相似性，例如灵长类动物（情景记忆）和啮齿类动物（空间记忆）。
1998-07-07 cond-mat.dis-nn q-bio
Bifurcation From Networks of Unstable Attractors to Heteroclinic Switching
我们提出了一个动力系统，自然表现出两个不稳定的吸引子是完全封闭的每个其他盆地体积。这种违反直觉的现象发生在具有延迟相互作用的脉冲耦合振荡器网络中。我们分析和数值研究这一现象，并澄清其背后的机制：在不断消除系统的不可逆性，两个不稳定的吸引子的集合成为一组两个非吸引鞍状态，彼此异相连接。这种从不稳定吸引子网络到异宿环的转变构成了动力系统中一种新的分岔类型。
2008-12-09 cond-mat.dis-nn nlin.AO nlin.CD
Dynamical stability for dense patterns in attractor neural networks
Center for Cognitive Computation, Department of Cognitive Science, Central European University, Budapest, Hungary（中央欧洲大学认知科学系认知计算中心）
本研究提出了一种理论，用于分析离散吸引子神经网络中密集模式的动态稳定性，揭示了阈值线性激活和稀疏模式的计算优势。
2026-09-09 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Stable Attractors for Neural networks classification via Ordinary Differential Equations (SA-nODE)
Università degli studi di Firenze（佛罗伦萨大学）；Dipartimento di Fisica e Astronomia（物理与天文学院）
该研究提出一种基于常微分方程的监督分类方法SA-nODE，通过先验构建预指定的稳定吸引子，以动力系统收敛至吸引子的方式实现分类，验证了带解析相互作用项的连续动力系统可作为高性能分类器。
2024-05-20 cond-mat.dis-nn cond-mat.stat-mech cs.AI
Multiplicity of Stable Attractors in Disordered Neural Models
Butterfly Decisions srl（Butterfly Decisions 公司）；University of Florence（佛罗伦萨大学）；Istituto dei Sistemi Complessi, CNR（复杂系统研究所，CNR）；Institute of Pure and Applied Mathematics, Department of Physics, University of Aberdeen（纯数学与应用数学研究所，物理系，阿伯丁大学）
研究无序神经模型中稳定吸引子多重性，利用大偏差统计和微扰方法，结果表明不太大耦合强度下对称与非对称情况无定性差异，该方法有望扩展到其他多自由度动力学模型。
2026-07-27 cond-mat.dis-nn cond-mat.stat-mech cs.AI
