Persistent learning signals and working memory without continuous attractors
Champalimaud Centre for the Unknown(尚帕利莫未知中心);Stony Brook University(石溪大学)
本研究发现周期和准周期吸引子可支持长时程关系学习,基于此提出的人工RNN初始化方案在时间动态学习任务中表现更优,还提出了无需环形吸引子的头部方向维持机制。
2023-08-24 cs.LG cs.NE nlin.AO
Dynamics of Adaptive Continuous Attractor Neural Networks
针对吸引子神经网络状态更新慢的问题,本文全面梳理带自适应的连续吸引子神经网络(A-CANNs)的多样动力学特性,提出统一数学框架并探讨其生物学意义。
2024-10-09 physics.bio-ph q-bio.NC
Learning Discrete Successor Transitions in Continuous Attractor Networks: Emergence, Limits, and Topological Constraints
Independent Researcher(独立研究者)
本文研究了在无外部位移信号下,连续吸引子网络学习后继转换的涌现、限制与拓扑约束,发现局部学习倾向于捷径解决方案,而吸引子动态需通过强制稳定性才能实现。
2026-01-20 cs.AI q-bio.NC
Astrocytic NMDA Receptors Modulate the Dynamics of Continuous Attractors
本文利用带短时程突触抑制的连续吸引子神经网络模型,研究阻断星形胶质细胞NMDA受体降低神经递质释放概率变化对神经动力学的影响,发现其能稳定吸引子状态并降低移动性,从而深化了对NMDA受体在神经计算与记忆中作用的理解。
2024-06-11 cond-mat.dis-nn q-bio.NC
Neurodegenerative damage reduces firing coherence in a continuous attractor model of grid cells
内侧内嗅皮层(dMEC)背外侧带的网格细胞在二维空间的位置网格上显示出惊人的规则的周期性放电模式。这有助于动物在不参考外部线索的情况下对相对空间位置进行编码。dMEC在阿尔茨海默病的早期阶段受损,这会影响疾病受害者的导航能力,降低网络中神经元的突触密度。在一个已建立的二维连续吸引子神经网络模型的网格细胞的活动,我们引入损伤参数化的半径和损伤区域的神经元的突触输出的强度。dMEX上的网格场流与模型生物体的速度的比例被保持,但是当我们以傅里叶变换的形式检查网格细胞激发场的相干性时,通过对网格晶格的布拉格峰(Bragg peaks)的分析,我们发现,在很宽的损伤半径和强度范围内,诱导出了只有一个中心峰的非相干结构,该中心峰与条纹状的窄带相邻。(两个额外的峰),其邻接正交图案(四个额外的峰),正交图案邻接未受损的六边形区域(六个额外的峰)。在受损区域内,网格单元不显示布拉格峰,并且在受损区域外,中心布拉格峰强度在很大程度上不受影响。对于很大的损伤区域,有一个正常网格射击的再入区。我们预计,修改后的网格细胞行为可以观察到非侵入性功能磁共振成像的dMEC。
2021-04-14 q-bio.NC
Attractor Metadynamics in Adapting Neural Networks
缓慢的适应过程,如突触和内在可塑性,在大脑中比比皆是,并塑造了在更快的时间尺度上发生的神经动力学的景观。在任何给定的时间,网络的特征是一组内部参数,这些参数不断地适应,尽管速度很慢。这组参数定义了各个绝热吸引子的数量和位置。因此,网络参数的缓慢演变会导致吸引子景观的演变,我们称之为吸引子元自适应过程。我们研究了几个连续时间自治模型网络的吸引子景观的元自洽的性质。我们发现绝热吸引子的位置的第一和第二阶的变化,并认为不断发展的吸引子景观的研究构成了一个强大的工具,了解神经动力学的整体发展。
2014-04-22 cond-mat.dis-nn cs.NE q-bio.NC
Neural network model with discrete and continuous information representation
在人工神经网络模型中,最典型的吸引子网络是联想记忆模型和具有墨西哥帽型相互作用的神经网络模型。联想记忆模型具有离散分布的定点吸引子,实现了离散的信息表示。另一方面,具有墨西哥帽型交互的神经网络模型使用线吸引子来实现连续的信息表示,这可以在前额叶皮层中的工作记忆和视觉皮层中的柱状活动中看到。在本研究中,我们提出了一个神经网络模型,实现离散和连续的信息表示。我们使用一个物理力学分析,发现一个本地化的检索阶段存在于所提出的模型,在网络的本地化子群中检索的记忆模式。在局部化检索阶段,利用记忆模式的正交性和局部化检索位置上不动点的中性稳定性,实现了信息的离散和连续表示。所得相图表明,反铁磁相互作用和外场是重要的本地化检索阶段的产生。
2009-03-20 q-bio.NC
Attractor and integrator networks in the brain
在这篇综述中,我们描述了吸引子神经网络模型在描述大脑如何保持工作记忆的持续活动状态,错误纠正和整合噪声线索方面的独特成功。我们考虑的机制,简单和健忘的单位可以组织起来,集体产生动态的长时间尺度上所需的计算。我们讨论了吸引子动力学在大脑中计算的无数潜在用途,并展示了大脑系统中固有的低维连续吸引子动力学已经被具体和严格识别的显着例子。因此,现在可以得出结论,大脑构建并使用这样的系统进行计算。最后,我们展望未来,强调最近的理论进展,了解如何可以克服的鲁棒性和容量之间的基本权衡和结构和灵活性之间的重用和重组相同的一组模块化吸引子的多个功能,使他们一起产生的表示,结构上的约束和强大的,但表现出高容量和灵活。
2022-03-02 q-bio.NC
Continuous Attractor Networks for Laplace Neural Manifolds
本文提出一种基于连续吸引子动力学的神经回路,通过边缘和凸起群体实现δ函数的拉普拉斯变换及其逆变换,并建模固定延迟的时序关联,该回路对噪声鲁棒,可用于多种认知模型。
2024-08-20 q-bio.NC
Forgetting leads to chaos in attractor networks
吸引子网络是大脑系统中记忆存储的一个有影响力的理论。这一理论最近受到了挑战,在记忆任务中神经元记录的强烈时间变异性的观察。在这项工作中,我们研究了一个稀疏连接的吸引子网络的记忆是根据赫布突触可塑性规则学习。在概括了已知的连续的,稀疏连接的Hopfield模型的结果后,我们研究了一个模型,在该模型中,新的记忆是不断学习和旧的记忆被遗忘,使用在线突触可塑性规则。我们发现,对于优化存储容量的遗忘时间尺度,网络的记忆检索动态的定性特征是年龄相关的:最近的记忆被检索为固定点吸引子,而旧的记忆被检索为混沌吸引子,其特征在于强异质性和时间波动。因此,不动点和混沌吸引子共存于网络相空间。该网络呈现出统计上可区分的记忆状态的连续体,其中混乱的波动在临界年龄以上突然出现,然后逐渐增加,直到记忆消失。我们开发了一个动态平均场理论(DMFT)来分析年龄相关的动力学,并将该理论与大型网络的模拟进行比较。我们的数值模拟表明,一个高度的稀疏性是必要的DMFT准确地预测网络容量。最后,我们的理论提供了具体的预测与老化备忘录的延迟反应任务。我们的吸引子网络理论以遗忘旧记忆为代价不断学习新信息,这一理论可以解释我们观察到的皮层提取状态的多样性,特别是皮层活动的强烈时间波动。
2021-11-30 cond-mat.dis-nn q-bio.NC
CANNs: A Toolkit for Research on Continuous Attractor Neural Networks
School of Psychological and Cognitive Sciences, Peking–Tsinghua Center for Life Sciences, PKU-IDG/McGovern Institute for Brain Research, Center of Quantitative Biology(心理与认知科学学院,北京清华大学生命科学中心,北京大学IDG/麦克戈文脑科学研究院,定量生物学中心)
提出统一连续吸引子神经网络(CANN)研究流程的开源工具包,包含Python库、Rust加速后端和吸引子结构分析器,支持从仿真到实验数据分析的完整工作流。
2026-06-29 cs.LG cs.NE q-bio.NC
Short-Term Postsynaptic Plasticity Facilitates Predictive Tracking in Continuous Attractors
该研究将基于NMDAR的短期突触后可塑性引入连续吸引子神经网络,阐明其通过增强状态迁移实现对移动刺激的预测性追踪,并为脑启发预测算法提供新机制。
2023-09-27 cond-mat.dis-nn q-bio.NC
Simultaneous embedding of multiple attractor manifolds in a recurrent neural network using constrained gradient optimization
本文提出通过约束梯度优化调整突触权重,以最小化能量景观粗糙度损失函数,从而在单个RNN中同时嵌入多个连续吸引子流形时显著抑制有害干扰并提升状态稳定性,且不牺牲存储容量。
2023-10-28 cond-mat.dis-nn q-bio.NC
An attractor neural network architecture with an ultra high information capacity: numerical results
吸引子神经网络是研究海马和皮层记忆功能的重要理论框架。在这些模型中,记忆以“吸引子状态”的形式存储在神经元群体的可塑性递归连接中。传统的抽象吸引子网络的最大信息容量是2位/突触。然而,在无噪声的理论场景中,无约束的突触具有存储无限数量比特的能力:传统吸引子网络无法实现的能力。在这里,我提出了一个层次吸引子网络,可以实现超高的信息容量。该网络有两层:包含$N_v$神经元的可见层和包含$N_h$神经元的隐藏层。可见到隐藏的连接是随机设置的,并在训练阶段保持固定,其中记忆模式被存储为网络动态的固定点。隐藏到可见的连接最初是正态分布的,通过一个称为三阈值学习规则的本地在线学习规则来学习,并且没有层内连接。仿真结果表明,最大信息容量与扩展比$N_h/N_v$呈指数增长。作为理解提供高容量的机制的一阶近似,我模拟了网络的朴素平均场近似(nMFA)。nMFA捕获了指数增长,揭示了一个关键的潜在因素是隐藏和可见单元之间的相关性。此外,观察到,在最大容量下,隐藏和可见神经元之间的连接的对称程度随着扩展比而增加。这些结果突出了层次结构的作用,显着提高性能的信息存储在吸引子网络。
2016-01-10 cond-mat.dis-nn q-bio.NC
Bifurcation From Networks of Unstable Attractors to Heteroclinic Switching
我们提出了一个动力系统,自然表现出两个不稳定的吸引子是完全封闭的每个其他盆地体积。这种违反直觉的现象发生在具有延迟相互作用的脉冲耦合振荡器网络中。我们分析和数值研究这一现象,并澄清其背后的机制:在不断消除系统的不可逆性,两个不稳定的吸引子的集合成为一组两个非吸引鞍状态,彼此异相连接。这种从不稳定吸引子网络到异宿环的转变构成了动力系统中一种新的分岔类型。
2008-12-09 cond-mat.dis-nn nlin.AO nlin.CD
Bimodular continuous attractor neural networks with static and moving stimuli
本文研究双模块连续吸引子网络在静态与运动刺激下的耦合动力学,揭示活动峰偏移、脉冲、多稳态及追踪转变,并将其解释为贝叶斯多感觉整合机制。
2023-07-16 nlin.AO physics.bio-ph q-bio.NC