Mean Field Analysis of Stochastic Neural Network Models with Synaptic Depression
我们研究了突触抑制对随机神经网络宏观行为的影响。通过取两个随机变量的平均值,推导出了这种网络的动力学平均场方程:一个放电状态变量和一个突触变量。在这些方程中,由于两个随机变量是独立的,它们的平均乘积解耦为它们的平均乘积。我们证明了这两个随机变量的独立性,假设突触的重量是1/N的顺序相对于神经元的数量N。利用这些方程,我们导出了具有均匀连接的网络和具有墨西哥帽型连接的环形吸引子网络的宏观稳态方程,并研究了稳态解的稳定性.在具有均匀连接的网络中观察到一个振荡的均匀状态,这是由于一个Hopf不稳定性。对于环形网络,高频扰动不影响系统稳定性。两种机制使非均匀稳态不稳定,导致两个振荡状态。一个图灵不稳定性导致一个旋转的凸块状态,而一个霍普夫不稳定性导致一个振荡的凸块状态,这是以前没有报道。不同的振荡状态发生在一个网络与突触抑制取决于强度的神经元间的连接。
2010-03-05 cond-mat.dis-nn q-bio.NC
Effects of dynamic synapses on noise-delayed response latency of a single neuron
噪声延迟衰减(Noise-delayed decay,NDD)现象是指在一定噪声强度范围内,随机神经元的首峰潜伏期出现极大值。在这里,我们调查的潜伏期响应动力学的一个单一的霍奇金-赫胥黎神经元,是受到阈值以上的周期性刺激和通过动态突触到达的背景活动。我们研究了第一个锋电位潜伏期反应作为突触前放电频率f的函数。这构成了一个比以前的作品更现实的情况下,因为f提供了一个合适的生物药理学现实的参数,以控制在实际的神经系统的活动水平。我们首先报告出现的经典NDD行为作为一个函数f的静态突触的限制。其次,我们表明,当短期抑制和易化机制包括在突触,不同的NDD功能,可以发现由于其调制作用的突触电流波动。例如,一个新的有趣的双NDD(DNDD)行为发生在不同的相关突触参数集。此外,取决于突触抑制和突触易化之间的平衡,单个NDD或DNDD可以占主导地位,以这种方式,突触易化有利于DNDD的出现,而突触抑制有利于单个NDD的存在。这是首次报道在神经元的反应潜伏期动力学中存在DNDD效应。
2015-09-28 cond-mat.dis-nn physics.bio-ph q-bio.NC
Synaptic potentiation facilitates memory-like attractor dynamics in cultured in vitro hippocampal networks
来自神经元的集体节律动力学对于记忆形成等认知功能至关重要,但神经元如何自我组织以产生这种活动还没有得到很好的理解。基于吸引子的模型已经成功地实现为神经元网络中记忆存储的理论框架。突触传递的活动依赖性修饰被认为是学习和记忆的生理基础。本研究的目的是证明,在体外海马神经元网络上使用药理学扰动,已被证明可以增加突触强度,遵循吸引子模型理论化的动力学假设。我们使用细胞外电极网格来研究这种扰动后网络活动的变化,并表明治疗后整体尖峰和爆发活动持续增加。这种活动的增加似乎招募了更多的“错误”尖峰脉冲。最后,相图显示了一个保守的活动模式,表明网络运行在一个稳定的动态状态。
2012-01-10 cond-mat.dis-nn q-bio.NC
Complex activity patterns generated by short-term synaptic plasticity
短时程突触可塑性(STSP)影响突触传递的效率,以实现持续的突触前活动。我们考虑吸引子神经网络,吸引子,在没有STSP的情况下,由兴奋性集团的细胞组装。我们表明,STSP可能会将这些吸引状态吸引遗物,诱导正在进行的瞬态动态序列的瞬时激活的细胞组装,前吸引。随后的单元组件可以是不相交的或部分重叠的。因此,可以使用所得到的动态来生成电机控制序列。
2018-03-14 cond-mat.dis-nn nlin.CD q-bio.NC
Instabilities in Attractor Networks with Fast Synaptic Fluctuations and Partial Updating of the Neurons Activity
我们提出并研究了一个概率神经自动机,其中错误更新的神经元的分数是一个参数,ρ(0,1)。对于小的rho,有松弛的吸引子之一和一个很大的敏感性,外部刺激和rho >= rho_c,吸引子之间的巡回。在这种状态下调谐rho,振荡可能会突然从规则变为混沌,反之亦然,这允许控制搜索过程的效率。我们争论的相似性模型的行为与最近的观察和混沌在神经生物学中的可能作用。
2008-05-08 cond-mat.dis-nn
Simultaneous embedding of multiple attractor manifolds in a recurrent neural network using constrained gradient optimization
本文提出通过约束梯度优化调整突触权重,以最小化能量景观粗糙度损失函数,从而在单个RNN中同时嵌入多个连续吸引子流形时显著抑制有害干扰并提升状态稳定性,且不牺牲存储容量。
2023-10-28 cond-mat.dis-nn q-bio.NC
Spontaneous Motion on Two-dimensional Continuous Attractors
吸引子模型是用于描述神经元池的放电率曲线的动力学的简化模型。放电率曲线或神经元活动被认为携带信息。连续吸引子神经网络(CANNs)描述了连续信息的神经处理,如对象的位置,对象的方向和对象的运动方向。最近,人们发现,在一维CANN,短期突触抑制可以不稳定的隆起形神经元吸引子活动配置文件。在本文中,我们研究了具有短期突触抑制和锋电位频率适应的二维CANN。我们发现,CANNs与短期突触抑制和CANNs与尖峰频率适应的动力学性质相似。我们还发现,在这两种CANN的微扰方法可以用来预测相图,动力学变量和自发运动的速度。
2015-01-31 cond-mat.dis-nn
Short-term synaptic facilitation improves information retrieval in noisy neural networks
研究发现,短时程突触抑制和易化对自联想神经网络的性能有很大影响。然而,迄今为止,仅获得了部分结果,例如集中在零温度下的最大存储容量的计算上。在这项工作中,我们将这些突触机制对自联想神经网络的影响的研究扩展到更现实和一般的条件,包括系统中存在噪声。特别是,我们的特点是通过其相图的系统的行为,我们的结论是,突触促进显着扩大了该地区的良好检索性能的网络。我们还发现,具有促进突触的网络可能具有比标准自联想网络高得多的临界温度,从而使神经网络在高噪声条件下表现得更好。
2012-02-17 cond-mat.dis-nn q-bio.NC
Astrocytic NMDA Receptors Modulate the Dynamics of Continuous Attractors
本文利用带短时程突触抑制的连续吸引子神经网络模型,研究阻断星形胶质细胞NMDA受体降低神经递质释放概率变化对神经动力学的影响,发现其能稳定吸引子状态并降低移动性,从而深化了对NMDA受体在神经计算与记忆中作用的理解。
2024-06-11 cond-mat.dis-nn q-bio.NC
Stochastic synaptic dynamics under learning
Bernstein Center for Computational Neuroscience(伯恩施坦计算神经科学中心);Physics Department of Humboldt-Universität zu Berlin(柏林洪堡大学物理系);Institute for Theoretical Biology, Department of Biology, Humboldt-Universität zu Berlin(柏林洪堡大学生物学院理论生物学研究所);Einstein Center for Neurosciences Berlin(柏林爱因斯坦神经科学中心)
本文提出了一种基于突触时依赖性可塑性(STDP)的随机突触动力学模型,通过分析突触权重的随机过程,揭示了记忆退化的时间进程和记忆容量的计算方法。
2026-01-13 cond-mat.dis-nn physics.bio-ph q-bio.NC
Forgetting leads to chaos in attractor networks
吸引子网络是大脑系统中记忆存储的一个有影响力的理论。这一理论最近受到了挑战,在记忆任务中神经元记录的强烈时间变异性的观察。在这项工作中,我们研究了一个稀疏连接的吸引子网络的记忆是根据赫布突触可塑性规则学习。在概括了已知的连续的,稀疏连接的Hopfield模型的结果后,我们研究了一个模型,在该模型中,新的记忆是不断学习和旧的记忆被遗忘,使用在线突触可塑性规则。我们发现,对于优化存储容量的遗忘时间尺度,网络的记忆检索动态的定性特征是年龄相关的:最近的记忆被检索为固定点吸引子,而旧的记忆被检索为混沌吸引子,其特征在于强异质性和时间波动。因此,不动点和混沌吸引子共存于网络相空间。该网络呈现出统计上可区分的记忆状态的连续体,其中混乱的波动在临界年龄以上突然出现,然后逐渐增加,直到记忆消失。我们开发了一个动态平均场理论(DMFT)来分析年龄相关的动力学,并将该理论与大型网络的模拟进行比较。我们的数值模拟表明,一个高度的稀疏性是必要的DMFT准确地预测网络容量。最后,我们的理论提供了具体的预测与老化备忘录的延迟反应任务。我们的吸引子网络理论以遗忘旧记忆为代价不断学习新信息,这一理论可以解释我们观察到的皮层提取状态的多样性,特别是皮层活动的强烈时间波动。
2021-11-30 cond-mat.dis-nn q-bio.NC
Neural networks with dynamical synapses: from mixed-mode oscillations and spindles to chaos
了解短时程突触抑制(STSD)和其他形式的突触可塑性是神经科学中的一个热点问题。在这里,我们研究STSD在形成复杂的脑节律模式中的作用。我们使用一个皮层电路模型的神经网络组成的不规则尖峰兴奋性和抑制性神经元具有1型和2型兴奋性和随机动力学。在该模型中,神经元形成稀疏连接的网络,它们的自发活动由代表突触噪声的随机尖峰驱动。通过模拟和分析计算,我们发现,如果STSD不存在,神经网络会显示异步行为或规则的网络振荡,这取决于噪声水平。在具有STSD的网络中,改变突触可塑性和噪声水平的参数,我们观察到向复杂模式的集体活动的过渡:混合模式和纺锤体振荡,集体活动的爆发和混沌行为。有趣的是,这些图案在一定的参数范围内是稳定的,并由临界边界分隔。因此,突触可塑性的参数可以在不同的网络状态之间起到控制参数或开关的作用。然而,由疾病引起的参数变化可能导致正在进行的神经活动的显著损害。我们通过使用混沌的0 - 1测试(Gottwald,G. &墨尔本,I.,#20004;,并表明它具有集体性。
2012-11-24 cond-mat.dis-nn physics.bio-ph q-bio.NC
Switching between memories in neural automata with synaptic noise
我们提出了一个随机神经自动机,其中活动波动和突触强度在不同的温度下演变,后者移动通过一组存储的模式。因此,该网络表现出各种检索阶段,包括一个描绘吸引子之间的连续切换。根据系统参数值,切换可以是随机的或更复杂的。
2005-10-01 cond-mat.dis-nn cond-mat.stat-mech
Short-Term Postsynaptic Plasticity Facilitates Predictive Tracking in Continuous Attractors
该研究将基于NMDAR的短期突触后可塑性引入连续吸引子神经网络,阐明其通过增强状态迁移实现对移动刺激的预测性追踪,并为脑启发预测算法提供新机制。
2023-09-27 cond-mat.dis-nn q-bio.NC
Synaptic balance due to homeostatically self-organized quasicritical dynamics
最近的实验表明,突触平衡的稳态调节导致视觉系统恢复和维持一个政权的幂律雪崩。在这里,我们研究了一个兴奋/抑制(E/I)的平均场神经元网络,有一个临界点与幂律雪崩和突触平衡。当加上抑制性突触的短时程抑制和放电阈值适应时,系统在临界点附近徘徊。这种稳态自组织准临界(SOqC)动力学在快速时间尺度上产生E/I突触电流抵消,导致波动驱动的不规则(AI)放电。我们提出了完整的相位图的模型没有适应不同的外部输入与突触耦合。该系统具有丰富的动态发放模式:同步规则(SR),异步规则(AR),同步不规则(SI),慢振荡(SO)和AI。它还呈现了突触电流的动态平衡,因为抑制性电流随着时间的推移试图补偿兴奋性电流,导致它们两者都随着外部输入线性缩放。因此,我们的模型统一了对皮质自发活动的两种不同观点:临界雪崩和波动驱动的AI放电都来自SOqC稳态适应,实际上是同一枚硬币的两面。
2020-02-21 cond-mat.dis-nn cond-mat.stat-mech nlin.AO
Double Inverse Stochastic Resonance with Dynamic Synapses
我们研究了一个模型神经元的行为,该模型神经元接收基于大量传入神经的不相关尖峰活动的生物药理学上真实的噪声突触后电流。我们发现,静态突触,这样的噪音可以引起逆随机共振(ISR)作为突触前放电率的函数。我们将其与具有短期突触可塑性的动态突触的情况进行比较,并表明ISR存在的突触前放电率间隔可以延长或缩短。我们考虑短期抑郁和促进。有趣的是,我们发现一个双逆随机共振(DISR),两个不同的井集中在不同的突触前放电率,可以出现。
2016-12-23 cond-mat.dis-nn q-bio.NC
Non-Hermitian Quasi-Localization and Ring Attractor Neural Networks
一大类“稀疏”随机矩阵的本征模,其相互作用集中在对角线附近,在空间中呈指数局域化,如安德森在1957年首次发现的量子系统。安德森局域化在从固体中的电子到机械和光学系统的各种问题中起着普遍的作用。然而,它在神经科学中的意义(其中连接可以是强不对称的)在很大程度上尚未被探索,主要是因为神经系统的突触连接矩阵通常是“密集的”,这使得本征模空间扩展。在这里,我们探讨的角色,安德森局域化可以在神经网络中发挥的重点是“空间结构”的突触连接矩阵的障碍。最近,神经科学家通过实验证实了局部兴奋和全局抑制(LEGI)环吸引子模型可以在功能上代表果蝇(Drosophila melanogaster)中枢脑的头向细胞。我们首先研究了一个非厄米特(即不对称)的紧束缚模型与无序,然后建立一个连接到LEGI环吸引子模型。我们发现:(i)具有结构最近邻无序的LEGI环吸引子网络的主特征向量是“准局域化的”,即使具有完全稠密的抑制连接。(ii)准本地化特征向量在早期神经动力学中起主导作用,并且主要准本地化特征向量的位置预测代表例如昆虫头部方向的“活动块”的初始位置。我们的研究为探索安德森局域化理论和空间结构无序神经网络之间的交叉点开辟了一个新的途径。
2018-11-19 cond-mat.dis-nn cond-mat.stat-mech q-bio.NC
Attractor Metadynamics in Adapting Neural Networks
缓慢的适应过程,如突触和内在可塑性,在大脑中比比皆是,并塑造了在更快的时间尺度上发生的神经动力学的景观。在任何给定的时间,网络的特征是一组内部参数,这些参数不断地适应,尽管速度很慢。这组参数定义了各个绝热吸引子的数量和位置。因此,网络参数的缓慢演变会导致吸引子景观的演变,我们称之为吸引子元自适应过程。我们研究了几个连续时间自治模型网络的吸引子景观的元自洽的性质。我们发现绝热吸引子的位置的第一和第二阶的变化,并认为不断发展的吸引子景观的研究构成了一个强大的工具,了解神经动力学的整体发展。
2014-04-22 cond-mat.dis-nn cs.NE q-bio.NC
Anticipative Tracking with the Short-Term Synaptic Plasticity of Spintronic Devices
在认知任务中,对高速运动目标的实时跟踪是当前人工智能技术的一个挑战,因为数据处理和计算非常耗时,导致了阻碍性的时间延迟。脑激励连续吸引子神经网络(CANN)可以用来跟踪快速移动的目标,如果网络中的动态突触具有短期可塑性,则网络中的时间延迟可以得到内在补偿。在这里,我们表明,短期抑郁症的突触可以实现磁隧道结,它完美地再现了广泛应用的数学模型中的突触权重的动态。然后,这些动态突触被纳入一维和二维的CANN,这是证明有能力通过微磁模拟预测一个移动的物体。这种基于自旋电子学的便携式神经形态计算硬件不需要训练,因此非常有希望用于运动目标的跟踪技术。
2020-10-14 cond-mat.dis-nn physics.app-ph
Emergence of low noise \emph{frustrated} states in E/I balanced neural networks
我们研究了二进制神经网络中出现的现象,其中,概率c突触强度根据赫布处方选择,概率(1-c)有一个额外的随机贡献突触权重。这个新的术语,从高斯双峰分布中随机选取,平衡了网络中的突触群体,使得E/I群体比率具有80-20的关系,模仿了在哺乳动物皮层中观察到的平衡。对于相关参数的某些区域,我们的系统描绘了标准记忆吸引子(在低温下)和非记忆吸引子(在高温下)。然而,当c降低时,在低于一定温度T_t时,潜在的噪声水平也降低,一种类似于自旋玻璃行为的存储器受抑状态急剧出现。与Hopfield类神经网络中发生的情况相反,即使在加载参数alpha->0的限制下,这里也会出现挫折状态。此外,我们观察到,挫折状态实际上对应于两种与存储的记忆无关的非消失活动状态,分别与高活动或上升状态和低活动或下降状态相关联。利用线性稳定性分析,我们在相关参数空间中找到了局部稳定的定态区域,并证明了在T_t以下,挫挫态与记忆吸引子共存。然后,记忆和挫折状态之间的多稳定性是目前相对较小的c,和亚稳定性的记忆吸引子可以出现作为c减少甚至更多。我们研究了我们的系统,使用标准的平均场技术和蒙特卡罗模拟,获得了完美的理论和模拟之间的协议。我们的研究对……
2016-08-23 cond-mat.dis-nn q-bio.NC
Microcircuit synchronization and heavy tailed synaptic weight distribution in preBötzinger Complex contribute to generation of breathing rhythm
前波青格复合体是哺乳动物吸气节律发生器,将吸气时间编码为运动模式。在这个稀疏连接的网络中的尖峰同步产生吸气爆发,尽管在每个呼吸周期中吸气前活动开始后具有可变的延迟。使用preBötC节律性微电路最小模型,我们研究了突发的概率和潜伏期的变化,模仿实验。在具有实验确定的神经元和突触参数的1000个点神经元的各种生理上合理的图中,有向Erdens-Rényi图最好地捕捉了实验观察到的动态。从机制上讲,preBötC(去)同步和振荡动力学是由发放神经元的传出连接调节的,发放神经元通过输入收敛控制适度吸气前活动的放大。此外,为了重复实验,突触权重的对数正态分布是必要的,以增强收敛一致输入的功效。这些机制使异常强大而灵活的preBötC吸引子动力学,我们假设,代表普遍的时间处理和决策的计算图案在整个大脑。
2020-12-23 cond-mat.dis-nn nlin.AO q-bio.NC
Robustness of retrieval properties against imbalance between long-term potentiation and depression of spike-timing-dependent plasticity
最近的一些生理学研究显示了发放时间依赖的可塑性(STDP)。STDP依赖于突触前和突触后尖峰的精确时间关系。许多学者指出,STDP的长时程增强(LTP)和长时程抑制(LTD)之间的精确平衡对于稳定的学习具有重要意义。然而,在大脑中精确地保持平衡的情况是不可想象的。利用统计神经动力学的方法,我们显示了强大的检索性能的时空模式在联想记忆模型对LTP和LTD之间的不平衡。当LTD的波动被假定服从高斯分布的均值0和方差$δ^2$,存储容量取一个有限的值,即使在大$δ$。这意味着STDP的LTP和LTD之间的平衡不需要精确地保持,但必须保持平均。此外,我们发现,一个盆地的吸引力变得越来越小,而初始临界重叠保持不变的$δ$增加。
2003-09-29 cond-mat.dis-nn q-bio
When Response Variability Increases Neural Network Robustness to Synaptic Noise
已知皮层感觉神经元是高度可变的,在这个意义上,由相同刺激引起的反应经常在不同试验中发生显著变化。这种变异性的起源是不确定的,但它通常被解释为有害的噪声,降低了神经回路的计算精度。在这里,我们调查的可能性,这种反应的可变性可能,事实上,是有益的,因为它可以部分补偿由于网络的突触强度的随机变化而导致的准确性下降。我们研究了两种噪声,反应(或神经元)噪声和突触噪声之间的相互作用,通过分析它们的联合影响的准确性的神经网络训练执行各种任务。我们发现了一个有趣的、通用的相互作用:当突触连接的波动与它们的强度(乘性噪声)成正比时,与没有响应噪声的相同网络相比,输入神经元中一定量的响应噪声可以显著提高网络性能。性能得到增强,因为响应噪声和乘性突触噪声在某些方面是等效的。这些结果在最基本的网络中得到了分析证明,该网络由两个输入神经元和一个输出神经元组成,执行简单的分类任务,但计算机模拟表明,这种现象在广泛的架构中仍然存在,包括经常性(吸引子)网络和执行坐标变换的感觉运动网络。结果表明,反应的可变性可以在不断学习的网络中发挥重要的动态作用。
2005-10-18 cond-mat.dis-nn q-bio.NC
Self-control dynamics for sparsely coded networks with synaptic noise
研究了具有突触噪声的稀疏编码吸引子联想记忆模型中包含宏观时变阈值的检索动力学问题。它示出,如果阈值被适当地选择为串扰噪声和记忆模式的活动的函数,在时间演化的过程中自动地自适应,则保证了模型的自主功能。这种自我控制机制大大提高了质量的固定点检索动态,特别是存储容量,流域的吸引力和互信息的内容。
2004-03-23 cond-mat.dis-nn cond-mat.stat-mech
Exact neural mass model for synaptic-based working memory
开发了一种精确重现异质放电网络动力学的神经质量模型,通过突触促进与抑制机制模拟工作记忆操作,揭示了记忆容量与呈现速率的关系及脑电信号特征。
2020-10-14 cond-mat.dis-nn math.DS nlin.AO
Quantifying impacts of short-term plasticity on neuronal information transfer
已经假设功效的短期变化增强了突触在神经元之间和神经元网络内传递信息的能力。即使在单个神经元之间的连接水平上,直接证实这个简单的猜想也被证明是难以捉摸的。通过结合配对细胞记录,现实的突触建模和信息理论,我们提供的证据表明,短期可塑性不仅可以改善,而且可以减少神经元之间的信息传递。我们专注于一个具体的例子在大鼠新皮层,但我们的结果可能会推广到其他系统。当信息包含在单个尖峰的时间,我们发现,促进,抑郁和恢复影响信息传递的比例后,神经递质释放的概率的影响。当信息仅通过平均尖峰频率传递时,短期可塑性的影响主要取决于目标网络可以区分的尖峰频率范围(其有效动态范围)。我们的研究结果表明,为了有效地传递信息,大脑必须在发育和行为过程中匹配突触类型,编码策略和网络连接。
2012-04-15 cond-mat.dis-nn physics.bio-ph q-bio.NC
Tracking Dynamics of Two-Dimensional Continuous Attractor Neural Networks
我们介绍了一个二维连续吸引子神经网络(CANNs)的解析可解模型。在没有外部刺激的情况下,突触输入和神经元响应形成高斯隆起,并使网络能够通过其在二维空间中的平移位移来跟踪外部刺激。引入极坐标系下二维量子谐振子的基函数来描述高斯凸点的畸变模。采用摄动法对其进行了动力学分析。通过考虑外部刺激突然改变其位置时的网络行为来测试该方法,我们得到了各种失真模式的反应时间和幅度的结果,与仿真结果非常吻合。
2009-10-08 cond-mat.dis-nn
Analytically tractable model of synaptic crowding explains emergent small-world structure and network dynamics
Waseda University(早稻田大学);Honda Research Institute Japan(本田日本研究院)
本文提出一个基于突触拥挤的最小布线规则,解释了小世界结构和网络动力学的形成机制,通过突触拥挤规则产生近功率律的连接长度分布,并展示度统计对吸引盆地边界的影响。
2026-03-16 cond-mat.dis-nn cs.NE cs.SI
From statistical inference to a differential learning rule for stochastic neural networks
随机神经网络是一种能够建立外部刺激集合的概率表示的原型计算设备。建立在推理和学习之间的关系,我们得出一个突触可塑性规则,只依赖于延迟活动的相关性,并显示了一些显着的功能。我们的“延迟相关匹配”(DCM)规则满足生物可行性的一些基本要求:有限和嘈杂的传入信号,戴尔的原则和突触连接的不对称性,权重更新计算的局部性。尽管如此,DCM规则能够在一般情况下存储大量的模式作为随机递归神经网络中的吸引子,而不需要任何修改:它可以处理相关模式,广泛的架构(有或没有隐藏的神经元状态),具有palimplant属性的一次性学习,同时避免虚假吸引子的扩散。当隐藏单元存在时,我们的学习规则可以用于构建玻尔兹曼机生成模型,利用在特征提取和分类任务中添加隐藏神经元。
2018-10-22 cond-mat.dis-nn q-bio.NC
Transitions in Oscillatory Dynamics of Two Connected Neurons with Excitatory Synapses
结果表明,具有兴奋性突触的两个相连的整合-激发神经元的长时程行为是由某些不动点决定的。在等权值的情况下,我们发现了四个不同的动态相,在这四个动态相之间存在一个全局吸引子不动点的特定相,这一点从不同的角度引起了人们的兴趣。模拟支持我们的分析工作。当突触权重相等时,我们没有观察到同步,但是当权重不同时,我们观察到几乎同步的状态。仿真结果表明,当只有一个非平凡的固定点时,振荡周期对突触权重的微小变化是稳定的
2002-03-05 cond-mat.dis-nn q-bio
Impact of deviation from precise balance of spike-timing-dependent plasticity
最近的生物学实验结果表明,突触可塑性取决于突触前和突触后锋电位的相对计时,这被称为锋电位计时依赖可塑性(STDP)。许多作者认为,STDP的长时程增强(LTP)和长时程抑制(LTD)之间的精确平衡对于时空模式的存储至关重要。一些作者数值研究了LTP和LTD之间的不平衡对网络特性的影响。然而,数学机制仍然未知。我们分析表明,联想记忆网络具有强大的检索性能的时空模式,这些属性使得网络不容易受到任何偏离LTP和LTD之间的精确平衡时,网络包含有限数量的神经元。
2004-03-15 cond-mat.dis-nn q-bio
Theory of coupled neuronal-synaptic dynamics
本文通过动态平均场理论系统研究神经元与突触耦合动力学,揭示Hebbian和反Hebbian可塑性对网络活动、时间尺度及混沌特性的影响,并提出可冻结混沌相作为工作记忆的新机制。
2024-01-10 cond-mat.dis-nn cs.NE q-bio.NC
Bistable Gradient Networks in the Thermodynamic Limit
我们研究了吸引子神经网络的大网络,低负载行为,即所谓双稳态梯度网络(BGN)。我们使用分析和数值方法来描述网络的吸引子状态和吸引域。能源景观比Hopfield网络更复杂,取决于单元之间的耦合强度。在弱耦合时,BGN充当高度选择性的联想记忆;输入必须接近存储的模式之一才能被识别。出现了一类在Hopfield网络中不存在的虚假吸引子。更强的耦合导致过渡到一个更像Hopfield的制度与大盆地的吸引力。与Hopfield情形相比,尽管Hebbian突触结构是相同的,并且没有随机噪声,但虚假吸引子的吸引盆明显受到抑制。
2002-03-27 cond-mat.dis-nn
Nonlinear dynamics of random neural networks with second-order synaptic motifs
Interdisciplinary Graduate Program in Quantitative Biosciences, Georgia Institute of Technology(佐治亚理工学院定量生物科学跨学科研究生项目);School of Mathematics, Georgia Institute of Technology(佐治亚理工学院数学学院)
本研究通过动态平均场理论揭示二阶突触基序(链式、互惠、汇聚、发散)共同重塑随机神经网络雅可比特征值谱,产生铁磁态、极限环及玻璃态等多稳态,并降低混沌活动的熵产生与吸引子维数,确立其为皮层回路动力学的基本结构机制。
2026-09-15 cond-mat.dis-nn nlin.CD q-bio.NC
A robust balancing mechanism for spiking neural networks
提出一种基于短期抑制引起突触可塑性的非线性鲁棒平衡机制,使脉冲神经网络在无强外部电流时仍能维持由涨落驱动的高度不规则脉冲动态。
2024-01-23 cond-mat.dis-nn q-bio.NC
Long-term memory stabilized by noise-induced rehearsal
尽管突触强度的寿命很短,但皮层网络可以保持数十年的记忆。神经网络能在不稳定的突触中存储持久的记忆吗?在这里,我们研究随机噪声对存储在吸引子神经网络的突触中的记忆的稳定性的影响。该模型包括持续的尖峰时间依赖可塑性(STDP)。我们表明,某些类的STDP规则可以导致存储在网络中的记忆模式的稳定。这种稳定性是由噪声引起的排练造成的。我们发现,非结构化的神经噪声,通过经常性的网络权重后,进行时间相关性的所有记忆模式的印记。在某些条件下,STDP与这些相关性相结合,可以导致所有现有模式的强化,即使是那些从未明确访问过的模式。因此,非结构化神经噪声可以稳定突触连接的现有结构。我们的研究结果可能提供功能的原因,高度不规则的尖峰显示皮层神经元和系统记忆巩固模型提供的理由。因此,我们提出不规则的神经活动是帮助皮层网络维持稳定连接的特征。
2012-05-31 cond-mat.dis-nn q-bio.NC
Beyond catastrophic forgetting in associative networks with self-interactions
本研究提出在联想记忆网络中保留自相互作用(自突触),通过重塑能量景观并引入辅助内部场,使网络在超越灾难性遗忘临界阈值的情况下仍能保持稳健的纯回忆状态,且无需复杂的非局部学习规则。
2025-04-06 cond-mat.dis-nn cond-mat.stat-mech q-bio.NC
Storage capacity of phase-coded patterns in sparse neural networks
研究了稀疏连接递归神经网络中多个相位编码模式作为稳定动态吸引子的存储问题。为了确定现有连接的突触强度并存储相位编码模式,我们引入了一个受尖峰时间依赖可塑性(STDP)启发的学习规则。我们发现,在学习后,网络的自发动力学重放存储的动力学模式之一,这取决于网络的初始化。我们研究了网络容量作为拓扑结构的函数,并发现,一个小世界的拓扑结构可能是最佳的,作为高布线成本的长距离连接和容量增加之间的折衷。
2011-06-10 cond-mat.dis-nn q-bio.NC
Density-based clustering: A 'landscape view' of multi-channel neural data for inference and dynamic complexity analysis
来自N个电极的同时记录产生N维时间序列,其要求有效的表示以暴露潜在动态的相关方面。将时间序列装箱定义了填充N维空间的神经活动向量作为密度分布,当神经动力学通过亚稳态执行噪声路径时(通常是神经科学中感兴趣的情况),特别是信息;这使得N维空间中的聚类成为自然选择。我们应用一个变种的“均值漂移”算法来执行这样的聚类,并验证它在玻璃相,其中亚稳态是不相关的记忆吸引Hopfield网络。被识别为簇的质心的神经状态,然后被用来定义一个简约的参数化的突触矩阵,这使得一个显着的改进,从神经活动推断突触耦合。接下来,我们考虑更现实的情况下,一个多模块的尖峰网络,与尖峰频率适应(SFA)诱导的历史依赖性的影响,我们开发了一个程序,玻尔兹曼学习的启发,但扩展其应用领域,学习模块间的突触耦合,使尖峰网络再现规定的空间相关性模式。在对多模块尖峰网络产生的活动进行聚类后,我们将其多维动态表示为聚类质心的符号序列,这自然有助于复杂性估计,从而提供有关SFA诱导的记忆效应的信息。为了获得一个相对的复杂性措施,我们比较的Lempel-Ziv复杂性的实际质心序列的马尔可夫过程的质心之间共享相同的转移概率之一,作为一个例子,我们表明,这种相对复杂性的时间尺度上的SFA的依赖。
2017-01-02 cond-mat.dis-nn q-bio.NC
Functional Cliques in Developmentally Correlated Neural Networks
我们考虑一个稀疏的随机网络的兴奋性泄漏整合和消防神经元与短期突触抑制。此外,为了模拟大脑回路在其发展的第一阶段的动力学,我们为每个神经元引入了入度和出度之间的相关性以及兴奋性和相应的总度之间的相关性,我们分析了单个神经元刺激和删除对网络集体动力学的影响。我们发现了一小群能够控制甚至沉默网络突发活动的神经元的存在。这些神经元形成了一个功能集团,因为只有它们以精确的顺序并在特定的时间窗口内激活才能引发群体爆发。
2017-03-12 cond-mat.dis-nn nlin.AO q-bio.NC
DMFT analysis of Hopfield network with plasticity
The University of Tokyo(东京大学);Department of Physics, The University of Tokyo(东京大学物理系);Institute for Physics of Intelligence, The University of Tokyo(东京大学智能物理研究所);Trans-Scale Quantum Science Institute, The University of Tokyo(东京大学跨尺度量子科学研究所)
本文研究了一个具有在线活动依赖性突触可塑性的全连接Hopfield型联想记忆网络,其中神经状态和突触耦合共同进化。通过生成函数形式主义,推导出在大量存储随机模式极限下的动态平均场理论(DMFT),并展示许多体动力学可简化为一个有效的单站点随机过程,具有有色高斯交叉干扰噪声和延迟反馈项。DMFT方程的数值解与直接模拟结果一致。研究发现适度的可塑性通过产生正的延迟反馈扩大了吸引盆地并增加了最大可检索记忆负载,从而对抗交叉干扰噪声。然而,过度强的可塑性会导致网络自身印刻不完美的初始提示,产生伪吸引子并降低检索性能。因此,从记忆稳定化与提前提示印刻之间的权衡中出现了最优的可塑性强度。这些结果将联想记忆的DMFT描述扩展到具有共同进化的神经和突触动力学的网络。
2026-06-05 cond-mat.dis-nn
A three-threshold learning rule approaches the maximal capacity of recurrent neural networks
了解记忆如何在神经元群体中编码和检索的理论基础是神经科学的核心挑战。一个流行的理论场景建模记忆功能是吸引子神经网络的情况下,其原型是Hopfield模型。与感知器学习算法相比,该模型具有较差的存储容量。在这里,通过变换的感知器学习规则,我们提出了一个在线学习规则的经常性神经网络,实现接近最大的存储容量,而没有明确的监督错误信号,只依赖于本地可访问的信息。全连接网络由兴奋性二元神经元组成,具有可塑性经常性连接和非可塑性抑制性反馈,稳定了网络动力学;记忆模式在线呈现为强传入电流,产生神经元突触输入的双峰分布。对应于活动输入的突触被修改为相对于三个阈值的局部场的值的函数。在最高阈值以上和最低阈值以下,不发生塑性。在这两个阈值之间,当局部场高于/低于中间阈值时发生增强/抑制。我们模拟和分析了一个实现这一规则的二进制神经元网络,并测量了它的存储容量为不同大小的盆地的吸引力。通过数值模拟得到的存储容量被证明是接近分析计算预测的值。我们还测量了产能对外部投入强度的依赖性。最后,我们量化的统计结果的突触连接矩阵,并发现,零权重突触的分数和权重矩阵的对称度的存储模式的数量增加。
2015-08-03 cond-mat.dis-nn q-bio.NC
A novel compound synapse using probabilistic spin-orbit-torque switching for MTJ based deep neural networks
模拟电子非易失性存储器模仿突触操作正在探索的神经形态计算系统的实现。由随机二进制元素组成的复合突触是模拟记忆突触的替代方案,以实现多级记忆操作。在现有的二进制存储器技术中,基于磁性隧道结(MTJ)的磁性随机存取存储器(MRAM)技术已经成熟到商业化的程度。对于这项工作更重要的是,随机性对于MTJ开关物理是自然的,例如被称为p位的器件,其模仿二进制随机神经元。在这篇文章中,我们实验证明了一种新的复合突触,使用随机自旋轨道力矩(SOT)开关的合奏纳米磁铁,位于一个共享的自旋霍尔效应(SHE)材料通道,即钽。通过使用适当选择的脉冲方案,我们能够证明线性增强和抑郁症的突触,所需的许多神经形态架构。除了这项实验工作之外,我们还在基于SOT-MRAM的784*200*10深度信念网络(DBN)上进行了电路模拟,该网络由基于p位的神经元和复合突触组成。MNIST模式识别被用来评估系统的性能,我们的研究结果表明,识别错误率显着降低时,可以实现使用我们的增量脉冲方案,而不是非线性增强和抑郁症时,采用相同的脉冲。
2019-10-01 cond-mat.dis-nn physics.app-ph
Retrieval and Chaos in Extremely Diluted Non-Monotonic Neural Networks
在本文中,我们讨论了极端稀释,非单调神经网络的动力学性质。假设并行更新和Hebb处方的突触连接,宏观重叠的流量方程。得到了一个丰富的动力学相图,显示了一个稳定的检索阶段,以及循环二和混沌行为。进行了数值模拟,显示出良好的协议与分析结果。此外,模拟提供了一个额外的洞察微观动力学行为在混沌阶段。结果表明,单个神经元状态的冻结与混沌吸引子的结构有关。
2002-02-06 cond-mat.dis-nn q-bio
Symmetric sequence processing in a recurrent neural network model with a synchronous dynamics
在这项工作中,允许存在一个自我相互作用的对称序列处理和Hebbian模式重建之间的竞争突触的循环吸引子神经网络模型的同步动力学和稳态进行了研究。在没有噪声的情况下,得到了定态的相图,表现出恢复、对称和周期两个循环态以及相关和冻结态的相位。冻结状态不稳定的突触噪声和分离区域的相关和循环状态。兴奋性或抑制性自我相互作用产生固定点或循环行为的扩大阶段。
2009-08-11 cond-mat.dis-nn cond-mat.stat-mech
Neural networks with transient state dynamics
我们调查动力系统的特点是一个时间序列的不同的半稳定的活动模式,因为他们观察到的皮层神经活动模式。我们提出并讨论了一个一般的机制,允许吸引子网络和一个特定的邻接瞬态网络,这是严格耗散之间的绝热连续。具有瞬态的动态系统在其工作点被自动调节时保持功能性;避免长时间的停滞或漂移到快速波动的状态。我们表明,在一个连续时间的神经网络模型,一个单一的本地更新规则的在线学习允许同时(i)通过无监督的赫布型学习的信息存储,(ii)自适应调节的工作点和(iii)抑制失控的突触生长。给出了模拟结果,讨论了时间反演对称性和链路对称性的自发破缺。
2007-05-01 astro-ph cond-mat.dis-nn cond-mat.other
Balanced Excitation and Inhibition are Required for High-Capacity, Noise-Robust Neuronal Selectivity
Columbia University(哥伦比亚大学);Edmond and Lily Safra Center for Brain Sciences(埃德蒙和莉莉·萨弗拉脑科学中心);Racah Institute of Physics(拉卡物理研究所);The Hebrew University of Jerusalem(耶路撒冷希伯来大学);Center for Brain Science(脑科学中心);Harvard University(哈佛大学)
大脑皮层中的神经元和网络必须在多种噪声源的情况下可靠地运行。为了评估输入和输出噪声的影响,我们确定了单神经元刺激选择性反应的鲁棒性,以及执行记忆任务的神经元网络的吸引子状态的鲁棒性。我们发现,输出噪声的鲁棒性要求突触连接处于平衡状态,其中兴奋和抑制都很强,并且在很大程度上相互抵消。我们评估了这种制度存在所需的条件,并确定在其中运行的网络的属性。一个合理的突触可塑性规则的学习,平衡权重配置。我们的理论预测的兴奋性和抑制性突触的数量最大化的编码能力的平衡网络的传入激活的一个给定的统计的最佳比例。以前的工作表明,平衡的网络放大时空变异性,并占观察到的异步不规则状态。在这里,我们提出了一种新型的平衡网络,它放大了撞击信号中的微小变化,并从学习中自动出现,以鲁棒地执行神经元和网络功能。
2017-05-03 cond-mat.dis-nn cs.LG cs.NE
Statistical mechanics of phase-space partitioning in large-scale spiking neuron circuits
突触相互作用构成了神经回路动力学的相空间,并限制了神经计算。了解如何需要处理这些离散交互的方法,但很少存在。最近,人们发现,即使是随机网络表现出动态,分区相空间成许多吸引子盆地。在这里,我们利用这一现象,发展理论的几何相空间划分尖峰神经电路。我们发现构造相空间的盆地边界是尖峰时间碰撞事件的前像。制定的尖峰时间碰撞事件的统计理论,我们推导出表达式的发散率的相邻盆地和它们的大小分布。这一理论揭示了典型的盆直径随着抑制耦合强度的增加而增加,随着尖峰事件的发生率而缩小。我们的研究提供了一个分析和概括的方法解剖连接,耦合强度,单神经元动力学和人口活动形状的尖峰电路的相空间几何形状。
2017-05-01 cond-mat.dis-nn nlin.CD q-bio.NC
Mean field theory of self-organizing memristive connectomes
本研究首次提出纳米线连接组电路电压诱导多态性的有效均场理论,证明其行为可由单结点微观动力学推导的低维方程描述,并能拟合突触模拟电路的增强与抑制,最终推广为一般性理论。
2023-01-24 cond-mat.dis-nn cond-mat.soft cond-mat.stat-mech