Global stability of a Hebbian/anti-Hebbian network for principal subspace learning
Baylor College of Medicine(贝勒医学院);Rice University(莱斯大学)
本文研究了Hebbian/anti-Hebbian网络在主子空间学习中的全局稳定性,证明了突触动态在两个阶段的演化特性。
2026-01-19 cs.NE math.DS q-bio.NC
Modulation of synaptic plasticity by glutamatergic gliotransmission: A modeling study
谷氨酸能神经胶质传递(Glutamatergic gliotransmission)是星形胶质细胞在突触周围以活性依赖的方式释放谷氨酸的过程,是调节突触可塑性的重要信号通路,但其在体内的表达和功能尚不清楚。在这里,我们专注于两个实验上确定的胶质递质patwhays:(i)调制的突触释放和(ii)突触后慢内向电流介导的谷氨酸释放星形胶质细胞,并探讨其可能的功能相关性突触可塑性在生物物理模型的星形胶质细胞调节的突触。我们的模型预测,这两种途径都可能深刻影响短期和长期的可塑性。特别是,星形胶质细胞的活动依赖性谷氨酸释放可能会极大地改变尖峰时间依赖性可塑性,从而在相同的方案下将增强转化为抑制(反之亦然)。
2016-08-12 q-bio.NC
Energy budgets govern synaptic precision and its regulation during plasticity
Intelligent Systems Research Centre, School of Computing, Engineering, and Intelligent Systems, Ulster University(阿尔斯特大学计算、工程与智能系统学院智能系统研究中心);Faculty of Engineering, University of Bristol(布里斯托大学工程学院)
本研究通过能量受限框架揭示突触精度由能量预算调控,并展示可塑性如何根据均值变化调整能量分配以预测突触方差。
2026-02-17 q-bio.NC
Local dendritic balance enables learning of efficient representations in networks of spiking neurons
神经网络如何通过局部可塑性机制学习有效地表示复杂和高维的输入?表示学习的经典模型假设输入权重是通过成对的Hebbian可塑性学习的。在这里,我们表明,成对的Hebbian可塑性只适用于神经动力学和输入统计不切实际的要求。为了克服这些局限性,我们从第一性原理推导出一个基于电压依赖性突触可塑性规则的学习方案。在这里,抑制学习局部平衡个体树突隔室中的兴奋性输入,从而可以调节兴奋性突触可塑性以学习有效的表征。我们在模拟中证明,这种学习方案的工作鲁棒性,即使是复杂的,高维的和相关的输入,并与抑制传输延迟,其中赫布式的可塑性失败。我们的研究结果得出了树突兴奋抑制平衡和电压依赖性突触可塑性之间的直接联系,在体内观察,并建议,这两者都是至关重要的表征学习。
2020-10-23 q-bio.NC
Neural Manifolds as Crystallized Embeddings: A Synthesis of the Free Energy Principle, Generalized Synchronization, and Hebbian Plasticity
University of Washington School of Medicine(华盛顿大学医学院)
本文提出广义同步作为自由能原理的底层实现机制,结合赫布可塑性将感觉驱动同步产生的相关结构化为连续吸引子网络,从而解释神经流形的形成与感知现象。
2026-05-28 q-bio.NC
Multicoding in neural information transfer suggested by mathematical analysis of the frequency-dependent synaptic plasticity in vivo
神经信息处理的两个要素已被初步提出:神经元的放电率和发放时间。在突触可塑性中,尽管依赖于突触前和突触后发放时间的发放时间依赖可塑性(STDP)被认为是最常见的规则,但最近的研究表明,大脑在体内对精确发放时间的抑制性是STDP的关键。因此,放电频率在体内突触可塑性中的重要性再次被认识。然而,关于频率依赖性突触可塑性(FDP)在体内是如何调节的,目前还知之甚少。在这里,我们专注于突触前输入模式,细胞内钙衰减时间常数,和背景突触活动,这取决于神经元类型和大脑中的解剖和生理环境。通过分析基于钙的模型,我们发现,突触的重量取决于这些因素的特点在体内,即使神经元接收相同的输入速率。这一发现表明,在FDP,甚至神经编码在体内的输入频率以外的多方面因素的参与。
2020-01-13 q-bio.NC
Tensor decomposition of higher-order correlations by nonlinear Hebbian plasticity
生物学上的突触可塑性表现出非线性,这是经典的赫布学习规则所不能解释的。在这里,我们介绍了一个简单的家庭广义非线性赫布学习规则。我们研究了在简单的神经元接收前馈输入的设置中由其动态实现的计算。这些非线性赫布规则允许神经元学习其高阶输入相关性的张量分解。特定的输入相关分解和分解的形式取决于塑性规则中的非线性的位置。对于简单的生物学激励参数,神经元学习高阶输入相关张量的特征向量。我们证明了张量特征向量是吸引子,并确定其吸引盆。我们计算了这些盆地的体积,表明主导特征向量具有最大的吸引盆地。然后,我们研究任意的学习规则,发现任何学习规则,承认有限的泰勒扩展到神经输入和输出也有稳定的平衡在高阶输入相关张量的广义特征向量。因此,突触可塑性的非线性允许神经元以简单的方式编码高阶输入相关性。
2021-10-25 q-bio.NC stat.ML
Memory-enriched computation and learning in spiking neural networks through Hebbian plasticity
Graz University of Technology(格拉茨技术大学);Silicon Austria Labs(奥地利硅谷实验室)
记忆是生物神经系统的一个关键组成部分,它能够在从数百毫秒到数年的巨大时间范围内保留信息。虽然赫布可塑性被认为在生物记忆中起着关键作用,但到目前为止,它主要是在模式完成和无监督学习的背景下进行分析的。在这里,我们建议,赫布可塑性是生物神经系统中的计算的基础。我们介绍了一种新的脉冲神经网络架构,丰富了赫布突触可塑性。我们表明,赫布丰富呈现脉冲神经网络令人惊讶的通用性方面的计算以及学习能力。它提高了他们的分布外泛化、一次性学习、跨模态生成联想、语言处理和基于奖励的学习能力。由于脉冲神经网络是节能神经形态硬件的基础,这也表明可以基于该原理构建强大的认知神经形态系统。
2022-05-23 cs.LG cs.NE q-bio.NC
Cortical credit assignment by Hebbian, neuromodulatory and inhibitory plasticity
大脑皮层学会在刺激和支持行为的尖峰活动之间建立联系。它通过调整突触权重来做到这一点。这些转换的复杂性意味着突触必须在没有访问完整错误信息的情况下改变,这是一个通常被称为“信用分配”的问题。然而,皮质如何解决这个问题仍然是未知的。我们提出,可塑性规则的组合,1)赫布,2)乙酰胆碱依赖和3)去甲肾上腺素依赖的兴奋性可塑性,连同4)抑制可塑性恢复E/I平衡,有效地解决了信用分配问题。我们得出的条件下,神经元模型可以学习一些协会接近其理论能力。我们确认我们的预测乙酰胆碱依赖性和抑制可塑性通过重新分析实验数据。我们的工作表明,详细的皮层E/I平衡降低了输入与输出相关联的问题的维度,从而允许不完善的“监督”的神经调节系统,以指导学习有效。
2019-11-01 cond-mat.dis-nn q-bio.NC
Paired associative stimulation demonstrates alterations in motor cortical synaptic plasticity in patients with hepatic encephalopathy
目的:肝性脑病(Hepatic encephalopathy,HE)是一种由肝功能衰竭引起的可逆性脑功能障碍.改变的突触可塑性被认为在HE的病理生理学中起主要作用。在这里,我们使用成对的联想刺激,刺激间隔为25 ms(PAS 25),经颅磁刺激(TMS)协议,以测试突触可塑性的运动皮层的患者明显HE。方法:23例HE患者和23例健康对照者入组研究。运动诱发电位(MEP)振幅作为皮质兴奋性的指标进行评估。比较PAS25干预后两组MEP振幅变化的时间进程。结果:对照组中PAS 25后MEP振幅增加,表明健康对照组中PAS 25诱导的突触可塑性,正如预期的那样。相比之下,MEP振幅在HE组没有变化,低于对照组,表明没有诱导可塑性。结论:HE大鼠初级运动皮层突触可塑性降低。重要性:HE中突触可塑性的降低提供了分子水平上的病理变化与疾病的早期临床症状之间的联系。这种降低可能是由于HE患者中已知的高氨血症引起的多巴胺能神经传递障碍所致。
2022-05-06 q-bio.NC
Synaptic Plasticity in Correlated Balanced Networks
局部皮层网络的动态是不规则的,但相关的。动态兴奋-抑制平衡是产生这种不规则活动的合理机制,但目前仍不清楚如何在可塑性神经网络中实现和维持平衡。特别是,还没有完全理解可塑性引起的网络变化如何影响平衡,以及相关的平衡活动如何影响学习。在不同的可塑性规则下,平衡网络的动力学是如何变化的?循环网络中的相关尖峰活动如何改变权重的演变,它们的最终大小和整个网络的结构?为了解决这些问题,我们开发了一个一般理论的可塑性平衡网络。我们表明,在塑性引起的重量变化下,可以达到并保持平衡。我们发现,在输入的相关性温和,但显着影响突触权重的演变。在一定的可塑性规则下,我们发现放电率和突触权重之间的相关性。在这些规则下,突触权重收敛到权重空间中的稳定流形,其最终配置取决于网络的初始状态。最后,我们证明了我们的框架也可以描述当神经元子集接收有针对性的光遗传学输入时塑性平衡网络的动力学。
2020-04-26 q-bio.NC
Synaptic Time-Dependent Plasticity Leads to Efficient Coding of Predictions
突触后锋电位的潜伏期减少是突触时间依赖可塑性的一个众所周知的效应。我们扩大这一概念的长突触后脉冲序列,表明,对于一个固定的输入脉冲序列,STDP减少突触后尖峰的数量,并集中剩余的。然后,我们研究了这种现象在编码方面的后果,发现这种机制通过增加信噪比和降低频繁刺激的代谢成本来改善神经编码。最后,我们举例说明,突触后潜伏期的减少可以导致预测的出现。
2019-07-25 q-bio.NC
Fluctuation-driven plasticity allows for flexible rewiring of neuronal assemblies
神经元回路中的突触连接受到突触前和突触后尖峰活动的调制。这种突触可塑性过程的启发式模型可以提供与来自体外实验的结果的极好拟合,在体外实验中,突触前和突触后尖峰以受控方式变化。然而,从拟合这些数据推断出的可塑性规则不可避免地是不稳定的,因为给定突触前和突触后的恒定活动,突触将完全增强或抑制。这种不稳定性可以通过增加额外的机制来控制,例如稳态。在这里,我们考虑另一种情况下,可塑性规则本身是稳定的。在这种情况下,只有当突触前和突触后活动随时间变化时,例如当由时变输入驱动时,才会发生净增强或抑制。我们研究了这些输入的特征如何塑造神经元回路模型中的经常性突触连接。在振荡输入的情况下,所得到的结构强烈地受到驱动到不同神经元之间的相位关系的影响。在大型网络中,分布式阶段往往会导致层次聚类。我们的研究结果可能是相关的理解感觉驱动的输入,这是自然随时间变化的,对突触可塑性的影响,因此对学习和记忆。
2022-07-13 q-bio.NC
A correlation game for unsupervised learning yields computational interpretations of Hebbian excitation, anti-Hebbian inhibition, and synapse elimination
从实验研究中,我们对生物突触的可塑性有了很多了解。赫布可塑性由突触前和突触后神经元的相关活动驱动。汇聚到同一个神经元上的突触通常表现得好像它们在竞争一个固定的资源;一些在竞争中幸存下来,而另一些则被淘汰。为了提供这些方面的突触可塑性的计算解释,我们制定无监督学习作为一个零和游戏之间的赫布兴奋和反赫布抑制的神经网络模型。这个游戏形式化了一种直觉,即赫布激励试图最大化神经元与其输入的相关性,而反赫布抑制试图使神经元彼此去相关。我们还包括一个模型的突触竞争,这使得一个神经元,以消除所有的连接,除了那些从它的最强相关的输入。通过实证研究,我们表明,这有利于学习的感官功能,类似的部分对象。
2017-04-03 cs.NE q-bio.NC
Learning to learn with backpropagation of Hebbian plasticity
The Neurosciences Institute(神经科学研究所)
赫布可塑性是一个强大的原则,允许生物大脑从他们的一生经验中学习。相比之下,用反向传播训练的人工神经网络通常具有固定的连接权重,一旦训练完成就不会改变。虽然最近的方法可以赋予神经网络长期记忆,但赫布可塑性目前不适合梯度下降。在这里,我们推导出解析表达式的活动梯度神经网络与赫布塑料连接。使用这些表达式,我们可以使用反向传播来训练连接的基线权重,还可以训练它们的可塑性。因此,网络“学习如何学习”,以解决手头的问题:经过训练的网络在其生命周期内自动对不可预测的环境特征进行快速学习,扩大了可解决问题的范围。我们在各种在线学习任务上测试了该算法,包括模式完成,一次性学习和反向学习。该算法成功地学习如何从一次性指令中学习相关关联,并微调可塑性的时间动态,以允许响应于变化的环境参数进行持续学习。我们的结论是,反向传播的赫布可塑性提供了一个强大的模型,终身学习。
2016-10-19 cs.AI cs.LG cs.NE
Learning of Precise Spike Times with Membrane Potential Dependent Synaptic Plasticity
神经元动作电位的精确时空模式是例如感觉表征和肌肉活动控制的基础。然而,尚不清楚大脑神经元网络中的突触功效如何适应,使得它们能够在特定时间点可靠地产生尖峰。现有的活动依赖的可塑性规则,如尖峰时间依赖的可塑性是不可知的学习尖峰时间的目标。另一方面,现有的正式和监督学习算法执行预测活动与目标的时间上精确的比较,但没有已知的生物学上合理的实现这种比较。在这里,我们提出了一个简单的和局部的无监督的突触可塑性机制,是来自于平衡的膜电位的要求。由于突触变化的相关信号是突触后电压而不是尖峰时间,我们称之为可塑性规则膜电位依赖可塑性(MPDP)。将我们的可塑性机制与尖峰后超极化相结合,导致突触变化对突触前和突触后尖峰时间的敏感性,这可以再现实验中发现的抑制性突触的Hebbian尖峰时间依赖可塑性。此外,当产生尖峰时,MPDP对电压的时间过程的敏感性允许MPDP区分弱(假)尖峰和强(教师)尖峰,这因此为实际和目标活动的比较提供了神经元基础。对于时空输入尖峰模式,我们概念上简单的可塑性规则实现了令人惊讶的高存储容量的尖峰协会。MPDP在训练过程中对阈下膜电位的敏感性允许在学习后即使在存在被噪声破坏的活动的情况下也进行鲁棒的记忆检索。
2015-02-23 q-bio.NC
Multi-contact synapses for stable networks: a spike-timing dependent model of dendritic spine plasticity and turnover
成年人新皮层中的兴奋性突触连接由多个突触接触组成,几乎只在树突棘上形成。树突棘形状和体积的变化,突触强度的相关性,可以在体内跟踪数周。在这里,我们提出了一个组合模型的尖峰定时依赖树突棘可塑性和营业额,解释了稳态多接触配置的突触在成人新皮层网络。在该模型中,许多突触前神经元竞争以在突触后神经元上形成强突触连接,而包括每个连接的突触接触通过突触后放电进行合作。我们证明,该模型是一致的实验观察到的长期树突棘动态下的稳态和病变诱导的条件下,并表明,多个突触接触的合作是至关重要的稳定,长期的突触记忆。在一个简化的网络模拟桶皮层,我们的可塑性规则再现胡须修剪引起的重新布线的丘脑-皮层和经常性突触连接现实的时间尺度。
2016-09-19 q-bio.NC
Two-trace model for spike-timing-dependent synaptic plasticity
我们提出了一个有效的模型的时间依赖性突触可塑性(STDP)在两个相互作用的痕迹,对应于激活的NMDA受体的分数和Ca2+浓度在树突棘的突触后神经元。该模型旨在弥合现有的简单的现象学规则和高度详细的模型的世界,从而构成一个实用的工具,神经活动和突触可塑性之间的相互作用,在扩展的尖峰神经网络的研究。对于孤立的突触前和突触后尖峰的标准成对STDP规则再现,与适当的参数确定各自的权重和时间尺度的因果和反因果的贡献。该模型包含,否则只有三个自由参数,可以进行调整,以重现三重非线性在海马文化和皮质切片。我们还研究了相关和不相关的尖峰模式从时间依赖性到速率依赖性可塑性的转变。
2014-10-02 q-bio.NC
Synaptic plasticity of Inhibitory synapse promote synchrony in inhibitory network in presence of heterogeneity and noise
最近在内嗅皮层第二层的抑制性突触中观察到了锋电位时间依赖性可塑性。该规则在$Δt=t_{post}-t_{pre}=0$的区域中提供了一个有趣的零点,此外,该规则的动态范围位于伽马频带中。我们提出了一个强大的机制的基础上观察到的突触可塑性规则的抑制性突触的两个相互耦合的中间神经元同步锁相中存在的放电异质性。我们研究了锁相解决方案的稳定性,通过定义一个地图的尖峰时间依赖于耦合神经元的相位响应曲线。最后,我们提出了在噪声存在下的同步的鲁棒性的结果。
2006-04-24 q-bio.NC
New Light on Cortical Neuropeptides and Synaptic Network Plasticity
神经肽是蛋白质细胞-细胞信号转导分子的一个大的和进化上古老的家族的成员,被广泛认为是脑功能和行为的极其有效的调节剂。在细胞水平上,已知神经肽主要通过调节离子通道和突触功能起作用,但是在复杂的皮质突触网络水平上出现的功能影响已经抵制了机制分析。单细胞RNA-seq转录组学的新发现现在阐明了皮质神经肽信号基因表达的复杂模式,新工具现在为皮质神经肽信号提供了强大的分子途径。在这里,我们强调了这些新的发现和工具,特别是集中在肽能和突触网络相互作用的基础皮层功能和可塑性的实验和理论探索的前景。
2020-04-16 q-bio.NC
Desiderata for normative models of synaptic plasticity
本文提出一组理想标准来评估突触可塑性的规范模型,并以REINFORCE和Wake-Sleep算法为例进行详细分析,旨在推动精确、可实验检验的神经学习理论发展。
2023-08-09 q-bio.NC
On the Spontaneous Dynamics of Synaptic Weights in Stochastic Models with Pair-Based STDP
我们调查的情况下,连接两个神经细胞的突触尖峰定时依赖可塑性(STPD)。我们开发了一个理论分析的几个STDP规则使用马尔可夫理论。在这种情况下,有两种不同的时间尺度,快速神经活动和较慢的突触权重更新。利用这种时间尺度分离,我们推导出一个单一的突触的重量受到STDP的长时间限制。我们发现,突触前和突触后尖峰的配对模型控制小的外部输入的突触权重动态,兴奋性突触。这一结果意味着,特别是塑性的平均场分析可能会错过一些重要的属性STDP。反Hebbian STDP似乎有利于出现一个稳定的突触权重,但仅适用于高外部输入。在抑制性突触的情况下,配对方案的问题不大,我们观察到的突触权重收敛到一个非空值,只有Hebbian STDP。我们广泛地研究了不同的渐近制度STDP规则,提出了有趣的问题,为未来的工作,自适应神经网络,更一般地说,自适应系统。
2021-11-15 q-bio.NC
Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity
École Normale Supérieure(巴黎高等师范学院)
在机器学习中,多层神经网络(深度学习)中的误差反向传播在监督和强化学习任务中取得了令人印象深刻的成功。然而,作为大脑学习的模型,深度学习一直被认为是不可信的,因为它的基本形式依赖于非局部可塑性规则。为了克服这个问题,提出了基于能量的局部对比赫布学习模型,并在一个分类任务与率神经元网络进行了测试。我们扩展了这项工作,通过实现和测试这样一个模型与泄漏集成和火灾神经元网络。初步结果表明,它是可能的学习一个非线性回归任务与隐藏层,尖峰神经元和局部突触可塑性规则。
2016-12-09 cs.LG cs.NE q-bio.NC
Nonlinear slow-timescale mechanisms in synaptic plasticity
本文探讨突触可塑性中慢时间尺度机制如何弥合神经电活动与学习行为之间的时间尺度差距,回顾实验证据与计算模型,并强调未来需研究快慢可塑性机制的非线性特性及其联合交互。
2023-08-07 q-bio.NC
Normative framework for deriving neural networks with multi-compartmental neurons and non-Hebbian plasticity
本文统一并推广了相似性匹配方法,从更复杂的无监督和自监督计算目标推导在线算法,成功映射出具有多房室神经元和非Hebbian可塑性的神经网络,为理解大脑结构提供了规范性框架。
2023-08-03 cs.NE q-bio.NC stat.ML
Strong anti-Hebbian plasticity alters the convexity of network attractor landscapes
本文通过形式化分析证明,从Hebbian到反Hebbian学习的转变会引发叉形分岔,破坏网络吸引子景观的凸性,导致多个稳定平衡点,且慢学习率影响更大,为可编码的目标函数类型提供见解。
2023-12-22 cs.NE cs.SY eess.SY
Theory of coupled neuronal-synaptic dynamics
本文通过动态平均场理论系统研究神经元与突触耦合动力学,揭示Hebbian和反Hebbian可塑性对网络活动、时间尺度及混沌特性的影响,并提出可冻结混沌相作为工作记忆的新机制。
2024-01-10 cond-mat.dis-nn cs.NE q-bio.NC
Spike timing-dependent plasticity induces non-trivial topology in the brain
我们研究了网络中Hodgkin-Huxley神经元暂时或永久改变其连接和行为的能力,即所谓的尖峰时间依赖可塑性(STDP),作为其同步行为的函数。我们认为STDP兴奋性和抑制性突触驱动的赫布规则。我们表明,STDP演变的网络的最终状态取决于初始网络配置。具体而言,初始的全对全拓扑演化为复杂拓扑。此外,外部扰动可以诱导共存的集群,那些神经元是同步的,那些神经元是desynchronous。这项工作表明,基于赫布规则的STDP导致高频率和低频率神经元之间的突触方向的变化,因此,赫布学习可以解释为这两个不同的神经元社区之间的优先连接,低频尖峰神经元和高频尖峰神经元。
2017-02-08 q-bio.NC
Synaptic plasticity as Bayesian inference
学习,特别是快速学习,对生存至关重要。然而,学习是困难的:大量的突触权重必须根据嘈杂的,往往是模糊的,感觉信息设置。在这样一个高噪声的情况下,跟踪权重的概率分布是最佳策略。在这里,我们假设突触采取这种策略;本质上,当它们估计权重时,它们包括误差条。然后,他们利用这种不确定性来调整学习率,不确定性越大,学习率就越高。我们还提出了第二个独立的假设:突触通过将其与PSP大小的变化联系起来来传达其不确定性,更多的不确定性导致更多的变化性。这两个假说将突触可塑性视为贝叶斯推断的问题,从而提供了学习的规范观点。他们概括了已知的学习规则,解释了突触后电位大小的巨大变化,并做出了可证伪的实验预测。
2021-03-19 q-bio.NC
Associative properties of structural plasticity based on firing rate homeostasis in recurrent neuronal networks
基于相关性的赫布可塑性被认为在发育和学习过程中塑造神经元的连接,而稳态可塑性将稳定网络活动。在这里,我们调查另一个,新的方面,这种二分法:赫布的关联属性也出现作为一个网络效应的可塑性规则的基础上,在神经元水平上的稳态原则?为了解决这个问题,我们模拟了一个经常性的网络泄漏集成和消防神经元,其中兴奋性连接受到结构可塑性规则的基础上放电率稳态。我们发现,一个亚组的神经元发展更强的组内连接的结果,接受更强的外部刺激。在一个实验记录良好的情况下,我们表明,功能特定的连接,类似于在啮齿动物视觉皮层中观察到的,可以出现这样的可塑性规则。由刺激引发的依赖于经验的结构变化是持久的,只有当神经元再次暴露于非特异性外部输入时才会缓慢衰减。
2018-02-24 q-bio.NC
Mesoscopic population equations for spiking neural networks with synaptic short-term plasticity
粗粒度的生物神经网络的微观模型,以获得神经活动的介观模型是迈向多尺度模型的重要一步。在这里,我们扩展了最近的理论介观种群动力学与静态突触的情况下,动态突触表现出短期可塑性(STP)。在假设尖峰到达突触有泊松统计,我们推导出解析随机平均场动力学进行Tsodyks-Markram STP的有限大小的人口之间的有效突触耦合。新的平均场方程既考虑了有限数量的突触,又考虑了神经递质释放概率与可用突触资源分数之间的相关性。与Monte Carlo模拟的微观模型的比较表明,在前馈和经常性网络的介观平均场模型准确地再现随机实现的总突触输入到突触后神经元和帐户之间的随机开关向上和向下的状态,以及人口尖峰。扩展介观人口理论的尖峰神经网络与STP可能是有用的系统减少详细的生物物理模型的皮质微电路的有效和数学上易于处理的平均场模型。
2018-12-21 q-bio.NC
Effects of Hebbian learning on the dynamics and structure of random networks with inhibitory and excitatory neurons
本文的目的是研究随机递归神经网络的生物连接,即稀疏连接和单独的群体的兴奋性和抑制性神经元的赫布学习的影响。我们进一步认为,神经元动力学可能发生在一个(更短)的时间尺度比突触可塑性,并考虑被动遗忘的学习规则的可能性。我们表明,这种赫布学习的应用导致网络动态和结构的急剧变化。特别地,学习规则收缩权矩阵的范数,并产生动力学复杂度和熵的快速衰减。换句话说,网络被赫布学习重新连接成一种新的突触结构,这种结构是在神经元之间逐渐建立的相关性的基础上随着学习而出现的。我们还观察到,在这个新兴结构中,最强的突触组织成一个小世界网络。权重矩阵谱半径衰减的第二个影响在于雅可比矩阵的谱半径的快速收缩。这驱动系统通过“混沌边缘”,在那里对输入模式的灵敏度最大。总之,这种情况是显着预测的理论论据来自动力系统和图论。
2007-06-18 q-bio.NC
Stochastic Spike Synchronization in A Small-World Neural Network with Spike-Timing-Dependent Plasticity
我们考虑由阈下神经元组成的Watts-Strogatz小世界网络,该网络表现出噪声诱导的尖峰脉冲。这种神经元网络具有由尖峰定时依赖可塑性(STDP)控制的自适应动态突触强度。在以前的作品没有STDP,随机尖峰同步(SSS)之间的噪声诱导的尖峰的阈下神经元被发现发生在一个范围内的中间噪声强度通过竞争之间的建设性和破坏性的作用的噪声。在这里,我们研究的效果添加剂STDP上的SSS通过改变噪声强度。发现突触可塑性中的“马太”效应的发生是由于正反馈过程。结果,好的同步通过突触强度的长时程增强(LTP)变得更好,而差的同步通过长时程抑制(LTD)变得更差。通过对突触前和突触后瞬时个体发放率(IISR)之间的配对相关性以及突触前和突触后发放时间之间的时间延迟分布的微观研究,深入研究了突触强度的LTP和LTD的出现。此外,与加性STDP的情况相比,还研究和讨论了乘法STDP(这取决于状态)对SSS的影响。
2017-08-14 q-bio.NC
Generating functionals for computational intelligence: the Fisher information as an objective function for self-limiting Hebbian learning rules
生成泛函可以引导动力系统的演化,并构成处理与计算智能相关的神经网络复杂性的可能途径。我们提出并探索了一个新的目标函数,它允许获得传入突触权重的可塑性规则。自适应规则是赫布的,自限性的,并导致从最小化的Fisher信息相对于突触通量。我们进行了一系列的模拟,检查在各种情况下的新的学习规则的行为。突触权重的向量与输入活动的主方向对齐,无论何时出现。当有两个或两个以上的主方向时,进行线性判别;具有双峰发射率分布的方向,其特征在于负过剩峰度,是优选的。我们发现强大的性能和完整的稳态适应的突触权重结果作为一个副产品的突触通量最小化。这种自限制行为允许在任意持续时间内进行稳定的在线学习。当输入活动的统计数据在模拟的某个点发生变化时,神经元会获得新的信息,然而,这显示出一种明显的弹性,可以忘记以前获得的知识。当从随机抽取的突触权重开始时,学习是快速的,而当突触权重已经完全适应时,学习则慢得多。
2014-10-02 cond-mat.dis-nn cs.NE q-bio.NC
Emergence and maintenance of modularity in neural networks with Hebbian and anti-Hebbian inhibitory STDP
本研究提出仅基于放电时间的STDP规则模型,无需控制机制即可在尖峰神经网络中涌现稳定模块,Hebbian与anti-Hebbian抑制性亚群分别控制活动与选择性,自发回放巩固长期记忆。
2025-02-18 nlin.AO q-bio.NC
Learning poly-synaptic paths with traveling waves
行波通常在大脑中观察到。虽然以前的研究表明行波在学习中的作用,但其机制仍不清楚。我们采用计算的方法来研究行波对突触可塑性的影响。我们的研究结果表明,行波促进多突触网络路径的学习时,结合奖励依赖的局部突触可塑性规则。我们还证明了行波加快寻找最短路径和学习非线性输入/输出映射,如异或(XOR)函数。
2021-02-09 q-bio.NC
Emergence of resonances in neural systems: the interplay between threshold adaptation and short-term synaptic plasticity
在这项工作中,我们研究了在一定程度的噪声背景神经活动的存在下,通过发放神经元对弱刺激的检测。我们的研究集中在现实的假设,在网络中的突触呈现活动依赖的过程,如短期突触抑制和促进。采用平均场技术以及数值模拟,我们发现,有两种可能的噪声水平,优化信号传输。这一新发现与经典的随机共振理论相反,该理论只能预测一个最佳的噪声水平。我们发现,神经元阈值的非线性动力学和活动依赖性突触机制之间的复杂相互作用是造成这种新现象的原因。我们的研究结果得到证实,采用更现实的FitzHugh-Nagumo神经元模型,显示阈值的变化,以及考虑更现实的突触模型。我们支持我们的研究结果与最近的实验数据随机共振在人类的触觉眨眼反射。
2009-06-03 q-bio.NC
Emergence of scale-free properties in Hebbian networks
神经系统的基本“可塑性”(即在不同结构水平上的高适应性)主要基于赫布学习机制,该机制修改了突触连接。这些修改依赖于神经活动,并为神经网络分配特殊的动态行为。神经系统的另一个显著特征是基于尖峰的信息传输,它被认为对噪声是鲁棒的,但它本身是有噪声的:单个神经元的尖峰的方差惊人地大,这可能会破坏赫布机制的充分功能。在本文中,我们专注于网络中的赫布式适应只引起外部随机噪声和研究尖峰时间依赖的突触可塑性。我们表明,这样的“HebbNets”能够开发出广泛的网络结构,包括无标度的小世界网络。这种网络结构的发展可能提供了一个解释的作用,噪音和它的相互作用与赫布可塑性。我们还认为,这个模型可以被看作是著名的Watts-Strogatz和小世界网的偏好连接模型的统一。
2003-08-11 nlin.AO q-bio.NC
Effects of random inputs and short-term synaptic plasticity in a LIF conductance model for working memory applications
工作记忆(Working Memory,WM)是一种用于暂时存储信息的加工记忆,在各种认知任务的执行中发挥着重要作用。最近的研究表明,WM中的信息不仅通过持续的重复活动来维持,而且可以在活动沉默状态下储存,例如在短期突触可塑性(STSP)中。受STSP机制在WM中的重要应用的启发,本工作的主要重点是分析随机输入对STSP下的泄漏整合和激发(LIF)突触电导神经元的影响。此外,脉冲序列的不规则性可以携带关于神经元中的先前刺激的信息。具有多个输入和峰间间期(ISI)的变异系数(CV)的LIF电导神经元可以产生输出解码神经元。我们的数值结果表明,在随机输入电流和随机不应期的标准偏差的增加,可以导致增加的不规则性的脉冲序列的输出神经元。
2022-05-10 q-bio.NC
Strong Allee effect synaptic plasticity rule in an unsupervised learning environment
突触可塑性或大脑改变其一个或多个功能或结构的能力已经产生并仍在产生科学界特别是神经科学家的大量兴趣。这些兴趣在收集到经验证据后尤其高涨,这些证据挑战了既定的范式,即人类大脑的结构和功能是从童年开始设定的,并且预期只有适度的变化。这方面的早期突触可塑性规则或定律包括基本赫布规则,该规则提出了在学习和记忆期间加强或削弱突触(权重)的机制。然而,这条规则并没有考虑到权重必须随着时间的推移而有界增长的事实。此后,许多其他规则被提出来补充基本赫布规则,它们也具有其他可取的性质。特别地,突触可塑性规则中的期望性质是环境系统必须考虑抑制,如果所使用的规则允许突触权重的下限,则通常实现抑制。在本文中,我们提出了一个突触可塑性规则的灵感来自Allee效应,一个现象,经常观察到的种群动力学。我们显示的属性,如突触正常化,权重之间的竞争,去相关潜力,和动态稳定性是满意的。我们发现,事实上,在突触可塑性的Allee效应可以解释为缺乏可塑性。
2022-03-25 math.DS q-bio.NC
Nonlinear Hebbian learning as a unifying principle in receptive field formation
Ecole Polytechnique Federale de Lausanne (EPFL)(洛桑联邦理工学院)
感觉感受野的发育在过去已经通过各种模型来建模,包括诸如稀疏编码或独立成分分析的规范模型和诸如尖峰定时依赖可塑性或突触可塑性的Bienenstock-Cooper-Munro模型的自底向上模型。在这里,我们表明,上述各种方法都可以统一到一个共同的原则,即非线性赫布学习。当非线性赫布学习应用于自然图像时,感受野形状受到输入统计和预处理的强烈约束,但在神经元模型或突触可塑性规则中的不同非线性选择之间仅表现出适度的变化。局部感受野的形成既不需要过度完整性,也不需要稀疏的网络活动。对听觉模型或V2发展等替代感觉方式的分析得出了相同的结论。在所有的例子中,感受野可以通过将抽象模型重新表述为非线性赫布学习来先验地预测。因此,非线性赫布学习和自然统计可以解释跨模型和感觉模态的感受野形成的许多方面。
2016-01-04 cs.LG q-bio.NC
Is a 4-bit synaptic weight resolution enough? - Constraints on enabling spike-timing dependent plasticity in neuromorphic hardware
大规模神经形态硬件系统通常承担细节级别和所需芯片资源之间的权衡。特别是当实现尖峰定时相关的可塑性时,与浮点精度相比,资源的减少导致限制。通过设计,节省资源的自然修改将是降低突触权重分辨率。在这项研究中,我们给出了一个估计突触权重离散化的影响在不同的水平上,从随机游走的个人权重的尖峰神经网络的计算机模拟。的FACETS晶圆级硬件系统提供了一个4位分辨率的突触权重,这被证明是足够的范围内,我们的网络基准。我们的研究结果表明,提高分辨率甚至可能是没有用的定制混合信号突触的进一步限制。此外,由于生产缺陷的变化进行了调查,并显示在本研究的背景下是不重要的。我们的研究结果代表了一个一般的框架,设置和配置硬件约束的突触。我们建议如何将权重离散化考虑用于其他专用于大规模模拟的后端。因此,我们提出的一个良好的硬件验证实践可能会提高硬件开发人员和神经科学家之间的协同效应。
2014-11-28 q-bio.NC
Computational models of learning and synaptic plasticity
本研究梳理了突触可塑性数学模型与行为层面学习范式的对应关系,指出计算模型可弥补实验中难以直接关联突触更新与学习结果的不足,为二者关联提供证据支撑。
2024-12-07 cs.NE q-bio.NC
Asynchronous Hebbian/anti-Hebbian networks
提出一种基于生物学合理机制的异步Hebbian学习规则,实现时间连续的因子化表征学习,并能自然防止顺序呈现不同分布刺激时的灾难性遗忘。
2025-01-04 q-bio.NC
Alterations in brain connectivity due to plasticity and synaptic delay
大脑可塑性是指大脑改变神经元连接的能力,作为环境刺激,新经验或损伤的结果。在这项工作中,我们研究的影响,突触延迟的耦合强度和同步的神经网络与突触可塑性。我们建立了一个Hodgkin-Huxley神经元网络,其中的可塑性由Hebbian规则给出。我们验证了在没有时间延迟的情况下,从高频到低频神经元的兴奋性突触逐渐增强,而抑制性突触则相反,当延迟增加时,网络呈现出非平凡的拓扑结构。关于同步,仅对于突触延迟的小值,观察到这种现象。
2017-10-27 physics.bio-ph q-bio.NC
Astrocyte control bursting mode of spiking neuron network with memristor-implemented plasticity
本文研究星形胶质细胞与忆阻器可塑性如何共同调控脉冲神经网络的爆发与异步动力学,发现星形胶质细胞对兴奋性突触的调控可恢复正常的爆发模式。
2023-11-30 q-bio.NC
A Hebbian/Anti-Hebbian Network for Online Sparse Dictionary Learning Derived from Symmetric Matrix Factorization
Olshausen和Field(OF)提出,初级视觉皮层(V1)中的神经计算可以部分地通过稀疏字典学习来建模。通过最小化正则化表示误差,他们推导出一种在线算法,该算法从与生理实验一致的自然图像集合中学习Gabor滤波器感受野。虽然OF算法可以映射到单层神经网络中的动态和突触可塑性,但导出的学习规则是非局部的-突触权重更新取决于神经元的活动,而不仅仅是突触前和突触后的神经元-因此在生物学上是不可信的。在这里,为了克服这个问题,我们从一个新的成本函数-输入的相似性矩阵的对称因式分解的正则化错误中获得稀疏字典学习。我们的算法映射到一个神经网络的相同架构的OF,但只使用生物合理的本地学习规则。当在自然图像上训练时,我们的网络学习Gabor滤波器感受野,并再现OF网络中硬连接的突触权重之间的相关性。因此,在线对称矩阵分解可以作为神经计算的算法理论。
2015-11-30 cs.NE q-bio.NC stat.ML
Self-organization of grid fields under supervision of place cells in the model of neuron with associative plasticity
内侧内嗅皮层(MEC)的网格细胞(GC)和海马的位置细胞(PC)是大脑空间度量表征网络的关键元素。目前,任何现有的理论模型都可以解释GC特异性空间选择性活动模式的各个方面。也不清楚这些模式是如何在网络发展过程中形成的。另一方面,先前已经表明,可以学习从位置细胞的活动中提取高主成分的网络可以为GC样活动模式的发展提供基础。支持这一假设的发现是,PC活动保持空间稳定的GC放电模式的中断后,网格模式几乎消失时,海马细胞失活。早期PC的GC形成之前的发展也支持PC的作用,作为空间信息提供者的GC。在这里,我们已经开发了一个新的理论模型的基础上,突触可塑性的网格场形成的突触连接PC在海马和内嗅皮层神经元。模型中六边形对称场的学习是由于几个简单的生物学动机的突触可塑性规则的复杂作用。这些规则包括类似于突触规则的关联突触可塑性规则和限制突触权重的稳态可塑性规则。与先前描述的模型相比,该网络可以在新环境中进行非常短的导航体验后学习GC模式。总之,我们认为,学习的基础上,简单的和生物学上合理的关联突触可塑性规则可能有助于形成的网格领域在早期发展和正常GC的活动模式在熟悉的环境中的aberrence。
2015-06-30 q-bio.NC
A framework for studying synaptic plasticity with neural spike train data
大脑中的学习和记忆是通过神经回路中复杂的、随时间变化的变化来实现的。突触权重随时间变化的计算规则是许多研究的主题,并且没有被精确地理解。直到最近,实验方法的局限性使得大规模测试突触可塑性的假设具有挑战性。然而,随着这些数据的可用性和这些障碍的解除,有必要开发分析技术来验证塑性模型。在这里,我们提出了一个高度可扩展的框架,用于在互连神经元群体中对尖峰训练数据进行任意突触可塑性规则建模。我们把突触权重作为一个(潜在的非线性)动态系统嵌入在一个完全贝叶斯广义线性模型(GLM)。此外,我们提供了一个算法,用于推断突触权重轨迹旁边的GLM和学习规则的参数。使用这种方法,我们进行模型比较的两个建议的变种著名的尖峰定时依赖可塑性(STDP)规则,其中非线性效应发挥了重要作用。在生物物理模拟器NEURON生成的合成数据上,我们证明了我们可以恢复权重轨迹、连接模式和底层学习规则。
2014-11-14 q-bio.NC stat.ML
Synaptic balancing: a biologically plausible local learning rule that provably increases neural network noise robustness without sacrificing task performance
我们引入了一种新的,生物学上合理的局部学习规则,可证明增加了神经动力学的鲁棒性,噪声在非线性递归神经网络具有均匀的非线性。我们的学习规则实现了更高的噪声鲁棒性,而不牺牲任务的性能,也不需要任何特定任务的知识。可塑性动力学--一个在网络权重上运行的可积动力系统--保持了多个守恒量,最值得注意的是网络从输入到输出轨迹的整个时间映射。我们的学习规则的结果是每个神经元的传入和传出突触之间的突触平衡。这种突触平衡规则与实验观察到的异突触可塑性的许多已知方面是一致的,而且使新的实验可检验的预测有关的可塑性在传入和传出突触的个别神经元。总的来说,这项工作提供了一种新颖的,实用的局部学习规则,完全保留了整体网络功能,并在这样做时,提供了新的概念之间的桥梁异突触可塑性的神经生物学,正则化噪声鲁棒网络的工程,和数学的可积Lax动力系统。
2021-07-18 q-bio.NC
Effect of synaptic plasticity in the structure and dynamics of disordered networks of coupled neurons
在一个全对全的网络中的集成火灾振荡器,其中有一个障碍的神经元的内在放电率,我们表明,通过尖峰时间依赖的可塑性的链接,具有更快的振荡器作为突触前,往往会得到加强,而来自缓慢的尖峰神经元的链接被削弱。有向连接的紧急有效流引入了更快的神经元作为网络中更有影响力的元素,并通过降低同步开始的突触成本来促进同步。
2012-01-24 nlin.AO q-bio.NC
Burst Synchronization in A Scale-Free Neuronal Network with Inhibitory Spike-Timing-Dependent Plasticity
我们关注的突发同步(BS),在健康和疾病的神经信息处理,在巴拉巴西-阿尔伯特无标度网络(SFN)组成的抑制性突发Hindmarsh-Rose神经元。这种抑制性神经元群体具有由抑制性尖峰时间依赖性可塑性(iSTDP)支配的自适应动态突触强度。在以前的工作中,没有考虑iSTDP,BS被发现出现在固定的突触抑制强度的噪声强度的范围内。相比之下,在我们目前的工作中,我们考虑到iSTDP和调查其对BS通过改变噪声强度的影响。我们的新的主要结果是发现抑制性突触可塑性的马太效应的发生:好的BS通过LTD变得更好,而坏的BS通过LTP变得更糟。抑制性突触可塑性中的这种马太效应与兴奋性突触可塑性中的马太效应相反,在兴奋性突触可塑性中,好(坏)同步通过LTP(LTD)变得更好(更差)。我们注意到,由于抑制,LTD和LTP在抑制性突触可塑性中的作用与兴奋性突触可塑性中的作用相比是相反的。此外,通过基于突触前和突触后爆发开始时间之间的时间延迟分布的微观方法,深入研究了突触抑制强度的LTD和LTP的出现。最后,在iSTDP存在的情况下,我们通过改变SFN中的对称附着度$l^*$和不对称参数$Δl$来研究网络架构对BS的影响。
2018-08-20 physics.bio-ph q-bio.NC
Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks
本文提出融合皮层柱、赫布突触与结构可塑性等机制的前馈BCPNN模型,用于无监督表征学习,并在图像、QSAR和恶意软件检测基准上取得与MLP及先进类脑网络相当的性能。
2025-01-09 cs.NE q-bio.NC
Statistics of spikes trains, synaptic plasticity and Gibbs distributions
我们引入了一个数学框架,可以分析神经网络在突触可塑性下进化产生的尖峰列车的统计数据。
2008-10-22 cond-mat.stat-mech math-ph math.MP