Harnessing cortical geometry, wiring, and function as inductive biases for recurrent neural networks
Neuromatch Academy, Neuromatch, Inc., USA(Neuromatch学院,Neuromatch公司,美国);McGovern Institute for Brain Research, Massachusetts Institute of Technology (MIT)(麦戈文脑科学研究所,麻省理工学院(MIT))
本研究利用MICrONS项目数据,通过神经元空间坐标、解剖连接和功能关系初始化循环权重并施加空间约束,构建生物基础循环神经网络,在认知决策任务中优于基线模型,并发展出低熵、模块化和小世界组织。
2026-06-16 cs.AI cs.LG cs.NE
Are cortical microcircuits optimized for information flux? -- A simulation-based reverse engineering study
Friedrich-Alexander-University Erlangen-Nürnberg (FAU)(埃尔朗根-纽伦堡大学);University Hospital Mannheim, University Heidelberg(海德堡大学曼海姆大学医院);University Hospital Erlangen(埃尔朗根大学医院);BGU Ludwigshafen(路德维希港创伤中心)
研究通过模拟分析皮层微柱结构,发现嵌入网络通过产生有效偏置和随机波动增强核心动态的信息流,为生物神经电路功能解释和人工递归系统设计提供新见解。
2026-05-14 q-bio.NC
Training recurrent neural networks with sparse, delayed rewards for flexible decision tasks
混沌状态下的循环神经网络表现出复杂的动力学,让人想起行为任务期间的高水平皮层活动。然而,这种网络的现有训练方法要么在生物学上是不可信的,要么需要实时连续的误差信号来指导学习过程。这与大多数行为任务相反,行为任务只提供时间稀疏,延迟的奖励。在这里,我们表明,一个生物合理的奖励调制的赫布学习算法,以前用于前馈模型的鸟鸣学习,可以训练经常性的网络仅基于延迟,相位奖励信号在每次试验结束。该方法不需要专门的反馈或读出网络:整个网络的连通性是学习的,网络输出是从一个任意选择的网络单元读取的。我们使用这种方法成功地训练一个网络上的延迟不匹配样本任务(这需要记忆,灵活的协会,和非线性混合选择性)。使用解码技术,我们表明,由此产生的网络表现出动态编码的任务相关的信息,与神经编码的各种任务功能波动很大的过程中的审判。此外,网络活动在响应时间内从刺激特定的表征转移到响应特定的表征,这与行为动物在类似任务中的神经记录一致。我们的结论是,循环神经网络,奖励调制的赫布学习训练,提供了一个合理的模型,在学习和灵活的协会性能的皮质动力学。
2015-12-08 q-bio.NC
Cortico-cerebellar modularity as an architectural inductive bias for efficient temporal learning
Imperial College London(帝国理工学院)
研究通过在RNN中引入小脑启发的前馈模块,验证了皮层-小脑模组在提升时间学习效率中的作用,发现该架构在多种任务中表现更优。
2026-05-11 q-bio.NC
Is cortical criticality unique?
有迹象表明,为了优化神经计算,神经网络-包括大脑-在临界状态下运行。然而,以前的方法使用了不同的临界指纹,留下了一个悬而未决的问题,即它们是否指的是一个独特的临界点,或者是否可能有几个。使用一个经常性的尖峰神经网络作为模型,我们证明了雪崩临界不一定位于混沌的动力学边缘,因此,不同的指纹表明不同的现象与尚未澄清的关系。
2016-09-29 nlin.CD q-bio.NC
Decoding finger velocity from cortical spike trains with recurrent spiking neural networks
Qiushi Academy for Advanced Studies, Zhejiang University(浙江大学求是高等研究院);College of Biomedical Engineering and Instrument Science, Zhejiang University(浙江大学生物医学工程与仪器科学学院);Friedrich Miescher Institute for Biomedical Research(弗里德里希·米歇尔生物医学研究所);Faculty of Science, University of Basel(巴塞尔大学理学院);China Nanhu Academy of Electronics and Information Technology (CNAEIT)(中国南湖电子信息技术研究院)
本文研究循环脉冲神经网络(RSNNs)在完全植入式脑机接口中从皮层脉冲序列解码手指速度的可行性,通过训练大型和微型RSNN模型,证明其在严格资源约束下优于现有SNN和ANN解码器,为超低功耗植入式BMI提供了有前景的解决方案。
2024-09-03 cs.HC cs.LG cs.NE
Multi-tasking via baseline control in recurrent neural networks
该研究利用随机耦合循环神经网络中的储备池计算表明,基线输入电流调制可诱发混沌增强、滞后和遍历性破缺,并让网络无需优化耦合即可执行多任务。
2023-06-04 physics.bio-ph q-bio.NC
Recurrent network dynamics explain the time course of perceptual grouping in natural scenes
Netherlands Institute for Neuroscience(荷兰神经科学研究所);Brown University(布朗大学);Carney Institute for Brain Science, Brown University(布朗大学卡尼脑科学研究所);Centrum Wiskunde & Informatica(数学与计算机科学中心);University of Amsterdam(阿姆斯特丹大学);Sorbonne Université(索邦大学);Institut National de la Santé et de la Recherche Médicale(国家健康与医学研究院);Centre National de la Recherche Scientifique(法国国家科学研究中心);Institut de la Vision(视觉研究所);VU University(自由大学);Academic University Medical Center(学术医学中心)
本文提出一个受大脑启发的循环神经网络框架,通过局部边界信号和自上而下反馈解释自然场景中的知觉分组,其动力学预测了人类反应时间,连接了皮层动力学与人类视觉。
2026-10-06 q-bio.NC
Expectation-induced modulation of metastable activity underlies faster coding of sensory stimuli
感官刺激可以更快地识别时,他们的预期。这种现象依赖于预期影响皮层对感觉信息的处理。然而,几乎没有什么是已知的机制负责的预期对感觉网络的影响。在这里,我们报告了一种新的计算机制,其基础是在警觉大鼠的味觉皮层(GC)中观察到的预期依赖性编码加速。我们使用一个经常性的尖峰网络模型与集群架构捕捉皮质活动的基本特征,包括味觉刺激前后在GC中观察到的亚稳态活动。依靠网络理论和计算机模拟,我们提出,期望发挥其功能,通过调制内在产生的动态之前的味道传递。我们的模型,其预测在实验数据中得到证实,演示了内在亚稳态活动的调制如何塑造感觉编码和介导认知过程,如相关事件的预期。总之,这些结果提供了一个生物学上合理的理论的期望和归因于一个新的功能作用,内在产生的,亚稳态活动。
2018-11-02 q-bio.NC
Neural wave interference and intrinsic tuning in distributed excitatory-inhibitory networks
我们开发了一个模型的皮质计算,实现皮质电路的关键功能,并能够描述在空间分布的刺激皮质位置之间的神经信号的传播。该模型是基于典型的神经回路,包括兴奋性和抑制性细胞通过相互连接,与经常性反馈相互作用。典型电路被用作分布式网络中的节点,节点之间具有最近邻耦合。我们发现,这个系统的特点是由内在的空间频率偏好。优选频率的值取决于细胞之间的兴奋性和抑制性连接的相对权重。这种兴奋和抑制的平衡随着刺激对比度的增加而改变,这就是为什么预测固有空间频率以由刺激时间频率确定的方式随着对比度而改变。网络偏好的动态与警觉猕猴皮层区MT的特性一致。
2018-10-20 q-bio.NC
Cortical Circuits from Scratch: A Metaplastic Architecture for the Emergence of Lognormal Firing Rates and Realistic Topology
我们目前对神经可塑性的理解描绘了一幅复杂的相互关联的系统的图景,这些系统由塑造皮层结构的相关过程组成,从而产生一个有效的信息处理系统。事实上,这些过程的合作是与强大的,稳定的,适应性强的网络活动和突触拓扑结构的特征。然而,在模型中结合这些机制的作用已被证明是非常困难的,迄今为止,没有一个模型能够在没有显著的手动调整的情况下做到这一点。除非有这样一个模型能够成功地将这些机制结合起来,形成一个具有现实特征的稳定回路,否则我们在(更现实的)动态网络中研究神经可塑性的能力,以及可能获得这些特征和机制赋予生物网络的任何回报的能力都会受到阻碍。我们介绍了一个模型,它结合了五个已知的可塑性机制,作用于网络,以及一个独特的化生机制,作用于其他可塑性机制,产生一个神经回路模型,这是稳定的,能够广泛地再现许多特征的皮层网络。MANA(化生性人工神经结构)代表了第一个模型,因为它能够从零初始状态(没有突触连接或神经元分化)自组织皮质网络的现实,非随机特征。与SORN(自组织循环网络)等模型一样,MANA代表了在网络层面上对大脑进行逆向工程的进一步进展。
2018-03-30 q-bio.NC
Brief wide-field photostimuli evoke and modulate oscillatory reverberating activity in cortical networks
利用光遗传学技术操纵细胞组装体是推进神经科学和神经工程的关键。在体内应用中,光刺激通常广泛地同时处理细胞群体,导致前馈和在复发性微电路中的回响响应。前者由下游靶点的直接激活引起,并且易于解释。后者是反馈连通性的结果,可以反映各种时间尺度和复杂的动力学性质。我们研究了体外皮层网络的宽场光刺激,采用基底集成微电极阵列和长期培养的神经元网络。我们的特点是短暂的光脉冲的影响,同时限制表达的通道视紫红质的主要神经元。我们诱发了强大的混响响应,在生理伽马频率范围内振荡,并发现这样的频率可以可靠地操纵,改变光脉冲的持续时间,而不是它的强度。通过药理学、数学建模和细胞内记录,我们得出结论,伽马振荡可能在体内从兴奋-抑制相互作用中出现,并且出乎意料地,光刺激短暂地促进兴奋性突触传递。在体外模型(dys)的功能性皮层微电路和细胞组装体的体内操作的相关性,我们给出了第一次证据的网络水平的后果,改变突触生理学的光遗传学
2016-04-07 q-bio.NC
New hallmarks of criticality in recurrent neural networks
对大脑动力学和功能的严格理解需要在多个层次的组织之间建立一个概念上的桥梁,包括神经尖峰和网络级的群体活动。越来越多的证据表明,大脑皮层的神经网络处于临界状态。在这种网络状态附近操作如何影响神经元尖峰的可变性在很大程度上是未知的。在这里,我们表明,在一个计算模型中,两个普遍的功能,皮层单神经元活动,不规则尖峰和刺激发作时的反应变异性下降,都是紧急的特性,经常性的网络附近的临界操作。重要的是,我们的工作揭示了尖峰的不规则性与神经元的输入连接数量之间的关系,即,入度在临界时最大化。我们的研究结果建立了临界性作为一个统一的原则,为单神经元尖峰的变化和集体行为的循环回路在大脑皮层。
2016-10-08 q-bio.NC
Encoding Sensory and Motor Patterns as Time-Invariant Trajectories in Recurrent Neural Networks
大脑处理和存储的大部分信息本质上都是时间性的--例如,一个口语单词或一个手写签名,是由它在时间上如何展开来定义的。然而,目前还不清楚神经回路如何编码复杂的时变模式。我们表明,通过调整循环神经网络(RNN)的权重,它可以识别然后转录口语数字。该模型阐明了皮层网络中的神经动力学如何解决三个基本挑战:第一,将多个随时间变化的感觉和运动模式编码为稳定的神经轨迹;第二,概括相关的空间特征;第三,识别以不同速度播放的相同刺激-我们表明,这种时间不变性的出现是因为递归动力学产生具有适当调制角速度的神经轨迹。我们的研究结果共同产生了可测试的预测,即递归网络如何使用不同的机制来概括复杂时变刺激的相关空间和时间特征。
2017-08-13 q-bio.NC
Genetic Algorithmic Parameter Optimisation of a Recurrent Spiking Neural Network Model
神经网络是对人脑行为进行松散建模的复杂算法。它们在计算神经科学和人工智能中起着重要的作用。下一代神经网络模型是基于神经元的尖峰定时活动:脉冲神经网络(SNN)。然而,SNN中的模型参数难以搜索和优化。以前的研究,使用遗传算法(GA)优化SNN主要集中在简单的,前馈,或振荡网络,但没有太多的工作已经做了优化皮质类递归SNN。在这项工作中,我们研究了使用遗传算法来搜索递归SNN中的最佳参数,以达到目标神经元群体的放电率,例如在实验观察中。我们考虑了基于皮质柱的SNN,包括1000个Izhikevich尖峰神经元,用于计算效率和生物现实主义。探索的模型参数是神经元偏置输入电流。首先,我们找到了这个特定的SNN,目标人口平均发射活动的最佳参数值,算法的收敛约100代。然后,我们表明,GA的最佳人口规模在~16-20,而返回最佳适应值的交叉率为~0.95。总的来说,我们已经成功地证明了实施GA优化模型参数在一个经常性的皮质SNN的可行性。
2020-05-27 cs.NE q-bio.NC
Emergence of Deviance Detection in Cortical Cultures through Maturation, Criticality, and Early Experience
The University of Tokyo(东京大学);International Research Center for Neurointelligence (WPI-IRCN), UTIAS, The University of Tokyo(东京大学国际神经智能研究中心(WPI-IRCN))
本研究追踪体外皮质培养物的偏差检测发育,发现其随回路成熟内在涌现,临界性可稳定放大该功能,早期奇异球经验会强化偏差通路但降低检测指数,为预测编码机制和类脑人工系统设计提供参考。
2025-10-01 q-bio.NC
Linking connectivity, dynamics and computations in low-rank recurrent neural networks
大规模的神经记录已经确定,感官刺激转化为运动输出依赖于低维动力学在人口水平,而个别神经元表现出复杂的选择性。理解混合分布式表征的低维计算如何从皮层网络的递归连接和输入结构中产生是一个重大挑战。在这里,我们研究了一类循环网络模型,其中的连通性是一个随机部分和一个最小的,低维结构的总和。我们表明,在此类网络中,动力学是低维的,并且可以使用几何方法直接从连通性推断。我们利用这种理解来确定实现特定计算所需的最小连接,并发现动态范围和计算能力随着连接结构的维数迅速增加。这个框架产生可测试的实验预测的连接,低维动力学和记录的神经元的计算功能之间的关系。
2018-08-28 q-bio.NC
Discrete signaling mediates chaotic regularization in recurrent neural networks
The Hebrew University(希伯来大学);Jülich Research Centre(于利希研究中心);University College London(伦敦大学学院);EPFL(洛桑联邦理工学院);INFN Gruppo Collegato di Parma(帕尔马INFN协作组);RWTH Aachen University(亚琛工业大学)
通过结合核方法和动态平均场理论,揭示了混沌动力学如何在递归神经网络中引入局部粗糙度并保持全局平滑性,从而作为内在正则化器增强泛化能力,并解释了混沌网络如何维持平滑的群体编码。
2026-06-03 cond-mat.dis-nn q-bio.NC
Hybrid Spiking Neural Networks for Low-Power Intra-Cortical Brain-Machine Interfaces
Karlsruhe Institute of Technology, Karlsruhe, Germany(卡尔斯鲁厄理工大学);FZI Research Center for Information Technology, Karlsruhe, Germany(弗劳恩霍夫信息与通信技术研究中心);Infineon Technologies, Dresden, Germany(英飞凌科技)
本研究提出混合脉冲神经网络用于无线皮层内脑机接口的嵌入式神经解码,在保持低功耗的同时实现高精度运动速度预测,超越现有基线模型。
2024-09-26 cs.AI cs.LG q-bio.NC
Intrinsically-generated fluctuating activity in excitatory-inhibitory networks
非线性单元的递归网络根据其突触连接的结构显示出各种动态机制。一个特别值得注意的现象是,在确定性但随机连接的速率单元网络中出现了强烈波动的混沌活动。这种内在产生的波动如何出现在更现实的尖峰神经元网络中,一直是一个长期存在的问题。为了简化速率网络和尖峰网络之间的比较,最近的工作研究了随机连接的速率网络的动力学机制,该网络具有分离的兴奋性和抑制性种群,并且放电率被限制为正。这些工作导出了描述波动动力学的一般动力学平均场(DMF)方程,但仅在纯抑制网络的情况下求解这些方程。使用一个简化的兴奋-抑制架构,其中DMF方程更容易处理,在这里,我们表明,激励的存在定性修改波动的活动相比,纯粹的抑制网络。在激励的存在下,内在产生的波动引起的平均放电率的强烈增加,这是一种在纯抑制网络中弱得多的现象。此外,兴奋诱导两种不同的波动制度:对于中度的整体耦合,经常性抑制足以稳定波动,强耦合,发射率稳定仅由上限施加的活动,即使抑制比兴奋。这些结果扩展到更一般的网络架构,并对接收模仿尖峰活动的噪声输入的网络进行评级。最后,我们表明,签名的第二个动力学制度出现在网络的集成和消防神经元。
2017-05-09 q-bio.NC
Dynamics of multi-stable states during ongoing and evoked cortical activity
单个试验分析合奏活动在警觉的动物表明,皮层电路动态演变通过时间序列的亚稳态。亚稳性已被研究其在感觉编码,记忆和决策中的潜在作用。然而,人们对负责其起源的网络机制知之甚少。通常假设状态序列的开始是由外部刺激触发的。在这里,我们表明,状态序列也可以观察到在没有明显的感官刺激。对警觉大鼠味觉皮层多电极记录的分析揭示了持续的状态序列,其中单个神经元自发地在不同状态下获得几个放电率。这种单神经元多稳定性代表了对现有尖峰网络模型的挑战,其中通常每个神经元至多是双稳定的。我们提出了一个经常性的尖峰网络模型,占两个自发产生的状态序列和多稳定性的单神经元放电率。每个状态都是由具有增强的簇内连接的神经簇的激活引起的,每个簇中的放电率取决于活跃簇的数量。模拟表明,模型集合活动在不同状态之间跳跃,再现了数据中观察到的持续动态。当探测外部刺激时,该模型预测了单神经元多稳态到双稳态的淬灭和逐个试验变异性的减少。这两个预测都在数据中得到了证实。总之,这些结果提供了一个理论框架,捕捉正在进行的和诱发的网络动态在一个单一的机制模型。
2016-03-22 q-bio.NC
Adaptive compressed sensing - a new class of self-organizing coding models for neuroscience
稀疏编码网络利用无监督学习来最大化编码效率,已经成功地再现了初级视觉皮层\cite{AN:OlshausenField96}中发现的响应特性。然而,传统的稀疏编码模型要求编码电路能够以一对一的方式对感觉数据进行完全采样,这一要求不被来自丘脑-皮层投影的实验数据所支持。为了减轻这些严格的布线要求,我们提出了一个稀疏编码网络,通过引入压缩感知的框架中的突触学习。我们证明,新的模型进化生物现实的空间平滑的感受野,尽管事实上,前馈连接subsamples输入,从而学习依赖于贫困和扭曲的帐户的原始视觉数据。此外,我们证明,该模型可以形成一个一般的计划皮质通信:它可以形成有意义的表示在一个次要的感觉区,它接收输入从主要的感觉区通过“压缩”皮质-皮质投影。最后,我们证明了我们的模型属于一类新的稀疏编码算法,其中经常性的连接是必不可少的形成空间感受野。
2011-05-24 q-bio.NC
Trial matching: capturing variability with data-constrained spiking neural networks
本文提出用数据约束的大规模递归脉冲神经网络结合最优传输方法,匹配神经活动与行为的逐试验变异性,实现逼真皮层活动生成和下颌运动预测,并发现任务无关运动这一意外变异性模式。
2023-12-01 q-bio.NC
Emergent Computations in Trained Artificial Neural Networks and Real Brains
Universidad Autónoma de Madrid(马德里自治大学);Sano - Centre for Computational Personalised Medicine(Sano计算个性化医学中心)
突触可塑性使大脑皮层回路能够学习新的任务并适应不断变化的环境。大脑皮层回路是如何利用可塑性来获得决策或工作记忆等功能的?神经元以复杂的方式连接,形成循环的神经网络,学习改变了它们连接的强度。此外,神经元发出短暂的离散电信号进行通信。在这里,我们描述了如何在神经科学实验室中训练动物的任务中训练递归神经网络,以及如何在训练好的网络中出现计算。令人惊讶的是,人工网络和真正的大脑可以使用类似的计算策略。
2022-12-13 cs.AI cs.NE q-bio.NC
Gap junction plasticity as a mechanism to regulate network-wide oscillations
皮质振荡被认为参与许多认知功能和过程。已经提出了几种机制来调节振荡。一个突出但研究不足的机制是间隙连接耦合。缝隙连接普遍存在于皮层GABA能中间神经元之间。此外,最近的实验表明,它们的强度可以以活动依赖的方式进行修改,类似于化学突触。我们假设,活动依赖的间隙连接可塑性作为一种机制,以调节振荡的皮层。我们开发了一个计算模型的间隙连接可塑性在一个经常性的皮层网络。我们发现,间隙连接可塑性可以作为一个稳态振荡机制,通过保持两个网络状态之间的紧密平衡:异步不规则活动和同步振荡。这种稳态机制允许神经元组件之间通过两种不同的机制进行鲁棒通信:瞬时振荡和频率调制。这意味着间隙连接可塑性在皮层信息传递中的直接功能作用。
2017-07-07 q-bio.NC
Self-organization of microcircuits in networks of neurons with plastic synapses
与简单的随机网络模型相比,皮层网络的突触连接具有某些布线图案的过度表达。这种结构的形成,部分是由突触可塑性,促进或抑制神经元之间的连接,这取决于他们的尖峰活动。通常,理论研究集中在前馈输入如何驱动可塑性以创建这种网络结构。我们研究了循环网络中自组织结构的互补性情景,其中尖峰时间依赖的可塑性由自发动力学驱动。我们开发了一个自洽的理论,描述了网络结构的演变相结合的快速尖峰协方差与突触权重动态的快-慢理论。通过网络动力学的有限尺寸扩展,我们得到了一组低维的非线性微分方程的两个突触连接图案的演变。有了这个理论在手,我们探讨了可塑性规则的形式如何驱动皮层网络中微电路的演变。当增强和抑制处于近似平衡时,突触动力学依赖于加权发散、收敛和链基序的频率。对于加法,赫布STDP,这些基序相互作用在突触动力学中产生不稳定性,从而促进或抑制初始网络结构。我们的工作提供了一个一致的理论框架,研究如何在循环网络的尖峰活动与突触可塑性相互作用,以确定网络结构。
2014-12-20 q-bio.NC
Causal Spike Timing Dependent Plasticity Prevents Assembly Fusion in Recurrent Networks
该研究通过数值模拟与平均场理论发现,循环网络中因果型STDP规则可抵消共享神经元的对称相关性,使成员高度重叠的神经元集群维持功能独立,而非因果STDP在重叠超阈值时会引发集群融合,为分布式表征机制提供了理论依据。
2025-01-16 q-bio.NC
Guiding synchrony through random networks
稀疏随机网络包含可被视为稀释前馈网络的结构。皮质电路的建模表明,前馈结构,如果强烈明显的嵌入随机网络相比,使可靠的信号传输传播本地化(子网络)同步。然而,这种假设的突出性在局部皮层回路中没有实验观察到。在这里,我们表明,在最近的单神经元实验中发现的非线性树突相互作用,自然使引导同步传播已经在随机循环神经网络表现出轻度增强,生物学上合理的子结构。
2013-08-15 cond-mat.dis-nn physics.bio-ph q-bio.NC
Multimodal Recurrent Ensembles for Predicting Brain Responses to Naturalistic Movies (Algonauts 2025)
Max Planck Institute for Human Cognitive and Brain Sciences(马克斯·普朗克人类认知与脑科学研究所);TU Dresden(德累斯顿技术大学);School for Embedded and Composite AI (SECAI)(嵌入式与复合人工智能学院);Center for Scalable Data Analytics & AI (ScaDS.AI)(可扩展数据与人工智能中心)
本研究提出分层多模态循环集成模型,整合多模态时序信息预测大脑对自然电影的fMRI反应,在Algonauts 2025挑战赛中获季军,为多模态脑编码研究提供了可扩展基线。
2025-10-29 cs.CV cs.LG q-bio.NC
The Neuroscience of Transformers
University of Osnabrück(奥斯纳布吕克大学);University Medical Center Hamburg-Eppendorf(汉堡-埃彭多夫大学医学中心);Erasmus MC(伊拉斯姆斯大学医学中心)
本文探讨变换器网络如何类比大脑皮层微电路结构,提出变换器操作与皮层分层特征的映射关系,为研究皮层功能提供新视角。
2026-03-16 q-bio.NC q-bio.SC q-bio.TO
An Analytically Solvable Model of Firing Rate Heterogeneity in Balanced State Networks
针对皮层回路放电率分布缺乏数学可处理性的问题,基于 Gauss-Rice 神经元模型提出一种可精确计算放电率分布的平衡态皮层回路模型,支持多群体与多突触受体,为理解单神经元及突触特性对放电率分布的影响奠定基础。
2024-12-19 q-bio.NC
Mechanisms underlying the response of mouse cortical networks to optogenetic manipulation
本文通过解析计算与数值模拟,研究小鼠运动皮层和桶状皮层中PV神经元光刺激引发的矛盾响应,发现双群体模型无法解释该现象,而三或四抑制性群体模型可解释不同皮层的实验数据,并揭示矛盾效应要求循环兴奋不能过强。
2024-09-02 cond-mat.dis-nn q-bio.NC
Afferent specificity, feature specific connectivity influence orientation selectivity: A computational study in mouse primary visual cortex
初级视觉皮层(V1)提供了对特定输出特征(如方向调节)的选择性和出现的重要见解。小鼠视觉皮层中皮层神经元的调谐和选择性至今尚未明确解决。虽然许多体内实验研究发现,所有亚型的抑制性神经元广泛调整方向,但其他研究报告抑制性神经元与兴奋性神经元一样急剧调整。这些关于兴奋性和抑制性皮层神经元的选择性的不同发现促使我们提出以下问题:(1)皮层计算与先前描述的依赖于地图的物种有何不同或相似之处?(2)小鼠初级视觉皮层方位选择性增强的网络机制是什么?在这里,我们调查上述问题的计算框架与Hodgkin-Huxley(HH)点神经元组成的递归网络。我们的皮质网络与随机连接单独不能解释所有的实验观察,这导致我们假设,(a)方向依赖的连接(b)前馈传入特异性,以了解小鼠V1神经元的方向选择性。使用人口(方向选择性指数)OSI作为衡量神经元的选择性刺激方向,我们测试每个假设单独和结合对实验数据。基于我们对方向选择性(OS)数据的分析,我们发现基于传入特异性和连接性的模型中的网络参数与特征相似性很好地吻合。我们的结论是,这个特定的模型类最好的支持数据集的兴奋性和抑制性神经元的方向选择性在初级视觉皮层的第2/3层的小鼠。
2013-01-06 q-bio.NC
Firing Rate Dynamics in Recurrent Spiking Neural Networks with Intrinsic and Network Heterogeneity
神经属性的异质性最近得到了很多关注,并越来越多地被认为是神经处理中的一个重要特征。尽管它的重要性,这一生理特征在传统上被忽视的理论研究皮层神经网络。因此,关于尖峰神经网络中细胞和回路异质性的后果仍然有很多未知数。特别是,结合网络或突触异质性和内在异质性尚未被系统地考虑,尽管事实上,这两个是已知的存在,并可能有显着的作用,在神经网络动力学。在一个典型的循环发放神经网络模型中,我们研究了这两种形式的异质性如何导致兴奋性放电率的不同分布。为了分析这些类型的异质性如何影响网络,我们采用了降维方法,该方法依赖于蒙特卡罗模拟和概率密度函数方程的组合。我们发现,内在的和网络的异质性之间的关系有很强的影响的整体水平的异质性的放电率。具体来说,这种关系可能导致放电率异质性的放大或衰减,这些影响取决于递归网络是异步放电还是有节奏放电。这些观察与上述的减少方法,并进一步简单的分析描述,基于这种降维方法的开发。最后的分析描述提供了紧凑和描述性的公式,内在和网络异质性之间的关系如何决定在各种设置的发射率异质性动态。
2016-11-21 q-bio.NC
Entrainment of the intrinsic dynamics of single isolated neurons by natural-like input
神经元动力学本质上是不稳定的,产生的活动波动基本上是无标度的。在这里,我们表明,虽然这些无标度波动是独立的时间输入统计,它们可以夹带输入变化。联合输入输出统计和脉冲序列重现性在突触隔离皮层神经元进行了测量,以响应各种输入制度在延长的时间尺度(许多分钟)。响应夹带被认为是最大的输入本身具有自然的,无标度的统计。我们的结论是,自然刺激的偏好,经常观察到在系统水平上,已经存在于基本的,单神经元水平。
2013-01-31 q-bio.NC
Learning recurrent dynamics in spiking networks
Laboratory of Biological Modeling, NIDDK/NIH(美国国立糖尿病、消化系统疾病和肾病研究所(NIDDK)/美国国立卫生研究院(NIH)生物建模实验室)
参与学习和执行任务的神经元的尖峰活动表现出复杂的时空动态。虽然递归网络模型的输出可以学习执行各种任务,但学习后出现的递归动态的可能范围仍然未知。在这里,我们表明,修改经常性的连接与递归最小二乘算法提供了足够的灵活性,突触和尖峰速率动态尖峰网络产生广泛的时空活动。我们应用该训练方法来学习任意的放电模式,稳定平衡网络的不规则尖峰活动,并再现参与运动规划和运动的皮层神经元的异质尖峰速率模式。我们确定了成功学习的充分条件,描述了两种类型的学习错误,并评估了网络容量。我们的研究结果表明,突触耦合的周期性尖峰网络具有巨大的计算能力,可以支持大脑中的各种活动模式。
2018-08-18 cs.AI cs.LG cs.NE
Multi-Objective Optimisation of Cortical Spiking Neural Networks With Genetic Algorithms
脉冲神经网络(SNN)通过神经元的全或无脉冲活动进行通信。然而,将大量的SNN模型参数拟合到观察到的神经活动模式,例如在生物实验中,仍然是一个挑战。以前的工作,使用遗传算法(GA)优化一个特定的高效SNN模型,使用Izhikevich神经元模型,仅限于一个单一的参数和目标。这项工作应用了一种称为非支配排序GA(NSGA-III)的GA版本,以证明对同一SNN执行多目标优化的可行性,重点是搜索网络连接参数,以实现兴奋性和抑制性神经元类型的目标放电率,包括不同的网络连接稀疏性。我们表明,NSGA-III可以很容易地优化各种射击率。值得注意的是,当兴奋性神经元的放电率高于或等于抑制性神经元的放电率时,误差较小。此外,当连接稀疏性被认为是一个参数进行优化,最佳的解决方案需要稀疏的网络连接。我们还发现,兴奋性神经元的放电率低于抑制性神经元,误差一般较大。总的来说,我们已经成功地证明了对经常性和稀疏SNN的网络参数实施多目标GA优化的可行性。
2021-05-14 cs.NE q-bio.NC
Long-term memory stabilized by noise-induced rehearsal
尽管突触强度的寿命很短,但皮层网络可以保持数十年的记忆。神经网络能在不稳定的突触中存储持久的记忆吗?在这里,我们研究随机噪声对存储在吸引子神经网络的突触中的记忆的稳定性的影响。该模型包括持续的尖峰时间依赖可塑性(STDP)。我们表明,某些类的STDP规则可以导致存储在网络中的记忆模式的稳定。这种稳定性是由噪声引起的排练造成的。我们发现,非结构化的神经噪声,通过经常性的网络权重后,进行时间相关性的所有记忆模式的印记。在某些条件下,STDP与这些相关性相结合,可以导致所有现有模式的强化,即使是那些从未明确访问过的模式。因此,非结构化神经噪声可以稳定突触连接的现有结构。我们的研究结果可能提供功能的原因,高度不规则的尖峰显示皮层神经元和系统记忆巩固模型提供的理由。因此,我们提出不规则的神经活动是帮助皮层网络维持稳定连接的特征。
2012-05-31 cond-mat.dis-nn q-bio.NC
Mapping Whisper Representations to Human ECoG Responses with Interpretable Time-Resolved Neural Encoding
University of Rome Tor Vergata(罗马托尔维加塔大学);Tether Evo;A.A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital(麻省总医院 A.A. 马丁诺斯生物医学成像中心)
通过时间分辨神经编码器结合语音嵌入与循环时间模型及软注意力,研究Whisper内部表示如何预测颅内ECoG响应,发现中间层与神经活动对应最强,且高分辨率ECoG受益于时间结构化建模。
2026-06-01 cs.HC q-bio.NC
Emergent Bio-Functional Similarities in a Cortical-Spike-Train-Decoding Spiking Neural Network Facilitate Predictions of Neural Computation
Qiushi Academy for Advanced Studies, Zhejiang University(浙江大学求是高等研究院);College of Biomedical Engineering and Instrument Science, Zhejiang University(浙江大学生物医学工程与仪器科学学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);China Nanhu Academy of Electronics and Information Technology (CNAEIT)(中国电子科技南湖研究院)
尽管目标驱动的发放神经网络(SNN)具有更好的生物可识别性,但它在生物脉冲序列方面并没有达到适用的性能,而且与传统的人工神经网络相比,SNN的生物功能相似性很小。在这项研究中,我们提出了motorSRNN,一个经常性的SNN拓扑启发灵长类动物的神经运动回路。通过采用motorSRNN在解码脉冲序列从初级运动皮层的猴子,我们取得了很好的平衡之间的分类精度和能量消耗。motorSRNN通过捕获和培养更多的余弦调谐(运动皮层神经元的基本属性)与输入进行通信,并在训练期间保持稳定。在我们的猴子中也观察到这种训练诱导的培养和余弦调谐的持续性。此外,motorSRNN在单神经元、群体和电路水平上产生了额外的生物功能相似性,证明了生物真实性。因此,对motorSRNN的消融研究表明,长期稳定的反馈突触有助于运动皮层的训练诱导培养。除了这些新的发现和预测,我们还提供了一个新的框架来构建真实的神经计算模型。
2023-03-14 cs.AI q-bio.NC
Prominent characteristics of recurrent neuronal networks are robust against low synaptic weight resolution
神经元网络模型在相关空间尺度上的自然密度、异质连接性的表示仍然是计算神经科学和神经形态计算的一个挑战。特别是,在大脑规模的网络模拟中,大量突触所带来的记忆需求构成了一个主要障碍。限制突触权重的数字分辨率似乎是减少内存和计算负载的自然策略。在这项研究中,我们研究了有限的突触权重分辨率对类似于局部皮层电路的经常性尖峰神经元网络动态的影响,并制定了策略,以最大限度地减少与高分辨率突触权重的网络动态的偏差。我们模仿有限的突触权重分辨率的效果,通过从离散分布的权重取代正态分布的突触权重,并比较所得到的统计特征的发射率,尖峰序列的不规则性,和相关系数与参考解决方案。我们表明,一个天真的离散化的突触权重一般会导致失真的尖峰脉冲序列的统计。只有当权重被离散化,使得总突触输入电流的均值和方差被保留时,本研究中考虑的网络类型的放电统计才不受影响。对于具有足够异质入度的网络,即使所有突触权重被权重分布的平均值替换,也可以保留激发统计。我们的结论是,即使是简单的网络与非塑性神经元和突触,突触权重的离散化可能会导致放电统计的实质性偏差,除非离散化是小心执行,并通过严格的验证过程的指导。
2021-05-11 q-bio.NC
Hebbian learning of recurrent connections: a geometrical perspective
我们展示了一个具有可修改的经常性连接的Hopfield网络如何通过缓慢的Hebbian学习来提取输入空间的底层几何。首先,我们使用一个慢/快的分析,以获得一个平均的系统,其动态来自能量函数,因此总是收敛到平衡点。平衡反映了输入的相关结构,一个全局对象只通过局部经常性的相互作用提取。其次,我们使用数值方法来说明学习如何提取输入的隐藏几何结构。事实上,多维缩放方法可以将最终的连接矩阵投影到高维空间中的距离矩阵上,神经元在该空间中的空间位置被标记。由此产生的网络结构大致是卷积的。投影的残差定义了在该过程中最小化的连接的非卷积部分。最后,我们展示了如何限制神经元生活的空间的尺寸产生类似于皮层地图的模式。我们激励这使用基于线长最小化的能源效率参数。最后,我们展示了这种方法是如何导致初级视觉皮层中眼优势或方向列的出现的。此外,我们还确定了非卷积(或长距离)连接是不完整的,并且在方向学习的情况下是共同对齐的。
2011-02-01 nlin.AO q-bio.NC
Embedding of Low-Dimensional Sensory Dynamics in Recurrent Networks: Implications for the Geometry of Neural Representation
University of Washington School of Medicine(华盛顿大学医学院);Purdue University Fort Wayne(普渡大学韦恩堡分校);University of Washington(华盛顿大学)
研究探讨了低维感觉动态如何在循环网络中形成嵌入结构,并揭示了预测性能对表征几何的约束作用。
2026-08-03 cs.LG q-bio.NC
A wake-sleep algorithm for recurrent, spiking neural networks
我们调查最近提出的模型进行关系推理的皮质计算。它由几个相互连接的,结构上等效的群体泄漏整合和消防(LIF)神经元,这是训练在一个自组织的方式与尖峰定时依赖可塑性(STDP)。尽管其强大的学习动力学,该模型是容易受到一个典型的递归网络,使用基于相关性(赫布)的学习规则的问题:如果训练与高学习率,经常性的连接可能会导致强反馈回路的网络动态,这导致吸引子状态的出现。这导致可表示模式的数量大幅减少,网络的推理能力下降。作为解决方案,我们引入了一个概念上非常简单的“唤醒-睡眠”算法:在唤醒阶段,正常执行训练,而在睡眠阶段,网络从其生成模型中“做梦”样本,这些样本由随机输入引起。这个过程允许我们激活网络中的吸引子状态,然后可以通过反赫布机制有效地取消学习。该算法允许我们将学习率提高到10倍,同时避免聚类,这使得网络的学习速度提高了几倍。此外,对于低学习率,其中聚类不是问题,它提高了收敛速度并减少了最终的推理误差。
2017-03-18 cs.NE q-bio.NC
Lyapunov spectra of chaotic recurrent neural networks
大脑通过大型神经网络的集体动态来处理信息。集体混沌被认为是大脑皮层回路中观察到的复杂动态的基础,并决定了传入信息流的影响和处理。在耗散系统中,混沌动力学发生在降维相空间的一个子集上,并由稳定、中性和不稳定流形的复杂缠结组织起来。这种相空间结构的关键拓扑不变量,如吸引子维数和Kolmogorov-Sinai熵至今仍然难以捉摸。本文计算了循环神经网络的完全李雅普诺夫谱。我们发现,在这些网络中的混沌是广泛的大小不变的李雅普诺夫谱和吸引子维数远小于相空间维数的数量为特征。我们发现,附近的混沌,非常激烈的混乱,离散时间动态,随机矩阵理论提供了分析近似的完整的李雅普诺夫谱。我们发现,一个广义的时间反转对称的网络动力学诱导的点对称的李雅普诺夫谱让人想起混沌哈密顿系统的辛结构。波动输入降低了熵率和吸引子维数。对于训练的递归网络,我们发现,李雅普诺夫谱分析提供了一个量化的误差传播和稳定性实现。我们的方法适用于系统的任意连接,我们描述了一套全面的控制的准确性和收敛性的李雅普诺夫指数。我们的结果为表征循环神经网络的复杂动力学和相应的混沌吸引子的几何结构开辟了一条新的途径。他们还强调了李雅普诺夫谱分析作为递归网络机器学习应用的诊断的潜力。
2020-06-03 nlin.CD q-bio.NC
Information in a recurrent Retina-V1 network with realistic noise, feedback and nonlinearities
Universitat de València(瓦伦西亚大学)
本文首次结合通用循环网络、精确噪声和可靠信息度量,研究早期视觉中信息流的定量估计,揭示反馈在信息处理和网络稳定性中的作用。
2026-10-14 q-bio.NC
Soliton-like Waves in a Two-Dimensional Recurrent Spiking Neural Network with Weighted Spike-Timing-Dependent Plasticity
本文构建了一个最小生物合理的脉冲神经元模型,通过加权STDP和归一化机制,在二维递归网络中自发产生稳定传播的耗散孤子波,其碰撞湮灭特性可用于编码相对相位和频率。
2026-06-23 cs.NE q-bio.NC
A rigorous stochastic theory for spike pattern formation in recurrent neural networks with arbitrary connection topologies
皮层网络表现出同步活动,这往往发生在自发事件的形式尖峰雪崩。由于同步与大脑功能的中心方面(如选择性信号处理和刺激信息的整合)有因果关系,参与雪崩是一种暂时性同步的形式,它暂时产生神经组装,因此可能对实现灵活的信息处理特别有用。为了理解组装形成如何支持神经计算,因此必须建立一个全面的理论,来解释网络结构和动力学如何相互作用,以产生特定的雪崩模式和序列。在这里,我们推导出精确的雪崩分布的有限网络的递归耦合尖峰神经元与任意非负的相互作用的权重,这是可能的正式映射模型动态的线性,随机动力系统上的$N$ -环面和利用自相似性固有的相空间。我们引入了相对唯一遍历性的概念,并证明了如果系统由时不变的伯努利过程驱动,则此属性是有保证的。这种方法不仅允许我们提供雪崩大小的封闭形式的分析表达式,而且还可以确定雪崩中发射的单元的详细集合(即,雪崩组件)。网络结构和动力学之间的潜在依赖是透明的,通过表示雪崩组件的诱导图拉普拉斯算子的分布。我们探讨分析这种依赖性的后果,并提供说明性的例子。
2022-02-05 math.DS q-bio.NC
Collective Stochastic Coherence in Recurrent Neuronal Networks
动态元素的递归网络经常表现出涌现的集体振荡,即使单个元素有相当大的噪声,也可以显示出相当大的规律性。地方一级的噪声诱导动力学如何与全球一级的规则振荡共存,目前尚不清楚。在这里,我们表明,随机递归为基础的启动与确定性的耐火性在一个可兴奋的网络相结合,可以调和这两个功能,导致最大的集体一致性的中间噪声水平。我们报告这种行为在缓慢振荡制度表现出的大脑皮层网络的动态条件下,类似于慢波睡眠和麻醉。一个生物现实网络模型的计算分析表明,一个中间水平的背景噪声导致准规则的动态。我们验证了这一预测实验皮层切片受到不同量的细胞外钾,调节神经元的兴奋性,从而突触噪音。该模型还预测,这种有效的规则状态应该表现出噪声引起的集体振荡的空间传播轮廓的记忆,这也是实验验证。总之,这些结果使我们能够将在大脑中实验观察到的增强规律性视为集体随机相干的一个实例。
2017-01-03 cond-mat.stat-mech nlin.AO physics.bio-ph
Task-Driven Convolutional Recurrent Models of the Visual System
Stanford University(斯坦福大学);McGovern Institute for Brain Research, MIT(麻省理工学院麦戈文脑研究所);MIT(麻省理工学院);KU Leuven(鲁汶大学);Google Brain, Google, Inc.(谷歌公司谷歌大脑);Wu Tsai Neurosciences Institute(吴蔡神经科学研究所)
前馈卷积神经网络(CNN)目前是ImageNet等对象分类任务的最新技术。此外,它们是灵长类动物大脑视觉系统中神经元时间平均反应的定量准确模型。然而,生物视觉系统有两个普遍存在的结构特征,这两个特征与典型的CNN不同:皮质区域内的局部复发,以及从下游区域到上游区域的远程反馈。在这里,我们探讨了递归在提高分类性能中的作用。我们发现,标准形式的递归(vanilla RNN和LSTM)在ImageNet任务的深度CNN中表现不佳。相比之下,包含两个结构特征(旁路和门控)的新型细胞能够大幅提高任务准确性。我们将这些设计原则扩展到数千个模型架构的自动搜索中,这些架构识别出了对对象识别有用的新的局部递归细胞和远程反馈连接。此外,这些任务优化的ConvRNN比前馈网络更好地匹配了灵长类视觉系统中神经活动的动态,这表明大脑的循环连接在执行困难的视觉行为中发挥了作用。
2018-10-27 cs.AI cs.CV cs.LG
Association-sensory spatiotemporal hierarchy and functional gradient-regularised recurrent neural network with implications for schizophrenia
University of Cambridge(剑桥大学)
本研究利用fMRI梯度分析和梯度正则化RNN,揭示精神分裂症中感觉-联合层级压缩与神经计算稳定性下降的机制关联。
2025-11-04 cs.LG q-bio.NC
ELiSe: Efficient Learning of Sequences in Structured Recurrent Networks
University of Bern(伯尔尼大学);University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院);Catlab Engineering GmbH(Catlab工程有限公司)
ELiSe利用皮层网络支架和树突区室,通过局部无相位突触可塑性高效学习复杂序列,在鸟类鸣唱模拟中展现灵活性和鲁棒性。
2026-09-29 cs.AI cs.NE q-bio.NC
Stimulus-Dependent Suppression of Chaos in Recurrent Neural Networks
神经元活动是由神经回路自发产生的持续放电和外部刺激驱动的反应之间的相互作用引起的。使用平均场分析,我们问一个神经网络,内在地产生混沌模式的活动可以保持敏感的外部输入。我们发现,输入不仅驱动网络的反应,他们还积极抑制正在进行的活动,最终导致一个相变,其中混沌被完全消除。在相变的临界输入强度是刺激频率的非单调函数,揭示了一个“共振”频率,在该频率下,即使自发活动的功率谱在零处达到峰值并呈指数下降,输入在抑制混沌方面也是最有效的。我们的分析预测是,神经反应的方差应该在与许多感觉系统操作的范围相匹配的频率处被最强烈地抑制。
2010-08-02 cond-mat.dis-nn nlin.CD physics.bio-ph
Macroscopic Fluctuations Emerge in Balanced Networks with Incomplete Recurrent Alignment
具有随机连接的强耦合神经元网络表现出混沌的异步波动。在以前的工作中,我们表明,当赋予一个额外的低秩连接组成的正交向量的外积,这些网络产生大规模的相干波动。虽然这是一个惊人的现象,但其结果取决于对低秩结构的微调选择。在这里,我们通过将兴奋-抑制平衡理论推广到具有任意低秩结构的网络来扩展这项工作,并表明低维可变性本质上是通过我们所谓的不完全经常性对齐来出现的。我们说,一个低秩连接结构表现出不完全对齐,如果它的行空间不包含在它的列空间。在不完全对齐的情况下,递归连通性可以分解为子空间递归分量和有效前馈分量。我们发现,高维,微观波动传播通过有效的前馈组件到一个低维子空间,在那里他们是动态平衡的宏观波动。我们从生物学上提出了合理的例子,从兴奋抑制网络和网络的异质度分布。最后,我们定义的对齐矩阵之间的重叠左,右奇异向量的结构化连接,并表明,对齐矩阵的奇异值决定的宏观变化的幅度,而其奇异向量决定的结构。我们的工作表明,宏观波动可以出现在一般的强耦合网络与低秩结构。此外,通过将兴奋-抑制平衡推广到任意的低秩结构,我们的工作可以在任何具有强相互作用单元的环境中找到相关性,无论是在生物网络、社会网络还是技术网络中。
2021-03-11 nlin.CD q-bio.NC