Observation of complex functional cortical patterns in brain cognition
突触可塑性和神经元串扰是形成活跃神经元动态簇的重要机制。本研究的实质是模拟和破译神经元群体中任务特异性功能连接出现的机制。我们已经使用我们提出的神经元活动模式(NAP)模型来定义各种各样的相互作用,并在具有两种状态(激发/非激发)神经元的2D晶格上进行模拟。我们观察到的出现无标度,层次组织有序的模式,我们称之为功能性皮层模式(FCPs)的活动神经元,只有在近临界相变。我们已经做了广泛的拓扑特征的FCPs和测试其一致性与功能的大脑网络获得的经验电生理数据的视觉刺激任务。我们的网络理论属性,分形分析和功能制图的结果证实了过渡效应,而生成的FCP。这给了我们强烈的暗示,功能性神经元系统在接受刺激时支持远离平衡的动力学。我们的调查的长期,关键和短期的相互作用导致的解释,近临界过渡阶段是一个光谱的临界温度(耦合强度)受到神经元之间的距离。神经元之间的相互作用的范围在定义神经元回路的功能严重性方面起着重要作用。我们建议,作为耦合强度的函数的相互作用范围驱动连接的增强方式,因为我们观察到的耦合强度增加,从短到长距离的相互作用,在神经元的人口。这使我们能够了解认知行为的强度,这是通过多次刺激尝试获得的。
2021-07-31 q-bio.NC
A probabilistic model for learning in cortical microcircuit motifs with data-based divisive inhibition
以前的理论研究兴奋性和抑制性神经元的相互作用提出了一个所谓的赢家通吃(WTA)电路模型,这种皮层微电路的主题。然而,最近的一项建模研究发现,WTA模型不足以用于基于数据的较软形式的分裂抑制,如在皮层2/3层的微电路图案中发现的。在这里,我们调查通过理论分析的作用,这种软分裂抑制的出现下的尖峰定时依赖可塑性(STDP)的计算操作和神经代码。我们表明,与WTA模型相比-其中网络活动被解释为生成混合分布中的概率推理-这种网络动力学近似于基于多个隐藏原因解释网络输入的噪声或类生成模型中的推理。此外,我们表明,STDP优化该模型的参数近似在线期望最大化(EM)算法。这种理论分析证实了先前的建模研究,该研究表明,该层2/3微电路图案的学习动态提取输入的特定模块化表示,从而对输入统计进行盲源分离。
2017-07-17 q-bio.NC
Emergence of Subcritical Bifurcations in a System of Randomly Coupled Supercritical Andronov-Hopf Oscillators: A Potential Mechanism for Neural Network Type Switching
实验证据表明,皮质系统的计算状态根据行为和刺激上下文而改变。然而,它仍然是未知的机制,这种适应性处理皮层电路。在本文中,我们提出了一个随机耦合的超临界Andronov-Hopf振荡器模型,它可以作为一个自适应处理器,表现出显着不同的动态依赖于一个单一的网络参数的值。尽管仅由超临界子单元组成,但整个系统可以表现出超临界或亚临界Andronov-Hopf分叉。该模型可能为模式识别理论中全局渐近稳定和非双曲神经网络类型之间的切换提供一种新的机制。
2019-08-22 math.DS nlin.AO physics.bio-ph
Effect of Small-World Connectivity on Fast Sparsely Synchronized Cortical Rhythms
在大脑活动的电记录中,已经观察到了具有随机和间歇性神经放电的快速皮层节律。最近,Brunel等人开发了一个框架来描述这种快速稀疏同步在随机和全局耦合网络的阈上尖峰神经元。然而,在真实的皮层回路中,已知突触连接具有复杂的拓扑结构,其既不是规则的也不是随机的。因此,为了将Brunel等人的工作扩展到现实的神经网络,我们研究了网络结构对这些快速稀疏同步的节律的影响,这些节律是在阈上快速尖峰(FS)Izhikevich中间神经元的抑制性群体中产生的。我们首先采用传统的Erdös-Renyi随机图的阈上FS Izhikevich中间神经元的神经系统中的复杂连接建模,并研究出现的人口同步状态,通过改变突触抑制强度$J$和噪声强度$D$。因此,发现对于大的$J$和$D$值,出现相对高程度的快速稀疏同步状态。其次,对于固定值的$J$和$D$,其中快速稀疏同步发生在随机网络中,我们考虑了Watts-Strogatz小世界网络的阈上FS Izhikevich中间神经元,它通过重新布线插在规则格和随机图之间,并通过改变从短距离到长距离的重新布线概率$p$,研究小世界突触连接对快速稀疏同步节律出现的影响。范围连接。当通过一个小的临界值$p^*_c$ $(\simeq 0.12)$,快速稀疏同步的人口节奏被发现出现在小世界网络与主要的本地连接和罕见的远程连接。
2014-09-02 physics.bio-ph q-bio.NC
Deep Neural Networks predict Hierarchical Spatio-temporal Cortical Dynamics of Human Visual Object Recognition
Massachusetts Institute of Technology(麻省理工学院);Free University Berlin(柏林自由大学)
皮层视觉通路复杂的多阶段结构为人类有效的视觉物体识别提供了神经基础。然而,其中的阶段式计算仍然知之甚少。在这里,我们比较了时间(脑磁图)和空间(功能性MRI)视觉大脑表征与人工深层神经网络(DNN)中的表征,该网络调整到现实世界视觉识别的统计数据。我们发现DNN在时间和空间上捕捉了人类视觉处理的阶段,从早期视觉区域到背侧和腹侧流。对关键DNN参数的进一步研究表明,虽然模型架构很重要,但对真实世界分类的训练对于加强与大脑的时空层次关系是必要的。我们的研究结果一起提供了一个算法知情的视图在人类视觉大脑中的视觉对象识别的时空动态。
2016-01-12 cs.CV q-bio.NC
Self-sustained asynchronous irregular states and Up/Down states in thalamic, cortical and thalamocortical networks of nonlinear integrate-and-fire neurons
随机连接的整合和激发(IF)神经元网络显示异步不规则(AI)活动状态,类似于清醒动物大脑皮层中记录的放电活动。然而,目前尚不清楚这种活动状态是否是特定于简单的IF模型,或者它们是否也存在于神经元被赋予类似于电生理测量的复杂内在特性的网络中。在这里,我们研究了AI状态在非线性IF神经元网络中的发生,例如自适应指数IF(Brette-Gerstner-Izhikevich)模型。该模型可以显示低阈值锋电位(LTS)、规则锋电位(RS)或快速锋电位(FS)等内在特性。我们相继调查的振荡和AI动态丘脑,皮质和丘脑皮质网络使用这样的模型。在每种情况下都可以找到人工智能状态,有时网络的大小非常小,只有几十个神经元。我们发现,在皮层或丘脑中存在LTS神经元,解释了相对较小的网络尺寸下AI状态的强劲出现。最后,我们研究了尖峰频率适应(SFA)的作用。在RS细胞中具有强SFA的皮层网络中,AI状态是短暂的,但当SFA减少时,AI状态可以自我维持很长时间。在丘脑皮层网络中,当皮层本身处于AI状态时,就会发现AI状态,但在强SFA的情况下,丘脑皮层网络会显示向上和向下状态转换,类似于慢波睡眠或麻醉期间的细胞内记录。自我维持的Up和Down状态也可以通过具有LTS细胞的双层皮层网络产生。这些模型表明,内在的属性,如LTS是至关重要的,在丘脑皮层网络的AI状态。
2009-05-10 q-bio.NC
Genetic Algorithmic Parameter Optimisation of a Recurrent Spiking Neural Network Model
神经网络是对人脑行为进行松散建模的复杂算法。它们在计算神经科学和人工智能中起着重要的作用。下一代神经网络模型是基于神经元的尖峰定时活动:脉冲神经网络(SNN)。然而,SNN中的模型参数难以搜索和优化。以前的研究,使用遗传算法(GA)优化SNN主要集中在简单的,前馈,或振荡网络,但没有太多的工作已经做了优化皮质类递归SNN。在这项工作中,我们研究了使用遗传算法来搜索递归SNN中的最佳参数,以达到目标神经元群体的放电率,例如在实验观察中。我们考虑了基于皮质柱的SNN,包括1000个Izhikevich尖峰神经元,用于计算效率和生物现实主义。探索的模型参数是神经元偏置输入电流。首先,我们找到了这个特定的SNN,目标人口平均发射活动的最佳参数值,算法的收敛约100代。然后,我们表明,GA的最佳人口规模在~16-20,而返回最佳适应值的交叉率为~0.95。总的来说,我们已经成功地证明了实施GA优化模型参数在一个经常性的皮质SNN的可行性。
2020-05-27 cs.NE q-bio.NC
Long-range synchrony and emergence of reentry in neural networks
跨越长神经距离的同步是一种重要的功能现象。为了获得远程同步的机制基础,我们构建了一个实验模型,该模型能够在皮层中子的大型随机网络中监测厘米尺度距离上的尖峰活动。我们发现,在这些距离的同步模式取决于长度尺度,$λ$,这是最小的路径,活动应通过满足其原点准备重新激活之前。当$λ$在实验上大于网络的物理尺寸时,远处的神经元群体同步运作,引起不规则发生的网络范围内的事件,持续数百毫秒到几秒。相反,当$λ$接近网络的维度时,出现了连续的自我维持的再入传播,这是一种以精确的时空模式(“同步点火链”)为标志的规则动力学模式,可能持续数分钟。这些结果有助于讨论正常和病理状态下不同神经同步模式的起源
2016-06-06 q-bio.NC
Decoding the circuitry of consciousness: from local microcircuits to brain-scale networks
识别意识出现和维持的生理过程是神经科学最基本的问题之一,其影响范围从基础神经科学到意识障碍(DOC)患者的治疗。一个主要的挑战是了解从局部网络到大脑规模网络的完全不同的空间尺度上的皮层回路如何协同运作以实现意识,以及这些过程如何在DOC患者中受损。在这篇综述中,我们试图将现有的神经生理学和临床数据与现有的意识理论模型联系起来,同时将微观和宏观电路水平联系起来。首先,我们一方面解决意识和觉醒之间的关系,另一方面解决皮质-皮质和丘脑-皮质连接之间的关系。其次,我们讨论了三种主要类型的GABA能中间神经元在负责功能网络动态重组的特定电路中的作用。第三,我们探索嵌套振荡的神经同步和通信的功能作用的进展,强调本地(高频)和远程(低频)活动之间的平衡的重要性,有效的信息处理。这些理论考虑的临床意义。我们认为,这种细胞尺度的机制可以扩展目前的意识理论。
2019-07-26 q-bio.NC
An explainability framework for cortical surface-based deep learning
University of Queensland(昆士兰大学);Queensland Brain Institute(昆士兰脑研究所)
可解释性方法的出现使得人们能够更好地理解神经网络如何通过最终用户容易理解和实现的概念来操作。虽然大多数可解释性方法都是为传统的深度学习设计的,但有些方法已经被进一步开发用于几何深度学习,其中数据主要表示为图形。这些表示通常来自医学成像数据,特别是在神经成像领域,其中图形用于表示大脑结构和功能布线模式(大脑连接体),并且皮质表面模型用于表示大脑的解剖结构。虽然已经开发了可解释性技术来识别重要的顶点(大脑区域)和图形分类的特征,但这些方法仍然缺乏更复杂的任务,例如基于表面的模态转移(或顶点回归)。在这里,我们通过开发基于皮层表面的深度学习框架来解决基于表面的可解释性方法的需求,为模态转移任务提供透明的系统。首先,我们采用了基于扰动的方法与表面数据。然后,我们应用我们基于扰动的方法来研究几何深度学习模型所使用的关键特征和顶点,该模型用于直接在皮层表面模型上从解剖结构预测大脑功能。我们表明,我们的可解释性框架不仅能够识别重要特征及其空间位置,而且它也是可靠和有效的。
2022-03-15 cs.CV q-bio.NC q-bio.QM
Multihead self-attention in cortico-thalamic circuits
提出皮层-丘脑回路结构可实现类似多头自注意力的计算,为浅层和深层锥体细胞分配键值记忆与查询角色,并推导突触学习梯度。
2025-08-10 cs.NE q-bio.NC
Emergence of a Balanced Core through Dynamical Competition in Heterogeneous Neuronal Networks
兴奋和抑制之间的平衡对于神经元计算至关重要。在许多实验中观察到神经元网络的平衡状态,但其内在机制仍有待充分阐明。对平衡态的理论研究主要集中在对均匀Erd $\ddot{\text{o}}$ s-Rényi网络的分析上。然而,已经发现在许多皮层区域中的神经元网络是不均匀的。特别是,神经元网络的连接可以是无标度的、小世界的,甚至是具有特定基序的。在这项工作中,我们研究的问题,是否平衡状态是普遍的网络拓扑结构和平衡状态具有什么样的特点,在非均匀网络,如无标度和小世界网络。我们发现,对于稀疏但强连接的非均匀网络,尽管整个网络接收外部输入,但其中固有地嵌入了一个小的活动子网络(活动核),该活动核中的神经元具有相对较高的放电率,而网络其余部分中的神经元处于静止状态。令人惊讶的是,活性核心具有平衡状态,并且这种状态独立于单神经元动力学模型。在平均场假设下,用福克-普朗克方程可以很好地预测活动核的动力学。我们的研究结果表明,在不均匀的网络连接的存在下,平衡状态可能是普遍存在于大脑中,和网络连接的活动核心是本质上接近Erd $\ddot{\text{o}}$ s-Rényi结构。嵌入在大网络中的小活性核的存在可以提供神经元网络中稀疏编码的潜在动力学场景。
2017-10-14 q-bio.NC
Harnessing functional segregation across brain rhythms as a means to detect EEG oscillatory multiplexing during music listening
音乐是一种在多个时间尺度上发展的多方面刺激,它以多种方式调节大脑功能,不仅包括听觉感知的不同阶段,还包括记忆和评价等更高的认知过程。网络理论显然是一种很有前途的方法来描述音乐听时脑振荡动力学的功能重组。然而,迄今为止,音乐引起的变化已经在孤立的大脑节律的功能边界内进行了研究。使用自然主义的音乐,我们检测到的功能分离模式与不同的皮层节奏,因为这些都反映在表面脑电图测量。出现的结构进行了比较,跨频带的节奏之间的相互作用进行量化。并将其与安静和噪声条件下的结构进行对比,以揭示音乐听觉产生的具体成分。我们的方法包括一个有效的图分区算法,这是进一步利用挖掘原型模块化模式,和一种新的算法程序,用于识别交换节点,始终改变模块在音乐听。我们的研究结果表明音乐诱导的功能重组具有多重特征,特别是δ和βH节律重建的网络之间的依赖性。这种依赖性在嵌套神经振荡的框架内得到进一步证明,并且在最近引入的音乐皮质夹带的背景下完全适合。考虑到其计算效率,并结合原位脑电描记术的灵活性,它可能会为现实生活中的应用带来新型辅助工具。
2018-02-03 q-bio.NC
Emergence of irregular activity in networks of strongly coupled conductance-based neurons
皮质神经元的特征是不规则的放电和广泛的频率分布。平衡状态模型解释了这些观察与平均兴奋性和抑制性电流的取消,这使得波动驱动放电。在具有基于电流的突触的神经元网络中,如果耦合很强,即如果每个神经元的突触的平均数量$K$很大并且突触功效是$1/\sqrt{K}$级,则平衡状态动态地出现。当突触基于电导时,当耦合很强时,电流波动会被抑制,这就质疑了平衡状态思想对生物神经网络的适用性。我们分析网络的强耦合电导为基础的神经元,并表明,异步不规则的活动和广泛的分布率出现,如果突触的顺序$1/\log(K)$。在这样的网络中,与标准的平衡状态模型不同,电流波动很小,并且通过漂移扩散平衡来维持放电。这种平衡出现动态,没有微调,如果输入小于一个临界值,这取决于突触的时间常数和耦合强度,是显着更强大的连接异质性比经典的平衡状态模型。我们的分析使实验可测试的预测网络响应属性应如何演变为输入的增加。
2020-10-13 physics.bio-ph q-bio.NC
A computational hierarchy in human cortex
在皮层组织的解剖学描述中,等级结构是一个突出的特征。一个悬而未决的问题是哪些计算(算法)过程是由这些层次结构实现的。一个著名的假设是,皮层层次结构实现了世界因果结构的模型,并从感官输入中推断出环境状态。这种观点将感知视为分层的贝叶斯推断,已经成为基础和临床神经科学中非常有影响力的概念。然而,到目前为止,层次贝叶斯计算的预测顺序和诱发神经元活动的序列之间的直接对应关系尚未得到证明。在这里,我们提出的证据,这种对应关系的神经影像学和电生理数据在健康志愿者。尝试明智的序列层次计算推断参与者的行为在社会学习任务,需要多层次的推理意图。我们发现神经元活动的时间序列与理论预测的计算顺序相匹配。这些发现为人类大脑皮层的分层贝叶斯推断的运作提供了强有力的证据。此外,我们的方法提供了一种新的战略相结合的计算生理表型的患者的感知障碍,如精神分裂症或自闭症。
2017-09-07 q-bio.NC q-bio.QM
Network events on multiple space and time scales in cultured neural networks and in a stochastic rate model
在体外和体内,皮层网络可以自发地产生各种集体动力学事件,如网络尖峰,向上和向下状态,全局振荡和雪崩。虽然他们中的每一个已经在以前的作品中被不同程度地认可为皮层组织的兴奋性和相关的非线性动力学的表达,他们的决定因素(动力学和建筑)的统一图片是可取的,尚未提供。使用各种统计措施来界定感兴趣的网络事件也部分阻碍了进展。我们在这里提出了一个共同的概率定义的网络事件,适用于培养神经网络的发射活动,突出了网络尖峰,幂律分布雪崩,和指数分布的“准轨道”,这提供了第三种类型的集体行为的共同发生。一个速率模型,包括突触兴奋和抑制没有强加的拓扑结构,突触短期抑制,和有限大小的噪音,占所有这些不同的,共存的现象。我们发现,它们的出现在很大程度上是由附近的振荡不稳定的动态,非线性的可兴奋的行为,导致活动波动的自我放大在很宽的范围内的空间和时间。从这个意义上说,培养的网络动力学是兼容的兴奋-抑制平衡对应于一个轻微的亚临界制度。最后,我们提出并测试了一种方法来推断疲劳过程的特征时间,从观察到的网络的射击率的时间过程。与具有单一疲劳机制的模型不同,培养的网络似乎显示出多个时间尺度,表明不同疲劳机制可能共存。
2015-11-26 q-bio.NC
Layerwise complexity-matched learning yields an improved model of cortical area V2
New York University(纽约大学);Flatiron Institute(弗拉铁隆研究所);Google DeepMind(谷歌DeepMind)
提出层级复杂度匹配学习(LCL),通过自下而上自监督训练匹配各层任务复杂度,生成改进的V2区模型,并提升分布外泛化与人类行为一致性。
2024-07-18 cs.CV cs.LG q-bio.NC
Rounding of abrupt phase transitions in brain networks
在大脑皮层网络中观察到的类似批评的行为,代表着在阐明大脑如何管理信息方面迈出了重要的一步。理解类临界动力学的起源和功能,以及它们的鲁棒性,是当代神经科学的一个主要挑战。在这里,我们提出了一个广泛的数值研究的一个家庭的简单的动态模型,它描述了活动传播的大脑网络,通过整合不同的相邻尖峰电位,模仿基本的神经相互作用。信号积分的要求可能会导致网络中的不连续相变,这些相变可以通过平均场近似很好地描述,从而防止在这样的系统中出现临界点。在这里,我们表明,在大脑中的关键性,而不是强大的,作为皮层网络的高层,这标志着偏离平均场范式的分层组织的结果。我们发现,在有限维的层次网络,不连续的相变表现出舍入现象,并变成连续的拓扑维数$D\le 2$的值,由于存在的结构或拓扑紊乱。我们的研究结果可能会被证明是重要的,在解释观察到的特征的关键行为在大规模测量的大脑活动。
2014-07-28 cond-mat.dis-nn nlin.AO q-bio.NC
A Computational Framework for Modeling Emergence of Color Vision in the Human Brain
本文提出一个计算框架,通过模拟眼睛和皮层,证明颜色维度可从视神经信号波动中自监督涌现,并首次模拟提升颜色维度至四维。
2025-03-01 cs.NE q-bio.NC
Collective excitability in a mesoscopic neuronal model of epileptic activity
大脑可以被理解为一个相互作用的神经元振荡器的集合,但它的持续活动在多大程度上是由于大脑区域之间的耦合仍然不清楚。在这里,我们研究了由Jansen-Rit神经质量模型描述的两个皮质柱的联合动力学,并表明柱之间的耦合引起持续的集体活动的随机启动,这可以被解释为癫痫事件。对于足够大的耦合强度,终止这些事件的结果主要来自列之间的同步的出现,因此是由耦合,而不是噪声控制。随机触发和噪声独立的持续时间的特点是可兴奋的动力学,因此,我们解释我们的结果集体兴奋性。
2017-07-12 nlin.AO q-bio.NC
Anomalous Consistency in Mild Cognitive Impairment: a complex networks approach
表现的变异性增加与几种神经和精神疾病的出现有关。然而,神经元活动的一致性是否以及如何也可以指示潜在的病理仍然知之甚少。在这里,我们提出了一种新的方法来评估非侵入性脑记录的一致性。我们评估的一致性的皮质活动记录与脑磁图在一组被诊断为轻度认知障碍(MCI),条件有时前驱痴呆症,在执行的记忆任务。我们使用来自非线性动力学的指标来评估皮质区域的一致性。被称为(parenclitic网络)的表示被构造,其中非典型功能被赋予网络结构,其拓扑性质可以在各种尺度上进行研究。病理条件对应于强异质性网络,而典型或规范条件的特征在于具有同质节点的稀疏连接网络。对这种网络的分析可以确定一致性对MCI群体的影响程度以及MCI特别严重的焦点。据我们所知,这些结果代表了第一次尝试使用复杂网络理论评估大脑功能活动的一致性。
2014-10-30 nlin.AO physics.bio-ph q-bio.NC
Critical and resonance phenomena in neural networks
大脑节律对大脑功能的各个方面都有影响。在这里,我们研究的关键和共振现象之前出现的脑节律。使用的分析方法和模拟的神经网络与随机神经元在噪声的存在下,我们表明,自发出现的网络振荡的动态(非平衡)相变在一个临界点确定的噪声水平,网络结构,兴奋性和抑制性神经元之间的平衡,和其他参数。我们发现,神经活动的弛豫时间到一个稳定的状态,响应周期性刺激的振荡频率,阻尼振荡的振幅,和神经活动的随机波动时,接近临界点的过渡显着增加。
2012-11-24 cond-mat.dis-nn physics.bio-ph q-bio.NC
Developmental Symmetry-Loss: A Free-Energy Perspective on Brain-Inspired Invariance Learning
Arif Dönmez
本文提出对称性丧失算法,通过环境对称性约束实现不变性学习,结合自由能理论和群论,揭示了高效表示的生成机制。
2025-12-15 cs.AI cs.LG nlin.AO
Selective activation of resting state networks following focal stimulation in a connectome- based network model of the human brain
影像学研究表明,静息态网络(RS-网络)的功能连接模式反映了潜在的结构连接(SC)。如果连接体限制了大脑区域在功能上的连接,那么对特定大脑区域的刺激应该会产生一种特征性的活动波,最终分解为RS网络。为了系统地验证这一假设,我们使用了一个基于连接组的网络模型的人脑与详细的现实的SC。我们系统地激活所有可能的丘脑和皮质区的局灶性刺激模式,并确认特定区域的刺激唤起网络模式,非常类似RS网络。对于一些站点,一个或没有RS网络被占用,而对于其他站点,多于一个RS网络可以演进。我们的研究结果证实,大脑是在临界的边缘操作,其中刺激产生级联的功能网络招聘,崩溃到一个较小的子空间,这是由解剖局部和远程SC的部分限制。我们认为,信息流,以及随后的认知处理,遵循特定的路线所施加的连接体功能,这些路线解释了RS网络的出现。由于脑刺激可用于诊断/治疗神经系统疾病,我们提供了一个查找表,显示哪些区域需要刺激以激活特定的RS网络。
2016-02-23 q-bio.NC
Spiral wave dynamics in a neuronal network model
本文构建基于锥体细胞空间分布的神经元网络层,结合局部与全局相位序参量检测波形,揭示连接半径和耦合强度对螺旋波涌现、模式转变及双稳态的影响。
2024-02-28 physics.bio-ph physics.med-ph q-bio.NC
Information Capacity of EEG: Theoretical and Computational Limits of Recoverable Neural Information
该研究结合信息论与合成正向建模量化头皮EEG的互信息,揭示电极数、SNR与解码器性能的根本限制。
2025-10-09 cs.IT math.IT q-bio.NC
Multi-band oscillations emerge from a simple spiking network
该研究提出由兴奋性与抑制性群体构成的简单脉冲网络,借助庞加莱截面理论和模型约简,证明恒定输入即可通过低维几何分岔产生多频带振荡。
2022-06-29 math.DS q-bio.NC
A wake-sleep algorithm for recurrent, spiking neural networks
我们调查最近提出的模型进行关系推理的皮质计算。它由几个相互连接的,结构上等效的群体泄漏整合和消防(LIF)神经元,这是训练在一个自组织的方式与尖峰定时依赖可塑性(STDP)。尽管其强大的学习动力学,该模型是容易受到一个典型的递归网络,使用基于相关性(赫布)的学习规则的问题:如果训练与高学习率,经常性的连接可能会导致强反馈回路的网络动态,这导致吸引子状态的出现。这导致可表示模式的数量大幅减少,网络的推理能力下降。作为解决方案,我们引入了一个概念上非常简单的“唤醒-睡眠”算法:在唤醒阶段,正常执行训练,而在睡眠阶段,网络从其生成模型中“做梦”样本,这些样本由随机输入引起。这个过程允许我们激活网络中的吸引子状态,然后可以通过反赫布机制有效地取消学习。该算法允许我们将学习率提高到10倍,同时避免聚类,这使得网络的学习速度提高了几倍。此外,对于低学习率,其中聚类不是问题,它提高了收敛速度并减少了最终的推理误差。
2017-03-18 cs.NE q-bio.NC
Towards a Neural Model for Serial Order in Frontal Cortex: a Brain Theory from Memory Development to Higher-Level Cognition
ETIS Lab, UMR8051, CY Cergy Paris University, ENSEA, CNRS(ETIS实验室,UMR8051,塞尔吉巴黎大学,ENSEA,法国国家科学研究中心)
为了保持信息的踪迹和成长,婴儿的大脑必须解决旧信息的位置和如何索引新信息的问题。我们建议,未成熟的前额叶皮层(PFC)使用其主要功能的检测层次模式的时间信号作为第二个目的,组织空间排序的皮层网络在发育中的大脑本身。我们的假设是,前额叶皮层以顺序模式的形式检测时间序列中的层次结构,并使用它们在大脑的不同部位分层索引信息。尽管如此,我们提出,这种检测模式的机制参与了大脑本身的有序组织发展;即,连接体的自我引导通过这样做,它为语言就绪的大脑提供了操纵抽象知识和规划时间顺序信息的工具;即,象征性思维和语言的出现。我们将回顾可以支持这种机制的神经模型,并提出新的模型。然后,我们将用来自发育、行为和大脑结果的证据来对抗我们的想法,并提出一些假设,例如,关于镜像神经元系统的构建、关于具身认知以及关于学会学习的能力。
2021-12-30 cs.AI cs.NE q-bio.NC
Mathematical derivation of wave propagation properties in hierarchical neural networks with predictive coding feedback dynamics
本文提出一个基于预测编码的数学框架,用于分析分层神经网络中神经活动的稳定性、传播方向与速度,并揭示传输延迟可诱发生物学合理频率的振荡。
2023-04-12 cs.NA math.NA q-bio.NC