Noisy network attractor models for transitions between EEG microstates
大脑本质上是组织成大规模网络的,这些网络不断地在多个时间尺度上重新组织,即使大脑处于休息状态。这些动态的时机对于感觉、感知、认知以及最终的意识至关重要,但控制网络之间不断重组和切换的潜在动态尚未得到很好的理解。功能磁共振成像(fMRI)和脑电图(EEG)分别提供了有关静息态网络(RSN)的解剖学和时间信息。EEG微观状态是稳定的头皮地形的短暂时期,并且在休息时可靠地识别出它们之间具有特征切换模式的四种不同配置。微状态已被确定为fMRI定义的RSN的电生理相关性,这种联系可以建立,因为EEG微状态序列是无标度的,并且具有长程时间相关性。这个属性是至关重要的任何方法来建模EEG微观状态。本文提出了一种新的建模方法的微观状态:我们考虑非线性随机微分方程(SDEs),表现出一个嘈杂的网络吸引子之间的节点,代表微观状态。使用四个状态之间的单层网络,我们可以重现微观状态之间的转移概率,但不能重现重尾停留时间分布。引入具有隐藏层的两层网络,可以灵活地捕获这些重尾及其长期时间相关性。我们适合这些模型来捕获的统计特性的microstate序列从EEG数据记录的内部和外部的MRI扫描仪,并显示所需的处理,以分离的EEG信号从fMRI机器噪声的结果在信息的损失,这是反映在长尾的驻留时间分布的差异。
2019-03-13 q-bio.NC
Modulation of metastable ensemble dynamics explains the inverted-U relationship between tone discriminability and arousal in auditory cortex
University of Oregon(俄勒冈大学)
本研究通过记录行为小鼠听觉皮层活动并构建带有集群的脉冲模型,揭示了网络从多吸引子相向单吸引子相转变时刺激可辨别性达到峰值,从而解释了唤醒与音调可辨别性之间的倒U型关系。
2025-11-04 q-bio.NC
A Spatiotemporal Perspective on Dynamical Computation in Neural Information Processing Systems
The Kempner Institute for the Study of Natural and Artificial Intelligence at Harvard University(哈佛大学肯珀尔自然与人工智能研究所);Western University, Department of Mathematics(韦仕敦大学数学系);Salk Institute for Biological Studies, Computational Neurobiology Laboratory(索尔克生物研究所计算神经生物学实验室);University of Amsterdam, Institute for Informatics(阿姆斯特丹大学信息学研究所);University of California at San Diego, Department of Neurobiology(加州大学圣地亚哥分校神经生物学系)
本文提出了一种理论框架,将运动与流动神经动态联系起来,认为循环行波样动态对信号处理至关重要,强调时空视角下的动态计算在神经信息处理中的重要性。
2026-02-02 cs.NE q-bio.NC
Recurrence Resonance -- Noise-Enhanced Dynamics in Recurrent Neural Networks
本文利用不同规模和权重矩阵的玻尔兹曼机,揭示了递归共振现象的发生条件与机制,并证明短噪声脉冲可在递归神经网络的动力学吸引子之间实现转移,为储备池计算和神经科学中的受控噪声应用提供依据。
2024-08-10 q-bio.NC
Layers, Folds, and Semi-Neuronal Information Processing
Orthogonal Research and Education Laboratory(正交研究与教育实验室);OpenWorm Foundation(开放蠕虫基金会)
表型复杂性在具身代理的系统水平功能中扮演什么角色?生物体表型是一种拓扑复杂的结构,与基因型,发育物理学和信息环境相互作用。利用这一观察作为灵感,我们利用一种体现代理,表现出分层的代表能力:元脑模型。元脑用于展示表型如何处理信息,并表现出从发育到成熟的自我调节。我们专注于两个候选结构,可能解释这种能力:折叠和分层。由于分层和折叠可以在许多生物学背景中观察到,它们构成了我们代表性研究的基础。首先,描述先天起始点(基因组编码)。这种编码的生成输出是分化树,其导致分层的表型表示。然后,我们指定了一个正式的元脑模型的肠道,除了不同程度的代表性的处理信息,在发展中表现出折叠和分层。这种器官拓扑结构在成熟时保留,具有响应炎症的额外折叠和代表性漂移的潜力。接下来,我们考虑使用发展Braitenberg车辆(dBV)作为玩具模型的拓扑重新映射。在拓扑重新映射,它表明,折叠的分层神经网络可以引入一些扭曲的原始模型,一些功能的影响。最后,本文讨论了元脑方法如何帮助我们在生物模拟的背景下,在行动主义,整体论和认知处理的调查。
2022-07-07 cs.AI q-bio.NC
Chaotic Neuronal Oscillations in Spontaneous Cortical-Subcortical Networks
振荡活动广泛存在于不同脑区记录的场电位的特定频段,在神经信息处理中起着重要作用。了解这些振荡活动的结构对于了解大脑功能至关重要。到目前为止,关于它们的节奏结构以及这些振荡是如何产生的,许多细节仍然难以捉摸。我们发现,许多自发的皮层-皮层下网络中的振荡活动,如δ,梭形,伽马,高伽马和尖波波纹带在不同的大脑区域,是真正的混沌时间序列,可以重建为混沌吸引子通过适当选择嵌入延迟和维数。重建的吸引子近似由一个简单的径向基函数,使高精度的短期预测。同时记录的振荡活动在多个大脑区域的时间相位和幅度有很大的不同,但可以近似为相同的功能。我们的研究结果表明,神经振荡产生的确定性混沌系统。神经振荡事件的发生是预先确定的,并且由于确定性动力学,大脑可能知道信息在未来的时间将在何时何地被处理和传输。
2015-07-21 q-bio.NC
Lyapunov spectra of chaotic recurrent neural networks
大脑通过大型神经网络的集体动态来处理信息。集体混沌被认为是大脑皮层回路中观察到的复杂动态的基础,并决定了传入信息流的影响和处理。在耗散系统中,混沌动力学发生在降维相空间的一个子集上,并由稳定、中性和不稳定流形的复杂缠结组织起来。这种相空间结构的关键拓扑不变量,如吸引子维数和Kolmogorov-Sinai熵至今仍然难以捉摸。本文计算了循环神经网络的完全李雅普诺夫谱。我们发现,在这些网络中的混沌是广泛的大小不变的李雅普诺夫谱和吸引子维数远小于相空间维数的数量为特征。我们发现,附近的混沌,非常激烈的混乱,离散时间动态,随机矩阵理论提供了分析近似的完整的李雅普诺夫谱。我们发现,一个广义的时间反转对称的网络动力学诱导的点对称的李雅普诺夫谱让人想起混沌哈密顿系统的辛结构。波动输入降低了熵率和吸引子维数。对于训练的递归网络,我们发现,李雅普诺夫谱分析提供了一个量化的误差传播和稳定性实现。我们的方法适用于系统的任意连接,我们描述了一套全面的控制的准确性和收敛性的李雅普诺夫指数。我们的结果为表征循环神经网络的复杂动力学和相应的混沌吸引子的几何结构开辟了一条新的途径。他们还强调了李雅普诺夫谱分析作为递归网络机器学习应用的诊断的潜力。
2020-06-03 nlin.CD q-bio.NC
Bimodular continuous attractor neural networks with static and moving stimuli
本文研究双模块连续吸引子网络在静态与运动刺激下的耦合动力学,揭示活动峰偏移、脉冲、多稳态及追踪转变,并将其解释为贝叶斯多感觉整合机制。
2023-07-16 nlin.AO physics.bio-ph q-bio.NC
Energy Landscapes of Emotion: Quantifying Brain Network Stability During Happy and Sad Face Processing Using EEG-Based Hopfield Energy
College of Information and Control Engineering, Xi'an University of Architecture and Technology(西安建筑科技大学信息与控制工程学院);Department of Neurosurgery, PLA General Hospital of Central Theater Command(中部战区总医院神经外科)
本研究通过EEG数据和Hopfield能量模型,量化了快乐和悲伤情绪处理中大脑网络的动态稳定性,发现悲伤情绪在alpha频段能量更低,与全局效率呈负相关,表明情绪价值对应于大脑功能景观中的不同吸引盆地。
2026-03-29 q-bio.NC
Graded, Dynamically Routable Information Processing with Synfire-Gated Synfire Chains
相干神经尖峰和局部场电位被认为是大脑中信息结合和传递的特征。现在,在哺乳动物皮层的许多区域,已经通过实验测量了相干活动。Synfire链是描述相干尖峰现象的主要理论结构之一。然而,一段时间以来,人们已经知道,前馈网络中的同步活动渐近地接近具有固定波形和幅度的吸引子,或者无法传播。这限制了他们解释分级神经元响应的能力。最近,我们已经表明,脉冲门控synfire链是能够传播的平均人口电流或发射率幅度编码的分级信息。特别是,我们表明,它是可以使用一个synfire链提供门控脉冲和第二个脉冲门控synfire链传播分级信息。我们称这些电路为synfire门控synfire链(SGSC)。在这里,我们提出了SGSC中,分级信息可以通过神经回路迅速级联,并显示这种类型的传输和门控脉冲在时间上重叠的平均场模型之间的对应关系。我们表明,SGSC是强大的存在的群体大小,脉冲定时和突触强度的变异。最后,我们展示了基于SGSC的信息编码的计算能力,通过实现一个自包含的,基于尖峰的,模块化的神经电路,触发,然后读取流输入,处理输入,然后根据处理后的信息做出决定,并关闭自己。
2015-10-26 q-bio.NC
Word class representations spontaneously emerge in a deep neural network trained on next word prediction
University Hospital Hamburg(汉堡大学医院);University Hospital Erlangen(埃尔兰根大学医院);University Erlangen-Nuremberg(埃尔兰根-纽伦堡大学)
人类是如何学习语言的?第一语言到底能不能学会?这些基本问题仍在激烈辩论中。在当代语言学中,有两个主要的思想流派给出了完全相反的答案。根据乔姆斯基的普遍语法理论,语言不能被学习,因为儿童没有接触到足够的数据,在他们的语言环境。相反,基于使用的语言模型假设语言结构和语言使用之间存在深刻的关系。特别是,语境心理加工和心理表征被认为具有认知能力,以捕捉实际语言使用的复杂性在各个层面上。最好的例子是语法,即,单词组合成句子等更大单位的规则。典型地,句法规则被表示为词类的序列。然而,目前还不清楚是否词类是先天的,所暗示的普遍语法,或者他们是否出现在语言习得过程中,所建议的使用为基础的方法。在这里,我们从机器学习和自然语言处理的角度来解决这个问题。特别是,我们训练了一个人工深度神经网络来预测下一个单词,并提供了连续单词的序列作为输入。随后,我们分析了神经网络隐藏层中出现的激活模式。引人注目的是,我们发现,9个单词的输入序列的内部表示聚类根据第十个单词的词类预测输出,即使神经网络没有收到任何明确的信息,在训练过程中的语法规则或词类。这一令人惊讶的结果表明,在人类大脑中,抽象的表征类别(如词类)也可能是语言习得过程中预测编码和处理的结果。
2023-02-15 cs.AI cs.CL q-bio.NC
Dynamical Phases and Resonance Phenomena in Information-Processing Recurrent Neural Networks
循环神经网络(RNN)是一种复杂的动态系统,能够在没有任何驱动输入的情况下持续活动。自由运行的RNN的长期行为,由周期性,混沌和固定点吸引子描述,由神经连接权重的统计数据控制,例如非零连接的密度$d$,或兴奋性和抑制性连接之间的平衡$b$。然而,出于信息处理的目的,RNN需要接收外部输入信号,并且不清楚哪个动态机制对于这种信息输入是最佳的。我们使用的平均相关性$C$和瞬时输入向量和下一个系统状态向量之间的互信息$I$作为信息输入的定量措施,并分析其依赖于网络的平衡和密度。值得注意的是,这两个得到的相图$C(b,d)$和$I(b,d)$是高度一致的,指出了动力系统和复杂系统的信息处理方法之间的联系。信息进口是最大的不是在“混沌边缘”,这是最适合于计算,但令人惊讶的是,在低密度的混沌政权和混沌和固定点政权之间的边界。此外,我们发现了一种全新类型的共振现象,称为“输入共振”(IR),其中信息输入显示出最大值,即对RNN及其输入之间的耦合强度的峰值依赖性。IR补充了递归共振(RR),其中连续系统状态的相关性和互信息对于添加到系统的一定幅度的噪声达到峰值。IR和RR都可以用来优化人工神经网络中的信息处理,也可能在生物神经系统中发挥关键作用。
2021-08-05 nlin.CD physics.bio-ph q-bio.NC
Dynamical Synapses Enhance Neural Information Processing: Gracefulness, Accuracy and Mobility
实验数据表明,神经元连接效能表现出两种形式的短期可塑性,即短期抑制(STD)和短期易化(STF)。它们具有位于快速神经信号和快速学习之间的时间常数,并且可以作为神经系统在相关时间尺度上操纵时间信息的底物。本研究探讨了STD和STF对连续吸引子神经网络(CANN)动力学的影响及其在神经信息处理中的潜在作用。我们发现,STD赋予网络缓慢衰减的高原行为-网络,最初被刺激到一个活跃的状态衰减到一个沉默的状态非常缓慢的时间尺度上的STD,而不是神经信号的时间尺度。这为神经系统提供了一种机制,可以轻松地保持感官记忆,并优雅地关闭持续的活动。通过STF,我们发现网络可以在促进的神经元相互作用中保持外部输入的记忆痕迹,这提供了一种稳定网络对噪声输入的响应的方法,从而提高了群体解码的准确性。此外,我们发现STD增加了网络状态的移动性。增加的移动性增强了网络响应于时变刺激的跟踪性能,从而导致预期的神经响应。在一般情况下,我们发现,STD和STP往往有相反的网络动态和互补的计算优势的影响,这表明大脑可能会采用一种策略,根据计算的目的不同的加权。
2012-04-05 cond-mat.dis-nn physics.bio-ph q-bio.NC
A Fokker-Planck approach to graded information propagation in pulse-gated feedforward neuronal networks
信息传递是大脑信息处理的关键环节。已经提出了许多机制来在前馈神经电路的层之间转移尖峰的齐射。这些机制中的许多使用同步活动来及时提供窗口,此时尖峰可以更容易地从一层转移到另一层。最近,我们已经证明了脉冲门控机制可以在前馈神经网络的层之间传递梯度信息。我们的传输机制导致了一个时不变的发射率和突触电流波形的任意振幅,从而提供了准确的,分级的层之间的信息传输。在本文中,我们应用福克-普朗克方法来理解这种平移不变性如何在高维、非线性前馈积分激发网络中表现出来。我们发现,有很好的对应关系尖峰概率之间的福克-普朗克解决方案和我们以前的平均场解决方案。我们确定了一个近似的线吸引子在状态空间中的基本结构的时间平移不变性的解决方案。这种方法使我们能够更好地了解突触耦合,门控脉冲和膜电位的概率密度函数在信息传递中所起的作用。
2015-12-01 q-bio.NC
Nonequilibrium thermodynamics of input-driven networks
基于能量的模型的神经动力学由能量最小化控制,当系统达到平衡时,检索存储在网络中的模式。然而,当系统受到时变外部输入驱动时,这类物理系统的非平衡过程还没有得到很好的表征。在这里,我们研究吸引子神经网络,特别是Hopfield网络,由随时间变化的外部输入驱动,并沿两个集体状态之间的轨迹测量热力学量。前向功和反向功沿非平衡轨道的分布重叠与两态之间的平衡自由能差一致,符合Crooks涨落定理的预测。我们研究了不同的刺激协议和神经网络的约束条件。我们进一步讨论了生物学上合理的突触连接和信息处理如何在这种非平衡框架中发挥作用。这些结果表明,非平衡态热力学如何与神经计算相关,并与最近的闭环动态扰动系统神经科学研究有关。
2020-12-24 physics.bio-ph q-bio.NC
Are cortical microcircuits optimized for information flux? -- A simulation-based reverse engineering study
Friedrich-Alexander-University Erlangen-Nürnberg (FAU)(埃尔朗根-纽伦堡大学);University Hospital Mannheim, University Heidelberg(海德堡大学曼海姆大学医院);University Hospital Erlangen(埃尔朗根大学医院);BGU Ludwigshafen(路德维希港创伤中心)
研究通过模拟分析皮层微柱结构,发现嵌入网络通过产生有效偏置和随机波动增强核心动态的信息流,为生物神经电路功能解释和人工递归系统设计提供新见解。
2026-05-14 q-bio.NC
A Computational Model of the Effects of Drug Addiction on Neural Population Dynamics
奖赏处理及其紊乱,如药物成瘾,涉及许多大脑区域的协调活动。先前的工作已经确定了许多行为,分子生物学和单个神经元的变化,整个中皮质边缘系统,反映和驱动成瘾行为。腹侧被盖区(VTA)的亚群编码正奖励预测误差,负奖励预测误差和奖励的大小。腹侧被盖区多巴胺能神经元的时相活动与享乐价值相关。背内侧前额叶皮层(dmPFC)中的紧张性活动可以编码抗抑郁状态。然而,人们对药物成瘾如何影响更大大脑区域的群体编码知之甚少。在这里,我们比较了与网络模式在天真,急性中毒和慢性成瘾状态的塑料吸引子网络的信息内容。我们发现,成瘾降低了网络存储和区分活动模式的能力。改变的多巴胺能紧张性改变了能量景观,并降低了与每个网络模式相关的熵。改变dmPFC活动产生类似于精神分裂症的计算模型的信噪比缺陷。我们的研究结果提供了一个概念框架,解释改变神经元群体动态的精神病理状态的基础上的信息论。他们还提出了一种观点,认为抑郁症的亚型是皮质和皮质下功能障碍的连续组合。这表明,患有抑郁症的精神病特征的患者将有更多的皮质比中脑边缘功能障碍。此外,我们的框架可以应用于其他精神疾病,因此可以帮助我们,在一般情况下,定量地了解精神疾病作为分布式大脑网络表征和处理信息的障碍。
2012-09-15 cs.SI q-bio.NC
CORNN: Convex optimization of recurrent neural networks for rapid inference of neural dynamics
本文提出CORNN方法,通过凸优化训练循环神经网络,实现比传统方法快约100倍的神经动力学快速推断,并能在模型失配等条件下稳健再现网络动态,助力实时神经记录分析。
2023-11-16 q-bio.NC
Spiking representation learning for associative memories
本文提出一种受新皮层柱状结构启发的SNN,利用Hebbian与结构可塑性及稀疏Poisson神经元,实现无监督表征学习和联想记忆,并验证模式补全等吸引子记忆特性。
2024-12-05 cs.NE q-bio.NC
A Unified Cortical Circuit Model with Divisive Normalization and Self-Excitation for Robust Representation and Memory Maintenance
Qiyuan Laborotary(启元实验室);Beijing Normal University(北京师范大学)
本文提出一个结合分裂归一化与自激发的统一皮层回路模型,在单个微回路中同时实现抗噪声鲁棒编码、工作记忆维持和近似贝叶斯推断,并通过RDK与pWCST任务验证其有效性。
2025-08-18 cs.AI cs.NE q-bio.NC
Nonlinear Neural Dynamics and Classification Accuracy in Reservoir Computing
本文研究了储备池计算中非线性程度与动力学状态对分类精度的影响,发现弱非线性即可生成有效表征,且准确率在相界处达峰值,支持“混沌边缘”假说。
2024-11-15 cs.NE q-bio.NC