Canonical Cortical Circuits and the Duality of Bayesian Inference and Optimal Control
自20世纪60年代以来,感觉推理和运动控制的双重性就已为人所知,最近被认为是贝叶斯推断中后验分布和最优控制中值函数所需计算的共性。与此同时,关于大脑的一个有趣的问题是,为什么整个新皮层共享一个典型的六层结构,而它的后半部分和前半部分分别参与感觉处理和运动控制。在这里,我们考虑的假设,感觉和运动皮层电路实现双重计算的贝叶斯推断和最优控制,或感知和价值为基础的决策,分别。我们首先回顾了线性二次系统中推理和控制的经典对偶性,然后回顾了动态贝叶斯推断和最优控制之间的对应关系。基于典型的皮层电路的架构,我们探讨了不同的皮层神经元如何表示变量和实现计算。
2021-07-03 q-bio.NC
Dendritic predictive coding: A theory of cortical computation with spiking neurons
皮层中自上而下的反馈对于指导感觉处理是至关重要的,这在分层预测编码(hPC)理论中已被突出地形式化。然而,错误单位的实验证据,这是核心的理论,是不确定的,目前还不清楚如何hPC可以实现与尖峰神经元。为了解决这个问题,我们将hPC与现有的在具有侧抑制的平衡网络中进行有效编码的工作以及顶端树突的预测计算联系起来。总之,这项工作指出了一个有效的实现与尖峰神经元的hPC,其中预测误差计算不是在单独的单位,但在局部的树突状隔室。隐含的模型显示出显着的对应关系,实验观察到的皮层连接模式,可塑性和动力学,并在同一时间可以解释的预测处理,如失配反应,在皮层的标志。因此,我们提出树突预测编码作为皮层的主要组织原则之一。
2022-05-11 q-bio.NC
Cerebral cortical communication overshadows computational energy-use, but these combine to predict synapse number
达尔文进化论倾向于产生节能的结果。另一方面,能量限制了计算,无论是神经和概率还是数字和逻辑。从特定的节能角度来看,我们定义了神经计算并利用能量受限的计算函数。该函数可以在与每个神经元的突触数量成比例的变量上进行优化。该功能还暗示了ATP消耗过程之间的特定区别,特别是计算\textit{per se}与包括动作电位和发射器释放的通信过程。因此,要应用这个数学函数,需要进行能源审计,并对能源消耗进行分区,这与早期的工作不同。审计指出,大脑\cite{sokoloff1960metabolism,sawada2013synapse}可利用的葡萄糖不是经常提到的20瓦,而分配给皮层计算的部分只有0.1瓦的ATP。另一方面,在3.5瓦的情况下,远距离通信成本是35倍。其他新的量化包括:(i)发现神经计算效率的生物值与理想值相差$10^8$倍;(ii)对激活神经元所需的突触传输数量($N$)的两种预测(2500与2000)。
2021-02-11 q-bio.NC
Cortical oscillations implement a backbone for sampling-based computation in spiking neural networks
由于长期面临着一个不确定的世界,大脑面临着进化的压力,要代表这种不确定性,以便做出适当的反应。通常,这需要访问对可用信息的多种解释或对遇到的问题的多种解决方案。这就产生了所谓的混合问题:由于所有这些“有效”状态都代表了强大的吸引子,但它们之间可能非常不同,因此在这些状态之间切换可能很困难。我们建议,皮层振荡可以有效地用来克服这一挑战。通过充当有效温度,背景尖峰活动调节探索。由皮层振荡引起的节律变化可以被解释为一种模拟的回火。我们提供了一个严格的数学讨论,这种联系,并研究其在计算机模拟的现象学影响。这确定了皮层振荡的一个新的计算角色,并将它们与大脑中的各种现象联系起来,例如基于采样的概率推理,记忆重放,多感官提示组合和位置细胞闪烁。
2022-04-04 cs.NE q-bio.NC
A computational perspective of the role of Thalamus in cognition
传统上,丘脑被认为只是皮层输入的中继源,具有分层组织的皮层回路将丘脑信号连续地转换为认知相关的表征。由于丘脑内缺乏局部兴奋性联系,在过去几十年中,丘脑“中继”的概念似乎是一个合理的描述。实验方法和理论的最新进展提供了一个更广泛的视角,丘脑在认知相关的皮层计算的作用,并建议,只有一个子集的丘脑电路图案适合继电器的描述。在这里,我们讨论了这一观点,并强调了潜在的作用,丘脑-特别是内侧背(MD)核-在动态选择皮质表示通过结合的内在丘脑计算和输出信号,改变皮质网络功能参数。我们认为,通过上下文调制的皮质计算,丘脑和皮质共同优化信息/成本权衡在一个紧急的方式。我们强调,协调一致的实验和理论努力将提供一条途径,以了解丘脑在认知中的作用,以及对增强健康和疾病认知能力的理解。
2018-10-17 cs.NE q-bio.NC
Predicting the Impact of Electric Field Stimulation in a Detailed Computational Model of Cortical Tissue
近年来,使用弱电场的神经刺激由于其作为医疗干预的潜力而引起了人们的兴奋。然而,这种刺激方式的研究受到了不一致的结果和研究内和研究之间的大变异性的阻碍。为了开始解决这种可变性,我们需要适当地考虑电流对底层神经元群体的影响。开发和测试能够捕获电场刺激对神经元网络的影响的计算模型。我们构建了一个具有不同层次和明确的神经元形态的皮层组织模型。然后,我们应用电刺激模型,并进行多个测试用例模拟。皮层切片模型进行了比较,实验文献和显示捕捉的电生理刺激反应的主要特征。也就是说,该模型显示:1)单个锥体神经元中类似水平的去极化,2)内在振荡的加速,以及3)不同层中振荡的空间分布的保留。然后,我们应用替代电场,以证明该模型可以捕捉神经元响应的电场的差异。我们表明,组织反应是依赖于层的深度,相对于该领域的顶端树突的角度,和刺激强度。我们提出了公开可用的计算建模软件,预测的神经元网络人口对电场刺激的反应。
2020-01-28 q-bio.NC
Cortical columns for quick brains
人们普遍认为,在皮质柱内观察到的特殊布线增强了神经计算。我们使用重新布线的神经网络执行现实世界的认知任务,研究这一论点的有效性。然而,在对圆柱内部的布线进行的大量调查中,我们没有发现所提出的效应的痕迹。在中观的列间尺度上,列的存在-在很大程度上与其内部组织无关-提高了信息传输的速度,并最小化了将分布式列计算绑定到时空相干结果所需的总布线长度。
2012-04-20 physics.bio-ph q-bio.NC
Cortical computations via metastable activity
亚稳态脑动力学的特征是突然的、跳跃式的调制,使得单次试验中的神经活动表现为一系列离散的准稳态。皮质神经活动以亚稳态序列的形式展开的证据正在快速积累。亚稳态活动发生在对外部刺激的反应中,也发生在持续的自我产生的活动中。越来越多的人发现,这些自发的亚稳态有助于不受外部触发因素影响的内部表征,包括审议、注意和期望的状态。此外,通过亚稳态解码刺激或决策可以逐个试验地进行。关注亚稳定性将使我们能够将我们对神经编码的观点从基于尝试平均的传统概念转变为基于动态集成表示的模型。最近的理论工作已经开始描述亚稳态表象的机制起源和潜在作用。在这篇文章中,我们回顾了最近的研究结果亚稳态活动,它如何可能出现在生物现实模型,其潜在的作用,代表内部状态以及相关的任务变量。
2019-06-18 q-bio.NC
A model of dissociated cortical tissue
研究生物神经元网络中的计算的一个强有力的实验方法是使用培养的解离皮层细胞在多电极阵列上生长成网络。这样的准备工作允许网络的发展,活动,可塑性,对刺激的反应,以及药理学试剂的影响的调查。它们还表现出全培养病理性爆发;了解其背后的机制可以创造更有用的细胞培养物,并可能具有医学应用。
2008-05-21 q-bio.CB q-bio.NC
The Neuroscience of Transformers
University of Osnabrück(奥斯纳布吕克大学);University Medical Center Hamburg-Eppendorf(汉堡-埃彭多夫大学医学中心);Erasmus MC(伊拉斯姆斯大学医学中心)
本文探讨变换器网络如何类比大脑皮层微电路结构,提出变换器操作与皮层分层特征的映射关系,为研究皮层功能提供新视角。
2026-03-16 q-bio.NC q-bio.SC q-bio.TO
A computational hierarchy in human cortex
在皮层组织的解剖学描述中,等级结构是一个突出的特征。一个悬而未决的问题是哪些计算(算法)过程是由这些层次结构实现的。一个著名的假设是,皮层层次结构实现了世界因果结构的模型,并从感官输入中推断出环境状态。这种观点将感知视为分层的贝叶斯推断,已经成为基础和临床神经科学中非常有影响力的概念。然而,到目前为止,层次贝叶斯计算的预测顺序和诱发神经元活动的序列之间的直接对应关系尚未得到证明。在这里,我们提出的证据,这种对应关系的神经影像学和电生理数据在健康志愿者。尝试明智的序列层次计算推断参与者的行为在社会学习任务,需要多层次的推理意图。我们发现神经元活动的时间序列与理论预测的计算顺序相匹配。这些发现为人类大脑皮层的分层贝叶斯推断的运作提供了强有力的证据。此外,我们的方法提供了一种新的战略相结合的计算生理表型的患者的感知障碍,如精神分裂症或自闭症。
2017-09-07 q-bio.NC q-bio.QM
Multihead self-attention in cortico-thalamic circuits
提出皮层-丘脑回路结构可实现类似多头自注意力的计算,为浅层和深层锥体细胞分配键值记忆与查询角色,并推导突触学习梯度。
2025-08-10 cs.NE q-bio.NC
Emergent Bio-Functional Similarities in a Cortical-Spike-Train-Decoding Spiking Neural Network Facilitate Predictions of Neural Computation
Qiushi Academy for Advanced Studies, Zhejiang University(浙江大学求是高等研究院);College of Biomedical Engineering and Instrument Science, Zhejiang University(浙江大学生物医学工程与仪器科学学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);China Nanhu Academy of Electronics and Information Technology (CNAEIT)(中国电子科技南湖研究院)
尽管目标驱动的发放神经网络(SNN)具有更好的生物可识别性,但它在生物脉冲序列方面并没有达到适用的性能,而且与传统的人工神经网络相比,SNN的生物功能相似性很小。在这项研究中,我们提出了motorSRNN,一个经常性的SNN拓扑启发灵长类动物的神经运动回路。通过采用motorSRNN在解码脉冲序列从初级运动皮层的猴子,我们取得了很好的平衡之间的分类精度和能量消耗。motorSRNN通过捕获和培养更多的余弦调谐(运动皮层神经元的基本属性)与输入进行通信,并在训练期间保持稳定。在我们的猴子中也观察到这种训练诱导的培养和余弦调谐的持续性。此外,motorSRNN在单神经元、群体和电路水平上产生了额外的生物功能相似性,证明了生物真实性。因此,对motorSRNN的消融研究表明,长期稳定的反馈突触有助于运动皮层的训练诱导培养。除了这些新的发现和预测,我们还提供了一个新的框架来构建真实的神经计算模型。
2023-03-14 cs.AI q-bio.NC
A Unified Cortical Circuit Model with Divisive Normalization and Self-Excitation for Robust Representation and Memory Maintenance
Qiyuan Laborotary(启元实验室);Beijing Normal University(北京师范大学)
本文提出一个结合分裂归一化与自激发的统一皮层回路模型,在单个微回路中同时实现抗噪声鲁棒编码、工作记忆维持和近似贝叶斯推断,并通过RDK与pWCST任务验证其有效性。
2025-08-18 cs.AI cs.NE q-bio.NC
Deep Neural Networks predict Hierarchical Spatio-temporal Cortical Dynamics of Human Visual Object Recognition
Massachusetts Institute of Technology(麻省理工学院);Free University Berlin(柏林自由大学)
皮层视觉通路复杂的多阶段结构为人类有效的视觉物体识别提供了神经基础。然而,其中的阶段式计算仍然知之甚少。在这里,我们比较了时间(脑磁图)和空间(功能性MRI)视觉大脑表征与人工深层神经网络(DNN)中的表征,该网络调整到现实世界视觉识别的统计数据。我们发现DNN在时间和空间上捕捉了人类视觉处理的阶段,从早期视觉区域到背侧和腹侧流。对关键DNN参数的进一步研究表明,虽然模型架构很重要,但对真实世界分类的训练对于加强与大脑的时空层次关系是必要的。我们的研究结果一起提供了一个算法知情的视图在人类视觉大脑中的视觉对象识别的时空动态。
2016-01-12 cs.CV q-bio.NC
Constrained Predictive Coding as a Biologically Plausible Model of the Cortical Hierarchy
预测编码已经成为神经计算的一个有影响力的规范模型,具有许多扩展和应用。因此,人们已经投入了大量的努力来将PC忠实地映射到皮层上,但仍有一些问题尚未解决或存在争议。特别是,当前的实现通常涉及单独的值和误差神经元,并且需要跨不同大脑区域的对称前向和后向权重。这些特征尚未得到实验证实。在这项工作中,我们表明,PC框架中的线性政权可以修改,忠实地映射到皮层层次结构的方式与经验观察兼容。通过对隐藏层神经活动采用解开启发的约束,我们推导出PC目标的上限。该上限的优化导致算法显示出与原始目标相同的性能,并映射到生物学上合理的网络。这个网络的单元可以被解释为具有非赫布学习规则的多房室神经元,与最近的实验结果非常相似。存在先前的模型,也捕捉这些功能,但他们是现象学的,而我们的工作是一个规范的推导。我们得到的网络不涉及一对一的连接或信号复用,这是现象学模型所需要的,表明这些特征对于皮层的学习是不必要的。在简化的线性情况下,我们的算法的规范性使我们能够证明框架的有趣特性,并分析理解我们的网络组件的计算作用。我们的网络的参数具有自然的解释,作为锥体神经元的多房室模型中的生理量,提供了PC和在皮层中进行的实验测量之间的具体联系。
2023-03-04 q-bio.NC
Real-time cortical simulations: energy and interconnect scaling on distributed systems
我们配置文件的计算和处理器间通信的能量消耗和缩放的皮质模拟接近实时的【形】制度的分布式计算平台上的影响。此外,典型的标准HPC和嵌入式平台的处理器架构的速度和能耗进行了比较。我们证明了低延迟互连的速度和能耗的设计的重要性。皮质模拟的成本使用焦耳每突触事件度量两种架构进行量化。在大规模皮层模拟上达到有效的实时的【形】对于未来生物启发的人工智能应用和理解大脑的认知功能都具有越来越大的相关性,这是一种需要将大规模模拟嵌入到高度复杂的虚拟或现实世界中的科学探索。这项工作站在人类大脑项目(HBP)的WaveScales实验和ExaNeSt和EuroExa项目之间的十字路口,前者包括大脑状态及其转换的大规模丘脑-皮层模拟的目标,后者研究基于ARM的低功耗高性能计算(HPC)架构的设计,该架构具有可扩展到数百万个核心的专用互连;由丘脑-皮层模型表达的深睡眠慢波活动(SWA)和异步aWake(AW)状态的模拟是它们的基准之一。
2019-11-26 cs.DC cs.NE q-bio.NC
Emergent Computations in Trained Artificial Neural Networks and Real Brains
Universidad Autónoma de Madrid(马德里自治大学);Sano - Centre for Computational Personalised Medicine(Sano计算个性化医学中心)
突触可塑性使大脑皮层回路能够学习新的任务并适应不断变化的环境。大脑皮层回路是如何利用可塑性来获得决策或工作记忆等功能的?神经元以复杂的方式连接,形成循环的神经网络,学习改变了它们连接的强度。此外,神经元发出短暂的离散电信号进行通信。在这里,我们描述了如何在神经科学实验室中训练动物的任务中训练递归神经网络,以及如何在训练好的网络中出现计算。令人惊讶的是,人工网络和真正的大脑可以使用类似的计算策略。
2022-12-13 cs.AI cs.NE q-bio.NC
Correspondence of Deep Neural Networks and the Brain for Visual Textures
University of Miami(迈阿密大学)
在物体和场景上训练的深度卷积神经网络(CNN)已经显示出预测视觉皮层神经元的一些响应特性的有趣能力。然而,引起这种能力的因素和计算,以及中间处理阶段在解释皮层层次结构各区域发展变化中的作用,都知之甚少。我们集中在纹理的敏感性作为一个典型的例子,因为最近的神经生理学实验提供了丰富的数据,指向纹理敏感性在次级,而不是初级视觉皮层。我们开发了一种定量方法,用于从最能描述大脑神经记录的CNN中选择神经单元群体的子集。我们发现,CNN的前两层在许多指标上显示出与皮层数据的定性和定量对应关系。对于其他一些相关的分层模型,这种兼容性仅针对架构而不是学习的权重而降低,并且在缺乏类似于局部分裂归一化的非线性计算的情况下仅轻微降低。我们的研究结果表明,CNN类模型可以有效地捕捉大脑皮层早期区域的变化,并有可能促进对大脑分层处理计算的理解。
2018-06-07 cs.CV q-bio.NC
Random wiring, ganglion cell mosaics, and the functional architecture of the visual cortex
胎盘食肉动物和灵长类动物的初级视觉皮层的等取向结构域的结构明显遵循种不变的数量规律。动态优化模型假设神经元在连接数百万个细胞的皮层回路中协调它们的刺激偏好,具体预测这些不变量。这可能表明V1的内在连接体及其功能结构遵循具有高精度和鲁棒性的单一优化原则。为了验证这一假设,关键是要仔细检查替代候选理论的定量预测。视网膜-皮层通路内的随机前馈布线代表了动态电路优化的概念上有吸引力的替代方案,因为随机维度扩展投影被认为一般表现出对刺激表示有利的计算特性。在这里,我们问是否可以解释为一个通用的随机布线的紧急属性的V1架构的定量不变量。我们推广和研究随机布线模型提出的Ringach和同事,在视觉皮层的iso-orientation域出现通过随机前馈连接之间的半规则马赛克的视网膜神经节细胞(RGC)和视觉皮层神经元。我们推导出闭合形式的表达式皮质感受野和域布局的模型预测完美的六边形RGC马赛克[.]我们的结论是,V1布局不变量是视觉皮层优化的具体定量签名,这不能用通用的随机前馈布线模型来解释。* 请参阅PDF格式的完整摘要。*
2015-10-01 q-bio.NC
Incorporating Visual Cortical Lateral Connection Properties into CNN: Recurrent Activation and Excitatory-Inhibitory Separation
Dept. of Computer Science and Engineering Texas A&M University, College Station Texas, USA(计算机科学与工程系德克萨斯A&M大学,学院站得克萨斯州,美国)
本文提出在CNN中引入视觉皮层侧向连接,通过权重共享的循环激活和兴奋-抑制分离损失函数,提升分类准确率并使模型涌现出类似生物视觉系统的激活与连接特性。
2025-09-18 cs.AI cs.CV q-bio.NC
Latent Equilibrium: A unified learning theory for arbitrarily fast computation with arbitrarily slow neurons
Heidelberg University(海德堡大学);University of Bern(伯尔尼大学)
物理计算元件的响应时间是有限的,神经元也不例外。因此,在皮层网络的分层模型中,每一层都引入了反应滞后。物理动力系统的这种固有特性导致刺激的延迟处理,并导致网络输出和指导信号之间的时序不匹配,从而不仅影响推理,而且影响学习。我们引入了潜在平衡,这是一种在慢速组件网络中进行推理和学习的新框架,它通过利用生物神经元相对于其膜电位相位推进其输出的能力来避免这些问题。该原理使得能够独立于网络深度进行准瞬时推理,并且避免了对相位可塑性或计算昂贵的网络松弛相位的需要。我们共同从一个前瞻性的能量函数,取决于网络的广义位置和动量,解开神经元和突触动力学。由此产生的模型可以被解释为一个生物学上合理的近似误差反向传播在深层皮层网络连续时间,泄漏的神经元动力学和连续活跃,局部可塑性。我们展示了标准基准数据集的成功学习,使用全连接和卷积架构实现了具有竞争力的性能,并展示了我们的原理如何应用于皮层微电路的详细模型。此外,我们研究了我们的模型的鲁棒性时空基板的缺陷,以证明其物理实现的可行性,无论是在体内还是在硅片。
2021-10-27 cs.AI cs.LG cs.NE
Mind the Last Spike -- Firing Rate Models for Mesoscopic Populations of Spiking Neurons
用于理解皮层计算的主要建模框架是启发式放电率模型。尽管他们的成功,这些模型不足以捕捉尖峰同步效应,链接到生物物理参数和描述有限大小的波动。在这篇观点文章中,我们提出,耐火密度方法(RDM),也被称为年龄结构种群动力学或准更新理论,产生了一个强大的理论框架,建立基于速率的模型,从现实的神经元动力学在微观层面的介观神经元群体。我们回顾了RDM取得的最新进展,以获得有效的人口密度方程的网络广义积分和消防(GIF)神经元-一类神经元模型,已成功地适合于各种细胞类型。该理论不仅预测了大种群神经元的非平稳动力学,而且还允许扩展到有限大小的种群和系统地减少到低维速率动力学。新类型的速率模型将允许在生物约束下重新检查皮质计算模型。
2019-09-22 q-bio.NC
The Thousand Brains Project: A New Paradigm for Sensorimotor Intelligence
Numenta, Inc.(努门塔公司)
针对AI在真实环境适应难的问题,本文提出Thousand Brains Project,基于新皮层原理构建以学习模块为核心的感觉运动智能体Monty,实现快速持续学习与多模态整合。
2024-12-24 cs.AI q-bio.NC
Brain architecture: A design for natural computation
Newcastle University(纽卡斯尔大学)
50年前,约翰·冯·诺依曼(John von Neumann)将大脑的结构与他发明的至今仍在使用的计算机的结构进行了比较。在那些日子里,计算机的组织是基于大脑组织的概念。在这里,我们对神经系统的全球组织的当前结果进行了更新。对于神经系统,我们概述了神经元和皮层网络的空间和拓扑结构如何促进对故障的鲁棒性,快速处理和平衡的网络激活。最后,我们讨论了这种架构的自组织机制。毕竟,大脑的组织可能会再次激发计算机架构。
2008-02-27 cs.AI cs.NE physics.soc-ph
The Brain on Low Power Architectures - Efficient Simulation of Cortical Slow Waves and Asynchronous States
高效的大脑模拟是一个科学上的巨大挑战,一个并行/分布式编码的挑战,也是未来计算架构的需求和建议的来源。事实上,人类大脑包括大约10^15个突触和10^11个神经元,它们以几赫兹的平均速率被激活。即使在最高抽象级别上进行模拟,全脑模拟也会带来Exascale挑战。人脑计划(HBP)中的WaveScales实验的目标是在深度睡眠和麻醉以及过渡到其他大脑状态期间匹配慢波的实验测量和模拟。重点是专用的大规模并行/分布式仿真技术的发展。ExaNeSt项目设计了一个基于ARM的低功耗HPC架构,可扩展到数百万个内核,开发了一个专用的可扩展互连系统,SWA/AW模拟被包括在驱动基准中。在这两个项目之间的联合是INFN专有的分布式和塑性脉冲神经网络(DPSNN)模拟引擎。DPSNN可以配置为强调执行平台上可用的网络或计算功能。当神经网络--由数量相对较少的神经元组成,每个神经元投射数千个突触--分布在大量的硬件核心上时,模拟强调了网络组件。当每个核心的神经元数量增加时,计算开始成为短距离连接的主要组成部分。本文报告了初步的性能结果,基于ARM的HPC原型开发的ExaNeSt项目的框架。此外,比较给出的瞬时功率,总能耗,执行时间和精力充沛的成本,每个突触事件的SWA/AW DPSNN模拟时,无论是ARM或基于英特尔的服务器平台上执行。
2018-04-10 cs.DC cs.NE q-bio.NC
Recursive Gaussian Processes and the Bayesian Brain
Indian Institute of Management, Udaipur(乌代布尔印度管理学院);Ashoka University(阿肖克大学);Indian Statistical Institute(印度统计研究所)
该研究将预测编码与递归高斯过程(RGPs)形式化关联,证明RGPs可实现分层贝叶斯推理等功能,将其组成部分映射到皮层微回路,定位其为计算工具与大脑预测机制模型,可产生可检验的神经动力学预测。
2026-08-04 cs.LG q-bio.NC stat.ML