Quorum Percolation in Living Neural Networks
神经网络中的协同效应之所以出现,是因为神经元只有在其输入的最小数量$m$被激发时才会被激发。多输入要求导致称为{ \it quorum percolation}的逾渗模型。随着$m$的增长,连接性经历了一个相变,从低$m$的跨网络群集到高于临界$m$的一组断开连接的群集。数值模拟和模型都很好地再现了实验结果。这允许生物学相关量的稳健量化,例如平均连接性$\kbar$和连接分布$p_k$
2010-07-29 cond-mat.dis-nn physics.bio-ph q-bio.NC
Percolation Approach to Study Connectivity in Living Neural Networks
我们在大鼠海马神经元的培养中研究神经连接。我们测量神经元对电刺激的反应,以逐渐降低连接性,并表征网络中巨型集群的大小。连通性经历了临界指数$β\simeq 0.65$描述的逾渗转变。我们使用一种基于图上的键渗流的理论方法来描述网络的分解过程,并提取其统计特性。结合数值模拟,我们证明了神经文化中的连通性是局部的,其特征在于高斯度分布,而不是幂律分布。
2010-07-28 cond-mat.dis-nn physics.bio-ph q-bio.NC
The Physics of Living Neural Networks
技术的改进与神经元网络的理论和概念方法的演变相结合,为培养活神经元提供了一个新的视角。组织和连通性与信息等其他物理量一起被定量地衡量,并与功能联系起来。在这篇评论中,我们首先讨论了一些这些进展,使结构方面的说明。然后,我们讨论两个最近的实验模型,产生一些概念上的简单。一维网络可以与分析模型进行精确的定量比较,例如传播和信息传输。一个二维的神经网络提供了定量信息的连接培养的神经元。作为体外网络的基本特征出现的物理量是传播速度、突触传递、信息产生和容量。神经元器件的潜在应用进行了讨论。
2010-07-30 cond-mat.dis-nn physics.bio-ph q-bio.NC
Bridging integrated information theory and the free-energy principle in living neuronal networks
The University of Tokyo(东京大学);International Research Center for Neurointelligence (WPI-IRCN), The University of Tokyo Institutes for Advanced Study (UTIAS)(东京大学高等研究院神经智能国际研究中心(WPI-IRCN))
该研究以活神经元网络为对象,分析发现解离神经元培养物的信念更新与整合信息相关,通过实验和伊辛模型揭示了整合信息理论与自由能原理的经验联系。
2026-07-30 q-bio.NC
Inference with Hybrid Bio-hardware Neural Networks
Beihang University(北京航空航天大学);Lehigh University(理海大学)
为了理解大脑中的学习过程,已经通过对详细的神经元特性和动力学建模来探索生物学上合理的算法。另一方面,神经网络的简化多层模型在诸如图像分类和语音识别的计算任务上已经显示出巨大的成功。然而,可以为这些学习应用实现良好精度的计算模型与生物合理模型非常不同。本文研究了体外活神经网络的生物似然模型是否可以用于执行机器学习任务并实现良好的推理精度。提出了一种新的双层生物硬件混合神经网络。生物层忠实地模拟体外活神经网络中突触、神经元和网络稀疏度的变化。硬件层是一个计算性的全连接层,可以调整参数以优化精度。提出了几种技术来提高所提出的混合神经网络的推理精度。例如,自适应预处理技术有助于所提出的神经网络实现不同的活神经网络稀疏度的良好的学习精度。建议的混合神经网络与现实的神经元参数和变化达到了98.3%的测试准确率的手写数字识别任务的完整MNIST数据集。
2019-09-05 cs.LG cs.NE q-bio.NC
Neural and phenotypic representation under the free-energy principle
本文的目的是利用自由能原理及其推论过程理论,主动推理,开发一个通用的,可推广的模型的生物的表征能力,即表型表征理论。考虑到它们的普遍性,我们关注的是分布式的表示形式(例如,群体代码),从而活组织中的整体活动模式来代表感觉输入或数据的原因。主动推理框架依赖于马尔可夫毯形式主义,它允许我们将感兴趣的系统(如生物系统)划分为内部状态、外部状态和毯(主动和感觉)状态,这些状态使内部和外部状态有条件地相互独立。在这个框架中,生物的表征能力的出现是由于其马尔可夫结构和非平衡动力学,这两者共同带来了一个双方面的信息几何。这需要一个适度的表征能力:内部状态有一个内在的信息几何,描述它们在状态空间中随时间的轨迹,以及一个外在的信息几何,允许内部状态编码(参数)关于(虚构的)外部状态的概率信念。在此基础上,我们在这里描述如何,在一个自动和紧急的方式,刺激的信息可以来编码由马尔可夫毯约束的神经元组,这就是所谓的神经元包假说。作为这种类型的紧急表示的具体演示,我们提出了数值模拟显示,自组织合奏的积极推理代理共享正确的概率生成模型能够编码可恢复的信息刺激阵列。
2020-12-01 q-bio.NC
Neural Autopoiesis: Organizing Self-Boundary by Stimulus Avoidance in Biological and Artificial Neural Networks
生物体必须积极地维持自己,以便继续存在。自创生是生物体研究中的一个关键概念,生物体的边界不是静态的,而是由系统本身动态调节的。为了研究自我边界的自主调节,我们使用生物和人工神经网络来研究神经对环境变化的稳态响应。先前的研究表明,具体的培养神经网络和脉冲神经网络与尖峰时间依赖可塑性(STDP)学习的行动,因为他们避免来自外部的刺激。在本文中,作为我们使用具身培养神经元的实验的结果,我们发现还有第二个属性允许网络避免刺激:如果代理不能学习动作以避免外部刺激,它往往会减少刺激诱发的尖峰,好像忽略不可解释的输入。我们还表明,这样的行为是再现脉冲神经网络与非对称STDP。我们认为,这些性质被视为自我和非自我的自主调节的网络,其中一个可识别的神经元被视为自我,和一个不可识别的神经元被视为非自我。最后,我们通过提出刺激回避原则来介绍神经自生成。
2020-01-27 cs.NE q-bio.NC
Two-photon imaging and analysis of neural network dynamics
繁星点点的夜空的光辉,一杯新煮的咖啡的气味或海浪在海滩上破碎的声音都是我们大脑中数千个神经元动态相互作用所创造的物理世界的代表。大脑如何调节感知、创造思想、储存记忆和启动行动,即使不是科学的全部,也是生物学中最深刻的谜团之一。从机械学的角度理解神经系统如何工作的关键是能够在感觉刺激和行为的背景下分析生物体中神经元网络的动力学。在各种电生理学技术的帮助下,在单个神经元的微观水平和整个脑区域的宏观水平上,动态脑特性已经得到了相当好的表征。然而,我们对由数百到数千个神经元组成的局部群体(所谓的“微电路”)的介观水平的理解仍然很差。在很大程度上,这是由于在活体动物大脑中以单细胞空间分辨率和近毫秒时间分辨率记录大型神经元网络所涉及的技术困难。近年来,双光子显微镜已经成为一种满足许多这些要求的技术,因此已成为询问局部神经回路的首选方法。在这里,我们回顾了神经元群体的双光子成像领域的研究现状,涵盖了显微镜技术,合适的荧光指示剂染料,染色技术,特别是从荧光数据中提取相关信息的分析技术。我们期望,使用双光子成像的神经网络的功能分析将有助于破译神经微电路的基本操作原理。
2011-07-26 q-bio.NC
A minimal dynamical system and analog circuit for non-associative learning
本文探讨实现习惯化这一基本非联想学习所需的最简动力系统,并给出可用于神经形态计算的模拟电路实现思路。
2024-05-09 eess.SP q-bio.NC
Rhythmogenesis in the mean field model of the neuron-glial network
尽管爆发活动现象对于活体神经网络的功能非常重要,但其起源机制仍不清楚。在本文中,我们提出了一个新的现象学模型,可以解释的基础上,短期突触可塑性,经常性连接,神经元-胶质细胞的相互作用的爆发活动的形成机制。我们发现,神经元-胶质细胞的相互作用可以诱导爆裂活动。爆发活动出现的分叉情景是本文的重点。该研究对于理解神经网络中的复杂动力学具有重要意义。
2022-11-15 q-bio.NC
Tailored ensembles of neural networks optimize sensitivity to stimulus statistics
生物体中刺激处理的动态范围远远大于单个神经网络所能解释的。对于一个通用的,可调的尖峰网络,我们得出,而动态范围是最大的临界,可辨别的强度的间隔是非常相似的任何网络调谐由于合并。补偿聚结使得能够适应可辨别的间隔。因此,我们可以根据刺激强度的分布来定制优化的网络集合,例如,任意扩展动态范围。我们讨论了机器学习的潜在应用。
2019-05-24 cond-mat.dis-nn q-bio.NC
Spatial computing in structured spiking neural networks with a robotic embodiment
现代神经科学的挑战之一是创造一个基于体外生长的神经网络的“活计算机”。这种人工设备应该执行神经计算任务,并在机器人中与环境交互。最近的研究已经确定了最关键的挑战,寻找一个神经网络架构来实现联想学习。本文提出了一种由单向耦合连接的脉冲神经网络的模块化结构模型。我们表明,该模型能够根据巴甫洛夫条件反射训练神经机器人。机器人的避障性能取决于网络间耦合的权重比。我们发现,除了STDP,成功学习的关键因素是突触和神经元的竞争。我们使用最近发现的最短路径规则来实现突触竞争。该方法已准备好进行实验测试。强抑制耦合实现了负责无条件反应的子网络中的神经元竞争。这种方法的经验测试需要一种技术来生长神经网络,其中兴奋性和抑制性神经元的给定比例尚未获得。另一种方法是建立一个混合系统,其中体外神经网络通过硬件忆阻连接耦合。
2022-01-10 q-bio.NC
Learning biological neuronal networks with artificial neural networks: neural oscillations
本文提出一类基于第一性原理的人工神经网络,作为大脑神经回路高维非线性振荡动力学的忠实替代模型,并证明其在扩大参数训练范围后可泛化到不同动力学状态,为复杂神经元网络建模开辟新途径。
2022-11-21 nlin.AO q-bio.NC
Aging, computation, and the evolution of neural regeneration processes
后生动物能够从环境中收集信息,并以可预测的方式做出反应。这些计算任务是通过或多或少复杂的神经元网络来实现的。任务性能必须在个人的一生中保持可靠,并且必须稳健地处理细胞的有限寿命或连接故障-使衰老成为这种情况下的相关特征。计算是如何在有机体的生命周期中退化的?整个过程中计算的可靠性如何?为了回答这些问题,在这里,我们的方法下的多目标(帕累托)优化方法的问题。我们考虑一个数字生物的人口配备了一个神经网络,必须解决一个给定的计算任务可靠。我们要求它们在更长的使用寿命内保持功能(尽可能可靠)。神经连接是昂贵的(作为生物的相关代谢),并随着时间的推移而退化。它们也可以以一定的代价再生。我们调查的同时最小化的代谢负担(由于连接和再生成本)和计算误差和权衡出现。我们表明,帕累托最优设计显示了广泛的潜在的解决方案:从小型网络与高再生率,以较大的和冗余的电路,再生缓慢。生物体的寿命和外部损伤率被发现作为一个进化的压力,提高了探索的空间的解决方案,并提出更严格的最优性条件。我们还发现,电路的大损伤率可以限制可能的空间,并使生物体致力于维护神经系统的独特策略。
2019-09-25 q-bio.NC
The Grossberg Code: Universal Neural Network Signatures of Perceptual Experience
Centre National de la Recherche Scientifique(法国国家科学研究中心);Strasbourg University(斯特拉斯堡大学)
自适应共振理论的两个普遍功能原理模拟了所有生物学习和自适应智能的大脑代码。多感官刺激在其直接环境背景下的低级别表征是在自下而上激活的基础上形成的,并在自上而下匹配规则的控制下,这些规则集成了高级别的长期痕迹的上下文配置。这些普遍的编码原则导致所有生物物种(从猿类到灵长类)建立持久的感知经验大脑签名。他们在本文中重新访问的基础上,从原来的代码和一些最近的相关实证研究结果的背景下调制在大脑中的例子,突出了潜在的Grossberg的开拓性的见解和开创性的理论工作的智能解决方案领域的发展和认知机器人。
2023-03-03 cs.RO q-bio.NC
Deviance Detection and Regularity Sensitivity in Dissociated Neuronal Cultures
本研究利用解离神经元培养物和CMOS微电极阵列,发现其具备真正的偏差检测和规律性敏感性,挑战了复杂处理需分层网络的传统观点,为神经启发AI提供新方向。
2025-02-28 q-bio.NC
Leader neurons in leaky integrate and fire neural network simulations
一些实验研究表明,领导神经元的存在,在人口爆发的2D生活神经网络。一个领导神经元基本上是一个神经元,它在一个突发(分别是网络尖峰)的开始时放电的频率比我们通过观察它的整个平均神经活动所预期的要高。这意味着领导神经元具有超出简单统计效应的爆发触发能力。在这项研究中,我们描述了这些领导神经元的特性。这自然会导致我们模拟神经2D网络。为了构建我们的模拟,我们选择了漏积分和激发(lIF)神经元模型。我们的lIF模型在我们模拟的突发群体中有稳定的领导神经元。这些前导神经元是兴奋性神经元,并且具有低的膜电位放电阈值。除了前两个属性,神经元成为领导神经元所需的条件很难确定,似乎取决于模拟本身所涉及的几个参数。然而,详细的线性分析显示了神经元成为领导神经元所需的属性的趋势。我们的主要发现是:领导神经元向许多兴奋性神经元以及少数抑制性神经元发送信号,并且领导神经元仅从其他兴奋性神经元接收少数信号。我们的线性分析表现出五个基本属性的领导者神经元的相对重要性。这意味着考虑一个给定的神经网络,每个神经元的平均连接数是固定的,我们的分析为我们提供了一种预测哪个神经元可以成为一个好的领导神经元,哪个不能的方法。我们的预测公式给了我们一个很好的统计预测,即使考虑到单个给定的神经元,成功率没有达到百分之百。
2010-04-16 physics.bio-ph q-bio.NC
Characterizing Self-Developing Biological Neural Networks: A First Step Towards their Application To Computing Systems
碳纳米管通常被视为硅晶体管的唯一替代技术。虽然它们是最有可能的短期办法,但也应研究其他长期办法。虽然将生物神经元作为替代组件乍一看似乎荒谬,但CMOS-神经元接口的最新进展表明这一方向可能并非不切实际;此外,已知生物神经元能够自组装成能够执行复杂信息处理任务的非常大的网络,这尚未通过其他新兴技术实现。在生物神经元之上设计计算系统的第一步是构建自组装生物神经网络的抽象模型,就像计算机架构师操纵晶体管和电路的抽象模型一样。在这篇文章中,我们提出了生物神经网络结构的第一个模型。我们提供的经验证据表明,该模型匹配的生物神经网络中发现的活的有机体,并表现出小世界的图形结构特性,常见于许多大型和自组织系统,包括生物神经网络。更重要的是,我们提取的简单的本地规则和特点,这些网络的增长,使潜在的大,但现实的生物神经网络的发展,将需要复杂的信息处理/计算任务。基于这个模型,未来的工作将针对理解这种网络的演化和学习特性,以及如何使用它们来构建计算系统。
2005-05-10 cs.AR cs.NE nlin.AO
Neural networks grown and self-organized by noise
Caltech(加州理工学院)
活的神经网络是通过生长和自组织的过程出现的,从单个细胞开始,最终形成大脑,一个有组织的功能性计算设备。然而,人工神经网络依赖于人类设计的、手工编程的架构来实现其卓越的性能。我们能否开发出能够在没有人类干预的情况下生长和自我组织的人工计算设备?在本文中,我们提出了一个生物启发的发展算法,可以“成长”的功能,分层神经网络从一个单一的初始细胞。该算法组织层间连接以构建卷积池层,卷积池层是卷积神经网络(CNN)的关键组成部分。我们的方法受到早期视觉系统将视网膜连接到外侧膝状体核(LGN)的机制的启发,动物在睁开眼睛前几天。鲁棒自组织的关键成分是第一层中的突发自发时空活动波和第二层中的局部学习规则,该局部学习规则“学习”第一层中的底层活动模式。该算法适用于广泛的输入层几何形状,对第一层中的故障单元具有鲁棒性,因此可以用于成功地生长和自组织不同池大小和形状的池化架构。该算法提供了一个通过生长和自组织构造分层神经网络的基本过程。从广义上讲,我们的工作表明,生物启发的发展算法可以应用于自主生长功能的“大脑”。
2019-06-03 cs.AI cs.NE nlin.AO
Optimal input representation in neural systems at the edge of chaos
Departamento de Electromagnetismo y Física de la Materia(电磁学与物质物理系);Instituto Carlos I de Física Teórica y Computacional(卡洛斯一世理论与计算物理研究所);Universidad de Granada(格拉纳达大学)
阐明生物系统如何在嘈杂的环境中表示,处理和存储信息是一个关键和具有挑战性的目标。一个令人兴奋的,尽管有争议的假设提出,在相变边缘附近的动力学机制中操作,即在临界或“混沌边缘”,可以为信息处理生命系统提供重要的操作优势,例如,鲁棒性和灵活性之间的最佳折衷。在这里,我们阐述了最近的理论结果,它建立了一个强大的方式表示复杂的输入的神经网络的协方差矩阵的频谱需要衰减的秩的幂律,与指数接近统一,一个结果,确实已经实验验证了在小鼠视觉皮层的神经元。为了理解和模仿这些结果,我们构建了一个人工神经网络,并训练它来分类图像。值得注意的是,我们发现当网络在临界点附近运行时,在这样的任务中获得最佳性能,在临界点处,协方差矩阵的特征谱与实际神经元的统计数据相同。因此,我们的结论是,近临界操作也可以有-除了通常声称的优点-允许灵活,强大和有效的输入表示的优势。
2021-07-12 cond-mat.dis-nn cs.LG cs.NE
Self-organization of multi-layer spiking neural networks
Caltech(加州理工学院)
我们大脑中的活神经网络在早期发育过程中自主地自组织成大型复杂的架构,从而形成有组织的功能性有机计算设备。在发育中的大脑中形成复杂结构的一个关键机制是在发育中的大脑中出现神经元活动的时空波。受此策略的启发,我们试图有效地自组织大型神经网络与任意数量的层到各种各样的架构。为了实现这一点,我们提出了一个模块化的工具包的形式,一个动态系统,可以无缝堆叠组装多层神经网络。动态系统封装了尖峰单元的动态、它们的层间/层内交互以及控制层之间信息流的可塑性规则。我们的工具包的关键特征是(1)由前一层中的活动触发的跨多个层的自主时空波和(2)基于连接层中的波活动更新层间连接的尖峰定时依赖可塑性(STDP)学习规则。我们的框架导致了各种各样的架构的自组织,从多层感知器到自动编码器。我们还证明了涌现波可以自组织尖峰网络架构来执行无监督学习,并且网络可以与线性分类器相结合来对经典图像数据集(如MNIST)进行分类。从广义上讲,我们的工作表明,用于学习的动力系统框架可以用于自组织大型计算设备。
2020-06-12 cs.LG cs.NE q-bio.NC
The PSPACE-hardness of understanding neural circuits
在神经科学中,理解神经回路功能的一个重要方面是确定回路中的哪些神经元(如果有的话)对神经回路所控制的生物行为至关重要。类似的问题是确定给定的一小组神经元是否足以显示行为,即使电路中的所有其他神经元都被停用。这样的神经元子集形成了被研究行为的所谓退化回路。实验技术的最新进展为研究人员提供了以非常高的分辨率激活和失活神经元子集的工具,即使在活体动物中也是如此。从这样的实验中收集的数据可以是以下形式:当给定的神经元子集被停用时,是否观察到所研究的行为?这种设置导致的算法问题,确定最小的重要或退化的神经元集时,作为输入的神经回路的描述。算法问题需要弄清楚哪些神经元子集应该被扰动(激活/去激活),然后使用来自这些扰动的数据来确定最小的生命或退化集。鉴于大量可能的扰动,以及神经回路的循环性质,在这种方法中组合爆炸的可能性已经在生物学和神经科学文献中被认识到。在本文中,我们证明了问题的最小或最小尺寸的退化集,并找到一组重要的神经元,神经回路作为输入,实际上是PSPACE困难的。更重要的是,我们证明了我们的硬度结果表明,一个更简单的问题,模拟这样的神经电路,本身是PSPACE硬。
2020-06-23 cs.CC cs.DM q-bio.NC
Control flow in active inference systems
生命系统面临着环境的复杂性和有限的自由能源资源。在这些条件下的生存需要一个控制系统,可以激活,或部署,在特定的方式,可用的感知和行动资源。我们在这里表明,当系统被描述为执行由自由能原理驱动的主动推理时(因此可以被认为是贝叶斯预测误差最小化器),它们的控制流系统总是可以表示为张量网络(TN)。我们展示了如何TN作为控制系统可以implemented在量子拓扑神经网络的一般框架内,并讨论了这些结果的影响,在多个尺度上的生物系统建模。
2023-02-25 physics.bio-ph q-bio.NC quant-ph