Drawing Inspiration from Biological Dendrites to Empower Artificial Neural Networks
这篇文章强调了生物神经元及其树突树的具体特征，其采用可能有助于推进用于各种机器学习应用的人工神经网络。进步可以采取增加计算能力和/或降低功耗的形式。提出的特征包括树突解剖学、树突非线性和分区可塑性规则，所有这些都塑造了生物网络中的学习和信息处理。我们讨论了这些功能在生物神经元中提供的计算优势，并提出了在人工神经元中采用这些功能的方法，以便在机器学习中利用各自的优势。
2021-06-14 q-bio.NC
Towards deep learning with segregated dendrites
深度学习在人工智能领域取得了重大进展，部分原因是采用了由神经生理学驱动的策略。然而，目前还不清楚深度学习是否会发生在真正的大脑中。在这里，我们展示了利用多隔室神经元的深度学习算法可能有助于我们理解大脑如何优化成本函数。像新皮质锥体神经元一样，我们模型中的神经元在电紧张隔离的隔室中接收感觉信息和高阶反馈。由于这种隔离，网络不同层的神经元可以协调突触权重更新。因此，该网络可以学习比单层网络更好地对图像进行分类。此外，我们还展示了我们的算法利用多层架构来识别有用的表示--这是深度学习的标志。这项工作表明，深度学习可以使用分离的树突隔室来实现，这可能有助于解释新皮层锥体神经元的树突形态。
2017-04-07 q-bio.NC
Active dendrites enhance neuronal dynamic range
自从树突中主动电导的第一个实验证据以来，大多数神经元已被证明通过多种电压门控离子通道的表达而表现出树突兴奋性。然而，尽管在过去的几十年里进行了实验和理论上的努力，这种兴奋性对某种树突计算的作用仍然难以捉摸。在这里，我们表明，由于非常普遍的属性的可兴奋介质，活跃的树突状树的模型的平均输出是一个高度非线性的函数，其传入率，达到非常大的动态范围（50分贝以上）。此外，该模型产生双S形响应函数，实验观察到在视网膜神经节细胞。我们认为，动态范围的增强是活性树枝状电导的主要功能作用。我们预测，具有较大树突树的神经元应该具有较大的动态范围，并且阻断活性电导应该导致动态范围的减小。
2009-08-08 nlin.CG physics.bio-ph q-bio.NC
Perforated Backpropagation: A Neuroscience Inspired Extension to Artificial Neural Networks
University of Southern California（南加州大学）；Perforated AI Inc.（穿孔人工智能公司）
该研究提出受生物树突启发的穿孔反向传播算法，将其应用于PyTorch网络，可提升准确率并实现无精度损失的模型压缩。
2026-09-01 cs.LG cs.NE q-bio.NC
Implementing feature binding through dendritic networks of a single neuron
本研究以Purkinje细胞为模型，发现其树突的次线性总和受时空输入动态调节，利用强次线性树突分支作为计算单元，证明单个神经元能够有效解决特征绑定问题。
2025-04-29 q-bio.NC
Voltage clamp analysis of nonlinear dendritic propertie in prepositus hypoglossi neurons
舌下前置肌神经元树突的非线性特性与维持眼位有关。这些神经元的生物物理特性对于前庭神经积分器的操作是必不可少的，前庭神经积分器将头部速度信号转换为控制眼睛位置的信号。采用一种新的电压钳位神经元非线性响应量化方法QSA（quadratic sinusoidal analysis），对神经元的非线性响应进行量化分析。电压钳电流的测量在谐波和交互频率使用特定的刺激频率，作为频率探针的内在非线性神经元的行为。对成对频率的这些响应形成了一个矩阵，该矩阵可以通过本征分解来减少，以在不同的膜电位下提供非常紧凑的分段二次分析，否则该分析通常由涉及大量参数和树突隔室的复杂微分方程来描述。此外，QSA矩阵可以插值以捕获大部分非线性神经元行为，如Volterra核。内插二次函数的两个主要的前置舌下神经元，即B型和D型，是惊人的不同。非线性响应的主要部分是由于持续的钠电导，这似乎是必不可少的持续的非线性效应诱导的NMDA激活，因此将是至关重要的操作的神经积分。最后，树突的非线性反应的优势支持的假设，持续钠电导通道和NMDA受体协同作用，动态控制网络行为的个别突触输入的影响。
2010-10-29 q-bio.NC
Why Neurons Have Thousands of Synapses, A Theory of Sequence Memory in Neocortex
Numenta, Inc（Numenta 公司）
新皮层神经元有成千上万的兴奋性突触。神经元如何整合来自如此多突触的输入，以及这能实现什么样的大规模网络行为，这是一个谜。以前已经提出树突的非线性特性使神经元能够识别多种模式。在本文中，我们扩展了这一想法，表明一个神经元与数千个突触排列在活跃的树突可以学习准确和鲁棒地识别数百个独特的细胞活动模式，即使在大量的噪音和模式的变化。然后，我们提出了一个神经元模型，其中一些模式识别的神经元导致动作电位，并定义了经典的感受野的神经元，而大多数模式识别的神经元作为预测轻微去极化的神经元，而不立即产生动作电位。然后，我们提出了一个基于神经元的网络模型与这些属性，并表明该网络学习一个强大的基于时间的序列模型。鉴于整个新皮层的兴奋性神经元的相似性和序列记忆在推理和行为中的重要性，我们提出这种形式的序列记忆是新皮层组织的普遍属性。我们进一步提出，新皮层中的细胞层实现相同序列记忆算法的变体，以实现推理和行为的不同方面。我们介绍的神经元和网络模型在很宽的参数范围内都是鲁棒的，只要网络使用稀疏的分布式细胞激活代码。网络的序列容量与每个神经元上的突触数量呈线性关系。因此，神经元需要数千个突触来学习感觉刺激和运动序列中的许多时间模式。
2015-12-01 cs.AI q-bio.NC
Hardware-Amenable Structural Learning for Spike-based Pattern Classification using a Simple Model of Active Dendrites
本文提出了一种基于脉冲的模型，该模型采用具有功能不同的树突状区室的神经元对高维二进制模式进行分类。到达每个树突亚基的突触输入在被线性整合到胞体之前被非线性处理，使神经元有能力执行大量的输入-输出映射。该模型利用稀疏突触连接;其中每个突触采用二进制值。神经元的最佳连接模式是通过使用一个简单的硬件友好的，边缘增强学习算法的启发，在生物神经元的结构可塑性的机制。学习算法将相同树突分支上的相关突触输入分组。由于学习的结果在修改的连接模式，它可以被纳入到当前的基于事件的神经形态系统很少的开销。这项工作还提出了一个分支特定的穗为基础的版本，这种结构的可塑性规则。该模型进行评估基准二进制分类问题，其性能进行比较，实现使用支持向量机（SVM）和极端学习机（ELM）技术。我们提出的方法达到可比的性能，同时利用10%至50%的计算资源比其他报告的技术。
2014-11-25 cs.NE q-bio.NC
Field closure, ice neurons, and when a dendrite is a motif
McGovern Institute for Brain Research, Massachusetts Institute of Technology（麻省理工学院麦戈文脑研究所）；The NSF AI Institute for Artificial Intelligence and Fundamental Interactions (IAIFI)（美国国家科学基金会人工智能基础相互作用研究所）
本研究提出冰神经元作为零增益界面模型，揭示生物神经元中几何、动力学与场相互塑造，场闭合增强远端持久性，区别于纯结构形态。
2026-10-02 cond-mat.soft nlin.AO nlin.PS
Mapping Biological Neuron Dynamics into an Interpretable Two-layer Artificial Neural Network
本研究开发了名为DBNN的两层可解释人工神经网络，用于准确预测生物神经元的胞体阈下电压和脉冲发放时间，并验证了其在方向选择性和图像分类等任务上的能力，为深度学习框架提供了一种生物学可解释的神经元计算表征方法。
2023-05-21 q-bio.NC
NSPDI-SNN: An efficient lightweight SNN based on nonlinear synaptic pruning and dendritic integration
Clinical Hospital of Chengdu Brain Science Institute, MOE Key Lab for NeuroInformation, China-Cuba Belt and Road Joint Laboratory on Neurotechnology and Brain-Apparatus Communication, School of Life Science and Technology, University of Electronic Science and Technology of China（成都脑科学研究所临床医院，教育部神经信息重点实验室，中老一带一路神经技术与脑-装置通信联合实验室，生命科学与技术学院，电子科技大学）；Academy of Medical Engineering and Translational Medicine, Tianjin University（医学工程与转化医学学院，天津大学）；School of Artificial Intelligence, Chongqing University of Education（人工智能学院，重庆教育学院）；Research Unit of NeuroInformation (2019RU035)（神经信息研究单位（2019RU035））
受生物神经元树突非线性结构和稀疏特性启发，提出NSPDI-SNN方法，通过引入非线性树突整合和构建非线性突触修剪实现网络高度稀疏，在多任务中保持高性能并提升突触信息传递效率。
2025-10-13 cs.AI cs.NE q-bio.NC
The Green's function formalism as a bridge between single and multi-compartmental modeling
神经元是在空间上延伸的结构，其树突上接收和处理输入。一般认为，神经元的计算产生于突触输入沿着树突的输入位置和轴突初始段中的尖峰产生位置之间的主动整合。然而，许多应用程序，如大脑网络的模拟，使用点神经元-没有形态组件的神经元-作为计算单元，以保持概念的复杂性和计算成本低。因此，这些应用不可避免地忽略了神经元计算的一个基本性质。在这项工作中，我们提出了一种模拟人工突触的方法，该方法可以模拟树突处理，而无需显式模拟树突动力学。模型突触采用电缆方程的解析解来计算树突输入后的神经元膜电位。格林函数形式主义是用来推导出封闭版本的电缆方程。我们表明，通过使用这种突触模型，点神经元可以实现以前仅限于多房室模型的领域的结果。此外，当只有少量的模拟突触撞击在形态上精细的神经元上时，实现了计算优势。机会和限制进行了讨论。
2013-09-10 q-bio.NC
Spike timing prediction with active dendrites
一个完整的单神经元模型必须正确地再现尖峰和脉冲串的放电。我们提出了一个简化的模型，皮质的深层锥体细胞与活跃的树突的研究。我们假设，我们可以模拟的胞体和它的顶丛只有两个隔间，没有显着损失的准确性尖峰定时预测。该模型是基于实验可测量的脉冲响应函数，该函数将注入一个隔室的电流的影响转移到到达另一个隔室的电流。每个隔室用一对非线性微分方程和少量近似Hodgkin-and-Huxley方程的参数建模。该模型的预测能力进行了测试，在电生理实验中，噪声电流同时注入体细胞和顶端树突。我们的结论是，一个简单的二室模型可以预测的锥体细胞刺激的胞体和树突的同时发放时间。我们的研究结果支持，在树突状簇的再生活动是需要适当地考虑在体内样条件下的第5层锥体细胞的动态。
2013-12-03 q-bio.NC
An Overlooked Role of Context-Sensitive Dendrites
University of Stirling（斯特灵大学）；University of Wolverhampton（伍尔弗汉普顿大学）；University of Oxford（牛津大学）
本研究揭示锥体双点神经元顶端树突整合多种上下文信号，灵活调节前馈体电流，促进连贯信号传播，从而在生物及人工网络中实现更快、更高效的学习。
2024-08-20 cs.AI cs.LG q-bio.NC
Learning to combine top-down context and feed-forward representations under ambiguity with apical and basal dendrites
本文构建具有顶树突与基底树突区室的增强深度神经网络，并提出多场景上下文整合任务，证明顶树突先验可在感觉与上下文均不可靠时灵活整合信息。
2024-10-26 q-bio.NC
Beta Distribution of Human MTL Neuron Sparsity: A Sparse and Skewed Code
人类内侧颞叶（MTL）的单个单位记录揭示了一群具有概念性、高度选择性活动的细胞，表明存在稀疏的神经代码。建立在作者和J.C.柯林斯，本文开发了一个统计模型，分析这些数据的基础上，最大似然分析。目标是推断整个MTL细胞群体中神经反应概率的潜在分布。反应概率或神经元稀疏性被定义为神经元在随机选择的刺激呈现期间产生高于阈值的放电率的总概率。应用该方法，它表明，跨MTL的细胞的β分布的神经元稀疏性是一致的数据。由此产生的拟合揭示了一个稀疏和高度偏斜的代码，其中绝大多数神经元表现出极低的响应概率，少数神经元具有相当高的响应概率。在低稀疏度值下，分布近似于幂律。在大鼠的位置细胞活动的统计中发现了惊人相似的偏态分布，表明人类MTL和大鼠海马之间存在类似的潜在编码动力学。
2015-08-18 q-bio.NC
Upcrossing-rate dynamics for a minimal neuron model receiving spatially distributed synaptic drive
本文针对接收空间分布突触驱动的最小树突神经元模型，推导电压时空随机动力学与上穿率的解析形式，并发现该模型在多重滤波下仍具有持续的高频响应。
2023-04-17 q-bio.NC
Pattern-wave model of brain. Mechanisms of information processing, memory organization
大脑神经元的轴突-树突连接的结构创建了丰富的空间结构，其中提供了围绕神经元的信号的各种组合。树突树的结构和树突棘的形状允许通过交叉突触影响相邻神经元来反复增加组合成分。在本文中，它表明，扩散扩散的神经递质允许神经元检测和记忆显着的一组环境活动模式。作为核心元件的固定描述了突触外代谢型感受簇。所描述的机制导致波过程的出现，基于自发活动的前线区域的传播。在所提出的模型中，任何紧凑的神经活动模式被视为一个源发射发散波内源性尖峰。它表明，尖峰模式的波前是严格唯一的和唯一定义的模式，开始波。波的传播具有独特的模式，可以让自然界中任何地方都能经历脑电波模式，从而判断整个大脑处理信息。在这些假设中，自然描述了皮质区域之间的投射信息的机制。计算机模拟结果表明，该信息模型具有较高的有效性.
2014-07-24 cs.AI q-bio.NC
Avoiding Catastrophe: Active Dendrites Enable Multi-Task Learning in Dynamic Environments
Numenta（Numenta公司）；Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）；Cornell University（康奈尔大学）
人工智能的一个关键挑战是构建在动态变化的环境中运行的嵌入式系统。这样的系统必须适应不断变化的任务环境，并不断学习。尽管标准的深度学习系统在静态基准测试中达到了最先进的结果，但它们在动态场景中往往会遇到困难。在这种情况下，来自多种背景的错误信号会相互干扰，最终导致一种被称为灾难性遗忘的现象。在这篇文章中，我们研究生物启发的建筑作为解决这些问题的方案。具体来说，我们表明，生物物理特性的树突和本地抑制系统，使网络能够动态地限制和路由信息的上下文特定的方式。我们的主要贡献如下。首先，我们提出了一种新的人工神经网络架构，将主动树突和稀疏表示纳入标准的深度学习框架。接下来，我们在两个需要基于任务的适应的独立基准上研究了该架构的性能：元世界，一个多任务强化学习环境，机器人代理必须学习同时解决各种操作任务;和一个持续学习基准，其中模型的预测任务在整个训练过程中会发生变化。对这两个基准的分析表明，出现了重叠但不同和稀疏的子网络，使系统能够以最小的遗忘流畅地学习多个任务。我们的神经实现标志着单一架构首次在多任务和持续学习设置上取得了有竞争力的结果。我们的研究揭示了神经元的生物学特性如何为深度学习系统提供信息，以解决传统ANN通常无法解决的动态场景。
2022-04-25 cs.AI cs.LG cs.NE
An Operating Principle of the Cerebral Cortex, and a Cellular Mechanism for Attentional Trial-and-Error Pattern Learning and Useful Classification Extraction
本文修订并扩展了新皮层锥体神经元的细胞级分类学习假设，引入BTSP规则与注意力机制，提出基于不同兴奋途径的四种神经元兴奋分类，并探讨微柱束内树突的去极化耦合机制。
2025-02-02 physics.bio-ph q-bio.NC
Plastic Arbor: a modern simulation framework for synaptic plasticity -- from single synapses to networks of morphological neurons
University of Göttingen（哥廷根大学）；University Medical Center Göttingen（哥廷根大学医学中心）；Forschungszentrum Jülich（于利希研究中心）；ETH Zürich（苏黎世联邦理工学院）
Plastic Arbor通过扩展框架支持大规模神经网络的模拟，重点研究突触可塑性与神经元形态的相互作用。
2025-09-15 cs.CE cs.NE q-bio.NC
Hippocampal synchronization in a realistic CA1 neuron model
本研究基于Hodgkin-Huxley动力学构建真实CA1神经元模型，探究突触位置等多参数对神经元同步的影响，为理解海马神经同步机制提供参考。
2024-09-16 cond-mat.dis-nn physics.bio-ph q-bio.NC
The fine line between dead neurons and sparsity in binarized spiking neural networks
University of Michigan（密歇根大学）；University of Western Australia（西澳大利亚大学）
脉冲神经网络可以通过在时域中对信息进行编码，或者通过处理更高精度的隐藏状态中的离散量来补偿量化误差。理论上，宽动态范围的状态空间使得多个二值化输入能够累积在一起，从而提高单个神经元的表示能力。这可以通过增加发射阈值来实现，但是使其太高并且稀疏尖峰活动变成无尖峰发射。在本文中，我们提出了使用“阈值退火”作为一种热身方法射击阈值。我们表明，它能够在神经元停止放电的多个层中传播尖峰，并且在这样做的过程中，尽管使用了二进制化的权重，但在四个不同的数据集上实现了高度竞争的结果。源代码可在https://github.com/jeshraghian/snn-tha/上获得
2022-01-28 cs.LG cs.NE q-bio.NC
Preserving Derivative Information while Transforming Neuronal Curves
本研究针对神经元追踪结果映射时忽略线段弯曲导致误差的问题，应用jet理论提出保留任意阶导数的方法，并利用Jacobian构建误差计算框架，一阶方法显著提升了模拟与真实数据的映射精度，已开源在brainlit包中。
2023-08-01 cs.NA math.NA q-bio.NC
Competition through selective inhibitory synchrony
皮质神经元回路的模型通常依赖于抑制反馈来控制增益，提供信号归一化，并使用赢家通吃（WTA）动力学选择性地放大信号。这种模型通常假设兴奋性和抑制性神经元能够容易地相互作用，因为它们的轴突和树突共同定位在同一个小体积中。然而，定量神经解剖学研究的轴突和树突树的神经元在新皮层的尺寸表明，这种共定位的假设是无效的。在本文中，我们描述了一个简单的修改WTA电路设计，允许分布式抑制神经元的影响耦合通过同步，因此允许一个单一的WTA广泛分布在皮层空间，远远超出了任何单一的抑制神经元的树枝状，甚至在不同的皮层区域。我们证明了非线性收缩分析，并通过仿真表明，分布式WTA子系统结合这样的抑制同步是内在稳定的。我们分析表明，同步是大大快于赢家选择。这种电路机制允许独立的WTA网络完全或部分地相互竞争。
2012-04-03 cs.NE q-bio.NC
Beyond $\ell_1$ sparse coding in V1
越来越多的证据表明，只有一个稀疏的子集从池的感觉神经元是活跃的编码的视觉刺激在任何时刻。传统上，为了复制这种生物稀疏性，生成模型一直使用$\ell_1$范数作为惩罚，因为它的凸性，这使得它适合快速和简单的算法求解器。在这项工作中，我们使用生物视觉作为试验台，并表明，软阈值操作与使用的$\ell_1$规范是非常次优的相比，其他功能适合近似$\ell_q$与$0 \leq q < 1 $（包括最近提出的连续精确松弛），无论是在性能和生产的功能，是类似的签名的初级视觉皮层。我们表明，$\ell_1$稀疏产生一个更密集的代码或采用一个池与更多的神经元，即具有更高程度的过完备性，以保持相同的重建误差考虑的其他方法。对于所有测试的惩罚函数，一个子集的神经元开发方向选择性类似于V1神经元。当它们的代码足够稀疏时，这些方法还开发出具有不同功能的感受野，这是V1的另一个特征。与其他方法相比，软阈值实现了这种程度的稀疏性，代价是重建性能大大降低，这在生物视觉中很可能是不可接受的。我们的研究结果表明，V1使用的稀疏诱导正则化更接近于$\ell_0$伪范数，而不是$\ell_1$范数。
2023-01-25 q-bio.NC
Fine Discrimination of Analog Patterns by Nonlinear Dendritic Inhibition
最近的实验表明，大脑皮层中的某类抑制性神经元不是在胞体上而是在靶神经元树突的远端部分形成突触，介导高度非线性的树突抑制。我们提出了一种新形式的竞争神经网络模型，实现了这样的树突状抑制。与传统的神经网络中的侧抑制相反，我们的树突抑制模型并不总是表现出赢家通吃的行为;相反，当未知的输入模式出现时，它们会收敛到“我不知道”的状态。我们推导出减少的二维动力学网络，显示出一个激烈的转变的不动点从赢家通吃的状态到一个“我不知道”的状态发生根据增加的噪声添加到存储的模式。通过这种方式防止错误识别，树突抑制网络实现了精细的模式识别，这可能是大脑中抑制连接递归神经网络的基本计算之一。
2004-02-17 q-bio.NC
Wave to pulse generation. From oscillatory synapse to train of action potentials
当神经元达到在突触后神经元产生动作电位所需的电压时，神经元具有将信息从突触前终端树突处的数字信号转换为突触间隙处的模拟波并转换回数字脉冲的能力。本研究的主要问题是什么过程产生的振荡波信号在突触间隙和什么是这种现象的最佳模型。在这里，它提出了一个模型的突触作为一个振荡系统能够同步考虑到信息的保存，因此在内部的突触间隙的频率。动作电位序列当然会编码并沿着神经系统传递信息，但大多数时候神经元并不传递动作电位，99%的神经元处于阈下状态，只有小信号，没有能量发出动作电位，携带着大部分信息。所提出的突触模型，平滑动作电位的训练并保持其频率。突触在这里被呈现为由通过干涉测量法变换的输入波组成的系统。波的集体突触干扰模式将反映密度波突触功能的最大振幅的点是“粒子”的位置，在我们的情况下动作电位，具有其最高的概率。
2018-10-18 nlin.AO physics.bio-ph q-bio.NC
Synaptic Integration of Spatiotemporal Features with a Dynamic Neuromorphic Processor
Luleå University of Technology（吕勒奥理工大学）
发放神经元可以通过突触前发放模式的非线性突触和树突整合来执行时空特征检测。非线性树突的多室模型和相关的神经形态电路设计使得能够忠实地模仿这种动态集成过程，但是这些方法也与相对高的计算成本或电路尺寸相关联。在这里，我们调查的时空尖峰模式与多个动态突触的DYNAP-SE神经形态处理器，它提供了一个互补的资源效率，虽然不太灵活，方法来特征检测点神经元的突触整合。我们研究如何以前提出的兴奋-抑制对动态突触可以结合起来，以整合多个输入，我们概括了这一概念的情况下，一个抑制性突触与多个兴奋性突触相结合。我们通过测量和分析神经形态神经元回路的膜电位来表征所产生的延迟兴奋性突触后电位（EPSP）。我们发现，生物相关的EPSP延迟，每个神经元的顺序为10毫秒的变化，可以实现在所提出的方式，通过选择不同的突触组合，由于设备不匹配。基于这些结果，我们证明了一个单点神经元动态突触的DYNAP-SE可以选择性地响应突触前尖峰与特定的时空结构，这使得，例如，视觉功能调整的单个神经元。
2021-06-01 cs.CV cs.NE q-bio.NC
