A Hebbian/Anti-Hebbian Network Derived from Online Non-Negative Matrix Factorization Can Cluster and Discover Sparse Features
尽管我们对神经元的生物物理特性有广泛的了解，但还没有普遍接受的神经元功能的算法理论。在这里，我们探讨的假设，单层神经网络进行在线对称非负矩阵分解（SNMF）的相似性矩阵的流数据。通过从SNMF成本函数开始，我们推导出一种在线算法，该算法可以由具有局部学习规则的生物学上合理的网络来实现。我们证明，这样的网络执行软聚类的数据，以及稀疏特征发现。衍生的算法复制了许多已知的方面的感觉解剖和生物物理特性的神经元，包括单极性质的神经元活动和突触的权重，本地突触可塑性规则和累积神经元活动的学习率的依赖性。因此，我们朝着神经元功能的算法理论迈出了一步，这将有助于大规模神经电路模拟和生物启发的人工智能。
2015-03-02 cs.NE q-bio.NC stat.ML
A Hebbian/Anti-Hebbian Neural Network for Linear Subspace Learning: A Derivation from Multidimensional Scaling of Streaming Data
早期感觉处理的神经网络模型通常减少流输入数据的维度。这样的网络学习主子空间，在主成分分析（PCA）的意义上，通过调整突触权重根据活动相关的学习规则。当从原则成本函数导出时，这些规则是非局部的，因此在生物学上是不可信的。与此同时，生物学上合理的本地规则已被假定，而不是来自一个原则性的成本函数。在这里，为了弥合这一差距，我们通过最小化原则成本函数，推导出一个在流数据上进行子空间学习的生物学上合理的网络。在偏离以前的工作，其中成本量化的表示，或重建，错误，我们采用了多维尺度（MDS）的成本函数流数据。由此产生的算法只依赖于生物学上合理的赫布和反赫布的本地学习规则。在随机设置中，突触权重收敛到将输入数据投影到主子空间上的稳态。如果数据由非平稳分布生成，则网络可以跟踪主子空间。因此，我们的结果使一个算法理论的神经计算的一步。
2015-03-02 cs.NE q-bio.NC stat.ML
Hebbian Synaptic Modifications in Spiking Neurons that Learn
Research School of Information Sciences and Engineering（信息科学与工程研究学院）；Australian National University（澳大利亚国立大学）
在本文中，我们推导出一个新的模型的突触可塑性，基于最近的算法强化学习（其中代理试图学习适当的行动，以最大限度地提高其长期平均奖励）。我们表明，这些直接的强化学习算法也给多个代理的强化学习问题的局部最优性能，没有任何明确的代理之间的通信。通过将尖峰神经元网络视为试图最大化奖励信号的长期平均值的代理的集合，我们推导出与Hebb假设定性相似的突触更新规则。这个规则只需要简单的计算，例如加法和漏积分，并且只涉及突触附近可用的量。此外，它导致突触连接强度，使长期平均奖励的局部最优值。强化学习范式足够广泛，可以涵盖许多由大脑解决的学习问题。我们举例说明，与模拟，该方法是有效的简单的模式分类和运动学习任务。
2019-11-17 cs.LG cs.NE stat.ML
Two "correlation games" for a nonlinear network with Hebbian excitatory neurons and anti-Hebbian inhibitory neurons
一篇配套论文介绍了一个非线性网络，其中Hebbian兴奋性（E）神经元与反Hebbian抑制性（I）神经元耦合，并且还从感觉（S）传入神经接收Hebbian前馈兴奋。本论文从两个数学上等价但概念上不同的规范性原则推导出网络。第一个原则将无监督学习表述为一个约束优化问题：在E-E相关性的共正性约束下，最大化S-E相关性。勒让德和拉格朗日对偶的组合产生了一个零和连续的兴奋性和抑制性连接之间的博弈，解决了神经网络。第二个原则定义了E细胞和I细胞之间的零和博弈。E单元想要最大化S-E相关性并且最小化E-I相关性，而I单元想要最大化I-E相关性并且最小化功率。I和E目标之间的冲突有效地迫使E细胞彼此去相关，尽管只是不完全的。勒让德对偶产生神经网络。
2018-12-31 cs.NE q-bio.NC
Optimization theory of Hebbian/anti-Hebbian networks for PCA and whitening
在分析感觉器官传递的信息时，我们的大脑面临着类似于统计信号处理所解决的挑战。这表明在线信号处理算法的生物学上合理的实现可以模拟神经计算。在这里，我们专注于主成分分析（PCA）和白化的信号处理，最大限度地提高信息传输中存在的噪声等主力。我们采用的相似性匹配框架，最近开发的主子空间提取，但修改现有的目标函数，增加了一个解相关项。从修改后的目标函数，我们推导出在线PCA和白化算法，这是可实现的神经网络与本地学习规则，即突触权重更新，只依赖于前和突触后神经元的活动。我们的理论提供了一个神经计算的原则模型，并做出了可测试的预测，如未充分利用的神经元的脱落。
2015-11-30 cs.NE q-bio.NC
Markov chain Hebbian learning algorithm with ternary synaptic units
Korea Institute of Science and Technology（韩国科学技术研究院）；Seoul National University（首尔大学）；Korea University of Science and Technology（韩国科学技术大学）
尽管机器学习技术取得了显著的进步，但部分由于参数优化中的计算复杂性，最先进的机器学习算法通常使机器无法进行实时学习（在线学习）。作为替代方案，提出了一种学习算法来实时的训练存储器，它被命名为马尔可夫链赫布学习算法。该算法在训练期间追求有效的内存使用，因为（i）权重矩阵具有三元元素（-1，0，1），以及（ii）每次更新都遵循马尔可夫链-即将到来的更新不需要过去的权重内存。通过两个以数字为符号的概念验证任务（手写数字识别和乘法表记忆）对算法进行了验证。特别地，后者基于记忆的乘法运算，这可能类似于人类的心算。基于内存的乘法算法可行地提供了因式分解的基础，支持对算法的新见解。
2017-11-23 cs.LG cs.NE
Unsupervised learning by a nonlinear network with Hebbian excitatory and anti-Hebbian inhibitory neurons
本文介绍了一种基于速率的非线性神经网络，其中兴奋性（E）神经元接受来自感觉性（S）神经元的前馈兴奋，并通过抑制性（I）中间神经元介导的双突触通路相互抑制。基于相关性的双突触抑制可塑性用于不完全地去关联E神经元活动，推动E神经元学习不同的感觉特征。可塑性方程还包含“额外”的条款，促进兴奋性突触之间的竞争收敛到同一突触后神经元和抑制性突触从同一突触前神经元发散。可以调整S $\to$ E连接之间的竞争参数，以使学习的特征看起来更像“部分”或“整体”。“I-E连接之间的竞争参数可以调整，以设置E神经元活动的典型去相关性和稀疏性。无监督学习的数值模拟表明，相对较少的I神经元就足以实现良好的去相关，增加I神经元的数量可以使去相关更加完整。作为学习的结果，对活跃的E神经元的兴奋性和抑制性输入大致平衡。
2018-12-30 cs.NE q-bio.NC
Deep learning with asymmetric connections and Hebbian updates
University of Chicago（芝加哥大学）
我们表明，可以使用Hebbian更新来训练深度网络，在具有挑战性的图像数据集上产生与普通反向传播相似的性能。为了克服层之间的连接中不切实际的对称性，隐含在反向传播中，反馈权重与前馈权重分开。反馈权重也使用本地规则更新，与前馈权重相同-权重仅基于其连接的单元的活动的乘积更新。固定反馈权重Lillicrap等。al（2016）的性能随着网络深度的增加而迅速下降。如果前馈和反馈权重初始化为相同的值，如Zipser和Rumelhart（1990）所提出的，它们在整个训练过程中保持不变，从而精确地实现反向传播。我们表明，即使权重以不同的方式随机初始化，并且算法不再执行反向传播，性能在具有挑战性的数据集上也是相当的。我们还提出了一个成本函数，其导数可以表示为最后一层上的局部Hebbian更新。卷积层在空间上使用绑定权重进行更新，这在生物学上是不合理的。我们表明，与卷积层所暗示的连接性相对应的未绑定层（也称为局部连接层）也可以实现类似的性能，但权重是单独解开和更新的。在线性的情况下，我们从理论上表明，误差收敛到零的反馈权重的更新加速。
2019-03-12 cs.LG cs.NE q-bio.NC
Constrained Hebbian Learning Supports Efficient Representational Allocation under Structural Constraints
KEIM Institute, Albstadt-Sigmaringen University（凯姆研究所，阿尔布施塔特 - 西格马林根大学）；Department of Computer Science, Chemnitz University of Technology（计算机科学系，开姆尼茨工业大学）
研究生物系统在解剖学和代谢限制下，测试兴奋性竞争Hebbian规则能否支持突触资源分配，通过与其他规则对比实验发现，Hebbian学习可在保持功能性能时权衡任务信息与表征成本，支持其作为突触资源分配机制的解释。
2026-07-20 cs.LG cs.NE
Superconducting Optoelectronic Neurons III: Synaptic Plasticity
作为动态地重新配置超导光电回路神经元的突触权重的手段，超导通量存储回路电感耦合到神经元的突触电流偏置。标准通量存储单元用于实现二进制突触，并且能够存储许多通量量子的回路用于制定多稳态突触。电路被设计为实现监督学习，其中电流脉冲增加或去除回路中的通量以加强或削弱突触权重。设计电路与数百个中间突触之间的最小和最大强度的权重。实现无监督学习的电路通过Hebbian和anti-Hebbian学习规则使用两个光子加强和两个光子削弱突触权重来建模，并且提出了控制学习率的技术。执行短期可塑性，稳态可塑性，和元可塑性环路神经元进行了讨论。
2018-07-03 cs.ET cs.NE
Sensitivity Analysis for additive STDP rule
尖峰时间依赖可塑性（STDP）是一种类似于Hebbian的突触学习规则。STDP的基础有很强的实验证据，它依赖于精确的输入和输出尖峰定时。在本文中，我们表明，在生物学上合理的尖峰制度，轻微的变化，在尖峰时间导致突触权重时，它的动态是由添加剂STDP规则的演变截然不同。
2015-04-13 cs.NE q-bio.NC
Learning with Delayed Synaptic Plasticity
生物神经网络的可塑性允许它们通过改变它们的配置来执行学习和优化它们的行为。受生物学的启发，可塑性可以在人工神经网络中通过使用Hebbian学习规则来建模，即基于神经元激活和强化信号更新突触的规则。然而，当强化信号在每个网络输出之后不能立即用于关联有助于接收强化信号的神经元激活时，就会出现远端奖励问题。在这项工作中，我们扩展了赫布可塑性规则，允许学习远端奖励的情况下。我们建议使用神经元激活跟踪（NAT），以提供额外的数据存储在每个突触，以保持跟踪的神经元的激活。延迟强化信号在每次发作后相对于前一次发作期间的网络性能提供。我们采用遗传算法来进化延迟突触可塑性（DSP）规则，并根据NAT和延迟强化信号执行突触更新。我们比较DSP与一个类似的爬山算法，不包括域知识介绍的NAT，并表明，DSP规则执行的突触更新表现出更有效的训练性能相对于HC算法。
2019-04-17 cs.NE
Brain-like combination of feedforward and recurrent network components achieves prototype extraction and robust pattern recognition
联想记忆已经成为大规模递归新皮层网络计算的重要候选者。实现联想记忆的吸引子网络为许多认知现象提供了机制解释。然而，吸引子记忆模型通常使用正交或随机模式进行训练，以避免记忆之间的干扰，这使得它们对于自然发生的复杂相关刺激（如图像）不可行。我们通过将一个经常性吸引子网络与一个前馈网络相结合来解决这个问题，该网络使用无监督的Hebbian-Bayesian学习规则来学习分布式表示。由此产生的网络模型结合了许多已知的生物学特性：无监督学习，赫布可塑性，稀疏分布激活，稀疏连接，柱状和层状皮质架构等。我们评估的前馈和经常性的网络组件在复杂的模式识别任务的MNIST手写数字数据集的协同效应。我们证明，经常性吸引子组件实现联想记忆时，前馈驱动的内部（隐藏）表示训练。关联存储器还示出执行原型提取从训练数据，并使表示严重失真的输入鲁棒。我们认为，从机器学习的角度来看，前馈和经常性计算的建议整合的几个方面是特别有吸引力的。
2022-09-03 cs.NE
Information Bottleneck-Based Hebbian Learning Rule Naturally Ties Working Memory and Synaptic Updates
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
人工神经网络通过反向传播训练极深的网络，成功地解决了各种各样的问题。将反向传播直接应用于脉冲神经网络包含生物学上难以置信的组件，如权重传输问题或单独的推理和学习阶段。各种方法分别处理不同的组件，但完整的解决方案仍然是无形的。在这里，我们采取了一种替代方法，完全避免了反向传播及其相关问题。最近的深度学习工作提出了通过信息瓶颈（IB）独立训练网络的每一层。随后的研究指出，这种逐层的方法避免了跨层的错误传播，从而产生了一种生物学上合理的范例。不幸的是，IB是使用一批样本计算的。先前的工作通过仅使用两个样本（当前和先前样本）的权重更新来解决这个问题。我们的工作采取了不同的方法，将权重更新分解为局部和全局组件。局部分量是Hebbian的，并且仅依赖于当前样本。全局组件计算取决于一批样本的逐层调制信号。我们表明，这种调制信号可以学习的辅助电路与工作记忆（WM）像一个水库。因此，我们可以使用大于2的批大小，而批大小决定了WM所需的容量。据我们所知，我们的规则是第一个直接将突触更新与任务的WM耦合的生物学上合理的机制。我们评估我们的规则在合成数据集和图像分类数据集，如MNIST，我们探索WM能力对学习性能的影响。我们希望我们的工作是理解记忆在学习中的机械作用的第一步。
2021-11-24 cs.AI cs.LG cs.NE
Memory-enriched computation and learning in spiking neural networks through Hebbian plasticity
Graz University of Technology（格拉茨技术大学）；Silicon Austria Labs（奥地利硅谷实验室）
记忆是生物神经系统的一个关键组成部分，它能够在从数百毫秒到数年的巨大时间范围内保留信息。虽然赫布可塑性被认为在生物记忆中起着关键作用，但到目前为止，它主要是在模式完成和无监督学习的背景下进行分析的。在这里，我们建议，赫布可塑性是生物神经系统中的计算的基础。我们介绍了一种新的脉冲神经网络架构，丰富了赫布突触可塑性。我们表明，赫布丰富呈现脉冲神经网络令人惊讶的通用性方面的计算以及学习能力。它提高了他们的分布外泛化、一次性学习、跨模态生成联想、语言处理和基于奖励的学习能力。由于脉冲神经网络是节能神经形态硬件的基础，这也表明可以基于该原理构建强大的认知神经形态系统。
2022-05-23 cs.LG cs.NE q-bio.NC
Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity
École Normale Supérieure（巴黎高等师范学院）
在机器学习中，多层神经网络（深度学习）中的误差反向传播在监督和强化学习任务中取得了令人印象深刻的成功。然而，作为大脑学习的模型，深度学习一直被认为是不可信的，因为它的基本形式依赖于非局部可塑性规则。为了克服这个问题，提出了基于能量的局部对比赫布学习模型，并在一个分类任务与率神经元网络进行了测试。我们扩展了这项工作，通过实现和测试这样一个模型与泄漏集成和火灾神经元网络。初步结果表明，它是可能的学习一个非线性回归任务与隐藏层，尖峰神经元和局部突触可塑性规则。
2016-12-09 cs.LG cs.NE q-bio.NC
Dis-inhibitory neuronal circuits can control the sign of synaptic plasticity
Friedrich Miescher Institute for Biomedical Research（弗里德里希·米歇尔生物医学研究所）；Faculty of Science, University of Basel（巴塞尔大学理学院）
针对信用分配中误差调节与突触后活动决定可塑性符号之间的矛盾，本文提出自适应控制框架下的去抑制微回路与 Hebbian 规则，实现可比 BP 的学习并给出可检验预测。
2023-12-11 cs.LG cs.NE q-bio.NC
From Biological Synapses to Intelligent Robots
Strasbourg University（斯特拉斯堡大学）
这篇综述探讨了生物启发学习作为智能机器人控制和传感技术的基础上的具体例子模型。赫布突触学习被讨论为机器学习和智能的功能相关模型，如在无脊椎动物和脊椎动物的高度可塑性生物神经网络的示例的基础上所解释的。它的自适应学习和控制的潜力，没有监督，功能复杂性的产生，和控制架构的基础上自组织提出。基于兴奋性和抑制性神经机制的无先验知识的学习解释了生存或任务相关表征被强化或抑制的过程。无监督生物学习的基本机制驱动突触可塑性和适应性，以在具有不同复杂程度的活体大脑中实现行为成功。这里收集的见解指向Hebbian模型作为智能机器人和传感器系统的选择解决方案。关键词：赫布学习，突触可塑性，神经网络，自组织，脑，强化，感觉处理，机器人控制
2022-02-25 cs.NE cs.RO
Voltage-Dependent Synaptic Plasticity (VDSP): Unsupervised probabilistic Hebbian plasticity rule based on neurons membrane potential
Institut Interdisciplinaire d’Innovation Technologique (3IT), Université de Sherbrooke（舍布鲁克大学跨学科技术创新研究所（3IT））；Laboratoire Nanotechnologies Nanosystèmes (LN2) – CNRS UMI-3463, Université de Sherbrooke（舍布鲁克大学纳米技术与纳米系统实验室（LN2）——法国国家科学研究中心联合国际研究单位3463）；Institute of Electronics, Microelectronics and Nanotechnology (IEMN), Université de Lille（里尔大学电子、微电子与纳米技术研究所（IEMN））；Aix Marseille Univ（艾克斯-马赛大学）；Université de Toulon（土伦大学）；CNRS（法国国家科学研究中心）；IM2NP（材料、微电子与纳米科学普罗旺斯研究所（IM2NP））；National Research Council Canada（加拿大国家研究委员会）；University of Waterloo Collaboration Centre（滑铁卢大学合作中心）；Université Paris-Saclay（巴黎萨克雷大学）；Centre de Nanosciences et de Nanotechnologies（纳米科学与纳米技术中心）
这项研究提出了电压依赖性突触可塑性（VDSP），一种新的大脑启发的无监督局部学习规则的神经形态硬件上的Hebb的可塑性机制的在线实施。所提出的VDSP学习规则更新的突触电导的突触后神经元的尖峰上，这减少了两个因素的更新的数量相对于标准的尖峰定时依赖可塑性（STDP）。这种更新取决于突触前神经元的膜电位，其作为神经元实现的一部分是容易获得的，因此不需要额外的存储器来存储。此外，更新还在突触权重上进行正则化，并防止重复刺激时权重的爆炸或消失。进行严格的数学分析，得出VDSP和STDP之间的等效性。为了验证VDSP的系统级性能，我们训练了一个单层的脉冲神经网络（SNN）的手写数字识别。我们报告85.01 $ \pm $ 0.76%（平均$ \pm $ S.D.）MNIST数据集上100个输出神经元网络的准确性。当缩放网络大小时，性能得到改善（对于400个输出神经元，89.93 $ \pm $ 0.41%，对于500个神经元，90.56 $ \pm $ 0.27），这验证了所提出的学习规则对于空间模式识别任务的适用性。今后的工作将考虑更复杂的任务。有趣的是，学习规则比STDP更好地适应输入信号的频率，并且不需要手动调整超参数
2022-10-22 cs.AI cs.NE
Neuromorphic Hebbian learning with magnetic tunnel junction synapses
本文提出利用MTJ的二元电阻状态保证推理精度、并利用随机STT切换实现无监督赫布学习的神经形态网络，实验验证其STDP学习能力并在MNIST上取得有竞争力的准确率。
2023-08-21 cs.NE
Neuron-centric Hebbian Learning
University of Trento（特伦托大学）
本文提出以神经元为中心的赫布学习模型NcHL，将可塑性参数从突触级转为神经元级，参数从5W降至5N，在机器人运动任务中性能与ABCD规则相当且参数减少约97倍，实现可扩展可塑性。
2024-04-16 cs.AI cs.LG cs.NE
Robust Associative Memories Naturally Occuring From Recurrent Hebbian Networks Under Noise
大脑是一个受能量约束的嘈杂系统。在对人工神经网络建模时，很少考虑这些事实。在本文中，我们有兴趣证明，这些因素实际上可以导致强大的联想记忆的外观。我们首先提出了一个简化的模型，噪声在大脑中，考虑到突触噪声和干扰的神经元外部的网络。当粗量化，我们表明，这种噪声可以减少到插入和擦除。我们采用一个具有可修改的循环连接的神经网络，并将其置于有噪声的外部输入。我们在网络中引入了能量使用限制原则以及合并的Hebbian学习，从而实现了对输入的增量处理。我们表明，自然形成的连接对应于最先进的二进制稀疏联想记忆。
2017-09-25 cs.NE
Allee Synaptic Plasticity and Memory
本文提出基于Allee的非线性可塑性模型，通过权重稳定机制和时间依赖性动力学扩展，解决了现有模型噪声敏感和权重无限增长问题，提升了记忆保持与模式检索的容量和可靠性。
2025-08-11 cs.NE math.DS q-bio.NC
Learning in Spiking Neural Networks with a Calcium-based Hebbian Rule for Spike-timing-dependent Plasticity
University of Groningen（格罗宁根大学）
本文提出一种基于钙痕迹的Hebbian局部学习规则，统一建模脉冲时间与发放率对突触可塑性的影响，并在MNIST上验证其能通过相关脉冲活动调节学习率，证明二者在脉冲神经网络连接塑造中具有互补作用。
2025-04-09 cs.AI cs.NE
Spiking neural networks with Hebbian plasticity for unsupervised representation learning
KTH Royal Institute of Technology（瑞典皇家理工学院）；Stockholm University（斯德哥尔摩大学）；Digital Futures（数字未来机构）
提出一种将BCPNN转换为脉冲神经网络的方法，利用Hebbian可塑性进行无监督表示学习，在MNIST和F-MNIST上性能接近非脉冲模型并具竞争力。
2023-05-10 cs.LG cs.NE
Logic Learning in Hopfield Networks
在逻辑编程中，神经元的突触权重可以通过使用Hebbian学习或Wan Abdullah的方法来计算。换句话说，对于对应于一些相应程序子句的支配事件的赫布学习等价于对于相同的相应程序子句使用万阿卜杜拉方法的学习。在本文中，我们将通过计算机模拟实验评估这两种类型的学习之间的等效性。
2008-04-25 cs.LO cs.NE
A simple normative network approximates local non-Hebbian learning in the cortex
Flatiron Institute（弗莱迪龙研究所）；Rutgers University（罗格斯大学）；NYU Medical Center（纽约大学医学中心）
为了指导行为，大脑从感觉器官传输的高维数据中提取相关特征。神经科学实验表明，皮层神经元对感觉输入的处理受到提供上下文和任务相关信息的指导信号的调制。在这里，采用规范的方法，我们将这些指导性信号建模为指导前馈数据投影的监督输入。在数学上，我们从降秩回归（RRR）的目标函数，其中包括降秩（最小）均方误差（RRMSE）和典型相关分析（CCA）的家庭，并推导出新的离线和在线优化算法，我们称之为生物RRR。在线算法可以由神经网络实现，其突触学习规则类似于在皮层中观察到的钙平台电位依赖性可塑性。我们详细介绍了如何，在我们的模型中，钙平台电位可以被解释为一个反向传播的误差信号。我们证明，尽管完全依赖于生物学上合理的本地学习规则，我们的算法与现有的RRMSE和CCA的实现竞争力。
2020-10-23 cs.LG cs.NE q-bio.NC
Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks
School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；School of Public Health, Peking University（北京大学公共卫生学院）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Peng Cheng Laboratory（鹏城实验室）
针对脉冲神经网络的灾难性遗忘问题，提出基于侧向连接和赫布学习的正交投影方法，通过提取主子空间保护旧知识，在多种监督训练下实现接近零遗忘并优于现有方法。
2024-02-19 cs.AI cs.LG cs.NE
Freezing chaos without synaptic plasticity
提出一种无需突触可塑性、通过引入Onsager反应项使驱动力呈梯度形式来冻结高维神经动力学中混沌的方法，并证明其在生物真实网络及计算任务中有效。
2025-03-11 cond-mat.dis-nn cs.NE nlin.CD
Learning Precise Spike Train to Spike Train Transformations in Multilayer Feedforward Neuronal Networks
我们推导出一个突触权重更新规则，用于学习时间上精确的尖峰训练到尖峰训练转换的多层前馈网络的尖峰神经元。该框架的目的是无缝地将误差反向传播推广到确定性尖峰神经元设置，严格基于尖峰定时，并避免调用与尖峰速率或尖峰概率模型有关的概念。推导是建立在两个创新。首先，提出了一种误差泛函，该泛函将网络的输出神经元发出的尖峰训练与期望的尖峰训练通过它们对虚拟突触后神经元的推定影响进行比较。该公式回避了尖峰对齐的需要，并导致所有感兴趣的量的封闭形式的解决方案。其次，将权重虚拟分配给尖峰而不是突触使得能够对输出的各个尖峰时间和突触权重以及网络中的所有中间神经元进行扰动分析，这产生了相对于所述实体的误差泛函的梯度。学习通过利用这些量的梯度下降机制进行。仿真实验证明了所提出的学习框架的有效性。这些实验还强调了兴奋性和抑制性神经元上突触之间的不对称性。
2016-01-08 cs.NE
Structured and Deep Similarity Matching via Structured and Deep Hebbian Networks
John A. Paulson School of Engineering and Applied Sciences（约翰·A·保尔森工程与应用科学学院）；Harvard University（哈佛大学）
突触可塑性被广泛认为是大脑神经网络学习的机制。一个核心问题是，只能访问有关网络的本地信息的突触如何仍然能够以有效的方式集体组织并执行电路范围的学习。在单层和全对全连接的神经网络中，局部可塑性已被证明可以在一类成本函数上实现基于梯度的学习，这些成本函数包含一个将输出的相似性与输入的相似性对齐的项。对于具有其他架构的网络是否存在这样的成本函数尚不清楚。在本文中，我们介绍了结构化和深度相似性匹配成本函数，并展示了如何通过具有局部学习规则的神经网络以基于梯度的方式优化它们。这些网络将Földiak的Hebbian/Anti-Hebbian网络扩展到深层架构和结构化的前馈，横向和反馈连接。信用分配问题的解决优雅的双重学习目标的分解突触特定的本地目标。模拟表明，我们的网络学习有意义的特征。
2019-12-04 cs.LG cs.NE
Hebbian and Gradient-based Plasticity Enables Robust Memory and Rapid Learning in RNNs
Tsinghua University（清华大学）
从正在进行的经验中快速学习和用灵活的记忆系统记住过去的事件是生物智能的两个核心能力。虽然潜在的神经机制尚未完全理解，但各种证据支持突触可塑性在记忆形成和快速学习中起着关键作用。受这些结果的启发，我们为递归神经网络（RNN）配备了可塑性规则，使它们能够根据持续的经验调整参数。除了传统的局部Hebbian可塑性，我们提出了一个全球性的，基于梯度的可塑性规则，它允许模型朝着自己确定的目标发展。我们的模型在顺序和联想记忆任务上显示出有希望的结果，说明了它们稳健地形成和保留记忆的能力。同时，这些模型可以处理许多具有挑战性的少样本学习问题。在同一框架下比较不同的可塑性规则表明，赫布可塑性非常适合几个记忆和联想学习任务，但是，它优于基于梯度的可塑性的Few-Shot回归任务，需要模型来推断底层映射。代码可在https://github.com/yuvenduan/PlasticRNNs上获得。
2023-02-07 cs.AI cs.NE
Unsupervised Learning of Invariance Transformations
本文提出通过无监督 Hebbian 学习在循环突触连接中形成近似图对称性，并开发寻找加权图近似自同构的算法框架，从而从小样本结构中恢复不变性变换。
2023-07-24 cs.NE
Hebbian Memory-Augmented Recurrent Networks: Engram Neurons in Deep Learning
Department of Computer Science University of Wisconsin-Whitewater（计算机科学系 威斯康星大学-惠蒂沃特）
受生物神经印迹机制启发，提出融入赫布可塑性显式记忆与稀疏注意力检索的ENN循环架构，性能与经典RNN类模型相当，且可解释性显著提升。
2025-07-29 cs.AI cs.IR cs.LG
Enabling Robust In-Context Memory and Rapid Task Adaptation in Transformers with Hebbian and Gradient-Based Plasticity
St Paul’s School（圣保罗学校）
本文在仅解码器Transformer中引入赫布型与基于梯度的快速权重可塑性模块，发现赫布规则在小样本泛化上更强，梯度更新擅长长时程信用分配，并揭示了可塑性有效的边界条件。
2025-11-04 cs.AI cs.LG cs.NE
Extending Spike-Timing Dependent Plasticity to Learning Synaptic Delays
State University of New York at Buffalo（纽约州立大学布法罗分校）；Rochester Institute of Technology（罗切斯特理工学院）
本文提出一种扩展STDP的新学习规则，用于同时学习突触权重和延迟，在神经形态SNN分类任务中优于现有方法，并揭示突触效能与延迟的相互作用。
2025-06-17 cs.LG cs.NE
Enabling Continual Learning with Differentiable Hebbian Plasticity
University of Guelph（圭尔夫大学）；Vector Institute for Artificial Intelligence（矢量人工智能研究所）；Uber AI
持续学习是在保护先前获得的知识的同时顺序地学习新任务或知识的问题。然而，灾难性遗忘对执行这种学习过程的神经网络提出了巨大的挑战。因此，部署在现实世界中的神经网络经常在数据分布是非平稳的（概念漂移）、不平衡的或不总是完全可用的情况下挣扎，即，罕见的边缘病例我们提出了一个微分赫布巩固模型，它是由一个微分赫布可塑性（DHP）Softmax层，增加了一个快速学习的塑料组件（压缩情景记忆）的固定（缓慢变化）参数的Softmax输出层，使学习表示保留更长的时间尺度。我们证明了我们的方法的灵活性，通过整合众所周知的特定任务的突触巩固方法，惩罚的变化，缓慢的权重是重要的每个目标任务。我们在Permuted MNIST、Split MNIST和Vision Datasets Mixture基准上评估了我们的方法，并介绍了Permuted MNIST的一个不平衡变体--一个结合了类别不平衡和概念漂移挑战的数据集。我们提出的模型不需要额外的超参数，并通过减少遗忘来优于可比基线。
2020-06-30 cs.LG cs.NE stat.ML
Meta-Learning through Hebbian Plasticity in Random Networks
IT University of Copenhagen（哥本哈根信息技术大学）
终身学习和适应性是生物制剂的两个定义方面。现代强化学习（RL）方法在解决复杂任务方面取得了显着进展，但一旦训练结束，找到的解决方案通常是静态的，无法适应新的信息或扰动。虽然生物大脑如何从经验中有效地学习和适应仍然没有完全理解，但人们认为突触可塑性在这一过程中起着重要作用。受这种生物学机制的启发，我们提出了一种搜索方法，而不是直接优化神经网络的权重参数，只搜索突触特定的赫布学习规则，使网络在代理的生命周期内不断自组织其权重。我们展示了我们的方法在几个强化学习任务与不同的感觉方式和超过450 K可训练的可塑性参数。我们发现，从完全随机的权重开始，所发现的赫布规则使智能体能够在动态的2D像素环境中导航;同样，它们允许模拟的3D四足机器人学习如何行走，同时适应训练过程中没有看到的形态学损伤，并且在不到100个时间步的情况下没有任何明确的奖励或错误信号。代码可在https://github.com/enajx/HebbianMetaLearning上获得。
2022-04-19 cs.LG cs.NE
A biologically plausible neural network for multi-channel Canonical Correlation Analysis
皮质锥体神经元从多个不同的神经元群体接收输入，并将这些输入整合到单独的树突隔室中。我们探讨了皮质微电路实现典型相关分析（CCA）的可能性，CCA是一种无监督学习方法，将输入投影到一个共同的子空间上，以最大限度地提高投影之间的相关性。为此，我们寻求一个多通道CCA算法，可以实现在一个生物学上合理的神经网络。对于生物相容性，我们要求网络在在线设置中运行，并且其突触更新规则是本地的。从一个新的CCA目标函数，我们推导出一个在线优化算法，其优化步骤可以实现在一个单层神经网络与多房室神经元和本地非赫布学习规则。我们还得到了我们的在线CCA算法与自适应输出秩和输出白化的扩展。有趣的是，该延伸映射到一个神经网络上，其神经结构和突触更新类似于在皮质锥体神经元中实验观察到的神经回路和突触可塑性。
2021-03-26 cs.NE q-bio.NC stat.ML
Learning Feedforward and Recurrent Deterministic Spiking Neuron Network Feedback Controllers
我们解决的问题，学习反馈控制的控制器是一个网络构造的确定性尖峰神经元。与以前基于神经元尖峰速率模型的研究相比，这里的控制信号由网络输出神经元生成的尖峰的精确时间位置确定。我们正式建模的问题作为一个混合动力系统，包括一个闭环之间的植物和尖峰神经元网络。我们推导出一种新的突触权重更新规则，通过该规则，尖峰神经元网络控制器学习在所需的设定点保持过程变量。该控制器实现其学习目标的基础上访问工厂的过程变量和他们的衍生物相对于不断变化的控制信号，特别是，它不需要工厂的内部模型。我们证明了有效性的规则，将其应用到经典的控制问题的车杆（倒立摆）和模型的鱼运动。实验表明，所提出的控制器具有一个稳定的区域相比，传统的PID控制器，其轨迹不同的定性从PID控制器，并在许多情况下，控制器实现其目标，使用非常稀疏的脉冲序列输出。
2018-09-25 cs.NE q-bio.NC
Brain-like associative learning using a nanoscale non-volatile phase change synaptic device array
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）；IBM Research（IBM研究院）
神经科学和纳米电子器件技术的最新进展使得人们对使用新兴的纳米级存储器件作为突触元件来实现类脑计算硬件产生了巨大的兴趣。虽然已经有实验工作证明了纳米突触元件在单个设备水平上的操作，但网络水平的研究仅限于模拟。在这项工作中，我们展示了，使用实验，阵列级的联想学习使用相变突触设备连接在一个网格状的配置类似于生物大脑的组织。通过相变存储单元实现赫布学习，突触网格能够以类似大脑的方式存储呈现的模式并回忆丢失的模式。我们发现，该系统是强大的设备的变化，和细胞电阻状态的大的变化，可以通过增加训练时期的数量来容纳。我们说明了网络的变化容忍度和整体能量消耗之间的权衡，并发现能量消耗显着降低变化容忍度。
2014-07-14 cond-mat.mtrl-sci cs.LG cs.NE
A Backpropagation-Free Feedback-Hebbian Network for Continual Learning Dynamics
University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）
本文提出一种无需反向传播的反馈-赫本网络，通过局部可塑性实现持续学习动态，展示反馈路径在再生和维持关联中的作用。
2026-02-02 cs.LG cs.NE
Evolving Plasticity for Autonomous Learning under Changing Environmental Conditions
生物神经网络学习的一个基本方面是可塑性，它允许它们在生命周期中修改它们的配置。赫布学习是一种基于神经元局部相互作用的人工神经网络（ANN）可塑性建模的生物学合理机制。然而，从局部赫布可塑性规则中出现的连贯的全局学习行为还没有得到很好的理解。这项工作的目标是发现可解释的本地赫布学习规则，可以提供自主的全球学习。为了实现这一点，我们使用一个离散表示编码的学习规则在有限的搜索空间。然后，这些规则被用于基于神经元的局部相互作用来执行突触变化。我们采用遗传算法来优化这些规则，使学习两个独立的任务（觅食和捕食者的情况下）在线终身学习设置。由此产生的演化规则收敛到一组定义良好的可解释类型中，并进行了深入的讨论。值得注意的是，这些规则的性能，同时在学习任务期间调整ANN，与爬山等离线学习方法相当。
2020-12-07 cs.NE
Attention-Based Structural-Plasticity
HRL Laboratories, LLC.（HRL实验室有限责任公司）；University of California Irvine（加州大学欧文分校）
灾难性遗忘/干扰是终身学习机器的一个关键问题，它阻碍了智能体在学习新任务时保持其先前学习的知识。神经网络尤其容易受到灾难性遗忘现象的影响。最近，已经有几个努力克服神经网络中的灾难性遗忘。在这里，我们提出了一个生物启发的方法来克服灾难性遗忘。具体来说，我们基于大脑中的胆碱能神经调节系统定义了基于注意力的突触选择性可塑性。我们定义突触重要性参数，除了突触权重，然后使用Hebbian学习并行反向传播算法学习突触重要性在线和无缝的方式。我们测试我们提出的方法的基准任务，包括置换MNIST和分裂MNIST的问题，并表现出竞争力的性能相比，国家的最先进的方法。
2019-03-02 cs.LG cs.NE stat.ML
Implementing Online Reinforcement Learning with Clustering Neural Networks
本文提出带奖励信号的新赫布三因素突触学习规则，并结合聚类神经网络构建在线强化学习智能体，在 cart-pole 仿真中验证了有效性。
2024-02-28 cs.NE
Dreaming neural networks: forgetting spurious memories and reinforcing pure ones
联想神经网络的标准Hopfield模型解释了生物赫布学习，并充当模式识别的谐振子，但其最大存储容量为$α\sim 0.14$，远低于对称网络的理论界限，即$α=1$。受哺乳动物大脑中睡眠和做梦机制的启发，我们提出了一个扩展的模型，该模型显示了标准的在线（清醒）学习机制（允许按照模式存储外部信息）和离线（睡眠）遗忘$\&$巩固机制（允许去除伪模式和增强纯模式）：该获得的每日处方能够饱和理论界限$α=1$，对于热噪声也保持非常鲁棒。神经和突触的功能进行了分析和数值。特别是，除了获得神经动力学的相图，我们专注于突触可塑性，我们给出明确的处方突触矩阵的时间演变。我们分析证明，我们的算法使Hebbian核收敛于高概率的投影矩阵建立在纯存储模式。此外，我们得到了一个尖锐的和明确的估计“睡眠率”，以确保这样的收敛。最后，我们进行了广泛的数值模拟（主要是蒙特卡罗采样），以检查分析调查的近似（例如，我们在所谓的复制对称水平上发展了整个理论，作为Amit-Gutfreund-Sompolinsky参考框架中的标准）和可能的有限尺寸效应，发现与该理论总体上完全一致。
2018-10-29 cond-mat.dis-nn cs.NE math-ph
Machine Learning with Memristors via Thermodynamic RAM
热力学RAM（Thermodynamic RAM，kT-RAM）是一种基于AHaH计算理论的神经忆阻协处理器设计，通过CMOS和忆阻器实现。协处理器是差分忆阻器对（突触）的2-D阵列，其可以经由底层CMOS RAM电路的数字位寻址选择性地耦合在一起（神经元）。该芯片被设计为插入现有的数字计算机，并通过一个简单的指令集进行交互。反Hebbian和Hebbian（AHaH）计算形成了理论框架，从中构建了一种受自然启发的计算架构，与冯·诺依曼架构不同，内存和处理器在物理上结合起来进行突触操作。通过利用AHaH吸引子状态，基于忆阻器的电路收敛到吸引子盆，该吸引子盆表示机器学习解决方案，诸如无监督特征学习、监督分类和异常检测。由于kT-RAM消除了在内存和处理器之间来回穿梭位的需要，并且可以在非常低的电压水平下运行，因此它可以显著超过CPU，GPU和FPGA的性能，用于突触集成和学习操作。在这里，我们提出了一个忆阻器技术开发的kT-RAM中使用，特别是双向增量的电导通过短的低电压1.0 V，1.0微秒脉冲的适应。
2016-08-14 cs.ET cs.NE
Sleep-Based Homeostatic Regularization for Stabilizing Spike-Timing-Dependent Plasticity in Recurrent Spiking Neural Networks
本研究提出基于睡眠的神经元稳态正则化方法，通过周期性离线阶段稳定递归脉冲神经网络中的脉冲时间依赖可塑性学习。
2026-01-13 cs.NE stat.ML
Biological credit assignment through dynamic inversion of feedforward networks
Champalimaud Research（尚帕利莫研究中心）；Champalimaud Centre for the Unknown（尚帕利莫未知中心）
学习依赖于大脑深处突触连接的变化。在多层网络中，这些变化由输出反馈的误差信号触发，通常通过前馈处理步骤的逐步反转。这个过程的黄金标准--反向传播--在人工神经网络中工作得很好，但在生物学上是不可信的。最近出现了一些解决这个问题的建议，但这些生物学上合理的方案中有许多是基于学习一组独立的反馈连接。这使得每个突触的错误分配变得复杂，因为它依赖于第二个学习问题，并且通过拟合反演而不是保证它们。在这里，我们证明了前馈网络变换可以通过动态有效地反转。我们从反馈控制的角度推导出这种动态逆，其中前向变换被重复使用，并与固定或随机反馈动态交互，以在后向传递过程中传播误差信号。重要的是，该方案不依赖于反馈的第二个学习问题，因为通过网络动态保证了准确的反演。我们将这些动态映射到通用前馈网络上，并表明所得到的算法在几个监督和非监督数据集上表现良好。最后，我们讨论了动态反演和二阶优化之间的潜在联系。总的来说，我们的工作介绍了另一种观点在大脑中的信用分配，并提出了一个特殊的作用，在学习过程中的时间动态和反馈控制。
2021-01-04 cs.LG cs.NE q-bio.NC
Can the brain use waves to solve planning problems?
各种行为，如空间导航或身体运动，可以通过认知地图制定为图遍历问题。我们提出了一个神经网络模型，它可以解决这样的任务，是兼容的哺乳动物新皮层和海马体的经验发现范围广泛。模型中的神经元和突触连接表示可以通过赫布学习自组织成认知地图的结构，即形成一个图，其中每个神经元表示某个抽象任务相关流形的一个点，而循环连接对距离进行编码流形上的度量。图遍历问题是通过波浪状的激活模式来解决的，这些激活模式穿过递归网络，并将局部化的活动峰值引导到从某个起始位置到目标状态的路径上。
2021-10-11 cs.NE q-bio.NC
Supervised Hebbian Learning
Università del Salento（萨兰托大学）；Istituto Nazionale di Fisica Nucleare（国家核物理研究所）；Sapienza Università di Roma（罗马第一大学）；Istituto Nazionale d’Alta Matematica（国家高等数学研究所）；Bar-Ilan University（巴伊兰大学）
本文提出一种监督赫布学习协议，使霍普菲尔德网络能从模糊示例中推断原型，并通过相图、受限玻尔兹曼机等价性及副本隐藏层将 MNIST 分类准确率从 75% 提升至 95%。
2022-09-07 cond-mat.dis-nn cs.LG cs.NE
Bounded Rational Decision-Making in Feedforward Neural Networks
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）；Graduate Training Center of Neuroscience（神经科学研究生培训中心）
有限理性决策者在有限的计算资源下将感官输入转化为运动输出。从数学上讲，这些决策者可以建模为传输速率有限的信息理论信道。在这里，我们首次将这种形式主义应用于多层前馈神经网络。我们推导出两种情况下的突触权重更新规则，其中每个神经元被认为是一个有限的理性决策者或网络作为一个整体。在更新规则中，有限理性转化为权重空间中的信息理论激励的正则化类型。在手写数字MNIST基准分类任务的实验中，我们证明了这种信息理论正则化成功地防止了不同架构之间的过拟合，并获得了与其他最新技术（如dropout，dropconnect和贝叶斯backprop）竞争的结果，无论是普通神经网络还是卷积神经网络。
2016-05-23 cs.AI cs.LG cs.NE
Adaptive Axonal Delays in feedforward spiking neural networks for accurate spoken word recognition
CNAEIT
脉冲神经网络（SNN）是建立准确、高效的自动语音识别系统的一种很有前途的研究途径。音频到尖峰编码和训练算法的最新进展使SNN能够应用于实际任务。受生物启发的SNN使用稀疏异步事件进行通信。因此，尖峰定时对SNN性能至关重要。在这方面，大多数工作集中在训练突触权重，很少考虑事件传输的延迟，即轴突延迟。在这项工作中，我们考虑了一个可学习的轴突延迟上限在一个最大值，它可以适应根据轴突延迟分布在每个网络层。我们表明，我们提出的方法实现了最好的分类结果报告的SHD数据集（92.45%）和NTIDIGITS数据集（95.09%）。我们的工作说明了具有复杂时间结构的任务的训练轴突延迟的潜力。
2023-02-16 cs.NE cs.SD eess.AS
Feedforward Initialization for Fast Inference of Deep Generative Networks is biologically plausible
Université de Montréal（蒙特利尔大学）；Montreal Institute for Learning Algorithms（蒙特利尔学习算法研究所）；University of Bern（伯尔尼大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
我们考虑深层多层生成模型，如玻尔兹曼机或Hopfield网，其中计算（实现推理）是递归和随机的，但递归不是为了模拟序列结构，只是为了执行计算。我们发现条件下，一个简单的前馈计算是一个非常好的初始化推理，后的输入设备被钳位到观察值。这意味着在前馈初始化之后，递归网络非常接近网络动力学的不动点，其中能量梯度为0。主要条件是连续的层形成良好的自动编码器，或者更一般地说，单元中的不同输入组（特别是，一方面是自下而上的输入，另一方面是自上而下的输入）彼此一致，从而对输入的总加权和产生相同的贡献。在生物学术语中，这将对应于使每个树突分支正确地预测来自所有树突分支的聚合输入，即，体细胞潜能这与预测一致，即训练到树突分支（诸如锥体细胞的顶端树突和基底树突的那些）中的突触权重以最小化当目标是体细胞活动时由树突分支产生的预测误差。虽然以前的工作已经展示了如何在预测性递归模型中实现快速负相推理（当模型被打开时），但这一贡献有助于在这种递归神经模型中实现快速正相推理（当目标输出被钳制时）。
2016-06-28 cs.LG cs.NE q-bio.NC
