Meta-Learning through Hebbian Plasticity in Random Networks
IT University of Copenhagen(哥本哈根信息技术大学)
终身学习和适应性是生物制剂的两个定义方面。现代强化学习(RL)方法在解决复杂任务方面取得了显着进展,但一旦训练结束,找到的解决方案通常是静态的,无法适应新的信息或扰动。虽然生物大脑如何从经验中有效地学习和适应仍然没有完全理解,但人们认为突触可塑性在这一过程中起着重要作用。受这种生物学机制的启发,我们提出了一种搜索方法,而不是直接优化神经网络的权重参数,只搜索突触特定的赫布学习规则,使网络在代理的生命周期内不断自组织其权重。我们展示了我们的方法在几个强化学习任务与不同的感觉方式和超过450 K可训练的可塑性参数。我们发现,从完全随机的权重开始,所发现的赫布规则使智能体能够在动态的2D像素环境中导航;同样,它们允许模拟的3D四足机器人学习如何行走,同时适应训练过程中没有看到的形态学损伤,并且在不到100个时间步的情况下没有任何明确的奖励或错误信号。代码可在https://github.com/enajx/HebbianMetaLearning上获得。
2022-04-19 cs.LG cs.NE
Nonlinear Hebbian learning as a unifying principle in receptive field formation
Ecole Polytechnique Federale de Lausanne (EPFL)(洛桑联邦理工学院)
感觉感受野的发育在过去已经通过各种模型来建模,包括诸如稀疏编码或独立成分分析的规范模型和诸如尖峰定时依赖可塑性或突触可塑性的Bienenstock-Cooper-Munro模型的自底向上模型。在这里,我们表明,上述各种方法都可以统一到一个共同的原则,即非线性赫布学习。当非线性赫布学习应用于自然图像时,感受野形状受到输入统计和预处理的强烈约束,但在神经元模型或突触可塑性规则中的不同非线性选择之间仅表现出适度的变化。局部感受野的形成既不需要过度完整性,也不需要稀疏的网络活动。对听觉模型或V2发展等替代感觉方式的分析得出了相同的结论。在所有的例子中,感受野可以通过将抽象模型重新表述为非线性赫布学习来先验地预测。因此,非线性赫布学习和自然统计可以解释跨模型和感觉模态的感受野形成的许多方面。
2016-01-04 cs.LG q-bio.NC
SNAP: Stopping Catastrophic Forgetting in Hebbian Learning with Sigmoidal Neuronal Adaptive Plasticity
McGill University(麦吉尔大学)
本文提出SNAP方法,通过S型权重增长模拟生物长时程增强,使权重在达到较大或较小值后巩固稳定,从而在赫布学习中完全防止灾难性遗忘。
2024-10-20 cs.AI cs.LG cs.NE
Enabling Continual Learning with Differentiable Hebbian Plasticity
University of Guelph(圭尔夫大学);Vector Institute for Artificial Intelligence(矢量人工智能研究所);Uber AI
持续学习是在保护先前获得的知识的同时顺序地学习新任务或知识的问题。然而,灾难性遗忘对执行这种学习过程的神经网络提出了巨大的挑战。因此,部署在现实世界中的神经网络经常在数据分布是非平稳的(概念漂移)、不平衡的或不总是完全可用的情况下挣扎,即,罕见的边缘病例我们提出了一个微分赫布巩固模型,它是由一个微分赫布可塑性(DHP)Softmax层,增加了一个快速学习的塑料组件(压缩情景记忆)的固定(缓慢变化)参数的Softmax输出层,使学习表示保留更长的时间尺度。我们证明了我们的方法的灵活性,通过整合众所周知的特定任务的突触巩固方法,惩罚的变化,缓慢的权重是重要的每个目标任务。我们在Permuted MNIST、Split MNIST和Vision Datasets Mixture基准上评估了我们的方法,并介绍了Permuted MNIST的一个不平衡变体--一个结合了类别不平衡和概念漂移挑战的数据集。我们提出的模型不需要额外的超参数,并通过减少遗忘来优于可比基线。
2020-06-30 cs.LG cs.NE stat.ML
Learning To Play Atari Games Using Dueling Q-Learning and Hebbian Plasticity
University of Sussex(萨塞克斯大学)
本文使用深度Q网络和决斗Q网络训练智能体玩Atari游戏,并扩展至基于反向传播和赫布规则的可塑性神经网络,分析其可行性,为自适应学习提供新见解。
2024-05-22 cs.AI cs.LG
Neuron-centric Hebbian Learning
University of Trento(特伦托大学)
本文提出以神经元为中心的赫布学习模型NcHL,将可塑性参数从突触级转为神经元级,参数从5W降至5N,在机器人运动任务中性能与ABCD规则相当且参数减少约97倍,实现可扩展可塑性。
2024-04-16 cs.AI cs.LG cs.NE
Hebbian Synaptic Modifications in Spiking Neurons that Learn
Research School of Information Sciences and Engineering(信息科学与工程研究学院);Australian National University(澳大利亚国立大学)
在本文中,我们推导出一个新的模型的突触可塑性,基于最近的算法强化学习(其中代理试图学习适当的行动,以最大限度地提高其长期平均奖励)。我们表明,这些直接的强化学习算法也给多个代理的强化学习问题的局部最优性能,没有任何明确的代理之间的通信。通过将尖峰神经元网络视为试图最大化奖励信号的长期平均值的代理的集合,我们推导出与Hebb假设定性相似的突触更新规则。这个规则只需要简单的计算,例如加法和漏积分,并且只涉及突触附近可用的量。此外,它导致突触连接强度,使长期平均奖励的局部最优值。强化学习范式足够广泛,可以涵盖许多由大脑解决的学习问题。我们举例说明,与模拟,该方法是有效的简单的模式分类和运动学习任务。
2019-11-17 cs.LG cs.NE stat.ML
A Wasserstein Geometric Framework for Hebbian Plasticity
Ulrich Tan
本文提出Hebb-Wasserstein-几何框架,通过Wasserstein最小化运动建模记忆状态,将Hebb学习规则形式化为满足序列稳定性条件的Hebb能量,揭示记忆巩固作为扰动Wasserstein梯度流的变分结构。
2026-04-17 cs.LG math.OC math.PR
Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks
School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);School of Public Health, Peking University(北京大学公共卫生学院);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Peng Cheng Laboratory(鹏城实验室)
针对脉冲神经网络的灾难性遗忘问题,提出基于侧向连接和赫布学习的正交投影方法,通过提取主子空间保护旧知识,在多种监督训练下实现接近零遗忘并优于现有方法。
2024-02-19 cs.AI cs.LG cs.NE
RECAP: Local Hebbian Prototype Learning as a Self-Organizing Readout for Reservoir Dynamics
International Research Center for Neurointelligence (IRCN)(国际神经智能研究所以)
RECAP通过局部赫布学习机制,结合自组织原型读出,实现鲁棒的图像分类,避免误差反向传播,适用于在线更新。
2026-11-11 cs.AI cs.CV cs.LG
Learning to learn online with neuromodulated synaptic plasticity in spiking neural networks
U.S. Naval Research Laboratory(美国海军研究实验室)
我们提出,为了将我们对神经科学的理解用于机器学习,我们必须首先拥有强大的工具来训练类似大脑的学习模型。虽然在理解大脑学习动力学方面已经取得了实质性的进展,但神经科学衍生的学习模型尚未表现出与深度学习方法(如梯度下降)相同的性能。受到使用梯度下降的机器学习的成功的启发,我们证明了神经科学中的神经调制突触可塑性模型可以在脉冲神经网络(SNN)中进行训练,该网络具有通过梯度下降学习的框架,以解决具有挑战性的在线学习问题。该框架为开发神经科学启发的在线学习算法开辟了一条新的道路。
2022-06-28 cs.LG cs.NE
Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits
Rochester Institute of Technology(罗切斯特理工学院)
本文提出对比信号依赖可塑性,将自监督思想用于并行事件驱动脉冲层的局部突触调整,并在循环脉冲网络训练中展现优于其他生物可信方法的稳定效果,且无需反馈突触。
2024-10-25 cs.LG cs.NE
Structured and Deep Similarity Matching via Structured and Deep Hebbian Networks
John A. Paulson School of Engineering and Applied Sciences(约翰·A·保尔森工程与应用科学学院);Harvard University(哈佛大学)
突触可塑性被广泛认为是大脑神经网络学习的机制。一个核心问题是,只能访问有关网络的本地信息的突触如何仍然能够以有效的方式集体组织并执行电路范围的学习。在单层和全对全连接的神经网络中,局部可塑性已被证明可以在一类成本函数上实现基于梯度的学习,这些成本函数包含一个将输出的相似性与输入的相似性对齐的项。对于具有其他架构的网络是否存在这样的成本函数尚不清楚。在本文中,我们介绍了结构化和深度相似性匹配成本函数,并展示了如何通过具有局部学习规则的神经网络以基于梯度的方式优化它们。这些网络将Földiak的Hebbian/Anti-Hebbian网络扩展到深层架构和结构化的前馈,横向和反馈连接。信用分配问题的解决优雅的双重学习目标的分解突触特定的本地目标。模拟表明,我们的网络学习有意义的特征。
2019-12-04 cs.LG cs.NE
Ubiquity of Emergent Hebbian Dynamics in Regularized Learning
Massachusetts Institute of Technology(麻省理工学院);Center for Brains, Minds and Machines(大脑、心智与机器中心);NTT Research(NTT研究)
本文发现L2权重衰减在近稳态条件下普遍驱动学习信号与赫布方向对齐,且随机噪声可诱导反赫布对齐,这为区分真正的赫布计算与涌现的赫布特征提供了实验动机。
2026-05-28 cs.LG eess.SP
Multi-View Incremental Learning with Structured Hebbian Plasticity for Enhanced Fusion Efficiency
Fuzhou University(福州大学);Guangdong Institute of Intelligence Science and Technology(广东智能科学与技术研究院);University of Electronic Science and Technology of China(电子科技大学);Tsinghua University(清华大学);Dalian University of Technology(大连理工大学)
提出受生物神经启发的多视图增量框架MVIL,利用结构化赫布可塑性和突触分区学习实现细粒度融合,在六个基准数据集上优于现有方法。
2024-12-17 cs.CV cs.LG
SpikePropamine: Differentiable Plasticity in Spiking Neural Networks
U.S. Naval Research Laboratory(美国海军研究实验室)
在生物神经网络的学习过程中,神经元之间突触效能的适应性变化已被证明起着至关重要的作用。尽管有这个灵感来源,但许多使用脉冲神经网络(SNN)的学习集中应用程序保留静态突触连接,防止在初始训练期后进行额外的学习。在这里,我们介绍了一个框架,同时学习的基础固定权重和规则的动态突触可塑性和神经调制的突触可塑性在SNN通过梯度下降。我们进一步证明了这个框架的能力,一系列具有挑战性的基准,学习参数的几个可塑性规则,包括ESTA,OJA的,和他们各自的一套神经调节变体。实验结果表明,SNN增强微分可塑性是足够的解决一组具有挑战性的时间学习任务,传统的SNN未能解决,即使在存在显着的噪音。这些网络也被证明能够在高维机器人学习任务中产生运动,在初始训练期间没有看到的新条件下,观察到性能的几乎最小的退化。
2021-06-04 cs.LG cs.NE cs.RO
IP$^{2}$-RSNN: Bi-level Intrinsic Plasticity Enables Learning-to-learn in Recurrent Spiking Neural Networks
College of Information Science and Technology, Donghua University(东华大学信息科学与技术学院);School of Engineering, Westlake University(西湖大学工程学院);School of Life Sciences, Westlake University(西湖大学生命科学学院)
本研究提出IP$^{2}$-RSNN,通过双层内在可塑性使递归脉冲神经网络实现学会学习,优于点神经元和自注意力模型,揭示内在可塑性在L2L中的计算优势。
2025-09-26 cs.LG cs.NE
Hebbian Memory-Augmented Recurrent Networks: Engram Neurons in Deep Learning
Department of Computer Science University of Wisconsin-Whitewater(计算机科学系 威斯康星大学-惠蒂沃特)
受生物神经印迹机制启发,提出融入赫布可塑性显式记忆与稀疏注意力检索的ENN循环架构,性能与经典RNN类模型相当,且可解释性显著提升。
2025-07-29 cs.AI cs.IR cs.LG
Controlled Forgetting: Targeted Stimulation and Dopaminergic Plasticity Modulation for Unsupervised Lifelong Learning in Spiking Neural Networks
Purdue University(普渡大学);Nanoelectronics Research Laboratory(纳米电子学研究实验室)
随机梯度下降要求从数据的均匀随机分布中抽取训练样本。对于必须从不受控制和未知环境中在线学习的已部署系统,输入样本的排序通常无法满足此标准,这使得终身学习成为一项艰巨的挑战。我们利用无监督尖峰时间依赖可塑性(STDP)学习规则的局部性,以脉冲神经网络(SNN)中的局部表示为目标,以适应新的信息,同时保护SNN的其余部分中的重要信息免受灾难性遗忘。在我们的受控遗忘网络(CFN)中,新信息触发刺激放电和异质调制可塑性,灵感来自生物多巴胺信号,导致与离群信息相关的神经元突触快速和孤立的适应。这种定位控制了遗忘过程,减少了学习新任务时旧任务的准确性下降。我们在MNIST数据集上的实验结果验证了CFN随着时间的推移从未知的、不断变化的环境中成功学习的能力,达到了95.36%的准确率,我们认为这是固定大小的单层SNN在完全不相交的MNIST数据集上实现的最佳无监督准确率。
2019-09-19 cs.LG cs.NE
Spike-Timing-Dependent Plasticity for Bernoulli Message Passing
Electrical Engineering Department, TU Eindhoven, Netherlands(埃因霍温理工大学电子工程系,荷兰);Lazy Dynamics B.V., Eindhoven, Netherlands(埃因霍温荷兰Lazy Dynamics公司)
本文提出了一种基于伯努利信息传递的脉冲神经网络,利用脉冲时间依赖可塑性进行训练,实现了对贝叶斯推断的模拟,并展示了其在信号传输中的应用。
2025-12-19 cs.LG cs.NE q-bio.NC
Incremental learning for audio classification with Hebbian Deep Neural Networks
Signal Processing Research Centre, Tampere University, Tampere, Finland(塔尔库大学信号处理研究中心,芬兰塔尔库);Department of Electronics, Information and Bioengineering (DEIB), Politecnico di Milano, Italy(米兰理工学院电子、信息与生物工程系)
本文提出基于Hebbian学习的核可塑性方法,用于音频分类增量学习,通过选择性调节网络核实现新信息学习与旧知识保留,实验显示在ESC-50数据集上准确率提升且稳定性更优。
2026-04-20 cs.LG eess.AS
Spike Agreement Dependent Plasticity: A scalable Bio-Inspired learning paradigm for Spiking Neural Networks
School of Data Science, Indian Institute of Science Education and Research, Thiruvananthapuram, India(数据科学学院,印度科学教育与研究学院,特里布文纳纳特帕尔姆,印度);School of Data Science, Indian Institute of Science Education(数据科学学院,印度科学教育与研究学院);School of Physics, Indian Institute of Science Education(物理学院,印度科学教育与研究学院)
本文提出脉冲一致性依赖可塑性(SADP),用群体级相关性度量替代精确脉冲对时序以推广STDP,实现线性时间复杂度和高效硬件部署,并在MNIST及Fashion-MNIST上结合样条核取得优于经典STDP的准确率与运行时间。
2025-08-22 cs.LG cs.NE
NM-Hebb: Coupling Local Hebbian Plasticity with Metric Learning for More Accurate and Interpretable CNNs
Faculty of Electrical Engineering, Computer Science and Information Technology Osijek(电子工程、计算机科学与信息技术学院奥斯杰克)
NM-Hebb通过赫布局部可塑性与度量学习两阶段训练,在多个CNN骨干上同时提升分类精度、特征结构化程度和可解释性。
2025-08-27 cs.CV cs.LG
SoftHebb: Bayesian Inference in Unsupervised Hebbian Soft Winner-Take-All Networks
Huawei Technologies(华为技术有限公司);Huawei Technologies Zurich Research Center(华为技术苏黎世研究中心);Huawei Technologies Russia(华为技术俄罗斯公司);ACS Lab(ACS实验室)
SoftHebb提出了一种无监督的类赫布软WTA网络学习算法,通过维持贝叶斯生成模型最小化交叉熵,在收敛速度和对抗鲁棒性上优于反向传播,为类脑硬件加速提供了新思路。
2022-11-12 cs.AI cs.CV cs.LG
Constrained plasticity reserve as a natural way to control frequency and weights in spiking neural networks
Russian Academy of Sciences(俄罗斯科学院)
生物神经元具有自适应性,并执行涉及冗余信息过滤的复杂计算。然而,大多数常见的神经细胞模型,包括生物学上合理的模型,如Hodgkin-Huxley或Izhikevich,在单细胞水平上不具有预测动力学。此外,突触可塑性或互连权重自适应的现代规则也没有为神经元适应不断变化的输入信号强度的能力提供基础。虽然天然神经元突触生长受到蛋白质供应和再循环的精确控制和限制,但权重校正规则(如广泛使用的STDP)在变化率和规模上有效地不受限制。本文介绍了神经元放电率稳态和重量变化之间的互连的新机制,通过STDP增长的抽象蛋白质储备的限制,由细胞内优化算法控制。我们展示了这些细胞动力学如何帮助神经元过滤掉强烈的噪声信号,以帮助神经元保持稳定的放电率。我们还研究了这种过滤不影响神经元在无监督模式下识别相关输入的能力。这种方法可以用于机器学习领域,以提高AI系统的鲁棒性。
2021-06-20 cs.AI cs.LG cs.NE
Hebbian Learning with Global Direction
Department of CSE, Southern University of Science and Technology(南方科技大学计算机科学与工程系);ACS Lab, Huawei Technologies Co., Ltd.(华为技术有限公司ACS实验室)
本文提出一种融合局部与全局信息的全局引导Hebb学习框架,通过Oja规则与竞争学习实现稳定更新,并引入符号信号指导局部更新,实验表明在大规模网络和复杂数据集上性能优于传统Hebb方法。
2026-01-29 cs.AI cs.LG
EchoSpike Predictive Plasticity: An Online Local Learning Rule for Spiking Neural Networks
ETH Zurich(苏黎世联邦理工学院)
本文提出EchoSpike预测可塑性(ESPP)规则,一种用于SNNs的在线局部学习规则,通过预测和对比编码利用层次时间动态,性能与最先进监督学习相当,适合低成本神经形态处理器。
2024-05-26 cs.LG cs.NE
A Backpropagation-Free Feedback-Hebbian Network for Continual Learning Dynamics
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
本文提出一种无需反向传播的反馈-赫本网络,通过局部可塑性实现持续学习动态,展示反馈路径在再生和维持关联中的作用。
2026-02-02 cs.LG cs.NE
Effects of Introducing Synaptic Scaling on Spiking Neural Network Learning
Osaka Institute of Technology(大阪工业大学)
本研究探讨了突触缩放对脉冲神经网络学习的影响,发现基于L2范数的突触缩放能有效提升分类性能。
2026-01-16 cs.LG cs.NE
Memory via Temporal Delays in weightless Spiking Neural Network
Tufts University(塔夫茨大学);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
神经科学界的一个共同观点是,记忆是由神经元之间的连接强度编码的。这种认知导致人工神经网络模型将连接权重作为调节学习的关键变量。在本文中,我们提出了一个原型的无重量脉冲神经网络,可以执行一个简单的分类任务。该网络中的记忆存储在神经元之间的时间中,而不是连接的强度,并且使用Hebbian Spike Timing Dependent Plasticity(STDP)进行训练,该训练调节连接的延迟。
2022-02-15 cs.AI cs.LG cs.NE
Local learning through propagation delays in spiking neural networks
Oslo Metropolitan University(奥斯陆城市大学);Norwegian University of Science and Technology(挪威科技大学);Østfold University College(东福尔郡大学学院)
我们提出了一种新的局部学习规则的脉冲神经网络,其中尖峰传播时间经历活动依赖的可塑性。我们的可塑性规则调整突触前尖峰时间,以产生更强、更快的反应。输入通过延迟编码进行编码,输出通过匹配输出尖峰活动的类似模式进行解码。我们演示了使用这种方法在一个三层前馈网络的输入从数据库的手写数字。网络在训练后不断提高其分类准确性,并且使用这种方法进行训练还允许网络泛化到训练期间看不到的输入类。我们所提出的方法利用尖峰神经元的能力来支持许多不同的时间锁定序列的尖峰,其中每一个都可以被不同的输入激活。这里所示的概念验证证明了局部延迟学习在扩展脉冲神经网络的记忆容量和泛化能力方面的巨大潜力。
2022-10-27 cs.AI cs.LG cs.NE
Spiking Decision Transformers: Local Plasticity, Phase-Coding, and Dendritic Routing for Low-Power Sequence Control
Purdue University (Fort Wayne)(普渡大学(Fort Wayne))
本文提出SNN-DT,将LIF神经元、三因子可塑性、脉冲相位位置编码和树突路由引入回报条件序列建模,在经典控制任务上媲美Decision Transformer并显著降低推理能耗。
2025-08-29 cs.LG
Ensemble plasticity and network adaptability in SNNs
Auckland University of Technology(奥克兰理工大学);Murdoch University(莫道克大学)
人工脉冲神经网络(ASNN)由于基于离散事件(即,spike)计算。一些机器学习(ML)应用程序使用生物启发的可塑性机制作为无监督学习技术,以提高ASNN的鲁棒性,同时保持效率。尖峰时间依赖塑性(STDP)和固有塑性(IP)(即,动态尖峰阈值自适应)是两种这样的机制,它们被组合以形成集成学习方法。然而,目前还不清楚这种集成学习应该如何基于尖峰活动进行调节。此外,以前的研究已经尝试了基于阈值的突触修剪后STDP,以提高推理效率在ASNN的性能为代价。然而,这种类型的结构自适应,采用单独的权重机制,不考虑尖峰活动修剪,这是一个更好的表示输入刺激。我们设想基于可塑性的尖峰调节和尖峰修剪将导致ASSN在低资源情况下表现更好。本文介绍了一种新的集成学习方法的基础上熵和网络激活,这是融合了尖峰速率神经元修剪技术,专门使用尖峰活动。两个脑电(EEG)数据集被用作分类实验的输入与三层前馈ASNN使用一遍学习训练。在学习过程中,我们观察到神经元组装成一个层次结构的集群的基础上尖峰率。研究发现,修剪较低尖峰速率的神经元簇会导致泛化能力的提高或可预测的性能下降。
2022-03-11 cs.AI cs.LG
Spike-based alignment learning solves the weight transport problem
Department of Physiology, Bern University(伯尔尼大学生理学系);Neural Computation Unit, Okinawa Institute of Science and Technology(冲绳科学技术大学院大学神经计算单元)
本文提出基于尖峰的对齐学习方法,利用尖峰时间统计消除有效互惠连接间的不对称性,提升spiking网络在权重传输问题中的性能。
2026-04-08 cs.ET cs.LG cs.NE
Spike-timing-dependent Hebbian learning as noisy gradient descent
University of Twente(特文特大学);Humboldt-Universität zu Berlin(柏林洪堡大学)
本文提出基于噪声梯度下降的Hebb学习机制,证明其在非凸优化中能快速收敛至最优解,突破传统噪声梯度下降的收敛限制。
2026-01-13 cs.LG math.ST stat.TH
Towards a learning-theoretic analysis of spike-timing dependent plasticity
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院);MPI for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
本文提出了一个学习理论的观点如何突触可塑性效益全球大脑功能。我们介绍了一个模型,selectron,(i)出现的泄漏集成和消防配备尖峰时间依赖可塑性(STDP)的神经元的快速时间常数限制和(ii)是服从理论分析。我们表明,选择器编码的奖励估计到尖峰和尖峰上的误差范围是由尖峰利润率和突触权重的总和控制。此外,尖峰的功效(它们对其他奖励最大化选择器的有用性)也取决于总突触强度。最后,基于我们的分析,我们提出了一个正则化版本的STDP,并表明正则化提高了神经元学习的鲁棒性时,面对多个刺激。
2012-09-25 cs.LG q-bio.NC stat.ML
Spark: Modular Spiking Neural Networks
Spark提出了一种基于模块化设计的脉冲神经网络框架,通过简单可塑性机制解决稀疏奖励cartpole问题,旨在提升脉冲神经网络的效率和连续学习能力。
2026-02-25 cs.AI cs.LG cs.NE
A Cloud-Edge Framework for Energy-Efficient Event-Driven Control: An Integration of Online Supervised Learning, Spiking Neural Networks and Local Plasticity Rules
University of Oklahoma(俄克拉荷马大学)
本文提出一种云-边缘框架,在物理对象端部署基于SNN和局部可塑性规则的学习型控制器,通过事件驱动和阈值更新机制实现节能控制,在跟踪误差降低96%的同时能耗仅为传统方法的0.3%。
2024-04-12 cs.AI cs.LG cs.NE
Attention-Based Structural-Plasticity
HRL Laboratories, LLC.(HRL实验室有限责任公司);University of California Irvine(加州大学欧文分校)
灾难性遗忘/干扰是终身学习机器的一个关键问题,它阻碍了智能体在学习新任务时保持其先前学习的知识。神经网络尤其容易受到灾难性遗忘现象的影响。最近,已经有几个努力克服神经网络中的灾难性遗忘。在这里,我们提出了一个生物启发的方法来克服灾难性遗忘。具体来说,我们基于大脑中的胆碱能神经调节系统定义了基于注意力的突触选择性可塑性。我们定义突触重要性参数,除了突触权重,然后使用Hebbian学习并行反向传播算法学习突触重要性在线和无缝的方式。我们测试我们提出的方法的基准任务,包括置换MNIST和分裂MNIST的问题,并表现出竞争力的性能相比,国家的最先进的方法。
2019-03-02 cs.LG cs.NE stat.ML
Curl Descent: Non-Gradient Learning Dynamics with Sign-Diverse Plasticity
Département d’Études Cognitives(认知研究系);Edmond and Lily Safra Center for Brain Sciences(埃德蒙与莉莉·萨弗脑科学中心);École normale supérieure - PSL(巴黎高等师范学院-PSL);The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文探讨了生物神经网络学习过程中可能存在的非梯度'旋度'组件,通过分析抑制-兴奋连接网络和Hebbian/反Hebbian可塑性,发现非梯度动态在优化损失函数时的作用,揭示了特定架构支持鲁棒学习的机制。
2026-04-28 cs.LG
Differentiable plasticity: training plastic neural networks with backpropagation
Uber AI Labs(优步人工智能实验室)
我们如何才能建立代理,在他们最初的训练之后,快速有效地从经验中学习?在这里,我们从生物大脑的主要学习机制中获得灵感:突触可塑性,通过进化精心调整,以产生有效的终身学习。我们表明,可塑性,就像连接权重,可以优化梯度下降在大型(数百万参数)经常性网络与赫布塑性连接。首先,可以训练具有超过200万个参数的递归可塑性网络,以记忆和重建训练过程中看不到的新的高维1000+像素自然图像集。至关重要的是,传统的非可塑性递归网络无法解决这一任务。此外,经过训练的塑性网络还可以解决通用的元学习任务,如Omniglot任务,具有竞争力的结果和很少的参数开销。最后,在强化学习环境中,可塑性网络在迷宫探索任务中的表现优于非可塑性网络。我们的结论是,微分可塑性可能提供了一个强大的新方法来学习学习的问题。
2018-07-31 cs.LG cs.NE stat.ML
Meta-learning three-factor plasticity rules for structured credit assignment with sparse feedback
本文提出元学习三因素可塑性规则,用于递归网络在稀疏反馈下的结构化信用分配学习。
2025-12-11 cond-mat.dis-nn cs.LG physics.bio-ph