High order synaptic learning in neuro-mimicking resistive memories
忆阻器作为未来自适应神经形态架构的构建块已经显示出巨大的潜力。最近，一直专注于通过定制功能性氧化物或设计外部编程硬件来模拟哺乳动物神经系统的特定突触功能。然而，由电铸过程引起的忆阻器中的高设备到设备的可变性和复杂的编程硬件是阻碍实现仿生神经形态网络的关键挑战之一。在此，报道了一种基于缺氧SrTiO $_{3-x}$（STO $_x$）的无电铸和互补金属氧化物半导体（CMOS）兼容忆阻器来模仿突触学习规则。通过光谱和横截面透射电子显微镜分析，电铸自由特性归因于STO $_x$的带隙减少的氧空位的形成。这种忆阻器表现为人工突触的潜力是通过成功地实现高阶时间和速率依赖性突触学习规则来证明的。此外，一个简单的混合CMOS忆阻器的方法来实现各种突触学习规则。结果与海马和视觉皮层的生物测量结果一致。该演示是实现大规模自适应神经形态计算和网络的一步。
2018-04-18 cond-mat.dis-nn physics.app-ph
Pavlov's dog associative learning demonstrated on synaptic-like organic transistors
在这封信中，我们提出了一个原始的示范联想学习神经网络的灵感来自著名的巴甫洛夫的狗实验。单个纳米颗粒有机存储器场效应晶体管（NOMFET）用于实现每个突触。我们展示了这种动态忆阻器件的物理特性如何可以用于执行低功耗写入操作的学习和实施短期协会使用时间编码和尖峰定时依赖可塑性为基础的学习。建立了一个电子电路，以验证所提出的学习计划与封装的设备，具有良好的再现性，尽管复杂的突触样动态的NOMFET在脉冲制度。
2013-02-13 cond-mat.dis-nn cs.ET cs.NE
Storage Capacity Diverges with Synaptic Efficiency in an Associative Memory Model with Synaptic Delay and Pruning
众所周知，在相关型关联记忆模型的情况下，每个突触的存储容量通过突触修剪而增加。然而，整个网络的存储容量随之下降。为了克服这个困难，我们建议通过引入延迟突触来降低连接率，同时保持突触总数不变。在本文中，一个离散的同步型模型与延迟突触和他们的修剪作为一个具体的例子的建议进行了讨论。首先，我们解释柳井-金理论采用统计神经动力学。该理论涉及到具有串联延迟元件的网络动态的宏观动力学方程。其次，考虑到所解释方程的平移对称性，我们利用离散傅立叶变换重新推导了该模型的宏观稳态方程。定量地分析了存储容量。此外，两种类型的突触修剪解析处理：随机修剪和系统修剪。结果，很明显，在两种修剪中，存储容量随着延迟长度的增加而增加，并且当突触总数恒定时，突触的连接率降低。此外，一个有趣的事实变得清晰：由于随机修剪，存储容量渐近地接近$2/π$。相反，通过系统修剪，存储容量与延迟长度的对数成比例地发散，并且比例常数为$4/π$。这些结果从理论上支持修剪的意义后，过度生长的突触在大脑中，并强烈表明，大脑更喜欢存储动态吸引子，如序列和极限环，而不是平衡态。
2003-05-22 cond-mat.dis-nn q-bio
An associative memory of Hodgkin-Huxley neuron networks with Willshaw-type synaptic couplings
讨论了由N（=100）个具有时滞耦合的Hodgkin-Huxley（HH）神经元组成的神经网络的联想记忆，该神经网络在其突触权重中记忆P模式。除了强度在Willshaw型学习规则（具有静止/活动状态的0/1代码）之后进行修改的兴奋性突触之外，该网络还包括统一的抑制性突触，引入这些突触是为了减少串扰噪音。我们对HH神经元网络在无噪声状态下的模拟表明，对于$f \sim 0.04-0.10$的低神经元活动，$α_c = P_{\rm max}/N \sim 0.4 - 2.4$的存储容量产生了相当好的性能。我们的时间代码网络的存储容量与具有Willshaw型突触的速率代码模型的存储容量相当。我们的HH神经元网络实现不容易受到耦合的时间延迟的分布。本文还讨论了在提取存储模式的过程中，输出锋电位序列的空间间隔（ISI）的变化。
2000-07-15 cond-mat.dis-nn q-bio.NC
Phase Transitions and Modulation in Dense Oscillatory Associative Memories
Harbin Institute of Technology（哈尔滨工业大学）
本文提出高阶Winfree模型用于振荡联想记忆，通过局部稳定性二分法分析串扰噪声驱动的相变级联，推导相边界并设计辅助场调制方案，电路与模拟验证了理论。
2026-09-15 cond-mat.dis-nn math.DS
Short-term plasticity recalls forgotten memories through a trampoline mechanism
Institute for Computational and Mathematical Engineering, Stanford University（斯坦福大学计算与数学工程研究所）；Department of Applied Physics, Stanford University（斯坦福大学应用物理系）
短期突触可塑性通过动态降低能量景观，使遗忘的记忆得以回忆，其最佳时间常数与短暂动态相匹配。
2026-02-07 cond-mat.dis-nn cond-mat.stat-mech q-bio.NC
Non-linear PDEs approach to statistical mechanics of Dense Associative Memories
密集联想记忆（DAM）是人工智能中用于模式识别任务的广泛模型;在计算上，它们已被证明对对抗性输入具有鲁棒性，并且在理论上，利用它们与自旋玻璃系统的类比，它们通常通过物理力学工具进行处理。在这里，我们开发的分析方法，非线性偏微分方程的基础上，调查其功能。特别是，我们证明微分恒等式涉及DAM配分函数和宏观观测系统的定性和定量分析有用。这些结果允许更深入地理解DAMs的机制，并为其研究提供跨学科的工具。
2022-03-27 cond-mat.dis-nn cond-mat.stat-mech math-ph
Beyond Disorder: Unveiling Cooperativeness in Multidirectional Associative Memories
本文扩展了三向联想记忆（TAM）架构以探索学习协议，发现并量化了“层协作性”这一涌现现象，即各层数据集熵的相互作用增强了检索能力，使所有检索区域稳定至相同幅度，实现全局最优检索。
2025-03-06 cond-mat.dis-nn stat.ML
Effect of spatial correlations on Hopfield Neural Network and Dense Associative Memories
Hopfield模型是为数不多的可以得到解析结果的神经网络之一。然而，它们中的大多数是在随机不相关模式的假设下导出的，而在实际应用中，要存储的数据显示出非平凡的相关性。本文研究了Hopfield网络在零温下的反演能力如何受到输入数据的空间相关性的影响，特别是，我们将线性伊辛模型在逆温下的组态$β$用作存储模式。利用信号噪声技术，我们得到了一个相图中的负载的Hopfield网络和伊辛温度的模糊相位和检索区域可以观察到。值得注意的是，随着图案内部空间相关性的增加，Hopfield网络的临界负载减小，数值模拟也证实了这一结果。然后将分析推广到具有任意奇体相互作用的密集联想记忆，我们得到了类似的结果。
2022-07-11 cond-mat.dis-nn cond-mat.stat-mech
Thermal Robustness of Retrieval in Dense Associative Memories: LSE vs LSR Kernels
Interdisciplinary Centre for Security, Reliability and Trust (SnT) University of Luxembourg（安全、可靠性与信任跨学科中心（SnT）卢森堡大学）
研究通过蒙特卡洛模拟比较了LSE与LSR核在高温下的检索稳定性，发现LSE核在低负载下能维持检索，而LSR核在特定阈值下实现完美检索。
2026-03-07 cond-mat.dis-nn cs.LG cs.NE
Theory of Recurrent Neural Network with Common Synaptic Inputs
我们讨论了常见的突触输入在循环神经网络的影响。由于这些共同的突触输入的影响，神经输入之间的相关性不能被忽略，因此网络表现出样本依赖性。这种类型的网络没有明确的热力学极限，自平均会崩溃。因此，我们需要发展一个不依赖于这些共同性质的合适的理论。虽然已经在分层神经网络中分析了共同突触输入的影响，但由于反馈连接，很明显很难在递归神经网络中分析这些影响。我们研究了一个序列联想记忆模型作为递归网络的一个例子，并成功地导出了一个宏观动力学描述的概率密度函数的递归关系形式。
2005-10-07 cond-mat.dis-nn
Free energy landscape of Dense Associative Memory
School of Physical Sciences, National Institute of Science Education and Research（物理科学学院，国家科学教育与研究机构）；Homi Bhabha National Institute（霍米·巴布哈国家研究所）
该研究利用大偏差理论求解密集联想记忆的自由能泛函，通过重现Hopfield模型结果说明方法，推导有限模式下相关自由能泛函，评估基态能量，揭示记忆检索与初始状态关系并给出LSE模型全检索阈值，为分析联想记忆架构提供系统程序。
2026-11-02 cond-mat.dis-nn cond-mat.stat-mech cs.AI
The Exponential Capacity of Dense Associative Memories
本文利用统计力学分析研究了稠密联想记忆模型，给出了典型模式检索的渐近阈值、最大负载下界及吸引域大小，并揭示了 Gaussian 与 spherical 模式具有定性不同的相图。
2024-01-22 cond-mat.dis-nn cs.IT math.IT
Do Hopfield Networks Dream of Stored Patterns? A Statistical-Mechanical Theory of Dreaming in Multidirectional Associative Memories
Sapienza Università di Roma（罗马大学）；Istituto Nazionale di Fisica Nucleare（意大利国家核物理研究所）；Istituto Nazionale d’Alta Matematica, GNFM（意大利高等数学研究所）；Università del Salento（莱切萨伦托大学）
本文提出DLAM模型，结合离线做梦和监督异关联耦合，通过能量模型框架实现复杂任务处理，揭示了多方向联想记忆中做梦与层间耦合的协同作用。
2026-05-13 cond-mat.dis-nn
Learning in Associative Networks through Pavlovian Dynamics
本文基于平衡统计力学推导出反映巴甫洛夫机制的神经突触动力学，证明其收敛于Hebbian学习规则，并模拟了睡眠相关的记忆巩固过程。
2024-10-10 cond-mat.dis-nn math-ph math.MP
Enhancing associative memory recall and storage capacity using confocal cavity QED
我们介绍了一个近期的实验平台，实现联想记忆。它利用自旋玻色子耦合到简并多模光腔中，可以同时存储多个存储器。联想记忆是由一个共焦腔QED神经网络实现的，腔模作为突触，连接一个超辐射原子自旋系综网络，作为神经元。记忆被编码在自旋之间的连接矩阵中，并且可以通过光模式的输入和输出来访问。该方案的每个方面都是基于最近证明的技术，使用共焦腔和玻色凝聚原子。我们的方案有两个概念上新颖的元素。首先，它介绍了一种新形式的随机自旋系统，插入之间的铁磁和自旋玻璃制度的物理参数是调谐-在腔内的合奏的位置。其次，更重要的是，自旋通过确定性的最陡下降动力学而不是Glauber动力学松弛。我们表明，这种非平衡量子光学方案具有显着的优势，关联记忆的Glauber动力学：这些动力学可以提高网络的存储和回忆的能力，超出了标准的Hopfield模型。令人惊讶的是，即使系统处于自旋玻璃相，腔QED动力学也可以恢复记忆。因此，实验平台提供了一种新的物理实例的联想记忆和自旋眼镜，以及提供了一种不寻常的形式的松弛动力学，这是有利于记忆回忆，即使在制度，它被认为是不可能的。
2020-09-02 cond-mat.dis-nn cond-mat.quant-gas cond-mat.stat-mech
Associative Memories Using Complex-Valued Hopfield Networks Based on Spin-Torque Oscillator Arrays
National Institute of Standards and Technology（美国国家标准与技术研究院）
基于自旋力矩振荡器的复值Hopfield网络的仿真可以恢复相位编码图像。忆阻器增强的反相器的序列提供可调谐延迟元件，其通过对振荡器的振荡输出进行相移来实现复权重。伪逆训练足以在一组192个振荡器中存储至少12个图像，表示16个$\times$ 12像素图像。恢复图像所需的能量取决于所需的误差水平。对于这里考虑的振荡器和电路，与理想图像的5%均方根偏差需要大约5 $μ$ s，消耗大约130 nJ。仿真表明，当振荡器的谐振频率可以被调谐为具有小于$10^{-3}$的分数扩展时，网络运行良好，这取决于反馈的强度。
2022-06-10 cond-mat.dis-nn cond-mat.mtrl-sci cs.ET
Interpolating between boolean and extremely high noisy patterns through Minimal Dense Associative Memories
最近，Hopfield和Krotov引入了{ \em密集联想记忆} [DAM]的概念（接近于无序统计力学术语中具有$P$ -wise相互作用的自旋玻璃）：他们证明了这些网络共享的许多显着特征，并建议使用它们来（部分）解释新一代人工智能的成功。由于Baldi \& Venkatesh的一个显着的ante-litteram分析，在这些属性中，已知这些网络可以处理最大数量的存储模式$K$缩放为$K \sim N^{P-1}$。在本文中，一旦引入{ \em最小密集关联网络}作为落入这类DAM中的最基本的代价函数之一，我们就牺牲了这种高负载机制-即我们强制{ \em单独}存储线性量的模式，即$K = αN$（与$α>0$）-证明，在这种制度下，即使模式信号是$O(1)$并且被嵌入在噪声$O(\sqrt{N})$的海洋中，这些网络也可以正确地执行模式识别，也在大的$N$极限中。为了证明这一点，通过极值化模型在其自然序参数上的淬火自由能，（各种磁化和重叠），我们推导出它的相图，在描述的副本对称水平和热力学极限：作为一个副业，我们强调，为了实现这一任务，旨在学科之间的交叉施肥，我们在自旋玻璃的统计力学中铺设了两条霸主路线，即复制技巧和插值技术。这两种方法都得出了相同的结论：在噪声- $T$与负载- $α$相图平面中，存在一个非空区域，这些网络实际上可以在这种具有挑战性的状态下工作;特别是，我们在（…
2019-12-02 cond-mat.dis-nn stat.ML
Beyond catastrophic forgetting in associative networks with self-interactions
本研究提出在联想记忆网络中保留自相互作用（自突触），通过重塑能量景观并引入辅助内部场，使网络在超越灾难性遗忘临界阈值的情况下仍能保持稳健的纯回忆状态，且无需复杂的非局部学习规则。
2025-04-06 cond-mat.dis-nn cond-mat.stat-mech q-bio.NC
Unraveling-Dependent Metastability in Monitored Quantum Systems and Associative Memories
Institute for Cross-Disciplinary Physics and Complex Systems, IFISC (UIB-CSIC)（交叉物理与复杂系统研究所，IFISC（巴利阿里群岛大学-西班牙国家研究委员会））
本文揭示受监测量子系统中亚稳态依赖监测通道与观测记录，提出轨迹层面亚稳态需通道、记录与流形兼容，并在量子联想记忆中验证。
2026-09-09 cond-mat.dis-nn cond-mat.stat-mech quant-ph
An associative network with spatially organized connectivity
我们研究了阈值线性单元的自联想网络的性质，其突触连接是空间结构和不对称的。由于平衡统计力学的方法不能应用于这样的网络由于缺乏一个哈密顿量，我们的方法通过信号噪声分析，我们适应空间组织的网络的问题。的条件进行了分析的外观稳定，空间不均匀的活动与大重叠的存储模式之一。仿真和分析结果还表明，当网络连通性变得短程时，存储容量不会减少太多。此外，这里使用的方法，使我们能够准确地计算存储容量的随机连接的网络与任意程度的稀释。
2004-07-06 cond-mat.dis-nn
Dynamical mean field approach to associative memory model with non-monotonic transfer functions
The University of Tokyo（东京大学）；Hiroshima City University（广岛市立大学）
本研究通过动力学平均场理论分析非单调传输函数的关联记忆模型，揭示其非平衡检索动力学特性并提出新的理论框架。
2026-10-21 cond-mat.dis-nn
Optimal storage capacity of quantum Hopfield neural networks
本文提出一种基于经典自旋玻璃理论和Gardner方法推广的通用方法，用于计算量子神经网络的最优存储容量，并通过开放系统量子联想记忆实例验证了其有效性。
2022-10-14 cond-mat.dis-nn quant-ph
Hierarchical Associative Memory
MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
密集联想记忆或现代Hopfield网络具有许多吸引人的联想记忆特性。它们可以完成模式完成，存储大量的记忆，并且可以使用具有一定程度的生物相容性和神经元之间丰富反馈的递归神经网络来描述。同时，到目前为止，这类模型只有一个隐藏层，并且只有密集连接的网络架构，这两个方面阻碍了它们的机器学习应用。本文解决了这一差距，并描述了一个完全递归的联想记忆模型，具有任意大量的层，其中一些可以局部连接（卷积），以及相应的能量函数，该能量函数在神经元激活的动态轨迹上减少。完整网络的存储器使用编码在较低层的突触权重中的原语动态地“组装”，其中“组装规则”编码在较高层的突触权重中。除了自下而上的信息传播（通常使用的前馈神经网络的典型特征）之外，所描述的模型还具有来自高层的丰富的自上而下的反馈，帮助下层神经元决定它们对输入的响应刺激。
2021-07-14 cond-mat.dis-nn cs.LG cs.NE
Pseudo-likelihood produces associative memories able to generalize, even for asymmetric couplings
Physics Department, Sapienza University of Rome（罗马大学物理系）；Institute of Nanotechnology, National Research Council of Italy, CNR-NANOTEC, Rome Unit（意大利国家研究委员会纳米技术研究所，CNR-NANOTEC，罗马分部）
本文展示在零温度极限下，通过最大化伪似然训练的网络能实现联想记忆，其吸引盆地超过经典Hopfield规则，并能泛化不同数据集的关联。
2025-07-07 cond-mat.dis-nn cond-mat.stat-mech cs.LG
DMFT analysis of Hopfield network with plasticity
The University of Tokyo（东京大学）；Department of Physics, The University of Tokyo（东京大学物理系）；Institute for Physics of Intelligence, The University of Tokyo（东京大学智能物理研究所）；Trans-Scale Quantum Science Institute, The University of Tokyo（东京大学跨尺度量子科学研究所）
本文研究了一个具有在线活动依赖性突触可塑性的全连接Hopfield型联想记忆网络，其中神经状态和突触耦合共同进化。通过生成函数形式主义，推导出在大量存储随机模式极限下的动态平均场理论（DMFT），并展示许多体动力学可简化为一个有效的单站点随机过程，具有有色高斯交叉干扰噪声和延迟反馈项。DMFT方程的数值解与直接模拟结果一致。研究发现适度的可塑性通过产生正的延迟反馈扩大了吸引盆地并增加了最大可检索记忆负载，从而对抗交叉干扰噪声。然而，过度强的可塑性会导致网络自身印刻不完美的初始提示，产生伪吸引子并降低检索性能。因此，从记忆稳定化与提前提示印刻之间的权衡中出现了最优的可塑性强度。这些结果将联想记忆的DMFT描述扩展到具有共同进化的神经和突触动力学的网络。
2026-06-05 cond-mat.dis-nn
Nonequilibrium Thermodynamics of Associative Memory Continuous-Time Recurrent Neural Networks
针对连续时间循环神经网络内部动力学难解释的问题，本文提出带非对称耦合的类Hopfield联想记忆新型CTRNNs，搭建低维可观测量动力学与非平衡网络统计力学的桥梁，提升复杂序列编码网络的可解释性。
2025-11-14 cond-mat.dis-nn cond-mat.stat-mech nlin.CD
Self-control dynamics for sparsely coded networks with synaptic noise
研究了具有突触噪声的稀疏编码吸引子联想记忆模型中包含宏观时变阈值的检索动力学问题。它示出，如果阈值被适当地选择为串扰噪声和记忆模式的活动的函数，在时间演化的过程中自动地自适应，则保证了模型的自主功能。这种自我控制机制大大提高了质量的固定点检索动态，特别是存储容量，流域的吸引力和互信息的内容。
2004-03-23 cond-mat.dis-nn cond-mat.stat-mech
Statistical Mechanics of Learning via Reverberation in Bidirectional Associative Memories
本文用统计力学研究双向联想记忆中通过层间回响实现的异联想学习，改进 Guerra 插值得到相图、阈值与信噪比，并以双 RBM 表示解释单突触实现经典条件作用。
2023-07-17 cond-mat.dis-nn stat.ML
Demolition and Reinforcement of Memories in Spin-Glass-like Neural Networks
本文研究Unlearning算法在联想记忆与生成模型中的作用，将其简化为线性感知机并提出Boltzmann Machines新型正则化方法，提升了隐藏分布学习性能。
2024-03-04 cond-mat.dis-nn stat.ML
Forgetting leads to chaos in attractor networks
吸引子网络是大脑系统中记忆存储的一个有影响力的理论。这一理论最近受到了挑战，在记忆任务中神经元记录的强烈时间变异性的观察。在这项工作中，我们研究了一个稀疏连接的吸引子网络的记忆是根据赫布突触可塑性规则学习。在概括了已知的连续的，稀疏连接的Hopfield模型的结果后，我们研究了一个模型，在该模型中，新的记忆是不断学习和旧的记忆被遗忘，使用在线突触可塑性规则。我们发现，对于优化存储容量的遗忘时间尺度，网络的记忆检索动态的定性特征是年龄相关的：最近的记忆被检索为固定点吸引子，而旧的记忆被检索为混沌吸引子，其特征在于强异质性和时间波动。因此，不动点和混沌吸引子共存于网络相空间。该网络呈现出统计上可区分的记忆状态的连续体，其中混乱的波动在临界年龄以上突然出现，然后逐渐增加，直到记忆消失。我们开发了一个动态平均场理论（DMFT）来分析年龄相关的动力学，并将该理论与大型网络的模拟进行比较。我们的数值模拟表明，一个高度的稀疏性是必要的DMFT准确地预测网络容量。最后，我们的理论提供了具体的预测与老化备忘录的延迟反应任务。我们的吸引子网络理论以遗忘旧记忆为代价不断学习新信息，这一理论可以解释我们观察到的皮层提取状态的多样性，特别是皮层活动的强烈时间波动。
2021-11-30 cond-mat.dis-nn q-bio.NC
Gauged Neural Network: Phase Structure, Learning, and Associative Memory
介绍了一种类似于高能物理中Z（2）Higgs格点规范理论的神经网络规范模型。它包含3D晶格的每个位点$x$上的神经元变量$S_x = \pm 1$和每个链接$(x,x+\hatμ) (μ=1,2,3)$上的突触连接变量$J_{xμ} = \pm 1$。该模型被认为是联想记忆的Hopfield模型到学习模型的推广，通过将$x$和$x+\hatμ$之间的突触权重转换为动态Z（2）规范变量$J_{xμ}$。局域Z（2）规范对称性是从Hopfield模型继承来的，它保证了$S_x$和$J_{xμ}$时间演化的局域性，并保证了一个广义的Hebbian学习规则。在有限的“温度”，数值模拟表明，该模型表现出希格斯，禁闭和库仑阶段。我们模拟了学习$S_x$模式和回忆它的动态过程，并根据性能对参数空间进行了分类。在某些参数区域，信号传播中自发产生稳定的柱层结构。正如预期的那样，$S_x$和$J_{xμ}$之间的相互作用会导致部分记忆丧失。
2006-06-04 cond-mat.dis-nn hep-lat q-bio
A Hardware-aware Hopfield Network with a Nonlinear Memristor Array for Robust Associative Memory with Superlinear Capacity
Korea Institute of Science and Technology (KIST)（韩国科学技术院）；Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Seoul National University（首尔大学）；Korea University（韩国大学）；KIST School, University of Science and Technology（韩国科学技术院科学技术研究生院）
本文提出一种硬件感知Hopfield网络，利用非线性忆阻器的特性提升联想记忆容量，通过实验展示其在高维图像数据中的高效性能。
2026-05-08 cond-mat.dis-nn physics.app-ph
Phases in a class of associative memories via hidden neurons
CyberAgent AI Lab（CyberAgent AI实验室）；RIKEN iTHEMS（RIKEN跨学科理论科学研究所）；Graduate School of Artificial Intelligence and Science, Rikkyo University（立教大学人工智能与科学研究科）
本文研究Krotov-Hopfield二部架构（类H），通过隐藏神经元作为有序参数，统一分析多项式与指数负载下的联想记忆相图，揭示可见与隐藏拉格朗日函数分别决定稳定性和存储规模。
2026-09-11 cond-mat.dis-nn cs.LG cs.NE
Dreaming neural networks: forgetting spurious memories and reinforcing pure ones
联想神经网络的标准Hopfield模型解释了生物赫布学习，并充当模式识别的谐振子，但其最大存储容量为$α\sim 0.14$，远低于对称网络的理论界限，即$α=1$。受哺乳动物大脑中睡眠和做梦机制的启发，我们提出了一个扩展的模型，该模型显示了标准的在线（清醒）学习机制（允许按照模式存储外部信息）和离线（睡眠）遗忘$\&$巩固机制（允许去除伪模式和增强纯模式）：该获得的每日处方能够饱和理论界限$α=1$，对于热噪声也保持非常鲁棒。神经和突触的功能进行了分析和数值。特别是，除了获得神经动力学的相图，我们专注于突触可塑性，我们给出明确的处方突触矩阵的时间演变。我们分析证明，我们的算法使Hebbian核收敛于高概率的投影矩阵建立在纯存储模式。此外，我们得到了一个尖锐的和明确的估计“睡眠率”，以确保这样的收敛。最后，我们进行了广泛的数值模拟（主要是蒙特卡罗采样），以检查分析调查的近似（例如，我们在所谓的复制对称水平上发展了整个理论，作为Amit-Gutfreund-Sompolinsky参考框架中的标准）和可能的有限尺寸效应，发现与该理论总体上完全一致。
2018-10-29 cond-mat.dis-nn cs.NE math-ph
Dense auto-hetero associative memories applied to noisy communication channels
Sapienza Università di Roma（罗马第一大学）；Istituto Nazionale d’Alta Matematica, Sezione di Roma（罗马高等数学研究所）；INFN, Istituto Nazionale di Fisica Nucleare, Sezione di Roma（罗马核物理国家研究所）；CNR, Nanotec, Salento Unit（莱切纳米技术国家研究委员会）；Università del Salento（萨伦托大学）；INFN, Istituto Nazionale di Fisica Nucleare, Sezione di Lecce（莱切核物理国家研究所）
本文提出稠密高阶Hebbian模块化网络，实现模式解缠并线性扩展存储容量，通过统计力学分析验证，并展示其在噪声信道中作为稳健解码原语的应用。
2026-09-29 cond-mat.dis-nn cs.CR cs.IT
Thermodynamics of bidirectional associative memories
Università del Salento（萨伦托大学）；Istituto Nazionale di Fisica Nucleare（国家核物理研究所）；Universidad Complutense de Madrid（马德里康普顿斯大学）；Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）
本文研究双向联想记忆（BAM）的平衡性质，通过统计物理方法刻画其相图，发现层间不对称时BAM比Hopfield模型更高效，并揭示其检索机制与两个耦合受限玻尔兹曼机的潜在等价性。
2023-03-27 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Stochastic Ising model with plastic interactions
本文在伊辛模型的基础上提出了一个新的模型，旨在研究神经网络中的突触可塑性现象。今天在生物学中已经确立，当神经元共同活动时，某些类型的神经元之间的突触或连接会得到加强，这是所谓的突触可塑性的一种形式。这种机制被认为介导记忆的形成和维持。所提出的模型描述了这种现象的一些特征。在我们的模型中，除了自旋翻转动力学外，耦合常数也服从随机动力学，因此它们相互作用。系统的演化过程是一个连续时间的马尔可夫跳变过程。关键词马尔可夫链，随机伊辛模型，突触可塑性，神经网络，瞬态
2016-07-20 cond-mat.dis-nn q-bio.NC
Correlation of Firing in Layered Associative Neural Networks
人们对一种被称为“synfire链”的现象越来越感兴趣，在这种现象中，神经元的放电在链中从一个池传播到另一个池。synfire链的机制已经被许多研究者分析。考虑到synfire链现象，我们研究了一个分层联想记忆神经网络模型，其中模式嵌入在神经元之间的连接。在这个模型中，我们还包括连接中的均匀噪声，这会导致下一层的公共输入。层中的这种共同输入产生相关的神经元放电。我们从理论上得到了无限斑图加载情况下的恢复态演化。我们发现，模式和神经元状态之间的重叠不是作为一个确定性的量，但描述的概率分布定义的embranch的突触矩阵。我们的模拟结果与理论计算非常吻合。
2005-05-16 cond-mat.dis-nn cond-mat.other
Thouless-Anderson-Palmer equation for analog neural network with temporally fluctuating white synaptic noise
从神经生物学和生物物理学的角度研究了突触噪声对联想记忆神经网络提取过程的影响。本文研究了随机模拟神经网络在时间涨落突触噪声（假定为白噪声）作用下的统计力学性质。这样的网络，一般来说，藐视使用的副本方法，因为它们没有能量的概念。自洽信号噪声分析（SCSNA），这是一个替代的副本方法推导出一组序参量方程，不需要能量的概念，从而成为研究网络的能量函数。将SCSNA应用于随机网络需要Thouless-Anderson-Palmer（TAP）方程的知识，TAP方程定义了与原始随机网络等价的确定性网络。TAP方程在无能量概念情况下的研究很少，而在有能量概念的情况下，TAP方程与SCSNA密切相关。本文将腔方法与SCSNA相结合，导出了含突触噪声网络的TAP方程和一组序参量方程。
2007-06-14 cond-mat.dis-nn cond-mat.stat-mech
Factual recall in linear associative memories: sharp asymptotics and mechanistic insights
International School of Advanced Studies (SISSA)（国际先进研究学院（SISSA））；INRIA Paris & DI ENS, PSL University（INRIA巴黎与ENS DI，PSL大学）
研究线性联想记忆中存储和检索输入-输出关联的极限，通过解耦模型揭示存储容量和机制，提供精确的统计物理分析。
2026-11-05 cond-mat.dis-nn cond-mat.stat-mech cs.LG
High-capacity associative memory in a quantum-optical spin glass
Stanford University（斯坦福大学）；Princeton University（普林斯顿大学）；University of St. Andrews（圣安德鲁斯大学）
该研究在由原子和光子组成的驱动-耗散自旋玻璃中实验实现了高容量联想记忆，利用量子光学非平衡动力学将存储容量超越Hopfield极限高达七倍，原子运动通过动态修改连接性提升了容量，实现了量子光学系统中学习的前体。
2025-09-15 cond-mat.dis-nn cond-mat.quant-gas cond-mat.stat-mech
Large Associative Memory Problem in Neurobiology and Machine Learning
MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；IBM Research（IBM研究院）；Princeton Neuroscience Institute（普林斯顿神经科学研究所）；Princeton University（普林斯顿大学）
密集关联记忆或现代Hopfield网络允许存储和可靠检索指数级大（在特征空间的维度上）数量的记忆。与此同时，它们的朴素实现是非生物的，因为它似乎需要神经元之间存在多体突触连接。我们表明，这些模型是一个更微观的（书面的生物自由度）理论，有额外的（隐藏的）神经元，只需要两个身体之间的相互作用的有效描述。由于这个原因，我们提出的微观理论是一个有效的模型，大联想记忆与一定程度的生物相容性。我们的网络的动力学和它的降维等效都最小化能量（李雅普诺夫）函数。当某些动态变量（隐藏神经元）从我们的微观理论中整合出来时，可以恢复许多以前在文献中讨论过的模型，例如“Hopfield Networks is All You Need”论文中提出的模型。我们还提供了另一种推导的能量函数和更新规则中提出的上述文件，并澄清这一类的各种模型之间的关系。
2021-04-27 cond-mat.dis-nn cs.CL cs.LG
Unsupervised and Supervised learning by Dense Associative Memory under replica symmetry breaking
该研究从统计力学角度，针对稠密联想记忆网络放宽复制对称假设，用两种数学方法推导一步复制对称破缺相图，解析分析其极限特性并证明相关结论，补充了这类学习网络的理论描述。
2023-12-15 cond-mat.dis-nn stat.ML
Long-term memory stabilized by noise-induced rehearsal
尽管突触强度的寿命很短，但皮层网络可以保持数十年的记忆。神经网络能在不稳定的突触中存储持久的记忆吗？在这里，我们研究随机噪声对存储在吸引子神经网络的突触中的记忆的稳定性的影响。该模型包括持续的尖峰时间依赖可塑性（STDP）。我们表明，某些类的STDP规则可以导致存储在网络中的记忆模式的稳定。这种稳定性是由噪声引起的排练造成的。我们发现，非结构化的神经噪声，通过经常性的网络权重后，进行时间相关性的所有记忆模式的印记。在某些条件下，STDP与这些相关性相结合，可以导致所有现有模式的强化，即使是那些从未明确访问过的模式。因此，非结构化神经噪声可以稳定突触连接的现有结构。我们的研究结果可能提供功能的原因，高度不规则的尖峰显示皮层神经元和系统记忆巩固模型提供的理由。因此，我们提出不规则的神经活动是帮助皮层网络维持稳定连接的特征。
2012-05-31 cond-mat.dis-nn q-bio.NC
Concurrence of form and function in developing networks and its role in synaptic pruning
神经科学中的一个基本问题是神经系统的结构和功能是如何联系在一起的。我们研究这种相互作用相结合的熟悉的自联想神经网络的诞生和突触死亡的进化机制。然后，一个反馈回路出现，导致两种性质不同的行为。在一个，网络结构变得异构和dissasortative，系统显示出良好的内存性能;此外，该结构是优化的过程中存储的特定的内存模式。在另一种情况下，结构保持均匀，无法进行模式检索。这些发现提供了一个令人鼓舞的大脑结构和动力学的图片，与早期大脑发育的实验结果相一致，并可能有助于解释突触修剪。其他进化中的网络--比如蛋白质相互作用的网络--可能与这个反馈回路和其他问题有着相同的基本成分，事实上，它们的许多结构特征都与我们的模型预测的一样。
2019-04-25 cond-mat.dis-nn nlin.AO
Growth strategy determines network performance
结构和功能之间的相互作用在决定许多自然系统的一些新特性方面至关重要。在这里，我们使用一个自适应神经网络模型的灵感来自于突触修剪的观察，耦合活动和拓扑动力学，并再现实验的突触密度的时间分布，包括一个初始的短暂时期相对较高的突触连接。使用一个简化的框架，我们证明了这种瞬态的存在是至关重要的，在提供有序的稳态，具有能够存储稳定的记忆的属性。事实上，在有序记忆相和无序记忆相之间存在一个不连续的相变，它是初始瞬时突触密度的函数。我们还表明，中间的突触密度值是最佳的，以获得这些稳定的记忆状态，以最小的能量消耗，并最终它是在网络中的瞬态异质性是什么决定的稳态。我们的研究结果可以解释为什么在实际的大脑区域中观察到的修剪曲线呈现出其特有的时间轮廓，最终，自闭症和精神分裂症等异常分别与修剪不足或过度相关。
2019-04-25 cond-mat.dis-nn cond-mat.stat-mech physics.soc-ph
Associative pattern recognition through macro-molecular self-assembly
我们发现，大分子自组装可以识别和分类的$N$不同的分子种类的浓度的高维模式。与联想神经网络类似，这里的识别利用动态吸引子来识别和重建部分损坏的模式。传统的模式识别理论的参数，如稀疏性，保真度和容量相关的物理参数，如成核障碍，相互作用范围，和非平衡组装力。值得注意的是，我们发现自组装与连续吸引子神经网络（例如存储空间记忆的位置细胞网络）而不是离散记忆网络具有更大的相似性。这种关系表明，这里看到的特征和权衡与自组装或神经网络模型的细节无关，而是通过短程相互作用进行的关联模式识别所固有的。
2017-02-24 cond-mat.dis-nn cond-mat.stat-mech physics.bio-ph
