Mean-field message-passing equations in the Hopfield model and its generalizations
受使用限制玻尔兹曼机作为深度神经网络预处理算法的最新进展的启发,我们重新审视了这种机器中最好理解的平均场方程(置信传播和TAP方程),即神经网络的Hopfield模型,并明确了它们如何用作迭代消息传递算法,提供了一种快速计算神经元局部极化的方法。在“检索阶段”,神经元在一个记忆的模式的方向上,我们指出的信念传播和TAP方程之间的一个主要区别:信念传播方程的集合取决于检索的模式,而可以使用一个独特的一组TAP方程。这使得后一种方法更适合应用于受限玻尔兹曼机的学习过程。在Hopfield模型中记忆的模式不是独立的,而是通过组合结构相关的情况下,我们表明TAP方程必须修改。这种修改可以被看作是TAP方程中反应项的改变,或者更有趣的是,作为在具有几个隐藏层的图形模型上传递消息的结果,其中隐藏层的数量取决于记忆模式中相关性的深度。这种分层结构实际上是必要的,当人们处理更一般的限制玻尔兹曼机。
2016-08-25 cond-mat.dis-nn
Zero-temperature TAP equations for the Ghatak-Sherrington model
研究自旋为1的Ghatak-Sherrington模型的零温TAP方程。的自旋玻璃的能量密度(基态)被确定为各向异性晶体场$D$的功能,为大量的自旋。这使我们能够在一个很好的精度内定位自旋玻璃和顺磁相之间的一阶过渡。解的总数也作为$D$的函数确定。
2000-05-01 cond-mat.dis-nn cond-mat.stat-mech
The jamming transition in high dimension: an analytical study of the TAP equations and the effective thermodynamic potential
我们提出了一个并行推导的Thouless-Anderson-Palmer(TAP)方程和一个有效的潜在的负感知器和软球模型在高维。这两个模型是连续的约束满意度问题,具有相同的指数特征的临界干扰过渡。我们的分析表明,功率扩展的潜在的二阶代表一个成功的框架,以接近干扰线从SAT阶段(该区域的相图中,至少有一个配置验证所有的约束),其中基态能量为零。一个有趣的结果是,接近干扰的有效热力学势具有对数贡献,这在适当的标度制度中占主导地位。我们的方法是相当普遍的,可以直接应用到其他有趣的模型。最后,我们研究了小谐波波动的频谱在SAT阶段恢复典型的缩放$D(ω) \sim ω^2$以下的截止频率,但不同的行为,其特征在于由一个非平凡的指数以上。
2016-09-20 cond-mat.dis-nn
Inverse problems for structured datasets using parallel TAP equations and RBM
针对二元聚类数据集的逆问题,本文提出基于并行 TAP 方程的后验估计方法,可精确恢复教师模式并扩展到大系统,同时与 RBM 方法进行比较。
2019-06-27 cond-mat.dis-nn
Memory-free dynamics for the TAP equations of Ising models with arbitrary rotation invariant ensembles of random coupling matrices
Technische Universität Berlin(柏林工业大学)
本文提出了一种求解具有任意旋转不变(随机)耦合矩阵的伊辛模型的Thouless-Anderson-Palmer(TAP)方程的迭代算法.在热力学极限,我们证明了通过动力泛函方法,该算法收敛时,所谓的德阿尔梅达无(AT)标准是履行。此外,我们给出了精确的解析表达式的收敛速度。
2019-03-07 cond-mat.dis-nn cs.LG
An iterative construction of solutions of the TAP equations for the Sherrington-Kirkpatrick model
我们提出了一个迭代构造的解决方案的Thouless-Anderson-Palmer方程的Sherrington-Kirpatrick模型。证明了该迭代格式精确收敛到de Almayda无边界线。SK模型本身没有结果。
2012-01-13 cond-mat.dis-nn math-ph math.MP
Adaptive Thouless--Anderson--Palmer equation for higher-order Markov random fields
自适应无偏Anderson Palmer(TAP)平均场近似是一种先进的平均场近似方法,是求解二次相互作用马尔可夫随机场(MRF)(成对MRF)的一种有效的精确方法。在这项研究中,自适应TAP近似MRF与多体相互作用(高阶MRF)的扩展。我们表明,成对MRF的自适应TAP方程是由朴素的平均场近似对角一致性。基于对角一致性朴素平均场近似得到的近似方程与两两MRF中自适应TAP方程的等价性,我们利用对角一致性朴素平均场近似得到了最简单的高阶MRF之一--高阶Boltzmann机的近似方程.
2020-03-09 cond-mat.dis-nn cond-mat.stat-mech
A Theory of Solving TAP Equations for Ising Models with General Invariant Random Matrices
考虑了耦合矩阵从一般不变系综中随机抽取的伊辛模型的TAP平均场方程的迭代求解问题。我们开发了一个分析的迭代算法,使用动态功能的方法,在热力学极限产生一个有效的动态的一个单一的变量轨迹。我们的主要新的贡献是一般不变系综的动力学的隐式记忆项的表达式。通过减去这些依赖于先前时间步长处的磁化的项,隐式记忆项取消使得迭代仅依赖于高斯分布场。如果满足AT稳定性标准,则TAP磁化是稳定的固定点。我们说明我们的方法明确耦合矩阵从随机正交系综。
2016-03-28 cond-mat.dis-nn cs.IT math.IT
Free energy landscapes, dynamics and the edge of chaos in mean-field models of spin glasses
本文通过迭代求解局域磁化的平均场方程,研究了Ising自旋玻璃模型中的亚稳态。两个不同的方程进行了研究:TAP方程是精确的SK模型,和简单的“天真的平均场”(NMF)方程。出现的自由能源景观非常不同。对于TAP方程,数值研究证实了Aspelmeier等人的分析结果,结果表明,TAP态由一对紧密的极小值和指数为1(一个不稳定方向)的鞍点组成,而NMF方程的鞍点指数较大,TAP的极小值与鞍点之间的势垒高度为(f-f_0)^{-1/3},其中f为每自旋的自由能,f_0为每自旋的平衡自由能.这意味着,对于f-f_0为1/N阶的“纯态”,势垒的尺度为N^{1/3},但在f-f_0为1阶的态之间,势垒是有限的,而且也很小,因此这种亚稳态将具有有限的物理意义。对于NMF方程,存在指数为K的鞍,并且我们可以证明它们的复杂性Sigma_K是K/N的函数。我们还采用了一个迭代方案,可以调整的自由参数,使系统的方程接近“混沌的边缘”。对于TAP和NME方程,用这种方法可以找到其每自旋自由能接近f_0的亚稳态。随着N的增加,它变得越来越难找到的解决方案附近的混沌的边缘,但尽管如此,可以得到的结果是具有竞争力的那些更耗时的计算方法,并建议这种方法可能是通用的。
2006-02-27 cond-mat.dis-nn
Incompleteness of the Thouless, Anderson, and Palmer mean-field description of the spin-glass phase
我们分析了平均场方程的低温行为,安德森和帕尔默(TAP)。我们证明了自由能的简并使得低温TAP态不稳定。不同的解决方案的TAP方程,独立的TAP方法,成为耦合,如果它们之间的无穷小的相互作用被引入。利用真实自旋副本,我们导出了以局域磁化和不同自旋副本间的均匀重叠磁化率为序参量的无不稳定态的自平均自由能。因此,我们扩展的TAP方法的自旋玻璃阶段的所有配置的自旋耦合(勉强)稳定和均匀的自由能的一致描述。
2006-08-17 cond-mat.dis-nn cond-mat.stat-mech
Dynamical TAP approach to mean field glassy systems
本文将平均场自旋玻璃热力学的无偏、安德森、帕尔默(TAP)方法推广到动力学。发展了一种计算动态TAP方程的方法,并将其应用于p自旋球模型。在这种情况下,我们展示了在何种程度上的动态可以表示为在自由能景观的演变。特别是长时间动态和自由能景观的局部属性之间的关系显示在这种方法中明确。相反,通过瞬时简正模分析,我们表明,在其动态演化过程中看到的系统的能量景观的局部性质不发生质的变化在动态过渡。
1999-12-20 cond-mat.dis-nn cond-mat.stat-mech
Network inference using asynchronously updated kinetic Ising Model
网络结构重建从动力学数据分别朴素平均场(nMF)和Thouless-Anderson-Palmer(TAP)近似。对于TAP近似,我们使用两种方法来重建网络:a)迭代法; b)将推理公式转换为一组三次方程并直接求解。本文研究了非对称Sherrington-Kirkpatrick(S-K)模型的异步更新推理。在S-K模型中,三次方程的解依赖于温度T,并且发现临界温度Tc在2.1附近。当T < Tc时,三次方程组的解由一个实根和两个共轭复根组成,而当T > Tc时,三次方程组的解由三个实根组成。只有当三次方程有三个实解时,迭代法才是收敛的。当迭代法收敛时,两种方法给出了相同的结果。与nMF相比,TAP在低温下稍好,但随着温度的升高,性能接近相同。这两种方法在数据长度较长时表现更好,但对于改进,TAP非常明显。
2010-11-29 cond-mat.dis-nn physics.comp-ph stat.CO
Thouless-Anderson-Palmer equation for analog neural network with temporally fluctuating white synaptic noise
从神经生物学和生物物理学的角度研究了突触噪声对联想记忆神经网络提取过程的影响。本文研究了随机模拟神经网络在时间涨落突触噪声(假定为白噪声)作用下的统计力学性质。这样的网络,一般来说,藐视使用的副本方法,因为它们没有能量的概念。自洽信号噪声分析(SCSNA),这是一个替代的副本方法推导出一组序参量方程,不需要能量的概念,从而成为研究网络的能量函数。将SCSNA应用于随机网络需要Thouless-Anderson-Palmer(TAP)方程的知识,TAP方程定义了与原始随机网络等价的确定性网络。TAP方程在无能量概念情况下的研究很少,而在有能量概念的情况下,TAP方程与SCSNA密切相关。本文将腔方法与SCSNA相结合,导出了含突触噪声网络的TAP方程和一组序参量方程。
2007-06-14 cond-mat.dis-nn cond-mat.stat-mech
Numerical Study of TAP Metastable States in 3-body Ising Spin Glasses
在退火计算水平上,对完全连通三体相互作用Ising自旋玻璃模型的Thouless-Anderson-Palmer方程进行了大量的数值实验研究.最近的一项研究预测,当系统的平衡态以一步复本对称性破缺为特征时,在相对低的自由能区域中,该分布由Becchi-Rouet-Stora-Typhoon(BRST)超对称解描述,而对于较高的自由能值,BRST超对称性被破缺(Crisanti等人,Phys.Rev.B71(2005)094202)。我们的实验定性地再现了由理论评估预测的宏观变量的判别行为。
2006-10-06 cond-mat.dis-nn cond-mat.stat-mech
Complexity in Mean-Field Spin-Glass Models: Ising $p$-spin
在平衡相为一步复本对称性破缺的温度范围内,研究了Ising $p$ -自旋的Thouless-Anderson-Palmer(TAP)解的复杂性.得到了鞍点方程的两个解,一个是包含自由能平衡值的超对称(SUSY)解,另一个是非SUSY解。这两种解决方案正好在复制子本征值为零的自由能值处交叉;在低自由能下,复杂性由超对称解描述,而在高自由能下,复杂性由非超对称解描述。特别地,非超对称解描述了解的总数,就像在谢灵顿-柯克帕特里克(SK)模型中一样。与非超对称解对应的相应TAP解与SK模型中的相应解具有相同的特征,特别是它们的Hessian具有消失的孤立本征值。与超对称解对应的TAP解是分离的极小值。
2004-06-25 cond-mat.dis-nn cond-mat.stat-mech