Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets
OpenAI;Google(谷歌)
在本文中,我们提出了研究小算法生成的数据集上的神经网络的推广。在这种情况下,关于数据效率,记忆,泛化和学习速度的问题可以非常详细地研究。在某些情况下,我们表明,神经网络通过“寻找”数据中的模式的过程来学习,将泛化性能从随机机会水平提高到完美的泛化,并且这种泛化性能的提高可以发生在过拟合点之后。我们还研究了泛化作为数据集大小的函数,发现较小的数据集需要增加泛化的优化量。我们认为,这些数据集为研究深度学习的一个知之甚少的方面提供了肥沃的土壤:超越有限训练数据集记忆的过度参数化神经网络的泛化。
2022-01-06 cs.LG
Extreme Memorization via Scale of Initialization
Google Research(谷歌研究院);Boston University(波士顿大学);Blueshift, Alphabet(Alphabet 旗下 Blueshift)
我们构建了一个实验设置,其中改变初始化的规模强烈影响SGD引起的隐式正则化,从良好的泛化性能插值到完全记住训练集,而在测试集上几乎没有进展。此外,我们发现,泛化能力的程度和方式受到影响,取决于激活和损失函数使用,与$\sin$激活表现出极端的记忆。在同质ReLU激活的情况下,我们表明这种行为可以归因于损失函数。我们的实证研究表明,增加初始化的规模与同一类中的示例之间的表示和梯度的不对齐相关。这种见解使我们能够设计出一种可以捕捉这种现象的梯度和表示的对齐度量。我们证明了我们的对齐度量与在图像分类任务上训练的深度模型的泛化相关。
2021-05-01 cs.CV cs.LG stat.ML
Rethink the Connections among Generalization, Memorization and the Spectral Bias of DNNs
Huazhong University of Science and Technology(华中科技大学);Baidu Research(百度研究院)
具有足够记忆随机噪声能力的过参数化深度神经网络(DNN)可以实现出色的泛化性能,挑战经典学习理论中的偏差-方差权衡。最近的研究表明,DNN首先学习简单的模式,然后记住噪声;其他一些工作表明,DNN在训练过程中从低频到高频学习目标函数时存在频谱偏差。然而,我们发现学习偏差的单调性并不总是成立:在深度双下降的实验设置下,DNN的高频分量在训练的后期减少,导致测试误差的第二次下降。此外,我们发现DNN的谱可以用来指示测试误差的第二次下降,即使它是仅从训练集计算的。
2021-06-05 cs.AI cs.LG stat.ML
Can Neural Network Memorization Be Localized?
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
该研究反驳了神经网络记忆仅存在于最后几层的观点,发现记忆局限于多层中少量神经元,提出样本绑定Dropout可精准调控记忆,大幅降低记忆样本准确率并缩小泛化差距。
2023-07-18 cs.CV cs.LG
The Complexity Dynamics of Grokking
Department of Engineering Science, University of Oxford, Oxford, United Kingdom(牛津大学工程科学系)
本文通过率失真理论与柯尔莫哥洛夫复杂度构建复杂度度量框架,揭示 grokking 现象中的复杂度相变,并提出基于谱熵的正则化方法以促进网络学习低复杂度、可泛化的表示。
2025-08-21 cs.LG
Memorization-Compression Cycles Improve Generalization
Thoughtworks
该研究从理论与实验层面揭示LLM预训练中的记忆-压缩循环,提出IBLM目标与GAPT自适应训练算法,有效提升模型泛化能力、减少遗忘干扰。
2025-10-22 cs.AI cs.CL cs.IT
Generalization Error of GAN from the Discriminator's Perspective
Princeton University(普林斯顿大学);Beijing Institute of Big Data Research(北京大数据研究院)
从判别器角度分析GAN的泛化误差,揭示早停策略如何使Wasserstein度量下的泛化误差摆脱维度诅咒,并提出WGAN的学习难度结果。
2021-11-05 cs.LG stat.ML
Is Memorization Helpful or Harmful? Prior Information Sets the Threshold
Department of Statistics, University of Chicago(芝加哥大学统计系)
在过参数化线性模型和贝叶斯框架下,研究先验分布如何决定训练误差与泛化误差的关系,给出记忆必要或过拟合有害的条件。
2026-05-29 cs.IT cs.LG math.IT
Weak and Strong Gradient Directions: Explaining Memorization, Generalization, and Hardness of Examples at Scale
Google AI(谷歌人工智能)
相干性因子(CGH)是最近提出的一个假说,用来解释为什么用梯度下降训练的过参数化神经网络即使有足够的记忆训练集的能力也能很好地泛化。CGH的关键见解是,由于SGD的单步的的整体梯度是每个示例梯度的总和,因此如果存在这样的方向,则在减少多个示例的损失的方向上最强。在本文中,我们在ImageNet上的ResNet,Inception和VGG模型上验证了CGH。由于原始论文中提出的技术不能扩展到玩具模型和数据集之外,因此我们提出了新的方法。通过提出抑制弱梯度方向的问题作为一个问题的鲁棒均值估计,我们开发了一个基于坐标的中值均值方法。我们提出了该算法的两个版本,M3,它将一个小批量划分为3组并计算中值,以及一个更有效的版本RM3,它重用前两个时间步的梯度来计算中值。由于它们抑制弱梯度方向而不需要每个示例的梯度,因此它们可以用于大规模训练模型。在实验中,我们发现它们确实大大减少了过度拟合(和记忆),从而提供了第一个令人信服的证据,证明计算全息在规模上是成立的。我们还提出了一种新的CGH测试,它不依赖于向训练标签添加噪声或抑制弱梯度方向。使用CGH背后的直觉,我们认为在训练过程的早期学习的例子(即,“简单”示例)恰恰是那些与其他训练样本具有更多共同点的示例。因此,根据CGH,简单的例子应该比困难的例子更好地推广。我们通过详细的实验验证了这一假设,并认为这为计算全息提供了进一步的正交证据。
2020-07-21 cs.LG stat.ML
Generalizability of Memorization Neural Networks
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学)
本文首次对记忆神经网络的泛化能力展开理论分析,在i.i.d.数据假设下构建记忆网络,推导泛化所需网络宽度、样本复杂度及参数量的相关结论,并提出高效泛化记忆算法。
2024-11-01 cs.AI cs.LG
Learned Random Label Predictions as a Neural Network Complexity Metric
University of Münster(明斯特大学)
该研究通过引入可遗忘随机标签的多头CNN架构,将学习随机标签预测用作复杂度度量分析正则化效果、挑战传统CNN认知,并提出新型正则器减少样本记忆,为神经网络复杂度研究提供新方法。
2024-11-29 cs.LG
Does Learning Require Memorization? A Short Tale about a Long Tail
Apple(苹果公司);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所);Google Research(谷歌研究院)
图像识别任务的最先进的结果是使用过参数化的学习算法实现的,这些算法(几乎)完美地拟合训练集,并且即使是随机标签也能很好地拟合。这种记住训练数据的标签的倾向没有被现有的理论分析所解释。当训练数据包含敏感的个人信息时,训练数据的记忆也呈现显著的隐私风险,因此理解这种记忆对于准确学习是否是必要的是重要的。我们为这一现象提供了第一个概念解释和理论模型。具体来说,我们证明了自然数据分布的标签记忆是必要的,以实现接近最佳的泛化误差。至关重要的是,即使是异常值和噪声标签的标签也需要记住。该模型的动机和支持的结果,最近的几个实证工作。在我们的模型中,数据是从一个混合的子群体,我们的研究结果表明,记忆是必要的,每当分布的子群体的频率是长尾。图像和文本数据是长尾的,因此我们的研究结果建立了这些经验现象之间的正式联系。我们的研究结果可以量化的成本限制记忆的学习和解释的不同影响,隐私和模型压缩对不同的子群。
2021-01-10 cs.LG stat.ML
What Neural Networks Memorize and Why: Discovering the Long Tail via Influence Estimation
Apple(苹果公司);Google Research, Brain Team(谷歌研究院 Brain 团队)
众所周知,深度学习算法具有非常好地拟合训练数据的倾向,并且通常甚至拟合离群值和错误标记的数据点。这种拟合需要记住训练数据标签,这一现象已经引起了重大的研究兴趣,但迄今为止还没有给出令人信服的解释。Feldman(2019)最近的一项工作基于两种见解的结合提出了对这一现象的理论解释。首先,自然图像和数据分布(非正式地)已知是长尾的,即具有显著比例的罕见和非典型示例。第二,在一个简单的理论模型中,当数据分布是长尾时,这种记忆对于实现接近最优的泛化误差是必要的。然而,没有为这一解释提供直接的经验证据,甚至也没有提供获得这种证据的方法。在这项工作中,我们设计实验来测试这个理论中的关键思想。实验需要估计每个训练样本对每个测试样本的准确度的影响以及训练样本的记忆值。直接估计这些数量是计算禁止,但我们表明,密切相关的子采样的影响和记忆值可以更有效地估计。我们的实验证明了记忆泛化的几个标准基准的显着好处。它们还为(Feldman,2019)中提出的理论提供了定量和视觉上令人信服的证据。
2020-08-09 cs.LG stat.ML
The Geometry of Grokking: Norm Minimization on the Zero-Loss Manifold
ETH Zurich(苏黎世联邦理工学院)
本文通过约束优化视角,证明在极小学习率和权重衰减系数下,梯度下降在零损失流形上最小化权重范数,并引入近似解耦参数子集的学习动力学,推导出两层网络第一层后记忆动力学的闭式表达式,实验验证了该框架能复现 grokking 的延迟泛化和表征学习特征。
2026-05-29 cs.AI cs.LG
Unified Regularity Measures for Sample-wise Learning and Generalization
Xi'an Jiaotong University(西安交通大学)
基础机器学习理论表明,不同的样本在学习和测试过程中的贡献是不平等的。DNN的当代研究表明,这种样本差异根源于内在模式信息的分布,即样本规则性。受最近发现的网络记忆和泛化的启发,我们提出了一对样本的规律性措施,这两个过程与配方一致的表示。具体来说,提出了累积二进制训练/泛化损失(CBTL/CBGL),即训练/测试样本在训练阶段内的正确分类的累积数量,以验证记忆泛化过程的稳定性;而遗忘/错误泛化事件,即,利用先前学习或广义样本的误分类来表示样本规则性相对于优化动态的不确定性。实验验证了所提方法在小批量SGD优化中的有效性和鲁棒性。进一步的训练/测试样本选择的应用表明,所提出的措施共享统一的计算过程,可以受益于这两个任务。
2021-08-09 cs.CV cs.LG
The Interpolation Phase Transition in Neural Networks: Memorization and Generalization under Lazy Training
Stanford University(斯坦福大学)
现代神经网络通常在一个强烈的过度参数化的制度:他们包括这么多的参数,他们可以插值的训练集,即使实际的标签是由纯粹的随机取代。尽管如此,它们在看不见的数据上实现了良好的预测误差:对训练集进行插值不会导致大的泛化误差。此外,过度参数化似乎是有益的,因为它简化了优化环境。在这里,我们研究这些现象的上下文中的神经切线(NT)政权的两层神经网络。我们考虑一个简单的数据模型,各向同性协变量向量在$d$维,和$N$隐藏的神经元。我们假设样本量$n$和维度$d$都很大,并且它们是多项式相关的。我们的第一个主要结果是在overparametrized制度$Nd\gg n$的经验NT内核的特征结构的表征。这种特征意味着作为推论,经验NT内核的最小特征值是有界远离零,只要$Nd\gg n$,因此网络可以精确地插入任意标签在相同的制度。我们的第二个主要结果是NT岭回归的泛化误差的一个特征,包括作为一个特殊情况,min- $\ell_2$范数插值。我们证明了,只要$Nd\gg n$,测试误差很好地逼近核岭回归关于无限宽核。后者反过来又很好地近似多项式岭回归的错误,从而正则化参数增加了一个“自诱导”的长期有关的高次组件的激活函数。多项式次数取决于样本量和维数(特别是$\log n/\log d$)。
2022-06-09 cs.LG math.ST stat.ML
How Does Label Noise Gradient Descent Improve Generalization in the Low SNR Regime?
RIKEN AIP;The Institute of Statistical Mathematics(统计数学研究所);The University of Sydney(悉尼大学);The University of Tokyo(东京大学);University of California San Diego(圣地亚哥大学);New York University(纽约大学);Flatiron Institute(Flatiron 机构);The University of Hong Kong(香港大学)
本文研究低信噪比下神经网络的噪声过拟合问题,证明在梯度下降中注入标签噪声可抑制噪声记忆、促进信号学习,并给出标准 GD 测试误差非零下界。
2025-10-20 cs.LG
Late-Stage Generalization Collapse in Grokking: Detecting anti-grokking with Weightwatcher
University of California San Diego, Data Science and Engineering(加州大学圣地亚哥分校数据科学与工程)
本文研究了Grokking后期阶段的泛化崩溃现象,通过WeightWatcher工具检测anti-grokking,并揭示了相关陷阱对泛化能力的影响。
2026-02-02 cs.LG
Membership Privacy Risks of Sharpness Aware Minimization
Department of Computer Science(计算机科学系);Purdue University(普渡大学);Delft University of Technology(代尔夫特理工大学);Department of Industrial and Systems Engineering(工业与系统工程系);University of Southern California(南加州大学)
本文发现SAM在提升泛化能力的同时加剧了成员隐私泄露,通过分析记忆分数和影响分数揭示其对非典型子模式的捕捉能力更强,从而在成员推断攻击中表现更差。
2026-01-28 cs.AI cs.LG
SIGUA: Forgetting May Make Learning with Noisy Labels More Robust
Hong Kong Baptist University(香港浸会大学);RIKEN(理化学研究所);AAII, University of Technology Sydney(悉尼科技大学人工智能研究所);Paradigm Inc. (Hong Kong)(第四范式(香港));University of Queensland(昆士兰大学);The University of Tokyo(东京大学)
给定带有噪声标签的数据,过度参数化的深度网络可以逐渐记住数据,并最终适应所有内容。尽管配备了对噪声标签的校正,但由于不期望的记忆,该领域的许多学习方法仍然遭受过拟合。在本文中,为了缓解这个问题,我们提出了随机集成梯度欠权上升(SIGUA):在一个小批量,我们采用梯度下降的好数据像往常一样,和学习率降低梯度上升坏数据;该建议是一个通用的方法,数据的好坏是w.r.t.给定基本学习方法的期望或不期望的记忆。从技术上讲,当目标相互冲突时,SIGUA会将优化拉回以进行泛化;从理论上讲,SIGUA表明忘记不需要的记忆可以加强需要的记忆。实验表明,SIGUA成功地鲁棒两个典型的基础学习方法,使他们的性能往往显着提高。
2020-10-16 cs.LG stat.ML
A Theory of Generalization in Deep Learning
Stanford University(斯坦福大学)
本文提出深度学习中泛化的非渐近理论,通过经验神经切线核划分输出空间,在信号方向快速消散误差,而在噪声方向通过近零特征值捕获残余误差。该理论解释了良性过拟合、双下降等现象,并推导出一个精确的群体风险目标。
2026-05-02 cs.LG stat.ML
Memorization and Malign Generalization in Conditional Diffusion Models with Random Features
Hanyang University(汉阳大学)
本研究针对带随机特征的条件扩散模型,在高维比例极限下推导损失渐近表达式,发现过参数化时存在“恶性泛化”现象,且信息更丰富的条件会使模型在更小宽度时记忆训练样本,相关结论经 U-Net 实验验证。
2026-11-10 cs.LG
Memorization and Optimization in Deep Neural Networks with Minimum Over-parameterization
Institute of Science and Technology Austria (ISTA)(奥地利科学技术研究所(ISTA));EPFL(洛桑联邦理工学院)
本文研究了次线性层宽设置下深层网络的神经正切核条件性,给出了参数量约 $Ω(N)$、神经元量约 $Ω(\sqrt{N})$ 的最小过参数化网络的最小 NTK 特征值下界,并证明了其记忆容量与梯度下降优化保证。
2023-05-21 cs.IT cs.LG math.IT
Generalization-Memorization Machines
School of Mathematical Sciences, Inner Mongolia University(内蒙古大学数学科学学院);Management School, Hainan University(海南大学管理学院)
本文提出包含泛化-记忆决策与记忆建模原则的GMM,将训练转化为可高效求解的二次规划,并通过实验验证其记忆与泛化能力。
2022-07-08 cs.LG cs.NE
A Prior-Aware Metric for Efficiently Distinguishing Memorization from Generalization in Large Language Models
Cornell University(康奈尔大学);Boston University(波士顿大学);NVIDIA(英伟达)
本文提出Prior-Aware Memorization,一种基于模型先验的轻量级度量标准,用于区分大语言模型中的真实记忆与统计上常见序列,揭示低频率不足以证明记忆,强调需考虑模型先验以评估数据泄露风险。
2026-08-14 cs.LG
A Closer Look at Model Collapse: From a Generalization-to-Memorization Perspective
University of Michigan(密歇根大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出基于熵的数据选择策略,缓解扩散模型中从泛化到记忆的转变,防止模型崩溃。
2025-12-25 cs.LG
Memorization in Self-Supervised Learning Improves Downstream Generalization
CISPA(CISPA亥姆霍兹信息安全中心);University of Toronto(多伦多大学);Vector Institute(矢量研究院)
针对监督学习的记忆定义无法迁移到自监督学习(SSL)的问题,提出SSLMem框架定义SSL中的记忆现象,证实即使有大规模数据和强增强,SSL仍存在显著记忆,且该记忆对下游任务泛化性能提升至关重要。
2024-06-18 cs.LG
The Pitfalls of Memorization: When Memorization Hurts Generalization
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);FAIR at Meta(Meta FAIR研究院);CIFAR(加拿大高级研究院)
该研究揭示神经网络中记忆与虚假相关性结合会损害泛化能力,提出记忆感知训练(MAT)方法,通过留出集预测信号调整模型logits,学习跨分布鲁棒模式,提升分布偏移下的泛化性能。
2024-12-10 cs.AI cs.LG stat.ML
Tighter CMI-Based Generalization Bounds via Stochastic Projection and Quantization
Paris Research Center, Huawei Technologies France(华为法国巴黎研究中心);CNRS, ENS Paris, France(法国国家科学研究中心、巴黎高等师范学校);Université Gustave Eiffel, France(法国埃菲尔大学)
本文通过随机投影与有损压缩提出更紧致的条件互信息泛化界,在现有界失效时仍能保证O(1/√n)的泛化误差,并证明记忆并非良好泛化的必要条件。
2025-10-27 cs.IT cs.LG math.IT
Grokking as a Variance-Limited Phase Transition: Spectral Gating and the Epsilon-Stability Threshold
研究通过分析AdamW动态揭示频谱门控机制,探讨在模运算任务中泛化与记忆之间的相变过程,识别出三个复杂度阶段并挑战平坦极小值假说。
2026-03-16 cs.AI cs.LG
Stolen Memories: Leveraging Model Memorization for Calibrated White-Box Membership Inference
Carnegie Mellon University(卡内基梅隆大学)
隶属推理(MI)攻击利用了机器学习算法有时会通过学习的模型泄漏有关其训练数据的信息的事实。在这项工作中,我们研究了白盒设置中的成员推理,以利用模型的内部结构,这在以前的工作中没有得到有效的利用。利用关于深度神经网络中过拟合如何发生的新见解,我们展示了模型对特征的特殊使用如何为白盒攻击者提供成员资格的证据-即使模型的黑盒行为似乎很好地推广-并证明这种攻击优于以前的黑盒方法。采取的立场,一个有效的攻击应该有能力提供自信的积极推断,我们发现,以前的攻击并不经常提供一个有意义的基础,自信地推断成员资格,而我们的攻击可以有效地校准高精度。最后,我们检查了针对MI攻击的流行防御,发现(1)较小的泛化误差不足以防止对真实模型的攻击,以及(2)虽然小- $ε$ -差分隐私降低了攻击的有效性,但这通常会对模型的准确性造成重大损失;对于有时在实践中使用的较大$ε$(例如,$ε=16$),攻击可以达到与未受保护模型几乎相同的精度。
2020-06-24 cs.CR cs.LG stat.ML
Distributed Associative Memory via Online Convex Optimization
KCLIP, CIIPS, Department of Engineering, King’s College London, London WC2R 2LS, UK(KCLIP、CIIPS、工程系、伦敦国王学院,伦敦 WC2R 2LS,英国);Communication Systems Department, EURECOM, 06904 Sophia Antipolis, France(通信系统部门、EURECOM、法国索菲亚抗皮斯,06904);Intelligent Networked Systems Institute, Northeastern University London, London E1 8PH, UK(智能网络系统研究所、伦敦东北大学、伦敦 E1 8PH,英国)
针对分布式联想记忆问题,提出基于路由树通信的分布式在线梯度下降方法以协同优化各智能体本地记忆,并证明次线性遗憾且实验优于现有基线。
2025-09-26 cs.LG eess.SP
On the Dynamics & Transferability of Latent Generalization during Memorization
Centre for Artificial Intelligence Research, Department of Computer Science & Information Systems, Birla Institute of Technology & Science Pilani(人工智能研究中心,计算机科学与信息系统系,比拉理工学院)
本文研究了记忆过程中模型内部表示的潜在泛化能力动态及转移性,通过实验发现潜在泛化能力在训练早期达到峰值,并探讨了如何通过线性探针提取和转移潜在泛化。
2026-03-20 cs.LG
Generalization and Memorization: The Bias Potential Model
Princeton University(普林斯顿大学)
用于学习概率分布的模型,如生成模型和密度估计器,其行为与用于学习函数的模型完全不同。一个例子是记忆现象,即最终收敛到经验分布,发生在生成对抗网络(GANs)中。因此,泛化的问题比监督学习的问题更微妙。对于偏置势模型,我们表明,如果采用早期停止,则可以实现与维度无关的泛化精度,尽管从长远来看,模型要么记住样本,要么发散。
2021-03-02 cs.LG stat.ML
On the geometry of generalization and memorization in deep neural networks
Intel Labs(英特尔研究院);Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
理解大型神经网络如何避免记忆训练数据是解释其高泛化性能的关键。为了研究记忆在深度网络中何时何地发生的结构,我们使用了最近开发的基于复制的平均场理论几何分析方法。我们发现所有层都优先从共享特征的示例中学习,并将此行为与泛化性能联系起来。由于减少了目标流形的半径和尺寸,湍流化主要发生在较深的层中,而早期的层受到的影响最小。这预示着泛化可以通过将最后几层权重恢复到发生显著记忆之前的较早时期来恢复,实验证实了这一点。此外,通过研究不同模型大小下的推广,我们揭示了双下降现象和底层模型几何之间的联系。最后,分析表明,网络在训练早期避免了记忆,因为接近初始化时,来自置换样本的梯度贡献很小。这些发现为深层神经网络各层的记忆结构、这种结构的驱动因素及其与多种几何属性的联系提供了定量证据。
2021-05-30 cond-mat.dis-nn cs.LG stat.ML
Analysis of the Memorization and Generalization Capabilities of AI Agents: Are Continual Learners Robust?
Virginia Tech(弗吉尼亚理工大学)
本文提出一种新颖的持续学习框架,利用容量有限的记忆保存历史信息并采样估计风险分布,以在保留过去知识的同时实现对动态环境的鲁棒泛化,理论分析了记忆与泛化的权衡,实验证明其优于基线方法。
2024-01-10 cs.AI cs.LG
Provable Separations between Memorization and Generalization in Diffusion Models
Department of Industrial Engineering and Management Sciences, Northwestern University(工业工程与管理科学系,西北大学);Department of Statistics and Data Science, Northwestern University(统计与数据科学系,西北大学);School of Mathematics, Georgia Institute of Technology(数学系,佐治亚理工学院)
本文从统计估计和网络逼近两个视角证明扩散模型中记忆化与泛化之间的可证明分离,并据此提出基于剪枝的方法,在扩散Transformer中减少记忆化同时保持生成质量。
2025-11-07 cs.LG stat.ML
Generalization vs. Memorization in Autoregressive Deep Learning: Or, Examining Temporal Decay of Gradient Coherence
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);The University of Arizona(亚利桑那大学)
本文研究自回归深度学习中泛化与记忆的区别,通过影响函数形式主义分析PDE代理的信息吸收与传播,揭示模型限制并提供改进设计的见解。
2026-01-18 cs.LG physics.comp-ph
A mathematical theory of balancing relational generalization and memorization
Center for Theoretical Neuroscience(理论神经科学中心)
提出带例外的传递推理任务,利用核岭回归模型分析表示几何如何影响关系泛化与记忆的平衡,并在预训练语言模型中验证理论预测。
2026-05-21 cs.AI cs.LG
Memorization in deep learning: A survey
RMIT University(皇家墨尔本理工大学);University of Technology Sydney(悉尼科技大学);Griffith University(格里菲斯大学);Data61, CSIRO(联邦科学与工业研究组织Data61);Swinburne University of Technology(斯威本科技大学)
本文系统综述了深度神经网络中的记忆现象,提出基于泛化与安全/隐私领域的定义框架,梳理评估方法,并探讨其对隐私、遗忘机制及相关应用的影响。
2024-06-06 cs.AI cs.LG
Identity Crisis: Memorization and Generalization under Extreme Overparameterization
Google Research(谷歌研究院);University of California, Berkeley(加州大学伯克利分校);Princeton University(普林斯顿大学)
我们研究了在单一训练样本和身份映射任务的极端情况下,过参数化网络的记忆和泛化之间的相互作用。我们研究了全连接和卷积网络(FCN和CNN),包括线性和非线性,随机初始化,然后训练以最小化重建误差。经过训练的网络通常采用两种形式之一:常数函数(记忆)和身份函数(泛化)。我们正式描述了单层FCN和CNN的泛化。我们的经验表明,不同的架构表现出显着不同的归纳偏见。例如,最多10层的CNN能够从单个示例中泛化,而FCN不能从60k个示例中可靠地学习恒等函数。更深的CNN经常失败,但仍然做了惊人的工作来记住训练输出:因为CNN偏差是位置不变的,模型必须通过许多层的协调从图像边界逐渐增长输出模式。我们的工作有助于量化和可视化的敏感性,诱导偏见的架构选择,如深度,内核宽度和通道数。
2020-01-09 cs.AI cs.LG stat.ML
Memorization and Generalization in Neural Code Intelligence Models
University of Houston(休斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
深度神经网络(DNN)越来越多地用于软件工程和代码智能任务。这些都是强大的工具,能够通过数百万个参数从大型数据集中学习高度概括的模式。同时,它们的大容量可能使它们易于记忆数据点。最近的研究表明,当训练数据集是嘈杂的,涉及许多模糊或可疑的样本时,记忆风险表现得特别强烈,记忆是唯一的手段。本文的目的是评估和比较的程度记忆和泛化的神经代码智能模型。它旨在提供关于记忆如何影响代码智能系统中神经模型的学习行为的见解。为了观察模型中记忆的程度,我们将随机噪声添加到原始训练数据集中,并使用各种指标来量化噪声对训练和测试各个方面的影响。我们评估了几个基于Java、Python和Ruby代码库的最先进的神经代码智能模型和基准测试。我们的研究结果突出了重要的风险:数百万个可训练参数允许神经网络记住任何东西,包括噪声数据,并提供错误的泛化感。我们观察到所有模型都表现出某种形式的记忆。在大多数代码智能任务中,这可能会带来麻烦,因为它们依赖于相当容易产生噪音和重复的数据源,例如来自GitHub的代码。据我们所知,我们提供了第一个研究,以量化记忆效应领域的软件工程和代码智能系统。这项工作提高了人们的认识,并为在代码智能系统中训练神经模型的重要问题提供了新的见解,这些问题通常被软件工程研究人员忽视。
2022-09-12 cs.LG cs.PL cs.SE
Decoding Generalization from Memorization in Deep Neural Networks
Birla Institute of Technology & Science Pilani(比拉理工学院与科学学院)
本文通过实验证明深度神经网络中存在对真实标签泛化能力的解码机制,揭示了记忆化与泛化能力之间的关系。
2026-02-02 cs.AI cs.LG
Too Big to Think: Capacity, Memorization, and Generalization in Pre-Trained Transformers
Amazon(亚马逊)
本研究通过预训练容量受限的Transformer模型,发现模型容量在算术外推与事实记忆间存在权衡,且联合训练时无法外推,揭示了容量对学习模式的影响。
2025-06-17 cs.AI cs.CL cs.LG
Generative Modeling of Weights: Generalization or Memorization?
Princeton University(普林斯顿大学);University of Pennsylvania(宾夕法尼亚大学)
该研究检验了四种代表性权重生成模型的能力,发现其主要通过记忆训练检查点合成权重,性能未超简单基线,指出数据有限等可能成因,强调生成式模型应用于新领域需更严谨的设计与评估。
2025-10-03 cs.CV cs.LG
Least Squares Maximum and Weighted Generalization-Memorization Machines
Hainan University(海南大学);Inner Mongolia University(内蒙古大学)
本文提出一种记忆影响机制用于LSSVM,在不改变约束下精确划分训练集,并构建MIMM和WIMM模型,实验显示其泛化性能优于LSSVM且时间成本更低。
2023-08-31 cs.LG stat.ML
Generalization v.s. Memorization: Tracing Language Models' Capabilities Back to Pretraining Data
University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校);Allen Institute for AI(艾伦人工智能研究所);University of Washington(华盛顿大学);SynthLabs;Carnegie Mellon University(卡内基梅隆大学)
本文提出分布记忆概念和task-gram语言模型,通过统计预训练语料中n-gram共现频率,在Pythia模型上分析四项任务,发现记忆在知识密集型任务中作用更大,泛化是推理任务关键。
2025-03-02 cs.AI cs.CL cs.LG
Memorizing Long-tail Data Can Help Generalization Through Composition
University of Washington(华盛顿大学);Duke University(杜克大学)
本文研究记忆与组合的协同效应,理论证明线性模型可借助长尾记忆泛化到未见过的特征组合,并通过神经网络实验验证该现象且发现其受架构影响。
2026-10-22 cs.LG stat.ML
Memorization vs. Generalization: Quantifying Data Leakage in NLP Performance Evaluation
The University of Melbourne(墨尔本大学);RMIT University(皇家墨尔本理工大学)
公共数据集通常用于评估自然语言处理(NLP)中许多任务的最新方法的有效性和可推广性。然而,在训练和测试数据集之间存在重叠可能导致夸大的结果,无意中评估模型的记忆能力并将其解释为泛化能力。此外,这样的数据集可能无法提供这些方法在现实世界场景中的性能的有效指标。我们在用于评估NLP任务(包括命名实体识别和关系抽取)的几个公开数据集上识别出训练数据泄漏到测试数据中,并对其进行研究,以评估泄漏对模型记忆与概括能力的影响。
2021-02-03 cs.CL cs.LG
Impact of Layer Norm on Memorization and Generalization in Transformers
本文针对Pre/Post-LayerNorm两类Transformer,探究LayerNorm对模型记忆与学习能力的影响,明确不同位置LayerNorm的作用差异,通过多数据集多模型实验验证结论,为理解LayerNorm的作用提供新视角。
2025-11-13 cs.AI cs.CL cs.CV
On the Memorization of Consistency Distillation for Diffusion Models
School of Computing & Data Science, The University of Hong Kong(计算与数据科学学院,香港大学);School of Computing & Data Science and Institute of Data Science, The University of Hong Kong(计算与数据科学学院和数据科学研究所,香港大学)
研究探讨了蒸馏对扩散模型记忆性的影响,发现一致性蒸馏可减少记忆性的同时保持样本质量,理论分析表明其抑制不稳定特征方向,提升泛化能力。
2026-04-26 cs.AI cs.LG stat.ML
Generalization and Memorization in Rectified Flow
Vanderbilt University(范德比大学)
本文研究修正流模型的记忆行为,通过成员推断攻击测试统计量揭示其记忆机制,并提出复杂度校准指标,提升攻击性能并抑制记忆化以保持生成质量。
2026-09-01 cs.CV cs.LG
Most Ligand-Based Classification Benchmarks Reward Memorization Rather than Generalization
Atomwise, Inc.(Atomwise公司)
当训练和验证数据之间存在显著冗余时,可能会发生未检测到的过拟合。我们描述了AVE,一种新的措施,训练验证冗余的配体为基础的分类问题,占之间的相似性,以及活跃的非活性分子。我们调查了七个广泛使用的虚拟筛选和分类基准,并表明AVE偏差的量与基于配体的预测方法的性能密切相关,无论预测的属性,化学指纹,相似性度量,或以前应用的无偏技术。因此,它可能是以前报道的性能,大多数配体为基础的方法可以解释为过度拟合的基准,而不是良好的前瞻性的准确性。
2018-05-09 cs.LG q-bio.QM stat.ML
What Do Learning Dynamics Reveal About Generalization in LLM Reasoning?
UC Berkeley(加州大学伯克利分校);CMU(卡内基梅隆大学)
本研究通过预记忆训练准确率指标揭示LLM微调学习动态与泛化的关系,该指标能可靠预测测试准确率并指导数据整理,使数据效率提升1.5-2倍。
2024-11-18 cs.LG