Langevin Unlearning: A New Perspective of Noisy Gradient Descent for Machine Unlearning
Department of Electrical and Computer Engineering(电气与计算机工程系);Georgia Institute of Technology(佐治亚理工学院);Department of Mathematics(数学系);Massachusetts Institute of Technology(麻省理工学院)
针对机器遗忘,提出基于噪声梯度下降的 Langevin 遗忘框架,统一 DP 学习与隐私认证遗忘,支持非凸问题、节省复杂度并实现顺序和批量遗忘。
2025-09-24 cs.LG
When to Forget? Complexity Trade-offs in Machine Unlearning
INRIA Paris(巴黎国家信息与自动化研究所);INRIA Sophia-Antipolis(索菲亚-安蒂基比斯国家信息与自动化研究所)
本文针对机器遗忘问题,首次建立极小极大计算时间的上下界,提出遗忘复杂度比并给出相图,揭示在强凸目标下存在不可行、平凡和高效三个区域,强调数据维度、遗忘样本数和隐私约束对可行性的关键影响。
2025-06-23 cs.LG math.OC stat.ML
DECAF: De-Clustering for Adaptive Representational Unlearning
研究针对机器遗忘中聚类攻击问题,提出DECAF方法,结合输入噪声、置信度抑制和输出多样化破坏遗忘数据特征结构,在CIFAR-10与ResNet-18上表现出色,性能超基线且效率高。
2026-07-28 cs.LG
Dataset Condensation Driven Machine Unlearning
本文面向图像分类提出数据集浓缩驱动的机器遗忘方法,通过新浓缩技术与遗忘方案平衡隐私、效用和效率,并用于防御成员推理、模型反演及从浓缩模型中移除数据。
2024-05-12 cs.LG
Mr. Snuffleupagus at SemEval-2025 Task 4: Unlearning Factual Knowledge from LLMs Using Adaptive RMU
IIIT Hyderabad(IIIT海得拉尔)
本文应用自适应RMU技术从LLM中遗忘敏感信息,通过跨解码器层实验确定最有效移除区域,在1B和7B参数模型官方排行榜上均获第4名。
2025-06-19 cs.LG
Benchmarking Federated Machine Unlearning methods for Tabular Data
University of Birmingham(伯明翰大学);University of Southampton(南安普顿大学);AdviceRobo(阿德维克罗博公司)
本文针对表格数据在联邦学习环境下的机器遗忘方法进行基准测试,评估了微调和基于梯度等算法在保真度、可认证性和计算效率上的表现,发现树模型可认证性强而梯度方法计算效率高。
2025-04-01 cs.LG
Learn to Forget: Machine Unlearning via Neuron Masking
如今,机器学习模型,特别是神经网络,在许多现实世界的应用中变得流行起来。这些模型是基于用户数据的单向旅行进行训练的:只要用户贡献他们的数据,就没有办法撤回;众所周知,神经网络会记住它的训练数据。这与GDPR的“被遗忘权”条款相矛盾,可能导致违法行为。为此,机器遗忘成为一个热门的研究课题,它允许用户消除记忆他们的私人数据从一个训练有素的机器学习model.In本文中,我们提出了第一个统一的度量称为遗忘率来衡量一个机器遗忘方法的有效性。该方法基于隶属度推理的概念,描述了在进行去学习后,被剔除的数据从“记忆”到“未知”的转化率。我们还提出了一种新的unlearning方法calledForsaken。它优于以前的工作,无论是效用或效率(当达到相同的遗忘率)。我们用八个标准数据集对Forsaken进行基准测试,以评估其性能。实验结果表明,该算法的平均遗忘率可达90%以上,而准确率损失仅为5%。
2021-08-02 cs.CR cs.LG stat.ML
Machine Unlearning for Causal Inference
本文首次将机器遗忘技术引入因果推断领域,提出基于神经网络倾向得分模型的遗忘方法,在Lalonde数据集上验证了有效性,为因果分析场景下的用户隐私保护提供了新方案。
2023-08-24 cs.LG
An Introduction to Machine Unlearning
NatWest Group(国民西敏寺银行集团);UCL(伦敦大学学院)
可能需要从机器学习模型中去除训练数据的指定子集的影响,以解决隐私、公平性和数据质量等问题。在删除子集后,在剩余的数据上从头开始重新训练模型是一种有效但通常不可行的选择,因为它的计算开销很大。因此,在过去的几年里,已经看到了一些新的方法来有效地去除,形成了“机器遗忘“领域,然而,迄今为止发表的文献的许多方面是不同的,缺乏共识。在本文中,我们总结和比较七个国家的最先进的机器遗忘算法,巩固在该领域使用的核心概念的定义,调和不同的方法来评估算法,并讨论相关的问题,在实践中应用机器遗忘。
2022-09-02 cs.LG
Approximate Machine Unlearning through Manifold Representation Forgetting Guided by Self Mode Connectivity
Xi'an Jiaotong University(西安交通大学);Southeast University(东南大学);University of Technology Sydney(悉尼大学)
提出ManiF-SMC方法,通过将遗忘样本从其原始流形表示质心推向保留数据中最近的语义邻居,并利用自模式连通性模块自适应生成边界,在表示空间内实现近似遗忘,无需依赖标签和任务梯度。
2026-05-20 cs.AI cs.LG stat.ML
Contrastive Unlearning: A Contrastive Approach to Machine Unlearning
Zhejiang University(浙江大学);Emory University(埃默里大学)
针对机器遗忘中难以兼顾彻底性、效率与模型性能的问题,提出对比式遗忘框架,通过对比优化表征空间移除遗忘样本影响,并在多数据集和模型上取得最优效果。
2024-01-19 cs.CR cs.LG
FUNU: Boosting Machine Unlearning Efficiency by Filtering Unnecessary Unlearning
Hong Kong Polytechnic University(香港理工大学)
为提升机器遗忘效率,本文提出FUNU方法,通过利用参考模型识别移除请求中在剩余数据集中有相似邻居的数据点来过滤不必要的遗忘,从而缩减请求规模并减少执行时间,同时提供了隐私保证的理论分析与实验验证。
2025-01-28 cs.LG
On the Necessity of Auditable Algorithmic Definitions for Machine Unlearning
University of Toronto(多伦多大学);Vector Institute(向量研究所)
机器遗忘,即让模型忘记它的一些训练数据,随着隐私立法促进被遗忘权的变体,变得越来越重要。在深度学习的背景下,机器遗忘的方法大致分为两类:精确遗忘方法,其中实体通过从头开始重新训练模型来正式消除数据点对模型的影响,以及近似遗忘,其中实体近似通过精确遗忘获得的模型参数以节省计算成本。在本文中,我们首先证明了近似非学习的定义,即试图证明近似非学习模型接近于精确再训练模型,是不正确的,因为人们可以使用不同的数据集获得相同的模型。因此,人们可以在根本不修改模型的情况下忘却。然后,我们转向精确的遗忘方法,并询问如何验证他们的遗忘主张。我们的研究结果表明,即使对于给定的训练轨迹,也无法正式证明训练过程中使用的某些数据点的缺失。因此,我们的结论是,unlearning仅在算法层面上定义良好,其中实体对unlearning的唯一可能的可审计声明是,他们使用了一种特定的算法,该算法旨在允许在审计期间进行外部审查。
2022-02-19 cs.AI cs.CR cs.LG
Evaluating Machine Unlearning via Epistemic Uncertainty
TU Dortmund University(多特蒙德工业大学)
最近,人们对机器遗忘的兴趣越来越大,这主要是由于《通用数据保护条例》(GDPR)和《加州消费者隐私法》等法律要求。因此,提出了多种方法来从训练模型中去除特定目标数据点的影响。然而,在评估遗忘的成功时,当前的方法要么使用对抗攻击,要么将其结果与最优解进行比较,后者通常包含从头开始的再训练。我们认为,这两种方法在实践中都是不够的。在这项工作中,我们提出了一个评价指标的机器遗忘算法的基础上认识的不确定性。据我们所知,这是机器遗忘的一般评估指标的第一个定义。
2022-09-19 cs.LG
When Machine Unlearning Jeopardizes Privacy
University of Virginia(弗吉尼亚大学);University of Lausanne(洛桑大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Carnegie Mellon University(卡内基梅隆大学);Purdue University(普渡大学)
被遗忘权是指数据所有者有权从存储数据的实体中删除数据。在机器学习(ML)的上下文中,被遗忘权要求ML模型所有者从用于构建ML模型的训练集中删除数据所有者的数据,这一过程称为机器遗忘。虽然最初的设计是为了保护数据所有者的隐私,但我们认为机器遗忘可能会在ML模型中留下一些数据的印记,从而产生意想不到的隐私风险。在本文中,我们进行了第一次研究调查无意的信息泄漏所造成的机器遗忘。我们提出了一种新的成员推断攻击,它利用ML模型的两个版本的不同输出来推断目标样本是否是原始模型的训练集的一部分,但不在相应的未学习模型的训练集。我们的实验表明,提出的成员推断攻击取得了很好的性能。更重要的是,我们证明了我们的攻击在多个情况下优于对原始ML模型的经典成员推断攻击,这表明机器遗忘可能会对隐私产生反作用。我们注意到,隐私退化对于广义ML模型尤其重要,其中经典的成员推理表现不佳。我们进一步研究了四种机制来减轻新发现的隐私风险,并表明仅发布预测标签、温度缩放和差分隐私是有效的。我们相信,我们的研究结果可以帮助改善隐私保护的实际实现的机器遗忘。我们的代码可在https://github.com/MinChen00/UnlearningLeaks上获得。
2021-09-14 cs.CR cs.LG stat.ML
Towards Natural Machine Unlearning
本文提出一种自然机器遗忘方法,通过向遗忘样本注入正确信息并配对标签,显著减少过度遗忘并增强超参数鲁棒性,优于现有最先进方法。
2025-10-10 cs.LG
A More Practical Approach to Machine Unlearning
本文提出面向实用机器遗忘的首 epoch 梯度上升方法,发现 GPT-2 嵌入层是关键且可减半空间复杂度,并通过实证验证其优于全模型梯度上升。
2024-06-13 cs.AI cs.LG
Forgetting Similar Samples: Can Machine Unlearning Do it Better?
City University of Macau(澳门城市大学);Guangzhou University(广州大学)
本文研究了机器去学习在存在相似样本时的有效性,发现现有方法未能有效消除目标样本影响,并提出改进方案。
2026-01-11 cs.CR cs.LG
Verification of Machine Unlearning is Fragile
University of Virginia(弗吉尼亚大学)
本文探讨了机器去学习验证的脆弱性,提出两种对抗性去学习过程以绕过现有验证策略,揭示了验证方法的局限性。
2026-04-21 cs.CR cs.LG
LMEraser: Large Model Unlearning through Adaptive Prompt Tuning
针对大模型机器遗忘计算成本高的问题,提出名为LMEraser的分治式自适应提示调优方法,通过公私数据分离、私有数据聚类分调提示,实现遗忘成本降低100倍且不损失精度。
2024-04-17 cs.AI cs.CR cs.LG
Towards Aligned Data Forgetting via Twin Machine Unlearning
针对机器遗忘中数据遗忘与黄金模型对齐的目标,提出双机机器学习方法,通过孪生问题训练预测器迁移,显著提升遗忘模型与黄金模型的对齐程度。
2025-01-23 cs.LG
Machine Unlearning via Null Space Calibration
University of Technology Sydney(悉尼科技大学);University of Queensland(昆士兰大学);City University of Macau(澳门城市大学)
本文提出基于零空间校准的机器遗忘方法UNSC,通过将遗忘过程限制在剩余样本的零空间并利用伪标记增强,有效解决过度遗忘问题并提升模型在剩余数据上的性能。
2024-04-21 cs.AI cs.LG
Models Designed to Forget: Machine Unlearning via Key Deletion
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
本文提出了一种新的机器遗忘方法,通过设计使模型具备遗忘能力。MUNKEY模型通过删除实例标识符实现直接零样本遗忘,无需权重更新或原始数据访问,在多个数据集上优于现有方法。
2026-10-27 cs.LG
Machine Unlearning: Solutions and Challenges
本文综述机器遗忘方法,将其分为精确遗忘与近似遗忘两类,分析各自优劣并提出未来方向,为可信机器学习中的选择性数据删除提供路线图。
2024-03-15 cs.AI cs.LG
Improved Localized Machine Unlearning Through the Lens of Memorization
Technical University of Munich(慕尼黑工业大学);Helmholtz Munich(亥姆霍兹慕尼黑中心);Google DeepMind(谷歌DeepMind);Imperial College London(伦敦帝国学院)
本文针对局部机器遗忘问题,借鉴记忆化研究提出改进的参数局部化策略,并设计 DEL 算法重置并微调关键参数,在多项数据集和指标上取得最优结果。
2024-12-03 cs.LG
Fairness and Robustness in Machine Unlearning
Sungkyunkwan University(成均馆大学)
针对机器学习遗忘无法实现精确遗忘的问题,首次聚焦其公平性与鲁棒性,提出基于方差-偏差权衡的公平性猜想,通过ResNet和ViT验证公平性与鲁棒性的关联,并提出评估指标,证明中间层和最后层遗忘的有效性。
2025-04-18 cs.LG
How Does Overparameterization Affect Machine Unlearning of Deep Neural Networks?
Faculty of Computer and Information Science(计算机与信息科学学院)
本文研究了深度神经网络去学习任务中模型参数化水平(即网络宽度)对性能的影响,探讨了不同去学习方法在不同参数化水平、去学习目标(隐私保护或偏见消除)以及是否显式使用被删除示例时的表现差异,发现过度参数化模型在隐私和偏见消除方面表现更优,但会带来一定的泛化能力下降。
2026-05-19 cs.LG
Machine unlearning through fine-grained model parameters perturbation
College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机与电子工程学院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Shenzhen Research Institute, Hunan University(湖南大学深圳研究院);Faculty of Computing, Engineering & Media, De Montfort University(德蒙福特大学计算、工程与媒体学院)
本研究提出细粒度Top-K和Random-k参数扰动的非精确机器遗忘策略,同时设计SPD-GAN及遗忘率、记忆保留率等新指标,在控制成本的同时实现高效隐私保护,且不明显降低模型性能。
2025-01-15 cs.AI cs.LG
Similarity-Aware Machine Unlearning
University of Manchester(曼彻斯特大学);University of Sheffield(谢菲尔德大学);Paris Dauphine - PSL University(巴黎多芬大学 - 巴黎文理研究大学)
针对现有机器遗忘方法易对相似保留样本造成附带损害的问题,提出感知保留集的定位方法,结合余弦相似度构建评估集,在CIFAR-10与ResNet18的11组实验中验证了方法的有效性。
2026-08-04 cs.LG
Model Sparsity Can Simplify Machine Unlearning
Michigan State University(密歇根州立大学);IBM Research(IBM研究院);Cisco Research(思科研发);University of California, Santa Cruz(加州大学圣克鲁兹分校);ByteDance Research(字节跳动研究);Carnegie Mellon University(卡内基梅隆大学)
该研究提出基于模型稀疏化的机器遗忘新范式,通过权重剪枝与稀疏正则化缩小近似遗忘与精确遗忘的差距,显著提升遗忘效能,并可用于防御后门攻击、增强迁移学习。
2024-01-27 cs.LG
Signal-Guided Optimization for Machine Unlearning
针对当前模型遗忘方法缺乏精确引导信号的问题,提出GSUO框架,设计特定任务细粒度引导信号指导遗忘过程,适用于多种遗忘任务。实验表明,该框架在遗忘有效性、泛化、效率等方面表现出色,优于14个基线。
2026-07-15 cs.AI cs.LG
Privacy Preservation through Practical Machine Unlearning
Department of Computer Science and Engineering(计算机科学与工程系);Mississippi State University(密苏里州立大学)
本文提出通过实用机器无学习方法,在保持模型性能的同时实现隐私保护,探讨了无学习框架在处理部分标记数据集中的应用及计算权衡。
2025-12-09 cs.CR cs.LG
Unlearning Information Bottleneck: Machine Unlearning of Systematic Patterns and Biases
Yale University(耶鲁大学);Wuhan University(武汉大学);EPFL(洛桑联邦理工学院);University of Bern(伯尔尼大学)
提出去学习信息瓶颈(UIB)框架,利用变分上界和动态先验调整参数,以高效移除系统模式与偏见,同时保持模型性能。
2024-05-22 cs.AI cs.LG
Machine Unlearning via Information Theoretic Regularization
Department of Mathematics University of California Davis(加州大学戴维斯分校数学系);Center of Data Science and Artificial Intelligence Research University of California Davis(加州大学戴维斯分校数据科学与人工智能研究中心)
研究如何在最小化效用损失并确保严格保证的同时,从学习结果中有效去除不良信息。基于信息论正则化引入统一框架,解决数据点和特征遗忘问题,给出相关定义、保证及分析解,数值模拟支持理论发现。
2026-07-07 cs.AI cs.IT cs.LG
Siamese Machine Unlearning with Knowledge Vaporization and Concentration
The Hong Kong University of Science and Technology(香港科技大学)
针对机器遗忘成本高、依赖剩余数据等问题,提出知识汽化与浓缩概念,并基于孪生网络实现无需额外内存和完整剩余数据集的高效选择性遗忘。
2024-12-02 cs.LG
On the Plasticity Collapse in Continual Machine Unlearning
Illinois Institute of Technology(伊利诺伊理工学院);Amazon(亚马逊公司);Northwestern University(西北大学);University of Michigan(密歇根大学)
本研究发现持续机器遗忘场景存在可塑性崩溃的固有问题,通过理论分析和多组实验证实其普遍性,为开发保可塑性遗忘算法提供了依据。
2026-09-01 cs.AI cs.LG
Machine Unlearning for Traditional Models and Large Language Models: A Short Survey
Renmin University of China(中国人民大学)
本文综述了传统模型与大语言模型的机器遗忘技术,涵盖定义、分类、评估标准及挑战,并提出有效性与效率评估方法,指出当前局限与未来研究方向。
2024-04-01 cs.CR cs.LG
Gone but Not Forgotten: Improved Benchmarks for Machine Unlearning
Carnegie Mellon University Software Engineering Institute(卡内基梅隆大学软件工程研究所)
本文指出现有机器遗忘算法评估仅依赖基础成员推理攻击的缺陷,提出三种替代评估方法,并通过在多个计算机视觉数据集上的实验验证其有效性,呈现了该领域更详细的现状。
2024-05-29 cs.LG
Towards Reliable Forgetting: A Survey on Machine Unlearning Verification
Huazhong University of Science and Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Griffith University(格里菲斯大学)
本文综述了机器遗忘验证方法,提出行为验证与参数验证两类分类,分析现有方法的假设、优缺点及实际部署中的漏洞,指出当前验证研究的开放问题。
2026-04-07 cs.LG
Efficient Verified Machine Unlearning For Distillation
University of Warwick(沃里克大学)
针对师生知识蒸馏场景下教师端遗忘需完整重训练学生的高成本问题,提出PURGE框架,通过成分映射和增量多教师策略分区蒸馏、维持数据隔离,实现高效可验证的机器遗忘,同时保持学生准确率与基线相当。
2025-10-21 cs.LG
Rewind-to-Delete: Certified Machine Unlearning for Nonconvex Functions
本文提出了一种针对非凸损失函数的认证机器去学习算法,通过回退到学习过程早期步骤实现数据删除,证明了隐私和效用的权衡,并展示了优于现有方法的性能。
2025-12-15 cs.LG
WIN-U: Woodbury-Informed Newton-Unlearning as a retain-free Machine Unlearning Framework
Department of Computer Science(计算机科学系);Rensselaer Polytechnic Institute(拉特克利夫理工学院)
WIN-U提出了一种无需保留数据的机器反向学习框架,通过单次牛顿步骤和Woodbury矩阵恒等式实现高效反向学习,提升去噪效果和鲁棒性。
2026-04-15 cs.LG
Revisiting Machine Unlearning with Dimensional Alignment
Seoul National University(首尔大学);IPAI, Seoul National University(首尔大学IPAI)
本文提出一种基于维度对齐指标的机器遗忘框架,通过正则化损失、自蒸馏和交替训练有效消除遗忘集信息并保留保留集知识,同时引入了更准确的新评估工具。
2024-12-21 cs.LG
Survey of Security and Data Attacks on Machine Unlearning In Financial and E-Commerce
本文综述了金融与电商场景下针对机器遗忘的隐私与安全攻击,并系统梳理了差分隐私、密码学保证和零知识证明等防御策略,以保障数据完整性与模型安全。
2024-09-29 cs.CR cs.LG
Efficient Knowledge Deletion from Trained Models through Layer-wise Partial Machine Unlearning
Applied AI and Data Science(应用人工智能与数据科学);The Mærsk Mc-Kinney Møller Institute(马士基·麦克-金ney·穆勒研究所);University of Southern Denmark(南丹麦大学)
针对现有机器遗忘技术易致性能下降、需微调且存储需求大的问题,提出两种结合逐层部分操作的新型遗忘算法,经实验验证其能更好保留模型效能,部分失忆遗忘还无需事后微调。
2024-03-12 cs.AI cs.LG
Position: Bridge the Gaps between Machine Unlearning and AI Regulation
University of Cambridge(剑桥大学)
本立场论文指出机器遗忘在辅助AI监管(如欧盟AIA)合规方面存在技术现状与实际应用间的差距,系统梳理了潜在应用场景并标明了技术缺口,呼吁研究人员解决这些开放问题以释放其潜力。
2025-11-04 cs.AI cs.LG
MUBox: A Critical Evaluation Framework of Deep Machine Unlearning
Fordham University(福特汉姆大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出 MUBox 综合评估框架,集成23种深度机器遗忘方法、6类场景与11项指标,系统比较后发现现有方法效果不稳、指标需多维互补,且去投毒表现取决于攻击类型。
2025-05-13 cs.CR cs.LG
Machine Unlearning with Minimal Gradient Dependence for High Unlearning Ratios
School of Information, Renmin University of China(中国人民大学信息学院);School of Computer Science and Big Data, Minjiang University(闽江学院计算机与大数据学院);RMIT University(皇家墨尔本理工大学)
针对高遗忘率下传统梯度遗忘方法依赖大量历史梯度的问题,提出Mini-Unlearning方法,利用收缩映射和最小历史梯度子集实现高效可扩展遗忘,在准确性和安全性上超越现有技术。
2024-06-24 cs.AI cs.CR cs.LG
Machine Unlearning for Streaming Forgetting
The University of Queensland(昆士兰大学);University of Adelaide(阿德莱德大学)
本文针对流式数据删除请求场景,提出一种将遗忘建模为分布偏移的流式遗忘范式及无需访问原始训练数据的高效算法,并给出非凸条件下的遗憾界理论保证。
2025-07-21 cs.LG
Adversarial Machine Unlearning
UC Santa Cruz(加州大学圣克鲁兹分校);Stellar Cyber, Inc.(斯特拉尔网络公司);Washington University in St. Louis(圣路易斯华盛顿大学)
本文提出一种基于 Stackelberg 博弈的对抗性机器遗忘框架,将 MIA 纳入算法设计,并通过隐式微分优化梯度以限制攻击成功。
2024-06-11 cs.CR cs.LG
Zero-shot Class Unlearning via Layer-wise Relevance Analysis and Neuronal Path Perturbation
School of Information Engineering, Zhongnan University of Economics and Law(信息工程学院,中南财经政法大学);China University of Geosciences, Wuhan(中国地质大学(武汉));City University of Macau(澳门城市大学)
本文提出基于层级相关性分析与神经元路径扰动的零样本类别遗忘方法,通过识别并扰动高相关神经元,在保护隐私的同时保持模型效用。
2025-06-20 cs.CR cs.LG
Lifting Data-Tracing Machine Unlearning to Knowledge-Tracing for Foundation Models
Boston University(波士顿大学)
本文提出将数据追踪的机器遗忘提升为基础模型的知识追踪,以应对多样化遗忘请求,并更接近人类遗忘机制,通过视觉语言模型案例展示实现范式。
2026-05-25 cs.CV cs.LG
Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate
Amazon AGI(亚马逊人工智能研究院);UIUC(伊利诺伊大学香槟分校);Amazon AGI & UCLA(亚马逊人工智能研究院与加州大学洛杉矶分校);Amazon AGI & LIONS EPFL(亚马逊人工智能研究院与洛桑联邦理工学院);Amazon AGI & University of Minnesota(亚马逊人工智能研究院与明尼苏达大学)
本文将机器遗忘建模为正则化多任务优化问题,提出归一化梯度差算法NGDiff并引入自适应学习率调度器,在TOFU和MUSE数据集上取得优于现有方法的遗忘性能与训练稳定性。
2025-05-06 cs.CL cs.LG
Robust Machine Unlearning for Quantized Neural Networks via Adaptive Gradient Reweighting with Similar Labels
Wuhan University of Technology(武汉理工大学);University of Macau(澳门大学)
针对量化神经网络中现有机器遗忘方法存在噪声放大、梯度不平衡的问题,提出首个专用遗忘框架Q-MUL,通过相似标签分配和自适应梯度重加权解决上述问题,经基准测试验证性能优于现有方法。
2025-03-18 cs.LG