Learning to Unlearn while Retaining: Combating Gradient Conflicts in Machine Unlearning
针对机器遗忘中遗忘与保留目标的梯度冲突问题,提出 Learning to Unlearn while Retaining,通过隐式梯度正则化兼顾有效遗忘与模型性能。
2025-07-28 cs.CV cs.LG
Machine Unlearning in Forgettability Sequence
本文研究机器学习反学习中不同样本的遗忘难度差异,发现高隐私风险样本更难遗忘,并提出由 Ranking 和 SeqUnlearn 模块组成的通用反学习框架 RSU,以实现更精确的遗忘。
2024-10-21 cs.CV cs.LG
Instance-Level Difficulty: A Missing Perspective in Machine Unlearning
Dalhousie University(达尔豪斯大学)
该研究针对当前机器遗忘研究忽视样本个体遗忘难度差异的问题,通过多算法多数据集的实例级分析,总结出四个影响遗忘难度的因素,证明其与算法无关、仅和目标模型及训练数据相关,呼吁学界关注实例级遗忘难度。
2026-10-12 cs.LG
Machine Unlearning for Medical Imaging
Helmholtz Munich(亥姆霍兹慕尼黑中心);Technical University of Munich(慕尼黑工业大学);King’s College London(伦敦国王学院);Imperial College London(伦敦帝国学院)
本研究评估不同机器遗忘算法在医学影像领域的效果与效率,发现其在保留集、遗忘集表现良好且无性别偏见,但会损害模型泛化能力、存在样本难度偏见且有额外调参开销,为算法改进指明方向。
2024-07-10 cs.CV cs.LG
Gradient Surgery for One-shot Unlearning on Generative Model
LG AI Research(LG人工智能研究院)
针对被遗忘权监管下的生成模型遗忘需求,提出基于梯度投影的单次遗忘方法,通过操纵梯度规范样本影响交互,性能优于现有基线并提供首个生成模型遗忘理论分析。
2023-07-18 cs.AI cs.LG
Machine Unlearning on Pre-trained Models by Residual Feature Alignment Using LoRA
City University of Macau(澳门城市大学)
本文提出一种高效的预训练模型去学习方法,通过LoRA分解中间特征并调整残差特征,实现去学习与保留目标的对齐,实验验证了方法的有效性。
2026-05-09 cs.CV cs.LG
On the Limitations and Prospects of Machine Unlearning for Generative AI
Tsinghua University(清华大学);Imperial College London(伦敦帝国学院);Southeast University(东南大学)
本文系统探讨了机器遗忘在生成式AI中的问题定义、在LLMs和扩散模型上的局限性,并从基准、评估指标和效用-遗忘权衡三方面提出未来发展方向。
2024-08-01 cs.AI cs.LG
Langevin Unlearning: A New Perspective of Noisy Gradient Descent for Machine Unlearning
Department of Electrical and Computer Engineering(电气与计算机工程系);Georgia Institute of Technology(佐治亚理工学院);Department of Mathematics(数学系);Massachusetts Institute of Technology(麻省理工学院)
针对机器遗忘,提出基于噪声梯度下降的 Langevin 遗忘框架,统一 DP 学习与隐私认证遗忘,支持非凸问题、节省复杂度并实现顺序和批量遗忘。
2025-09-24 cs.LG
Attack and Reset for Unlearning: Exploiting Adversarial Noise toward Machine Unlearning through Parameter Re-initialization
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出 ARU 方法,利用对抗噪声生成参数掩码并重置偏向遗忘集的网络参数,在 MUFAC 和 MUCAC 面部遗忘基准上取得最优效果,实现更彻底的机器遗忘。
2024-01-17 cs.CR cs.CV cs.LG
Machine Unlearning in the Era of Quantum Machine Learning: An Empirical Study
University of Bucharest, Romania(布加勒斯特大学(罗马尼亚))
本文研究了量子混合神经网络中机器反学习的行为,发现量子模型能有效支持反学习,但结果依赖于电路深度、纠缠结构和任务复杂性。
2026-04-09 cs.AI cs.CV cs.LG
Erase to Enhance: Data-Efficient Machine Unlearning in MRI Reconstruction
School of Engineering, The University of Edinburgh(爱丁堡大学工程学院)
该研究针对医学MRI重建场景,提出无需全量重训的数据高效机器遗忘方法,可消除多器官数据混训带来的伪影,仅用部分保留数据就能维持高性能,还构建了量化遗忘效果的协议并开源代码。
2024-06-18 cs.CV cs.LG eess.IV
Dataset Condensation Driven Machine Unlearning
本文面向图像分类提出数据集浓缩驱动的机器遗忘方法,通过新浓缩技术与遗忘方案平衡隐私、效用和效率,并用于防御成员推理、模型反演及从浓缩模型中移除数据。
2024-05-12 cs.LG
FAST: Feature Aware Similarity Thresholding for Weak Unlearning in Black-Box Generative Models
Indian Institute of Science(印度科学学院)
针对黑盒生成模型无法通过传统机器遗忘消除不良输出的问题,本研究提出FAST方法,通过隐空间编码不良特征表征抑制不良输出,并证明过滤属于弱遗忘形式。
2024-06-20 cs.AI cs.LG
Benchmarking Federated Machine Unlearning methods for Tabular Data
University of Birmingham(伯明翰大学);University of Southampton(南安普顿大学);AdviceRobo(阿德维克罗博公司)
本文针对表格数据在联邦学习环境下的机器遗忘方法进行基准测试,评估了微调和基于梯度等算法在保真度、可认证性和计算效率上的表现,发现树模型可认证性强而梯度方法计算效率高。
2025-04-01 cs.LG
Machine Unlearning for Causal Inference
本文首次将机器遗忘技术引入因果推断领域,提出基于神经网络倾向得分模型的遗忘方法,在Lalonde数据集上验证了有效性,为因果分析场景下的用户隐私保护提供了新方案。
2023-08-24 cs.LG
Efficient Machine Unlearning by Model Splitting and Core Sample Selection
Technical University of Munich(慕尼黑技术大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
本文针对机器遗忘的效率与验证难题,提出广义遗忘指标及感知遗忘的训练方法 MaxRR,可在多数情形下实现精确遗忘,否则也能获得接近完全重训练的高效遗忘效果。
2025-05-11 cs.LG stat.ML
An Introduction to Machine Unlearning
NatWest Group(国民西敏寺银行集团);UCL(伦敦大学学院)
可能需要从机器学习模型中去除训练数据的指定子集的影响,以解决隐私、公平性和数据质量等问题。在删除子集后,在剩余的数据上从头开始重新训练模型是一种有效但通常不可行的选择,因为它的计算开销很大。因此,在过去的几年里,已经看到了一些新的方法来有效地去除,形成了“机器遗忘“领域,然而,迄今为止发表的文献的许多方面是不同的,缺乏共识。在本文中,我们总结和比较七个国家的最先进的机器遗忘算法,巩固在该领域使用的核心概念的定义,调和不同的方法来评估算法,并讨论相关的问题,在实践中应用机器遗忘。
2022-09-02 cs.LG
FUNU: Boosting Machine Unlearning Efficiency by Filtering Unnecessary Unlearning
Hong Kong Polytechnic University(香港理工大学)
为提升机器遗忘效率,本文提出FUNU方法,通过利用参考模型识别移除请求中在剩余数据集中有相似邻居的数据点来过滤不必要的遗忘,从而缩减请求规模并减少执行时间,同时提供了隐私保证的理论分析与实验验证。
2025-01-28 cs.LG
Contrastive Unlearning: A Contrastive Approach to Machine Unlearning
Zhejiang University(浙江大学);Emory University(埃默里大学)
针对机器遗忘中难以兼顾彻底性、效率与模型性能的问题,提出对比式遗忘框架,通过对比优化表征空间移除遗忘样本影响,并在多数据集和模型上取得最优效果。
2024-01-19 cs.CR cs.LG
Evaluating Machine Unlearning via Epistemic Uncertainty
TU Dortmund University(多特蒙德工业大学)
最近,人们对机器遗忘的兴趣越来越大,这主要是由于《通用数据保护条例》(GDPR)和《加州消费者隐私法》等法律要求。因此,提出了多种方法来从训练模型中去除特定目标数据点的影响。然而,在评估遗忘的成功时,当前的方法要么使用对抗攻击,要么将其结果与最优解进行比较,后者通常包含从头开始的再训练。我们认为,这两种方法在实践中都是不够的。在这项工作中,我们提出了一个评价指标的机器遗忘算法的基础上认识的不确定性。据我们所知,这是机器遗忘的一般评估指标的第一个定义。
2022-09-19 cs.LG
Privacy-Preserving Debiasing using Data Augmentation and Machine Unlearning
University of Florida(佛罗里达大学)
本文提出结合数据增强与机器遗忘的方法,在缓解训练数据偏差的同时,通过多分片遗忘移除模型中的原始数据识别信息,从而提供可证明的隐私攻击防御,并在多个数据集上验证了其有效性与鲁棒性。
2024-04-19 cs.AI cs.CV cs.LG
Understanding Machine Unlearning Through the Lens of Mode Connectivity
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
该研究首次通过模式连通性视角探究机器遗忘,发现遗忘模型多位于连通盆地,MCU可揭示模型隐私差异,其集成能提升泛化与鲁棒性,且平滑性关联遗忘难度。
2026-08-04 cs.AI cs.CL cs.CV
Towards Natural Machine Unlearning
本文提出一种自然机器遗忘方法,通过向遗忘样本注入正确信息并配对标签,显著减少过度遗忘并增强超参数鲁棒性,优于现有最先进方法。
2025-10-10 cs.LG
CATA: Continual Machine Unlearning via Conflict-Averse Task Arithmetic
Fujian Normal University(福建师范大学);Nanyang Technological University(南洋理工大学);Xidian University(西安电子科技大学)
本文首次研究了视觉语言模型的持续去学习问题,提出CATA方法,通过冲突厌恶任务算术有效解决去学习中的有效性、模型保真度和持续性挑战。
2026-05-18 cs.AI cs.CV cs.LG
A More Practical Approach to Machine Unlearning
本文提出面向实用机器遗忘的首 epoch 梯度上升方法,发现 GPT-2 嵌入层是关键且可减半空间复杂度,并通过实证验证其优于全模型梯度上升。
2024-06-13 cs.AI cs.LG
Forgetting Similar Samples: Can Machine Unlearning Do it Better?
City University of Macau(澳门城市大学);Guangzhou University(广州大学)
本文研究了机器去学习在存在相似样本时的有效性,发现现有方法未能有效消除目标样本影响,并提出改进方案。
2026-01-11 cs.CR cs.LG
Towards Aligned Data Forgetting via Twin Machine Unlearning
针对机器遗忘中数据遗忘与黄金模型对齐的目标,提出双机机器学习方法,通过孪生问题训练预测器迁移,显著提升遗忘模型与黄金模型的对齐程度。
2025-01-23 cs.LG
Verification of Machine Unlearning is Fragile
University of Virginia(弗吉尼亚大学)
本文探讨了机器去学习验证的脆弱性,提出两种对抗性去学习过程以绕过现有验证策略,揭示了验证方法的局限性。
2026-04-21 cs.CR cs.LG
Machine Unlearning via Null Space Calibration
University of Technology Sydney(悉尼科技大学);University of Queensland(昆士兰大学);City University of Macau(澳门城市大学)
本文提出基于零空间校准的机器遗忘方法UNSC,通过将遗忘过程限制在剩余样本的零空间并利用伪标记增强,有效解决过度遗忘问题并提升模型在剩余数据上的性能。
2024-04-21 cs.AI cs.LG
Inference-time Unlearning Using Conformal Prediction
Google(谷歌)
本文提出了一种利用符合预测的推理时间反学习框架,通过验证器反馈改进生成响应质量,减少计算开销并提高反学习效果。
2026-02-03 cs.LG
Models Designed to Forget: Machine Unlearning via Key Deletion
Department of Computer Science, ETH Zurich(苏黎世联邦理工学院计算机科学系)
本文提出了一种新的机器遗忘方法,通过设计使模型具备遗忘能力。MUNKEY模型通过删除实例标识符实现直接零样本遗忘,无需权重更新或原始数据访问,在多个数据集上优于现有方法。
2026-10-27 cs.LG
Improved Localized Machine Unlearning Through the Lens of Memorization
Technical University of Munich(慕尼黑工业大学);Helmholtz Munich(亥姆霍兹慕尼黑中心);Google DeepMind(谷歌DeepMind);Imperial College London(伦敦帝国学院)
本文针对局部机器遗忘问题,借鉴记忆化研究提出改进的参数局部化策略,并设计 DEL 算法重置并微调关键参数,在多项数据集和指标上取得最优结果。
2024-12-03 cs.LG
Beyond Uniform Deletion: A Data Value-Weighted Framework for Certified Machine Unlearning
Department of Information Systems(信息系统系);Xi'an Jiaotong University(西安交通大学);Arizona State University(亚利桑那州立大学)
针对现有机器遗忘算法忽视数据流值异构性导致模型性能下降的问题,提出数据流值加权遗忘(DVWU)框架,通过基于数据流值的加权策略实现差异化遗忘,适配多种方法并经实验验证性能更优、鲁棒性更强且具可扩展性。
2025-11-10 cs.LG stat.ML
Machine Unlearning: Solutions and Challenges
本文综述机器遗忘方法,将其分为精确遗忘与近似遗忘两类,分析各自优劣并提出未来方向,为可信机器学习中的选择性数据删除提供路线图。
2024-03-15 cs.AI cs.LG
A Comparative Study of Machine Unlearning Techniques for Image and Text Classification Models
Faculty of Engineering, Alexandria University(亚历山大大学工程学院)
本文系统比较了六种先进的机器遗忘技术在图像与文本分类任务中的性能、效率与合规性,揭示其优势与局限,为伦理可适应的机器学习提供指导。
2024-12-27 cs.AI cs.CL cs.CV
Fairness and Robustness in Machine Unlearning
Sungkyunkwan University(成均馆大学)
针对机器学习遗忘无法实现精确遗忘的问题,首次聚焦其公平性与鲁棒性,提出基于方差-偏差权衡的公平性猜想,通过ResNet和ViT验证公平性与鲁棒性的关联,并提出评估指标,证明中间层和最后层遗忘的有效性。
2025-04-18 cs.LG
How Does Overparameterization Affect Machine Unlearning of Deep Neural Networks?
Faculty of Computer and Information Science(计算机与信息科学学院)
本文研究了深度神经网络去学习任务中模型参数化水平(即网络宽度)对性能的影响,探讨了不同去学习方法在不同参数化水平、去学习目标(隐私保护或偏见消除)以及是否显式使用被删除示例时的表现差异,发现过度参数化模型在隐私和偏见消除方面表现更优,但会带来一定的泛化能力下降。
2026-05-19 cs.LG
Similarity-Aware Machine Unlearning
University of Manchester(曼彻斯特大学);University of Sheffield(谢菲尔德大学);Paris Dauphine - PSL University(巴黎多芬大学 - 巴黎文理研究大学)
针对现有机器遗忘方法易对相似保留样本造成附带损害的问题,提出感知保留集的定位方法,结合余弦相似度构建评估集,在CIFAR-10与ResNet18的11组实验中验证了方法的有效性。
2026-08-04 cs.LG
Machine unlearning through fine-grained model parameters perturbation
College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机与电子工程学院);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Shenzhen Research Institute, Hunan University(湖南大学深圳研究院);Faculty of Computing, Engineering & Media, De Montfort University(德蒙福特大学计算、工程与媒体学院)
本研究提出细粒度Top-K和Random-k参数扰动的非精确机器遗忘策略,同时设计SPD-GAN及遗忘率、记忆保留率等新指标,在控制成本的同时实现高效隐私保护,且不明显降低模型性能。
2025-01-15 cs.AI cs.LG
Model Sparsity Can Simplify Machine Unlearning
Michigan State University(密歇根州立大学);IBM Research(IBM研究院);Cisco Research(思科研发);University of California, Santa Cruz(加州大学圣克鲁兹分校);ByteDance Research(字节跳动研究);Carnegie Mellon University(卡内基梅隆大学)
该研究提出基于模型稀疏化的机器遗忘新范式,通过权重剪枝与稀疏正则化缩小近似遗忘与精确遗忘的差距,显著提升遗忘效能,并可用于防御后门攻击、增强迁移学习。
2024-01-27 cs.LG
Machine Unlearning in Generative AI: A Survey
University of Notre Dame(圣母大学);University of Pennsylvania(宾夕法尼亚大学)
本文全面综述了生成式AI中的机器遗忘(MU)技术,涵盖问题表述、评估方法及各类技术的优劣,以解决模型记忆并生成敏感、偏见或危险信息的问题,并提出了未来研究的挑战与方向。
2024-07-30 cs.AI cs.CL cs.LG
Signal-Guided Optimization for Machine Unlearning
针对当前模型遗忘方法缺乏精确引导信号的问题,提出GSUO框架,设计特定任务细粒度引导信号指导遗忘过程,适用于多种遗忘任务。实验表明,该框架在遗忘有效性、泛化、效率等方面表现出色,优于14个基线。
2026-07-15 cs.AI cs.LG
Privacy Preservation through Practical Machine Unlearning
Department of Computer Science and Engineering(计算机科学与工程系);Mississippi State University(密苏里州立大学)
本文提出通过实用机器无学习方法,在保持模型性能的同时实现隐私保护,探讨了无学习框架在处理部分标记数据集中的应用及计算权衡。
2025-12-09 cs.CR cs.LG
Unlearning Information Bottleneck: Machine Unlearning of Systematic Patterns and Biases
Yale University(耶鲁大学);Wuhan University(武汉大学);EPFL(洛桑联邦理工学院);University of Bern(伯尔尼大学)
提出去学习信息瓶颈(UIB)框架,利用变分上界和动态先验调整参数,以高效移除系统模式与偏见,同时保持模型性能。
2024-05-22 cs.AI cs.LG
Siamese Machine Unlearning with Knowledge Vaporization and Concentration
The Hong Kong University of Science and Technology(香港科技大学)
针对机器遗忘成本高、依赖剩余数据等问题,提出知识汽化与浓缩概念,并基于孪生网络实现无需额外内存和完整剩余数据集的高效选择性遗忘。
2024-12-02 cs.LG
Gone but Not Forgotten: Improved Benchmarks for Machine Unlearning
Carnegie Mellon University Software Engineering Institute(卡内基梅隆大学软件工程研究所)
本文指出现有机器遗忘算法评估仅依赖基础成员推理攻击的缺陷,提出三种替代评估方法,并通过在多个计算机视觉数据集上的实验验证其有效性,呈现了该领域更详细的现状。
2024-05-29 cs.LG
On the Plasticity Collapse in Continual Machine Unlearning
Illinois Institute of Technology(伊利诺伊理工学院);Amazon(亚马逊公司);Northwestern University(西北大学);University of Michigan(密歇根大学)
本研究发现持续机器遗忘场景存在可塑性崩溃的固有问题,通过理论分析和多组实验证实其普遍性,为开发保可塑性遗忘算法提供了依据。
2026-09-01 cs.AI cs.LG
Machine Unlearning for Traditional Models and Large Language Models: A Short Survey
Renmin University of China(中国人民大学)
本文综述了传统模型与大语言模型的机器遗忘技术,涵盖定义、分类、评估标准及挑战,并提出有效性与效率评估方法,指出当前局限与未来研究方向。
2024-04-01 cs.CR cs.LG
Towards Reliable Forgetting: A Survey on Machine Unlearning Verification
Huazhong University of Science and Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Griffith University(格里菲斯大学)
本文综述了机器遗忘验证方法,提出行为验证与参数验证两类分类,分析现有方法的假设、优缺点及实际部署中的漏洞,指出当前验证研究的开放问题。
2026-04-07 cs.LG
Efficient Verified Machine Unlearning For Distillation
University of Warwick(沃里克大学)
针对师生知识蒸馏场景下教师端遗忘需完整重训练学生的高成本问题,提出PURGE框架,通过成分映射和增量多教师策略分区蒸馏、维持数据隔离,实现高效可验证的机器遗忘,同时保持学生准确率与基线相当。
2025-10-21 cs.LG
Rewind-to-Delete: Certified Machine Unlearning for Nonconvex Functions
本文提出了一种针对非凸损失函数的认证机器去学习算法,通过回退到学习过程早期步骤实现数据删除,证明了隐私和效用的权衡,并展示了优于现有方法的性能。
2025-12-15 cs.LG
WIN-U: Woodbury-Informed Newton-Unlearning as a retain-free Machine Unlearning Framework
Department of Computer Science(计算机科学系);Rensselaer Polytechnic Institute(拉特克利夫理工学院)
WIN-U提出了一种无需保留数据的机器反向学习框架,通过单次牛顿步骤和Woodbury矩阵恒等式实现高效反向学习,提升去噪效果和鲁棒性。
2026-04-15 cs.LG
Revisiting Machine Unlearning with Dimensional Alignment
Seoul National University(首尔大学);IPAI, Seoul National University(首尔大学IPAI)
本文提出一种基于维度对齐指标的机器遗忘框架,通过正则化损失、自蒸馏和交替训练有效消除遗忘集信息并保留保留集知识,同时引入了更准确的新评估工具。
2024-12-21 cs.LG
Survey of Security and Data Attacks on Machine Unlearning In Financial and E-Commerce
本文综述了金融与电商场景下针对机器遗忘的隐私与安全攻击,并系统梳理了差分隐私、密码学保证和零知识证明等防御策略,以保障数据完整性与模型安全。
2024-09-29 cs.CR cs.LG