SEPS: A Separability Measure for Robust Unlearning in LLMs
Yonsei University（延世大学）；Hongik University（弘国大学）
针对LLM机器遗忘中混合查询场景评估缺失的问题，提出SEPS度量及混合提示遗忘策略，显著提升多查询下的遗忘稳健性。
2025-05-27 cs.CL
Wisdom is Knowing What not to Say: Hallucination-Free LLMs Unlearning via Attention Shifting
Faculty of Information Technology, Monash University（墨尔本大学信息科技学院）；Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center, Qilu University of Technology (Shandong Academy of Sciences)（教育部计算能力网络与信息安全重点实验室，山东计算机科学中心，齐鲁大学（山东科学院））；Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing, Shandong Fundamental Research Center for Computer Science（山东省计算能力互联网与服务计算重点实验室，山东省计算机科学基础研究中心）；School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院）
本文提出注意力转移框架，通过保留上下文抑制和抗幻觉响应塑造，提升LLM去学习效果，在保持性能的同时减少幻觉响应。
2026-04-17 cs.CL
KnowledgeSmith: Uncovering Knowledge Updating in LLMs with Model Editing and Unlearning
Carnegie Mellon University（卡内基梅隆大学）；William & Mary（威廉与玛丽学院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文提出KnowledgeSmith框架，系统研究LLM的知识更新机制，通过结构化干预揭示知识传播、可塑性与鲁棒性等特性。
2026-03-25 cs.CL
Are We Really Measuring Forgetting? Pitfalls in Evaluating Machine Unlearning for Multimodal LLMs
Texas A&M University（得克萨斯农工大学）；National Taiwan University（台湾大学）；Columbia University（哥伦比亚大学）
本研究指出多模态大语言模型机器遗忘评估存在三类陷阱，推出GEMMU基准并重新评估代表性方法，发现泛化差距，为多模态机器遗忘评估提供指导。
2026-10-20 cs.CL
Less is More: Geometric Unlearning for LLMs with Minimal Data Disclosure
Faculty of Information Technology, Monash University, Clayton, Victoria, Australia.（墨尔本大学信息技术学院，澳大利亚维多利亚州克莱顿分校）
提出几何遗忘（GU）方法，通过操作模型隐藏状态并利用少量安全参考提示和锚点上下文合成提示，在无需原始训练数据的情况下实现高效选择性遗忘，在ToFU和UnlearnPII基准上达到强目标抑制且对非目标性能影响最小。
2026-05-27 cs.CL
Gradient-Controlled Decoding: A Safety Guardrail for LLMs with Dual-Anchor Steering
本文提出梯度控制解码（GCD），通过双锚点令牌提升安全性，降低误报率，同时在多个基准测试中有效抑制攻击，且对计算资源要求低。
2026-04-06 cs.CL
Lightweight Safety Guardrails Using Fine-tuned BERT Embeddings
Uniphore & UC Berkeley（Uniphore与伯克利大学）
本研究提出用微调Sentence-BERT替代大型语言模型作为安全护栏，将参数从70亿降至约6700万，在AEGIS基准上保持相当性能，兼顾安全与效率。
2024-11-21 cs.CL
Unlearning Climate Misinformation in Large Language Models
Microsoft Corporation（微软公司）；University of Vermont（佛蒙特大学）；George Mason University（乔治梅森大学）；RC Athena（希腊研究与技术基金会雅典娜研究中心）
本文研究了LLMs在气候信息上的事实准确性，发现注入虚假信息可能不影响其他领域准确性，并比较了遗忘算法、微调和RAG，证明遗忘算法对细微概念性声明有效，为开发更可靠的LLMs提供了指导。
2024-05-29 cs.CL
A Causal Explainable Guardrails for Large Language Models
Zhejiang University（浙江大学）；Ant Group（蚂蚁集团）
本文提出LLMGuardrail框架，通过因果分析与对抗学习消除LLMs引导过程中的语义偏见，并提供可解释性，从而更安全可靠地引导模型输出符合期望属性。
2024-09-04 cs.CL
Backdoor Unlearning Generalization: A Path Toward the Removal of Unknown Triggers in LLMs
Inria Paris（法国巴黎国家信息与自动化研究所）；Sorbonne Université（索邦大学）；Thales CDI（泰雷兹CDI）
本文通过实验证明，针对单个后门的遗忘训练可以泛化抑制其他未明确针对的后门，并引入交叉激活偏移距离量化不同训练引起的模型变化，为利用可控后门移除未知后门提供新方向。
2026-06-04 cs.CL
Rectifying Belief Space via Unlearning to Harness LLMs' Reasoning
MBZUAI；Tohoku University（东北大学）；RIKEN（日本理化学研究所）
针对大语言模型因虚假信念导致推理错误的问题，提出结合前向后向波束搜索识别信念、通过去学习校正信念空间的方法，可纠错且提升泛化，为提升LLM可靠性提供新方向。
2025-06-17 cs.CL
RKLD: Reverse KL-Divergence-based Knowledge Distillation for Unlearning Personal Information in Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）
针对大型语言模型遗忘个人信息时难以平衡遗忘质量与模型效用的问题，提出基于反向KL散度的知识蒸馏遗忘算法RKLD，有效实现高质量遗忘并维持模型效用。
2024-06-04 cs.CL
Bypassing Safety Guardrails in LLMs Using Humor
VMware Research（威睿研究院）
本文提出一种利用固定幽默模板包裹不安全请求以绕过LLM安全护栏的越狱方法，实验证明其跨模型有效，并揭示幽默与请求关注度之间的平衡是越狱成功的关键。
2025-04-09 cs.CL cs.LG
Breaking Chains: Unraveling the Links in Multi-Hop Knowledge Unlearning
KAIST AI（韩国科学技术院人工智能学院）
本文针对现有多跳知识遗忘方法在中间跳被遗忘时无法彻底移除知识的问题，提出基于不确定性的MUNCH框架，通过分解多跳查询并利用模型不确定性来增强遗忘效果，且可与现有遗忘技术灵活集成。
2024-10-17 cs.CL
Evaluating Deep Unlearning in Large Language Models
针对现有LLM事实遗忘方法忽视演绎关联的问题，提出深度遗忘设置及三个评估指标，构建基准数据集并实验，发现现有方法存在缺陷，需开发针对性算法实现稳健深度事实遗忘。
2025-11-11 cs.CL
LLM-Based Persuasion Enables Guardrail Override in Frontier LLMs
Maritaca AI；JusBrasil
研究展示通过大语言模型作为模拟用户进行说服对话，可使其他大语言模型生成争议性文本，采用自然语言压力策略，如同行比较和认知责任重构，实现说服效果。
2026-05-13 cs.CL
Answer When Needed, Forget When Not: Language Models Pretend to Forget via In-Context Knowledge Unlearning
The University of Tokyo（东京大学）
本文提出“上下文知识遗忘”方法，通过微调使 LLMs 在测试时根据查询上下文选择性遗忘目标知识，在多个数据集上实现高达 95% 的遗忘准确率并保留 80% 不相关知识，同时揭示模型仅在最后一层做出遗忘决策的“假装遗忘”现象。
2025-06-03 cs.CL
Learning-Time Encoding Shapes Unlearning in LLMs
UC, San Diego（加州大学圣地亚哥分校）
本文实证研究大语言模型学习阶段的知识编码方式对事后去学习效果的影响，发现释义描述学习提升去学习性能，而逐条知识去学习具挑战性。
2025-06-18 cs.CL cs.LG
Lacuna Inc. at SemEval-2025 Task 4: LoRA-Enhanced Influence-Based Unlearning for LLMs
HSE University（俄罗斯高等经济大学）
本文提出 LIBU 算法，通过 LoRA 增强的基于影响的遗忘方法，在不损害模型整体效用的情况下从大语言模型中移除特定知识，实验证明其适用于多种遗忘任务。
2025-06-04 cs.AI cs.CL
Can LLMs Truly Forget? Revealing Unlearning Gaps Through Adversarial Evaluation
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Microsoft Corporation（微软公司）
本研究针对TOFU数据集和Llama-3.2-3B-Instruct模型，引入ASR指标评估遗忘方法，发现标准指标表现优异的遗忘方法仍存在高对抗恢复风险，提出需补充对抗性压力测试作为遗忘评估的必要部分。
2026-08-25 cs.CL
GRU: Mitigating the Trade-off between Unlearning and Retention for LLMs
The University of Melbourne（墨尔本大学）；RIKEN Center for Advanced Intelligence Project（日本理化学研究所先进智能项目中心）；Stevens Institute of Technology（斯蒂文斯理工学院）
本文提出梯度整流遗忘框架GRU，通过调节遗忘过程中梯度更新方向来减少对无关响应的副作用，从而缓解大语言模型遗忘与保留之间的权衡，并在多个基准上验证了有效性。
2025-06-05 cs.CL cs.LG
Towards Safer Large Language Models through Machine Unlearning
University of Notre Dame（圣母大学）；University of Pennsylvania（宾夕法尼亚大学）
本文提出选择性知识否定遗忘框架 SKU，通过先获取再否定有害知识的两阶段方法，在消除大语言模型有害输出的同时保持其在正常提示上的效用。
2024-06-05 cs.CL
Uncovering the Potential Risks in Unlearning: Danger of English-only Unlearning in Multilingual LLMs
Seoul National University（首尔大学）；Sungkyunkwan University（成均馆大学）；LG Electronics（LG电子）
本研究聚焦多语言LLMs仅用英语遗忘的盲点，发现全量微调后遗忘会出现语言混淆问题，提出N-Mix分数量化该现象，证明参考类指标会失效，呼吁开发基于语义的新型遗忘评估指标。
2025-10-28 cs.AI cs.CL
ALTER: Asymmetric LoRA for Token-Entropy-Guided Unlearning of LLMs
ALTER通过不对称LoRA架构实现基于令牌熵引导的LLM高效去学习，取得SOTA性能并保留高模型效用。
2026-03-02 cs.AI cs.CL
SEUF: Is Unlearning One Expert Enough for Mixture-of-Experts LLMs?
University of Notre Dame（诺丁汉大学）；Michigan State University（密歇根州立大学）；Cisco Research（思科研究）
针对MoE LLMs遗忘中的过度遗忘和效用下降问题，提出选定专家遗忘框架SEUF，通过专家归因和路由器锚定损失实现可控遗忘，在仅遗忘0.06%参数下显著提升遗忘质量和模型效用。
2025-06-30 cs.AI cs.CL cs.LG
Avoiding Copyright Infringement via Large Language Model Unlearning
University of Pennsylvania（宾夕法尼亚大学）；University of Notre Dame（圣母大学）；Northwestern University（西北大学）
针对LLMs因生成受版权保护内容引发的问题，提出稳定序列遗忘（SSU）框架，通过识别移除对应权重更新、引入随机标签损失等方法，在遗忘效果与通用能力间实现有效权衡，优于现有基线。
2025-02-11 cs.CL
Opt-Out: Investigating Entity-Level Unlearning for Large Language Models via Optimal Transport
KAIST AI（韩国科学技术院人工智能研究所）；Hyundai Motor Company（现代汽车公司）
本文提出基于最优传输的实体级遗忘方法Opt-Out，利用Wasserstein距离擦除目标实体全部知识，并构建首个实体级遗忘数据集ELUDe，实验证明其优于现有方法且无需完整重训练。
2025-06-06 cs.CL
Do LLMs Really Forget? Evaluating Unlearning with Knowledge Correlation and Confidence Awareness
针对现有大语言模型遗忘评估忽略知识隐式关联、易高估效果的问题，提出带置信度的知识图谱表征与LLM推理评判的评估框架，新基准实验验证其更严谨真实。
2025-10-22 cs.CL cs.LG
Split, Unlearn, Merge: Leveraging Data Attributes for More Effective Unlearning in LLMs
IBM Research（IBM研究院）
本文提出 SPUNGE 框架，通过按数据属性分割遗忘数据、分别遗忘并合并模型，增强任意机器遗忘方法的效果，并在最先进 LLM 上验证其安全性提升与通用能力保持。
2024-06-17 cs.AI cs.CL cs.LG
Investigating the Feasibility of Mitigating Potential Copyright Infringement via Large Language Model Unlearning
University of Pennsylvania（宾夕法尼亚大学）
针对预训练大语言模型（LLMs）的版权侵权风险，提出稳定顺序遗忘（SSU）框架，通过任务向量移除对应权重更新，在遗忘效果与通用能力间实现有效权衡，优于现有基线。
2024-12-16 cs.CL
UnStar: Unlearning with Self-Taught Anti-Sample Reasoning for LLMs
National University of Singapore（新加坡国立大学）；KIIT Bhubaneswar（基蒂布巴内斯瓦尔大学）
本文提出UnSTAR方法，通过自教生成的反样本实现大语言模型的细粒度定向遗忘学习，可在不影响相关知识的前提下高效移除特定关联。
2024-10-22 cs.AI cs.CL cs.LG
Tool Unlearning for Tool-Augmented LLMs
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
针对工具增强型LLM首次提出工具遗忘任务，并设计ToolDelete方法，通过知识移除与成员推断攻击评估，在多个数据集上实现有效遗忘且不损害其他能力。
2025-08-06 cs.AI cs.CL cs.LG
Knowledge Beyond Language: Bridging the Gap in Multilingual Machine Unlearning Evaluation
GSCST, Seoul National University（首尔国立大学GSCST）；AIIS, Seoul National University（首尔国立大学AIIS）；Department of Artificial Intelligence, Chung-Ang University（Chung-Ang大学人工智能系）；Korean Surgical Researcher Foundation, Republic of Korea（韩国外科研究员基金会）
本文提出两种新指标评估多语言信息分布，分析不同语言对间信息一致去除，为多语言机器遗忘评估提供新视角。
2026-05-14 cs.CL
Unlearn What You Want to Forget: Efficient Unlearning for LLMs
Georgia Institute of Technology（佐治亚理工学院）；Stanford University（斯坦福大学）
本文提出一种基于轻量级遗忘层和选择性师生目标的高效LLM遗忘框架，并通过融合机制支持连续遗忘操作，在分类与生成任务上验证了其有效性。
2023-10-31 cs.AI cs.CL
GRAIL: Gradient-Based Adaptive Unlearning for Privacy and Copyright in LLMs
Korea University（高丽大学）
针对大语言模型因学习敏感信息引发的“被遗忘权”等问题及现有单域遗忘方法无法应对多域场景的缺陷，提出GRAIL多域遗忘框架，通过梯度信息和自适应参数定位策略，在保证遗忘成功率的同时提升知识保留成功率17%。
2025-04-17 cs.AI cs.CL
Not Every Token Needs Forgetting: Selective Unlearning to Limit Change in Utility in Large Language Model Unlearning
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出选择性遗忘（SU）方法，通过仅遗忘目标文档中与不想要信息相关的关键子集词元，在实现有效遗忘的同时显著保持模型通用效用。
2025-06-01 cs.CL
How Data Inter-connectivity Shapes LLMs Unlearning: A Structural Unlearning Perspective
University of Cambridge（剑桥大学）；Meta
本文提出PISTOL结构化数据集构建方法，揭示数据互联性对LLM遗忘的影响，发现互联性越强、知识图谱越密，遗忘难度越大，且领域偏斜时难以平衡各领域保持性能。
2025-03-10 cs.AI cs.CL cs.LG
CRISP: Persistent Concept Unlearning via Sparse Autoencoders
Technion – Israel Institute of Technology（技术ion-以色列理工学院）；Boston University（波士顿大学）；University of Zagreb, FER（Zagreb大学，FER）；Kempner Institute, Harvard University（哈佛大学 Kempner研究所）
CRISP利用稀疏自编码器实现持久性概念卸载，通过自动识别多层显著SAE特征并抑制其激活，优于现有方法，在WMDP基准的安全关键卸载任务中有效移除有害知识并保持通用能力。
2026-04-26 cs.CL
Shadow Unlearning: A Neuro-Semantic Approach to Fidelity-Preserving Faceless Forgetting in LLMs
TCS Research, Hyderabad（TCS研究院，海得拉巴）；IIIT Hyderabad（IIIT海得拉巴）
提出影子遗忘范式，通过神经语义投影器遗忘（NSPU）框架在匿名化遗忘数据上实现机器遗忘，保护隐私的同时保持模型效用，计算效率提升至少10倍。
2026-05-26 cs.AI cs.CL cs.CR
Multilingual Amnesia: On the Transferability of Unlearning in Multilingual LLMs
Mila – Quebec AI Institute（魁北克人工智能研究所）；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Google Research（谷歌研究）
本研究探讨多语言大语言模型中卸载的可转移性，通过实验发现语法相似性是预测跨语言卸载行为的关键因素。
2026-01-09 cs.CL cs.LG
Offset Unlearning for Large Language Models
University of Southern California（南加州大学）；Microsoft Research（微软研究院）；University of California, Davis（加州大学戴维斯分校）
针对黑盒LLMs遗忘敏感数据的需求，提出δ-Unlearning框架，通过对比小模型logits学习偏移量，有效遗忘目标数据并保持通用性能。
2025-05-23 cs.AI cs.CL cs.LG
TOFU: A Task of Fictitious Unlearning for LLMs
Carnegie Mellon University（卡内基梅隆大学）
本文提出TOFU基准，通过200个合成作者档案及遗忘集和配套指标，系统评估大语言模型遗忘效果，并发现现有基线方法均无法实现有效遗忘。
2024-01-11 cs.CL cs.LG
UCD: Unlearning in LLMs via Contrastive Decoding
MIT（麻省理工学院）；Boston University（波士顿大学）
本研究针对大语言模型的机器遗忘需求，提出基于对比解码的推理阶段遗忘算法UCD，通过两个不同训练设置的小模型引导原模型输出，在TOFU和MUSE基准上实现了遗忘效果与模型效用的更好平衡。
2025-06-12 cs.CL cs.CR cs.LG
LoRA-Guard: Parameter-Efficient Guardrail Adaptation for Content Moderation of Large Language Models
Samsung R&D Institute UK (SRUK)（三星英国研发中心（SRUK））
LoRA-Guard通过低秩适配器共享LLM语言特征，实现参数高效的内容审核护栏，以100-1000倍更低开销保持准确性，支持设备端部署。
2024-12-18 cs.AI cs.CL cs.LG
Towards Transfer Unlearning: Empirical Evidence of Cross-Domain Bias Mitigation
The University of Tokyo（东京大学）；The University of Edinburgh（爱丁堡大学）；RIKEN AIP（理化学研究所人工智能项目）
本文提出一种基于掩码语言建模的遗忘技术，通过对仇恨言论执行梯度上升来选择性遗忘有害内容，有效缓解LLMs偏见并保持语言能力，且揭示了跨领域迁移遗忘的潜力。
2024-07-24 cs.CL cs.LG
Intrinsic Guardrails: How Semantic Geometry of Personality Interacts with Emergent Misalignment in LLMs
International Institute of Information Technology, Hyderabad（国际信息研究所，海得拉巴）；Mohamed bin Zayed University of Artificial Intelligence, Abu Dhabi（Mohamed bin Zayed人工智能大学，阿布扎比）
研究通过心理测量学方法揭示LLM人格空间的稳定性，发现人格向量可作为内在护栏抑制LLM的涌现偏差。
2026-05-11 cs.AI cs.CL
Building Guardrails for Large Language Models
University of Liverpool（利物浦大学）；Key Laboratory of System Software (Chinese Academy of Sciences)（中国科学院系统软件重点实验室）；State Key Laboratory of Computer Science（计算机科学国家重点实验室）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Warwick（华威大学）；Institute of Digital Technologies, Loughborough University London（拉夫堡大学伦敦数字技术研究所）
本文提出系统性构建LLM护栏的方法，通过多学科协作明确需求、神经符号实现及验证测试，以应对LLM应用中的风险。
2024-05-29 cs.AI cs.CL
What the "Spotless" Mind Remembers: How Knowledge Entanglement Shapes What Leaks After Unlearning in LLMs
Computer Science University of Southern California（计算机科学南加州大学）；Computer Science Indiana University（计算机科学印第安纳大学）
该研究探究LLM中知识纠缠与遗忘后事实泄露的关系，发现GA+KL等算法会反转纠缠度与回忆率的正相关，训练出可预测遗忘后提示事实性的模型用于模型审计。
2026-08-28 cs.AI cs.CL
Dissecting Language Models: Machine Unlearning via Selective Pruning
King’s College London（伦敦国王学院）
本文提出一种针对大型语言模型的选择性剪枝机器遗忘方法，通过基于神经元在目标能力与整体网络性能上的相对重要性来移除特定神经元，以高效识别并消除特定行为。
2024-07-24 cs.CL cs.LG
Catastrophic Failure of LLM Unlearning via Quantization
The Pennsylvania State University（宾夕法尼亚州立大学）；Harvard University（哈佛大学）；Amazon（亚马逊公司）
该研究发现大语言模型的机器遗忘可能仅隐藏知识而非真正擦除，经量化处理后被遗忘信息会恢复，实验显示带效用约束的遗忘方法全精度下保留21%目标遗忘知识，4位量化后升至83%，揭示了现有遗忘方法的潜在缺陷。
2025-03-21 cs.AI cs.CL
Towards Robust and Parameter-Efficient Knowledge Unlearning for LLMs
New York University（纽约大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；LG AI Research（LG人工智能研究）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对LLM隐私遗忘中梯度上升不稳定与低秩适应权衡不佳的问题，提出LoKU框架，结合倒置铰链损失与数据自适应LoRA初始化，在多个基准上实现高效且鲁棒的敏感信息移除，并保持生成性能。
2025-04-24 cs.CL cs.LG
Understanding the Dilemma of Unlearning for Large Language Models
Tsinghua University（清华大学）；Ant Group（蚂蚁集团）
本文提出可解释框架 unPact，通过提示 token 归因与贡献追踪分析六种遗忘方法，发现现有LLM遗忘要么知识可经关键词强调恢复，要么导致通用能力崩溃。
2025-09-29 cs.AI cs.CL
Exploring the Vulnerability of the Content Moderation Guardrail in Large Language Models via Intent Manipulation
Boise State University（博伊州立大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Pittsburgh（匹兹堡大学）；New York University（纽约大学）；Florida International University（佛罗里达国际大学）
本研究调查大型语言模型（LLMs）中感知意图的内容审核护栏的脆弱性，提出两阶段提示优化框架IntentPrompt，通过意图操纵实现高越狱成功率，实验表明其优于前沿方法并能规避先进防御，凸显安全机制关键弱点。
2025-08-25 cs.AI cs.CL
Unlearning Isn't Deletion: Investigating Reversibility of Machine Unlearning in LLMs
The Hong Kong Polytechnic University（香港理工大学）；Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Cruz（加州大学圣克ruz分校）；Huawei Technologies（华为技术有限公司）；Research Centre for Privacy and Security Technologies in Future Smart Systems, PolyU（未来智能系统中的隐私与安全技术研究中心，PolyU）
研究揭示大语言模型反学习的可逆性问题，提出表示层面分析框架，通过PCA相似度、CKA和Fisher信息等指标评估表示漂移，发现四种遗忘模式，指出数据来源影响重学效率，揭示不可逆遗忘的挑战。
2026-05-16 cs.AI cs.CL cs.CR
