A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks
Universitat Rovira i Virgili(罗维拉-维格利大学);Department of Computer Engineering(计算机工程系);Mathematics(数学);CYBERCAT-Center for Cybersecurity Research of Catalonia(加泰罗尼亚网络安全研究中心);ComSCIAM-Center for Computational Science and Applied Mathematics(计算科学与应用数学研究中心)
本文批判性回顾了成员推断攻击的有效性及隐私威胁,提出评估框架,发现现实条件下MIAs隐私威胁较弱,过度依赖可能导致风险高估和模型效用牺牲。
2026-03-24 cs.CR cs.LG
NeuGuard: Lightweight Neuron-Guided Defense against Membership Inference Attacks
Lehigh University(理海大学);Illinois Institute of Technology(伊利诺伊理工学院)
针对机器学习模型的成员推断攻击(MIA)会导致模型训练中使用的训练数据集面临严重的隐私风险。针对成员推断攻击(MIA),提出了一种新颖有效的神经元引导防御方法NeuGuard。我们确定了一个关键的弱点,在现有的防御机制对MIA,其中他们不能同时防御两个常用的神经网络为基础的MIA,这两种攻击应单独评估,以确保防御效果。我们提出了NeuGuard,一种新的防御方法,联合控制输出和内部神经元的激活与目标,以引导训练集和测试集的模型输出具有接近的分布。NeuGuard算法由类方差最小化控制和层均衡输出控制两部分组成,类方差最小化控制的目标是约束最终输出神经元,层均衡输出控制的目标是约束每层的内层神经元。我们评估NeuGuard和比较它与国家的最先进的防御两个神经网络为基础的MIA,五个最强的度量为基础的MIA,包括新提出的标签只MIA三个基准数据集。结果表明,NeuGuard优于国家的最先进的防御提供了更好的实用性,隐私权衡,通用性和开销。
2022-12-12 cs.AI cs.CR cs.LG
EM-MIAs: Enhancing Membership Inference Attacks in Large Language Models through Ensemble Modeling
School of Information Science;Engineering Lanzhou University Lanzhou, China
本文提出EM-MIAs集成攻击方法,利用XGBoost模型整合LOSS、Reference-based、min-k和zlib等现有MIAs技术,显著提升了大型语言模型训练数据隐私风险的评估效果。
2024-12-23 cs.CR cs.RO
Reference Recommendation based Membership Inference Attack against Hybrid-based Recommender Systems
Macquarie University(麦考瑞大学);The University of Newcastle(纽卡斯尔大学);Nanjing University(南京大学)
本文提出了一种基于指标的成员推断攻击方法,用于检测混合推荐系统中用户数据的成员资格,通过个性化特征和参考推荐来提高攻击效果。
2025-12-10 cs.CR
Automated Membership Inference Attacks (AutoMIA): Discovering MIA Signal Computations using LLM Agents
Emory University(埃默里大学);Oak Ridge National Laboratory(橡树岭国家实验室)
本文提出AutoMIA框架,利用LLM代理自动化设计和实现新的成员推断攻击策略,通过系统探索攻击策略空间,发现新型攻击方法,实验显示在目标模型和数据集上提升AUC达0.18。
2026-09-18 cs.CR cs.LG
To Trust or Not To Trust Prediction Scores for Membership Inference Attacks
Technical University of Darmstadt(达姆施塔特工业大学);TU Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森人工智能中心(hessian.AI))
成员推断攻击(MIA)旨在确定特定样本是否用于训练预测模型。知道这一点确实可能导致隐私泄露。然而,大多数MIA利用模型的预测分数-给定一些输入的每个输出的概率-遵循训练模型倾向于在其训练数据上表现不同的直觉。我们认为,这是许多现代深度网络架构的谬论。因此,MIA将悲惨地失败,因为过度自信不仅会导致已知领域的高误报率,而且还会导致分布外数据的高误报率,并隐含地充当对MIA的防御。具体来说,使用生成对抗网络,我们能够产生潜在的无限数量的样本,这些样本被错误地分类为训练数据的一部分。换句话说,MIA的威胁被高估了,泄露的信息比以前假设的要少。此外,在模型的过度自信和它们对MIA的敏感性之间实际上存在权衡:当分类器不知道时,它们知道的越多,做出的置信度越低,它们揭示的训练数据就越多。
2023-01-24 cs.CR cs.CV cs.LG
Win-k: Improved Membership Inference Attacks on Small Language Models
Department of Computer Engineering, Koç University(计算机工程系,科奇大学)
本文针对小型语言模型提出了一种名为win-k的成员推断攻击方法,基于min-k改进,在多个数据集和模型上实验证明其优于现有攻击,尤其在小模型上表现更佳。
2025-08-02 cs.AI cs.CR
LDL: A Defense for Label-Based Membership Inference Attacks
University of Washington(华盛顿大学);Western Washington University(西华盛顿大学)
用于在医疗保健和金融等应用中训练深度神经网络(DNN)模型的数据通常包含敏感信息。DNN模型可能会遭受过拟合。过度拟合模型已被证明容易受到基于查询的攻击,如成员推断攻击(MIA)。MIA旨在确定样本是否属于用于训练分类器的数据集(成员)或非成员。最近,一类新的标签为基础的MIA(LAB MIA)的建议,其中对手只需要有知识的预测标签的样本。开发针对对手的防御,在无法重新训练的DNN模型上执行LAB MIA仍然是一个悬而未决的问题。我们提出低密度脂蛋白,一个重量轻的防御实验室米娅。LDL的工作原理是在查询样本周围构建一个高维球体,使得模型决策对于球体内样本的(噪声)变体保持不变。这个标签不变性的范围产生了歧义,并防止查询对手正确地确定样本是成员还是非成员。我们分析的成功率的对手进行LAB MIA时,部署LDL的特征,并表明,该配方与实验观察是一致的。我们在七个数据集上评估LDL- CIFAR-10,CIFAR-100,GTSRB,Face,Purchase,Location和Texas -具有不同大小的训练数据。所有这些数据集都已被SOTA LAB MIA使用。我们的实验表明,LDL降低了对手在每种情况下进行LAB MIA的成功率。我们根据经验比较了LDL与需要重新训练DNN模型的LAB MIA的防御,并表明LDL表现良好,尽管不需要重新训练DNN。
2022-12-16 cs.CR cs.LG
White-box Membership Inference Attacks against Diffusion Models
本文提出一种基于模型梯度的白盒成员推理攻击方法,针对扩散模型在多种参数设置下实现接近100%的攻击成功率,并能有效对抗常见防御机制。
2024-11-21 cs.CR
Why Train More? Effective and Efficient Membership Inference via Memorization
Microsoft(微软);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出通过选择高记忆分数样本,在成员推断攻击中显著提升攻击有效性并将影子模型数量减少近两个数量级,实现高效攻击。
2023-10-12 cs.CR cs.LG
Membership Inference Attacks on Large-Scale Models: A Survey
Institute of Science Tokyo(东京科学研究所)
本文为首个针对大语言模型、大多模态模型的成员推理攻击全面综述,按多维度分类分析攻击方法,覆盖模型流水线多阶段,指出挑战并提出隐私增强研究方向。
2025-08-31 cs.CR cs.LG
Membership Inference Attacks on Machine Learning: A Survey
The University of Auckland(奥克兰大学);Lehigh University(利哈伊大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Macquarie University(麦考瑞大学)
机器学习(ML)模型已经广泛应用于各种应用,包括图像分类、文本生成、音频识别和图形数据分析。然而,最近的研究表明,ML模型容易受到成员推断攻击(MIA)的影响,MIA旨在推断数据记录是否用于训练目标模型。ML模型上的MIA可能直接导致隐私泄露。例如,通过识别已经用于训练与某种疾病相关联的模型的临床记录的事实,攻击者可以推断临床记录的所有者具有高概率的疾病。近年来,MIA已被证明对各种ML模型有效,例如,分类模型和生成模型。与此同时,人们提出了许多防御方法来减轻MIA。虽然ML模型上的MIA是一个新兴的、快速发展的研究领域,但目前还没有系统的研究。在本文中,我们进行了第一次全面的调查成员推断攻击和防御。我们提供了攻击和防御的分类,根据他们的特点,并讨论他们的优点和缺点。根据在这次调查中发现的局限性和差距,我们指出了几个有前途的未来研究方向,以激励研究人员谁愿意遵循这一领域。这项调查不仅为研究界提供了参考,也为该研究领域以外的研究人员提供了一个清晰的描述。为了进一步帮助研究人员,我们创建了一个在线资源库,我们将在未来的相关工作中不断更新。感兴趣的读者可以在https://github.com/HongshengHu/membership-inference-machine-learning-literature上找到该存储库。
2022-02-03 cs.CR cs.LG
MRMMIA: Membership Inference Attacks on Memory in Chat Agents
University of Virginia(弗吉尼亚大学)
针对聊天代理记忆系统,提出一种利用多次召回探针的统一成员推断攻击方法MRMMIA,在黑盒、灰盒和白盒设置下均优于基线,揭示了代理中的隐私风险。
2026-05-27 cs.CR cs.LG
Practical Bayes-Optimal Membership Inference Attacks
Chalmers University of Technology(查尔姆斯理工大学);AI Sweden(瑞典人工智能中心);Linköping University(林雪平大学)
该研究基于贝叶斯决策理论推导了节点级成员推理攻击的最优规则,提出适用于普通数据和图数据的BASE与G-BASE方法,以更低成本达到SOTA性能,还证明了BASE与RMIA在特定超参数下等价。
2025-10-27 cs.CR cs.LG
Empirical Comparison of Membership Inference Attacks in Deep Transfer Learning
University of Helsinki(赫尔辛基大学)
本研究实证比较了多种成员推断攻击在深度迁移学习中的性能,发现攻击效能随训练数据增加而降低,且无单一攻击能覆盖所有隐私风险,LiRA总体最优,IHA在高数据下对特定数据集更有效。
2025-10-08 cs.CR cs.LG
On the Evidentiary Limits of Membership Inference for Copyright Auditing
Centrum Wiskunde \& Informatica (CWI), Amsterdam, The Netherlands;Vrije Universiteit Amsterdam, Amsterdam, The Netherlands;University of Rhode Island, Kingston, RI, United States;Independent Researcher
研究探讨了在对抗性版权纠纷中成员推断攻击(MIAs)作为证据的可靠性,发现其在面对语义保持的改写数据时信号脆弱,表明MIAs单独不足以用于LLMs的版权审计。
2026-01-19 cs.AI cs.CR
Membership Inference Attacks on Recommender System: A Survey
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);University of Cincinnati(辛辛那提大学);University of Southern California(南加州大学)
本文首次系统综述推荐系统中成员推断攻击的设计、挑战及防御方法,揭示其隐私风险与未来研究方向。
2026-10-30 cs.AI cs.CR cs.IR
RelaxLoss: Defending Membership Inference Attacks without Losing Utility
CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全中心(CISPA));Salesforce Research(赛富时研究院);University of Maryland(马里兰大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
成员推断攻击(Membership Inference Attack,MIA)是机器学习模型中普遍存在的一种对训练数据隐私性的长期威胁。现有的工作证据之间的可扩展性的训练和测试损失分布和模型的脆弱性MIA的强连接。受现有结果的启发,我们提出了一种新的训练框架,该框架基于放松损失,具有更可实现的学习目标,从而缩小了泛化差距,减少了隐私泄露。RelaxLoss适用于任何分类模型,具有易于实现和可忽略的开销的额外好处。通过对五个具有不同模式(图像,医疗数据,交易记录)的数据集进行广泛的评估,我们的方法在对MIA的弹性以及模型效用方面始终优于最先进的防御机制。我们的防御是第一个可以承受大范围攻击,同时保持(甚至提高)目标模型的效用。源代码可在https://github.com/DingfanChen/RelaxLoss上获得
2022-07-12 cs.CR cs.LG
What Hard Tokens Reveal: Exploiting Low-confidence Tokens for Membership Inference Attacks against Large Language Models
Florida International University(佛罗里达国际大学);California State Polytechnic University, Pomona(加州州立理工大学波莫纳分校)
本文提出HT-MIA方法,通过分析低置信度token的概率改进,提升对大型语言模型的成员推断攻击效果,并探讨差分隐私训练作为防御机制。
2026-01-27 cs.CR
Privacy Auditing of Multi-domain Graph Pre-trained Model under Membership Inference Attacks
针对多领域图预训练模型在成员推断攻击中的隐私风险,提出MGP-MIA框架,通过信号放大、影子模型构建和相似性推断机制提升攻击效果。
2025-11-22 cs.AI cs.CR cs.LG
Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise
Southeast University(东南大学);The University of Queensland(昆士兰大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
本文提出利用扩散模型初始噪声中的残余语义信息进行成员推断攻击,揭示了微调模型在隐私保护方面的脆弱性。
2026-08-14 cs.CR cs.LG
ImageAuditor: Membership Inference Attack against Image-based Retrieval-Augmented Generation
UCLA(加州大学洛杉矶分校);University of California, Berkeley(加州大学伯克利分校);University of Tennessee, Knoxville(田纳西大学诺克斯维尔分校)
提出首个针对基于图像的检索增强生成(IRAG)的成员推理攻击方法ImageAuditor,通过奖励引导策略优化解决跨模态检索和判别信号提取两大挑战,在仅需四次查询时AUROC超过80%。
2026-06-02 cs.CR
Membership Inference Attacks Beyond Overfitting
Universitat Rovira i Virgili, Department of Computer Engineering
本文研究了超越传统过拟合的成员推断攻击根本原因,并提出针对性的防御策略,以保护易受攻击的训练数据样本。
2025-11-20 cs.CR cs.LG
Membership Inference over Diffusion-models-based Synthetic Tabular Data
University of Alberta(阿尔伯塔大学)
该研究针对基于扩散模型的合成表格数据生成方法,提出基于逐步误差比较的查询式 MIA,评估 TabDDPM 与 TabSyn 的隐私风险,发现前者更易受攻击、后者更具韧性。
2025-10-16 cs.AI cs.CR cs.LG
Disparate Vulnerability to Membership Inference Attacks
EPFL(洛桑联邦理工学院);University of Toronto(多伦多大学);Vector Institute(向量研究所);Alan Turing Institute(艾伦图灵研究所);University College London(伦敦大学学院)
针对机器学习模型的成员推断攻击(MIA)使攻击者能够确定给定数据记录是否是模型的训练数据的一部分。在本文中,我们提供了一个深入研究的现象,不同的脆弱性对MIA:不平等的成功率MIA对不同的人口亚组。我们首先建立必要和充分的条件MIA被防止,平均和人口子群,使用的概念分布推广。其次,我们得出不同的脆弱性连接到算法公平性和差分隐私。我们表明,公平只能防止不同的漏洞对有限类别的对手。差分隐私限制了不同的脆弱性,但会显著降低模型的准确性。我们表明,天真地应用现有的攻击估计不同的脆弱性MIA可能会导致高估。然后,我们确定哪些攻击适合于估计不同的漏洞,并提供了一个统计框架,这样做可靠。我们对合成和真实世界的数据进行实验,发现在现实环境中存在不同脆弱性的统计学显著证据。代码可在https://github.com/spring-epfl/disparate-vulnerability上获得
2021-09-16 cs.CR cs.CY cs.LG
Ensemble Privacy Defense for Knowledge-Intensive LLMs against Membership Inference Attacks
Vanderbilt University(范德比大学);University of Arizona(亚利桑那大学);Clemson University(克莱姆森大学)
本文提出集成隐私防御框架EPD,通过聚合知识注入LLM、基础LLM和专用判断模型的输出,有效降低成员推断攻击的成功率,提升知识密集型大语言模型的隐私安全性。
2025-12-01 cs.AI cs.CR
Imitative Membership Inference Attack
Purdue University(普渡大学);NVIDIA Research(英伟达研究)
IMIA通过模仿训练技术构建少量目标感知模型,以更高效的方式实现成员推断攻击,优于现有方法且计算成本更低。
2026-01-10 cs.CR cs.LG
Rethinking Membership Inference Attacks Against Transfer Learning
Nanyang Technological University(南洋理工大学);Wuhan University(武汉大学);Northeastern University(东北大学);City University of Hong Kong(香港城市大学);Swinburne University of Technology(斯威本科技大学)
本文提出一种针对迁移学习的成员推断攻击新方法,通过分析学生模型与影子模型隐藏层差异,在白盒访问下推断教师模型训练数据,揭示迁移学习中的隐私风险。
2025-01-20 cs.CR cs.LG
Membership Privacy Evaluation in Deep Spiking Neural Networks
University of Padua(帕多瓦大学);Radboud University(拉德堡德大学)
本文首次系统评估脉冲神经网络(SNN)的成员隐私,通过八种成员推理攻击(MIA)实验揭示SNN在神经形态数据下比ANN更脆弱,并证明数据增强可显著降低攻击性能。
2024-09-28 cs.AI cs.CR
Exploring the limits of strong membership inference attacks on large language models
Google DeepMind(谷歌DeepMind);University College London(伦敦大学学院);University of Washington(华盛顿大学);Imperial College London(伦敦帝国学院);CISPA Helmholtz Center for Information Security(信息安全赫尔姆霍兹中心);Stanford University(斯坦福大学);Microsoft Research(微软研究院)
本研究通过扩展LiRA攻击至GPT-2模型,揭示了强成员推断攻击在大型语言模型上的有效性及局限性,发现其在实际应用中仍存在显著的AUC限制和决策不稳定问题。
2026-01-08 cs.AI cs.CR cs.LG
Towards Label-Only Membership Inference Attack against Pre-trained Large Language Models
Zhejiang University(浙江大学);Nanyang Technological University(南洋理工大学)
针对预训练大语言模型,提出仅标签成员推断攻击PETAL,利用逐令牌语义相似性近似输出概率并计算困惑度,在WikiMIA和MIMIR基准上优于现有仅标签攻击,与基于逻辑的攻击相当。
2025-02-26 cs.CL cs.CR
Impact of Dataset Properties on Membership Inference Vulnerability of Deep Transfer Learning
Department of Computer Science, University of Helsinki(赫尔辛基大学计算机科学系);School of Informatics, Kyoto University(京都大学信息学系)
研究揭示了数据集属性对深度迁移学习成员推断漏洞的影响,发现样本数量增加可降低非DP模型的漏洞,但保护最脆弱点需大规模数据集。
2026-02-02 cs.CR cs.LG
Membership Inference Attacks on Vision-Language-Action Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Georgia Institute of Technology(佐治亚理工学院)
本文首次系统研究了针对视觉-语言-动作(VLA)模型的成员推断攻击(MIAs),提出了样本级和轨迹级的攻击设置,并展示了在多个VLA基准和模型上,攻击方法在黑盒环境下表现出色,揭示了VLA模型在隐私方面的高风险。
2026-05-08 cs.CR
Investigating Membership Inference Attacks under Data Dependencies
University of Waterloo(滑铁卢大学)
该研究针对现有成员推理攻击评估默认样本独立同分布的局限,分析了样本存在统计依赖时差分隐私的保护失效原因,通过实证验证训练集依赖会显著提升成员推理攻击性能。
2023-06-14 cs.CR cs.LG
LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
Tsinghua University(清华大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出 LoRA-Leak 框架,结合现有与利用预训练模型参考的改进 MIA,系统评估 LoRA 微调语言模型的成员泄露风险,并验证有效防御。
2025-07-24 cs.AI cs.CL cs.CR
Ensembling Membership Inference Attacks Against Tabular Generative Models
University of California Los Angeles(加州大学洛杉矶分校);Stanford University(斯坦福大学)
针对表格生成模型的成员推断攻击,提出集成方法以在不确定性下实现更稳健、遗憾最小化的隐私审计策略。
2025-09-02 cs.CR cs.LG
A Zero Auxiliary Knowledge Membership Inference Attack on Aggregate Location Data
Imperial College London(伦敦帝国学院);EPFL(洛桑联邦理工学院)
针对聚合位置数据成员推理攻击需辅助数据集的不现实假设,本文提出首个零辅助知识MIA,通过从发布数据生成合成轨迹并纠正偏差,在多种隐私设置下匹配最先进攻击效果,凸显了强DP保护的必要性。
2024-06-26 cs.CR cs.LG
Discard the Dross and Select the Essential: Pre-query Sample Selection for Black-box Membership Inference Attacks
Wuhan University of Technology(武汉理工大学);Bohai University(渤海大学)
针对黑盒成员推理攻击中样本成员信号不均匀导致查询浪费的问题,提出PSS-MIA框架,通过损失差排序(LGR)预选高信号样本,显著降低查询成本并提升攻击性能。
2026-06-29 cs.CR
Lost in Modality: Evaluating the Effectiveness of Text-Based Membership Inference Attacks on Large Multimodal Models
Japan Advanced Institute of Science and Technology - Information Science(日本科学技术先进研究院-信息科学)
本文评估了基于文本的成员推断攻击(MIAs)在多模态模型中的有效性,发现其在分布内设置中表现相似,而在分布外设置中视觉输入起到正则化作用,有效掩盖了成员信号。
2026-05-21 cs.AI cs.CR
Cascading and Proxy Membership Inference Attacks
Purdue University(普渡大学);NVIDIA Research(NVIDIA研究)
针对成员推断攻击,提出自适应场景下的级联攻击(CMIA)和非自适应场景下的代理攻击(PMIA),利用成员依赖性或代理样本行为提升推断性能,在低假阳性率下显著优于现有方法。
2025-09-07 cs.CR cs.LG
A Data-Free Membership Inference Attack on Federated Learning in Hardware Assurance
Florida Institute of National Security, University of Florida(佛罗里达国家安全研究所,佛罗里达大学)
本文提出一种无数据的成员推断攻击,利用标准单元库布局引导梯度反向攻击,从拦截的模型更新中重建图像,推断敏感硬件特性。
2026-04-21 cs.CR
LoMime: Query-Efficient Membership Inference using Model Extraction in Label-Only Settings
Department of Computer and Data Sciences(计算机与数据科学系);Case School of Engineering(凯斯工程学院);Case Western Reserve University(凯斯西储大学);IBM Research(IBM研究院)
提出一种基于迁移性和模型提取的仅标签成员推理攻击框架,通过一次性查询提取替代模型,在严格黑盒约束下显著降低查询成本,性能与最先进方法相当。
2026-09-10 cs.CR cs.LG
Context-Aware Membership Inference Attacks against Pre-trained Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(莫扎伊德·本·扎耶德人工智能大学);Brave Software(Brave软件公司);Imperial College London(帝国理工学院);National University of Singapore(新加坡国立大学)
本文提出一种针对预训练LLMs的新型成员推理攻击方法,通过将统计测试适应于数据点内子序列的困惑度动态,有效解决了以往方法忽略LLMs生成特性的问题,显著提升了攻击性能并揭示了模型依赖上下文的记忆模式。
2025-09-16 cs.AI cs.CL cs.CR
FedMIA: An Effective Membership Inference Attack Exploiting "All for One" Principle in Federated Learning
Tsinghua University(清华大学);The Hong Kong University of Science and Technology(香港科技大学);Webank(微众银行)
本文提出FedMIA,一种利用联邦学习中所有客户端更新(“人人为我”原则)的成员推理攻击方法,通过单尾似然比检验增强攻击效果,在分类和生成任务中优于现有方法,并具有鲁棒性和可扩展性。
2025-03-27 cs.CR cs.LG
Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data
Imperial College London(帝国理工学院)
针对现有合成数据成员推断攻击需依赖相似分布辅助数据集的强假设问题,本文提出三种仅用合成数据的攻击场景,在两类真实数据集和生成器上验证了攻击有效性,放宽了隐私审计假设,提升了攻击现实性。
2023-09-21 cs.AI cs.CR
LUMIA: Linear probing for Unimodal and MultiModal Membership Inference Attacks leveraging internal LLM states
Universidad Carlos III de Madrid(卡洛斯三世大学);Inria(法国国家信息与自动化研究所);UVSQ(凡尔赛大学);U. Paris-Saclay(巴黎萨克雷大学);Télécom SudParis(巴黎高等电信学院);Institut Polytechnique de Paris(巴黎综合理工学院)
本文提出 LUMIA,通过逐层线性探针分析 LLM 内部激活以检测单模态与多模态成员推理攻击,并在多种架构和数据集上验证其 AUC 显著提升。
2025-01-10 cs.AI cs.CR
A Probabilistic Fluctuation based Membership Inference Attack for Diffusion Models
School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络空间科学与工程学院);Tsinghua University(清华大学);Dalian University of Technology(大连理工大学)
本文针对扩散模型成员推理攻击中过拟合依赖导致的性能不足问题,提出基于概率波动检测的黑盒攻击方法PFAMI,利用生成模型固有的记忆现象提升攻击成功率,实验表明其ASR较最佳基线提高约27.9%。
2024-12-26 cs.AI cs.CR cs.CV
Knowledge Cross-Distillation for Membership Privacy
National University of Singapore(新加坡国立大学);NEC Corporation(NEC公司)
成员推断攻击(MIA)对机器学习模型的训练数据造成隐私风险。使用MIA,攻击者猜测目标数据是否是训练数据集的成员。针对MIA的最先进的防御措施,即成员隐私(Membership Privacy)的蒸馏,不仅需要保护私人数据,还需要大量未标记的公共数据。然而,在某些隐私敏感的领域,如医疗和金融,公共数据的可用性得不到保证。此外,通过使用生成对抗网络生成公共数据的简单方法显着降低了模型的准确性,正如《自然》的作者所报道的那样。为了克服这个问题,我们提出了一种新的防御MIA,使用知识蒸馏,而不需要公共数据。我们的实验表明,我们的防御的隐私保护和准确性与MIA研究中使用的基准表格数据集,Purchase100和Texas100,我们的防御有一个更好的隐私效用权衡比现有的防御,也不使用公共数据的图像数据集CIFAR10。
2022-02-04 cs.CR cs.LG
The Hidden Cost of Modeling P(X): Vulnerability to Membership Inference Attacks in Generative Text Classifiers
IIT Kharagpur(印度理工学院Kharagpur分校);Amazon.com Inc.(亚马逊公司)
本文通过理论分析与九数据集实证比较,证明显式建模 $P(X,Y)$ 的生成式文本分类器比判别式和伪生成式分类器更易受 MIA 攻击,且规范推理会加剧泄露。
2025-10-17 cs.CL cs.CR cs.LG
SoK: Membership Inference Attacks on LLMs are Rushing Nowhere (and How to Fix It)
Imperial College London(伦敦帝国学院);Sense Street(森斯街公司);CentraleSupélec(中央高等电力学院);Université Paris-Saclay(巴黎-萨克雷大学)
本文系统梳理了针对 LLMs 的成员推理攻击(MIAs)文献,指出事后构建的数据集存在严重分布偏移导致现有记忆性声明失效,并提出了随机化测试划分等评估改进方案与基准测试建议。
2025-03-07 cs.CL cs.CR cs.LG
Is Difficulty Calibration All We Need? Towards More Practical Membership Inference Attacks
本文揭示难度校准在成员推理攻击中的固有缺陷,提出查询与计算高效的RAPID攻击方法,通过直接重用原始成员分数来修正校准错误,在9个数据集和5种模型架构上超越LiRA等现有最优攻击。
2024-09-04 cs.CR
Neighborhood Blending: A Lightweight Inference-Time Defense Against Membership Inference Attacks
Case Western Reserve University(凯斯西储大学);Texas Tech University(德克萨斯理工大学)
邻域融合通过轻量级推理时间防御机制有效对抗成员推断攻击,保持标签完整性并提升实用性。
2026-02-13 cs.CR
Evaluating Differential Privacy Against Membership Inference in Federated Learning: Insights from the NIST Genomics Red Team Challenge
NIST(美国国家标准与技术研究院)
本文评估差分隐私在联邦学习中对抗成员推断攻击的效果,提出堆叠攻击策略,并在不同隐私配置下验证其性能。
2026-04-15 cs.CR cs.LG
Overconfidence is a Dangerous Thing: Mitigating Membership Inference Attacks by Enforcing Less Confident Prediction
University of British Columbia(不列颠哥伦比亚大学)
本文提出无需额外数据的防御方法 HAMP,通过高熵软标签和熵正则化强制模型低置信度预测,统一模糊成员与非成员样本差异,在五个数据集上实现了优于七种先进防御的隐私-效用权衡。
2023-07-04 cs.AI cs.CR cs.LG