NeuGuard: Lightweight Neuron-Guided Defense against Membership Inference Attacks
Lehigh University(理海大学);Illinois Institute of Technology(伊利诺伊理工学院)
针对机器学习模型的成员推断攻击(MIA)会导致模型训练中使用的训练数据集面临严重的隐私风险。针对成员推断攻击(MIA),提出了一种新颖有效的神经元引导防御方法NeuGuard。我们确定了一个关键的弱点,在现有的防御机制对MIA,其中他们不能同时防御两个常用的神经网络为基础的MIA,这两种攻击应单独评估,以确保防御效果。我们提出了NeuGuard,一种新的防御方法,联合控制输出和内部神经元的激活与目标,以引导训练集和测试集的模型输出具有接近的分布。NeuGuard算法由类方差最小化控制和层均衡输出控制两部分组成,类方差最小化控制的目标是约束最终输出神经元,层均衡输出控制的目标是约束每层的内层神经元。我们评估NeuGuard和比较它与国家的最先进的防御两个神经网络为基础的MIA,五个最强的度量为基础的MIA,包括新提出的标签只MIA三个基准数据集。结果表明,NeuGuard优于国家的最先进的防御提供了更好的实用性,隐私权衡,通用性和开销。
2022-12-12 cs.AI cs.CR cs.LG
Res-MIA: A Training-Free Resolution-Based Membership Inference Attack on Federated Learning Models
Department of Computer Engineering and Information Technology(计算机工程与信息技术系)
Res-MIA是一种无训练、黑盒的联邦学习成员推断攻击,通过降解输入分辨率来揭示模型对高频细节的敏感性,实现高精度的隐私泄露检测。
2026-01-24 cs.AI cs.CR cs.LG
What Hard Tokens Reveal: Exploiting Low-confidence Tokens for Membership Inference Attacks against Large Language Models
Florida International University(佛罗里达国际大学);California State Polytechnic University, Pomona(加州州立理工大学波莫纳分校)
本文提出HT-MIA方法,通过分析低置信度token的概率改进,提升对大型语言模型的成员推断攻击效果,并探讨差分隐私训练作为防御机制。
2026-01-27 cs.CR
Learning-Based Difficulty Calibration for Enhanced Membership Inference Attacks
Case Western Reserve University(凯斯西储大学)
针对现有成员推理攻击(MIA)在低误报率下真阳性率偏低的问题,提出基于学习的难度校准MIA方法LDC-MIA,可显著提升低误报率下的攻击性能,效率远优于前沿方法LiRA且成本相当。
2024-07-09 cs.AI cs.CR cs.LG
Fast-MIA: Efficient and Scalable Membership Inference for LLMs
Independent Researcher(独立研究者);Nikkei Inc.(日本 Nikkei 公司)
本文提出Fast-MIA库,通过高吞吐量批量推理和交叉方法缓存架构,提升LLM成员推断攻击的效率与可扩展性,支持统一框架和灵活配置,促进可重复的隐私风险审计研究。
2026-05-10 cs.CL cs.CR
Privacy Auditing of Multi-domain Graph Pre-trained Model under Membership Inference Attacks
针对多领域图预训练模型在成员推断攻击中的隐私风险,提出MGP-MIA框架,通过信号放大、影子模型构建和相似性推断机制提升攻击效果。
2025-11-22 cs.AI cs.CR cs.LG
Discard the Dross and Select the Essential: Pre-query Sample Selection for Black-box Membership Inference Attacks
Wuhan University of Technology(武汉理工大学);Bohai University(渤海大学)
针对黑盒成员推理攻击中样本成员信号不均匀导致查询浪费的问题,提出PSS-MIA框架,通过损失差排序(LGR)预选高信号样本,显著降低查询成本并提升攻击性能。
2026-06-29 cs.CR
Ensemble Privacy Defense for Knowledge-Intensive LLMs against Membership Inference Attacks
Vanderbilt University(范德比大学);University of Arizona(亚利桑那大学);Clemson University(克莱姆森大学)
本文提出集成隐私防御框架EPD,通过聚合知识注入LLM、基础LLM和专用判断模型的输出,有效降低成员推断攻击的成功率,提升知识密集型大语言模型的隐私安全性。
2025-12-01 cs.AI cs.CR
Lost in Modality: Evaluating the Effectiveness of Text-Based Membership Inference Attacks on Large Multimodal Models
Japan Advanced Institute of Science and Technology - Information Science(日本科学技术先进研究院-信息科学)
本文评估了基于文本的成员推断攻击(MIAs)在多模态模型中的有效性,发现其在分布内设置中表现相似,而在分布外设置中视觉输入起到正则化作用,有效掩盖了成员信号。
2026-05-21 cs.AI cs.CR
Leveraging Membership Inference Attacks for Privacy Measurement in Federated Learning for Remote Sensing Images
本文提出利用成员推断攻击作为联邦学习中遥感图像隐私测量的量化框架,评估不同FL算法和通信策略下的隐私泄露情况,发现通信高效策略能降低攻击成功率并保持性能。
2026-01-08 cs.AI cs.CR cs.CV
Automated Membership Inference Attacks (AutoMIA): Discovering MIA Signal Computations using LLM Agents
Emory University(埃默里大学);Oak Ridge National Laboratory(橡树岭国家实验室)
本文提出AutoMIA框架,利用LLM代理自动化设计和实现新的成员推断攻击策略,通过系统探索攻击策略空间,发现新型攻击方法,实验显示在目标模型和数据集上提升AUC达0.18。
2026-09-18 cs.CR cs.LG
On the Evidentiary Limits of Membership Inference for Copyright Auditing
Centrum Wiskunde \& Informatica (CWI), Amsterdam, The Netherlands;Vrije Universiteit Amsterdam, Amsterdam, The Netherlands;University of Rhode Island, Kingston, RI, United States;Independent Researcher
研究探讨了在对抗性版权纠纷中成员推断攻击(MIAs)作为证据的可靠性,发现其在面对语义保持的改写数据时信号脆弱,表明MIAs单独不足以用于LLMs的版权审计。
2026-01-19 cs.AI cs.CR
Nob-MIAs: Non-biased Membership Inference Attacks Assessment on Large Language Models with Ex-Post Dataset Construction
针对大语言模型成员推断攻击评估受分布偏差干扰的问题,本文提出事后假设下的无偏数据集构建方法,实验验证该方法可实现公平评估,且多数MIA在去偏后性能接近随机。
2024-09-26 cs.CR
CIG-MIA: Context-Induced Information Gain Membership Inference Attacks against Retrieval-Augmented Generation
Fudan University(复旦大学);The Hong Kong Polytechnic University(香港理工大学);Purple Mountain Laboratories(紫金山实验室)
针对RAG系统知识库成员推理,提出基于上下文诱导信息增益的CIG-MIA攻击,在灰盒和黑盒设置下分别达到0.99和0.93的AUC。
2026-09-15 cs.CR
A Probabilistic Fluctuation based Membership Inference Attack for Diffusion Models
School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络空间科学与工程学院);Tsinghua University(清华大学);Dalian University of Technology(大连理工大学)
本文针对扩散模型成员推理攻击中过拟合依赖导致的性能不足问题,提出基于概率波动检测的黑盒攻击方法PFAMI,利用生成模型固有的记忆现象提升攻击成功率,实验表明其ASR较最佳基线提高约27.9%。
2024-12-26 cs.AI cs.CR cs.CV
Membership Inference Attacks fueled by Few-Short Learning to detect privacy leakage tackling data integrity
University of Granada(格拉纳达大学);ADIA Lab(ADIA实验室);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所(DaSCI))
本文提出基于少样本学习的成员推断攻击模型 FeS-MIA 和可解释的 Log-MIA 隐私度量,以更低资源成本评估深度学习模型的隐私泄露与训练数据完整性,并在图像分类和语言建模任务上验证其优于现有方法。
2025-03-12 cs.AI cs.CR
Reference Recommendation based Membership Inference Attack against Hybrid-based Recommender Systems
Macquarie University(麦考瑞大学);The University of Newcastle(纽卡斯尔大学);Nanjing University(南京大学)
本文提出了一种基于指标的成员推断攻击方法,用于检测混合推荐系统中用户数据的成员资格,通过个性化特征和参考推荐来提高攻击效果。
2025-12-10 cs.CR
Evaluating the Defense Potential of Machine Unlearning against Membership Inference Attacks
Democritus University of Thrace(色雷斯德谟克利特大学)
本文评估了三种机器无学习算法在对抗成员推断攻击中的防御效果,发现其效果受算法选择、模型容量和学习率影响显著。
2026-01-22 cs.CR
LUMIA: Linear probing for Unimodal and MultiModal Membership Inference Attacks leveraging internal LLM states
Universidad Carlos III de Madrid(卡洛斯三世大学);Inria(法国国家信息与自动化研究所);UVSQ(凡尔赛大学);U. Paris-Saclay(巴黎萨克雷大学);Télécom SudParis(巴黎高等电信学院);Institut Polytechnique de Paris(巴黎综合理工学院)
本文提出 LUMIA,通过逐层线性探针分析 LLM 内部激活以检测单模态与多模态成员推理攻击,并在多种架构和数据集上验证其 AUC 显著提升。
2025-01-10 cs.AI cs.CR
Generating Is Believing: Membership Inference Attacks against Retrieval-Augmented Generation
School of Artificial Intelligence, Hubei University(湖北大学人工智能学院);Huazhong University of Science and Technology(华中科技大学)
本文针对RAG外部数据库的成员隐私风险,提出了利用样本与生成内容语义相似性的成员推理攻击S$^2$MIA,实验证明其性能优于五种现有攻击并能突破三种防御。
2024-09-26 cs.AI cs.CR
Privacy for All: Demystify Vulnerability Disparity of Differential Privacy against Membership Inference Attack
当机器学习算法应用于敏感数据时,会对隐私构成潜在威胁。越来越多的先前工作已经证明,成员推断攻击(MIA)可以将训练数据中的特定私有信息泄露给攻击者。与此同时,机器学习的算法公平性越来越受到学术界和工业界的关注。算法公平性确保机器学习模型不歧视特定人口统计群体的个体(例如,黑人和女性)。鉴于MIA确实是一种学习模式,如果MIA“公平地”平等对待所有群体的个人,就会引起严重关切。换句话说,一个特定的群体是否比其他群体更容易受到MIA的伤害。本文探讨了算法公平性问题的背景下,MIA及其防御。首先,在公平性评价方面,提出了脆弱性差异(VD)的概念,以量化不同人口群体的MIA待遇差异。其次,在四个真实世界的数据集上评估了VD,并表明VD确实存在于这些数据集中。第三,探讨了差分隐私作为MIA的防御机制对VD的影响。结果表明,DP虽能显著改善VD,但不能完全消除VD。因此,第四,设计了一种新的缓解算法FAIRPICK来降低VD。大量的实验结果表明,FAIRPICK可以有效地减少VD与DP部署和没有。
2020-01-24 cs.CR
Membership Inference Attacks are Easier on Difficult Problems
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
成员推断攻击(MIA)试图检测数据样本是否被用于训练神经网络模型,例如检测版权滥用。我们发现,具有更高维度的输入和输出的模型更容易受到MIA的影响,并在更详细的图像翻译和语义分割,包括医学图像分割模型。我们表明,重建错误可以导致非常有效的MIA攻击,因为它们是记忆的指示。不幸的是,重建误差本身在区分训练中使用的不可预测图像和以前从未见过的易于预测图像方面效果较差。为了克服这一点,我们建议使用一种新的可预测性误差,可以为每个样本计算,其计算不需要训练集。我们的成员误差,通过减去重建误差的可预测性误差,实现高MIA的准确性在大量的基准。
2021-08-18 cs.CR cs.LG
Biologically-Informed Hybrid Membership Inference Attacks on Generative Genomic Models
Asia Belfiore(第1机构);Dmitrii Usynin(第2机构)
本文提出了一种结合生物信息学指标的混合成员推理攻击方法,用于评估生成式基因组模型的隐私保护效果。
2025-12-18 cs.AI cs.CR
Exploring the limits of strong membership inference attacks on large language models
Google DeepMind(谷歌DeepMind);University College London(伦敦大学学院);University of Washington(华盛顿大学);Imperial College London(伦敦帝国学院);CISPA Helmholtz Center for Information Security(信息安全赫尔姆霍兹中心);Stanford University(斯坦福大学);Microsoft Research(微软研究院)
本研究通过扩展LiRA攻击至GPT-2模型,揭示了强成员推断攻击在大型语言模型上的有效性及局限性,发现其在实际应用中仍存在显著的AUC限制和决策不稳定问题。
2026-01-08 cs.AI cs.CR cs.LG
Knowledge Cross-Distillation for Membership Privacy
National University of Singapore(新加坡国立大学);NEC Corporation(NEC公司)
成员推断攻击(MIA)对机器学习模型的训练数据造成隐私风险。使用MIA,攻击者猜测目标数据是否是训练数据集的成员。针对MIA的最先进的防御措施,即成员隐私(Membership Privacy)的蒸馏,不仅需要保护私人数据,还需要大量未标记的公共数据。然而,在某些隐私敏感的领域,如医疗和金融,公共数据的可用性得不到保证。此外,通过使用生成对抗网络生成公共数据的简单方法显着降低了模型的准确性,正如《自然》的作者所报道的那样。为了克服这个问题,我们提出了一种新的防御MIA,使用知识蒸馏,而不需要公共数据。我们的实验表明,我们的防御的隐私保护和准确性与MIA研究中使用的基准表格数据集,Purchase100和Texas100,我们的防御有一个更好的隐私效用权衡比现有的防御,也不使用公共数据的图像数据集CIFAR10。
2022-02-04 cs.CR cs.LG
Tab-MIA: A Benchmark Dataset for Membership Inference Attacks on Tabular Data in LLMs
Department of Software and Information Systems Engineering, Ben-Gurion University of the Negev(软件与信息系统工程系,贝内杰尔·大学)
本文提出 Tab-MIA 基准,涵盖五个数据集合与六种编码格式,首次系统评估微调 LLM 在表格数据上的成员推理攻击风险。
2025-07-23 cs.CL cs.CR
Membership Inference Attacks on Recommender System: A Survey
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);University of Cincinnati(辛辛那提大学);University of Southern California(南加州大学)
本文首次系统综述推荐系统中成员推断攻击的设计、挑战及防御方法,揭示其隐私风险与未来研究方向。
2026-10-30 cs.AI cs.CR cs.IR
United We Defend: Collaborative Membership Inference Defenses in Federated Learning
The Hong Kong Polytechnic University(香港理工大学);PolyU Research Centre for Privacy Security Technologies in Future Smart Systems(香港理工大学未来智能系统隐私安全技术研究中心)
本文提出CoFedMID框架,通过协作防御机制减少联邦学习中成员推断攻击的性能,同时保持模型效用。
2026-01-11 cs.CR
LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
Tsinghua University(清华大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出 LoRA-Leak 框架,结合现有与利用预训练模型参考的改进 MIA,系统评估 LoRA 微调语言模型的成员泄露风险,并验证有效防御。
2025-07-24 cs.AI cs.CL cs.CR
Quantifying Membership Inference Vulnerability via Generalization Gap and Other Model Metrics
University of Central Florida(中佛罗里达大学);University of Texas San Antonio(德克萨斯大学圣安东尼奥分校)
我们演示了目标模型的泛化差距如何直接导致一个有效的确定性黑盒成员推断攻击(MIA)。这提供了基于简单度量的模型对MIA的安全性的上限。此外,这种攻击被证明是最佳的预期意义上只访问某些可能获得的度量有关的网络的训练和性能。实验表明,这种攻击在许多情况下与最先进的MIA的准确性相当。
2020-09-11 cs.CR cs.LG stat.ML
Membership Inference Attack and Defense for Wireless Signal Classifiers with Deep Learning
Virginia Tech(弗吉尼亚理工大学);Intelligent Automation, Inc.(智能自动化公司)
提出了一种无线成员推断攻击(MIA),用于从无线信号分类器中泄漏私有信息。机器学习(ML)提供了对无线信号进行分类的强大手段,例如,用于PHY层认证。作为对抗性机器学习攻击,MIA推断目标分类器的训练数据中是否使用了感兴趣的信号。该私有信息包含波形、信道和设备特征,并且如果被泄露,则可以被对手利用来识别底层ML模型的漏洞(例如,以渗透PHY层认证)。空中MIA的一个挑战是,由于信道条件的差异,对手和预期接收机处的接收信号以及因此的RF指纹不同。因此,对手首先通过观察频谱来构建代理分类器,然后在该分类器上启动黑盒MIA。MIA结果表明,对手可以可靠地推断用于构建目标分类器的信号(以及潜在的无线电和信道信息)。因此,通过建立影子MIA模型和欺骗对手来开发针对MIA的主动防御。这种防御可以成功地降低MIA的准确性,并防止从无线信号分类器的信息泄漏。
2021-07-22 cs.CR cs.IT cs.LG
LDL: A Defense for Label-Based Membership Inference Attacks
University of Washington(华盛顿大学);Western Washington University(西华盛顿大学)
用于在医疗保健和金融等应用中训练深度神经网络(DNN)模型的数据通常包含敏感信息。DNN模型可能会遭受过拟合。过度拟合模型已被证明容易受到基于查询的攻击,如成员推断攻击(MIA)。MIA旨在确定样本是否属于用于训练分类器的数据集(成员)或非成员。最近,一类新的标签为基础的MIA(LAB MIA)的建议,其中对手只需要有知识的预测标签的样本。开发针对对手的防御,在无法重新训练的DNN模型上执行LAB MIA仍然是一个悬而未决的问题。我们提出低密度脂蛋白,一个重量轻的防御实验室米娅。LDL的工作原理是在查询样本周围构建一个高维球体,使得模型决策对于球体内样本的(噪声)变体保持不变。这个标签不变性的范围产生了歧义,并防止查询对手正确地确定样本是成员还是非成员。我们分析的成功率的对手进行LAB MIA时,部署LDL的特征,并表明,该配方与实验观察是一致的。我们在七个数据集上评估LDL- CIFAR-10,CIFAR-100,GTSRB,Face,Purchase,Location和Texas -具有不同大小的训练数据。所有这些数据集都已被SOTA LAB MIA使用。我们的实验表明,LDL降低了对手在每种情况下进行LAB MIA的成功率。我们根据经验比较了LDL与需要重新训练DNN模型的LAB MIA的防御,并表明LDL表现良好,尽管不需要重新训练DNN。
2022-12-16 cs.CR cs.LG
Membership Inference Attacks against Synthetic Data through Overfitting Detection
University of Cambridge(剑桥大学);Alan Turing Institute(艾伦·图灵研究所)
数据是大多数科学的基础。不幸的是,共享数据可能会受到侵犯数据隐私的风险的阻碍,从而阻碍医疗保健等领域的研究。合成数据是一种潜在的解决方案。它旨在生成与原始数据具有相同分布的数据,但不会泄露有关个人的信息。成员推断攻击(Membership Inference Attack,MIA)是一种常见的隐私攻击,攻击者试图确定特定的真实样本是否用于模型的训练。以前提出MIA反对生成模型的作品要么表现出低性能-给人一种数据高度私密的错觉-或者需要假设访问内部生成模型参数-这是一种风险相对较低的情况,因为数据发布者通常只发布合成数据,而不是模型。在这项工作中,我们认为一个现实的MIA设置,假设攻击者有一些知识的底层数据分布。我们提出了DOMIAS,一个基于密度的MIA模型,旨在通过生成模型的局部过拟合来推断成员资格。实验表明,DOMIAS是显着更成功的MIA比以前的工作,特别是在攻击不常见的样品。后者令人不安,因为这些样本可能对应于代表性不足的群体。我们还演示了DOMIAS的MIA性能评分如何为隐私提供可解释的度量,为数据发布者提供了一种新的工具,用于在其合成数据中实现所需的隐私-效用权衡。
2023-02-24 cs.CR cs.LG
When Fairness Meets Privacy: Exploring Privacy Threats in Fair Binary Classifiers via Membership Inference Attacks
University of Technology Sydney(悉尼科技大学);City University of Macau(澳门城市大学);Data61 CSIRO
针对公平性增强二分类模型对基于分数的成员推理攻击存在抵抗力的现象,提出利用原始模型与公平性增强模型预测差异及预测差距作为攻击线索的高效攻击方法FD-MIA,并验证了其有效性。
2024-08-27 cs.AI cs.CR cs.LG
Detecting Training Data of Large Language Models via Expectation Maximization
University of California, Santa Barbara(加州大学圣巴巴拉分校);AWS AI Lab(AWS人工智能实验室)
本文提出EM-MIA方法,通过期望最大化策略检测大型语言模型的训练数据,实验表明其在分布重叠明显时表现优异,揭示了当前方法的局限性。
2026-01-26 cs.AI cs.CL cs.CR
Context-Aware Membership Inference Attacks against Pre-trained Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(莫扎伊德·本·扎耶德人工智能大学);Brave Software(Brave软件公司);Imperial College London(帝国理工学院);National University of Singapore(新加坡国立大学)
本文提出一种针对预训练LLMs的新型成员推理攻击方法,通过将统计测试适应于数据点内子序列的困惑度动态,有效解决了以往方法忽略LLMs生成特性的问题,显著提升了攻击性能并揭示了模型依赖上下文的记忆模式。
2025-09-16 cs.AI cs.CL cs.CR
Membership Inference over Diffusion-models-based Synthetic Tabular Data
University of Alberta(阿尔伯塔大学)
该研究针对基于扩散模型的合成表格数据生成方法,提出基于逐步误差比较的查询式 MIA,评估 TabDDPM 与 TabSyn 的隐私风险,发现前者更易受攻击、后者更具韧性。
2025-10-16 cs.AI cs.CR cs.LG
MRMMIA: Membership Inference Attacks on Memory in Chat Agents
University of Virginia(弗吉尼亚大学)
针对聊天代理记忆系统,提出一种利用多次召回探针的统一成员推断攻击方法MRMMIA,在黑盒、灰盒和白盒设置下均优于基线,揭示了代理中的隐私风险。
2026-05-27 cs.CR cs.LG
Practical Bayes-Optimal Membership Inference Attacks
Chalmers University of Technology(查尔姆斯理工大学);AI Sweden(瑞典人工智能中心);Linköping University(林雪平大学)
该研究基于贝叶斯决策理论推导了节点级成员推理攻击的最优规则,提出适用于普通数据和图数据的BASE与G-BASE方法,以更低成本达到SOTA性能,还证明了BASE与RMIA在特定超参数下等价。
2025-10-27 cs.CR cs.LG
A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks
Universitat Rovira i Virgili(罗维拉-维格利大学);Department of Computer Engineering(计算机工程系);Mathematics(数学);CYBERCAT-Center for Cybersecurity Research of Catalonia(加泰罗尼亚网络安全研究中心);ComSCIAM-Center for Computational Science and Applied Mathematics(计算科学与应用数学研究中心)
本文批判性回顾了成员推断攻击的有效性及隐私威胁,提出评估框架,发现现实条件下MIAs隐私威胁较弱,过度依赖可能导致风险高估和模型效用牺牲。
2026-03-24 cs.CR cs.LG
To Trust or Not To Trust Prediction Scores for Membership Inference Attacks
Technical University of Darmstadt(达姆施塔特工业大学);TU Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森人工智能中心(hessian.AI))
成员推断攻击(MIA)旨在确定特定样本是否用于训练预测模型。知道这一点确实可能导致隐私泄露。然而,大多数MIA利用模型的预测分数-给定一些输入的每个输出的概率-遵循训练模型倾向于在其训练数据上表现不同的直觉。我们认为,这是许多现代深度网络架构的谬论。因此,MIA将悲惨地失败,因为过度自信不仅会导致已知领域的高误报率,而且还会导致分布外数据的高误报率,并隐含地充当对MIA的防御。具体来说,使用生成对抗网络,我们能够产生潜在的无限数量的样本,这些样本被错误地分类为训练数据的一部分。换句话说,MIA的威胁被高估了,泄露的信息比以前假设的要少。此外,在模型的过度自信和它们对MIA的敏感性之间实际上存在权衡:当分类器不知道时,它们知道的越多,做出的置信度越低,它们揭示的训练数据就越多。
2023-01-24 cs.CR cs.CV cs.LG
Shadow-Free Membership Inference Attacks: Recommender Systems Are More Vulnerable Than You Thought
针对依赖影子训练的成员推理攻击在黑盒且缺乏目标系统知识时性能下降的问题,提出直接依据推荐个性化程度判断成员身份的无影子 MIA,并在多种推荐系统上验证其更准、更省算。
2024-05-11 cs.CR
On Membership Inference Attacks in Knowledge Distillation
Department of Computer Science(计算机科学系);Duke University(杜克大学)
本文研究了知识蒸馏对成员推断攻击的影响,发现蒸馏可能增加隐私风险,并提出三种方法缓解这一问题。
2026-01-10 cs.AI cs.CR cs.LG
Unveiling the Unseen: Exploring Whitebox Membership Inference through the Lens of Explainability
Saint Louis University(圣路易斯大学)
本文针对成员推理攻击中隐藏特征影响不明及攻击根因解释不足的问题,提出基于统计的神经元筛选方法和攻击驱动的可解释框架,使攻击性能较现有最优方法提升最高26%。
2024-07-01 cs.CR cs.LG
Are Diffusion Models Vulnerable to Membership Inference Attacks?
Drexel University(德雷塞尔大学);University of Electronic Science and Technology of China(电子科技大学);AWS AI Lab(亚马逊云科技人工智能实验室)
本文研究扩散模型对成员推理攻击的脆弱性,发现现有MIA方法失效,并提出SecMI方法通过比较各时间步前向过程后验估计误差来推断成员身份,在标准与文本到图像扩散模型上均取得高精度结果。
2023-05-30 cs.AI cs.CR cs.CV
A Zero Auxiliary Knowledge Membership Inference Attack on Aggregate Location Data
Imperial College London(伦敦帝国学院);EPFL(洛桑联邦理工学院)
针对聚合位置数据成员推理攻击需辅助数据集的不现实假设,本文提出首个零辅助知识MIA,通过从发布数据生成合成轨迹并纠正偏差,在多种隐私设置下匹配最先进攻击效果,凸显了强DP保护的必要性。
2024-06-26 cs.CR cs.LG
EM-MIAs: Enhancing Membership Inference Attacks in Large Language Models through Ensemble Modeling
School of Information Science;Engineering Lanzhou University Lanzhou, China
本文提出EM-MIAs集成攻击方法,利用XGBoost模型整合LOSS、Reference-based、min-k和zlib等现有MIAs技术,显著提升了大型语言模型训练数据隐私风险的评估效果。
2024-12-23 cs.CR cs.RO
In-Context Probing for Membership Inference in Fine-Tuned Language Models
Korea University, Seoul, South Korea(韩国大学)
本文提出ICP-MIA框架,通过上下文探查技术有效检测微调语言模型中的成员身份,提升隐私保护能力。
2025-12-21 cs.CR cs.LG
Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data
Imperial College London(帝国理工学院)
针对现有合成数据成员推断攻击需依赖相似分布辅助数据集的强假设问题,本文提出三种仅用合成数据的攻击场景,在两类真实数据集和生成器上验证了攻击有效性,放宽了隐私审计假设,提升了攻击现实性。
2023-09-21 cs.AI cs.CR
Adapting Membership Inference Attacks to GNN for Graph Classification: Approaches and Implications
Monash University(莫纳什大学)
图神经网络(GNN)被广泛用于分析非欧几里德数据,如化学网络,大脑网络和社交网络,建模对象之间的复杂关系和相互依赖性。最近,针对GNN的成员推断攻击(MIA)引发了严重的隐私问题,其中训练数据可能从训练的GNN模型中泄露。然而,先前的研究集中于仅推断图中的组件的成员关系,例如,单个节点或边。如何推断整个图记录的成员还有待探索。在本文中,我们在MIA中对GNN进行图级分类的第一步。我们的目标是推断图样本是否已用于训练GNN模型。我们提出并实现了两种类型的攻击,即,基于训练的攻击和基于阈值的攻击来自不同的对抗能力。我们使用五个有代表性的GNN模型在七个真实数据集中进行了全面的实验来评估我们的攻击。我们的两种攻击都被证明是有效的,可以实现高性能,即,在大多数情况下达到0.7以上的攻击F1分数。此外,我们分析了MIA对GNN的影响。我们的研究结果证实,GNN可能比具有非图结构的模型更容易受到MIA的影响。与节点级分类器不同的是,图级分类任务的MIA与GNN的过拟合水平更相关,而不是其训练图的统计特性。
2021-10-17 cs.CR cs.LG
Empirical Comparison of Membership Inference Attacks in Deep Transfer Learning
University of Helsinki(赫尔辛基大学)
本研究实证比较了多种成员推断攻击在深度迁移学习中的性能,发现攻击效能随训练数据增加而降低,且无单一攻击能覆盖所有隐私风险,LiRA总体最优,IHA在高数据下对特定数据集更有效。
2025-10-08 cs.CR cs.LG
Why Train More? Effective and Efficient Membership Inference via Memorization
Microsoft(微软);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出通过选择高记忆分数样本,在成员推断攻击中显著提升攻击有效性并将影子模型数量减少近两个数量级,实现高效攻击。
2023-10-12 cs.CR cs.LG
Imitative Membership Inference Attack
Purdue University(普渡大学);NVIDIA Research(英伟达研究)
IMIA通过模仿训练技术构建少量目标感知模型,以更高效的方式实现成员推断攻击,优于现有方法且计算成本更低。
2026-01-10 cs.CR cs.LG
On the Effectiveness of Membership Inference in Targeted Data Extraction from Large Language Models
American University of Beirut(贝鲁特美国大学)
本研究通过整合多种成员推断技术评估其在大型语言模型目标数据提取中的有效性,并与传统基准测试进行比较以评估实际应用价值。
2026-02-26 cs.CL cs.CR cs.LG