Knock Knock, Who's There? Membership Inference on Aggregate Location Data
聚合位置数据通常用于支持智能服务和应用,例如,生成实时交通地图或预测对企业的访问。在本文中,我们提出了第一个研究的可行性成员推断攻击的聚集位置时间序列。我们引入了一个基于游戏的对抗性任务的定义,并将其转换为一个分类问题,其中机器学习可用于区分目标用户是否是聚合的一部分。我们经验性地评估了这些攻击的力量,使用两个移动数据集的原始和差异化的私有聚合。我们发现,成员推断是一个严重的隐私威胁,并显示其有效性取决于对手的先验知识,底层位置数据的特性,以及用户的数量和时间框架上进行聚合。虽然差异私有机制确实可以减少攻击的程度,但它们也会造成效用的重大损失。此外,战略对手模仿防御机制的行为可以大大限制它们提供的保护。总的来说,我们的工作提出了一种新的方法,旨在评估成员推理的聚合位置数据在现实世界中的设置,并可用于提供商评估数据发布前的隐私保护的质量或监管机构检测违规行为。
2017-11-29 cs.CR
Toward Efficient Membership Inference Attacks against Federated Large Language Models: A Projection Residual Approach
Colleague of Computer Science and Technology, National University of Defense Technology, Changsha, China(计算机科学与技术系,国防科技大学,中国长沙);City University of Hong Kong, Hong Kong, China(香港城市大学,中国香港);Shenzhen University, Shenzhen, China(深圳大学,中国深圳)
本文提出ProjRes方法,通过分析隐藏嵌入向量在梯度子空间中的投影残差,有效识别联邦大语言模型中的成员推断攻击,实现近100%的准确率,优于现有方法75.75%。
2026-04-23 cs.LG
TabPATE: Differentially Private Tabular In-Context Learning Without Public Data
CISPA(CISPA亥姆霍兹信息安全中心);Anthropic;Layer 6 AI
提出TabPATE,一种无需公开数据的差分隐私PATE风格防御方法,通过教师模型分区和私有聚合生成学生上下文,在表格基准上保持可用性并将成员推断降至随机水平。
2026-07-01 cs.LG
Measuring Membership Privacy on Aggregate Location Time-Series
虽然位置数据对于各种应用程序都非常有价值,但披露它会对个人隐私造成严重威胁。为了限制这种担忧,组织通常向分析师提供聚合时间序列,其指示,例如,某个时间间隔内有多少人在某个地点,而不是原始的个人痕迹。在本文中,我们进行了测量研究,以了解成员推断攻击(MIA)的聚合位置时间序列,其中一个对手试图推断是否一个特定的用户有助于聚合。我们发现,贡献的数据量,以及用户的移动模式的规律性和特殊性,在攻击的成功发挥了至关重要的作用。我们实验了广泛的防御的基础上推广,隐藏和扰动,并评估他们的能力,以挫败攻击相对于效用损失,他们介绍了各种移动性分析任务。我们的研究结果表明,一些防御失败的全面,而其他工作的特定任务的聚合位置时间序列。例如,抑制小计数可以用于热点排名、预测流量的数据概括、热点发现和地图推理,而采样在数据集稀疏时对于位置标记和异常检测是有效的。差异隐私技术仅在非常特定的设置中提供合理的准确性,例如,发现热点并预测其流量,在使用较弱的隐私概念(如人群混合隐私)时更是如此。总的来说,我们的测量结果表明,不存在一个独特的通用防御,可以保留任意应用程序的分析的效用,并提供有用的见解有关的消毒聚合位置时间序列的披露。
2020-04-27 cs.CR
Can Membership Inferencing be Refuted?
University of California, San Diego(加州大学圣地亚哥分校)
隶属度推断攻击是目前机器学习模型中最流行的隐私泄露度量方法。给定机器学习模型、数据点和一些辅助信息,MI攻击的目标是确定数据点是否用于训练模型。在这项工作中,我们研究了成员推断攻击在实践中的可靠性。具体来说,我们证明了模型所有者可以通过构建否认证明来反驳数据点$x$上的成员推断测试的结果,该证明证明模型是在没有$x$的情况下训练的。我们设计了有效的算法来构造训练数据集的所有数据点的否认证明。我们的实证评估证明了我们的算法的实际可行性,通过构建流行的机器学习模型MNIST和CIFAR-10的否定证明。因此,我们的研究结果要求重新评估的影响,成员推断攻击在实践中。
2023-03-08 cs.CR cs.LG
Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data
Imperial College London(帝国理工学院)
针对现有合成数据成员推断攻击需依赖相似分布辅助数据集的强假设问题,本文提出三种仅用合成数据的攻击场景,在两类真实数据集和生成器上验证了攻击有效性,放宽了隐私审计假设,提升了攻击现实性。
2023-09-21 cs.AI cs.CR
An Efficient Virtual Data Generation Method for Reducing Communication in Federated Learning
本文提出一种基于数据的通信高效联邦学习框架FedINIBoost,通过借鉴梯度匹配思想构建提取模块生成代理数据集,在更少通信轮次内有效微调全局模型。
2023-06-29 cs.LG
Personalized Subgraph Federated Learning with Differentiable Auxiliary Projections
Nanyang Technological University(南洋理工大学);Shenzhen MSU-BIT University(深圳MSU-BIT大学)
针对子图联邦学习中的非IID问题,提出FedAux框架,通过可学习APV、软排序与一维卷积刻画客户端特征,并由服务器相似度加权聚合模型,理论与实验均验证其优势。
2025-09-30 cs.AI cs.LG
FERMI: Exploiting Relations for Membership Inference Against Tabular Diffusion Models
University of Waterloo(多伦多大学);Vector Institute(向量研究所)
FERMI研究了在多表设置下利用关系信息提升成员推断攻击性能,通过特征映射增强单表特征,实验证明在白盒和黑盒设置下攻击性能显著提升。
2026-05-12 cs.CR cs.DB cs.LG
Sub-optimal Learning in Meta-Classifier Attacks: A Study of Membership Inference on Differentially Private Location Aggregates
本文研究差分隐私位置聚合数据上的成员推断攻击,发现MLP元分类器存在次优学习导致隐私风险被低估,提出单阈值和双阈值攻击并证明MLP可编码复杂规则。
2024-12-29 cs.CR
On Primes, Log-Loss Scores and (No) Privacy
Amazon Alexa(亚马逊 Alexa)
成员推断攻击利用将根据客户数据训练的模型暴露给对手查询的漏洞。在最近提出的一种用于测量敏感数据集隐私泄露的审计工具的实现中,更精细的聚合(如Log-Loss分数)被暴露用于模拟推理攻击,以及基于对手的预测来评估总隐私泄露。在本文中,我们证明了这些额外的信息使对手能够在一个查询中完全准确地推断出任何数量的数据点的成员资格,从而导致完全的成员隐私泄露。我们的方法避免了任何攻击模型训练或访问对手的辅助知识。此外,我们的算法对受到攻击的模型是不可知的,因此,即使对于不记忆或过拟合的模型,也可以进行完美的成员推理。特别是,我们的观察提供了深入了解统计总量的信息泄漏程度以及如何利用它们。
2020-09-17 cs.CR cs.LG stat.ML
Risk-Equalized Differentially Private Synthetic Data: Protecting Outliers by Controlling Record-Level Influence
本文提出风险均等的差分隐私合成方法,通过降低高风险记录的影响来增强对异常值的保护,减少成员推断攻击的成功率。
2026-02-10 cs.LG
Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise
Southeast University(东南大学);The University of Queensland(昆士兰大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
本文提出利用扩散模型初始噪声中的残余语义信息进行成员推断攻击,揭示了微调模型在隐私保护方面的脆弱性。
2026-08-14 cs.CR cs.LG
Calibrating One-Round Membership Inference with Neighbors
ETH Zurich(苏黎世联邦理工学院)
本文提出利用目标样本的邻居替代参考模型,在单轮设置下校准成员推断信号,无需额外训练,并在多个数据集上验证了其有效性与竞争力。
2026-09-30 cs.AI cs.CR cs.LG
When Routing Reveals Membership: Privacy Leakage from MoE Router Telemetry
Institute of Science Tokyo(东京科学大学);Nanyang Technological University(南洋理工大学);Tohoku University(东北大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Shandong University(山东大学)
该研究提出路由器增强的成员推理攻击,发现MoE模型的路由器遥测可泄露样本是否用于微调,在多设置下提升成员推理性能,是微调MoE模型的额外隐私风险面。
2026-10-09 cs.CR cs.LG
Group Membership Verification with Privacy: Sparse or Dense?
Univ Rennes(雷恩大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);IRISA(雷恩计算机科学与应用研究所)
组成员身份验证检查生物特征是否对应于组中的一个成员,而不会泄露该成员的身份。最近的贡献提供了隐私的组成员协议,通过联合使用两种机制:量化模板到离散的嵌入和聚合成一个组表示的几个模板。然而,该方案有一个缺点:表示组的数据结构具有有限的大小,并且当聚集许多模板时不能识别噪声查询。此外,嵌入的稀疏性似乎对性能验证起着至关重要的作用。本文提出了一个数学模型,允许揭示稀疏性的安全性,紧凑性和验证性能的影响,组成员身份验证。该模型弥补了Bloom过滤器对噪声查询的鲁棒性。它表明,一个密集的解决方案是更有竞争力的,除非查询几乎没有噪音。
2020-02-24 cs.CR cs.CV
JUMP: Efficient Membership Inference on Fine-Tuned Diffusion Language Models
Yonsei University(延世大学)
研究微调离散扩散语言模型的成员推理攻击,提出JUMP单通道评分攻击,利用dLLMs任意顺序可解码性和并行可解码性,在六个MIMIR域上的微调LLaDA - 8B - Base上提升了平均ROC - AUC并改善低FPR检测,且减少查询次数。
2026-09-30 cs.AI cs.CR
One Framework for All: Cross-Modal Membership Inference for Generative Models
研究生成模型的跨模态成员推理问题,基于生成模型输出分布可近似训练数据分布的特性,在共享嵌入空间建模,通过似然比测试推理,贡献统一框架,性能优于现有方法。
2026-07-07 cs.AI cs.CR cs.LG
DocMIA: Document-Level Membership Inference Attacks against DocVQA Models
Computer Vision Center, Universitat Autònoma de Barcelona(巴塞罗那自治大学计算机视觉中心);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本文针对DocVQA模型提出两种无需辅助数据集的无监督文档级成员推理攻击,覆盖白盒与黑盒场景,并在多个模型和数据集上超越现有方法,揭示了该领域的隐私风险。
2025-02-06 cs.CL cs.CR cs.LG
Evaluating Membership Inference Attacks in heterogeneous-data setups
University of Twente, The Netherlands(特文特大学,荷兰);Inria, France(法国国家信息与自动化技术研究院)
本文提出了一种度量标准来评估成员推断攻击在异构数据设置中的表现,揭示了攻击准确性依赖于实验设置,并指出了缺乏标准化基线对风险评估的挑战。
2025-04-28 cs.CR cs.LG
What Hard Tokens Reveal: Exploiting Low-confidence Tokens for Membership Inference Attacks against Large Language Models
Florida International University(佛罗里达国际大学);California State Polytechnic University, Pomona(加州州立理工大学波莫纳分校)
本文提出HT-MIA方法,通过分析低置信度token的概率改进,提升对大型语言模型的成员推断攻击效果,并探讨差分隐私训练作为防御机制。
2026-01-27 cs.CR
On Reliability of Membership Inference Vulnerability Evaluation
University of Helsinki(赫尔辛基大学);CISPA Helmholtz Center for Information Security(信息安全赫尔姆霍兹中心)
本文揭示了高效成员推断攻击评估中两个关键缺陷:跨样本FPR未校准导致差分隐私审计不可靠,以及有限总体偏差导致样本脆弱性高估,并提出了后处理校准方法。
2026-10-02 cs.CR cs.LG
Label-Only Membership Inference Attack against Node-Level Graph Neural Networks
University of Padua(帕多瓦大学);Delft University of Technology(代尔夫特理工大学);Radboud University(拉德堡德大学)
图神经网络(Graph Neural Network,GNNs)受卷积神经网络(Convolutional Neural Networks,CNN)的启发,将节点邻居的信息和结构信息聚合起来,获得节点的表达性表示,用于节点分类、图分类和链接预测。以前的研究表明,GNN容易受到成员推断攻击(MIA)的攻击,MIA会推断节点是否在GNN的训练数据中,并泄露节点的私人信息,如患者的病史。以前的MIA的实现利用了模型的概率输出,如果GNN只为输入提供预测标签(仅标签),这是不可行的。在本文中,我们提出了一种针对GNN的仅标签MIA,以借助GNN灵活的预测机制进行节点分类,例如,即使当邻居的信息不可用时,也获得一个节点的预测标签。对于大多数数据集和GNN模型,我们的攻击方法实现了大约60%的准确度,精度和曲线下面积(AUC),其中一些具有竞争力,甚至优于在我们的环境和设置下实现的最先进的基于概率的MIA。此外,我们分析了采样方法,模型选择方法和过拟合水平对我们的标签唯一MIA的攻击性能的影响。这两个因素都对攻击性能产生影响。然后,我们考虑的情况下,假设对手的额外数据集(阴影数据集)和额外的信息,目标模型放松。即使在这些情况下,我们的标签只有MIA在大多数情况下实现了更好的攻击性能。最后,我们探讨了可能的防御措施的有效性,包括Dropout,Regularization,Normalizati…
2022-07-27 cs.CR cs.LG
EdgeLeakage: Membership Information Leakage in Distributed Edge Intelligence Systems
本文研究分布式边缘智能系统中的成员推理泄露问题,通过成员推理攻击揭示边缘节点协同生成全局模型时的数据泄露风险,并提出有效的防御机制以缓解该安全威胁,从而保护数据隐私。
2024-03-08 cs.CR
Black-Box Membership Inference via Word-Level Probability Estimation
The Hong Kong Polytechnic University(香港理工大学)
针对仅暴露文本续写的专有大模型,提出基于词级概率估计的黑盒成员推断方法WPMIA,通过蒙特卡洛采样和前缀条件似然放大成员差异,在开源和专有模型上优于现有基线。
2026-09-11 cs.CR cs.LG stat.ML
On Membership Inference Attacks in Knowledge Distillation
Department of Computer Science(计算机科学系);Duke University(杜克大学)
本文研究了知识蒸馏对成员推断攻击的影响,发现蒸馏可能增加隐私风险,并提出三种方法缓解这一问题。
2026-01-10 cs.AI cs.CR cs.LG
Generated Distributions Are All You Need for Membership Inference Attacks Against Generative Models
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Salesforce Research(Salesforce研究院)
本文提出首个无需影子模型和白盒访问的通用成员推理攻击,仅利用生成分布即可对GAN、VAE、扩散模型等多种生成模型实施黑盒攻击,实验证明其攻击AUC普遍超过0.90甚至0.99,揭示了生成模型的隐私泄露风险。
2023-10-30 cs.CR cs.CV cs.LG
ImpMIA: Leveraging Implicit Bias for Membership Inference Attack
Department of Computer Science and Applied Mathematics, Weizmann Institute of Science, Rehovot, Israel(计算机科学与应用数学系,魏茨曼科学研究所,以色列雷霍维特)
ImpMIA通过利用神经网络的隐性偏见,无需训练参考模型,实现了在仅知模型权重和超集训练数据情况下,对成员推断攻击的高效检测。
2026-02-25 cs.CR cs.CV cs.LG
privGAN: Protecting GANs from membership inference attacks at low cost
Microsoft(微软)
生成对抗网络(GANs)使合成图像的发布成为一种在不发布原始数据集的情况下共享数据的可行方法。已经表明,这种合成数据可以用于各种下游任务,例如训练分类器,否则这些任务将需要共享原始数据集。然而,最近的工作表明,GAN模型及其合成生成的数据可以被访问整个数据集和一些辅助信息的对手用来推断训练集成员资格。目前缓解这个问题的方法(如DPGAN)导致生成的样本质量比原始的非私有GANs差得多。在这里,我们开发了一种新的GAN架构(privGAN),其中生成器不仅被训练为欺骗攻击者,而且还被训练为防御成员推断攻击。新机制提供了针对这种攻击模式的保护,同时导致下游性能的损失可以忽略不计。此外,我们的算法已被证明可以显式地防止对训练集的过拟合,这解释了为什么我们的保护如此有效。本文的主要贡献是:i)我们提出了一种新的GAN架构,该架构可以以隐私保护的方式生成合成数据,而无需额外的超参数调整和架构选择,ii)我们提供了对privGAN损失函数的最优解的理论理解,iii)我们证明了我们的模型对几个基准数据集上的几种白盒和黑盒攻击的有效性,iv)我们在三个常见的基准数据集上证明,与非私有GANs相比,由privGAN生成的合成图像在下游性能上的损失可以忽略不计。
2020-12-13 cs.CR cs.CV cs.LG
Ensemble Privacy Defense for Knowledge-Intensive LLMs against Membership Inference Attacks
Vanderbilt University(范德比大学);University of Arizona(亚利桑那大学);Clemson University(克莱姆森大学)
本文提出集成隐私防御框架EPD,通过聚合知识注入LLM、基础LLM和专用判断模型的输出,有效降低成员推断攻击的成功率,提升知识密集型大语言模型的隐私安全性。
2025-12-01 cs.AI cs.CR
A Data-Free Membership Inference Attack on Federated Learning in Hardware Assurance
Florida Institute of National Security, University of Florida(佛罗里达国家安全研究所,佛罗里达大学)
本文提出一种无数据的成员推断攻击,利用标准单元库布局引导梯度反向攻击,从拦截的模型更新中重建图像,推断敏感硬件特性。
2026-04-21 cs.CR
DeSIA: Attribute Inference Attacks Against Limited Fixed Aggregate Statistics
Imperial College London(伦敦帝国学院)
针对有限固定聚合统计量,提出属性推断攻击框架DeSIA,在人口普查数据上优于重构攻击,证明聚合不足以保护隐私。
2025-04-25 cs.AI cs.CR
ImageAuditor: Membership Inference Attack against Image-based Retrieval-Augmented Generation
UCLA(加州大学洛杉矶分校);University of California, Berkeley(加州大学伯克利分校);University of Tennessee, Knoxville(田纳西大学诺克斯维尔分校)
提出首个针对基于图像的检索增强生成(IRAG)的成员推理攻击方法ImageAuditor,通过奖励引导策略优化解决跨模态检索和判别信号提取两大挑战,在仅需四次查询时AUROC超过80%。
2026-06-02 cs.CR
Exploring the limits of strong membership inference attacks on large language models
Google DeepMind(谷歌DeepMind);University College London(伦敦大学学院);University of Washington(华盛顿大学);Imperial College London(伦敦帝国学院);CISPA Helmholtz Center for Information Security(信息安全赫尔姆霍兹中心);Stanford University(斯坦福大学);Microsoft Research(微软研究院)
本研究通过扩展LiRA攻击至GPT-2模型,揭示了强成员推断攻击在大型语言模型上的有效性及局限性,发现其在实际应用中仍存在显著的AUC限制和决策不稳定问题。
2026-01-08 cs.AI cs.CR cs.LG
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
Imperial College London(帝国理工学院);Nanyang Technological University(南洋理工大学)
本研究定义子组定向隶属推断博弈,审计差分隐私合成文本,发现子组泄露被低估且集中于少数记录,DP保护不均匀,记录风险依赖发布机制。
2026-09-10 cs.AI cs.CR
E-MIA: Exam-Style Black-Box Membership Inference Attacks against RAG Systems
College of Cyber Security, Jinan University(济南大学网络安全学院);School of Computer Science, Shanghai Jiaotong University(上海交通大学计算机科学学院);Institute of Artificial Intelligence, Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing, Beihang University(北京航空航天大学人工智能研究院);Zhongguancun Laboratory, Beijing(中关村实验室)
本文提出E-MIA,通过将目标文档中的可验证硬证据转化为包含四种客观评分题型的考试,利用多证据目标问题的综合考试分数作为成员信号,提升在严格设置下的成员/非成员分离能力,同时保持自然隐蔽的查询。
2026-05-01 cs.AI cs.CR
SoK: Privacy Attacks on Machine Learning via Explainable AI
Case Western Reserve University(凯斯西储大学);IBM Research(IBM研究院)
本研究系统化25项利用可解释AI信号(如解释统计、反事实距离)进行模型提取、成员推断和模型反演的攻击,提出五条获取路径,并指出风险取决于信号暴露方式,主张按端到端披露问题评估隐私防御。
2026-09-11 cs.CR cs.LG
EIFL: Efficiently Protecting Global Model Privacy and Integrity Against an Untrusted Server in Federated Learning
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);Department of Computer Science, Illinois Institute of Technology(伊利诺伊理工学院计算机科学系)
EIFL是一种联邦学习方法,通过两阶段聚合与对称加密保护全局模型隐私,以向量内积验证方法解决辅助信息泄露漏洞,且开销优于现有方案。
2026-10-09 cs.CR
Systematic Evaluation of Privacy Risks of Machine Learning Models
Princeton University(普林斯顿大学)
机器学习模型倾向于记忆敏感数据,使其容易受到成员推断攻击,其中对手旨在猜测输入样本是否用于训练模型。在本文中,我们表明,以前的工作成员推断攻击可能严重低估了隐私风险,仅仅依靠训练自定义神经网络分类器来执行攻击,只关注数据样本的聚合结果,如攻击的准确性。为了克服这些局限性,我们首先提出了基准成员推理隐私风险,通过改进现有的非神经网络为基础的推理攻击,并提出了一种新的推理攻击方法的基础上修改的预测熵。我们还提出了防御机制的基准,通过考虑具有防御知识的自适应对手,并考虑模型准确性和隐私风险之间的权衡。使用我们的基准攻击,我们证明了现有的防御方法并不像以前报道的那样有效。接下来,我们引入了一种新的方法,通过制定和推导一个新的度量称为隐私风险评分细粒度的隐私分析。我们的隐私风险评分指标衡量了单个样本成为训练成员的可能性,这使得对手能够识别具有高隐私风险的样本并以高置信度执行攻击。我们通过实验验证了隐私风险评分的有效性,并证明了隐私风险评分在各个样本中的分布是异质的。最后,我们进行了深入的调查,以了解为什么某些样本具有高隐私风险,包括与模型敏感性,泛化误差和特征嵌入的相关性。我们的工作强调了对机器学习模型的隐私风险进行系统和严格评估的重要性。
2020-12-09 cs.CR cs.LG stat.ML
DECIFR: Domain-Aware Exfiltration of Circuit Information from Federated Gradient Reconstruction
Florida Institute of National Security, University of Florida(佛罗里达国家安全研究所,佛罗里达大学)
本文提出DECIFR攻击,通过无辅助数据集的两阶段成员推断攻击,利用标准单元库布局泄露集成电路训练数据隐私,揭示了传统联邦学习协议在高知识域中的不足。
2026-04-21 cs.CR
Digital Privacy Under Attack: Challenges and Enablers
University of Technology Sydney(悉尼科技大学);Deakin University(迪肯大学);Hunan University(湖南大学);City University of Macau(澳门城市大学)
本文系统梳理数据驱动系统中针对匿名数据、统计聚合和隐私保护模型的隐私攻击及防御措施,分析隐私—效用权衡,并指出差分隐私的实现挑战与未来研究方向。
2025-09-29 cs.CR
Advancing the State-of-the-Art in Empirical Privacy Auditing
Google Research(谷歌研究院)
提出通过高温采样生成合成金丝雀,用于经验隐私审计,并引入基于辅助模型的合成数据审计方法,系统研究模型容量与金丝雀熵对记忆化的交互影响。
2026-06-09 cs.AI cs.CL cs.CR
AnonPSI: An Anonymity Assessment Framework for PSI
本文提出AnonPSI匿名性评估框架,针对PSI协议易受集合成员推断攻击的问题,设计两种攻击策略并给出理论保证,同时利用PSI-SUM等辅助信息提升攻击效率,实验表明现有PSI协议隐私保障不足,需结合多种隐私增强技术。
2023-11-29 cs.CR cs.IR
From Multiplicity to Vulnerability: Privacy Amplification Risk from One-Dataset-Multiple-Model Exposure
The University of Western Australia(西澳大学);Nanjing University of Science and Technology(南京理工大学);The University of Newcastle(纽卡斯尔大学)
研究单数据集多模型范式的隐私风险,建立理论框架证明隐私泄漏会累积,提出PRIME利用成员推理攻击评估风险并量化泄漏,设计机制和元分类器推断样本成员状态,揭示该范式严重危害隐私。
2026-07-07 cs.CR
Privacy-Preserving Randomized Controlled Trials: A Protocol for Industry Scale Deployment
在本文中,我们概述了一种在5亿行数据和超过10亿个门的规模上为多方随机对照试验部署隐私保护协议的方法。随机对照试验(RCT)被广泛用于改善医疗保健,教育,犯罪学和营销等各个部门的业务和政策决策。随机对照试验是一种科学严谨的方法来衡量治疗的有效性。这是通过将受试者随机分配到两个或多个组,以不同的方式对待他们,然后比较各组的结果来实现的。在许多情况下,多方持有用于进行和分析RCT的数据的不同部分。考虑到各方的隐私要求和期望,集中存储数据来进行和分析RCT通常具有挑战性。我们通过一个三阶段的解决方案来实现这一点。第一阶段使用私有秘密共享集合交集(PS $^3$ I)解决方案来创建联合集合并建立秘密共享而不暴露成员身份,同时丢弃被放置到多个组中的个体。第二阶段在分片数据库上运行通用MPC的多个实例,以汇总每个实验组的统计数据,同时丢弃在接受治疗之前采取行动的个体。第三阶段将分布式和校准的差分隐私(DP)噪声添加到聚合统计和不确定性度量中,提供正式的双侧隐私保证。我们还评估了多个开源通用MPC库的性能。我们还展示了我们如何使用它来创建一个有效的广告效果测量产品,每个实验能够测量数亿人。
2021-08-11 cs.CR cs.DC