Rényi Pufferfish Privacy with Gaussian-based Priors: From Single Gaussian to Mixture Model
School of Cyberspace Science and Technology, Beijing Institute of Technology(北京理工大学网络空间安全学院);University of Auckland(奥克兰大学);School of Computer Science, University of Auckland(奥克兰大学计算机科学学院);QAX Security Center, the Qi-AnXin Technology Group Inc.(奇安信集团);Qi An Xin Technology Group Inc.(奇安信科技集团股份有限公司);Zhongguancun Laboratory(中关村实验室)
本文研究了基于高斯和高斯混合先验的Rényi Pufferfish隐私机制,推导了高斯扰动后的Rényi散度,提出了放松的闭式充分条件,并通过实验展示了其在隐私-效用权衡上的改进。
2026-04-26 cs.CR
Verifying Pufferfish Privacy in Hidden Markov Models
Pufferfish是一个贝叶斯隐私框架,用于设计和分析隐私机制。它改进了差分隐私,目前的黄金标准,在数据隐私,允许明确的先验知识的隐私分析。通过这些隐私框架,在文献中已经开发了许多隐私机制。在实践中,隐私机制往往需要修改或调整,以适应特定的应用。他们的隐私风险必须根据不同的情况重新评估。此外,计算设备仅通过浮点计算来近似连续噪声,这在本质上是离散的。因此,隐私证明可能很复杂,容易出错。这些繁琐的任务对于普通数据管理员来说可能是沉重的负担。在本文中,我们提出了一个自动验证技术的河豚隐私。我们使用隐马尔可夫模型来指定和分析离散河豚隐私机制。我们证明了隐马尔可夫模型中的河豚验证问题是NP难的。利用可满足性模理论求解器,我们提出了一个算法来分析隐私需求。我们实现我们的算法在一个原型工具称为FAIER,并提出了几个案例研究。令人惊讶的是,我们的案例研究表明,成熟的隐私机制的天真离散化往往会失败,FAIER生成的反例证明了这一点。在离散的\emph{Above Threshold},我们表明,它的结果在绝对没有隐私。最后,我们比较我们的方法与基于测试的方法在几个案例研究,并表明,我们的验证技术可以与基于测试的方法相结合的目的(i)有效地证明反例和(ii)获得更好的下限的隐私预算$ε$。
2021-11-16 cs.CR cs.FL
Pufferfish Privacy Mechanisms for Correlated Data
UC San Diego(加州大学圣地亚哥分校)
许多现代数据库包括个人和敏感的相关数据,例如在社交网络中连接在一起的用户的私人信息,以及跨时间的单个受试者的身体活动的测量。然而,差分隐私,目前的数据隐私的黄金标准,并没有充分解决这类数据的隐私问题。这项工作着眼于最近推广的差分隐私,称为河豚,可用于解决相关数据中的隐私。应用河豚鱼的主要挑战是缺乏合适的机制。我们提供了第一种机制--Wasserstein机制--它适用于任何一般的Pufferfish框架。由于这种机制可能是计算效率低下,我们提供了一个额外的机制,适用于一些实际情况下,如身体活动测量跨时间,是计算效率。我们的实验评估表明,这种机制提供了隐私和实用程序的合成以及真实的数据在两个不同的域。
2017-03-12 cs.CR cs.LG stat.ML
Rényi Pufferfish Privacy: General Additive Noise Mechanisms and Privacy Amplification by Iteration
Craft AI;Université de Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Université de Montpellier(蒙彼利埃大学)
本文提出基于 Rényi 散度的 Pufferfish 隐私变体,通过推广 Wasserstein 机制、强化分布外敌手保证并证明收缩性含噪迭代的隐私放大,首次将 Pufferfish 框架应用于私有凸优化。
2024-06-10 cs.CR cs.LG stat.ML
Approximation of Pufferfish Privacy for Gaussian Priors
本文提出在高斯先验下通过Monge最优传输校准拉普拉斯噪声以实现河豚隐私,并扩展到高斯混合模型先验,为求和查询的私有发布给出充分条件。
2024-05-06 cs.CR cs.IT math.IT
Quantum Pufferfish Privacy: A Flexible Privacy Framework for Quantum Systems
Cornell University(康奈尔大学);school of Electrical and Computer Engineering(电气与计算机工程学院)
本文提出量子河豚隐私(QPP)框架,通过灵活指定私有信息、测量和领域知识,推广量子差分隐私,并利用信息谱散度实现隐私审计与权衡分析。
2024-05-28 cs.CR cs.IT cs.LG
Measured Hockey-Stick Divergence and its Applications to Quantum Pufferfish Privacy
School of Electrical and Computer Engineering, Cornell University(电气与计算机工程系,康奈尔大学);School of Applied and Engineering Physics, Cornell University(应用与工程物理系,康奈尔大学)
本文研究了测量曲棍球杆发散及其在量子比目鱼隐私框架中的应用,证明了其性质并展示了计算方法。
2025-02-05 cs.CR cs.IT cs.LG
Composition Properties of Inferential Privacy for Time-Series Data
University of California San Diego(加利福尼亚大学圣迭戈分校)
随着移动设备和物联网的普及,在时间序列应用中开发原则性的隐私解决方案变得越来越重要。虽然差分隐私是数据库隐私的黄金标准,但许多时间序列应用程序需要不同类型的保证,并且许多最近的作品使用某种形式的推理隐私来解决这些情况。然而,在实践中使用推理隐私的一个主要障碍是它缺乏优雅的组合-即使相同或相关的敏感数据在多个单独安全的版本中使用,组合的版本可能具有较差的隐私属性。在本文中,我们研究的一种形式的推理隐私称为河豚时,应用于时间序列数据的组成特性。我们表明,虽然一般河豚机制可能不会优雅地组成,一个特定的河豚机制,称为马尔可夫被子机制,这是最近推出的,具有较强的组成属性,可与纯差分隐私时,应用于时间序列数据。
2017-07-10 cs.CR cs.LG stat.ML
Formal Privacy for Partially Private Data
差分隐私(DP)通过分析注入到输出统计中的噪声来量化隐私损失。对于非平凡的统计数据,这种噪声是必要的,以确保有限的隐私损失。然而,数据管理者经常发布统计数据的集合,其中一些使用DP机制,而另一些则按原样发布,即,没有额外的随机噪声。因此,DP本身不能描述整个发布集合造成的隐私损失。在本文中,我们提出了一个隐私的形式主义,$(ε, \{ Θ_z\}_{z \in \mathcal{Z}})$ -河豚($ε$ -TP的缩写时,$\{ Θ_z\}_{z \in \mathcal{Z}}$是隐含的),河豚机制的集合索引的实现的随机变量$Z$表示公共信息不受DP噪声。首先,我们证明了这个定义有类似的性质DP。接下来,我们介绍了释放部分私有数据(PPD)满足$ε$ -TP的机制,并证明其理想的属性。我们提供了算法从一个参数的后验PPD采样。然后,我们比较这种推理方法的替代噪声统计确定性地结合Z。我们推导出温和的条件下,使用我们的算法提供了理论和计算的改进,这种更常见的方法。最后,我们在COVID-19数据的案例研究中展示了上述所有影响。
2022-12-14 cs.CR stat.ME
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中,存在一个脆弱的假设,即当应用差分隐私时,数据集中的记录是独立的。然而,在现实世界的数据集,记录很可能是相关的,这可能会导致意外的数据泄漏。在这个调查中,我们调查的问题,由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类:1)使用参数描述差分隐私中的数据相关性; 2)使用模型描述差分隐私中的数据相关性; 3)基于Pufferfish框架描述数据相关性。首先,给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后,我们的主要工作是分析和比较这些方法,并评估这些不同的研究应用的情况。最后,我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
Attribute Privacy: Framework and Mechanisms
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院);The University of Melbourne(墨尔本大学);Columbia University(哥伦比亚大学)
由于许多机器学习模型都是在机密和潜在敏感数据上训练的,因此确保训练数据的隐私性越来越受到关注。在大型数据集的分析过程中,保护个人隐私的方法受到了很大的关注。然而,在许多设置中,数据集的全局属性也可能是敏感的(例如,医院的死亡率,而不是数据集中特定患者的存在)。在这项工作中,我们从个人隐私出发,开始研究属性隐私,其中数据所有者担心在分析过程中泄露整个数据集的敏感属性。我们提出了定义来捕获\emph{attribute privacy}在两个相关的情况下,全局属性可能需要保护:(1)一个特定的数据集的属性和(2)数据集采样的基础分布的参数。我们还提供了两个有效的机制和一个低效的机制,满足这些设置的属性隐私。我们的研究结果基于河豚框架的一种新的用途,以解释数据中属性之间的相关性,从而解决了\cite{kifer2014pufferfish}留下的“开发河豚实例化和一般聚合秘密算法的挑战性问题”。
2021-05-11 cs.CR cs.CY cs.DS
Private Graph Data Release: A Survey
近年来,图分析在各个领域的应用产生了巨大的社会和经济效益。然而,图形分析的日益广泛的采用伴随着保护图形数据中的私有信息的需求的相应增加,特别是考虑到真实世界的图形数据中的许多隐私泄露,这些数据本应保留敏感信息。本文提供了一个全面的调查私有图数据发布算法,寻求实现隐私和实用性之间的良好平衡,特别关注可证明的私有机制。这些机制中的许多是差分隐私框架到图形数据的自然扩展,但我们也研究了更一般的隐私公式,如河豚隐私,解决了差分隐私的一些限制。我们还对私有图数据发布机制在社交网络、金融、供应链和医疗保健中的应用进行了广泛的调查。这份调查报告及其提供的分类法应该使越来越重要的私人分析和数据发布领域的从业者和研究人员受益。
2022-06-04 cs.CR
Protecting Global Properties of Datasets with Distribution Privacy Mechanisms
The University of Melbourne(墨尔本大学)
本研究针对数据集全局属性的机密性问题,提出基于分布隐私框架,扩展Wasserstein机制和Gaussian机制,有效抵御属性推断攻击,并在隐私与效用间取得更优平衡。
2023-04-10 cs.CR cs.CY cs.LG
On Privacy and Confidentiality of Communications in Organizational Graphs
University of Waterloo(滑铁卢大学);Microsoft Research(微软研究院);Microsoft Corporation(微软公司)
在组织通信数据(例如企业中的电子邮件)上训练的机器学习模型具有违反保密性的独特风险,即使该模型仅用于内部使用。这项工作显示了保密性是如何从企业环境中的隐私不同,并旨在制定一种方法来保护机密性,同时利用原则,从差分隐私。目标是执行机器学习任务,例如学习语言模型或执行主题分析,使用组织中的人际通信,而不是学习组织中共享的机密信息。将差分隐私技术应用于自然语言处理任务的工作通常假设独立分布的数据,并且忽略记录之间的潜在相关性。忽视这种相关性会导致虚假的隐私承诺。简单地将差分隐私技术扩展到关注组隐私而不是记录级隐私是缓解此问题的直接方法。这种方法虽然提供了更现实的隐私保障,但过于谨慎,严重影响了模型的效用。我们在两个语言任务中展示了这两种极端隐私措施之间的差距,并介绍了一个中间立场的解决方案。我们提出了一个模型,捕捉在社交网络图中的相关性,并将这种相关性通过河豚隐私原则的隐私计算。
2021-05-27 cs.CL cs.CR cs.LG
Application-driven Privacy-preserving Data Publishing with Correlated Attributes
Stony Brook University(石溪大学);NVIDIA(英伟达);Rutgers University(罗格斯大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);Bosch Research(博世研究院)
计算方面的最新进展使收集有关个人活动和私人生活空间的大量数据成为可能。为了解决用户在这种环境中的隐私问题,我们提出了一个新的框架,称为PR-GAN,使用生成对抗网络提供隐私保护机制。给定目标应用程序,PR-GAN自动修改数据以隐藏敏感属性-这些属性可能是隐藏的,可以通过机器学习算法推断-同时保留目标应用程序中的数据实用程序。与以前的作品,公众的目标应用程序和敏感属性之间的相关性的可能的知识是内置到我们的建模。我们将我们的问题表述为优化问题,证明存在最优解,并使用生成对抗网络(GAN)来创建扰动。我们进一步表明,我们的方法提供了隐私保障下的河豚框架,优雅的概括的差分隐私,允许对数据和相关性的先验知识建模。通过实验,我们表明,我们的方法优于传统的方法,有效地隐藏敏感属性,同时保证高性能的目标应用程序,属性推理和训练的目的。最后,我们通过进一步的实验证明,一旦我们的模型在一组个体上学习了隐私保护任务,例如隐藏受试者的身份,它就可以在一个单独的组上执行相同的任务,并且性能下降最小。
2021-01-05 cs.CR cs.LG stat.ML
Beyond Personalization: Federated Recommendation with Calibration via Low-rank Decomposition
针对联邦推荐中全局物品聚合导致用户嵌入偏斜的问题,本文提出 PFedCLR,利用缓冲矩阵及其低秩分解联合校准用户嵌入并个性化物品嵌入,同时兼顾隐私与效率。
2025-06-11 cs.CR
Beyond Theoretical Bounds: Empirical Privacy Loss Calibration for Text Rewriting Under Local Differential Privacy
School of Computing, FSE, Macquarie University(麦考瑞大学计算学院,FSE)
本文探讨在局部差分隐私下文本重写机制的实证校准方法,提出TeDA框架,通过假设检验框架评估隐私化文本的可区分性,提供更可靠的隐私-效用权衡评估工具。
2026-03-24 cs.CL cs.CR
Empirical Calibration and Metric Differential Privacy in Language Models
Macquarie University(麦考瑞大学)
针对 DP-SGD 隐私预算难以跨机制比较的问题,论文用攻击实验校准 NLP 隐私,提出基于 VMF 分布的定向度量 DP 机制,并揭示不同机制在效用-隐私权衡中的优势。
2025-03-18 cs.CR cs.LG
Federated Calibration and Evaluation of Binary Classifiers
Meta AI
我们解决了两个主要的障碍,实际使用的监督分类分布式私人数据。无论分类器是由合作客户端的联合训练还是集中训练,(1)输出分数必须校准,(2)性能指标必须评估-所有这些都没有在一个地方组装标签。特别是,我们展示了如何在三种隐私模型下在联邦设置中执行校准和计算精度,召回率,准确率和ROC-AUC(i)安全聚合,(ii)分布式差分隐私,(iii)本地差分隐私。我们的定理和实验澄清了隐私,准确性和数据效率之间的权衡。它们还有助于确定给定应用程序是否有足够的数据来支持联合校准和评估。
2022-10-22 cs.CR cs.LG
Power to the Data Defenders: Human-Centered Disclosure Risk Calibration of Open Data
针对开放数据发布后因新数据集出现而引发的隐私披露风险,本文结合红队案例分析潜在漏洞,并提出主动监测数据集与可视化分析工作流以支持动态风险校准。
2023-04-21 cs.CR
Calibration with Privacy in Peer Review
同行评审中的评审员经常被错误校准:他们可能是严格的,宽松的,极端的,温和的,等等。然而,这种校准的尝试可能会泄露关于哪个评论者评论了哪篇论文的敏感信息。在本文中,我们确定了这个问题的校准与隐私,并提供了一个基本的构建块来解决it.Specifically,我们提出了一个理论研究这个问题下的简化但具有挑战性的模型,涉及两个评论家,两篇论文,和MAP计算对手。我们的主要研究结果建立了隐私(防止对手推断审稿人身份)和效用(接受更好的论文)之间的权衡的帕累托边界,并设计了明确的计算效率的算法,我们证明是帕累托最优的。
2022-01-27 cs.CR cs.IT math.IT
Understanding Disclosure Risk in Differential Privacy with Applications to Noise Calibration and Auditing (Extended Version)
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Inria Centre at the University Grenoble Alpes(格勒诺布尔大学Inria中心);ÉTS Montréal(蒙特利尔高等技术学院)
本文提出重建优势作为统一的风险度量,用于改进DP审计并优化效用-隐私权衡。
2026-03-12 cs.CR cs.IT math.IT
Beyond the Calibration Point: Mechanism Comparison in Differential Privacy
Technical University of Munich(慕尼黑工业大学);LMU Munich(慕尼黑大学)
本文提出机制间Δ-散度,用于严格比较共享同一(ε,δ)对的不同差分隐私机制的最坏情况超额隐私脆弱性,揭示DP-SGD现行做法中的隐私风险盲区。
2025-05-04 cs.AI cs.CR cs.LG
Ball Differential Privacy: How to Mitigate Data Reconstruction with Less Noise
University of Copenhagen(哥本哈根大学)
研究如何缓解数据重建问题,提出球差分隐私方法,通过限制单记录替换范围减少噪声,给出正则化凸学习问题的噪声校准及重建稳健性证书,并在基准学习任务上验证,提高了效用。
2026-07-15 cs.CR cs.LG
Differential Privacy at Risk: Bridging Randomness and Privacy Budget
École Normale Supérieure(巴黎高等师范学院);Chalmers University of Technology(查尔姆斯理工大学);National University of Singapore(新加坡国立大学)
隐私保护机制的噪声校准取决于查询的敏感性和规定的隐私级别。数据管理员必须对隐私级别做出重要的选择,以平衡用户的需求和业务实体的资金限制。我们分析角色的随机性的来源,即显式随机性引起的噪声分布和隐式随机性引起的数据生成分布,参与设计的隐私保护机制。更精细的分析使我们能够提供更强有力的隐私保证,并具有可量化的风险。因此,我们提出的隐私风险,这是一个概率校准的隐私保护机制。我们提供了一个组合定理,利用隐私的风险。我们实例化的概率校准拉普拉斯机制提供分析结果。我们还提出了一个成本模型,该模型可以弥合隐私级别与GDPR合规商业实体估计的补偿预算之间的差距。所提出的成本模型的凸性导致隐私级别的独特微调,最大限度地减少补偿预算。我们展示了它的有效性,说明了一个现实的情况下,避免高估的补偿预算使用隐私风险的拉普拉斯机制。我们定量地表明,组合使用成本最优的隐私风险提供了更强的隐私保证比经典的先进的组合。
2020-04-13 cs.CR cs.DS cs.LG
Attack-Aware Noise Calibration for Differential Privacy
Lausanne University Hospital (CHUV)(洛桑大学医院(CHUV));Harvard University(哈佛大学);Technical University Munich(慕尼黑工业大学);EPFL(洛桑联邦理工学院)
针对差分隐私,提出直接按攻击风险校准噪声规模的方法,替代先选ε再转换,显著降低噪声、提升效用,实验证明在相同风险下提高模型准确率。
2024-11-07 cs.AI cs.CR cs.LG
Vision Through the Veil: Differential Privacy in Federated Learning for Medical Image Classification
Indian Institute of Technology Roorkee(印度理工学院鲁尔基分校)
本研究提出一种新颖的差分隐私联邦学习模型用于医学图像分类,证明通过策略性校准隐私预算,可在维持稳健分类性能的同时提供实质性隐私保护。
2023-06-30 cs.CR cs.LG
Local Sensitivity in Exponential Selection: Failure Modes and Valid Calibrations
University of Texas at San Antonio(圣安东尼奥德克萨斯大学);University of Virginia(弗吉尼亚大学)
本文研究私有选择中用依赖数据集的局部敏感性替代全局敏感性的可行性,提出三种含高概率后悔界的有效方法,包括局部敏感性上界、PTR变体及平滑敏感性相关设计,均满足差分隐私要求。
2026-10-09 cs.CR cs.DS
SnapAudit: Active Auditing of Differentially Private In-Context Learning via Snapshot-Based Simulation
Emory University(埃默里大学)
SnapAudit通过将差分隐私上下文学习流程分解为确定性清洁推理阶段和随机差分隐私噪声阶段,结合快照和bootstrap模拟实现高效审计,提升隐私保护的效率和准确性,揭示现有设计中的两个漏洞。
2026-11-11 cs.CR
Differentially Private EEG Feature Anonymization: A Privacy-Utility Case Study in Clinical Neurophysiology
University of South-Eastern Norway(东南挪威大学)
本研究针对临床EEG特征匿名化,提出基于高斯和拉普拉斯扰动的受试者级差分隐私框架,评估三种部署场景,揭示隐私与效用间的权衡及小样本不平衡数据的挑战。
2026-09-11 cs.CR cs.LG eess.SP
Listen to the Voices of Everyday Users: Democratizing Privacy Ratings for Sensitive Data Access in Mobile Apps
Huazhong University of Science and Technology(华中科技大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出民主化隐私评估范式,通过用户参与设计开发DePRa系统,评估用户对敏感数据访问的隐私评分,验证其在补充专家审计中的可行性与包容性。
2026-04-27 cs.CR cs.HC
Learning-Based Difficulty Calibration for Enhanced Membership Inference Attacks
Case Western Reserve University(凯斯西储大学)
针对现有成员推理攻击(MIA)在低误报率下真阳性率偏低的问题,提出基于学习的难度校准MIA方法LDC-MIA,可显著提升低误报率下的攻击性能,效率远优于前沿方法LiRA且成本相当。
2024-07-09 cs.AI cs.CR cs.LG
Efficient Federated Unlearning with Adaptive Differential Privacy Preservation
Nanyang Technological University(南洋理工大学)
针对联邦遗忘中存储历史更新引发的隐私风险,提出FedADP方法,通过自适应差分隐私机制、双层选择过程和新型校准方法,在降低存储与通信成本的同时有效平衡了遗忘效率与隐私保护。
2024-11-17 cs.CR cs.LG
DPDL: Towards Differential Privacy Preservation in Decentralized Stochastic Learning on Non-IID Data
School of Computer Science and Technology, Shandong University(计算机科学与技术学院,山东大学);Inspur Cloud Information Technology Co, Ltd(Inspur 云信息技术有限公司)
针对非独立同分布数据下的分散式学习隐私泄露问题,提出基于差分隐私和相似性校准的DPDL算法,通过加噪和余弦相似度校准实现隐私保护并保持线性加速。
2026-06-03 cs.CR cs.LG
Not All 4-bit Quantizers Are Equal: Deployment-Time Mitigation of PII Leakage in Fine-Tuned Small Language Models
AI Horizon Labs(AI地平线实验室);Federal University of Pampa (UNIPAMPA)(潘帕联邦大学(UNIPAMPA))
研究发现4位量化方法的选择影响微调小型语言模型的隐私泄露,基于校准的方法(如AWQ)比无校准方法泄露更少,部署时应将其视为隐私决策。
2026-09-23 cs.AI cs.CR cs.LG
Privacy-preserving parametric inference: a case for robust statistics
Columbia University(哥伦比亚大学)
本文提出了一个具有差分隐私保证的参数推断通用框架,基于有界影响M-estimators构建了差分隐私估计量和检验统计量,并阐明了差分隐私与稳健统计学之间的联系。
2019-11-22 cs.CR cs.LG stat.ML
DPSR: Differentially Private Sparse Reconstruction via Multi-Stage Denoising for Recommender Systems
Columbia University Irving Medical Center(哥伦比亚大学伊文思医疗中心)
DPSR通过多阶段去噪框架在推荐系统中实现差分隐私保护,有效提升推荐质量,优于现有隐私保护机制。
2025-12-22 cs.CR cs.LG
Dual Utilization of Perturbation for Stream Data Publication under Local Differential Privacy
针对本地差分隐私下流数据发布噪声过大的问题,提出扰动值双重利用方法,通过IPP、APP和CAPP算法校准噪声,在满足w-事件差分隐私的同时显著提升效用。
2025-04-21 cs.CR cs.DB
Towards Personalized Differentially Private Learning for Decentralized Local Graphs
School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院);State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术国家重点实验室);School of Cyber Science and Technology, Shandong University(山东大学网络空间安全学院);School of Cyberspace Security, Beijing University of Posts and Telecommunications(北京邮电大学网络空间安全学院);Department of Computer Science, University of Illinois at Chicago(伊利诺伊大学芝加哥分校计算机科学系)
研究去中心化局部图隐私学习问题,提出PPGNN框架,含个性化扰动机制和加权校准策略,能平衡隐私保护与数据效用。
2026-07-07 cs.CR cs.LG
Homomorphic Encryption for Speaker Recognition: Protection of Biometric Templates and Vendor Model Parameters
Hochschule Darmstadt(达姆施塔特应用技术大学)
在处理生物识别数据时,数据隐私至关重要。考虑到最新的欧洲数据隐私法规和支付服务指令,生物识别模板保护对于任何商业应用都至关重要。确保生物识别服务运营商之间的不可链接性、泄露的加密模板的不可逆性以及例如语音模型遵循i-vector范式,基于生物识别语音的系统是为最新的欧盟数据隐私立法做准备的。采用Paillier密码系统,欧几里得和余弦比较器已知可确保数据隐私要求,而不会损失辨别力或校准性能。为弥补从模板保护到说话人识别的差距,提出了两种结构的双协方差比较器,作为本研究中的生成模型。第一种架构保护生物特征数据捕获主体的隐私。在第二架构中,比较器的模型参数也被加密,使得生物特征服务提供商可以向多个生物特征服务运营商提供采用不同密钥对的相同比较模块。对2013-2014年NIST i-vector机器学习挑战赛的数据进行了实验性概念验证和复杂性分析。
2018-03-09 cs.CR cs.SD eess.AS
An End-to-End Homomorphically Encrypted Neural Network
INTELI - Institute of Technology and Leadership(INTELI技术与领导力学院)
提出基于同态加密的端到端神经网络架构,实现加密数据上的隐私保护推理,并引入可微Soft-Argmax层提升安全性,在SST-2上达到普通模型82.5%的准确率。
2025-02-27 cs.AI cs.CR
Breaking the Trilemma of Privacy, Utility, Efficiency via Controllable Machine Unlearning
University of Notre Dame(圣母大学);University of Pennsylvania(宾夕法尼亚大学);Dartmouth College(达特茅斯学院);Georgia Institute of Technology(佐治亚理工学院);George Mason University(乔治梅森大学)
本文提出可控机器遗忘框架 ConMU,通过重要数据选择、渐进高斯机制和遗忘代理三个模块,实现对隐私、效用与效率之间权衡的灵活校准,并在多个基准数据集上验证了其优于现有方法的适应性和性能。
2024-02-22 cs.AI cs.CR cs.LG
A Comprehensive Study of Privacy Risks in Curriculum Learning
University of California, Irvine(加州大学欧文分校);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本研究首次系统评估课程学习(CL)的隐私风险,通过成员推断和属性推断攻击发现CL增加MIA风险但降低AIA风险,并提出利用难度分数校准的Diff-Cali攻击,有效针对所有CL方法。
2023-10-16 cs.CR cs.LG
Utility Analysis and Enhancement of LDP Mechanisms in High-Dimensional Space
本地差分隐私(LDP)是一种流行的隐私保护数据汇集机制,它在本地扰动每个用户的数据,只将其信息的噪声版本发送到聚合器。在LDP中,数据收集者可以在不访问原始数据的情况下获得准确的统计数据,从而保证隐私。然而,LDP的一个主要缺点是它在高维空间中的实用性令人失望。虽然已经提出了各种LDP方案来减少扰动,但它们在收集器侧共享相同且朴素的聚合机制。在本文中,我们首先提出了一个分析框架,一般测量LDP机制在高维空间中的效用,它可以基准现有的和未来的LDP机制,而无需进行任何实验。在此基础上,该框架进一步揭示了朴素聚合在高维空间中是次优的,还有很大的改进空间。出于这一动机,我们提出了一个重新校准协议HDR4ME的高维均值估计,提高了现有的LDP机制的效用,而不做任何改变。理论分析和大量的实验证实了我们的框架和协议的通用性和有效性。
2022-01-19 cs.CR cs.DB
Privacy Policy Enforcement Guardrails for Data-Sensitive Retrieval-Augmented Generation
University of California, Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);University of Toronto(多伦多大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California, Los Angeles(加州大学洛杉矶分校)
针对RAG系统中上下文数据泄露问题,提出基于双单类密度估计器与融合文本嵌入的隐私策略执行框架,在医学、金融和法律领域实现高AUROC和低误报率。
2026-05-31 cs.AI cs.CR cs.LG
Private Prediction via PAC Privacy
Massachusetts Institute of Technology(麻省理工学院)
针对API场景下的私有预测,提出基于PAC隐私的实例级噪声校准方法,实现自适应查询下互信息线性累积,在CIFAR-10上以极低预算达到高精度,并支持通过蒸馏发布可公开查询的模型。
2026-06-15 cs.CR cs.LG
Upcycling Noise for Federated Unlearning
Purdue University Indianapolis(印第安纳大学-普渡大学印第安纳波利斯分校);Georgia State University(佐治亚州立大学)
针对DPFL中现有联邦遗忘方法受噪声影响失效的问题,提出含本地模型撤回、全局噪声校准的FUI方法,结合两阶段Stackelberg博弈推导最优策略,在保证隐私与收敛的同时实现更优性能与效率。
2024-12-07 cs.CR cs.DC cs.LG
COMPASS: Membership Inference Attack Against Vision Large Language Models via Adaptive Noise Calibration
Emory University(埃默里大学)
本研究针对视觉大语言模型的隐私风险,提出自适应灰盒成员推断攻击COMPASS,通过校准扰动幅度与得分方向,在多模型多数据集上优于基线,医学场景AUC达0.64。
2026-10-14 cs.CR cs.LG
FedSpaLLM: Federated Pruning of Large Language Models
Argonne National Laboratory(阿贡国家实验室);Emory University(埃默里大学)
针对隐私场景下大语言模型剪枝缺乏可用校准数据的问题,提出首个专为LLM剪枝设计的联邦学习框架FedSpaLLM,通过三项创新技术在兼顾系统异构性与通信效率的同时提升了多场景剪枝性能。
2025-02-18 cs.CR cs.LG
Closed-Form Noise Calibration Against Membership Inference for Random-Allocation DP-SGD
CWI Amsterdam(阿姆斯特丹CWI);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
针对随机分配DP-SGD,提出闭式公式限制成员推断攻击准确性,噪声校准优于现有方法,计算快速且可解释。
2026-10-08 cs.CR cs.LG
A Certified Unlearning Approach without Access to Source Data
Department of Electrical and Computer Engineering, University of California, Riverside, CA, USA(加州大学河滨分校电子与计算机工程系);Brookhaven National Laboratory, Upton, NY, USA(布鲁克海文国家实验室)
本文提出一种无需访问源数据的认证删除方法,通过替代数据集和噪声缩放技术,在不接触原始数据的情况下实现有效数据删除,并通过实验验证其在隐私保护中的有效性。
2025-12-18 cs.CR cs.LG stat.ML
Tight End-to-End Accounting for Differentially Private Synthetic Data
UCL(伦敦大学学院);SAS(萨塞克斯大学);Google(谷歌);Google Research(谷歌研究院);Hasso Plattner Institute(哈索·普拉特纳研究所);Lausanne University Hospital (CHUV)(洛桑大学医院)
针对差分隐私合成数据流水线的核算精度损失问题,开发基于隐私损失分布等的工具,提出AIM-GDP和MixCal,实现更严格核算并降低同隐私水平下的噪声。
2026-10-14 cs.CR cs.LG stat.ML
Practical Membership Inference Attacks against Fine-tuned Large Language Models via Self-prompt Calibration
Tsinghua University(清华大学)
针对现有大型语言模型成员推理攻击(MIA)依赖相似参考数据集或过拟合假设导致实际误报率高的问题,提出基于自提示校准概率变异的SPV-MIA,通过自提示构建参考数据集、引入记忆驱动的概率变异信号,将MIA的AUC从0.7提升至0.9。
2024-11-26 cs.CL cs.CR cs.LG
PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization
CWI Amsterdam(阿姆斯特丹信息与计算科学研究所);MIT Cambridge(麻省理工学院);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
提出PACZero系列零阶机制,通过符号量化实现零互信息下的PAC隐私微调,在SST-2和SQuAD上取得竞争性结果。
2026-11-09 cs.AI cs.CR cs.LG