Rényi Pufferfish Privacy: General Additive Noise Mechanisms and Privacy Amplification by Iteration
Craft AI;Université de Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Université de Montpellier(蒙彼利埃大学)
本文提出基于 Rényi 散度的 Pufferfish 隐私变体,通过推广 Wasserstein 机制、强化分布外敌手保证并证明收缩性含噪迭代的隐私放大,首次将 Pufferfish 框架应用于私有凸优化。
2024-06-10 cs.CR cs.LG stat.ML
Approximation of Pufferfish Privacy for Gaussian Priors
本文提出在高斯先验下通过Monge最优传输校准拉普拉斯噪声以实现河豚隐私,并扩展到高斯混合模型先验,为求和查询的私有发布给出充分条件。
2024-05-06 cs.CR cs.IT math.IT
Multi-user Pufferfish Privacy
University of Auckland(奥克兰大学);Sophgo Technology Co., Ltd.(算能科技有限公司);Beijing Institute of Technology(北京理工大学)
本文研究了在多用户系统中通过水鱼隐私实现个体不可区分的方法,推导了在四种秘密对集上达到统计不可区分的充分条件,利用Kantorovich方法(Wasserstein度量)进行分析。
2026-04-21 cs.CR
Rényi Pufferfish Privacy with Gaussian-based Priors: From Single Gaussian to Mixture Model
School of Cyberspace Science and Technology, Beijing Institute of Technology(北京理工大学网络空间安全学院);University of Auckland(奥克兰大学);School of Computer Science, University of Auckland(奥克兰大学计算机科学学院);QAX Security Center, the Qi-AnXin Technology Group Inc.(奇安信集团);Qi An Xin Technology Group Inc.(奇安信科技集团股份有限公司);Zhongguancun Laboratory(中关村实验室)
本文研究了基于高斯和高斯混合先验的Rényi Pufferfish隐私机制,推导了高斯扰动后的Rényi散度,提出了放松的闭式充分条件,并通过实验展示了其在隐私-效用权衡上的改进。
2026-04-26 cs.CR
Noise Reduction for Pufferfish Privacy: A Practical Noise Calibration Method
Beijing Institute of Technology(北京理工大学);University of Auckland(奥克兰大学);Qi An Xin Technology Group Inc.(奇安信科技集团股份有限公司);Zhongguancun Laboratory(中关村实验室)
本文提出了一种实用的噪声校准方法,用于在鱼鳞隐私下提高数据效用,实验表明数据效用提升了47%至87%。
2026-01-10 cs.CR
Quantum Pufferfish Privacy: A Flexible Privacy Framework for Quantum Systems
Cornell University(康奈尔大学);school of Electrical and Computer Engineering(电气与计算机工程学院)
本文提出量子河豚隐私(QPP)框架,通过灵活指定私有信息、测量和领域知识,推广量子差分隐私,并利用信息谱散度实现隐私审计与权衡分析。
2024-05-28 cs.CR cs.IT cs.LG
Measured Hockey-Stick Divergence and its Applications to Quantum Pufferfish Privacy
School of Electrical and Computer Engineering, Cornell University(电气与计算机工程系,康奈尔大学);School of Applied and Engineering Physics, Cornell University(应用与工程物理系,康奈尔大学)
本文研究了测量曲棍球杆发散及其在量子比目鱼隐私框架中的应用,证明了其性质并展示了计算方法。
2025-02-05 cs.CR cs.IT cs.LG
Composition Properties of Inferential Privacy for Time-Series Data
University of California San Diego(加利福尼亚大学圣迭戈分校)
随着移动设备和物联网的普及,在时间序列应用中开发原则性的隐私解决方案变得越来越重要。虽然差分隐私是数据库隐私的黄金标准,但许多时间序列应用程序需要不同类型的保证,并且许多最近的作品使用某种形式的推理隐私来解决这些情况。然而,在实践中使用推理隐私的一个主要障碍是它缺乏优雅的组合-即使相同或相关的敏感数据在多个单独安全的版本中使用,组合的版本可能具有较差的隐私属性。在本文中,我们研究的一种形式的推理隐私称为河豚时,应用于时间序列数据的组成特性。我们表明,虽然一般河豚机制可能不会优雅地组成,一个特定的河豚机制,称为马尔可夫被子机制,这是最近推出的,具有较强的组成属性,可与纯差分隐私时,应用于时间序列数据。
2017-07-10 cs.CR cs.LG stat.ML
Formal Privacy for Partially Private Data
差分隐私(DP)通过分析注入到输出统计中的噪声来量化隐私损失。对于非平凡的统计数据,这种噪声是必要的,以确保有限的隐私损失。然而,数据管理者经常发布统计数据的集合,其中一些使用DP机制,而另一些则按原样发布,即,没有额外的随机噪声。因此,DP本身不能描述整个发布集合造成的隐私损失。在本文中,我们提出了一个隐私的形式主义,$(ε, \{ Θ_z\}_{z \in \mathcal{Z}})$ -河豚($ε$ -TP的缩写时,$\{ Θ_z\}_{z \in \mathcal{Z}}$是隐含的),河豚机制的集合索引的实现的随机变量$Z$表示公共信息不受DP噪声。首先,我们证明了这个定义有类似的性质DP。接下来,我们介绍了释放部分私有数据(PPD)满足$ε$ -TP的机制,并证明其理想的属性。我们提供了算法从一个参数的后验PPD采样。然后,我们比较这种推理方法的替代噪声统计确定性地结合Z。我们推导出温和的条件下,使用我们的算法提供了理论和计算的改进,这种更常见的方法。最后,我们在COVID-19数据的案例研究中展示了上述所有影响。
2022-12-14 cs.CR stat.ME
Attribute Privacy: Framework and Mechanisms
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院);The University of Melbourne(墨尔本大学);Columbia University(哥伦比亚大学)
由于许多机器学习模型都是在机密和潜在敏感数据上训练的,因此确保训练数据的隐私性越来越受到关注。在大型数据集的分析过程中,保护个人隐私的方法受到了很大的关注。然而,在许多设置中,数据集的全局属性也可能是敏感的(例如,医院的死亡率,而不是数据集中特定患者的存在)。在这项工作中,我们从个人隐私出发,开始研究属性隐私,其中数据所有者担心在分析过程中泄露整个数据集的敏感属性。我们提出了定义来捕获\emph{attribute privacy}在两个相关的情况下,全局属性可能需要保护:(1)一个特定的数据集的属性和(2)数据集采样的基础分布的参数。我们还提供了两个有效的机制和一个低效的机制,满足这些设置的属性隐私。我们的研究结果基于河豚框架的一种新的用途,以解释数据中属性之间的相关性,从而解决了\cite{kifer2014pufferfish}留下的“开发河豚实例化和一般聚合秘密算法的挑战性问题”。
2021-05-11 cs.CR cs.CY cs.DS
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中,存在一个脆弱的假设,即当应用差分隐私时,数据集中的记录是独立的。然而,在现实世界的数据集,记录很可能是相关的,这可能会导致意外的数据泄漏。在这个调查中,我们调查的问题,由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类:1)使用参数描述差分隐私中的数据相关性; 2)使用模型描述差分隐私中的数据相关性; 3)基于Pufferfish框架描述数据相关性。首先,给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后,我们的主要工作是分析和比较这些方法,并评估这些不同的研究应用的情况。最后,我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
On the Stability of Spherical Hellinger-Kantorovich Flows and Their Implications for Differential Privacy
Department of Statistics, Pennsylvania State University(宾夕法尼亚州立大学统计学系)
本文发展球形Hellinger-Kantorovich梯度流的摄动理论,通过统一扰动界控制对数似然比和Rényi散度,并应用于差分隐私中指数机制的近似采样,提供纯DP和近似DP保证。
2026-05-22 cs.CR cs.LG math.ST
Private Graph Data Release: A Survey
近年来,图分析在各个领域的应用产生了巨大的社会和经济效益。然而,图形分析的日益广泛的采用伴随着保护图形数据中的私有信息的需求的相应增加,特别是考虑到真实世界的图形数据中的许多隐私泄露,这些数据本应保留敏感信息。本文提供了一个全面的调查私有图数据发布算法,寻求实现隐私和实用性之间的良好平衡,特别关注可证明的私有机制。这些机制中的许多是差分隐私框架到图形数据的自然扩展,但我们也研究了更一般的隐私公式,如河豚隐私,解决了差分隐私的一些限制。我们还对私有图数据发布机制在社交网络、金融、供应链和医疗保健中的应用进行了广泛的调查。这份调查报告及其提供的分类法应该使越来越重要的私人分析和数据发布领域的从业者和研究人员受益。
2022-06-04 cs.CR
Protecting Global Properties of Datasets with Distribution Privacy Mechanisms
The University of Melbourne(墨尔本大学)
本研究针对数据集全局属性的机密性问题,提出基于分布隐私框架,扩展Wasserstein机制和Gaussian机制,有效抵御属性推断攻击,并在隐私与效用间取得更优平衡。
2023-04-10 cs.CR cs.CY cs.LG
On Privacy and Confidentiality of Communications in Organizational Graphs
University of Waterloo(滑铁卢大学);Microsoft Research(微软研究院);Microsoft Corporation(微软公司)
在组织通信数据(例如企业中的电子邮件)上训练的机器学习模型具有违反保密性的独特风险,即使该模型仅用于内部使用。这项工作显示了保密性是如何从企业环境中的隐私不同,并旨在制定一种方法来保护机密性,同时利用原则,从差分隐私。目标是执行机器学习任务,例如学习语言模型或执行主题分析,使用组织中的人际通信,而不是学习组织中共享的机密信息。将差分隐私技术应用于自然语言处理任务的工作通常假设独立分布的数据,并且忽略记录之间的潜在相关性。忽视这种相关性会导致虚假的隐私承诺。简单地将差分隐私技术扩展到关注组隐私而不是记录级隐私是缓解此问题的直接方法。这种方法虽然提供了更现实的隐私保障,但过于谨慎,严重影响了模型的效用。我们在两个语言任务中展示了这两种极端隐私措施之间的差距,并介绍了一个中间立场的解决方案。我们提出了一个模型,捕捉在社交网络图中的相关性,并将这种相关性通过河豚隐私原则的隐私计算。
2021-05-27 cs.CL cs.CR cs.LG
Application-driven Privacy-preserving Data Publishing with Correlated Attributes
Stony Brook University(石溪大学);NVIDIA(英伟达);Rutgers University(罗格斯大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);Bosch Research(博世研究院)
计算方面的最新进展使收集有关个人活动和私人生活空间的大量数据成为可能。为了解决用户在这种环境中的隐私问题,我们提出了一个新的框架,称为PR-GAN,使用生成对抗网络提供隐私保护机制。给定目标应用程序,PR-GAN自动修改数据以隐藏敏感属性-这些属性可能是隐藏的,可以通过机器学习算法推断-同时保留目标应用程序中的数据实用程序。与以前的作品,公众的目标应用程序和敏感属性之间的相关性的可能的知识是内置到我们的建模。我们将我们的问题表述为优化问题,证明存在最优解,并使用生成对抗网络(GAN)来创建扰动。我们进一步表明,我们的方法提供了隐私保障下的河豚框架,优雅的概括的差分隐私,允许对数据和相关性的先验知识建模。通过实验,我们表明,我们的方法优于传统的方法,有效地隐藏敏感属性,同时保证高性能的目标应用程序,属性推理和训练的目的。最后,我们通过进一步的实验证明,一旦我们的模型在一组个体上学习了隐私保护任务,例如隐藏受试者的身份,它就可以在一个单独的组上执行相同的任务,并且性能下降最小。
2021-01-05 cs.CR cs.LG stat.ML
The Laplace Mechanism has optimal utility for differential privacy over continuous queries
差分隐私在从聚合数据库发布统计查询时保护个人数据:对查询结果应用“混淆”机制使发布的信息不那么具体,但不可避免地也降低了其效用。然而,已经表明,对于离散数据(例如,计数查询),强制的隐私程度和对效用损失的合理解释,几何混淆机制是最佳的:它损失尽可能少的效用。然而,对于连续查询结果(例如实数),最优性结果并不成立。我们在这里的贡献是表明,最优性是通过使用拉普拉斯机制的混淆。所涉及的技术装置包括Ghosh等人早期的离散结果,最近的工作抽象渠道和他们的几何表示为超分布,和分布之间的距离由Kantorovich-Rubinstein定理提供的双重解释。
2021-07-26 cs.CR