Near Instance-Optimality in Differential Privacy
Stanford University（斯坦福大学）
我们开发了两个概念的实例最优性差分隐私，经典统计理论的启发：一个通过定义一个本地极大极小风险和其他考虑无偏机制和类比的Cramer-Rao界，我们表明，本地模的连续性的估计的兴趣完全决定了这些数量。我们还开发了一个互补的收集机制，我们称之为逆灵敏度机制，这是实例最优（或近实例最优）的一大类被估量。此外，这些机制在每个实例上对于几个感兴趣的函数类（包括实值连续函数）都一致优于平滑灵敏度框架。我们仔细地提出了两个实例的机制，中位数和强大的回归估计与相应的实验。
2020-05-16 cs.CR cs.LG stat.ML
Tangent differential privacy
Stanford University（斯坦福大学）
本文提出针对特定数据分布、兼容全变差与Wasserstein等距离的切向差分隐私，并证明风险最小化中熵正则化在一般条件下可保证该隐私。
2024-06-06 cs.CR cs.LG stat.ML
Setting the Privacy Budget in Differential Privacy by Bounding Adversaries' Odds of Learning Sensitive Information
Duke University（杜克大学）
研究如何设置差分隐私中的隐私预算ε，核心方法是从业者先设定对手学习敏感信息的后验概率界限，再将其转换为ε值，以平衡隐私与结果准确性，并用病例对照研究数据说明该方法。
2026-07-07 stat.ME
Statistical Quantification of Differential Privacy: A Local Approach
在这项工作中，我们介绍了一种新的方法，统计量化的差分隐私在黑盒设置。我们提出了一个随机算法$A$的最佳隐私参数的估计和置信区间，以及其他关键变量（如“以数据为中心的隐私级别”）。我们的估计是基于当地的隐私特性，并在相关文献中避免了“事件选择”的过程中，隐私验证的一个主要障碍。这使得我们的方法易于实现和用户友好。我们证明了估计的快速收敛速度和置信区间的渐近有效性。各种算法的实验研究证实了我们的方法的有效性。
2022-05-02 cs.CR math.ST stat.ME
Private Minimum Hellinger Distance Estimation via Hellinger Distance Differential Privacy
George Mason University（乔治梅森大学）
本文提出满足Hellinger差分隐私约束的最小Hellinger距离估计器，保持了鲁棒性和效率，同时开发了差分隐私梯度下降和牛顿-拉夫森算法，并通过数值实验验证了其在数据污染下的鲁棒性。
2026-11-03 cs.CR math.PR math.ST
More Than Privacy: Applying Differential Privacy in Key Areas of Artificial Intelligence
China University of Geosciences（中国地质大学）；University of Technology, Sydney（悉尼科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
近年来，人工智能（AI）引起了人们的极大关注。然而，在取得这些进步的同时，也出现了一些问题，如侵犯隐私、安全问题和模型公平性问题。差分隐私作为一种有前途的数学模型，具有一些吸引人的性质，可以帮助解决这些问题，使它成为一个相当有价值的工具。出于这个原因，差分隐私已被广泛应用于人工智能，但到目前为止，还没有研究记录哪些差分隐私机制可以或已经被用来克服其问题或使其成为可能的属性。在本文中，我们表明，差分隐私可以做的不仅仅是隐私保护。它还可以用于提高安全性，稳定学习，构建公平模型，并在人工智能的选定领域中实施组合。本文的重点是常规机器学习、分布式机器学习、深度学习和多代理系统，其目的是提供一个新的视角，探讨利用差分隐私技术提高AI性能的多种可能性。
2020-08-05 cs.CR cs.LG stat.ML
Differential Privacy for Sparse Classification Learning
Northwest University（西北大学）；Macau University of Science and Technology（澳门科技大学）
在本文中，我们提出了一个差分隐私版本的凸和非凸稀疏分类方法。基于交替方向乘子法（ADMM）算法，将稀疏问题的求解转化为多步迭代过程。然后，我们添加指数噪声稳定的步骤，以实现隐私保护。该方法利用差分隐私的后处理保持特性，在原问题不稳定的情况下，仍能满足$ε-$差分隐私.此外，我们提出了理论上的隐私界的差分隐私分类算法。具体地说，我们的算法的隐私边界控制的算法迭代次数，隐私参数，损失函数的参数，ADMM预选参数，和数据大小。最后，我们将我们的框架应用于具有$L_1$正则化的逻辑斯谛回归和具有$L_{1/2}$正则化的逻辑斯谛回归。数值实验表明，该方法在敏感数据分析中具有良好的性能。
2019-08-02 cs.CR cs.LG stat.ML
Privacy for Free: Communication-Efficient Learning with Differential Privacy Using Sketches
CMU（卡内基梅隆大学）
通信和隐私是分布式学习中的两个关键问题。许多现有的作品分别处理这些问题。在这项工作中，我们认为，在分布式机器学习的背景下，通信减少和隐私保护的方法之间存在着自然的联系。特别是，我们证明了Count Sketch（一种简单的数据流摘要方法）具有固有的差分隐私属性。使用这些派生的隐私保证，我们提出了一种新的基于草图的框架（DiffSketch）的分布式学习，在那里我们通过草图压缩传输的消息，同时实现通信效率和可证明的隐私优势。我们的评估表明，DiffSketch可以提供强大的差分隐私保证（例如，$\varepsilon$ = 1），并将通信减少20- 50倍，而精度仅略有下降。与单独处理隐私和通信的基线相比，DiffSketch将绝对测试准确率提高了5%-50%，同时提供相同的隐私保证和通信压缩。
2019-12-06 cs.CR cs.LG stat.ML
Element Level Differential Privacy: The Right Granularity of Privacy
Stanford University（斯坦福大学）；Apple（苹果公司）
差分隐私（DP）为统计学习应用中用户数据泄露的风险提供了强有力的保证，尽管这些强有力的保护使学习具有挑战性，并且对于某些用例可能过于严格。为了解决这个问题，我们提出了元素级别的差分隐私，它扩展了差分隐私，以提供保护，防止泄漏信息的任何特定的“元素”的用户，允许更好的效用和更强大的结果比经典的DP。通过仔细选择这些“元素”，可以以期望的粒度提供隐私保护。我们提供的定义，相关的隐私保证，并分析，以确定权衡与新的定义，我们还开发了几个私人估计和学习方法，提供仔细的例子，项目频率和M-估计（经验风险最小化）与随之而来的隐私和效用分析。我们通过几个实际应用，估计直方图和拟合几个大规模预测模型（包括深度网络）来补充我们的理论和方法进步。
2019-12-05 cs.CR cs.LG stat.ML
Federated $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
联邦学习（FL）是一种训练范式，其中客户端通过重复共享信息来协作学习模型，而不会对其本地敏感数据的隐私造成太大影响。在本文中，我们介绍了联邦$f$ -差分隐私，一个新的概念，专门为联邦设置，高斯差分隐私的框架的基础上。联合$f$ -差异隐私在记录级别上运行：它为一个客户端数据的每个单独记录提供隐私保证，以对抗对手。然后，我们提出了一个通用的私人联邦学习框架{PriFedSync}，可容纳一个大家庭的国家的最先进的FL算法，可证明实现联邦$f$差分隐私。最后，我们实证地展示了在计算机视觉任务中由{PriFedSync}训练的模型的隐私保证和预测性能之间的权衡。
2021-02-22 cs.AI cs.CR cs.CV
Capacity Bounded Differential Privacy
UC San Diego（加州大学圣地亚哥分校）；Duke University（杜克大学）
差分隐私是算法稳定性的概念，是衡量算法输出对数据集中单个记录隐私造成的额外风险的黄金标准。差分隐私被定义为算法在一个条目不同的相邻数据集上的输出分布之间的距离。在这项工作中，我们提出了一种新的放松的差分隐私，能力有界的差分隐私，其中的对手，区分输出分布被假定为能力有界的-即有界的计算能力，但从他们的攻击算法得出的功能类。我们的对手模型的限制F-概率分布之间的分歧，并研究属性的定义和算法，满足他们。
2019-07-03 cs.CR cs.LG stat.ML
Federated Learning with Bayesian Differential Privacy
EPFL（洛桑联邦理工学院）
我们考虑的问题，加强联邦学习与正式的隐私保证。我们建议采用贝叶斯差分隐私，放松差分隐私类似分布的数据，提供更清晰的隐私损失界限。我们适应贝叶斯隐私会计方法的联邦设置，并建议在不同层次上更有效的隐私预算的多个改进。我们的实验表明，在图像分类任务（包括医疗应用程序）上，联邦学习的最先进的差分隐私界限具有显着的优势，使隐私预算在客户端级别低于1，在实例级别低于0.1。较低的噪声量也有利于模型的准确性，并减少通信回合的数量。
2019-11-22 cs.CR cs.DC cs.LG
Rényi Differential Privacy of the Sampled Gaussian Mechanism
Google Research（谷歌研究院）
采样高斯机制（SGM）--一种子采样和加性高斯噪声的组合--已经成功地用于许多机器学习应用中。该机制的意想不到的权力是来自隐私放大采样，其中一个单一的评价的隐私成本减少二次，而不是线性的，与采样率。SGM的精确隐私特性的特点激励了差分隐私概念的几个放松的发展。这项工作统一并填补了SGM已发表结果的空白。我们描述了一个数值稳定的过程，精确计算SGM的雷尼差分隐私，并证明了一个几乎紧（在一个小的常数因子）的封闭形式的界限。
2019-08-28 cs.CR cs.LG stat.ML
Bayesian Differential Privacy for Machine Learning
Artificial Intelligence Lab, Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院人工智能实验室）
传统的差分隐私与数据分布无关。然而，这与现代机器学习环境并不匹配，其中模型是在特定数据上训练的。因此，在ML中实现有意义的隐私保证通常会过度降低准确性。我们提出贝叶斯差分隐私（BDP），它考虑到数据的分布，提供更实际的隐私保障。我们还得到了一个一般的隐私会计方法下BDP，著名的时刻会计师的基础上。我们的实验表明，在经典的机器学习数据集，如MNIST和CIFAR-10，分布样本享有显着更强的隐私保证比DP假设，而模型保持高分类精度。
2020-08-19 cs.CR cs.LG stat.ML
Deep Learning with Gaussian Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
深度学习模型通常在包含敏感信息的数据集上进行训练，例如个人的购物交易，个人联系人和医疗记录。因此，一个越来越重要的工作路线已经寻求训练受隐私约束的神经网络，这些隐私约束由差分隐私或其基于发散的松弛指定。然而，这些隐私定义在处理某些重要的原语（组合和子采样）时存在弱点，从而对训练神经网络进行松散或复杂的隐私分析。在本文中，我们考虑了最近提出的隐私定义\textit{$f$-differential privacy} [18]，用于训练神经网络的精细隐私分析。利用$f$ -差分隐私在处理组合和子采样方面的吸引人的特性，本文推导了用于训练深度神经网络的随机梯度下降和Adam的隐私保证的分析易处理的表达式，而不需要像[3]那样开发复杂的技术。我们的研究结果表明，$f$ -差分隐私框架允许一种新的隐私分析，它改进了先前的分析~[3]，这反过来又建议调整神经网络的某些参数，以获得更好的预测精度，而不违反隐私预算。这些理论推导的改进证实了我们的实验中的一系列任务，在图像分类，文本分类和推荐系统。用于计算这些实验的隐私成本的Python代码可以在\texttt{TensorFlow Privacy}库中公开获得。
2020-07-22 cs.CR cs.LG stat.ML
A normal approximation for joint frequency estimatation under Local Differential Privacy
近年来，局部差分隐私（LDP）已成为隐私保护数据分析的基石之一。然而，许多挑战仍然阻碍其广泛应用。这些问题之一是LDP到高维数据的可扩展性，特别是用于估计联合分布。在本文中，我们开发了一个近似估计的频率联合分布估计下所谓的纯LDP协议。
2022-06-14 cs.CR cs.DB math.ST
Rejoinder: Gaussian Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
在本答辩中，我们的目标是解决两个广泛的问题，涵盖了讨论中提出的大多数意见。首先，我们讨论了我们工作的一些理论方面，并评论这项工作可能会如何影响隐私保护数据分析的理论基础。从实用的角度来看，我们接下来讨论f-差分隐私（f-DP）和高斯差分隐私（GDP）如何在一系列应用中发挥作用。
2021-06-26 cs.CR cs.LG math.ST
Subsampled Rényi Differential Privacy and Analytical Moments Accountant
UC Santa Barbara（加州大学圣巴巴拉分校）；Amazon AI（亚马逊人工智能）
我们研究了差分隐私（DP）中的子采样问题，这个问题是许多成功的差分隐私机器学习算法背后的核心。具体来说，我们为算法的Rényi差分隐私（RDP）（Mironov，2017）参数提供了一个严格的上限：（1）对数据集进行二次采样，然后（2）根据M的RDP参数和二次采样概率参数将随机机制M应用于二次采样。我们的结果将Abadi等人（2016）为高斯机制开发的矩计算技术推广到任何子采样RDP机制。
2018-12-04 cs.CR cs.LG stat.ML
Amplifying Rényi Differential Privacy via Shuffling
差分隐私是构建机器学习模型的有用工具，该模型不会发布太多有关训练数据的信息。我们研究了随机梯度下降的Rényi差分隐私，当每个训练样本被采样而不替换（也称为循环SGD）。循环SGD通常比传统SGD更快，是大规模实现中的首选算法。我们恢复的隐私保证循环SGD这是竞争对手的那些已知的采样与替换。我们的证明技术不对模型或数据做任何假设，因此具有广泛的适用性。
2020-02-17 cs.CR cs.LG stat.ML
Classification under local differential privacy
我们认为，在一个设置，保留原始样本的隐私的二进制分类问题。我们提供了一个隐私机制，是本地差分私有的，然后构造一个分类器的基础上的私有样本是普遍一致的欧几里得空间。在更强的假设下，我们建立了超额风险的极小极大收敛率，并发现它们比原始样本可用的情况下要慢。
2019-12-10 math.ST stat.ME stat.ML
Practical Privacy Filters and Odometers with Rényi Differential Privacy and Applications to Differentially Private Deep Learning
Microsoft Research（微软研究院）
差分隐私（DP）是隐私保护深度学习的主要方法。因此，有多种努力来提供DP到流行框架中的直接集成。这些努力将噪声添加到每个梯度计算以使其成为DP，依赖于合成定理来限制在该DP计算序列上引起的总隐私损失。然而，现有的组合定理提出了效率和灵活性之间的紧张关系。大多数定理要求序列中的所有计算都有一个预定义的DP参数，称为隐私预算。这阻止了训练算法的设计，即在运行中调整隐私预算，或者提前终止以减少总的隐私损失。或者，现有的几个自适应隐私预算的组合结果提供了复杂的隐私损失的界限，常数太大，是不切实际的。本文从Rényi差分隐私的角度研究了自适应隐私预算下的DP合成问题，证明了一个简单的合成定理，该定理具有较小的常数，使其在算法设计中具有足够的实用性。我们展示了这个定理在DP深度学习中的两个应用：在线调整噪声或批量大小，以在固定的总隐私损失内提高模型的准确性，以及在微调模型时提前停止，以减少总隐私损失。
2021-06-04 cs.LG stat.ML
An information theorist's tour of differential privacy
本文从信息论视角解读差分隐私，将差分隐私算法建模为数据到输出的信道，梳理信息论与差分隐私理论及应用的关键关联，为相关信息度量赋予操作意义。
2025-10-11 cs.CR cs.IT math.IT
Per-instance Differential Privacy
UC Santa Barbara（加州大学圣巴巴拉分校）；Carnegie Mellon University（卡内基梅隆大学）
我们考虑一个细化的差分隐私-每实例差分隐私（pDP），它捕获一个特定的个人相对于一个固定的数据集的隐私。我们表明，这是一个严格的推广标准DP和继承其所有可取的性质，例如，合成，对边信息的不变性和对后处理的封闭性，除了它们都分别适用于每个实例。当数据来自一个分布，我们表明，每实例DP意味着泛化。此外，我们提供了明确的计算每实例DP的输出扰动一类光滑学习问题。结果揭示了一个有趣而直观的事实，即如果一个人对数据集具有较小的“杠杆分数”，并且如果他/她可以使用留一数据集更准确地预测，则他/她具有更强的隐私。我们的模拟显示了几个数量级更有利的隐私和效用权衡时，我们只考虑数据集中的用户的隐私。在差分私有线性回归的案例研究中，提供了一种新的单后验样本（OPS）估计量的分析，并表明当数据集条件良好时，它为任何目标个体提供$(ε,δ)$ -pDP，并将精确下限匹配到$1+\tilde{O}(n^{-1}ε^{-2})$乘法因子。我们还演示了如何使用“pDP到DP转换”步骤来设计AdaOPS，该AdaOPS使用自适应正则化来实现与$(ε,δ)$ -DP相同的结果。
2018-11-14 cs.LG stat.ML
Differential Privacy for Eye Tracking with Temporal Correlations
University of Tübingen（蒂宾根大学）；University of Siegen（锡根大学）
新一代盔装显示器，如VR和AR眼镜，正在进入市场，已经集成了眼动追踪，并有望在众多应用中实现新颖的人机交互方式。然而，由于眼动特性包含生物特征信息，因此必须妥善处理隐私问题。诸如差分隐私机制的隐私保护技术最近已被应用于从这种显示器获得的眼睛运动数据。然而，标准的差分隐私机制由于眼睛运动观测之间的时间相关性而易受攻击。在这项工作中，我们提出了一种新的变换编码为基础的差分隐私机制，以进一步适应眼动特征数据的统计，并比较各种低复杂度的方法。我们扩展了一种差分隐私机制--傅立叶微扰算法，并纠正了其证明中的一个尺度错误。此外，我们说明了显着减少样本的相关性，除了查询的敏感性，这提供了最好的效用隐私权衡眼动追踪文献。我们的研究结果提供了显着高的隐私，而没有任何实质性的损失，在分类准确性，同时隐藏个人标识符。
2021-12-20 cs.CR cs.HC cs.LG
Federated Learning and Differential Privacy: Software tools analysis, the Sherpa.ai FL framework and methodological guidelines for preserving data privacy
Andalusian Research Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）
边缘人工智能服务的高需求也保护了数据隐私，推动了对符合这些需求的新型机器学习范式的研究。联邦学习的目标是通过分布式学习方法来保护数据隐私，这些方法将数据保存在数据孤岛中。同样，差分隐私通过测量联邦学习的元素之间的通信中的隐私损失来实现对数据隐私的保护。联邦学习和差分隐私与数据隐私保护挑战的前瞻性匹配导致了几个支持其功能的软件工具的发布，但它们缺乏对这些技术所需的统一愿景，以及支持其使用的方法工作流程。因此，我们提出了Sherpa.ai联邦学习框架，该框架建立在联邦学习和差分隐私的整体视图上。它源于对如何使机器学习范式适应联邦学习的研究，以及基于联邦学习和差分隐私开发人工智能服务的方法指南的定义。我们展示了如何通过分类和回归用例来遵循Sherpa.ai联邦学习框架的方法指南。
2020-10-06 cs.AI cs.CR cs.LG
Model Explanations with Differential Privacy
National University of Singapore (NUS)（新加坡国立大学）
黑箱机器学习模型被用于关键决策领域，这引发了一些要求提高算法透明度的呼声。缺点是模型解释可能会泄露有关训练数据和用于生成它们的解释数据的信息，从而破坏数据隐私。为了解决这个问题，我们提出了不同的私人算法来构建基于特征的模型解释。我们设计了一个自适应差分隐私梯度下降算法，找到产生准确的解释所需的最小隐私预算。它通过自适应地重用过去的差异隐私解释，减少了解释数据的整体隐私损失。它还增强了关于训练数据的隐私保证。我们评估的影响，不同的私人模型和我们的隐私机制的模型解释的质量。
2020-06-16 cs.LG stat.ML
Three Tools for Practical Differential Privacy
University of Amsterdam（阿姆斯特丹大学）；VU Amsterdam（阿姆斯特丹自由大学）
对真实世界数据的差异化私有学习对标准机器学习实践提出了挑战：隐私保证难以解释，私有数据的超参数调整减少了隐私预算，并且通常需要临时隐私攻击来测试模型隐私。我们介绍了三种工具，使差异化的私人机器学习更实用：（1）简单的健全性检查，可以在训练前以集中的方式进行，（2）自适应裁剪限制，以减少可调隐私参数的有效数量，（3）我们表明，大批量训练提高模型性能。
2018-12-07 cs.LG stat.ML
Fairness Meets Privacy: Integrating Differential Privacy and Demographic Parity in Multi-class Classification
Sorbonne Universite（索邦大学）
本文提出DP2DP算法，通过整合差分隐私与人口平等，实现多类分类中的隐私保护与公平性保障。
2025-11-24 cs.LG stat.ML
Differential Privacy for Functions and Functional Data
Carnegie Mellon University（卡内基梅隆大学）
差分隐私是一个用于私下发布数据库摘要的框架。以前的工作主要集中在方法的输出是一个有限维向量，或一些离散集的元素。我们开发的方法释放功能，同时保持差分隐私。具体来说，我们表明，添加一个适当的高斯过程的功能的利益产生差异隐私。当函数位于与高斯过程相同的RKHS中时，则通过测量函数在RKHS范数中的“灵敏度”来建立正确的噪声水平。作为例子，我们考虑核密度估计，核支持向量机，并在再生核希尔伯特空间的功能。
2012-03-12 cs.LG stat.ML
Matrix Factorization for Practical Continual Mean Estimation Under User-Level Differential Privacy
Institute of Science and Technology Austria (ISTA)（奥地利科学与技术研究院）
本文研究在用户级差分隐私下连续均值估计问题，提出一种高效的矩阵因子化方法，实现更低的均方误差。
2026-05-10 cs.LG stat.ML
Concentrated Differential Privacy
我们介绍了集中的差分隐私，放松差分隐私享受更好的准确性比纯差分隐私和流行的“（差，三角洲）”放松，而不损害累积的隐私损失在多次计算。
2016-03-16 cs.CR cs.DS
Property Testing for Differential Privacy
我们考虑差分隐私的属性测试的问题：与黑盒访问一个据称是私人的算法，我们可以验证其隐私保证？特别是，我们表明，任何隐私保证，可以有效地验证，也是有效地在这个意义上说，存在两个数据库，我们可以有效地区分。给出了验证纯差分隐私、近似差分隐私、随机纯差分隐私和随机近似差分隐私的查询复杂度的下界。我们还给出了算法的上界。在工作中得到的下界是不可行的尺度参数，通常被认为是合理的差分隐私文献，即使当我们假设验证者有机会获得（不可信）的算法描述。这项工作的一个中心信息是，验证隐私需要验证者或算法所有者的妥协。要么验证者必须满足于弱隐私保证，要么算法所有者必须在边信息或算法访问权上妥协。
2019-02-13 cs.CR cs.DS
Optimal Noise Adding Mechanisms for Approximate Differential Privacy
在效用最大化/代价最小化框架下，研究了$(ε,δ)$ -近似差分隐私算法中整数值查询函数和向量值（类直方图）查询函数的（近）最优机制.我们描述了$ε$和$δ$之间的权衡效用和隐私分析直方图样查询功能（$\ell^1$敏感性），并表明$(ε,δ)$ -差分隐私是一个框架，没有更一般的$(ε,0)$ -差分隐私和$(0,δ)$ -差分隐私的上下文中的$\ell^1$和$\ell^2$成本函数，即，最小预期噪声幅度和噪声功率。在相同的$\ell^1$和$\ell^2$代价函数的情况下，我们证明了均匀噪声机制和离散拉普拉斯机制在高隐私机制（如$(ε,δ) \to (0,0)$）中的近最优性。我们的结论是，在$(ε,δ)$ -差分隐私，最佳的噪声幅度和噪声功率分别是$Θ(\min(\frac{1}ε,\frac{1}δ))$和$Θ(\min(\frac{1}{ε^2},\frac{1}{δ^2}))$，在高隐私制度。
2013-12-19 cs.CR cs.DS
Composition of Differential Privacy & Privacy Amplification by Subsampling
Google Research（谷歌研究院）
本章是“人工智能应用的差分隐私”一书的一部分。“我们介绍了差分隐私最重要的属性-组成：对一组人的数据进行多项独立分析仍然是差异隐私的，只要每项分析本身都是隐私的-以及通过子采样进行隐私放大的相关主题。本章介绍了基本概念，并给出了在实践中应用这些工具所需的关键结果的证明。
2022-10-26 cs.CR cs.DS cs.LG
Obtaining $(ε,δ)$-differential privacy guarantees when using a Poisson mechanism to synthesize contingency tables
本文研究利用泊松合成机制保护列联表计数，并通过泊松分布累积分布函数获得$(ε,δ)$-概率差分隐私保证，且在行政型机密数据库上进行了实证验证。
2024-06-29 cs.CR stat.ME
Algorithms with More Granular Differential Privacy Guarantees
Google Research（谷歌研究院）
差分隐私通常应用于大于理论建议的理想隐私参数;已经提出了各种非正式的理由来容忍大的隐私参数。在这项工作中，我们考虑部分差分隐私（DP），它允许量化的隐私保证每个属性的基础上。在这个框架中，我们研究了几个基本的数据分析和学习任务，并设计了算法，其每个属性的隐私参数小于一个人的整个记录的最佳可能的隐私参数（即，所有属性）。
2022-09-08 cs.CR cs.DS cs.LG
Pure Differential Privacy from Secure Intermediaries
最近的工作在差分隐私探索了本地随机化与安全的中介相结合的前景。具体来说，在安全混洗模型（其中中介随机地置换消息）以及安全聚合模型（其中中介添加消息）中存在各种协议。这些协议大多局限于近似差分隐私。一个例外是Ghazi，Golowich，Kumar，Manurangsi，Pagh和Velingker的shuffle协议（arXiv：2002.01919）：它在纯差分隐私下计算有界和。它的加性误差是$\tilde{O}(1/\varepsilon^{3/2})$，其中$\varepsilon$是隐私参数。在这项工作中，我们给出了一个新的协议，确保$O(1/\varepsilon)$错误下纯差分隐私。我们还展示了如何使用它来测试均匀分布在$[d]$。测试人员的样本复杂度对$d$有最佳依赖性。我们的工作依赖于一类新的安全中介机构是独立的利益。
2021-12-27 cs.CR cs.DS
Lemmas of Differential Privacy
我们的目标是收集隐藏的引理是有用的证明。特别是，我们试图为这些引理提供自包含的证明，并根据它们的用途将它们分类。
2022-11-21 cs.CR cs.DS
Bounding the Invertibility of Privacy-preserving Instance Encoding using Fisher Information
Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI；Georgia Institute of Technology（佐治亚理工学院）；Cornell University（康奈尔大学）
本文提出基于Fisher信息的理论化隐私度量，用于界定隐私保护实例编码的可逆性，兼具直观性与实用性，并在理论与实证层面验证其有效性。
2023-05-06 cs.CR cs.LG
Prior-itizing Privacy: A Bayesian Approach to Setting the Privacy Budget in Differential Privacy
针对差分隐私发布中需平衡数据实用性与隐私保护的问题，提出基于贝叶斯披露后验概率设置隐私预算$\u03b5$的框架，机构可通过设定可接受的风险水平推导唯一$\u03b5$，实现风险与效用的权衡。
2024-05-22 cs.CR stat.ME
Differential Privacy By Sampling
在本文中，我们提出了采样隐私机制，私人发布的个人数据。采样隐私是一种基于采样的隐私机制，满足差分隐私。
2017-08-06 cs.CR
Optimality of the Laplace Mechanism in Differential Privacy
在高度互联的物联网领域，敏感信息的交换引起了严重的隐私问题。拉普拉斯机制--将拉普拉斯分布的人工噪声添加到敏感数据--是在差分隐私框架内提供隐私保证的广泛使用的方法之一。在这项工作中，我们提出了Lipschitz隐私，一个稍微严格的版本的差分隐私。我们证明了拉普拉斯机制是最佳的意义上，它最大限度地减少了均方误差的身份查询，提供隐私方面的$\ell_{1}$规范。除了尊重个人参与的$\ell_{1}$规范之外，我们还关注于提供高维数据隐私的$\ell_{2}$规范的使用。拉普拉斯机制的一个变化被证明具有最佳的均方误差从身份查询。最后，在个人提交高维敏感数据的情况下，最优机制的推导。
2015-04-07 cs.CR cs.DS
Manipulation Attacks in Local Differential Privacy
局部差分隐私是对收集关于敏感用户数据的聚集的分布式算法的广泛研究的限制，并且现在被部署在几个大型系统中。我们开始系统地研究本地差分私有协议的一个基本限制：它们非常容易受到对抗性操纵。虽然任何算法都可以被对手操纵，他们对自己的输入撒谎，我们表明，任何非交互式的本地差分私有协议可以在更大程度上被操纵。也就是说，当隐私级别很高或输入域很大时，控制协议中一小部分用户的攻击者可以完全掩盖用户输入的分布。我们还表明，现有的协议有很大的不同，在他们的抵抗操纵，即使他们提供了相同的准确性保证与诚实的执行。我们的研究结果表明，谨慎部署本地差分隐私，并加强有效的加密技术的重要性，从中央差分隐私在分布式设置的仿真机制。
2019-09-20 cs.CR cs.DS
Noise Variance Optimization in Differential Privacy: A Game-Theoretic Approach Through Per-Instance Differential Privacy
针对传统差分隐私因最坏情况导致小数据集过度加噪的问题，提出基于逐实例差分隐私的噪声方差优化博弈，证明其Nash均衡点保证隐私，并在KL散度指标上实现高达99.53%的性能提升。
2024-04-27 cs.CR
Concentrated Differential Privacy: Simplifications, Extensions, and Lower Bounds
“集中式差分隐私“是Dwork和Rothblum最近提出的一种对差分隐私的放宽，它允许对许多隐私保护计算进行更清晰的分析。我们提出了一种替代配方的概念，集中的差分隐私在Renyi分歧的分布通过运行算法相邻的输入。有了这种重新表述，我们证明了更清晰的定量结果，建立下限，并提出了一些新的问题。通过对“近似集中式差分隐私”的定义，将该方法与近似差分隐私统一起来。"
2016-05-06 cs.CR cs.DS cs.IT
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型，因为它提供了强大的隐私保证，即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而，在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用，从而降低了差异隐私结果的分析效用。在试图解决这个缺点，差分隐私的几个放宽已被提出，权衡隐私保证改善数据效用。在这项工作中，我们认为，标准的形式化的差分隐私是严格的比所需的直观的隐私保证，它寻求。特别地，标准形式化要求结果在任何相邻数据集对之间的不相容性，而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力，从而导致严重的准确性损失。在这方面，我们提出了个人差分隐私，一个替代的差分隐私的概念，为他们提供了相同的隐私保证标准差分隐私的个人（即使不是个人群体）。这个新概念允许数据控制器根据实际数据集调整失真，从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私，我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Randori: Local Differential Privacy for All
民意调查是收集数据的常见方式，包括产品评论和反馈表。然而，很少有数据收集者提供预先的隐私保证。此外，当隐私保证预先给出时，它们通常是关于“匿名”的模糊声明。相反，我们建议通过差分隐私的统计概念提供可量化的隐私保证。然而，隐私并不是免费的。差分隐私的核心是准确性和隐私之间的内在权衡，需要加以平衡。因此，在开始收集数据之前，适当调整准确性-隐私权衡至关重要。总而言之，开始差异私有数据汇集可能具有挑战性。理想情况下，数据分析师不必关心差分隐私的所有细节，而是通过设计获得差分隐私。尽管如此，据我们所知，还没有在差分隐私下收集民意调查数据的工具。由于缺乏在差分隐私下收集民意调查数据的工具，我们开始设计自己的工具。具体来说，使本地差分隐私访问所有，在本系统的文件中，我们提出了Randori，一套新颖的开源工具，用于差异私人民意调查数据汇集。Randori旨在帮助数据分析师专注于他们的民意调查正在收集什么数据，而不是他们应该如何收集它。我们的工具还允许数据分析师分析预测他们的民意调查的准确性。此外，我们表明，单独的差分隐私是不足以实现端到端的隐私在服务器-客户端设置。因此，我们还调查和减轻隐式数据泄漏的Randori。
2021-01-27 cs.CR
Differential Privacy Made Easy
本文提出DP-framework和简易库GRAM-DP，最小化差分隐私参数调整，使无背景用户也能保护数据隐私并发布统计结果。
2022-01-01 cs.CR
Concurrent Composition of Differential Privacy
我们发起了一项研究的组成性质的互动差分隐私机制。交互式差异隐私机制是一种允许分析师自适应地询问有关敏感数据集的查询的算法，具有对抗分析师对交互的看法大致相同的属性，无论任何个人的数据是否在数据集中。以前的研究组成的差分隐私集中在非交互式的算法，但需要交互式的机制来捕捉许多预期的应用程序的差分隐私和一些重要的差异隐私原语。我们专注于并发组合，对手可以任意交织其查询到几个不同的私人机制，这可能是可行的差异私人查询系统部署在实践中。我们证明，当被组成的互动机制是纯差分隐私，他们的并发组合达到隐私参数（相对于纯或近似差分隐私），匹配的（最佳）非交互式差分隐私的组合定理。我们还证明了满足近似差分隐私的交互机制的合成定理。这一界限甚至比非交互式差分隐私的基本（次优）组合定理还要弱，我们将缩小差距作为未来研究的一个方向，同时了解差分隐私的其他变体的并发组合。
2021-09-15 cs.CR
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中，存在一个脆弱的假设，即当应用差分隐私时，数据集中的记录是独立的。然而，在现实世界的数据集，记录很可能是相关的，这可能会导致意外的数据泄漏。在这个调查中，我们调查的问题，由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类：1）使用参数描述差分隐私中的数据相关性; 2）使用模型描述差分隐私中的数据相关性; 3）基于Pufferfish框架描述数据相关性。首先，给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后，我们的主要工作是分析和比较这些方法，并评估这些不同的研究应用的情况。最后，我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
Differential Privacy as a Causal Property
我们提出了关联和因果的差分隐私的观点。在关联视图下，数据点之间的依赖性的可能性排除了差分隐私的保证的简单陈述，作为在单个改变的数据点上的条件。然而，我们表明，一个简单的表征差分隐私限制一个单一的数据点的影响确实存在的因果关系的观点下，没有独立的假设数据点。我们相信，这种特性解决了先前工作中关于差分隐私后果的分歧和困惑。需要假设的关联观点归结为相关性并不意味着因果关系这一格言的对立：确保缺乏（强）因果关系的差分隐私并不意味着缺乏（强）关联。我们的表征也开辟了应用统计学，实验设计和科学的因果关系，同时研究差分隐私的结果的可能性。
2019-07-06 cs.CR
Author Obfuscation Using Generalised Differential Privacy
混淆的问题，作者的文本文件已很少受到关注的文献。目前的方法是特设的，并依赖于假设对手的辅助知识，这使得它很难推理这些方法的隐私属性。差分隐私是一种众所周知的和强大的隐私方法，但它依赖于数据集之间的邻接概念，阻碍了其应用到文本文档隐私。然而，广义差分隐私允许应用程序的差分隐私任意数据集赋予一个度量，并已被证明的问题，涉及个人数据点的释放。在本文中，我们将展示如何应用广义差分隐私，作者混淆利用现有的工具和方法，从文体学和自然语言处理文献。
2018-05-22 cs.CR
Models Matter: Setting Accurate Privacy Expectations for Local and Central Differential Privacy
本文针对本地和中心差分隐私，设计并评估了侧重后果的隐私营养标签式解释，以设定准确隐私预期，并结合过程简述提升信任。
2024-08-19 cs.CR cs.HC
Renyi Differential Privacy
我们提出了一个自然放松的差分隐私的基础上Renyi分歧。密切相关的概念出现在最近的几篇论文中，这些论文分析了差异私有机制的组成。我们认为，有用的分析工具，可以用来作为一个隐私的定义，compensately和准确地表示保证的尾巴上的隐私损失。我们证明了新的定义与标准定义的差分隐私共享许多重要的属性，同时还允许更严格的分析复合异构机制。
2017-08-25 cs.CR
