Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型，因为它提供了强大的隐私保证，即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而，在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用，从而降低了差异隐私结果的分析效用。在试图解决这个缺点，差分隐私的几个放宽已被提出，权衡隐私保证改善数据效用。在这项工作中，我们认为，标准的形式化的差分隐私是严格的比所需的直观的隐私保证，它寻求。特别地，标准形式化要求结果在任何相邻数据集对之间的不相容性，而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力，从而导致严重的准确性损失。在这方面，我们提出了个人差分隐私，一个替代的差分隐私的概念，为他们提供了相同的隐私保证标准差分隐私的个人（即使不是个人群体）。这个新概念允许数据控制器根据实际数据集调整失真，从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私，我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Randori: Local Differential Privacy for All
民意调查是收集数据的常见方式，包括产品评论和反馈表。然而，很少有数据收集者提供预先的隐私保证。此外，当隐私保证预先给出时，它们通常是关于“匿名”的模糊声明。相反，我们建议通过差分隐私的统计概念提供可量化的隐私保证。然而，隐私并不是免费的。差分隐私的核心是准确性和隐私之间的内在权衡，需要加以平衡。因此，在开始收集数据之前，适当调整准确性-隐私权衡至关重要。总而言之，开始差异私有数据汇集可能具有挑战性。理想情况下，数据分析师不必关心差分隐私的所有细节，而是通过设计获得差分隐私。尽管如此，据我们所知，还没有在差分隐私下收集民意调查数据的工具。由于缺乏在差分隐私下收集民意调查数据的工具，我们开始设计自己的工具。具体来说，使本地差分隐私访问所有，在本系统的文件中，我们提出了Randori，一套新颖的开源工具，用于差异私人民意调查数据汇集。Randori旨在帮助数据分析师专注于他们的民意调查正在收集什么数据，而不是他们应该如何收集它。我们的工具还允许数据分析师分析预测他们的民意调查的准确性。此外，我们表明，单独的差分隐私是不足以实现端到端的隐私在服务器-客户端设置。因此，我们还调查和减轻隐式数据泄漏的Randori。
2021-01-27 cs.CR
Differential Privacy Made Easy
本文提出DP-framework和简易库GRAM-DP，最小化差分隐私参数调整，使无背景用户也能保护数据隐私并发布统计结果。
2022-01-01 cs.CR
Concurrent Composition of Differential Privacy
我们发起了一项研究的组成性质的互动差分隐私机制。交互式差异隐私机制是一种允许分析师自适应地询问有关敏感数据集的查询的算法，具有对抗分析师对交互的看法大致相同的属性，无论任何个人的数据是否在数据集中。以前的研究组成的差分隐私集中在非交互式的算法，但需要交互式的机制来捕捉许多预期的应用程序的差分隐私和一些重要的差异隐私原语。我们专注于并发组合，对手可以任意交织其查询到几个不同的私人机制，这可能是可行的差异私人查询系统部署在实践中。我们证明，当被组成的互动机制是纯差分隐私，他们的并发组合达到隐私参数（相对于纯或近似差分隐私），匹配的（最佳）非交互式差分隐私的组合定理。我们还证明了满足近似差分隐私的交互机制的合成定理。这一界限甚至比非交互式差分隐私的基本（次优）组合定理还要弱，我们将缩小差距作为未来研究的一个方向，同时了解差分隐私的其他变体的并发组合。
2021-09-15 cs.CR
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中，存在一个脆弱的假设，即当应用差分隐私时，数据集中的记录是独立的。然而，在现实世界的数据集，记录很可能是相关的，这可能会导致意外的数据泄漏。在这个调查中，我们调查的问题，由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类：1）使用参数描述差分隐私中的数据相关性; 2）使用模型描述差分隐私中的数据相关性; 3）基于Pufferfish框架描述数据相关性。首先，给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后，我们的主要工作是分析和比较这些方法，并评估这些不同的研究应用的情况。最后，我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
Differential Privacy as a Causal Property
我们提出了关联和因果的差分隐私的观点。在关联视图下，数据点之间的依赖性的可能性排除了差分隐私的保证的简单陈述，作为在单个改变的数据点上的条件。然而，我们表明，一个简单的表征差分隐私限制一个单一的数据点的影响确实存在的因果关系的观点下，没有独立的假设数据点。我们相信，这种特性解决了先前工作中关于差分隐私后果的分歧和困惑。需要假设的关联观点归结为相关性并不意味着因果关系这一格言的对立：确保缺乏（强）因果关系的差分隐私并不意味着缺乏（强）关联。我们的表征也开辟了应用统计学，实验设计和科学的因果关系，同时研究差分隐私的结果的可能性。
2019-07-06 cs.CR
Author Obfuscation Using Generalised Differential Privacy
混淆的问题，作者的文本文件已很少受到关注的文献。目前的方法是特设的，并依赖于假设对手的辅助知识，这使得它很难推理这些方法的隐私属性。差分隐私是一种众所周知的和强大的隐私方法，但它依赖于数据集之间的邻接概念，阻碍了其应用到文本文档隐私。然而，广义差分隐私允许应用程序的差分隐私任意数据集赋予一个度量，并已被证明的问题，涉及个人数据点的释放。在本文中，我们将展示如何应用广义差分隐私，作者混淆利用现有的工具和方法，从文体学和自然语言处理文献。
2018-05-22 cs.CR
Renyi Differential Privacy
我们提出了一个自然放松的差分隐私的基础上Renyi分歧。密切相关的概念出现在最近的几篇论文中，这些论文分析了差异私有机制的组成。我们认为，有用的分析工具，可以用来作为一个隐私的定义，compensately和准确地表示保证的尾巴上的隐私损失。我们证明了新的定义与标准定义的差分隐私共享许多重要的属性，同时还允许更严格的分析复合异构机制。
2017-08-25 cs.CR
Toward Practical Differential Privacy in Smart Grid with Capacity-Limited Rechargeable Batteries
差分隐私技术通过加入来自拉普拉斯分布的噪声，成功地克服了同时保持个人数据的隐私性和统计结果的实用性的困难。因此，在智能电网的应用中，普遍使用可充电电池作为噪声以实现差分隐私。不幸的是，据我们所知，我们观察到，现有的隐私保护机制不能满足差分隐私，当考虑在实践中的电池的物理限制。在本文中，我们首先分类两种类型的挑战所造成的两个物理限制，最大充电/放电速率和电池的容量。然后，我们提出了一个无状态的隐私保护方案，通过探索一个边界可变分布的噪音，并证明了该方案满足差分隐私，关于第一种类型的挑战。我们进一步解释了在第二类挑战下实现差分隐私的困难，并形式化定义了一个宽松的差分隐私。最后，我们提出了一个满足放松差分隐私的有状态隐私保护方案。实验分析表明，我们的隐私保护计划在每个时间点的最大隐私泄漏稳定优于现有的工作。
2015-07-22 cs.CR
On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy
本文旨在回答以下两个问题，在隐私保护的数据分析和发布：什么正式的隐私保证（如果有的话）$k$ -匿名提供？如何从对手对数据的不确定性中获益？我们发现，随机抽样提供了一个连接，有助于回答这两个问题，因为抽样可以创建不确定性。本文的主要结果是，$k$ -匿名化，当做“安全”，并与随机抽样步骤时，满足$(ε,δ)$ -差分隐私与合理的参数。这一结果说明，“隐藏在一群$k$中“确实提供了一些隐私保证。这一结果还提出了一种满足差分隐私的输出扰动的替代方法：即，在开始时添加随机采样步骤，并修剪对单个元组的变化太敏感的结果。关于第二个问题，我们提供了积极和消极的结果。在积极的一面，我们表明，增加一个随机采样的预处理步骤的差分隐私算法可以大大放大的隐私保护的水平。因此，当给定由采样产生的数据集时，可以利用大得多的隐私预算。从消极的一面来看，任何利用对手的不确定性的隐私概念都不可能构成。我们讨论这些结果在实践中意味着什么。
2011-06-21 cs.CR
$d_X$-Privacy for Text and the Curse of Dimensionality
本文发现多维拉普拉斯机制在逐词应用时输出极端词而非语义相似词，归因于高维嵌入中最近邻距离特性，并提出后处理修复方法。
2025-09-08 cs.CR
Formal Verification of Differential Privacy for Interactive Systems
差分隐私是一种很有前途的隐私保护数据分析方法，其理论是关于函数的。尽管最近在实现旨在提供差分隐私的系统方面进行了工作，但正式验证这些系统具有差分隐私的问题尚未得到充分解决。本文介绍了差异私有交互系统源代码自动验证的第一批结果。我们开发了一个正式的概率自动机模型的差分隐私的系统，通过调整以前的工作差分隐私的功能。本文的主要技术成果是一种基于概率互模拟关系形式的可靠性证明技术，用于证明建模为概率自动机的系统满足差分隐私。新颖之处在于，我们跟踪定量隐私泄漏边界使用的关系族，而不是一个单一的关系。我们说明了一个代表性的自动机PINQ，旨在提供差分隐私的实现系统的动机证明技术。为了使我们的证明技术更容易适用于现实的系统，我们证明了一种形式的细化定理，并将其应用于表明，细化的抽象PINQ自动机也满足我们的差分隐私定义。最后，我们开始自动化的过程中，我们的证明技术，提供了一个算法，机械检查限制类的关系，从证明技术。
2011-01-14 cs.CR
Reconstruction Attacks on Aggressive Relaxations of Differential Privacy
差分隐私是一种被广泛接受的正式隐私定义，它允许发布关于数据集的聚合信息，同时控制其记录出现在数据中的个人的隐私泄露。由于隐私与效用之间不可避免的紧张关系，已经有许多作品试图放宽差分隐私的要求，以实现更大的效用。个人差分隐私（IDP）和引导差分隐私（BDP）的定义体现了一类放松，这是开始获得隐私社区以外的支持。原始版本的差分隐私定义了一组相邻数据库对，并通过要求每对邻居对攻击者几乎不可区分来实现其隐私保证。然而，我们研究的隐私定义积极地减少了受保护的相邻对的集合。IDP和BDP都定义了一个“隐私损失”的度量，它满足诸如后处理不变性和组合等形式上的隐私属性，并且比传统的差分隐私变体实现了更好的效用。然而，有一个显着的缺点-我们表明，他们允许数据集的很大一部分被重建使用算法，具有任意低的隐私损失下，他们的隐私会计规则。我们证明这些攻击使用这些隐私定义的首选机制。特别地，我们设计了一组查询，当被这些具有高噪声设置的机制保护时（即，具有非常低的隐私损失的声明），产生关于数据集的更精确的信息，而不是如果它们根本不受保护。
2022-09-08 cs.CR
Generalization Techniques Empirically Outperform Differential Privacy against Membership Inference
不同的私有训练算法提供了对机器学习中最流行的攻击之一的保护：成员推断攻击。然而，这些隐私算法会导致模型分类准确性的损失，因此会产生隐私效用权衡。差分隐私在深度学习中提供强大的理论保护保证所需的噪声量通常会使模型无法使用，但作者观察到，即使是较低的噪声水平也可以提供可接受的经验保护，以抵御现有的成员推断攻击。在这项工作中，我们寻找替代差分隐私对经验保护成员推断攻击。我们研究了简单地遵循良好的机器学习实践（没有考虑隐私设计）对成员推理的保护。我们评估了最先进的技术，如预训练和锐度感知最小化，单独和差分私人训练算法的性能，并发现，当使用早期停止，没有差分隐私的算法可以提供更高的效用和更高的隐私比他们的差分私人同行。这些发现挑战了差分隐私是一种很好的防御现有成员推断攻击的信念
2021-10-11 cs.CR
Issues Encountered Deploying Differential Privacy
十多年前，当差分隐私被创建时，一个鼓舞人心的例子是官方统计机构发布的统计数据。在试图将差分隐私从学术界转变为实践的过程中，美国人口普查局遇到了许多差分隐私的创造者没有预料到的挑战。这些挑战包括：获得合格的人员和适当的计算环境;难以说明机密数据的所有用途;缺乏符合数据使用者需要的发布机制;数据使用者期望他们能够获得微观数据;难以设定隐私丧失参数$ε$（xmax）的值，以及缺乏工具和受过训练的个人来验证差分隐私实现的正确性。
2018-09-06 cs.CR
Lessons Learned: Surveying the Practicality of Differential Privacy in the Industry
自2006年引入以来，差分隐私已成为量化学术著作中数据隐私的主要统计工具。然而，尽管有大量的研究和开源工具伴随着它的兴起，除了有限的例外，差分隐私未能在企业领域获得广泛采用。我们的研究旨在通过对9家主要公司的24名隐私从业者的详细采访，揭示这种学术与工业利用差距的根本原因。我们分析了调查结果，为努力改善数据工作流程中隐私保护的公司提供关键发现和建议，并强调现有差分隐私工具的必要和缺失要求，旨在指导研究人员更广泛地采用差分隐私。我们的研究结果表明，分析师在请求访问敏感数据时经历了漫长的官僚程序，但一旦获得许可，只有很少执行的隐私政策才能阻止流氓从业者滥用私人信息。因此，我们认为，差分隐私可以显着改善请求和进行数据探索的过程中，筒仓，并得出结论，与本文提出的一些改进，差分隐私在整个企业的实际使用是在惊人的距离。
2022-11-07 cs.CR
Methods To Ensure Privacy Regarding Medical Data -- Including an examination of the differential privacy algorithm RAPPOR and its implementation in "Cryptool 2"
本文件审查了几种适用的方法，以确保在卫生保健部门收集的数据的隐私。为了确保对该主题有共同的理解，引言根据示例解释了匿名方法的必要性。接下来，介绍了数据汇集的原因，以及保护上述数据的目的，以及目前适用的隐私法来执行此隐私。问题“我们谈论的是什么样的隐私，必须满足什么条件？“在随后的“差分隐私“一章中讨论。因此，正在建立，共同的匿名化方法进行解释和审查，为他们在医疗保健部门的使用。RAPPOR算法及其差分隐私更详细地处理，然后得出结论。
2022-10-18 cs.CR
Advances in Differential Privacy and Differentially Private Machine Learning
本文综述差分隐私理论、Renyi DP与Concentrated DP等新变体、新机制及其在隐私保护机器学习中的理论进展与实际部署。
2024-04-06 cs.CR
Differential Privacy in Privacy-Preserving Big Data and Learning: Challenge and Opportunity
差分隐私（Differential Privacy，DP）以其强大的保护功能和坚实的数学基础，成为隐私保护的事实标准，被广泛应用于大数据分析、图数据处理、机器学习、深度学习、联邦学习等不同领域。虽然DP已经成为一个活跃和有影响力的领域，但它并不是解决不同场景下所有隐私问题的最佳解决方案。此外，DP在具体应用中也存在一些误解、误用和巨大挑战。在本文中，我们指出了相应的研究领域的一系列限制和开放的挑战。此外，我们提供了潜在的新的见解和途径，结合差分隐私与其他有效的降维技术和安全多方计算，以明确定义各种隐私模型。
2021-12-03 cs.CR
Privacy-Preserving ECG Data Analysis with Differential Privacy: A Literature Review and A Case Study
本文综述差分隐私在ECG分析中的应用研究，提出六步流程实现心律失常数据库的差分隐私查询发布并给出参数选择等指导，同时指出该应用的不足与挑战。
2024-06-19 cs.CR
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想，以确定用于某个查询的最佳机制，该最佳机制同时满足（固定的）$ε$-差分隐私约束，同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面，Brenner和Nissim表明，在计数查询的空间之外，对于贝叶斯风险损失函数，不存在这样的普遍最优机制。在本文中，我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准（即，中央）差分隐私和本地差分隐私，并且其越来越多地用于各种应用领域，例如位置隐私和隐私保护机器学习。使用这个框架，我们能够澄清Nissim和布伦纳的负面结果，显示（一），事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制，和（b）扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明，这种能力总是存在的，可以使用凸优化算法计算。
2022-05-03 cs.CR
Practical Considerations for Differential Privacy
该研究针对作为统计数据发布隐私黄金标准的差分隐私虽有里程碑式成功却未广泛普及的问题，探讨了阻碍其在日常数据使用与保护中应用的实践障碍。
2024-08-14 cs.CR
Local Differential Privacy: a tutorial
在过去的十年中，大数据分析在许多情况下都被证明是非常有价值的。本地差分隐私（LDP）是一种最先进的方法，它允许统计计算，同时保护每个单独用户的隐私。与差分隐私不同，不需要信任中央机构，因为噪声被本地添加到用户输入。在本文中，我们给出了一个概述不同的LDP算法的问题，如本地私人重打击识别和空间数据汇集。最后，对自民党存在的问题进行了展望.
2019-07-27 cs.CR
Differential Privacy Techniques for Cyber Physical Systems: A Survey
随着资讯及通讯科技的发展，现代网络物理系统已广泛应用于我们的日常生活中。随着网络物理系统的提供，与这些系统相关的安全和隐私威胁也在增加。被动攻击被入侵者用来获取CPS的私有信息。为了使CPS数据更加安全，过去已经提出了某些隐私保护策略，如加密和k-匿名。然而，随着CPS体系结构的进步，这些技术也需要进行一定的修改。与此同时，差分隐私作为一种有效的保护CPS数据隐私的技术应运而生。在本文中，我们提出了一个全面的调查差分隐私技术的CPS。特别是，我们调查了差分隐私在CPS的四个主要应用中的应用和实现，这些应用被命名为能源系统，交通系统，医疗保健和医疗系统，以及工业物联网（IIoT）。此外，我们提出了开放的问题，挑战和未来的研究方向，差分隐私技术的CPS。这项调查可以作为现代差分隐私技术的发展，以解决各种问题和CPS的数据隐私场景的基础。
2019-09-27 cs.CR
The Bounded Laplace Mechanism in Differential Privacy
拉普拉斯机制是差分隐私的主力，应用于处理数字数据的许多情况。然而，拉普拉斯机制可以返回语义上不可能的值，例如负计数，因为它的无限支持。对此有两种流行的解决方案：（i）限制/限制输出值以及（ii）限制机制支持。在本文中，我们表明，绑定的机制支持，而使用的纯拉普拉斯机制的参数，通常不保留差分隐私。我们还提出了一个强大的方法来计算最佳的机制参数，以实现差分隐私在这样的设置。
2018-08-30 cs.CR
On the Relation Between Identifiability, Differential Privacy and Mutual-Information Privacy
本文研究了可识别性、差分隐私和互信息隐私这三种不同隐私概念之间的关系。在一个统一的隐私失真框架下，失真被定义为输入和输出数据库的汉明距离，我们建立了这三个隐私概念之间的一些基本联系。给定失真级别$D$，将$ε_{\mathrm{i}}^*(D)$定义为最小（最佳）可识别性级别，并且将$ε_{\mathrm{d}}^*(D)$定义为最小差分隐私级别。我们刻画了$ε_{\mathrm{i}}^*(D)$和$ε_{\mathrm{d}}^*(D)$，并证明了在一定范围内，$D$的$ε_{\mathrm{i}}^*(D)-ε_X\leε_{\mathrm{d}}^*(D)\leε_{\mathrm{i}}^*(D)$，其中$ε_X$是依赖于原始数据库$X$分布的常数，当$X$分布均匀时，$ε_X$减小到零.此外，我们表明，可识别性和互信息隐私是一致的，在这个意义上，给定的失真水平$D$，机制，优化的互信息隐私也最小化的可识别性水平。
2015-08-22 cs.CR
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念，拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中，我们发现，差分隐私没有考虑的线性性质的查询，导致意外的信息泄漏。具体地，线性属性使得可以将一个查询划分成两个查询，诸如$q(D)=q(D_1)+q(D_2)$（如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$）。如果攻击者试图获得$q(D)$的答案，只要他们知道$D_2$，他们不仅可以发出查询$q(D)$，而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分，攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而，从攻击者的角度和从差分隐私机制的角度来看，如果分割设计得很巧妙，则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数，因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏，我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
The Privacy-preserving Padding Problem: Non-negative Mechanisms for Conservative Answers with Differential Privacy
差分私有噪声机制通常使用对称噪声分布。这对于实现差分隐私定义和噪声答案中的无偏期望都是有吸引力的。然而，在某些情况下，噪声答案只有在保守的情况下才有效用，也就是说，具有已知符号的错误，我们称之为填充答案。表面上看，这是自相矛盾的，以满足DP定义的单侧误差，但我们展示了如何有可能将悖论埋到近似DP的δ参数。我们开发了一些单边填充机制，总是给保守的答案，但仍然实现近似差分隐私的机制。我们展示了这些机制如何可以应用在几个选定的领域，包括使基数集的交集和工会透露在私有集的交集协议差分私有和使多方计算协议计算稀疏数据，其确切的大小差分私有，而不是执行一个完全不经意的更昂贵的计算。
2021-10-15 cs.CR
LinkedIn's Audience Engagements API: A Privacy Preserving Data Analytics System at Scale
我们提出了一个隐私系统，利用差分隐私来保护LinkedIn会员的数据，同时还提供受众参与的见解，使营销分析相关的应用程序。我们详细介绍了用于提供可用于现有实时数据分析平台的结果的差异化私有算法和其他隐私保护措施，特别是与开源的Pinot系统。我们的隐私系统提供用户级别的隐私保证。作为隐私系统的一部分，我们提供了一个预算管理服务，该服务对返回给分析师的结果执行严格的差分隐私预算。该预算管理服务将差分隐私的最新研究汇集到一个产品中，以在给定固定差分隐私预算的情况下保持效用。
2020-11-16 cs.CR
Chorus: a Programming Framework for Building Scalable Differential Privacy Mechanisms
差分隐私正迅速成为支持数据统计分析同时保护个人隐私的黄金标准。然而，差分隐私的实际应用仍然落后于研究进展，因为研究原型不能满足生产部署的可扩展性要求。为了解决这一挑战，我们提出了合唱团，一个框架，用于建立可扩展的差分隐私机制，这是基于机制本身和高性能的生产数据库管理系统（DBMS）之间的合作。我们展示了使用合唱团建立第一个高度可扩展的复杂机制，如加权PINQ，MWEM，矩阵机制的实现。我们报告了我们在Uber部署Chorus的经验，并评估了它在现实世界查询中的可扩展性。
2021-05-04 cs.CR
Collecting and Analyzing Multidimensional Data with Local Differential Privacy
Ocean University of China（中国海洋大学）；National University of Singapore（新加坡国立大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）；Nanyang Technological University（南洋理工大学）；Samsung Research, Samsung Electronics（三星电子三星研究院）；Northeastern University（东北大学）
局部差分隐私（LDP）是最近提出的用于收集和分析数据的隐私标准，其已经被使用，例如，在Chrome浏览器、iOS和macOS中。在LDP中，每个用户在本地扰动她的信息，并且只将随机化的版本发送给执行分析的聚合器，这保护了用户和聚合器免受私人信息泄漏。虽然LDP近年来吸引了大量的研究关注，但大多数现有工作都集中在将LDP应用于复杂的数据和/或分析任务。在本文中，我们指出，在LDP下收集多维数据的基本问题还没有得到充分的解决，仍然有很大的改进空间，即使是基本的任务，如计算平均值在一个单一的数值属性下LDP。出于这一动机，我们首先提出了新的LDP机制收集的数值属性，其准确性至少是不差（通常更好）比现有的解决方案在最坏情况下的噪声方差。然后，我们将这些机制扩展到可以包含数值和分类属性的多维数据，其中我们的机制在最坏情况下的噪声方差方面始终优于现有的解决方案。作为一个案例研究，我们应用我们的解决方案来构建一个符合LDP的随机梯度下降算法（SGD），该算法为许多重要的机器学习任务提供了动力。使用真实数据集的实验证实了我们的方法的有效性，以及它们相对于现有解决方案的优势。
2019-06-28 cs.CR cs.CY cs.DB
Concentrated Differential Privacy
我们介绍了集中的差分隐私，放松差分隐私享受更好的准确性比纯差分隐私和流行的“（差，三角洲）”放松，而不损害累积的隐私损失在多次计算。
2016-03-16 cs.CR cs.DS
Dependency Triad: A Metric to Quantify the Dependencies Between Attributes for Local Differential Privacy
The University of Sydney（悉尼大学）；University of Maryland（马里兰大学）；CSIRO（澳大利亚联邦科学与工业研究组织）
针对现有CPL分析方案的局限，提出依赖三元组（DT）度量，其为常数时间保守估计量，可稳健估计成对CPL，经实验验证适用于合成与真实数据集。
2026-08-05 cs.CR cs.IT math.IT
Models Matter: Setting Accurate Privacy Expectations for Local and Central Differential Privacy
本文针对本地和中心差分隐私，设计并评估了侧重后果的隐私营养标签式解释，以设定准确隐私预期，并结合过程简述提升信任。
2024-08-19 cs.CR cs.HC
Property Testing for Differential Privacy
我们考虑差分隐私的属性测试的问题：与黑盒访问一个据称是私人的算法，我们可以验证其隐私保证？特别是，我们表明，任何隐私保证，可以有效地验证，也是有效地在这个意义上说，存在两个数据库，我们可以有效地区分。给出了验证纯差分隐私、近似差分隐私、随机纯差分隐私和随机近似差分隐私的查询复杂度的下界。我们还给出了算法的上界。在工作中得到的下界是不可行的尺度参数，通常被认为是合理的差分隐私文献，即使当我们假设验证者有机会获得（不可信）的算法描述。这项工作的一个中心信息是，验证隐私需要验证者或算法所有者的妥协。要么验证者必须满足于弱隐私保证，要么算法所有者必须在边信息或算法访问权上妥协。
2019-02-13 cs.CR cs.DS
Assessing differentially private deep learning with Membership Inference
SAP SE（SAP公司）；University of Waterloo（滑铁卢大学）
旨在识别公共神经网络的训练数据的攻击代表了对参与训练数据集的个人的隐私的严重威胁。通过训练数据或训练函数的匿名化提供了可能的保护，具有差分隐私。然而，数据科学家可以在本地和中央差分隐私之间进行选择，并且需要选择有意义的隐私参数$ε$，这对于非隐私专家来说是一个挑战。我们经验比较本地和中央差分隐私机制下的白盒和黑盒成员推理，以评估其相对的隐私准确性权衡。我们用几个数据集进行了实验，结果表明，这两种机制的权衡是相似的。这表明局部差分隐私是差分隐私深度学习的中央差分隐私的合理替代方案，因为中央差分隐私中的小$ε$和局部差分隐私中的大$ε$会导致类似的成员推断攻击风险。
2020-05-26 cs.CR cs.LG
Setting $\varepsilon$ is not the Issue in Differential Privacy
Institute of Science and Technology Austria（奥地利科学技术学院）
本文指出差分隐私中隐私预算的解释困难并非其本质问题，而是隐私风险评估的挑战，并主张应通过差分隐私框架或合理解释来解决。
2026-01-19 cs.CR cs.LG
The Application of Differential Privacy for Rank Aggregation: Privacy and Accuracy
Princeton University（普林斯顿大学）
隐私泄露的潜在风险阻止用户在社交平台上分享他们的诚实意见。本文讨论了隐私保护的问题，如果查询返回的排名直方图。将差分隐私框架应用于等级聚合。为了实现差分隐私，分析了作为添加噪声的结果的聚合排名的错误概率。上界的出错率的任何位置的排名规则的假设下，配置文件均匀分布。仿真结果验证了概率分析。
2014-09-24 cs.AI cs.CR
"I need a better description'': An Investigation Into User Expectations For Differential Privacy
尽管最近广泛部署了差分隐私，但对用户如何看待差分隐私知之甚少。在这项工作中，我们试图探索用户的隐私期望相关的差分隐私。具体来说，我们调查（1）用户是否关心差分隐私提供的保护，以及（2）他们是否因此更愿意与差异隐私系统共享他们的数据。此外，我们试图了解（3）用户的隐私期望的不同的私人系统，他们可能会遇到在实践中和（4）他们愿意在这样的系统中共享数据。为了回答这些问题，我们使用了一系列严格进行的调查（n=2424）。我们发现用户关心差分隐私保护的信息泄露类型，并且当这些泄露的风险不太可能发生时，更愿意分享他们的私人信息。此外，我们发现，差分隐私的方式是描述在野外随意设置用户的隐私期望，这可能是误导的部署。我们综合我们的结果到一个框架，了解用户的意愿，以分享信息的差异私人系统，它考虑到用户的先前的隐私问题和如何描述差分隐私之间的相互作用。
2021-10-13 cs.CR cs.CY
Empirical Differential Privacy
我们展示了如何实现差分隐私，没有或减少增加的噪声，基于经验的数据本身的噪声。与以前的作品无噪声隐私，经验的观点避免了任何明确的假设随机过程产生的数据。
2023-01-03 cs.CR cs.LG
Diffprivlib: The IBM Differential Privacy Library
IBM Research（IBM研究院）
自2006年提出概念以来，差分隐私由于其强大的数学保证、广泛的适用性和丰富的文献，已经成为数据隐私领域的事实标准。多年来，研究人员一直在研究差分隐私及其在不断扩大的主题领域的适用性。已经创建了用于针对各种数据类型和场景优化实现差分隐私的过程的机制。然而，在这项工作之前，之前所有关于差分隐私的工作都是在临时的基础上进行的，没有一个统一的代码库来实现结果。在这项工作中，我们提出了IBM的差分隐私库，一个通用的，开源库的调查，实验和开发差分隐私的Python程序设计语言的应用程序。该库包括一系列机制，差分隐私的构建块，以及机器学习和其他数据分析任务的许多应用程序。简单性和可访问性在开发图书馆时被优先考虑，使其适合广泛的用户，从那些使用图书馆进行数据隐私首次调查的用户，到希望为他人提供自己的模型和机制的隐私专家。
2019-07-04 cs.CR cs.LG
Towards Practical Differential Privacy for SQL Queries
差分隐私承诺在保护个人隐私的同时实现通用数据分析，但现有的差分隐私机制不支持现实世界中基于SQL的分析系统中使用的各种各样的功能和数据库。本文提出了第一个实用的方法，差分隐私的SQL查询。使用810万真实世界的查询，我们进行了实证研究，以确定实际的差分隐私的要求，并讨论了以前的方法的局限性，根据这些要求。为了满足这些要求，我们提出了弹性灵敏度，一种新的方法近似的局部灵敏度查询一般equijoins。我们证明了弹性敏感性是局部敏感性的上界，因此可以使用任何基于局部敏感性的机制来执行差分隐私。我们建立了FLEX，一个实用的端到端系统，使用弹性敏感性来执行SQL查询的差分隐私。我们证明了FLEX与任何现有的数据库兼容，可以为现实世界的SQL查询实施差分隐私，并产生可以忽略不计（0.03%）的性能开销。
2018-09-04 cs.CR cs.DB
Private Linear Regression with Differential Privacy and PAC Privacy
Carmel High School（卡梅尔高中）；Department of Computer Science Purdue University（计算机科学系 Purdue 大学）
本文比较了差分隐私和PAC隐私在真实世界数据集上的线性回归性能，揭示了两者在隐私保护下的表现差异。
2025-12-30 cs.CR cs.LG
From Theory to Comprehension: A Comparative Study of Differential Privacy and $k$-Anonymity
本文通过数学定义、隐私风险转化和随机响应三种解释方式，比较用户对差分隐私与 $k$-匿名隐私保护的理解，发现风险模型和随机响应模型能提升理解，而 $k$-匿名仍更易理解。
2024-04-05 cs.CR cs.HC
DuetSGX: Differential Privacy with Secure Hardware
差分隐私为个人提供了正式的隐私保证，但许多差异隐私系统的部署需要可信的第三方（数据管理者）。我们提出DuetSGX，这是一个使用安全硬件（英特尔的SGX）的系统，可以消除对可信数据管理员的需求。数据所有者提交的加密数据只能在运行DuetSGX系统的安全区域内解密，确保敏感数据永远不会提供给数据管理者。分析师提交用Duet语言编写的查询，该语言专门用于验证程序是否满足差分隐私; DuetSGX使用Duet类型检查器在运行前验证每个查询是否满足差分隐私。因此，DuetSGX同时提供了本地差分隐私和中央差分隐私的好处：噪音只会添加到最终结果中，不存在可信的第三方。我们已经实现了DuetSGX的概念验证实现，并将其作为开源发布。
2020-10-20 cs.CR cs.DB
Differential Privacy Overview and Fundamental Techniques
University of Virginia（弗吉尼亚大学）；Georgia Institute of Technology（佐治亚理工学院）
本章作为《人工智能中的差分隐私》一书的引言，概述了差分隐私的定义、核心属性（组合性、后处理免疫性、群体隐私）及实现其纯形式和近似形式的基础技术与机制。
2024-11-07 cs.AI cs.CR
Optimal Noise Adding Mechanisms for Approximate Differential Privacy
在效用最大化/代价最小化框架下，研究了$(ε,δ)$ -近似差分隐私算法中整数值查询函数和向量值（类直方图）查询函数的（近）最优机制.我们描述了$ε$和$δ$之间的权衡效用和隐私分析直方图样查询功能（$\ell^1$敏感性），并表明$(ε,δ)$ -差分隐私是一个框架，没有更一般的$(ε,0)$ -差分隐私和$(0,δ)$ -差分隐私的上下文中的$\ell^1$和$\ell^2$成本函数，即，最小预期噪声幅度和噪声功率。在相同的$\ell^1$和$\ell^2$代价函数的情况下，我们证明了均匀噪声机制和离散拉普拉斯机制在高隐私机制（如$(ε,δ) \to (0,0)$）中的近最优性。我们的结论是，在$(ε,δ)$ -差分隐私，最佳的噪声幅度和噪声功率分别是$Θ(\min(\frac{1}ε,\frac{1}δ))$和$Θ(\min(\frac{1}{ε^2},\frac{1}{δ^2}))$，在高隐私制度。
2013-12-19 cs.CR cs.DS
On the `Semantics' of Differential Privacy: A Bayesian Formulation
差分隐私是对分析和发布统计数据库信息的算法的“隐私”的定义。人们经常声称，差分隐私提供了针对具有任意边信息的对手的保证。在本文中，我们提供了一个精确的配方，这些保证的贝叶斯对手所得出的推论。我们表明，这个配方是满意的“香草”差分隐私，以及被称为（δ，δ）-差分隐私的放松。我们的公式遵循最初由Dwork和McSherry [Dwork 2006]提出的思想。据我们所知，本文是第一个明确出现这种提法的地方。对放松定义的分析是本文的新内容，并为使用（S，delta）-差分隐私时设置参数提供了一些具体的指导。
2023-01-23 cs.CR cs.DB
Bayesian and Frequentist Semantics for Common Variations of Differential Privacy: Applications to the 2020 Census
本文的目的是指导解释的语义隐私保证的差分隐私，其中包括纯，近似，雷尼，零集中，和$f$差分隐私的一些主要变化。我们解释隐私损失会计参数，频率语义，贝叶斯语义（包括新的结果）。驾驶应用程序是对2021年8月12日发布的2020年人口普查公法94-171重划数据摘要文件的保密保护的解释，该文件首次在正式的隐私保证下制作。
2022-09-07 cs.CR stat.ME
Differential Privacy as a Mutual Information Constraint
差分隐私是一个精确的数学约束，旨在确保数据库中的各个信息片段的隐私，即使在查询正在回答有关聚合。直觉上，人们必须接受差分隐私能保证什么和不能保证什么。例如，该定义可以防止一个强大的对手知道数据库中除了一个条目之外的所有条目，从而进一步推断最后一个条目。这一强对抗假设可能被忽略，导致对差分隐私的隐私保证的误解。在这里，我们给出了一个等价的定义隐私使用的互信息，使一些差分隐私的微妙之处。互信息差分隐私在其强度方面实际上夹在$ε$ -差分隐私和$(ε,δ)$ -差分隐私之间。与以前使用无条件互信息的作品相比，差分隐私从根本上与条件互信息相关，伴随着数据库分布的最大化。除了对差分隐私给出一个更简单、更直观的定义外，使用互信息的概念优势在于，它的属性已经被很好地理解了。差分隐私的几个属性很容易验证的互信息替代，如合成定理。
2016-08-12 cs.CR cs.IT math.IT
Can Stochastic Gradient Langevin Dynamics Provide Differential Privacy for Deep Learning?
University of Bar-Ilan（巴伊兰大学）
贝叶斯学习通过随机梯度朗之万动力学（SGLD）已被建议用于差分私人学习。虽然以前的研究提供了差分隐私边界SGLD在算法的初始步骤或接近收敛时，之间的差分隐私保证的问题仍然没有答案。这个过渡区域非常重要，特别是对于贝叶斯神经网络，因为它很难保证收敛到后验。本文表明，使用SGLD可能会导致这个过渡区域的无限隐私损失，即使从后验采样是所需的差异隐私。
2023-02-05 cs.CR cs.LG
On the Interaction Between Differential Privacy and Gradient Compression in Deep Learning
University of Toronto（多伦多大学）
虽然差分隐私和梯度压缩分别是机器学习中研究得很好的主题，但这两个主题之间的交互研究仍然相对较新。我们对差分隐私的高斯机制和梯度压缩如何共同影响深度学习中的测试准确性进行了详细的实证研究。现有的文献中的梯度压缩大多数评估压缩的差分隐私保证的情况下，并证明，足够高的压缩率降低准确性。类似地，现有的文献在差分隐私评估隐私机制的压缩的情况下，并证明，足够强大的隐私保证降低准确性。在这项工作中，我们观察到，虽然梯度压缩通常对非私有训练中的测试准确性有负面影响，但它有时可以提高差异私有训练中的测试准确性。具体来说，我们观察到，当采用积极的稀疏化或降秩梯度，测试精度是受高斯噪声添加的差分隐私。这些意见解释通过分析如何差分隐私和压缩的影响，估计平均梯度的偏差和方差。我们遵循这项研究，并就如何在差分私有深度学习和梯度压缩的背景下提高测试准确性提出了建议。我们评估了这个建议，发现它可以减少噪音添加的差分隐私机制对测试精度的负面影响高达24.6%，并减少梯度稀疏化对测试精度的负面影响高达15.1%。
2022-11-01 cs.CR cs.LG
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University（安徽大学）
概率矩阵分解（PMF）在推荐系统中起着至关重要的作用。它需要大量的用户数据（如用户购物记录和电影评分）来预测个人偏好，从而为用户提供高质量的推荐服务，这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架，在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而，传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案（PDP-PMF）。它旨在满足用户在项目级别指定的隐私要求，而不是为所有人提供相同级别的隐私保证。然后，我们开发了一个修改的采样机制（有界差分隐私）实现PDP。我们还进行了理论分析的PDP-PMF计划，并证明了PDP-PMF计划的隐私。此外，我们实现了传统的和个性化的差分隐私（DP-PMF，PDP-PMF）的概率矩阵分解方案，并通过一系列的实验进行比较。实验结果表明，PDP-PMF方案在保护用户隐私方面表现良好，推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
