Duet: An Expressive Higher-order Language and Linear Type System for Statically Enforcing Differential Privacy
在过去的十年中，差分隐私已经成为保护个人隐私的黄金标准。然而，验证特定程序提供差分隐私通常仍然是要由本领域专家完成的手动任务。已经提出了通过类型系统设计完全自动证明差分隐私的基于数据的技术，然而这些结果已经落后于差异隐私算法的进步，在可以自动验证的程序中留下了明显的差距，同时还提供了最先进的隐私界限。我们提出了Duet，一个表达高阶语言，线性类型系统和工具，用于自动验证通用高阶程序的差分隐私。除了通用编程之外，Duet还支持编码机器学习算法，如随机梯度下降，以及常见的辅助数据分析任务，如裁剪，归一化和超参数调整-其中每一个都特别具有挑战性，在静态验证的差分隐私框架中进行编码。给出了Duet语言和线性类型系统的核心设计，并完成了关于好类型程序隐私性的关键证明。然后，我们展示了如何扩展Duet，以支持现实的机器学习应用程序和最近的变种差分隐私，从而提高了许多实际的差异隐私算法的准确性。最后，我们实现了几个差异私人机器学习算法在Duet从来没有自动验证的基于语言的工具，我们提出的实验结果表明Duet的语言设计的好处，在训练机器学习模型的准确性。
2019-09-05 cs.CR cs.PL
The Complexity of Verifying Boolean Programs as Differentially Private
研究在布尔值上运行并做概率选择的类while程序验证差分隐私的复杂度，证明判定特定隐私参数下是否满足差分隐私及其近似问题为PSPACE完全或困难，并将结论扩展至多种差分隐私松弛概念。
2023-09-08 cs.CC cs.CR
Formalization of Differential Privacy in Isabelle/HOL
本文提出一个通用的 Isabelle/HOL 差分隐私形式化库，首次支持连续概率分布，并验证了标准定义、Laplace 机制和 report noisy max 机制。
2024-10-20 cs.CR cs.LO cs.PL
Differential Privacy By Sampling
在本文中，我们提出了采样隐私机制，私人发布的个人数据。采样隐私是一种基于采样的隐私机制，满足差分隐私。
2017-08-06 cs.CR
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型，因为它提供了强大的隐私保证，即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而，在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用，从而降低了差异隐私结果的分析效用。在试图解决这个缺点，差分隐私的几个放宽已被提出，权衡隐私保证改善数据效用。在这项工作中，我们认为，标准的形式化的差分隐私是严格的比所需的直观的隐私保证，它寻求。特别地，标准形式化要求结果在任何相邻数据集对之间的不相容性，而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力，从而导致严重的准确性损失。在这方面，我们提出了个人差分隐私，一个替代的差分隐私的概念，为他们提供了相同的隐私保证标准差分隐私的个人（即使不是个人群体）。这个新概念允许数据控制器根据实际数据集调整失真，从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私，我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Randori: Local Differential Privacy for All
民意调查是收集数据的常见方式，包括产品评论和反馈表。然而，很少有数据收集者提供预先的隐私保证。此外，当隐私保证预先给出时，它们通常是关于“匿名”的模糊声明。相反，我们建议通过差分隐私的统计概念提供可量化的隐私保证。然而，隐私并不是免费的。差分隐私的核心是准确性和隐私之间的内在权衡，需要加以平衡。因此，在开始收集数据之前，适当调整准确性-隐私权衡至关重要。总而言之，开始差异私有数据汇集可能具有挑战性。理想情况下，数据分析师不必关心差分隐私的所有细节，而是通过设计获得差分隐私。尽管如此，据我们所知，还没有在差分隐私下收集民意调查数据的工具。由于缺乏在差分隐私下收集民意调查数据的工具，我们开始设计自己的工具。具体来说，使本地差分隐私访问所有，在本系统的文件中，我们提出了Randori，一套新颖的开源工具，用于差异私人民意调查数据汇集。Randori旨在帮助数据分析师专注于他们的民意调查正在收集什么数据，而不是他们应该如何收集它。我们的工具还允许数据分析师分析预测他们的民意调查的准确性。此外，我们表明，单独的差分隐私是不足以实现端到端的隐私在服务器-客户端设置。因此，我们还调查和减轻隐式数据泄漏的Randori。
2021-01-27 cs.CR
Differential Privacy Made Easy
本文提出DP-framework和简易库GRAM-DP，最小化差分隐私参数调整，使无背景用户也能保护数据隐私并发布统计结果。
2022-01-01 cs.CR
Concentrated Differential Privacy
我们介绍了集中的差分隐私，放松差分隐私享受更好的准确性比纯差分隐私和流行的“（差，三角洲）”放松，而不损害累积的隐私损失在多次计算。
2016-03-16 cs.CR cs.DS
Concurrent Composition of Differential Privacy
我们发起了一项研究的组成性质的互动差分隐私机制。交互式差异隐私机制是一种允许分析师自适应地询问有关敏感数据集的查询的算法，具有对抗分析师对交互的看法大致相同的属性，无论任何个人的数据是否在数据集中。以前的研究组成的差分隐私集中在非交互式的算法，但需要交互式的机制来捕捉许多预期的应用程序的差分隐私和一些重要的差异隐私原语。我们专注于并发组合，对手可以任意交织其查询到几个不同的私人机制，这可能是可行的差异私人查询系统部署在实践中。我们证明，当被组成的互动机制是纯差分隐私，他们的并发组合达到隐私参数（相对于纯或近似差分隐私），匹配的（最佳）非交互式差分隐私的组合定理。我们还证明了满足近似差分隐私的交互机制的合成定理。这一界限甚至比非交互式差分隐私的基本（次优）组合定理还要弱，我们将缩小差距作为未来研究的一个方向，同时了解差分隐私的其他变体的并发组合。
2021-09-15 cs.CR
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中，存在一个脆弱的假设，即当应用差分隐私时，数据集中的记录是独立的。然而，在现实世界的数据集，记录很可能是相关的，这可能会导致意外的数据泄漏。在这个调查中，我们调查的问题，由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类：1）使用参数描述差分隐私中的数据相关性; 2）使用模型描述差分隐私中的数据相关性; 3）基于Pufferfish框架描述数据相关性。首先，给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后，我们的主要工作是分析和比较这些方法，并评估这些不同的研究应用的情况。最后，我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
Differential Privacy as a Causal Property
我们提出了关联和因果的差分隐私的观点。在关联视图下，数据点之间的依赖性的可能性排除了差分隐私的保证的简单陈述，作为在单个改变的数据点上的条件。然而，我们表明，一个简单的表征差分隐私限制一个单一的数据点的影响确实存在的因果关系的观点下，没有独立的假设数据点。我们相信，这种特性解决了先前工作中关于差分隐私后果的分歧和困惑。需要假设的关联观点归结为相关性并不意味着因果关系这一格言的对立：确保缺乏（强）因果关系的差分隐私并不意味着缺乏（强）关联。我们的表征也开辟了应用统计学，实验设计和科学的因果关系，同时研究差分隐私的结果的可能性。
2019-07-06 cs.CR
Author Obfuscation Using Generalised Differential Privacy
混淆的问题，作者的文本文件已很少受到关注的文献。目前的方法是特设的，并依赖于假设对手的辅助知识，这使得它很难推理这些方法的隐私属性。差分隐私是一种众所周知的和强大的隐私方法，但它依赖于数据集之间的邻接概念，阻碍了其应用到文本文档隐私。然而，广义差分隐私允许应用程序的差分隐私任意数据集赋予一个度量，并已被证明的问题，涉及个人数据点的释放。在本文中，我们将展示如何应用广义差分隐私，作者混淆利用现有的工具和方法，从文体学和自然语言处理文献。
2018-05-22 cs.CR
Renyi Differential Privacy
我们提出了一个自然放松的差分隐私的基础上Renyi分歧。密切相关的概念出现在最近的几篇论文中，这些论文分析了差异私有机制的组成。我们认为，有用的分析工具，可以用来作为一个隐私的定义，compensately和准确地表示保证的尾巴上的隐私损失。我们证明了新的定义与标准定义的差分隐私共享许多重要的属性，同时还允许更严格的分析复合异构机制。
2017-08-25 cs.CR
Toward Practical Differential Privacy in Smart Grid with Capacity-Limited Rechargeable Batteries
差分隐私技术通过加入来自拉普拉斯分布的噪声，成功地克服了同时保持个人数据的隐私性和统计结果的实用性的困难。因此，在智能电网的应用中，普遍使用可充电电池作为噪声以实现差分隐私。不幸的是，据我们所知，我们观察到，现有的隐私保护机制不能满足差分隐私，当考虑在实践中的电池的物理限制。在本文中，我们首先分类两种类型的挑战所造成的两个物理限制，最大充电/放电速率和电池的容量。然后，我们提出了一个无状态的隐私保护方案，通过探索一个边界可变分布的噪音，并证明了该方案满足差分隐私，关于第一种类型的挑战。我们进一步解释了在第二类挑战下实现差分隐私的困难，并形式化定义了一个宽松的差分隐私。最后，我们提出了一个满足放松差分隐私的有状态隐私保护方案。实验分析表明，我们的隐私保护计划在每个时间点的最大隐私泄漏稳定优于现有的工作。
2015-07-22 cs.CR
On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy
本文旨在回答以下两个问题，在隐私保护的数据分析和发布：什么正式的隐私保证（如果有的话）$k$ -匿名提供？如何从对手对数据的不确定性中获益？我们发现，随机抽样提供了一个连接，有助于回答这两个问题，因为抽样可以创建不确定性。本文的主要结果是，$k$ -匿名化，当做“安全”，并与随机抽样步骤时，满足$(ε,δ)$ -差分隐私与合理的参数。这一结果说明，“隐藏在一群$k$中“确实提供了一些隐私保证。这一结果还提出了一种满足差分隐私的输出扰动的替代方法：即，在开始时添加随机采样步骤，并修剪对单个元组的变化太敏感的结果。关于第二个问题，我们提供了积极和消极的结果。在积极的一面，我们表明，增加一个随机采样的预处理步骤的差分隐私算法可以大大放大的隐私保护的水平。因此，当给定由采样产生的数据集时，可以利用大得多的隐私预算。从消极的一面来看，任何利用对手的不确定性的隐私概念都不可能构成。我们讨论这些结果在实践中意味着什么。
2011-06-21 cs.CR
Formal Verification of Differential Privacy for Interactive Systems
差分隐私是一种很有前途的隐私保护数据分析方法，其理论是关于函数的。尽管最近在实现旨在提供差分隐私的系统方面进行了工作，但正式验证这些系统具有差分隐私的问题尚未得到充分解决。本文介绍了差异私有交互系统源代码自动验证的第一批结果。我们开发了一个正式的概率自动机模型的差分隐私的系统，通过调整以前的工作差分隐私的功能。本文的主要技术成果是一种基于概率互模拟关系形式的可靠性证明技术，用于证明建模为概率自动机的系统满足差分隐私。新颖之处在于，我们跟踪定量隐私泄漏边界使用的关系族，而不是一个单一的关系。我们说明了一个代表性的自动机PINQ，旨在提供差分隐私的实现系统的动机证明技术。为了使我们的证明技术更容易适用于现实的系统，我们证明了一种形式的细化定理，并将其应用于表明，细化的抽象PINQ自动机也满足我们的差分隐私定义。最后，我们开始自动化的过程中，我们的证明技术，提供了一个算法，机械检查限制类的关系，从证明技术。
2011-01-14 cs.CR
Reconstruction Attacks on Aggressive Relaxations of Differential Privacy
差分隐私是一种被广泛接受的正式隐私定义，它允许发布关于数据集的聚合信息，同时控制其记录出现在数据中的个人的隐私泄露。由于隐私与效用之间不可避免的紧张关系，已经有许多作品试图放宽差分隐私的要求，以实现更大的效用。个人差分隐私（IDP）和引导差分隐私（BDP）的定义体现了一类放松，这是开始获得隐私社区以外的支持。原始版本的差分隐私定义了一组相邻数据库对，并通过要求每对邻居对攻击者几乎不可区分来实现其隐私保证。然而，我们研究的隐私定义积极地减少了受保护的相邻对的集合。IDP和BDP都定义了一个“隐私损失”的度量，它满足诸如后处理不变性和组合等形式上的隐私属性，并且比传统的差分隐私变体实现了更好的效用。然而，有一个显着的缺点-我们表明，他们允许数据集的很大一部分被重建使用算法，具有任意低的隐私损失下，他们的隐私会计规则。我们证明这些攻击使用这些隐私定义的首选机制。特别地，我们设计了一组查询，当被这些具有高噪声设置的机制保护时（即，具有非常低的隐私损失的声明），产生关于数据集的更精确的信息，而不是如果它们根本不受保护。
2022-09-08 cs.CR
Generalization Techniques Empirically Outperform Differential Privacy against Membership Inference
不同的私有训练算法提供了对机器学习中最流行的攻击之一的保护：成员推断攻击。然而，这些隐私算法会导致模型分类准确性的损失，因此会产生隐私效用权衡。差分隐私在深度学习中提供强大的理论保护保证所需的噪声量通常会使模型无法使用，但作者观察到，即使是较低的噪声水平也可以提供可接受的经验保护，以抵御现有的成员推断攻击。在这项工作中，我们寻找替代差分隐私对经验保护成员推断攻击。我们研究了简单地遵循良好的机器学习实践（没有考虑隐私设计）对成员推理的保护。我们评估了最先进的技术，如预训练和锐度感知最小化，单独和差分私人训练算法的性能，并发现，当使用早期停止，没有差分隐私的算法可以提供更高的效用和更高的隐私比他们的差分私人同行。这些发现挑战了差分隐私是一种很好的防御现有成员推断攻击的信念
2021-10-11 cs.CR
Issues Encountered Deploying Differential Privacy
十多年前，当差分隐私被创建时，一个鼓舞人心的例子是官方统计机构发布的统计数据。在试图将差分隐私从学术界转变为实践的过程中，美国人口普查局遇到了许多差分隐私的创造者没有预料到的挑战。这些挑战包括：获得合格的人员和适当的计算环境;难以说明机密数据的所有用途;缺乏符合数据使用者需要的发布机制;数据使用者期望他们能够获得微观数据;难以设定隐私丧失参数$ε$（xmax）的值，以及缺乏工具和受过训练的个人来验证差分隐私实现的正确性。
2018-09-06 cs.CR
Lessons Learned: Surveying the Practicality of Differential Privacy in the Industry
自2006年引入以来，差分隐私已成为量化学术著作中数据隐私的主要统计工具。然而，尽管有大量的研究和开源工具伴随着它的兴起，除了有限的例外，差分隐私未能在企业领域获得广泛采用。我们的研究旨在通过对9家主要公司的24名隐私从业者的详细采访，揭示这种学术与工业利用差距的根本原因。我们分析了调查结果，为努力改善数据工作流程中隐私保护的公司提供关键发现和建议，并强调现有差分隐私工具的必要和缺失要求，旨在指导研究人员更广泛地采用差分隐私。我们的研究结果表明，分析师在请求访问敏感数据时经历了漫长的官僚程序，但一旦获得许可，只有很少执行的隐私政策才能阻止流氓从业者滥用私人信息。因此，我们认为，差分隐私可以显着改善请求和进行数据探索的过程中，筒仓，并得出结论，与本文提出的一些改进，差分隐私在整个企业的实际使用是在惊人的距离。
2022-11-07 cs.CR
Methods To Ensure Privacy Regarding Medical Data -- Including an examination of the differential privacy algorithm RAPPOR and its implementation in "Cryptool 2"
本文件审查了几种适用的方法，以确保在卫生保健部门收集的数据的隐私。为了确保对该主题有共同的理解，引言根据示例解释了匿名方法的必要性。接下来，介绍了数据汇集的原因，以及保护上述数据的目的，以及目前适用的隐私法来执行此隐私。问题“我们谈论的是什么样的隐私，必须满足什么条件？“在随后的“差分隐私“一章中讨论。因此，正在建立，共同的匿名化方法进行解释和审查，为他们在医疗保健部门的使用。RAPPOR算法及其差分隐私更详细地处理，然后得出结论。
2022-10-18 cs.CR
Advances in Differential Privacy and Differentially Private Machine Learning
本文综述差分隐私理论、Renyi DP与Concentrated DP等新变体、新机制及其在隐私保护机器学习中的理论进展与实际部署。
2024-04-06 cs.CR
Differential Privacy in Privacy-Preserving Big Data and Learning: Challenge and Opportunity
差分隐私（Differential Privacy，DP）以其强大的保护功能和坚实的数学基础，成为隐私保护的事实标准，被广泛应用于大数据分析、图数据处理、机器学习、深度学习、联邦学习等不同领域。虽然DP已经成为一个活跃和有影响力的领域，但它并不是解决不同场景下所有隐私问题的最佳解决方案。此外，DP在具体应用中也存在一些误解、误用和巨大挑战。在本文中，我们指出了相应的研究领域的一系列限制和开放的挑战。此外，我们提供了潜在的新的见解和途径，结合差分隐私与其他有效的降维技术和安全多方计算，以明确定义各种隐私模型。
2021-12-03 cs.CR
Privacy-Preserving ECG Data Analysis with Differential Privacy: A Literature Review and A Case Study
本文综述差分隐私在ECG分析中的应用研究，提出六步流程实现心律失常数据库的差分隐私查询发布并给出参数选择等指导，同时指出该应用的不足与挑战。
2024-06-19 cs.CR
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想，以确定用于某个查询的最佳机制，该最佳机制同时满足（固定的）$ε$-差分隐私约束，同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面，Brenner和Nissim表明，在计数查询的空间之外，对于贝叶斯风险损失函数，不存在这样的普遍最优机制。在本文中，我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准（即，中央）差分隐私和本地差分隐私，并且其越来越多地用于各种应用领域，例如位置隐私和隐私保护机器学习。使用这个框架，我们能够澄清Nissim和布伦纳的负面结果，显示（一），事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制，和（b）扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明，这种能力总是存在的，可以使用凸优化算法计算。
2022-05-03 cs.CR
Practical Considerations for Differential Privacy
该研究针对作为统计数据发布隐私黄金标准的差分隐私虽有里程碑式成功却未广泛普及的问题，探讨了阻碍其在日常数据使用与保护中应用的实践障碍。
2024-08-14 cs.CR
Local Differential Privacy: a tutorial
在过去的十年中，大数据分析在许多情况下都被证明是非常有价值的。本地差分隐私（LDP）是一种最先进的方法，它允许统计计算，同时保护每个单独用户的隐私。与差分隐私不同，不需要信任中央机构，因为噪声被本地添加到用户输入。在本文中，我们给出了一个概述不同的LDP算法的问题，如本地私人重打击识别和空间数据汇集。最后，对自民党存在的问题进行了展望.
2019-07-27 cs.CR
Differential Privacy Techniques for Cyber Physical Systems: A Survey
随着资讯及通讯科技的发展，现代网络物理系统已广泛应用于我们的日常生活中。随着网络物理系统的提供，与这些系统相关的安全和隐私威胁也在增加。被动攻击被入侵者用来获取CPS的私有信息。为了使CPS数据更加安全，过去已经提出了某些隐私保护策略，如加密和k-匿名。然而，随着CPS体系结构的进步，这些技术也需要进行一定的修改。与此同时，差分隐私作为一种有效的保护CPS数据隐私的技术应运而生。在本文中，我们提出了一个全面的调查差分隐私技术的CPS。特别是，我们调查了差分隐私在CPS的四个主要应用中的应用和实现，这些应用被命名为能源系统，交通系统，医疗保健和医疗系统，以及工业物联网（IIoT）。此外，我们提出了开放的问题，挑战和未来的研究方向，差分隐私技术的CPS。这项调查可以作为现代差分隐私技术的发展，以解决各种问题和CPS的数据隐私场景的基础。
2019-09-27 cs.CR
The Bounded Laplace Mechanism in Differential Privacy
拉普拉斯机制是差分隐私的主力，应用于处理数字数据的许多情况。然而，拉普拉斯机制可以返回语义上不可能的值，例如负计数，因为它的无限支持。对此有两种流行的解决方案：（i）限制/限制输出值以及（ii）限制机制支持。在本文中，我们表明，绑定的机制支持，而使用的纯拉普拉斯机制的参数，通常不保留差分隐私。我们还提出了一个强大的方法来计算最佳的机制参数，以实现差分隐私在这样的设置。
2018-08-30 cs.CR
On the Relation Between Identifiability, Differential Privacy and Mutual-Information Privacy
本文研究了可识别性、差分隐私和互信息隐私这三种不同隐私概念之间的关系。在一个统一的隐私失真框架下，失真被定义为输入和输出数据库的汉明距离，我们建立了这三个隐私概念之间的一些基本联系。给定失真级别$D$，将$ε_{\mathrm{i}}^*(D)$定义为最小（最佳）可识别性级别，并且将$ε_{\mathrm{d}}^*(D)$定义为最小差分隐私级别。我们刻画了$ε_{\mathrm{i}}^*(D)$和$ε_{\mathrm{d}}^*(D)$，并证明了在一定范围内，$D$的$ε_{\mathrm{i}}^*(D)-ε_X\leε_{\mathrm{d}}^*(D)\leε_{\mathrm{i}}^*(D)$，其中$ε_X$是依赖于原始数据库$X$分布的常数，当$X$分布均匀时，$ε_X$减小到零.此外，我们表明，可识别性和互信息隐私是一致的，在这个意义上，给定的失真水平$D$，机制，优化的互信息隐私也最小化的可识别性水平。
2015-08-22 cs.CR
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念，拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中，我们发现，差分隐私没有考虑的线性性质的查询，导致意外的信息泄漏。具体地，线性属性使得可以将一个查询划分成两个查询，诸如$q(D)=q(D_1)+q(D_2)$（如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$）。如果攻击者试图获得$q(D)$的答案，只要他们知道$D_2$，他们不仅可以发出查询$q(D)$，而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分，攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而，从攻击者的角度和从差分隐私机制的角度来看，如果分割设计得很巧妙，则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数，因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏，我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Models Matter: Setting Accurate Privacy Expectations for Local and Central Differential Privacy
本文针对本地和中心差分隐私，设计并评估了侧重后果的隐私营养标签式解释，以设定准确隐私预期，并结合过程简述提升信任。
2024-08-19 cs.CR cs.HC
The Privacy-preserving Padding Problem: Non-negative Mechanisms for Conservative Answers with Differential Privacy
差分私有噪声机制通常使用对称噪声分布。这对于实现差分隐私定义和噪声答案中的无偏期望都是有吸引力的。然而，在某些情况下，噪声答案只有在保守的情况下才有效用，也就是说，具有已知符号的错误，我们称之为填充答案。表面上看，这是自相矛盾的，以满足DP定义的单侧误差，但我们展示了如何有可能将悖论埋到近似DP的δ参数。我们开发了一些单边填充机制，总是给保守的答案，但仍然实现近似差分隐私的机制。我们展示了这些机制如何可以应用在几个选定的领域，包括使基数集的交集和工会透露在私有集的交集协议差分私有和使多方计算协议计算稀疏数据，其确切的大小差分私有，而不是执行一个完全不经意的更昂贵的计算。
2021-10-15 cs.CR
LinkedIn's Audience Engagements API: A Privacy Preserving Data Analytics System at Scale
我们提出了一个隐私系统，利用差分隐私来保护LinkedIn会员的数据，同时还提供受众参与的见解，使营销分析相关的应用程序。我们详细介绍了用于提供可用于现有实时数据分析平台的结果的差异化私有算法和其他隐私保护措施，特别是与开源的Pinot系统。我们的隐私系统提供用户级别的隐私保证。作为隐私系统的一部分，我们提供了一个预算管理服务，该服务对返回给分析师的结果执行严格的差分隐私预算。该预算管理服务将差分隐私的最新研究汇集到一个产品中，以在给定固定差分隐私预算的情况下保持效用。
2020-11-16 cs.CR
Chorus: a Programming Framework for Building Scalable Differential Privacy Mechanisms
差分隐私正迅速成为支持数据统计分析同时保护个人隐私的黄金标准。然而，差分隐私的实际应用仍然落后于研究进展，因为研究原型不能满足生产部署的可扩展性要求。为了解决这一挑战，我们提出了合唱团，一个框架，用于建立可扩展的差分隐私机制，这是基于机制本身和高性能的生产数据库管理系统（DBMS）之间的合作。我们展示了使用合唱团建立第一个高度可扩展的复杂机制，如加权PINQ，MWEM，矩阵机制的实现。我们报告了我们在Uber部署Chorus的经验，并评估了它在现实世界查询中的可扩展性。
2021-05-04 cs.CR
Privacy-Enhanced Living: A Local Differential Privacy Approach to Secure Smart Home Data
本文提出一种基于本地差分隐私和随机响应技术的智能家居数据保护系统，通过在聚合器端结合混淆方法与隐马尔可夫模型，实现双层隐私保护，以应对物联网设备带来的安全挑战。
2023-08-06 cs.CR
Separating Local & Shuffled Differential Privacy via Histograms
最近在差分隐私方面的工作强调了洗牌模型作为一种有前途的方法来计算准确的统计数据，同时将原始数据保留在用户手中。我们提出了一个协议，在这个模型中，估计直方图与域的大小无关的错误。这意味着混洗模型和局部模型之间的样本复杂度存在任意大的差距。另一方面，当我们施加纯差分隐私和单消息随机发生器的约束时，模型是等价的。
2020-04-14 cs.CR
A Novel Approach to Differential Privacy with Alpha Divergence
本文提出基于alpha散度的alpha差分隐私（ADP）框架，通过更灵活的隐私消耗评估，在中小规模迭代和严格隐私要求场景下提供比传统$(ε, δ)$-差分隐私更强的隐私保障。
2025-06-20 cs.CR
Combining Homomorphic Encryption and Differential Privacy in Federated Learning for Model Inspection and Availability
Sabancı University（萨班吉大学）
提出结合同态加密训练与差分隐私检查发布的联邦学习框架，采用贝叶斯隐私估计，在FEMNIST上相比仅差分隐私方法提升了模型效用和隐私保护。
2026-10-02 cs.CR
Onto-DP: Constructing Neighborhoods for Differential Privacy on Ontological Databases
LIFO, INSA CVL, Univ. Orléans, Inria（卢瓦尔河谷信息学实验室，法国国家信息与自动化研究所中央高等学院沙特尔分校，奥尔良大学，法国国家信息与自动化研究所）
Onto-DP通过在本体数据库上构建邻域，增强差分隐私对利用推理规则攻击的防护能力。
2026-02-17 cs.CR
Incompatibilities Between Current Practices in Statistical Data Analysis and Differential Privacy
本文基于将差分隐私应用于复杂数据集的实践，指出标准统计分析流程与差分隐私存在深层不兼容，需通过妥协和根本性调整正面应对。
2023-08-16 cs.CR
The Limits of Differential Privacy (and its Misuse in Data Release and Machine Learning)
差分隐私（DP）是一个简洁的隐私定义，可以与某些定义良好的数据使用在交互式查询的上下文中共存。然而，DP既不是解决所有隐私问题的灵丹妙药，也不是所有以前隐私模型的替代品。事实上，当试图将其使用范围扩展到其设计的环境之外时，应格外小心。本文回顾了DP的局限性及其在个人数据汇集、个人数据发布和机器学习方面的误用。
2020-11-04 cs.CR
Scalable Differential Privacy Mechanisms for Real-Time Machine Learning Applications
本文提出面向实时机器学习的可扩展差分隐私框架SDP，通过分层架构、自适应噪声调度与梯度压缩，在保障隐私的同时维持高准确率。
2024-09-16 cs.CR
A Unifying Privacy Analysis Framework for Unknown Domain Algorithms in Differential Privacy
本文针对未知域直方图发布问题，提出了一个统一的差分隐私分析框架，并利用近似集中差分隐私改善隐私损失参数，尤其适用于多算法组合场景。
2024-08-01 cs.CR
Do I Get the Privacy I Need? Benchmarking Utility in Differential Privacy Libraries
越来越多的开源图书馆承诺将差分隐私付诸实践，即使是非专家。本文研究了五个提供差异私有分析的库：Google DP，SmartNoise，diffprivlib，diffpriv和Chorus。我们在合成和真实世界数据集上执行的四个分析查询（计数，总和，平均值和方差）中定性（功能，功能和成熟度）和定量（实用性和可扩展性）比较这些库。我们的结论是，这些库提供了类似的实用程序（除了在一些值得注意的场景）。然而，在提供的功能方面存在显着差异，我们发现没有一个库在所有领域都表现出色。根据我们的研究结果，我们提供指导，以帮助从业者选择一个合适的图书馆，图书馆设计师的指导，以提高他们的软件，并指导研究人员对开放的挑战，在差分隐私工具的非专家。
2021-09-22 cs.CR
Heterogeneous Differential Privacy
个人化系统大量收集个人数据，使保护个人隐私变得越来越困难。在个性化系统中保护隐私的大多数方法通常在用户之间统一解决这个问题，从而忽略了用户有不同的隐私态度和期望（甚至在他们自己的个人数据中）的事实。在本文中，我们建议考虑这种非均匀性的隐私期望，通过引入异构差分隐私的概念。这一概念既捕捉了用户之间隐私期望的变化，也捕捉了与同一用户相关的不同信息之间的变化。我们还描述了一个明确的机制，实现异构差分隐私，这是一个修改的拉普拉斯机制Dwork，McSherry，Nissim和Smith。简而言之，该机制通过在输入域上使用线性变换来操纵函数的灵敏度来实现异构差分隐私。最后，我们在真实数据集上评估了所提出的机制对语义聚类任务的影响。我们的实验结果表明，异构差分隐私可以解释不同的隐私态度，同时保持了良好的实用性水平的语义聚类任务的召回。
2015-04-27 cs.CR
Differential Privacy for Industrial Internet of Things: Opportunities, Applications and Challenges
物联网（IoT）的发展给各个领域带来了新的变化。特别是工业物联网（IIoT）正在推动新一轮工业革命。随着IIoT的应用越来越多，隐私保护问题也随之出现。特别是深度模型等工业物联网技术中的一些常用算法对数据汇集的依赖性很强，存在隐私泄露的风险。最近，差分隐私被用于保护IIoT中的用户终端隐私，因此有必要对该主题进行深入研究。在本文中，我们对IIoT中差分隐私的机遇，应用和挑战进行了全面的调查。我们首先回顾了IIoT和隐私保护的相关论文。然后重点研究了工业数据隐私的度量标准，分析了数据用于深度模型和个人隐私保护之间的矛盾。总结了几个有价值的问题，并提出了新的研究思路。综上所述，本研究旨在完成对产业差分隐私的全面总结，为后续研究奠定基础。
2021-05-27 cs.CR
Property Testing for Differential Privacy
我们考虑差分隐私的属性测试的问题：与黑盒访问一个据称是私人的算法，我们可以验证其隐私保证？特别是，我们表明，任何隐私保证，可以有效地验证，也是有效地在这个意义上说，存在两个数据库，我们可以有效地区分。给出了验证纯差分隐私、近似差分隐私、随机纯差分隐私和随机近似差分隐私的查询复杂度的下界。我们还给出了算法的上界。在工作中得到的下界是不可行的尺度参数，通常被认为是合理的差分隐私文献，即使当我们假设验证者有机会获得（不可信）的算法描述。这项工作的一个中心信息是，验证隐私需要验证者或算法所有者的妥协。要么验证者必须满足于弱隐私保证，要么算法所有者必须在边信息或算法访问权上妥协。
2019-02-13 cs.CR cs.DS
Necessary Conditions in Multi-Server Differential Privacy
我们考虑的协议，用户与多个服务器进行通信，对用户的数据进行计算。对手对许多参与方施加半诚实的控制，但相对于诚实的用户，它的观点是不同的隐私。先前的工作描述了需要多轮交互或提供隐私以对抗计算受限对手的协议。我们的工作提出了限制非交互式协议，提供隐私对无限的对手。我们表明，这些协议需要指数更多的样本，一些学习和估计任务比中央私人同行。这意味着要实现中心模型的性能，需要交互性或计算差分隐私，或两者兼而有之。
2022-08-17 cs.CR
Tumult Analytics: a robust, easy-to-use, scalable, and expressive framework for differential privacy
在这篇简短的论文中，我们概述了Tumult Analytics的设计，这是一个用于差分隐私的Python框架，用于美国人口普查局，维基媒体基金会或国税局等机构。
2022-12-08 cs.CR
Distributed Differential Privacy By Sampling
在本文中，我们描述了我们的方法来实现分布式差分隐私单独采样。我们的机制工作在半诚实的设置（诚实但好奇，聚合器试图偷看数据，但遵循协议）。我们表明，实用程序保持不变，并没有降低由于方差相比，随机响应机制。此外，我们显示较小的隐私泄漏相比，随机响应机制。
2017-06-14 cs.CR
From t-closeness to differential privacy and vice versa in data anonymization
k-匿名和ε-差分隐私是两种主流的隐私模型，前者用于匿名化数据集，后者用于限制数据集中包含一个个体所导致的知识获取。虽然基本的k-匿名只能防止身份泄露，但t-贴近度是k-匿名的扩展，也可以防止属性泄露。我们在这里表明，如果不是完全等价的话，t-贴近度和ε-差分隐私在匿名数据集方面彼此密切相关。具体来说，准标识符的k-匿名性与机密属性的ε-差分隐私相结合，产生随机t-贴近度（t-贴近度的扩展），其中t是k和ε的函数。相反，当t = exp（ε/2）时，t-贴近度可以产生ε-差分隐私，并且t-贴近度关于数据的先验和后验视图的假设成立
2015-12-21 cs.CR
Assessing differentially private deep learning with Membership Inference
SAP SE（SAP公司）；University of Waterloo（滑铁卢大学）
旨在识别公共神经网络的训练数据的攻击代表了对参与训练数据集的个人的隐私的严重威胁。通过训练数据或训练函数的匿名化提供了可能的保护，具有差分隐私。然而，数据科学家可以在本地和中央差分隐私之间进行选择，并且需要选择有意义的隐私参数$ε$，这对于非隐私专家来说是一个挑战。我们经验比较本地和中央差分隐私机制下的白盒和黑盒成员推理，以评估其相对的隐私准确性权衡。我们用几个数据集进行了实验，结果表明，这两种机制的权衡是相似的。这表明局部差分隐私是差分隐私深度学习的中央差分隐私的合理替代方案，因为中央差分隐私中的小$ε$和局部差分隐私中的大$ε$会导致类似的成员推断攻击风险。
2020-05-26 cs.CR cs.LG
Setting $\varepsilon$ is not the Issue in Differential Privacy
Institute of Science and Technology Austria（奥地利科学技术学院）
本文指出差分隐私中隐私预算的解释困难并非其本质问题，而是隐私风险评估的挑战，并主张应通过差分隐私框架或合理解释来解决。
2026-01-19 cs.CR cs.LG
