Privacy by Postprocessing the Discrete Laplace Mechanism
BARC;University of Copenhagen(哥本哈根大学);University of Waterloo(滑铁卢大学)
本文展示离散拉普拉斯机制可通过后处理得到子指数函数的无偏估计,且能与拉普拉斯或阶梯机制产生相同隐私参数分布,适用于离散数据场景。
2026-05-07 cs.CR
Grafting Laplace and Gaussian distributions: A new noise mechanism for differential privacy
本文提出一种中心为拉普拉斯、尾部为高斯的混合噪声机制用于差分隐私,推导了其隐私保证条件,并通过仿真证明该机制能在隐私与准确性之间取得更好权衡。
2023-07-05 cs.CR cs.IT math.IT
The Podium Mechanism: Improving on the Laplace and Staircase Mechanisms
Podium机制通过从三个均匀分布的\emph{finite}混合物中采样噪声来保证($ε, 0$)差分隐私。通过仔细构建这样一个混合分布,我们可以很好地保证隐私属性,同时最小化添加到连续结果中的噪声方差。我们在方差控制中的增益是由于Podium机制的“截断”性质,其中对噪声分布的支持尽可能接近我们的数据汇集的灵敏度,这与表征拉普拉斯和楼梯机制的\emph{infinite}支持不同。在高隐私机制($ε< 1$)中,Podium机制在噪声方差降低方面优于其他两种机制50- 70%,而在低隐私机制($ε\to \infty$)中,Podium机制渐近接近Staircase机制.
2019-08-01 cs.CR
Differential Privacy Via a Truncated and Normalized Laplace Mechanism
当查询包含敏感信息的数据库时,必须保证存储在数据库中的个人的隐私。这种保证是由差分私有机制提供的,该机制向查询响应添加受控噪声。然而,大多数这样的机制不考虑所提出的查询的有效范围。因此,可能会产生落在该范围之外的噪声响应。为了纠正这一点,从而提高该机制的效用,可以将常用的拉普拉斯分布截断到查询的有效范围,然后进行归一化。然而,这种数据相关的归一化操作泄漏了关于真实查询响应的附加信息,从而违反了差分隐私保证。在这里,我们提出了一种新的方法,它保留了差分隐私保证通过仔细确定一个适当的缩放参数的拉普拉斯分布。我们还概括的拉普拉斯分布的上下文中的隐私保证占数据相关的归一化因子,并研究这种保证不同类别的范围约束配置。我们提供了最佳缩放参数的推导(即,保留差分隐私的最小值)或提供其近似值。作为这项工作的结果,人们可以使用拉普拉斯分布来回答查询的范围遵守和差异隐私的方式。
2020-08-25 cs.CR cs.DB
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想,以确定用于某个查询的最佳机制,该最佳机制同时满足(固定的)$ε$-差分隐私约束,同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面,Brenner和Nissim表明,在计数查询的空间之外,对于贝叶斯风险损失函数,不存在这样的普遍最优机制。在本文中,我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准(即,中央)差分隐私和本地差分隐私,并且其越来越多地用于各种应用领域,例如位置隐私和隐私保护机器学习。使用这个框架,我们能够澄清Nissim和布伦纳的负面结果,显示(一),事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制,和(b)扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明,这种能力总是存在的,可以使用凸优化算法计算。
2022-05-03 cs.CR
Trading Optimality for Performance in Location Privacy
基于位置的服务(LBS)为许多人的日常活动提供了宝贵的帮助,但它们也对用户的隐私构成了严重威胁。因此,在LBS的使用过程中保护位置隐私的机制的发展越来越受到关注。目前,最流行的方法是概率的,所谓的最优方法通过使用线性优化技术实现隐私和效用之间的最优权衡。不幸的是,由于线性规划的复杂性,该方法对于大量n个位置是不可行的,因为约束是$O(n^3)$。在本文中,我们提出了一种技术,以减少$O(n^2)$的约束条件的数量,在放弃完美的最优性的代价。然而,我们表明,在实际情况下的效用损失是可以接受的,而在性能上的增益是显着的。
2017-10-16 cs.CR
Laplace Transform Interpretation of Differential Privacy
Betterdata;National University of Singapore(新加坡国立大学)
本文提出用隐私损失分布的拉普拉斯变换表示差分隐私概念,利用时频对偶性将Rényi DP曲线与$(ε, δ)$-DP曲线联系为拉普拉斯正逆变换,并证明了精确紧致的自适应组合定理及解决子采样$f$-DP对称性问题。
2024-11-14 cs.CR cs.LG
Infinitely Divisible Noise in the Low Privacy Regime
BARC;University of Copenhagen(哥本哈根大学);IT University of Copenhagen(哥本哈根信息技术大学)
联邦学习,其中训练数据分布在用户之间并且从不共享,已经成为隐私保护机器学习的流行方法。加密技术(如安全聚合)用于聚合来自所有用户的贡献(如模型更新)。用于使这样的聚合差异私有的鲁棒技术是利用拉普拉斯分布的无限可分性,即拉普拉斯分布可以表示为i.i.d.来自伽马分布的噪声份额,每个用户添加一个份额。然而,已知拉普拉斯噪声在$\varepsilon$ -差分隐私的低隐私机制中具有次优误差,其中$\varepsilon > 1$是大常数。在本文中,我们提出了第一个无限可分的噪声分布的实值数据,实现$\varepsilon$ -差分隐私,并具有预期的误差,$\varepsilon$指数下降。
2022-03-07 cs.CR cs.DS cs.LG
Truncated Laplace and Gaussian mechanisms of RDP
本文针对拉普拉斯和高斯机制可能输出语义不可能值的问题,提出截断拉普拉斯机制和截断高斯机制,并证明其在任意截断区间上保持与未截断机制相同的RDP,从而提升差分隐私在特定应用中的实用性。
2023-09-22 cs.CR
Private Hyperparameter Tuning with Ex-Post Guarantee
本文将事后差分隐私机制从拉普拉斯/高斯噪声推广到任意私有估计器序列,并证明超参数调优无需额外隐私代价,同时扩展至事后Renyi DP。
2025-08-21 cs.CR cs.DS
Pure Differential Privacy for Functional Summaries with a Laplace-like Process
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出ICLP机制,通过将功能摘要视为无限维希尔伯特空间中的对象,解决传统方法在处理复杂结构摘要时的不足,通过平滑非隐私摘要提升隐私摘要的效用。
2026-03-31 cs.CR cs.LG stat.ML
Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanism with Univariate Bounding Constraints
在发布和共享数据和信息时,保护个人隐私是一个共同关注的问题。差分隐私(DP)形式化隐私的概率条款,而不做假设的背景知识的数据入侵者,从而提供了一个强大的隐私保护的概念。DP的实际应用涉及开发差异隐私机制,以在预先指定的隐私预算中生成经过消毒的结果。对于具有诸如比例和相关系数之类的公共已知边界的统计数据的净化,边界约束将需要被并入差分私有机制中。有很少的工作检查的后果的边界约束的准确性的消毒结果和统计推断的人口参数的基础上消毒的结果。在本文中,我们形式化的差分私人截断和边界膨胀截断(BIT)的程序发布统计与公开已知的边界约束。截断和BIT拉普拉斯程序的统计精度和有效性的消毒统计的影响进行了评估,通过模拟研究的理论和经验。
2019-05-26 cs.CR stat.ME
Differential Privacy with Higher Utility by Exploiting Coordinate-wise Disparity: Laplace Mechanism Can Beat Gaussian in High Dimensions
本文提出跨坐标独立非同分布(i.n.i.d.)噪声机制,利用坐标间敏感度差异优化隐私-准确性权衡,理论分析和实验证明其在高维下优于i.i.d.机制,且拉普拉斯机制可超越高斯机制。
2025-01-25 cs.CR eess.SP
Near Instance-Optimality in Differential Privacy
Stanford University(斯坦福大学)
我们开发了两个概念的实例最优性差分隐私,经典统计理论的启发:一个通过定义一个本地极大极小风险和其他考虑无偏机制和类比的Cramer-Rao界,我们表明,本地模的连续性的估计的兴趣完全决定了这些数量。我们还开发了一个互补的收集机制,我们称之为逆灵敏度机制,这是实例最优(或近实例最优)的一大类被估量。此外,这些机制在每个实例上对于几个感兴趣的函数类(包括实值连续函数)都一致优于平滑灵敏度框架。我们仔细地提出了两个实例的机制,中位数和强大的回归估计与相应的实验。
2020-05-16 cs.CR cs.LG stat.ML
Adaptive Laplace Mechanism: Differential Privacy Preservation in Deep Learning
New Jersey Institute of Technology(新泽西理工学院);University of Arkansas(阿肯色大学);University of Oregon(俄勒冈大学)
在本文中,我们专注于开发一种新的机制来保护深度神经网络中的差分隐私,使得:(1)隐私预算消耗完全独立于训练步骤的数量;(2)它能够根据每个特征对输出的贡献自适应地将噪声注入特征;(3)它可以应用于各种不同的深度神经网络。为了实现这一点,我们找到了一种方法来扰动神经元的仿射变换,以及深度神经网络中使用的损失函数。此外,我们的机制有意地将“更多的噪音”添加到与模型输出“不太相关”的特征中,反之亦然。我们的理论分析进一步推导出我们的机制的灵敏度和误差范围。在MNIST和CIFAR-10数据集上进行的严格实验表明,我们的机制非常有效,优于现有的解决方案。
2018-04-23 cs.CR cs.LG stat.ML
Proving Differential Privacy via Probabilistic Couplings
在本文中,我们开发的组合方法正式验证差分隐私的算法,其分析超出了组合定理。我们的方法是基于观察,差分隐私有很深的联系与概率耦合,一个既定的数学工具推理随机过程的推广。即使合成定理没有帮助,我们也可以通过耦合论证来证明隐私。我们证明了我们的方法上的两个算法:指数机制和阈值以上的算法,著名的稀疏向量算法的关键组成部分。我们验证这些例子中的关系程序逻辑apRHL+,它可以构建近似耦合。这种逻辑扩展了现有的apRHL逻辑与更一般的规则拉普拉斯机制和单边拉普拉斯机制,和新的结构规则,使点式推理隐私;所有的规则的灵感与耦合的连接。虽然我们的论文是从形式化验证的角度来看,我们认为,其主要的见解是独立的利益的差分隐私社区。
2021-03-14 cs.CR cs.DS cs.LO
Asymptotic Optimality of the High-Dimensional Gaussian Mechanism and Improved Low-Dimensional Mechanisms for Differential Privacy
Georgia Institute of Technology(佐治亚理工学院);JPMorgan AI Research & AlgoCRYPT CoE(摩根大通人工智能研究与算法密码学卓越中心)
本文证明高维下高斯机制在强隐私设置中渐近最优,并提出球面广义伽马机制族,在低维场景中优于高斯和ℓ2机制,且实现紧致组合。
2026-06-07 cs.CR
$α$-Wasserstein Mechanism for Rényi Pufferfish Privacy
本文提出$α$-Wasserstein机制,通过拉普拉斯和高斯噪声实现Rényi Pufferfish隐私,利用霍尔德不等式校准参数,证明其在$(α, ε)$隐私下优于传统方法,且高斯机制在效用上更优。
2026-09-28 cs.CR
Near-Universally-Optimal Differentially Private Minimum Spanning Trees
本文首次在差分隐私中引入普遍最优性概念,证明简单机制在 $\ell_1$ 邻接关系下近似释放最小生成树具有近似普遍最优性,并通过多项式时间实现指数机制,使其在 $\ell_1$ 和 $\ell_\infty$ 邻接关系下均达到近似普遍最优。
2024-04-23 cs.CR cs.DS
Strict Optimality of Frequency and Distribution Estimation Under Local Differential Privacy
Google(谷歌)
本文在局部差分隐私下证明了频率和分布估计的严格最优性,通过线性估计器和优化支持大小达到L2损失下界,并在渐近情况下达到L1下界,同时提出通信成本低至log₂((d(d-1))/2+1)位的最优估计器。
2026-03-22 cs.CR cs.IT math.IT
Precision-based attacks and interval refining: how to break, then fix, differential privacy on finite computers
尽管在十多年前就被提出来作为一个问题,但浮点运算的不精确性继续在差分私有噪声机制的实现中导致隐私失败。在本文中,我们强调了一类新的漏洞,我们称之为\emph{precision-based attacks},并影响几个开源库。为了解决这个漏洞,并实现差分浮点空间的私有机制在一个安全的方式,我们提出了一种新的技术,称为\emph{interval refining}。这种技术具有最小的错误,可证明的隐私和广泛的适用性。我们使用区间细化来设计和实现拉普拉斯机制的一个变体,相当于从拉普拉斯分布中采样并舍入为浮点数。我们报告了这种方法的性能,并讨论了如何使用区间细化来安全地实现其他机制,包括高斯机制和指数机制。
2022-07-27 cs.CR
Are We There Yet? Timing and Floating-Point Attacks on Differential Privacy Systems
本文揭示差分隐私系统中噪声生成的两类实现缺陷:针对高斯机制的浮点表示攻击和针对离散拉普拉斯/高斯机制的时序侧信道攻击,并在DP-SGD及私有求和中验证高达99.65%的攻击成功率,同时提出部分缓解措施。
2024-09-11 cs.CR
Exact Optimality of Communication-Privacy-Utility Tradeoffs in Distributed Mean Estimation
Stanford University(斯坦福大学);Hongik University(弘益大学)
本文研究通信与本地差分隐私约束下的均值估计问题,证明精确最优需使用旋转对称共享随机码本,并提出基于随机旋转单纯形和k-最近编码的机制,实现非渐近精确最优。
2023-10-29 cs.CR cs.DC cs.IT
Optimality of Staircase Mechanisms for Vector Queries under Differential Privacy
CIMAT(墨西哥应用数学研究所);IIMAS(墨西哥国家理工学院);McMaster University(麦马斯特大学)
本文证明在ε-差分隐私下,存在最优的阶梯机制用于向量查询,解决了相关猜想并解释了阶梯机制在隐私保护中的作用。
2026-01-21 cs.AI cs.CR cs.IT
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念,拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中,我们发现,差分隐私没有考虑的线性性质的查询,导致意外的信息泄漏。具体地,线性属性使得可以将一个查询划分成两个查询,诸如$q(D)=q(D_1)+q(D_2)$(如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$)。如果攻击者试图获得$q(D)$的答案,只要他们知道$D_2$,他们不仅可以发出查询$q(D)$,而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分,攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而,从攻击者的角度和从差分隐私机制的角度来看,如果分割设计得很巧妙,则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数,因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏,我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Differentially Private Games via Payoff Perturbation
在本文中,我们研究了网络游戏中的球员参与信息聚合过程受差分隐私要求球员的支付功能。我们提出了一个拉普拉斯线性二次函数扰动机制,该机制用线性二次函数扰动参与者的支付函数,其系数由截断拉普拉斯分布产生。对于单调的游戏,我们表明,LLQFP机制保持的扰动支付函数和产生一个扰动NE的距离从原来的NE是有界的和可调的拉普拉斯参数调整的PURPOSE属性。我们专注于线性二次游戏,这是一个基本类型的网络游戏,玩家的收益是线性二次函数,并推导出明确的条件如何LLQFP机制,确保差分隐私与给定的隐私预算。最后,数值例子验证了LLQFP机制的优点。
2023-03-14 cs.CR cs.GT
Locally Differentially Private Distributed Online Learning with Guaranteed Optimality
Clemson University(克莱姆森大学)
本文提出一种局部差分隐私分布式在线学习方法,利用在线学习特性在无限时间跨度下同时保证学习精度与有限累积隐私预算,并通过机器学习任务验证了其有效性。
2024-08-23 cs.CR cs.LG cs.MA
Lap2: Revisiting Laplace DP-SGD for High Dimensions via Majorization Theory
Iowa State University(爱荷华州立大学);University of Connecticut(康涅狄格大学);University of Kansas(堪萨斯大学)
Lap2通过主导理论解决高维下拉普拉斯DP-SGD的裁剪限制,提升隐私保护下的模型性能。
2026-03-07 cs.CR cs.LG
Differentially Private M-band Wavelet-Based Mechanisms in Machine Learning Environments
Danbury Math Academy(丹伯里数学学院)
在后工业时代,数据科学和分析在数字数据隐私方面变得至关重要。为可访问数据集建立隐私的不正确方法可能会危及大量用户数据,即使对手对用户有少量的初步了解。许多研究人员一直在开发高级隐私保护机制,这些机制还保留了数据的统计完整性,以应用于机器学习。差分隐私的最新发展,如拉普拉斯和Privelet机制,大大降低了攻击者可以区分数据集中的元素,从而提取用户信息的概率。在本文中,我们开发了三个隐私保护机制与离散M带小波变换嵌入噪声到数据中。前两种方法(LS和LS+)通过Laplace-Sigmoid分布添加噪声,该分布将Laplace-Sigmoid分布值与sigmoid函数相乘,第三种方法利用伪量子隐写术将噪声嵌入数据中。然后,我们表明,我们的机制成功地保留了差分隐私和学习能力,通过统计分析,在各种机器学习环境。
2020-02-18 cs.CR cs.LG stat.ML
Beyond Laplace and Gaussian: Exploring the Generalized Gaussian Mechanism for Private Machine Learning
Harvard University(哈佛大学);University of Oxford(牛津大学);Columbia University(哥伦比亚大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
本文研究了通用高斯机制在隐私保护机器学习中的应用,证明其满足差分隐私,并在PATE和DP-SGD中验证了其有效性,表明高斯机制在可计算范围内表现优异。
2026-04-02 cs.CR cs.LG stat.ML
Exact zCDP Characterizations for Fundamental Differentially Private Mechanisms
Google(谷歌)
该研究推导了拉普拉斯机制、离散拉普拉斯机制等多种基础差分隐私机制的紧零集中差分隐私(zCDP)刻画,证实了相关猜想,为差分隐私的隐私分析提供了更紧的理论界。
2025-10-29 cs.CR cs.DS
Approximation of Pufferfish Privacy for Gaussian Priors
本文提出在高斯先验下通过Monge最优传输校准拉普拉斯噪声以实现河豚隐私,并扩展到高斯混合模型先验,为求和查询的私有发布给出充分条件。
2024-05-06 cs.CR cs.IT math.IT
Private Lossless Multiple Release
本文研究差分隐私下的无损多重发布问题,提出适用于高斯、拉普拉斯和泊松等加性噪声机制的无损多重发布方法,并设计了运行时间与维度无关的稀疏直方图渐进发布机制。
2025-05-28 cs.CR cs.DS
Minimum spanning tree release under differential privacy constraints
我们调查的问题,隐私约束下的节点聚类时,表示为一个图的数据集。我们的贡献是三方面的。首先,我们正式定义的概念差分隐私的结构化数据库,如图,并给出了一个替代定义的基础上一个新的邻域之间的概念图。这个定义是适应特定的框架,可以满足在各种应用领域,如基因组学,万维网,人口调查等,其次,我们引入了一个新的算法来解决这个问题,私下发布一个简单的无向加权图的近似最小生成树拓扑。它提供了一种简单的方法来产生一个私人的几乎最小生成树的拓扑结构,在大多数情况下,优于最先进的“拉普拉斯机制”的权重近似误差。最后,我们提出了一个理论上的动机的方法相结合的消毒机制(如拉普拉斯或我们的新算法)的最小生成树(MST)为基础的聚类算法。该算法在保证私有图的边权值所包含的敏感信息的同时,为图中节点的聚类提供了一种精确的方法。我们提供了一些理论结果的鲁棒性的几乎最小生成树建设拉普拉斯消毒机制。这些结果展示了图的权重应该尊重哪些条件,以考虑节点形成良好分离的聚类拉普拉斯和我们的算法作为消毒机制。该方法已在模拟数据上进行了实验评估,初步结果表明该算法在识别分离良好的聚类时具有良好的性能。
2018-01-19 cs.CR math.ST stat.ML
Additive Logistic Mechanism for Privacy-Preserving Self-Supervised Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究了与自监督学习算法训练神经网络权重相关的隐私风险。通过经验证据,我们表明,微调阶段,其中网络权重更新信息丰富,往往是私人的数据集,是容易受到隐私攻击。为了解决这些漏洞,我们设计了一个训练后的隐私保护算法,增加了噪声的微调权重,并提出了一种新的差分隐私机制,采样噪声的逻辑分布。与传统的加性噪声机制Laplace和Gaussian机制相比,该机制采用了与Gaussian机制相似的钟形分布,并且满足与Laplace机制相似的纯$ε$ -差分隐私.我们应用成员推断攻击对未受保护和受保护的模型,以量化模型的隐私和性能之间的权衡。我们表明,所提出的保护算法可以有效地减少攻击的准确性约为50%-相当于随机猜测-同时保持低于5%的性能损失。
2022-05-25 cs.CR cs.LG stat.ML
Optimal Noise Adding Mechanisms for Approximate Differential Privacy
在效用最大化/代价最小化框架下,研究了$(ε,δ)$ -近似差分隐私算法中整数值查询函数和向量值(类直方图)查询函数的(近)最优机制.我们描述了$ε$和$δ$之间的权衡效用和隐私分析直方图样查询功能($\ell^1$敏感性),并表明$(ε,δ)$ -差分隐私是一个框架,没有更一般的$(ε,0)$ -差分隐私和$(0,δ)$ -差分隐私的上下文中的$\ell^1$和$\ell^2$成本函数,即,最小预期噪声幅度和噪声功率。在相同的$\ell^1$和$\ell^2$代价函数的情况下,我们证明了均匀噪声机制和离散拉普拉斯机制在高隐私机制(如$(ε,δ) \to (0,0)$)中的近最优性。我们的结论是,在$(ε,δ)$ -差分隐私,最佳的噪声幅度和噪声功率分别是$Θ(\min(\frac{1}ε,\frac{1}δ))$和$Θ(\min(\frac{1}{ε^2},\frac{1}{δ^2}))$,在高隐私制度。
2013-12-19 cs.CR cs.DS
Differential Privacy at Risk: Bridging Randomness and Privacy Budget
École Normale Supérieure(巴黎高等师范学院);Chalmers University of Technology(查尔姆斯理工大学);National University of Singapore(新加坡国立大学)
隐私保护机制的噪声校准取决于查询的敏感性和规定的隐私级别。数据管理员必须对隐私级别做出重要的选择,以平衡用户的需求和业务实体的资金限制。我们分析角色的随机性的来源,即显式随机性引起的噪声分布和隐式随机性引起的数据生成分布,参与设计的隐私保护机制。更精细的分析使我们能够提供更强有力的隐私保证,并具有可量化的风险。因此,我们提出的隐私风险,这是一个概率校准的隐私保护机制。我们提供了一个组合定理,利用隐私的风险。我们实例化的概率校准拉普拉斯机制提供分析结果。我们还提出了一个成本模型,该模型可以弥合隐私级别与GDPR合规商业实体估计的补偿预算之间的差距。所提出的成本模型的凸性导致隐私级别的独特微调,最大限度地减少补偿预算。我们展示了它的有效性,说明了一个现实的情况下,避免高估的补偿预算使用隐私风险的拉普拉斯机制。我们定量地表明,组合使用成本最优的隐私风险提供了更强的隐私保证比经典的先进的组合。
2020-04-13 cs.CR cs.DS cs.LG
Performance Evaluation of Differential Privacy Mechanisms in Blockchain based Smart Metering
差分隐私的概念是在不可信环境中保护数据库隐私的一个重要概念。后来,研究人员提出了几种差分隐私的变体,以在某些其他场景中保护隐私,例如实时网络物理系统。自那时起,差分隐私被严格地应用到其他一些有隐私保护需求的领域。其中一个领域是基于分布式区块链的智能计量,其中智能电表作为区块链节点将其实时数据发送到电网公用事业数据库进行实时报告。这些数据还用于执行统计任务,例如负荷预测、需求响应计算等。然而,如果任何入侵者访问这些数据,则可能泄露智能电表用户的隐私。在这种情况下,可以使用差分隐私来保护该数据的隐私。在本章中,我们对基于区块链的智能计量场景中的四种差分隐私变体(拉普拉斯,高斯,均匀和几何)进行了比较。我们测试这些变种的智能计量数据,并通过改变不同的参数进行性能评估。实验结果表明,在低隐私预算($\varepsilon$)和低读取敏感度值($δ$),这些隐私保护机制提供了高的隐私通过添加大量的噪声。然而,在这四个隐私保护参数中,几何参数更适合于保护高峰值,拉普拉斯机制更适合于保护($\varepsilon$ = 0.01)的低峰值。
2020-07-19 cs.CR cs.NI
Antipodes of Label Differential Privacy: PATE and ALIBI
Facebook AI;Stanford University(斯坦福大学)
我们考虑隐私保护机器学习(ML)设置,其中训练模型必须满足训练样本标签的差分隐私(DP)。我们提出了两种新的方法的基础上,分别拉普拉斯机制和PATE框架,并证明其有效性的标准基准。虽然Ghazi等人最近的工作提出了基于随机响应机制的标签DP方案,但我们认为加性拉普拉斯噪声加上贝叶斯推理(ALIBI)更适合典型的ML任务。此外,我们展示了如何在某些制度中实现非常强大的隐私级别,我们适应的PATE框架,建立在半监督学习的最新进展。我们补充我们的算法的隐私保证与经验评估其记忆性能的理论分析。我们的评估表明,比较不同的算法,根据其可证明的DP保证可能会产生误导,有利于一个更严格的分析,更少的私人算法。用于实现算法和记忆攻击的代码可从www.example.com获得。
2021-10-29 cs.CR cs.LG
Revisiting Certified Defense with Differential Privacy on Vision Transformers
SHOU(上海海洋大学);Tongji University(同济大学)
本文重新审视视觉Transformer中基于差分隐私的认证防御,发现补丁嵌入后注入噪声时拉普拉斯机制因灵敏度约束几何形状而崩溃,改用谱范数约束并推导无维度隐私保证以解决失效问题。
2026-11-03 cs.CR stat.AP
Optimal Survey Design for Private Mean Estimation
Purdue University(普渡大学)
本研究在差分隐私框架下,针对多种隐私机制提出首个隐私感知分层抽样方案,将最优调查设计转化为优化问题,证明方差目标强凸性并给出高效求解算法,可最小化隐私均值估计的方差。
2025-01-30 cs.CR cs.LG math.ST
Detection and Resolution of Periodic Artifacts in OpenDP's Discrete Laplace Sampler
Università degli Studi dell’Insubria(因苏布里亚大学);Random Power Srl(Random Power有限公司)
本文检测并解决了 OpenDP 离散拉普拉斯采样器中的周期性伪影,通过诊断定位到 bernoulli_exp1 函数的有理算术库错误,提出精确有理算术替代实现,并用 10^6 样本验证修正后输出与理论分布一致。
2026-10-02 cs.CR stat.CO
Improving Utility for Privacy-Preserving Analysis of Correlated Columns using Pufferfish Privacy
调查是许多社会科学研究领域的重要工具,但隐私问题可能会使调查数据的收集和分析复杂化。对调查数据进行不同的私人分析可以解决这些问题,但代价是准确性-特别是对于高维统计数据。我们提出了一种新的隐私机制,表DDP机制,设计的高维统计不完全相关。表DDP机制满足依赖差分隐私,河豚隐私的一种变体;它的工作原理是建立敏感数据的因果模型,然后将噪声校准到统计数据之间的相关性水平。对调查数据的实证评价表明,表式DDP机制可以显着提高精度比拉普拉斯机制。
2022-09-22 cs.CR
Tight Lower Bounds for Differentially Private Continual Counting
Google(谷歌);Google Research(谷歌研究)
本文解决了二叉树机制在差分隐私连续计数中的渐近最优性问题,证明了纯和近似差分隐私下的紧下界,并确立了该机制在标准参数范围内的最优性。
2026-11-18 cs.CR cs.DS
Approximate Differential Privacy of the $\ell_2$ Mechanism
本研究针对近似差分隐私下的$d$维有界$\u2113_2$敏感度统计计算场景,探究$\u2113_2$机制的性能,发现其误差优于Laplace与Gaussian机制,且在维度变化时呈现相应的误差匹配与趋近特性。
2025-02-21 cs.CR
$d_X$-Privacy for Text and the Curse of Dimensionality
本文发现多维拉普拉斯机制在逐词应用时输出极端词而非语义相似词,归因于高维嵌入中最近邻距离特性,并提出后处理修复方法。
2025-09-08 cs.CR
Differentially Private EEG Feature Anonymization: A Privacy-Utility Case Study in Clinical Neurophysiology
University of South-Eastern Norway(东南挪威大学)
本研究针对临床EEG特征匿名化,提出基于高斯和拉普拉斯扰动的受试者级差分隐私框架,评估三种部署场景,揭示隐私与效用间的权衡及小样本不平衡数据的挑战。
2026-09-11 cs.CR cs.LG eess.SP
Differentially Private Convex Optimization with Piecewise Affine Objectives
差分隐私是最近提出的隐私概念,它提供了强有力的隐私保证,而无需对对手进行任何假设。研究了目标函数为分段仿射的凸优化问题的差分私有解的计算问题。这样的问题是由其中定义目标函数的仿射函数包含敏感用户信息的应用激发的。我们提出了几种隐私保护机制,并提供这些机制的最优性和隐私水平之间的权衡分析。数值实验也被用来评估它们在实践中的性能。
2014-03-24 cs.CR cs.DS math.OC
Observations on the Bias of Nonnegative Mechanisms for Differential Privacy
我们研究了两种方法,有界数据的差异私人分析,并将其扩展到非负查询。我们首先回顾拉普拉斯机制,边界膨胀截断(BIT)适用于非负查询和截断都导致严格的正偏置。然后,我们考虑使用翻译斜坡函数的BIT的泛化。我们显式地将最优函数用于最坏情况下的偏差。我们表明,应用任何平方可积的后处理函数的拉普拉斯机制导致严格的正的最大绝对偏差。相应的结果也示出了一个概括的截断,我们称之为限制。我们还简要考虑了一种基于正数据乘法机制的替代方法,并表明,在没有额外限制的情况下,这些机制可能会导致无限的偏差。
2021-01-08 cs.CR math.ST stat.TH
More Flexible Differential Privacy: The Application of Piecewise Mixture Distributions in Query Release
越来越多的人要求向第三方“开放”数据,因为数据共享在数据驱动的决策中有很大的好处。然而,由于收集了各种各样的敏感数据,保护个人、社区和组织的隐私是使数据“开放”的一个重要因素。业界目前采用的公布私人数据的方法往往是临时性的,容易受到一些攻击,包括重新识别攻击,因为它们没有提供足够的隐私保障。虽然差分隐私通过提供严格和可靠的隐私保证吸引了学术界和工业界的极大兴趣,但当前用于数据发布的差异隐私算法的实用性和可验证性降低是其在现实生活中使用的障碍。本文旨在解决这两个挑战。首先,我们提出了一种新的机制,通过融合两个拉普拉斯或几何分布在一起,以增加传统的差分隐私的效用。我们推导出封闭形式的表达式熵,方差的增加噪声,和绝对期望的噪声建议分段混合。然后利用相关分布从理论上证明所提出机制的隐私性和准确性保证。其次,我们表明,我们提出的机制具有更大的灵活性,有三个参数进行调整,提供更好的效用,在边界噪声,并减轻较大的不准确性,相比典型的单参数差分私有机制。然后,我们经验性地评估了分段混合分布的性能与广泛的模拟和现实世界的数据集的线性计数查询和直方图查询。实证结果表明,增加所有考虑的效用措施,同时保持隐私,分段混合机制相比,标准的拉普拉斯或几何机制。
2017-07-18 cs.CR
Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability
Tencent Games(腾讯游戏);University of Science and Technology of China(中国科学技术大学)
投票在将群体智慧引入集体决策中发挥着核心作用,同时数据隐私也是引发个人偏好的常见伦理/法律问题。这项工作研究的问题,聚集个人的投票数据下的本地差分隐私设置,其中的有用性和健全性的汇总分数的主要关注。一种简单的解决方法是加入拉普拉斯随机噪声,然而,它使得聚合分数对于针对本地隐私设置的新型策略行为非常脆弱:数据放大攻击和视图伪装攻击。数据放大攻击是指攻击者的操纵能力在贡献欺诈投票时被隐私保护过程放大。视图伪装攻击是指攻击者可以将恶意数据伪装成有效的私有视图来操纵投票结果。本文在理论上对Laplace机制的估计误差界和操作风险界进行量化后,提出了两种同时提高有效性和可靠性的机制:加权抽样机制和加法机制。前者将分数向量解释为概率数据。与拉普拉斯机制相比,该机制将$d$的均方误差界减小了一半,并将最大风险界从$+\infty$降低到$O(\frac{d^3}{nε})$ .后者根据候选人的总分随机输出候选人的子集。其均方误差界从$O(\frac{d^5}{nε^2})$优化为$O(\frac{d^4}{nε^2})$,其最大幅度风险界降低为$O(\frac{d^2}{nε})$ .实验结果表明,本文提出的方法平均降低了$50\%$的估计误差,对对抗攻击具有更好的鲁棒性.
2019-08-14 cs.CR cs.LG
Elliptical Perturbations for Differential Privacy
本文研究了局部凸向量空间中的椭圆分布,确定了它们满足差分隐私(DP)的条件。一个必要的条件,净化的统计摘要,以满足DP的是,相应的隐私机制必须诱导等效的措施,所有可能的输入数据库。我们证明了具有相同色散算子$C$的椭圆分布是等价的,如果它们的均值差位于$C$的Cameron-Martin空间中。在使用椭圆扰动释放有限维投影的情况下,我们表明,隐私参数$\ep$可以计算在一维最大化问题。我们应用这个结果来考虑多变量拉普拉斯,$t$,高斯,和$K$ -范数噪声。令人惊讶的是,我们表明,多变量拉普拉斯噪声不实现$\ep$ -DP在任何尺寸大于一个。最后,我们表明,当空间的维数是无限的,没有椭圆分布可以用来给$\ep$ -DP,只有$(ε,δ)$ -DP是可能的。
2021-05-05 cs.CR math.ST stat.TH
Smooth Sensitivity Revisited: Towards Optimality
针对平滑敏感度差分隐私机制的噪声选择问题,本文提出 PolyPlace 分布,可在标准差上大幅优于 Student's T 分布,并在 $γ\ o0$ 时收敛于 Laplace 机制,从而具有极限最优性。
2024-07-06 cs.CR
Optimality of Matrix Mechanism on $\ell_p^p$-metric
Nanjing University(南京大学);Rutgers University(罗格斯大学)
本文在差分隐私下引入 $\ell_p^p$-误差度量,刻画了 $(ε,δ)$-差分隐私下回答线性查询的误差紧致界限,推广了前缀和与奇偶校验查询在 $p=2$ 时的已知结果。
2024-06-04 cs.CR cs.LG