Approximation of Pufferfish Privacy for Gaussian Priors
本文提出在高斯先验下通过Monge最优传输校准拉普拉斯噪声以实现河豚隐私,并扩展到高斯混合模型先验,为求和查询的私有发布给出充分条件。
2024-05-06 cs.CR cs.IT math.IT
A Failure-Free and Efficient Discrete Laplace Distribution for Differential Privacy in MPC
本文针对MPC分布式计算中的输出隐私问题,提出一种零失败概率的离散有界拉普拉斯扰动机制及其MPC安全实现,在提供更强差分隐私保证的同时,效率与最先进的离散高斯机制相当。
2025-03-10 cs.CR
Laplace Transform Interpretation of Differential Privacy
Betterdata;National University of Singapore(新加坡国立大学)
本文提出用隐私损失分布的拉普拉斯变换表示差分隐私概念,利用时频对偶性将Rényi DP曲线与$(ε, δ)$-DP曲线联系为拉普拉斯正逆变换,并证明了精确紧致的自适应组合定理及解决子采样$f$-DP对称性问题。
2024-11-14 cs.CR cs.LG
Privacy by Postprocessing the Discrete Laplace Mechanism
BARC;University of Copenhagen(哥本哈根大学);University of Waterloo(滑铁卢大学)
本文展示离散拉普拉斯机制可通过后处理得到子指数函数的无偏估计,且能与拉普拉斯或阶梯机制产生相同隐私参数分布,适用于离散数据场景。
2026-05-07 cs.CR
The Podium Mechanism: Improving on the Laplace and Staircase Mechanisms
Podium机制通过从三个均匀分布的\emph{finite}混合物中采样噪声来保证($ε, 0$)差分隐私。通过仔细构建这样一个混合分布,我们可以很好地保证隐私属性,同时最小化添加到连续结果中的噪声方差。我们在方差控制中的增益是由于Podium机制的“截断”性质,其中对噪声分布的支持尽可能接近我们的数据汇集的灵敏度,这与表征拉普拉斯和楼梯机制的\emph{infinite}支持不同。在高隐私机制($ε< 1$)中,Podium机制在噪声方差降低方面优于其他两种机制50- 70%,而在低隐私机制($ε\to \infty$)中,Podium机制渐近接近Staircase机制.
2019-08-01 cs.CR
Truncated Laplace and Gaussian mechanisms of RDP
本文针对拉普拉斯和高斯机制可能输出语义不可能值的问题,提出截断拉普拉斯机制和截断高斯机制,并证明其在任意截断区间上保持与未截断机制相同的RDP,从而提升差分隐私在特定应用中的实用性。
2023-09-22 cs.CR
Pure Differential Privacy for Functional Summaries with a Laplace-like Process
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出ICLP机制,通过将功能摘要视为无限维希尔伯特空间中的对象,解决传统方法在处理复杂结构摘要时的不足,通过平滑非隐私摘要提升隐私摘要的效用。
2026-03-31 cs.CR cs.LG stat.ML
Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanism with Univariate Bounding Constraints
在发布和共享数据和信息时,保护个人隐私是一个共同关注的问题。差分隐私(DP)形式化隐私的概率条款,而不做假设的背景知识的数据入侵者,从而提供了一个强大的隐私保护的概念。DP的实际应用涉及开发差异隐私机制,以在预先指定的隐私预算中生成经过消毒的结果。对于具有诸如比例和相关系数之类的公共已知边界的统计数据的净化,边界约束将需要被并入差分私有机制中。有很少的工作检查的后果的边界约束的准确性的消毒结果和统计推断的人口参数的基础上消毒的结果。在本文中,我们形式化的差分私人截断和边界膨胀截断(BIT)的程序发布统计与公开已知的边界约束。截断和BIT拉普拉斯程序的统计精度和有效性的消毒统计的影响进行了评估,通过模拟研究的理论和经验。
2019-05-26 cs.CR stat.ME
Differential Privacy with Higher Utility by Exploiting Coordinate-wise Disparity: Laplace Mechanism Can Beat Gaussian in High Dimensions
本文提出跨坐标独立非同分布(i.n.i.d.)噪声机制,利用坐标间敏感度差异优化隐私-准确性权衡,理论分析和实验证明其在高维下优于i.i.d.机制,且拉普拉斯机制可超越高斯机制。
2025-01-25 cs.CR eess.SP
Channel Chart Location Privacy Based on Geo-Indistinguishability
ENSEA, CY Cergy Paris University(巴黎塞吉-蓬图瓦兹大学);CNRS(法国国家科学研究中心);Pontifical Catholic University of Rio de Janeiro (PUC-Rio)(里约热内卢天主教大学);York University(约克大学);Barkhausen Institut gGmbH(巴伐利亚研究所)
针对信道制图中的位置隐私问题,提出基于马氏范数平面拉普拉斯机制的图表位置不可区分性框架,在保护隐私的同时保持信道图拓扑结构。
2026-06-02 cs.CR cs.IT math.IT
Adaptive Laplace Mechanism: Differential Privacy Preservation in Deep Learning
New Jersey Institute of Technology(新泽西理工学院);University of Arkansas(阿肯色大学);University of Oregon(俄勒冈大学)
在本文中,我们专注于开发一种新的机制来保护深度神经网络中的差分隐私,使得:(1)隐私预算消耗完全独立于训练步骤的数量;(2)它能够根据每个特征对输出的贡献自适应地将噪声注入特征;(3)它可以应用于各种不同的深度神经网络。为了实现这一点,我们找到了一种方法来扰动神经元的仿射变换,以及深度神经网络中使用的损失函数。此外,我们的机制有意地将“更多的噪音”添加到与模型输出“不太相关”的特征中,反之亦然。我们的理论分析进一步推导出我们的机制的灵敏度和误差范围。在MNIST和CIFAR-10数据集上进行的严格实验表明,我们的机制非常有效,优于现有的解决方案。
2018-04-23 cs.CR cs.LG stat.ML
Infinitely Divisible Noise in the Low Privacy Regime
BARC;University of Copenhagen(哥本哈根大学);IT University of Copenhagen(哥本哈根信息技术大学)
联邦学习,其中训练数据分布在用户之间并且从不共享,已经成为隐私保护机器学习的流行方法。加密技术(如安全聚合)用于聚合来自所有用户的贡献(如模型更新)。用于使这样的聚合差异私有的鲁棒技术是利用拉普拉斯分布的无限可分性,即拉普拉斯分布可以表示为i.i.d.来自伽马分布的噪声份额,每个用户添加一个份额。然而,已知拉普拉斯噪声在$\varepsilon$ -差分隐私的低隐私机制中具有次优误差,其中$\varepsilon > 1$是大常数。在本文中,我们提出了第一个无限可分的噪声分布的实值数据,实现$\varepsilon$ -差分隐私,并具有预期的误差,$\varepsilon$指数下降。
2022-03-07 cs.CR cs.DS cs.LG
Count on Your Elders: Laplace vs Gaussian Noise
本文论证了在$(ε,δ)$-差分隐私中拉普拉斯噪声优于高斯噪声,通过引入带负数位的$k$进制二叉树机制改进持续观察计数问题的隐私-精度权衡,并证明高斯噪声可被方差更小的拉普拉斯噪声替代。
2024-11-18 cs.CR cs.DS
A Tight Context-aware Privacy Bound for Histogram Publication
该研究通过点态最大泄漏(PML)分析拉普拉斯机制发布直方图的隐私保证,指出PML相比无上下文的差分隐私更精细,当直方图bin概率远离零时可在固定噪声下提升隐私保护,证明了上下文感知隐私度量的优势。
2025-08-26 cs.CR cs.IT math.IT
$α$-Wasserstein Mechanism for Rényi Pufferfish Privacy
本文提出$α$-Wasserstein机制,通过拉普拉斯和高斯噪声实现Rényi Pufferfish隐私,利用霍尔德不等式校准参数,证明其在$(α, ε)$隐私下优于传统方法,且高斯机制在效用上更优。
2026-09-28 cs.CR
Differentially Private Games via Payoff Perturbation
在本文中,我们研究了网络游戏中的球员参与信息聚合过程受差分隐私要求球员的支付功能。我们提出了一个拉普拉斯线性二次函数扰动机制,该机制用线性二次函数扰动参与者的支付函数,其系数由截断拉普拉斯分布产生。对于单调的游戏,我们表明,LLQFP机制保持的扰动支付函数和产生一个扰动NE的距离从原来的NE是有界的和可调的拉普拉斯参数调整的PURPOSE属性。我们专注于线性二次游戏,这是一个基本类型的网络游戏,玩家的收益是线性二次函数,并推导出明确的条件如何LLQFP机制,确保差分隐私与给定的隐私预算。最后,数值例子验证了LLQFP机制的优点。
2023-03-14 cs.CR cs.GT
Precision-based attacks and interval refining: how to break, then fix, differential privacy on finite computers
尽管在十多年前就被提出来作为一个问题,但浮点运算的不精确性继续在差分私有噪声机制的实现中导致隐私失败。在本文中,我们强调了一类新的漏洞,我们称之为\emph{precision-based attacks},并影响几个开源库。为了解决这个漏洞,并实现差分浮点空间的私有机制在一个安全的方式,我们提出了一种新的技术,称为\emph{interval refining}。这种技术具有最小的错误,可证明的隐私和广泛的适用性。我们使用区间细化来设计和实现拉普拉斯机制的一个变体,相当于从拉普拉斯分布中采样并舍入为浮点数。我们报告了这种方法的性能,并讨论了如何使用区间细化来安全地实现其他机制,包括高斯机制和指数机制。
2022-07-27 cs.CR
Are We There Yet? Timing and Floating-Point Attacks on Differential Privacy Systems
本文揭示差分隐私系统中噪声生成的两类实现缺陷:针对高斯机制的浮点表示攻击和针对离散拉普拉斯/高斯机制的时序侧信道攻击,并在DP-SGD及私有求和中验证高达99.65%的攻击成功率,同时提出部分缓解措施。
2024-09-11 cs.CR
Differentially Private M-band Wavelet-Based Mechanisms in Machine Learning Environments
Danbury Math Academy(丹伯里数学学院)
在后工业时代,数据科学和分析在数字数据隐私方面变得至关重要。为可访问数据集建立隐私的不正确方法可能会危及大量用户数据,即使对手对用户有少量的初步了解。许多研究人员一直在开发高级隐私保护机制,这些机制还保留了数据的统计完整性,以应用于机器学习。差分隐私的最新发展,如拉普拉斯和Privelet机制,大大降低了攻击者可以区分数据集中的元素,从而提取用户信息的概率。在本文中,我们开发了三个隐私保护机制与离散M带小波变换嵌入噪声到数据中。前两种方法(LS和LS+)通过Laplace-Sigmoid分布添加噪声,该分布将Laplace-Sigmoid分布值与sigmoid函数相乘,第三种方法利用伪量子隐写术将噪声嵌入数据中。然后,我们表明,我们的机制成功地保留了差分隐私和学习能力,通过统计分析,在各种机器学习环境。
2020-02-18 cs.CR cs.LG stat.ML
Beyond Laplace and Gaussian: Exploring the Generalized Gaussian Mechanism for Private Machine Learning
Harvard University(哈佛大学);University of Oxford(牛津大学);Columbia University(哥伦比亚大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
本文研究了通用高斯机制在隐私保护机器学习中的应用,证明其满足差分隐私,并在PATE和DP-SGD中验证了其有效性,表明高斯机制在可计算范围内表现优异。
2026-04-02 cs.CR cs.LG stat.ML
Lap2: Revisiting Laplace DP-SGD for High Dimensions via Majorization Theory
Iowa State University(爱荷华州立大学);University of Connecticut(康涅狄格大学);University of Kansas(堪萨斯大学)
Lap2通过主导理论解决高维下拉普拉斯DP-SGD的裁剪限制,提升隐私保护下的模型性能。
2026-03-07 cs.CR cs.LG
Private Hyperparameter Tuning with Ex-Post Guarantee
本文将事后差分隐私机制从拉普拉斯/高斯噪声推广到任意私有估计器序列,并证明超参数调优无需额外隐私代价,同时扩展至事后Renyi DP。
2025-08-21 cs.CR cs.DS
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念,拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中,我们发现,差分隐私没有考虑的线性性质的查询,导致意外的信息泄漏。具体地,线性属性使得可以将一个查询划分成两个查询,诸如$q(D)=q(D_1)+q(D_2)$(如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$)。如果攻击者试图获得$q(D)$的答案,只要他们知道$D_2$,他们不仅可以发出查询$q(D)$,而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分,攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而,从攻击者的角度和从差分隐私机制的角度来看,如果分割设计得很巧妙,则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数,因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏,我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Proving Differential Privacy via Probabilistic Couplings
在本文中,我们开发的组合方法正式验证差分隐私的算法,其分析超出了组合定理。我们的方法是基于观察,差分隐私有很深的联系与概率耦合,一个既定的数学工具推理随机过程的推广。即使合成定理没有帮助,我们也可以通过耦合论证来证明隐私。我们证明了我们的方法上的两个算法:指数机制和阈值以上的算法,著名的稀疏向量算法的关键组成部分。我们验证这些例子中的关系程序逻辑apRHL+,它可以构建近似耦合。这种逻辑扩展了现有的apRHL逻辑与更一般的规则拉普拉斯机制和单边拉普拉斯机制,和新的结构规则,使点式推理隐私;所有的规则的灵感与耦合的连接。虽然我们的论文是从形式化验证的角度来看,我们认为,其主要的见解是独立的利益的差分隐私社区。
2021-03-14 cs.CR cs.DS cs.LO
Minimum spanning tree release under differential privacy constraints
我们调查的问题,隐私约束下的节点聚类时,表示为一个图的数据集。我们的贡献是三方面的。首先,我们正式定义的概念差分隐私的结构化数据库,如图,并给出了一个替代定义的基础上一个新的邻域之间的概念图。这个定义是适应特定的框架,可以满足在各种应用领域,如基因组学,万维网,人口调查等,其次,我们引入了一个新的算法来解决这个问题,私下发布一个简单的无向加权图的近似最小生成树拓扑。它提供了一种简单的方法来产生一个私人的几乎最小生成树的拓扑结构,在大多数情况下,优于最先进的“拉普拉斯机制”的权重近似误差。最后,我们提出了一个理论上的动机的方法相结合的消毒机制(如拉普拉斯或我们的新算法)的最小生成树(MST)为基础的聚类算法。该算法在保证私有图的边权值所包含的敏感信息的同时,为图中节点的聚类提供了一种精确的方法。我们提供了一些理论结果的鲁棒性的几乎最小生成树建设拉普拉斯消毒机制。这些结果展示了图的权重应该尊重哪些条件,以考虑节点形成良好分离的聚类拉普拉斯和我们的算法作为消毒机制。该方法已在模拟数据上进行了实验评估,初步结果表明该算法在识别分离良好的聚类时具有良好的性能。
2018-01-19 cs.CR math.ST stat.ML
Additive Logistic Mechanism for Privacy-Preserving Self-Supervised Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究了与自监督学习算法训练神经网络权重相关的隐私风险。通过经验证据,我们表明,微调阶段,其中网络权重更新信息丰富,往往是私人的数据集,是容易受到隐私攻击。为了解决这些漏洞,我们设计了一个训练后的隐私保护算法,增加了噪声的微调权重,并提出了一种新的差分隐私机制,采样噪声的逻辑分布。与传统的加性噪声机制Laplace和Gaussian机制相比,该机制采用了与Gaussian机制相似的钟形分布,并且满足与Laplace机制相似的纯$ε$ -差分隐私.我们应用成员推断攻击对未受保护和受保护的模型,以量化模型的隐私和性能之间的权衡。我们表明,所提出的保护算法可以有效地减少攻击的准确性约为50%-相当于随机猜测-同时保持低于5%的性能损失。
2022-05-25 cs.CR cs.LG stat.ML
Optimal Survey Design for Private Mean Estimation
Purdue University(普渡大学)
本研究在差分隐私框架下,针对多种隐私机制提出首个隐私感知分层抽样方案,将最优调查设计转化为优化问题,证明方差目标强凸性并给出高效求解算法,可最小化隐私均值估计的方差。
2025-01-30 cs.CR cs.LG math.ST
Context-aware Privacy Bounds for Linear Queries
KTH Royal Institute of Technology(皇家理工学院);Inria Saclay(巴黎萨克雷Inria研究所)
本文通过点wise最大泄露(PML)视角重新审视线性查询的隐私分析,推导出更紧的上下文感知泄露界,证明其比标准差分隐私更严格,并通过数值评估展示利用先验知识可减少噪声规模同时保持隐私保证。
2026-04-12 cs.CR cs.IT math.IT
On Improving the Composition Privacy Loss in Differential Privacy for Fixed Estimation Error
针对数据异构场景下数据集不相交子集统计量的隐私发布问题,提出一种基于抑制用户贡献的迭代算法,在固定最坏估计误差下有效降低了标准Laplace机制的组合隐私损失退化。
2025-03-25 cs.CR cs.IT math.IT
Performance Evaluation of Differential Privacy Mechanisms in Blockchain based Smart Metering
差分隐私的概念是在不可信环境中保护数据库隐私的一个重要概念。后来,研究人员提出了几种差分隐私的变体,以在某些其他场景中保护隐私,例如实时网络物理系统。自那时起,差分隐私被严格地应用到其他一些有隐私保护需求的领域。其中一个领域是基于分布式区块链的智能计量,其中智能电表作为区块链节点将其实时数据发送到电网公用事业数据库进行实时报告。这些数据还用于执行统计任务,例如负荷预测、需求响应计算等。然而,如果任何入侵者访问这些数据,则可能泄露智能电表用户的隐私。在这种情况下,可以使用差分隐私来保护该数据的隐私。在本章中,我们对基于区块链的智能计量场景中的四种差分隐私变体(拉普拉斯,高斯,均匀和几何)进行了比较。我们测试这些变种的智能计量数据,并通过改变不同的参数进行性能评估。实验结果表明,在低隐私预算($\varepsilon$)和低读取敏感度值($δ$),这些隐私保护机制提供了高的隐私通过添加大量的噪声。然而,在这四个隐私保护参数中,几何参数更适合于保护高峰值,拉普拉斯机制更适合于保护($\varepsilon$ = 0.01)的低峰值。
2020-07-19 cs.CR cs.NI
Antipodes of Label Differential Privacy: PATE and ALIBI
Facebook AI;Stanford University(斯坦福大学)
我们考虑隐私保护机器学习(ML)设置,其中训练模型必须满足训练样本标签的差分隐私(DP)。我们提出了两种新的方法的基础上,分别拉普拉斯机制和PATE框架,并证明其有效性的标准基准。虽然Ghazi等人最近的工作提出了基于随机响应机制的标签DP方案,但我们认为加性拉普拉斯噪声加上贝叶斯推理(ALIBI)更适合典型的ML任务。此外,我们展示了如何在某些制度中实现非常强大的隐私级别,我们适应的PATE框架,建立在半监督学习的最新进展。我们补充我们的算法的隐私保证与经验评估其记忆性能的理论分析。我们的评估表明,比较不同的算法,根据其可证明的DP保证可能会产生误导,有利于一个更严格的分析,更少的私人算法。用于实现算法和记忆攻击的代码可从www.example.com获得。
2021-10-29 cs.CR cs.LG
Revisiting Certified Defense with Differential Privacy on Vision Transformers
SHOU(上海海洋大学);Tongji University(同济大学)
本文重新审视视觉Transformer中基于差分隐私的认证防御,发现补丁嵌入后注入噪声时拉普拉斯机制因灵敏度约束几何形状而崩溃,改用谱范数约束并推导无维度隐私保证以解决失效问题。
2026-11-03 cs.CR stat.AP
Detection and Resolution of Periodic Artifacts in OpenDP's Discrete Laplace Sampler
Università degli Studi dell’Insubria(因苏布里亚大学);Random Power Srl(Random Power有限公司)
本文检测并解决了 OpenDP 离散拉普拉斯采样器中的周期性伪影,通过诊断定位到 bernoulli_exp1 函数的有理算术库错误,提出精确有理算术替代实现,并用 10^6 样本验证修正后输出与理论分布一致。
2026-10-02 cs.CR stat.CO
Observations on the Bias of Nonnegative Mechanisms for Differential Privacy
我们研究了两种方法,有界数据的差异私人分析,并将其扩展到非负查询。我们首先回顾拉普拉斯机制,边界膨胀截断(BIT)适用于非负查询和截断都导致严格的正偏置。然后,我们考虑使用翻译斜坡函数的BIT的泛化。我们显式地将最优函数用于最坏情况下的偏差。我们表明,应用任何平方可积的后处理函数的拉普拉斯机制导致严格的正的最大绝对偏差。相应的结果也示出了一个概括的截断,我们称之为限制。我们还简要考虑了一种基于正数据乘法机制的替代方法,并表明,在没有额外限制的情况下,这些机制可能会导致无限的偏差。
2021-01-08 cs.CR math.ST stat.TH
Improving Utility for Privacy-Preserving Analysis of Correlated Columns using Pufferfish Privacy
调查是许多社会科学研究领域的重要工具,但隐私问题可能会使调查数据的收集和分析复杂化。对调查数据进行不同的私人分析可以解决这些问题,但代价是准确性-特别是对于高维统计数据。我们提出了一种新的隐私机制,表DDP机制,设计的高维统计不完全相关。表DDP机制满足依赖差分隐私,河豚隐私的一种变体;它的工作原理是建立敏感数据的因果模型,然后将噪声校准到统计数据之间的相关性水平。对调查数据的实证评价表明,表式DDP机制可以显着提高精度比拉普拉斯机制。
2022-09-22 cs.CR
Differential Privacy at Risk: Bridging Randomness and Privacy Budget
École Normale Supérieure(巴黎高等师范学院);Chalmers University of Technology(查尔姆斯理工大学);National University of Singapore(新加坡国立大学)
隐私保护机制的噪声校准取决于查询的敏感性和规定的隐私级别。数据管理员必须对隐私级别做出重要的选择,以平衡用户的需求和业务实体的资金限制。我们分析角色的随机性的来源,即显式随机性引起的噪声分布和隐式随机性引起的数据生成分布,参与设计的隐私保护机制。更精细的分析使我们能够提供更强有力的隐私保证,并具有可量化的风险。因此,我们提出的隐私风险,这是一个概率校准的隐私保护机制。我们提供了一个组合定理,利用隐私的风险。我们实例化的概率校准拉普拉斯机制提供分析结果。我们还提出了一个成本模型,该模型可以弥合隐私级别与GDPR合规商业实体估计的补偿预算之间的差距。所提出的成本模型的凸性导致隐私级别的独特微调,最大限度地减少补偿预算。我们展示了它的有效性,说明了一个现实的情况下,避免高估的补偿预算使用隐私风险的拉普拉斯机制。我们定量地表明,组合使用成本最优的隐私风险提供了更强的隐私保证比经典的先进的组合。
2020-04-13 cs.CR cs.DS cs.LG
Elliptical Perturbations for Differential Privacy
本文研究了局部凸向量空间中的椭圆分布,确定了它们满足差分隐私(DP)的条件。一个必要的条件,净化的统计摘要,以满足DP的是,相应的隐私机制必须诱导等效的措施,所有可能的输入数据库。我们证明了具有相同色散算子$C$的椭圆分布是等价的,如果它们的均值差位于$C$的Cameron-Martin空间中。在使用椭圆扰动释放有限维投影的情况下,我们表明,隐私参数$\ep$可以计算在一维最大化问题。我们应用这个结果来考虑多变量拉普拉斯,$t$,高斯,和$K$ -范数噪声。令人惊讶的是,我们表明,多变量拉普拉斯噪声不实现$\ep$ -DP在任何尺寸大于一个。最后,我们表明,当空间的维数是无限的,没有椭圆分布可以用来给$\ep$ -DP,只有$(ε,δ)$ -DP是可能的。
2021-05-05 cs.CR math.ST stat.TH
Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability
Tencent Games(腾讯游戏);University of Science and Technology of China(中国科学技术大学)
投票在将群体智慧引入集体决策中发挥着核心作用,同时数据隐私也是引发个人偏好的常见伦理/法律问题。这项工作研究的问题,聚集个人的投票数据下的本地差分隐私设置,其中的有用性和健全性的汇总分数的主要关注。一种简单的解决方法是加入拉普拉斯随机噪声,然而,它使得聚合分数对于针对本地隐私设置的新型策略行为非常脆弱:数据放大攻击和视图伪装攻击。数据放大攻击是指攻击者的操纵能力在贡献欺诈投票时被隐私保护过程放大。视图伪装攻击是指攻击者可以将恶意数据伪装成有效的私有视图来操纵投票结果。本文在理论上对Laplace机制的估计误差界和操作风险界进行量化后,提出了两种同时提高有效性和可靠性的机制:加权抽样机制和加法机制。前者将分数向量解释为概率数据。与拉普拉斯机制相比,该机制将$d$的均方误差界减小了一半,并将最大风险界从$+\infty$降低到$O(\frac{d^3}{nε})$ .后者根据候选人的总分随机输出候选人的子集。其均方误差界从$O(\frac{d^5}{nε^2})$优化为$O(\frac{d^4}{nε^2})$,其最大幅度风险界降低为$O(\frac{d^2}{nε})$ .实验结果表明,本文提出的方法平均降低了$50\%$的估计误差,对对抗攻击具有更好的鲁棒性.
2019-08-14 cs.CR cs.LG
Approximate Differential Privacy of the $\ell_2$ Mechanism
本研究针对近似差分隐私下的$d$维有界$\u2113_2$敏感度统计计算场景,探究$\u2113_2$机制的性能,发现其误差优于Laplace与Gaussian机制,且在维度变化时呈现相应的误差匹配与趋近特性。
2025-02-21 cs.CR
$d_X$-Privacy for Text and the Curse of Dimensionality
本文发现多维拉普拉斯机制在逐词应用时输出极端词而非语义相似词,归因于高维嵌入中最近邻距离特性,并提出后处理修复方法。
2025-09-08 cs.CR
Improving data utility in differential privacy and k-anonymity
本文重点研究了两种主流的隐私模型:k-匿名和差分隐私。一旦选择了一个隐私模型,目标是在尽可能多地保留数据效用的同时实施它。本论文的主要目的是提高k-匿名和差异隐私数据发布中的数据效用。k-匿名性有几个缺点。在披露限制方面,缺乏对属性披露和知情入侵者的保护。在数据实用程序方面,处理大量的准标识符属性是有问题的。我们建议放宽k-匿名处理这些问题。差分隐私通过噪声添加来限制披露风险。拉普拉斯分布通常用于随机噪声。我们发现,拉普拉斯分布是不是最佳的:相同的披露限制保证可以通过增加更少的噪音。最佳的单变量和多变量噪声的特征和构造。实现差分隐私的常见机制不考虑用户的先验知识;它们隐含地假设关于查询响应的初始知识为零。我们提出了一种机制,专注于限制知识增益超过先验知识。基于微聚合的k-匿名和差分隐私可以结合起来,以产生具有差分隐私的强隐私保证和改进的数据准确性的微数据发布。最后一个贡献是深入研究了t-贴近度和差分隐私之间的关系。我们看到,对于一个特定的距离,并在一些合理的假设下,入侵者的知识,t-接近导致差分隐私。
2013-07-03 cs.CR cs.DB
Privacy Mechanism Design based on Empirical Distributions
Inria Saclay(法国国家信息与自动化研究所萨克莱中心)
本文提出基于经验分布的点态最大泄漏隐私评估与机制设计框架,利用大偏差界获得分布无关的(ε,δ)-PML保证,并证明最优机制可归结为线性约束凸规划,在二元数据上相比本地差分隐私显著提升效用。
2025-09-26 cs.CR cs.IT math.IT
More Flexible Differential Privacy: The Application of Piecewise Mixture Distributions in Query Release
越来越多的人要求向第三方“开放”数据,因为数据共享在数据驱动的决策中有很大的好处。然而,由于收集了各种各样的敏感数据,保护个人、社区和组织的隐私是使数据“开放”的一个重要因素。业界目前采用的公布私人数据的方法往往是临时性的,容易受到一些攻击,包括重新识别攻击,因为它们没有提供足够的隐私保障。虽然差分隐私通过提供严格和可靠的隐私保证吸引了学术界和工业界的极大兴趣,但当前用于数据发布的差异隐私算法的实用性和可验证性降低是其在现实生活中使用的障碍。本文旨在解决这两个挑战。首先,我们提出了一种新的机制,通过融合两个拉普拉斯或几何分布在一起,以增加传统的差分隐私的效用。我们推导出封闭形式的表达式熵,方差的增加噪声,和绝对期望的噪声建议分段混合。然后利用相关分布从理论上证明所提出机制的隐私性和准确性保证。其次,我们表明,我们提出的机制具有更大的灵活性,有三个参数进行调整,提供更好的效用,在边界噪声,并减轻较大的不准确性,相比典型的单参数差分私有机制。然后,我们经验性地评估了分段混合分布的性能与广泛的模拟和现实世界的数据集的线性计数查询和直方图查询。实证结果表明,增加所有考虑的效用措施,同时保持隐私,分段混合机制相比,标准的拉普拉斯或几何机制。
2017-07-18 cs.CR
Differentially Private Maximal Information Coefficients
Yale University(耶鲁大学);U.S. Naval Research Laboratory(美国海军研究实验室)
最大信息系数(MIC)是一个强大的统计,以确定变量之间的依赖关系。但是,它可能适用于敏感数据,并且发布它可能会泄露私人信息。作为一种解决方案,我们提出的算法,以近似MIC的方式,提供差分隐私。我们表明,自然应用的经典拉普拉斯机制产生的准确性不足。因此,我们引入了MICr统计,这是一个新的MIC近似,是更兼容的差分隐私。我们证明了MICr是MIC的一致估计,并给出了两个不同的私有版本。我们在各种真实和合成数据集上进行了实验。结果表明,私人MICr统计显着优于直接应用拉普拉斯机制。此外,在真实世界数据集上的实验表明,当样本量至少适度大时,精度是可用的。
2022-06-21 cs.CR cs.IT cs.LG
Differentially Private and Fair Classification via Calibrated Functional Mechanism
University of Houston(休斯顿大学);Guilin University of Electronic Technology(桂林电子科技大学);Guangdong University of Technology(广东工业大学)
机器学习正日益成为在各种应用中做出决策的强大工具,例如医疗诊断和自动驾驶。与训练数据有关的隐私问题和关于某些属性的某些决策的不公平行为(例如,性别、种族)变得越来越重要。因此,构建一个公平的机器学习模型,同时提供隐私保护成为一个具有挑战性的问题。本文将功能机制与决策边界公平性相结合,重点研究了具有公平性和差分隐私保证的分类模型的设计。为了增强$ε$ -差分隐私和公平性,我们利用函数机制,在考虑公平性约束的情况下,对目标函数的多项式系数添加关于不同属性的不同数量的拉普拉斯噪声。我们进一步提出了一种效用增强方案,称为松弛函数机制,通过加入高斯噪声代替拉普拉斯噪声,从而实现$(ε,δ)$ -差分隐私.在此基础上,设计了$(ε,δ)$ --差分隐私公平分类模型。此外,我们的理论分析和实验结果表明,我们的两种方法实现了公平性和差分隐私,同时保持良好的效用,并优于国家的最先进的算法。
2020-03-12 cs.CR cs.LG
Minimax Optimal Two-Sample Testing under Local Differential Privacy
本文在局部差分隐私下提出两样本检验方法,通过隐私排列检验和自适应检验实现最小分离率,平衡隐私与统计效用。
2024-11-22 cs.CR cs.LG stat.ML
Oneshot Differentially Private Top-k Selection
University of Michigan(密歇根大学);University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
能够高效准确地选择具有差分隐私的顶级$k$元素是各种隐私数据分析任务的组成部分。在本文中,我们提出了oneshot拉普拉斯机制,它概括了著名的报告噪声最大的机制,以报告嘈杂的顶部$k$元素。我们发现,oneshot拉普拉斯机制的噪音水平为$\widetilde{O}(\sqrt{k}/\eps)$近似差分私人。与之前运行Report Noisy Max $k$次的剥离方法相比,oneshot Laplace机制仅添加噪声并计算顶部$k$元素一次,因此对于大型$k$更有效。此外,我们的隐私证明依赖于一种新的耦合技术,绕过使用的组合定理。最后,我们提出了一个新的应用程序,有效的顶部$k$选择的经典问题,从成对比较排名。
2021-06-23 cs.CR cs.LG stat.ML
Differential Privacy: An Estimation Theory-Based Method for Choosing Epsilon
差分隐私是通过在查询响应中引入拉普拉斯噪声来实现的,从而在差分隐私级别和数据库响应的准确性之间建立精确的权衡(通过引入的噪声量)。然而,要添加的噪声量通常通过拉普拉斯分布的尺度参数来定义,其使用可能不那么直观。在本文中,我们建议使用两个参数,而不是相关的概念,区间估计,这提供了一个更直观的图片,如何精确的计数查询的真实输出可以衡量从噪声污染的(因此,多少个人的隐私受到保护)。
2015-10-04 cs.CR cs.DB
GenShare: Sharing Accurate Differentially-Private Statistics for Genomic Datasets with Dependent Tuples
动机:降低DNA测序技术的成本导致了基因组数据可用性的飞跃。虽然在研究人员之间共享基因组数据是健康和生物医学研究进步的重要驱动力,但由于数据隐私问题,共享过程通常是不可行的。差异隐私是用于促进共享基因组数据集的汇总统计数据而不披露任何私人个人级别数据的严格机制之一。然而,由于数据集元组之间的相关性,差分隐私仍然可以泄露关于数据集参与者的敏感信息。结果如下:在这里,我们提出了建立在基于拉普拉斯扰动机制的DP上的GenShare模型,以引入用于统计基因组数据集的隐私保护查询应答共享模型,该统计基因组数据集包括由于个体基因组之间的固有相关性而导致的依赖性(即,家庭关系)。我们证明了我们的隐私改善国家的最先进的方法,为一系列的实际查询,包括队列发现,次要等位基因频率,和卡方2关联测试。通过对Laplace扰动机制中的敏感性进行细粒度分析并考虑联合分布,GenShare的结果接近于差分隐私理论所允许的形式隐私保证,因为查询是在独立元组上计算的(仅高达6%的差异)。GenShare确保查询结果与差分隐私理论上保证的一样准确。为了支持不同科学和医学研究领域的进步,GenShare提供了一条通往交互式基因组数据共享系统的道路,当数据集包括具有家庭关系的参与者时。
2021-12-30 cs.CR q-bio.GN
Kantorovich Mechanism for Pufferfish Privacy
河豚隐私在所公开的数据中的一组秘密对上实现了$ε$ -不可验证性。研究了如何利用指数机制实现$ε$ -pufferfish的隐私保护。指数机制是一种推广了Laplace噪声的加性噪声方案。它示出,所公开的数据是$ε$ -河豚私人的,如果噪声被校准到Kantorovich最优运输计划的灵敏度。这样的计划可以直接从以秘密为条件的数据统计中获得,系统的先验知识。充分条件进一步放宽,以降低噪声功率。证明了基于Kantorovich方法的高斯机制达到了$ε$ -河豚隐私的$δ$ -近似.
2022-02-21 cs.CR stat.AP
Differential privacy and noisy confidentiality concepts for European population statistics
本文件旨在概述目前正在为官方人口统计和普查讨论的基于随机噪声的统计披露控制的各种办法。一个特别的重点是对影响讨论的不同概念之间的严格划分:我们明确区分风险措施,噪声分布和输出机制-将这些概念纳入范围并相互联系。在概括了差异隐私作为一种风险度量之后,本文还评论了一些特定输出机制和参数设置的效用和风险方面,特别关注官方人口统计中相当典型的静态输出。特别是,有人认为,无界噪声分布,如平原拉普拉斯,可能会危及关键的独特的普查功能,没有明确的需要从风险的角度来看。另一方面,有界噪声分布,如截断拉普拉斯或细胞键方法,可以设置,以保持独特的普查功能,同时控制披露风险,在类似普查的输出。最后,本文分析了一些典型的攻击场景,以限制通用噪声参数范围,这表明2021年欧盟人口普查输出场景具有良好的风险/效用折衷。分析还表明,严格差别私有机制将受到严重限制,在这种情况下。
2020-12-17 cs.CR stat.ME
Optimal Regret of Bernoulli Bandits under Global Differential Privacy
FairPlay Joint Team, CREST, ENSAE Paris(FairPlay联合团队、CREST、ENSAE巴黎);King Abdullah University of Science and Technology(国王阿卜杜勒-阿齐兹大学);Kyoto University(京都大学);RIKEN AIP(理化学研究所AIP);The University of Tokyo(东京大学);Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189-CRIStAL(里尔大学、Inria、CNRS、里尔中央大学、UMR 9189-CRIStAL)
本文针对全局差分隐私下的伯努利老虎机问题,提出更紧的遗憾下界,并基于统一蓝图设计 DP-KLUCB 和 DP-IMED 的差分隐私版本,证明其遗憾渐近匹配下界,同时提出新的 Laplace 机制下伯努利变量和的集中不等式。
2025-05-08 cs.CR cs.IT cs.LG
Differential privacy for symmetric log-concave mechanisms
Norwegian University of Science and Technology(挪威科技大学)
本文提出了一种基于对称对数凹噪声分布的差分隐私机制,通过调整噪声分布降低均方误差,提升隐私保护效果。
2026-01-27 cs.CR stat.ML
Secure Random Sampling in Differential Privacy
差分隐私是保护敏感数据隐私的最突出的技术之一,这归因于其强大的数学保证和对大量数据计算的普遍适用性,包括统计分析和机器学习。以前的工作表明,具体实施的差分隐私机制是容易受到统计攻击。此漏洞是由实数值近似为浮点数造成的。本文提出了一种实用的解决方案,有限精度浮点漏洞,其中拉普拉斯分布的逆变换采样本身可以被反转,从而使攻击的原始值可以检索到不可忽视的优势。所提出的解决方案具有推广到任何无限可分的概率分布的优点,并在现代架构中的简单实现。最后,该解决方案已被设计为使侧信道攻击不可行,因为固有的指数,在域的大小,蛮干攻击。
2021-11-24 cs.CR