Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology(孟加拉国工程技术大学)
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统,利用高斯机制输出扰动和 Rényi 差分隐私,在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
Tight Differential Privacy for Discrete-Valued Mechanisms and for the Subsampled Gaussian Mechanism Using FFT
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所HIIT);University of Helsinki(赫尔辛基大学);Aalto University(阿尔托大学)
我们提出了一个数值会计评估紧$(\varepsilon,δ)$隐私损失的算法与离散一维输出。该方法是基于隐私损失分布形式主义,它使用了最近推出的快速傅立叶变换为基础的会计技术。我们进行了误差分析的隐私损失分布,导致严格的下限和上限的真实$(\varepsilon,δ)$值的时刻界的方法。作为一个应用,我们提出了一种新的方法来准确的隐私会计的子采样高斯机制。这完成了先前提出的分析,给出严格的下限和上限的隐私参数。我们证明了性能的会计二项式机制,并表明,我们的方法允许降低噪声方差高达75%,在同等的隐私文献中现有的界限相比。我们还说明了如何计算紧边界的指数机制应用于计数查询。
2021-06-21 cs.CR cs.LG stat.ML
Gaussian Differential Privacy on Riemannian Manifolds
University of Alberta(阿尔伯塔大学)
本文提出一种基于Bishop-Gromov定理的黎曼高斯分布,首次将高斯差分隐私扩展到一般黎曼流形,并提供算法计算隐私预算,在单位球面上验证了优于黎曼拉普拉斯机制的效用。
2023-11-09 cs.CR cs.DS cs.LG
On Choosing the $μ$ Parameter in Gaussian Differential Privacy
Lausanne University Hospital(拉索恩大学医院);University of Helsinki(赫尔辛基大学)
本文通过匹配强对手成员推理攻击的最坏情况成功度,提供从纯-DP ε到GDP μ的原则性映射,并推荐 μ≈ε/5 作为保守通用转换。
2026-06-08 cs.LG stat.ML
Deep Learning with Gaussian Differential Privacy
University of Pennsylvania(宾夕法尼亚大学)
深度学习模型通常在包含敏感信息的数据集上进行训练,例如个人的购物交易,个人联系人和医疗记录。因此,一个越来越重要的工作路线已经寻求训练受隐私约束的神经网络,这些隐私约束由差分隐私或其基于发散的松弛指定。然而,这些隐私定义在处理某些重要的原语(组合和子采样)时存在弱点,从而对训练神经网络进行松散或复杂的隐私分析。在本文中,我们考虑了最近提出的隐私定义\textit{$f$-differential privacy} [18],用于训练神经网络的精细隐私分析。利用$f$ -差分隐私在处理组合和子采样方面的吸引人的特性,本文推导了用于训练深度神经网络的随机梯度下降和Adam的隐私保证的分析易处理的表达式,而不需要像[3]那样开发复杂的技术。我们的研究结果表明,$f$ -差分隐私框架允许一种新的隐私分析,它改进了先前的分析~[3],这反过来又建议调整神经网络的某些参数,以获得更好的预测精度,而不违反隐私预算。这些理论推导的改进证实了我们的实验中的一系列任务,在图像分类,文本分类和推荐系统。用于计算这些实验的隐私成本的Python代码可以在\texttt{TensorFlow Privacy}库中公开获得。
2020-07-22 cs.CR cs.LG stat.ML
Mind the Gap: Mixtures of Gaussians in Approximate Differential Privacy
Shanghai Jiao Tong University(上海交通大学);UCL School of Management(伦敦大学学院管理学院);Imperial Business School(帝国理工学院商学院)
针对已知敏感度的标量实值查询函数,设计了一类混合高斯加性噪声机制,在中等和低隐私预算下显著降低噪声幅度和方差,接近最优性。
2026-05-27 cs.AI cs.CR cs.LG
Shuffle Gaussian Mechanism for Differential Privacy
LINE Corporation(LINE公司)
本文研究差分隐私混洗模型中的高斯机制,推导其Rényi差分隐私上界,证明其优于未混洗高斯机制,并扩展到子采样与混洗签到机制,验证其在分布式学习中的隐私保护效果。
2022-07-04 cs.CR cs.LG stat.ML
Improving the Gaussian Mechanism for Differential Privacy: Analytical Calibration and Optimal Denoising
Amazon Research(亚马逊研究院);Amazon Web Services(亚马逊云科技)
高斯机制是众多差异隐私数据分析算法中使用的基本构建块。在本文中,我们重新审视高斯机制,并表明原来的分析有几个重要的局限性。我们的分析表明,原机制的方差公式是远离紧密的高隐私制度($\varepsilon \to 0$),它不能扩展到低隐私制度($\varepsilon \to \infty$)。我们通过开发一种最佳高斯机制来解决这些限制,该机制的方差直接使用高斯累积密度函数而不是尾界近似来校准。我们还建议配备高斯机制的后处理步骤的基础上,自适应估计技术,利用扰动的分布是已知的。我们的实验表明,分析校准消除了至少三分之一的噪声方差相比,经典的高斯机制,去噪显着提高了精度的高斯机制在高维制度。
2018-06-07 cs.LG stat.ML
The Distributed Discrete Gaussian Mechanism for Federated Learning with Secure Aggregation
Google Research(谷歌研究院)
我们考虑在分布在用户设备上的私人数据上训练模型。为了确保隐私,我们添加了设备上的噪声,并使用安全聚合,以便只有噪声和才会显示给服务器。我们提出了一个全面的端到端系统,它适当地离散化数据,并在执行安全聚合之前添加离散高斯噪声。我们提供了一个新的隐私分析的离散高斯和仔细分析的影响,数据量化和模求和算法。我们的理论保证强调了沟通、隐私和准确性之间的复杂张力。我们广泛的实验结果表明,我们的解决方案基本上是能够匹配的准确性,中央差分隐私与小于16位的精度每个值。
2022-09-08 cs.DS cs.LG stat.ML
Sharp Composition Bounds for Gaussian Differential Privacy via Edgeworth Expansion
Department of Statistics(统计系);Graduate Group in Applied Mathematics and Computational Science(应用数学与计算科学研究生组);Department of Biostatistics, Epidemiology and Informatics(生物统计学、流行病学与信息学系)
包含敏感信息的数据集通常由许多算法顺序分析。这就提出了一个基本的问题,在差分隐私的整体隐私约束如何降低下组成。为了解决这个问题,我们引入了一个家庭的分析和尖锐的隐私范围下的组成使用埃奇沃思扩展的框架内最近提出的f-差分隐私。与现有的使用中心极限定理的组合定理相比,我们的新的隐私组合下的边界获得改进的紧密性,利用改进的近似精度的埃奇沃思扩展。我们的方法是很容易实现和计算效率的任何数量的组合物。这些新的界限的优越性,证实了渐近误差分析和应用量化的整体隐私保证的噪声随机梯度下降用于训练私人深神经网络。
2020-03-25 cs.AI cs.CR cs.LG
Learning discrete distributions: user vs item-level privacy
Cornell University(康奈尔大学);Google Research(谷歌研究院)
大部分关于差分隐私的文献都集中在项目级隐私上,粗略地说,目标是为每个项目或训练示例提供隐私。然而,最近许多实际应用,如联邦学习,需要保护单个用户的所有项目的隐私,这是很难实现的。因此,理解用户级隐私的理论极限变得至关重要。我们研究的基本问题,学习离散分布在$k$符号与用户级差分隐私。如果每个用户都有$m$样本,我们表明,拉普拉斯或高斯机制的直接应用程序需要用户的数量是$\mathcal{O}(k/(mα^2) + k/εα)$,以实现真正的和估计的分布之间的$α$的$\ell_1$距离,与隐私引起的惩罚$k/εα$独立于每个用户的样本数$m$。此外,我们表明,任何机制,只对最终的总计数操作,应该需要一个用户的复杂性相同的顺序。然后,我们提出了一种机制,使用户的数量规模为$\tilde{\mathcal{O}}(k/(mα^2) + k/\sqrt{m}εα)$,因此隐私的惩罚是$\tildeΘ(\sqrt{m})$倍小于标准的机制,在某些设置的兴趣。我们进一步表明,所提出的机制在某些制度下是接近最优的。我们还提出了一般的技术,以获得下限限制差分私人估计和二项分布之间的总变异的下限,这两者可能是独立的利益。
2021-01-11 cs.CR cs.DS cs.IT
Differential privacy for symmetric log-concave mechanisms
Norwegian University of Science and Technology(挪威科技大学)
本文提出了一种基于对称对数凹噪声分布的差分隐私机制,通过调整噪声分布降低均方误差,提升隐私保护效果。
2026-01-27 cs.CR stat.ML
Robust Estimation of Discrete Distributions under Local Differential Privacy
虽然鲁棒学习和局部差分隐私都是广泛研究的研究领域,但将这两种设置结合起来才刚刚开始探索。我们考虑的问题估计的离散分布的总变异从$n$污染的数据批次下的局部差分隐私约束。批次的一部分$1-ε$含有$k$ i.i.d.。从$d$元素上的离散分布$p$中抽取的样本。为了保护用户的隐私,每个样本使用$α$ -本地差分私有机制进行私有化。其余$εn $批次为对抗性污染。在没有隐私的情况下,仅在污染下的极小极大估计率已知为$ε/\sqrt{k}+\sqrt{d/kn}$,直到$\sqrt{\log(1/ε)}$因子。在单独的隐私约束下,最小最大估计率是$\sqrt{d^2/α^2 kn}$。我们表明,结合这两个约束导致一个极小极大估计率的$ε\sqrt{d/α^2 k}+\sqrt{d^2/α^2 kn}$的$\sqrt{\log(1/ε)}$的因素,大于两个单独的利率的总和。我们提供了一个多项式时间算法实现这个界限,以及匹配信息理论的下限。
2022-04-20 math.ST stat.ML stat.TH
Formal Privacy for Functional Data with Gaussian Perturbations
出于快速崛起的统计工具在功能数据分析,我们认为高斯机制实现差分隐私的参数估计值,潜在的无限维,可分离的巴拿赫空间。使用经典的结果从概率论,我们展示了如何密度在函数空间可以利用,以实现所需的差分隐私界。这将Hall等人(2013)的先前结果扩展到更广泛的统计估计和摘要类别,包括“路径级”摘要,非线性泛函和全函数发布。通过关注巴拿赫空间,我们提供了一个更深层次的复杂数据隐私的挑战,特别是正则化在平衡效用和隐私的作用。使用惩罚平滑的应用程序,我们明确强调这种平衡的背景下,平均函数估计。模拟和应用扩散张量成像简要介绍,广泛的补充包括在一个补充。
2019-01-28 math.ST stat.TH
The Skellam Mechanism for Differentially Private Federated Learning
Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学)
我们引入了一种基于两个独立Poisson随机变量之差的离散差分隐私机制-为了量化其隐私保证,我们分析了隐私损失分布通过数值计算,并提供了一个尖锐的限制两个移位的Rényi分歧之间的分布。虽然在集中式和分布式隐私应用程序中很有用,但我们研究了如何在通信约束下安全聚合的联邦学习环境中应用它。我们的理论研究结果和广泛的实验评估表明,即使在精度较低的情况下,连续高斯机制也提供了与连续高斯机制相同的隐私准确性权衡。更重要的是,在求和和采样下,它是封闭的,只需要从泊松分布中采样-这是一个有效的例程,与所有机器学习和数据分析软件包一起使用。这些功能,以及其离散性和竞争性的隐私准确性权衡,使其成为一个有吸引力的实用替代新引入的离散高斯机制。
2021-10-29 cs.CR cs.DS cs.LG
Generalized Gaussian Mechanism for Differential Privacy
在数据隐私技术的研究和应用中,信息披露风险的评估是至关重要的。差分隐私(DP)的概念,形式化的概率隐私,并提供了一个强大的隐私保护的概念,而不对对手的背景知识的假设。DP的实际应用涉及DP机制的开发,以预先指定的隐私预算发布结果。基于统计查询的$l_p$全局敏感性,将广泛使用的Laplace机制推广到广义高斯(GG)机制族.探讨了GG机制在预定隐私参数下达到DP的理论要求,研究了GG机制与基于GG分布的指数机制之间的联系和区别,并给出了$(ε,δ)$的高斯机制的尺度参数的下界--概率DP作为GG机制的特例,并比较高斯和拉普拉斯机制中的尾部概率和分散度中的净化结果的统计效用。最后,我们在3个实验(霉菌,捷克,成人数据)中应用GG机制,并通过$l_1$距离和Kullback-Leibler散度比较消毒结果的准确性,并研究消毒如何影响成人实验中使用消毒数据构建的分类器的预测能力。
2017-12-23 math.ST stat.TH
Locally private non-asymptotic testing of discrete distributions is faster using interactive mechanisms
我们发现分离率测试多项式或更一般的离散分布的约束下的局部差分隐私。我们构建有效的随机算法和测试程序,在这两种情况下,只有非交互式的隐私机制是允许的,也在所有顺序交互式隐私机制是允许的。在后一种情况下,分离速率更快。我们证明一般信息理论界,使我们能够建立我们的算法的最优性之间的所有对隐私机制和测试程序,在大多数情况下。考虑的例子包括测试均匀,多项式和指数递减分布。
2020-05-26 math.ST stat.ME stat.ML
Beyond Laplace and Gaussian: Exploring the Generalized Gaussian Mechanism for Private Machine Learning
Harvard University(哈佛大学);University of Oxford(牛津大学);Columbia University(哥伦比亚大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
本文研究了通用高斯机制在隐私保护机器学习中的应用,证明其满足差分隐私,并在PATE和DP-SGD中验证了其有效性,表明高斯机制在可计算范围内表现优异。
2026-04-02 cs.CR cs.LG stat.ML
Gaussian DP for Reporting Differential Privacy Guarantees in Machine Learning
Harvard University(哈佛大学);Lausanne University Hospital(洛桑大学医院);Google DeepMind(谷歌DeepMind);University of Helsinki(赫尔辛基大学)
针对当前机器学习中差分隐私报告不完整的问题,提出使用非渐近高斯差分隐私(GDP)作为主要报告方式,通过数值会计和决策理论度量,证明GDP能无误差地捕获DP-SGD等算法的完整隐私特征。
2026-06-17 cs.AI cs.CR cs.LG
Asynchronous Federated Learning with Reduced Number of Rounds and with Differential Privacy from Less Aggregated Gaussian Noise
University of Connecticut(康涅狄格大学);CWI Amsterdam(阿姆斯特丹数学与计算机科学研究中心);IBM Research(IBM研究院);The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
联邦学习的可行性在网络通信方面受到服务器-客户端基础设施的高度约束。大多数新推出的智能手机和物联网设备都配备了GPU或足够的计算硬件来运行强大的AI模型。然而,在原始同步联邦学习的情况下,客户端设备遭受等待时间,并且需要客户端和服务器之间的定期通信。这意味着对局部模型训练时间和不规则或错过的更新更敏感,因此,对大量客户端的可扩展性较小或有限,并且实时的测量的收敛速率将受到影响。我们提出了一种新的异步联邦学习算法,它消除了等待时间,减少了整体网络通信-我们为强凸目标函数提供了严格的理论分析,并提供了仿真结果。通过添加高斯噪声,我们展示了我们的算法是如何被差分私有化的--新的定理展示了聚合的高斯噪声是如何被显着减少的。
2020-07-17 cs.CR cs.LG math.OC
MVG Mechanism: Differential Privacy under Matrix-Valued Query
Princeton University(普林斯顿大学)
传统上,差分隐私机制设计是针对纯量值查询函数量身定制的。虽然诸如拉普拉斯和高斯机制的许多机制可以通过添加i.i.d.噪声的矩阵的每个元素,这种方法往往是次优的,因为它丧失了一个机会,利用结构特征,通常与矩阵分析。为了解决这个问题,我们提出了一种新的差分隐私机制称为矩阵变量高斯(MVG)机制,它增加了一个矩阵值的噪声从矩阵变量高斯分布,我们严格证明了MVG机制保持$(ε,δ)$ -差分隐私。此外,我们引入了方向噪声的概念,通过MVG机制的设计成为可能。定向噪声允许噪声对矩阵值查询函数的效用的影响被缓和。最后,我们实验证明了我们的机制使用三个矩阵值查询三个隐私敏感的数据集的性能。我们发现,MVG机制显着优于四个以前的国家的最先进的方法,并提供了可比的实用程序的非私人基线。
2018-10-16 cs.CR cs.LG stat.ML
Additive Logistic Mechanism for Privacy-Preserving Self-Supervised Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究了与自监督学习算法训练神经网络权重相关的隐私风险。通过经验证据,我们表明,微调阶段,其中网络权重更新信息丰富,往往是私人的数据集,是容易受到隐私攻击。为了解决这些漏洞,我们设计了一个训练后的隐私保护算法,增加了噪声的微调权重,并提出了一种新的差分隐私机制,采样噪声的逻辑分布。与传统的加性噪声机制Laplace和Gaussian机制相比,该机制采用了与Gaussian机制相似的钟形分布,并且满足与Laplace机制相似的纯$ε$ -差分隐私.我们应用成员推断攻击对未受保护和受保护的模型,以量化模型的隐私和性能之间的权衡。我们表明,所提出的保护算法可以有效地减少攻击的准确性约为50%-相当于随机猜测-同时保持低于5%的性能损失。
2022-05-25 cs.CR cs.LG stat.ML
Differential Privacy for Functions and Functional Data
Carnegie Mellon University(卡内基梅隆大学)
差分隐私是一个用于私下发布数据库摘要的框架。以前的工作主要集中在方法的输出是一个有限维向量,或一些离散集的元素。我们开发的方法释放功能,同时保持差分隐私。具体来说,我们表明,添加一个适当的高斯过程的功能的利益产生差异隐私。当函数位于与高斯过程相同的RKHS中时,则通过测量函数在RKHS范数中的“灵敏度”来建立正确的噪声水平。作为例子,我们考虑核密度估计,核支持向量机,并在再生核希尔伯特空间的功能。
2012-03-12 cs.LG stat.ML
Differentially private sub-Gaussian location estimators
我们解决的问题,估计一个位置参数差分隐私保证和亚高斯偏差。最近的统计工作集中在研究估计,实现亚高斯型偏差,即使是重尾数据。我们通过差分隐私的镜头重新审视了其中的一些估计,并表明拉普拉斯机制的天真应用可能会导致次优结果。我们设计了两个私人算法估计中位数,导致估计子高斯型错误。与大多数现有的差分私人中位数估计,这两种算法都定义为无界随机变量,甚至不需要有有限的时刻。然后,我们转向亚高斯均值估计的问题,并表明,在重尾自然差分私人替代品导致严格更差的偏差比他们的非私人亚高斯同行。这与最近的结果形成鲜明对比,这些结果表明,从渐近的角度来看,差分隐私的成本可以忽略不计。
2019-06-27 math.ST stat.ML stat.TH
Scale Analysis and Shape Selection for the Generalized Gaussian Mechanism under Approximate Differential Privacy
Carleton University(卡尔顿大学)
本文针对近似差分隐私下的广义高斯机制,研究其尺度估计与形状选择,提出区间式形状搜索算法,优化形状参数可在保证隐私的同时提升效用、降低方差。
2026-09-01 math.ST stat.ME stat.TH
Locally Private Gaussian Estimation
University of Pennsylvania(宾夕法尼亚大学);Microsoft Research Redmond(微软研究院雷德蒙德分院);Google Research New York(谷歌研究院纽约分院);University of Minnesota(明尼苏达大学)
我们研究一个基本的私人估计问题:每个$n$用户画一个单一的i.i. d。从未知的高斯分布中采样,目标是估计该高斯分布的均值,同时满足每个用户的局部差分隐私。非正式地,局部差分隐私要求每个数据点在被传递到学习算法之前被单独且独立地私有化。因此,局部私有高斯估计是困难的,因为数据域是无界的:用户可以绘制任意不同的输入,但局部差分隐私仍然要求不同的用户具有(最坏情况)相似的私有化输出分布。我们提供了自适应两轮解决方案和非自适应一轮解决方案的局部私人高斯估计。然后,我们部分匹配这些上限与信息理论的下限。这个下限表明,我们的准确性保证是紧对数因子的所有顺序交互式$(\varepsilon,δ)$本地私有协议。
2019-10-27 cs.LG stat.ML
Impact of Prior Knowledge and Data Correlation on Privacy Leakage: A Unified Analysis
差分隐私(DP)技术可以保证严格的隐私性,从而防止具有任意先验知识的攻击者。然而,最近的研究表明,这可能是不正确的相关数据,并表明三个因素可能会影响隐私泄漏:数据相关模式,对手的先验知识,和查询功能的敏感性。这就提出了一个基本问题:这三个因素与隐私泄露之间的数学关系是什么?在本文中,我们提出了一个统一的分析这个问题。提出了一种新的隐私定义\textit{prior differential privacy (PDP)},考虑攻击者所拥有的精确先验知识来评估隐私泄露。我们使用两个模型,加权层次图(WHG)和多元高斯模型来分析离散和连续的数据,分别。我们证明,积极的,消极的,和混合的相关性对隐私泄露有不同的影响。考虑到一般相关性,推导了连续数据隐私泄露的封闭表达式,给出了离散数据隐私泄露的链式规则。我们的结果是有效的一般线性查询,包括计数,总和,平均值和直方图。数值实验验证了我们的理论分析。
2019-06-05 cs.CR cs.LG math.PR
Generalised Likelihood Ratio Testing Adversaries through the Differential Privacy Lens
Technical University of Munich(慕尼黑工业大学);Imperial College London(伦敦帝国理工学院);LMU Munich(慕尼黑大学)
差分隐私(DP)提供了严格的上限的能力,最佳的对手,但这样的对手很少遇到在实践中。在DP的假设检验/成员推理解释下,我们研究了高斯机制,并将通常的Neyman-Pearson-Optimal(NPO)对手假设放宽为广义Likestive检验(GLRT)对手。这种温和的放松导致改进的隐私保证,我们在高斯DP和$(\varepsilon, δ)$ -DP的精神,包括成分和子采样结果表示。我们评估我们的结果数值,并找到他们的理论上限相匹配。
2022-10-24 cs.AI cs.CR stat.AP
On the 1-Wasserstein Distance between Location-Scale Distributions and the Effect of Differential Privacy
该研究推导了独立位置-尺度分布间1-Wasserstein距离的精确闭式表达式与新线性上界,明确了高斯情形下的渐近界,并借此分析了Laplace、Gaussian机制下差分隐私对该距离的影响。
2023-04-28 math.PR stat.AP stat.ML
Locally Differentially-Private Randomized Response for Discrete Distribution Learning
Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)(加泰罗尼亚电信技术中心(CTTC/CERCA));Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
我们考虑这样一种安排。来自未知有限支持分布$\boldsymbol{p}$的样本$X_1,\dotsc,X_n$通过离散私有化信道(也称为$n$)的$n$拷贝。机制)产生输出$Y_1,\dotsc,Y_n$。信道法则保证了$ε$的局部差分隐私。根据规定的隐私级别$ε$,最佳信道应该被设计为使得基于信道输出$Y_1,\dotsc,Y_n$的源分布的估计尽可能快地收敛到精确值$\boldsymbol{p}$。为此,我们研究了三个分布距离度量:$f$ -发散,均方误差和总变差的收敛到零。我们推导出相应的归一化一阶收敛项(作为$n\to\infty$),其对于给定的目标隐私$ε$表示经验法则因子,通过该经验法则因子,样本大小必须被增大,以便实现与非随机化信道相同的估计精度。我们制定的隐私保真度权衡问题是最小化隐私约束下的一阶项$ε$。我们进一步确定了一个标量,捕捉这种权衡的本质,并证明了这个数量的界限和数据处理不等式。对于隐私-保真度权衡问题的一些特定实例,我们推导出最佳权衡曲线的内外界。
2018-11-29 cs.IT cs.LG math.IT
Efficient Estimation of a Gaussian Mean with Local Differential Privacy
本文研究局部差分隐私下的高斯均值估计问题,提出基于Fisher-Information最大化的两阶段符号机制,在高隐私机制下实现了渐近最优且高效的LDP估计。
2025-03-05 math.ST stat.TH
Optimizing Noise for $f$-Differential Privacy via Anti-Concentration and Stochastic Dominance
本文为 $f$-差分隐私的加性噪声建立反集中不等式,证明规范噪声分布尾部近最优且为次指数,提出离散规范噪声分布并证明其存在性、构造方法及随机最小性,为优化隐私机制性能提供理论支撑。
2024-11-11 cs.CR math.PR math.ST
Optimal Private and Communication Constraint Distributed Goodness-of-Fit Testing for Discrete Distributions in the Large Sample Regime
该研究针对联邦场景下带宽与差分隐私约束的离散分布分布式拟合优度检验问题,借助Le Cam统计等价理论将多元高斯均值检验结果推广至离散分布,得出大样本下匹配的极小极大上下界。
2024-11-02 math.ST stat.TH
Heavy-Tailed Privacy: The Symmetric alpha-Stable Privacy Mechanism
本文提出对称α-稳定(SaS)机制,在保持卷积封闭性的同时实现纯差分隐私,并分析隐私与参数关系及与高斯机制的误差对比,认为其适合隐私保护应用。
2025-04-25 cs.CR cs.DS
Connect the Dots: Tighter Discrete Approximations of Privacy Loss Distributions
Google(谷歌);Google Research(谷歌研究院)
隐私损失分布(PLD)提供了差分隐私(DP)背景下的机制的隐私损失的严格表征。最近的工作表明,与其他已知方法相比,基于PLD的核算允许对许多流行机制的更严格的$(\varepsilon, δ)$ -DP保证。基于PLD的会计中的一个关键问题是如何在任何指定的离散支持上用PLD来近似任何(可能连续的)PLD。我们提出了一种新的方法来解决这个问题。我们的方法支持悲观估计,这高估了关键-坚持分歧(即,$δ$),以及乐观估计,这低估了关键-坚持分歧。此外,我们证明了我们的悲观估计是所有悲观估计中最好的。实验评估表明,我们的方法可以与更大的离散化间隔,同时保持类似的误差界相比,以前的方法,但给出了一个更好的近似比现有的方法。
2022-07-10 cs.CR cs.DS cs.LG
Tight Bounds for Gaussian Mean Estimation under Personalized Differential Privacy
Nanyang Technological University(南洋理工大学)
本文提出在个性化差分隐私下高斯分布均值估计的最优算法,解决了有界和无界PDP下的隐私保护与数据值联合考虑问题。
2026-01-22 cs.DS
Estimating Sparse Discrete Distributions Under Local Privacy and Communication Constraints
Cornell University(康奈尔大学);Google(谷歌公司)
我们考虑在局部差分隐私(LDP)和通信约束下估计稀疏离散分布的问题。我们刻画了样本的复杂性稀疏估计LDP约束下的一个常数因子和通信约束下的样本复杂性的对数因子。我们在LDP下的上限是基于Hadamard响应的,这是一种私人硬币方案,每个用户只需要一位通信。在通信约束下,我们提出了基于随机哈希函数的公共硬币方案。我们的紧下界是基于最近提出的卡方收缩方法。
2021-02-19 cs.CR cs.DS cs.IT
The Symmetric alpha-Stable Privacy Mechanism
本文分析了对称α-稳定机制,证明其在卷积封闭性下满足纯差分隐私,弥补了高斯机制仅满足近似差分隐私的不足,为隐私保护应用提供了更优选择。
2023-11-29 cs.CR cs.DS
Count on Your Elders: Laplace vs Gaussian Noise
本文论证了在$(ε,δ)$-差分隐私中拉普拉斯噪声优于高斯噪声,通过引入带负数位的$k$进制二叉树机制改进持续观察计数问题的隐私-精度权衡,并证明高斯噪声可被方差更小的拉普拉斯噪声替代。
2024-11-18 cs.CR cs.DS
Lower Bounds for Differential Privacy from Gaussian Width
我们研究了在差分隐私约束下给定线性查询工作量的最优样本复杂度。在错误参数$α$下的查询应答机制的样本复杂度是最小的$n$,使得该机制在任何大小为$n$的数据库上应答具有最多$α$错误的工作负载。在Hardt和Talwar [STOC 2010]开始的一系列研究之后,我们使用渐近凸几何的工具分析样本复杂性。我们研究的敏感性多面体,一个自然的凸体与查询工作量,量化查询答案如何可以改变相邻的数据库之间。粗略地说,这是由差分私有算法保护的信息,并且,出于这个原因,我们预计“更大”的敏感性多面体意味着更大的样本复杂性。我们的研究结果确定的平均高斯宽度作为一个适当的措施的多面体的大小,并显示样本的复杂性下界在这个数量。我们的下界完全表征高斯噪声机制是最佳的常数,因为那些具有渐近最大高斯宽度的工作负载。我们的技术也产生了另一种证明皮西尔的体积数定理,这也表明了一种方法来提高参数的定理。
2016-12-09 cs.DS
Optimum Noise Mechanism for Differentially Private Queries in Discrete Finite Sets
本文提出一种针对离散有限查询集的最优噪声概率质量函数设计框架,通过模加和机制在满足差分隐私约束的同时最小化查询失真,显著提升了响应准确性和实用性。
2024-04-08 cs.CR cs.DS cs.SY
Improved Differentially Private Euclidean Distance Approximation
这项工作展示了如何私下和更准确地估计向量对之间的欧氏距离。输入向量$x$和$y$被映射到差异私有草图$x'$和$y'$,从中可以估计$x$和$y$之间的距离。我们的估计器依赖于Kane \& Nelson的Sparser Johnson-Lindenstrauss构造(Journal of the ACM 2014),对于任何$0<α,β<1/2$,该构造具有最佳输出维度$k=Θ(α^{-2}\log(1/β))$和稀疏度$s=O(α^{-1}\log(1/β))$。我们结合的建设凯恩\和纳尔逊与拉普拉斯或高斯机制从差分隐私文献,根据隐私参数$\varepsilon$和$δ$。我们还建议Ailon \& Chazelle(SIAM Journal of Computing 2009)的快速约翰逊-林登施特劳斯变换(FJLT)的差分私有版本,它为某些参数的方差提供了速度上的权衡。我们回答了Kenthapadi等人提出的一个开放性问题。(Journal of Privacy and Confidential 2013)通过分析欧氏距离估计器的隐私和效用保证,依赖于拉普拉斯而不是高斯噪声。我们证明,拉普拉斯机制产生较低的方差比高斯机制时,$δ<β^{O(1/α)}$。因此,我们的工作比Kenthapadi等人的工作有所改进。通过对足够小的$δ$给出具有较低方差的更有效的估计器。我们的草图…
2022-03-22 cs.DS