Revisiting Locally Differentially Private Protocols: Towards Better Trade-offs in Privacy, Utility, and Attack Resistance
Inria(法国国家信息与自动化研究所);ÉTS Montréal(蒙特利尔高等技术学院);Université du Québec à Montréal (UQAM)(魁北克大学蒙特利尔分校)
本文提出多目标优化框架,优化隐私和效用在对抗性设置中的平衡,通过分析八种先进协议并提出改进方案,实验表明所提机制在降低攻击成功率的同时保持效用,接近ASR-MSE帕累托前沿。
2026-03-18 cs.CR
On the Utility Gain of Iterative Bayesian Update for Locally Differentially Private Mechanisms
Inria(法国国家信息与自动化研究所);École Polytechnique (IPP)(巴黎综合理工学院(巴黎理工学院))
本文评估 IBU 作为 LDP 离散分布估计后处理方法的效用,通过十四种机制、多指标与真实/合成数据实验证明其尤其在小 ε 下优于 MI,并开源实现与教程。
2023-07-15 cs.CR cs.LG
LDP$^3$: An Extensible and Multi-Threaded Toolkit for Local Differential Privacy Protocols and Post-Processing Methods
针对LDP协议与后处理方法选择困难及缺乏可扩展基准工具的问题,提出开源多线程工具包LDP$^3$,支持模块化集成新协议与PP方法,实验证明其能提升效用并大幅缩短执行时间。
2025-07-08 cs.CR
LDPTrace: Locally Differentially Private Trajectory Synthesis
LDPTrace提出一种本地差分隐私轨迹合成框架,通过利用用户轨迹的三个关键模式并以低计算成本生成高相似度轨迹,同时提出隐私安全的网格粒度选择方法,实验验证其有效性与高效性。
2023-10-13 cs.CR cs.DB
Jacobian-Guided Anisotropic Noise Reshaping for Enhancing Representation Utility under Local Differential Privacy
Imperial College London(帝国理工学院伦敦分校);Imperial College London, Imperial Global Singapore(帝国理工学院伦敦分校,帝国全球新加坡)
本文提出了一种基于雅可比矩阵的各向异性噪声重塑方法,以在局部差分隐私下提升表示的效用。该方法通过识别任务关键子空间,选择性地衰减噪声,并将标准LDP的各向同性噪声重塑为各向异性分布,从而在保持每个维度隐私预算的同时,异质地调节噪声影响,显著提升数据效用。
2026-09-18 cs.CR cs.LG
Post-Processing in Local Differential Privacy: An Extensive Evaluation and Benchmark Platform
本文构建了包含6种LDP协议、7种后处理方法、4种效用度量和6个数据集的基准,评估后处理在不同条件下的效用提升,并推出开源平台LDP$^3$以辅助方法选择。
2025-07-08 cs.CR
Exactly Optimal and Communication-Efficient Private Estimation via Block Designs
School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院电气工程学院)
本文提出基于组合区组设计的局部差分隐私方案,在离散分布估计中实现精确最优的隐私-效用权衡,并显著降低通信成本。
2023-10-17 cs.CR
Locally Differentially Private Data Collection and Analysis
本地差分隐私(LDP)可以在不可信的数据管理者下为每个用户提供强隐私保证,同时确保从私有化数据中导出的准确统计数据。由于其强大的功能,LDP已被广泛采用,以保护各种任务中的隐私(例如,重量级人物发现,概率估计)和系统(例如,Google Chrome、Apple iOS)。虽然$ε$ -LDP已经提出了很多年,但更一般的概念$(ε, δ)$ -LDP仅在很少的论文中进行了研究,这些论文主要考虑数值数据的均值估计。此外,现有的解决方案通过利用高斯机制来实现$(ε, δ)$ -LDP,这导致聚合结果的准确性低。在本文中,我们提出了新的机制,实现$(ε, δ)$ -LDP在数据分析和机器学习具有很高的实用性。具体来说,我们首先设计$(ε, δ)$ -LDP算法收集多维数值数据,它可以确保更高的精度比最佳高斯机制,同时保证每个用户的强隐私。然后,我们研究不同的本地协议下的分类属性$(ε, δ)$ -LDP。此外,我们对所提出的算法的误差界和方差进行了理论分析。在真实数据集和合成数据集上的实验结果表明,我们提出的算法在简单的数据统计和复杂的机器学习模型上都具有很高的数据实用性。
2019-06-05 cs.CR
Feature-Aware Anisotropic Local Differential Privacy for Utility-Preserving Graph Representation Learning in Metal Additive Manufacturing
Louisiana State University(路易斯安那州立大学);Missouri University of Science and Technology(密苏里科技大学)
本文提出FI-LDP-HGAT框架,结合分层图注意力网络和特征重要性感知的各向异性高斯机制,以提升金属增材制造中图表示学习的效用与隐私保护。
2026-04-06 cs.AI cs.CR cs.LG
L-SRR: Local Differential Privacy for Location-Based Services with Staircase Randomized Response
基于位置的服务(LBS)已经得到了显著的发展,并广泛部署在移动设备中。众所周知,LBS应用程序可能会收集敏感位置,从而导致严重的隐私问题。强隐私模型“局部差分隐私"(LDP)最近已经被部署在许多不同的应用中(例如,Google RAPPOR、iOS和Microsoft Telemetry),但由于现有LDP机制的低实用性,对LBS应用程序无效。为了解决这样的缺陷,我们提出了第一个LDP框架的各种基于位置的服务(即“L-SRR”),私人收集和分析用户的位置与高效用。具体来说,我们设计了一种新的随机化机制“阶梯随机响应”(SRR),并扩展了经验估计,以显着提高SRR在不同LBS应用中的效用(例如,业务密度估计和k-最近邻)。我们在四个真实的LBS数据集上进行了广泛的实验,并与实际应用中的其他LDP方案进行了比较。实验结果表明,L-SRR明显优于它们。
2022-09-29 cs.CR
Optimal Piecewise-based Mechanism for Collecting Bounded Numerical Data under Local Differential Privacy
Rochester Institute of Technology(罗切斯特理工学院)
本文提出在局部差分隐私下收集有界数值数据的最优分段机制,通过推广分段机制并设计环形域最优方案,显著提升数据效用。
2025-06-15 cs.CR
Information-theoretic metrics for Local Differential Privacy protocols
本地差分隐私(LDP)协议允许聚合器获得关于用户群的敏感数据的人口统计,同时保护各个用户的隐私。为了理解聚合器效用和用户隐私之间的权衡,我们引入了新的信息理论度量效用和隐私。与其他LDP指标相反,这些指标突出了这样一个事实,即用户和聚合器对根本不同的信息域感兴趣。我们展示了我们的指标如何与$\varepsilon$ -LDP,\emph{de facto}标准的隐私度量,给后者的信息理论解释。此外,我们使用我们的指标来定量研究一些流行的协议的隐私效用权衡。
2019-10-17 cs.CR cs.IT math.IT
Federated Heavy Hitter Analytics with Local Differential Privacy
本文针对跨方联邦重击项分析中的隐私、统计异质性和通信成本问题,提出满足ε-LDP的目标对齐前缀树机制,通过自适应扩展和基于共识的剪枝策略提升效用,实验验证其有效性。
2025-01-02 cs.CR cs.DB
MTSP-LDP: A Framework for Multi-Task Streaming Data Publication under Local Differential Privacy
Xi’an Jiaotong University(西安交通大学)
MTSP-LDP通过最优隐私预算分配和数据自适应二进制树结构,提升多任务流数据发布下的隐私保护与效用。
2025-12-31 cs.CR
Linear and Range Counting under Metric-based Local Differential Privacy
本地差分隐私(LDP)支持私有数据共享和分析,而无需可信的数据收集器。误差最优基元(例如,估计手段和项目频率)下的LDP已经得到了很好的研究。然而,对于范围查询等分析任务,最佳已知误差范围取决于私有数据的域大小,这可能是禁止的。这种缺陷是固有的,因为LDP保护每个数据下载器的任何一对私有数据值之间的相同级别的不可复制性。在本文中,我们利用$ε$ -LDP的扩展称为Metric-LDP或$E$ -LDP,其中度量$E$为不同的私有数据值对定义异构隐私保证,从而提供比$ε$更灵活的旋钮来放松LDP并调整实用性-隐私权衡。我们表明,在这样的隐私放松,分析工作负载,如线性计数,多维范围计数查询和分位数查询,我们可以实现显着的收益效用。特别是,对于$E$ -LDP下的范围查询,其中度量$E$是由$ε$缩放的$L^1$距离函数,我们设计了具有与域大小无关的错误的机制;相反,它们的错误取决于度量$E$,其指定在什么粒度下保护私有数据。我们相信我们为$E$ -LDP设计的基元将有助于开发其他分析任务的机制,并鼓励在实践中采用LDP。
2020-05-16 cs.CR cs.DS
Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
联邦学习(FL)由于其分散的结构允许私下训练大量的数据。随机梯度下降(SGD)由于其良好的经验性能而通常用于FL,但是仍然可以从FL迭代期间共享的权重更新推断敏感的用户信息。我们考虑高斯机制,以保持局部差分隐私(LDP)的用户数据在FL模型与SGD。用户隐私,全球效用和传输速率之间的权衡证明通过定义适当的指标FL与LDP。与已有的结果相比,LDP中使用的查询敏感度被定义为一个变量,并应用更严格的隐私计费方法。建议的效用界允许所有用户的异构参数。我们的界限特征有多少效用减少和传输速率增加,如果一个更强的隐私制度的目标。此外,给定一个目标隐私级别,我们的研究结果保证一个显着更大的效用和更小的传输速率相比,现有的隐私会计方法。
2021-02-09 cs.CR cs.DC cs.IT
PCKV: Locally Differentially Private Correlated Key-Value Data Collection with Optimized Utility
局部差分隐私(LDP)下的数据汇集主要针对同质数据进行研究。现实世界的应用程序通常涉及不同数据类型的混合,例如键-值对,其中必须同时估计键的频率和每个键下的值的平均值。对于使用LDP的键-值数据汇集,由于数据包含两个维度并且用户可能拥有多个键-值对,因此实现良好的效用-隐私权衡是具有挑战性的。键和值之间还有一种内在的相关性,如果不加以利用,将导致效用低下。在本文中,我们提出了一个局部差分私钥-值数据汇集框架,利用相关扰动,以提高效用。我们通过两个协议PCKV-UE(基于一元编码)和PCKV-GRR(基于广义随机响应)来实例化我们的框架,其中我们设计了一个先进的填充和采样机制和改进的非交互式均值估计器。由于我们的相关的键和值的扰动机制,组成的隐私预算被证明是小于独立的键和值的扰动,这使我们能够进一步优化扰动参数通过预算分配。在合成数据集和真实数据集上的实验结果表明,我们提出的协议在相同的LDP保证下比最先进的机制实现了更好的频率和均值估计效用。
2019-11-28 cs.CR
Metric-based local differential privacy for statistical applications
局部差分隐私(LPD)是差分隐私(DP)的分布式变体,其中敏感信息的模糊化在个体记录的级别完成,并且通常用于净化出于统计目的收集的数据。LPD的优点是不需要假设可信的第三方。另一方面,LDP通常需要比DP更多的噪声来实现相同的保护水平,对公用事业产生负面影响。在实践中,只有在非常大的数据集合中,效用才能被接受,这就是LDP在苹果和谷歌等大公司中特别成功的原因,这些公司可以依靠大量的用户。在本文中,我们提出了一个变种的LDP适合度量空间,如位置数据或能源消耗数据,我们表明,它提供了一个更好的实用程序相同的隐私水平。
2018-05-03 cs.CR
Improving the utility of locally differentially private protocols for longitudinal and multidimensional frequency estimates
本文研究了在整个时间内收集多维数据的问题(即,纵向研究)的基本任务的频率估计下的本地差分隐私(LDP)的保证。相反,频率估计的一个单一的属性,多维方面需要特别注意的隐私预算。此外,当纵向收集用户统计数据时,隐私会逐渐降低。实际上,组合的“多个”设置(即,许多属性和贯穿时间的若干集合)提出了若干挑战,针对这些挑战,本文提出了LDP下频率估计的第一个解决方案。为了解决这些问题,我们扩展了三个国家的最先进的LDP协议(广义随机响应- GRR,优化一元编码- OUE,对称一元编码- SUE)的纵向和多维数据汇集的分析。虽然已知文献使用OUE和SUE进行两轮消毒(a.k.a.记忆化),即,我们分别通过分析和实验表明,从OUE开始,然后使用SUE可以提供更高的数据效用(即,L-OSUE)。此外,对于具有小域大小的属性,我们提出了纵向GRR(L-GRR),它提供了更高的效用比其他协议的基础上一元编码。最后,我们还提出了一种新的解决方案,名为自适应LDP for Longquality and Multidimensional FREquency Estimates(ALLOMFREE),它随机采样单个属性以发送整个隐私预算,并自适应地选择最佳协议,即,L-GRR或L-OSUE。如结果所示,ALLOMFREE在频率估计的质量方面始终显著优于最先进的L-SUE和L-OUE协议。
2022-07-16 cs.CR
On the Risks of Collecting Multidimensional Data Under Local Differential Privacy
本文研究了多维数据在本地差分隐私下面临的隐私威胁,评估了多种LDP协议并提出了提升效用与鲁棒性的对策。
2023-08-01 cs.CR
Truth Inference on Sparse Crowdsourcing Data with Local Differential Privacy
众包已经成为一种新的解决问题的范例,用于解决对计算机来说很难但对人类来说很容易的任务。然而,由于从被招募的参与者(工人)收集的答案可能包含敏感信息,众包引起了严重的隐私问题。本文研究了局部差分隐私(LDP)下的答案隐私保护问题,个体工作者独立地随机化他们的答案,并将扰动后的答案发送给任务请求者.实用程序的目标是能够推断出真实的答案(即,真实性)从扰动数据以高精度。LDP扰动的挑战之一是工作者答案的稀疏性(即,每个工人只回答少量的任务)。现有方法的简单扩展(例如,Laplace扰动和随机化响应)在稀疏数据上的真值推理可能会产生很大的误差。因此,我们设计了一个有效的新的矩阵分解(MF)算法下的LDP。我们证明了我们的MF算法可以提供LDP保证和小的真值推理误差,而不管工人答案的稀疏性。我们在真实世界和合成数据集上进行了广泛的实验,并证明MF算法在稀疏众包数据上的性能优于现有的LDP算法。
2018-08-24 cs.CR cs.DB
The Hidden Cost of Correlation: Rethinking Privacy Leakage in Local Differential Privacy
本文系统分析本地差分隐私中相关性引发的隐私泄露,揭示现有假设的不足,并提出首个面向一般近似LDP机制的CPL量化算法框架及新基准,以优化真实数据治理中的隐私-效用权衡。
2025-08-18 cs.CR cs.IT math.IT
Acyclic Graph Pattern Counting under Local Differential Privacy
Nanyang Technological University(南洋理工大学)
本文提出了一种在局部差分隐私下计数任意无环图模式的通用方法,解决了模式构建和节点重复问题,实现了高实用性和低通信成本。
2026-03-20 cs.CR cs.DB
Bayesian Frequency Estimation Under Local Differential Privacy With an Adaptive Randomized Response Mechanism
Sabancı University(萨班哲大学)
针对随时间顺序收集的私有分类数据,提出AdOBEst-LDP算法,通过自适应LDP机制和贝叶斯后验采样提高未来数据效用,理论分析证明其收敛性,数值结果显示其优于非自适应和半自适应方法。
2024-11-30 cs.CR cs.LG stat.ML
Beyond Epsilon: A Principled QIF Framework for Local Differential Privacy
Institut Polytechnique de Paris(巴黎理工学院);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Macquarie University(麦考瑞大学);ÉTS Montréal(蒙特利尔高等工程技术学院);Inria(法国国家信息与自动化研究所);University Côte d’Azur(蔚蓝海岸大学)
本文提出基于量化信息流(QIF)的框架,通过Blackwell排序对局部差分隐私(LDP)频率估计协议进行原则性分类,揭示协议间的内在优劣关系,并分析对效用的影响。
2026-07-29 cs.CR
Bipartite Randomized Response Mechanism for Local Differential Privacy
Anhui University(安徽大学);East China Normal University(华东师范大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出二元随机响应机制(BRR),通过效用排名将候选项目分为两部分,结合局部和全局搜索阶段优化差分隐私发布,实现显著降低期望误差。
2026-03-13 cs.CR
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私(LDP)的浏览用户发送他的嘈杂的偏好配置文件,扰动布隆过滤器,服务提供商。这种方法的独创性是多方面的。首先,据我们所知,该方法是第一个在用户侧包括两个扰动轮- PRR(永久随机响应)和IRR(瞬时随机响应)-在一个完整的用户简档。其次,建立了完整的验证实验链,使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码,使用聚类Kmeans工具对用户进行聚类。第三,大量的实验表明,我们的方法实现了良好的实用性和隐私的权衡,即90 $\%$聚类成功率,分别。80.3 $\%$,分别用于LDP $ε= 0.8$的值。$ε= 2$。第四,实验和理论分析给出了具体的结果,我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
Dual Utilization of Perturbation for Stream Data Publication under Local Differential Privacy
针对本地差分隐私下流数据发布噪声过大的问题,提出扰动值双重利用方法,通过IPP、APP和CAPP算法校准噪声,在满足w-事件差分隐私的同时显著提升效用。
2025-04-21 cs.CR cs.DB
Production of Categorical Data Verifying Differential Privacy: Conception and Applications to Machine Learning
Université de Lyon 2(里昂第二大学);Institut National des Sciences Appliquées de Lyon(里昂国立应用科学学院);Institut National des Sciences Appliquées Centre Val de Loire(卢瓦尔河谷中心国立应用科学学院);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Université Bourgogne Franche-Comté(勃艮第-弗朗什-孔泰大学);National University of Singapore(新加坡国立大学)
私人和公共组织定期收集和分析有关其同事,志愿者,客户等的数字化数据,但是,由于大多数个人数据是敏感的,在设计隐私保护系统方面存在关键挑战。为了解决隐私问题,研究团体提出了不同的方法来保护隐私,差分隐私(DP)作为一个正式的定义,允许量化的隐私效用权衡。此外,使用本地DP(LDP)模型,用户可以在将其数据传输到服务器之前在本地对其进行清理。因此,本论文的目标是双重的:O $_1$)为了提高LDP保证下的多个频率估计的实用性和隐私性,这是统计学习的基础。和O $_2$)评估在差异隐私数据上训练的机器学习(ML)模型的隐私-效用权衡。对于O $_1$,我们首先从两个“多”角度解决问题,即,多个属性和多个集合,同时专注于实用性。其次,我们把注意力集中在多属性方面,我们提出了一个解决方案,侧重于隐私,同时保持效用。在这两种情况下,我们通过分析和实验验证证明了我们提出的解决方案的优势,在国家的最先进的LDP协议。对于O $_2$,我们根据经验评估了旨在解决现实问题同时确保DP保证的基于ML的解决方案。事实上,我们主要使用了来自隐私保护ML文献的输入数据扰动设置。在这种情况下,整个数据集都是独立清理的,因此,我们从集中式数据所有者的角度实现了LDP算法。在所有情况下,我们得出的结论是,差异私有ML模型实现了与非私有ML模型几乎相同的效用指标。
2022-04-02 cs.CR cs.LG
Correlated Privacy Mechanisms for Differentially Private Distributed Mean Estimation
Harvard University(哈佛大学);Georgia Institute of Technology(佐治亚理工学院);University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出通用 DP-DME 框架及基于相关高斯机制的 CorDP-DME,在 LDP 与安全聚合分布式 DP 之间取得效用、掉线和串谋韧性的平衡。
2025-01-08 cs.CR cs.IT cs.LG
Randomized Response with Gradual Release of Privacy Budget
针对随机响应隐私保护固定的问题,提出逐步释放隐私预算的DP放宽算法,保持各阶段效用与分布一致,并集成于RAPPOR及均值估计,实验验证其效用与隐私保证。
2024-01-25 cs.CR
Locally Differentially Private Heavy Hitter Identification
本地差分隐私(LDP)的概念使用户能够回答敏感问题,同时保护他们的隐私。基本的LDP频繁预言协议使聚合器能够估计任何值的频率。但是,当输入值的域很大时,通过估计所有可能值的频率来找到最频繁的值,也称为重命中值,在计算上是不可行的。在本文中,我们提出了一个LDP协议,用于识别重量级选手。在我们提出的协议中,我们称之为前缀扩展方法(PEM),用户被分成组,每个组报告她的值的前缀。我们分析了如何为协议选择最佳参数,并确定了两个设计原则,设计LDP协议具有较高的实用性。合成和真实世界的数据集上的实验证明了我们提出的协议的优势。
2017-08-22 cs.CR
PrivSketch: A Private Sketch-based Frequency Estimation Protocol for Data Streams
针对本地差分隐私下数据流收集效用低的问题,提出基于草图的PrivSketch协议,通过背景信息与解码优先流程提升效用,在频率估计上优于现有方法1-3个数量级且速度更快。
2023-06-21 cs.CR
On the Robustness of LDP Protocols for Numerical Attributes under Data Poisoning Attacks
本研究系统评估了数值属性LDP协议在数据投毒攻击下的鲁棒性,提出新攻击增益指标和零样本攻击检测方法,发现服务器设置下协议更鲁棒且哈希域大小显著影响鲁棒性。
2025-01-25 cs.CR
TraCS: Trajectory Collection in Continuous Space under Local Differential Privacy
Rochester Institute of Technology(罗切斯特理工学院)
TraCS在局部差分隐私下提出连续空间轨迹收集方法,通过扰动方向、距离或坐标提升隐私与效用保障。
2026-03-01 cs.CR
Providing Input-Discriminative Protection for Local Differential Privacy
本地差分隐私(LDP)为数据汇集提供了可证明的隐私保护,而不需要假设可信的数据服务器。在现实世界中,由于不同的敏感性级别,不同的数据具有不同的隐私要求。但是,LDP为所有数据提供相同的保护。在本文中,我们解决的挑战,提供输入歧视性保护,以反映不同的输入不同的隐私要求。我们首先提出的输入判别LDP(ID-LDP)的隐私概念,并专注于一个特定的版本,称为MinID-LDP,这是一个细粒度的版本LDP。然后,重点研究了频率估计的应用,提出了基于一元编码的单项输入IDUE机制和扩展的项集输入IDUE-PS(带填充和采样协议)机制。在合成数据集和真实数据集上的实验结果验证了理论分析的正确性,并表明所提出的满足MinID-LDP的机制由于具有输入区分保护,比现有的满足LDP的机制具有更好的实用性.
2020-02-24 cs.CR cs.DS
AHEAD: Adaptive Hierarchical Decomposition for Range Query under Local Differential Privacy
为了保护用户的隐私数据,利用本地差分隐私(LDP)提供隐私保护范围查询,从而支持进一步的统计分析。然而,现有的基于LDP的范围查询方法受到其属性的限制,即,根据预定义的结构收集用户数据。这些静态框架会导致向聚合数据添加过多的噪声,特别是在低隐私预算设置中。在这项工作中,我们提出了一个自适应分层分解(AHEAD)协议,自适应和动态控制建立的树结构,使注入的噪声得到很好的控制,保持高效用。此外,我们得出了一个指导方针,为AHEAD适当选择参数,使整体效用可以始终具有竞争力,同时严格满足LDP。利用多个真实和合成数据集,我们广泛地展示了AHEAD在低维和高维范围查询场景中的有效性,以及其相对于最先进方法的优势。此外,我们提供了一系列有用的观察部署AHEAD在实践中。
2021-10-14 cs.CR
Estimating Numerical Distributions under Local Differential Privacy
Purdue University(普渡大学);Eindhoven University of Technology(埃因霍温理工大学)
局部差分隐私(LDP)在收集信息时,从用户的角度缓解了隐私泄露的担忧,因为用户的隐私信息在发送到聚合器之前是随机的。我们研究的问题,恢复的分布在一个数值域,同时满足LDP。虽然人们可以离散化的数值域,然后应用开发的协议的分类域,我们表明,利用该域的数值性质的结果在更好的权衡隐私和效用。我们引入了一种新的报告机制,称为方波SW机制,它利用了报告中的数值性质。我们还开发了一个期望最大化与平滑(EMS)算法,这是适用于聚集直方图从SW机制,以估计原始分布。大量的实验表明,我们提出的方法,软件与EMS,一贯优于其他方法在各种实用程序的指标。
2019-12-02 cs.CR cs.DB cs.LG
DP-Cryptography: Marrying Differential Privacy and Cryptography in Emerging Applications
差分隐私(DP)已成为分析敏感数据时量化个人隐私的最新指标,并且开始在美国人口普查局、Apple、Google等组织中进行实际部署。部署差分隐私有两种流行模型-标准差分隐私(SDP),其中可信服务器聚合所有数据并运行DP机制,以及本地差分隐私(LDP),其中每个用户干扰他们自己的数据并且分析干扰的数据。由于在单个服务器上聚合原始数据所引起的安全问题,行业中的几个实际部署已经采用了LDP模型。然而,基于LDP模型的系统往往具有较差的效用-与基于SDP模型的系统相比,在所实现的效用中存在"差距"。在这项工作中,我们调查和综合新兴的研究方向的交叉点的差分隐私和密码学。首先,我们调查的解决方案相结合的加密原语,如安全计算和匿名通信与差分隐私,以提供替代方案的LDP模型,避免了一个可信的服务器,在SDP,但在准确性上的差距。这些原语引入了性能瓶颈,需要有效的替代方案。第二,我们合成的工作在一个领域,我们称之为“DP密码学”-密码原语,允许泄漏差分私人输出。这些原语具有比标准密码原语好几个数量级的性能。DP加密原语非常适合实现LDP的替代方案,但也适用于标准加密原语没有实际实现的情况。通过这种独特的研究分类法,我们调查了这些方向正在进行的研究,同时也为未来的研究提供了新的方向。
2020-04-19 cs.CR
Local Information Privacy and Its Application to Privacy-Preserving Data Aggregation
在本文中,我们研究了本地信息隐私(LIP),并设计了基于LIP的统计聚集机制,同时保护用户的隐私,而不依赖于可信的第三方。上下文感知的概念被纳入LIP,它可以被看作是明确的建模对手的背景知识。它可以利用先验分布设计隐私保护机制,这可能比本地差分隐私(LDP)等上下文无关概念实现更好的实用性与隐私权衡。我们提出了一个优化框架,以最大限度地减少在数据聚合的均方误差,同时保护隐私的每个单独的用户的输入数据或相关的潜在变量,同时满足LIP约束。然后,我们研究了两种不同类型的应用程序:(加权)求和和直方图估计,并推导出最佳的上下文感知数据扰动参数为每种情况下,基于随机响应类型的机制。我们进一步比较了LIP和LDP之间的效用-隐私权衡,并从理论上解释了为什么先验知识的引入扩大了扰动参数的可行区域,从而导致更高的效用。我们还将基于LIP的隐私机制扩展到更一般的情况下,确切的先验知识是不可用的。最后,我们验证了我们的分析模拟使用合成和真实世界的数据。结果表明,我们的基于LIP的隐私机制提供了更好的实用性和隐私的权衡比LDP,和LIP的优势是更显着的先验分布时,更偏斜。
2020-11-29 cs.CR cs.DB cs.IT
Preventing Manipulation Attack in Local Differential Privacy using Verifiable Randomization Mechanism
用于局部差分隐私(LDP)的几种随机化机制(例如,随机化应答)被充分研究以提高效用。然而,最近的研究表明,LDP在本质上通常容易受到恶意数据提供商的攻击。因为数据收集器必须仅从已经随机化的数据估计背景数据分布,所以恶意数据提供者可以在发送之前操纵其输出,即,随机化将为他们提供合理的否认能力。攻击者可以有效地扭曲估计,因为它们是通过使用LDP协议中定义的随机化概率进行归一化来计算的,并且甚至可以控制估计。在本文中,我们将展示如何防止恶意攻击者破坏LDP协议。我们的方法是利用可验证的随机化机制。数据收集器可以验证为每个数据提供者执行商定的随机化机制的完整性。我们提出的方法完全保护LDP协议的输出操作,并显着减轻预期的损害攻击。我们不假设任何特定的攻击,它有效地对抗一般的输出操纵,因此比以前提出的对策更强大。我们描述了三个国家的最先进的LDP协议的安全版本,并根据经验表明,它们会导致可接受的开销根据几个参数。
2021-06-09 cs.CR
Theoretically Unmasking Inference Attacks Against LDP-Protected Clients in Federated Vision Models
Department of CISE, University of Florida, USA.(佛罗里达大学计算机与信息科学系);Center for Nonlinear Studies, Los Alamos National Lab, USA(洛斯阿拉莫斯国家实验室非线性研究中心);Computational Science Center, National Renewable Energy Laboratory, USA(国家可再生能源实验室计算科学中心)
该研究推导了针对受本地差分隐私保护的联邦视觉模型的低多项式时间成员推理攻击成功率的理论下界,证实隐私风险依隐私预算持续存在,且缓解攻击所需噪声会显著降低模型效用。
2025-08-01 cs.AI cs.CR
Locally Differentially Private Bayesian Inference
Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学);University of Helsinki(赫尔辛基大学)
近年来,局部差分隐私(LDP)已成为一种选择的隐私保护数据收集在几种情况下,当聚合器是不值得信赖的技术。LDP通过在用户端添加噪声来提供客户端隐私。因此,客户端不需要依赖于聚合器的可信度。在这项工作中,我们提供了一个噪声感知的概率建模框架,它允许贝叶斯推断考虑到噪声下的LDP隐私,条件是局部扰动观测。LDP协议提供的更强的隐私保护(与中央模型相比)是在更苛刻的隐私-效用权衡下实现的。我们的框架解决了LDP在贝叶斯设置下准确量化不确定性所带来的几个计算和统计挑战。我们证明了我们的框架在参数估计单变量和多变量分布以及逻辑和线性回归的功效。
2021-10-27 cs.CR cs.LG stat.ML
Frequency Estimation of Evolving Data Under Local Differential Privacy
收集和分析不断变化的纵向数据已成为一种普遍做法。在这种情况下,保护用户隐私的一种可能方法是使用本地差分隐私(LDP)协议,该协议确保即使在违规或数据滥用的情况下也能保护所有用户的隐私保护。现有的LDP数据汇集协议,例如Google的RAPPOR和Microsoft的dBitFlipPM,可以具有与域大小k成线性的纵向隐私,这对于大域,例如互联网域来说是过大的。为了解决这个问题,在本文中,我们介绍了一种新的LDP数据汇集协议的纵向频率监测命名为LOLOHA LOCAL HASING(LOLOHA)正式的隐私保证。此外,我们的协议的隐私效用权衡是线性的,相对于减少域大小$2\leq g \ll k$。LOLOHA结合了通过本地哈希的域缩减方法和双重随机化,以最大限度地减少数据更新引起的隐私泄漏。正如我们的理论分析以及我们的实验评估所证明的那样,LOLOHA实现了与当前最先进的协议相竞争的效用,同时大大减少了纵向隐私预算消耗高达k/g数量级。
2023-02-21 cs.CR
Context-aware Data Aggregation with Localized Information Privacy
University of Arizona(亚利桑那大学)
本文提出了局部信息隐私(LIP),作为一种新的隐私定义,它允许统计聚合,同时保护用户的隐私,而不依赖于可信的第三方。上下文感知的概念被纳入LIP的先验知识的引入,这使得设计的隐私保护的数据聚合。我们表明,LIP放松本地化差分隐私(LDP)的概念,明确建模对手的知识。然而,它比$2ε$ -LDP和$ε$ -互信息保密性更严格。与其他方法相比,局部先验的结合允许LIP实现更高的效用。然后,我们提出了一个隐私保护数据聚合的优化框架,目标是在满足LIP隐私约束的同时最小化预期平方误差。实用性和隐私的权衡下得到几个模型的封闭形式。然后,我们验证我们的分析{数值分析}使用合成和真实世界的数据。结果表明,我们的LIP机制提供了更好的实用性和隐私的权衡比LDP和先验分布不均匀时,LIP的优势更加显着。
2018-07-31 cs.CR cs.IT cs.LG
Random Sampling Plus Fake Data: Multidimensional Frequency Estimates With Local Differential Privacy
通过本地差分隐私(LDP),用户可以将其数据私有化,从而在将其传输到服务器之前保证隐私属性(也称为aggregator)。LDP的一个主要目标是频率(或直方图)估计,其中聚合器估计每个可能值的用户数量。在实践中,当需要对人口进行内容丰富的研究时,人们对人口的多个属性感兴趣,也就是说,对多维数据($d \geq 2$)感兴趣。然而,与单一属性的频率估计问题(大多数作品)相反,多维方面要求特别注意隐私预算。由于合成定理,这个值确实可以非常快地增长。据作者所知,有两种解决方案似乎突出了这项任务:1)为每个属性分配隐私预算,即,用$\fracε{d}$ -LDP(Sp1)发送每个值,以及2)随机采样单个属性并花费所有隐私预算来用$ε$ -LDP(Smp)发送它。虽然SMP增加了额外的采样误差,但它已被证明比以前的Spl解决方案提供更高的数据效用。然而,我们认为,聚合器(谁也被视为攻击者)是知道的采样属性及其LDP值,这是由一个“不太严格”的$e^ε$概率界(而不是$e^{ε/d}$)的保护。通过这种方式,我们提出了一种名为随机采样加假数据(RS+FD)的解决方案,它允许通过为每个非采样属性生成假数据来创建采样属性的不确定性; RS+FD进一步受益于采样放大。我们从理论上和实验上验证了我们提出的解决方案在合成和真实世界的数据集上,以表明RS+FD实现了几乎相同或更好的效用比最先进的Smp解决…
2021-09-15 cs.CR
Data Poisoning Attacks to Local Differential Privacy Protocols
本地差分隐私(LDP)协议使不受信任的数据收集器能够执行隐私保护数据分析。具体地,每个用户在将其数据发送到数据收集器之前在本地扰动其数据以保护隐私,数据收集器聚合扰动的数据以获得感兴趣的统计数据。在过去的几年里,来自多个社区的研究人员--例如安全、数据库和理论计算机科学--提出了许多LDP协议。这些研究主要集中在提高LDP协议的实用性。然而,LDP协议的安全性在很大程度上是未开发的。在这项工作中,我们的目标是弥合这一差距。我们专注于LDP协议的频率估计和重打击识别,这是两个基本的数据分析任务。具体来说,我们证明了攻击者可以将假用户注入LDP协议,假用户将精心制作的数据发送给数据收集器,以便LDP协议估计任意攻击者选择的项目的高频率或将其识别为重量级人物。我们称之为数据投毒攻击。我们从理论上和/或经验上证明了我们的攻击的有效性。我们还探讨了三个对策,对我们的攻击。我们的实验结果表明,它们在某些情况下可以有效地防御我们的攻击,但在其他情况下效果有限,这突出了对我们攻击的新防御的需求。
2020-12-09 cs.CR cs.DC
Fundamental Limit of Discrete Distribution Estimation under Utility-Optimized Local Differential Privacy
School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院电气工程学院);Information & Electronics Research Institute, KAIST(韩国科学技术院信息与电子研究所)
研究效用优化的局部差分隐私下离散分布估计问题,通过广义渐近Cramér-Rao下界、极值机制约简和分布分解技术刻画隐私-效用权衡,并提出效用优化的块设计方案实现最优估计。
2025-09-29 cs.CR cs.IT math.IT
Context-Aware Local Differential Privacy
Cornell University(康奈尔大学);Google(谷歌)
局部差分隐私(LDP)是个人用户的一种强隐私概念,通常以效用显著下降为代价。LDP的经典定义假设数据域中的所有元素都是同等敏感的。然而,在许多应用中,某些符号比其他符号更敏感。这项工作提出了一个上下文感知框架的本地差分隐私,允许隐私设计师将应用程序的上下文到隐私定义。对于二进制数据域,我们提供了一个普遍最优的私有化方案,并强调其连接到华纳的随机响应(RR)和Mangat的改进响应。受地理定位和Web搜索应用的启发,对于$k$元数据域,我们考虑了上下文感知LDP的两种特殊情况:块结构LDP和高低LDP。我们研究离散分布估计,并提供通信效率,样本最优方案和信息理论的下界这两个模型。我们表明,使用上下文信息可以需要更少的样本比经典的LDP达到相同的精度。
2020-07-27 cs.CR cs.DS cs.IT
Local Differential Privacy in Decentralized Optimization
MIT(麻省理工学院);KTH(瑞典皇家理工学院)
敏感数据的隐私问题正受到越来越多的关注。本文研究了交互式分散优化中的局部差分隐私问题。通过构建随机本地聚合器,我们提出了一个框架,以放大LDP的常数。本文以乘子的交替方向法和分散梯度下降法为例,通过实验验证了理论的正确性。在一个渐近的观点,我们解决以下问题:在LDP下,是否有可能设计一个分布式的私人最小的任意封闭凸约束与效用损失不显着依赖于维数?作为一个附属的结果,我们还表明,仅仅线性秘密共享,信息理论的隐私是可以实现的有界合谋代理。
2019-06-01 cs.CR cs.LG math.OC
Genomic Data Sharing under Dependent Local Differential Privacy
保护隐私的基因组数据共享对于加快基因组研究的步伐,从而为个性化基因组医学铺平道路是非常重要的。在本文中,我们引入($ε, T$)依赖的本地差分隐私(LDP)的隐私保护相关数据的共享,并提出了一个基因组数据共享机制下的隐私定义。我们首先指出LDP的原始定义不适合基因组数据共享,然后提出了一种新的基因组数据共享机制。该机制考虑了数据共享过程中数据之间的相关性,预先消除统计上不可能的数据值,并相应地调整每个共享数据点的概率分布。通过这样做,我们表明,我们可以避免攻击者推断的正确值的共享数据点,利用数据中的相关性。通过调整每个数据点的共享状态的概率分布,我们还提高了数据收集器的共享数据的效用。此外,我们开发了一个贪心算法,战略性地确定处理顺序的共享数据点的目的是最大限度地利用共享数据。考虑到在共享基因组数据时相互依赖的隐私风险,我们还通过观察基因组供体的扰动数据来分析攻击者关于供体家庭成员的基因组的信息增益,并且我们提出了一种选择隐私预算的机制(即,LDP的$ε$参数)。我们对现实生活中的基因组数据集的评估结果表明,所提出的机制相比,随机响应机制(广泛使用的技术,以实现LDP)的优越性。
2021-02-15 cs.CR
LDPKiT: Superimposing Remote Queries for Privacy-Preserving Distillation
University of Toronto(多伦多大学);The University of British Columbia(不列颠哥伦比亚大学)
研究针对模型远程推理的隐私问题,提出LDPKiT框架,利用私有数据并限制隐私泄露。通过叠加技术生成样本,在局部差分隐私下实现知识转移。实验表明该框架能在保持隐私时提高效用,还进行了敏感性分析等提供见解。
2026-07-13 cs.CR cs.CY cs.LG
Minimax Optimal Two-Sample Testing under Local Differential Privacy
本文在局部差分隐私下提出两样本检验方法,通过隐私排列检验和自适应检验实现最小分离率,平衡隐私与统计效用。
2024-11-22 cs.CR cs.LG stat.ML
Locally Differentially Private Frequency Estimation via Joint Randomized Response
针对 LDP 频率估计中隐私与效用的权衡,本文提出基于两人组相关扰动的 JRR 机制,在保持与经典 RR 同等隐私保证的同时,将估计精度最高提升两个数量级。
2025-06-15 cs.CR