A Simple Algorithm for Estimating Distribution Parameters from $n$-Dimensional Randomized Binary Responses
随机化响应对于隐私保护数据汇集是有吸引力的,因为所提供的隐私可以通过诸如差分隐私之类的手段来量化。然而,恢复和分析涉及多个相关随机化二进制属性的统计数据可能很困难,这对使用构成了重大障碍。在这项工作中,我们解决这个问题,通过识别和分析一个家庭的响应随机改变每个二进制属性独立相同的概率。Google的Rappor随机发生器的模式以及两个著名的经典随机化回答方法,Warner的原始方法和Simmons的无关问题方法的应用都属于这个家族。我们表明,在这个家庭的随机变换多项式分布参数的可逆和双对称$2 \times 2$矩阵的迭代克罗内克积。这使我们能够提出一个简单而有效的算法,获得无偏的最大似然参数估计$k$路边际随机响应,并提供理论界的统计效率。我们还描述了效率-差分隐私权衡。重要的是,响应的随机化和估计算法都易于实现,这是隐私保护和安全技术的关键方面。
2018-07-13 cs.CR
Privacy-Optimized Randomized Response for Sharing Multi-Attribute Data
针对多属性数据共享隐私保护不足的问题,提出隐私优化的随机响应方法及高效启发式算法,在保证最强隐私的同时显著降低输出误差。
2024-02-12 cs.CR
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
Apple Inc.(苹果公司)
研究自主协商代理行为隐私泄露问题,设计自适应随机协商策略,联合保证差分隐私、报价序列收敛和高协商效用,在合成双边协商实验中降低对手推理准确率,保持高协商成功率和效用。
2026-07-09 cs.CR
From Randomized Response to Randomized Index: Answering Subset Counting Queries with Local Differential Privacy
针对本地差分隐私中值扰动导致效用下降的问题,提出对值索引随机化的CRIAD方法,用于回答集合值数据上的子集计数查询,通过多虚拟项、多样本和多组策略实现可扩展性,并在准确性和隐私保障上优于现有方法。
2025-04-24 cs.CR cs.DB
Locally Private Subgraph Counting via Noisy Adjacency Matrix and Differential Privacy on Randomized Data
Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Beijing Jiaotong University(北京交通大学);National Health Data Institute, Shenzhen(深圳市国家健康数据研究院)
本文针对无可信服务器/洗牌器的边局部差分隐私子图计数难题,提出NAM与DPRD框架,设计多类子图计数估计器,推导误差界并经实验验证其性能优于现有基线。
2026-08-27 cs.CR
Bipartite Randomized Response Mechanism for Local Differential Privacy
Anhui University(安徽大学);East China Normal University(华东师范大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出二元随机响应机制(BRR),通过效用排名将候选项目分为两部分,结合局部和全局搜索阶段优化差分隐私发布,实现显著降低期望误差。
2026-03-13 cs.CR
Distributed Differential Privacy By Sampling
在本文中,我们描述了我们的方法来实现分布式差分隐私单独采样。我们的机制工作在半诚实的设置(诚实但好奇,聚合器试图偷看数据,但遵循协议)。我们表明,实用程序保持不变,并没有降低由于方差相比,随机响应机制。此外,我们显示较小的隐私泄漏相比,随机响应机制。
2017-06-14 cs.CR
Randomized Privacy Budget Differential Privacy
在通过从数据中发现知识来追求更好的效用的同时,个人的隐私可能在分析期间受到损害。为此,差分隐私已被广泛认为是最先进的隐私概念。通过要求输入中任何个人数据的存在仅略微影响输出上的分布,差分隐私提供了针对拥有任意背景的对手的强有力的保护。然而,隐私约束(例如,由差分隐私强加的随机化程度)可能使得所发布的数据对分析不太有用,隐私和效用之间的基本折衷(即,分析精度)在各种环境中引起了极大的关注。在这份报告中,我们提出了DP机制与随机参数,即,随机化隐私预算,并形式化地分析了其隐私性和效用,证明了DP机制中的随机化隐私预算将极大地提高准确性。
2022-09-03 cs.CR cs.IT math.IT
Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析,以实现低延迟流处理?回答这个问题:我们描述的设计,实施和评估的PRIVAPPROX,数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性:(i)隐私:为用户提供零知识隐私保证,比最先进的差分隐私更严格的隐私约束;(ii)效用:数据分析师系统地探索输出准确性之间的权衡的接口(具有误差估计)和查询执行预算;(iii)延迟:基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起:即采样(用于近似计算的背景下)和随机响应(用于隐私保护分析的背景下)。由此产生的婚姻是互补的-它实现了更强的隐私保证,并提高了性能,这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
RHyTHM: A Randomized Hybrid Scheme To Hide in the Mobile Crowd
如果到凭证管理基础设施的连接是间歇性的,则任何按需假名获取策略都是有问题的。如果车辆用完了假名而没有连接来重新填充其假名池,则一种解决方案是即时生成假名,例如,利用匿名身份验证。然而,这样的车辆将在人群中脱颖而出:人们可以简单地区分假名,从而基于假名发行者签名来签名消息,将它们链接并跟踪车辆。为了应对这一挑战,我们提出了一个随机混合方案,RHyTHM,使车辆在断开连接时保持运行,而不影响隐私:具有有效别名的车辆可以通过随机加入使用即时自我认证的别名以及对齐的生命周期来帮助其他人提高他们的隐私。通过这种方式,断开连接的用户的隐私通过合理的计算开销得到增强。
2017-12-09 cs.CR
Locally Differentially Private Frequency Estimation via Joint Randomized Response
针对 LDP 频率估计中隐私与效用的权衡,本文提出基于两人组相关扰动的 JRR 机制,在保持与经典 RR 同等隐私保证的同时,将估计精度最高提升两个数量级。
2025-06-15 cs.CR
Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation
如何在分布式环境中实现差分隐私,其中数据集分布在不信任的各方,是一个重要的问题。我们考虑在什么条件下协议可以继承它计算的函数的差分隐私性质。问题的核心是随机函数的安全多方计算。引入了\emph{obliviousness}的概念,它捕获了在分布式环境中从确定性函数计算随机化函数时的关键安全问题。通过这一观察,给出了由确定性函数计算随机化函数的一个充要条件。上述结果不仅可以用来判断计算差分私有函数的协议是否安全,而且可以用来构造安全的差分私有函数协议。证明了如果协议秘密地计算一个函数,则计算该函数的协议可以继承该函数的差分隐私性质,并给出了差分隐私协议的合成定理。我们还构造了一些协议,以产生随机变量的分布设置,如均匀随机变量和反演方法。利用这些基本协议,我们构造了高斯机制、拉普拉斯机制和指数机制的协议。重要的是,所有这些协议都满足遗忘性,因此可以通过基于模拟的方式证明是安全的。给出了分布情形下计算随机函数的复杂性界。最后,为了证明我们的研究结果对多方差分隐私协议的有效性,我们构造了一个差异隐私的经验风险最小化协议。
2016-04-11 cs.CR cs.DB
Castell: Scalable Joint Probability Estimation of Multi-dimensional Data Randomized with Local Differential Privacy
在多维数据上执行随机化响应(RR)会受到维数灾难的影响。随着属性数量的增加,属性-值组合数量的指数增长极大地影响了计算成本和RR估计的准确性。在本文中,我们提出了一个新的多维RR计划,随机所有属性独立,然后聚集这些随机化矩阵到一个单一的聚合矩阵。然后估计多维联合概率分布。可以以轻量计算成本(即,相对于维度是线性的)并且具有可管理的存储要求。为了克服精度的限制,我们提出了两个扩展的基线协议,称为{ \em混合}和{ \em截断}计划。最后,我们使用合成的和主要的开源数据集进行了实验,这些数据集具有不同的属性数量、域大小和受访者数量。使用UCI Adult数据集的结果给出了估计的和真实的(2到6路)联合概率之间的平均距离,对于{\em truncated}方案为$0.0099$,对于{ \em hybrid}方案为$0.0155$,而对于LoPub方案为$0.03$和$0.04$,LoPub是最先进的多维LDP方案。
2022-12-03 cs.CR
Privacy-Aware Randomized Quantization via Linear Programming
Ohio State University(俄亥俄州立大学);Yahoo Research(雅虎研究院)
本文针对差分隐私下离散输出存在偏差或权衡不佳的问题,提出一类无偏且具高度自由度的量化机制,并通过线性规划求解最优配置,实现更优的隐私-准确率权衡。
2024-06-01 cs.AI cs.CR
A Randomized Approach for Tight Privacy Accounting
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学)
本文提出差分隐私新范式EVR,通过Monte Carlo技术构建随机化隐私验证器和DP accountant,将隐私参数估计转化为严格上界保证,提升了隐私保护机器学习的效用-隐私权衡。
2023-11-21 cs.CR cs.DS cs.LG
Heterogeneous Randomized Response for Differential Privacy in Graph Neural Networks
New Jersey Institute of Technology(新泽西理工学院);Qatar Computing Research Institute(卡塔尔计算研究所);University of Florida(佛罗里达大学);University of Arkansas(阿肯色大学)
图神经网络(GNN)由于能够从图数据中的节点之间的特征和边学习联合表示,因此容易受到隐私推理攻击(PIA)的影响。为了防止GNN中的隐私泄漏,我们提出了一种新的异构随机响应(HeteroRR)机制,以保护节点的特征和边缘免受差分隐私(DP)保证下的PIA攻击,而不会在训练GNN时产生不必要的数据和模型效用成本。我们的想法是平衡的重要性和敏感性的节点的特征和边缘在重新分配的隐私预算,因为一些功能和边缘比其他更敏感或重要的模型效用。因此,我们在节点的特征和边缘两个级别上获得了明显更好的随机化概率和更严格的误差界限,从而使我们能够保持高数据效用来训练GNN。使用基准数据集进行的广泛的理论和实证分析表明,HeteroRR在节点特征和边缘的严格隐私保护下,在模型效用方面显著优于各种基线。这使我们能够有效地在DP保持GNN中捍卫PIA。
2022-11-10 cs.CR cs.LG
Differential Privacy By Sampling
在本文中,我们提出了采样隐私机制,私人发布的个人数据。采样隐私是一种基于采样的隐私机制,满足差分隐私。
2017-08-06 cs.CR
Tight Differential Privacy Guarantees for the Shuffle Model with $k$-Randomized Response
本文推导了使用 $k$-随机响应本地随机化器的 shuffle 模型已知最严格的差分隐私保证界,并通过矩阵求逆去噪方法评估直方图查询效用,实验证明在相同隐私水平下 shuffle 模型与中心模型统计效用几乎可比。
2024-04-29 cs.CR
Privacy-Preserving Randomized Controlled Trials: A Protocol for Industry Scale Deployment
在本文中,我们概述了一种在5亿行数据和超过10亿个门的规模上为多方随机对照试验部署隐私保护协议的方法。随机对照试验(RCT)被广泛用于改善医疗保健,教育,犯罪学和营销等各个部门的业务和政策决策。随机对照试验是一种科学严谨的方法来衡量治疗的有效性。这是通过将受试者随机分配到两个或多个组,以不同的方式对待他们,然后比较各组的结果来实现的。在许多情况下,多方持有用于进行和分析RCT的数据的不同部分。考虑到各方的隐私要求和期望,集中存储数据来进行和分析RCT通常具有挑战性。我们通过一个三阶段的解决方案来实现这一点。第一阶段使用私有秘密共享集合交集(PS $^3$ I)解决方案来创建联合集合并建立秘密共享而不暴露成员身份,同时丢弃被放置到多个组中的个体。第二阶段在分片数据库上运行通用MPC的多个实例,以汇总每个实验组的统计数据,同时丢弃在接受治疗之前采取行动的个体。第三阶段将分布式和校准的差分隐私(DP)噪声添加到聚合统计和不确定性度量中,提供正式的双侧隐私保证。我们还评估了多个开源通用MPC库的性能。我们还展示了我们如何使用它来创建一个有效的广告效果测量产品,每个实验能够测量数亿人。
2021-08-11 cs.CR cs.DC
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私(LDP)的浏览用户发送他的嘈杂的偏好配置文件,扰动布隆过滤器,服务提供商。这种方法的独创性是多方面的。首先,据我们所知,该方法是第一个在用户侧包括两个扰动轮- PRR(永久随机响应)和IRR(瞬时随机响应)-在一个完整的用户简档。其次,建立了完整的验证实验链,使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码,使用聚类Kmeans工具对用户进行聚类。第三,大量的实验表明,我们的方法实现了良好的实用性和隐私的权衡,即90 $\%$聚类成功率,分别。80.3 $\%$,分别用于LDP $ε= 0.8$的值。$ε= 2$。第四,实验和理论分析给出了具体的结果,我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley(加州大学伯克利分校)
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要,安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术,如进程演算和概率模型检验。在本文中,我们考虑的问题,验证实现的随机化协议。与以前的方法,把协议作为一个白盒,我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后,这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性,我们比较了我们的技术与概率模型检验技术的两个例子:人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型,因为它提供了强大的隐私保证,即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而,在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用,从而降低了差异隐私结果的分析效用。在试图解决这个缺点,差分隐私的几个放宽已被提出,权衡隐私保证改善数据效用。在这项工作中,我们认为,标准的形式化的差分隐私是严格的比所需的直观的隐私保证,它寻求。特别地,标准形式化要求结果在任何相邻数据集对之间的不相容性,而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力,从而导致严重的准确性损失。在这方面,我们提出了个人差分隐私,一个替代的差分隐私的概念,为他们提供了相同的隐私保证标准差分隐私的个人(即使不是个人群体)。这个新概念允许数据控制器根据实际数据集调整失真,从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私,我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Protecting Big Data Privacy Using Randomized Tensor Network Decomposition and Dispersed Tensor Computation
Nanyang Technological University(南洋理工大学);RIKEN(理化学研究所);Singapore Management University(新加坡管理大学);University of Southern California(南加州大学)
数据隐私是组织和企业在云/雾上安全地外包数据存储,共享和计算的重要问题。然而,数据加密在密钥管理和分发方面是复杂的;现有的安全计算技术在计算/通信成本方面是昂贵的,因此不能扩展到大数据计算。张量网络分解和分布式张量计算在信号处理和机器学习中被广泛用于降维和大规模优化。然而,分布式张量网络在大数据隐私保护方面的潜力还没有被考虑过,这激发了目前的研究。我们的主要直觉是,张量网络表示在数学上是不唯一的,不可解释的,无法解释的;张量网络表示自然支持压缩和分布式/分散计算的一系列多线性运算。因此,我们提出了随机算法来将大数据分解成随机张量网络表示,并分析了1D到3D数据张量的隐私泄漏。随机性主要来自大数据中常见的复杂结构信息;随机化是基于在分解之前应用于张量块的受控扰动。分布式张量表示分散在具有元数据隐私的多个云/雾或服务器/设备上,这提供了分布式信任和管理,以无缝地保护大数据存储,通信,共享和计算。实验结果表明,所提出的随机化技术有助于大数据的匿名化,提高了大数据存储和计算的效率。
2021-01-04 cs.CR cs.CV
Degree-Preserving Randomized Response for Graph Neural Networks under Local Differential Privacy
KDDI Research, Inc.(KDDI研究所);ISM(统计数学研究所);AIST(日本产业技术综合研究所)
提出DPRR算法,通过Warner的随机响应、策略性边采样和Laplace机制在局部差分隐私下保护图神经网络中的边并保留图结构,在图分类任务中准确率接近非私有算法并防御数据投毒攻击。
2024-06-01 cs.CR cs.LG
Randori: Local Differential Privacy for All
民意调查是收集数据的常见方式,包括产品评论和反馈表。然而,很少有数据收集者提供预先的隐私保证。此外,当隐私保证预先给出时,它们通常是关于“匿名”的模糊声明。相反,我们建议通过差分隐私的统计概念提供可量化的隐私保证。然而,隐私并不是免费的。差分隐私的核心是准确性和隐私之间的内在权衡,需要加以平衡。因此,在开始收集数据之前,适当调整准确性-隐私权衡至关重要。总而言之,开始差异私有数据汇集可能具有挑战性。理想情况下,数据分析师不必关心差分隐私的所有细节,而是通过设计获得差分隐私。尽管如此,据我们所知,还没有在差分隐私下收集民意调查数据的工具。由于缺乏在差分隐私下收集民意调查数据的工具,我们开始设计自己的工具。具体来说,使本地差分隐私访问所有,在本系统的文件中,我们提出了Randori,一套新颖的开源工具,用于差异私人民意调查数据汇集。Randori旨在帮助数据分析师专注于他们的民意调查正在收集什么数据,而不是他们应该如何收集它。我们的工具还允许数据分析师分析预测他们的民意调查的准确性。此外,我们表明,单独的差分隐私是不足以实现端到端的隐私在服务器-客户端设置。因此,我们还调查和减轻隐式数据泄漏的Randori。
2021-01-27 cs.CR
Differential Privacy Made Easy
本文提出DP-framework和简易库GRAM-DP,最小化差分隐私参数调整,使无背景用户也能保护数据隐私并发布统计结果。
2022-01-01 cs.CR
Inference-Based Similarity Search in Randomized Montgomery Domains for Privacy-Preserving Biometric Identification
相似性搜索对于许多重要的应用是必不可少的,并且通常涉及基于其与查询的相似性对高维数据进行大规模搜索。在生物识别应用中,最近的漏洞研究表明,对抗性机器学习可以通过利用生物识别相似性信息来危害生物识别系统。现有的生物计量隐私保护方法通常基于安全生物计量模板的成对匹配,并且在搜索效率和可扩展性方面具有固有的限制。在本文中,我们提出了一个基于推理的框架,隐私保护的相似性搜索在汉明空间。我们的方法建立在一个模糊的距离测量,可以隐藏汉明距离在一个动态的间隔。这样的机制使我们能够系统地设计统计可靠的方法来检索最有可能的候选人,而不知道确切的距离值。我们进一步建议应用蒙哥马利乘法生成搜索索引,可以承受对抗性的相似性分析,并表明随机蒙哥马利域的信息泄漏可以忽略不计的小。我们在公共生物特征数据集上的实验表明,基于推理的方法可以实现接近安全计算方法的最佳性能的搜索精度,但与加密原语相比,相关的成本降低了几个数量级。
2017-11-05 cs.CR cs.IR
Concurrent Composition of Differential Privacy
我们发起了一项研究的组成性质的互动差分隐私机制。交互式差异隐私机制是一种允许分析师自适应地询问有关敏感数据集的查询的算法,具有对抗分析师对交互的看法大致相同的属性,无论任何个人的数据是否在数据集中。以前的研究组成的差分隐私集中在非交互式的算法,但需要交互式的机制来捕捉许多预期的应用程序的差分隐私和一些重要的差异隐私原语。我们专注于并发组合,对手可以任意交织其查询到几个不同的私人机制,这可能是可行的差异私人查询系统部署在实践中。我们证明,当被组成的互动机制是纯差分隐私,他们的并发组合达到隐私参数(相对于纯或近似差分隐私),匹配的(最佳)非交互式差分隐私的组合定理。我们还证明了满足近似差分隐私的交互机制的合成定理。这一界限甚至比非交互式差分隐私的基本(次优)组合定理还要弱,我们将缩小差距作为未来研究的一个方向,同时了解差分隐私的其他变体的并发组合。
2021-09-15 cs.CR
Correlated Data in Differential Privacy: Definition and Analysis
差分隐私是一个用于评估和保护数据隐私的严格数学框架。在大多数现有的研究中,存在一个脆弱的假设,即当应用差分隐私时,数据集中的记录是独立的。然而,在现实世界的数据集,记录很可能是相关的,这可能会导致意外的数据泄漏。在这个调查中,我们调查的问题,由于数据的相关性在差分隐私模型下的隐私损失。将现有文献大致分为3类:1)使用参数描述差分隐私中的数据相关性; 2)使用模型描述差分隐私中的数据相关性; 3)基于Pufferfish框架描述数据相关性。首先,给出了一个具体的例子来说明在现实场景中的相关数据的隐私泄漏问题。然后,我们的主要工作是分析和比较这些方法,并评估这些不同的研究应用的情况。最后,我们提出了相关差分隐私未来的挑战。
2021-01-09 cs.CR
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology(佐治亚理工学院);Google Research(谷歌研究院)
针对联邦学习中的隐私与通信挑战,提出随机量化机制(RQM),通过两级随机化实现Rényi差分隐私,无需显式离散噪声,在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
Differential Privacy as a Causal Property
我们提出了关联和因果的差分隐私的观点。在关联视图下,数据点之间的依赖性的可能性排除了差分隐私的保证的简单陈述,作为在单个改变的数据点上的条件。然而,我们表明,一个简单的表征差分隐私限制一个单一的数据点的影响确实存在的因果关系的观点下,没有独立的假设数据点。我们相信,这种特性解决了先前工作中关于差分隐私后果的分歧和困惑。需要假设的关联观点归结为相关性并不意味着因果关系这一格言的对立:确保缺乏(强)因果关系的差分隐私并不意味着缺乏(强)关联。我们的表征也开辟了应用统计学,实验设计和科学的因果关系,同时研究差分隐私的结果的可能性。
2019-07-06 cs.CR
Author Obfuscation Using Generalised Differential Privacy
混淆的问题,作者的文本文件已很少受到关注的文献。目前的方法是特设的,并依赖于假设对手的辅助知识,这使得它很难推理这些方法的隐私属性。差分隐私是一种众所周知的和强大的隐私方法,但它依赖于数据集之间的邻接概念,阻碍了其应用到文本文档隐私。然而,广义差分隐私允许应用程序的差分隐私任意数据集赋予一个度量,并已被证明的问题,涉及个人数据点的释放。在本文中,我们将展示如何应用广义差分隐私,作者混淆利用现有的工具和方法,从文体学和自然语言处理文献。
2018-05-22 cs.CR
Renyi Differential Privacy
我们提出了一个自然放松的差分隐私的基础上Renyi分歧。密切相关的概念出现在最近的几篇论文中,这些论文分析了差异私有机制的组成。我们认为,有用的分析工具,可以用来作为一个隐私的定义,compensately和准确地表示保证的尾巴上的隐私损失。我们证明了新的定义与标准定义的差分隐私共享许多重要的属性,同时还允许更严格的分析复合异构机制。
2017-08-25 cs.CR
Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy
Department of Computer Science, Technical University of Munich(慕尼黑技术大学计算机科学系);Munich Data Science Institute(慕尼黑数据科学研究所);MCML;Machine Learning Research, Morgan Stanley(摩根大通机器学习研究)
本文提出一种基于对偶视角的微分隐私框架,用于证明对抗性扰动下的鲁棒性,通过整合随机平滑与隐私配置文件,提供对训练时间和推理时间攻击的联合鲁棒性保证。
2026-05-20 cs.CR cs.LG
Toward Practical Differential Privacy in Smart Grid with Capacity-Limited Rechargeable Batteries
差分隐私技术通过加入来自拉普拉斯分布的噪声,成功地克服了同时保持个人数据的隐私性和统计结果的实用性的困难。因此,在智能电网的应用中,普遍使用可充电电池作为噪声以实现差分隐私。不幸的是,据我们所知,我们观察到,现有的隐私保护机制不能满足差分隐私,当考虑在实践中的电池的物理限制。在本文中,我们首先分类两种类型的挑战所造成的两个物理限制,最大充电/放电速率和电池的容量。然后,我们提出了一个无状态的隐私保护方案,通过探索一个边界可变分布的噪音,并证明了该方案满足差分隐私,关于第一种类型的挑战。我们进一步解释了在第二类挑战下实现差分隐私的困难,并形式化定义了一个宽松的差分隐私。最后,我们提出了一个满足放松差分隐私的有状态隐私保护方案。实验分析表明,我们的隐私保护计划在每个时间点的最大隐私泄漏稳定优于现有的工作。
2015-07-22 cs.CR
On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy
本文旨在回答以下两个问题,在隐私保护的数据分析和发布:什么正式的隐私保证(如果有的话)$k$ -匿名提供?如何从对手对数据的不确定性中获益?我们发现,随机抽样提供了一个连接,有助于回答这两个问题,因为抽样可以创建不确定性。本文的主要结果是,$k$ -匿名化,当做“安全”,并与随机抽样步骤时,满足$(ε,δ)$ -差分隐私与合理的参数。这一结果说明,“隐藏在一群$k$中“确实提供了一些隐私保证。这一结果还提出了一种满足差分隐私的输出扰动的替代方法:即,在开始时添加随机采样步骤,并修剪对单个元组的变化太敏感的结果。关于第二个问题,我们提供了积极和消极的结果。在积极的一面,我们表明,增加一个随机采样的预处理步骤的差分隐私算法可以大大放大的隐私保护的水平。因此,当给定由采样产生的数据集时,可以利用大得多的隐私预算。从消极的一面来看,任何利用对手的不确定性的隐私概念都不可能构成。我们讨论这些结果在实践中意味着什么。
2011-06-21 cs.CR
Formal Verification of Differential Privacy for Interactive Systems
差分隐私是一种很有前途的隐私保护数据分析方法,其理论是关于函数的。尽管最近在实现旨在提供差分隐私的系统方面进行了工作,但正式验证这些系统具有差分隐私的问题尚未得到充分解决。本文介绍了差异私有交互系统源代码自动验证的第一批结果。我们开发了一个正式的概率自动机模型的差分隐私的系统,通过调整以前的工作差分隐私的功能。本文的主要技术成果是一种基于概率互模拟关系形式的可靠性证明技术,用于证明建模为概率自动机的系统满足差分隐私。新颖之处在于,我们跟踪定量隐私泄漏边界使用的关系族,而不是一个单一的关系。我们说明了一个代表性的自动机PINQ,旨在提供差分隐私的实现系统的动机证明技术。为了使我们的证明技术更容易适用于现实的系统,我们证明了一种形式的细化定理,并将其应用于表明,细化的抽象PINQ自动机也满足我们的差分隐私定义。最后,我们开始自动化的过程中,我们的证明技术,提供了一个算法,机械检查限制类的关系,从证明技术。
2011-01-14 cs.CR
Reconstruction Attacks on Aggressive Relaxations of Differential Privacy
差分隐私是一种被广泛接受的正式隐私定义,它允许发布关于数据集的聚合信息,同时控制其记录出现在数据中的个人的隐私泄露。由于隐私与效用之间不可避免的紧张关系,已经有许多作品试图放宽差分隐私的要求,以实现更大的效用。个人差分隐私(IDP)和引导差分隐私(BDP)的定义体现了一类放松,这是开始获得隐私社区以外的支持。原始版本的差分隐私定义了一组相邻数据库对,并通过要求每对邻居对攻击者几乎不可区分来实现其隐私保证。然而,我们研究的隐私定义积极地减少了受保护的相邻对的集合。IDP和BDP都定义了一个“隐私损失”的度量,它满足诸如后处理不变性和组合等形式上的隐私属性,并且比传统的差分隐私变体实现了更好的效用。然而,有一个显着的缺点-我们表明,他们允许数据集的很大一部分被重建使用算法,具有任意低的隐私损失下,他们的隐私会计规则。我们证明这些攻击使用这些隐私定义的首选机制。特别地,我们设计了一组查询,当被这些具有高噪声设置的机制保护时(即,具有非常低的隐私损失的声明),产生关于数据集的更精确的信息,而不是如果它们根本不受保护。
2022-09-08 cs.CR
Generalization Techniques Empirically Outperform Differential Privacy against Membership Inference
不同的私有训练算法提供了对机器学习中最流行的攻击之一的保护:成员推断攻击。然而,这些隐私算法会导致模型分类准确性的损失,因此会产生隐私效用权衡。差分隐私在深度学习中提供强大的理论保护保证所需的噪声量通常会使模型无法使用,但作者观察到,即使是较低的噪声水平也可以提供可接受的经验保护,以抵御现有的成员推断攻击。在这项工作中,我们寻找替代差分隐私对经验保护成员推断攻击。我们研究了简单地遵循良好的机器学习实践(没有考虑隐私设计)对成员推理的保护。我们评估了最先进的技术,如预训练和锐度感知最小化,单独和差分私人训练算法的性能,并发现,当使用早期停止,没有差分隐私的算法可以提供更高的效用和更高的隐私比他们的差分私人同行。这些发现挑战了差分隐私是一种很好的防御现有成员推断攻击的信念
2021-10-11 cs.CR
Issues Encountered Deploying Differential Privacy
十多年前,当差分隐私被创建时,一个鼓舞人心的例子是官方统计机构发布的统计数据。在试图将差分隐私从学术界转变为实践的过程中,美国人口普查局遇到了许多差分隐私的创造者没有预料到的挑战。这些挑战包括:获得合格的人员和适当的计算环境;难以说明机密数据的所有用途;缺乏符合数据使用者需要的发布机制;数据使用者期望他们能够获得微观数据;难以设定隐私丧失参数$ε$(xmax)的值,以及缺乏工具和受过训练的个人来验证差分隐私实现的正确性。
2018-09-06 cs.CR
Lessons Learned: Surveying the Practicality of Differential Privacy in the Industry
自2006年引入以来,差分隐私已成为量化学术著作中数据隐私的主要统计工具。然而,尽管有大量的研究和开源工具伴随着它的兴起,除了有限的例外,差分隐私未能在企业领域获得广泛采用。我们的研究旨在通过对9家主要公司的24名隐私从业者的详细采访,揭示这种学术与工业利用差距的根本原因。我们分析了调查结果,为努力改善数据工作流程中隐私保护的公司提供关键发现和建议,并强调现有差分隐私工具的必要和缺失要求,旨在指导研究人员更广泛地采用差分隐私。我们的研究结果表明,分析师在请求访问敏感数据时经历了漫长的官僚程序,但一旦获得许可,只有很少执行的隐私政策才能阻止流氓从业者滥用私人信息。因此,我们认为,差分隐私可以显着改善请求和进行数据探索的过程中,筒仓,并得出结论,与本文提出的一些改进,差分隐私在整个企业的实际使用是在惊人的距离。
2022-11-07 cs.CR
Methods To Ensure Privacy Regarding Medical Data -- Including an examination of the differential privacy algorithm RAPPOR and its implementation in "Cryptool 2"
本文件审查了几种适用的方法,以确保在卫生保健部门收集的数据的隐私。为了确保对该主题有共同的理解,引言根据示例解释了匿名方法的必要性。接下来,介绍了数据汇集的原因,以及保护上述数据的目的,以及目前适用的隐私法来执行此隐私。问题“我们谈论的是什么样的隐私,必须满足什么条件?“在随后的“差分隐私“一章中讨论。因此,正在建立,共同的匿名化方法进行解释和审查,为他们在医疗保健部门的使用。RAPPOR算法及其差分隐私更详细地处理,然后得出结论。
2022-10-18 cs.CR
Advances in Differential Privacy and Differentially Private Machine Learning
本文综述差分隐私理论、Renyi DP与Concentrated DP等新变体、新机制及其在隐私保护机器学习中的理论进展与实际部署。
2024-04-06 cs.CR
Differential Privacy in Privacy-Preserving Big Data and Learning: Challenge and Opportunity
差分隐私(Differential Privacy,DP)以其强大的保护功能和坚实的数学基础,成为隐私保护的事实标准,被广泛应用于大数据分析、图数据处理、机器学习、深度学习、联邦学习等不同领域。虽然DP已经成为一个活跃和有影响力的领域,但它并不是解决不同场景下所有隐私问题的最佳解决方案。此外,DP在具体应用中也存在一些误解、误用和巨大挑战。在本文中,我们指出了相应的研究领域的一系列限制和开放的挑战。此外,我们提供了潜在的新的见解和途径,结合差分隐私与其他有效的降维技术和安全多方计算,以明确定义各种隐私模型。
2021-12-03 cs.CR
Exponential Randomized Response: Boosting Utility in Differentially Private Selection
差分私有选择算法从有限集合中输出近似最大化数据相关质量函数的项。最广泛采用的解决这一任务的机制是开创性的指数机制和置换和翻转,它可以提供指数机制的两倍的效用改进。本文引入了一种新的差异化私人选择机制,并与上述机制进行了理论和实证比较。对于合理常见的情况下,我们的机制可以提供效用的改善因子显着大于2的指数和置换和翻转机制。由于效用在利基场景中可能会恶化,因此我们向能够容忍某些数据集的较低效用的分析师推荐我们的机制。
2022-08-04 cs.CR
Privacy-Preserving ECG Data Analysis with Differential Privacy: A Literature Review and A Case Study
本文综述差分隐私在ECG分析中的应用研究,提出六步流程实现心律失常数据库的差分隐私查询发布并给出参数选择等指导,同时指出该应用的不足与挑战。
2024-06-19 cs.CR
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想,以确定用于某个查询的最佳机制,该最佳机制同时满足(固定的)$ε$-差分隐私约束,同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面,Brenner和Nissim表明,在计数查询的空间之外,对于贝叶斯风险损失函数,不存在这样的普遍最优机制。在本文中,我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准(即,中央)差分隐私和本地差分隐私,并且其越来越多地用于各种应用领域,例如位置隐私和隐私保护机器学习。使用这个框架,我们能够澄清Nissim和布伦纳的负面结果,显示(一),事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制,和(b)扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明,这种能力总是存在的,可以使用凸优化算法计算。
2022-05-03 cs.CR
Practical Considerations for Differential Privacy
该研究针对作为统计数据发布隐私黄金标准的差分隐私虽有里程碑式成功却未广泛普及的问题,探讨了阻碍其在日常数据使用与保护中应用的实践障碍。
2024-08-14 cs.CR
Local Differential Privacy: a tutorial
在过去的十年中,大数据分析在许多情况下都被证明是非常有价值的。本地差分隐私(LDP)是一种最先进的方法,它允许统计计算,同时保护每个单独用户的隐私。与差分隐私不同,不需要信任中央机构,因为噪声被本地添加到用户输入。在本文中,我们给出了一个概述不同的LDP算法的问题,如本地私人重打击识别和空间数据汇集。最后,对自民党存在的问题进行了展望.
2019-07-27 cs.CR
Differential Privacy Techniques for Cyber Physical Systems: A Survey
随着资讯及通讯科技的发展,现代网络物理系统已广泛应用于我们的日常生活中。随着网络物理系统的提供,与这些系统相关的安全和隐私威胁也在增加。被动攻击被入侵者用来获取CPS的私有信息。为了使CPS数据更加安全,过去已经提出了某些隐私保护策略,如加密和k-匿名。然而,随着CPS体系结构的进步,这些技术也需要进行一定的修改。与此同时,差分隐私作为一种有效的保护CPS数据隐私的技术应运而生。在本文中,我们提出了一个全面的调查差分隐私技术的CPS。特别是,我们调查了差分隐私在CPS的四个主要应用中的应用和实现,这些应用被命名为能源系统,交通系统,医疗保健和医疗系统,以及工业物联网(IIoT)。此外,我们提出了开放的问题,挑战和未来的研究方向,差分隐私技术的CPS。这项调查可以作为现代差分隐私技术的发展,以解决各种问题和CPS的数据隐私场景的基础。
2019-09-27 cs.CR
The Bounded Laplace Mechanism in Differential Privacy
拉普拉斯机制是差分隐私的主力,应用于处理数字数据的许多情况。然而,拉普拉斯机制可以返回语义上不可能的值,例如负计数,因为它的无限支持。对此有两种流行的解决方案:(i)限制/限制输出值以及(ii)限制机制支持。在本文中,我们表明,绑定的机制支持,而使用的纯拉普拉斯机制的参数,通常不保留差分隐私。我们还提出了一个强大的方法来计算最佳的机制参数,以实现差分隐私在这样的设置。
2018-08-30 cs.CR
On the Relation Between Identifiability, Differential Privacy and Mutual-Information Privacy
本文研究了可识别性、差分隐私和互信息隐私这三种不同隐私概念之间的关系。在一个统一的隐私失真框架下,失真被定义为输入和输出数据库的汉明距离,我们建立了这三个隐私概念之间的一些基本联系。给定失真级别$D$,将$ε_{\mathrm{i}}^*(D)$定义为最小(最佳)可识别性级别,并且将$ε_{\mathrm{d}}^*(D)$定义为最小差分隐私级别。我们刻画了$ε_{\mathrm{i}}^*(D)$和$ε_{\mathrm{d}}^*(D)$,并证明了在一定范围内,$D$的$ε_{\mathrm{i}}^*(D)-ε_X\leε_{\mathrm{d}}^*(D)\leε_{\mathrm{i}}^*(D)$,其中$ε_X$是依赖于原始数据库$X$分布的常数,当$X$分布均匀时,$ε_X$减小到零.此外,我们表明,可识别性和互信息隐私是一致的,在这个意义上,给定的失真水平$D$,机制,优化的互信息隐私也最小化的可识别性水平。
2015-08-22 cs.CR
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念,拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中,我们发现,差分隐私没有考虑的线性性质的查询,导致意外的信息泄漏。具体地,线性属性使得可以将一个查询划分成两个查询,诸如$q(D)=q(D_1)+q(D_2)$(如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$)。如果攻击者试图获得$q(D)$的答案,只要他们知道$D_2$,他们不仅可以发出查询$q(D)$,而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分,攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而,从攻击者的角度和从差分隐私机制的角度来看,如果分割设计得很巧妙,则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数,因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏,我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Differential Privacy in Federated Learning: Mitigating Inference Attacks with Randomized Response
本研究针对联邦学习中的推理攻击导致的数据泄露问题,应用差分隐私和Randomized Response技术,以duCBA算法为聚合方法,分析不同epsilon值下安全性与性能的权衡,发现更高隐私水平会降低模型准确率并导致预测不平衡。
2025-09-17 cs.AI cs.CR