A Simple Algorithm for Estimating Distribution Parameters from $n$-Dimensional Randomized Binary Responses
随机化响应对于隐私保护数据汇集是有吸引力的,因为所提供的隐私可以通过诸如差分隐私之类的手段来量化。然而,恢复和分析涉及多个相关随机化二进制属性的统计数据可能很困难,这对使用构成了重大障碍。在这项工作中,我们解决这个问题,通过识别和分析一个家庭的响应随机改变每个二进制属性独立相同的概率。Google的Rappor随机发生器的模式以及两个著名的经典随机化回答方法,Warner的原始方法和Simmons的无关问题方法的应用都属于这个家族。我们表明,在这个家庭的随机变换多项式分布参数的可逆和双对称$2 \times 2$矩阵的迭代克罗内克积。这使我们能够提出一个简单而有效的算法,获得无偏的最大似然参数估计$k$路边际随机响应,并提供理论界的统计效率。我们还描述了效率-差分隐私权衡。重要的是,响应的随机化和估计算法都易于实现,这是隐私保护和安全技术的关键方面。
2018-07-13 cs.CR
Privacy-Optimized Randomized Response for Sharing Multi-Attribute Data
针对多属性数据共享隐私保护不足的问题,提出隐私优化的随机响应方法及高效启发式算法,在保证最强隐私的同时显著降低输出误差。
2024-02-12 cs.CR
Randomized Response Mechanisms for Differential Privacy Data Analysis: Bounds and Applications
随机响应作为差分私有机制的一个基本组成部分,在科学界引起了极大的兴趣,并发现了各种潜在的应用。在这项工作中,我们关注的是三个元素的随机响应(RR $_{3}$)以及相关的应用程序的加权二分图上的差异私人担保的分析。我们开发了一个原则性的框架,估计由RR $_{3}$为基础的机制产生的统计数据,然后证明相应的估计是无偏的。同时,我们详细研究了RR $_{3}$族中几个基本的重要成员,得到了无偏估计的封闭解。接下来,我们展示了几种基于RR $_{3}$的机制在需要局部差分隐私保证时估计加权二分图上的平均度和平均加权值的潜在应用。同时,通过最小化统计量的方差来确定相关参数的选取下限,从而设计出最优的基于RR $_{3}$的局部差分保密机制,并利用该机制对已有的协议进行了优化,提出了一个达到紧界的方案.最后,也是最重要的是,我们观察到,在分析关系数据,如加权二分图,局部差分隐私机制的隐私预算的一部分,有时会被“消耗”的机制本身意外,导致更强的隐私保证比我们会得到简单的顺序组合。
2021-12-14 cs.CR
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
Apple Inc.(苹果公司)
研究自主协商代理行为隐私泄露问题,设计自适应随机协商策略,联合保证差分隐私、报价序列收敛和高协商效用,在合成双边协商实验中降低对手推理准确率,保持高协商成功率和效用。
2026-07-09 cs.CR
From Randomized Response to Randomized Index: Answering Subset Counting Queries with Local Differential Privacy
针对本地差分隐私中值扰动导致效用下降的问题,提出对值索引随机化的CRIAD方法,用于回答集合值数据上的子集计数查询,通过多虚拟项、多样本和多组策略实现可扩展性,并在准确性和隐私保障上优于现有方法。
2025-04-24 cs.CR cs.DB
Locally Private Subgraph Counting via Noisy Adjacency Matrix and Differential Privacy on Randomized Data
Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Beijing Jiaotong University(北京交通大学);National Health Data Institute, Shenzhen(深圳市国家健康数据研究院)
本文针对无可信服务器/洗牌器的边局部差分隐私子图计数难题,提出NAM与DPRD框架,设计多类子图计数估计器,推导误差界并经实验验证其性能优于现有基线。
2026-08-27 cs.CR
Bipartite Randomized Response Mechanism for Local Differential Privacy
Anhui University(安徽大学);East China Normal University(华东师范大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出二元随机响应机制(BRR),通过效用排名将候选项目分为两部分,结合局部和全局搜索阶段优化差分隐私发布,实现显著降低期望误差。
2026-03-13 cs.CR
Distributed Differential Privacy By Sampling
在本文中,我们描述了我们的方法来实现分布式差分隐私单独采样。我们的机制工作在半诚实的设置(诚实但好奇,聚合器试图偷看数据,但遵循协议)。我们表明,实用程序保持不变,并没有降低由于方差相比,随机响应机制。此外,我们显示较小的隐私泄漏相比,随机响应机制。
2017-06-14 cs.CR
Randomized Privacy Budget Differential Privacy
在通过从数据中发现知识来追求更好的效用的同时,个人的隐私可能在分析期间受到损害。为此,差分隐私已被广泛认为是最先进的隐私概念。通过要求输入中任何个人数据的存在仅略微影响输出上的分布,差分隐私提供了针对拥有任意背景的对手的强有力的保护。然而,隐私约束(例如,由差分隐私强加的随机化程度)可能使得所发布的数据对分析不太有用,隐私和效用之间的基本折衷(即,分析精度)在各种环境中引起了极大的关注。在这份报告中,我们提出了DP机制与随机参数,即,随机化隐私预算,并形式化地分析了其隐私性和效用,证明了DP机制中的随机化隐私预算将极大地提高准确性。
2022-09-03 cs.CR cs.IT math.IT
Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析,以实现低延迟流处理?回答这个问题:我们描述的设计,实施和评估的PRIVAPPROX,数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性:(i)隐私:为用户提供零知识隐私保证,比最先进的差分隐私更严格的隐私约束;(ii)效用:数据分析师系统地探索输出准确性之间的权衡的接口(具有误差估计)和查询执行预算;(iii)延迟:基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起:即采样(用于近似计算的背景下)和随机响应(用于隐私保护分析的背景下)。由此产生的婚姻是互补的-它实现了更强的隐私保证,并提高了性能,这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
RHyTHM: A Randomized Hybrid Scheme To Hide in the Mobile Crowd
如果到凭证管理基础设施的连接是间歇性的,则任何按需假名获取策略都是有问题的。如果车辆用完了假名而没有连接来重新填充其假名池,则一种解决方案是即时生成假名,例如,利用匿名身份验证。然而,这样的车辆将在人群中脱颖而出:人们可以简单地区分假名,从而基于假名发行者签名来签名消息,将它们链接并跟踪车辆。为了应对这一挑战,我们提出了一个随机混合方案,RHyTHM,使车辆在断开连接时保持运行,而不影响隐私:具有有效别名的车辆可以通过随机加入使用即时自我认证的别名以及对齐的生命周期来帮助其他人提高他们的隐私。通过这种方式,断开连接的用户的隐私通过合理的计算开销得到增强。
2017-12-09 cs.CR
Locally Differentially Private Frequency Estimation via Joint Randomized Response
针对 LDP 频率估计中隐私与效用的权衡,本文提出基于两人组相关扰动的 JRR 机制,在保持与经典 RR 同等隐私保证的同时,将估计精度最高提升两个数量级。
2025-06-15 cs.CR
Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation
如何在分布式环境中实现差分隐私,其中数据集分布在不信任的各方,是一个重要的问题。我们考虑在什么条件下协议可以继承它计算的函数的差分隐私性质。问题的核心是随机函数的安全多方计算。引入了\emph{obliviousness}的概念,它捕获了在分布式环境中从确定性函数计算随机化函数时的关键安全问题。通过这一观察,给出了由确定性函数计算随机化函数的一个充要条件。上述结果不仅可以用来判断计算差分私有函数的协议是否安全,而且可以用来构造安全的差分私有函数协议。证明了如果协议秘密地计算一个函数,则计算该函数的协议可以继承该函数的差分隐私性质,并给出了差分隐私协议的合成定理。我们还构造了一些协议,以产生随机变量的分布设置,如均匀随机变量和反演方法。利用这些基本协议,我们构造了高斯机制、拉普拉斯机制和指数机制的协议。重要的是,所有这些协议都满足遗忘性,因此可以通过基于模拟的方式证明是安全的。给出了分布情形下计算随机函数的复杂性界。最后,为了证明我们的研究结果对多方差分隐私协议的有效性,我们构造了一个差异隐私的经验风险最小化协议。
2016-04-11 cs.CR cs.DB
Privacy-Aware Randomized Quantization via Linear Programming
Ohio State University(俄亥俄州立大学);Yahoo Research(雅虎研究院)
本文针对差分隐私下离散输出存在偏差或权衡不佳的问题,提出一类无偏且具高度自由度的量化机制,并通过线性规划求解最优配置,实现更优的隐私-准确率权衡。
2024-06-01 cs.AI cs.CR
A Randomized Approach for Tight Privacy Accounting
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学)
本文提出差分隐私新范式EVR,通过Monte Carlo技术构建随机化隐私验证器和DP accountant,将隐私参数估计转化为严格上界保证,提升了隐私保护机器学习的效用-隐私权衡。
2023-11-21 cs.CR cs.DS cs.LG
Heterogeneous Randomized Response for Differential Privacy in Graph Neural Networks
New Jersey Institute of Technology(新泽西理工学院);Qatar Computing Research Institute(卡塔尔计算研究所);University of Florida(佛罗里达大学);University of Arkansas(阿肯色大学)
图神经网络(GNN)由于能够从图数据中的节点之间的特征和边学习联合表示,因此容易受到隐私推理攻击(PIA)的影响。为了防止GNN中的隐私泄漏,我们提出了一种新的异构随机响应(HeteroRR)机制,以保护节点的特征和边缘免受差分隐私(DP)保证下的PIA攻击,而不会在训练GNN时产生不必要的数据和模型效用成本。我们的想法是平衡的重要性和敏感性的节点的特征和边缘在重新分配的隐私预算,因为一些功能和边缘比其他更敏感或重要的模型效用。因此,我们在节点的特征和边缘两个级别上获得了明显更好的随机化概率和更严格的误差界限,从而使我们能够保持高数据效用来训练GNN。使用基准数据集进行的广泛的理论和实证分析表明,HeteroRR在节点特征和边缘的严格隐私保护下,在模型效用方面显著优于各种基线。这使我们能够有效地在DP保持GNN中捍卫PIA。
2022-11-10 cs.CR cs.LG
Tight Differential Privacy Guarantees for the Shuffle Model with $k$-Randomized Response
本文推导了使用 $k$-随机响应本地随机化器的 shuffle 模型已知最严格的差分隐私保证界,并通过矩阵求逆去噪方法评估直方图查询效用,实验证明在相同隐私水平下 shuffle 模型与中心模型统计效用几乎可比。
2024-04-29 cs.CR
Privacy-Preserving Randomized Controlled Trials: A Protocol for Industry Scale Deployment
在本文中,我们概述了一种在5亿行数据和超过10亿个门的规模上为多方随机对照试验部署隐私保护协议的方法。随机对照试验(RCT)被广泛用于改善医疗保健,教育,犯罪学和营销等各个部门的业务和政策决策。随机对照试验是一种科学严谨的方法来衡量治疗的有效性。这是通过将受试者随机分配到两个或多个组,以不同的方式对待他们,然后比较各组的结果来实现的。在许多情况下,多方持有用于进行和分析RCT的数据的不同部分。考虑到各方的隐私要求和期望,集中存储数据来进行和分析RCT通常具有挑战性。我们通过一个三阶段的解决方案来实现这一点。第一阶段使用私有秘密共享集合交集(PS $^3$ I)解决方案来创建联合集合并建立秘密共享而不暴露成员身份,同时丢弃被放置到多个组中的个体。第二阶段在分片数据库上运行通用MPC的多个实例,以汇总每个实验组的统计数据,同时丢弃在接受治疗之前采取行动的个体。第三阶段将分布式和校准的差分隐私(DP)噪声添加到聚合统计和不确定性度量中,提供正式的双侧隐私保证。我们还评估了多个开源通用MPC库的性能。我们还展示了我们如何使用它来创建一个有效的广告效果测量产品,每个实验能够测量数亿人。
2021-08-11 cs.CR cs.DC
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私(LDP)的浏览用户发送他的嘈杂的偏好配置文件,扰动布隆过滤器,服务提供商。这种方法的独创性是多方面的。首先,据我们所知,该方法是第一个在用户侧包括两个扰动轮- PRR(永久随机响应)和IRR(瞬时随机响应)-在一个完整的用户简档。其次,建立了完整的验证实验链,使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码,使用聚类Kmeans工具对用户进行聚类。第三,大量的实验表明,我们的方法实现了良好的实用性和隐私的权衡,即90 $\%$聚类成功率,分别。80.3 $\%$,分别用于LDP $ε= 0.8$的值。$ε= 2$。第四,实验和理论分析给出了具体的结果,我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley(加州大学伯克利分校)
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要,安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术,如进程演算和概率模型检验。在本文中,我们考虑的问题,验证实现的随机化协议。与以前的方法,把协议作为一个白盒,我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后,这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性,我们比较了我们的技术与概率模型检验技术的两个例子:人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
Protecting Big Data Privacy Using Randomized Tensor Network Decomposition and Dispersed Tensor Computation
Nanyang Technological University(南洋理工大学);RIKEN(理化学研究所);Singapore Management University(新加坡管理大学);University of Southern California(南加州大学)
数据隐私是组织和企业在云/雾上安全地外包数据存储,共享和计算的重要问题。然而,数据加密在密钥管理和分发方面是复杂的;现有的安全计算技术在计算/通信成本方面是昂贵的,因此不能扩展到大数据计算。张量网络分解和分布式张量计算在信号处理和机器学习中被广泛用于降维和大规模优化。然而,分布式张量网络在大数据隐私保护方面的潜力还没有被考虑过,这激发了目前的研究。我们的主要直觉是,张量网络表示在数学上是不唯一的,不可解释的,无法解释的;张量网络表示自然支持压缩和分布式/分散计算的一系列多线性运算。因此,我们提出了随机算法来将大数据分解成随机张量网络表示,并分析了1D到3D数据张量的隐私泄漏。随机性主要来自大数据中常见的复杂结构信息;随机化是基于在分解之前应用于张量块的受控扰动。分布式张量表示分散在具有元数据隐私的多个云/雾或服务器/设备上,这提供了分布式信任和管理,以无缝地保护大数据存储,通信,共享和计算。实验结果表明,所提出的随机化技术有助于大数据的匿名化,提高了大数据存储和计算的效率。
2021-01-04 cs.CR cs.CV
Degree-Preserving Randomized Response for Graph Neural Networks under Local Differential Privacy
KDDI Research, Inc.(KDDI研究所);ISM(统计数学研究所);AIST(日本产业技术综合研究所)
提出DPRR算法,通过Warner的随机响应、策略性边采样和Laplace机制在局部差分隐私下保护图神经网络中的边并保留图结构,在图分类任务中准确率接近非私有算法并防御数据投毒攻击。
2024-06-01 cs.CR cs.LG
Inference-Based Similarity Search in Randomized Montgomery Domains for Privacy-Preserving Biometric Identification
相似性搜索对于许多重要的应用是必不可少的,并且通常涉及基于其与查询的相似性对高维数据进行大规模搜索。在生物识别应用中,最近的漏洞研究表明,对抗性机器学习可以通过利用生物识别相似性信息来危害生物识别系统。现有的生物计量隐私保护方法通常基于安全生物计量模板的成对匹配,并且在搜索效率和可扩展性方面具有固有的限制。在本文中,我们提出了一个基于推理的框架,隐私保护的相似性搜索在汉明空间。我们的方法建立在一个模糊的距离测量,可以隐藏汉明距离在一个动态的间隔。这样的机制使我们能够系统地设计统计可靠的方法来检索最有可能的候选人,而不知道确切的距离值。我们进一步建议应用蒙哥马利乘法生成搜索索引,可以承受对抗性的相似性分析,并表明随机蒙哥马利域的信息泄漏可以忽略不计的小。我们在公共生物特征数据集上的实验表明,基于推理的方法可以实现接近安全计算方法的最佳性能的搜索精度,但与加密原语相比,相关的成本降低了几个数量级。
2017-11-05 cs.CR cs.IR
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology(佐治亚理工学院);Google Research(谷歌研究院)
针对联邦学习中的隐私与通信挑战,提出随机量化机制(RQM),通过两级随机化实现Rényi差分隐私,无需显式离散噪声,在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy
Department of Computer Science, Technical University of Munich(慕尼黑技术大学计算机科学系);Munich Data Science Institute(慕尼黑数据科学研究所);MCML;Machine Learning Research, Morgan Stanley(摩根大通机器学习研究)
本文提出一种基于对偶视角的微分隐私框架,用于证明对抗性扰动下的鲁棒性,通过整合随机平滑与隐私配置文件,提供对训练时间和推理时间攻击的联合鲁棒性保证。
2026-05-20 cs.CR cs.LG
Communication-Efficient Publication of Sparse Vectors under Differential Privacy
提出一种针对稀疏向量聚合矩阵的差分隐私发布算法,将通信成本降至$O(\varepsilon m)$且结果与随机响应一致,兼顾了隐私保护与通信效率。
2025-06-25 cs.CR
Differential Privacy in Federated Learning: Mitigating Inference Attacks with Randomized Response
本研究针对联邦学习中的推理攻击导致的数据泄露问题,应用差分隐私和Randomized Response技术,以duCBA算法为聚合方法,分析不同epsilon值下安全性与性能的权衡,发现更高隐私水平会降低模型准确率并导致预测不平衡。
2025-09-17 cs.AI cs.CR
Privacy Preserving Gaze Estimation using Synthetic Images via a Randomized Encoding Based Framework
University of Tübingen(图宾根大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
眼动追踪是评估和评估人类注意力、行为和生物特征的应用的关键技术之一,特别是使用凝视、瞳孔和眨眼行为。然而,关于眼动追踪技术的社会接受度的挑战之一是敏感和个人信息的保存。为了解决这个问题,我们采用了一个隐私保护框架的基础上随机编码训练支持向量回归模型使用合成的眼睛图像私人估计人类的目光。在计算过程中,任何一方都不知道其他任何一方拥有的数据或结果。此外,训练模型的一方不能重建瞳孔、眨眼或视觉扫描路径。实验结果表明,我们的隐私保护框架是能够在实时工作,具有相同的精度相比,非私人版本,并可以扩展到其他眼动追踪相关的问题。
2021-07-13 cs.CR cs.CV cs.HC
Randomized Distributed Function Computation (RDFC): Ultra-Efficient Semantic Communication Applications to Privacy
Technische Universität Dortmund(多特蒙德工业大学);Linköping University(林雪平大学)
RDFC通过随机化方法实现隐私保护的高效语义通信,其在无共享随机性时仍优于无损传输,且在有限块长下隐私性能显著提升。
2026-03-10 cs.CR cs.DC cs.IT
Purifying Approximate Differential Privacy with Randomized Post-processing
University of California, San Diego(加州大学圣地亚哥分校)
该研究提出“净化”框架,在特定条件下将(ε, δ)-近似差分隐私机制转换为(ε', 0)-纯DP机制,通过随机后处理消除δ参数,实现近最优隐私-效用权衡,为纯DP算法设计提供新策略并应用于多任务场景。
2025-11-17 cs.CR cs.LG stat.ML
Randomized Nested Polar Subcode Constructions for Privacy, Secrecy, and Storage
我们考虑极化子码(PSC),其是具有动态冻结符号的极化码(PC),以与对应的PC相比增加最小距离。提出了一种随机嵌套PSC结构,它由一个低速率PSC和一个高速率PC组成,可用于列表和顺序连续消除解码器。该代码构造旨在利用边信息执行有损压缩。嵌套PSC被用于具有物理标识符的密钥协商问题。与具有相同列表大小的嵌套PC相比,在秘密密钥与存储速率比率方面的增益被示出以表明嵌套PSC在嵌套PC上显着改善。嵌套的PSC的性能提高较大的列表大小,这是不是嵌套PC的情况下考虑。
2020-07-29 cs.CR cs.IT cs.MM
Low Influence, Utility, and Independence in Differential Privacy: A Curious Case of $3 \choose 2$
我们研究了随机化低影响函数和差分私有机制之间的关系。我们的主要目的是正式确定是否差异私人机制是低影响力,以及是否低影响力的随机功能可以差异私人。我们表明,差分隐私并不一定意味着低影响力在正式意义上。然而,低影响意味着近似的差分隐私。这些结果适用于独立和非独立的随机机制,其中前者的一个重要实例是广泛使用的加性噪声技术在差分隐私文献。我们的研究还揭示了有趣的动态之间的效用,低影响力和独立性的差异私人机制。正如本文的名称所示,我们表明,任何两个这样的功能是同时可能的。然而,为了有一个差异私人机制,既有效用和低的影响力,即使在一个非常温和的效用条件下,一个必须采用非独立的机制。
2021-02-07 cs.CR cs.IT math.IT
Improving the Variance of Differentially Private Randomized Experiments through Clustering
Google Research(谷歌研究院)
提出差分隐私机制Cluster-DP,利用数据聚类结构在保证隐私的同时降低因果效应估计的方差惩罚,并在真实与模拟数据上验证了其优于基线的性能。
2025-05-28 cs.CR cs.LG stat.ME
Differentially Private Multi-party Computation: Optimality of Non-Interactive Randomized Response
我们研究了在差分隐私设置(即,即使在给出交互的转录和所有其他方的比特时,在任何特定方的比特中仍然存在不确定性)。每一方都对计算一个函数感兴趣,这个函数可能因方而异,并且可能有一个中心观察者对计算一个单独的函数感兴趣。每一方和中央观察员的表现是通过计算函数的准确性来衡量的。我们允许一个任意的成本函数来衡量真实和计算函数值之间的失真。我们的主要结果是一个简单的非交互式协议的确切的最优性:每一方随机化(充分),并发布自己的位。换句话说,非交互式随机化响应是最优的。然后,每一方和中心观察者分别计算各自的函数,以最大化其准确性度量的适当概念。最优性是非常普遍的:它适用于所有类型的函数,各方的异构隐私条件,所有类型的成本度量,以及平均和最坏情况(在输入上)的准确性度量。最后,最优性结果是同时的,在最大限度地提高精度在每一方和中央观察员。
2014-10-07 cs.CR
Preventing Manipulation Attack in Local Differential Privacy using Verifiable Randomization Mechanism
用于局部差分隐私(LDP)的几种随机化机制(例如,随机化应答)被充分研究以提高效用。然而,最近的研究表明,LDP在本质上通常容易受到恶意数据提供商的攻击。因为数据收集器必须仅从已经随机化的数据估计背景数据分布,所以恶意数据提供者可以在发送之前操纵其输出,即,随机化将为他们提供合理的否认能力。攻击者可以有效地扭曲估计,因为它们是通过使用LDP协议中定义的随机化概率进行归一化来计算的,并且甚至可以控制估计。在本文中,我们将展示如何防止恶意攻击者破坏LDP协议。我们的方法是利用可验证的随机化机制。数据收集器可以验证为每个数据提供者执行商定的随机化机制的完整性。我们提出的方法完全保护LDP协议的输出操作,并显着减轻预期的损害攻击。我们不假设任何特定的攻击,它有效地对抗一般的输出操纵,因此比以前提出的对策更强大。我们描述了三个国家的最先进的LDP协议的安全版本,并根据经验表明,它们会导致可接受的开销根据几个参数。
2021-06-09 cs.CR
Evaluating the Impact of Local Differential Privacy on Utility Loss via Influence Functions
University of Arkansas(阿肯色大学)
本文提出利用影响函数估计本地差分隐私中随机响应对模型测试损失的影响,从而以较低计算成本辅助选择隐私参数,并在二分类和多分类实验中验证了其近似准确性。
2023-09-15 cs.CR cs.LG
Distributed Sketching Methods for Privacy Preserving Regression
Stanford University(斯坦福大学)
在这项工作中,我们研究了大规模回归问题的分布式草图绘制方法。我们利用多个随机草图,减少问题的尺寸,以及保护隐私和提高离散弹性异步分布式系统。我们得到新的近似保证经典的草图绘制方法和分析的精度分布草图的参数平均。我们考虑的随机矩阵,包括高斯,随机Hadamard,均匀抽样和杠杆分数抽样分布设置。此外,我们提出了一个混合的方法相结合的采样和快速随机投影更好的计算效率。我们说明了分布式草图的性能在无服务器计算平台与大规模的实验。
2020-06-20 cs.CR cs.DC cs.LG
From Theory to Comprehension: A Comparative Study of Differential Privacy and $k$-Anonymity
本文通过数学定义、隐私风险转化和随机响应三种解释方式,比较用户对差分隐私与 $k$-匿名隐私保护的理解,发现风险模型和随机响应模型能提升理解,而 $k$-匿名仍更易理解。
2024-04-05 cs.CR cs.HC
Differentially private and decentralized randomized power method
INSA Lyon and McGill University(里昂高等工业学院和麦吉尔大学)
针对随机幂方法应用于含个人信息的大规模数据集时的隐私问题,提出降低差分隐私所需噪声的改进变体,并适配去中心化框架,给出更紧收敛界且经真实数据集验证有效。
2025-06-12 cs.CR cs.LG cs.NA
Randomized Masked Finetuning: An Efficient Way to Mitigate Memorization of PIIs in LLMs
Khoury College of Computer Sciences, Northeastern University, Boston, MA, USA(东北大学科里学院计算机科学学院)
本文提出随机掩码微调方法,有效减少LLM中PII记忆,同时保持模型性能,通过实验验证其在隐私保护和效用之间的平衡。
2026-02-18 cs.CL cs.CR cs.LG
Adversarially Robust Distributed Count Tracking via Partial Differential Privacy
本文研究自适应对手下的分布式计数跟踪问题,提出部分差分隐私框架并证明新的泛化定理,从而设计出具有最优通信的鲁棒算法,证明随机化算法的√k优势来自随机性本身而非遗忘型对手假设。
2023-11-01 cs.CR cs.DS cs.LG
Successive Refinement of Privacy
University of California, Los Angeles(加州大学洛杉矶分校);University of California, San Diego(加州大学圣地亚哥分校)
这项工作探讨了一个新的问题:有多少随机性需要实现本地差分隐私(LDP)?一个激励场景是使用\emph{same}(随机化)输出向多个分析师提供{ \em多个隐私级别},用于分布或用于重量级人物估计。我们将此设置称为\emph{successive refinement of privacy},因为它提供了对具有不同隐私级别的原始数据的分层访问。例如,相同的随机化输出可以使一个分析师能够重建输入,而另一个分析师只能估计服从LDP要求的分布。这将经典的Shannon(窃听)安全设置扩展到本地差分隐私。我们提供(顺序)紧特性的隐私效用随机性权衡分布估计,包括随机性约束下的标准LDP设置在几种情况下。我们还提供了一个非平凡的多层次隐私的隐私机制。此外,我们表明,随着时间的推移,我们不能重用随机密钥,同时保护每个用户的隐私。
2020-05-24 cs.CR cs.IT cs.LG
Privacy Parameter Variation Using RAPPOR on a Malware Dataset
更严格的数据保护法规和隐私保护技术的应用不足,导致数据驱动型公司需要采用新的方法来分析敏感的用户数据。RAPPOR(随机可聚合隐私保护有序响应)方法增加了参数化噪声,必须仔细选择以保持足够的隐私而不失去分析价值。本文将RAPPOR隐私参数变化应用于包含运行Android应用程序数据列表的公共数据集。数据集过滤和采样成小(10,000);中(100,000);和大(1,200,000)样本量,同时应用RAPPOR与?= 10; 1.0;和0.1(分别为低、中、高隐私保证)。此外,为了观察高到中等隐私保证(?= 0.5 ~ 1.0),进行第二次实验。
2019-07-24 cs.CR
DPlis: Boosting Utility of Differentially Private Deep Learning via Randomized Smoothing
Tsinghua University(清华大学);Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校);Huazhong University of Science and Technology(华中科技大学);Virginia Tech(弗吉尼亚理工大学)
深度学习技术在广泛的任务中取得了卓越的性能。然而,当在隐私敏感数据集上训练时,模型参数可能暴露训练数据中的隐私信息。之前的差异化私有训练尝试,虽然提供了严格的隐私保证,但导致模型性能比非私有训练低得多。此外,同一训练算法的不同运行产生的模型具有很大的性能差异。为了解决这些问题,我们提出了DPlis--Differentially Private Learning wIth Smoothing。DPlis的核心思想是构造一个平滑的损失函数,该函数有利于位于损失景观的大平坦区域中的抗噪声模型。我们提供了理论依据的实用程序的改进DPlis。大量的实验也表明,DPlis可以有效地提高模型质量和训练稳定性在给定的隐私预算。
2021-06-20 cs.CR cs.LG stat.ML
Local Differential Privacy for Tensors in Distributed Computing Systems
针对分布式系统中张量数据的隐私保护难题,提出TLDP算法,采用随机响应机制并引入权重矩阵,在保持结构完整性的同时实现效用与隐私的平衡,经理论和实证验证效果优越。
2025-09-11 cs.CR
Privacy-Enhanced Living: A Local Differential Privacy Approach to Secure Smart Home Data
本文提出一种基于本地差分隐私和随机响应技术的智能家居数据保护系统,通过在聚合器端结合混淆方法与隐马尔可夫模型,实现双层隐私保护,以应对物联网设备带来的安全挑战。
2023-08-06 cs.CR
Building a RAPPOR with the Unknown: Privacy-Preserving Learning of Associations and Data Dictionaries
基于随机化响应的技术使得能够以具有强的本地差分隐私保证的隐私保护方式从客户端收集潜在敏感数据。最新的此类技术之一,RAPPOR,允许通过保护隐私的众包来估计任意一组字符串的边际频率。然而,这个原始的估计过程需要一组已知的可能字符串;在实践中,这个字典通常非常大,有时甚至完全未知。在本文中,我们提出了一种新的解码算法的RAPPOR机制,使估计“未知的未知数”,即,我们甚至不知道我们应该估计的字符串。为了使学习没有明确的知识的字典,我们开发的方法来估计两个或多个变量的联合分布与RAPPOR收集。这是理解以隐私保护方式收集的多个变量之间关系的关键一步。
2015-03-04 cs.CR
Amplifying Randomized Encodings & Applications
Sorbonne Université, CNRS, LIP6(索邦大学,法国国家科学研究中心,LIP6);SURF;DIENS, École Normale Supérieure, CNRS(巴黎高等师范学院,法国国家科学研究中心,DIENS)
本文证明单侧随机编码具有隐私和正确性放大,并据此解决NISZK零知识放大的开放问题,建立其与单向函数及不可区分混淆的关联。
2026-09-23 cs.CR quant-ph
Randomized algorithms for precise measurement of differentially-private, personalized recommendations
Apple(苹果公司)
本文提出一种支持精确测量且满足差分隐私的个性化推荐随机化算法,通过广告场景离线实验,量化了其对用户体验、广告主价值和平台收入等关键指标的影响。
2024-01-06 cs.CR cs.IR cs.LG
Differentially Private Learning Needs Hidden State (Or Much Faster Convergence)
National University of Singapore(新加坡国立大学)
先前的工作差分隐私分析的随机SGD算法依赖于组成定理,其中隐含的(不切实际的)假设是,内部状态的迭代算法被透露给对手。因此,通过这种基于成分的分析导出的Rényi DP界限随着训练时期的数量线性增长。当算法的内部状态是隐藏的,我们证明了一个收敛的隐私界噪声随机梯度下降(强凸光滑损失函数)。我们展示了如何通过子采样和随机后处理来利用隐私放大,并证明了“洗牌和分区”和“无替换采样”随机小批量梯度下降方案的隐私界动态性。我们证明了,在这些设置中,我们的隐私边界以指数速度收敛,并且大大小于组合边界,特别是在几个训练时期之后。因此,除非DP算法收敛快,我们的隐私分析表明,隐藏状态分析可以显着放大差分隐私。
2022-10-17 cs.CR cs.LG stat.ML
RQP-SGD: Differential Private Machine Learning through Noisy SGD and Randomized Quantization
Lehigh University(利哈伊大学);City(城市)
本文提出RQP-SGD,结合差分私有随机梯度下降与随机量化,用于低内存边缘机器学习,在凸目标和量化约束下证明其效用收敛性优于确定性量化,并在两个数据集上验证了实际有效性。
2024-02-09 cs.AI cs.CR cs.LG
Measuring Lower Bounds of Local Differential Privacy via Adversary Instantiations in Federated Learning
局部差分隐私(LDP)提供了一个强有力的隐私保证,可用于分布式环境,如联邦学习(FL)。FL中的LDP机制通过在客户端随机化梯度来保护客户端的梯度;然而,我们如何解释随机化所给出的隐私级别?此外,我们在实践中可以减轻哪些类型的攻击?为了回答这些问题,我们引入了一个经验隐私测试通过测量LDP的下限。隐私测试估计攻击者如何预测所报告的随机梯度是否是从原始梯度$g_1$或$g_2$制作的。然后,我们实例化六个对手在FL下LDP来衡量经验LDP在各种攻击面,包括最坏情况下的攻击,达到理论上的LDP上限。与对手的实例化的经验隐私测试,使我们能够更直观地解释LDP和讨论放松的隐私参数,直到一个特定的实例化的攻击表面。我们还展示了在这些对抗性设置中测量的隐私的数值观察,并且最坏情况下的攻击在FL中是不现实的。最后,我们还讨论了在LDP下FL中隐私级别的可能放宽。
2022-06-18 cs.CR
Cryptographic Randomized Response Techniques
我们开发加密安全技术,以保证投票受访者的无条件隐私。我们的构造是有效和实用的,并且被证明不允许作弊的受访者通过超过他们自己的投票来影响“理货”-这将被赋予与其他受访者完全相同的权重。我们展示了这个问题的解决方案的基础上,传统的密码技术和量子密码。
2003-05-23 cs.CC cs.CR cs.CY
Bayesian Frequency Estimation Under Local Differential Privacy With an Adaptive Randomized Response Mechanism
Sabancı University(萨班哲大学)
针对随时间顺序收集的私有分类数据,提出AdOBEst-LDP算法,通过自适应LDP机制和贝叶斯后验采样提高未来数据效用,理论分析证明其收敛性,数值结果显示其优于非自适应和半自适应方法。
2024-11-30 cs.CR cs.LG stat.ML