Connecting Randomized Response, Post-Randomization, Differential Privacy and t-Closeness via Deniability and Permutation
我们探讨了一些新的连接使用的主要隐私模型,我们还记得一些已知的。我们发现这些模型比通常理解的更相关,围绕两个主要原则:可否认性和排列。特别是,随机化响应被证明是非常现代的,尽管它已经在50多年前被引入:它是一种本地匿名化方法,并且当$ε$增加以提高效用时,它允许理解$ε$ -差分隐私提供的保护。从$ε$ -差分隐私和t-贴近度之间的联系中获得了对大$ε$在可否认性方面的效果的类似理解。最后,后的随机化方法(PRAM)被视为置换,并与随机化响应和差分隐私。由于后者也与t-贴近度有关,因此置换原理可以解释所有这些模型提供的保证。因此,校准排列在匿名化中非常重要,我们总结了两种方法。
2018-03-06 cs.CR
Differential Privacy in Federated Learning: Mitigating Inference Attacks with Randomized Response
本研究针对联邦学习中的推理攻击导致的数据泄露问题,应用差分隐私和Randomized Response技术,以duCBA算法为聚合方法,分析不同epsilon值下安全性与性能的权衡,发现更高隐私水平会降低模型准确率并导致预测不平衡。
2025-09-17 cs.AI cs.CR
Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析,以实现低延迟流处理?回答这个问题:我们描述的设计,实施和评估的PRIVAPPROX,数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性:(i)隐私:为用户提供零知识隐私保证,比最先进的差分隐私更严格的隐私约束;(ii)效用:数据分析师系统地探索输出准确性之间的权衡的接口(具有误差估计)和查询执行预算;(iii)延迟:基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起:即采样(用于近似计算的背景下)和随机响应(用于隐私保护分析的背景下)。由此产生的婚姻是互补的-它实现了更强的隐私保证,并提高了性能,这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
CPAR: Cloud-Assisted Privacy-preserving Image Annotation with Randomized KD-Forest
随着智能手机拍摄的图片数量的爆炸式增长,组织和搜索图片已经成为重要的任务。为了有效地完成这些任务,关键使能器是用适当的关键字来注释图像,从而使基于关键字的搜索和组织变得可用于图像。目前,智能手机通常与云存储平台同步相册,并在云计算的帮助下对它们的图像进行注释。然而,“卸载到云”解决方案可能导致隐私泄露,因为来自智能照片的照片包含各种敏感信息。为了隐私保护,现有的研究努力通过利用密码原语来支持对加密图像的基于云的图像注释。然而,对于每个注释,它需要云对大规模加密数据集进行线性检查,计算成本很高。本文提出了一种云辅助的隐私保护图像标注与随机kd森林,即CPAR。使用CPAR,用户可以通过利用云的力量自动为他们的图像分配关键字,并保护隐私。CPAR提出了一种新的隐私保护的随机kd森林结构,显着提高了注释性能相比,现有的研究。深入分析了CPAR的安全性。在著名的IAPR TC-12数据集上的实验验证了CPAR的有效性。
2019-02-12 cs.CR
Killing Two Birds with One Stone: Quantization Achieves Privacy in Distributed Learning
City University of Hong Kong(香港城市大学);University of Victoria(维多利亚大学)
针对分布式学习中通信效率与隐私保护需分别处理且复杂度高的问题,提出基于量化并注入二项式噪声的统一方案,在SGD中同时实现两者,并理论刻画新权衡。
2023-04-26 cs.AI cs.CR cs.LG
L-SRR: Local Differential Privacy for Location-Based Services with Staircase Randomized Response
基于位置的服务(LBS)已经得到了显著的发展,并广泛部署在移动设备中。众所周知,LBS应用程序可能会收集敏感位置,从而导致严重的隐私问题。强隐私模型“局部差分隐私"(LDP)最近已经被部署在许多不同的应用中(例如,Google RAPPOR、iOS和Microsoft Telemetry),但由于现有LDP机制的低实用性,对LBS应用程序无效。为了解决这样的缺陷,我们提出了第一个LDP框架的各种基于位置的服务(即“L-SRR”),私人收集和分析用户的位置与高效用。具体来说,我们设计了一种新的随机化机制“阶梯随机响应”(SRR),并扩展了经验估计,以显着提高SRR在不同LBS应用中的效用(例如,业务密度估计和k-最近邻)。我们在四个真实的LBS数据集上进行了广泛的实验,并与实际应用中的其他LDP方案进行了比较。实验结果表明,L-SRR明显优于它们。
2022-09-29 cs.CR
A Simple Algorithm for Estimating Distribution Parameters from $n$-Dimensional Randomized Binary Responses
随机化响应对于隐私保护数据汇集是有吸引力的,因为所提供的隐私可以通过诸如差分隐私之类的手段来量化。然而,恢复和分析涉及多个相关随机化二进制属性的统计数据可能很困难,这对使用构成了重大障碍。在这项工作中,我们解决这个问题,通过识别和分析一个家庭的响应随机改变每个二进制属性独立相同的概率。Google的Rappor随机发生器的模式以及两个著名的经典随机化回答方法,Warner的原始方法和Simmons的无关问题方法的应用都属于这个家族。我们表明,在这个家庭的随机变换多项式分布参数的可逆和双对称$2 \times 2$矩阵的迭代克罗内克积。这使我们能够提出一个简单而有效的算法,获得无偏的最大似然参数估计$k$路边际随机响应,并提供理论界的统计效率。我们还描述了效率-差分隐私权衡。重要的是,响应的随机化和估计算法都易于实现,这是隐私保护和安全技术的关键方面。
2018-07-13 cs.CR
Privacy-Optimized Randomized Response for Sharing Multi-Attribute Data
针对多属性数据共享隐私保护不足的问题,提出隐私优化的随机响应方法及高效启发式算法,在保证最强隐私的同时显著降低输出误差。
2024-02-12 cs.CR
Randomized Response Mechanisms for Differential Privacy Data Analysis: Bounds and Applications
随机响应作为差分私有机制的一个基本组成部分,在科学界引起了极大的兴趣,并发现了各种潜在的应用。在这项工作中,我们关注的是三个元素的随机响应(RR $_{3}$)以及相关的应用程序的加权二分图上的差异私人担保的分析。我们开发了一个原则性的框架,估计由RR $_{3}$为基础的机制产生的统计数据,然后证明相应的估计是无偏的。同时,我们详细研究了RR $_{3}$族中几个基本的重要成员,得到了无偏估计的封闭解。接下来,我们展示了几种基于RR $_{3}$的机制在需要局部差分隐私保证时估计加权二分图上的平均度和平均加权值的潜在应用。同时,通过最小化统计量的方差来确定相关参数的选取下限,从而设计出最优的基于RR $_{3}$的局部差分保密机制,并利用该机制对已有的协议进行了优化,提出了一个达到紧界的方案.最后,也是最重要的是,我们观察到,在分析关系数据,如加权二分图,局部差分隐私机制的隐私预算的一部分,有时会被“消耗”的机制本身意外,导致更强的隐私保证比我们会得到简单的顺序组合。
2021-12-14 cs.CR
A Randomized Approach for Tight Privacy Accounting
Princeton University(普林斯顿大学);Virginia Tech(弗吉尼亚理工大学)
本文提出差分隐私新范式EVR,通过Monte Carlo技术构建随机化隐私验证器和DP accountant,将隐私参数估计转化为严格上界保证,提升了隐私保护机器学习的效用-隐私权衡。
2023-11-21 cs.CR cs.DS cs.LG
AudioTQ: A Data-Oblivious 6-Bit CPU Audio Codec via Randomized Hadamard Rotation and Lloyd-Max Quantization
本文提出AudioTQ,一种基于随机哈达玛旋转与劳埃德-麦克斯韦量化的6位CPU时域音频编解码器,无需硬件加速即可实现实时执行,可将音频文件大小缩减74.4%,SQNR约30 dB。
2026-08-18 cs.AI cs.CR cs.SD
Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation
如何在分布式环境中实现差分隐私,其中数据集分布在不信任的各方,是一个重要的问题。我们考虑在什么条件下协议可以继承它计算的函数的差分隐私性质。问题的核心是随机函数的安全多方计算。引入了\emph{obliviousness}的概念,它捕获了在分布式环境中从确定性函数计算随机化函数时的关键安全问题。通过这一观察,给出了由确定性函数计算随机化函数的一个充要条件。上述结果不仅可以用来判断计算差分私有函数的协议是否安全,而且可以用来构造安全的差分私有函数协议。证明了如果协议秘密地计算一个函数,则计算该函数的协议可以继承该函数的差分隐私性质,并给出了差分隐私协议的合成定理。我们还构造了一些协议,以产生随机变量的分布设置,如均匀随机变量和反演方法。利用这些基本协议,我们构造了高斯机制、拉普拉斯机制和指数机制的协议。重要的是,所有这些协议都满足遗忘性,因此可以通过基于模拟的方式证明是安全的。给出了分布情形下计算随机函数的复杂性界。最后,为了证明我们的研究结果对多方差分隐私协议的有效性,我们构造了一个差异隐私的经验风险最小化协议。
2016-04-11 cs.CR cs.DB
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
Apple Inc.(苹果公司)
研究自主协商代理行为隐私泄露问题,设计自适应随机协商策略,联合保证差分隐私、报价序列收敛和高协商效用,在合成双边协商实验中降低对手推理准确率,保持高协商成功率和效用。
2026-07-09 cs.CR
A Quantization-based Technique for Privacy Preserving Distributed Learning
Khalifa University(哈利法大学);College of Engineering and IT, University of Dubai(迪拜大学工程与信息技术学院);Univ. degli Studi di Milano(米兰大学);EBTIC, Khalifa University(哈利法大学EBTIC);C2PS, Khalifa University(哈利法大学C2PS)
本文提出一种基于量化多哈希表示Hash-Comb与随机化相结合的合规数据保护技术,在分布式机器学习训练中同时保护训练数据和模型参数,并通过实验验证其鲁棒性与精度保持能力。
2024-06-26 cs.AI cs.CR
Locally Private Subgraph Counting via Noisy Adjacency Matrix and Differential Privacy on Randomized Data
Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Beijing Jiaotong University(北京交通大学);National Health Data Institute, Shenzhen(深圳市国家健康数据研究院)
本文针对无可信服务器/洗牌器的边局部差分隐私子图计数难题,提出NAM与DPRD框架,设计多类子图计数估计器,推导误差界并经实验验证其性能优于现有基线。
2026-08-27 cs.CR
Bipartite Randomized Response Mechanism for Local Differential Privacy
Anhui University(安徽大学);East China Normal University(华东师范大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出二元随机响应机制(BRR),通过效用排名将候选项目分为两部分,结合局部和全局搜索阶段优化差分隐私发布,实现显著降低期望误差。
2026-03-13 cs.CR
Distributed Differential Privacy By Sampling
在本文中,我们描述了我们的方法来实现分布式差分隐私单独采样。我们的机制工作在半诚实的设置(诚实但好奇,聚合器试图偷看数据,但遵循协议)。我们表明,实用程序保持不变,并没有降低由于方差相比,随机响应机制。此外,我们显示较小的隐私泄漏相比,随机响应机制。
2017-06-14 cs.CR
The Effect of Quantization in Federated Learning: A Rényi Differential Privacy Perspective
The Hong Kong University of Science and Technology(香港科技大学)
该研究从Rényi差分隐私角度分析联邦学习中量化技术的隐私影响,推导量化高斯机制的隐私预算,证明低比特量化可增强隐私保护,并通过成员推理攻击实验验证了理论结论。
2024-05-16 cs.CR cs.DC cs.LG
Heterogeneous Randomized Response for Differential Privacy in Graph Neural Networks
New Jersey Institute of Technology(新泽西理工学院);Qatar Computing Research Institute(卡塔尔计算研究所);University of Florida(佛罗里达大学);University of Arkansas(阿肯色大学)
图神经网络(GNN)由于能够从图数据中的节点之间的特征和边学习联合表示,因此容易受到隐私推理攻击(PIA)的影响。为了防止GNN中的隐私泄漏,我们提出了一种新的异构随机响应(HeteroRR)机制,以保护节点的特征和边缘免受差分隐私(DP)保证下的PIA攻击,而不会在训练GNN时产生不必要的数据和模型效用成本。我们的想法是平衡的重要性和敏感性的节点的特征和边缘在重新分配的隐私预算,因为一些功能和边缘比其他更敏感或重要的模型效用。因此,我们在节点的特征和边缘两个级别上获得了明显更好的随机化概率和更严格的误差界限,从而使我们能够保持高数据效用来训练GNN。使用基准数据集进行的广泛的理论和实证分析表明,HeteroRR在节点特征和边缘的严格隐私保护下,在模型效用方面显著优于各种基线。这使我们能够有效地在DP保持GNN中捍卫PIA。
2022-11-10 cs.CR cs.LG
Communication-Efficient Laplace Mechanism for Differential Privacy via Random Quantization
提出首个通过随机量化技术精确实现拉普拉斯机制的通信高效方法,仅需有限通信量且无效用损失,同时抵御诚实但好奇服务器的解码攻击。
2023-09-13 cs.CR
Privacy-Preserving Randomized Controlled Trials: A Protocol for Industry Scale Deployment
在本文中,我们概述了一种在5亿行数据和超过10亿个门的规模上为多方随机对照试验部署隐私保护协议的方法。随机对照试验(RCT)被广泛用于改善医疗保健,教育,犯罪学和营销等各个部门的业务和政策决策。随机对照试验是一种科学严谨的方法来衡量治疗的有效性。这是通过将受试者随机分配到两个或多个组,以不同的方式对待他们,然后比较各组的结果来实现的。在许多情况下,多方持有用于进行和分析RCT的数据的不同部分。考虑到各方的隐私要求和期望,集中存储数据来进行和分析RCT通常具有挑战性。我们通过一个三阶段的解决方案来实现这一点。第一阶段使用私有秘密共享集合交集(PS $^3$ I)解决方案来创建联合集合并建立秘密共享而不暴露成员身份,同时丢弃被放置到多个组中的个体。第二阶段在分片数据库上运行通用MPC的多个实例,以汇总每个实验组的统计数据,同时丢弃在接受治疗之前采取行动的个体。第三阶段将分布式和校准的差分隐私(DP)噪声添加到聚合统计和不确定性度量中,提供正式的双侧隐私保证。我们还评估了多个开源通用MPC库的性能。我们还展示了我们如何使用它来创建一个有效的广告效果测量产品,每个实验能够测量数亿人。
2021-08-11 cs.CR cs.DC
Privacy-Preserving Speech Representation Learning using Vector Quantization
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林计算机科学及其应用研究实验室);Le Mans Université(勒芒大学);LIUM(勒芒大学信息学实验室)
随着虚拟助理(例如,Siri、Alexa),语音识别的使用现在越来越广泛。然而,语音信号包含了很多敏感信息,比如说话人的身份,实验结果表明,语音识别网络深层提取的语音表示中包含说话人信息,本文旨在产生一种匿名的语音表示,同时保持语音识别性能。为此,我们提出使用矢量量化来约束表示空间,并诱导网络抑制说话人身份,量化字典大小的选择允许在实用性(语音识别)和隐私性(说话人身份隐藏)之间进行权衡。
2022-03-15 cs.AI cs.CL cs.CR
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley(加州大学伯克利分校)
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要,安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术,如进程演算和概率模型检验。在本文中,我们考虑的问题,验证实现的随机化协议。与以前的方法,把协议作为一个白盒,我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后,这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性,我们比较了我们的技术与概率模型检验技术的两个例子:人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
Protecting Big Data Privacy Using Randomized Tensor Network Decomposition and Dispersed Tensor Computation
Nanyang Technological University(南洋理工大学);RIKEN(理化学研究所);Singapore Management University(新加坡管理大学);University of Southern California(南加州大学)
数据隐私是组织和企业在云/雾上安全地外包数据存储,共享和计算的重要问题。然而,数据加密在密钥管理和分发方面是复杂的;现有的安全计算技术在计算/通信成本方面是昂贵的,因此不能扩展到大数据计算。张量网络分解和分布式张量计算在信号处理和机器学习中被广泛用于降维和大规模优化。然而,分布式张量网络在大数据隐私保护方面的潜力还没有被考虑过,这激发了目前的研究。我们的主要直觉是,张量网络表示在数学上是不唯一的,不可解释的,无法解释的;张量网络表示自然支持压缩和分布式/分散计算的一系列多线性运算。因此,我们提出了随机算法来将大数据分解成随机张量网络表示,并分析了1D到3D数据张量的隐私泄漏。随机性主要来自大数据中常见的复杂结构信息;随机化是基于在分解之前应用于张量块的受控扰动。分布式张量表示分散在具有元数据隐私的多个云/雾或服务器/设备上,这提供了分布式信任和管理,以无缝地保护大数据存储,通信,共享和计算。实验结果表明,所提出的随机化技术有助于大数据的匿名化,提高了大数据存储和计算的效率。
2021-01-04 cs.CR cs.CV
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology(佐治亚理工学院);Google Research(谷歌研究院)
针对联邦学习中的隐私与通信挑战,提出随机量化机制(RQM),通过两级随机化实现Rényi差分隐私,无需显式离散噪声,在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
Joint Privacy Enhancement and Quantization in Federated Learning
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
联邦学习(FL)是一种新兴的范例,用于使用边缘设备上可用的可能私有数据来训练机器学习模型。FL的分布式操作带来了集中式机器学习中没有遇到的挑战,包括需要保护本地数据集的隐私,以及由于重复交换更新模型而产生的通信负载。这些挑战通常通过在更新的模型上引起一些失真的技术来单独解决,例如,局部差分隐私(LDP)机制和有损压缩。在这项工作中,我们提出了一种新的方法联合隐私增强和量化(JoPEQ),它联合实现有损压缩和隐私增强FL设置。特别地,JoPEQ利用基于随机网格的矢量量化,这是一种通用压缩技术,其副产品失真在统计上等同于加性噪声。利用这种失真,通过用专用的多变量隐私保护噪声增强模型更新来增强隐私。我们表明,JoPEQ同时根据所需的比特率量化数据,同时保持所需的隐私级别,而不会显着影响学习模型的效用。这是通过分析LDP的保证,失真和收敛范围的推导,和数值研究。最后,我们凭经验断言,JoPEQ拆除已知利用隐私泄露的常见攻击。
2022-08-23 cs.CR cs.LG
RHyTHM: A Randomized Hybrid Scheme To Hide in the Mobile Crowd
如果到凭证管理基础设施的连接是间歇性的,则任何按需假名获取策略都是有问题的。如果车辆用完了假名而没有连接来重新填充其假名池,则一种解决方案是即时生成假名,例如,利用匿名身份验证。然而,这样的车辆将在人群中脱颖而出:人们可以简单地区分假名,从而基于假名发行者签名来签名消息,将它们链接并跟踪车辆。为了应对这一挑战,我们提出了一个随机混合方案,RHyTHM,使车辆在断开连接时保持运行,而不影响隐私:具有有效别名的车辆可以通过随机加入使用即时自我认证的别名以及对齐的生命周期来帮助其他人提高他们的隐私。通过这种方式,断开连接的用户的隐私通过合理的计算开销得到增强。
2017-12-09 cs.CR
Locally Differentially Private Frequency Estimation via Joint Randomized Response
针对 LDP 频率估计中隐私与效用的权衡,本文提出基于两人组相关扰动的 JRR 机制,在保持与经典 RR 同等隐私保证的同时,将估计精度最高提升两个数量级。
2025-06-15 cs.CR
Degree-Preserving Randomized Response for Graph Neural Networks under Local Differential Privacy
KDDI Research, Inc.(KDDI研究所);ISM(统计数学研究所);AIST(日本产业技术综合研究所)
提出DPRR算法,通过Warner的随机响应、策略性边采样和Laplace机制在局部差分隐私下保护图神经网络中的边并保留图结构,在图分类任务中准确率接近非私有算法并防御数据投毒攻击。
2024-06-01 cs.CR cs.LG
Inference-Based Similarity Search in Randomized Montgomery Domains for Privacy-Preserving Biometric Identification
相似性搜索对于许多重要的应用是必不可少的,并且通常涉及基于其与查询的相似性对高维数据进行大规模搜索。在生物识别应用中,最近的漏洞研究表明,对抗性机器学习可以通过利用生物识别相似性信息来危害生物识别系统。现有的生物计量隐私保护方法通常基于安全生物计量模板的成对匹配,并且在搜索效率和可扩展性方面具有固有的限制。在本文中,我们提出了一个基于推理的框架,隐私保护的相似性搜索在汉明空间。我们的方法建立在一个模糊的距离测量,可以隐藏汉明距离在一个动态的间隔。这样的机制使我们能够系统地设计统计可靠的方法来检索最有可能的候选人,而不知道确切的距离值。我们进一步建议应用蒙哥马利乘法生成搜索索引,可以承受对抗性的相似性分析,并表明随机蒙哥马利域的信息泄漏可以忽略不计的小。我们在公共生物特征数据集上的实验表明,基于推理的方法可以实现接近安全计算方法的最佳性能的搜索精度,但与加密原语相比,相关的成本降低了几个数量级。
2017-11-05 cs.CR cs.IR
Bits for Privacy: Evaluating Post-Training Quantization via Membership Inference
Department of Computer Science University of Luxembourg(计算机科学系卢森堡大学);Department of Computer Science Nanjing University(计算机科学系南京大学)
研究通过成员推断攻击评估训练后量化在隐私和效用之间的平衡,发现低精度量化可显著降低隐私泄露风险,但会牺牲模型效用。
2025-12-17 cs.CR cs.LG
Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy
Department of Computer Science, Technical University of Munich(慕尼黑技术大学计算机科学系);Munich Data Science Institute(慕尼黑数据科学研究所);MCML;Machine Learning Research, Morgan Stanley(摩根大通机器学习研究)
本文提出一种基于对偶视角的微分隐私框架,用于证明对抗性扰动下的鲁棒性,通过整合随机平滑与隐私配置文件,提供对训练时间和推理时间攻击的联合鲁棒性保证。
2026-05-20 cs.CR cs.LG
Castell: Scalable Joint Probability Estimation of Multi-dimensional Data Randomized with Local Differential Privacy
在多维数据上执行随机化响应(RR)会受到维数灾难的影响。随着属性数量的增加,属性-值组合数量的指数增长极大地影响了计算成本和RR估计的准确性。在本文中,我们提出了一个新的多维RR计划,随机所有属性独立,然后聚集这些随机化矩阵到一个单一的聚合矩阵。然后估计多维联合概率分布。可以以轻量计算成本(即,相对于维度是线性的)并且具有可管理的存储要求。为了克服精度的限制,我们提出了两个扩展的基线协议,称为{ \em混合}和{ \em截断}计划。最后,我们使用合成的和主要的开源数据集进行了实验,这些数据集具有不同的属性数量、域大小和受访者数量。使用UCI Adult数据集的结果给出了估计的和真实的(2到6路)联合概率之间的平均距离,对于{\em truncated}方案为$0.0099$,对于{ \em hybrid}方案为$0.0155$,而对于LoPub方案为$0.03$和$0.04$,LoPub是最先进的多维LDP方案。
2022-12-03 cs.CR
Privacy Preserving Gaze Estimation using Synthetic Images via a Randomized Encoding Based Framework
University of Tübingen(图宾根大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
眼动追踪是评估和评估人类注意力、行为和生物特征的应用的关键技术之一,特别是使用凝视、瞳孔和眨眼行为。然而,关于眼动追踪技术的社会接受度的挑战之一是敏感和个人信息的保存。为了解决这个问题,我们采用了一个隐私保护框架的基础上随机编码训练支持向量回归模型使用合成的眼睛图像私人估计人类的目光。在计算过程中,任何一方都不知道其他任何一方拥有的数据或结果。此外,训练模型的一方不能重建瞳孔、眨眼或视觉扫描路径。实验结果表明,我们的隐私保护框架是能够在实时工作,具有相同的精度相比,非私人版本,并可以扩展到其他眼动追踪相关的问题。
2021-07-13 cs.CR cs.CV cs.HC
Randomized Distributed Function Computation (RDFC): Ultra-Efficient Semantic Communication Applications to Privacy
Technische Universität Dortmund(多特蒙德工业大学);Linköping University(林雪平大学)
RDFC通过随机化方法实现隐私保护的高效语义通信,其在无共享随机性时仍优于无损传输,且在有限块长下隐私性能显著提升。
2026-03-10 cs.CR cs.DC cs.IT
Randomized Nested Polar Subcode Constructions for Privacy, Secrecy, and Storage
我们考虑极化子码(PSC),其是具有动态冻结符号的极化码(PC),以与对应的PC相比增加最小距离。提出了一种随机嵌套PSC结构,它由一个低速率PSC和一个高速率PC组成,可用于列表和顺序连续消除解码器。该代码构造旨在利用边信息执行有损压缩。嵌套PSC被用于具有物理标识符的密钥协商问题。与具有相同列表大小的嵌套PC相比,在秘密密钥与存储速率比率方面的增益被示出以表明嵌套PSC在嵌套PC上显着改善。嵌套的PSC的性能提高较大的列表大小,这是不是嵌套PC的情况下考虑。
2020-07-29 cs.CR cs.IT cs.MM
Differentially Private and Communication Efficient Large Language Model Split Inference via Stochastic Quantization and Soft Prompt
Zhejiang University, Hangzhou, China(浙江大学);University of Science and Technology of China, Anhui, China(中国科学技术大学)
本文提出DEL框架,通过随机量化和软提示实现差分隐私和通信高效的LLM分拆推理,有效平衡隐私与效用。
2026-02-12 cs.AI cs.CR
Quantization enabled Privacy Protection in Decentralized Stochastic Optimization
Clemson University(克莱姆森大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
分散式随机最优化通过使多个智能体在没有中央协调器的情况下协作解决全局最优化问题,在机器学习、控制和传感器网络等领域获得越来越多的关注。由于相关数据通常包含敏感信息,如用户位置和个人身份,隐私保护已成为分散随机最优化实现的关键需求。在本文中,我们提出了一个分散的随机最优化算法,即使在存在侵略性的量化误差,量化输入的幅度成比例的情况下,能够保证可证明的收敛精度。结果适用于凸和非凸目标函数,并使我们能够利用积极的量化方案来混淆共享信息,从而使隐私保护,而不会失去可证明的优化精度。实际上,通过使用一个{随机}三进制量化方案,将任意值量化到三个数值水平,我们在分散随机最优化中实现了基于量化的严格差分隐私,这在以前还没有报道过。结合所提出的量化方案,所提出的算法确保,第一次,严格的差分隐私分散随机最优化,而不失去可证明的收敛精度。分布式估计问题的仿真结果以及在基准机器学习数据集上进行分散学习的数值实验证实了所提出方法的有效性。
2022-08-07 cs.CR cs.LG cs.SY
Purifying Approximate Differential Privacy with Randomized Post-processing
University of California, San Diego(加州大学圣地亚哥分校)
该研究提出“净化”框架,在特定条件下将(ε, δ)-近似差分隐私机制转换为(ε', 0)-纯DP机制,通过随机后处理消除δ参数,实现近最优隐私-效用权衡,为纯DP算法设计提供新策略并应用于多任务场景。
2025-11-17 cs.CR cs.LG stat.ML
Quantization Enables Private Dense Retrieval against Malicious Service Providers
École de technologie supérieure(高等技术学院);Mila(米拉研究所);Eurecom(欧洲通信学院);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
针对恶意服务器,提出两轮密码协议实现私有稠密检索,利用低比特量化降低计算成本,实验表明三比特量化在分钟级延迟下保持检索质量。
2026-09-30 cs.AI cs.CR
Low Influence, Utility, and Independence in Differential Privacy: A Curious Case of $3 \choose 2$
我们研究了随机化低影响函数和差分私有机制之间的关系。我们的主要目的是正式确定是否差异私人机制是低影响力,以及是否低影响力的随机功能可以差异私人。我们表明,差分隐私并不一定意味着低影响力在正式意义上。然而,低影响意味着近似的差分隐私。这些结果适用于独立和非独立的随机机制,其中前者的一个重要实例是广泛使用的加性噪声技术在差分隐私文献。我们的研究还揭示了有趣的动态之间的效用,低影响力和独立性的差异私人机制。正如本文的名称所示,我们表明,任何两个这样的功能是同时可能的。然而,为了有一个差异私人机制,既有效用和低的影响力,即使在一个非常温和的效用条件下,一个必须采用非独立的机制。
2021-02-07 cs.CR cs.IT math.IT
Improving the Variance of Differentially Private Randomized Experiments through Clustering
Google Research(谷歌研究院)
提出差分隐私机制Cluster-DP,利用数据聚类结构在保证隐私的同时降低因果效应估计的方差惩罚,并在真实与模拟数据上验证了其优于基线的性能。
2025-05-28 cs.CR cs.LG stat.ME
Design of Stochastic Quantizers for Privacy Preservation
Graduate School of Advance Science and Engineering, Hiroshima Univeristy(广岛大学先进理工学研究科)
本文研究随机量化器的隐私保护作用,分析静态量化器的隐私保证与性能权衡,进一步提出动态随机量化器,可在同等控制性能下提升隐私水平,并通过高斯噪声处理不稳定场景。
2024-03-05 cs.CR cs.SY eess.SY
Tight Differential Privacy Guarantees for the Shuffle Model with $k$-Randomized Response
本文推导了使用 $k$-随机响应本地随机化器的 shuffle 模型已知最严格的差分隐私保证界,并通过矩阵求逆去噪方法评估直方图查询效用,实验证明在相同隐私水平下 shuffle 模型与中心模型统计效用几乎可比。
2024-04-29 cs.CR
Differentially private and decentralized randomized power method
INSA Lyon and McGill University(里昂高等工业学院和麦吉尔大学)
针对随机幂方法应用于含个人信息的大规模数据集时的隐私问题,提出降低差分隐私所需噪声的改进变体,并适配去中心化框架,给出更紧收敛界且经真实数据集验证有效。
2025-06-12 cs.CR cs.LG cs.NA
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私(LDP)的浏览用户发送他的嘈杂的偏好配置文件,扰动布隆过滤器,服务提供商。这种方法的独创性是多方面的。首先,据我们所知,该方法是第一个在用户侧包括两个扰动轮- PRR(永久随机响应)和IRR(瞬时随机响应)-在一个完整的用户简档。其次,建立了完整的验证实验链,使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码,使用聚类Kmeans工具对用户进行聚类。第三,大量的实验表明,我们的方法实现了良好的实用性和隐私的权衡,即90 $\%$聚类成功率,分别。80.3 $\%$,分别用于LDP $ε= 0.8$的值。$ε= 2$。第四,实验和理论分析给出了具体的结果,我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
Distributed Sketching Methods for Privacy Preserving Regression
Stanford University(斯坦福大学)
在这项工作中,我们研究了大规模回归问题的分布式草图绘制方法。我们利用多个随机草图,减少问题的尺寸,以及保护隐私和提高离散弹性异步分布式系统。我们得到新的近似保证经典的草图绘制方法和分析的精度分布草图的参数平均。我们考虑的随机矩阵,包括高斯,随机Hadamard,均匀抽样和杠杆分数抽样分布设置。此外,我们提出了一个混合的方法相结合的采样和快速随机投影更好的计算效率。我们说明了分布式草图的性能在无服务器计算平台与大规模的实验。
2020-06-20 cs.CR cs.DC cs.LG
Randomized Masked Finetuning: An Efficient Way to Mitigate Memorization of PIIs in LLMs
Khoury College of Computer Sciences, Northeastern University, Boston, MA, USA(东北大学科里学院计算机科学学院)
本文提出随机掩码微调方法,有效减少LLM中PII记忆,同时保持模型性能,通过实验验证其在隐私保护和效用之间的平衡。
2026-02-18 cs.CL cs.CR cs.LG
Evaluating the Impact of Local Differential Privacy on Utility Loss via Influence Functions
University of Arkansas(阿肯色大学)
本文提出利用影响函数估计本地差分隐私中随机响应对模型测试损失的影响,从而以较低计算成本辅助选择隐私参数,并在二分类和多分类实验中验证了其近似准确性。
2023-09-15 cs.CR cs.LG
From Theory to Comprehension: A Comparative Study of Differential Privacy and $k$-Anonymity
本文通过数学定义、隐私风险转化和随机响应三种解释方式,比较用户对差分隐私与 $k$-匿名隐私保护的理解,发现风险模型和随机响应模型能提升理解,而 $k$-匿名仍更易理解。
2024-04-05 cs.CR cs.HC
Summary Statistic Privacy in Data Sharing
Microsoft Research(微软研究院);Carnegie Mellon University(卡内基梅隆大学)
本文针对数据共享中保护均值、标准差等汇总统计量不被泄露的问题,提出汇总统计隐私度量,并设计一类量化机制,在理论和真实数据上均实现了更优的隐私-失真权衡。
2023-10-27 cs.CR cs.LG
Distributed Additive Encryption and Quantization for Privacy Preserving Federated Deep Learning
同态加密是隐私保护联邦学习中非常有用的梯度保护技术。然而,现有的加密联邦学习系统需要可信的第三方来生成密钥对并将其分发给连接的参与者,这使得它们不适合联邦学习并且容易受到安全风险的影响。此外,加密所有模型参数是计算密集型的,特别是对于大型机器学习模型,例如深度神经网络。为了缓解这些问题,我们开发了一种实用的,计算效率高的基于加密的协议,用于联合深度学习,其中密钥对是在没有第三方帮助的情况下协作生成的。该方法通过在客户端对模型参数进行量化,在服务器端进行近似聚集,避免了对整个模型的加密和解密。此外,设计了一种基于门限的秘密共享技术,使得任何人都不能持有用于解密的全局私钥,而聚合密文可以被门限数量的客户端成功解密,即使某些客户端离线。实验结果表明,与现有的加密联邦学习相比,该方法在不影响性能和安全性的前提下,显著降低了通信开销和计算复杂性。
2020-11-25 cs.CR cs.DC
Adversarially Robust Distributed Count Tracking via Partial Differential Privacy
本文研究自适应对手下的分布式计数跟踪问题,提出部分差分隐私框架并证明新的泛化定理,从而设计出具有最优通信的鲁棒算法,证明随机化算法的√k优势来自随机性本身而非遗忘型对手假设。
2023-11-01 cs.CR cs.DS cs.LG
DPlis: Boosting Utility of Differentially Private Deep Learning via Randomized Smoothing
Tsinghua University(清华大学);Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校);Huazhong University of Science and Technology(华中科技大学);Virginia Tech(弗吉尼亚理工大学)
深度学习技术在广泛的任务中取得了卓越的性能。然而,当在隐私敏感数据集上训练时,模型参数可能暴露训练数据中的隐私信息。之前的差异化私有训练尝试,虽然提供了严格的隐私保证,但导致模型性能比非私有训练低得多。此外,同一训练算法的不同运行产生的模型具有很大的性能差异。为了解决这些问题,我们提出了DPlis--Differentially Private Learning wIth Smoothing。DPlis的核心思想是构造一个平滑的损失函数,该函数有利于位于损失景观的大平坦区域中的抗噪声模型。我们提供了理论依据的实用程序的改进DPlis。大量的实验也表明,DPlis可以有效地提高模型质量和训练稳定性在给定的隐私预算。
2021-06-20 cs.CR cs.LG stat.ML