Defense against Poisoning Attacks under Shuffle-DP
Nanyang Technological University(南洋理工大学);OceanBase, Ant Group(蚂蚁集团);Zhejiang University(浙江大学)
本文提出一种通用防御框架,可将任意Shuffle-DP协议转换为抗污染攻击的版本,同时保持高分析结果的效用。
2026-05-01 cs.CR cs.DB
On the Renyi Differential Privacy of the Shuffle Model
本文研究的中心问题是随机隐私模型中一般离散局部机制的Renyi差分隐私(RDP)保证。在混洗模型中,每个$n$客户端使用本地差异私有(LDP)机制随机化其响应,并且不可信服务器仅接收客户端响应的随机排列(混洗),而不与每个客户端关联。本文的主要结果是第一个非平凡的RDP保证一般离散局部随机化机制在洗牌隐私模型,我们开发了新的分析技术,得出我们的结果可能是独立的利益。在应用程序中,这样的RDP保证在我们使用它来组成几个私有交互时最有用。我们数值证明,对于重要的制度,与组合我们的边界产生的$8\times$的一个因素,在最先进的近似差分隐私(DP)保证(与标准组成)洗牌模型的隐私保证的改善。此外,结合泊松子采样,我们的结果导致至少$10\times$改进与标准组合的子采样近似DP。
2021-05-11 cs.CR cs.LG
Concurrent Shuffle Differential Privacy Under Continual Observation
Google Research(谷歌研究院);Tel Aviv University(特拉维夫大学)
介绍了差分隐私的并发混洗模型。在这个模型中,我们有多个并发的shufflers来排列来自不同的、可能重叠的用户批次的消息。与标准(单)混洗模型类似,隐私要求是所有混洗消息的串联应该是差异隐私的。我们研究了私有连续求和问题(也称为连续求和问题)。计数器问题),并且示出了与标准(单个)混洗模型相比,并发混洗模型允许显著改进的误差。具体地说,我们给出了一个求和算法的错误$\tilde{O}(n^{1/(2k+1)})$与$k$并发洗牌长度$n$序列。此外,我们证明了这个界是紧的任何$k$,即使该算法可以自适应地选择批量的大小。对于$k=\log n$洗牌机,产生的误差是多对数的,比$\tildeΘ(n^{1/3})$好得多,我们表明这是最小的可能与一个单一的洗牌。我们使用我们的在线求和算法得到改进的遗憾界算法的上下文线性强盗问题。特别是我们得到最佳的$\tilde{O}(\sqrt{n})$遗憾与$k= \tildeΩ(\log n)$并发洗牌。
2023-01-29 cs.CR cs.LG
RAIN: Secure and Robust Aggregation under Shuffle Model of Differential Privacy
Beijing Institute of Technology(北京理工大学);Minzu University of China(中央民族大学)
RAIN提出了一种在差分隐私洗牌模型下实现安全、稳健和可验证的聚合框架,通过符号空间聚合和秘密共享协议提升隐私保护和对抗鲁棒性。
2026-03-03 cs.CR
Tight Differential Privacy Blanket for Shuffle Model
随着最近对数字经济的关注,个人数据的重要性最近大幅增加。随着这一趋势的发展,数据市场的模式开始成为一个以获得高质量个人信息为交换动机的过程。为了正式保证保护数字经济中涉及的敏感数据的隐私,\emph{differential privacy (DP)}是首选技术,最近引起了社区的广泛关注。然而,通过确保最高级别的隐私保护,同时保留数据的实用性,优化隐私-实用性权衡至关重要。在本文中,我们从理论上推导出充分和必要条件,有紧$(ε,\,δ)$ -DP毯的洗牌模型,据我们所知,还没有被证明之前,并因此,表征最好的可能的DP保护洗牌模型,可以在数据市场中实施,以确保隐私保护的数字经济交易。
2022-05-09 cs.CR
The Privacy Blanket of the Shuffle Model
The Alan Turing Institute(艾伦·图灵研究所);Cambridge University(剑桥大学);Warwick University(华威大学);Georgetown University(乔治城大学)
本工作研究差分隐私的背景下,最近提出的洗牌模型。在本地模型中,从用户收集私有化数据的服务器可以追踪到特定用户的输入,而在洗牌模型中,用户匿名地向服务器提交他们的私有化输入。这种设置产生了一个信任模型,它位于经典的管理者和本地模型之间的差分隐私。洗牌模型是Bittau等人(SOPS 2017)引入的编码、洗牌、分析(ESA)模型的核心思想。Cheu等人最近的工作(EUROPHOTOPT 2019)分析了shuffle模型的差分隐私属性,并表明在某些情况下,shuffle协议提供的准确性严格优于本地协议。此外,Erlingsson等人(SODA 2019)提供了一个隐私放大边界,根据每个用户使用的随机发生器的局部差分隐私,量化了洗牌模型实现的管理者差分隐私水平。在这方面,我们作出三项贡献。首先,我们提供了一个最佳的单消息协议,在洗牌模型中的实数求和。我们的协议是非常简单的,有更好的准确性和通信比Cheu等人提出的这个相同的问题的协议。这个协议的最优性如下从我们的第二个贡献,一个新的下限的准确性私人协议的实数求和的洗牌模型。第三个贡献是一个新的放大界分析的隐私协议在洗牌模型的隐私提供相应的本地随机发生器。我们的放大界推广了Erlingsson等人的结果。更广泛的参数范围,并提供了一个完整的家庭的方法来分析隐私放大洗牌模型。
2019-06-02 cs.CR cs.LG stat.ML
Walking to Hide: Privacy Amplification via Random Message Exchanges in Network
洗牌模型是一个强大的工具,可以放大差分隐私的本地模型的隐私保证。与在本地模型中保证隐私的完全分散的方式相反,洗牌模型需要一个中央的、可信的洗牌器。为了避免这种中央洗牌机,Liew等人(2022)的最新工作提出了通过客户端构成的通信网络上的随机游走,以分散的方式对本地随机数据进行洗牌。因此,它提供的隐私放大边界取决于底层通信网络的拓扑结构,即使是无限长的随机游走。它不匹配shuffle模型的现有技术的隐私放大(Feldman等人,2021年)。在这项工作中,我们证明了~ $n$客户端的数据的输出,每个由$ε_0$本地随机发生器扰动,并通过随机游走与对数的步骤,洗牌,是$( {O} ( (1 - e^{-ε_0} ) \sqrt{ ( e^{ε_0} / n ) \ln (1 / δ) } ), O(δ) )$ -差分私有的。重要的是,该界限独立于通信网络的拓扑结构,并且渐进地闭合网络洗牌模型的隐私放大界限之间的差距(Liew等人,2022)和洗牌模型(Feldman等人,2021年)。我们的证明是基于减少洗牌模型,并分析了分布的随机游动的有限长度。在此基础上,我们进一步表明,如果每个客户端独立采样概率~ $p$,网络洗牌模型的隐私保证可以进一步提高到$( {O} ( (1 - e^{-ε_0} ) \sqrt{p ( e^{ε_0} / n ) \ln (1 / δ) } ) , O…
2022-06-20 cs.CR
Fully Oblivious Differential Privacy for Frequency Estimation in the Augmented Shuffle Model with Trusted Processors
ISM/ROIS/AIST/RIKEN AIP(综合研究大学院大学/日本国立自然科学研究所/产业技术综合研究所/理化学研究所人工智能研究中心);UEC(电气通信大学);AIST(产业技术综合研究所)
针对混洗模型中混洗器与数据收集者共谋的信任问题,引入可信执行环境(TEE)并定义全遗忘差分隐私(FODP),提出基于内存大小混淆的通用框架及三种具体算法,利用计数最小草图优化效率,在Intel SGX上验证有效性。
2026-08-28 cs.CR
Differential Privacy in the Shuffle Model: A Survey of Separations
差分隐私通常在两种模型中进行研究。在中心模型中,单个分析器负责对数据执行隐私保护计算。但在本地模型中,每个数据所有者都会确保自己的隐私。虽然它消除了信任分析器的需要,但本地隐私是有代价的:在解决许多学习和估计问题时,本地私有协议不如集中私有协议准确。洗牌模型中的协议被设计成两全其美:最近的工作表明,只有温和的信任假设就可以实现高准确性。这篇调查论文概述了新的洗牌协议,以及建立新模型的下限。我们还总结了工作,显示在洗牌模型的互动性的承诺。
2022-05-24 cs.CR cs.DS
Tight Accounting in the Shuffle Model of Differential Privacy
Nokia Bell Labs(诺基亚贝尔实验室);Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
差分隐私的Shuffle模型是一种基于局部隐私机制和安全Shuffler相结合的分布式隐私模型。已经表明,由洗牌器提供的额外随机化与纯本地机制相比提高了隐私界限。然而,会计紧边界由于洗牌带来的复杂性而变得复杂。最近提出的数值技术,用于评估$(\varepsilon,δ)$ -差分隐私保证已被证明比常用的各种复杂机制的组合物的方法给出更严格的界限。在本文中,我们展示了如何使用Feldman等人(2021)的分析获得一般$\varepsilon$ -LDP混洗器的自适应组合的准确界,以及如何使用Balle等人(2019)的分析获得$k$ -随机响应机制的混洗器的自适应组合的紧界。我们将展示如何加快评估所产生的隐私损失分布从$\mathcal{O}(n^2)$到$\mathcal{O}(n)$,其中$n$是用户的数量,而不会产生明显的变化$δ(\varepsilon)$上限。我们还证明了现有的界限和方法在文献中发现的松散,改善以前的组合物的结果显着。
2022-01-31 cs.CR cs.LG stat.ML
Renyi Differential Privacy of the Subsampled Shuffle Model in Distributed Learning
我们在分布式学习框架中研究隐私,在该框架中,客户端通过与我们需要隐私的服务器进行交互,协同迭代地构建学习模型。受随机优化和联邦学习(FL)范式的启发,我们关注的情况下,一小部分数据样本在每一轮随机子采样参与学习过程,这也使隐私放大。为了获得更强的本地隐私保证,我们在洗牌隐私模型中对此进行了研究,其中每个客户端使用本地差分隐私(LDP)机制随机化其响应,服务器仅接收客户端响应的随机排列(洗牌),而不与每个客户端关联。本文的主要结果是一个隐私优化性能权衡离散随机化机制,在这个子采样洗牌隐私模型。这是通过一个新的理论技术来分析的子采样洗牌模型的Renyi差分隐私(RDP)。我们数值证明,对于重要的制度,与组合我们的界产生显着改善的隐私保证在国家的最先进的近似差分隐私(DP)的保证(强成分)的子采样洗牌模型。我们还展示了使用真实数据集的隐私学习性能操作点在数值上的显着改善。
2021-07-19 cs.CR cs.IT cs.LG
Applying the Shuffle Model of Differential Privacy to Vector Aggregation
在这项工作中,我们介绍了一个新的协议,矢量聚合的背景下,洗牌模型,最近的模型内差分隐私(DP)。它位于集中式模型和本地模型之间,集中式模型优先考虑数据的准确性水平,而本地模型则通过更高的噪声要求来抵消信任的提高。Shuffle模型的开发是为了通过增加一个shuffle步骤在这两个模型之间提供一个良好的平衡,该步骤将用户从他们的数据中解脱出来,同时保持适度的噪声要求。我们使用高级合成结果为Shuffle模型中的实向量求和提供了单一消息协议。我们的贡献提供了一种机制,使私人聚合和分析更复杂的结构,如矩阵和高维张量,这两者都依赖于向量的情况下的功能。
2022-01-31 cs.CR
Segmented Private Data Aggregation in the Multi-message Shuffle Model
本文首次在多消息混洗差分隐私模型中研究分段私有数据聚合,通过为用户提供灵活隐私保护并匿名化隐私级别选择,优化毯式消息配置和隐私放大分析,使估计误差降低约50%。
2024-12-29 cs.CR
Augmented Shuffle Differential Privacy Protocols for Large-Domain Categorical and Key-Value Data
针对现有增强混洗DP协议无法适配大域数据的问题,提出基于哈希过滤和多重加密的FME协议,可高效完成大域分类与键值数据的频率估计,兼具隐私性、抗攻击性和准确性。
2025-09-02 cs.CR
Multi-Message Shuffled Privacy in Federated Learning
University of California, Los Angeles(加州大学洛杉矶分校)
我们研究通信约束下的差分私有分布式优化。使用SGD进行优化的服务器聚合客户端局部梯度,以使用分布式均值估计(DME)进行模型更新。我们开发了一个通信效率的私人DME,使用最近开发的多消息混洗(MMS)的隐私框架。我们分析了我们提出的DME方案,以表明它实现了顺序最优的隐私-通信-性能权衡,解决了[1]中的一个公开问题,即洗牌模型是否可以改善安全聚合中获得的权衡。这也解决了MMS模型中私有向量和的最佳权衡问题。我们通过一种新的隐私机制来实现它,该机制在不同分辨率的局部梯度向量上非均匀地分配隐私。这些结果被直接应用到私人分布式学习算法使用此私人梯度聚集迭代的保证。我们还数值评估私人DME算法。
2023-02-22 cs.CR cs.LG
Camel: Communication-Efficient and Maliciously Secure Federated Learning in the Shuffle Model of Differential Privacy
本文提出Camel框架,在差分隐私洗牌模型中通过秘密共享洗牌、完整性检查和更紧的RDP隐私损失界,实现通信高效且抗恶意攻击的联邦学习,实验证明其隐私-效用权衡优于现有方法。
2024-10-04 cs.CR
Differentially Private Triangle and 4-Cycle Counting in the Shuffle Model
子图计数是分析图数据中的连接模式或聚类趋势的基础。最近的研究已经将LDP(局部差分隐私)应用于子图计数,以保护用户隐私,即使是针对社交网络中的数据收集器。然而,现有的本地算法遭受极大的估计误差或假设用户和数据收集器之间的多轮交互,这需要大量的用户努力和同步。在本文中,我们专注于一轮的互动,并提出准确的子图计数算法,通过引入最近研究的洗牌模型。首先,我们提出了一个基本的技术,称为楔形洗牌发送楔形信息,几个子图的主要组成部分,小噪音。然后,我们应用我们的楔形洗牌计数三角形和4-循环-分析聚类趋势的基本子图-与几个额外的技术。我们还显示了每个算法的估计误差的上限。我们通过全面的实验表明,我们的一轮洗牌算法在准确性方面显着优于一轮本地算法,并在合理的隐私预算下实现小的估计误差,例如,小于1 in edge DP。
2022-08-26 cs.CR cs.DB
Aggregation and Transformation of Vector-Valued Messages in the Shuffle Model of Differential Privacy
通信、存储和计算技术的进步允许分布式设备收集和处理大量数据。将来自这些端点的信息结合起来可以实现显著的社会效益,但在保护个人隐私方面存在挑战,这在日益规范的世界中尤为重要。差分隐私(DP)是一种为聚合和发布提供严格且可证明的隐私保证的技术。已经引入了用于DP的洗牌模型以克服关于本地DP算法的准确性和中央DP的隐私风险的挑战。在这项工作中,我们介绍了一个新的协议,矢量聚合的背景下,洗牌模型。本文的目的是双重的,首先,我们提供了一个单一的消息协议,在洗牌模型的实向量的总和,使用先进的合成结果。其次,我们提供了一个改进的边界上的错误实现通过使用该协议通过实施离散傅立叶变换,从而最大限度地减少了初始误差的损失,通过变换本身的准确性为代价。这项工作将进一步探索更复杂的结构,如矩阵和高维张量在这种情况下,这两者都依赖于向量的情况下的功能。
2022-01-31 cs.CR
Uniformity Testing in the Shuffle Model: Simpler, Better, Faster
均匀性检验,或检验独立观测值是否均匀分布,是分布检验中的典型问题。在过去的几年里,一系列的工作一直集中在数据的隐私约束下的一致性测试,并获得了各种隐私模型,如中央差分隐私(DP),本地隐私(LDP),泛隐私,以及最近,差分隐私的洗牌模型下的隐私和数据有效的算法。在这项工作中,我们大大简化了分析的均匀性测试算法的洗牌模型,并使用最近的结果“通过洗牌隐私放大”,提供了一种替代算法实现相同的保证与一个基本的和流线型的参数。
2021-10-18 cs.CR cs.DM cs.DS
Pricing Private Data with Personalized Differential Privacy and Partial Arbitrage Freeness
将个人数据视为商品的趋势越来越明显。现有的研究已经建立了框架和理论,如何确定一个给定的查询的无仲裁的价格,根据隐私损失量化的差分隐私。然而,这些研究假设数据购买者可以购买查询答案,而数据所有者的任意隐私损失,这在严格的隐私法规和数据所有者日益增加的隐私问题下可能是无效的。在本文中,我们研究了如何授权数据所有者控制数据交易中的隐私损失。首先,我们提出了一个交易个人数据的框架,使数据所有者能够限制他们的个性化隐私损失。其次,由于有界隐私损失表明查询答案的效用有界,因此我们提出了一种合理的无套利放松,称为部分无套利,即,仅对有限范围的公用事业保证无仲裁定价,这为我们的市场设计提供了更多的可能性。第三,为了避免套利,我们提出了一种通用的方法,以确保在个性化差分隐私的套利自由。第四,为了充分利用数据所有者的个性化隐私损失范围,我们提出了隐私预算分配技术来分配隐私损失的查询下套利自由。最后,我们进行实验来验证我们提出的交易协议的有效性。
2021-11-23 cs.CR cs.DB
Robust Single-message Shuffle Differential Privacy Protocol for Accurate Distribution Estimation
Xidian University(西安电子科技大学);China Mobile (Suzhou) Software Technology Co., Ltd.(中国移动(苏州)软件技术有限公司);Guangzhou University(广州大学);Shanghai University(上海大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出了一种鲁棒的单消息洗牌差分隐私协议,用于提高分布估计的实用性与鲁棒性。
2026-03-05 cs.CR
Augmented Shuffle Protocols for Accurate and Robust Frequency Estimation under Differential Privacy
本文针对差分隐私混洗模型易受数据投毒和合谋攻击的问题,提出增强混洗框架及三种本地无噪声协议,通过二项分布和非对称双侧几何分布生成虚拟数据,在保证DP的同时实现更高实用性和鲁棒性。
2025-04-10 cs.CR
Tight Differential Privacy Guarantees for the Shuffle Model with $k$-Randomized Response
本文推导了使用 $k$-随机响应本地随机化器的 shuffle 模型已知最严格的差分隐私保证界,并通过矩阵求逆去噪方法评估直方图查询效用,实验证明在相同隐私水平下 shuffle 模型与中心模型统计效用几乎可比。
2024-04-29 cs.CR
Echo of Neighbors: Privacy Amplification for Personalized Private Federated Learning with Shuffle Model
Renmin University of China(中国人民大学);Emory University(埃默里大学)
本文提出APES和S-APES框架,首次利用混洗模型的隐私放大效应,在个性化本地差分隐私下实现更强的中心隐私保障,并通过回声贡献度量和后稀疏化技术提升模型效用。
2023-05-26 cs.CR cs.LG
Network Shuffling: Privacy Amplification via Random Walks
LINE Corporation(LINE公司);Kyoto University(京都大学)
最近,它表明,洗牌可以放大中央差分隐私保证的数据随机与本地差分隐私。在这种设置中,一个集中的、可信的洗牌器负责通过保持数据的身份匿名来进行洗牌,这随后为系统带来了更强的隐私保证。然而,引入一个集中的实体,原来的本地隐私模型失去了一些呼吁没有任何集中的实体,如在本地差分隐私。此外,由于已知的安全问题和/或高级硬件或安全计算技术的要求,以可靠的方式实现混洗器并非微不足道。出于这些实际的考虑,我们重新考虑洗牌模型放松的假设,需要一个集中的,可信的洗牌。我们引入了网络洗牌,一种分散的机制,用户在网络/图上以随机行走的方式交换数据,作为通过匿名实现隐私放大的替代方案。我们分析了这种设置下的威胁模型,并提出了分布式协议的网络洗牌,是直接在实践中实现。此外,我们表明,隐私放大率是类似于其他隐私放大技术,如均匀洗牌。据我们所知,在最近研究的利用隐私放大技术的中间信任模型中,我们的工作是第一个不依赖于任何中心化实体来实现隐私放大的模型。
2022-04-08 cs.CR cs.DB cs.LG
Shuffle Gaussian Mechanism for Differential Privacy
LINE Corporation(LINE公司)
本文研究差分隐私混洗模型中的高斯机制,推导其Rényi差分隐私上界,证明其优于未混洗高斯机制,并扩展到子采样与混洗签到机制,验证其在分布式学习中的隐私保护效果。
2022-07-04 cs.CR cs.LG stat.ML
Trading Location Data with Bounded Personalized Privacy Loss
由于个人数据已经成为数字时代的新石油,因此将个人数据视为商品的趋势越来越明显。虽然有些人愿意用他们的个人数据来换取金钱,但他们可能仍然期望有限的隐私损失,而最大可容忍的隐私损失因个人而异。在本文中,我们提出了一个框架,使个人能够交易他们的个人数据与有限的个性化隐私损失,这提出了在预算分配和仲裁自由方面的技术挑战。为了应对这些挑战,我们提出了两种具有不同优势的无仲裁交易机制。
2019-10-24 cs.CR cs.DB
A Generalized Shuffle Framework for Privacy Amplification: Strengthening Privacy Guarantees and Enhancing Utility
本文提出适用于任意个性化 $(ε_i,δ_i)$-PLDP 设置的广义 shuffle 框架,通过高斯差分隐私刻画和假设检验改进下界,并在多项任务中实现更强隐私保证与更优效用。
2024-03-01 cs.CR math.CO
Improving Utility and Security of the Shuffler-based Differential Privacy
Purdue University(普渡大学);Alibaba(阿里巴巴);University of Chicago(芝加哥大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
在收集信息时,本地差分隐私(LDP)消除了用户的隐私问题,因为他们的隐私信息在被发送到中央聚合器之前是随机的。由于每个用户独立地执行随机化,LDP施加大量噪声。为了解决这个问题,最近的工作引入了一个中间服务器,假设这个中间服务器不与聚合器勾结。在此假设下,可以添加较少的噪声以实现与LDP相同的隐私保证,从而提高数据汇集任务的效用。本文对自民党的多党背景进行了研究。我们分析系统模型并识别潜在的对手。我们做了两个改进:一个新的算法,实现了更好的隐私效用权衡;和一个新的协议,提供更好的保护,防止各种攻击。最后,我们进行实验,比较不同的方法,并证明使用我们提出的方法的好处。
2020-08-02 cs.CR cs.DB cs.DS
The Limits of Pan Privacy and Shuffle Privacy for Learning and Estimation
Northeastern University(东北大学)
最近出现了一波对差分隐私的中间信任模型的兴趣,该模型消除了对完全可信的中央数据收集器的需要,但克服了本地差分隐私的限制。这种兴趣导致了洗牌模型的引入(Cheu等人,EUROPENTER PT 2019; Erlingsson等人,SODA 2019)和重新审视泛私有模式(Dwork等人,ITCS 2010)。这一系列工作的信息是,对于各种低维问题-例如计数,均值和直方图-这些中间模型提供的功能几乎与中央差分隐私一样多。然而,有相当少的成功使用这些模型的高维学习和估计问题。在这项工作中,我们表明,对于各种高维学习和估计问题,洗牌模型和泛私有模型固有地导致相对于中心模型的样本复杂性的指数价格。例如,我们表明,在$d$位奇偶校验函数的私人不可知学习需要在这些模型中的$Ω(2^{d/2})$样本,并私下选择最常见的属性从一组$d$的选择需要$Ω(d^{1/2})$样本,这两者都是指数分离的中央模型。我们的工作给出了第一个非平凡的下界,这些问题的泛私人模型和一般的多消息洗牌模型。
2020-12-03 cs.CR cs.DS cs.LG
Near-Optimal Reinforcement Learning with Shuffle Differential Privacy
College of Control Science and Engineering, Zhejiang University(控制科学与工程学院,浙江大学);Department of Computer Science, University of Copenhagen(计算机科学系,哥本哈根大学)
针对现有RL差分隐私模型的信任风险或性能缺陷,本文提出洗牌差分隐私策略消除(SDP-PE)算法,通过指数批处理调度和遗忘机制平衡隐私与性能,实现近最优遗憾界,为网络系统安全决策提供新方案。
2025-11-17 cs.AI cs.CR cs.LG
Encode, Shuffle, Analyze Privacy Revisited: Formalizations and Empirical Evaluation
最近,一些方法和技术已被引入报告软件统计数据与强大的隐私保障。这些范围从抽象算法到具有不同假设的综合系统,并建立在本地差分隐私机制和匿名性之上。基于Encode-Shuffle-Analyze(ESA)框架,显着的结果正式澄清了隐私保障的重大改进,而不会通过匿名报告而损失效用。然而,这些结果要么是由具有看似不同的机制和攻击模型的系统组成,要么是对从业者几乎没有指导的正式声明。为了解决这个问题,我们提供了一个正式的治疗方法,并为匿名隐私保护报告提供了规范性的指导方针。我们重新审视了ESA框架与一个简单的,抽象的攻击者模型,以及假设涵盖它和其他拟议的匿名系统。根据新的正式隐私界限,我们研究了基于草图的编码和ESA机制的局限性,如数据依赖人群。我们还演示了如何欧空局的碎片化概念(报告数据方面的单独的,unconscious消息)提高隐私/效用权衡在本地和中央差分隐私保证。最后,为了帮助从业人员了解隐私保护报告的适用性和局限性,我们报告了大量的实证实验。我们使用具有重尾或近平坦分布的真实数据集,这对我们的技术构成了最大的困难;特别是,我们专注于从图像中提取的数据,这些数据可以很容易地以突出重建错误的方式可视化。为了展示这种方法的前景和独立的兴趣,我们还报告了使用匿名,隐私保护报告的实验,以训练高精度深度神经网络标准任务-MNIST和CIFAR-10。
2020-01-10 cs.CR
Privacy Amplification via Iteration for Shuffled and Online PNSGD
University of Pennsylvania(宾夕法尼亚大学);Northwestern University(西北大学)
在本文中,我们考虑通过迭代隐私放大的框架,这最初是由Feldman等人提出的,随后由Aiddeh等人在他们的分析中通过收缩系数进行简化。这条线的工作重点是研究的隐私保证所获得的投影噪声随机梯度下降(PNSGD)算法与隐藏的中间更新。现有文献中的一个局限性是,只有早期停止的PNSGD已被研究,而没有结果已被证明在更广泛使用的PNSGD应用于混洗数据集。此外,还没有提出关于当以在线方式接收新数据时如何减少注入的噪声的方案。在这项工作中,我们首先证明了一个隐私保证混洗PNSGD,这是渐近调查时,噪声是固定的每个样本大小$n$,但减少在一个预定的速率时,$n$增加,以实现收敛的隐私损失。然后,我们分析了在线设置,并提供了一个更快的衰减计划的注入噪声的大小,也保证了隐私丢失的收敛。
2021-06-20 cs.CR cs.LG math.ST
Learning from End User Data with Shuffled Differential Privacy over Kernel Densities
The Blavatnik School of Computer Science and AI Tel-Aviv University(特拉维夫大学布拉瓦尼克计算机科学与人工智能学院)
该研究提出一种基于核密度估计的洗牌差分隐私协议,在保护终端用户数据隐私的同时实现接近中心差分隐私的准确率,可用于私密分类学习且能恢复类别语义,实验验证了其下游性能优势。
2025-02-19 cs.CR cs.DS cs.LG
Efficient Verifiable Differential Privacy with Input Authenticity in the Local and Shuffle Model
本文提出可验证本地差分隐私(VLDP)方案,在输入认证假设下,防止恶意客户端的输入和输出操纵攻击,并在洗牌模型中实现高效方案,客户端运行时间少于2秒,服务器每客户端5-7毫秒。
2024-11-19 cs.CR
Analyzing the Shuffle Model through the Lens of Quantitative Information Flow
本文在定量信息流(QIF)框架内严格分析了本地差分隐私(LDP)与 Shuffle 模型的组合,推导出精确表达信息泄漏的闭式公式,并证明该组合在不知情对手下能提供比强对手假设更现实的隐私保证。
2023-05-22 cs.CR
Personalized w-Event Privacy for Infinite Stream Estimation
Hunan University(湖南大学);Tongji University(同济大学);HKUST (GZ)(香港科技大学(广州));HKUST(香港科技大学);Shanghai Jiaotong University(上海交通大学);Xi’an Jiaotong University(西安交通大学)
本文研究了个性化w-事件隐私在私有数据流估计中的应用,设计了PWSM机制并提出PBD和PBA算法,实现了动态调整隐私要求并满足个性化差分隐私,实验表明方法能显著降低估计误差。
2026-08-21 cs.CR cs.DB cs.IR
DPIVE: A Regionalized Location Obfuscation Scheme with Personalized Privacy Levels
网络物理系统的普及正在推动基于位置的服务的快速增长。这带来了位置隐私泄露的风险。有效的隐私保护对于各种移动应用程序来说是最重要的。最近,地理不变性和预期的推理误差被提出来限制位置泄漏。在本文中,我们认为,个性化意味着区域化的地理不变性,我们提出了一个区域化的位置混淆机制,称为DPIVE与个性化的效用敏感性。这实质上纠正了Yu等人在NDSS 2017上提出的PIVE框架的差异和失真隐私问题。我们开发DPIVE分为两个阶段。在第一阶段,我们通过划分所有可能的位置来确定不相交的集合,使得同一集合中的不同位置共享保护位置集合(PLS)。在第二阶段,我们构造了一个概率分布矩阵,其中对应于同一PLS的行有自己的效用灵敏度(PLS直径)。此外,通过设计QK-means算法在二维空间中获得更多的搜索空间,我们改进了DPIVE,细化了位置划分,提出了细粒度的个性化,使每个位置都有自己的隐私级别,并赋予定制的隐私预算。两个公共数据集的实验表明,我们的机制具有优越的性能,通常在倾斜的位置。
2022-10-08 cs.CR cs.DB
To Shuffle or not to Shuffle: Auditing DP-SGD with Shuffling
University College London(伦敦大学学院);Google DeepMind(谷歌DeepMind);UC Riverside(UC河滨大学)
本文研究了使用洗牌而非泊松子采样训练DP-SGD模型时,理论隐私保证与实际泄漏之间的差距,并揭示了其潜在风险。
2025-12-11 cs.CR cs.LG
FLAME: Differentially Private Federated Learning in the Shuffle Model
Renmin University of China(中国人民大学);Kyoto University(京都大学)
联邦学习(FL)是一种很有前途的机器学习范例,它使分析器能够在不收集用户原始数据的情况下训练模型。为了保证用户的隐私,差分隐私联邦学习得到了广泛的研究。现有的工作主要是基于差分隐私的\textit{curator model}或\textit{local model}。然而,这两种方法都有优点和缺点。策展人模型允许更高的准确性,但需要一个值得信赖的分析器。在本地模型中,用户在将本地数据发送到分析器之前将其随机化,不需要可信的分析器,但精度有限。在这项工作中,通过利用最近提出的差分隐私洗牌模型中的\textit{privacy amplification}效应,我们实现了两个世界中的最佳,即,馆长模型的准确性和强大的隐私性,而不依赖于任何可信方。首先,我们提出了一个FL框架中的洗牌模型和一个简单的协议(SS简单)从现有的工作扩展。我们发现,SS-Simple只提供了一个不足的隐私放大效果在FL,因为模型参数的尺寸是相当大的。为了解决这一挑战,我们提出了一种增强协议(SS-Double),通过子采样来增加隐私放大效应。此外,当模型大小大于用户群体时,为了提高效用,我们提出了一种具有梯度稀疏化技术的高级协议(SS-Topk)。我们还提供了理论分析和数值评估的隐私放大所提出的协议。在真实数据集上的实验表明,SS-Topk比基于局部模型的FL提高了60.7%的测试精度。
2021-03-20 cs.CR cs.LG stat.ML
Shuffle Private Stochastic Convex Optimization
Georgetown University(乔治城大学);Google Research(谷歌研究院);Columbia University(哥伦比亚大学)
在混洗隐私中,每个用户将随机化消息的集合发送到可信混洗器,混洗器随机地排列这些消息,并且所得到的混洗消息集合必须满足差分隐私。在此模型之前的工作主要集中在使用单轮通信来计算算法原语(如均值、直方图和计数)的协议上。我们提出了随机凸优化的交互式洗牌协议。我们的协议依赖于一个新的非交互式协议,用于求和有界$\ell_2$范数的向量。通过结合小批量随机梯度下降,加速梯度下降,和Nesterov的平滑方法,我们得到了各种凸损失函数,显着提高当地的模型,有时匹配的中央模型的损失保证。
2022-03-14 cs.CR cs.DS cs.LG
On the differential privacy of dynamic location obfuscation with personalized error bounds
本文分析了动态位置混淆机制 PIVE 的差分隐私缺陷,证明其无法在自适应保护位置集上提供所声称的隐私保证,并提出修正方法并分析其隐私特性与优缺点。
2022-06-30 cs.CR cs.DB
Release Connection Fingerprints in Social Networks Using Personalized Differential Privacy
在社交网络中,不同的用户可能具有不同的隐私偏好,并且存在许多具有公共身份的用户。大多数关于差异化私人社交网络数据发布的工作都忽略了这一事实。我们的目标是在用户级个性化隐私偏好下,发布私人用户在n跳内连接的公共用户数量,称为n范围连接指纹(CFPs)。针对基于个性化差分隐私(PDP)的CFPs的隐私保护发布,提出了基于距离的指数预算吸收(DEBA)和基于距离的阶梯函数均匀预算吸收(DUBA-LF)两种方案,并对这两种方案的隐私保护性能进行了理论分析.在真实数据集上的实验结果表明,该方案在发布错误方面具有较好的性能。
2017-11-24 cs.CR
Differentially Private Numerical Vector Analyses in the Local and Shuffle Model
本研究针对本地差分隐私下的数值向量聚合,提出最优的Collision与CoCo机制以降低估计误差,并在Shuffle模型中推导出精确的隐私放大界限,显著减少了频率与均值估计误差。
2023-04-10 cs.CR
Modeling of Personalized Privacy Disclosure Behavior: A Formal Method Approach
为了创建以用户为中心的个性化隐私管理工具,底层模型必须考虑到个人用户的隐私期望、偏好以及他们控制信息共享活动的能力。现有的用户隐私行为建模研究试图从请求的角度来构建问题,这缺乏信息所有者的关键参与,导致对策略管理的控制有限或没有控制。此外,他们很少考虑到正确性,可解释性,可用性和接受的系统的每个用户的方法方面。在本文中,我们提出了一种方法来正式建模,验证和验证个性化的隐私泄露行为的基础上分析用户的情景决策过程。我们使用一个名为UPPAAL的模型检验工具,以有限状态自动机(FSA)的扩展形式来表示用户的自我报告的隐私泄露行为,并通过计算树逻辑(CTL)公式进行隐私属性验证的可达性分析。我们还描述了实际的使用案例的方法描绘的潜力,正式技术的设计和开发以用户为中心的行为建模。本文通过大量的实验结果,为形式化方法和用户定制隐私行为建模领域提供了一些见解。
2021-06-18 cs.CR
Personalized Social Recommendations - Accurate or Private?
随着最近像Facebook这样的社交网络的兴起,新形式的推荐已经成为可能--个性化的广告推荐、内容推荐,甚至是基于一个人的社交互动的新朋友和产品联系。由于推荐可能使用敏感的社交信息,因此推测这些推荐与隐私风险相关。这项工作的主要贡献是在正规化这些预期的权衡之间的准确性和隐私的个性化社会建议。在本文中,我们研究是否“社会建议”,或建议,完全基于用户的社交网络,可以在不披露敏感的链接在社交图。更准确地说,我们量化的效用损失时,现有的推荐算法进行修改,以满足一个强有力的隐私概念,称为差分隐私。我们证明了任何推荐算法的最小效用损失的下界是差异私人。我们适应两个隐私保护算法的差分隐私文献的社会建议的问题,并分析其性能的下限相比,分析和实验。我们表明,良好的私人社交推荐仅适用于社交网络中的一小部分用户或宽松的隐私参数设置。
2011-05-21 cs.CR cs.DB cs.SI
Road Network-Aware Personalized Trajectory Protection with Differential Privacy under Spatiotemporal Correlations
China University of Mining and Technology(中国矿业大学);Wuhan University(武汉大学)
本文提出了一种基于道路网络的个性化轨迹保护机制,结合差分隐私与地理不可区分性,通过动态分配隐私预算和Permute-and-Flip机制,在保护隐私的同时维持服务质量。
2025-11-26 cs.CR
Almost Instance-optimal Clipping for Summation Problems in the Shuffle Model of Differential Privacy
本文研究差分隐私 shuffle 模型下的求和估计问题,提出一种单轮通信协议,在保持实例最优误差界的同时,将每个用户的消息开销降至 $1+o(1)$,并扩展至高维求和与稀疏向量聚合。
2024-08-30 cs.CR cs.DS
Privacy Amplification via Shuffling: Unified, Simplified, and Tightened
针对shuffle模型中隐私放大分析缺乏紧致性和通用性的问题,提出variation-ratio reduction统一框架,利用全变差界和概率比界确定不可区分性,提供更紧的隐私界并大幅节省预算,同时实现高效数值计算。
2024-07-29 cs.CR
Privacy in Personalized AI Is a System Property, Not Just a Model Property
SJTU Paris Elite Institute of Technology(上海交通大学巴黎卓越工程师学院);Kibo Ryoku Research(Kibo Ryoku研究院)
本文主张个性化AI的隐私应从系统层面审视,而非仅模型层面,提出四个隐私风险渠道及四项系统级评估要求,以完善隐私审计。
2026-10-01 cs.CR cs.IR cs.LG
Differentially Private Block-wise Gradient Shuffle for Deep Learning
本文提出DP-BloGS算法,通过概率性梯度洗牌、分块裁剪与累积,实现接近非私有训练的速度,同时保持DP-SGD的隐私效用,并显著增强抗数据提取能力。
2025-01-20 cs.AI cs.CR cs.LG
Differentially Private Histograms in the Shuffle Model from Fake Users
最近有很多工作在差分隐私的洗牌模型,特别是近似$d$ -bin直方图。虽然这些协议实现了低错误,但每个用户发送的消息数量(消息复杂度)到目前为止已随$d$或隐私参数而缩放。消息复杂度是混洗协议的资源消耗的信息预测器。我们提出了一个协议,其消息的复杂性是2时,有足够多的用户。该协议基本上将数据集中的每一行与一个假行配对,并对所有行执行简单的随机化。我们表明,该协议引入的错误是小的,使用严格的分析,以及对真实世界的数据进行实验。我们还证明,腐败的用户有一个相对较低的影响,我们的协议的估计。
2021-08-05 cs.CR cs.DS
Differentially Private Aggregation in the Shuffle Model: Almost Central Accuracy in Almost a Single Message
差分隐私的洗牌模型由于其介于中心模型和局部模型之间而受到广泛关注。在这项工作中,我们研究了求和(聚合)实数或整数,在许多机器学习任务的基本原语,在洗牌模型的问题。我们给出了一个协议,实现误差任意接近中心模型中的(离散)拉普拉斯机制,而每个用户只发送$1 + o(1)$短消息的预期。
2021-09-27 cs.CR cs.DS
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University(安徽大学)
概率矩阵分解(PMF)在推荐系统中起着至关重要的作用。它需要大量的用户数据(如用户购物记录和电影评分)来预测个人偏好,从而为用户提供高质量的推荐服务,这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架,在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而,传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案(PDP-PMF)。它旨在满足用户在项目级别指定的隐私要求,而不是为所有人提供相同级别的隐私保证。然后,我们开发了一个修改的采样机制(有界差分隐私)实现PDP。我们还进行了理论分析的PDP-PMF计划,并证明了PDP-PMF计划的隐私。此外,我们实现了传统的和个性化的差分隐私(DP-PMF,PDP-PMF)的概率矩阵分解方案,并通过一系列的实验进行比较。实验结果表明,PDP-PMF方案在保护用户隐私方面表现良好,推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG