Efficient Gossip Protocols for Verifying the Consistency of Certificate Logs
过去几年来,由于发现了几起行为不端和泄密的案件,对验证局的信任程度一直在下降。基于日志的方法,如证书透明性,确保欺诈性TLS证书变得公开可见。然而,基于日志的方法仍然缺乏一个关键元素,即客户端验证日志是否以一致和诚实的方式运行的方法。由于隐私、效率和可部署性的原因,此任务具有挑战性。在本文中,我们提出了第一个(据我们所知)八卦协议,使日志不一致的检测。我们分析了这些协议,并提出了基于真实的互联网流量跟踪的仿真结果。我们还提供了一个部署计划,讨论了技术问题,并提出了一个实现。
2015-11-04 cs.CR
Muffliato: Peer-to-Peer Privacy Amplification for Decentralized Optimization and Averaging
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Inria Paris(法国国家信息与自动化研究所巴黎分部);PSL Research University(巴黎文理研究大学)
本文提出成对网络差分隐私及 Muffliato 方法,分析 gossip 平均并设计去中心化优化算法,证明隐私保证随图中节点距离放大。
2024-06-11 cs.CR cs.DC cs.LG
On the Robustness of Gossip Protocols in Modern Blockchains
Ruhr University Bochum(鲁尔大学波鸿分校);University of Mannheim(曼海姆大学)
本文研究委员会型区块链中闲聊协议的鲁棒性,分析发现常见随机图参数无法保证足够诚实节点接收共识消息,评估了比特币ER图、波卡网格、以太坊GossipSub等的鲁棒性,揭示了不同方案的鲁棒性与效率权衡。
2026-10-16 cs.CR
Enigma: Decentralized Computation Platform with Guaranteed Privacy
一种点对点网络,使不同的各方能够共同存储和运行数据计算,同时保持数据完全私有。Enigma的计算模型基于高度优化的安全多方计算,由可验证的秘密共享方案保证。对于存储,我们使用修改的分布式哈希表来保存秘密共享数据。外部区块链被用作网络的控制器,管理访问控制,身份,并作为防篡改的事件日志。保证金和费用激励系统的运作、正确性和公平性。与比特币类似,Enigma消除了对可信第三方的需求,实现了对个人数据的自主控制。这是第一次,用户可以在加密的情况下分享他们的数据。
2015-06-10 cs.CR cs.DC
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型,因为它提供了强大的隐私保证,即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而,在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用,从而降低了差异隐私结果的分析效用。在试图解决这个缺点,差分隐私的几个放宽已被提出,权衡隐私保证改善数据效用。在这项工作中,我们认为,标准的形式化的差分隐私是严格的比所需的直观的隐私保证,它寻求。特别地,标准形式化要求结果在任何相邻数据集对之间的不相容性,而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力,从而导致严重的准确性损失。在这方面,我们提出了个人差分隐私,一个替代的差分隐私的概念,为他们提供了相同的隐私保证标准差分隐私的个人(即使不是个人群体)。这个新概念允许数据控制器根据实际数据集调整失真,从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私,我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
Self-Determined Reciprocal Recommender System with Strong Privacy Guarantees
推荐系统被广泛使用。通常,推荐系统是基于一个集中式的客户端-服务器架构。然而,这种方法意味着关于用户隐私的缺点。在本文中,我们提出了一个分布式互惠推荐系统与强大的,自我确定的隐私保证,即,局部差分隐私。更准确地说,用户在本地随机化他们的配置文件,并通过对等网络交换它们。然后通过估计简档之间的相似性来计算推荐并在本地进行排名。我们评估推荐准确性的工作推荐系统,并证明我们的方法提供了可接受的实用程序下强隐私的要求。
2021-07-14 cs.CR
WAKU-RLN-RELAY: Privacy-Preserving Peer-to-Peer Economic Spam Protection
在本文中,我们提出了WAKU-RLN-RELAY作为一个垃圾邮件保护gossip为基础的路由协议,可以运行在异构网络。它具有保护隐私的对等(p2p)经济垃圾邮件保护机制。WAKU-RLN-RELAY解决了最先进的p2p垃圾邮件预防技术的性能和隐私问题,包括libp 2 p使用的对等体评分,以及例如,Whisper,以太坊的p2p消息传递层。在WAKU-RLN-RELAY中,垃圾邮件保护通过限制每个网络参与者的消息传递速率来工作。违反利率是不受激励的,因为它会导致经济处罚,其中惩罚是加密保证的。识别垃圾邮件发送者的同行也会得到奖励。为了执行速率限制,我们采用了建议的框架信号量及其扩展版本,但是,我们修改该框架,以适当地解决网络的P2P资源受限的用户的独特要求。目前的工作深入到端到端的信号量集成到WAKU-RLN-RELAY,所需的修改,使其适合资源有限的用户,以及开放的问题和未来的研究方向。我们还提供了WAKU-RLN-RELAY的概念验证开源实现,以及它的规范和粗略的性能评估。
2022-06-30 cs.CR
Sample and Threshold Differential Privacy: Histograms and applications
联合分析试图从分布在用户设备上的数据中计算准确的统计数据,同时提供适当的隐私保证,并且实际上可行。在本文中,我们展示了如何强大的$(ε, δ)$ -差分隐私(DP)保证可以实现的基本问题,直方图生成在联邦设置,通过一个高度实用的采样为基础的程序,不添加噪音披露的数据。考虑到采样在实践中的普遍性,我们因此几乎免费获得DP保证,避免高估直方图计数,并允许轻松推理隐私保证如何掩盖少数群体和离群值。使用这样的直方图,相关的问题,如重打击和分位数可以回答可证明的错误和隐私保证。实验结果表明,我们的样本和阈值的方法是准确的和可扩展的。
2022-03-09 cs.CR
Privacy-Enhanced Adaptive Authentication: User Profiling with Privacy Guarantees
针对自适应认证中用户画像的隐私泄露风险,提出融合OPRF、匿名令牌与差分隐私的隐私增强认证协议,可动态调整认证要求,兼具强隐私保障与可控开销,满足合规要求。
2025-08-02 cs.CR
Obtaining $(ε,δ)$-differential privacy guarantees when using a Poisson mechanism to synthesize contingency tables
本文研究利用泊松合成机制保护列联表计数,并通过泊松分布累积分布函数获得$(ε,δ)$-概率差分隐私保证,且在行政型机密数据库上进行了实证验证。
2024-06-29 cs.CR stat.ME
SEPAR: Towards Regulating Future of Work Multi-Platform Crowdworking Environments with Privacy Guarantees
众包工作平台为不同的工作者提供了为不同的请求者执行任务的机会。“零工”经济的流行催生了提供竞争性和互补性服务的独立平台。具有特定任务的工作者和请求者可能需要为多个平台的服务工作或利用多个平台的服务,从而导致多平台众包系统的兴起。最近,政府、法律和社会机构越来越有兴趣在众包平台上执行法规,例如最低和最高工作时间。因此,多平台众包系统中的平台需要合作执行跨平台法规。虽然合作执行全球法规需要透明地共享有关任务及其参与者的信息,但需要保护所有参与者的隐私。在本文中,我们提出了一个整体的愿景,探索监管,隐私和架构维度的未来工作多平台众包环境。然后,我们提出了SEPAR,一个多平台的众包系统,在一组分布式独立平台上以隐私保护的方式执行一大子空间的实际全球法规。SEPAR使用轻量级和匿名令牌来实施隐私,而使用跨多个平台共享的容错区块链来实现透明度。SEPAR对隐蔽的对手的隐私保证是正式的,并彻底证明,而实验揭示了SEPAR的性能和可扩展性方面的效率。
2020-10-21 cs.CR cs.DB cs.DC
Algorithms with More Granular Differential Privacy Guarantees
Google Research(谷歌研究院)
差分隐私通常应用于大于理论建议的理想隐私参数;已经提出了各种非正式的理由来容忍大的隐私参数。在这项工作中,我们考虑部分差分隐私(DP),它允许量化的隐私保证每个属性的基础上。在这个框架中,我们研究了几个基本的数据分析和学习任务,并设计了算法,其每个属性的隐私参数小于一个人的整个记录的最佳可能的隐私参数(即,所有属性)。
2022-09-08 cs.CR cs.DS cs.LG
"Am I Private and If So, how Many?" - Communicating Privacy Guarantees of Differential Privacy with Risk Communication Formats
关于共享个人信息的决定并非微不足道,因为此类数据汇集有许多合法和重要的目的,但收集的数据往往会泄露有关个人的敏感信息。隐私保护技术,如差分隐私(DP),可以用来保护个人的隐私,此外,提供数学上的可靠保证最大的隐私风险。但是,只有在个人理解所提供的隐私保证的情况下,它们才能支持知情的隐私决策。本文提出了一种新的方法来传达隐私保证,以支持个人在共享数据时的隐私决策。为此,我们采用了医疗领域的风险沟通格式,并结合DP的隐私保证模型,以创建量化的隐私风险通知。我们对343名参与者进行了一项众包研究,以评估我们的通知传达隐私风险信息的效果,以及参与者对自己对隐私风险的理解有多自信。我们的研究结果表明,这些新的通知可以传达客观的信息,类似于目前使用的定性通知,但让个人对自己的理解不太自信。我们还发现,我们的几个通知和目前使用的定性通知不利于计算能力较低的个人:与他们对相关隐私风险的实际理解相比,这些人显得过于自信,因此,在做出明智的决定之前,不太可能寻求所需的额外信息。有希望的结果允许在未来的研究中有多个方向,例如,添加视觉辅助工具或根据个人的特征定制隐私风险沟通。
2022-08-23 cs.CR cs.HC
DPolicy: Managing Privacy Risks Across Multiple Releases with Differential Privacy
本文提出DPolicy系统,通过同时考虑多个差分隐私保证并引入高级策略语言,解决组织内多次数据发布中累积隐私风险难以管理的问题,实现细粒度的组织级隐私风险管理。
2025-05-10 cs.CR
Inferential Privacy Guarantees for Differentially Private Mechanisms
今天数据集中的个体之间的相关性和网络结构-无论是明确表达,还是从生物或行为连接中推导出来-都围绕隐私保证提出了新的问题,因为可以从另一个人的数据中推断出一个人。这激发了在网络环境中量化隐私的“推理隐私”-它测量了从计算结果中对个人数据的信念的变化-正如Dalenius在20世纪70年代最初提出的那样。当数据是独立的时,差分隐私暗示了推理隐私,但当数据是相关的时,情况可能更糟;事实上,简单的例子以及Dwork和Naor的一般不可能性定理排除了当对手可以有任意辅助信息时实现非平凡推理隐私的可能性。在本文中,我们问如何差分隐私保证转换为保证推理隐私在网络环境中:具体来说,在什么限制下的对手的相关信息,建模为先验分布数据集,我们可以推导出一个推理保证差分之一?我们证明了两个主要结果。第一个结果涉及的分布,满足自然的积极联系的条件,并给出了上界的推断隐私保证任何差分私人机制。这个上限是由一个简单的机制,将拉普拉斯噪声添加到数据的总和相匹配。第二个结果与具有弱相关性的分布有关,根据合适的“影响矩阵”定义。该结果提供了一个上界的差分隐私参数和频谱范数的这个矩阵的推断隐私。
2017-05-23 cs.CR cs.DS
Randomized Response with Gradual Release of Privacy Budget
针对随机响应隐私保护固定的问题,提出逐步释放隐私预算的DP放宽算法,保持各阶段效用与分布一致,并集成于RAPPOR及均值估计,实验验证其效用与隐私保证。
2024-01-25 cs.CR
Statistical Privacy Guarantees of Machine Learning Preprocessing Techniques
Imperial College London(帝国理工学院);ConsenSys Health
差分隐私为机器学习应用提供了强大的隐私保证。最近的许多工作都集中在开发差异私有模型上,但是在机器学习管道的其他阶段,特别是在预处理阶段,存在差距。我们的贡献是双重的:我们采用基于统计方法的隐私侵犯检测框架,以经验性地测量机器学习管道的隐私级别,并应用新创建的框架来表明,在处理不平衡数据集时使用的恢复技术导致所得模型泄漏更多隐私。这些结果突出了开发私有预处理技术的必要性。
2021-09-06 cs.CR cs.LG
Differentially Private Decentralized Learning with Random Walks
Université de Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Univ Montpellier(蒙彼利埃大学);Rutgers University(罗格斯大学)
本文研究随机游走去中心化学习的隐私保证,利用 Pairwise Network Differential Privacy 推导出节点间隐私损失的闭式表达式,并证明其优于 gossip 算法。
2024-06-04 cs.CR cs.LG
The Utility Cost of Robust Privacy Guarantees
考虑一个具有公共和私有特征的数据集的数据发布设置。发布者的目标是最大化公开数据集中关于公共特征的信息量,同时保持泄露的关于私有特征的信息有界。本文的目标是分析隐私机制的性能,构建匹配的分布从数据集学习。考虑两种不同的情况:(i)机制被设计为提供一个隐私保证的学习分布;和(ii)机制被设计为提供一个隐私保证的学习分布的给定邻域中的每个分布。对于第一种情况,给定任何隐私机制,上界的学习和真实分布的隐私效用保证之间的差异。在第二种情况下,上界的效用减少所产生的提供一个统一的隐私保证。
2018-05-10 cs.CR cs.IT math.IT
Inferring Communities of Interest in Collaborative Learning-based Recommender Systems
LIRIS, INSA Lyon(里昂国立应用科学学院LIRIS实验室);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);iExec Blockchain Tech(iExec区块链技术公司)
针对基于联邦学习和gossip学习的协同推荐系统的隐私漏洞,提出无需训练替代模型的社区推断攻击(CIA),实验显示其准确率比随机猜测高10倍,并发现“少共享”策略在GL中能更好平衡隐私与效用。
2025-04-15 cs.CR cs.IR cs.LG
Toward Interpretable Privacy Guarantees in Face-Swapping Anonymization
Kansas State University(堪萨斯州立大学);Louisiana State University(路易斯安那州立大学)
针对人脸交换匿名化存在的身份泄露问题,提出线性随机模型解释泄露机制,旨在实现可解释的形式化隐私保障。
2026-08-27 cs.CR
Efficient Unlearning with Privacy Guarantees
CYBERCAT (Center for Cybersecurity Research of Catalonia)(加泰罗尼亚网络安全研究中心);ComSCIAM-Center for Computational Science and Applied Mathematics(计算科学与应用数学中心);Department of Computer Engineering and Mathematics, Universitat Rovira i Virgili(罗维拉-维尔吉利大学计算机工程与数学系)
本文提出EUPG框架,通过预训练保护数据的模型实现高效反学习,提供隐私保障,降低计算和存储成本,与精确反学习方法相比效果相当。
2026-06-26 cs.CR cs.LG
Exact Privacy Guarantees for Markov Chain Implementations of the Exponential Mechanism with Artificial Atoms
差分隐私中指数机制的实现通常需要从难以处理的分布中采样。当使用类似马尔可夫链蒙特卡罗(MCMC)的近似程序时,最终结果会导致隐私和准确性的成本。现有的工作已经研究了这些影响的渐近,但在实践中需要可实现的有限样本结果,使用户可以事先指定隐私预算和实施采样器与确切的隐私保证。在本文中,我们使用遍历理论和完美的模拟工具,设计精确的有限运行时采样算法的指数机制,通过引入一个中间修改的目标分布,使用人工原子。我们提出了一个额外的修改这个采样算法,保持其$ε$ -DP保证,并提高了运行时的一些实用程序的成本。然后,我们比较这些方法的情况下,我们可以显式地计算$δ$成本(如在$(ε, δ)$ -DP)时,使用标准MCMC技术。正如有一个众所周知的权衡隐私和效用之间,我们证明,也有一个权衡隐私保证和运行时间之间。
2022-04-03 cs.CR stat.CO
The Effect of False Positives: Why Fuzzy Message Detection Leads to Fuzzy Privacy Guarantees?
模糊消息检测(FMD)是Beck等人(CCS'21)发明的一种新的密码原语,其中不可信的服务器以顺从匿名的方式对其客户端执行粗略的消息过滤。在FMD中,除了真阳性消息之外,客户端还从服务器下载由其假阳性检测率确定的覆盖消息。更重要的是,在FMD中,服务器无法区分真正的流量和覆盖流量。本文从三个不同的角度对FMD的隐私保障进行了形式化分析。首先,我们分析了FMD提供的三个隐私条款:收件人不可链接性,关系匿名性和时间检测模糊性。其次,我们进行了差分隐私分析和硬币一个宽松的定义,以捕捉隐私保证FMD收益。最后,我们模拟FMD对现实世界的通信数据。我们的理论和实证研究结果有助于FMD用户充分选择他们的假阳性检测率为各种应用程序与给定的隐私要求。
2021-12-07 cs.CR cs.GT
Identification, Amplification and Measurement: A bridge to Gaussian Differential Privacy
高斯差分隐私(GDP)是一个单参数的隐私概念,提供一致的保证,以避免暴露的敏感个人信息。尽管GDP组合提供了额外的可解释性和更严格的界限,但许多广泛使用的机制(例如,拉普拉斯机制)本质上提供了GDP保证,但往往未能利用这一新框架,因为它们隐私保证是在不同的背景下得出的。在本文中,我们研究了隐私配置文件的渐近性质,并制定了一个简单的标准来识别算法的GDP性质。我们提出了一种有效的方法GDP算法缩小可能的值的最佳隐私测量,$μ$与任意小的和可量化的误差幅度。对于非GDP算法,我们提供了一个后处理过程,可以放大现有的隐私保证,以满足GDP条件。作为应用,我们比较了两个单参数家庭的隐私概念,$ε$ -DP,和$μ$ -GDP,并表明,所有的$ε$ -DP算法本质上也是GDP。最后,我们表明,我们的测量过程和GDP的组成定理的组合是一个强大的和方便的工具来处理的组成相比,传统的标准和先进的组成定理。
2022-10-17 cs.CR
Locality-Sensitive Hashing Does Not Guarantee Privacy! Attacks on Google's FLoC and the MinHash Hierarchy System
本文通过攻击 Google FLoC 与 MinHash Hierarchy,证明仅依赖局部敏感哈希无法保证隐私,并揭示用户浏览历史与地理位置可被还原。
2023-02-27 cs.CR
Byzantine-Robust Federated Learning with Optimal Statistical Rates and Privacy Guarantees
UC Berkeley(加州大学伯克利分校);Google(谷歌);Carnegie Mellon University(卡内基梅隆大学);HKUST(香港科技大学)
我们提出了拜占庭鲁棒的联邦学习协议,具有接近最优的统计率。与以前的工作相比,我们提出的协议提高了维度依赖性,并实现了严格的统计率方面的所有参数的强凸损失。我们对竞争协议的基准,并显示所提出的协议的经验优势。最后,我们注意到,我们的协议与桶可以自然地与隐私保证程序相结合,以引入半诚实服务器的安全性。https://github.com/wanglun1996/secure-robust-federated-learning中提供了评估代码。
2023-03-18 cs.AI cs.CR cs.DC
Privacy Guarantees for Personal Mobility Data in Humanitarian Response
本文提出一种构建差分隐私移动矩阵的算法并推导其隐私与准确性界,利用阿富汗和卢旺达真实移动数据验证其在流行病响应和人道主义援助分配中的可用性,同时探讨隐私与准确性的平衡,以促进隐私移动数据在人道主义响应中的负责任使用。
2024-11-22 cs.CR
Verifiable Privacy-Preserving Computing
该研究针对数据密集型外包场景对隐私与可验证正确性的双重需求,分析了结合可验证性与分布式数据隐私保护计算的现有方案,分类比较37种方案的安全、效率等特性,并提出未来研究方向。
2024-04-16 cs.CR
"We Need a Standard": Toward an Expert-Informed Privacy Label for Differential Privacy
University of Vermont(佛蒙特大学)
本文通过访谈12位差分隐私专家,识别出全面传达DP保证所需的关键参数,并据此设计了一个标准化的DP隐私标签,以解决现实部署中隐私保证披露不足和信任受损的问题。
2026-10-11 cs.CR cs.HC
Super-convergence and Differential Privacy: Training faster with better privacy guarantees
Aarhus University(奥胡斯大学)
近年来,深度神经网络和差分隐私的结合越来越受到关注,因为它为所使用的训练数据集的个人提供了重要的数据保护保证。然而,在神经网络的训练中使用差分隐私会带来一系列缺点,例如验证准确性降低以及训练中资源和时间的使用显着增加。在本文中,我们研究了超收敛作为一种方法,大大提高了训练速度的差异私人神经网络,解决了高训练时间和资源使用的缺点。超收敛允许使用非常高的学习率来加速网络训练,并且已经显示出以比常规方式少的数量级的训练迭代来实现具有高效用的模型。本文中的实验表明,当将其与差分隐私相结合时,也可以看到这种数量级的加速,与非隐私,非超收敛基线模型相比,可以在更少的训练迭代中获得更高的验证精度。此外,超收敛被证明可以提高私有模型的隐私保证。
2021-03-18 cs.CR cs.LG
Differential Confounding Privacy and Inverse Composition
针对差分隐私在复杂依赖场景下的局限,提出差分混淆隐私(DCP)以推广DP,并设计逆向组合(IC)框架,通过领导者-跟随者模型优化隐私策略,实现严格的组合隐私保证。
2025-05-01 cs.CR
Data Masking with Privacy Guarantees
Oregon State University(俄勒冈州立大学);Samsung Research(三星研究院);SRI international(斯坦福国际研究院)
我们研究的问题,数据发布的隐私,数据提供的隐私保证,同时保持尽可能高的数据的可用性-这是很重要的医疗保健和其他领域的敏感数据。特别是,我们提出了一种方法,屏蔽隐私数据的隐私保证,同时确保分类器训练的掩蔽数据是类似的分类器训练的原始数据,以保持可用性。分析了该方法与传统输入摄动法的理论风险。实验结果表明,该方法与输入扰动相比具有较低的风险,尤其是在训练样本数较大时。在$12$基准数据集上,我们说明了所提出的隐私敏感学习数据屏蔽方法的有效性。
2019-01-08 cs.CR cs.LG stat.ML
RAPPOR: Randomized Aggregatable Privacy-Preserving Ordinal Response
RAPPOR(Randomized Aggregatable Privacy-Preserving Ordinal Response)是一种从最终用户客户端软件中匿名众包统计数据的技术,具有强大的隐私保证。简而言之,RAPPOR允许研究客户端数据的森林,而不允许查看单个树。通过以一种新的方式应用随机化反应,RAPPOR提供了这样的收集机制,以及对收集到的数据进行高效、高效用的分析。特别是,RAPPOR允许收集客户端字符串的统计数据,为每个客户端提供强大的隐私保证,并且没有报告的链接性。本文介绍和激励RAPPOR,详细介绍了其差异隐私和效用保证,讨论了它的实际部署和面对不同的攻击模型的属性,最后,给出了它的应用结果合成和真实世界的数据。
2014-08-25 cs.CR
Sotto Voce: Federated Speech Recognition with Differential Privacy Guarantees
Harvard University(哈佛大学);Raytheon BBN Technologies(雷神BBN技术公司)
语音数据的收集是昂贵的,并且对其来源非常敏感。通常情况下,组织会独立收集小型数据集供自己使用,但这些数据集通常无法满足机器学习的要求。组织可以将这些数据集汇集在一起,共同构建一个强大的ASR系统;然而,在数据集中存在的个人的知识产权损失和隐私损失方面,明确共享数据会带来巨大的风险。在本文中,我们提供了一种潜在的解决方案,用于跨多个组织学习ML模型,在此可以提供限制隐私丢失的数学保证。我们使用建立在差分隐私技术基础上的联邦学习方法。我们将这些应用于senone分类原型,并证明该模型随着私人数据的增加而改进,同时仍然尊重隐私。
2022-07-16 cs.CL cs.CR
A Better Bound Gives a Hundred Rounds: Enhanced Privacy Guarantees via $f$-Divergences
Harvard University(哈佛大学);Arizona State University(亚利桑那州立大学)
我们推导出满足给定Rényi差分隐私(RDP)水平的机制的最佳差分隐私(DP)参数。我们的结果是基于联合范围的两个$f$ -分歧的基础上的近似和Rényi变化的差分隐私。我们将我们的结果的时刻会计框架表征隐私保证的随机梯度下降。与最先进的技术相比,我们的边界可能会导致大约100个以上的随机梯度下降迭代,用于训练相同隐私预算的深度学习模型。
2020-01-16 cs.CR cs.IT cs.LG
PIMENTO: A Privacy Framework for Querying Text
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
Pimento框架将文本语料、查询和隐私策略转化为关系数据库,结合CI与DP,通过DP/CI感知的Text-to-SQL及情境差分隐私,实现端到端隐私保证并提升查询效用,在基准上75.3%选优且零泄露。
2026-09-15 cs.CR
Individualized PATE: Differentially Private Machine Learning with Individual Privacy Guarantees
Fraunhofer AISEC(弗劳恩霍夫应用与集成安全研究所);Vector Institute(向量研究所);Free University Berlin(柏林自由大学);Columbia University(哥伦比亚大学);University of Toronto(多伦多大学)
将机器学习(ML)应用于敏感领域需要通过正式的隐私框架(如差分隐私(DP))对底层训练数据进行隐私保护。然而,通常情况下,训练数据的隐私是以最终ML模型的实用性为代价的。其中一个原因是DP对所有训练数据点使用一个统一的隐私预算,这必须与所有数据持有者之间遇到的最严格的隐私要求保持一致。在实践中,不同的数据持有者有不同的隐私要求,要求较低的数据持有者的数据点可以为ML模型的训练过程提供更多的信息。为了满足这一需求,我们提出了两种基于教师集合私有聚合(Private Aggregation of Teacher Ensembles,PATE)框架的新方法,以支持具有个性化隐私保证的ML模型的训练。我们正式描述的方法,提供其隐私边界的理论分析,并实验评估其对最终模型的效用使用MNIST,SVHN和成人收入数据集的影响。我们的实证结果表明,个性化隐私方法产生的ML模型比非个性化的基线具有更高的准确性。因此,我们改进了在不同数据持有者同意在不同个人隐私级别贡献其敏感数据的情况下的隐私-效用权衡。
2022-11-08 cs.CR cs.LG
Privacy-Preserving Database Fingerprinting
当与其他方共享敏感的关系数据库时,数据库所有者旨在(i)具有对数据库条目的隐私保证,(ii)在接收者未经授权共享其数据库的情况下具有责任保证(通过指纹识别),以及(iii)向接收者提供高质量(实用)数据库。我们观察到,共享一个关系数据库的隐私和责任保证是正交的目标。前者可以通过向数据库中注入噪声来防止对原始数据值的推断来实现,而后者可以通过在数据库中隐藏唯一标记来跟踪未经授权重新分发数据的恶意方(数据接收方)来实现。我们同时实现这两个目标,提出了一种新的入门级差异私有指纹机制的关系数据库。在一个高层次上,所提出的机制满足隐私和责任的要求,利用随机化的性质,是固有的指纹,并实现所需的入门级隐私保证。更具体地说,我们设计了一个比特级的随机响应方案,以实现差分隐私保证任意数据录入时,共享整个数据库,然后,在此基础上,我们开发了一个$ε$ -入口级差分隐私指纹机制。接下来,我们从理论上分析了隐私保障,指纹鲁棒性和数据库效用之间的关系,推导出封闭形式的表达式。该分析的结果使我们能够约束属性推断攻击所造成的隐私泄漏,并描述了隐私-效用耦合和隐私-指纹鲁棒性耦合。此外,我们还提出了一个基于SVT的解决方案,以控制累积的隐私损失时,数据库的指纹副本与多个收件人共享。
2022-03-06 cs.CR cs.DB
Enabling Humanitarian Applications with Targeted Differential Privacy
本文提出一种适配个人决策应用的差分隐私方法,赋予决策者对隐私级别的精细控制,并通过多哥反贫困项目和尼日利亚借贷平台数据量化了隐私与预测准确性的权衡,为人道主义项目负责任使用个人数据提供支持。
2024-08-24 cs.CR
Generating Higher-Fidelity Synthetic Datasets with Privacy Guarantees
Artificial Intelligence Lab(人工智能实验室);EPFL(洛桑联邦理工学院(瑞士))
本文考虑了在常见的机器学习开发任务中增强用户隐私的问题,例如数据注释和检查,通过用生成对抗网络的样本代替真实数据。我们建议采用贝叶斯差分隐私的手段,以实现严格的理论保证,同时提供更好的隐私效用权衡。我们通过实验证明,与以前的工作相比,我们的方法产生了更高保真的样本,允许(1)检测更微妙的数据错误和偏差,以及(2)通过直接在人工样本上训练时实现高准确性来减少对真实数据标签的需求。
2020-03-02 cs.AI cs.CR cs.LG
On the Renyi Differential Privacy of the Shuffle Model
本文研究的中心问题是随机隐私模型中一般离散局部机制的Renyi差分隐私(RDP)保证。在混洗模型中,每个$n$客户端使用本地差异私有(LDP)机制随机化其响应,并且不可信服务器仅接收客户端响应的随机排列(混洗),而不与每个客户端关联。本文的主要结果是第一个非平凡的RDP保证一般离散局部随机化机制在洗牌隐私模型,我们开发了新的分析技术,得出我们的结果可能是独立的利益。在应用程序中,这样的RDP保证在我们使用它来组成几个私有交互时最有用。我们数值证明,对于重要的制度,与组合我们的边界产生的$8\times$的一个因素,在最先进的近似差分隐私(DP)保证(与标准组成)洗牌模型的隐私保证的改善。此外,结合泊松子采样,我们的结果导致至少$10\times$改进与标准组合的子采样近似DP。
2021-05-11 cs.CR cs.LG
Privacy Guarantees for Cloud-based State Estimation using Partially Homomorphic Encryption
状态估计算法的隐私方面已经引起了高度的研究关注,由于一个值得信赖的私人环境中的信息物理系统的必要性。这些系统通常使用云计算平台来汇总来自空间分布节点的基本信息,并产生所需的估计。在半诚实的各方之间交换敏感数据会引起隐私问题,特别是当各方之间存在联盟时。我们提出了两个隐私保护协议,使用卡尔曼滤波器和部分同态加密的测量和估计,同时暴露的协方差和其他模型参数。我们证明了所提出的协议实现了令人满意的计算隐私保证对各种联盟的基础上正式的密码定义的不可否认性。我们评估所提出的协议,以证明他们的效率,从一个真正的测试平台的数据。
2022-04-04 cs.CR cs.SY eess.SY
Differentially Private Representation for NLP: Formal Guarantee and An Empirical Study on Privacy and Fairness
National University of Singapore(新加坡国立大学);Monash University(莫纳什大学);The University of Melbourne(墨尔本大学)
已经证明,通过深度模型学习的隐藏表示可以对输入的私有信息进行编码,因此可以被利用来以合理的准确度恢复这些信息。为了解决这个问题,我们提出了一种新的方法,称为差分私有神经表示(DPNR),以保护隐私的文本中提取的表示。DPNR利用差分隐私(DP)提供正式的隐私保证。此外,我们表明,通过辍学屏蔽的话可以进一步提高隐私。为了保持学习表示的效用,我们将DP噪声表示集成到一个强大的训练过程中,以获得一个强大的目标模型,这也有助于模型在各种人口统计变量上的公平性。在各种参数设置下的基准数据集上的实验结果表明,DPNR在不显着牺牲主要任务性能的情况下大大减少了隐私泄露。
2020-10-03 cs.CR cs.LG stat.ML
Formal Privacy Guarantees with Invariant Statistics
本文提出Semi-DP框架,将差分隐私扩展至DP输出与非私有不变量联合发布的场景,通过重新定义邻接关系并设计高斯机制和最优K-范数机制,应用于2020年美国人口普查的列联表分析,揭示其实际隐私保障弱于宣称水平。
2024-10-22 cs.CR stat.AP
FLIP: A Utility Preserving Privacy Mechanism for Time Series
保证发布数据的隐私性是数据生产机构的一个重要目标。近年来,对开发合适的隐私机制进行了广泛的研究。特别值得注意的是在保证差分隐私的情况下添加噪声的想法。然而,当应用非常严格的隐私机制时,人们担心会损害数据效用。这种妥协在相关数据(如时间序列数据)中可能非常明显。将白噪声添加到随机过程中可能会显著改变相关性结构,这是该过程的一个方面,对于最佳预测至关重要。我们建议使用全通滤波作为定期采样的时间序列数据的隐私机制,表明该过程保留了效用,同时也提供了足够的隐私保证实体级的时间序列。
2022-07-15 cs.CR stat.ME
Releasing Graph Neural Networks with Differential Privacy Guarantees
L3S Research Center(L3S研究中心);TU Delft(代尔夫特理工大学)
针对集中式场景下GNN面临的成员推理等隐私风险,本文提出PrivGNN框架,通过公共无标签图、知识蒸馏、随机子采样与噪声标注实现带Renyi差分隐私保证的模型发布,并验证了其理论与实验效果。
2023-11-02 cs.CR cs.LG
Differential Privacy for Eye-Tracking Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);Clemson University(克莱姆森大学);Rochester Institute of Technology(罗切斯特理工学院);University of Regensburg(雷根斯堡大学);University of Florida(佛罗里达大学)
随着大的眼动追踪数据集的创建,数据隐私是眼动追踪社区迫切关注的问题。去识别数据并不能保证隐私,因为多个数据集可以链接进行推理。一个普遍的看法是,将个人的数据聚合成复合表示(如热图)可以保护个人。然而,我们分析了(无噪声)热图的隐私,并表明它们不能保证隐私。我们进一步提出了两个噪音机制,保证隐私和分析他们的隐私效用权衡。分析表明,我们的高斯噪声机制是保护热图隐私的优雅解决方案。我们的研究结果具有跨学科的研究,以创造差异的私人机制,眼动追踪的影响。
2019-04-15 cs.AI cs.CR
Frequency-based Randomization for Guaranteeing Differential Privacy in Spatial Trajectories
随着GPS设备的普及,大量的轨迹数据被不断收集,各种基于位置的服务也被开发出来,极大地造福了我们的日常生活。然而,发布的轨迹也带来了对个人隐私的严重关注,最近的一些研究表明,空间轨迹中存在个人身份信息。由于在隐私保护和效用保存之间进行权衡,轨迹匿名化是不平凡的。此外,恢复攻击还没有得到很好的研究,在目前的文献。为了解决这些问题,我们提出了一个基于频率的随机化模型,具有严格的差分隐私保证轨迹数据发布。特别是,我们引入了两个随机机制,通过注入拉普拉斯噪声来扰动轨迹中重要位置的局部/全局频率分布。我们设计了一个分层索引以及一个新的搜索算法,以支持有效的轨迹修改,确保修改后的轨迹满足扰动分布,而不损害隐私保证或数据效用。在真实轨迹数据集上进行的大量实验验证了该方法在抵抗个体重识别和恢复攻击的同时保持了期望的数据效用以及在实践中的可行性。
2022-07-08 cs.CR cs.DB
Differentially Private Relational Learning with Entity-level Privacy Guarantees
Georgia Institute of Technology(佐治亚理工学院);Purdue University(普渡大学)
本文提出了一种具有实体级差分隐私保证的关系学习框架,通过自适应梯度裁剪和隐私放大分析,实现对关系数据的隐私保护与模型训练的平衡。
2026-02-03 cs.CR cs.LG
Enforcing Privacy in Distributed Learning with Performance Guarantees
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Imperial College London(伦敦帝国理工学院)
我们研究了分布式学习的私有化和优化策略。我们专注于差分隐私计划,并研究其性能的影响。我们发现,流行的添加剂随机扰动方案降低性能,因为它不是很好地调整到图形结构。出于这个原因,我们利用两种替代图同态结构,并表明它们在保证隐私的同时提高了性能。此外,与大多数早期研究相反,风险梯度并没有被假设为有界的(这是一个在实践中很少成立的条件;例如,二次风险)。我们避免了这种情况,仍然设计了一个差异化的私人计划的概率很高。我们研究优化和学习方案,并通过模拟说明理论研究结果。
2023-01-16 cs.CR cs.LG cs.MA
Evaluating Differentially Private Machine Learning in Practice
University of Virginia(弗吉尼亚大学)
差分隐私是一个强有力的隐私概念,可以用来证明形式上的保证,在隐私预算方面,$ε$,关于有多少信息被泄露的机制。然而,隐私保护机器学习的实现通常选择大的$ε$值,以获得可接受的模型效用,而很少了解这种选择对有意义的隐私的影响。此外,在使用迭代学习过程的情况下,使用提供更严格分析的差分隐私变体,这似乎减少了所需的隐私预算,但在隐私和效用之间存在难以理解的权衡。在本文中,我们量化的影响,这些选择的隐私实验与逻辑回归和神经网络模型。我们的主要发现是,即使使用先进的机制,也可以保证隐私损失的上限与使用当前推理攻击可以测量的有效隐私损失之间存在巨大差距。当前的差异私有机器学习机制很少提供可接受的效用-隐私权衡,并保证复杂的学习任务:提供有限准确性损失的设置提供无意义的隐私保证,提供强隐私保证的设置导致无用的模型。实验代码可以在这里找到:https://github.com/bargavj/EvaluatingDPML
2019-08-12 cs.CR cs.LG stat.ML
Generating Synthetic Data with Formal Privacy Guarantees: State of the Art and the Road Ahead
Imperial College London(伦敦帝国学院);University of Manchester(曼彻斯特大学);National University of Singapore(新加坡国立大学)
本综述系统梳理了隐私保护合成数据在表格、图像和文本上的最新方法,并通过在五个专业领域数据集上对四种领先方法的实证分析,揭示了现实隐私约束下性能显著下降的问题,强调了建立稳健评估框架和标准化基准的必要性。
2025-03-26 cs.CL cs.CR cs.CV
Distributed Differential Privacy in Multi-Armed Bandits
Boston University(波士顿大学);Wayne State University(韦恩州立大学)
我们考虑了标准的$K$ -武装强盗问题下的分布式信任模型的差分隐私(DP),这使得能够保证隐私,而无需一个值得信赖的服务器。在这种信任模型下,以前的工作主要集中在使用shuffle协议实现隐私,其中一批用户数据在发送到中央服务器之前被随机排列。该协议通过在$T$步累积后悔中牺牲额外的附加$O\!\left(\!\frac{K\log T\sqrt{\log(1/δ)}}ε\!\right)\!$成本来实现($ε,δ$)或近似DP保证。相比之下,在广泛使用的中央信任模型下,实现更强($ε,0$)或纯DP保证的最佳隐私成本仅为$Θ\!\left(\!\frac{K\log T}ε\!\right)\!$,然而,需要可信服务器。在这项工作中,我们的目标是在分布式信任模型下获得一个纯DP保证,同时牺牲不超过中央信任模型下的遗憾。我们实现这一点,通过设计一个通用的强盗算法的基础上连续的手臂消除,隐私是保证腐败的奖励与一个安全的计算协议,确保一个等效的离散拉普拉斯噪声。我们还表明,我们的算法,实例化时,与噪音和安全协议,确保\emph{Rényi differential privacy} -一个更强的概念比近似DP -分布式信任模型下的隐私成本$O\!\left(\!\frac{K\sqrt{\log T}}ε\!\right)\!$。
2022-06-12 cs.CR cs.LG