Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing
如何在保护用户隐私的同时支持高实用性分析，以实现低延迟流处理？回答这个问题：我们描述的设计，实施和评估的PRIVAPPROX，数据分析系统的隐私保护流处理。PRIVAPPROX提供了三个属性：（i）隐私：为用户提供零知识隐私保证，比最先进的差分隐私更严格的隐私约束;（ii）效用：数据分析师系统地探索输出准确性之间的权衡的接口（具有误差估计）和查询执行预算;（iii）延迟：基于可扩展的“无同步”分布式架构的近实时流处理。我们的方法背后的关键思想是将两种现有技术结合在一起：即采样（用于近似计算的背景下）和随机响应（用于隐私保护分析的背景下）。由此产生的婚姻是互补的-它实现了更强的隐私保证，并提高了性能，这是实现低延迟流分析的必要因素。
2017-06-05 cs.CR cs.DC
Limits of Personalizing Differential Privacy Budgets
CNRS, LAMSADE, Dauphine-PSL（法国国家科学研究中心、拉马萨德研究所、巴黎-萨特大学）；Georgia Institute of Technology（佐治亚理工学院）
本文研究了个性化差分隐私预算的局限性，指出在均值估计中，选择合适的有效隐私预算比完全个性化更重要，通过阈值操作可实现改进，且在混合私有和公开数据集及多级隐私要求中量化了改进效果。
2026-05-13 cs.CR cs.LG
Randomized Nested Polar Subcode Constructions for Privacy, Secrecy, and Storage
我们考虑极化子码（PSC），其是具有动态冻结符号的极化码（PC），以与对应的PC相比增加最小距离。提出了一种随机嵌套PSC结构，它由一个低速率PSC和一个高速率PC组成，可用于列表和顺序连续消除解码器。该代码构造旨在利用边信息执行有损压缩。嵌套PSC被用于具有物理标识符的密钥协商问题。与具有相同列表大小的嵌套PC相比，在秘密密钥与存储速率比率方面的增益被示出以表明嵌套PSC在嵌套PC上显着改善。嵌套的PSC的性能提高较大的列表大小，这是不是嵌套PC的情况下考虑。
2020-07-29 cs.CR cs.IT cs.MM
Noiseless Privacy
在本文中，我们定义了无噪声隐私，作为差分隐私的非随机竞争对手，要求机制的输出（即，隐私保护映射和查询的函数组合）在改变个体的数据时只能获得几个值（不同值的数量的对数受隐私预算的限制）。因此，该机制的输出并不完全提供数据集中个体的数据信息。我们证明了几个保证noiselessly私人机制。即使对手知道私有数据集的所有其他条目，关于个人数据的输出的信息内容也受到隐私预算的限制。无记忆信道使用无噪声私有机制进行传输的零错误容量的上限由隐私预算。一个非随机假设测试对手的性能再次受到隐私预算的限制。最后，假设一个对手有机会获得一个随机先验数据集，我们证明了对手的估计误差的数据集的各个条目是下界的隐私预算的递减函数。在这种情况下，我们还表明，最大的信息泄漏是有界的隐私预算。除了隐私保证，我们证明了无噪声私人机制承认复合定理和后处理不会削弱他们的隐私保证。我们证明了量化算子可以确保无噪声隐私，如果量化级别的数量是适当选择的查询和隐私预算的敏感性的基础上。最后，我们使用多个数据集在能源和运输说明了无噪声隐私的隐私优点。
2019-10-29 cs.CR cs.IR cs.IT
CPAR: Cloud-Assisted Privacy-preserving Image Annotation with Randomized KD-Forest
随着智能手机拍摄的图片数量的爆炸式增长，组织和搜索图片已经成为重要的任务。为了有效地完成这些任务，关键使能器是用适当的关键字来注释图像，从而使基于关键字的搜索和组织变得可用于图像。目前，智能手机通常与云存储平台同步相册，并在云计算的帮助下对它们的图像进行注释。然而，“卸载到云”解决方案可能导致隐私泄露，因为来自智能照片的照片包含各种敏感信息。为了隐私保护，现有的研究努力通过利用密码原语来支持对加密图像的基于云的图像注释。然而，对于每个注释，它需要云对大规模加密数据集进行线性检查，计算成本很高。本文提出了一种云辅助的隐私保护图像标注与随机kd森林，即CPAR。使用CPAR，用户可以通过利用云的力量自动为他们的图像分配关键字，并保护隐私。CPAR提出了一种新的隐私保护的随机kd森林结构，显着提高了注释性能相比，现有的研究。深入分析了CPAR的安全性。在著名的IAPR TC-12数据集上的实验验证了CPAR的有效性。
2019-02-12 cs.CR
Randomized Distributed Function Computation (RDFC): Ultra-Efficient Semantic Communication Applications to Privacy
Technische Universität Dortmund（多特蒙德工业大学）；Linköping University（林雪平大学）
RDFC通过随机化方法实现隐私保护的高效语义通信，其在无共享随机性时仍优于无损传输，且在有限块长下隐私性能显著提升。
2026-03-10 cs.CR cs.DC cs.IT
Optimal Allocation of Privacy Budget on Hierarchical Data Release
University of Virginia（弗吉尼亚大学）；Georgia Institute of Technology（佐治亚理工学院）
针对分层数据发布中隐私预算次优分配导致数据效用低或隐私保护不足的问题，将其建模为带约束优化问题以在总预算下最大化数据效用，经理论分析与真实数据集实验验证，该方法显著提升发布数据效用与下游任务性能。
2025-05-16 cs.AI cs.CR cs.CY
A Randomized Approach for Tight Privacy Accounting
Princeton University（普林斯顿大学）；Virginia Tech（弗吉尼亚理工大学）
本文提出差分隐私新范式EVR，通过Monte Carlo技术构建随机化隐私验证器和DP accountant，将隐私参数估计转化为严格上界保证，提升了隐私保护机器学习的效用-隐私权衡。
2023-11-21 cs.CR cs.DS cs.LG
Adaptive Privacy Budgeting
Department of Computer Science, University of Toronto（多伦多大学计算机科学系）；Computer Science and Engineering, Hong Kong University of Science and Technology（香港科技大学计算机科学与工程学系）
本文提出了一种自适应隐私预算分配框架，用于在广义差分隐私下优化隐私保护与效用之间的平衡。
2026-01-15 cs.CR
L-SRR: Local Differential Privacy for Location-Based Services with Staircase Randomized Response
基于位置的服务（LBS）已经得到了显著的发展，并广泛部署在移动设备中。众所周知，LBS应用程序可能会收集敏感位置，从而导致严重的隐私问题。强隐私模型“局部差分隐私"（LDP）最近已经被部署在许多不同的应用中（例如，Google RAPPOR、iOS和Microsoft Telemetry），但由于现有LDP机制的低实用性，对LBS应用程序无效。为了解决这样的缺陷，我们提出了第一个LDP框架的各种基于位置的服务（即“L-SRR”），私人收集和分析用户的位置与高效用。具体来说，我们设计了一种新的随机化机制“阶梯随机响应”（SRR），并扩展了经验估计，以显着提高SRR在不同LBS应用中的效用（例如，业务密度估计和k-最近邻）。我们在四个真实的LBS数据集上进行了广泛的实验，并与实际应用中的其他LDP方案进行了比较。实验结果表明，L-SRR明显优于它们。
2022-09-29 cs.CR
LinkedIn's Audience Engagements API: A Privacy Preserving Data Analytics System at Scale
我们提出了一个隐私系统，利用差分隐私来保护LinkedIn会员的数据，同时还提供受众参与的见解，使营销分析相关的应用程序。我们详细介绍了用于提供可用于现有实时数据分析平台的结果的差异化私有算法和其他隐私保护措施，特别是与开源的Pinot系统。我们的隐私系统提供用户级别的隐私保证。作为隐私系统的一部分，我们提供了一个预算管理服务，该服务对返回给分析师的结果执行严格的差分隐私预算。该预算管理服务将差分隐私的最新研究汇集到一个产品中，以在给定固定差分隐私预算的情况下保持效用。
2020-11-16 cs.CR
Chained-DP: Can We Recycle Privacy Budget?
本文提出Chained-DP框架，通过序贯聚合回收隐私预算，并以博弈论设计激励机制和抗合谋差分隐私协议，显著降低估计误差。
2023-09-19 cs.CR cs.DC cs.GT
Prior-itizing Privacy: A Bayesian Approach to Setting the Privacy Budget in Differential Privacy
针对差分隐私发布中需平衡数据实用性与隐私保护的问题，提出基于贝叶斯披露后验概率设置隐私预算$\u03b5$的框架，机构可通过设定可接受的风险水平推导唯一$\u03b5$，实现风险与效用的权衡。
2024-05-22 cs.CR stat.ME
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院）；College of Science, National University of Defense Technology（国防科技大学理学院）
针对现有DP-RAG框架隐私预算浪费问题，提出SparsePay-RAG，通过公共先验、聚类缩小检索范围、自适应访问控制及DP对比解码，实现按需付费，在强隐私约束下取得更优隐私-效用权衡。
2026-09-24 cs.CR cs.DL
A Simple Algorithm for Estimating Distribution Parameters from $n$-Dimensional Randomized Binary Responses
随机化响应对于隐私保护数据汇集是有吸引力的，因为所提供的隐私可以通过诸如差分隐私之类的手段来量化。然而，恢复和分析涉及多个相关随机化二进制属性的统计数据可能很困难，这对使用构成了重大障碍。在这项工作中，我们解决这个问题，通过识别和分析一个家庭的响应随机改变每个二进制属性独立相同的概率。Google的Rappor随机发生器的模式以及两个著名的经典随机化回答方法，Warner的原始方法和Simmons的无关问题方法的应用都属于这个家族。我们表明，在这个家庭的随机变换多项式分布参数的可逆和双对称$2 \times 2$矩阵的迭代克罗内克积。这使我们能够提出一个简单而有效的算法，获得无偏的最大似然参数估计$k$路边际随机响应，并提供理论界的统计效率。我们还描述了效率-差分隐私权衡。重要的是，响应的随机化和估计算法都易于实现，这是隐私保护和安全技术的关键方面。
2018-07-13 cs.CR
Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation
如何在分布式环境中实现差分隐私，其中数据集分布在不信任的各方，是一个重要的问题。我们考虑在什么条件下协议可以继承它计算的函数的差分隐私性质。问题的核心是随机函数的安全多方计算。引入了\emph{obliviousness}的概念，它捕获了在分布式环境中从确定性函数计算随机化函数时的关键安全问题。通过这一观察，给出了由确定性函数计算随机化函数的一个充要条件。上述结果不仅可以用来判断计算差分私有函数的协议是否安全，而且可以用来构造安全的差分私有函数协议。证明了如果协议秘密地计算一个函数，则计算该函数的协议可以继承该函数的差分隐私性质，并给出了差分隐私协议的合成定理。我们还构造了一些协议，以产生随机变量的分布设置，如均匀随机变量和反演方法。利用这些基本协议，我们构造了高斯机制、拉普拉斯机制和指数机制的协议。重要的是，所有这些协议都满足遗忘性，因此可以通过基于模拟的方式证明是安全的。给出了分布情形下计算随机函数的复杂性界。最后，为了证明我们的研究结果对多方差分隐私协议的有效性，我们构造了一个差异隐私的经验风险最小化协议。
2016-04-11 cs.CR cs.DB
Privacy-Optimized Randomized Response for Sharing Multi-Attribute Data
针对多属性数据共享隐私保护不足的问题，提出隐私优化的随机响应方法及高效启发式算法，在保证最强隐私的同时显著降低输出误差。
2024-02-12 cs.CR
Over-the-Air Federated Averaging with Limited Power and Privacy Budgets
Queen Mary University of London（伦敦玛丽女王大学）；Brunel University London（伦敦布鲁内尔大学）；Southeast University（东南大学）；Hainan University（海南大学）；Nanjing University of Science and Technology（南京理工大学）；University of Kent（肯特大学）
针对无线联邦学习的通信与隐私问题，提出功率与隐私预算受限的DP-OTA-FedAvg系统，通过联合优化设备调度、对齐系数与聚合轮次提升学习性能，经收敛与隐私分析后高效求解，仿真验证有效。
2023-05-05 cs.CR cs.IT cs.LG
Randomized Response Mechanisms for Differential Privacy Data Analysis: Bounds and Applications
随机响应作为差分私有机制的一个基本组成部分，在科学界引起了极大的兴趣，并发现了各种潜在的应用。在这项工作中，我们关注的是三个元素的随机响应（RR $_{3}$）以及相关的应用程序的加权二分图上的差异私人担保的分析。我们开发了一个原则性的框架，估计由RR $_{3}$为基础的机制产生的统计数据，然后证明相应的估计是无偏的。同时，我们详细研究了RR $_{3}$族中几个基本的重要成员，得到了无偏估计的封闭解。接下来，我们展示了几种基于RR $_{3}$的机制在需要局部差分隐私保证时估计加权二分图上的平均度和平均加权值的潜在应用。同时，通过最小化统计量的方差来确定相关参数的选取下限，从而设计出最优的基于RR $_{3}$的局部差分保密机制，并利用该机制对已有的协议进行了优化，提出了一个达到紧界的方案.最后，也是最重要的是，我们观察到，在分析关系数据，如加权二分图，局部差分隐私机制的隐私预算的一部分，有时会被“消耗”的机制本身意外，导致更强的隐私保证比我们会得到简单的顺序组合。
2021-12-14 cs.CR
Spend Your Budget Wisely: Towards an Intelligent Distribution of the Privacy Budget in Differentially Private Text Rewriting
Technical University of Munich（慕尼黑工业大学）
针对差分隐私文本重写中隐私预算分配不均的问题，提出基于语言学和NLP的智能分配方法，在相同预算下提升隐私保护水平与实用性权衡。
2025-03-28 cs.CL cs.CR
Privacy-Aware Randomized Quantization via Linear Programming
Ohio State University（俄亥俄州立大学）；Yahoo Research（雅虎研究院）
本文针对差分隐私下离散输出存在偏差或权衡不佳的问题，提出一类无偏且具高度自由度的量化机制，并通过线性规划求解最优配置，实现更优的隐私-准确率权衡。
2024-06-01 cs.AI cs.CR
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
Apple Inc.（苹果公司）
研究自主协商代理行为隐私泄露问题，设计自适应随机协商策略，联合保证差分隐私、报价序列收敛和高协商效用，在合成双边协商实验中降低对手推理准确率，保持高协商成功率和效用。
2026-07-09 cs.CR
Elephants Do Not Forget: Differential Privacy with State Continuity for Privacy Budget
针对现有差分隐私系统无法维护隐私预算状态连续性易遭攻击的问题，提出基于TEE和状态连续性模块的ElephantDP系统，可在不可信环境下提供可信级DP保障，开销为基线的1.1-3.2倍。
2024-08-14 cs.CR
Heterogeneous Randomized Response for Differential Privacy in Graph Neural Networks
New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute（卡塔尔计算研究所）；University of Florida（佛罗里达大学）；University of Arkansas（阿肯色大学）
图神经网络（GNN）由于能够从图数据中的节点之间的特征和边学习联合表示，因此容易受到隐私推理攻击（PIA）的影响。为了防止GNN中的隐私泄漏，我们提出了一种新的异构随机响应（HeteroRR）机制，以保护节点的特征和边缘免受差分隐私（DP）保证下的PIA攻击，而不会在训练GNN时产生不必要的数据和模型效用成本。我们的想法是平衡的重要性和敏感性的节点的特征和边缘在重新分配的隐私预算，因为一些功能和边缘比其他更敏感或重要的模型效用。因此，我们在节点的特征和边缘两个级别上获得了明显更好的随机化概率和更严格的误差界限，从而使我们能够保持高数据效用来训练GNN。使用基准数据集进行的广泛的理论和实证分析表明，HeteroRR在节点特征和边缘的严格隐私保护下，在模型效用方面显著优于各种基线。这使我们能够有效地在DP保持GNN中捍卫PIA。
2022-11-10 cs.CR cs.LG
Locally Private Subgraph Counting via Noisy Adjacency Matrix and Differential Privacy on Randomized Data
Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Beijing Jiaotong University（北京交通大学）；National Health Data Institute, Shenzhen（深圳市国家健康数据研究院）
本文针对无可信服务器/洗牌器的边局部差分隐私子图计数难题，提出NAM与DPRD框架，设计多类子图计数估计器，推导误差界并经实验验证其性能优于现有基线。
2026-08-27 cs.CR
Bipartite Randomized Response Mechanism for Local Differential Privacy
Anhui University（安徽大学）；East China Normal University（华东师范大学）；The Hong Kong Polytechnic University（香港理工大学）
本文提出二元随机响应机制（BRR），通过效用排名将候选项目分为两部分，结合局部和全局搜索阶段优化差分隐私发布，实现显著降低期望误差。
2026-03-13 cs.CR
Differential Privacy at Risk: Bridging Randomness and Privacy Budget
École Normale Supérieure（巴黎高等师范学院）；Chalmers University of Technology（查尔姆斯理工大学）；National University of Singapore（新加坡国立大学）
隐私保护机制的噪声校准取决于查询的敏感性和规定的隐私级别。数据管理员必须对隐私级别做出重要的选择，以平衡用户的需求和业务实体的资金限制。我们分析角色的随机性的来源，即显式随机性引起的噪声分布和隐式随机性引起的数据生成分布，参与设计的隐私保护机制。更精细的分析使我们能够提供更强有力的隐私保证，并具有可量化的风险。因此，我们提出的隐私风险，这是一个概率校准的隐私保护机制。我们提供了一个组合定理，利用隐私的风险。我们实例化的概率校准拉普拉斯机制提供分析结果。我们还提出了一个成本模型，该模型可以弥合隐私级别与GDPR合规商业实体估计的补偿预算之间的差距。所提出的成本模型的凸性导致隐私级别的独特微调，最大限度地减少补偿预算。我们展示了它的有效性，说明了一个现实的情况下，避免高估的补偿预算使用隐私风险的拉普拉斯机制。我们定量地表明，组合使用成本最优的隐私风险提供了更强的隐私保证比经典的先进的组合。
2020-04-13 cs.CR cs.DS cs.LG
Differentially Private Feature Release for Wireless Sensing: Adaptive Privacy Budget Allocation on CSI Spectrograms
Kocaeli University（科贾埃利大学）；Sakarya University（萨卡里亚大学）；Yildiz Technical University（伊尔迪兹理工大学）；Istanbul Technical University (ITU)（伊斯坦布尔科技大学）
本文提出了一种针对CSI频谱图的自适应隐私预算分配机制，通过改进的隐私-效用平衡提升无线传感特征发布的安全性与性能。
2025-12-29 cs.CR
Distributed Differential Privacy By Sampling
在本文中，我们描述了我们的方法来实现分布式差分隐私单独采样。我们的机制工作在半诚实的设置（诚实但好奇，聚合器试图偷看数据，但遵循协议）。我们表明，实用程序保持不变，并没有降低由于方差相比，随机响应机制。此外，我们显示较小的隐私泄漏相比，随机响应机制。
2017-06-14 cs.CR
Budget Recycling Differential Privacy
针对差分隐私机制在预算紧张时效用降低的问题，提出BR-DP框架，通过DP核与回收器的双组件设计及最优预算分配，结合组合核算与子采样隐私放大，有效提升了效用-隐私权衡。
2024-07-12 cs.CR cs.DS eess.SP
Noise-Augmented Privacy-Preserving Empirical Risk Minimization with Dual-purpose Regularizer and Privacy Budget Retrieval and Recycling
University of Notre Dame（圣母大学）
我们提出了噪声增强的隐私保护经验风险最小化（NAPP-ERM），解决了不同的隐私保证的ERM。现有的隐私保护ERM方法可能会受到过度正则化的影响，使用l2项来实现目标正则化之上的强凸性。NAPP-ERM改进了当前的方法，并通过适当设计的增强数据迭代地实现目标正则化，并通过单个自适应加权的两用l2正则化器提供强凸性，从而减轻过度正则化。当目标正则化用于变量选择时，我们提出了一种新的正则化器，同时实现隐私和稀疏性保证。最后，我们提出了一种策略，以检索隐私预算时，满足强凸性的要求，这可以返回给用户，这样的DP的ERM是保证在一个较低的隐私成本比原来计划的，或被回收到ERM优化过程中，以减少注入DP噪声，提高DP-ERM的效用。从实现的角度来看，NAPP-ERM可以通过优化给定噪声增强数据的非扰动目标函数来实现，因此可以利用现有的工具进行非私有ERM优化。我们通过大量的实验说明了NAPP-ERM对变量选择和预测的过度正则化和私人预算检索的缓解效果。
2021-10-16 cs.CR cs.LG stat.ML
Spending Privacy Budget Fairly and Wisely
New York University（纽约大学）；Microsoft（微软）
差别私有合成数据生成是一种改进数据获取的实用方法，是鼓励建立生产性伙伴关系的一种手段。DP固有的一个问题是“隐私预算”通常在数据集中的特征之间均匀地“花费”。这导致了与真实数据的良好统计奇偶性，但可能低估了对合成数据的预测质量至关重要的条件概率和边际。此外，预测质量的损失在数据集上可能是不均匀的，其中对应于少数群体的子集可能遭受更高的损失。在本文中，我们开发了集成方法，该方法“明智地”分配隐私预算，以最大限度地提高在DP数据上训练的模型的预测准确性，并“公平地”限制不同群体之间准确性的潜在差异，减少不平等。我们的方法是基于这样的见解，即特征重要性可以告知如何分配隐私预算，并且，进一步地，可以将每组特征重要性和公平性相关的性能目标纳入分配中。这些见解使我们的方法可以根据社会背景进行调整，使数据所有者能够生成平衡的合成数据，用于预测分析。
2022-04-27 cs.CR cs.LG
Privacy-Preserving Randomized Controlled Trials: A Protocol for Industry Scale Deployment
在本文中，我们概述了一种在5亿行数据和超过10亿个门的规模上为多方随机对照试验部署隐私保护协议的方法。随机对照试验（RCT）被广泛用于改善医疗保健，教育，犯罪学和营销等各个部门的业务和政策决策。随机对照试验是一种科学严谨的方法来衡量治疗的有效性。这是通过将受试者随机分配到两个或多个组，以不同的方式对待他们，然后比较各组的结果来实现的。在许多情况下，多方持有用于进行和分析RCT的数据的不同部分。考虑到各方的隐私要求和期望，集中存储数据来进行和分析RCT通常具有挑战性。我们通过一个三阶段的解决方案来实现这一点。第一阶段使用私有秘密共享集合交集（PS $^3$ I）解决方案来创建联合集合并建立秘密共享而不暴露成员身份，同时丢弃被放置到多个组中的个体。第二阶段在分片数据库上运行通用MPC的多个实例，以汇总每个实验组的统计数据，同时丢弃在接受治疗之前采取行动的个体。第三阶段将分布式和校准的差分隐私（DP）噪声添加到聚合统计和不确定性度量中，提供正式的双侧隐私保证。我们还评估了多个开源通用MPC库的性能。我们还展示了我们如何使用它来创建一个有效的广告效果测量产品，每个实验能够测量数亿人。
2021-08-11 cs.CR cs.DC
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Google Research（谷歌研究院）
针对联邦学习中的隐私与通信挑战，提出随机量化机制（RQM），通过两级随机化实现Rényi差分隐私，无需显式离散噪声，在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
DPack: Efficiency-Oriented Privacy Budget Scheduling
Columbia University（哥伦比亚大学）；University of Michigan（密歇根大学）；University of British Columbia（不列颠哥伦比亚大学）
本文提出面向效率的隐私预算调度器DPack，将隐私调度形式化为新型多维背包问题并开发近似算法，在牺牲部分公平性的前提下显著提升任务调度数量与DP预算效率。
2024-10-10 cs.CR cs.LG
An Adaptive Differential Privacy Method Based on Federated Learning
Beijing Electronic Science and Technology Institute（北京电子科技学院）；State Information Center（国家信息中心）
针对联邦学习中固定隐私预算致精度下降、现有调整方法不合理的问题，提出基于多因素自适应调整隐私预算的差分隐私方法，可在精度基本不变的情况下降低约16%的隐私预算。
2024-08-13 cs.AI cs.CR cs.DC
Statistical Analysis of Privacy and Anonymity Guarantees in Randomized Security Protocol Implementations
UC Berkeley（加州大学伯克利分校）
安全协议通常使用随机化来实现概率非确定性。这种非确定性反过来又用于混淆可观察值对秘密数据的依赖性。由于安全协议的正确性非常重要，安全协议的形式化分析在文献中得到了广泛的研究。随机安全协议也被分析使用形式化技术，如进程演算和概率模型检验。在本文中，我们考虑的问题，验证实现的随机化协议。与以前的方法，把协议作为一个白盒，我们的方法试图验证一个实现提供了一个黑盒。我们的目标是通过统计技术推断安全协议提供的保密性保证。我们学习的概率依赖的可观察的输出秘密输入使用贝叶斯网络。然后，这被用来近似秘密的泄漏。为了评估我们的统计方法的准确性，我们比较了我们的技术与概率模型检验技术的两个例子：人群协议和餐饮密码学家的协议。
2009-06-27 cs.CR cs.LG
Protecting Big Data Privacy Using Randomized Tensor Network Decomposition and Dispersed Tensor Computation
Nanyang Technological University（南洋理工大学）；RIKEN（理化学研究所）；Singapore Management University（新加坡管理大学）；University of Southern California（南加州大学）
数据隐私是组织和企业在云/雾上安全地外包数据存储，共享和计算的重要问题。然而，数据加密在密钥管理和分发方面是复杂的;现有的安全计算技术在计算/通信成本方面是昂贵的，因此不能扩展到大数据计算。张量网络分解和分布式张量计算在信号处理和机器学习中被广泛用于降维和大规模优化。然而，分布式张量网络在大数据隐私保护方面的潜力还没有被考虑过，这激发了目前的研究。我们的主要直觉是，张量网络表示在数学上是不唯一的，不可解释的，无法解释的;张量网络表示自然支持压缩和分布式/分散计算的一系列多线性运算。因此，我们提出了随机算法来将大数据分解成随机张量网络表示，并分析了1D到3D数据张量的隐私泄漏。随机性主要来自大数据中常见的复杂结构信息;随机化是基于在分解之前应用于张量块的受控扰动。分布式张量表示分散在具有元数据隐私的多个云/雾或服务器/设备上，这提供了分布式信任和管理，以无缝地保护大数据存储，通信，共享和计算。实验结果表明，所提出的随机化技术有助于大数据的匿名化，提高了大数据存储和计算的效率。
2021-01-04 cs.CR cs.CV
Privacy Budget Scheduling
Columbia University（哥伦比亚大学）；Microsoft Research（微软研究院）
在个人数据上训练的机器学习（ML）模型已被证明会泄露有关用户的信息。差分隐私（DP）使模型训练具有对这种泄漏的保证界限。每个使用DP训练的新模型都会增加数据泄露的限制，并且可以被视为消耗了不应超过的全球隐私预算的一部分。这个预算是一种稀缺资源，必须仔细管理，以最大限度地提高成功训练模型的数量。我们描述了PrivateKube，这是流行的Kubernetes数据中心编排器的扩展，它将隐私作为一种新型资源与其他传统计算资源（如CPU，GPU和内存）一起管理。我们为隐私资源设计的抽象反映了Kubernetes为传统资源定义的抽象，但也存在重大差异。例如，传统的计算资源是可扩展的，而隐私不是：CPU可以在模型执行完成后重新获得，而隐私预算不能。这种区别迫使重新设计调度程序。我们提出了DPF（占主导地位的私人块公平性）-流行的占主导地位的资源公平性（DRF）算法的一个变种-这是面向非易失性的隐私资源，但享有类似的理论属性DRF。我们在微基准上评估PrivateKube和DPF，并在Amazon Reviews数据上评估ML工作负载。与现有的基线相比，DPF允许在相同的全局隐私保证下训练更多的模型。这对于Rényi DP上的DPF尤其如此，Rényi DP是DP的高度可组合形式。
2021-06-29 cs.CR cs.DC cs.LG
Degree-Preserving Randomized Response for Graph Neural Networks under Local Differential Privacy
KDDI Research, Inc.（KDDI研究所）；ISM（统计数学研究所）；AIST（日本产业技术综合研究所）
提出DPRR算法，通过Warner的随机响应、策略性边采样和Laplace机制在局部差分隐私下保护图神经网络中的边并保留图结构，在图分类任务中准确率接近非私有算法并防御数据投毒攻击。
2024-06-01 cs.CR cs.LG
Inference-Based Similarity Search in Randomized Montgomery Domains for Privacy-Preserving Biometric Identification
相似性搜索对于许多重要的应用是必不可少的，并且通常涉及基于其与查询的相似性对高维数据进行大规模搜索。在生物识别应用中，最近的漏洞研究表明，对抗性机器学习可以通过利用生物识别相似性信息来危害生物识别系统。现有的生物计量隐私保护方法通常基于安全生物计量模板的成对匹配，并且在搜索效率和可扩展性方面具有固有的限制。在本文中，我们提出了一个基于推理的框架，隐私保护的相似性搜索在汉明空间。我们的方法建立在一个模糊的距离测量，可以隐藏汉明距离在一个动态的间隔。这样的机制使我们能够系统地设计统计可靠的方法来检索最有可能的候选人，而不知道确切的距离值。我们进一步建议应用蒙哥马利乘法生成搜索索引，可以承受对抗性的相似性分析，并表明随机蒙哥马利域的信息泄漏可以忽略不计的小。我们在公共生物特征数据集上的实验表明，基于推理的方法可以实现接近安全计算方法的最佳性能的搜索精度，但与加密原语相比，相关的成本降低了几个数量级。
2017-11-05 cs.CR cs.IR
Personalized w-Event Privacy for Infinite Stream Estimation
Hunan University（湖南大学）；Tongji University（同济大学）；HKUST (GZ)（香港科技大学（广州））；HKUST（香港科技大学）；Shanghai Jiaotong University（上海交通大学）；Xi’an Jiaotong University（西安交通大学）
本文研究了个性化w-事件隐私在私有数据流估计中的应用，设计了PWSM机制并提出PBD和PBA算法，实现了动态调整隐私要求并满足个性化差分隐私，实验表明方法能显著降低估计误差。
2026-08-21 cs.CR cs.DB cs.IR
Privacy Preserving Gaze Estimation using Synthetic Images via a Randomized Encoding Based Framework
University of Tübingen（图宾根大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
眼动追踪是评估和评估人类注意力、行为和生物特征的应用的关键技术之一，特别是使用凝视、瞳孔和眨眼行为。然而，关于眼动追踪技术的社会接受度的挑战之一是敏感和个人信息的保存。为了解决这个问题，我们采用了一个隐私保护框架的基础上随机编码训练支持向量回归模型使用合成的眼睛图像私人估计人类的目光。在计算过程中，任何一方都不知道其他任何一方拥有的数据或结果。此外，训练模型的一方不能重建瞳孔、眨眼或视觉扫描路径。实验结果表明，我们的隐私保护框架是能够在实时工作，具有相同的精度相比，非私人版本，并可以扩展到其他眼动追踪相关的问题。
2021-07-13 cs.CR cs.CV cs.HC
X-NegoBox: An Explainable Privacy-Budget Negotiation Framework for Secure Peer-to-Peer Energy Data Exchange
Department of Informatics, University of Oslo（奥斯陆大学信息学院）；University of Electronic Science and Technology of China（电子科技大学）
本文提出X-NegoBox框架，通过自主隐私预算谈判协议和可解释协议层，实现适应性隐私预算管理和透明决策，提升点对点能源数据交换的隐私保护与信任度。
2026-04-27 cs.AI cs.CR
DPBalance: Efficient and Fair Privacy Budget Scheduling for Federated Learning as a Service
UM-SJTU Joint Institute, Shanghai Jiao Tong University（上海交通大学密西根学院）；Cooperative Medianet Innovation Center (CMIC), Shanghai Jiao Tong University（上海交通大学合作媒体创新中心）；School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院）
本文提出DPBalance，一种面向联邦学习即服务的隐私预算调度机制，通过综合效用函数和顺序分配机制联合优化效率与公平性，在理论上满足帕累托效率等性质，实验证明其显著优于现有方案。
2024-02-15 cs.CR cs.DC cs.LG
Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy
Department of Computer Science, Technical University of Munich（慕尼黑技术大学计算机科学系）；Munich Data Science Institute（慕尼黑数据科学研究所）；MCML；Machine Learning Research, Morgan Stanley（摩根大通机器学习研究）
本文提出一种基于对偶视角的微分隐私框架，用于证明对抗性扰动下的鲁棒性，通过整合随机平滑与隐私配置文件，提供对训练时间和推理时间攻击的联合鲁棒性保证。
2026-05-20 cs.CR cs.LG
Differentially Private Federated Learning With Time-Adaptive Privacy Spending
University of Toronto（多伦多大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
针对联邦学习中隐私预算均匀消耗的假设，提出时间自适应DP-FL框架，按轮次和客户端非均匀分配隐私预算，在早期节省预算用于后期细粒度学习，理论证明并实验验证了隐私-效用权衡的改善。
2025-02-25 cs.CR cs.DC cs.LG
Have it your way: Individualized Privacy Assignment for DP-SGD
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Free University Berlin（柏林自由大学）；Columbia University（哥伦比亚大学）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）
针对统一隐私预算难以匹配用户差异化偏好的问题，提出IDP-SGD，通过修改DP-SGD的数据采样与梯度加噪机制支持个体化预算，并改善隐私-效用权衡。
2024-01-19 cs.AI cs.CR cs.LG
RHyTHM: A Randomized Hybrid Scheme To Hide in the Mobile Crowd
如果到凭证管理基础设施的连接是间歇性的，则任何按需假名获取策略都是有问题的。如果车辆用完了假名而没有连接来重新填充其假名池，则一种解决方案是即时生成假名，例如，利用匿名身份验证。然而，这样的车辆将在人群中脱颖而出：人们可以简单地区分假名，从而基于假名发行者签名来签名消息，将它们链接并跟踪车辆。为了应对这一挑战，我们提出了一个随机混合方案，RHyTHM，使车辆在断开连接时保持运行，而不影响隐私：具有有效别名的车辆可以通过随机加入使用即时自我认证的别名以及对齐的生命周期来帮助其他人提高他们的隐私。通过这种方式，断开连接的用户的隐私通过合理的计算开销得到增强。
2017-12-09 cs.CR
Locally Differentially Private Frequency Estimation via Joint Randomized Response
针对 LDP 频率估计中隐私与效用的权衡，本文提出基于两人组相关扰动的 JRR 机制，在保持与经典 RR 同等隐私保证的同时，将估计精度最高提升两个数量级。
2025-06-15 cs.CR
Blink: Link Local Differential Privacy in Graph Neural Networks via Bayesian Estimation
National University of Singapore（新加坡国立大学）
本文提出Blink方法，通过在去中心化节点上应用链路本地差分隐私，并利用贝叶斯估计对图拓扑去噪，有效缓解了隐私保护对GNNs准确性的影响，在多种隐私预算下均优于现有方法。
2023-09-07 cs.CR cs.LG
Setting $\varepsilon$ is not the Issue in Differential Privacy
Institute of Science and Technology Austria（奥地利科学技术学院）
本文指出差分隐私中隐私预算的解释困难并非其本质问题，而是隐私风险评估的挑战，并主张应通过差分隐私框架或合理解释来解决。
2026-01-19 cs.CR cs.LG
Purifying Approximate Differential Privacy with Randomized Post-processing
University of California, San Diego（加州大学圣地亚哥分校）
该研究提出“净化”框架，在特定条件下将（ε, δ）-近似差分隐私机制转换为（ε', 0）-纯DP机制，通过随机后处理消除δ参数，实现近最优隐私-效用权衡，为纯DP算法设计提供新策略并应用于多任务场景。
2025-11-17 cs.CR cs.LG stat.ML
Improving the Variance of Differentially Private Randomized Experiments through Clustering
Google Research（谷歌研究院）
提出差分隐私机制Cluster-DP，利用数据聚类结构在保证隐私的同时降低因果效应估计的方差惩罚，并在真实与模拟数据上验证了其优于基线的性能。
2025-05-28 cs.CR cs.LG stat.ME
