Minimax Optimal Two-Sample Testing under Local Differential Privacy
本文在局部差分隐私下提出两样本检验方法，通过隐私排列检验和自适应检验实现最小分离率，平衡隐私与统计效用。
2024-11-22 cs.CR cs.LG stat.ML
Impossibility of Differentially Private Universally Optimal Mechanisms
普遍效用最大化隐私机制的概念最近由Ghosh，Roughgarden和Sundararajan提出[STOC 2009]。这些机制保证了对一大类信息消费者的最佳效用，同时保留了差分隐私[Dwork，McSherry，Nissim和Smith，TCC 2006]。Ghosh等人令人惊讶地证明了当信息消费者是贝叶斯时，存在这种普遍最优的差异私有机制的情况。最近Gupte和Sundararajan [PODS 2010]将这一结果扩展到风险厌恶型消费者。两个肯定结果都处理（近似地）计算单个计数查询的机制（即，在给定的人口中满足特定属性的个体的数量），并且我们的工作的出发点是尝试将这些结果扩展到类似的设置，例如具有非二进制个体值的求和查询、直方图和两个（或更多）计数查询。然而，我们发现，普遍最优的机制并不存在所有这些查询，无论是贝叶斯和风险厌恶的消费者。对于贝叶斯的情况下，我们走得更远，并给出了这些功能，承认普遍最优的机制，表明普遍最优的机制存在，基本上，只有一个（单一）计数查询的表征。在我们的证明的核心是一个查询功能$f$表示其隐私约束图$G_f$，其边缘对应的值，通过应用$f$到相邻的数据库。
2010-08-02 cs.CR cs.GT
Strong Privacy-Preserving Universally Composable AKA Protocol with Seamless Handover Support for Mobile Virtual Network Operator
针对 MVNO 需向 MNO 暴露用户身份与主密钥导致的隐私泄露问题，提出支持双向认证、无缝切换、匿名与不可链接性的通用可组合 AKA 方案。
2024-09-07 cs.CR
Tight exponential analysis of universally composable privacy amplification and its applications
基于普遍可组合性的需要，我们从L_1可组合性的角度分析了从联合随机变量生成秘密密钥的任务。在此保密准则下，利用s在[0，1]中的1+s阶Renyi熵，我们得到了Eve在泛2散列函数作用下的可验证性的一个新的上界.它还表明，这个界给出了严格的指数下降率的情况下，独立和相同的分布。结果被应用到窃听信道模型和秘密密钥产生（蒸馏）通过公开讨论。
2013-08-10 cs.CR cs.IT math.IT
Near-Universally-Optimal Differentially Private Minimum Spanning Trees
本文首次在差分隐私中引入普遍最优性概念，证明简单机制在 $\ell_1$ 邻接关系下近似释放最小生成树具有近似普遍最优性，并通过多项式时间实现指数机制，使其在 $\ell_1$ 和 $\ell_\infty$ 邻接关系下均达到近似普遍最优。
2024-04-23 cs.CR cs.DS
Exactly Minimax-Optimal Locally Differentially Private Sampling
School of Electrical Engineering, KAIST（韩国科学技术院电气工程学院）；Department of Computing and Software, McMaster University（麦斯特大学计算机与软件系）
本文提出了一种在局部差分隐私下精确最优的采样机制，通过f-散度度量效用，实现了有限和连续数据空间的最优隐私-效用权衡。
2024-10-30 cs.CR cs.LG
Bring Your Own Algorithm for Optimal Differentially Private Stochastic Minimax Optimization
ETH Zurich（苏黎世联邦理工学院）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学习系统中心）；Amazon（亚马逊）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Washington（华盛顿大学）
我们研究了光滑随机极大极小优化的差分私有（DP）算法，随机极小化作为副产品。这些设置的圣杯是使用训练样本数量具有线性时间复杂度的算法来保证隐私和过度人口损失之间的最佳权衡。我们提供了一个通用的框架来解决差分私有随机极大极小优化（DP-SMO）问题，这使得从业者能够带来自己的基础优化算法，并将其作为一个黑盒，以获得接近最优的隐私损失权衡。我们的框架受到最近提出的非光滑差分私有随机凸优化（DP-SCO）的阶段性ERM方法[22]的启发，该方法利用经验风险最小化（ERM）的稳定性来保证隐私。我们的方法的灵活性，使我们能够回避基本算法需要有界的灵敏度的要求，并允许使用复杂的方差减少加速方法，以实现近线性的时间复杂度。据我们所知，这是第一个近线性时间算法，人口的对偶性差距光滑DP-SMO的近最佳保证，当目标是（强）凸-（强）凹。此外，基于我们灵活的框架，我们丰富了家庭的近线性时间算法的平滑DP-SCO与接近最佳的隐私损失的权衡。
2022-10-19 cs.CR cs.LG math.OC
Differentially Private Sliced Inverse Regression: Minimax Optimality and Algorithm
Iowa State University（爱荷华州立大学）；Rutgers University（罗格斯大学）；The University of Hong Kong（香港大学）
本文研究充分降维中的隐私保护问题，提出达到极小极大下界（相差对数因子）的差分隐私切片逆回归算法，并通过模拟和真实数据验证其有效性，同时将结果推广至差分隐私稀疏主成分分析。
2025-04-05 cs.CR cs.LG math.ST
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想，以确定用于某个查询的最佳机制，该最佳机制同时满足（固定的）$ε$-差分隐私约束，同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面，Brenner和Nissim表明，在计数查询的空间之外，对于贝叶斯风险损失函数，不存在这样的普遍最优机制。在本文中，我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准（即，中央）差分隐私和本地差分隐私，并且其越来越多地用于各种应用领域，例如位置隐私和隐私保护机器学习。使用这个框架，我们能够澄清Nissim和布伦纳的负面结果，显示（一），事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制，和（b）扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明，这种能力总是存在的，可以使用凸优化算法计算。
2022-05-03 cs.CR
Locally Optimal Private Sampling: Beyond the Global Minimax
Department of Computing and Software（计算与软件系）；McMaster University（麦斯特大学）；Department of Mathematical Sciences（数学科学系）；Korea Advanced Institute of Science & Technology（韩国科学技术院）
本研究提出局部最优私有采样方法，在局部差分隐私下，通过函数LDP框架证明局部极小极大风险由全局决定，并给出不依赖f-散度的闭式最优采样器，实证优于全局方法。
2025-10-10 cs.CR cs.CY cs.IT
Score Attack: A Lower Bound Technique for Optimal Differentially Private Learning
Department of Statistics and Data Science, The Wharton School, University of Pennsylvania（统计与数据科学系，沃顿商学院，宾夕法尼亚大学）；Rutgers University（罗格斯大学）
该研究提出score attack方法，基于追踪攻击概念为差分隐私约束的参数估计极小极大风险提供下界，经多类模型验证其有效性与最优性。
2026-08-18 cs.CR cs.LG math.ST
Syft 0.5: A Platform for Universally Deployable Structured Transparency
OpenMined；Edinburgh Napier University（爱丁堡龙比亚大学）；Memri；Politehnica University of Bucharest（布加勒斯特理工大学）；Philisense；École Supérieure en Informatique, Sidi Bel Abbès（西迪贝勒阿巴斯高等信息学院）；INRIA Paris（巴黎国家信息与自动化研究所）；ENS（巴黎高等师范学院）；PSL University（巴黎文理研究大学）；Arkhn；Tessella；University of Oxford（牛津大学）
我们提出了Syft 0.5，一个通用框架，结合了一组核心的隐私增强技术，促进了一套通用的结构化透明度系统。通过设计和实现一种新的隐私保护推理信息流，我们通过一个分裂的神经网络推理同态加密的激活信号，证明了这个框架。我们表明，进一步分裂模型的计算链显着减少了推理的计算时间和有效载荷大小的激活信号的模型保密的成本。我们评估我们提出的流程，就其提供的核心结构透明度原则。
2021-04-27 cs.CR cs.LG
Instance-Optimal Differentially Private Estimation
Apple, Inc.（苹果公司）；Boston University（波士顿大学）；Northeastern University（东北大学）
在这项工作中，我们研究了局部极小极大收敛估计率受$ε$ -差分隐私。与最坏情况下的利率，这可能是保守的，算法是局部极小极大最优必须适应简单的问题。本文构造了单参数指数族的局部极小极大差分私有估计，并对分布的尾率进行了估计。在这些情况下，我们证明了用于简单假设检验的最优算法，即Canonne等人（2019）最近的最优私有检验器，直接告知局部极小极大估计算法的设计。
2022-10-28 cs.CR cs.LG math.ST
Context-Aware Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
保护已发布数据集的实用性，同时提供可证明的隐私保证是一个众所周知的挑战。一方面，上下文无关的隐私解决方案，如差分隐私，提供了强有力的隐私保障，但往往导致效用显著降低。另一方面，上下文感知隐私解决方案，如信息理论隐私，实现了改进的隐私-效用权衡，但假设数据持有者可以访问数据集统计数据。我们通过引入一种称为生成对抗隐私（GAP）的新颖的上下文感知隐私框架来规避这些限制。GAP利用生成对抗网络（GANs）的最新进展，允许数据持有者从数据集本身学习私有化方案。在GAP下，学习隐私机制被制定为两个参与者之间的约束极大极小博弈：一个私有化器以限制对个人私有变量的推断攻击风险的方式对数据集进行净化，另一个对手试图从净化的数据集推断私有变量。为了评估GAP的性能，我们研究了两个简单的（但规范的）统计数据集模型：（a）二进制数据模型，和（b）二进制高斯混合模型。对于这两种模型，我们推导出博弈理论上的最优极大极小隐私机制，并表明从数据中学习的隐私机制（以生成对抗的方式）与理论上的最优隐私机制相匹配。这表明我们的框架可以很容易地应用于实践，即使在没有数据集统计的情况下。
2017-12-03 cs.AI cs.CR cs.GT
Privacy utility trade offs for parameter estimation in degree heterogeneous higher order networks
Indian Statistical Institute, Kolkata, India（印度统计研究所）；Department of Statistics, The Ohio State University, Columbus, OH 43210, USA（统计系，俄亥俄州立大学）
本文研究了在度异质高阶网络中，基于β模型在本地和中心差分隐私约束下实现参数估计的隐私与效用权衡，并通过实验验证了方法的有效性。
2026-02-03 cs.CR cs.LG cs.SI
Observable Channels, Not Just Storage: Evaluating Privacy Leakage in LLM Agent Pipelines
Minjiang University（闽江大学）；Renmin University of China（中国人民大学）
本文提出CIPL框架，通过统一的通道导向接口评估LLM代理流水线中的隐私泄露，揭示内存、检索和工具中介目标的泄露特性，强调通道条件而非单一攻击方法的重要性。
2026-03-30 cs.CR
Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
我们提出了一个数据驱动的框架，称为生成对抗隐私（GAP）。受生成对抗网络（GANs）最新进展的启发，GAP允许数据持有者直接从数据中学习私有化机制。在GAP下，找到最佳的隐私机制制定为私有化者和对手之间的约束极大极小博弈。我们表明，适当选择的对抗性损失函数，GAP提供隐私保证，对强大的信息理论的对手。我们还评估了GAP的性能上的GENKI人脸数据库。
2019-06-26 cs.CR cs.GT cs.IT
A Minimax Distortion View of Differentially Private Query Release
我们考虑的问题，通过合成数据库的方法不同的私人查询释放。离开现有的方法，需要查询集被指定在事先，我们主张设计查询集独立的机制，提供准确的答案，同时满足隐私的限制，在一个通用的查询类的所有查询的雄心勃勃的目标。具体地说，差分私有机制被构造为“编码”到合成数据库中的丰富的随机结构，和“定制”的同伴估计器，然后导出提供准确的答案，通过利用所有可用的信息，包括机制（这是公共信息）和查询功能。因此，在最坏情况下的查询在一般的查询类中，这种机制的最好的失真，所谓的最小最大失真，提供了一个基本特征的差异私人查询释放。对于一般类的统计查询，我们证明了与平方误差失真措施，极小极大失真是$O(1/n)$通过推导渐近紧的上限和下限的制度，数据库大小$n$走向无穷大。上界是可实现的机制$\mathcal{E}$及其相应的同伴估计，这直接指向所提出的方法在大型数据库中的可行性。我们进一步评估的机制$\mathcal{E}$和同伴估计通过实验从Netflix和Facebook的真实数据集。实验结果表明，改进的最先进的MWEM算法和验证的缩放行为$O(1/n)$的极大极小失真。
2014-12-01 cs.CR cs.DB cs.IT
Near Instance-Optimality in Differential Privacy
Stanford University（斯坦福大学）
我们开发了两个概念的实例最优性差分隐私，经典统计理论的启发：一个通过定义一个本地极大极小风险和其他考虑无偏机制和类比的Cramer-Rao界，我们表明，本地模的连续性的估计的兴趣完全决定了这些数量。我们还开发了一个互补的收集机制，我们称之为逆灵敏度机制，这是实例最优（或近实例最优）的一大类被估量。此外，这些机制在每个实例上对于几个感兴趣的函数类（包括实值连续函数）都一致优于平滑灵敏度框架。我们仔细地提出了两个实例的机制，中位数和强大的回归估计与相应的实验。
2020-05-16 cs.CR cs.LG stat.ML
A unified interpretation of the Gaussian mechanism for differential privacy through the sensitivity index
Technical University of Munich（慕尼黑工业大学）；Imperial College London（帝国理工学院）
高斯机制是实现差分隐私的一种普遍采用的工具，大量的研究工作都致力于它的分析。我们认为，三个流行的解释GM，即$(\varepsilon, δ)$ -DP，f-DP和雷尼DP可以表示通过使用一个单一的参数$ψ$，我们的术语的敏感性指数。$ψ$通过封装GM的两个基本量来唯一地表征GM及其属性：查询的灵敏度和噪声扰动的幅度。与ROC曲线和DP的假设检验解释有很强的联系，$ψ$为从业者提供了一个强大的方法来解释，比较和交流高斯机制的隐私保证。
2021-09-22 cs.CR cs.IT cs.LG
Differentially Private SGDA for Minimax Problems
University at Albany（奥尔巴尼大学）；University at Buffalo（布法罗大学）；University of Birmingham（伯明翰大学）；IBM Research（IBM研究院）
随机梯度下降上升（SGDA）及其变体一直是解决极大极小问题的主力。然而，与研究得很好的随机梯度下降（SGD）与差分隐私（DP）的约束，有很少的工作，了解推广（效用）的SGDA与DP约束。在本文中，我们使用的算法稳定性的方法来建立DP-SGDA在不同的设置的泛化（效用）。特别是，对于凹凸设置，我们证明了DP-SGDA可以实现最优效用率的弱原始-对偶人口风险光滑和非光滑的情况下。据我们所知，这是DP-SGDA在非光滑情况下的第一个已知结果。我们进一步提供了其效用分析的非凸强凹设置，这是有史以来第一次已知的结果，在原始人口的风险。这种非凸设置的收敛性和推广的结果是新的，即使在非私人设置。最后，数值实验证明了DP-SGDA的有效性，凸和非凸的情况下。
2022-07-29 cs.CR cs.LG
Local differential privacy: Elbow effect in optimal density estimation and adaptation over Besov ellipsoids
我们解决的问题，非参数密度估计的额外约束下，只有私有化的数据被允许公布，可供推断。为了这个目的，我们采用了最近的推广经典极大极小理论的框架下的本地$α$ -差分隐私，并提供了一个下界的收敛速率超过Besov空间$B^s_{pq}$下平均集成$\mathbb L^r$ -风险。这个下界与没有隐私的标准设置相比恶化了，并且揭示了双重肘效应。为了满足隐私的要求，我们建议添加适当的缩放拉普拉斯噪声的经验小波系数。上界内（最多）的对数因子推导出的假设下，$α$保持有界$n$增加：线性，但非自适应小波估计达到下界时，$p \geq r$，但提供了一个较慢的收敛速率，否则。一个自适应的非线性小波估计与适当选择的平滑参数和阈值，以达到下界内的对数因子的所有情况下。
2019-03-05 cs.CR math.ST stat.TH
Development and Analysis of Deterministic Privacy-Preserving Policies Using Non-Stochastic Information Theory
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61）；Department of Electrical and Electronic Engineering at the University of Melbourne（墨尔本大学电气与电子工程系）
本文提出了一种基于非随机信息论的确定性隐私度量方法，通过最小化信息泄露来衡量隐私保护，证明了k-匿名方法实际上并不具备隐私保护特性。
2019-01-23 cs.CR cs.IT cs.SY
BRACE: Differential Privacy for Dense Associative Memory with LSR Energy
University of Ottawa（渥太华大学）；Fudan University（复旦大学）
针对LSR稠密联想记忆的检索动态隐私问题，提出BRACE差分隐私算法，理论证明其极小极大最优性并建立中心极限定理，实验验证其检索准确性，为能量型联想记忆的隐私保护提供理论基础。
2026-10-09 cs.CR cs.LG
Optimization of Privacy-Utility Trade-offs under Informational Self-determination
物联网的普及导致用户（数据生产者）的智能设备（如智能手机，可穿戴设备和其他嵌入式传感器）生成大量个人数据。这是一个常见的要求，特别是对于大数据分析系统，将这些大规模和分布式数据传输到集中式计算系统进行分析。然而，运行和管理这些系统的第三方（数据消费者）并不总是保证用户的隐私。他们的主要兴趣是提高效用，效用通常是与性能、成本和服务质量相关的度量。有几种技术可以屏蔽用户生成的数据以确保隐私，例如差分隐私。建立一个屏蔽数据的过程，在本文中称为“隐私设置”，一方面减少了数据分析的效用，另一方面增加了隐私。本文研究了隐私设置的参数化，它调节最大效用、最小隐私和最小效用、最大隐私之间的权衡，其中效用是指聚合函数近似的准确性。隐私设置可以作为系统范围的参数化和策略（同构数据共享）普遍应用。尽管如此，它们也可以由每个用户自主应用或在（货币）激励的影响下决定（异构数据共享）。后者的多样性，在数据共享的信息自决发挥了关键作用的隐私效用轨迹，本文所示的理论和经验。一个通用的和新颖的计算框架，介绍了衡量隐私效用权衡和优化。该框架计算了广泛的这种权衡，形成同质和异构数据共享下的隐私效用轨迹。
2018-05-06 cs.CR cs.CY
When Privacy Meets Partial Information: A Refined Analysis of Differentially Private Bandits
Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
本文利用$ε$ --全局差分隐私（DP）算法研究了多武装匪徒问题。首先，我们证明了极大极小和问题相关的遗憾下界的随机和线性土匪，量化的硬度土匪$ε$ -全球DP。这些界限表明存在两个硬度制度，这取决于隐私预算$ε$。在高隐私制度（小$ε$），硬度取决于隐私和部分信息的奖励分布的耦合效应。在低隐私机制（大$ε$）中，具有$ε$ -全局DP的强盗并不比没有隐私的强盗更难。对于随机强盗，我们进一步提出了一个通用的框架来设计一个接近最佳的$ε$全球DP扩展的索引为基础的乐观强盗算法。该框架由三个组成部分：拉普拉斯机制，手臂依赖的自适应情节，并使用的唯一奖励收集的最后一集计算私人统计。具体来说，我们实例化$ε$ -全球DP扩展的UCB和KL-UCB算法，即AdaP-UCB和AdaP-KLUCB。AdaP-KLUCB是第一个既满足$ε$ -全局DP又能产生与问题相关下界匹配的遗憾上界的算法。
2022-11-04 cs.CR cs.LG math.ST
Pointwise adaptive kernel density estimation under local approximate differential privacy
本文在局部近似差分隐私框架下研究了非参数密度估计。与具有可信管理者的集中式隐私场景相比，在本地设置中，匿名化必须在个人数据所有者侧已经得到保证，因此必须在任何数据挖掘任务之前。因此，所公布的匿名数据应尽可能与许多统计程序兼容。我们建议将拉普拉斯噪声和高斯过程（均适当缩放）添加到核密度估计器中，以获得后者的近似差分私有版本。我们得到极小极大型的Sobolev类索引的光滑参数$s>1/2$的均方误差在不动点的结果。特别是，我们表明，如果正确指定带宽参数，从$n$不同的数据所有者的私有核密度估计的平均值达到最佳的收敛速率。值得注意的是，就样本量$n$而言的最佳收敛速度是局部差分隐私下的$n^{-(2s-1)/(2s+1)}$，因此劣化为在没有隐私限制的情况下保持的速率$n^{-(2s-1)/(2s)}$。由于带宽参数的最佳选择取决于平滑度$s$，因此在实践中是不可访问的，用于带宽选择的自适应方法是必要的，并且必须在本地隐私框架中直接对匿名数据执行。我们解决这个问题的Lepski的方法的一个变种，专门为隐私设置，并获得一般的预言不等式的私人核密度估计。在Sobolev的情况下，所得到的自适应估计器达到最佳的收敛速率至少达到额外的对数因子。
2019-07-14 cs.CR math.ST stat.TH
Optimal and Differentially Private Data Acquisition: Central and Local Mechanisms
Fuqua School of Business（福夸商学院）；Rotman School of Management（罗特曼管理学院）
本文研究平台从隐私敏感用户处收集数据的最优机制设计，在中心化和本地化差分隐私设置下建立极小极大下界并开发高效算法，实现最优估计与真实报告。
2023-09-06 cs.CR cs.GT cs.LG
Rate-Optimal Rank Aggregation with Private Pairwise Rankings
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Purdue University（普渡大学）
本文解决私有成对排名聚合中的隐私与效用平衡问题，提出自适应去偏方法纠正随机响应机制引入的偏差，实现真实偏好的一致估计，并建立极小化极大速率以确定最优隐私保证。
2025-04-02 cs.CR cs.LG stat.ML
Optimal Quantum Differential Privacy via Fisher Information Spectral Analysis
Kwame Nkrumah University of Science and Technology（夸梅·恩克鲁玛科技大学）
本文利用量子Fisher信息度量建立几何感知的量子差分隐私框架，通过方向相关噪声替代各向同性退极化噪声，实现最优隐私保护与效用权衡。
2026-07-14 cs.CR quant-ph
Differentially Private Numerical Vector Analyses in the Local and Shuffle Model
本研究针对本地差分隐私下的数值向量聚合，提出最优的Collision与CoCo机制以降低估计误差，并在Shuffle模型中推导出精确的隐私放大界限，显著减少了频率与均值估计误差。
2023-04-10 cs.CR
Image selective encryption analysis using mutual information in CNN based embedding space
IMT Nord Europe（IMT北欧分校）；Institut Mines-Télécom（矿业电信研究所）；Centre for Digital Systems（数字系统中心）
本文研究图像选择性加密中的信息泄露问题，提出利用互信息估计器（经验估计器和MINE框架）在深度学习、信息论与密码学交叉领域检测泄露，为图像信息泄露估计提供新方向。
2025-08-12 cs.CR cs.IT cs.LG
Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
Massachusetts Institute of Technology（麻省理工学院）；Stony Brook University（石溪大学）
本文研究了声称具有Rényi差分隐私（RDP）保证的机器学习算法的黑盒审计问题，提出了一种基于假设检验的审计框架，利用Donsker-Varadhan（DV）变分估计器直接估计相邻执行之间的Rényi散度，并通过类受限DV估计器得出非渐近的置信区间，证明了样本复杂度保证在信息论上最优，首次建立了通过DV估计器审计RDP的最优保证。
2026-05-21 cs.CR cs.IT cs.LG
