A Unifying Privacy Analysis Framework for Unknown Domain Algorithms in Differential Privacy
本文针对未知域直方图发布问题，提出了一个统一的差分隐私分析框架，并利用近似集中差分隐私改善隐私损失参数，尤其适用于多算法组合场景。
2024-08-01 cs.CR
Releasing Large-Scale Human Mobility Histograms with Differential Privacy
本文针对谷歌环境洞察探索者发布人类出行聚合统计数据的隐私需求，提出一种结合联邦分析与差分隐私的新机制，在约ε≈2的DP保证下满足严格误差约束，显著优于基线方法，并适用于group-by-sum类工作负载。
2024-07-03 cs.CR cs.DB
A Tight Context-aware Privacy Bound for Histogram Publication
该研究通过点态最大泄漏（PML）分析拉普拉斯机制发布直方图的隐私保证，指出PML相比无上下文的差分隐私更精细，当直方图bin概率远离零时可在固定噪声下提升隐私保护，证明了上下文感知隐私度量的优势。
2025-08-26 cs.CR cs.IT math.IT
Anonymized Histograms in Intermediate Privacy Models
Google Research（谷歌研究院）
我们研究的问题，私人计算匿名直方图（a.k.a. unattributed histogram），它被定义为没有项目标签的直方图。先前的工作提供了具有$\ell_1$和$\ell_2^2$错误的算法，其中$O_\varepsilon(\sqrt{n})$在差分隐私（DP）的中心模型中存在错误。在这项工作中，我们提供了一个几乎匹配的错误保证$\tilde{O}_\varepsilon(\sqrt{n})$在洗牌DP和泛私人模型的算法。我们的算法非常简单：它只是对离散拉普拉斯噪声直方图进行后处理！使用该算法作为一个子程序，我们显示在私人估计对称属性的分布，如熵，支持覆盖，支持大小的应用。
2022-10-27 cs.CR cs.DS cs.LG
Locally Private Histograms in All Privacy Regimes
本文研究了中低隐私机制下的本地私有直方图与分布学习问题，建立了ℓ∞误差的近乎紧致界，并据此提出混洗模型下通信复杂度显著更优的直方图协议，同时通过实证比较验证了理论发现。
2024-09-04 cs.CR cs.DM cs.DS
Algorithms for bounding contribution for histogram estimation under user-level privacy
Cornell University（康奈尔大学）；Google Research（谷歌研究院）
研究用户级差分隐私下异构数据的直方图估计问题，提出在有界和无界域设置下选择最佳用户贡献界限的算法，实现近似最优并减少数据丢弃，实验验证了其有效性。
2023-06-30 cs.CR cs.LG
Nebula: Efficient, Private and Accurate Histogram Estimation
Nebula通过高效、隐私保护和准确的直方图估计技术，在保证差分隐私的前提下实现高实用性。
2025-07-03 cs.CR
Random Differential Privacy
我们提出了一个宽松的隐私定义称为{ \em随机差分隐私}（RDP）。差分隐私要求向数据库中添加任何新的观察结果对数据发布过程的输出影响很小。随机差分隐私要求将{ \em随机抽取的新观察}添加到数据库将对输出产生很小的影响。我们显示了一个模拟的组成性质的差异私人程序，适用于我们的新定义。我们展示了如何释放RDP直方图，我们表明，RDP直方图比使用普通差分隐私获得的直方图更准确。最后，我们展示了一个模拟的全球敏感性框架下，我们的隐私定义的功能发布。
2011-12-12 cs.CR cs.LG stat.ME
Tight Bounds for Differentially Private Anonymized Histograms
在这篇文章中，我们考虑了差分隐私（DP）计算匿名直方图的问题，匿名直方图被定义为输入数据集（没有桶标签）的计数的多集。在低隐私机制$ε\geq 1$中，我们给出了一个$ε$ -DP算法，其期望$\ell_1$ -误差界为$O(\sqrt{n} / e^ε)$。在高隐私的制度$ε< 1$，我们给了一个$Ω(\sqrt{n \log(1/ε) / ε})$下界的预期$\ell_1$错误。在这两种情况下，我们的边界渐近匹配先前已知的下限/上限[Suresh，NeurIPS 2019]。
2021-11-05 cs.CR cs.DS
Optimal Pure Differentially Private Sparse Histograms in Deterministic Linear Time
本文提出一种在确定性线性时间内实现最优纯差分隐私稀疏直方图的算法，解决了二次障碍问题并实现高效电路实现。
2025-12-24 cs.CR cs.DS
Differentially private anonymized histograms
Google Research（谷歌研究院）
对于标签计数对的数据集，匿名直方图是计数的多集。匿名化直方图出现在各种潜在敏感的上下文中，例如密码频率列表，社交网络中的度分布，以及离散分布的对称属性的估计。出于这些应用程序，我们提出了第一个差分隐私机制，以释放匿名直方图，实现接近最佳的隐私效用权衡项目的数量和隐私参数。此外，如果底层直方图以紧凑格式给出，则所提出的算法在项目数量上以次线性的方式运行。对于未知的离散分布生成的匿名直方图，我们表明，发布的直方图可以直接用于估计基本分布的对称属性。
2020-01-13 cs.CR cs.DS cs.IT
Differentially Private Histograms under Continual Observation: Streaming Selection into the Unknown
我们通过允许流中的每个事件是某些（可能未知的）项目宇宙的子集来概括Dwork等人的连续观察隐私设置。我们在几种设置中为直方图设计了差分隐私（DP）算法，包括顶部$k$选择，隐私损失与polylog $(T)$成比例，其中$T$是输入流的最大长度。我们提出了一个元算法，可以使用现有的一杆顶- $k$ DP算法作为一个子程序，不断释放私人直方图从一个流。此外，我们提出了更实用的DP算法的两个设置：1）连续释放顶部$k$计数从直方图在一个已知的域时，一个事件可以由任意数量的项目，和2）连续释放直方图在一个未知的域时，一个事件具有有限数量的项目。
2022-01-04 cs.CR cs.DS
The Correlated Gaussian Sparse Histogram Mechanism
Inria, University of Montpellier（法国国家信息与自动化研究所、蒙彼利埃大学）；BARC, University of Copenhagen（哥本哈根大学BARC）
针对差分隐私下极稀疏直方图发布的误差问题，采用相关高斯噪声技术优化稳定性直方图，可降低噪声幅度与阈值，并扩展至无稀疏度界场景，还能提升离散高斯机制性能。
2024-12-13 cs.CR cs.DS cs.LG
Differentially Private Projected Histograms of Multi-Attribute Data for Classification
在本文中，我们解决的问题，构建一个不同的私人概要的分类分析。几个国家的最先进的方法遵循现有的分类算法的结构，都是迭代的，这是次优的，由于局部最优的选择和过度划分的隐私预算之间的许多顺序组成的步骤。相反，我们提出了一种新的方法，PrivPfC，一种新的差分私有方法，用于发布数据进行分类。其关键思想是使用给定的隐私预算在一个步骤中私下选择底层数据集的最佳分区。给定一个数据集和隐私预算，PrivPfC构建一个候选网格池，其中每个网格的单元数量低于数据感知和隐私预算感知阈值。之后，PrivPfC选择一个最佳的网格，通过指数机制，通过使用一种新的质量函数，最大限度地减少了预期数量的误分类的记录，直方图分类器上构建使用发布的网格。最后，PrivPfC将噪声注入到所选网格的每个单元格中，并将噪声网格作为数据的私有概要发布。如果候选网格池的大小大于数据管理者设置的处理能力阈值，我们在PrivPfC的开头添加一个步骤来私下修剪属性集。我们引入了一个修改后的$χ^2$质量函数具有低灵敏度，并使用它来评估属性的相关性的分类标签变量。通过在真实数据集上的大量实验，我们证明了PrivPfC比最先进的方法的优越性。
2015-04-22 cs.CR
A Locally Differential Private Coding-Assisted Succinct Histogram Protocol
Department of Electrical Engineering and Computer Science, University of Michigan, Ann Arbor, MI 48109, USA（电气工程与计算机科学系，密歇根大学，安阿伯，MI 48109, USA）；Department of Electrical and Computer Engineering, Northeastern University, Boston, MA 02115, USA（电气与计算机工程系，东北大学，波士顿，MA 02115, USA）
本文提出首个基于纠错码（极化码与SCL解码）的实用$(ε,δ)$-LDP简洁直方图协议，通过高斯扰动实现软解码，在低频率项上优于现有方法。
2025-06-21 cs.CR cs.DC cs.LG
The Optimal Mechanism in Differential Privacy: Multidimensional Setting
我们推导出最佳的$ε$ -差分私有机制下的效用最大化（或成本最小化）的$\ell^1$成本函数的框架下的一般二维实值（直方图）查询函数。我们表明，最佳的噪声概率分布有一个相关的多维阶梯形的概率密度函数。与拉普拉斯机制相比，我们发现，在高隐私制度（如$ε\to 0$），拉普拉斯机制是近似最优的;在低隐私制度（如$ε\to +\infty$），最优的成本是$Θ(e^{-\fracε{3}})$，而拉普拉斯机制的成本是$\frac{2Δ}ε$，其中$Δ$是查询函数的敏感度。我们的结论是，收益是更明显的低隐私制度。我们猜想，阶梯机制的最优性适用于任意维度的向量值（直方图）查询函数，并适用于许多其他类别的成本函数。
2013-12-02 cs.CR
Optimal Noise Adding Mechanisms for Approximate Differential Privacy
在效用最大化/代价最小化框架下，研究了$(ε,δ)$ -近似差分隐私算法中整数值查询函数和向量值（类直方图）查询函数的（近）最优机制.我们描述了$ε$和$δ$之间的权衡效用和隐私分析直方图样查询功能（$\ell^1$敏感性），并表明$(ε,δ)$ -差分隐私是一个框架，没有更一般的$(ε,0)$ -差分隐私和$(0,δ)$ -差分隐私的上下文中的$\ell^1$和$\ell^2$成本函数，即，最小预期噪声幅度和噪声功率。在相同的$\ell^1$和$\ell^2$代价函数的情况下，我们证明了均匀噪声机制和离散拉普拉斯机制在高隐私机制（如$(ε,δ) \to (0,0)$）中的近最优性。我们的结论是，在$(ε,δ)$ -差分隐私，最佳的噪声幅度和噪声功率分别是$Θ(\min(\frac{1}ε,\frac{1}δ))$和$Θ(\min(\frac{1}{ε^2},\frac{1}{δ^2}))$，在高隐私制度。
2013-12-19 cs.CR cs.DS
REAEDP: Entropy-Calibrated Differentially Private Data Release with Formal Guarantees and Attack-Based Evaluation
本文提出REAEDP框架，结合熵校准直方图发布、合成数据发布机制和攻击评估，提供形式隐私保证并保持实用性。实验证明其在不同数据集上有效控制隐私风险，支持实用的隐私保护发布流程。
2026-03-14 cs.CR cs.CV
Differentially Private Histogram, Predecessor, and Set Cardinality under Continual Observation
本研究针对持续观测下的差分隐私，提出维护直方图、前驱和集合基数的算法，给出参数化误差界及匹配下界，并支持未知参数场景。
2023-06-17 cs.CR cs.DS
Differentially Private Histograms in the Shuffle Model from Fake Users
最近有很多工作在差分隐私的洗牌模型，特别是近似$d$ -bin直方图。虽然这些协议实现了低错误，但每个用户发送的消息数量（消息复杂度）到目前为止已随$d$或隐私参数而缩放。消息复杂度是混洗协议的资源消耗的信息预测器。我们提出了一个协议，其消息的复杂性是2时，有足够多的用户。该协议基本上将数据集中的每一行与一个假行配对，并对所有行执行简单的随机化。我们表明，该协议引入的错误是小的，使用严格的分析，以及对真实世界的数据进行实验。我们还证明，腐败的用户有一个相对较低的影响，我们的协议的估计。
2021-08-05 cs.CR cs.DS
On the Privacy Properties of Variants on the Sparse Vector Technique
稀疏向量技术是一种强大的差异私有原语，它允许分析人员检查流中的查询是否大于或小于阈值。该技术具有独特的特性-该算法通过向查询和阈值添加具有有限方差的噪声来工作，并保证隐私仅随着（a）流中任何一个查询的最大敏感性和（b）算法输出的肯定答案的数量而降低。最近的工作已经开发出这种算法的变体，我们称之为{ \em广义私有阈值测试}，并声称具有隐私保证，不依赖于该算法输出的肯定或否定答案的数量。这些算法在给定的隐私预算的稀疏向量技术的效用的显着改善，并发现在频繁项集挖掘，机器学习中的特征选择和生成合成数据的应用。在本文中，我们批判性地分析了广义私有阈值测试的隐私特性。我们证明了对于任意有限的ε，广义隐私阈值测试不满足ε-差分隐私.我们确定了一个微妙的错误，这种技术在以前的工作中的隐私分析。此外，我们表明，对手可以使用广义的私人阈值测试，以恢复计数从数据集（特别是小计数）准确地具有高精度，从而可以导致个人被重新识别。我们在真实数据集上实证地展示了我们的攻击。
2015-08-28 cs.CR cs.DB
Local Differential Privacy for Physical Sensor Data and Sparse Recovery
在这项工作中，我们探讨了本地差分私人热传感器数据的效用。我们设计了一个局部差分私有恢复算法的1维，离散热源定位问题，并分析其性能的地球移动器距离误差。我们的工作表明，有可能产生本地私有传感器测量，既保持热源的确切位置私有，并允许恢复的“一般地理附近”的源。我们还讨论了一个反问题的属性之间的关系是病态的和需要保持隐私的噪声量。
2018-03-23 cs.CR cs.DB
Truth Inference on Sparse Crowdsourcing Data with Local Differential Privacy
众包已经成为一种新的解决问题的范例，用于解决对计算机来说很难但对人类来说很容易的任务。然而，由于从被招募的参与者（工人）收集的答案可能包含敏感信息，众包引起了严重的隐私问题。本文研究了局部差分隐私（LDP）下的答案隐私保护问题，个体工作者独立地随机化他们的答案，并将扰动后的答案发送给任务请求者.实用程序的目标是能够推断出真实的答案（即，真实性）从扰动数据以高精度。LDP扰动的挑战之一是工作者答案的稀疏性（即，每个工人只回答少量的任务）。现有方法的简单扩展（例如，Laplace扰动和随机化响应）在稀疏数据上的真值推理可能会产生很大的误差。因此，我们设计了一个有效的新的矩阵分解（MF）算法下的LDP。我们证明了我们的MF算法可以提供LDP保证和小的真值推理误差，而不管工人答案的稀疏性。我们在真实世界和合成数据集上进行了广泛的实验，并证明MF算法在稀疏众包数据上的性能优于现有的LDP算法。
2018-08-24 cs.CR cs.DB
Optimal Domain-Aware Privacy Mechanisms for Synthetic Data Generation
Harvard University（哈佛大学）；Trillion Labs（万亿实验室）；Georgia Institute of Technology（佐治亚理工学院）；University of California, Santa Barbara（加利福尼亚大学圣塔芭芭拉分校）；Flatiron Institute（平顿研究所）
研究在合成数据生成中如何将公共数据纳入差分隐私机制，提出以归一化直方图为分布估计器，刻画特定类中的渐近最优领域感知隐私机制，引入PubMix机制，实验证明其显著提升合成数据生成质量。
2026-07-21 cs.CR cs.IT math.IT
Free Gap Estimates from the Exponential Mechanism, Sparse Vector, Noisy Max and Related Algorithms
私有选择算法，例如指数机制，Noisy Max和稀疏向量，用于从一组候选项中选择项目（例如具有大答案的查询），同时控制底层数据中的隐私泄漏。这样的算法充当更复杂的差异隐私算法的构建块。在本文中，我们表明，这些算法可以释放额外的信息有关的差距之间的选定项目和其他候选人免费（即，没有额外的隐私成本）。这种自由间隙信息可以将某些后续计数查询的准确性提高高达66%。我们从这些算法的仔细隐私分析得到这些结果。基于此分析，我们进一步提出了新的混合算法，可以动态地节省额外的隐私预算。
2020-12-02 cs.CR cs.DB
When Focus Enhances Utility: Target Range LDP Frequency Estimation and Unknown Item Discovery
提出 GCMS 与 OCMS 框架以优化 LDP 频率估计在通信、隐私与精度间的权衡，并利用 ESA 框架与辅助服务器实现未知数据域的收集，在保证本地隐私下达到中心级精度。
2024-12-23 cs.CR cs.DB
Local, Private, Efficient Protocols for Succinct Histograms
The Pennsylvania State University（宾夕法尼亚州立大学）；Boston University（波士顿大学）；Harvard University（哈佛大学）
我们给出了有效的协议和匹配精度下界的频率估计的局部模型的差分隐私。在这个模型中，个人用户自己随机化他们的数据，将不同的私人报告发送到一个不受信任的服务器，该服务器将这些报告聚集在一起。我们研究的协议，产生一个简洁的直方图表示的数据。一个简洁的直方图是数据中最频繁的项目（通常称为“重打击者”）及其频率估计值的列表;所有其他项目的频率隐式估计为0。如果有$n$用户的项目来自一个大小为$d$的宇宙，我们的协议在$n$和$\log(d)$中以时间多项式运行。以高概率，他们估计每个项目的准确性，直到错误$O\left(\sqrt{\log(d)/(ε^2n)}\right)$，其中$ε$是隐私参数。此外，我们表明，这么多的错误是必要的，无论计算效率，甚至对于简单的设置，只有一个项目出现在数据集中的显着频率。先前用于该任务的方案（Mishra和Sandler，2006; Hsu，Khanna和Roth，2012）要么在$Ω(d)$中运行，要么具有更严重的错误（约为$\sqrt[6]{\log(d)/(ε^2n)}$），并且唯一已知的错误下限是$Ω(1/\sqrt{n})$。我们还将McGregor et al（2010）的结果适用于当地环境。在一个使用公共硬币的模型中，我们展示了每个用户只需要向服务器发送1比特。对于所有已知的本地协议（包括我们的），转换保持计算效率。
2015-04-18 cs.CR cs.DS cs.LG
Estimating Numerical Distributions under Local Differential Privacy
Purdue University（普渡大学）；Eindhoven University of Technology（埃因霍温理工大学）
局部差分隐私（LDP）在收集信息时，从用户的角度缓解了隐私泄露的担忧，因为用户的隐私信息在发送到聚合器之前是随机的。我们研究的问题，恢复的分布在一个数值域，同时满足LDP。虽然人们可以离散化的数值域，然后应用开发的协议的分类域，我们表明，利用该域的数值性质的结果在更好的权衡隐私和效用。我们引入了一种新的报告机制，称为方波SW机制，它利用了报告中的数值性质。我们还开发了一个期望最大化与平滑（EMS）算法，这是适用于聚集直方图从SW机制，以估计原始分布。大量的实验表明，我们提出的方法，软件与EMS，一贯优于其他方法在各种实用程序的指标。
2019-12-02 cs.CR cs.DB cs.LG
Efficient Privacy-Preserving Sparse Matrix-Vector Multiplication Using Homomorphic Encryption
University of Central Florida（中佛罗里达大学）；Florida International University（佛罗里达国际大学）；North Carolina State University（北卡罗来纳州立大学）
本文提出一种高效整合同态加密与稀疏矩阵-向量乘法的框架，通过压缩稀疏排序列格式优化加密计算，提升隐私保护下的计算效率和数据安全性。
2026-03-05 cs.CR
Differential Privacy for Sparse Classification Learning
Northwest University（西北大学）；Macau University of Science and Technology（澳门科技大学）
在本文中，我们提出了一个差分隐私版本的凸和非凸稀疏分类方法。基于交替方向乘子法（ADMM）算法，将稀疏问题的求解转化为多步迭代过程。然后，我们添加指数噪声稳定的步骤，以实现隐私保护。该方法利用差分隐私的后处理保持特性，在原问题不稳定的情况下，仍能满足$ε-$差分隐私.此外，我们提出了理论上的隐私界的差分隐私分类算法。具体地说，我们的算法的隐私边界控制的算法迭代次数，隐私参数，损失函数的参数，ADMM预选参数，和数据大小。最后，我们将我们的框架应用于具有$L_1$正则化的逻辑斯谛回归和具有$L_{1/2}$正则化的逻辑斯谛回归。数值实验表明，该方法在敏感数据分析中具有良好的性能。
2019-08-02 cs.CR cs.LG stat.ML
Understanding the Sparse Vector Technique for Differential Privacy
稀疏向量技术（SVT）是满足差分隐私的一种基本技术，具有输出查询答案而不付出任何隐私代价的独特性质。SVT已被用于交互式设置，其中一个试图回答一系列的查询是不知道的时间提前，并在非交互式设置，其中所有的查询是已知的。由于潜在的隐私预算的节省，已经提出了许多变体的SVT和隐私保护数据采掘和发布中使用。然而，SVT的大多数变体实际上不是私有的。在本文中，我们分析了这些错误，并确定可能导致这些错误的误解。我们还提出了一个新的版本的SVT，提供更好的实用程序，并介绍了一种有效的技术，以提高性能的SVT。这些增强功能可用于提高交互式设置中的实用性。通过分析和实验比较，我们表明，在非交互式设置（但不是交互式设置），SVT技术是不必要的，因为它可以取代指数机制（EM）具有更好的精度。
2016-09-17 cs.CR
Flexible Accuracy for Differential Privacy
差分隐私（DP）已成为隐私保护数据分析的黄金标准。虽然它提供了最严格的隐私概念之一，但在许多情况下，它的适用性有限。我们的主要贡献是用{ \em Flexible Accuracy}增强差分隐私，这允许输入中的小失真（例如，丢弃异常值），从而允许将DP机制扩展到高灵敏度功能。我们提出的机制，可以帮助实现这一概念的功能，以前没有有意义的差异私有机制。特别是，我们说明了一个应用程序的差异私人直方图，这反过来又产生机制，揭示支持的数据集或数据中的极值。我们的结构分析利用新的多功能组成定理，促进模块化设计。所有上述扩展使用我们的新定义框架，这是在“有损Wasserstein距离”-分布的2参数误差测量。这可能是独立的利益。
2021-10-18 cs.CR
Compressive Mechanism: Utilizing Sparse Representation in Differential Privacy
差分隐私提供了第一个理论基础，可证明隐私保证对抗对手的任意先验知识。实现差分隐私的主要思想是在统计查询结果中注入随机噪声。除了正确性之外，差分私有机制设计中最重要的目标是减少随机噪声的影响，确保噪声结果仍然有用。本文提出了\emph{compressive mechanism}，一种新的解决方案的基础上，国家的最先进的压缩技术，称为\emph{compressive sensing}。压缩感知是一个不错的理论工具，用于紧凑的概要建设，使用随机投影。在本文中，我们表明，噪声量显着减少从$O(\sqrt{n})$到$O(\log(n))$，当噪声插入过程中进行的概要样本，而不是原来的数据库。作为扩展，我们还应用所提出的压缩机制来解决统计结果连续发布的问题。使用真实数据集进行的大量实验证明了我们的准确性。
2011-07-18 cs.CR cs.DB cs.DS
Privacy-Preserving Identification via Layered Sparse Code Design: Distributed Servers and Multiple Access Authorization
我们提出了一种新的计算效率的隐私保护的身份识别框架的基础上分层稀疏编码。该框架的核心思想是一个具有模糊性的稀疏化变换学习，它由一个训练好的线性映射、一个分量非线性和一个隐私放大组成。我们介绍了一个实用的识别框架，它包括两个阶段：公共和私人识别。公共不可信服务器基于存储在其侧的稀疏隐私保护码本提供快速搜索服务。私有可信服务器或本地客户端应用使用公共搜索的结果和存储在其一侧的分层稀疏码本来执行细化的精确相似性搜索。在解码域中执行私有搜索，并且基于客户端的授权级别来选择私有搜索的准确性。所提出的方法的效率在于编码、解码、“加密”（模糊化）和“解密”（净化）的计算复杂性以及码本的存储复杂性。
2018-06-07 cs.CR cs.DB cs.DC
Privacy Preserving Identification Using Sparse Approximation with Ambiguization
University of Geneva（日内瓦大学）
在本文中，我们考虑了一个隐私保护编码框架，用于识别应用，包括生物识别，物理对象安全和物联网（IoT）。所提出的框架是基于稀疏化变换，其中包括一个训练有素的线性映射，一个元素明智的非线性，和隐私放大。稀疏化变换和隐私放大对于数据所有者和数据使用者是不对称的。我们证明，所提出的方法是紧密相关的稀疏三进制码（STC），最近提出的信息理论概念，在高维特征空间，是机器学习在本质上也提供了显着的好处，稀疏近似和二进制嵌入方法相比，快速近似最近邻（ANN）搜索。我们证明了外包给服务器的数据库的隐私以及数据用户的隐私以较低的计算成本、存储和通信负担得到保护。
2017-09-29 cs.CR cs.LG stat.ML
Communication-Efficient Publication of Sparse Vectors under Differential Privacy
提出一种针对稀疏向量聚合矩阵的差分隐私发布算法，将通信成本降至$O(\varepsilon m)$且结果与随机响应一致，兼顾了隐私保护与通信效率。
2025-06-25 cs.CR
Single-Component Privacy Guarantees in Helper Data Systems and Sparse Coding with Ambiguation
我们调查的隐私（生物识别）模板保护的两种方法：助手数据系统和稀疏三进制编码模糊。特别是，我们专注于一个经常被忽视的隐私属性，即有多少泄漏存在一个特定的二进制属性的特征向量的一个组件。该属性例如是超过阈值的符号或指示符。我们提供的证据表明，这两种方法都能够保护这种敏感的二进制变量，并讨论如何系统参数需要设置。
2019-10-01 cs.CR cs.IR cs.IT
Towards Sparse Federated Analytics: Location Heatmaps under Distributed Differential Privacy with Secure Aggregation
Cornell Tech（康奈尔理工学院）；Google（谷歌）
我们设计了一种可扩展的算法，可以在来自数百万用户设备的分散数据上私下生成位置热图。它旨在确保数据对服务提供商可见之前的差分隐私，同时保持高数据准确性并最大限度地减少用户设备上的资源消耗。为了实现这一目标，我们重新分布式差分隐私的基础上，最近的结果在安全多方计算，我们设计了一个可扩展的和自适应的分布式差分隐私的位置分析方法。对公共位置数据集的评估表明，这种方法成功地从数百万用户样本中生成了大都市规模的热图，最坏情况下的客户端通信开销明显小于现有的最先进的私有协议。
2022-06-26 cs.CR cs.LG
Free Gap Information from the Differentially Private Sparse Vector and Noisy Max Mechanisms
Pennsylvania State University（宾夕法尼亚州立大学）
Noisy Max和Sparse Vector是用于差分隐私的选择算法，并且用作更复杂算法的构建块。在本文中，我们表明，这两种算法可以释放额外的信息免费（即，没有额外的隐私成本）。Noisy Max用于返回一组查询中的近似最大值。我们表明，它还可以免费释放近似最大化者和亚军之间的噪音差距。这些免费信息可以将某些后续计数查询的准确性提高高达50%。稀疏向量用于返回一组大约大于固定阈值的查询。我们表明，它可以自适应地控制其隐私预算（使用更少的预算查询，很可能是远远大于阈值），以增加它可以处理的查询量。这些结果来自仔细的隐私分析。
2019-09-15 cs.CR cs.DB cs.LG
Estimating Sparse Discrete Distributions Under Local Privacy and Communication Constraints
Cornell University（康奈尔大学）；Google（谷歌公司）
我们考虑在局部差分隐私（LDP）和通信约束下估计稀疏离散分布的问题。我们刻画了样本的复杂性稀疏估计LDP约束下的一个常数因子和通信约束下的样本复杂性的对数因子。我们在LDP下的上限是基于Hadamard响应的，这是一种私人硬币方案，每个用户只需要一位通信。在通信约束下，我们提出了基于随机哈希函数的公共硬币方案。我们的紧下界是基于最近提出的卡方收缩方法。
2021-02-19 cs.CR cs.DS cs.IT
Concept-Aware Privacy Mechanisms for Defending Embedding Inversion Attacks
Department of Computer Science and Information Engineering, National Taiwan University（国家台湾大学计算机科学与信息工程系）；National Taiwan University AI Center of Research Excellence（国家台湾大学人工智能研究中心）
SPARSE通过可微掩码学习和Mahalanobis机制，针对特定概念保护文本嵌入隐私，有效降低隐私泄露同时提升下游性能。
2026-02-06 cs.AI cs.CR
Encryption Mechanism And Resource Allocation Optimization Based On Edge Computing Environment
提出了一种基于边缘计算环境的加密机制和资源分配优化方法。基于直方图算法的局部差分隐私算法用于在任务卸载期间保护用户信息，这允许准确地保存用户上下文信息，同时减少对回放决策的干扰。为了有效地卸载任务，提高卸载性能，提出了一种任务卸载和资源分配的联合优化算法，优化了总体延迟。将在隐私保护和任务卸载准确性之间找到平衡。上下文数据干扰对任务卸载决策的影响被最小化，同时确保预定义级别的隐私保护。在具体的连接车辆示例中，该方法在具有足够计算资源的路边设备和相邻车辆之间分配任务。
2022-12-09 cs.CR
Compressive Sensing Approaches for Sparse Distribution Estimation Under Local Privacy
Fudan University（复旦大学）；Shanghai Jiao Tong University（上海交通大学）；Tencent（腾讯）
近年来，许多网络服务提供商，如Google \cite{erlingsson2014rappor}，Apple \cite{apple2017privacy}和Microsoft \cite{bolin2017telemetry}，都采用了本地差分隐私（LDP）来私下收集和分析用户数据。本文考虑局部差分隐私约束下的离散分布估计问题。分布估计是最基本的估计问题之一，在非私有和私有环境下都得到了广泛的研究。在局部模型中，已知具有可证明的最优样本复杂度的私有机制。然而，它们只是在最坏的情况下才是最优的;它们的样本复杂度与整个宇宙的大小成正比，在实践中可能是巨大的。在本文中，我们考虑稀疏或近似稀疏（例如\高度偏斜）分布，并表明所需的样本数量可以显着减少。最近\cite{acharya2021estimating}对这个问题进行了研究，但他们只考虑了严格的稀疏分布和高隐私机制。我们提出了基于压缩感知的新的私有化机制。我们的方法适用于近似稀疏分布和中等隐私，并具有最佳的样本和通信复杂性。
2022-03-12 cs.CR cs.IT cs.LG
SparLeak: Privacy Leakage from Sparse Attention in LLM Inference on Shared GPUs
Shandong University（山东大学）；Waseda University（早稻田大学）
SparLeak利用稀疏注意力引发的GPU内存访问侧信道，通过相位感知攻击提取轨迹，实现查询属性推断与响应重建，在真实服务下成功率分别达90.9%和87.3%。
2026-10-01 cs.CR cs.LG
Secure Sparse Matrix Multiplications and their Applications to Privacy-Preserving Machine Learning
University of Twente（特文特大学）；University of Oldenburg（奥尔登堡大学）；Inria（法国国家信息与自动化技术研究院）
本文提出专门的MPC算法用于稀疏矩阵乘法，以解决隐私保护机器学习中稀疏数据处理的效率问题。
2026-03-03 cs.CR cs.LG
Smooth Anonymity for Sparse Graphs
Google Research（谷歌研究院）
本研究针对稀疏数据集共享中差分隐私机制隐私保障弱的问题，提出smooth-$k$-anonymity概念及对应大规模算法，经实证验证可提升匿名数据的下游ML任务性能。
2024-05-14 cs.CR cs.LG
Efficient Privacy-Preserving Recommendation on Sparse Data using Fully Homomorphic Encryption
Independent Researcher（独立研究者）；Illinois Institute of Technology（伊利诺伊理工学院）
针对推荐系统依赖敏感数据存隐私风险、全同态加密处理稀疏评分矩阵计算与通信成本高的问题，提出结合CSR表示与FHE矩阵分解的方法，实现加密域高效稀疏处理与低通信开销，兼顾推荐准确率与隐私保护。
2025-09-03 cs.AI cs.CR cs.LG
Group Membership Verification with Privacy: Sparse or Dense?
Univ Rennes（雷恩大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；IRISA（雷恩计算机科学与应用研究所）
组成员身份验证检查生物特征是否对应于组中的一个成员，而不会泄露该成员的身份。最近的贡献提供了隐私的组成员协议，通过联合使用两种机制：量化模板到离散的嵌入和聚合成一个组表示的几个模板。然而，该方案有一个缺点：表示组的数据结构具有有限的大小，并且当聚集许多模板时不能识别噪声查询。此外，嵌入的稀疏性似乎对性能验证起着至关重要的作用。本文提出了一个数学模型，允许揭示稀疏性的安全性，紧凑性和验证性能的影响，组成员身份验证。该模型弥补了Bloom过滤器对噪声查询的鲁棒性。它表明，一个密集的解决方案是更有竞争力的，除非查询几乎没有噪音。
2020-02-24 cs.CR cs.CV
Local Information Privacy and Its Application to Privacy-Preserving Data Aggregation
在本文中，我们研究了本地信息隐私（LIP），并设计了基于LIP的统计聚集机制，同时保护用户的隐私，而不依赖于可信的第三方。上下文感知的概念被纳入LIP，它可以被看作是明确的建模对手的背景知识。它可以利用先验分布设计隐私保护机制，这可能比本地差分隐私（LDP）等上下文无关概念实现更好的实用性与隐私权衡。我们提出了一个优化框架，以最大限度地减少在数据聚合的均方误差，同时保护隐私的每个单独的用户的输入数据或相关的潜在变量，同时满足LIP约束。然后，我们研究了两种不同类型的应用程序：（加权）求和和直方图估计，并推导出最佳的上下文感知数据扰动参数为每种情况下，基于随机响应类型的机制。我们进一步比较了LIP和LDP之间的效用-隐私权衡，并从理论上解释了为什么先验知识的引入扩大了扰动参数的可行区域，从而导致更高的效用。我们还将基于LIP的隐私机制扩展到更一般的情况下，确切的先验知识是不可用的。最后，我们验证了我们的分析模拟使用合成和真实世界的数据。结果表明，我们的基于LIP的隐私机制提供了更好的实用性和隐私的权衡比LDP，和LIP的优势是更显着的先验分布时，更偏斜。
2020-11-29 cs.CR cs.DB cs.IT
Sparsity and Privacy in Secret Sharing: A Fundamental Trade-Off
本文研究稀疏秘密共享中稀疏性与隐私的基本权衡，构造最优稀疏共享方案并应用于分布式稀疏私有矩阵乘法，同时设计稀疏一次性密码本以保护不可信集群中的隐私。
2023-08-11 cs.CR cs.DC cs.IT
DPSR: Differentially Private Sparse Reconstruction via Multi-Stage Denoising for Recommender Systems
Columbia University Irving Medical Center（哥伦比亚大学伊文思医疗中心）
DPSR通过多阶段去噪框架在推荐系统中实现差分隐私保护，有效提升推荐质量，优于现有隐私保护机制。
2025-12-22 cs.CR cs.LG
Differentially Private Regression and Classification with Sparse Gaussian Processes
University of Sheffield（谢菲尔德大学）
机器学习的一个持续挑战是提供对数据执行计算的方法，同时确保数据保持私有。在本文中，我们建立在可证明的隐私保证的差分隐私已结合高斯过程，通过以前出版的\emph{cloaking method}。在本文中，我们解决了这种方法的几个缺点，从低数据密度区域的预测问题开始。我们的实验与诱导点的使用，以提供一个稀疏的近似，并表明，这些可以提供强大的差分隐私在离群区域和更高的维度。然后，我们看看分类，并修改拉普拉斯近似方法，以提供不同的私人预测。然后，我们将其与稀疏近似相结合，并展示了在高维中进行分类的能力。最后，我们探讨了超参数选择的问题，并开发了一种方法，他们的私人选择。本文和相关的库提供了一个强大的工具包，结合差分隐私和GPS在一个实用的方式。
2019-09-19 cs.CR cs.LG stat.ML
More Flexible Differential Privacy: The Application of Piecewise Mixture Distributions in Query Release
越来越多的人要求向第三方“开放”数据，因为数据共享在数据驱动的决策中有很大的好处。然而，由于收集了各种各样的敏感数据，保护个人、社区和组织的隐私是使数据“开放”的一个重要因素。业界目前采用的公布私人数据的方法往往是临时性的，容易受到一些攻击，包括重新识别攻击，因为它们没有提供足够的隐私保障。虽然差分隐私通过提供严格和可靠的隐私保证吸引了学术界和工业界的极大兴趣，但当前用于数据发布的差异隐私算法的实用性和可验证性降低是其在现实生活中使用的障碍。本文旨在解决这两个挑战。首先，我们提出了一种新的机制，通过融合两个拉普拉斯或几何分布在一起，以增加传统的差分隐私的效用。我们推导出封闭形式的表达式熵，方差的增加噪声，和绝对期望的噪声建议分段混合。然后利用相关分布从理论上证明所提出机制的隐私性和准确性保证。其次，我们表明，我们提出的机制具有更大的灵活性，有三个参数进行调整，提供更好的效用，在边界噪声，并减轻较大的不准确性，相比典型的单参数差分私有机制。然后，我们经验性地评估了分段混合分布的性能与广泛的模拟和现实世界的数据集的线性计数查询和直方图查询。实证结果表明，增加所有考虑的效用措施，同时保持隐私，分段混合机制相比，标准的拉普拉斯或几何机制。
2017-07-18 cs.CR
Bounding, Concentrating, and Truncating: Unifying Privacy Loss Composition for Data Analytics
LinkedIn（领英）
差分隐私（DP）为个人数据提供严格的隐私保证，同时还允许对整体敏感数据集进行准确的统计。要设计一个私有系统，首先必须设计私有算法，可以量化每个结果的隐私损失。然而，将噪声注入计算的私有算法不足以确保个人数据受到保护，因为许多噪声结果最终集中于真实的非私有化结果。因此，已经有几个作品提供了精确的公式，说明隐私损失如何在与私有算法的多次交互中累积。然而，这些公式要么提供了非常一般的隐私损失的界限，在某些类型的私人算法过于悲观的代价，或者他们可以太窄的范围，适用于一般的隐私系统。在这项工作中，我们统一了现有的隐私损失组合边界的特殊类别的差分隐私（DP）算法，以及一般DP组合边界。特别是，我们提供了强大的隐私损失界限时，分析师可以选择纯DP，有界范围（例如指数机制），或集中DP机制以任何顺序。我们还提供了最佳的隐私损失界限，适用于分析师可以选择纯DP和有界范围的机制在一批，即非自适应。此外，当一个分析师在每个类自适应选择机制，我们表现出不同的，预定的纯DP和有界范围机制之间的差异，隐私损失。最后，我们比较了基于直方图数据集的拉普拉斯和高斯机制的组合边界。
2020-11-17 cs.CR cs.LG
