Differentially Private Continual Release with Relative Error
The Hong Kong University of Science and Technology(香港科技大学);Guangzhou HKUST Fok Ying Tung Research Institute(广州香港科技大学福耀研究院)
该研究针对差分隐私下持续发布模型的四类任务,证明非自适应输入流下引入相对误差可大幅降低误差,自适应流下仅选最小累计和属性任务误差大,其余任务仍可保小误差,补充了匹配下界。
2026-08-21 cs.DS
Private Lossless Multiple Release
本文研究差分隐私下的无损多重发布问题,提出适用于高斯、拉普拉斯和泊松等加性噪声机制的无损多重发布方法,并设计了运行时间与维度无关的稀疏直方图渐进发布机制。
2025-05-28 cs.CR cs.DS
Iterative Constructions and Private Data Release
本文研究了在保持差分隐私的同时近似释放图的割函数的问题,给出了交互和非交互两种情况下的新算法(以及对现有算法的新分析).我们的算法在交互式环境中实现的问题,释放差异私人,近似答案的数据库上的大量查询。我们表明,这个问题的几个算法属于同一个基本框架,并基于存在的对象,我们称之为迭代数据库建设算法。我们给出了一个新的通用框架,其中新的(高效)IDC算法产生新的(高效)交互式私人查询发布机制。我们的模块化分析简化和加强了以前的算法的分析,从而提高了边界。然后,我们给出了一个新的IDC算法(因此,一个新的私人,交互式查询发布机制)的基础上Frieze/Kannan低秩矩阵分解。这种新的发布机制在一系列参数中对先前的工作进行了改进,其中数据库的大小与数据宇宙的大小相当(例如在密集图上发布所有切割查询)。我们还给出了一个非交互式算法,有效地释放私人合成数据的图切割与错误O(|V| ^{1.5})。我们的算法是基于随机响应和非私有的实现的SDP为基础的,常数因子的近似算法切割范数由于阿隆和Naor。最后,我们给出了一个减少IDC框架的基础上,一个有效的,私人的算法计算足够准确的秩-1矩阵近似将导致一个改进的高效算法释放私人合成数据的图形切割。我们把寻找这样一个算法作为我们的主要开放问题。
2011-07-24 cs.CR cs.DS
Private Data Stream Analysis for Universal Symmetric Norm Estimation
本文针对差分隐私约束下的数据流对称范数估计问题,提出一个通用可参数化框架,通过按坐标幅值分层并发布充分统计量,实现任意数量对称范数的同时近似且无额外隐私损失,并支持亚线性空间实现。
2023-07-09 cs.DS
Leveraging Public Data for Practical Private Query Release
Carnegie Mellon University(卡内基梅隆大学);University of Minnesota(明尼苏达大学);Google Research(谷歌研究院);Northeastern University(东北大学)
在许多统计问题中,合并先验可以显着提高性能。然而,使用先验知识在不同的私人查询发布仍然未被充分探索,尽管这种先验知识通常以公共数据集的形式提供,如以前的美国人口普查发布。为了发布关于私有数据集的统计数据,我们提出了PMW ^Pub,与现有的基线不同,它利用了从相关分布中提取的公共数据作为先验信息。我们提供了一个理论分析和实证评估的美国社区调查(ACS)和ADESTIC数据集,这表明我们的方法优于国家的最先进的方法。此外,PMW ^Pub可以很好地扩展到高维数据域,其中运行许多现有方法在计算上是不可行的。
2021-06-11 cs.CR cs.DS cs.LG
Exploiting Metric Structure for Efficient Private Query Release
我们考虑的问题,私人回答的数据库上定义的查询是属于一些度量空间的点的集合。我们给出了简单的,计算效率高的算法来回答距离查询定义在任意度量。距离查询由度量空间中的点指定,并根据指定的度量要求从查询点到数据库中包含的点的平均距离。我们的算法有效地运行在数据库的大小和维度的空间,并在两个在线查询发布设置,和离线设置,他们必须在多项式时间生成一个固定的数据结构,可以回答所有感兴趣的查询。这代表了线性查询的第一个子类之一,其中高效的算法是已知的私人查询释放问题,规避已知的通用线性查询的硬度结果。
2012-11-30 cs.CR cs.DB cs.DS
Differentially Private Release of Israel's National Registry of Live Births
本文介绍了以色列卫生部首次基于全国活产登记册发布的差分隐私微观数据,提出使用私有选择算法捆绑多个定量需求的方法,为未来差分隐私发布提供了宝贵经验。
2025-02-25 cs.CR cs.CY cs.DS
Fast-MWEM: Private Data Release in Sublinear Time
Boston University(波士顿大学)
快速-MWEM通过子线性时间复杂度改进隐私数据发布和线性规划的效率。
2026-02-03 cs.DS cs.LG
InfTDA: A Simple TopDown Mechanism for Hierarchical Differentially Private Counting Queries
本文将InfTDA机制从移动性数据集推广到任意d维分类特征数据集,基于2020年美国人口普查的TopDown机制生成差分隐私合成数据,以有界最大绝对误差回答所有分层查询。
2025-05-08 cs.DS
Utility Preserving Secure Private Data Release
差分隐私机制也使数据的重建变得不可能,这是有代价的-效用降低。在本文中,我们通过设计一个私有数据发布机制来解决这个问题,该机制使原始数据的重建变得不可能,并且还保留了广泛的机器学习算法的实用性。我们这样做,结合约翰逊-林登施特劳斯(JL)变换与噪声产生的拉普拉斯分布。虽然JL变换本身可以提供隐私保证\cite{blocki2012johnson},使重建不可能,我们不依赖于它的差分隐私属性,只利用它的能力,使重建不可能。我们提出了新的证据表明,我们的机制是不同的隐私下的单个元素的变化,以及单行的变化,任何数据库。为了显示实用性,我们证明了我们的机制在期望中保持点之间的成对距离,并且还表明其方差与我们将数据投影到的子空间的维度成比例。最后,我们通过实验展示了我们的机制部署在集群任务上的实用性。
2019-03-15 cs.CR cs.DS
Differentially Private Continual Release of Graph Statistics
出于了解敏感的社交网络随着时间的推移的动态,我们考虑的问题,不断发布的统计数据在网络上到达,同时保护其参与者的隐私。对于我们的隐私概念,我们使用差分隐私--统计数据分析的隐私黄金标准。这个问题的主要挑战是保持良好的隐私-效用权衡;跨时间组合的幼稚解决方案以及适合表格数据的解决方案要么导致效用差,要么不直接适用。在这项工作中,我们表明,如果在整个网络序列中任何节点的最大度上存在一个公开的上限,那么我们可以连续发布许多常见的图统计数据,如度分布和子图计数,并具有更好的隐私准确性权衡。代码可在https://bitbucket.org/shs037/graphprivacycode获得
2018-09-19 cs.CR cs.DS
Breaking the Linear Error Barrier in Differentially Private Graph Distance Release
在加权差分隐私(DP)下释放一般图上顶点之间的所有成对最短路径(APSP)距离是一项具有挑战性的任务。在(Sealfon 2016)的先前尝试中,通过将拉普拉斯噪声添加到每个边权重或每个输出距离,以实现具有某个固定预算的DP,所有公布的成对距离中的最大绝对误差很可能大致为$O(n)$,其中$n$是节点的数量。结果表明,对于某些特殊的图,这种误差是可以减小的,而对于一般的图,这是困难的。因此,在$n$中,近似误差是否可以降低到次线性是一个有趣的公开问题。通过提出一种秘密释放合成图的算法,打破了已有结果在距离逼近误差上的线性障碍。在构造的图上计算所有成对距离仅在回答固定隐私参数的所有成对最短路径距离时引入$\tilde O(n^{1/2})$错误。我们的方法是基于一种新的图形直径(链接长度)扩增通过构建“捷径”的路径。通过在原图中添加一组捷径边,证明了任意节点对都有一条链路长度为$\tilde O(n^{1/2})$的最短路径。然后,通过添加噪声与一些积极的意思,边的权重,我们表明,新的图是差分私有的,可以发布回答所有的成对最短路径距离与$\tilde O(n^{1/2})$近似误差使用标准的APSP计算。此外,我们考虑了具有小反馈点集的图。图的反馈点集(FVS)是指去掉这些点后图中没有圈的点的集合,图的反馈点集数$k$是最小反馈点集的大小.提出了一种具有出错率$\tilde O(k)…
2022-04-29 cs.DS
Perturb-and-Project: Differentially Private Similarities and Marginals
Google Research(谷歌研究院);Bocconi(博科尼大学)
本文在差分隐私输入扰动框架下提出高效算法,用于隐私发布余弦相似度和计算任意k路边际查询,并扩展至稀疏数据集,同时从理论上解释了快速扰动算法有效的原因。
2024-08-07 cs.CR cs.DS cs.LG
Sublinear Space Graph Algorithms in the Continual Release Model
针对连续发布模型中边差分隐私图算法的不足,本文利用稀疏化技术提出亚线性空间算法,输出顶点子集解决方案并获新成果,还给出全动态场景下界。
2025-04-16 cs.CR cs.DS
Differentially Private Release of Hierarchical Origin/Destination Data with a TopDown Approach
本文提出一种基于TopDown算法与切比雪夫距离约束优化的分层O/D数据差分隐私发布方法,通过整数优化减少假阳性,在保证隐私的同时提升聚合查询精度。
2025-03-09 cs.DS
Weighted Fourier Factorizations: Optimal Gaussian Noise for Differentially Private Marginal and Product Queries
Inria(法国国家数字与信息技术研究所);Université de Montpellier(蒙彼利埃大学);INSERM(法国国立健康与医学研究院)
该研究提出了一种基于傅里叶分解的差分隐私方法,用于高效处理边际和乘积查询,实现了最优噪声控制和多项式时间复杂度。
2025-12-25 cs.CR cs.DB cs.DS
Almost linear time differentially private release of synthetic graphs
Nanjing University(南京大学);Rutgers University(罗格斯大学)
本文提出首个近线性时间与空间复杂度的差分隐私算法,通过从指数机制采样生成合成图,近似原图的割与谱,其复杂度与非隐私设置匹配且效用不减,并支持持续观察下的隐私图分析。
2024-06-04 cs.CR cs.DS cs.LG
Dual Query: Practical Private Query Release for High Dimensional Data
我们提出了一个实用的,差分隐私算法回答了大量的高维数据集上的查询。像所有用于此任务的算法一样,我们的算法在数据维度上必然具有最坏情况的复杂度指数。然而,我们的算法将计算上困难的步骤打包成一个简洁定义的整数规划,可以使用标准求解器非私下解决。我们证明了我们的算法的准确性和隐私定理,然后通过实验证明,我们的算法在实践中表现良好。例如,我们的算法可以高效准确地回答Netflix数据集上的数百万个查询,该数据集具有超过17,000个属性;这是对现有技术的多个数量级的改进。
2015-11-19 cs.CR cs.DB cs.DS
Online Matrix Factorization, Online Private Query Release, and Online Discrepancy Minimization
University of Toronto(多伦多大学);Northeastern University(东北大学)
本文研究了几个相关的在线计算问题,提出在线矩阵分解算法在不预先知道所有查询的情况下,可实现与离线方法相当的误差界,同时改进了在线偏差最小化算法。
2026-05-08 cs.DS
Private Continual Release of Real-Valued Data Streams
我们提出了一种不同的私有机制来显示统计信息(例如,移动平均值),其中每个观测值的界限要么过于保守,要么事先未知。这与实时数据监测和报告的场景特别相关,例如,通过智能电表获取能源数据。我们的重点是真实世界的数据流,其分布是轻尾的,这意味着尾部接近零至少与指数分布一样快。对于这样的数据流,预计单个观测值将集中在未知阈值以下。从数据中估计这个阈值可能会侵犯隐私,因为它会揭示与个人相关的特定事件[1]。另一方面,过于保守的阈值可能会通过添加比必要的更多的噪声来影响准确性。我们构造了一个效用优化的差分隐私机制,以释放这个阈值的基础上的输入流。与最先进的算法相比,我们的主要优势在于,添加到流的每个观察结果中的噪声被缩放到阈值,而不是可能更大的界限;当差异显着时,会导致相当大的效用增益。使用两个真实世界的数据集,我们证明了我们的机制,平均而言,提高了3.5倍的第一个数据集上的效用,和9对其他。虽然我们的主要重点是持续发布统计数据,但我们发布阈值的机制可以用于其他各种应用程序,其中需要对输入分布的规模进行(隐私保护)测量。
2018-11-08 cs.CR cs.DS
Private Query Release via the Johnson-Lindenstrauss Transform
基于Johnson-Lindenstrauss引理,提出了一种新的基于差分隐私的统计查询答案发布方法.其关键思想是将查询答案随机投影到一个较低维的空间中,使得任意两个可行查询答案向量之间的距离保持到一个加性误差。然后,我们使用一个简单的噪声添加机制来回答投影查询,并将答案提升到原始维度。使用这种方法,我们给,第一次,纯粹的差分私人机制,最佳的最坏情况下的样本复杂性平均错误回答工作量的$k$查询的大小$N$的宇宙。作为其他应用,我们给出了第一个纯私人的有效机制,最佳样本复杂度计算的协方差有界高维分布,并回答2路边际查询。我们还表明,到依赖的错误,我们的机制的一个变种是几乎最佳的每一个给定的查询工作量。
2022-08-15 cs.CR cs.DS cs.LG
New Oracle-Efficient Algorithms for Private Synthetic Data Release
University of Minnesota(明尼苏达大学);Harvard University(哈佛大学);Boston University(波士顿大学);IBM Research(IBM研究院)
我们提出了三种新的算法,用于构建差异私人合成数据--一个消毒版本的敏感数据集,大约保留了大量的统计查询的答案。所有这三种算法都是\emph{oracle-efficient},因为它们在访问优化预言时是计算高效的。这样的预言可以使用许多现有的(非私有的)优化工具来实现,例如复杂的整数规划求解器。虽然合成数据的准确性取决于预言机的优化性能,但即使在最坏的情况下,算法也能满足差分隐私。对于所有这三种算法,我们都为准确性和隐私性提供了理论保证。通过实证评估,我们表明,我们的方法规模以及与数据的维数和查询的数量。与最先进的高维矩阵机制\cite{McKennaMHM18}相比,我们的算法在大工作量和高隐私机制(对应于低隐私损失$\varepsilon$)下提供了更好的准确性。
2020-07-10 cs.DS cs.LG stat.ML
Time-Aware Projections: Truly Node-Private Graph Statistics under Continual Observation
Boston University(波士顿大学)
本文提出首批在持续发布设置下满足节点差分隐私的算法,通过设计基于时间感知的图流投影技术,在满足可私有测试安全条件时实现稳定投影,从而在稀疏图上以最优误差解决边、三角形等基本图统计问题。
2025-11-05 cs.CR cs.DS
Learning Coverage Functions and Private Release of Marginals
We study the problem of approximating and learning coverage functions. A function $c: 2^{[n]} \rightarrow \mathbf{R}^{+}$ is a coverage function, if there exists a universe $U$ with non-negative weights $w(u)$ for each $u \in U$ and subsets $A_1, A_2, \ldots, A_n$ of $U$ such that $c(S) = \sum_{u \in \cup_{i \in S} A_i} w(u)$ . Alternatively, coverage functions can be described as non-negative linear combinations of monotone disjunctions. They are a natural subclass of submodular functions and arise in a number of applications. We give an algorithm that for any $γ,δ>0$ , given random and unifo…
2014-05-28 cs.CC cs.DS cs.LG
Fast Private Data Release Algorithms for Sparse Queries
Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学)
我们重新审视的问题,准确地回答大类的统计查询,同时保持差分隐私。以前的方法来解决这个问题已经非常普遍,但没有运行时多项式的数据库的大小,只适用于非常有限的类的查询,或放宽了最坏情况下的错误保证的概念。在本文中,我们考虑了大类的稀疏查询,它采取非零值的多项式许多宇宙元素。我们给出了高效的查询释放算法,这类,在交互式和非交互式设置。我们的算法也实现了更好的准确性界限比以前的一般技术时,适用于稀疏查询:我们的界限是独立的宇宙大小。事实上,即使是我们的交互机制的运行时是独立的宇宙的大小,因此可以在“无限宇宙”模型中实现,其中没有有限的宇宙需要指定的数据管理员。
2011-11-29 cs.CR cs.DS cs.LG
Continual Release of Differentially Private Synthetic Data from Longitudinal Data Collections
针对纵向数据持续发布的隐私问题,提出持续合成数据生成算法,支持固定时间窗口和累积时间查询,误差率近紧,并在美国普查数据上验证性能。
2024-05-24 cs.CR cs.CY cs.DS
Differentially Private Release of High-Dimensional Datasets using the Gaussian Copula
我们提出了一个通用的机制,有效地释放高效用的高维数据集的差异私人合成版本。在我们的机制的核心技术是使用copula。具体来说,我们使用高斯copula定义输入数据集中属性的依赖关系,其行被建模为来自未知多元分布的样本,然后通过该copula对合成记录进行采样。尽管固有的高斯相关性的数值性质,我们构建了一个方法,适用于数值和分类属性一样。我们的机制是有效的,因为它只需要与数据集中属性数量的平方成比例的时间。我们提出了一种差分私有的方式来构造高斯copula,而不影响计算效率。通过在三个真实数据集上的实验,我们表明,我们可以获得高度准确的答案的所有单向边际,双向和三路正合取查询,与99%的查询答案具有绝对(分数)出错率在0.01至3%之间。此外,对于大多数双向和三向查询,我们通过著名的拉普拉斯机制优于独立的噪声添加。在计算时间方面,我们证明了我们的机制可以在平均约6分47秒内输出合成数据集,输入数据集约为200个二进制属性和超过32,000行,大约2小时30分钟来执行约700个二进制属性和超过500万行的更大数据集。为了进一步证明可扩展性,我们在具有1,000和2,000个二进制属性(以及500万行)的较大(人工)数据集上运行该机制,分别在大约6小时和19小时内获得合成输出。
2019-02-04 cs.CR cs.DS
Skirting Additive Error Barriers for Private Turnstile Streams
BARC, University of Copenhagen(哥本哈根大学 BARC);MIT(麻省理工学院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出在私有翻转流中持续发布不同元素数量的方法,通过结合乘性和加性误差降低空间需求,同时探讨隐私与误差间的权衡。
2026-03-03 cs.CR cs.DS
Inference using noisy degrees: Differentially private $β$-model and synthetic graphs
随机图的$β$ -模型是以度序列作为充分统计量的指数族模型。在本文中,我们贡献了三个关键结果。首先,我们的特点的条件,导致二次时间算法来检查存在的MLE的$β$模型,并表明,MLE从来没有存在的度分区$β$模型。其次,基于网络数据的隐私问题,我们推导了$β$模型参数的差分隐私估计,并证明了它是相容的和渐近正态分布的--它达到了与非隐私估计相同的收敛速度。我们提出了一个有效的算法的私人估计,可用于释放合成图。我们的技术也可以用来释放度分布和度分区准确和私人,并执行从噪声度产生的上下文而不是隐私的推断。我们评估建议的估计真实的图,并将其与目前的算法释放度分布,发现它做得更好。最后,我们的论文解决了目前的方法的一个基本问题,如何执行有效的统计推断隐私机制发布的数据的缺点,并奠定了基础,如何实现最佳和私人的统计推断的原则性方式建模的隐私机制,这些原则应适用于一类模型超出了$β$模型。
2016-01-12 cs.DS stat.ME
Postprocessing for Iterative Differentially Private Algorithms
用于差分隐私的迭代算法运行固定次数的迭代,其中每次迭代从数据中学习一些信息并产生中间输出。但是,该算法只释放最后一次迭代的输出,并从中判断算法的准确性。在本文中,我们提出了一个后处理算法,旨在提高准确性,通过将知识包含在中间输出的数据。
2016-09-12 cs.CR cs.DS
Learning-Augmented Private Algorithms for Multiple Quantile Release
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
本研究将学习增强算法框架引入差分隐私领域,用于多分位数发布任务,推导了与预测质量相关的误差保证,兼具低数据假设、鲁棒性等优势,实验验证其可在保隐私的同时大幅降低误差。
2023-05-08 cs.AI cs.CR cs.DS
Differentially Private Continual Release of Histograms and Related Queries
本文研究差分隐私下直方图及相关查询的持续发布,提出仅插入模型和十字转门模型中输出敏感机制,分别以 O(d log²(dq*)+log T) 和 O(d log²(dK)+log T) 的加性误差改进现有下界。
2025-03-10 cs.CR cs.DS
Differentially Private Regression with Unbounded Covariates
Columbia University(哥伦比亚大学);NTUA(雅典国立技术大学);Northeastern University(东北大学)
我们为最小二乘拟合、二元回归和线性回归的经典回归设置提供计算效率高、差异私有的算法。在此之前,我们的工作,隐私约束在这样的回归设置进行了研究,在强先验界的协变量。我们考虑高斯边缘的情况,并扩展了最近关于均值和协方差估计的差分私有技术(Kamath等人,2019; Karwa和Vadhan,2018)到亚高斯政权。我们提供了一种新的技术分析,产生差异的私人算法,上述经典的回归设置。通过二元回归的案例,我们捕获了逻辑回归和线性可分支持向量机的基本和广泛研究的模型,学习真实回归向量的无偏估计,直到缩放因子。
2022-02-19 cs.CR cs.DS cs.LG
Differential Privacy for the Analyst via Private Equilibrium Computation
我们给出了新的机制,用于回答来自多个分析师在私有数据库上的指数级查询,同时保护数据库中的个人和分析师的差分隐私。也就是说,我们的机制对每个查询的回答几乎对其他分析师提出的查询的变化不敏感。我们的机制是第一个在分析师答案的联合分布上提供差分隐私的机制,即使其他数据分析师串通或注册多个帐户,也能为数据分析师提供隐私。在某些设置中,我们能够实现接近最佳的出错率(即使与不提供分析师隐私的机制相比),并且我们能够扩展我们的技术来处理非线性查询。我们的分析是基于一个新的观点的私人查询发布问题作为一个两个玩家的零和游戏,这可能是独立的利益。
2013-03-23 cs.DS cs.GT
Differential privacy and Sublinear time are incompatible sometimes
该研究首次探索同时满足差分隐私与次线性时间的算法下界,证明一般情况下二者不可兼容,并以基于单向边际分布的简单问题为例验证了该结论。
2025-01-13 cs.CR cs.DS
A Learning Theory Approach to Non-Interactive Database Privacy
Carnegie Mellon University(卡内基梅隆大学);California Institute of Technology(加州理工学院);University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们证明,忽略计算的限制,它是可能的私人释放合成数据库,是有用的大类的查询-比数据库本身的大小大得多。具体来说,我们给出了一种机制,私人发布合成数据的一类查询在一个离散域的错误增长的最小的网络的大小的函数,近似代表的答案,这类查询。我们表明,这特别意味着一种机制,计数查询,给出错误的保证,增长只与VC-维的类的查询,它本身的增长只与查询类的大小几何。我们还表明,这是不可能的,即使是简单的查询类(如间隔和他们的泛化)在连续域的私人释放。尽管如此,我们给出了一个隐私保护的多项式时间算法,释放有用的所有半空间查询的信息,稍微放松的效用保证。该算法不释放合成数据,而是能够表示每个查询的答案的另一个数据结构。我们还给出了一个有效的算法释放合成数据的区间查询和轴对齐的矩形的常数尺寸的类。最后,受学习理论的启发,我们引入了一个新的数据隐私的概念,我们称之为分布式隐私,并表明它严格强于流行的隐私概念,差分隐私。
2011-09-10 cs.CR cs.DS cs.LG
Continual Release of Densest Subgraphs: Privacy Amplification & Sublinear Space via Subsampling
Yale University(耶鲁大学)
研究边差分隐私图算法的持续发布模型,通过精细化子采样实现隐私放大与稀疏化,提出首个匹配最佳静态DP误差与非隐私流式空间复杂度的稠密子图算法,并引入图稠密化消除额外对数因子。
2025-10-13 cs.CR cs.DS cs.LG
A Smooth Binary Mechanism for Efficient Private Continual Observation
Basic Algorithms Research Copenhagen(哥本哈根基础算法研究中心);University of Copenhagen(哥本哈根大学)
本文提出一种平滑二进制机制,以恒定平均时间生成噪声,将私有前缀和发布中的噪声方差降低约4倍,并保证各时间步噪声分布一致,在运行时间上优于现有方法。
2024-01-15 cs.CR cs.DS cs.LG