Securing Unbounded Differential Privacy Against Timing Attacks
本文研究无界差分隐私程序抵御时序攻击的问题，依据随机化 RAM 计算模型给出纯 JOT-DP 所需错误概率的充要条件，并提出保持效率的程序转换方法。
2025-06-09 cs.CR
On Rényi Differential Privacy in Statistics-Based Synthetic Data Generation
本文理论评估了利用均值向量和协方差矩阵生成合成数据时的 Rényi 差分隐私，给出了满足该隐私的条件，并在千万级数据规模下验证了其隐私保障。
2023-03-31 cs.CR cs.IT math.IT
Optimal Differentially Private Sampling of Unbounded Gaussians
Cheriton School of Computer Science, University of Waterloo（滑铁卢大学切里顿计算机科学学院）；Vector Institute（矢量研究所）
本文提出在$(\varepsilon, \delta)$-差分隐私约束下从无界高斯分布采样的首个$\widetilde{\mathcal{O}}(d)$样本算法，实现了二次改进并解决了相关开放问题。
2025-03-03 cs.CR cs.DS cs.IT
Necessary Conditions in Multi-Server Differential Privacy
我们考虑的协议，用户与多个服务器进行通信，对用户的数据进行计算。对手对许多参与方施加半诚实的控制，但相对于诚实的用户，它的观点是不同的隐私。先前的工作描述了需要多轮交互或提供隐私以对抗计算受限对手的协议。我们的工作提出了限制非交互式协议，提供隐私对无限的对手。我们表明，这些协议需要指数更多的样本，一些学习和估计任务比中央私人同行。这意味着要实现中心模型的性能，需要交互性或计算差分隐私，或两者兼而有之。
2022-08-17 cs.CR
Statistical Inference for Privatized Data with Unknown Sample Size
University of Pittsburgh（匹兹堡大学）；Florida State University（佛罗里达州立大学）；Dartmouth College（达特茅斯学院）
针对无界差分隐私下样本量也需隐私保护的私有化数据，该研究发展相关理论算法，证明抽样分布与后验分布的收敛性，提出两种MCMC与蒙特卡洛EM算法，并将其应用于线性回归模型和微观数据的分析。
2026-09-07 cs.CR math.ST stat.CO
Can Stochastic Gradient Langevin Dynamics Provide Differential Privacy for Deep Learning?
University of Bar-Ilan（巴伊兰大学）
贝叶斯学习通过随机梯度朗之万动力学（SGLD）已被建议用于差分私人学习。虽然以前的研究提供了差分隐私边界SGLD在算法的初始步骤或接近收敛时，之间的差分隐私保证的问题仍然没有答案。这个过渡区域非常重要，特别是对于贝叶斯神经网络，因为它很难保证收敛到后验。本文表明，使用SGLD可能会导致这个过渡区域的无限隐私损失，即使从后验采样是所需的差异隐私。
2023-02-05 cs.CR cs.LG
The Bounded Gaussian Mechanism for Differential Privacy
高斯机制是一种通常用于保护数值数据的差分隐私机制。然而，它可能不适合某些应用程序，因为它具有无限的支持度，因此可能对查询产生无效的数值答案，例如负年龄或数十米的人类身高。可以将这样的私有值投影到有效的数据范围上，尽管这样的投影导致私有查询响应在这样的范围的边界处的积累，从而损害准确性。出于对有界域上的隐私性和准确性的需求，我们提出了一种有界高斯差分隐私机制，该机制仅在给定区域上具有支持。我们提出了这种机制的单变量和多变量版本，并说明了一个显着减少相对于可比的现有工作的方差。
2022-11-30 cs.CR
Differentially Private Regression with Unbounded Covariates
Columbia University（哥伦比亚大学）；NTUA（雅典国立技术大学）；Northeastern University（东北大学）
我们为最小二乘拟合、二元回归和线性回归的经典回归设置提供计算效率高、差异私有的算法。在此之前，我们的工作，隐私约束在这样的回归设置进行了研究，在强先验界的协变量。我们考虑高斯边缘的情况，并扩展了最近关于均值和协方差估计的差分私有技术（Kamath等人，2019; Karwa和Vadhan，2018）到亚高斯政权。我们提供了一种新的技术分析，产生差异的私人算法，上述经典的回归设置。通过二元回归的案例，我们捕获了逻辑回归和线性可分支持向量机的基本和广泛研究的模型，学习真实回归向量的无偏估计，直到缩放因子。
2022-02-19 cs.CR cs.DS cs.LG
Algorithms for bounding contribution for histogram estimation under user-level privacy
Cornell University（康奈尔大学）；Google Research（谷歌研究院）
研究用户级差分隐私下异构数据的直方图估计问题，提出在有界和无界域设置下选择最佳用户贡献界限的算法，实现近似最优并减少数据丢弃，实验验证了其有效性。
2023-06-30 cs.CR cs.LG
Differentially Private Truncation of Unbounded Data via Public Second Moments
School of Mathematics, Northwest University（西北大学数学学院）
本文提出PMT方法，通过利用公开二阶矩信息对无界数据进行差分隐私截断，提升模型的隐私保护和稳定性。
2026-02-25 cs.CR cs.LG stat.AP
Temporally Discounted Differential Privacy for Evolving Datasets on an Infinite Horizon
我们定义了折扣差分隐私，作为（传统的）差分隐私的替代方案，调查隐私不断变化的数据集，包含时间序列在一个无限的地平线。我们使用隐私损失来衡量报告在某个固定时间泄露的信息量。我们观察到，在差分隐私的定义中，隐私损失在时间上是相等加权的，因此，隐私保护的加性噪声的大小必须无限制地增长，以确保在无限范围内的差分隐私。受经济学文献中的贴现效用理论的启发，我们使用指数和双曲线贴现的隐私损失随着时间的推移，放宽连续观察下的差分隐私的定义。这意味着，对个人来说，遥远过去的隐私损失不如现在的重要。我们使用折扣差分隐私调查隐私的不断变化的数据集使用加性拉普拉斯噪声，并表明加性噪声的幅度可以保持有界折扣差分隐私。我们说明了隐私保护机制的质量，满足折扣差分隐私的智能电表测量时间序列的真实家庭，公开提供的Ausgrid（澳大利亚配电公司）。
2020-01-28 cs.CR cs.SY econ.TH
The Adverse Effects of Omitting Records in Differential Privacy: How Sampling and Suppression Degrade the Privacy--Utility Tradeoff (Long Version)
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文研究了采样和抑制在差分隐私中对隐私-效用权衡的负面影响，发现剔除记录会降低效用，均匀采样虽仍存在负面影响，但表现最佳。
2026-01-22 cs.CR
Tempered Sigmoid Activations for Deep Learning with Differential Privacy
Google Brain（谷歌大脑）；Apple（苹果公司）
由于学习有时涉及敏感数据，因此机器学习算法已被扩展为为训练数据提供隐私。在实践中，这主要是事后的想法，通过使用不同的优化器重新运行训练来获得隐私保护模型，但使用在非隐私保护设置中已经表现良好的模型架构。这种方法导致了不太理想的隐私/效用权衡，正如我们在这里所展示的。相反，我们建议从头开始明确选择模型架构进行隐私保护训练。为了在差分隐私的黄金标准下提供保证，必须尽可能严格地限制单个训练点如何影响模型更新。在本文中，我们首次观察到激活函数的选择对于限制隐私保护深度学习的敏感性至关重要。我们通过分析和实验证明了一个一般的有界激活函数家族，即回火S形函数，如何始终优于ReLU等无界激活函数。使用这种范式，我们在MNIST、FashionMNIST和CIFAR 10上实现了新的最先进的准确性，而无需对学习过程基础或差分隐私分析进行任何修改。
2020-07-28 cs.CR cs.LG stat.ML
Edge Differential Privacy for Algebraic Connectivity of Graphs
图是建模多智能体系统的主要形式主义。一个图的代数连通性是特别重要的，因为它提供了共识算法的收敛速度，许多多智能体控制和优化技术的基础。然而，共享代数连通性的值可能会无意中泄露关于图的拓扑结构的敏感信息，例如社交网络中的连接。因此，在这项工作中，我们提出了一种方法来释放一个图形的代数连通性下的差分隐私，称为边缘差分隐私的图论形式。边缘差分隐私混淆了图的边缘集之间的差异，从而隐藏了其中敏感连接的存在或不存在。我们提供的隐私与有界拉普拉斯噪声，这提高了准确性相对于传统的无界噪声。私人代数连通性值的分析表明，提供准确的估计的共识收敛速度，以及准确的边界上的直径图和其节点之间的平均距离。仿真结果证实了私人代数连接在这些情况下的效用。
2021-04-01 cs.CR cs.MA cs.SI
Sequential Change Detection for Multiple Data Streams with Differential Privacy
University of Minnesota（明尼苏达大学）；University of Georgia（佐治亚大学）
本文研究了在差分隐私约束下多数据流的顺序变化点检测问题，提出DP-SUM-CUSUM方法，通过汇总各流CUSUM统计量并注入校准的拉普拉斯噪声，实现隐私保护下的高效检测。
2026-04-14 cs.CR math.ST stat.TH
Towards Separating Computational and Statistical Differential Privacy
本文在特定密码学假设下首次构造了可用计算差分隐私（CDP）实现但不可用统计差分隐私（SDP）实现的任务，并提出一种通过决策树敌手和密码学构造证明CDP的新方法。
2023-10-23 cs.CC cs.CR
Age-Dependent Differential Privacy
实时应用程序的激增已经激发了对在\textit{age of information}上下文中分析和优化数据新鲜度的广泛研究。然而，传统的隐私框架（例如，差分隐私（DP））忽略了数据新鲜度对隐私保证的影响，这可能导致在试图在时变数据库中实现有意义的隐私保证时不必要的准确性损失。在这项工作中，我们介绍了\textit{age-dependent DP}，考虑到潜在的随机性质的时变数据库。在这个新的框架中，我们建立了经典DP和年龄相关DP之间的连接，在此基础上，我们描述了数据陈旧性和时间相关性对隐私保证的影响。我们的表征表明，\textit{aging}，即，使用陈旧的数据输入和/或推迟输出的发布可以是除了传统DP框架中的噪声注入之外的保护数据隐私的新策略。此外，我们的结果推广到多查询的情况下，我们提出了一个顺序的组合结果，年龄相关的DP下的任何发布和老化的政策。然后，我们描述了隐私风险和效用之间的最佳权衡，并展示了如何实现这一点。最后，案例研究表明，要实现一个任意小的隐私风险在一个单一的查询的情况下，结合老化和噪声注入只会导致有界的准确性损失，而使用噪声注入只（在DP的基准情况下）将导致一个无限的准确性损失。
2022-09-03 cs.CR cs.IT cs.NI
DPI: Ensuring Strict Differential Privacy for Infinite Data Streaming
本文提出DPI技术，通过限制无限数据流中每个用户的总隐私泄露，并利用增强机制提高准确性，实现严格差分隐私下的高实用性数据收集与分析。
2024-07-20 cs.CR
Metric Differential Privacy at the User-Level Via the Earth Mover's Distance
University of Copenhagen（哥本哈根大学）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；University of California, San Diego（加州大学圣迭戈分校）
研究用户级别度量差分隐私，用推土机距离定义隐私，设计回答线性和项级查询的机制，给出从无界到有界的黑箱约简，证明在某些查询类型上比用户级DP有更好效用。
2026-07-07 cs.CR
KV-Auditor: Auditing Local Differential Privacy for Correlated Key-Value Estimation
本文提出KV-Auditor框架，通过估计经验隐私下界审计本地差分隐私键值估计机制，针对非交互式与交互式机制分别设计水平、垂直审计及分段策略，实验验证其有效性。
2025-08-15 cs.CR
Slowly Scaling Per-Record Differential Privacy
U.S. Census Bureau（美国人口普查局）；Tumult Labs（Tumult实验室）；The MITRE Corporation（MITRE公司）
针对存在大量异常值的数据（如收入数据），提出隐私保证随记录影响对数级缓慢退化的机制，实现准确无偏的统计发布，并为高影响记录提供有意义的保护。
2025-05-02 cs.CR stat.ME
Bounded and Unbiased Composite Differential Privacy
针对传统差分隐私机制输出无界、现有有界方案存在偏差的问题，提出由激活函数与基函数构成的复合概率密度差分隐私机制，搭配无需重复实验的超参数优化算法，在三个基准数据集上效用优于传统Laplace和Gaussian机制。
2023-11-04 cs.CR
Privacy and Accuracy-Aware AI/ML Model Deduplication
本文首次形式化差分隐私训练模型的去重问题，提出一种隐私与精度感知的去重机制，通过贪婪策略和稀疏向量技术最小化存储与隐私成本，在保证隐私的同时实现了最高35倍的压缩比和43倍的推理加速。
2025-03-04 cs.CR cs.DB
Differential privacy and noisy confidentiality concepts for European population statistics
本文件旨在概述目前正在为官方人口统计和普查讨论的基于随机噪声的统计披露控制的各种办法。一个特别的重点是对影响讨论的不同概念之间的严格划分：我们明确区分风险措施，噪声分布和输出机制-将这些概念纳入范围并相互联系。在概括了差异隐私作为一种风险度量之后，本文还评论了一些特定输出机制和参数设置的效用和风险方面，特别关注官方人口统计中相当典型的静态输出。特别是，有人认为，无界噪声分布，如平原拉普拉斯，可能会危及关键的独特的普查功能，没有明确的需要从风险的角度来看。另一方面，有界噪声分布，如截断拉普拉斯或细胞键方法，可以设置，以保持独特的普查功能，同时控制披露风险，在类似普查的输出。最后，本文分析了一些典型的攻击场景，以限制通用噪声参数范围，这表明2021年欧盟人口普查输出场景具有良好的风险/效用折衷。分析还表明，严格差别私有机制将受到严重限制，在这种情况下。
2020-12-17 cs.CR stat.ME
Sensitivity estimation for differentially private query processing
针对含连接操作的复杂查询敏感度难以计算的问题，本文提出基于采样和草图的高效敏感度估计方法，在保证准确性的同时显著降低计算开销。
2023-04-19 cs.CR cs.DB
SPECIAL: Synopsis Assisted Secure Collaborative Analytics
提出SPECIAL系统，首个同时确保有界隐私损失、高级查询规划与无损处理的安全协作分析系统，通过摘要辅助安全处理模型实现复杂查询快80倍、内存省900倍且隐私损失降89倍。
2025-09-17 cs.CR cs.DB
DP-Dueling: Learning from Preference Feedback without Compromising User Privacy
Apple（苹果公司）
本文研究了差分隐私约束下的dueling bandit问题，提出了首个适用于大型决策空间的差分隐私dueling bandit主动学习算法，在有限和无限臂空间下均实现了接近最优的regret bound，并证明了其最优性。
2024-03-22 cs.CR cs.LG
Optimal partition selection with Rényi differential privacy
Google（谷歌）；Google Research（谷歌研究）
本文提出了一种在Rényi差分隐私下优化分区选择的算法，通过改进Gaussian机制提升性能，同时揭示了支持频率发布算法的固有成本。
2026-03-11 cs.CR
Private Continual Counting of Unbounded Streams
Department of Computer Sciences University of Wisconsin — Madison（计算机科学系威斯康星大学麦迪逊分校）；Department of Electrical and Computer Engineering University of Wisconsin — Madison（电气与计算机工程系威斯康星大学麦迪逊分校）
本研究提出一种无界流的隐私连续计数算法，通过引入基于对数扰动的矩阵分解，实现平滑误差和更优的方差与空间效率。
2026-11-10 cs.CR cs.DS cs.LG
Scalable Private Partition Selection via Adaptive Weighting
研究差分隐私分区选择问题，提出自适应重路由权重的MAD算法及两轮版本MAD2R，在保持隐私的同时最大化输出项数，可扩展至数千亿项数据集。
2025-08-08 cs.CR cs.DS
Pan-private Algorithms: When Memory Does Not Help
考虑在线到达的更新，其中第$t$个输入是$(i_t,d_t)$，其中$i_t$被认为是用户的ID。非正式地，随机化函数$f$相对于ID是{ \em差分隐私}，如果由$f$引起的概率分布与由它在输入上引起的概率分布没有太大不同，其中ID $j$的出现被一些其他ID $k$替换。最近，这个概念被扩展到{ \em泛隐私}，其中$f$的计算保留差分隐私，即使算法的内部存储器被暴露给对手（例如通过恶意闯入或通过政府的命令）。这是一个很强的隐私概念，令人惊讶的是，对于基本的计数任务，如不同的计数，重打击者和其他人，Dwork等人~ \cite{dwork-pan}提出了泛隐私算法具有合理的准确性。泛私有算法是不平凡的，并且依赖于采样。我们重新审视这些基本的计数任务，并显示改进的界限。特别地，我们估计不同计数$\Dt$在$(1\pm \eps)\Dt \pm O(\polylog m)$内，其中$m$是宇宙中元素的数量。这使用了流文学中已知的草图上的适当噪声统计。我们还提出了第一个已知的泛隐私的下限相对于一个单一的入侵。我们的下限表明，即使允许无限内存，泛私有算法的不同计数不能显着更准确地比我们的算法。我们的下界使用噪声解码。对于沉重的打击计数，我们提出了一个泛私人流算法，是准确的$O(k)$在最坏的情况下，以前已知的界限，这个问题是任意更糟。我们的泛私有算法的一个有趣的方面是，它们故意使用非常…
2010-09-08 cs.CR cs.DS
