PrivATE: Differentially Private Average Treatment Effect Estimation for Observational Data
Zhejiang University（浙江大学）；University of Virginia（弗吉尼亚大学）；University of North Carolina at Greensboro（北卡罗来纳大学格林斯伯勒分校）；Xi’an Jiaotong University（西安交通大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Peking University（北京大学）；Hangzhou Dianzi University（杭州电子科技大学）
PrivATE是一种基于差分隐私的平均治疗效应估计框架，通过自适应匹配限制平衡噪声误差与匹配误差，提升估计精度。
2025-12-16 cs.CR
Auditing Differentially Private Machine Learning: How Private is Private SGD?
Khoury College of Computer Sciences, Northeastern University（东北大学胡里计算机科学学院）
我们调查差异私有SGD在实践中是否比其最先进的分析所保证的更好的隐私。我们通过新颖的数据投毒攻击来实现这一点，我们表明这与现实的隐私攻击相对应。虽然先前的工作（Ma等人，arXiv 2019）提出了差分隐私和数据投毒之间的这种联系，作为对数据投毒的防御，我们将其用作理解特定机制隐私的工具是新的。更一般地说，我们的工作采取了定量的，实证的方法来理解的隐私提供的具体实现的差异隐私算法，我们相信有可能补充和影响差分隐私的分析工作。
2020-06-13 cs.CR cs.LG
Suboptimal Provision of Privacy and Statistical Accuracy When They are Public Goods
凭借庞大的数据库，私营科技公司可以与公共统计机构竞争提供人口统计数据。然而，私营公司在提供高质量统计数据和保护数据使用者的隐私方面面临着不同的激励。当隐私保护和统计准确性都是公共品时，私人提供者往往会提供至少一种次优产品，但不清楚是哪一种。我们模拟了一家在保证差异隐私的情况下发布统计数据的公司。我们证明，在这个框架中，由私人公司提供的数据质量低效率的结果。
2019-06-21 cs.CR cs.DB econ.TH
Inferentially-Private Private Information
针对信息关联导致的隐私泄露问题，提出满足推理隐私约束且遵循Blackwell序的最优私密信息结构设计方法，含二元场景高效发布机制及一般场景规划求解方法，其几何刻画具独立价值。
2024-12-13 cs.CR
Differential Privacy and Machine Learning: a Survey and Review
机器学习的目标是从数据中提取有用的信息，同时通过隐藏信息来保护隐私。因此，似乎很难调和这些相互竞争的利益。然而，在挖掘敏感数据时，它们通常必须平衡。例如，医学研究代表了一个重要的应用，其中需要提取有用的信息并保护患者隐私。解决冲突的方法之一是提取整个人口的一般特征，而不披露个人的私人信息。在本文中，我们考虑差分隐私，最流行和最强大的隐私定义之一。我们探讨机器学习和差分隐私之间的相互作用，即隐私保护机器学习算法和基于学习的数据发布机制。我们还描述了一些理论结果，解决了什么可以学到的差异私人和上界的损失函数的差异私人算法。最后，我们提出了一些开放的问题，包括如何将公共数据，如何处理丢失的数据在私人数据集，以及是否，作为观察到的样本的数量增长任意大，差分私人机器学习算法可以实现在没有成本的效用相比，相应的非差分私人算法。
2014-12-24 cs.CR cs.DB cs.LG
PrivateMail: Supervised Manifold Learning of Deep Features With Differential Privacy for Image Retrieval
Massachusetts Institute of Technology（麻省理工学院）
差分隐私提供了强有力的保证，例如在后处理下的不可变隐私。因此，它通常被视为在分散和孤立的数据上学习的解决方案。这项工作的重点是监督流形学习，这是一种可以为目标用例生成微调流形的范例。我们的贡献是双重的。1)我们提出了一种新的差分私有方法\textit{PrivateMail}的监督流形学习，第一个同类我们的知识。2)我们为我们的实验用例提供了一种新的私有几何嵌入方案。我们实验私人的“基于内容的图像检索”-嵌入和查询图像的最近邻居在一个私人的方式-并显示广泛的隐私效用权衡的结果，以及我们的方法的计算效率和实用性。
2021-10-05 cs.CR cs.CV cs.DB
Connecting Robust Shuffle Privacy and Pan-Privacy
Harvard University（哈佛大学）；Northeastern University（东北大学）；Google New York（谷歌纽约）；University of Pennsylvania（宾夕法尼亚大学）
在差分隐私的\emph{shuffle model}中，数据持有用户向安全混洗器发送随机化消息，混洗器对消息进行置换，并且所得到的消息集合必须相对于用户数据是差异隐私的。在\emph{pan-private}模型中，算法处理数据流，同时保持相对于流数据有区别地私有的内部状态。我们提供证据连接这两个明显不同的模型。我们的结果集中在\emph{robustly}洗牌私有协议，其隐私保证不会受到恶意用户的影响很大。首先，我们给出了鲁棒洗牌私有协议和上界计数不同的元素和一致性测试。其次，我们使用泛私有下界来证明这两个问题的鲁棒洗牌私有下界。研究发现，鲁棒的近似混洗隐私和近似泛隐私算法对不同元素的计数存在加性误差$Θ(\sqrt{k})$.对于均匀性测试，我们给出了一个鲁棒的近似洗牌私有协议的样本复杂性$\tilde O(k^{2/3})$，并表明，一个$Ω(k^{2/3})$依赖是必要的任何强大的纯洗牌私有测试。最后，我们表明，这种连接是有用的，在两个方向：我们给出了一个泛私人适应最近的工作洗牌私人直方图，并用它来恢复泛隐私和交互式本地隐私之间的进一步分离。
2020-08-12 cs.CR cs.LG
Private Seeds, Public LLMs: Realistic and Privacy-Preserving Synthetic Data Generation
Information Sciences and Technology, The Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）
本文提出RPSG方法，通过隐私种子和差分隐私机制生成高保真且隐私保护的合成数据，实验验证其在隐私与效用平衡上的优势。
2026-07-14 cs.AI cs.CR
Improved Pan-Private Stream Density Estimation
差分隐私是对隐私的严格定义，它保证对敏感数据集执行的任何分析都不会泄露有关其中包含数据的个人的信息。在这项工作中，我们开发了新的差分隐私算法来分析流数据。具体来说，我们考虑的问题，估计的密度流的用户（或，更一般地说，元素），这表示所有用户的比例，实际上出现在流中。我们专注于流媒体模型最强的隐私保证之一，即用户级泛隐私，它确保任何用户的隐私得到保护，即使对手在罕见的情况下观察算法的内部状态。我们提出的算法采用最佳的所有分配的隐私预算，是专门为流媒体模型，因此，在理论上和实验上优于传统的基于采样的方法。
2021-11-16 cs.CR cs.DB cs.DS
Differentially Private Regression for Discrete-Time Survival Analysis
Nanyang Technological University（南洋理工大学）
在生存分析中，回归模型用于了解解释变量的影响（例如，年龄、性别、体重等）到生存概率。然而，对于医疗数据等敏感的生存数据，当使用医疗数据来拟合回归模型时，人们对数据集中个人的隐私存在严重担忧。最接近的工作，解决这种隐私问题的工作是Cox回归的线性项目的原始数据到一个较低的维度空间。然而，这种方法的缺点是，这种投影没有正式的隐私保证。在这项工作中，我们的目标是提出解决方案的回归问题的生存分析与保护的差分隐私，这是一个黄金标准的隐私保护在数据隐私研究。为此，我们扩展了输出扰动和目标扰动的方法，最初提出的保护差分隐私的经验风险最小化（ERM）问题。此外，我们还提出了一种新的抽样方法的基础上的马尔可夫链蒙特卡罗（MCMC）方法，以实际保证差分隐私更好的准确性。我们表明，我们提出的方法实现了良好的准确性相比，非私人的结果，同时保证差分隐私的私人数据集中的个人。
2017-08-25 cs.CR cs.DB cs.LG
Private Graph Data Release: A Survey
近年来，图分析在各个领域的应用产生了巨大的社会和经济效益。然而，图形分析的日益广泛的采用伴随着保护图形数据中的私有信息的需求的相应增加，特别是考虑到真实世界的图形数据中的许多隐私泄露，这些数据本应保留敏感信息。本文提供了一个全面的调查私有图数据发布算法，寻求实现隐私和实用性之间的良好平衡，特别关注可证明的私有机制。这些机制中的许多是差分隐私框架到图形数据的自然扩展，但我们也研究了更一般的隐私公式，如河豚隐私，解决了差分隐私的一些限制。我们还对私有图数据发布机制在社交网络、金融、供应链和医疗保健中的应用进行了广泛的调查。这份调查报告及其提供的分类法应该使越来越重要的私人分析和数据发布领域的从业者和研究人员受益。
2022-06-04 cs.CR
Concurrent Composition of Differential Privacy
我们发起了一项研究的组成性质的互动差分隐私机制。交互式差异隐私机制是一种允许分析师自适应地询问有关敏感数据集的查询的算法，具有对抗分析师对交互的看法大致相同的属性，无论任何个人的数据是否在数据集中。以前的研究组成的差分隐私集中在非交互式的算法，但需要交互式的机制来捕捉许多预期的应用程序的差分隐私和一些重要的差异隐私原语。我们专注于并发组合，对手可以任意交织其查询到几个不同的私人机制，这可能是可行的差异私人查询系统部署在实践中。我们证明，当被组成的互动机制是纯差分隐私，他们的并发组合达到隐私参数（相对于纯或近似差分隐私），匹配的（最佳）非交互式差分隐私的组合定理。我们还证明了满足近似差分隐私的交互机制的合成定理。这一界限甚至比非交互式差分隐私的基本（次优）组合定理还要弱，我们将缩小差距作为未来研究的一个方向，同时了解差分隐私的其他变体的并发组合。
2021-09-15 cs.CR
Private Web Browser Forensics: A Case Study of the Epic Privacy Browser
有组织的犯罪，以及个人罪犯，是受益于保护私人浏览器提供给那些谁会进行非法活动，如洗钱，贩毒，在线交换虐待儿童的材料，等提供给用户的保护史诗隐私浏览器说明了这些好处。该浏览器目前在全球约180个国家使用。本文概述了通过Epic隐私浏览器的实时和事后状态分析提供的证据的位置和类型。这项研究确定了浏览器在使用过程中的功能，使用后可以恢复证据的方式，以及恢复材料的工具和有效呈现。
2018-01-04 cs.CR
Privacy-Preserving In-Context Learning with Differentially Private Few-Shot Generation
Princeton University（普林斯顿大学）；Microsoft Semantic Machines（微软语义机器）；M365 Research（M365研究院）；University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
针对大语言模型上下文学习存在的私有数据泄露风险，提出带差分隐私保障的合成少样本生成算法，在标准基准上验证了其在强隐私级别下仍具竞争力的性能。
2024-01-28 cs.CR cs.LG
Advances in Differential Privacy and Differentially Private Machine Learning
本文综述差分隐私理论、Renyi DP与Concentrated DP等新变体、新机制及其在隐私保护机器学习中的理论进展与实际部署。
2024-04-06 cs.CR
Private Learning and Sanitization: Pure vs. Approximate Differential Privacy
Harvard University（哈佛大学）
我们比较了纯$ε$ -差分隐私[Dwork et al. TCC 2006]和近似$(ε,δ)$-差分隐私[Dwork et al. Eurocrypt 2006]下私人学习[Kasiviswanathan et al. 2008]和消毒[Blum et al. 2008]的样本复杂度。我们表明，这些任务的样本复杂度下近似差分隐私可以显着低于纯差分隐私。我们定义了一个家庭的优化问题，我们称之为准凹承诺问题，概括了我们考虑的一些任务。我们观察到，一个准凹的承诺问题可以私下近似使用一个较小的实例的一个准凹的承诺问题的解决方案。这使我们能够构建一个有效的递归算法解决这些问题的私人。具体来说，我们构造私人学习点函数，阈值函数，和轴对齐的矩形在高维。类似地，我们构造点函数和阈值函数的消毒器。我们还研究了标签私人学习者的样本复杂性，这是一种放松的私人学习，学习者只需要保护样本中标签的隐私。我们表明，VC维度完全表征了这样的学习者的样本复杂性，即，学习的样本复杂性与标签隐私是平等的（常数）学习没有隐私。
2014-07-10 cs.CR cs.LG stat.ML
Improving the Privacy and Practicality of Objective Perturbation for Differentially Private Linear Learners
UC Santa Barbara（加州大学圣塔芭芭拉分校）；Nokia Bell Labs（诺基亚贝尔实验室）
本文针对差分隐私线性学习器，通过更紧致的隐私分析和新的计算工具改进了目标扰动机制，使其在无约束凸广义线性问题上的性能与DP-SGD相当，同时降低了简单模型的隐私开销和计算复杂度。
2023-12-31 cs.CR cs.LG
A Fully Private Pipeline for Deep Learning on Electronic Health Records
我们引入了一个端到端的私有深度学习框架，应用于从电子健康记录预测30天再入院的任务。通过在训练过程中使用差分隐私和在推理过程中使用同态加密，我们证明了我们提出的管道可以保持高性能，同时提供强大的隐私保证，防止数据传输或攻击模型的信息泄漏。我们还探索了几种技术来解决部署具有隐私机制的神经网络时的隐私-效用权衡，使用机器学习和密码学的思想来提高差分私有训练的准确性和加密操作的计算成本。
2018-11-25 cs.CR
Auditing Private Prediction
本文提出首个用于审计私有预测的框架，通过实例化不同投毒和查询能力的对手，评估四种私有预测算法的隐私泄露，发现隐私分析可改进且投毒易感性影响泄露程度。
2024-02-14 cs.CR
Privacy-preserving record linkage using local sensitive hash and private set intersection
针对数据增长下跨数据集隐私记录链接受实体信息差异阻碍的问题，提出结合PSI与LSH的线性时间高效PPRL协议，验证了隐私保障与在百万级记录数据集上的实用性。
2022-03-27 cs.CR
Connecting Pixels to Privacy and Utility: Automatic Redaction of Private Information in Images
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
图像传达了广泛的个人信息。如果这些图像在社交媒体平台上共享，则这些个人信息会泄露，这与所描绘的人的隐私相冲突。因此，我们的目标是采用自动化方法来编辑此类私人信息，从而保护个人的隐私。通过进行用户研究，我们发现，模糊的图像区域相关的私人信息导致隐私，同时保留实用的图像。此外，通过改变区域的大小，可以实现不同的隐私-效用权衡。我们的研究结果主张“节录分割”的范例。因此，我们提出了第一个相当大的私人图像数据集“在野外”，在广泛的隐私类中使用像素和实例级别标签进行注释。我们提出了第一个自动编辑各种私人信息的模型。
2017-12-04 cs.CR cs.CV cs.CY
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院）；College of Science, National University of Defense Technology（国防科技大学理学院）
针对现有DP-RAG框架隐私预算浪费问题，提出SparsePay-RAG，通过公共先验、聚类缩小检索范围、自适应访问控制及DP对比解码，实现按需付费，在强隐私约束下取得更优隐私-效用权衡。
2026-09-24 cs.CR cs.DL
Profile-Based Privacy for Locally Private Computations
差分隐私已经成为隐私保护数据分析的黄金标准。一个流行的变体是本地差分隐私，其中数据持有者是受信任的管理者。然而，更广泛地采用这种模式的一个主要障碍是，它提供了一个糟糕的隐私-效用权衡。在这项工作中，我们解决这个问题，通过引入一个新的变种的本地隐私称为基于配置文件的隐私。其中心思想是，问题设置带有数据生成分布的图G，其边缘编码敏感的分布对，这些分布应该是不可区分的。这提供了更高的效用，因为与局部差分隐私不同，我们不再需要使域中的每对私有值不可区分，而是只保护底层分布的身份。我们建立隐私属性的基于配置文件的隐私定义，如后处理不变性和优美的组合。最后，我们提供的机制，在这个框架中是私人的，并通过模拟表明，他们实现了更高的效用比相应的本地差分隐私机制。
2019-06-16 cs.CR cs.LG stat.ML
Private Linear Regression with Differential Privacy and PAC Privacy
Carmel High School（卡梅尔高中）；Department of Computer Science Purdue University（计算机科学系 Purdue 大学）
本文比较了差分隐私和PAC隐私在真实世界数据集上的线性回归性能，揭示了两者在隐私保护下的表现差异。
2025-12-30 cs.CR cs.LG
Privacy-Computation trade-offs in Private Repetition and Metaselection
Apple（苹果公司）
本文研究私有重复与元选择中的隐私-计算权衡，证明保持常数级隐私开销时失败概率只能随计算开销多项式下降，并给出近乎匹配下界的组合算法。
2024-10-22 cs.CR cs.DS cs.LG
Private reputation retrieval in public - a privacy-aware announcement scheme for VANETs
公告方案是一种便于车辆在车辆自组织网络（VANESTs）中广播与道路相关的信息以提高道路安全和效率的系统。在Boneh-Boyen-Shacham短群签名方案的基础上，提出了一种新的公开更新信誉值的密码原语.这允许在没有安全信道的情况下进行私人信誉分数检索。利用这一点，我们设计了一个隐私意识的公告计划，使用信誉系统，这是可靠的，可审计的和强大的。
2016-05-18 cs.CR
Differentially Private Formation Control
随着多代理系统的激增，对协调协议的需求越来越大，该协议在保护代理的敏感信息的同时允许它们协作。为了帮助解决这一问题，本文提出了一个不同的私人形成控制框架。代理的状态轨迹保护使用差分隐私，这是一个统计概念的隐私，保护数据，通过添加噪声到它。我们提供了一个私人的形成控制实现和分析隐私对系统的影响。具体来说，我们量化隐私级别，系统性能和网络的通信拓扑的连通性之间的权衡。这些权衡是用来制定指导方针，用于校准隐私控制理论的数量，如稳态误差，而不需要深入了解差分隐私。还制定了其他准则，用于将隐私级别和网络拓扑结构作为设计参数来调整网络性能。仿真结果说明了这些权衡，并表明严格的隐私是固有的兼容强大的系统性能。
2020-09-14 cs.CR math.OC
Assessing Differentially Private Variational Autoencoders under Membership Inference
SAP（思爱普）；University of Waterloo（滑铁卢大学）
我们提出了一种方法来量化和比较的隐私准确性权衡差分私人变分自编码器。我们的工作在两个方面补充了以前的工作。首先，我们评估了差分隐私下针对变分自编码器的强重构MI攻击。其次，我们解决了数据科学家设置隐私参数的挑战，这将引导差分隐私的强度，从而也是隐私准确性的权衡。在我们的实验研究中，我们考虑图像和时间序列数据，和三个本地和中央差分隐私机制。我们发现，隐私准确性权衡强烈依赖于数据集和模型架构。我们很少观察到变分自编码器的隐私-准确性权衡，并确定LDP优于CDP的情况。
2022-04-16 cs.CR cs.LG
Multi-Message Shuffled Privacy in Federated Learning
University of California, Los Angeles（加州大学洛杉矶分校）
我们研究通信约束下的差分私有分布式优化。使用SGD进行优化的服务器聚合客户端局部梯度，以使用分布式均值估计（DME）进行模型更新。我们开发了一个通信效率的私人DME，使用最近开发的多消息混洗（MMS）的隐私框架。我们分析了我们提出的DME方案，以表明它实现了顺序最优的隐私-通信-性能权衡，解决了[1]中的一个公开问题，即洗牌模型是否可以改善安全聚合中获得的权衡。这也解决了MMS模型中私有向量和的最佳权衡问题。我们通过一种新的隐私机制来实现它，该机制在不同分辨率的局部梯度向量上非均匀地分配隐私。这些结果被直接应用到私人分布式学习算法使用此私人梯度聚集迭代的保证。我们还数值评估私人DME算法。
2023-02-22 cs.CR cs.LG
Differential Privacy-based Permissioned Blockchain for Private Data Sharing in Industrial IoT
Hyperledger fabric等许可区块链通过多渠道和私有数据汇集机制在工业物联网（IIoT）中实现安全的供应链模型。共享工业数据，包括供应链合作伙伴之间每个阶段的私有数据交换，有助于提高产品质量，实现未来预测，并加强管理活动。然而，Hyperledger fabric中现有的数据共享和查询机制不适合IIoT中的供应链环境，因为查询是对存储在分类账上的实际数据进行评估的，其中包括敏感信息，例如商业秘密以及提供给零售商和个人的特殊折扣。为了解决这个问题，我们提出了一个基于差分隐私的许可区块链，使用Hyperledger fabric来实现IIoT供应链中的私有数据共享（DH-IIoT）。我们将差分隐私集成到Hyperledger fabric的chaindcode（智能合约）中，以实现隐私保护。因此，查询响应由保护分类账中的敏感信息的扰动数据组成。拟议的工作（DH-IIoT）通过使用Hyperledger结构模拟许可的区块链进行评估。我们将我们的Hyperledger fabric的差分隐私集成链码与供应链场景的Hyperledger fabric的默认链码设置进行比较。实验结果表明，该方法在保证敏感账本数据安全的同时，保持了共享数据96.15%的准确性。
2021-03-30 cs.CR
Practical considerations on using private sampling for synthetic data
针对私有采样构建差分隐私合成数据时约束看似不切实际的问题，本文实现该算法并评估其约束在真实场景中的可行性。
2023-12-12 cs.CR
Stability Enhanced Privacy and Applications in Private Stochastic Gradient Descent
University of Edinburgh（爱丁堡大学）
私人机器学习涉及在训练时添加噪声，导致准确性较低。直觉上，更高的稳定性意味着更大的隐私，并改善这种隐私-效用权衡。我们研究了这种作用的稳定性在私人经验风险最小化，差分隐私是通过输出扰动，并建立了相应的理论结果表明，强凸损失函数，一个算法的$β$的一致稳定性意味着一个界的$O(\sqrtβ)$上所需的差分隐私的噪声规模。结果适用于显式正则化和隐式稳定的ERM，例如已知稳定的随机梯度下降的适应。因此，它概括了最近的结果，通过修改SGD提高隐私，并建立稳定性作为统一的观点。它意味着新的隐私保证的优化与统一的稳定性保证，相应的差分隐私保证是以前不知道的。实验结果验证了稳定性增强隐私在几个问题中的实用性，包括弹性网的应用和特征选择。
2020-06-25 cs.CR cs.LG stat.ML
Distributed Differentially Private Ranking Aggregation
在协同决策中，排序聚合通常被用来帮助将多个排序组合成单个代表。为了保护每个个体的实际排名，经常使用一些隐私保护策略，例如差分隐私。然而，这并没有考虑到从个人那里收集所有排名的策展人是不值得信赖的情况。本文提出了一种基于分布式差分隐私框架的解决方案。该机制收集个人的局部差异私有排名，然后使用洗牌模型随机排列成对排名，以进一步增强隐私保护。最后的代表是由分层等级聚合。对该机制进行了理论分析，并与现有方法进行了实验比较，结果表明该机制在输出准确性和隐私保护方面都具有竞争力。
2022-02-07 cs.CR
Privacy-Preserving Smart Parking System Using Blockchain and Private Information Retrieval
寻找可用的停车位是司机的一个主要问题，特别是在拥挤的大城市，造成交通拥堵和空气污染，浪费司机的时间。智能停车系统是一种新颖的解决方案，使驾驶员能够获得实时停车信息以进行预订。然而，目前的智能停车场要求驾驶员披露他们的私人信息，例如期望的目的地。此外，现有的计划是集中式的，容易受到单点故障和数据泄露的瓶颈。在本文中，我们提出了一个分布式的隐私保护智能停车系统使用区块链。由不同的停车场所有者创建的联盟区块链，以确保安全性，透明度和可用性，建议将他们的停车服务存储在区块链上。为了保护司机的位置隐私，我们采用了私有信息检索（PIR）技术，使司机能够私下从区块链节点检索停车优惠，而不会透露检索到哪些停车优惠。此外，一个简短的随机签名被用来使司机以匿名的方式预订可用的停车位。此外，我们引入了一个匿名支付系统，无法将司机的停车位与特定的停车位联系起来。最后，我们的性能评估表明，该方案可以保护司机的隐私与低通信和计算开销。
2021-01-27 cs.CR
Guidelines for Implementing and Auditing Differentially Private Systems
差分隐私是一种信息理论对算法和代码的约束。它提供了隐私泄露的量化和正式的隐私保证，目前被认为是隐私保护的黄金标准。在本文中，我们提供了一个初始的“最佳实践”开发差异隐私平台，单元测试的技术，具体到差分隐私，准则检查差分隐私是否被正确地应用在应用程序中，参数设置和建议。本文的起源是Facebook和Social Science One的一项倡议，旨在为社会科学研究人员提供对URL共享数据集的编程访问。为了在保护隐私的同时最大限度地利用数据进行研究，研究人员应该通过支持差分隐私的交互式平台访问数据。本文的目的是提供一般可以在各种系统中重复使用的指导方针和建议。出于这个原因，除了详细信息和理论出现在学术论文中的系统外，不会命名特定的平台。
2020-05-12 cs.CR
Private Social Network Data Sharing
在线社交网络的日益普及给最终用户带来了巨大的隐私威胁。虽然现有的工作主要集中在从社交网络中推断敏感属性，如年龄，位置和性别，很少有人做了如何保护用户的隐私，防止恶意推断。本文针对现有社交网络的隐私脆弱性，设计了一个隐私保护框架。我们评估了该框架的隐私性和有用性保证，证明了其分类和防御隐私攻击的有效性。
2017-07-26 cs.CR cs.SI
Assessing differentially private deep learning with Membership Inference
SAP SE（SAP公司）；University of Waterloo（滑铁卢大学）
旨在识别公共神经网络的训练数据的攻击代表了对参与训练数据集的个人的隐私的严重威胁。通过训练数据或训练函数的匿名化提供了可能的保护，具有差分隐私。然而，数据科学家可以在本地和中央差分隐私之间进行选择，并且需要选择有意义的隐私参数$ε$，这对于非隐私专家来说是一个挑战。我们经验比较本地和中央差分隐私机制下的白盒和黑盒成员推理，以评估其相对的隐私准确性权衡。我们用几个数据集进行了实验，结果表明，这两种机制的权衡是相似的。这表明局部差分隐私是差分隐私深度学习的中央差分隐私的合理替代方案，因为中央差分隐私中的小$ε$和局部差分隐私中的大$ε$会导致类似的成员推断攻击风险。
2020-05-26 cs.CR cs.LG
Privacy-Preserving Trust Management Mechanisms from Private Matching Schemes
密码原语是构建隐私保护通信机制的基础。在某些情况下，互不相识的两方需要在Internet上交换敏感信息。信任管理机制利用数字凭证和证书来在这些陌生人之间建立信任。我们解决了选择交换哪些凭证的问题。在这个过程中，除了建立信任所严格要求的信息之外，每一方都不应该了解另一方的偏好。我们提出了一种方法，以达成协议的凭证交换，保护各方的隐私。我们的方法是基于安全的两方计算协议的集合相交。也就是说，它是从私人匹配方案。
2013-08-11 cs.CR
Privacy Profiles for Private Selection
Nokia Bell Labs（诺基亚贝尔实验室）；UC Santa Barbara（加州大学圣巴巴拉分校）
本文提出一种基于隐私轮廓的方案，利用基础算法的隐私轮廓界定 ReportNoisyMax 和 PrivateTuning 的隐私轮廓，在数值上优于基于 RDP 的核算，并在端到端私有学习实验中取得实质性收益。
2024-02-09 cs.CR cs.LG
Non-Stochastic Private Function Evaluation
我们认为私人功能评估提供查询响应的基础上的多个不受信任的实体的私人数据的方式，每个人都不能学习一些实质性的新的关于其他人的数据。首先，我们引入完美的非随机隐私的两方场景。完全隐私相当于查询响应的条件无关性和其他个体的私有不确定变量以给定实体的不确定变量为条件。我们表明，完美的隐私可以实现查询的功能，共同的不确定变量，一个推广的共同随机变量。我们计算不采用这种形式的查询的最接近的近似。为了在隐私和实用性之间进行权衡，我们放宽了完美隐私的概念。我们定义几乎完美的隐私，并表明，这个新的定义等同于使用条件的分离，而不是条件无关的完美隐私的定义。然后，我们将定义推广到多方函数评估（两个以上的数据实体）。我们证明了查询响应的均匀量化，其中量化分辨率是查询的隐私预算和敏感性的函数（参见，差分隐私），实现功能评价隐私。
2020-10-20 cs.CR cs.IT math.IT
Differentially Private Representation for NLP: Formal Guarantee and An Empirical Study on Privacy and Fairness
National University of Singapore（新加坡国立大学）；Monash University（莫纳什大学）；The University of Melbourne（墨尔本大学）
已经证明，通过深度模型学习的隐藏表示可以对输入的私有信息进行编码，因此可以被利用来以合理的准确度恢复这些信息。为了解决这个问题，我们提出了一种新的方法，称为差分私有神经表示（DPNR），以保护隐私的文本中提取的表示。DPNR利用差分隐私（DP）提供正式的隐私保证。此外，我们表明，通过辍学屏蔽的话可以进一步提高隐私。为了保持学习表示的效用，我们将DP噪声表示集成到一个强大的训练过程中，以获得一个强大的目标模型，这也有助于模型在各种人口统计变量上的公平性。在各种参数设置下的基准数据集上的实验结果表明，DPNR在不显着牺牲主要任务性能的情况下大大减少了隐私泄露。
2020-10-03 cs.CR cs.LG stat.ML
Private Minimum Hellinger Distance Estimation via Hellinger Distance Differential Privacy
George Mason University（乔治梅森大学）
本文提出满足Hellinger差分隐私约束的最小Hellinger距离估计器，保持了鲁棒性和效率，同时开发了差分隐私梯度下降和牛顿-拉夫森算法，并通过数值实验验证了其在数据污染下的鲁棒性。
2026-11-03 cs.CR math.PR math.ST
Differentially Private Model Publishing for Deep Learning
Georgia Institute of Technology（佐治亚理工学院）
基于神经网络的深度学习技术在广泛的人工智能任务中取得了巨大成功。大规模的训练数据集是其成功的关键因素之一。然而，当训练数据集是从个人众包的，并且包含敏感信息时，模型参数可能会编码隐私信息并承担隐私泄露的风险。最近，共享和发布预训练模型的趋势日益增长，进一步加剧了这种隐私风险。为了解决这个问题，我们提出了一种用于训练神经网络的差异私有方法。我们的方法包括几种新技术，用于优化隐私丢失和模型准确性。我们采用了一个概括的差分隐私称为集中的差分隐私（CDP），与两个不同的数据隐藏方法的正式和精细的隐私损失分析。我们在训练过程中实现了动态隐私预算分配器，以提高模型的准确性。大量的实验表明，我们的方法有效地提高了隐私损失会计，训练效率和模型质量在给定的隐私预算。
2019-12-19 cs.CR cs.LG
Towards Private Learning on Decentralized Graphs with Local Differential Privacy
The Hong Kong Polytechnic University（香港理工大学）；University of Toronto（多伦多大学）；City University of Hong Kong（香港城市大学）
许多现实世界的网络本质上是分散的。例如，在社交网络中，每个用户维护社交图的本地视图，诸如朋友列表和她的简档。典型的做法是收集社交图的这些本地视图并执行图学习任务。然而，在图上学习可能会引起隐私问题，因为这些局部视图通常包含敏感信息。在本文中，我们试图确保在分散的网络图上进行私有图学习。为了实现这一目标，我们提出了{ \em Solitude}，一个新的基于图神经网络（GNNs）的隐私保护学习框架，具有基于边缘局部差分隐私的正式隐私保证。{ \em Solitude}的关键是一组新的精细机制，可以校准从用户收集的分散图中引入的噪声。校准背后的原理是许多现实世界的图所共有的内在属性，例如稀疏性。与现有的本地私有GNN不同，我们的新框架可以同时保护节点特征隐私和边缘隐私，并且可以与任何具有隐私效用保证的GNN无缝结合。在基准测试数据集上的大量实验表明，{ \em Solitude}在给定隐私预算的情况下，可以保持学习GNN的泛化能力，同时保护用户的数据隐私。
2022-01-23 cs.CR cs.LG
PSI (Ψ): a Private data Sharing Interface
我们提供了PSI（“私人数据共享接口”）的概述，该系统是我们正在开发的，旨在使社会科学和其他领域的研究人员能够共享和探索具有差分隐私的强大隐私保护的隐私敏感数据集。
2018-08-04 cs.CR cs.CY stat.ME
Differentially Private LQ Control
随着多代理系统的激增和共享更多的用户数据，需要新的方法来保护敏感数据，同时仍然支持系统操作。为了满足这一需求，本文提出了一个私人多代理LQ控制框架。代理的状态轨迹可能是敏感的，因此我们使用差分隐私来保护它们。我们从三个方面量化了隐私的影响：隐私下共享的信息量、隐私的控制理论成本以及隐私和性能之间的权衡。这些分析是在传统的控制理论方面进行的，我们用它来制定准则，用于校准隐私作为系统参数的函数。数值结果表明，系统性能保持在理想的范围内，即使在严格的隐私要求。
2022-02-14 cs.CR math.OC
Private sampling: a noiseless approach for generating differentially private synthetic data
在一个人工智能和数据科学变得无所不在的世界里，数据共享越来越多地与数据隐私问题发生冲突。差分隐私已经成为一个严格的框架，用于保护统计数据库中的个人隐私，同时发布有关数据库的有用统计信息。实现差分隐私的标准方法是向数据中注入足够量的噪声。但是，除了差分隐私的其他限制外，这种添加噪声的过程会影响数据的准确性和实用性。另一种在数据共享中实现隐私的方法是基于合成数据的概念。合成数据的目标是创建一个尽可能真实的数据集，它不仅保持了原始数据的细微差别，而且没有暴露敏感信息的风险。差分隐私与合成数据的结合被认为是两全其美的解决方案。在这项工作中，我们提出了第一个无噪声的方法来构建不同的私人合成数据，我们这样做，通过一种机制称为“私人采样”。使用布尔立方体作为基准数据模型，我们推导出明确的界限的准确性和隐私的构造合成数据。关键的数学工具是超压缩性、对偶性和经验过程。我们的私人抽样机制的一个核心成分是一个严格的“边际校正”方法，它具有显着的属性，重要性重新加权可以用来精确匹配的边缘的样本的人口的边缘。
2021-09-30 cs.CR math.ST stat.TH
Local Private Hypothesis Testing: Chi-Square Tests
差分隐私的局部模型正在成为收集和共享敏感信息的实际应用的参考模型，同时满足强隐私保证。在本地模型中，不存在允许每个人的原始数据的可信实体，因为在传统的馆长模型中假设差异隐私。因此，个人数据在共享之前通常会受到干扰。我们探讨了在局部模型中的私人假设检验的设计，其中每个数据条目都被扰动以确保每个参与者的隐私。具体来说，我们分析了本地私人χ 2检验的拟合优度和独立性测试，这已经在传统的，馆长模型的差异隐私研究。
2018-03-09 cs.CR math.ST stat.TH
Differentially Private Learning of Markov Chains: Near-Optimal Sample Complexity for Item and User Level Privacy
University of Southern California（南加州大学）；Pontificia Universidad Católica de Chile（智利天主教 Pontificia 大学）；Meta
该研究针对序列数据的隐私保护需求，在项目级与用户级隐私下，研究离散遍历马尔可夫链转移矩阵的差分隐私估计，给出近最优样本复杂度界，为序列数据的隐私学习提供了理论支撑。
2026-10-15 cs.CR stat.OT
Differentially Private Convex Optimization with Piecewise Affine Objectives
差分隐私是最近提出的隐私概念，它提供了强有力的隐私保证，而无需对对手进行任何假设。研究了目标函数为分段仿射的凸优化问题的差分私有解的计算问题。这样的问题是由其中定义目标函数的仿射函数包含敏感用户信息的应用激发的。我们提出了几种隐私保护机制，并提供这些机制的最优性和隐私水平之间的权衡分析。数值实验也被用来评估它们在实践中的性能。
2014-03-24 cs.CR cs.DS math.OC
PrivacyXray: Detecting Privacy Breaches in LLMs through Semantic Consistency and Probability Certainty
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院）
PrivacyXray通过分析LLM内部状态的语义一致性和概率确定性，利用四个指标检测隐私泄露，在五个模型上平均准确率达92.69%，较现有方法提升20.06%。
2025-06-24 cs.AI cs.CR
Fairly Private: Investigating The Fairness of Visual Privacy Preservation Algorithms
Vienna University of Technology（维也纳技术大学）；University of Alicante（阿利坎特大学）
随着摄像头监控和面部识别带来的隐私风险越来越大，对隐私保护算法的研究也越来越多。其中，视觉隐私保护算法试图通过模糊隐私敏感区域来将身体隐私赋予视觉对象。虽然不同表型的面部识别系统的不同性能是许多研究的主题，但其对应的隐私保护通常不会从公平的角度进行分析。本文通过人脸识别模型在模糊图像上的表现，研究了常用的视觉隐私保护算法的公平性。PubFig数据集上的实验清楚地表明，所提供的隐私保护在不同群体之间是不平等的。
2023-01-12 cs.CR cs.CV cs.LG
The Influence of Dropout on Membership Inference in Differentially Private Models
Drexel University（德雷塞尔大学）
不同的私有模型试图保护模型训练数据的隐私，使其成为模型安全和隐私的重要组成部分。与此同时，数据科学家和机器学习工程师寻求使用不确定性量化方法来确保模型尽可能有用和可操作。我们探讨通过辍学和隐私进行成员推断攻击对模型和没有差分隐私的不确定性量化之间的紧张关系。我们发现，模型与大的辍学略有增加模型的风险屈服于成员推断攻击在所有情况下，包括在不同的私人模型。
2021-03-16 cs.CR cs.LG
Provable Privacy with Non-Private Pre-Processing
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
针对差分隐私机器学习流水线中数据依赖预处理隐私成本易被忽略的问题，提出基于Smooth DP和预处理有界敏感度的通用评估框架，可量化非隐私预处理的额外隐私成本，适配多种预处理与DP算法且易集成。
2024-06-21 cs.AI cs.CR cs.LG
