Releasing survey microdata with exact cluster locations and additional privacy safeguards
世界各地的住户调查项目发布了精细的地理参考微观数据，以支持对人类生计及其周围环境相互依存关系的研究。为了保护受访者的隐私，微观层面的调查数据通常通过删除或干扰程序（例如混淆数据汇集的真实位置）进行（伪）匿名化。然而，这对新出现的用地方一级的辅助信息来补充调查数据的方法提出了挑战。在这里，我们提出了一种替代的微数据传播策略，利用原始微数据的实用性，通过使用生成模型合成生成的数据提供额外的隐私保护。我们使用2011年哥斯达黎加人口普查数据和卫星辅助信息进行实验，以支持我们的建议。我们的策略降低了受访者的重新识别风险的任何数量的披露属性的60- 80%，即使在重新识别尝试。
2022-05-24 cs.CR cs.CY stat.AP
Differential Privacy By Sampling
在本文中，我们提出了采样隐私机制，私人发布的个人数据。采样隐私是一种基于采样的隐私机制，满足差分隐私。
2017-08-06 cs.CR
Releasing Large-Scale Human Mobility Histograms with Differential Privacy
本文针对谷歌环境洞察探索者发布人类出行聚合统计数据的隐私需求，提出一种结合联邦分析与差分隐私的新机制，在约ε≈2的DP保证下满足严格误差约束，显著优于基线方法，并适用于group-by-sum类工作负载。
2024-07-03 cs.CR cs.DB
Conservative Plane Releasing for Spatial Privacy Protection in Mixed Reality
University of New South Wales（新南威尔士大学）；University of Sydney（悉尼大学）
增强现实（AR）或混合现实（MR）平台需要空间理解来检测对象或表面，通常包括它们的结构（即空间几何形状）和光度（例如颜色和纹理）属性，以允许应用将虚拟或合成对象看似“锚定”在现实世界对象上;在某些情况下，甚至允许物理对象和虚拟对象之间的交互。这些功能需要AR/MR平台以高分辨率和高频率捕获3D空间信息;然而，这些对用户隐私造成了前所未有的风险。除了被检测到的对象之外，空间信息还以高特异性揭示用户的位置，例如用户在房屋的哪个部分。在这项工作中，我们建议利用空间概括加上保守的释放，以提供空间隐私，同时保持数据效用。我们设计了一个对手，建立在现有的位置和形状识别方法的3D数据作为攻击者，提出的空间隐私的方法可以进行评估。然后，我们模拟用户在空间内的移动，当他们利用从Microsoft HoloLens收集的3D点云移动时，可以显示更多的空间。结果表明，揭示不超过11个广义平面-从连续揭示的空间积累足够大的半径，即$r\leq1.0m$ -可以使对手无法识别用户的空间位置至少一半的时间。此外，如果累积的空间具有较小的半径，即每个连续揭示的空间是$r\leq 0.5m$，则我们可以释放多达29个广义平面，同时享受更好的数据效用和隐私。
2020-04-17 cs.CR cs.CV cs.HC
Plausible Deniability for Privacy-Preserving Data Synthesis
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Cornell Tech（康奈尔科技学院）
发布完整的数据记录是数据隐私中最具挑战性的问题之一。一方面，许多流行的技术，如数据去识别是有问题的，因为它们依赖于对手的背景知识。另一方面，严格的方法，如指数机制的差分隐私通常是计算上不切实际的用于释放高维数据或不能保持高效用的原始数据，由于其广泛的数据扰动。本文提出了一个标准，称为似是而非的可否认性，提供了一个正式的隐私保证，特别是释放敏感数据集：输出记录可以被释放，只有当一定数量的输入记录是不可区分的，隐私参数。这个概念不依赖于对手的背景知识。此外，它可以有效地通过隐私测试进行检查。我们提出的机制来生成合成数据集与输入数据和相同的格式具有相似的统计特性。我们从理论和实验两方面研究了这种技术。一个关键的理论结果表明，合理的可否认性机制产生不同的私人合成数据与适当的随机化。我们证明了这种生成技术在大型数据集上的效率;它被证明可以保留原始数据在各种统计分析和机器学习措施方面的效用。
2017-08-26 cs.CR cs.DB cs.LG
OptStream: Releasing Time Series Privately
Georgia Institute of Technology（佐治亚理工学院）
机器学习和优化的许多应用都是在数据流上操作的。虽然这些数据集是推动决策算法的基础，但它们通常包含有关个人的敏感信息，其使用会带来重大的隐私风险。受能源系统中的应用启发，本文提出了OPTSTREAM，一种新的算法，用于释放不同的隐私数据流隐私的w-事件模型。OPTSTREAM是一个由采样、扰动、重建和后处理模块组成的4步过程。首先，采样模块在每个感兴趣的时段中选择一小组点进行访问。然后，扰动模块向采样数据点添加噪声以保证隐私。接下来，重构模块从扰动的采样点重新组装未采样的数据点。最后，后处理模块对先前模块的私有输出以及数据流上的附加查询的私有答案使用凸优化，以通过重新分布添加的噪声来提高准确性。OPTSTREAM的测试案例进行评估，涉及从欧洲最大的传输运营商的真实数据流的释放。实验结果表明，OPTSTREAM不仅可以提高国家的最先进的方法的准确性至少一个数量级，但也支持准确的负荷预测的私人数据。
2018-10-30 cs.AI cs.CR cs.DB
A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）
该研究提出统一的Learn-to-Distort-Data框架，通过将隐私保护机制的失真建模为可学习变量并与模型参数联合优化，实现联邦学习的隐私-效用均衡，可结合多领域技术设计相关算法。
2024-07-09 cs.AI cs.CR cs.LG
Towards Practical Differential Privacy in Data Analysis: Understanding the Effect of Epsilon on Utility in Private ERM
Institute of Information Engineering（信息工程研究所）；Chinese Academy of Sciences（中国科学院）；Gaoling School of Artificial Intelligence（高瓴人工智能学院）；Renmin University of China（中国人民大学）
在本文中，我们关注的是私人经验风险最小化（ERM），这是最常用的数据分析方法之一。我们采取的第一步，解决上述问题的理论探讨的效用的学习模型上的效果的差分隐私的参数，决定隐私保证的强度）。我们跟踪效用的变化与修改的利润，并揭示了一个既定的关系利润和效用。然后，我们形式化这种关系，并提出了一个实用的方法来估计下的任意值的效用。理论分析和实验结果表明，该方法具有较高的估计精度和广泛的适用性。随着提供具有强大实用性保证的算法，在可能的情况下也提供隐私变得越来越被接受，我们的方法将具有很高的实用价值，并且可能被希望保护隐私但不愿意在实用性上妥协的公司和组织所采用。
2022-06-06 cs.AI cs.CR cs.LG
Towards Achieving Near-optimal Utility for Privacy-Preserving Federated Learning via Data Generation and Parameter Distortion
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本研究针对隐私保护联邦学习的效用优化问题，推导效用损失上界与隐私-效用权衡上界，为通过数据生成和参数失真实现近最优效用提供理论依据与参数设计指导。
2024-03-07 cs.AI cs.CR cs.LG
On the utility and protection of optimization with differential privacy and classic regularization techniques
Politecnico di Milano（米兰理工大学）
如今，深度学习模型的所有者和开发人员必须考虑其训练数据的严格隐私保护规则，通常是众包和保留敏感信息。如今，最广泛采用的实施深度学习模型隐私保证的方法依赖于实施差分隐私的优化技术。根据文献，这种方法已被证明是一个成功的防御几个模型的隐私攻击，但其缺点是一个模型的性能大幅下降。在这项工作中，我们比较了差分私有随机梯度下降（DP-SGD）算法对标准的优化实践与正则化技术的有效性。我们分析了所得到的模型的效用，训练性能，以及对学习模型的隶属推理和模型反演攻击的有效性。最后，我们讨论了差分隐私的缺陷和局限性，并实证证明了往往优越的隐私保护性能的dropout和l2-正则化。
2022-09-07 cs.AI cs.CR cs.LG
Theoretically Principled Federated Learning for Balancing Privacy and Utility
Huazhong University of Science and Technology（华中科技大学）；Tsinghua University（清华大学）；Peng Cheng Laboratory（鹏城实验室）；WeBank（微众银行）；The Hong Kong Polytechnic University（香港理工大学）
该研究提出一种基于扰动模型参数的通用联邦学习隐私保护框架，可实现细粒度个性化隐私-效用权衡，理论证明其性能差距次线性收敛，实验验证其在相同隐私预算下效用优于基线。
2026-08-27 cs.AI cs.CR cs.LG
Privacy Amplification by Iteration
Google Brain（谷歌大脑）；UC Santa Cruz（加州大学圣克鲁兹分校）
许多常用的学习算法通过在每次迭代中使用一个或几个数据点迭代地更新中间解来工作。对这类算法的差分隐私分析通常涉及确保每一步的隐私，然后推理算法的累积隐私成本。这是由允许释放所有中间结果的差分隐私的合成定理实现的。在这项工作中，我们证明了收缩迭代，不释放中间结果强烈放大了隐私保证。我们描述了这种新的分析技术通过噪声随机梯度下降来解决凸优化问题的几个应用。例如，我们证明了来自相同分布的相对少量的非私有数据点可以用来缩小私有和非私有凸优化之间的差距。此外，我们证明，我们可以实现类似的保证，可获得的隐私放大采样技术在几个自然环境中，该技术不能应用。
2018-12-10 cs.CR cs.DS cs.LG
Privacy Adversarial Network: Representation Learning for Mobile Data Privacy
Xidian University（西安电子科技大学）；Rice University（莱斯大学）
机器学习的显着成功为移动用户培育了越来越多的基于云的智能服务。这种服务要求用户向提供商发送数据，例如图像、语音和视频，这对用户隐私提出了严重挑战。为了解决这个问题，现有技术要么混淆数据，例如添加噪声并删除身份信息，要么发送从数据中提取的表示，例如匿名特征。他们努力在服务效用和数据隐私之间取得平衡，因为混淆的数据降低了效用，并且提取的表示仍然可能揭示敏感信息。这项工作在方法上与之前的工作不同：我们利用对抗学习来更好地平衡隐私和实用性。我们设计了一个\textit{representation encoder}，它生成的特征表示，以优化对敏感信息的隐私泄露风险（隐私的措施）的\textit{privacy adversaries}，并同时优化与任务推理的准确性（效用的措施）的\textit{utility discriminator}。其结果是隐私对抗网络（\systemname），这是一种具有新训练算法的新型深度模型，可以自动从原始数据中学习表示。直觉上，PAN对抗性地迫使提取的表示仅传达目标任务所需的信息。令人惊讶的是，这构成了一个隐式正则化，实际上提高了任务的准确性。因此，PAN实现了更好的实用性和更好的隐私在同一时间！我们报告了广泛的实验6个流行的数据集，并证明了优越性的\systemname相比，在以前的工作中报道的替代方法。
2020-06-08 cs.AI cs.CR cs.LG
REAN: Reconstruction-aware ECG Anonymization Based on Privacy--Utility Orthogonality
Chung-Ang University（Chung-Ang大学）
研究针对共享心电图隐私-效用权衡问题，提出REAN方法，利用一维U-Net及冻结的分类器损失训练重建信号，在四个数据库上实现强隐私-效用平衡，降低重新识别率，保持诊断性能及架构下的保护。
2026-07-08 cs.CR cs.LG
Privacy Amplification Through Synthetic Data: Insights from Linear Regression
Craft AI；Université de Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）；Université de Montpellier（蒙彼利埃大学）；INSERM（法国国家健康与医学研究院）
本文通过线性回归框架研究合成数据的隐私放大效应，证明对手控制种子时单点合成数据可泄露与模型同等信息，而随机输入生成有限合成数据点则能放大隐私，为推导更一般界限奠定基础。
2025-06-05 cs.CR cs.LG stat.ML
Privacy Amplification Persists under Unlimited Synthetic Data Release
Université de Lille, Inria, CNRS, Centrale Lille, UMR 9189 CRIStAL, F-59000 Lille, France（里尔大学、Inria、CNRS、Centrale Lille、UMR 9189 CRIStAL、法国里尔）；PreMeDICaL team, Inria, Idesp, Inserm, Université de Montpellier（PreMeDICaL团队、Inria、Idesp、Inserm、蒙彼利埃大学）
本文在参数有界假设下证明了即使发布无限数量的合成数据，隐私放大仍持续，改进了之前关于线性生成器的隐私保证界限。
2026-02-03 cs.CR cs.DS cs.LG
PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference
School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院，合肥工业大学）；International College Beijing, China Agricultural University（北京国际学院，中国农业大学）
研究大语言模型推理中的隐私与效用平衡问题，提出PromptGraph方法，将提示表示为属性图，估计隐私泄露与上下文依赖，通过净化目标平衡两者，实验证明该方法比基线更优。
2026-07-14 cs.AI cs.CR
Gradual Release of Sensitive Data under Differential Privacy
我们介绍了在差分隐私下，当隐私级别随时间变化时，发布敏感数据的问题。现有的工作假设隐私级别是由系统设计者确定为一个固定的值之前，敏感数据被释放。然而，对于某些应用程序，用户可能希望在重新评估隐私问题或需要更好的准确性之后，放宽相同数据的后续发布的隐私级别。具体来说，给定包含敏感数据的数据库，我们假设已经发布了保留$ε_{1}$ -差分隐私的响应$y_1$。然后，隐私级别被放宽到$ε_2$，具有$ε_2 > ε_1$，并且我们希望发布更准确的响应$y_2$，而联合响应$(y_1, y_2)$保留$ε_2$ -差分隐私。与释放$ε_{2}$ -差异私有的单个响应的场景相比，在逐渐释放两个响应$y_1$和$y_2$的场景中损失了多少准确性？我们的研究结果表明，存在一个复合机制，实现\textit{no loss}的准确性。我们考虑私有数据位于$\mathbb{R}^{n}$内且具有由$\ell_{1}$规范诱导的邻接关系的情况，并且我们重点关注近似身份查询的机制。我们表明，在逐步释放的情况下，通过一种机制，其输出可以描述由\textit{lazy Markov stochastic process}，可以实现相同的精度。该随机过程具有封闭形式的表达式，可以有效地采样。我们的结果适用于身份查询之外。为此，我们证明我们的结果可以应用于多种情况，包括Google的RAPPOR项目、敏感数据的交…
2015-04-02 cs.CR cs.DS
Privacy-Utility Trades in Crowdsourced Signal Map Obfuscation
University of Southern California（南加州大学）；The Aerospace Corporation（航空航天公司）；Google（谷歌）
蜂窝提供商和数据聚合公司众包来自用户设备的蜂窝信号强度测量以生成信号地图，其可用于提高网络性能。认识到这种数据汇集可能与人们日益增长的隐私意识不一致，我们考虑在数据离开移动终端之前对此类数据进行模糊处理。其目标是提高隐私性，使得难以从混淆的数据中恢复敏感特征（例如用户ID和用户行踪），同时仍然允许网络提供商使用数据来改善网络服务（即创建准确的信号映射）。为了研究这种隐私效用的权衡，我们确定了隐私和效用指标和适合信号强度测量的威胁模型。然后，我们使用几种卓越的技术混淆测量，跨越差分隐私，生成对抗隐私和信息理论隐私技术，以基准各种有前途的混淆方法，并为现实世界的工程师提供指导，他们的任务是构建保护隐私而不损害效用的信号地图。我们的评估结果，基于多个，不同的，真实世界的信号映射数据集，证明了同时实现足够的隐私和实用性的可行性，混淆策略在其设计中使用数据集的结构和预期用途，并以平均情况为目标，而不是最坏情况，保证。
2022-01-13 cs.CR cs.LG
Privacy-Utility Trade-offs in Neural Networks for Medical Population Graphs: Insights from Differential Privacy and Graph Structure
Technical University of Munich（慕尼黑工业大学）；Massachusetts Institute of Technology（麻省理工学院）
本文实证研究医学人群图上的差分隐私图神经网络，结合多隐私级别实验与成员推理攻击审计，揭示隐私-效用权衡及图同配性对模型性能差距的影响。
2023-07-13 cs.CR cs.LG
Scalable Differentially Private Data Compression via Diffusion and Stochastic Codes
Imperial College London（帝国理工学院）
针对高维数据压缩难题，提出结合随机码与扩散模型的DP-DiPP压缩管道，通过扩展泊松私有表示并结合DiffC，实现差分隐私图像压缩，实验表明其性能远超基线。
2026-07-07 cs.CR cs.LG
SoK: Practical Aspects of Releasing Differentially Private Graphs
The University of New South Wales（新南威尔士大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61）
本文针对差分隐私图发布中的隐私与效用权衡问题，提出系统化方法，综述现有技术，识别关键漏洞，并提供面向实践的框架以指导方法选择与评估。
2026-06-19 cs.CR cs.SI
Differential Privacy of Hierarchical Census Data: An Optimization Approach
Syracuse University（雪城大学）；Georgia Institute of Technology（佐治亚理工学院）
这篇论文的动机是一个人口普查局的应用程序，有兴趣在不透露任何个人的敏感信息的情况下发布关于大量人口的汇总社会经济数据。发布的信息可以是独居的人数，他们拥有的汽车数量或他们的工资等级。最近的事件已经确定了这些组织面临的一些隐私挑战。为了解决这些问题，本文提出了一种新的差分隐私机制，释放分层计数的个人。以多个粒度报告计数（例如，国家、州和县各级），并且必须在各级保持一致。该机制的核心是一个优化模型，重新分配噪声引入实现差分隐私，以满足层次之间的一致性约束。本文的关键技术贡献表明，这个优化问题可以解决在多项式时间利用其成本函数的结构。非常大的，真实的数据集上的实验结果表明，所提出的机制提供了高达两个数量级的计算效率和准确性方面的改进，相对于其他国家的最先进的技术。
2021-05-09 cs.AI cs.CR cs.DB
Privacy Regularization: Joint Privacy-Utility Optimization in Language Models
University of California San Diego（加州大学圣迭戈分校）；Microsoft Research（微软研究院）；Microsoft Corporation（微软公司）
已知神经语言模型具有用于记忆训练样本的高容量。当针对电子邮件通信等用户内容训练模型时，这可能会产生严重的隐私影响。差分隐私（DP），一个流行的选择，训练模型的隐私保证，带来了显着的成本方面的效用退化和不同的影响，对用户的子群体。在这项工作中，我们介绍了两种隐私保护正则化方法，用于训练语言模型，通过（1）使用一个参数和（2）包含一个三重损失项来实现效用和隐私的联合优化。我们比较我们的方法与DP通过广泛的评估。我们展示了正则化器的优势，它具有良好的效用-隐私权衡，更快的训练能力，能够利用现有的优化方法，并确保对代表性不足的子群进行统一处理。
2021-04-16 cs.CL cs.CR cs.LG
Privacy Preserving Web Query Log Publishing: A Survey on Anonymization Techniques
发布包含有研究或营销价值信息的Web查询日志可能会侵犯搜索引擎用户的隐私。因此，渲染查询日志，以限制查询链接到个人，同时保留数据的有用性进行分析，是一个重要的研究问题。本文对这一领域的最新研究进行了综述和讨论。
2012-11-10 cs.CR cs.DB
Privacy-Compatibility For General Utility Metrics
在本说明中，我们提出了一个完整的特性的效用度量，允许非平凡的差分隐私保证。
2010-10-13 cs.CR
BUDS: Balancing Utility and Differential Privacy by Shuffling
University of Kalyani（卡利亚尼大学）；National Institute of Science, Education and Research（国家科学教育与研究所）；Homi Bhaba National Institute（霍米·巴巴国家研究所）
通过洗牌或\textit{BUDS}平衡效用和差分隐私是一种朝向众包统计数据库的方法，其使用差分隐私理论具有强隐私和效用平衡。在此，提出了一种新的算法，使用独热编码和迭代洗牌与损失估计和风险最小化技术，以平衡两者的效用和隐私。在这项工作中，从不同的来源和客户端收集一个热编码数据后，一个新的属性洗牌技术使用迭代洗牌（基于分析师提出的查询）和损失估计更新功能和风险最小化的步骤产生一个实用程序和隐私平衡的差分私人报告。在效用和隐私平衡的实证检验中，BUDS产生了$ε= 0.02$，这是一个非常有前途的结果。我们的算法保持了$ε= ln [t/((n_1 - 1)^S)]$的隐私界和$c' \bigg|e^{ln[t/((n_1 - 1)^S)]} - 1\bigg|$的损失界。
2020-06-07 cs.CR cs.LG stat.ML
Differentially Private Release and Learning of Threshold Functions
Harvard University（哈佛大学）；Georgetown University（乔治城大学）；Tel Aviv University（特拉维夫大学）；Ben-Gurion University（本-古里安大学）；Google, Inc.（谷歌公司）；Simons Investigator（西蒙斯研究者机构）
本文研究了阈值函数差分隐私发布与学习的样本复杂度，通过双向归约内部点问题，证明了随域大小增长的新下界，并给出了改进的指数级上界算法。
2024-12-19 cs.CR cs.LG
Privately Releasing Conjunctions and the Statistical Query Barrier
Carnegie Mellon University（卡内基梅隆大学）；Princeton University（普林斯顿大学）；Microsoft Research New England（微软研究院新英格兰分部）；Harvard University（哈佛大学）
假设我们想知道一组统计查询C的所有答案，对一个数据进行设置，误差很小，但我们只能使用统计查询访问数据本身。一个简单的解决方案是在C中详尽地询问所有查询。我们能做得更好吗？+ 我们表明，这个任务所需的统计查询的数量是-多项式的因素-等于不可知的学习复杂性C在卡恩斯的统计查询（SQ）模型。当运行时间不是问题时，这给出了问题的完整答案。+ 然后，我们表明，这个问题可以有效地解决（允许任意错误的一小部分查询），只要答案C可以描述的子模块功能。这包括许多自然概念类，如图切割和布尔析取和合取。虽然从学习理论的角度来看很有趣，但我们的主要应用是在隐私保护数据分析中：在这里，我们的第二个结果导致了第一个算法，该算法有效地释放了所有布尔合取的差分私有答案，平均误差为1%。这在隐私保护数据分析中的一个关键开放问题上取得了重大进展。另一方面，我们的第一个结果给出了任何差分私有算法的无条件下限，该算法允许仅使用统计查询的（潜在的非隐私保护）实现。不仅我们的算法，而且大多数已知的私人算法可以只使用统计查询来实现，因此受到这些下界的约束。因此，我们的研究结果隔离了不可知学习的复杂性，在SQ模型作为一个新的障碍，在设计的差异私人算法。
2011-10-27 cs.CR cs.DS cs.LG
Optimizing Privacy and Utility Tradeoffs for Group Interests Through Harmonization
Kansas State University（堪萨斯州立大学）；Louisiana State University（路易斯安那州立大学）
针对两类属性不同的用户群体的隐私-效用权衡问题，提出基于可信第三方的协作数据共享机制，结合对抗隐私技术实现数据脱敏，无需辅助数据与人工标注，兼容多种现有技术，实验验证了其平衡隐私与效用的有效性。
2024-04-07 cs.CR cs.LG
Spatial Privacy Pricing: The Interplay between Privacy, Utility and Price in Geo-Marketplaces
University of Southern California（南加州大学）；Microsoft Research AI（微软研究院人工智能）
地理市场允许用户为他们的位置数据付费。关心隐私的用户可能希望对准确定位他们位置的数据收取更多费用，但可能对更模糊的数据收取更少费用。买家更愿意将数据成本降至最低，但可能不得不花费更多来获得必要的准确性。我们将隐私、效用和价格之间的这种相互作用称为\emph{spatial privacy pricing}。我们形式化的问题，数学与买方决定是否要打开一个餐厅，通过购买位置数据，以确定潜在的客户数量是否足以打开一个示例问题。这个问题被表达为一个顺序决策问题，其中买方首先做出一系列关于购买哪些数据的决定，并最终决定是否开设餐厅。我们提出了两种算法来解决这个问题，包括实验表明，它们的性能优于基线。
2020-09-04 cs.AI cs.CR
Privacy and Utility Tradeoff in Approximate Differential Privacy
Google AI（谷歌人工智能（Google AI））；New York, NY 10011（纽约州纽约市（邮编10011））
本文研究了$(ε, δ)$ -差分隐私中单个实值查询函数的最小噪声幅值和噪声功率。我们推导出新的下界使用线性规划的对偶，并提出了一个新的类$(ε,δ)$ -差分私有机制，\emph{truncated Laplacian}机制，新的上界。我们发现，乘法差距的下限和上限在各种高隐私制度为零，证明了紧的下限和上限，从而建立截断拉普拉斯机制的最优性。特别是，我们的研究结果关闭了以前的常数乘法的离散设置的差距。数值实验表明，截断拉普拉斯机制的最佳高斯机制在所有的隐私机制的改善。
2019-02-05 cs.CR cs.LG
Synthetic Data: Revisiting the Privacy-Utility Trade-off
Dept. of Computer Science, University of Manitoba, Canada（曼尼托巴大学计算机科学系）；Dept. of Computer Science and Software Engineering, Concordia University, Canada（Concordia大学计算机科学与软件工程系）
本文复核一项质疑合成数据隐私优势的研究，指出其隐私博弈环境受限且违背数据分布前提，并在更一般设置下证明合成数据相较 k-匿名化具有更优隐私—效用权衡。
2025-03-04 cs.CR cs.LG
A Conceptual Framework for Assessing Anonymization-Utility Trade-Offs Based on Principal Component Analysis
提出了一种采用主成分分析的数据库匿名化技术。该技术旨在释放尽可能少的信息量，同时保留响应查询而释放的数据的效用。一般方案进行了描述，并提出了替代指标来评估效用，分别基于矩阵范数;相关系数;发散措施，和数据库图像的质量指数。该方法允许适当地测量输出数据的效用，并将该测量并入匿名化方法中。
2019-03-27 cs.CR
Exploring Machine Learning Privacy/Utility trade-off from a hyperparameters Lens
NYU Abu Dhabi（纽约大学阿布扎比分校）；Queen’s University Belfast（贝尔法斯特女王大学）
机器学习（ML）架构已经应用于涉及敏感数据的几个应用程序，其中需要保证用户的数据隐私。差分隐私随机梯度下降（DPSGD）是训练隐私保护模型的最新方法。然而，DPSGD带来相当大的准确性损失，导致次优的隐私/效用权衡。为了研究更好的隐私-效用权衡的新基础，这项工作提出了以下问题：（i）模型的超参数是否对ML模型的隐私保护属性有任何内在影响，以及（ii）模型的超参数是否对差异隐私模型的隐私/效用权衡有任何影响。我们提出了一个全面的设计空间探索不同的超参数，如激活函数的选择，学习率和使用批量归一化。有趣的是，我们发现，效用可以通过使用有界的Bounded Bounded Bounded U作为具有相同隐私保护特性的激活函数来提高。通过对激活函数的直接替换，我们在MNIST（96.02\%）、FashionMnist（84.76\%）和CIFAR-10（44.42\%）上实现了新的最先进的准确性，而无需对DPSGD的学习过程基础进行任何修改。
2023-03-03 cs.CR cs.CV cs.LG
Lower bounds in differential privacy
这是一篇关于私有数据分析的论文，其中一个持有机密数据库的可信管理员响应真实的向量值查询。确保数据库元素隐私的常用方法是向答案添加适当生成的随机噪声，仅释放这些{ \em噪声}响应。在本文中，我们研究了各种下限的噪声需要保持不同的隐私保证。
2011-12-21 cs.CC cs.CR
Bridging Privacy and Utility: Synthesizing anonymized EEG with constraining utility functions
Fraunhofer Institute for Digital Media Technology IDMT（弗劳恩霍夫数字媒体技术研究所IDMT）；University Hospital Schleswig-Holstein（石勒苏益格-荷尔斯泰因大学医院）
针对脑电图数据隐私泄露风险，提出基于Transformer的自编码器合成匿名化脑电图，在降低受试者重新识别能力的同时保留机器学习效用，并应用于自动睡眠分期验证。
2025-09-24 cs.CR cs.LG
Privacy- and Utility-Preserving Textual Analysis via Calibrated Multivariate Perturbations
Amazon（亚马逊）
准确地从用户数据中学习，同时提供可量化的隐私保证，这为在维护用户信任的同时构建更好的ML模型提供了机会。本文提出了一种形式化的方法来进行隐私保护文本扰动使用的概念dx隐私设计，以实现地理位置数据的不可否认性。我们的方法适用于仔细校准的噪音，以向量表示的话，在一个高维空间定义的词嵌入模型。我们提出了一个隐私证明，满足DX隐私的隐私参数提供保证相对于由词嵌入空间定义的距离度量。我们演示了如何通过分析GloVe和fastText嵌入的大规模分析支持的似是而非的可否认性统计数据来选择。我们对2个基线模型进行隐私审计实验，并在3个数据集上进行效用实验，以证明不同任务类型上不同值的隐私和效用之间的权衡。我们的研究结果证明了实用性（训练二进制分类器的效用损失< 2%），同时提供了比基线模型更好的隐私保证。
2019-10-20 cs.CL cs.CR cs.LG
Demystifying the Privacy-Utility Trade-off in LLM Interactions
Soochow University（苏州大学）；Beihang University（北京航空航天大学）；Suzhou City University（苏州城市学院）；Shanghai Key Lab of Intelligent Information Processing（上海市智能信息处理重点实验室）；Shanghai AI Lab（上海人工智能实验室）
本研究通过系统分析揭示大语言模型交互中隐私-效用权衡的三种机制，并提出意图驱动的本地保护框架，利用轻量级模型Veilmind-4B实现低泄漏与高效用，推进帕累托前沿。
2026-09-14 cs.AI cs.CR
DP-UTIL: Comprehensive Utility Analysis of Differential Privacy in Machine Learning
University of Michigan, Dearborn（密歇根大学迪尔伯恩分校）
差分隐私（DP）已经成为一种严格的形式主义，用于推理可量化的隐私泄露。在机器学习（ML）中，DP已被用于限制训练样本的推断/公开。之前的工作在整个ML管道中利用DP，尽管是孤立的，但通常集中在梯度扰动等机制上。在本文中，我们提出了DP-UTIL，一个跨ML管道的DP整体效用分析框架，重点关注输入扰动，目标扰动，梯度扰动，输出扰动和预测扰动。给定一个关于隐私敏感数据的ML任务，DP-UTIL使ML隐私从业者能够对DP在这五个扰动点的影响进行全面的比较分析，从模型效用损失、隐私泄露和真正揭示的训练样本数量方面进行衡量。我们使用两种代表性的学习算法（逻辑回归和深度神经网络）对成员推断攻击进行评估，在视觉，医疗和金融数据集上对DP-UTIL进行分类任务作为案例研究攻击。我们结果的亮点之一是预测扰动在所有数据集的所有模型上始终实现最低的效用损失。在逻辑回归模型中，与其他扰动技术相比，客观扰动导致最低的隐私泄露。对于深度神经网络，梯度扰动导致最低的隐私泄漏。此外，我们的研究结果显示，真实的记录表明，隐私泄漏的增加，差异私人模型揭示了更多的成员样本。总的来说，我们的研究结果表明，为了做出关于使用哪种扰动机制的明智决定，ML隐私从业者需要检查优化技术（凸与非凸），扰动机制，类的数量和隐私预算之间的动态关系。
2021-12-24 cs.CR cs.LG
On the Privacy-Utility Tradeoff in Peer-Review Data Analysis
Carnegie Mellon University（卡内基梅隆大学）
研究如何改进同行评审的一个主要障碍是无法获得同行评审数据，因为任何此类数据的发布都必须解决同行评审数据的敏感性，以保护评审者的身份不受作者的影响。我们认为有必要开发技术，以保护隐私的方式发布同行评审数据。识别这个问题，在本文中，我们提出了一个框架，以保护隐私的发布某些会议同行评审数据-分布的评级，误校准，和主观性-强调发布的数据的准确性（或实用程序）。该框架的关键在于认识到与评论有关的部分数据已经公开，我们使用这些信息对任何隐私机制发布的数据进行后处理，以提高数据的准确性（实用性），同时保留隐私保证。我们的框架可以与任何通过释放扰动数据来操作的隐私保护机制一起工作。我们提出了几个积极和消极的理论结果，包括多项式时间算法的隐私效用权衡的改善。
2020-06-29 cs.CR cs.DB cs.LG
Differentially Private Normalizing Flows for Privacy-Preserving Density Estimation
Stanford University（斯坦福大学）；Columbia University（哥伦比亚大学）；Georgia Institute of Technology（佐治亚理工学院）
标准化流模型已经成为密度估计问题的流行解决方案，能够生成高质量的合成数据以及精确的概率密度估计。然而，在个人直接与训练数据相关联的情况下，发布这样的模型会引起隐私问题。在这项工作中，我们提出了使用规范化的流模型，提供明确的差分隐私保证作为一种新的方法来保护隐私的密度估计的问题。我们使用基准数据集经验性地评估了我们的方法的有效性，并且我们证明了我们的方法大大优于以前的最先进的方法。我们还展示了我们的算法可以应用到差分私有异常检测的任务。
2021-03-25 cs.AI cs.CR cs.DS
SMOTE-DP: Improving Privacy-Utility Tradeoff with Synthetic Data
University of Texas at Dallas Richardson, TX 75082（德克萨斯大学达拉斯分校）；Vanderbilt University Medical Center Nashville, TN 37232（范德比尔特大学医学中心）；Virginia Tech Blacksburg, VA 24061（弗吉尼亚理工大学）
本文提出 SMOTE-DP 方法，将 SMOTE 与差分隐私数据生成器结合，在保证强隐私保护的同时维持下游学习任务的效用。
2025-06-02 cs.CR cs.LG stat.ML
Verifiable Differential Privacy
针对差分隐私中恶意发布者利用随机性作恶的漏洞，提出可验证差分隐私，通过混合公私随机性生成零知识证明，实现可验证且实用的DP计数查询。
2023-01-20 cs.CR
A novel analysis of utility in privacy pipelines, using Kronecker products and quantitative information flow
本研究结合Kronecker积与定量信息流，提出隐私流水线效用的新颖形式化分析方法，解释了隐私降低反而效用下降的反常现象，给出严谨证明并在常见隐私保护设计上验证了结果。
2023-11-07 cs.CR
An Investigation of Data Privacy and Utility Preservation using KNN Classification as a Gauge
法律规定，组织在处理包含个人身份信息（PII）的数据集时必须保护个人隐私。然而，在数据私有化的过程中，私有化数据的效用或有用性降低。然而，实现数据隐私和实用需求之间的最佳平衡已被证明是一个NP难题。在这项研究中，我们研究数据隐私和效用保护使用KNN机器学习分类作为衡量标准。
2013-09-16 cs.CR cs.DB
On the privacy-utility trade-off in differentially private hierarchical text classification
SAP（思爱普）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
分层文本分类是将文本文档分类为类和子类的层次结构。虽然人工神经网络已被证明可用于执行此任务，但不幸的是，由于训练数据记忆，它们可能会将训练数据信息泄漏给对手。在模型训练期间使用差分隐私可以减轻对训练模型的泄漏攻击，使模型能够以降低模型准确性为代价安全地共享。这项工作调查的隐私效用权衡分层文本分类与差分隐私保证，并确定神经网络架构，提供优越的权衡。为此，我们使用白盒成员推断攻击经验评估三个广泛使用的神经网络架构的信息泄漏。我们发现，大的差分隐私参数已经足以完全减轻成员推断攻击，从而导致模型效用的适度下降。更具体地说，对于具有长文本的大型数据集，我们观察到基于transformer的模型可以实现整体有利的隐私-效用权衡，而对于具有较短文本的较小数据集，卷积神经网络更可取。
2021-12-09 cs.CL cs.CR cs.LG
Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
联邦学习（FL）由于其分散的结构允许私下训练大量的数据。随机梯度下降（SGD）由于其良好的经验性能而通常用于FL，但是仍然可以从FL迭代期间共享的权重更新推断敏感的用户信息。我们考虑高斯机制，以保持局部差分隐私（LDP）的用户数据在FL模型与SGD。用户隐私，全球效用和传输速率之间的权衡证明通过定义适当的指标FL与LDP。与已有的结果相比，LDP中使用的查询敏感度被定义为一个变量，并应用更严格的隐私计费方法。建议的效用界允许所有用户的异构参数。我们的界限特征有多少效用减少和传输速率增加，如果一个更强的隐私制度的目标。此外，给定一个目标隐私级别，我们的研究结果保证一个显着更大的效用和更小的传输速率相比，现有的隐私会计方法。
2021-02-09 cs.CR cs.DC cs.IT
How to Get Actual Privacy and Utility from Privacy Models: the k-Anonymity and Differential Privacy Families
Universitat Rovira i Virgili（罗维拉-伊维尔吉利大学）
本文评估主要隐私模型，指出k-匿名和差分隐私在保护与效用间的缺陷，并提出语义重构k-匿名以在不损效用下增强隐私。
2025-10-17 cs.CR cs.DB
Quantum Solutions to the Privacy vs. Utility Tradeoff
Indraprastha Institute of Information Technology, Delhi（德里英德拉普拉斯塔信息技术学院）；Czech Technical University, Prague（布拉格捷克理工大学）
本文提出一种基于量子密码原语的新型架构，可叠加于任意经典或量子生成模型之上，以可证明的隐私与安全保证抵御成员推理攻击，并论证量子门相对差分隐私在对抗多项式时间敌手时的固有优势。
2023-07-06 cs.CR cs.LG quant-ph
Leveraging Hierarchical Representations for Preserving Privacy and Utility in Text
Amazon（亚马逊）
在任意文本中保证一定程度的用户隐私是一个具有挑战性的问题。然而，这一挑战带来了解锁对大量数据存储的访问以训练机器学习模型和支持数据驱动决策的潜力。我们解决这个问题，通过镜头的dx隐私，概括的差分隐私非汉明距离度量。在这项工作中，我们探讨了双曲空间中的单词表示作为保护文本隐私的一种手段。首先给出了满足dx-隐私性的证明，然后定义了双曲空间中的概率分布，并描述了在高维空间中的抽样方法。隐私是通过扰动高维双曲空间中的词的向量表示来提供的，以获得语义概括。我们进行了一系列的实验来证明隐私和实用性之间的权衡。我们的隐私实验说明了对作者归属算法的保护，而我们的实用程序实验强调了我们的扰动对几个下游机器学习模型的影响最小。与欧几里得基线相比，我们观察到与可比的最差情况统计相比，预期隐私的保证高出20倍。
2019-10-20 cs.CL cs.CR cs.LG
The Adverse Effects of Omitting Records in Differential Privacy: How Sampling and Suppression Degrade the Privacy--Utility Tradeoff (Long Version)
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文研究了采样和抑制在差分隐私中对隐私-效用权衡的负面影响，发现剔除记录会降低效用，均匀采样虽仍存在负面影响，但表现最佳。
2026-01-22 cs.CR
A hybrid privacy protection scheme for medical data
医疗保健数据包含敏感信息，说服医疗保健数据所有者在没有任何隐私保证的情况下出于研究目的共享其信息是具有挑战性的。所提出的混合医疗数据隐私保护方案探讨了提供自适应隐私保护和数据效用水平的可能性。评估结果表明，该方案可以提供自适应的隐私和数据效用水平，数据持有者可以选择自己喜欢的风险水平和数据效用通过该方案。心脏病和糖尿病数据的评估结果表明，该方案可以提供广泛的自适应隐私保护和数据效用水平，以满足不同的隐私保护和数据效用的要求。
2022-05-09 cs.CR
Synergizing Privacy and Utility in Data Analytics Through Advanced Information Theorization
本研究提出一个隐私保护数据分析框架，引入噪声注入、VAE和EM三种算法，在Modified MNIST和CelebrityA数据集上显著降低敏感信息互信息，兼顾隐私与效用。
2024-04-24 cs.CR
