Mitigating Privacy-Utility Trade-off in Decentralized Federated Learning via $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）；Xiamen University（厦门大学）
本文提出两种基于$f$-差分隐私的核算方法（PN-$f$-DP和Sec-$f$-LDP），用于去中心化联邦学习，通过捕获隐私放大获得更紧的隐私界并提升效用。
2025-10-22 cs.CR cs.LG math.ST
Performative Privacy: When Differential Privacy Maximizes Utility
Dauphine PSL（巴黎第九大学PSL校区）；CNRS（法国国家科学研究中心）
该研究结合表演式学习与隐私保护，提出表演式隐私概念，通过理论与实验证明，当数据泄露与用户参与的反馈回路足够强时，有限隐私预算的差分隐私机制在长期效用上优于非隐私估计。
2026-09-30 cs.AI cs.LG stat.ML
Enhancing Trade-offs in Privacy, Utility, and Computational Efficiency through MUltistage Sampling Technique (MUST)
University of Notre Dame（圣母大学）
本研究提出差分隐私下的多阶段采样技术MUST，通过理论与实验验证其在ε指标上隐私放大效果优于单阶段采样，在相近隐私损失下效用不劣于单阶段方法且计算效率更高，可集成至相关优化与采样流程。
2024-11-04 cs.LG stat.ML
FLIP: A Utility Preserving Privacy Mechanism for Time Series
保证发布数据的隐私性是数据生产机构的一个重要目标。近年来，对开发合适的隐私机制进行了广泛的研究。特别值得注意的是在保证差分隐私的情况下添加噪声的想法。然而，当应用非常严格的隐私机制时，人们担心会损害数据效用。这种妥协在相关数据（如时间序列数据）中可能非常明显。将白噪声添加到随机过程中可能会显著改变相关性结构，这是该过程的一个方面，对于最佳预测至关重要。我们建议使用全通滤波作为定期采样的时间序列数据的隐私机制，表明该过程保留了效用，同时也提供了足够的隐私保证实体级的时间序列。
2022-07-15 cs.CR stat.ME
Achieving Privacy Utility Balance for Multivariate Time Series Data
针对加噪机制损害时间序列效用的问题，本文提出多变量全通（MAP）滤波方法，通过优化算法平衡隐私与效用，并在模拟数据及美国QWI真实数据集上验证了有效性。
2024-11-26 cs.CR stat.ME
Privacy-Compatibility For General Utility Metrics
在本说明中，我们提出了一个完整的特性的效用度量，允许非平凡的差分隐私保证。
2010-10-13 cs.CR
A novel analysis of utility in privacy pipelines, using Kronecker products and quantitative information flow
本研究结合Kronecker积与定量信息流，提出隐私流水线效用的新颖形式化分析方法，解释了隐私降低反而效用下降的反常现象，给出严谨证明并在常见隐私保护设计上验证了结果。
2023-11-07 cs.CR
REAN: Reconstruction-aware ECG Anonymization Based on Privacy--Utility Orthogonality
Chung-Ang University（Chung-Ang大学）
研究针对共享心电图隐私-效用权衡问题，提出REAN方法，利用一维U-Net及冻结的分类器损失训练重建信号，在四个数据库上实现强隐私-效用平衡，降低重新识别率，保持诊断性能及架构下的保护。
2026-07-08 cs.CR cs.LG
An Investigation of Data Privacy and Utility Preservation using KNN Classification as a Gauge
法律规定，组织在处理包含个人身份信息（PII）的数据集时必须保护个人隐私。然而，在数据私有化的过程中，私有化数据的效用或有用性降低。然而，实现数据隐私和实用需求之间的最佳平衡已被证明是一个NP难题。在这项研究中，我们研究数据隐私和效用保护使用KNN机器学习分类作为衡量标准。
2013-09-16 cs.CR cs.DB
The Adverse Effects of Omitting Records in Differential Privacy: How Sampling and Suppression Degrade the Privacy--Utility Tradeoff (Long Version)
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文研究了采样和抑制在差分隐私中对隐私-效用权衡的负面影响，发现剔除记录会降低效用，均匀采样虽仍存在负面影响，但表现最佳。
2026-01-22 cs.CR
A hybrid privacy protection scheme for medical data
医疗保健数据包含敏感信息，说服医疗保健数据所有者在没有任何隐私保证的情况下出于研究目的共享其信息是具有挑战性的。所提出的混合医疗数据隐私保护方案探讨了提供自适应隐私保护和数据效用水平的可能性。评估结果表明，该方案可以提供自适应的隐私和数据效用水平，数据持有者可以选择自己喜欢的风险水平和数据效用通过该方案。心脏病和糖尿病数据的评估结果表明，该方案可以提供广泛的自适应隐私保护和数据效用水平，以满足不同的隐私保护和数据效用的要求。
2022-05-09 cs.CR
Synergizing Privacy and Utility in Data Analytics Through Advanced Information Theorization
本研究提出一个隐私保护数据分析框架，引入噪声注入、VAE和EM三种算法，在Modified MNIST和CelebrityA数据集上显著降低敏感信息互信息，兼顾隐私与效用。
2024-04-24 cs.CR
How to Get Actual Privacy and Utility from Privacy Models: the k-Anonymity and Differential Privacy Families
本文评估主要隐私模型，指出k-匿名和差分隐私在保护与效用间的缺陷，并提出语义重构k-匿名以在不损效用下增强隐私。
2025-10-17 cs.CR cs.DB
Do I Get the Privacy I Need? Benchmarking Utility in Differential Privacy Libraries
越来越多的开源图书馆承诺将差分隐私付诸实践，即使是非专家。本文研究了五个提供差异私有分析的库：Google DP，SmartNoise，diffprivlib，diffpriv和Chorus。我们在合成和真实世界数据集上执行的四个分析查询（计数，总和，平均值和方差）中定性（功能，功能和成熟度）和定量（实用性和可扩展性）比较这些库。我们的结论是，这些库提供了类似的实用程序（除了在一些值得注意的场景）。然而，在提供的功能方面存在显着差异，我们发现没有一个库在所有领域都表现出色。根据我们的研究结果，我们提供指导，以帮助从业者选择一个合适的图书馆，图书馆设计师的指导，以提高他们的软件，并指导研究人员对开放的挑战，在差分隐私工具的非专家。
2021-09-22 cs.CR
Improving Utility for Privacy-Preserving Analysis of Correlated Columns using Pufferfish Privacy
调查是许多社会科学研究领域的重要工具，但隐私问题可能会使调查数据的收集和分析复杂化。对调查数据进行不同的私人分析可以解决这些问题，但代价是准确性-特别是对于高维统计数据。我们提出了一种新的隐私机制，表DDP机制，设计的高维统计不完全相关。表DDP机制满足依赖差分隐私，河豚隐私的一种变体;它的工作原理是建立敏感数据的因果模型，然后将噪声校准到统计数据之间的相关性水平。对调查数据的实证评价表明，表式DDP机制可以显着提高精度比拉普拉斯机制。
2022-09-22 cs.CR
A Framework for Managing Multifaceted Privacy Leakage While Optimizing Utility in Continuous LBS Interactions
本文提出一个全面的LBS隐私管理框架，引入位置、轨迹和POI隐私概念，建立联系并进行下界分析，通过Plannar Isotopic Mechanism实例化，有效量化隐私泄露并优化效用。
2024-09-20 cs.CR
Using Participants' Utility Functions to Compare Versions of Differential Privacy
该研究从潜在研究参与者视角出发，结合决策理论与测量理论，通过个体效用函数和欧几里得度量比较差分隐私变体，发现效用函数性质及ε、δ取值会显著影响隐私保障的偏好选择。
2023-10-10 cs.CR
Quantifying the Privacy-Utility Trade-offs in COVID-19 Contact Tracing Apps
如何遏制COVID-19病毒的传播是大多数国家的主要关注点。随着形势的不断变化，各国正在努力重新开放经济，取消一些限制，并采取新的措施防止疫情蔓延。在这项工作中，我们回顾了一些已经采用的遏制COVID-19病毒的方法，如接触者追踪，集群识别，移动限制和状态验证。具体来说，我们根据技术、架构、权衡（隐私与实用）和采用阶段等特征对可用技术进行分类。我们提出了一种新的方法来评估隐私使用定性和定量的隐私效用评估接触跟踪应用程序的措施。在这种新方法中，我们将效用分为三（3）个不同的级别：没有隐私，100%隐私，以及k，其中k由提供效用或隐私的系统设置。
2020-12-24 cs.CR cs.CY
Revisiting Locally Differentially Private Protocols: Towards Better Trade-offs in Privacy, Utility, and Attack Resistance
Inria（法国国家信息与自动化研究所）；ÉTS Montréal（蒙特利尔高等技术学院）；Université du Québec à Montréal (UQAM)（魁北克大学蒙特利尔分校）
本文提出多目标优化框架，优化隐私和效用在对抗性设置中的平衡，通过分析八种先进协议并提出改进方案，实验表明所提机制在降低攻击成功率的同时保持效用，接近ASR-MSE帕累托前沿。
2026-03-18 cs.CR
Universal Optimality and Robust Utility Bounds for Metric Differential Privacy
我们研究度量差分隐私的背景下的隐私效用权衡。Ghosh等人引入了通用最优性的思想，以确定用于某个查询的最佳机制，该最佳机制同时满足（固定的）$ε$-差分隐私约束，同时与用于相同查询的任何其他$ε$-差异隐私机制相比提供更好的效用。他们表明几何机制对于计数查询类是"普遍最优的"。另一方面，Brenner和Nissim表明，在计数查询的空间之外，对于贝叶斯风险损失函数，不存在这样的普遍最优机制。在本文中，我们使用度量差分隐私和定量信息流作为研究普遍最优性的基本原则。度量差分隐私是两个标准（即，中央）差分隐私和本地差分隐私，并且其越来越多地用于各种应用领域，例如位置隐私和隐私保护机器学习。使用这个框架，我们能够澄清Nissim和布伦纳的负面结果，显示（一），事实上所有的隐私类型包含相对于某些种类的非平凡的损失函数的最佳机制，和（b）扩展和概括他们的负面结果超出贝叶斯风险特别是广泛的一类非平凡的损失函数。我们还提出了较弱的通用基准的效用称为“隐私型能力”。我们表明，这种能力总是存在的，可以使用凸优化算法计算。
2022-05-03 cs.CR
Optimization of Privacy-Utility Trade-offs under Informational Self-determination
物联网的普及导致用户（数据生产者）的智能设备（如智能手机，可穿戴设备和其他嵌入式传感器）生成大量个人数据。这是一个常见的要求，特别是对于大数据分析系统，将这些大规模和分布式数据传输到集中式计算系统进行分析。然而，运行和管理这些系统的第三方（数据消费者）并不总是保证用户的隐私。他们的主要兴趣是提高效用，效用通常是与性能、成本和服务质量相关的度量。有几种技术可以屏蔽用户生成的数据以确保隐私，例如差分隐私。建立一个屏蔽数据的过程，在本文中称为“隐私设置”，一方面减少了数据分析的效用，另一方面增加了隐私。本文研究了隐私设置的参数化，它调节最大效用、最小隐私和最小效用、最大隐私之间的权衡，其中效用是指聚合函数近似的准确性。隐私设置可以作为系统范围的参数化和策略（同构数据共享）普遍应用。尽管如此，它们也可以由每个用户自主应用或在（货币）激励的影响下决定（异构数据共享）。后者的多样性，在数据共享的信息自决发挥了关键作用的隐私效用轨迹，本文所示的理论和经验。一个通用的和新颖的计算框架，介绍了衡量隐私效用权衡和优化。该框架计算了广泛的这种权衡，形成同质和异构数据共享下的隐私效用轨迹。
2018-05-06 cs.CR cs.CY
Not one but many Tradeoffs: Privacy Vs. Utility in Differentially Private Machine Learning
数据持有者越来越多地寻求保护用户的隐私，同时仍然最大限度地提高他们生产具有高质量预测的机器模型的能力。在这项工作中，我们根据经验评估了差分隐私（DP）的各种实现，并衡量它们抵御现实世界隐私攻击的能力，以及衡量它们提供准确分类的核心目标。我们建立了一个评估框架，以确保这些实现中的每一个都得到公平的评估。我们选择的DP实现在框架内的不同位置添加DP噪声，无论是在数据汇集/发布时，在模型训练时的更新期间，还是在通过扰动学习的模型参数进行训练之后。我们在一系列隐私预算和数据集上评估每个实现，每个实现都提供相同的数学隐私保证。通过测量模型对真实世界的成员和属性推断攻击的抵抗力，以及它们的分类准确性。我们确定哪些实现提供了隐私和实用性之间最理想的折衷。我们发现，给定数据集的类的数量不太可能影响隐私和效用权衡的发生。此外，在需要高隐私约束的场景中，与ML过程中稍后添加的噪声相比，扰动输入训练数据不会牺牲同样多的效用。
2020-09-15 cs.CR
Conciliating Privacy and Utility in Data Releases via Individual Differential Privacy and Microaggregation
本文提出基于个体差分隐私（iDP）与微聚合预处理的数据发布方法，通过降低记录变化敏感性来减少噪声，在强隐私（小ε）下保持数据效用，实验证明其优于传统DP。
2023-12-21 cs.CR
A proposal to increase data utility on Global Differential Privacy data based on data use predictions
本文提出通过预测分析师对差分隐私统计数据的使用方式来优化隐私预算分配，从而在汇总统计场景下提升全局差分隐私数据的效用，并给出相应优化度量指标。
2024-01-12 cs.CR cs.DB
Individual Differential Privacy: A Utility-Preserving Formulation of Differential Privacy Guarantees
差分隐私是研究社区中流行的隐私模型，因为它提供了强大的隐私保证，即数据集中任何个体的存在或不存在不会显著影响对数据集的分析结果。然而，在实践中强制执行这一严格的保证会严重扭曲数据和/或限制数据的使用，从而降低了差异隐私结果的分析效用。在试图解决这个缺点，差分隐私的几个放宽已被提出，权衡隐私保证改善数据效用。在这项工作中，我们认为，标准的形式化的差分隐私是严格的比所需的直观的隐私保证，它寻求。特别地，标准形式化要求结果在任何相邻数据集对之间的不相容性，而实际数据集与其相邻数据集之间的不相容性应该是足够的。这限制了数据控制器调整实际数据保护级别的能力，从而导致严重的准确性损失。在这方面，我们提出了个人差分隐私，一个替代的差分隐私的概念，为他们提供了相同的隐私保证标准差分隐私的个人（即使不是个人群体）。这个新概念允许数据控制器根据实际数据集调整失真，从而减少失真并提高分析精度。我们提出了几种机制来实现个人差分隐私，我们比较新的概念对标准的差分隐私的分析结果的准确性。
2017-02-08 cs.CR
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私（LDP）的浏览用户发送他的嘈杂的偏好配置文件，扰动布隆过滤器，服务提供商。这种方法的独创性是多方面的。首先，据我们所知，该方法是第一个在用户侧包括两个扰动轮- PRR（永久随机响应）和IRR（瞬时随机响应）-在一个完整的用户简档。其次，建立了完整的验证实验链，使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码，使用聚类Kmeans工具对用户进行聚类。第三，大量的实验表明，我们的方法实现了良好的实用性和隐私的权衡，即90 $\%$聚类成功率，分别。80.3 $\%$，分别用于LDP $ε= 0.8$的值。$ε= 2$。第四，实验和理论分析给出了具体的结果，我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
The Laplace Mechanism has optimal utility for differential privacy over continuous queries
差分隐私在从聚合数据库发布统计查询时保护个人数据：对查询结果应用“混淆”机制使发布的信息不那么具体，但不可避免地也降低了其效用。然而，已经表明，对于离散数据（例如，计数查询），强制的隐私程度和对效用损失的合理解释，几何混淆机制是最佳的：它损失尽可能少的效用。然而，对于连续查询结果（例如实数），最优性结果并不成立。我们在这里的贡献是表明，最优性是通过使用拉普拉斯机制的混淆。所涉及的技术装置包括Ghosh等人早期的离散结果，最近的工作抽象渠道和他们的几何表示为超分布，和分布之间的距离由Kantorovich-Rubinstein定理提供的双重解释。
2021-07-26 cs.CR
Privacy Regularization: Joint Privacy-Utility Optimization in Language Models
University of California San Diego（加州大学圣迭戈分校）；Microsoft Research（微软研究院）；Microsoft Corporation（微软公司）
已知神经语言模型具有用于记忆训练样本的高容量。当针对电子邮件通信等用户内容训练模型时，这可能会产生严重的隐私影响。差分隐私（DP），一个流行的选择，训练模型的隐私保证，带来了显着的成本方面的效用退化和不同的影响，对用户的子群体。在这项工作中，我们介绍了两种隐私保护正则化方法，用于训练语言模型，通过（1）使用一个参数和（2）包含一个三重损失项来实现效用和隐私的联合优化。我们比较我们的方法与DP通过广泛的评估。我们展示了正则化器的优势，它具有良好的效用-隐私权衡，更快的训练能力，能够利用现有的优化方法，并确保对代表性不足的子群进行统一处理。
2021-04-16 cs.CL cs.CR cs.LG
Privacy Enhanced PEFT: Tensor Train Decomposition Improves Privacy Utility Tradeoffs under DP-SGD
Tennessee Tech University（田纳西理工大学）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
TTLoRA通过张量分解低秩适应提升DP-SGD下的隐私与效用权衡，减少参数规模并降低成员泄露风险。
2026-01-15 cs.CR
OptimShare: A Unified Framework for Privacy Preserving Data Sharing -- Towards the Practical Utility of Data with Privacy
本文提出 OptimShare 统一框架，融合差分隐私、模糊逻辑与概率论，通过面向应用的选择性属性扰动提升表格数据共享的实际效用并保障隐私。
2023-06-06 cs.CR cs.DB
General Confidentiality and Utility Metrics for Privacy-Preserving Data Publishing Based on the Permutation Model
隐私保护数据发布的匿名化，也称为统计披露控制（SDC），可以在置换模型的镜头下查看。根据这个模型，任何用于单个数据记录的SDC方法在功能上等效于置换步骤加上噪声添加步骤，其中添加的噪声是边际的，在这个意义上，它不改变等级。在这里，我们提出的指标来量化数据的机密性和实用性实现的SDC方法的基础上的置换模型。我们区分两个隐私的概念：在我们的工作中，匿名是指主题，因此主要是为了防止记录重新识别，而保密性是指保护属性值对属性披露。因此，我们的保密性指标是有用的，即使使用隐私模型，确保匿名水平事前。效用度量是一种通用度量，可以方便地与机密性度量进行权衡，因为它们都在0和1之间。作为一个应用程序，我们比较了几种匿名化方法，包括隐私模型（k-匿名和$ε$ -差分隐私）以及SDC方法（加性噪声，乘性噪声和合成数据）没有隐私模型的效用-机密性权衡。
2020-10-07 cs.CR
PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference
School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院，合肥工业大学）；International College Beijing, China Agricultural University（北京国际学院，中国农业大学）
研究大语言模型推理中的隐私与效用平衡问题，提出PromptGraph方法，将提示表示为属性图，估计隐私泄露与上下文依赖，通过净化目标平衡两者，实验证明该方法比基线更优。
2026-07-14 cs.AI cs.CR
Utility-aware and privacy-preserving mobile query services
基于位置的查询为移动道路网络旅行者提供基本服务。虽然基于位置的服务（LBS）的好处很多，但将移动旅行者的位置信息暴露给不受信任的LBS提供商可能会导致隐私泄露。在本文中，我们提出了StarCloak，一个实用程序感知和攻击弹性的方法来建立一个隐私保护的查询系统，移动用户在道路网络上行驶。StarCloak有几个令人满意的特性。首先，StarCloak支持用户定义的k用户匿名性和l段不可否认性，以及用户指定的空间和时间效用约束，以实现效用感知和个性化的位置隐私。其次，与传统的解决方案，是漠不关心的基础道路网络结构，StarCloak使用的概念，明星，并提出了有效的位置隐藏在道路网络的伪装图。第三，StarCloak通过随机的星选择和修剪，实现了对重放和查询注入攻击的强大攻击弹性。最后，为了实现高吞吐量的可扩展查询处理，StarCloak通过考虑查询评估和网络通信成本来做出成本感知的星选择决策。我们评估StarCloak在两个真实世界的道路网络数据集下的各种隐私和效用的限制。结果表明，StarCloak与其最相关的竞争对手XStar相比，提高了查询成功率和吞吐量，减少了匿名化时间和网络使用量，并具有更高的攻击弹性。
2019-07-15 cs.CR
Preserving Both Privacy and Utility in Network Trace Anonymization
随着网络安全监控变得越来越复杂，越来越需要将这些任务外包给第三方分析师。然而，由于对敏感信息的隐私问题，组织通常不愿意共享其网络跟踪，网络和系统配置，可能被利用进行攻击。在数据所有者被说服共享其网络跟踪的情况下，数据通常会受到某些匿名化技术的影响，例如，CryptoPAn，它用前缀保留的前缀替换真实的IP地址。然而，大多数这样的技术或者容易受到对手的攻击，对手事先知道跟踪中的一些网络流，或者需要大量的数据清理或扰动，这两者都可能导致数据效用的显著损失。在本文中，我们的目标是保护隐私和效用之间的权衡转移到隐私和计算成本之间。其关键思想是让分析人员生成和分析原始网络轨迹的多个匿名视图;这些视图被设计为即使对拥有先验知识的对手也足够难以区分，这保护了隐私，而其中一个视图将产生由数据所有者私下检索的真实分析结果，这保留了效用。我们提出了一般的方法，并实例化它的基础上CryptoPAn。我们正式分析我们的解决方案的隐私和实验评估它使用真实的网络跟踪提供的主要ISP。结果表明，我们的方法可以显着降低信息泄漏的水平（例如，不到CryptoPAn泄露的信息的1%），具有可比的实用性。
2018-10-24 cs.CR
Meeting Utility Constraints in Differential Privacy: A Privacy-Boosting Approach
针对严格隐私参数下差分隐私机制难以满足效用约束的问题，提出兼容多数加噪DP机制的隐私增强框架，通过调整输出分布与方差，在满足效用要求的同时降低隐私损失，在高查询敏感度场景下效果显著。
2024-12-13 cs.CR cs.DS cs.IT
Privacy-Utility Trades in Crowdsourced Signal Map Obfuscation
University of Southern California（南加州大学）；The Aerospace Corporation（航空航天公司）；Google（谷歌）
蜂窝提供商和数据聚合公司众包来自用户设备的蜂窝信号强度测量以生成信号地图，其可用于提高网络性能。认识到这种数据汇集可能与人们日益增长的隐私意识不一致，我们考虑在数据离开移动终端之前对此类数据进行模糊处理。其目标是提高隐私性，使得难以从混淆的数据中恢复敏感特征（例如用户ID和用户行踪），同时仍然允许网络提供商使用数据来改善网络服务（即创建准确的信号映射）。为了研究这种隐私效用的权衡，我们确定了隐私和效用指标和适合信号强度测量的威胁模型。然后，我们使用几种卓越的技术混淆测量，跨越差分隐私，生成对抗隐私和信息理论隐私技术，以基准各种有前途的混淆方法，并为现实世界的工程师提供指导，他们的任务是构建保护隐私而不损害效用的信号地图。我们的评估结果，基于多个，不同的，真实世界的信号映射数据集，证明了同时实现足够的隐私和实用性的可行性，混淆策略在其设计中使用数据集的结构和预期用途，并以平均情况为目标，而不是最坏情况，保证。
2022-01-13 cs.CR cs.LG
Privacy-Utility Trade-offs in Neural Networks for Medical Population Graphs: Insights from Differential Privacy and Graph Structure
Technical University of Munich（慕尼黑工业大学）；Massachusetts Institute of Technology（麻省理工学院）
本文实证研究医学人群图上的差分隐私图神经网络，结合多隐私级别实验与成员推理攻击审计，揭示隐私-效用权衡及图同配性对模型性能差距的影响。
2023-07-13 cs.CR cs.LG
Exploring the Integration of Differential Privacy in Cybersecurity Analytics: Balancing Data Utility and Privacy in Threat Intelligence
University of Chadli Bendjedid, Faculty of Sciences & Technology（查德利·本杰迪德大学，科学与技术学院）
本文探讨了差分隐私在网络安全分析中的应用，通过平衡数据效用与隐私保护，提升威胁情报的安全共享能力。
2026-01-01 cs.CR
Fed-AugMix: Balancing Privacy and Utility via Data Augmentation
针对联邦学习中的梯度泄露攻击，提出基于AugMix数据增强的框架，通过可控增强和JS散度嵌入失真，实现隐私与效用的平衡，并提升模型性能。
2024-12-18 cs.CR
Privacy- and Utility-Preserving Textual Analysis via Calibrated Multivariate Perturbations
Amazon（亚马逊）
准确地从用户数据中学习，同时提供可量化的隐私保证，这为在维护用户信任的同时构建更好的ML模型提供了机会。本文提出了一种形式化的方法来进行隐私保护文本扰动使用的概念dx隐私设计，以实现地理位置数据的不可否认性。我们的方法适用于仔细校准的噪音，以向量表示的话，在一个高维空间定义的词嵌入模型。我们提出了一个隐私证明，满足DX隐私的隐私参数提供保证相对于由词嵌入空间定义的距离度量。我们演示了如何通过分析GloVe和fastText嵌入的大规模分析支持的似是而非的可否认性统计数据来选择。我们对2个基线模型进行隐私审计实验，并在3个数据集上进行效用实验，以证明不同任务类型上不同值的隐私和效用之间的权衡。我们的研究结果证明了实用性（训练二进制分类器的效用损失< 2%），同时提供了比基线模型更好的隐私保证。
2019-10-20 cs.CL cs.CR cs.LG
Privacy, Security, and Utility Analysis of Differentially Private CPES Data
差分隐私（DP）已被广泛用于保护机密网络物理能量系统（CPES）数据的隐私。然而，在不分析效用、隐私和安全要求的情况下应用DP可能影响数据效用以及帮助攻击者进行完整性攻击（例如，虚假数据注入（FDI））利用差异私有数据。现有的基于异常检测的数据完整性攻击防御策略在基于DP的智能电网中未能最大限度地减少攻击的影响，同时最大限度地提高数据的隐私性和实用性。为了应对这一挑战，在设计过程中应用防御性方法是非常重要的。在本文中，我们制定和开发的防御策略的设计过程中的一部分，调查数据的隐私，安全性和实用程序在DP为基础的智能电网网络。我们提出了一个DP参数之间的可证明关系，使防御者能够设计一个容错系统，抵御FDI攻击。为了实验评估和证明我们提出的设计方法的有效性，我们模拟了基于DP的网格中的FDI攻击。评估表明，攻击的影响可以最小化，如果设计者校准隐私级别根据建议的DP参数的相关性来设计网格网络。此外，我们分析了智能电网网络的DP机制和QoS在对抗环境中的可行性。我们的分析表明，DP机制是可行的，在智能电网领域现有的隐私保护机制。此外，不同的私有网格应用程序的QoS是令人满意的对抗存在。
2021-09-21 cs.CR
The Economics of Privacy and Utility: Investment Strategies
由于个人信息的不受限制的披露，不可避免的隐私泄露激发了对健壮的隐私保护机制的广泛研究。然而，现有的研究大多局限于在静态环境下解决问题，而忽略了随着时间的推移隐私泄漏。不幸的是，这种隐私处理在实际环境中是不够的，在实际环境中，用户随着时间的推移连续地公开他们的个人信息，导致用户的敏感信息的累积泄漏。在本文中，我们考虑在有限的时间范围内的隐私泄漏和调查的最佳策略，以最大限度地提高所披露的数据的效用，同时限制有限的地平线隐私泄漏。我们认为一个简单的隐私机制，涉及压缩用户的数据之前，每次披露，以满足未来的隐私所需的约束。我们进一步激励几种算法来优化动态隐私效用权衡，并通过广泛的综合性能测试来评估它们的性能。
2022-07-04 cs.CR cs.GT cs.IT
Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
联邦学习（FL）由于其分散的结构允许私下训练大量的数据。随机梯度下降（SGD）由于其良好的经验性能而通常用于FL，但是仍然可以从FL迭代期间共享的权重更新推断敏感的用户信息。我们考虑高斯机制，以保持局部差分隐私（LDP）的用户数据在FL模型与SGD。用户隐私，全球效用和传输速率之间的权衡证明通过定义适当的指标FL与LDP。与已有的结果相比，LDP中使用的查询敏感度被定义为一个变量，并应用更严格的隐私计费方法。建议的效用界允许所有用户的异构参数。我们的界限特征有多少效用减少和传输速率增加，如果一个更强的隐私制度的目标。此外，给定一个目标隐私级别，我们的研究结果保证一个显着更大的效用和更小的传输速率相比，现有的隐私会计方法。
2021-02-09 cs.CR cs.DC cs.IT
Differentially Private Data Publication with Multi-level Data Utility
传统的私有数据发布机制旨在保留尽可能多的数据效用，同时确保对敏感数据的充分隐私保护。这种数据发布方案隐含地假设所有数据分析员和用户具有相同的数据访问权限级别。然而，这并不适用于数据使用者对相同数据的访问级别不同或对数据效用的要求不同的情况。不同授权级别的多层次隐私要求对隐私数据发布提出了新的挑战。传统的PPDP机制只发布一个满足一定隐私保证的扰动和私有数据副本，以提供相对准确的分析结果。如何在隐私保护水平和数据效用之间找到一个好的平衡点是一个很难的问题，更不用说在此基础上实现多层次的数据效用。在本文中，我们解决这个挑战，提出了一个新的框架，数据发布与压缩感知支持多层次的效用隐私权衡，它提供了差分隐私。具体地说，我们诉诸压缩感知（CS）方法投影的$n$维向量表示的用户的数据到一个较低的$m$维空间，然后添加故意设计的噪声，以满足差分隐私。然后，通过加入线性编码噪声，对压缩感知下的测量向量进行选择性混淆，并针对不同授权级别的用户提供不同的数据重构算法。大量的实验结果表明，ML-DPCS产生多层次的数据效用的特定用户在不同的授权级别。
2021-12-13 cs.CR
Utility-Preserving Privacy Mechanisms for Counting Queries
差分隐私（DP）和局部差分隐私（LPD）是保护数据汇集中的敏感信息的框架。两者都是基于混淆。在DP中，噪声被添加到对数据集的查询结果中，而在LPD中，噪声在被收集之前被直接添加到单个记录上。LPD相对于DP的主要优点是它不需要假设可信第三方。主要缺点是隐私和实用性之间的权衡通常比DP中更差，并且通常要从本地净化的数据中检索合理的良好统计数据，需要收集大量的统计数据。在本文中，我们专注于估计计数查询的问题，从收集嘈杂的答案，我们提出了一个变种的LDP的基础上添加几何噪声。我们的主要结果是，几何噪声具有更好的统计效用比其他LPD机制从文献中。
2019-06-28 cs.CR
Quantifying Classifier Utility under Local Differential Privacy
Rochester Institute of Technology（罗切斯特理工学院）
本文提出了一种统一框架，用于在局部差分隐私下量化分类器效用，通过将LDP扰动视为集中区域内的鲁棒性分析，提升效用评估的准确性。
2026-02-28 cs.CR
Quantifying the Utility-Privacy Tradeoff in the Smart Grid
电网的现代化和智能电表的安装为控制和监测带来了许多优势。然而，在错误的手中，数据可能会构成隐私威胁。在本文中，我们认为智能电网的运营和消费者的隐私之间的权衡。我们分析了智能电网操作之间的权衡，并考虑一个现实的直接负载控制的例子，使用恒温控制的负载，数据收集的频率，我们给出了仿真结果，以显示其性能如何降低采样频率降低。此外，我们引入了一个新的隐私度量，我们称之为推理隐私。这个隐私度量假设一个强大的对手模型，并提供了一个上限的对手的能力，推断一个私人参数，独立于他使用的算法。结合这两个结果，使我们能够直接考虑更好的负载控制和消费者隐私之间的权衡。
2015-05-26 cs.CR
R$^2$DP: A Universal and Automated Approach to Optimizing the Randomization Mechanisms of Differential Privacy for Utility Metrics with No Known Optimal Distributions
差分隐私（DP）已经成为广泛应用的事实标准隐私概念。由于数据效用在不同应用中的含义可能有很大差异，因此一个关键的挑战是找到最佳的随机化机制，即，分布及其参数，对于给定的效用度量。现有的工作已经确定了在一些特殊情况下的最优分布，而留下所有其他效用度量（例如，有用性和图形距离）作为开放问题。由于现有的工作主要依赖于人工分析，以检查所有分布的搜索空间，这将是一个昂贵的过程，重复这样的努力，为每个效用度量。为了解决这样的缺陷，我们提出了一种新的方法，可以自动优化不同的公用事业指标下，在不同的应用程序的一个共同的框架。我们的核心思想是，通过将注入噪声本身的方差视为随机变量，双重分布可以近似地覆盖所有分布的搜索空间。因此，我们可以自动地在这个搜索空间中找到分布，以类似的方式优化不同的效用度量，只需优化双重分布的参数。具体地说，我们定义了一个通用的框架，即随机化的随机化机制的差分隐私（R $^2$ DP），我们正式分析其隐私和效用。我们的实验表明，R $^2$ DP可以提供更好的结果比基线分布（拉普拉斯）的效用度量没有已知的最优分布，而我们的结果渐近接近最优效用度量具有已知的最优分布。作为一个附带的好处，由双重分布引入的额外的自由度允许R $^2$ DP适应数据所有者和接收者的偏好。
2020-09-24 cs.CR
Exploring Machine Learning Privacy/Utility trade-off from a hyperparameters Lens
NYU Abu Dhabi（纽约大学阿布扎比分校）；Queen’s University Belfast（贝尔法斯特女王大学）
机器学习（ML）架构已经应用于涉及敏感数据的几个应用程序，其中需要保证用户的数据隐私。差分隐私随机梯度下降（DPSGD）是训练隐私保护模型的最新方法。然而，DPSGD带来相当大的准确性损失，导致次优的隐私/效用权衡。为了研究更好的隐私-效用权衡的新基础，这项工作提出了以下问题：（i）模型的超参数是否对ML模型的隐私保护属性有任何内在影响，以及（ii）模型的超参数是否对差异隐私模型的隐私/效用权衡有任何影响。我们提出了一个全面的设计空间探索不同的超参数，如激活函数的选择，学习率和使用批量归一化。有趣的是，我们发现，效用可以通过使用有界的Bounded Bounded Bounded U作为具有相同隐私保护特性的激活函数来提高。通过对激活函数的直接替换，我们在MNIST（96.02\%）、FashionMnist（84.76\%）和CIFAR-10（44.42\%）上实现了新的最先进的准确性，而无需对DPSGD的学习过程基础进行任何修改。
2023-03-03 cs.CR cs.CV cs.LG
Privacy-Utility Tradeoffs under Constrained Data Release Mechanisms
隐私保护数据发布机制旨在同时最小化敏感数据的信息泄漏和有用数据的失真。敏感数据和有用数据之间的重复性导致了隐私-效用权衡，这与广义率失真问题有很强的联系。在这项工作中，我们研究了最佳的隐私效用权衡区域是如何影响的数据，直接作为输入的释放机制的约束。特别是，我们只考虑敏感数据的可用性，只考虑有用数据的可用性，以及两者（完整数据）。我们表明，一般的层次结构举行：权衡区域只敏感的数据是不大于该区域只提供有用的数据，这反过来又是显然不大于该区域的敏感和有用的数据。此外，我们确定的条件下，只给出有用的数据与给定的全部数据相吻合的权衡区域。这些都是基于敏感数据和有用数据之间的共同信息。我们建立这些结果一般家庭的隐私和实用措施，满足某些自然属性所需的任何合理的措施的隐私或实用。我们还发现了一个新的，微妙的方面的数据处理不平等的一般非对称隐私措施，并讨论其操作的相关性和影响。最后，我们推导出精确的封闭解析形式表达式的隐私效用权衡对称依赖的敏感和有用的数据下互信息和汉明失真作为各自的隐私和效用的措施。
2017-10-25 cs.CR cs.IT math.IT
Toward Privacy and Utility Preserving Image Representation
Arizona State University（亚利桑那州立大学）
人脸图像是有用的丰富数据项，并且可以在许多应用中容易地收集，例如在安全和监视系统领域中的1对1人脸验证任务中。已经提出了多种方法来保护个人的隐私，通过扰动图像来去除可识别信息的痕迹，例如性别或种族。然而，在保持最佳任务效用的同时保护图像的问题受到的关注明显较少。在本文中，我们研究了新的问题，创建隐私保护图像表示相对于一个给定的实用程序的任务，提出了一个原则性的框架，称为对抗图像分析器（AIA）。AIA首先使用生成模型创建图像表示，然后使用对抗学习增强学习的图像表示，以保护给定任务的隐私和实用性。在公开的数据集上进行了实验，以证明AIA作为人脸图像隐私保护机制的有效性。
2020-10-17 cs.CR cs.CV
A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）
该研究提出统一的Learn-to-Distort-Data框架，通过将隐私保护机制的失真建模为可学习变量并与模型参数联合优化，实现联邦学习的隐私-效用均衡，可结合多领域技术设计相关算法。
2024-07-09 cs.AI cs.CR cs.LG
The Utility Cost of Robust Privacy Guarantees
考虑一个具有公共和私有特征的数据集的数据发布设置。发布者的目标是最大化公开数据集中关于公共特征的信息量，同时保持泄露的关于私有特征的信息有界。本文的目标是分析隐私机制的性能，构建匹配的分布从数据集学习。考虑两种不同的情况：（i）机制被设计为提供一个隐私保证的学习分布;和（ii）机制被设计为提供一个隐私保证的学习分布的给定邻域中的每个分布。对于第一种情况，给定任何隐私机制，上界的学习和真实分布的隐私效用保证之间的差异。在第二种情况下，上界的效用减少所产生的提供一个统一的隐私保证。
2018-05-10 cs.CR cs.IT math.IT
PrivCode: When Code Generation Meets Differential Privacy
University of Virginia（弗吉尼亚大学）；Monash University and CSIRO’s Data61（蒙纳士大学和CSIRO数据61）；Carnegie Mellon University（卡内基梅隆大学）
PrivCode是一种专门设计用于代码数据集的差分隐私合成器，通过两阶段框架提升隐私和效用，生成高效用代码并保护敏感数据。
2026-10-30 cs.CR
