The Adverse Effects of Omitting Records in Differential Privacy: How Sampling and Suppression Degrade the Privacy--Utility Tradeoff (Long Version)
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文研究了采样和抑制在差分隐私中对隐私-效用权衡的负面影响，发现剔除记录会降低效用，均匀采样虽仍存在负面影响，但表现最佳。
2026-01-22 cs.CR
No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Institute of Science Tokyo（东京科学大学）
本研究首次系统调查训练效率与模型脆弱性之间的权衡，发现高效训练策略增加对抗与隐私攻击敏感性，并呼吁多目标训练以兼顾性能、成本与安全。
2026-09-29 cs.CR cs.LG
Architectural Selection Framework for Synthetic Network Traffic: Quantifying the Fidelity-Utility Trade-off
Blekinge Institute of Technology（布莱金厄理工学院）
本文提出架构选择框架，通过评估不同生成模型在两类数据结构上的保真度与效用，揭示GAN模型在保真度与效用平衡上的优势，以及统计方法和扩散模型的局限性。
2026-03-13 cs.CR
Privacy Enhanced PEFT: Tensor Train Decomposition Improves Privacy Utility Tradeoffs under DP-SGD
Tennessee Tech University（田纳西理工大学）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
TTLoRA通过张量分解低秩适应提升DP-SGD下的隐私与效用权衡，减少参数规模并降低成员泄露风险。
2026-01-15 cs.CR
Revisiting Gradient Pruning: A Dual Realization for Defending against Gradient Attacks
Huazhong University of Science and Technology（华中科技大学）；Griffith University（格里菲斯大学）；Union Hospital, Tongji Medical College, Huazhong University of Science and Technology（华中科技大学同济医学院附属协和医院）；Lehigh University（理海大学）
针对协同学习中梯度反转攻击的隐私威胁及现有防御方法隐私、效用、效率权衡不佳的问题，提出双重梯度剪枝方法，可在保障模型效用与隐私的同时提升通信效率，有效抵御强梯度反转攻击。
2024-01-30 cs.CR cs.LG
Privacy-Utility Tradeoffs in Routing Cryptocurrency over Payment Channel Networks
支付通道网络（PCN）被视为当今加密货币最有前途的可扩展性解决方案之一。粗略地说，PCN是一种网络，其中每个节点代表一个用户，每个有向的、加权的边缘代表区块链上托管的资金;这些资金只能在边缘的端点之间进行交易。只要路径中的每条边都有足够的余额（托管资金）来支持交易，用户就可以通过连接A到B的路径将资金从节点A有效地转移到B。每当事务成功时，边权重相应地更新。然而，在部署的PCN中，信道平衡（即，边缘权重）出于隐私原因不向用户透露;用户仅知道时间0处的初始权重。因此，当路由事务时，用户首先猜测路径，然后检查它是否支持事务。这种猜测和检查过程大大降低了交易的成功率。在另一个极端，了解完整的渠道平衡可以在牺牲隐私的情况下大幅提高成功率。在这项工作中，我们研究了网络是否可以揭示嘈杂的信道平衡，以权衡隐私的效用。我们展示了这样一个权衡的基本限制，并提出了噪声机制，实现了一般类的图形拓扑结构的基本限制。我们的研究结果表明，在实践中，PCN应在低隐私或低效用制度，这是不可能的，以获得较大的收益，通过放弃一点隐私，或大收益的隐私，牺牲一点效用。
2020-10-21 cs.CR
Understanding Stage-Wise Utility-Risk Trade-offs in LLM Agent Memory
School of Cyber Science and Technology, Shandong University（山东大学网络空间安全学院）；State Key Laboratory of Cryptography and Digital Economy Security, Shandong University（山东大学密码学与数字经济安全国家重点实验室）；Shandong Key Laboratory of Artificial Intelligence Security, Shandong University（山东大学人工智能安全山东省重点实验室）
本文提出可控框架\textsc{MemGauge}，在11个LLM和两个记忆基准上揭示LLM智能体记忆各阶段的效用-风险权衡特征，为阶段感知评估与控制提供依据。
2026-09-01 cs.CR
Revisiting Black-Box Model Ownership Verification through Information Theory
Anhui University of Technology（安徽工业大学）；University of Cambridge（剑桥大学）；Microsoft（微软）；Nanjing University of Posts and Telecommunications（南京邮电大学）；Tylogi AI Lab（Tylogi AI实验室）；The Hong Kong Polytechnic University（香港理工大学）；Southeast University（东南大学）
本研究从信息论视角解决黑盒模型所有权验证中鲁棒性与预测效用的权衡问题，提出利用top-k输出的新框架，在多领域实验中实现了更优的权衡且可实际部署。
2026-08-07 cs.AI cs.CR
The Privacy-Utility Trade-off in the Topics API
针对第三方Cookie淘汰背景下Google提出的Topics API，本文分析其用户重识别隐私风险与广告效用，给出含任意辅助信息对手下的新型通用上界等理论结果及真实数据实验验证，可用于评估API更新的隐私效用影响。
2024-06-21 cs.CR
An Optimized Privacy-Utility Trade-off Framework for Differentially Private Data Sharing in Blockchain-based Internet of Things
差分私有（DP）查询和响应机制已经在基于物联网（IoT）的各种应用中被广泛采用，以通过数据分析来利用各种益处。敏感信息的保护是通过向查询响应中添加噪声来实现的，该噪声隐藏了数据集中的各个记录。然而，噪声添加对准确性产生负面影响，从而引起隐私-效用权衡。此外，DP预算或成本$ε$通常是固定的，并且由于限制查询数量的顺序组合而累积。因此，在本文中，我们提出了一个称为优化的隐私效用权衡框架的数据共享在物联网（OPU-TF-IoT）。首先，OPU-TF-IoT使用自适应方法通过考虑人口或数据集大小的新度量以及查询来利用DP预算$ε$。其次，我们提出的启发式搜索算法，减少DP预算，同时满足数据所有者和数据用户。第三，为了使DP预算的使用对数据所有者透明，还提出了基于区块链的验证机制。最后，使用真实世界的数据集进行评估，并与传统的DP模型和其他相关的国家的最先进的作品相比，所提出的框架。结果证实，我们提出的框架不仅利用DP预算$ε$有效，但它也优化了查询的数量。此外，数据所有者可以有效地确保他们的数据通过我们基于区块链的验证机制被共享，该机制鼓励他们将数据共享到物联网系统中。
2022-12-08 cs.CR
Quantifying the Privacy-Utility Trade-offs in COVID-19 Contact Tracing Apps
如何遏制COVID-19病毒的传播是大多数国家的主要关注点。随着形势的不断变化，各国正在努力重新开放经济，取消一些限制，并采取新的措施防止疫情蔓延。在这项工作中，我们回顾了一些已经采用的遏制COVID-19病毒的方法，如接触者追踪，集群识别，移动限制和状态验证。具体来说，我们根据技术、架构、权衡（隐私与实用）和采用阶段等特征对可用技术进行分类。我们提出了一种新的方法来评估隐私使用定性和定量的隐私效用评估接触跟踪应用程序的措施。在这种新方法中，我们将效用分为三（3）个不同的级别：没有隐私，100%隐私，以及k，其中k由提供效用或隐私的系统设置。
2020-12-24 cs.CR cs.CY
Revisiting Privacy Amplification by Subsampling in Selective Release DPSGD
Guangdong Provincial Key Laboratory of IRADS, Beijing Normal-Hong Kong Baptist University（广东IRADS重点实验室，北京师范大学-香港 Baptist大学）
针对DPSGD中梯度裁剪和噪声注入导致的效用下降和收敛缓慢问题，重新评估选择性释放机制的隐私分析，提出基于裁剪梯度的差分隐私选择性释放算法（DPSR-CG），通过严格的隐私分析和实验证明其在保持严格隐私保证的同时实现优异模型性能。
2026-06-03 cs.CR cs.LG stat.ML
Revisiting Continuous Noise Sampling for Multi-Party Differential Privacy
University of Virginia（弗吉尼亚大学）
本文针对多方差分隐私的连续噪声采样协议，发现采样-缩放构造的安全漏洞并发起高成功率攻击，提出基于离散偏置位采样的优化方案，实现高效安全且效用损失小的噪声采样。
2026-08-31 cs.CR
Privacy-Utility Trade-offs in Neural Networks for Medical Population Graphs: Insights from Differential Privacy and Graph Structure
Technical University of Munich（慕尼黑工业大学）；Massachusetts Institute of Technology（麻省理工学院）
本文实证研究医学人群图上的差分隐私图神经网络，结合多隐私级别实验与成员推理攻击审计，揭示隐私-效用权衡及图同配性对模型性能差距的影响。
2023-07-13 cs.CR cs.LG
Optimization of Privacy-Utility Trade-offs under Informational Self-determination
物联网的普及导致用户（数据生产者）的智能设备（如智能手机，可穿戴设备和其他嵌入式传感器）生成大量个人数据。这是一个常见的要求，特别是对于大数据分析系统，将这些大规模和分布式数据传输到集中式计算系统进行分析。然而，运行和管理这些系统的第三方（数据消费者）并不总是保证用户的隐私。他们的主要兴趣是提高效用，效用通常是与性能、成本和服务质量相关的度量。有几种技术可以屏蔽用户生成的数据以确保隐私，例如差分隐私。建立一个屏蔽数据的过程，在本文中称为“隐私设置”，一方面减少了数据分析的效用，另一方面增加了隐私。本文研究了隐私设置的参数化，它调节最大效用、最小隐私和最小效用、最大隐私之间的权衡，其中效用是指聚合函数近似的准确性。隐私设置可以作为系统范围的参数化和策略（同构数据共享）普遍应用。尽管如此，它们也可以由每个用户自主应用或在（货币）激励的影响下决定（异构数据共享）。后者的多样性，在数据共享的信息自决发挥了关键作用的隐私效用轨迹，本文所示的理论和经验。一个通用的和新颖的计算框架，介绍了衡量隐私效用权衡和优化。该框架计算了广泛的这种权衡，形成同质和异构数据共享下的隐私效用轨迹。
2018-05-06 cs.CR cs.CY
Revisiting Differentially Private Regression: Lessons From Learning Theory and their Consequences
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
私有回归受到了数据库和安全社区的关注。Fredrikson等人最近的工作（USENIX Security 2014）分析了在医疗数据上训练线性回归模型的功能机制（Zhang et al. VLDB 2012）。不幸的是，他们发现，当$\varepsilon = 5$。我们解决这个问题，提出了一个明确的连接之间的差分隐私和稳定的学习理论，通过它可以获得一个更好的隐私/效用权衡。也许更重要的是，我们的理论揭示了差分隐私中最基本的机制，输出扰动，可以用来获得一个更好的权衡所有凸Lipschitz有界学习任务。由于输出扰动是简单的实现，这意味着我们的方法是潜在的广泛适用于实践。我们继续将其应用于与Fredrikson等人使用的相同的医疗数据。令人鼓舞的是，即使对于$\varepsilon = 0.1$，我们也实现了准确的模型。在本文的最后一部分，我们研究了我们改进的差分隐私机制对模型反演攻击，由Fredrikson等人介绍的隐私攻击的影响。我们观察到，改进的权衡使产生的差分隐私模型更容易受到反转攻击。我们对这种现象进行了形式上的分析。
2015-12-20 cs.CR cs.DB cs.LG
Privacy-Utility Tradeoffs under Constrained Data Release Mechanisms
隐私保护数据发布机制旨在同时最小化敏感数据的信息泄漏和有用数据的失真。敏感数据和有用数据之间的重复性导致了隐私-效用权衡，这与广义率失真问题有很强的联系。在这项工作中，我们研究了最佳的隐私效用权衡区域是如何影响的数据，直接作为输入的释放机制的约束。特别是，我们只考虑敏感数据的可用性，只考虑有用数据的可用性，以及两者（完整数据）。我们表明，一般的层次结构举行：权衡区域只敏感的数据是不大于该区域只提供有用的数据，这反过来又是显然不大于该区域的敏感和有用的数据。此外，我们确定的条件下，只给出有用的数据与给定的全部数据相吻合的权衡区域。这些都是基于敏感数据和有用数据之间的共同信息。我们建立这些结果一般家庭的隐私和实用措施，满足某些自然属性所需的任何合理的措施的隐私或实用。我们还发现了一个新的，微妙的方面的数据处理不平等的一般非对称隐私措施，并讨论其操作的相关性和影响。最后，我们推导出精确的封闭解析形式表达式的隐私效用权衡对称依赖的敏感和有用的数据下互信息和汉明失真作为各自的隐私和效用的措施。
2017-10-25 cs.CR cs.IT math.IT
Exploring Machine Learning Privacy/Utility trade-off from a hyperparameters Lens
NYU Abu Dhabi（纽约大学阿布扎比分校）；Queen’s University Belfast（贝尔法斯特女王大学）
机器学习（ML）架构已经应用于涉及敏感数据的几个应用程序，其中需要保证用户的数据隐私。差分隐私随机梯度下降（DPSGD）是训练隐私保护模型的最新方法。然而，DPSGD带来相当大的准确性损失，导致次优的隐私/效用权衡。为了研究更好的隐私-效用权衡的新基础，这项工作提出了以下问题：（i）模型的超参数是否对ML模型的隐私保护属性有任何内在影响，以及（ii）模型的超参数是否对差异隐私模型的隐私/效用权衡有任何影响。我们提出了一个全面的设计空间探索不同的超参数，如激活函数的选择，学习率和使用批量归一化。有趣的是，我们发现，效用可以通过使用有界的Bounded Bounded Bounded U作为具有相同隐私保护特性的激活函数来提高。通过对激活函数的直接替换，我们在MNIST（96.02\%）、FashionMnist（84.76\%）和CIFAR-10（44.42\%）上实现了新的最先进的准确性，而无需对DPSGD的学习过程基础进行任何修改。
2023-03-03 cs.CR cs.CV cs.LG
Equity and Privacy: More Than Just a Tradeoff
虽然整个隐私保护数据分析领域都专注于隐私-效用权衡，但最近的研究表明，隐私保护数据发布可以在不同人群中引入不同程度的效用。重要的是要理解隐私和公平之间的这种新的权衡，因为隐私技术正在被部署在数据产品将用于研究和政策制定的情况下。边缘人群是否会从隐私技术中看到不成比例的效用？如果存在不平等，我们如何解决？
2021-11-08 cs.CR cs.CY
On the privacy-utility trade-off in differentially private hierarchical text classification
SAP（思爱普）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
分层文本分类是将文本文档分类为类和子类的层次结构。虽然人工神经网络已被证明可用于执行此任务，但不幸的是，由于训练数据记忆，它们可能会将训练数据信息泄漏给对手。在模型训练期间使用差分隐私可以减轻对训练模型的泄漏攻击，使模型能够以降低模型准确性为代价安全地共享。这项工作调查的隐私效用权衡分层文本分类与差分隐私保证，并确定神经网络架构，提供优越的权衡。为此，我们使用白盒成员推断攻击经验评估三个广泛使用的神经网络架构的信息泄漏。我们发现，大的差分隐私参数已经足以完全减轻成员推断攻击，从而导致模型效用的适度下降。更具体地说，对于具有长文本的大型数据集，我们观察到基于transformer的模型可以实现整体有利的隐私-效用权衡，而对于具有较短文本的较小数据集，卷积神经网络更可取。
2021-12-09 cs.CL cs.CR cs.LG
Optimizing Privacy and Utility Tradeoffs for Group Interests Through Harmonization
Kansas State University（堪萨斯州立大学）；Louisiana State University（路易斯安那州立大学）
针对两类属性不同的用户群体的隐私-效用权衡问题，提出基于可信第三方的协作数据共享机制，结合对抗隐私技术实现数据脱敏，无需辅助数据与人工标注，兼容多种现有技术，实验验证了其平衡隐私与效用的有效性。
2024-04-07 cs.CR cs.LG
Demystifying the Privacy-Utility Trade-off in LLM Interactions
Soochow University（苏州大学）；Beihang University（北京航空航天大学）；Suzhou City University（苏州城市学院）；Shanghai Key Lab of Intelligent Information Processing（上海市智能信息处理重点实验室）；Shanghai AI Lab（上海人工智能实验室）
本研究通过系统分析揭示大语言模型交互中隐私-效用权衡的三种机制，并提出意图驱动的本地保护框架，利用轻量级模型Veilmind-4B实现低泄漏与高效用，推进帕累托前沿。
2026-09-14 cs.AI cs.CR
The Right to Be Forgotten under Correlation: Privacy-Utility Tradeoffs
Technical University of Munich（慕尼黑工业大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Rutgers University（罗格斯大学）
该研究针对关联数据集的隐私保护算法，分析局部机制与二元马尔可夫关联下隐私-效用的最优权衡，将机制设计分解为序列局部问题，最优机制为有限时域确定性马尔可夫决策过程的解。
2026-10-14 cs.CR cs.IT math.IT
Initial Exploration of Zero-Shot Privacy Utility Tradeoffs in Tabular Data Using GPT-4
Kansas State University（堪萨斯州立大学）；Louisiana State University（路易斯安那州立大学）
本研究探索GPT-4以零样本文本提示方式处理表格数据隐私-效用权衡，发现该简单方法性能可媲美复杂对抗优化方法，且在公平性指标上展现出潜在有效性。
2024-04-07 cs.CR cs.LG
Privacy-Utility Trades in Crowdsourced Signal Map Obfuscation
University of Southern California（南加州大学）；The Aerospace Corporation（航空航天公司）；Google（谷歌）
蜂窝提供商和数据聚合公司众包来自用户设备的蜂窝信号强度测量以生成信号地图，其可用于提高网络性能。认识到这种数据汇集可能与人们日益增长的隐私意识不一致，我们考虑在数据离开移动终端之前对此类数据进行模糊处理。其目标是提高隐私性，使得难以从混淆的数据中恢复敏感特征（例如用户ID和用户行踪），同时仍然允许网络提供商使用数据来改善网络服务（即创建准确的信号映射）。为了研究这种隐私效用的权衡，我们确定了隐私和效用指标和适合信号强度测量的威胁模型。然后，我们使用几种卓越的技术混淆测量，跨越差分隐私，生成对抗隐私和信息理论隐私技术，以基准各种有前途的混淆方法，并为现实世界的工程师提供指导，他们的任务是构建保护隐私而不损害效用的信号地图。我们的评估结果，基于多个，不同的，真实世界的信号映射数据集，证明了同时实现足够的隐私和实用性的可行性，混淆策略在其设计中使用数据集的结构和预期用途，并以平均情况为目标，而不是最坏情况，保证。
2022-01-13 cs.CR cs.LG
SMOTE-DP: Improving Privacy-Utility Tradeoff with Synthetic Data
University of Texas at Dallas Richardson, TX 75082（德克萨斯大学达拉斯分校）；Vanderbilt University Medical Center Nashville, TN 37232（范德比尔特大学医学中心）；Virginia Tech Blacksburg, VA 24061（弗吉尼亚理工大学）
本文提出 SMOTE-DP 方法，将 SMOTE 与差分隐私数据生成器结合，在保证强隐私保护的同时维持下游学习任务的效用。
2025-06-02 cs.CR cs.LG stat.ML
Metric geometry of the privacy-utility tradeoff
本文利用度量隐私和度量几何，提出用“熵尺度”刻画最优隐私-精度权衡，并通过多种度量空间示例验证该框架的适用性。
2024-05-01 cs.CR cs.DS math.PR
Enabling Trade-offs in Privacy and Utility in Genomic Data Beacons and Summary Statistics
Washington University in St. Louis（华盛顿大学圣路易斯分校）；Vanderbilt University Medical Center（范德堡大学医学中心）
基因组数据的收集和共享在研究、临床和直接面向消费者的环境中变得越来越普遍。通常用于保护个人隐私的计算协议包括共享汇总统计数据，例如等位基因频率，或使用称为Bestrom的网络服务将查询响应限制为存在/不存在感兴趣的等位基因。然而，即使这样的有限发布也容易受到基于似然比的成员推断攻击的影响。已经提出了几种方法来保护隐私，这些方法或者抑制基因组变体的子集，或者修改针对特定变体的查询响应（例如，如在差分隐私中那样增加噪声）。然而，这些方法中的许多导致显著的效用损失，抑制许多变体或添加大量噪声。在本文中，我们引入了基于优化的方法来明确权衡总结数据或信标响应和隐私的效用相对于成员推断攻击的基础上似然比，结合变体抑制和修改。我们考虑两种攻击模型。在第一种情况下，攻击者应用似然比测试来做出成员推断声明。在第二个模型中，攻击者使用一个阈值，该阈值考虑了数据发布对数据集中的个体和非个体之间的分数分离的影响。我们进一步引入高度可扩展的方法，大约解决隐私效用权衡问题时，信息的形式是汇总统计或存在/不存在查询。最后，我们通过对公共数据集的广泛评估表明，所提出的方法在实用性和隐私性方面都优于最先进的方法。
2023-01-11 cs.AI cs.CR
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office（联邦统计局）
本文提出基于假设检验的新视角，量化相对披露风险，分析DP对统计显著性检验的影响，为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Quantum Solutions to the Privacy vs. Utility Tradeoff
Indraprastha Institute of Information Technology, Delhi（德里英德拉普拉斯塔信息技术学院）；Czech Technical University, Prague（布拉格捷克理工大学）
本文提出一种基于量子密码原语的新型架构，可叠加于任意经典或量子生成模型之上，以可证明的隐私与安全保证抵御成员推理攻击，并论证量子门相对差分隐私在对抗多项式时间敌手时的固有优势。
2023-07-06 cs.CR cs.LG quant-ph
On the Privacy-Utility Tradeoff in Peer-Review Data Analysis
Carnegie Mellon University（卡内基梅隆大学）
研究如何改进同行评审的一个主要障碍是无法获得同行评审数据，因为任何此类数据的发布都必须解决同行评审数据的敏感性，以保护评审者的身份不受作者的影响。我们认为有必要开发技术，以保护隐私的方式发布同行评审数据。识别这个问题，在本文中，我们提出了一个框架，以保护隐私的发布某些会议同行评审数据-分布的评级，误校准，和主观性-强调发布的数据的准确性（或实用程序）。该框架的关键在于认识到与评论有关的部分数据已经公开，我们使用这些信息对任何隐私机制发布的数据进行后处理，以提高数据的准确性（实用性），同时保留隐私保证。我们的框架可以与任何通过释放扰动数据来操作的隐私保护机制一起工作。我们提出了几个积极和消极的理论结果，包括多项式时间算法的隐私效用权衡的改善。
2020-06-29 cs.CR cs.DB cs.LG
Unlearning with Asymmetric Sources: Improved Unlearning-Utility Trade-off with Public Data
University of Waterloo（滑铁卢大学）
提出非对称朗之万反学习（ALU）框架，利用公共数据注入将反学习认证噪声成本降低O(1/n_pub^2)倍，在分布偏移下仍保持高效用。
2026-06-02 cs.CR cs.LG
Privacy and Utility Tradeoff in Approximate Differential Privacy
Google AI（谷歌人工智能（Google AI））；New York, NY 10011（纽约州纽约市（邮编10011））
本文研究了$(ε, δ)$ -差分隐私中单个实值查询函数的最小噪声幅值和噪声功率。我们推导出新的下界使用线性规划的对偶，并提出了一个新的类$(ε,δ)$ -差分私有机制，\emph{truncated Laplacian}机制，新的上界。我们发现，乘法差距的下限和上限在各种高隐私制度为零，证明了紧的下限和上限，从而建立截断拉普拉斯机制的最优性。特别是，我们的研究结果关闭了以前的常数乘法的离散设置的差距。数值实验表明，截断拉普拉斯机制的最佳高斯机制在所有的隐私机制的改善。
2019-02-05 cs.CR cs.LG
Automated discovery of trade-off between utility, privacy and fairness in machine learning models
Google（谷歌）；University of Cambridge（剑桥大学）
本研究将机器学习模型中公平性、隐私与效用之间的权衡视为多目标优化问题，提出基于贝叶斯优化的PFairDP流水线自动发现帕累托最优点，并在多模型与数据集上验证了其有效性。
2023-11-27 cs.CR cs.CY cs.LG
Overcoming the Randomness-Utility Trade-off in Answering Differentially Private Linear Queries
Cornell University（康奈尔大学）；Google Research（谷歌研究院）
该研究针对差分隐私线性查询，提出了随机高效的‖·‖_K范数机制，其在ℓ_∞误差下优于现有算法且在ε≤1/d时最优，还给出了计算高效的版本。
2026-09-03 cs.CC cs.CR
Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
联邦学习（FL）由于其分散的结构允许私下训练大量的数据。随机梯度下降（SGD）由于其良好的经验性能而通常用于FL，但是仍然可以从FL迭代期间共享的权重更新推断敏感的用户信息。我们考虑高斯机制，以保持局部差分隐私（LDP）的用户数据在FL模型与SGD。用户隐私，全球效用和传输速率之间的权衡证明通过定义适当的指标FL与LDP。与已有的结果相比，LDP中使用的查询敏感度被定义为一个变量，并应用更严格的隐私计费方法。建议的效用界允许所有用户的异构参数。我们的界限特征有多少效用减少和传输速率增加，如果一个更强的隐私制度的目标。此外，给定一个目标隐私级别，我们的研究结果保证一个显着更大的效用和更小的传输速率相比，现有的隐私会计方法。
2021-02-09 cs.CR cs.DC cs.IT
Mitigating the Safety-utility Trade-off in LLM Alignment via Adaptive Safe Context Learning
Ritzz-AI
本文提出ASCL框架，通过多轮工具使用过程提升推理能力，引入IFPO平衡优势估计，实现更高的整体性能。
2026-06-29 cs.AI cs.CL cs.CR
Revisiting ML Training under Fully Homomorphic Encryption: Convergence Guarantees, Differential Privacy, and Efficient Algorithms
University of Maryland, College Park, MD（马里兰大学 College Park 分校）；AlgoCRYPT CoE（算法密码学中心）
本文首次对全同态加密下的机器学习训练进行理论收敛性分析，结合适用于加密计算的差分隐私训练算法，通过多项式近似激活函数和损失函数实现近似梯度下降的收敛，并采用无逐样本梯度裁剪的差分隐私机制提升计算效率。
2026-05-27 cs.CR cs.LG
A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）
该研究提出统一的Learn-to-Distort-Data框架，通过将隐私保护机制的失真建模为可学习变量并与模型参数联合优化，实现联邦学习的隐私-效用均衡，可结合多领域技术设计相关算法。
2024-07-09 cs.AI cs.CR cs.LG
Privacy-Utility Trade-off of Linear Regression under Random Projections and Additive Noise
UCLA（加利福尼亚大学洛杉矶分校）
数据隐私是机器学习中的一个重要问题，并且从根本上与训练有用的学习模型的任务不一致，这通常需要获取大量的私有用户数据。在保护用户隐私的同时完成机器学习任务的一种可能的方法是在数据的变换的噪声版本上训练模型，这不会直接向训练过程揭示数据本身。在这项工作中，我们分析了两个这样的计划的线性回归问题的隐私效用权衡：加性噪声和随机投影。与以前的工作相比，我们考虑了最近提出的差分隐私的概念是基于条件互信息（MI-DP），这是强于传统的$(ε, δ)$ -差分隐私，并使用相对客观误差作为效用度量。我们发现，在添加噪声之前将数据投影到低维子空间通常会获得更好的权衡。我们还建立了隐私问题和（非相干）SIMO之间的联系，SIMO在无线通信中已被广泛研究，并使用工具进行分析。我们提出的数值结果表明该计划的性能。
2019-02-13 cs.CR cs.IT cs.LG
The Users' Perspective on the Privacy-Utility Trade-offs in Health Recommender Systems
该研究通过两项 n=521 的联合决策实验，考察用户在健康推荐系统中对 k-匿名与差分隐私等保护机制及数据分享场景的偏好，并据此提出开发建议。
2018-04-13 cs.CR cs.CY cs.HC
Optimized Tradeoffs for Private Prediction with Majority Ensembling
Carnegie Mellon University（卡内基梅隆大学）；Google DeepMind（谷歌DeepMind）
针对私有预测中多数集成的隐私-效用权衡问题，提出数据依赖随机响应多数（DaRRM）算法，通过数据依赖噪声函数γ优化效用，证明其在固定效用下隐私增益达基线2倍，且实证中展现显著效用提升。
2024-11-27 cs.CR cs.LG
Mapping the Privacy-Utility Tradeoff in Mobile Phone Data for Development
今天的数据时代具有很大的潜力，可以加强我们在发展和人道主义行动领域追求和监测进展的方式。我们研究了大规模行为数据中数据效用和隐私风险之间的关系，重点关注手机元数据作为范式域。为了衡量效用，我们调查了专家在不同的空间和时间粒度级别的移动电话元数据的价值。为了测量隐私，我们提出了一个正式的和直观的测量重识别风险$\unicode{x2014}$的信息比$\unicode{x2014}$，并计算它在每个粒度级别。我们的研究结果证实了数据效用和可重新识别性之间存在明显的权衡，其中最有价值的数据集也最容易重新识别。当数据以邮政编码和小时级别指定时，仅7%的个人数据的外部知识足以重新识别和检索其余93%。相比之下，在市政府和日常级别指定的最不有价值的数据集中，重新识别平均需要51%的外部知识，即31个数据点，一个人的数据，以检索其余的49%。总体而言，我们的研究结果表明，粗化数据直接侵蚀了其价值，并强调了使用数据粗化的必要性，而不是作为独立的机制，而是与提供可调整程度的问责制和安全性的数据共享模型相结合。
2018-08-01 cs.CR cs.CY econ.GN
Privacy-Utility Tradeoffs in Quantum Information Processing
Department of Mathematics, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校数学系）
本文研究了量子信息处理中隐私与效用的权衡，提出通过去极化机制优化隐私-效用平衡，并展示了私有学习可观测量期望值所需的样本数与隐私和准确性参数的关系。
2026-02-11 cs.CR cs.IT cs.LG
Clients Collaborate: Flexible Differentially Private Federated Learning with Guaranteed Improvement of Utility-Privacy Trade-off
Sun Yat-sen University（中山大学）；Harbin Institute of Technology（哈尔滨工业大学）
本文提出联邦学习框架 FedCEO，通过服务器端张量低秩近端优化让客户端协作平滑全局语义空间，在严格差分隐私保证下恢复模型语义并改进效用-隐私权衡界。
2025-05-05 cs.AI cs.CR cs.LG
The Privacy-Utility Tradeoff of Robust Local Differential Privacy
我们考虑数据$X=(S,U)$的数据发布协议，其中$S$是敏感的;发布的数据$Y$包含尽可能多的关于$X$的信息，作为$\operatorname{I}(X;Y)$测量，而不会泄露太多关于$S$的信息。我们引入鲁棒局部差分隐私（RLDP）框架来衡量隐私。这一框架依赖于数据的基本分布，而数据的基本分布需要根据现有数据进行估计。强大的隐私保证，确保隐私的所有分布在一个给定的集合$\mathcal{F}$，我们研究了两种情况下：当$\mathcal{F}$是所有分布的集合，当$\mathcal{F}$是一个置信度集产生的$χ^2$测试公开可用的数据集。在前一种情况下，我们引入了一个新的释放协议，我们证明是最佳的低隐私制度。在后一种情况下，我们提出了四个算法，从一个给定的数据集构建RLDP协议。其中之一是通过一个多面体近似$\mathcal{F}$，并使用稳健优化的结果来产生高实用性的发布协议。然而，该算法依赖于顶点枚举，并且对于大的输入空间变得计算上不可访问。其他三种算法是低复杂度的，并建立在随机响应的基础上。实验证明，所有四个算法提供了显着改善的效用比常规LDP。
2021-01-22 cs.CR cs.IT math.IT
Active Privacy-utility Trade-off Against a Hypothesis Testing Adversary
Imperial College London（帝国理工学院）
我们认为用户释放她的数据包含一些个人信息，以换取服务。我们将用户的个人信息建模为两个相关的随机变量，其中一个被称为秘密变量，是要保持私有，而另一个被称为有用变量，是要公开的效用。我们考虑主动顺序数据发布，其中在每个时间步，用户从有限的一组发布机制中进行选择，每个机制都揭示了关于用户个人信息的一些信息，即，真实的假设，尽管有不同的统计数据。用户以在线方式管理数据发布，使得关于潜在有用变量的最大量的信息被揭示，同时敏感变量的置信度被保持在预定义水平以下。对于效用，我们考虑了有用变量的正确检测概率和有用变量与发布数据之间的互信息（MI）。我们将这两个问题表示为马尔可夫决策过程（MDP），并通过优势行动者-批评者（A2 C）深度强化学习（RL）进行数值求解。
2021-02-18 cs.CR cs.IT cs.LG
Privacy utility trade offs for parameter estimation in degree heterogeneous higher order networks
Indian Statistical Institute, Kolkata, India（印度统计研究所）；Department of Statistics, The Ohio State University, Columbus, OH 43210, USA（统计系，俄亥俄州立大学）
本文研究了在度异质高阶网络中，基于β模型在本地和中心差分隐私约束下实现参数估计的隐私与效用权衡，并通过实验验证了方法的有效性。
2026-02-03 cs.CR cs.LG cs.SI
Differential Privacy: on the trade-off between Utility and Information Leakage
差分隐私是数据库社区中非常流行的隐私概念。粗略地说，这个想法是，如果两个相邻数据集给出相同答案的概率之比受e^n约束，则随机化查询机制提供了足够的隐私保护。在信息流领域，存在对控制信息泄漏的类似关注，即限制从可观察量推断秘密信息的可能性。近年来，研究人员提出用Rényi min互信息来量化泄漏，这是一个与贝叶斯风险严格相关的概念。在本文中，我们将展示如何建模的查询系统中的信息理论的渠道，我们比较的概念差分隐私与互信息。我们发现，差分隐私意味着一个界上的互信息（但不是反之亦然）。此外，我们证明了我们的界是紧的。然后，我们考虑随机化机制的效用，它表示随机化答案平均与真实答案的接近程度。我们表明，差分隐私的概念意味着效用上的界限，也紧，我们提出了一种方法，在一定条件下建立一个最佳的随机化机制，即提供最佳效用的机制，同时保证差分隐私。
2011-08-25 cs.CR cs.DB cs.IT
The Privacy-Utility Tradeoff in Rank-Preserving Dataset Obfuscation
本文研究数据集混淆中秩保持与用户匿名性的权衡，通过大偏差理论刻画单字母机制的性能极限，并将最优混淆信道建模为可高效求解的凸优化问题。
2023-05-11 cs.CR cs.DB cs.IT
