The Users' Perspective on the Privacy-Utility Trade-offs in Health Recommender Systems
该研究通过两项 n=521 的联合决策实验，考察用户在健康推荐系统中对 k-匿名与差分隐私等保护机制及数据分享场景的偏好，并据此提出开发建议。
2018-04-13 cs.CR cs.CY cs.HC
Privacy-Preserving Database Fingerprinting
当与其他方共享敏感的关系数据库时，数据库所有者旨在（i）具有对数据库条目的隐私保证，（ii）在接收者未经授权共享其数据库的情况下具有责任保证（通过指纹识别），以及（iii）向接收者提供高质量（实用）数据库。我们观察到，共享一个关系数据库的隐私和责任保证是正交的目标。前者可以通过向数据库中注入噪声来防止对原始数据值的推断来实现，而后者可以通过在数据库中隐藏唯一标记来跟踪未经授权重新分发数据的恶意方（数据接收方）来实现。我们同时实现这两个目标，提出了一种新的入门级差异私有指纹机制的关系数据库。在一个高层次上，所提出的机制满足隐私和责任的要求，利用随机化的性质，是固有的指纹，并实现所需的入门级隐私保证。更具体地说，我们设计了一个比特级的随机响应方案，以实现差分隐私保证任意数据录入时，共享整个数据库，然后，在此基础上，我们开发了一个$ε$ -入口级差分隐私指纹机制。接下来，我们从理论上分析了隐私保障，指纹鲁棒性和数据库效用之间的关系，推导出封闭形式的表达式。该分析的结果使我们能够约束属性推断攻击所造成的隐私泄漏，并描述了隐私-效用耦合和隐私-指纹鲁棒性耦合。此外，我们还提出了一个基于SVT的解决方案，以控制累积的隐私损失时，数据库的指纹副本与多个收件人共享。
2022-03-06 cs.CR cs.DB
Dynamically Adjusting Case Reporting Policy to Maximize Privacy and Utility in the Face of a Pandemic
在大流行期间支持公共卫生研究和公众对形势的认识需要持续传播传染病监测数据。立法，如1996年的健康保险可携带性和责任法案（HIPAA）和最近的州一级法规，允许共享去识别的个人数据;然而，目前的去识别方法是有限的。也就是说，它们效率低下，依赖于追溯性的披露风险评估，并且不随感染率或人口统计数据随时间的变化而变化。在本文中，我们介绍了一个框架，以动态适应去识别的近实时的共享的个人级监控数据。该框架利用模拟机制，能够在任何地理级别的应用程序，预测在广泛的泛化政策下共享数据的重新识别风险。这些估计为每周的预期策略选择提供信息，以将对应于小于11的组大小（PK 11）的记录比例保持在0.1或以下。在每周开始时修复策略有助于及时更新数据集，并支持共享粒度日期信息。我们使用约翰霍普金斯大学和疾病控制和预防中心2020年8月至2021年10月的病例数据来证明该框架在维持PK方面的有效性！阈值为0.01。当在美国所有县共享COVID-19县级病例数据时，该框架的方法满足96.2%的每日数据发布阈值，而基于当前去识别技术的政策满足32.3%的阈值。定期调整数据发布政策可以保护隐私，同时通过及时更新和共享流行病学关键特征来增强公共卫生效用。
2022-02-25 cs.CR cs.CY
Privacy-Aware Location Sharing with Deep Reinforcement Learning
基于位置的服务（LBS）已经变得广泛流行。尽管这些服务具有实用性，但它们引起了对隐私的担忧，因为它们需要与不受信任的第三方共享位置信息。在这项工作中，我们研究的隐私效用权衡位置共享机制。现有的方法主要集中在共享单个位置的隐私或近视的位置跟踪隐私，他们都没有考虑到过去和当前位置之间的时间相关性。虽然这些方法保留了当前时间的隐私，但它们可能会在跟踪级别泄漏大量信息，因为对手可以利用跟踪中的时间相关性。我们提出了一个信息理论上最优的隐私保护位置发布机制，考虑到时间相关性。我们通过用户真实位置轨迹和发布位置轨迹之间的互信息来度量隐私泄露。为了解决历史相关的互信息最小化问题，我们将该问题重新表示为马尔可夫决策过程（MDP），并使用异步行动者-批评者深度强化学习（RL）解决它。
2019-10-03 cs.CR cs.IT math.IT
A Survey of What to Share in Federated Learning: Perspectives on Model Utility, Privacy Leakage, and Communication Efficiency
Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Polytechnic University（香港理工大学）
本文从“共享什么”的新视角系统综述了联邦学习，提出基于共享模型、合成数据和知识的新分类法，分析了隐私攻击脆弱性与防御机制，并通过实验比较了不同共享方式的学习性能、通信开销及隐私泄露情况。
2024-02-18 cs.CR cs.LG
Genomic Data Sharing under Dependent Local Differential Privacy
保护隐私的基因组数据共享对于加快基因组研究的步伐，从而为个性化基因组医学铺平道路是非常重要的。在本文中，我们引入（$ε, T$）依赖的本地差分隐私（LDP）的隐私保护相关数据的共享，并提出了一个基因组数据共享机制下的隐私定义。我们首先指出LDP的原始定义不适合基因组数据共享，然后提出了一种新的基因组数据共享机制。该机制考虑了数据共享过程中数据之间的相关性，预先消除统计上不可能的数据值，并相应地调整每个共享数据点的概率分布。通过这样做，我们表明，我们可以避免攻击者推断的正确值的共享数据点，利用数据中的相关性。通过调整每个数据点的共享状态的概率分布，我们还提高了数据收集器的共享数据的效用。此外，我们开发了一个贪心算法，战略性地确定处理顺序的共享数据点的目的是最大限度地利用共享数据。考虑到在共享基因组数据时相互依赖的隐私风险，我们还通过观察基因组供体的扰动数据来分析攻击者关于供体家庭成员的基因组的信息增益，并且我们提出了一种选择隐私预算的机制（即，LDP的$ε$参数）。我们对现实生活中的基因组数据集的评估结果表明，所提出的机制相比，随机响应机制（广泛使用的技术，以实现LDP）的优越性。
2021-02-15 cs.CR
Collusion-Secure Watermarking for Sequential Data
在这项工作中，我们解决了由于未经授权共享个人数据而可能产生的责任问题。我们考虑的情况下，一个人分享他的序列数据（如基因组数据或位置模式）与几个服务提供商（SP）。在这种情况下，如果他的数据在未经他同意的情况下与其他第三方共享，个人希望确定对这种未经授权的共享负责的服务提供商。为了提供这种功能，我们提出了一种新的基于优化的水印方案，用于共享顺序数据。因此，在未经授权的敏感数据共享的情况下，所提出的方案可以找到泄漏的来源，通过检查泄漏的数据内的水印。特别地，所提出的方案以高概率保证（i）接收数据的恶意SP不能理解加水印的数据点，（ii）当多于一个恶意SP聚合它们的数据时，它们仍然不能确定加水印的数据点，（iii）即使未授权共享仅涉及原始数据或修改的数据的一部分（以损坏水印），则可以保持对应的恶意SP对泄漏负责，以及（iv）所添加的水印符合对应数据的性质。也就是说，如果在数据中存在固有的相关性，则添加的水印仍然保留这种相关性。水印通常意味着改变数据的某些部分，因此它可能对数据效用产生负面影响。所提出的方案也最大限度地减少这种效用损失，同时它提供了上述的安全保证。此外，我们进行了一个案例研究，该计划的基因组数据，并显示该计划的安全性和实用性的保证。
2017-08-18 cs.CR
PPaaS: Privacy Preservation as a Service
个人身份信息（PII）可以通过各种渠道进入网络空间，许多潜在的来源可以泄露这些信息。用于机器学习和分析的数据共享（例如跨机构数据共享）是数据科学的重要组成部分之一。然而，出于隐私方面的考虑，在共享之前，数据应该得到强有力的隐私保障。不同的隐私保护方法被开发用于隐私保护数据共享;然而，确定用于特定数据集的隐私保护的最佳隐私保护方法仍然是一个挑战。不同的参数可以影响该过程的功效，例如输入数据集的特征、隐私保护方法的强度以及结果数据集的预期效用水平（在相应的数据采掘应用（例如分类）上）。本文提出了一种称为\underline{P}预约\underline{P}的\underline{a} s \underline{a} \underline{S}服务（PPaaS）的框架来降低这种复杂性。该方法通过数据扰动采用选择性隐私保护，并查看可能影响数据集隐私保护质量的不同动态。PPaaS包括数据扰动方法池，对于每个应用程序和输入数据集，PPaaS在经过严格评估后选择最合适的数据扰动方法。它增强了其池中隐私保护方法的可用性;它是一个通用平台，可用于通过采用各种隐私保护算法的适当组合来以粒度，特定于应用程序的方式清理大数据，以提供隐私和实用性之间的适当平衡。
2021-04-21 cs.CR cs.DB
Some Examples of Privacy-preserving Publication and Sharing of COVID-19 Pandemic Data
COVID-19疫情期间收集了大量不同类型的数据，对这些数据的分析和解读对于遏制疾病的传播是不可或缺的。随着疫情发展成为地方性流行，疫情期间收集的数据将继续成为进一步研究和了解疫情对我们社会各方面影响的丰富来源。另一方面，天真的信息发布和共享可能与严重的隐私问题有关。在本研究中，我们使用流行期间收集的三种常见但不同的数据类型（病例监测表格数据、病例位置数据和接触者追踪网络）来说明以隐私保护方式发布和共享粒度信息和个人层面的流行病数据。我们利用并构建了差分隐私的概念，为每种数据类型生成和发布隐私保护数据。我们调查的推理效用的隐私保护信息，通过模拟研究，在不同层次的隐私保证，并在现实生活中的数据证明的方法。研究中采用的所有方法都很容易应用。我们的研究提供了统计证据，说明在隐私保障的情况下共享大流行数据的实际可行性，以及如何在这一过程中平衡所发布信息的统计效用。
2022-09-13 cs.CR cs.CY
Privacy in Cloud Computing through Immersion-based Coding
本文提出一种基于差分隐私与系统浸入式控制的编码框架，通过扭曲数据、设计等价目标算法和解码函数，在保证任意差分隐私水平且不降低算法效用的情况下实现云端隐私保护，并用优化学习算法和非线性网络控制系统验证其性能。
2024-08-09 cs.CR
Active Privacy-Utility Trade-off Against Inference in Time-Series Data Sharing
Imperial College London（帝国理工学院）
物联网（IoT）设备，如智能电表，智能扬声器和活动监视器，由于它们提供的服务而变得非常受欢迎。然而，除了它们的许多好处之外，它们还引起了隐私问题，因为它们与不受信任的第三方共享细粒度的时间序列用户数据。在这项工作中，我们认为用户释放她的数据包含个人信息，从一个诚实但好奇的服务提供商（SP）的服务回报。我们将用户的个人信息建模为两个相关的随机变量（r. v.的），其中一个称为秘密变量，是要保持私有的，而另一个称为有用变量，是为了实用而公开的。我们考虑主动顺序数据发布，其中在每个时间步，用户从有限的一组发布机制中进行选择，每个机制都揭示了关于用户个人信息的一些信息，即，r. v.的真实值。尽管统计数据不同。用户以在线方式管理数据发布，使得尽可能快地揭示关于潜在有用变量的最大量的信息，同时敏感变量的置信度保持在预定义水平以下。对于隐私性度量，我们考虑了正确检测秘密的真实值的概率和秘密与发布数据之间的互信息。我们将这两个问题表示为部分可观察马尔可夫决策过程（POMDPs），并通过优势行动者-批评者（A2 C）深度强化学习（DRL）进行数值求解。我们评估了所提出的策略在合成数据和吸烟活动数据集上的隐私-效用权衡（PUT），并通过测试由长短期记忆（LSTM）神经网络建模的SP的活动检测准确性来证明其有效性。
2022-02-11 cs.CR cs.IT cs.LG
Using Illustrations to Communicate Differential Privacy Trust Models: An Investigation of Users' Comprehension, Perception, and Data Sharing Decision
适当的通信是采用和实施差分隐私（DP）的关键。然而，之前的一项研究发现，外行人不了解DP的数据扰动过程以及DP噪声如何保护他们的敏感个人信息。因此，他们不信任这些技术，并选择退出参与。在这个项目中，我们设计了三个DP模型（中央DP，本地DP，洗牌DP）的示意图，以帮助外行概念化如何添加随机噪声，以保护个人的隐私和维护群体的效用。在试点调查和访谈研究之后，我们进行了两个在线实验（N = 595），研究参与者的理解，隐私和效用感知，以及三个DP模型的数据共享决策。除了三个模型之间的比较之外，我们还改变了每个模型的噪声水平。我们发现，插图可以有效地沟通DP的参与者。考虑到对DP的充分理解，参与者更喜欢对某种类型的数据使用场景（即，商业利益）在模型水平和噪声水平上。我们还获得了经验证据，表明参与者接受Shuffler DP模型的数据隐私保护。我们的研究结果对以用户为中心的差分隐私部署的多个利益相关者具有影响，包括应用程序开发人员，DP模型开发人员，数据管理员和在线用户。
2022-02-21 cs.CR
Utility-Optimized Synthesis of Differentially Private Location Traces
Koç University（科奇大学）；Georgia Institute of Technology（佐治亚理工学院）
差分隐私位置轨迹合成（DPLTS）最近出现作为一种解决方案，以保护移动用户的隐私，同时使他们的位置轨迹的分析和共享。DPLTS中的一个关键挑战是最好地保留位置跟踪数据集中的效用，考虑到数据集的高维性、复杂性和异质性以及效用的不同类型和概念，这是不平凡的。在本文中，我们提出了OptaTrace：一个实用程序优化和有针对性的方法DPLTS。给定真实跟踪数据集D、控制隐私保护强度的差分隐私参数E1和感兴趣的效用/误差度量Err; OptaTrace使用贝叶斯优化来优化DPLTS，使得输出误差（根据给定度量Err测量）最小化，同时满足E1-差分隐私。此外，OptaTrace还引入了一个实用程序模块，其中包含用于实用程序基准测试和选择Err的几个内置错误度量，以及用于可访问和交互式DPLTS服务的前端Web界面。实验表明，OptaTrace的优化输出可以产生实质性的效用改善和错误减少相比，以前的工作。
2020-09-14 cs.CR cs.DB cs.LG
Tagvisor: A Privacy Advisor for Sharing Hashtags
标签已经成为流行文化和运动中广泛使用的概念，但其对人们隐私的影响迄今尚未被调查。在本文中，我们提出了第一个由标签引起的隐私问题的系统分析。我们特别关注位置，这被认为是互联网时代的关键隐私问题之一。通过依赖于一个随机森林模型，我们表明，我们可以推断用户的精确位置从标签的准确性为70\ %至76\ %，这取决于城市。为了解决这种情况，我们引入了一个名为Tagvisor的系统，如果用户选择的标签对位置隐私构成威胁，该系统会系统地建议替代标签。tagvisor通过三种概念上不同的混淆技术和一个基于语义的度量来实现这一点，用于测量随之而来的效用损失。我们的研究结果表明，在我们的数据集中，混淆两个标签已经在隐私和实用性之间提供了接近最佳的权衡。这特别使Tagvisor具有高度的时间效率，因此在现实世界中非常实用。
2018-02-12 cs.CR cs.SI
MaskAnyone Toolkit: Offering Strategies for Minimizing Privacy Risks and Maximizing Utility in Audio-Visual Data Archiving
本文提出 MaskAnyone 工具包，利用换脸、语音变声、多人遮蔽与实时批量处理实现音视频去身份化，以兼顾研究数据共享的隐私保护、伦理合规与数据效用。
2024-08-06 cs.CR cs.MM
RecUP-FL: Reconciling Utility and Privacy in Federated Learning via User-configurable Privacy Defense
University of Tennessee（田纳西大学）；Rutgers University（罗格斯大学）；Intuit AI Research（Intuit人工智能研究院）
本文提出用户可配置的联邦学习隐私防御方法 RecUP-FL，通过对抗学习生成梯度扰动以保护用户指定敏感属性，并利用元学习思想提升对黑盒攻击的可迁移性，在满足隐私约束的同时显著改善模型效用。
2023-04-11 cs.CR cs.LG
Aim High, Stay Private: Differentially Private Synthetic Data Enables Public Release of Behavioral Health Information with High Utility
University of Vermont（佛蒙特大学）
本文利用差分隐私技术生成合成数据，在保障隐私的同时，使行为健康信息的公开发布保持高实用性，通过评估不同隐私预算下的数据集，确定隐私与实用性的平衡点。
2025-06-30 cs.CR cs.CY
Sell Data to AI Algorithms Without Revealing It: Secure Data Valuation and Sharing via Homomorphic Encryption
University of Texas at Dallas（达拉斯大学）
本文提出Trustworthy Influence Protocol，利用同态加密和梯度影响函数，在不解密数据的情况下评估外部数据的效用，验证了其在医疗和生成AI领域的经济潜力，挑战了现有定价模型。
2026-03-23 cs.CR econ.GN q-fin.EC
Private data sharing between decentralized users through the privGAN architecture
University of British Columbia（不列颠哥伦比亚大学）
更多的数据几乎总是有利于分析和机器学习任务。然而，在许多现实情况下，企业不能共享其数据，以保持竞争优势或保护数据源的隐私，例如企业的客户端。我们提出了一种方法，让数据所有者共享他们数据的合成或伪造版本，而不共享实际数据，也不共享直接访问数据的模型参数。所提出的方法基于privGAN架构，其中本地GANs在其各自的数据子集上进行训练，并具有来自中央训练器的额外惩罚，旨在区分给定假样本的来源。我们证明了这种方法，当应用于各种大小的子集，导致更好的效用为业主比实用程序从他们真正的小数据集。唯一共享的信息片段是中央处理器的参数更新。通过对该体系结构中最脆弱的部分进行白盒攻击，证明了该体系结构的隐私性，其结果接近于随机猜测。这种方法将自然地应用于联邦学习环境中。
2020-09-14 cs.CR cs.LG stat.ML
Adversarial Representation Sharing: A Quantitative and Secure Collaborative Learning Framework
Shanghai Jiao Tong University（上海交通大学）
深度学习模型的性能高度依赖于训练数据的量。如今的数据持有者通常会合并他们的数据集并协同训练模型，这对数据隐私构成了威胁。与安全多方计算（MPC）、联邦学习（FL）等现有方法不同，表示学习具有通信开销小、任务无关等特点，在协同学习中具有独特的优势。然而，数据表示面临着模型反演攻击的威胁。在本文中，我们正式定义了协作学习场景，并量化了数据效用和隐私。然后，我们提出了ARS，一个协作学习框架，其中用户共享表示的数据训练模型，并添加难以察觉的对抗性噪声对重建或属性提取攻击的数据表示。通过在不同环境下对ARS进行评估，我们证明了我们的机制能够有效地抵抗模型反演攻击，并在隐私和实用性之间取得了平衡。ARS框架具有广泛的适用性。首先，ARS对于各种数据类型都是有效的，不限于图像。其次，用户共享的数据表示可以在不同的任务中使用。第三，该框架可以很容易地扩展到垂直数据分区场景。
2022-03-27 cs.CR cs.LG
Enabling Trade-offs in Privacy and Utility in Genomic Data Beacons and Summary Statistics
Washington University in St. Louis（华盛顿大学圣路易斯分校）；Vanderbilt University Medical Center（范德堡大学医学中心）
基因组数据的收集和共享在研究、临床和直接面向消费者的环境中变得越来越普遍。通常用于保护个人隐私的计算协议包括共享汇总统计数据，例如等位基因频率，或使用称为Bestrom的网络服务将查询响应限制为存在/不存在感兴趣的等位基因。然而，即使这样的有限发布也容易受到基于似然比的成员推断攻击的影响。已经提出了几种方法来保护隐私，这些方法或者抑制基因组变体的子集，或者修改针对特定变体的查询响应（例如，如在差分隐私中那样增加噪声）。然而，这些方法中的许多导致显著的效用损失，抑制许多变体或添加大量噪声。在本文中，我们引入了基于优化的方法来明确权衡总结数据或信标响应和隐私的效用相对于成员推断攻击的基础上似然比，结合变体抑制和修改。我们考虑两种攻击模型。在第一种情况下，攻击者应用似然比测试来做出成员推断声明。在第二个模型中，攻击者使用一个阈值，该阈值考虑了数据发布对数据集中的个体和非个体之间的分数分离的影响。我们进一步引入高度可扩展的方法，大约解决隐私效用权衡问题时，信息的形式是汇总统计或存在/不存在查询。最后，我们通过对公共数据集的广泛评估表明，所提出的方法在实用性和隐私性方面都优于最先进的方法。
2023-01-11 cs.AI cs.CR
Privacy-Aware Time-Series Data Sharing with Deep Reinforcement Learning
物联网（IoT）设备由于其提供的许多新服务和应用而变得越来越受欢迎。然而，除了它们的许多好处之外，它们还引起了隐私问题，因为它们与不受信任的第三方共享细粒度的时间序列用户数据。在这项工作中，我们研究了时间序列数据共享中的隐私效用权衡（PUT）。现有的PUT方法主要集中在一个单一的数据点，然而，时间序列数据的时间相关性引入了新的挑战。保护当前时间隐私的方法可能会在跟踪级别泄漏大量信息，因为对手可以利用跟踪中的时间相关性。我们考虑与不可信的第三方共享用户真实数据序列的失真版本。通过用户真实数据序列与共享数据序列之间的互信息来度量隐私泄露。我们考虑两个序列之间的瞬时和平均失真，在给定的失真措施，作为效用损失度量。为了解决历史相关的互信息最小化问题，我们将该问题重新表示为马尔可夫决策过程（MDP），并使用异步行动者-批评者深度强化学习（RL）解决它。我们在合成和GeoLife GPS轨迹数据集上评估了拟议解决方案在位置跟踪隐私方面的性能。对于后者，我们通过测试针对对手网络发布的位置轨迹的隐私来证明我们的解决方案的有效性。
2020-06-23 cs.CR cs.IT math.IT
QuanText: Protecting Dataset-Level Secrets in Textual Data Sharing
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
QuanText提出一种免训练、模型无关的文本数据发布机制，通过随机量化扰动全局机密及相关属性分布，在保护数据集级机密的同时保持效用，并优于现有基线。
2026-09-21 cs.CR cs.LG
Sharing Computer Network Logs for Security and Privacy: A Motivation for New Methodologies of Anonymization
对于任何安全专业人员来说，安全是最基本的资源之一。政府和工业界广泛认识到，出于安全研究的目的，共享日志既有益又可取。然而，分享并没有发生，或者没有达到期望的程度或幅度。由于存在将敏感信息暴露给潜在攻击者的风险，组织不愿意共享日志。我们认为这种不情愿仍然很高，因为目前的匿名技术很弱，而且一刀切-或者更好地说，一种尺寸试图适合所有人。我们必须制定标准，并在不同级别上提供匿名化，在隐私和实用性之间取得平衡。组织有不同的需求，对其他组织的信任程度也不同。他们必须能够将具有定义风险的多个匿名化级别映射到他们与（潜在）接收者共享的信任级别。直到有多层次匿名化的行业标准，我们才能够向前迈进，实现安全研究人员广泛共享日志的目标。
2004-09-03 cs.CR
Analysing Fairness of Privacy-Utility Mobility Models
Imperial College London（伦敦帝国理工学院）；University of Washington（华盛顿大学）
本文定义了一组基于轨迹结构相似性和熵的人类移动性公平性指标，并据此评估两个基于GAN和表示学习的隐私保护模型，发现它们在群体公平上达标但违反个人公平性，揭示了重识别任务与个人公平性之间的张力。
2023-04-10 cs.AI cs.CR cs.CY
Statistical Data Privacy: A Song of Privacy and Utility
为了量化开放数据共享需求的增长和对敏感信息泄露的担忧之间的权衡，统计数据隐私（SDP）方法分析了基于机密数据的净化输出的数据发布机制。目前存在两个主要框架：统计披露控制（SDC）和最近的差分隐私（DP）。尽管框架不同，但SDC和DP在核心上都有相同的统计问题。对于推理问题，我们可以设计满足披露风险界限的最佳释放机制和相关估计，或者我们可以调整现有的净化输出以创建新的最佳估计。这两个问题都依赖于评估风险和效用的不确定性量化。在这篇评论中，我们讨论了共同的统计基础，SDC和DP，强调SDP的主要发展，并提出了令人兴奋的开放式研究问题的私人推理。
2022-05-06 cs.CR stat.ME
MC-GEN:Multi-level Clustering for Private Synthetic Data Generation
University of South Florida（南佛罗里达大学）；Snap Inc.（Snap公司）
随着机器学习和数据科学的发展，企业和研究机构之间为避免数据稀缺而进行的数据共享非常普遍。然而，共享包含隐私信息的原始数据集可能会导致隐私泄露。一个可靠的解决方案是利用私人合成数据集，保留原始数据集的统计信息。在本文中，我们提出了MC-GEN，隐私保护合成数据生成方法下的差分隐私保证机器学习分类任务。MC-GEN采用多级聚类和差分私有生成模型来提高合成数据的效用。在实验评估中，我们评估了参数的影响和MC-GEN的有效性，结果表明MC-GEN在一定的隐私保证下对多分类任务都能取得显著的效果。此外，我们比较MC-GEN与现有的三种方法。结果表明，MC-GEN在实用性方面优于其他方法。
2022-11-29 cs.CR cs.LG
REAN: Reconstruction-aware ECG Anonymization Based on Privacy--Utility Orthogonality
Chung-Ang University（Chung-Ang大学）
研究针对共享心电图隐私-效用权衡问题，提出REAN方法，利用一维U-Net及冻结的分类器损失训练重建信号，在四个数据库上实现强隐私-效用平衡，降低重新识别率，保持诊断性能及架构下的保护。
2026-07-08 cs.CR cs.LG
Privacy-Preserving Dataset Combination
New York University（纽约大学）；University of California, Berkeley（加州大学伯克利分校）；University of California, San Francisco（加州大学旧金山分校）
针对数据共享中的隐私与效用评估难题，提出首个零隐私泄漏的安全数据集评估协议SecureKL，通过私有计算实现数据集间散度度量，在真实数据上与非私有方法相关性超90%，有效识别跨域有益数据协作。
2025-10-17 cs.CR cs.CY cs.LG
Metric geometry of the privacy-utility tradeoff
本文利用度量隐私和度量几何，提出用“熵尺度”刻画最优隐私-精度权衡，并通过多种度量空间示例验证该框架的适用性。
2024-05-01 cs.CR cs.DS math.PR
Privacy-Preserving Data Sharing for Genome-Wide Association Studies
传统的统计数据库的保密性保护的统计方法不能很好地扩展到处理GWAS（全基因组关联研究）数据库，特别是在保护与外部信息的联系方面。由加密社区引入的最近的差分隐私概念是一种在任意外部信息存在的情况下提供严格的隐私定义和有意义的隐私保证的方法，尽管这些保证在数据效用方面付出了沉重的代价。基于这样的概念，我们提出了新的方法来释放聚合GWAS数据，而不损害个人的隐私。我们提出了释放差异私人次要等位基因频率，卡方统计和p值的方法。我们比较这些方法的模拟数据和GWAS研究犬毛长度涉及685只狗。我们还提出了一个隐私保护的方法，发现全基因组协会的基础上，一个差异私人的方法惩罚逻辑斯谛回归。
2012-05-03 cs.CR stat.ME
Data Sharing with Endogenous Choices over Differential Privacy Levels
The Ohio State University（俄亥俄州立大学）；MIT（麻省理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Google（谷歌）；Georgia Institute of Technology（佐治亚理工学院）
本文研究了在差分隐私下，玩家具有异质隐私偏好时，大规模数据共享联盟能否通过去中心化方式形成。研究分析了去中心化数据共享机制中玩家的参与和隐私噪声添加决策，揭示了隐私选择带来的权衡：更高的隐私降低个体隐私成本但减少联盟的数据效用和统计准确性。研究发现完全去中心化的数据共享在社会福利和估计精度上效率低下，而简单的部分去中心化机制能缩小这一效率差距。
2026-05-18 cs.CR cs.GT
DP$^2$-FedSAM: Enhancing Differentially Private Federated Learning Through Personalized Sharpness-Aware Minimization
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出DP$^2$-FedSAM，结合个性化部分模型共享与锐度感知最小化，在差分隐私联邦学习中减轻噪声与裁剪影响，提升模型效用，尤其在数据异构场景下改善隐私-效用权衡。
2024-09-20 cs.CR cs.DC cs.LG
Exploring the Integration of Differential Privacy in Cybersecurity Analytics: Balancing Data Utility and Privacy in Threat Intelligence
University of Chadli Bendjedid, Faculty of Sciences & Technology（查德利·本杰迪德大学，科学与技术学院）
本文探讨了差分隐私在网络安全分析中的应用，通过平衡数据效用与隐私保护，提升威胁情报的安全共享能力。
2026-01-01 cs.CR
SMOTE-DP: Improving Privacy-Utility Tradeoff with Synthetic Data
University of Texas at Dallas Richardson, TX 75082（德克萨斯大学达拉斯分校）；Vanderbilt University Medical Center Nashville, TN 37232（范德比尔特大学医学中心）；Virginia Tech Blacksburg, VA 24061（弗吉尼亚理工大学）
本文提出 SMOTE-DP 方法，将 SMOTE 与差分隐私数据生成器结合，在保证强隐私保护的同时维持下游学习任务的效用。
2025-06-02 cs.CR cs.LG stat.ML
Concentrated Differentially Private and Utility Preserving Federated Learning
University of Texas at San Antonio（得克萨斯大学圣安东尼奥分校）
联邦学习是一种机器学习设置，其中一组边缘设备在中央服务器的编排下协作训练模型，而不共享其本地数据。在联邦学习的每一轮通信中，边缘设备使用其本地数据执行多个步骤的随机梯度下降，然后将计算结果上传到服务器进行模型更新。在此过程中，由于边缘设备和服务器之间的信息交换，当服务器不完全可信时，隐私泄露的挑战就会出现。虽然以前的一些隐私保护机制可以很容易地用于联邦学习，但它们通常在算法的收敛和学习模型的实用性方面付出很高的代价。在本文中，我们开发了一种联邦学习方法，通过局部梯度扰动，安全聚合和零集中差分隐私（zCDP）的组合，在不降低模型效用的情况下解决隐私挑战。我们提供了一个严格的端到端的隐私保证我们的方法，并分析其理论收敛速度。通过在真实数据集上的大量数值实验，我们证明了我们提出的方法的有效性，并显示了其优越的隐私和模型效用之间的权衡。
2020-09-22 cs.CR cs.LG stat.ML
Privacy-Aware Adversarial Network in Human Mobility Prediction
Imperial College London（伦敦帝国理工学院）；University of Washington（华盛顿大学）
随着移动设备和基于位置的服务在不同的智慧城市场景和应用中的日益发展，由于地理定位的数据汇集和共享，出现了许多意想不到的隐私泄露。当地理定位数据与云辅助应用程序共享时，用户重新识别和其他敏感推断是主要的隐私威胁。值得注意的是，4个时空点足以唯一识别95%的个体，这加剧了个人信息泄露。为了解决诸如用户重新识别之类的恶意目的，我们提出了一种基于LSTM的对抗机制，该机制具有表示学习以获得原始地理定位数据的隐私保护特征表示（即，移动性数据）用于共享目的。这些表示旨在以最小的效用预算（即，损失）。我们训练的机制，通过量化隐私效用权衡的移动数据集的轨迹重建风险，用户重新识别风险，和移动的可预测性。我们报告了一个探索性的分析，使用户能够评估这种权衡与特定的损失函数及其权重参数。四个代表性的移动数据集上的广泛的比较结果表明，我们提出的架构在移动隐私保护和建议的隐私保护功能提取器的效率的优越性。我们表明，隐私的流动性痕迹达到体面的保护边际流动性效用的成本。我们的研究结果还表明，通过探索帕累托最优设置，我们可以同时提高隐私（45%）和效用（32%）。
2022-08-09 cs.CR cs.CY cs.LG
Privacy-Preserving Fair Synthetic Tabular Data
University of Manitoba（曼尼托巴大学）
针对合成表格数据中隐私与公平性难以兼顾的问题，提出基于WGAN-GP的PF-WGAN生成器，通过添加隐私和公平性约束，在效用、隐私和公平性间实现了更均衡的权衡。
2025-03-04 cs.CR cs.LG
BPFISH: Blockchain and Privacy-preserving FL Inspired Smart Healthcare
Indian Institute of Technology (Banaras Hindu University) Varanasi（瓦拉纳西印度理工学院（贝拿勒斯印度教大学））
本文提出了基于联邦学习（FL）的智能医疗系统，其中医疗中心（MC）使用从患者收集的数据训练本地模型，并将模型权重发送给基于区块链的健壮框架中的矿工，而无需共享原始数据，并考虑隐私保护。我们通过最大化效用和最小化损失函数来制定优化问题，考虑MC的能量消耗和FL过程延迟，以在基于区块链的框架下学习分布式医疗数据的有效模型。我们分两个阶段提出了一个解决方案：首先，提供一个稳定的基于匹配的关联算法，以最大化矿工和MC的效用，然后使用随机梯度下降（SGD）算法解决损失最小化问题，该算法采用差分隐私（DP）和区块链技术下的FL。此外，我们结合区块链技术，在拟议的基于FL的框架中提供耐调和和分散的模型权重共享。该模型的有效性，通过模拟现实世界的医疗数据比较其他国家的最先进的技术。
2022-07-27 cs.CR cs.LG cs.NI
Privacy-Aware Human Mobility Prediction via Adversarial Networks
Imperial College London（帝国理工学院）；University of Washington（华盛顿大学）
随着各种移动设备和基于位置的服务在不同的智慧城市场景和应用中越来越多地发展，由于地理定位的数据汇集和共享，出现了许多意想不到的隐私泄露。虽然这些地理定位数据可以提供对人类移动模式的丰富理解并解决各种社会研究问题，但对用户敏感信息的隐私问题限制了其利用。在本文中，我们设计并实现了一种新的基于LSTM的对抗机制与表示学习，以达到一个隐私保护的功能表示的原始地理定位数据（移动数据）的共享目的。我们量化了移动数据集在轨迹重建风险、用户重新识别风险和移动可预测性方面的效用-隐私权衡。我们提出的架构报告的帕累托前沿分析，使用户能够评估这种权衡作为一个函数的拉格朗日损失重量参数。在四个有代表性的移动数据集上的广泛比较结果表明了我们提出的架构的优越性和所提出的隐私保护特征提取器的效率。我们的研究结果表明，通过探索帕累托最优设置，我们可以同时增加隐私（45%）和效用（32%）。
2022-01-19 cs.CR cs.LG
Trading Off Privacy, Utility and Efficiency in Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本研究提出兼容横纵向联邦学习的统一框架，量化隐私泄露、效用损失与效率下降的权衡关系，推导NFL定理，并分析主流保护机制的相关下界，为参数选择提供指导。
2023-02-21 cs.CR cs.DC cs.LG
Assessing Privacy Leakage in Synthetic 3-D PET Imaging using Transversal GAN
Data Science Institute, University of British Columbia（不列颠哥伦比亚大学数据科学研究所）；BC Cancer Research Institute（不列颠哥伦比亚癌症研究所）；University of British Columbia（不列颠哥伦比亚大学）
在医学图像上训练用于疾病诊断或图像分割的计算机视觉相关算法在很大程度上是由于隐私问题而困难的。出于这个原因，生成图像模型非常受欢迎，以促进数据共享。然而，3-D生成模型的研究不足，他们的隐私泄漏的调查是必要的。我们介绍了我们的3-D生成模型，GAN（TrGAN），使用头部和颈部PET图像的肿瘤掩模作为一个案例研究。我们为我们的模型定义了图像保真度，实用性和隐私性的定量测量。这些指标在训练过程中进行评估，以确定理想的保真度，实用性和隐私权衡，并建立这些参数之间的关系。我们证明了TrGAN的训练样本容易受到攻击，并且攻击者可以以近乎完美的准确度（AUC = 0.99）识别出哪些样本用于训练。我们还表明，只访问生成器的攻击者无法可靠地分类样本是否用于训练（AUC = 0.51）。这表明，TrGAN发生器，而不是鉴别器，可以用于共享合成的3-D PET数据，具有最小的隐私风险，同时保持良好的实用性和保真度。
2023-10-31 cs.CR cs.CV cs.LG
Local Differential Privacy for Smart Meter Data Sharing
University of New South Wales（新南威尔士大学）
针对现有本地差分隐私方法无法保护电器级智能电表流数据隐私的问题，提出带滑动窗口随机响应的LDP-SmartEnergy方法，在隐私保护与数据效用间取得平衡且效率更优。
2023-11-08 cs.AI cs.CR cs.SE
Mapping the Privacy-Utility Tradeoff in Mobile Phone Data for Development
今天的数据时代具有很大的潜力，可以加强我们在发展和人道主义行动领域追求和监测进展的方式。我们研究了大规模行为数据中数据效用和隐私风险之间的关系，重点关注手机元数据作为范式域。为了衡量效用，我们调查了专家在不同的空间和时间粒度级别的移动电话元数据的价值。为了测量隐私，我们提出了一个正式的和直观的测量重识别风险$\unicode{x2014}$的信息比$\unicode{x2014}$，并计算它在每个粒度级别。我们的研究结果证实了数据效用和可重新识别性之间存在明显的权衡，其中最有价值的数据集也最容易重新识别。当数据以邮政编码和小时级别指定时，仅7%的个人数据的外部知识足以重新识别和检索其余93%。相比之下，在市政府和日常级别指定的最不有价值的数据集中，重新识别平均需要51%的外部知识，即31个数据点，一个人的数据，以检索其余的49%。总体而言，我们的研究结果表明，粗化数据直接侵蚀了其价值，并强调了使用数据粗化的必要性，而不是作为独立的机制，而是与提供可调整程度的问责制和安全性的数据共享模型相结合。
2018-08-01 cs.CR cs.CY econ.GN
