Releasing survey microdata with exact cluster locations and additional privacy safeguards
世界各地的住户调查项目发布了精细的地理参考微观数据，以支持对人类生计及其周围环境相互依存关系的研究。为了保护受访者的隐私，微观层面的调查数据通常通过删除或干扰程序（例如混淆数据汇集的真实位置）进行（伪）匿名化。然而，这对新出现的用地方一级的辅助信息来补充调查数据的方法提出了挑战。在这里，我们提出了一种替代的微数据传播策略，利用原始微数据的实用性，通过使用生成模型合成生成的数据提供额外的隐私保护。我们使用2011年哥斯达黎加人口普查数据和卫星辅助信息进行实验，以支持我们的建议。我们的策略降低了受访者的重新识别风险的任何数量的披露属性的60- 80%，即使在重新识别尝试。
2022-05-24 cs.CR cs.CY stat.AP
A multiplicative masking method for preserving the skewness of the original micro-records
安全传播微观数据的掩盖方法包括扭曲原始数据，同时保留微观数据中预定义的一组统计特性。对于连续变量，现有的方法基本上依赖于矩阵掩蔽，特别是在原始值中添加噪声，根据人们试图保留的信息的程度使用或多或少的改进程序。几乎所有这些方法都利用了原始数据集遵循正态分布和/或噪声具有这种分布的关键假设。然而，这一假设是有限制性的，因为很少有变量在经验上遵循高斯模式：例如，家庭收入的分布是正偏态的，这种偏态是必须考虑和保留的基本信息。本文通过提出一种简单的乘法掩蔽方法来解决这些问题，该方法在保持原始数据偏度的同时提供足够的披露风险控制水平。提供了数值例子，导致的建议，这种方法可能非常适合广泛的微观数据，包括那些基于行政和业务记录的传播。
2017-12-07 cs.CR
Agentic AI-Powered Re-Identification: An Emerging, Scalable Threat to Mobility Microdata Privacy
University of Applied Sciences and Arts Northwestern Switzerland (FHNW)（西北瑞士应用科学和艺术大学（FHNW））
研究利用智能体AI自动从公开网络搜索并交叉引用数据，实现从时空轨迹中重识别个体，实验成功率达72%，揭示了大规模重识别威胁。
2026-06-29 cs.AI cs.CR stat.AP
Improving Suppression to Reduce Disclosure Risk and Enhance Data Utility
在隐私保护数据发布中，已经开发了各种隐私模型，用于在敏感的个人级别数据集上采用匿名化操作，以便发布数据以供公众访问，同时保护数据集中个人的隐私。然而，在保护隐私和数据效用之间总是存在权衡;我们对机密数据集进行的更改越多，以降低披露风险，数据丢失的信息就越多，保留的数据效用就越小。最佳隐私技术是一种能够产生具有最小披露风险和最大数据效用的数据集的技术。在本文中，我们提出了一种改进的抑制方法，它降低了披露风险，提高了数据效用的目标是最高风险的记录，并保持其他记录的完整性。我们已经通过在真实世界的机密数据集上的实验证明了我们方法的有效性。
2019-01-08 cs.CR cs.DB
The 2020 Census Disclosure Avoidance System TopDown Algorithm
人口普查自上而下算法（TDA）是一种使用差分隐私进行隐私损失核算的披露避免系统。该算法摄取2020年人口普查数据的最终编辑版本和最终制表地理定义。然后，该算法使用零集中差分隐私在数据上创建关键查询的噪声版本，称为测量。TDA的另一个关键方面是不变量，人口普查局已经决定，作为政策问题，从隐私损失会计中排除统计数据。TDA将测量结果与不变量一起进行后处理，以生成一个微数据详细文件（Microdata Detail File），其中包含2020年人口普查中每个人的一个记录和每个住房单元的一个记录。人口普查数据会传送至2020年人口普查制表系统，以产生2020年人口普查重划选区数据（P.L.）。174.第171章档案本文介绍了数学和测试的TDA为此目的。
2022-04-19 cs.CR econ.EM stat.AP
Slicing: A New Approach to Privacy Preserving Data Publishing
已经设计了几种匿名化技术，例如泛化和桶化，用于隐私保护微数据发布。最近的研究表明，泛化丢失了大量的信息，特别是对于高维数据。另一方面，桶化并不阻止成员身份泄露，也不适用于在准识别属性和敏感属性之间没有明确区分的数据。在本文中，我们提出了一种新的技术，称为切片，分区的数据水平和垂直。我们表明，切片保存更好的数据实用性比泛化，可用于成员披露保护。切片的另一个重要优点是它可以处理高维数据。我们展示了如何切片可以用于属性披露保护，并开发了一个有效的算法来计算切片数据，遵守l-多样性的要求。我们的工作负载实验证实，切片保留更好的实用性比泛化，是更有效的比桶化的工作负载涉及敏感属性。我们的实验还表明，切片可以用来防止成员披露。
2009-09-12 cs.CR cs.DB
Feature Selection for Classification under Anonymity Constraint
Indiana University Purdue University Indianapolis（印第安纳大学与普渡大学印第安纳波利斯联合分校）；Manitoba University（曼尼托巴大学）
在过去的十年中，各种在线平台的激增以及数十亿用户对它们的日益采用极大地增加了用户的隐私风险。事实上，安全研究人员已经表明，包含用户在线活动信息的稀疏微数据尽管是匿名的，但仍然可以通过与其他数据源交叉引用数据来披露用户的身份。为了保护用户的隐私，在现有的工作中，提出了几种方法（k-匿名，l-多样性，差分隐私），以确保数据集，这是为了共享或发布承担小的身份泄露风险。然而，这些方法中的大多数单独修改数据，而不考虑它们在后续知识发现任务中的实用性，这使得这些数据集的信息量较少。在这项工作中，我们考虑标记的数据，通常用于分类，并提出了两种方法特征选择考虑两个目标：第一，在减少的特征集的数据具有小的披露风险，第二，效用的数据被保存为执行分类任务。在实际数据集上的实验结果表明，该方法是有效的，具有一定的实用价值。
2017-02-06 cs.CR cs.LG
How to Get Actual Privacy and Utility from Privacy Models: the k-Anonymity and Differential Privacy Families
本文评估主要隐私模型，指出k-匿名和差分隐私在保护与效用间的缺陷，并提出语义重构k-匿名以在不损效用下增强隐私。
2025-10-17 cs.CR cs.DB
Hybrid Microaggregation for Privacy-Preserving Data Mining
微聚合的k-匿名是最常用的匿名技术之一。这种成功是由于在信息损失和身份泄露风险之间实现了利益权衡。然而，该方法可能具有一些缺点。在披露限制方面，缺乏对属性披露的保护。在数据实用程序方面，处理真实的数据集是一项具有挑战性的任务。事实上，后者的特点是其大量的属性和噪声数据的存在，这样的离群值，甚至，数据与缺失值。生成对数据采掘任务有用的匿名个体数据，同时减少噪声数据的影响是一项迫切需要实现的任务。在本文中，我们介绍了一种新的微聚集方法，称为HM-PFSOM，基于模糊可能性聚类。我们提出的方法通过混合方式操作。这意味着匿名化过程是按相似数据块应用的。因此，我们可以帮助减少匿名化过程中的信息丢失。HMPFSOM方法提出研究每个子数据集内机密属性的分布。然后，根据后一种分布，以保持匿名化微数据内的机密属性的多样性的方式确定隐私参数k。这允许降低机密信息的泄露风险。
2018-12-04 cs.CR cs.DB cs.IR
Statistical Data Privacy: A Song of Privacy and Utility
为了量化开放数据共享需求的增长和对敏感信息泄露的担忧之间的权衡，统计数据隐私（SDP）方法分析了基于机密数据的净化输出的数据发布机制。目前存在两个主要框架：统计披露控制（SDC）和最近的差分隐私（DP）。尽管框架不同，但SDC和DP在核心上都有相同的统计问题。对于推理问题，我们可以设计满足披露风险界限的最佳释放机制和相关估计，或者我们可以调整现有的净化输出以创建新的最佳估计。这两个问题都依赖于评估风险和效用的不确定性量化。在这篇评论中，我们讨论了共同的统计基础，SDC和DP，强调SDP的主要发展，并提出了令人兴奋的开放式研究问题的私人推理。
2022-05-06 cs.CR stat.ME
Synthetic Data Outliers: Navigating Identity Disclosure
Faculdade de Ciências da Universidade do Porto（波尔图大学理学院）；TekPrivacy；Lucy Family Institute for Data & Society（露西数据与社会家族研究院）
本研究分析了合成数据中异常值的隐私风险，发现通过链接攻击容易实现异常值重识别，而差分隐私等保护措施虽能防止重识别但会降低数据效用。
2024-06-04 cs.CR cs.LG
A Summary of Privacy-Preserving Data Publishing in the Local Setting
本综述聚焦本地场景下隐私保护数据发布，梳理微数据去标识化的隐私技术、场景化隐私度量及效用评估指标，分析隐私约束挑战与缓解策略，指出领域未决问题。
2023-12-19 cs.CR
New Directions in Anonymization: Permutation Paradigm, Verifiability by Subjects and Intruders, Transparency to Users
目前有两种匿名化方法：“效用优先”（使用具有合适效用特征的匿名化方法，然后根据经验评估披露风险，并且如果必要，通过可能牺牲一些效用来降低风险）或“隐私优先”（通过隐私模型强制执行目标隐私级别，例如，k-匿名或k-差分隐私，而不考虑效用）。为了获得正式的隐私保证，必须遵循第二种方法，但随后获得的数据发布没有效用保证。此外，一般来说，不清楚数据主体的匿名化如何验证（她贡献的记录的安全性如何？），什么类型的入侵者被认为是（他知道什么，想要什么？）以及匿名化对数据使用者的透明度如何（用户被告知使用的方法和参数是什么？）。我们表明，使用一个普遍适用的反向映射变换，微数据的任何匿名化可以被视为一个置换加上（也许）少量的噪音;因此，置换被证明是任何匿名化的微数据，它允许简单的实用程序和隐私指标的基本原则。从这个置换范式，一个新的隐私模型自然遵循，我们称之为（d，v）-置换隐私。通过这种方法确保的隐私可以通过贡献原始记录的每个受试者（受试者可验证性）来验证，并且还可以通过数据保护器在数据集级别进行验证。然后，我们继续定义一个最大知识入侵者模型，我们认为应该是一个考虑匿名化。最后，我们让匿名化对数据用户透明，也就是说，符合Kerckhoff的假设（只有使用的随机性，如果有的话，必须保密）。
2015-01-17 cs.CR cs.DB
Maximal Information Leakage based Privacy Preserving Data Disclosure Mechanisms
通常需要向公共领域公开训练数据，同时保护某些敏感标签的隐私。我们使用信息理论的措施来开发这样的隐私保护数据披露机制。我们的机制涉及扰动的方式，在隐私效用权衡的平衡的数据向量。我们使用输出数据向量和机密标签之间的最大信息泄漏作为我们的隐私度量。我们首先研究了理论上的Bernoulli-Gaussian模型，并研究了只有高斯分布的平均值可以被扰动时的隐私效用权衡。我们表明，最佳的解决方案是相同的情况下，当使用错误的概率在对手的效用进行测量。然后，我们考虑将该框架应用于数据驱动的环境，并提供对Sibson互信息的经验近似。通过对MNIST和FERG数据集进行实验，我们表明，我们提出的框架实现了相当于或更好的隐私比以前的方法的基础上互信息。
2019-04-04 cs.CR cs.IT math.IT
Improving data utility in differential privacy and k-anonymity
本文重点研究了两种主流的隐私模型：k-匿名和差分隐私。一旦选择了一个隐私模型，目标是在尽可能多地保留数据效用的同时实施它。本论文的主要目的是提高k-匿名和差异隐私数据发布中的数据效用。k-匿名性有几个缺点。在披露限制方面，缺乏对属性披露和知情入侵者的保护。在数据实用程序方面，处理大量的准标识符属性是有问题的。我们建议放宽k-匿名处理这些问题。差分隐私通过噪声添加来限制披露风险。拉普拉斯分布通常用于随机噪声。我们发现，拉普拉斯分布是不是最佳的：相同的披露限制保证可以通过增加更少的噪音。最佳的单变量和多变量噪声的特征和构造。实现差分隐私的常见机制不考虑用户的先验知识;它们隐含地假设关于查询响应的初始知识为零。我们提出了一种机制，专注于限制知识增益超过先验知识。基于微聚合的k-匿名和差分隐私可以结合起来，以产生具有差分隐私的强隐私保证和改进的数据准确性的微数据发布。最后一个贡献是深入研究了t-贴近度和差分隐私之间的关系。我们看到，对于一个特定的距离，并在一些合理的假设下，入侵者的知识，t-接近导致差分隐私。
2013-07-03 cs.CR cs.DB
Private Disclosure of Information in Health Tele-monitoring
University of California, Berkeley（加州大学伯克利分校）
我们提出了一个新的框架，称为私人信息披露（PDI），这是为了防止对手推断某些敏感信息的主题使用的数据，他们在与预期的收件人通信过程中披露。我们展示的情况下，它是可能实现完美的隐私，而不管对手的辅助知识，同时保留充分利用的信息，以预期的收件人，并提供足够的条件，这种情况下。我们还证明了PDI在模拟健康远程监测场景的真实数据集上的适用性。
2015-04-28 cs.AI cs.CR cs.IT
30 Years of Synthetic Data
本文以Rubin关于合成数据的开创性论文发表30周年为契机，回顾了合成数据的历史发展，综述了多年来提出的各种方法和方法学基础，并讨论了衡量生成数据效用和剩余披露风险的多种策略。
2023-04-04 cs.CR
t-Closeness through Microaggregation: Strict Privacy with Enhanced Utility Preservation
微聚合是一种限制披露的技术，旨在保护微数据发布中数据主体的隐私。它已被用来作为一种替代泛化和抑制生成$k$ -匿名数据集，其中每个主题的身份是隐藏在一组$k$主题。与一般化不同，微聚合会干扰数据，这种额外的屏蔽自由度可以通过多种方式提高数据效用，例如增加数据粒度，减少离群值的影响以及避免数值数据的离散化。$k$ -另一方面，匿名性不能防止属性泄露，如果一组$k$受试者中机密值的可变性太小，就会发生属性泄露。为了解决这个问题，已经提出了几种改进的$k$ -匿名性，其中$t$ -封闭性脱颖而出，提供了一个最严格的隐私保证。生成$t$ -封闭数据集的现有算法基于泛化和抑制（它们是基于相同原理的$k$ -匿名化算法的扩展）。本文提出并展示了如何使用微聚集来生成$k$ -匿名$t$ -封闭数据集。分析了微聚集技术的优点，提出了几种基于$k$ -匿名$t$ -封闭性的微聚集算法，并进行了实验评估。
2015-12-09 cs.CR
From Statistical Disclosure Control to Fair AI: Navigating Fundamental Tradeoffs in Differential Privacy
Purdue University（普渡大学）
本文探讨了差分隐私中隐私、效用和公平之间的基本权衡，通过系统分析展示了三者之间的帕累托前沿，并提供了实际指导以帮助决策。
2026-01-25 cs.CR
Rethinking Disclosure Prevention with Pointwise Maximal Leakage
该研究基于逐点最大泄露（PML）重构披露预防，提出按秘密特征熵区分披露与隐藏的效用—隐私框架，证明可提供独立于敌手先验的推断隐私保证，并兼容差分隐私、支持灵活机制设计。
2024-10-25 cs.CR cs.IT math.IT
Random (Un)rounding : Vulnerabilities in Discrete Attribute Disclosure in the 2021 Canadian Census
本研究分析2021年加拿大人口普查随机舍入机制，利用离散变量的层级求和相关性恢复或高概率推断私有属性值，并提出无界离散噪声防护方案。
2025-03-19 cs.CR
General Confidentiality and Utility Metrics for Privacy-Preserving Data Publishing Based on the Permutation Model
隐私保护数据发布的匿名化，也称为统计披露控制（SDC），可以在置换模型的镜头下查看。根据这个模型，任何用于单个数据记录的SDC方法在功能上等效于置换步骤加上噪声添加步骤，其中添加的噪声是边际的，在这个意义上，它不改变等级。在这里，我们提出的指标来量化数据的机密性和实用性实现的SDC方法的基础上的置换模型。我们区分两个隐私的概念：在我们的工作中，匿名是指主题，因此主要是为了防止记录重新识别，而保密性是指保护属性值对属性披露。因此，我们的保密性指标是有用的，即使使用隐私模型，确保匿名水平事前。效用度量是一种通用度量，可以方便地与机密性度量进行权衡，因为它们都在0和1之间。作为一个应用程序，我们比较了几种匿名化方法，包括隐私模型（k-匿名和$ε$ -差分隐私）以及SDC方法（加性噪声，乘性噪声和合成数据）没有隐私模型的效用-机密性权衡。
2020-10-07 cs.CR
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office（联邦统计局）
本文提出基于假设检验的新视角，量化相对披露风险，分析DP对统计显著性检验的影响，为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Confidentiality Protection in the 2020 US Census of Population and Housing
在一个外部数据和计算能力远远超过统计机构自身资源和能力的时代，统计机构面临着新的挑战，即在以非常细粒度的形式发布统计数据时保护基本微观数据的机密性，并确保这些细粒度数据仅用于统计目的。传统的统计披露限制方法过于脆弱，无法应对这一新挑战。本文讨论了2020年美国人口普查的差异隐私框架的部署，该框架是定制的，以保护机密性，特别是最详细的地理和人口类别，并在整个地理层次结构中提供受控的准确性。
2022-12-27 cs.CR econ.GN q-fin.EC
The Economics of Privacy and Utility: Investment Strategies
由于个人信息的不受限制的披露，不可避免的隐私泄露激发了对健壮的隐私保护机制的广泛研究。然而，现有的研究大多局限于在静态环境下解决问题，而忽略了随着时间的推移隐私泄漏。不幸的是，这种隐私处理在实际环境中是不够的，在实际环境中，用户随着时间的推移连续地公开他们的个人信息，导致用户的敏感信息的累积泄漏。在本文中，我们考虑在有限的时间范围内的隐私泄漏和调查的最佳策略，以最大限度地提高所披露的数据的效用，同时限制有限的地平线隐私泄漏。我们认为一个简单的隐私机制，涉及压缩用户的数据之前，每次披露，以满足未来的隐私所需的约束。我们进一步激励几种算法来优化动态隐私效用权衡，并通过广泛的综合性能测试来评估它们的性能。
2022-07-04 cs.CR cs.GT cs.IT
Understanding Disclosure Risk in Differential Privacy with Applications to Noise Calibration and Auditing (Extended Version)
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Inria Centre at the University Grenoble Alpes（格勒诺布尔大学Inria中心）；ÉTS Montréal（蒙特利尔高等技术学院）
本文提出重建优势作为统一的风险度量，用于改进DP审计并优化效用-隐私权衡。
2026-03-12 cs.CR cs.IT math.IT
An In-Depth Examination of Requirements for Disclosure Risk Assessment
本文审视披露风险评估要求，提出基于客观标准比较方法，发现反事实框架优于绝对披露风险，近期最适合隐私效用分析。
2023-10-13 cs.CR econ.EM stat.ME
RASE: Efficient Privacy-preserving Data Aggregation against Disclosure Attacks for IoTs
针对物联网中数据聚合面临的披露攻击问题，本文提出了一种名为RASE的隐私保护新范式，通过差分隐私随机化器添加噪声、混洗器随机置换和参数估计三步流程，在保护数据隐私的同时实现了高效的聚合效用。
2024-05-31 cs.CR
Protecting Activity Sensing Data Privacy Using Hierarchical Information Dissociation
Michigan State University（密歇根州立大学）
本文提出 Hippo 统一模型，通过基于潜在引导的扩散模型解离私人元数据与多粒度活动信息，在无需隐私标签的情况下控制移动感知数据的敏感信息披露并保留应用效用。
2024-09-04 cs.AI cs.CR cs.LG
Privacy-Preserving Directly-Follows Graphs: Balancing Risk and Utility in Process Mining
流程挖掘技术使组织能够分析业务流程执行跟踪，以确定提高其运营绩效的机会。通常，这样的执行跟踪包含私有信息。例如，医疗保健流程的执行跟踪可能是隐私敏感的。在这种情况下，组织需要部署隐私增强技术（PET），以在分析这些数据所获得的好处与隐私法规对它们的要求之间取得平衡，特别是在将数据披露给流程分析师时最大限度地减少重新识别风险。在许多可用的PET中，差分隐私因其防止谓词挑出攻击的能力和其可组合的隐私保证而脱颖而出。差分隐私的缺点是它所依赖的主要隐私参数（即，隐私）缺乏可解释性。这就引出了一个反复出现的问题：多少钱才算足够？本文提出了一种方法，用于确定在披露流程挖掘技术的输出时使用的两个业务相关指标，即捕获准确性损失的绝对百分比误差指标（也称为效用损失），以及猜测优势，其捕获了作为公开的结果对手可能猜测关于个体的信息的概率的增加。本文专门研究了保护所谓的直接跟随图（Directly-Follows Graph，DFG）的披露问题，DFG是大多数流程挖掘工具产生的流程挖掘工件。文章报告的效用风险权衡的实证评估，所提出的方法实现了13个现实生活中的事件日志的集合。
2020-12-03 cs.CR cs.SE
"It's a Fair Game", or Is It? Examining How Users Navigate Disclosure Risks and Benefits When Using LLM-Based Conversational Agents
Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文通过分析真实ChatGPT对话和访谈19位用户，揭示用户在使用基于LLM的对话智能体时面临隐私、效用与便利性的权衡困境，并提出保护用户隐私的设计指南与范式转变建议。
2024-04-02 cs.AI cs.CR cs.HC
Differentially Private Verification of Survey-Weighted Estimates
针对合成数据验证服务器可能泄露机密调查记录的问题，本文提出一种满足差分隐私、适用于复杂调查加权估计的验证度量，并通过模拟证明其可有效反馈合成数据推断质量。
2024-04-03 cs.CR stat.ME
It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs
KAIST（韩国科学技术院）
本文提出SELFCI框架，通过分离信息抑制与任务解决，解决大语言模型中隐私与效用的权衡问题，通过互补的自我蒸馏方法提升上下文完整性。
2026-11-03 cs.AI cs.CR cs.LG
Visualizing Privacy-Utility Trade-Offs in Differentially Private Data Releases
各组织经常收集私人数据，并为公众的利益发布汇总统计数据。如果不采取保护隐私的措施，攻击者可能会使用发布的统计数据来推断有关私人数据集中描述的个人的未经授权的信息。不同的隐私算法通过用噪声稍微扰动底层统计数据来解决这一挑战，从而在数学上限制了可以从每个数据发布中推断出的信息量。正确校准这些算法--以及数据集中描述的人的披露风险--需要数据管理者为隐私预算参数$ε$选择一个值。然而，很少有正式的指导选择$ε$，一个任务，需要推理的概率隐私效用权衡。此外，在统计推断的上下文中选择$ε$需要在存在测量误差和差分隐私（DP）噪声两者的情况下推理关于准确性权衡。我们提出了可视化隐私（VIP），一个交互式界面，可视化之间的关系$ε$，准确性和披露风险，以支持设置和分裂$ε$查询。当用户调整$ε$时，ViP动态更新描述预期准确性和风险的可视化。ViP还具有推理设置，允许用户推理DP噪声对统计推理的影响。最后，我们提出了一项研究的结果，其中16个研究从业者很少或没有DP背景完成了一组相关的任务设置$ε$使用VIP和控制。我们发现，VIP可以帮助参与者更正确地回答与判断DP噪声释放可能下降的概率以及DP噪声和非私人置信区间之间的比较相关的问题。
2022-01-16 cs.CR cs.HC
Exploring the Integration of Differential Privacy in Cybersecurity Analytics: Balancing Data Utility and Privacy in Threat Intelligence
University of Chadli Bendjedid, Faculty of Sciences & Technology（查德利·本杰迪德大学，科学与技术学院）
本文探讨了差分隐私在网络安全分析中的应用，通过平衡数据效用与隐私保护，提升威胁情报的安全共享能力。
2026-01-01 cs.CR
Privacy Adversarial Network: Representation Learning for Mobile Data Privacy
Xidian University（西安电子科技大学）；Rice University（莱斯大学）
机器学习的显着成功为移动用户培育了越来越多的基于云的智能服务。这种服务要求用户向提供商发送数据，例如图像、语音和视频，这对用户隐私提出了严重挑战。为了解决这个问题，现有技术要么混淆数据，例如添加噪声并删除身份信息，要么发送从数据中提取的表示，例如匿名特征。他们努力在服务效用和数据隐私之间取得平衡，因为混淆的数据降低了效用，并且提取的表示仍然可能揭示敏感信息。这项工作在方法上与之前的工作不同：我们利用对抗学习来更好地平衡隐私和实用性。我们设计了一个\textit{representation encoder}，它生成的特征表示，以优化对敏感信息的隐私泄露风险（隐私的措施）的\textit{privacy adversaries}，并同时优化与任务推理的准确性（效用的措施）的\textit{utility discriminator}。其结果是隐私对抗网络（\systemname），这是一种具有新训练算法的新型深度模型，可以自动从原始数据中学习表示。直觉上，PAN对抗性地迫使提取的表示仅传达目标任务所需的信息。令人惊讶的是，这构成了一个隐式正则化，实际上提高了任务的准确性。因此，PAN实现了更好的实用性和更好的隐私在同一时间！我们报告了广泛的实验6个流行的数据集，并证明了优越性的\systemname相比，在以前的工作中报道的替代方法。
2020-06-08 cs.AI cs.CR cs.LG
Differential privacy and noisy confidentiality concepts for European population statistics
本文件旨在概述目前正在为官方人口统计和普查讨论的基于随机噪声的统计披露控制的各种办法。一个特别的重点是对影响讨论的不同概念之间的严格划分：我们明确区分风险措施，噪声分布和输出机制-将这些概念纳入范围并相互联系。在概括了差异隐私作为一种风险度量之后，本文还评论了一些特定输出机制和参数设置的效用和风险方面，特别关注官方人口统计中相当典型的静态输出。特别是，有人认为，无界噪声分布，如平原拉普拉斯，可能会危及关键的独特的普查功能，没有明确的需要从风险的角度来看。另一方面，有界噪声分布，如截断拉普拉斯或细胞键方法，可以设置，以保持独特的普查功能，同时控制披露风险，在类似普查的输出。最后，本文分析了一些典型的攻击场景，以限制通用噪声参数范围，这表明2021年欧盟人口普查输出场景具有良好的风险/效用折衷。分析还表明，严格差别私有机制将受到严重限制，在这种情况下。
2020-12-17 cs.CR stat.ME
Achieving Data Utility-Privacy Tradeoff in Internet of Medical Things: A Machine Learning Approach
物联网在医疗卫生领域的应用--医疗物联网（IoMT）的出现和快速发展，给现代医疗卫生系统带来了诸多变化和挑战。特别地，机器学习技术可用于处理IoMT中涉及的数据，用于医学分析和疾病诊断。然而，在这一过程中，个人隐私信息的披露必须得到相当的重视，特别是敏感的医疗数据。聚类分析是医学分析和疾病诊断的重要技术。为了在物联网中实现隐私保护的聚类分析，提出了一种基于MapReduce框架的高效差异私有数据聚类方案（EDPDCS）。在EDPDCS中，我们优化隐私预算的分配和初始质心的选择，以提高差分隐私K-means聚类算法的准确性。具体地，根据每次迭代的总隐私预算和最小隐私预算，将K-means算法的迭代次数设置为固定值。此外，提出了一种改进的初始质心选择方法，以提高聚类算法的准确性和效率。最后，我们证明了所提出的EDPDCS可以提高差分私有k-means算法的准确性，通过比较我们的算法在两个数据集上产生的归一化聚类内方差（NICV）与其他两种算法。
2019-02-08 cs.CR
Exposing Privacy Risks in Anonymizing Clinical Data: Combinatorial Refinement Attacks on k-Anonymity Without Auxiliary Information
本研究提出无需辅助信息的组合细化攻击CRA，针对ARX生成的局部重编码k-匿名临床数据，通过线性规划缩小敏感值范围，在真实临床数据上验证了现有k-匿名框架的隐私防护不足。
2025-09-03 cs.CR
Rescriber: Smaller-LLM-Powered User-Led Data Minimization for LLM-Based Chatbots
Northeastern University（东北大学）
针对LLM聊天机器人中用户敏感信息过度披露且现有技术缺乏用户参与的问题，本文设计浏览器扩展Rescriber，通过小语言模型帮助用户检测清理提示中的个人信息，实现用户主导的数据最小化，研究表明其能减少不必要披露、缓解隐私担忧，且小模型驱动的系统感知效果与大模型相当。
2025-02-11 cs.AI cs.CR cs.HC
Assessing Utility of Differential Privacy for RCTs
Penn State（宾夕法尼亚州立大学）；Cornell University（康奈尔大学）
本文评估了差分隐私技术在保护RCT数据隐私时的效用，通过模拟研究展示了隐私保护方法对数据分析的影响。
2026-01-20 cs.CR econ.EM stat.AP
Dynamically Adjusting Case Reporting Policy to Maximize Privacy and Utility in the Face of a Pandemic
在大流行期间支持公共卫生研究和公众对形势的认识需要持续传播传染病监测数据。立法，如1996年的健康保险可携带性和责任法案（HIPAA）和最近的州一级法规，允许共享去识别的个人数据;然而，目前的去识别方法是有限的。也就是说，它们效率低下，依赖于追溯性的披露风险评估，并且不随感染率或人口统计数据随时间的变化而变化。在本文中，我们介绍了一个框架，以动态适应去识别的近实时的共享的个人级监控数据。该框架利用模拟机制，能够在任何地理级别的应用程序，预测在广泛的泛化政策下共享数据的重新识别风险。这些估计为每周的预期策略选择提供信息，以将对应于小于11的组大小（PK 11）的记录比例保持在0.1或以下。在每周开始时修复策略有助于及时更新数据集，并支持共享粒度日期信息。我们使用约翰霍普金斯大学和疾病控制和预防中心2020年8月至2021年10月的病例数据来证明该框架在维持PK方面的有效性！阈值为0.01。当在美国所有县共享COVID-19县级病例数据时，该框架的方法满足96.2%的每日数据发布阈值，而基于当前去识别技术的政策满足32.3%的阈值。定期调整数据发布政策可以保护隐私，同时通过及时更新和共享流行病学关键特征来增强公共卫生效用。
2022-02-25 cs.CR cs.CY
Privacy with Good Taste: A Case Study in Quantifying Privacy Risks in Genetic Scores
基因数据分析为医学和科学进步提供了许多机会。使用表型信息和多基因风险评分来分析遗传数据是普遍的。大多数关于遗传隐私的工作都集中在基本的遗传数据上，如SNP值和特定的基因型。在本文中，我们介绍了一种新的方法来量化和防止隐私风险，专注于多基因分数和表型信息。我们的方法是基于工具支持的隐私风险分析方法Privug。我们展示了使用Privug来评估隐私风险所带来的披露多基因性状得分苦味受体，编码的TAS 2 R38和TAS 2 R16，一个人的隐私方面，他们的种族。我们提供了一个广泛的隐私风险分析的不同程序的遗传数据披露：品尝表型，品尝多基因得分，和多基因得分与噪声失真。最后，我们讨论了隐私/效用权衡的多基因得分。
2022-08-26 cs.CR
Prior-itizing Privacy: A Bayesian Approach to Setting the Privacy Budget in Differential Privacy
针对差分隐私发布中需平衡数据实用性与隐私保护的问题，提出基于贝叶斯披露后验概率设置隐私预算$\u03b5$的框架，机构可通过设定可接受的风险水平推导唯一$\u03b5$，实现风险与效用的权衡。
2024-05-22 cs.CR stat.ME
