Application-driven Privacy-preserving Data Publishing with Correlated Attributes
Stony Brook University（石溪大学）；NVIDIA（英伟达）；Rutgers University（罗格斯大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Bosch Research（博世研究院）
计算方面的最新进展使收集有关个人活动和私人生活空间的大量数据成为可能。为了解决用户在这种环境中的隐私问题，我们提出了一个新的框架，称为PR-GAN，使用生成对抗网络提供隐私保护机制。给定目标应用程序，PR-GAN自动修改数据以隐藏敏感属性-这些属性可能是隐藏的，可以通过机器学习算法推断-同时保留目标应用程序中的数据实用程序。与以前的作品，公众的目标应用程序和敏感属性之间的相关性的可能的知识是内置到我们的建模。我们将我们的问题表述为优化问题，证明存在最优解，并使用生成对抗网络（GAN）来创建扰动。我们进一步表明，我们的方法提供了隐私保障下的河豚框架，优雅的概括的差分隐私，允许对数据和相关性的先验知识建模。通过实验，我们表明，我们的方法优于传统的方法，有效地隐藏敏感属性，同时保证高性能的目标应用程序，属性推理和训练的目的。最后，我们通过进一步的实验证明，一旦我们的模型在一组个体上学习了隐私保护任务，例如隐藏受试者的身份，它就可以在一个单独的组上执行相同的任务，并且性能下降最小。
2021-01-05 cs.CR cs.LG stat.ML
Toward an Attribute-Based Digital Identity Modeling for Privacy Preservation
数字身份是一个多维度、多学科、复杂的概念。因此，很难逮捕。许多贡献提出了数字身份的定义和表示。然而，其中许多要么非常通用，难以实现，要么不考虑隐私问题。鉴于隐私大师的重要性，有必要重新考虑数字身份，以考虑隐私问题。因此，本文旨在提出一个基于属性的数字身份的隐私保护的目的。该模型考虑了身份盗窃、安全和隐私。
2019-09-13 cs.CR
Privacy-Preserving Federated Learning on Partitioned Attributes
Shanghai Jiao Tong University（上海交通大学）；Ant Group（蚂蚁集团）
真实世界的数据通常按属性划分，并分布在不同的各方。联邦学习支持协作培训，而无需暴露本地数据或模型。正如我们通过设计攻击所展示的那样，即使有一小部分损坏的数据，对手也可以准确地推断出输入属性。我们引入了一个基于对抗学习的过程，该过程调整局部模型以释放隐私保护的中间表示。针对准确性下降的问题，提出了一种基于前后向分裂算法的防御方法，在前向和后向梯度下降步骤中分别处理准确性损失和隐私性损失，同时实现了两个目标。在各种数据集上进行的大量实验表明，我们的防御方法显著减轻了隐私泄露，对联邦学习任务的影响可以忽略不计。
2021-04-29 cs.CR cs.LG
Learning Robust and Privacy-Preserving Representations via Information Theory
Illinois Institute of Technology（伊利诺伊理工学院）；Milwaukee School of Engineering（密尔沃基工学院）；University of Connecticut（康涅狄格大学）
本文提出信息论框架，通过表示学习同时抵御安全与隐私攻击，并推导出鲁棒性与隐私间的固有权衡及隐私泄露保证。
2024-12-15 cs.CR cs.LG
When Fairness Meets Privacy: Fair Classification with Semi-Private Sensitive Attributes
Illinois Institute of Technology（伊利诺伊理工学院）；Cisco Research（思科研究院）；University of Connecticut（康涅狄格大学）
本文提出FairSP框架，利用少量干净敏感属性纠正受本地差分隐私保护的敏感属性，并通过对抗式联合建模实现半私有设置下的公平分类，在保护隐私的同时保持高准确率。
2023-05-29 cs.AI cs.CR cs.CY
VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks
本文提出VoxGuard框架，通过低误报率评估语音隐私，发现即使在低FPR下，对手攻击能力显著增强，强调需采用低FPR评估以准确衡量隐私泄露。
2026-01-26 cs.CR cs.LG
Multifaceted Privacy: How to Express Your Online Persona without Revealing Your Sensitive Attributes
最近在社交网络流分析中的工作表明，用户的在线角色属性（例如，性别、种族、政治利益、地点等）可以从用户所写或参与的主题中准确地推断出来。属性和偏好推断已被广泛用于提供个性化推荐、定向广告以及增强社交网络中的用户体验。然而，泄露用户的敏感属性可能对某些个人构成隐私威胁。微靶向（例如，Cambridge Analytica丑闻）、监视和歧视性广告是敏感属性推断对用户隐私造成威胁的例子。在本文中，我们提出了多方面的隐私，一种新的隐私模型，旨在混淆用户的敏感属性，同时公开维护用户的公共人物。为了实现多方面的隐私，我们构建了Aegis，这是一个以客户为中心的原型社交网络流处理系统，有助于保护多方面的隐私，从而允许社交网络用户自由表达他们的在线角色，而不会泄露他们选择的敏感属性。Aegis允许社交网络用户控制哪些角色属性应该公开显示，哪些应该保持隐私。为此，Aegis不断向社交网络用户推荐主题和标签，以混淆他们的敏感属性，从而混淆基于内容的敏感属性推断。建议的主题经过精心选择，以保留用户公开显示的人物角色属性，同时隐藏其私人敏感人物角色属性。我们的实验表明，添加少至0至4个混淆职位（取决于如何揭示原始职位）成功地隐藏用户指定的敏感属性，而不改变用户的公共人物属性。
2019-05-23 cs.CR cs.SI
Interpreting Epsilon of Differential Privacy in Terms of Advantage in Guessing or Approximating Sensitive Attributes
Cybernetica AS（赛博内蒂卡公司）
存在实现$ε$ -差分隐私（DP）的许多方法。问题是$ε$的适当值是什么，因为对于“足够小”的$ε$没有共同的协议，并且它的好坏取决于查询和数据。在本文中，我们将展示如何计算对应于$δ$的$ε$，定义为对手的优势，猜测一些特定属性的输出的概率。攻击者的目标可以表述为布尔表达式，可能在一定的精度内猜测特定的属性。以这种方式组合的属性应该是独立的。我们假设输入和输出分布都有相应的概率密度函数或概率质量函数。
2019-11-28 cs.CR cs.LG
A bridge between features and evidence for binary attribute-driven perfect privacy
属性驱动的隐私旨在隐藏单个用户的属性，与试图在某些数据中隐藏用户的完整身份的匿名化相反。当防止恶意推断的属性是二进制时，完美隐私要求对数似然比为零，从而导致没有证据强度。这项工作提出了一种基于归一化流的方法，该方法将特征向量映射到一个潜在的空间中，在该空间中，与二进制属性相关的证据和独立的残差被解开。它可以被看作是一种非线性判别分析，其中映射是可逆的，允许通过将潜在变量映射回原始空间来生成。该框架允许操纵数据的对数似然比，因此允许将其设置为零以保护隐私。我们展示了该方法在属性驱动的隐私任务中的适用性，其中性别信息从扬声器嵌入中删除。在VoxCeleb2数据集上的结果表明，该方法在隐私和实用性方面优于我们以前基于对抗性解纠缠的实验。
2022-01-23 cs.CR eess.AS
Frequency Estimation of Correlated Multi-attribute Data under Local Differential Privacy
本文提出Corr-RR方法，通过学习和利用属性间依赖关系，在局部差分隐私下提升多属性数据频率估计的准确性。
2025-12-15 cs.CR
User Collusion Avoidance Scheme for Privacy-Preserving Decentralized Key-Policy Attribute-Based Encryption -- Full Version
最近的云计算范例、智能设备和4G无线技术的趋势已经实现了用户之间的无缝数据共享。云计算环境是分布式和不可信的，因此数据所有者必须加密他们的数据，以加强数据的机密性。采用基于属性的加密技术可以实现分布式环境中数据的保密性。分散式基于属性的加密技术是基于多个权限的基于属性的加密的变体，其中任何属性权限都可以独立地加入和离开系统，而无需与现有的属性权限合作。本文提出了一种隐私保护的分散密钥策略属性基加密方案。该方案在用户与多个权威机构交互以获取解密密钥时保护了用户隐私，同时减轻了众所周知的用户合谋安全漏洞。我们表明，我们的计划依赖于决策双线性Diffie-Hellman标准的复杂性假设，而不是以前的非标准的复杂性假设，如$q-$决策Diffie-Hellman反演。
2016-02-03 cs.CR
Unifying Re-Identification, Attribute Inference, and Data Reconstruction Risks in Differential Privacy
Lausanne University Hospital（洛桑大学医院）；Harvard University（哈佛大学）；Google DeepMind（谷歌DeepMind）；University of Lausanne（洛桑大学）
本文提出统一差分隐私中重识别、属性推断和数据重建风险的框架，通过f-DP理论提供更精确的风险界限，减少噪声需求并提升任务准确性。
2026-02-04 cs.AI cs.CR cs.CY
Privacy Enhanced DigiLocker using Ciphertext-Policy Attribute-Based Encryption
最近，印度政府采取了几项举措，使印度数字化强大，例如为每个居民提供一个独特的数字身份，称为Aadhaar，并提供基于Aadhaar的几项在线电子政务服务，如DigiKey。DigiKey是一项在线服务，为用户提供公共云上的可共享私有存储空间。虽然电子文件系统可确保传统的安全性，例如数据完整性和安全的数据访问，但电子文件的隐私问题尚未得到解决。基于属性的密文策略加密（CP-ABE）可以提高数据的隐私性，但它的正确实现一直是一个挑战。提出了一种利用CP-ABE实现隐私增强的数字图书馆的方案。
2020-12-18 cs.CR
Privacy Leakage over Dependent Attributes in One-Sided Differential Privacy
在许多现实应用中，提供可证明的隐私保证，同时保持数据的实用性是一项具有挑战性的任务。最近，引入了一种称为单边差分隐私（OSDP）的新框架，其扩展了现有的差分隐私方法。OSDP通过利用并非所有记录都是敏感的这一事实来提高数据的实用性。然而，先前的工作假设所有记录在统计上彼此独立。本文以楼宇管理系统中的占用数据为背景，扩展了现有的单边差分隐私框架。在本文中，我们量化的整体隐私泄漏时，对手的记录之间的依赖信息。此外，我们展示了如何构建一个优化问题，有效地权衡效用和隐私。
2021-12-17 cs.CR cs.IT math.IT
Answering Summation Queries for Numerical Attributes under Differential Privacy
在这项工作中，我们探讨了在差分隐私下回答一组求和查询的问题。这是一个不太容易理解的问题，特别是在数值域的情况下。我们表明，传统的技术从文献中并不总是最好的选择，更严格的方法是必要的，以开发低误差算法。
2019-08-27 cs.CR cs.DB
Privacy-Preserving Electronic Ticket Scheme with Attribute-based Credentials
电子票证是纸质票证的电子版本，它使用户能够获得预期的服务并提高服务效率。然而，隐私可能是电子机票用户关心的问题。本文提出了一种基于属性证书的隐私保护电子客票方案，以保护用户的隐私，并促进基于用户属性的票务。我们提出的方案有以下贡献：（1）用户可以从售票员那里购买不同的票，而不需要公布它们的确切属性;（2）同一用户的两张票不能链接;（3）一张票不能转让给另一个用户;（4）一张票不能重复消费;（5）对方案的安全性进行了形式化证明，并将其简化为已知的（q-强Diffie-Hellman）复杂性假设;（6）实现了方案，并对其性能进行了经验评估。据我们所知，我们的隐私保护的基于属性的电子客票计划是第一个提供这五个功能。我们方案的应用领域包括活动或交通门票，用户必须说服售票员他们的属性（例如年龄，职业，位置）满足票价政策以购买折扣票。更一般地说，我们的计划可以用在任何系统中的访问服务只依赖于用户的属性（或权利），但不是他们的身份。
2018-06-26 cs.CR
IncogniText: Privacy-enhancing Conditional Text Anonymization via LLM-based Private Attribute Randomization
Huawei Munich Research Center（华为慕尼黑研究中心）
本文提出IncogniText文本匿名化技术，通过大语言模型私有属性随机化误导对手预测错误属性值，在8种属性上降低泄露超90%，并蒸馏为端侧LoRA参数实现现实部署。
2025-02-02 cs.AI cs.CL cs.CR
Privacy-Optimized Randomized Response for Sharing Multi-Attribute Data
针对多属性数据共享隐私保护不足的问题，提出隐私优化的随机响应方法及高效启发式算法，在保证最强隐私的同时显著降低输出误差。
2024-02-12 cs.CR
Adversarial representation learning for synthetic replacement of private attributes
AI Sweden（瑞典人工智能研究院）
数据隐私是许多现实世界中越来越重要的方面。包含敏感信息的数据源可能具有巨大的潜力，可以使用正确的隐私增强转换来解锁，但当前的方法通常无法产生令人信服的输出。此外，在隐私和实用性之间找到正确的平衡往往是一个棘手的权衡。在这项工作中，我们提出了一种新的方法，数据私有化，其中包括两个步骤：在第一步，它删除了敏感信息，并在第二步，它取代了一个独立的随机样本的信息。我们的方法建立在对抗性表示学习的基础上，通过训练模型来欺骗越来越强大的对手，从而确保强大的隐私。虽然以前的方法只针对混淆的敏感信息，我们发现，添加新的随机信息在其位置加强了所提供的隐私，并提供更好的实用程序在任何给定的隐私级别。其结果是一种方法，可以提供更强的私有化的图像数据，但保留域和输入的效用，完全独立于下游的任务。
2021-02-08 cs.CR cs.LG stat.ML
Does Black-box Attribute Inference Attacks on Graph Neural Networks Constitute Privacy Risk?
L3S Research Center（L3S研究中心）；Leibniz University（莱布尼茨大学）；TU Delft（代尔夫特理工大学）
本文首次系统评估针对 GNN 的黑盒属性推理攻击，通过改变攻击者知识开展实验，发现其相比缺失值估计并未显著增加隐私泄露。
2023-06-01 cs.AI cs.CR cs.LG
Variational Leakage: The Role of Information Complexity in Privacy Leakage
University of Geneva（日内瓦大学）；Imperial College London（帝国理工学院）
我们研究了信息复杂性的作用，在隐私泄漏的属性的对手的利益，这是不知道先验的系统设计者。考虑到有监督的表示学习设置，并使用神经网络来参数化信息量的变化范围，我们研究了以下因素对信息泄漏量的影响：信息复杂度正则化子权重、潜在空间维数、已知效用和未知敏感属性集的基数、效用与敏感属性之间的相关性，以及对对手利益的敏感属性的潜在偏见。我们在有色MNIST和CelebA数据集上进行了广泛的实验，以评估信息复杂性对内在泄漏量的影响。
2021-06-08 cs.CR cs.LG
Beyond Monolithic Perturbation: Heterogeneous Mechanism Design for Multi-Attribute Metric Differential Privacy
University of North Texas（北德克萨斯大学）
针对多属性记录的异构性，提出依赖感知的异构数据扰动框架DepHDP，通过属性分组和混合机制选择，在全局ℓ_p度量mDP约束下联合优化隐私预算与机制设计，以更低计算成本改善隐私-效用权衡。
2026-10-06 cs.CR
Class Attribute Inference Attacks: Inferring Sensitive Class Information by Diffusion-Based Attribute Manipulations
Technical University of Darmstadt（达姆施塔特工业大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））；LAION
该研究提出首个基于扩散模型的黑盒类别属性推断攻击CAIA，可准确推断图像分类器未公开的类别敏感属性，且发现对抗鲁棒模型的隐私泄露风险高于标准模型，揭示了鲁棒性与隐私的权衡关系。
2023-06-13 cs.CR cs.CV cs.LG
(Local) Differential Privacy has NO Disparate Impact on Fairness
Inria（法国国家信息与自动化研究所）；École Polytechnique (IPP)（巴黎综合理工学院（巴黎理工学院））
本文实证研究了在本地差分隐私（LDP）下收集多种敏感属性对公平性的影响，提出了一种考虑属性域大小的新型隐私预算分配方案，实验表明LDP不仅未恶化反而略微改善了公平性，挑战了差分隐私必然损害公平性的普遍看法。
2023-08-01 cs.CR cs.LG
Local Generalization and Bucketization Technique for Personalized Privacy Preservation
匿名化技术在隐私保护数据发布中得到了广泛的研究和应用。在大多数以前的方法中，微数据表由三类属性组成：显式标识符，准标识符（QI）和敏感属性。事实上，不同的人对不同属性的敏感性可能有不同的看法。因此，存在另一种同时包含QI值和敏感值的属性，即半敏感属性。基于这样的观察，我们提出了一种新的匿名化技术，称为局部泛化和桶化，以防止身份泄露，并保护每个半敏感属性和敏感属性上的敏感值。其基本原理是使用局部泛化和局部桶化将元组划分为局部等价组，并将敏感值分别划分为局部桶。局部泛化保护和局部桶化保护是独立的，因此它们可以分别由适当的算法实现，而不会削弱其他保护。此外，每个半敏感属性和敏感属性的局部桶化保护也是独立的。因此，局部桶化可以根据匿名化的实际需求，在不同的属性下遵循不同的原则。大量的实验结果表明了该方法的有效性。
2020-08-25 cs.CR
User-Level Differential Privacy against Attribute Inference Attack of Speech Emotion Recognition in Federated Learning
University of Southern California（南加州大学）
本文研究联邦学习下语音情感识别系统的属性推理攻击问题，提出采用用户级差分隐私（UDP）来缓解隐私泄露，并通过实验证明其在单次模型更新场景下能有效平衡隐私保护与系统效用。
2022-05-17 cs.CR cs.SD eess.AS
Dependency Triad: A Metric to Quantify the Dependencies Between Attributes for Local Differential Privacy
The University of Sydney（悉尼大学）；University of Maryland（马里兰大学）；CSIRO（澳大利亚联邦科学与工业研究组织）
针对现有CPL分析方案的局限，提出依赖三元组（DT）度量，其为常数时间保守估计量，可稳健估计成对CPL，经实验验证适用于合成与真实数据集。
2026-08-05 cs.CR cs.IT math.IT
Topology of Privacy: Lattice Structures and Information Bubbles for Inference and Obfuscation
信息具有内在的几何和拓扑结构，产生于超越绝对值或类型的相对关系。例如，两个人分享一顿饭的事实描述了一种独立于食物成分的关系。多个这样的关系产生关系和它们的格。格具有拓扑结构。该拓扑结构告知信息可以被观察、隐藏、推断和掩饰的方式。道克定理建立了两个由关系导出的单纯复形之间的同伦等价。从隐私的角度来看，一个复合体描述具有共同属性的个体，另一个描述个体共享的属性。同伦等价产生一个格。格中的元素由两个部分组成，一个是个体的集合，另一个是属性的集合。格运算连接并满足每个量，以在一个组件中设置交集，并在另一个组件中设置并集，然后进行潜在的隐私打孔推断。隐私丧失表现为自由面的简单崩溃。这种崩溃是局部的，但完全保留属性和关联隐私的属性需要一个全局条件：一种特殊的球形洞。通过观察一个可识别的个体在其所包含的Dowker情结中的联系，人们可以通过另一个领域条件来表征该个体的属性隐私。即使长期的属性隐私是不可能的，同源性提供了下界如何个人可以推迟识别，当个人控制如何透露属性。直觉上，这个想法是首先揭示可以推断的信息。最后一个结果强调隐私是一个动态过程。隐私损失可以被描述为梯度流。用于隐私保护的谐波流可能是未来研究的沃土。
2017-12-12 cs.CR math.CO
Machine Learning with Privacy for Protected Attributes
FAIR at Meta（Meta 的 FAIR 部门）；NVIDIA / Cornell University（NVIDIA / 康奈尔大学）
本文提出特征差分隐私（FDP）框架，细化DP定义以仅保护受保护属性，改进DP-SGD算法，在AFHQ数据集上显著提升效用（FID从286.7降至101.9），兼顾隐私与效用。
2025-06-24 cs.CR cs.LG
Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting
Carnegie Mellon University（卡内基梅隆大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
当机器学习算法应用于敏感数据时，会对隐私构成明显的威胁。越来越多的先前工作表明，由这些算法产生的模型可能会通过模型的结构或其可观察到的行为将训练数据中的特定私有信息泄露给攻击者。然而，这种隐私风险的根本原因并没有得到很好的理解，除了少数轶事，表明过度拟合和影响可能发挥作用。本文研究了过拟合和影响对攻击者从机器学习模型中学习有关训练数据的信息的能力的影响，无论是通过训练集成员推理还是属性推理攻击。使用正式和实证分析，我们说明了这些因素和隐私风险，出现在几个流行的机器学习算法之间的明确关系。我们发现，过拟合是足以让攻击者进行成员推理，当目标属性满足一定的条件，其影响，属性推理攻击。有趣的是，我们的正式分析还表明，过拟合对于这些攻击来说并不是必需的，并开始揭示其他因素可能在起作用。最后，我们探讨了成员推理和属性推理之间的联系，表明两者之间存在着深刻的联系，导致有效的新攻击。
2018-05-04 cs.CR cs.LG stat.ML
PrivFairFL: Privacy-Preserving Group Fairness in Federated Learning
Mila – Quebec AI Institute（Mila – 魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；University of Washington Tacoma（华盛顿大学塔科马分校）；Ghent University（根特大学）
群体公平性确保了基于机器学习（ML）的决策系统的结果不会偏向于由敏感属性（如性别或种族）定义的特定人群。在联邦学习（FL）中实现群体公平性是具有挑战性的，因为减轻偏见本质上需要使用所有客户端的敏感属性值，而FL的目的正是通过不允许访问客户端的数据来保护隐私。正如我们在本文中所示，在FL中的公平性和隐私性之间的冲突可以通过将FL与安全多方计算（MPC）和差分隐私（DP）相结合来解决。在这样做的过程中，我们提出了一种在完整和正式的隐私保证下在跨设备FL中训练组公平ML模型的方法，而不需要客户端公开其敏感属性值。
2022-08-26 cs.CR cs.LG
FedDMF: Privacy-Preserving User Attribute Prediction using Deep Matrix Factorization
Beta Labs, The Lane Crawford Joyce Group（Beta Labs，连卡佛载思集团）
提出FedDMF算法，通过联邦学习训练深度矩阵分解模型并仅共享项目向量，实现无需用户匹配的隐私保护用户属性预测，在MovieLens数据集上达到FedAvg的96%准确率。
2023-12-24 cs.CR cs.LG
Robust Privacy: Inference-Stage Privacy through Certified Robustness
University of Science and Technology of China（中国科学技术大学）
提出鲁棒隐私(RP)概念，基于认证鲁棒性确保预测在输入邻域内不变，从而限制推理阶段隐私泄露；实验表明RP在属性推断和模型反演攻击中有效提升隐私-效用权衡。
2026-08-18 cs.AI cs.CR cs.LG
Task-Agnostic Privacy-Preserving Representation Learning for Federated Learning Against Attribute Inference Attacks
本文提出任务无关的 TAPPFL 框架，通过双互信息目标学习少含敏感属性、多保留任务效用的表示，并给出可证明隐私保证。
2023-12-12 cs.CR
Can Querying for Bias Leak Protected Attributes? Achieving Privacy With Smooth Sensitivity
University of Maryland（马里兰大学）；Responsible AI LLC（责任人工智能有限责任公司）
本文揭示群体公平性指标查询可泄露受保护属性，并提出基于平滑敏感度的 Attribute-Conceal 差分隐私方法以降低泄露风险。
2023-06-05 cs.AI cs.CR cs.CY
InfoScrub: Towards Attribute Privacy by Targeted Obfuscation
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
个人的个人照片在网上分享时，除了展示无数令人难忘的细节外，还揭示了广泛的私人信息，并可能带来隐私风险（例如，在线骚扰、跟踪）。为了减轻这些风险，研究允许个人限制视觉数据中泄露的私人信息的技术至关重要。我们解决这个问题，在一个新的图像混淆框架：最大限度地提高熵的推断目标的隐私属性，同时保持图像的保真度。我们基于编码器-解码器风格的架构来处理这个问题，其中有两个关键的新颖性：（a）引入一个自适应器来同时从多个不成对域执行双向翻译;（b）预测一个图像插值，该插值最大化目标属性集的不确定性。我们发现我们的方法生成的模糊图像忠实于原始输入图像，并额外增加6.2 $\times$（或高达0.85位）的非模糊对应的不确定性。
2021-06-01 cs.AI cs.CR cs.CV
Privacy Risk Predictions Based on Fundamental Understanding of Personal Data and an Evolving Threat Landscape
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出了一种基于身份生态系统图的隐私风险预测框架，通过分析身份盗窃和欺诈案例，利用图神经网络预测个人数据泄露的可能性。
2026-03-03 cs.CR cs.LG cs.SI
Learning Privacy Preserving Encodings through Adversarial Training
University of Florida（佛罗里达大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
我们提出了一个框架来学习隐私保护编码的图像，抑制推理选择的私人属性，同时允许恢复其他所需的信息。我们的目标不是简单地抑制给定的固定预训练估计器，而是即使知道编码函数，估计器也无法学习准确预测私有属性。我们使用一种基于自然对抗优化的公式来实现这一点--针对私有属性的分类器训练编码函数，两者都建模为深度神经网络。我们工作的关键贡献是一种稳定和收敛的优化方法，该方法成功地学习了具有我们所需属性的编码器-保持实用性，同时抑制私有属性的推断，不仅在对抗优化中，而且在编码器固定后训练的分类器。我们采用了严格的实验协议进行验证，其中分类器进行了详尽的训练，直到饱和的固定编码器。我们评估了我们的方法在现实世界的复杂性任务--学习高维编码，抑制检测不同的场景类别-并发现它产生的编码器，在维护隐私的弹性。
2018-12-04 cs.CR cs.CV cs.LG
Optimal Fairness under Local Differential Privacy
Department of Computing and Software, McMaster University（计算与软件系，麦斯特大学）
本文提出一种基于局部差分隐私的最优机制，通过减少数据不公平性提升分类公平性，同时在保持隐私和准确性方面优于现有方法。
2026-01-30 cs.CR cs.LG stat.ML
FL-DABE-BC: A Privacy-Enhanced, Decentralized Authentication, and Secure Communication for Federated Learning Framework with Decentralized Attribute-Based Encryption and Blockchain for IoT Scenarios
提出融合DABE、HE、SMPC与区块链的FL-DABE-BC框架，在物联网设备端实现去中心化认证加密，并通过雾层安全聚合与差分隐私保护模型训练。
2024-10-26 cs.CR
Inferring Sensitive Attributes from Model Explanations
University of Waterloo（滑铁卢大学）；Univ Lyon（里昂大学）；INSA Lyon（里昂国立应用科学学院）；Inria（法国国家信息与自动化研究所）；CITI（CITI实验室）
模型解释向模型构建器提供了对经训练的机器学习模型的黑盒行为的透明性。它们表明了不同输入属性对其相应模型预测的影响。解释对输入的依赖性引起了对敏感用户数据的隐私问题。然而，现有文献对模型解释的隐私风险讨论有限。我们专注于属性推断攻击的特定隐私风险，其中对手推断输入的敏感属性（例如，种族和性别）给出了模型解释。我们设计的第一个属性推理攻击模型的解释，在两个威胁模型中，模型生成器要么（a）包括敏感属性的训练数据和输入或（b）审查敏感属性不包括在训练数据和输入。我们评估我们提出的攻击四个基准数据集和四个国家的最先进的算法。我们表明，对手可以成功地推断出敏感属性的值，从这两个威胁模型的解释准确。此外，即使只利用与敏感属性相对应的解释，攻击也是成功的。这表明我们的攻击对解释是有效的，并对数据隐私构成了实际威胁。在将模型预测（先前攻击所利用的攻击面）与解释相结合时，我们注意到攻击成功率并没有提高。此外，与仅利用模型预测相比，利用模型解释的攻击成功率更高。这些表明，模型解释是一个强大的攻击面，可供对手利用。
2022-09-07 cs.CR cs.LG
Adversarial Disentanglement of Speaker Representation for Attribute-Driven Privacy Preservation
Laboratoire Informatique d'Avignon (LIA), Avignon Université（阿维尼翁大学计算机科学实验室（LIA））；University of Cambridge（剑桥大学）；EURECOM
在语音技术中，说话人的语音表示被用于许多应用中，例如语音识别、语音转换、语音合成以及显然的用户认证。说话者的现代声音表示是基于神经嵌入的。除了有针对性的信息，这些表示通常包含有关说话者的敏感信息，如年龄，性别，身体状况，教育水平或种族。为了让用户选择保护哪些信息，本文介绍了属性驱动的说话人语音表示的隐私保护的概念。它允许一个人向潜在的恶意拦截器和应用程序提供者隐藏一个或多个个人方面。作为这个概念的第一个解决方案，我们建议使用对抗性自动编码方法，在语音表示中解开给定的扬声器属性，从而允许其隐藏。我们在这里集中在自动说话人确认（ASV）任务的性别属性。使用VoxCeleb数据集进行的实验表明，该方法能够隐藏该属性，同时保留ASV能力。
2021-06-16 cs.AI cs.CR eess.AS
Auditable Homomorphic-based Decentralized Collaborative AI with Attribute-based Differential Privacy
National Central University（中央大学）；National Tsing Hua University（清华大学）
本文提出AerisAI去中心化协作AI框架，结合同态加密、区块链智能合约、CPABE细粒度访问控制及可缓解性能损失的差分隐私机制，实验证明其优于现有基线。
2024-02-28 cs.AI cs.CR cs.LG
You Only Anonymize What Is Not Intent-Relevant: Suppressing Non-Intent Privacy Evidence
Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院）
IntentAnony通过意图条件暴露控制，在保护隐私的同时保持文本的语义和语用功能，显著提升了隐私与效用的平衡。
2026-01-07 cs.CR
Does a Face Mask Protect my Privacy?: Deep Learning to Predict Protected Attributes from Masked Face Images
University of Melbourne（墨尔本大学）；University of Moratuwa（莫拉图瓦大学）；National University of Singapore（新加坡国立大学）；RMIT University（皇家墨尔本理工大学）
我们迅速实施非接触式高效系统，以倡导预防方法对抗COVID-19疫情。尽管这些系统有积极的好处，但也有可能通过侵犯用户隐私来利用。在这项工作中，我们分析了隐私入侵的人脸生物识别系统的隐私敏感的软生物特征，使用蒙面的人脸图像预测。我们训练和应用一个基于ResNet-50架构的CNN，使用20，003个合成掩码图像，并测量隐私入侵。尽管人们普遍认为戴口罩对隐私有好处，但我们发现戴口罩对隐私的侵犯没有显着差异。在我们的实验中，我们能够准确地预测性别（94.7%），种族（83.1%）和年龄（MAE 6.21和RMSE 8.33）从蒙面的脸图像。我们提出的方法可以作为一个基线工具，以评估隐私侵犯的人工智能系统，利用隐私敏感信息。我们开放所有贡献，供研究界进行复制和更广泛的使用。
2022-01-26 cs.CR cs.CV
Training privacy-preserving video analytics pipelines by suppressing features that reveal information about private attributes
Queen Mary University of London（伦敦玛丽女王大学）；Centre for Intelligent Sensing（智能感知中心）
深度神经网络越来越多地用于场景分析，包括评估人们对户外广告的注意力和反应。然而，由被训练成预测特定的、合意的属性（例如情感）的深度神经网络提取的特征也可以编码并因此揭示关于隐私的、受保护的属性（例如年龄或性别）的信息。在这项工作中，我们专注于这种泄漏的私人信息在推理时间。我们考虑一个对手访问的功能提取的层部署的神经网络，并使用这些功能来预测私人属性。为了防止这种攻击的成功，我们使用混淆损失来修改网络的训练，鼓励提取特征，使对手难以准确预测私有属性。我们使用公开的数据集在基于图像的任务上验证了这种训练方法。结果表明，与原始网络相比，所提出的PrivateNet可以将最先进的情感识别分类器的私人信息泄漏减少2.88%（性别）和13.06%（年龄组），对任务准确性的影响最小。
2022-06-01 cs.CR cs.CV cs.LG
WibsonTree: Efficiently Preserving Seller's Privacy in a Decentralized Data Marketplace
我们提出了一个加密原语称为WibsonTree，旨在保护用户的隐私，允许他们展示自己的个人属性上的谓词，而不透露这些属性的值。我们假设有三种类型的代理-买家，卖家和公证人-他们在分散的隐私保护数据市场（dPDM）中进行交互，如Wibson市场。我们介绍的WibsonTree协议作为一个有效的加密原语，使交换的私人信息，同时保护卖方的隐私。使用我们的原语，数据卖方可以有效地证明他/她属于买方数据请求的目标受众，而无需透露任何额外的信息。
2020-02-10 cs.CR cs.CY
Random Sampling Plus Fake Data: Multidimensional Frequency Estimates With Local Differential Privacy
通过本地差分隐私（LDP），用户可以将其数据私有化，从而在将其传输到服务器之前保证隐私属性（也称为aggregator）。LDP的一个主要目标是频率（或直方图）估计，其中聚合器估计每个可能值的用户数量。在实践中，当需要对人口进行内容丰富的研究时，人们对人口的多个属性感兴趣，也就是说，对多维数据（$d \geq 2$）感兴趣。然而，与单一属性的频率估计问题（大多数作品）相反，多维方面要求特别注意隐私预算。由于合成定理，这个值确实可以非常快地增长。据作者所知，有两种解决方案似乎突出了这项任务：1）为每个属性分配隐私预算，即，用$\fracε{d}$ -LDP（Sp1）发送每个值，以及2）随机采样单个属性并花费所有隐私预算来用$ε$ -LDP（Smp）发送它。虽然SMP增加了额外的采样误差，但它已被证明比以前的Spl解决方案提供更高的数据效用。然而，我们认为，聚合器（谁也被视为攻击者）是知道的采样属性及其LDP值，这是由一个“不太严格”的$e^ε$概率界（而不是$e^{ε/d}$）的保护。通过这种方式，我们提出了一种名为随机采样加假数据（RS+FD）的解决方案，它允许通过为每个非采样属性生成假数据来创建采样属性的不确定性; RS+FD进一步受益于采样放大。我们从理论上和实验上验证了我们提出的解决方案在合成和真实世界的数据集上，以表明RS+FD实现了几乎相同或更好的效用比最先进的Smp解决…
2021-09-15 cs.CR
ZKlaims: Privacy-preserving Attribute-based Credentials using Non-interactive Zero-knowledge Techniques
在本文中，我们提出了ZKlaims：一个系统，允许用户提出基于属性的凭证的隐私保护的方式。我们实现了一个零知识属性的基础上简洁的非交互式的知识参数（SNARKs）。ZKlaim允许用户证明可信第三方发布的凭证声明。作为证明过程的一部分，证书内容永远不会透露给验证者。此外，ZKlaim可以以非交互方式呈现，减轻了用户和验证者之间对交互证明的需求。这使得ZKlaim可以通过完全分散的服务和存储进行交换，例如基于分布式哈希表（DHT）甚至区块链的传统点对点网络。为了证明这一点，我们包括ZKlaim的性能评估，并展示如何将其集成到分散的身份提供者服务中。
2019-07-22 cs.CR
Privacy-Aware Recommendation with Private-Attribute Protection using Adversarial Learning
推荐是帮助用户找到与其兴趣相关的信息的关键应用之一。然而，恶意攻击者可以通过推荐来推断用户的私人信息。先前的工作在与推荐系统共享之前混淆用户项数据。这种方法在执行数据混淆时没有显式地解决推荐的质量。此外，它不能保护用户免受基于建议的私有属性推理攻击。这项工作是第一次尝试建立一个推荐与属性保护（RAP）模型，同时推荐相关的项目和计数器私有属性推理攻击。我们的方法的关键思想是制定这个问题作为一个对抗性的学习问题，有两个主要组成部分：私人属性推理攻击者，和贝叶斯个性化推荐。攻击者试图根据用户的项目列表和建议来推断用户的私有属性信息。推荐器的目标是提取用户的兴趣，同时利用攻击者来规范推荐过程。实验表明，该模型既保持了推荐服务的质量，又保护了用户免受私有属性推理攻击。
2019-11-22 cs.CR cs.IR cs.SI
$A^{4}NT$: Author Attribute Anonymity by Adversarial Training of Neural Machine Translation
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
基于文本的分析方法允许揭示隐私相关的作者属性，如性别，年龄和文本作者的身份。这样的方法可能危及匿名作者的隐私，即使作者试图删除隐私敏感内容。在本文中，我们提出了一种自动方法，称为对抗作者属性相似性神经翻译（$A^4NT$），以打击这种基于文本的对手。我们结合了机器翻译和生成对抗网络中使用的序列到序列语言模型来混淆作者属性。与需要配对数据的机器翻译技术不同，我们的方法可以在包含不同作者的未配对文本语料库上进行训练。重要的是，我们提出和评估技术，对我们的$A^4NT$施加限制，以保持输入文本的语义。$A^4NT$学习对输入文本进行最小的更改，以成功地欺骗作者属性分类器，同时旨在保持输入的含义。我们通过两个不同的数据集和三个设置的实验表明，我们提出的方法是有效的欺骗作者属性分类器，从而提高作者的匿名性。
2018-02-19 cs.CL cs.CR cs.CY
User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST（香港科技大学计算机科学与工程系）
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题，提出用户同意的联邦推荐系统UC-FedRec，通过最小化准确度代价灵活满足隐私需求，实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach
Syracuse University（雪城大学）；Georgia Institute of Technology（佐治亚理工学院）
数据驱动决策的一个关键问题是建立模型，其结果不会歧视某些人口群体，包括性别，种族或年龄。为了确保学习任务中的不歧视，了解敏感属性是必不可少的，而在实践中，由于法律和道德要求，这些属性可能无法提供。为了应对这一挑战，本文研究了一个模型，保护个人的隐私敏感信息，同时也允许它学习非歧视性的预测。该方法依赖于差分隐私的概念和拉格朗日对偶的使用来设计神经网络，可以适应公平性约束，同时保证敏感属性的隐私。本文分析了准确性，隐私性和公平性之间的紧张关系，实验评估说明了所提出的模型在几个预测任务上的好处。
2020-09-26 cs.AI cs.CR cs.LG
RecUP-FL: Reconciling Utility and Privacy in Federated Learning via User-configurable Privacy Defense
University of Tennessee（田纳西大学）；Rutgers University（罗格斯大学）；Intuit AI Research（Intuit人工智能研究院）
本文提出用户可配置的联邦学习隐私防御方法 RecUP-FL，通过对抗学习生成梯度扰动以保护用户指定敏感属性，并利用元学习思想提升对黑盒攻击的可迁移性，在满足隐私约束的同时显著改善模型效用。
2023-04-11 cs.CR cs.LG
