Adversarial Privacy Preserving Graph Embedding against Inference Attack
University of Electronic Science and Technology of China（电子科技大学）；Georgia State University（佐治亚州立大学）
最近，物联网（IoT）、移动设备、社交媒体等的普及为图形数据开辟了大量来源。图嵌入已被证明是非常有用的学习低维特征表示从图结构化数据。这些特征表示可用于从节点分类到链接预测的各种预测任务。然而，现有的图嵌入方法没有考虑用户的隐私，以防止推理攻击。也就是说，攻击者可以通过分析从图嵌入算法学习的节点表示来推断用户的敏感信息。在本文中，我们提出了对抗隐私图嵌入（APGE），这是一个图对抗训练框架，它集成了解开和清除机制，以从学习的节点表示中删除用户的隐私信息。该方法保留了图的结构信息和效用属性，同时隐藏了用户的私有属性，避免了推理攻击。在真实世界的图数据集上进行的大量实验表明，与最先进的算法相比，APGE具有更好的性能。我们的源代码可以在https://github.com/uJ62JHD/Privacy-Preserving-Social-Network-Embedding上找到。
2020-08-30 cs.CR cs.LG stat.ML
Robustness, Privacy, and Generalization of Adversarial Training
University of Sydney（悉尼大学）；University of Science and Technology of China（中国科学技术大学）；Microsoft Research Asia（微软亚洲研究院）
对抗性训练可以大大增强深度神经网络的鲁棒性，以抵抗对抗攻击。然而，一些工作表明，对抗性训练可能包括隐私保护和泛化能力。本文从理论和实证两个方面建立并量化了对抗训练中的隐私-鲁棒性权衡和泛化-鲁棒性权衡。我们首先定义了一个概念，{ \it robustized intensity}来衡量对抗训练算法的鲁棒性。该度量可以通过渐近一致的经验估计器{ \it经验鲁棒强度}来经验地近似。基于鲁棒强度，我们证明了：（1）对抗训练是$(\varepsilon, δ)$ -差分隐私的，其中差分隐私的大小与鲁棒强度呈正相关;（2）对抗训练的泛化误差可以由$\mathcal O(\sqrt{\log N}/N)$平均界和$\mathcal O(1/\sqrt{N})$高概率界来上界，这两个界都与鲁棒强度呈正相关.此外，我们的泛化边界不显式依赖于参数大小，这在深度学习中会非常大。在标准数据集CIFAR-10和CIFAR-100上的系统实验与我们的理论完全一致。源代码包可在\url{https://github.com/fshp971/RPG}上获得。
2020-12-25 cs.AI cs.CR cs.LG
Private Dataset Generation Using Privacy Preserving Collaborative Learning
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）
随着深度学习算法在许多应用中的使用越来越多，与隐私和对抗攻击相关的新研究问题正在出现。然而，深度学习算法的改进需要越来越多的数据在研究社区内共享。联邦学习、差分隐私、附加秘密共享等方法提供了一种在边缘上训练机器学习模型而不从边缘移动数据的方法。然而，它是非常计算密集型的，并且容易受到对抗攻击。因此，这项工作引入了一个隐私保护FedCollabNN框架，用于在边缘训练机器学习模型，该框架具有计算效率和对对抗攻击的鲁棒性。使用MNIST数据集的仿真结果表明了该框架的有效性。
2020-04-28 cs.CR cs.LG stat.ML
Certified Robustness to Adversarial Examples with Differential Privacy
Columbia University（哥伦比亚大学）
欺骗机器学习模型，特别是深度神经网络的对抗性示例一直是人们强烈研究的主题，攻击和防御都在紧密的来回发展。过去的大多数防御都是尽力而为的，并且已经被证明容易受到复杂的攻击。最近引入了一组经过认证的防御，它们提供了对范数有界攻击的鲁棒性保证，但它们要么不能扩展到大型数据集，要么在它们可以支持的模型类型方面受到限制。本文提出了第一个认证的防御，既可以扩展到大型网络和数据集（例如Google的Inception网络ImageNet），又可以广泛应用于任意模型类型。我们的防御称为PixelDP，基于对抗性示例的鲁棒性和差分隐私之间的新型联系，差分隐私是一种受密码学启发的形式主义，为防御提供了严格，通用和灵活的基础。
2019-05-29 cs.AI cs.CR cs.LG
CorGAN: Correlation-Capturing Convolutional Generative Adversarial Networks for Generating Synthetic Healthcare Records
Virginia Polytechnic Institute and State University (Virginia Tech)（弗吉尼亚理工学院暨州立大学（弗吉尼亚理工））
深度学习模型在图像分类和语音处理等领域表现出高质量的性能。然而，使用电子健康记录（EHR）数据创建深度学习模型需要解决该领域研究人员特有的特定隐私挑战。这件事的重点是在确保隐私的同时生成现实的合成数据。在本文中，我们提出了一种新的框架，称为相关捕获生成对抗网络（CorGAN），生成合成的医疗记录。在CorGAN中，我们利用卷积神经网络通过结合卷积生成对抗网络和卷积自动编码器来捕获数据表示空间中相邻医学特征之间的相关性。为了证明模型的保真度，我们展示了CorGAN在各种机器学习设置（如分类和预测）中生成的合成数据与真实数据的性能相似。我们还对合成数据的现实特征进行了隐私评估和统计分析。这项工作的软件是开源的，可在https://github.com/astorfi/cor-gan上获得。
2020-03-04 cs.LG stat.ML
Privacy and Fairness in Recommender Systems via Adversarial Training of User Representations
Intuit Tech Futures（财捷科技未来部门）；Bar Ilan University（巴伊兰大学）；Intuit（财捷公司）
推荐系统的潜在因素模型将用户和项目表示为低维向量。这种系统的隐私风险以前主要是在从训练数据中以使用记录的形式恢复个人信息的背景下研究的。然而，用户表示本身可以与外部数据一起使用，以恢复诸如性别和年龄的私人用户信息。在本文中，我们表明，用户向量计算的一个共同的推荐系统可以利用这种方式。我们提出了隐私对抗框架，以消除这种泄漏的私人信息，并研究推荐性能和泄漏之间的权衡理论和经验使用基准数据集。所提出的方法的优点是，它也有助于保证结果的公平性，因为一组属性的所有隐式知识都从模型使用的表示中擦除，因此不能进入决策。我们讨论了进一步的应用，这种方法对生成更深入，更有见地的建议。
2018-12-18 cs.IR cs.LG stat.ML
Learning Privacy Preserving Encodings through Adversarial Training
University of Florida（佛罗里达大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
我们提出了一个框架来学习隐私保护编码的图像，抑制推理选择的私人属性，同时允许恢复其他所需的信息。我们的目标不是简单地抑制给定的固定预训练估计器，而是即使知道编码函数，估计器也无法学习准确预测私有属性。我们使用一种基于自然对抗优化的公式来实现这一点--针对私有属性的分类器训练编码函数，两者都建模为深度神经网络。我们工作的关键贡献是一种稳定和收敛的优化方法，该方法成功地学习了具有我们所需属性的编码器-保持实用性，同时抑制私有属性的推断，不仅在对抗优化中，而且在编码器固定后训练的分类器。我们采用了严格的实验协议进行验证，其中分类器进行了详尽的训练，直到饱和的固定编码器。我们评估了我们的方法在现实世界的复杂性任务--学习高维编码，抑制检测不同的场景类别-并发现它产生的编码器，在维护隐私的弹性。
2018-12-04 cs.CR cs.CV cs.LG
Machine Learning with Membership Privacy using Adversarial Regularization
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；National University of Singapore（新加坡国立大学）
机器学习模型会泄露关于它们所训练的数据集的信息。攻击者可以构建一个算法来跟踪模型训练数据集的各个成员。作为基本的推理攻击，他的目标是区分模型训练集的数据点和来自同一分布的任何其他数据点。这被称为跟踪（也称为成员推断）攻击。在本文中，我们专注于对黑盒模型的攻击，其中对手只能观察模型的输出，但不能观察其参数。这是互联网中机器学习作为服务的当前设置。我们引入了一种隐私机制来训练可证明实现成员隐私的机器学习模型：该模型对其训练数据的预测与其对来自同一分布的其他数据点的预测无法区分。我们设计了一个策略机制，隐私机制预计成员推理攻击。目标是训练一个模型，使其不仅具有最小的预测误差（高实用性），而且是针对其相应的最强推理攻击（高隐私性）的最鲁棒模型。我们将其形式化为一个最小-最大博弈优化问题，并设计了一个对抗性训练算法，该算法最大限度地减少了模型的分类损失以及对模型的成员推理攻击的最大收益。这种策略，保证了成员隐私（作为预测不可篡改性），也作为一个强正则化器，并显着推广了模型。我们使用不同的基准数据集在深度神经网络上评估我们的隐私机制。我们表明，我们的最小-最大策略可以减轻成员推断攻击的风险（接近随机猜测），在分类错误方面的成本可以忽略不计。
2018-07-16 cs.CR cs.LG stat.ML
PrivacyNet: Semi-Adversarial Networks for Multi-attribute Face Privacy
Michigan State University（密歇根州立大学）；University of Wisconsin – Madison（威斯康星大学麦迪逊分校）
最近的研究已经建立了从个人的面部图像中以高精度推断诸如年龄、性别和种族等软生物特征属性的可能性。然而，这引起了隐私问题，特别是当为生物识别目的收集的面部图像在未经个人同意的情况下用于属性分析时。为了解决这个问题，我们开发了一种技术，通过图像扰动方法赋予软生物特征隐私的人脸图像。图像扰动是使用基于GAN的半对抗网络（SAN）（称为PrivacyNet）进行的，该网络修改输入面部图像，使其可以被面部匹配器用于匹配目的，但不能被属性分类器可靠地使用。此外，PrivacyNet允许人选择必须在输入面部图像中模糊的特定属性（例如，年龄和种族），同时允许提取其他类型的属性（例如，性别）。使用多个人脸匹配器，多个年龄/性别/种族分类器和多个人脸数据集的广泛实验证明了所提出的多属性隐私增强方法在多个人脸和属性分类器上的通用性。
2021-03-14 cs.CR cs.CV cs.LG
Context-Aware Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
保护已发布数据集的实用性，同时提供可证明的隐私保证是一个众所周知的挑战。一方面，上下文无关的隐私解决方案，如差分隐私，提供了强有力的隐私保障，但往往导致效用显著降低。另一方面，上下文感知隐私解决方案，如信息理论隐私，实现了改进的隐私-效用权衡，但假设数据持有者可以访问数据集统计数据。我们通过引入一种称为生成对抗隐私（GAP）的新颖的上下文感知隐私框架来规避这些限制。GAP利用生成对抗网络（GANs）的最新进展，允许数据持有者从数据集本身学习私有化方案。在GAP下，学习隐私机制被制定为两个参与者之间的约束极大极小博弈：一个私有化器以限制对个人私有变量的推断攻击风险的方式对数据集进行净化，另一个对手试图从净化的数据集推断私有变量。为了评估GAP的性能，我们研究了两个简单的（但规范的）统计数据集模型：（a）二进制数据模型，和（b）二进制高斯混合模型。对于这两种模型，我们推导出博弈理论上的最优极大极小隐私机制，并表明从数据中学习的隐私机制（以生成对抗的方式）与理论上的最优隐私机制相匹配。这表明我们的框架可以很容易地应用于实践，即使在没有数据集统计的情况下。
2017-12-03 cs.AI cs.CR cs.GT
RDP-GAN: A Rényi-Differential Privacy based Generative Adversarial Network
Nanjing University of Science and Technology（南京理工大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；University of Technology Sydney（悉尼科技大学）；Jinan University（暨南大学）；Princeton University（普林斯顿大学）
生成对抗网络（GAN）因其能够生成具有高隐私保护的真实样本而受到越来越多的关注。在不直接与训练样本交互的情况下，生成模型可以完全用于估计原始数据集的潜在分布，而判别模型可以通过将标签值与训练样本进行比较来检查生成样本的质量。然而，当GANs应用于敏感或私人的训练样本时，例如医疗或财务记录，仍然有可能泄露个人的敏感和私人信息。为了减轻这种信息泄漏并构建私有GAN，在这项工作中，我们提出了一个雷尼差分私有GAN（RDP-GAN），它通过在训练期间仔细地在损失函数的值上添加随机噪声来实现GAN中的差分隐私（DP）。此外，我们推导出的分析结果的总隐私损失下的子采样方法和累积迭代，这表明它的隐私预算分配的有效性。此外，为了减轻噪声注入带来的负面影响，我们对算法进行了改进，增加了自适应噪声调整步骤，根据测试精度的不同，调整噪声的大小。通过大量的实验结果，我们验证了该算法可以实现更好的隐私水平，同时产生高质量的样本相比，基准DP-GAN方案的基础上噪声扰动的训练梯度。
2020-07-04 cs.CR cs.LG cs.NI
Private Knowledge Transfer via Model Distillation with Generative Adversarial Networks
Zhejiang University（浙江大学）
深度学习应用的部署必须解决在使用私人和敏感数据进行训练时日益增长的隐私问题。传统的深度学习模型容易受到隐私攻击，隐私攻击可以从模型参数或对目标模型的访问中恢复个体的敏感信息。最近，已经提出了提供可证明的隐私保证的差分隐私来以隐私保护的方式训练训练神经网络以保护训练数据。然而，许多方法倾向于为模型发布提供最坏情况的隐私保证，不可避免地损害了训练模型的准确性。在本文中，我们提出了一种新的私人知识转移策略，私人教师接受敏感数据的培训是不可公开访问的，但教学生公开发布。特别是，一个三人（教师-学生-学习者）的学习框架，提出了实现效用和隐私之间的权衡，学生从教师那里获得的蒸馏知识，并与学习者训练，以产生类似的输出作为教师。然后，我们将差分隐私保护机制集成到学习过程中，这使得严格的隐私预算的培训。该框架最终允许学生仅使用未标记的公共数据和很少的时期进行训练，从而防止敏感的训练数据的暴露，同时确保模型实用性与适度的隐私预算。在MNIST、SVHN和CIFAR-10数据集上的实验表明，在隐私边界为（1.93，10^-5）、（5.02，10^-6）、（8.81，10^-6）的情况下，我们的学生获得了相对于教师的0.89%、2.29%、5.16%的准确率损失。当与现有的作品\cite{papernot2016semi,wang2019private}相比，所提出的工作可以实现5-82%的精度损失的改善…
2020-04-05 cs.CR cs.LG stat.ML
PS-FedGAN: An Efficient Federated Learning Framework Based on Partially Shared Generative Adversarial Networks For Data Privacy
University of California, Davis（加州大学戴维斯分校）
本文提出新型联邦学习框架PS-FedGAN，通过仅部分共享GAN模型增强释放与训练机制，有效解决客户端数据异构分布问题，在保障数据隐私的同时显著降低通信成本。
2023-05-19 cs.AI cs.LG
Generative Adversarial Networks: A Survey Towards Private and Secure Applications
Georgia State University（佐治亚州立大学）；Shenzhen Institute of Advanced Technology, CAS（中国科学院深圳先进技术研究院）
生成对抗网络（GAN）由于其生成模型具有从现有样本分布中生成逼真示例的令人信服的能力，已经促进了计算机视觉、自然语言处理等领域的各种应用。GAN不仅在基于数据生成的任务上提供了令人印象深刻的性能，而且由于其博弈论优化策略，还刺激了面向隐私和安全的研究。遗憾的是，没有关于GAN在隐私和安全方面的全面调查，这促使本文系统地总结这些最先进的作品。根据隐私和安全功能对现有作品进行了适当的分类，并对它们的优缺点进行了全面的分析。考虑到GAN在隐私和安全方面仍处于非常初级的阶段，并提出了独特的挑战，尚未得到很好的解决，本文还揭示了一些潜在的隐私和安全应用与GAN，并阐述了一些未来的研究方向。
2021-06-07 cs.CR cs.LG
Differentially Private Generative Adversarial Network
Michigan State University（密歇根州立大学）；Rutgers University（罗格斯大学）；Weill Cornell Medical School（威尔康奈尔医学院）
生成对抗网络（GAN）及其变体由于其良好的理论基础和出色的生成模型性能，近年来引起了广泛的研究兴趣。这些工具为数据可用性有限的研究提供了一个有希望的方向。GANs中的一个常见问题是，学习的生成分布的密度可能集中在训练数据点上，这意味着由于深度网络的高模型复杂性，它们可以很容易地记住训练样本。当GANs应用于患者病历等隐私或敏感数据时，这成为一个主要问题，并且分布的集中可能会泄露关键的患者信息。为了解决这个问题，在本文中，我们提出了一个差分隐私GAN（DPGAN）模型，在该模型中，我们通过在学习过程中向梯度添加精心设计的噪声来实现GANs中的差分隐私。我们为隐私保证提供了严格的证据，以及全面的经验证据来支持我们的分析，我们证明我们的方法可以在合理的隐私级别上生成高质量的数据点。
2018-02-19 cs.CR cs.LG stat.ML
Generative Adversarial User Privacy in Lossy Single-Server Information Retrieval
Simula UiB（Simula UiB（卑尔根大学Simula研究中心））；New Jersey Institute of Technology（新泽西理工学院）
我们建议扩展私人信息检索的概念，允许在检索过程中的失真，并放宽了完美的隐私要求，在同一时间。特别是，我们研究了下载速率，失真和用户隐私泄露之间的权衡，并表明，在大文件大小的限制，这种权衡可以通过一种新的信息理论公式与已知的分布数据集捕获。此外，对于数据集的统计数据未知的情况，我们提出了一个新的深度学习框架，利用生成对抗网络方法，允许用户从数据本身学习有效的方案。我们评估了该计划的性能上的合成高斯数据集以及MNIST，CIFAR-10，和LSUN数据集。对于MNIST，CIFAR-10和LSUN数据集，数据驱动的方法显着优于基于非学习的方案，该方案将信源编码与多个文件的下载相结合。
2022-10-19 cs.IT cs.LG math.IT
Privacy Protection in Personalized Diffusion Models via Targeted Cross-Attention Adversarial Attack
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）
本文提出CoPSAM方法，通过仅攻击T2I扩散模型的交叉注意力层并构造不易察觉噪声，在更低噪声水平下实现更优的个性化内容隐私保护，防止身份被恶意滥用。
2024-11-25 cs.CV cs.LG
PATE-AAE: Incorporating Adversarial Autoencoder into Private Aggregation of Teacher Ensembles for Spoken Command Classification
Georgia Institute of Technology（佐治亚理工学院）；University of Enna（恩纳大学）；NTNU（挪威科技大学）
我们提出使用对抗自动编码器（AAE），以取代生成对抗网络（GAN）的教师合奏（PATE）的私人聚合，解决方案，以确保差分隐私在语音应用中。AAE架构使我们能够获得良好的合成语音利用后的歧视性训练的潜在向量。当非敏感数据在公共领域中不充分可用时，这种合成语音用于构建隐私保护分类器。该分类器遵循PATE方案，该方案使用噪声输出的集合来标记合成样本，并在其导出的分类器上保证$\varepsilon$ -差分隐私（DP）。因此，我们提出的框架包括一个基于AAE的生成器和一个基于PATE的分类器（PATE-AAE）。在Google语音命令数据集版本II上进行评估，与其他隐私保护解决方案（即PATE-GAN和DP-GAN）相比，所提出的PATE-AAE分别将平均分类准确率提高了+ $2.11\%$和+ $6.60\%$，同时保持了$\varepsilon$ =0.01的强大隐私目标水平，固定$δ$ =10 $^{-5}$。
2021-06-15 cs.AI cs.LG cs.NE
Exploring Privacy and Fairness Risks in Sharing Diffusion Models: An Adversarial Perspective
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；Alibaba Group（阿里巴巴集团）；Renmin University of China（中国人民大学）
本文从对抗视角揭示共享扩散模型中的隐私与公平性风险，证明共享者可实施公平性投毒攻击，接收者可进行属性推断攻击，强调数据审计与隐私保护的重要性。
2024-09-19 cs.AI cs.CR cs.LG
Generating gender-ambiguous voices for privacy-preserving speech recognition
Queen Mary University of London（伦敦玛丽女王大学）
我们的声音编码了一种独特的可识别模式，可用于推断个人在使用语音识别服务时可能不希望透露的私人属性，如性别或身份。为了防止属性推断攻击以及语音识别任务，我们提出了一个生成对抗网络GenGAN，它可以合成隐藏说话者性别或身份的声音。拟议中的网络包括一个具有U-Net架构的生成器，该架构可以学习欺骗网络。我们的发电机只对性别信息的条件，并使用信号失真和隐私保护之间的对抗性损失。我们表明，GenGAN提高了隐私和效用之间的权衡相比，隐私保护的表示学习方法，考虑性别信息作为一个敏感的属性，以保护。
2022-07-03 cs.LG cs.SD eess.AS
AnomiGAN: Generative adversarial networks for anonymizing private medical data
Seoul National University（首尔国立大学）
典型的个人医疗数据包含有关个人的敏感信息。因此，存储或共享个人医疗数据通常是有风险的。例如，一个短的DNA序列可以提供信息，不仅可以识别一个人，而且还可以识别他或她的亲属。尽管如此，大多数国家和研究人员都同意收集个人医疗数据的必要性。这是因为，包括基因组数据在内的医疗数据是进一步研究和开发疾病预防和治疗的不可或缺的资源。为了防止个人医疗数据被滥用，应该开发用于实际应用的可靠地保存敏感信息的技术。在本文中，我们提出了一个名为匿名生成对抗网络（AnomiGAN）的框架，以改善个人医疗数据隐私的维护，同时保持高预测性能。我们将我们的方法与最先进的技术进行了比较，并观察到我们的方法保留了与差分隐私（DP）相同的隐私级别，但具有更好的预测结果。我们还观察到，根据原始数据的保存程度，隐私和性能结果之间存在权衡。在这里，我们提供了我们提出的模型的数学概述，并使用UCI机器学习存储库数据集来演示其验证，以突出其在实践中的实用性。实验上，我们的方法提供了更好的性能相比，DP的方法。
2019-01-31 cs.CR cs.LG
DYSAN: Dynamically sanitizing motion sensor data against sensitive inferences through adversarial networks
Project-Teams Privatics（Privatics项目团队）
随着量化自我运动的广泛采用，越来越多的用户依赖于移动应用程序通过智能手机监测他们的身体活动。授予应用程序对传感器数据的直接存取权限会使用户面临隐私风险。事实上，通常这些运动传感器数据被传输到托管在云上的分析应用程序，利用机器学习模型向用户提供关于其健康状况的反馈。然而，没有什么可以阻止服务提供商推断关于用户的私人和敏感信息，例如健康或人口统计属性。在本文中，我们提出了DySan，一个隐私保护框架，用于对不需要的敏感推断（即，提高隐私性）同时限制身体活动监测的准确性损失（即，维护数据实用程序）。为了确保效用和隐私之间的良好权衡，DySan利用生成对抗网络（GAN）的框架来净化传感器数据。更确切地说，通过以竞争的方式学习几个网络，DySan能够建立模型，根据对指定敏感属性（例如，性别），同时保持活动识别的高准确性。此外，DySan根据传入数据动态选择最大化隐私的消毒模型。在真实数据集上进行的实验表明，DySan可以将性别推断限制在47%，而活动识别的准确率仅降低3%。
2020-10-08 cs.AI cs.CR cs.LG
Learning Differentially Private Diffusion Models via Stochastic Adversarial Distillation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对隐私敏感领域数据受限导致生成图像质量不佳的问题，提出DP-SAD方法，通过随机对抗蒸馏训练差分隐私扩散模型，利用教师-学生蒸馏加噪和判别器对抗训练，有效提升了脱敏数据生成质量。
2024-08-27 cs.CR cs.CV cs.LG
$A^{4}NT$: Author Attribute Anonymity by Adversarial Training of Neural Machine Translation
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
基于文本的分析方法允许揭示隐私相关的作者属性，如性别，年龄和文本作者的身份。这样的方法可能危及匿名作者的隐私，即使作者试图删除隐私敏感内容。在本文中，我们提出了一种自动方法，称为对抗作者属性相似性神经翻译（$A^4NT$），以打击这种基于文本的对手。我们结合了机器翻译和生成对抗网络中使用的序列到序列语言模型来混淆作者属性。与需要配对数据的机器翻译技术不同，我们的方法可以在包含不同作者的未配对文本语料库上进行训练。重要的是，我们提出和评估技术，对我们的$A^4NT$施加限制，以保持输入文本的语义。$A^4NT$学习对输入文本进行最小的更改，以成功地欺骗作者属性分类器，同时旨在保持输入的含义。我们通过两个不同的数据集和三个设置的实验表明，我们提出的方法是有效的欺骗作者属性分类器，从而提高作者的匿名性。
2018-02-19 cs.CL cs.CR cs.CY
Finding Solutions to Generative Adversarial Privacy
Stanford University（斯坦福大学）
我们提出了解决线性和卷积神经网络（CNN）对手的生成对抗隐私设置引起的最大最小问题的算法。在线性对手设置，我们提出了一个贪心算法的私有化，表现更好的情况下，增加的数量接近最优解。我们还提供了对该算法的分析，以表明它不仅首先删除了与私有标签最相关的特征，而且还保留了与私有标签相关的特征充分独立的公共标签的预测准确性。在CNN对手设置，我们提出了一种方法，隐藏选定的信息从对手，同时保留其他通过交替优化私有化和对手的目标，使用神经网络反向传播。我们的实验表明，我们的方法成功地对一个固定的对手。
2018-10-04 cs.LG stat.ML
Better accuracy with quantified privacy: representations learned via reconstructive adversarial network
Rice University（莱斯大学）；Xidian University（西安电子科技大学）
机器学习，特别是深度学习的巨大成功，为移动用户提供了各种基于云的服务。此类服务要求最终用户向服务提供商发送数据，这对最终用户隐私提出了严重挑战。为了解决这个问题，以前的作品要么向数据中添加噪声，要么发送从原始数据中提取的特征。他们努力在实用性和隐私性之间取得平衡，因为增加的噪声会降低实用性，而原始数据可以从提取的特征中重建。这项工作代表了与先前工作的有条不紊的背离：我们通过利用对抗性学习来找到一个更甜蜜的权衡，从而在隐私和另一种实用性之间取得平衡。我们设计了一个编码器，对重建误差（隐私的措施），adversarially由解码器，和推理精度（实用程序的措施）的分类器进行优化。其结果是RAN，这是一种新型的深度模型，具有新的训练算法，可以自动提取既私密又有用的分类特征。事实证明，相反地迫使提取的特征仅传达分类所需的预期信息会导致隐式正则化，从而导致比完全忽略隐私的原始模型更好的分类精度。因此，我们实现了更好的隐私和更好的实用性，这在机器学习中是一个令人惊讶的可能性！我们对五个流行的数据集进行了广泛的实验，超过四个训练方案，并证明了RAN与现有的替代品相比的优越性。
2019-01-25 cs.CR cs.LG stat.ML
DeMem: Privacy-Enhanced Robust Adversarial Learning via De-Memorization
Department of Electronic Systems, Aalborg University, Copenhagen, Denmark（电子系统系，奥胡斯大学，哥本哈根，丹麦）
DeMem通过选择性对高风险样本去记忆化，在保持对抗鲁棒性的同时显著降低隐私泄露，并可无缝集成到多种对抗训练方法中。
2025-08-22 cs.CR cs.LG
TrajSyn: Privacy-Preserving Dataset Distillation from Federated Model Trajectories for Server-Side Adversarial Training
Computer Science Department, Columbia University（哥伦比亚大学计算机科学系）；School of Computer Science and Engineering, Vellore Institute of Technology（维洛雷理工学院计算机科学与工程学院）；School of Information Technology, Deakin University（德肯大学信息科技学院）
TrajSyn通过从客户端模型更新轨迹中生成代理数据集，实现隐私保护的服务器端对抗训练，提升图像分类任务的对抗鲁棒性。
2025-12-17 cs.LG
Understanding Compressive Adversarial Privacy
Stanford University（斯坦福大学）
本文提出了一种压缩对抗隐私框架，通过凸优化在数据隐私和效用之间取得平衡，并通过实证应用展示了该框架在保护敏感信息方面的有效性。
2018-10-02 cs.CY cs.LG cs.SY
Trade-offs between membership privacy & adversarially robust learning
University College London（伦敦大学学院）
从历史上看，机器学习方法在设计时并没有考虑到安全性。反过来，这又产生了对抗性的例子，仔细扰动输入样本，旨在误导检测在测试时，已被应用于攻击垃圾邮件和恶意软件分类，最近攻击图像分类。因此，大量的研究致力于设计对对抗性示例鲁棒的机器学习方法。不幸的是，除了鲁棒性之外，安全和安全的机器学习模型还必须满足其他要求，例如公平性和隐私性。Song et al.（2019）最近的研究表明，经验表明，健壮和私有机器学习模型之间存在权衡。设计为对对抗性示例具有鲁棒性的模型通常比标准（非鲁棒）模型在训练数据上更大程度地过拟合。如果数据集包含隐私信息，那么通过观察模型的输出来分离训练和测试数据的任何统计测试都可能代表隐私泄露，如果模型在训练数据上过拟合，这些统计测试就会变得更容易。在这项工作中，我们确定设置标准模型将过拟合到更大程度上相比，强大的模型，并在以前的作品中，根据经验观察，设置相反的行为发生。因此，不一定必须牺牲隐私来实现鲁棒性。过度拟合的程度自然取决于可用于训练的数据量。我们继续描述训练集大小如何影响通过在简单的高斯数据任务上训练鲁棒模型所暴露的隐私风险，并根据经验表明我们的研究结果适用于图像分类基准数据集，如CIFAR-10和CIFAR-100。
2022-01-08 cs.CR cs.LG stat.ML
Privacy-Preserving Adversarial Networks
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）；Boston University（波士顿大学）
我们提出了一个数据驱动的框架，优化隐私保护的数据发布机制，以达到信息理论上的最佳折衷之间的失真最小化的有用数据和隐藏特定的敏感信息。我们的方法采用对抗训练的神经网络实现随机机制，并执行变分近似的互信息隐私。我们通过对离散和连续合成数据以及MNIST手写数字数据集的概念验证实验来验证我们的隐私保护对抗网络（PPAN）框架。对于合成数据，我们的模型无关的PPAN方法实现了非常接近于从模型知识中解析得出的最佳权衡的权衡点。在MNIST数据的实验中，我们直观地展示了最小化像素级失真与隐藏写入数字之间的权衡。
2019-06-12 cs.CR cs.GT cs.IT
Adversarial Privacy-preserving Filter
Beijing Jiaotong University（北京交通大学）；Peng Cheng Laboratory（鹏城实验室）；Beijing University of Technology（北京工业大学）；Beijing Artificial Intelligence Institute（北京人工智能研究院）
虽然人脸识别在实际应用中被广泛采用，但人脸识别已经就人脸图像的恶意使用和潜在的隐私问题进行了严格的讨论，例如，欺骗支付系统和造成个人破坏。在线照片共享服务无意中成为恶意爬虫和人脸识别应用程序的主要存储库。本文提出了一种基于端云协同的对抗攻击解决方案，以满足隐私、实用性和不可访问性的要求。具体而言，解决方案由三个模块组成：（1）图像特定梯度生成，以使用压缩探头模型在用户端提取图像特定梯度;（2）对抗性梯度转移，以微调服务器云中的图像特定梯度;以及（3）通用对抗性扰动增强，以附加图像无关扰动来导出最终的对抗性噪声。在三个数据集上的大量实验验证了所提出的解决方案的有效性和效率。我们希望这个端云协同攻击框架能够从用户的角度为解决在线多媒体共享的隐私保护问题提供参考。
2020-08-04 cs.CR cs.LG
Privacy Leakage of Adversarial Training Models in Federated Learning Systems
Duke University（杜克大学）
对抗训练（AT）对于获得对对抗攻击鲁棒的深度神经网络至关重要，但最近的研究发现，它也可能使模型更容易受到隐私攻击。在这项工作中，我们进一步揭示了这种令人不安的属性AT设计一种新的隐私攻击，实际上适用于隐私敏感的联邦学习（FL）系统。使用我们的方法，攻击者可以利用在FL系统中的AT模型，以准确地重建用户的私人训练图像，即使在训练批量大小很大。代码可在https://github.com/zjysteven/PrivayAttack_AT_FL上获得。
2022-02-21 cs.CR cs.CV cs.LG
Adversarial representation learning for synthetic replacement of private attributes
AI Sweden（瑞典人工智能研究院）
数据隐私是许多现实世界中越来越重要的方面。包含敏感信息的数据源可能具有巨大的潜力，可以使用正确的隐私增强转换来解锁，但当前的方法通常无法产生令人信服的输出。此外，在隐私和实用性之间找到正确的平衡往往是一个棘手的权衡。在这项工作中，我们提出了一种新的方法，数据私有化，其中包括两个步骤：在第一步，它删除了敏感信息，并在第二步，它取代了一个独立的随机样本的信息。我们的方法建立在对抗性表示学习的基础上，通过训练模型来欺骗越来越强大的对手，从而确保强大的隐私。虽然以前的方法只针对混淆的敏感信息，我们发现，添加新的随机信息在其位置加强了所提供的隐私，并提供更好的实用程序在任何给定的隐私级别。其结果是一种方法，可以提供更强的私有化的图像数据，但保留域和输入的效用，完全独立于下游的任务。
2021-02-08 cs.CR cs.LG stat.ML
Discriminative Adversarial Privacy: Balancing Accuracy and Membership Privacy in Neural Networks
Politecnico di Milano（米兰理工大学）
本文提出判别式对抗隐私（DAP），通过对抗训练和新损失函数同时降低预测误差并最大化MIA误差，并以AOP指标评估其在准确率、训练速度与成员隐私间的权衡。
2023-06-05 cs.CR cs.LG
Adversarial Attacks on Locally Private Graph Neural Networks
Indian Institute of Technology Kharagpur（印度理工学院加尔各答分校）；University of Connecticut（康涅狄格大学）
本文研究了本地差分隐私保护下图神经网络的对抗攻击问题，分析现有攻击方法有效性及挑战，并提出防御方向，探讨隐私与安全的平衡。
2026-03-21 cs.CR cs.LG
Privacy Risks of Securing Machine Learning Models against Adversarial Examples
Princeton University（普林斯顿大学）；National University of Singapore（新加坡国立大学）
近年来，机器学习模型的攻击和防御之间的军备竞赛已经成为安全社区和隐私社区的前沿。然而，以前的研究的一个很大的局限性是，安全域和隐私域通常被分开考虑。因此，尚不清楚一个领域的防御方法是否会对另一个领域产生任何意想不到的影响。在本文中，我们采取了一个步骤，解决这一限制相结合的两个领域。特别是，我们衡量了六种最先进的防御方法对成员推理攻击的成功，这些方法可以减轻对抗性示例的风险（即，逃避攻击）。成员推断攻击确定单个数据记录是否是模型训练集的一部分。这种攻击的准确性反映了训练算法关于训练集个体成员的信息泄漏。对抗性示例的对抗性防御方法会影响模型的决策边界，使得模型预测在每个输入周围的小区域内保持不变。然而，这个目标是在训练数据上优化的。因此，训练集中的单个数据记录对鲁棒模型有显著影响。这使得模型更容易受到推理攻击。为了执行成员推理攻击，我们利用现有的推理方法，利用模型预测。我们还提出了两个新的推理方法，利用结构特性的强大的模型对不利扰动的数据。我们的实验评估表明，与自然训练（无防御）方法相比，对抗性防御方法确实可以增加目标模型对成员推断攻击的风险。
2019-08-25 cs.CR cs.LG stat.ML
Privacy-Preserving Adversarial Network (PPAN) for Continuous non-Gaussian Attributes
McGill University（麦吉尔大学）
隐私保护对抗网络（PPAN）最近被提出作为一个信息理论框架，以解决数据共享中的隐私问题。该模型的主要思想是使用互信息作为两个深度神经网络的隐私度量和对抗训练，一个作为机制，另一个作为对手。与分析最优折衷相比，评估了PPAN模型对离散合成数据、MNIST手写数字和连续高斯数据的性能。在这项研究中，我们评估连续非高斯数据的PPAN模型，其中使用的隐私保护问题的下限和上限。这些界限包括基于k次最近邻的熵和互信息的Kraskov（KSG）估计。除了合成数据集，一个实际的情况下隐藏的实际用电量从智能电表读数检查。结果表明，对于连续非高斯数据，PPAN模型的性能在确定的最佳范围内，接近下限。
2020-03-11 cs.LG eess.SP
Privacy Adversarial Network: Representation Learning for Mobile Data Privacy
Xidian University（西安电子科技大学）；Rice University（莱斯大学）
机器学习的显着成功为移动用户培育了越来越多的基于云的智能服务。这种服务要求用户向提供商发送数据，例如图像、语音和视频，这对用户隐私提出了严重挑战。为了解决这个问题，现有技术要么混淆数据，例如添加噪声并删除身份信息，要么发送从数据中提取的表示，例如匿名特征。他们努力在服务效用和数据隐私之间取得平衡，因为混淆的数据降低了效用，并且提取的表示仍然可能揭示敏感信息。这项工作在方法上与之前的工作不同：我们利用对抗学习来更好地平衡隐私和实用性。我们设计了一个\textit{representation encoder}，它生成的特征表示，以优化对敏感信息的隐私泄露风险（隐私的措施）的\textit{privacy adversaries}，并同时优化与任务推理的准确性（效用的措施）的\textit{utility discriminator}。其结果是隐私对抗网络（\systemname），这是一种具有新训练算法的新型深度模型，可以自动从原始数据中学习表示。直觉上，PAN对抗性地迫使提取的表示仅传达目标任务所需的信息。令人惊讶的是，这构成了一个隐式正则化，实际上提高了任务的准确性。因此，PAN实现了更好的实用性和更好的隐私在同一时间！我们报告了广泛的实验6个流行的数据集，并证明了优越性的\systemname相比，在以前的工作中报道的替代方法。
2020-06-08 cs.AI cs.CR cs.LG
Learning to be adversarially robust and differentially private
DeepMind
我们研究的困难，在学习中产生的强大的和差分私有优化。我们首先研究了基于梯度下降的对抗训练与差分隐私的收敛性，以线性可分数据上的简单二进制分类任务为例。我们比较了私人和非私人环境中对抗性和名义风险之间的差距，表明私人优化引入的数据维度依赖项加剧了学习鲁棒模型的困难。在此之后，我们讨论了对抗训练和差分隐私的哪些部分会损害优化，发现差分隐私中的对抗扰动和裁剪范数的大小都会增加损失景观的曲率，这意味着泛化性能较差。
2022-01-06 cs.LG
Representation Learning for Audio Privacy Preservation using Source Separation and Robust Adversarial Learning
Tampere University（坦佩雷大学）；University of Helsinki（赫尔辛基大学）；Nokia Tech（诺基亚技术公司）
本研究提出整合源分离与对抗表示学习来学习音频潜在表示，防止区分语音与非语音，从而在保持声学监测性能的同时显著提升语音隐私保护效果。
2023-08-09 cs.CR cs.LG cs.SD
Minimum Noticeable Difference based Adversarial Privacy Preserving Image Generation
Nanyang Technological University（南洋理工大学）
深度学习模型被发现容易受到对抗性示例的影响，因为错误的预测可能由深度学习模型的输入中的小扰动引起。现有的对抗性图像生成方法大多试图实现对大多数模型的攻击，而很少有人致力于保证对抗性样本的感知质量。高质量的对抗性示例对于许多应用都很重要，特别是对于隐私保护。在这项工作中，我们开发了一个基于最小可注意差异（MND）概念的框架，以生成与干净图像具有最小感知差异但能够攻击深度学习模型的对抗性隐私保护图像。为了实现这一点，首先提出了一种对抗损失，使深度学习模型成功地被对抗图像攻击。然后，通过考虑扰动的大小以及扰动引起的结构和梯度变化来开发感知质量保持损失，其目的是为对抗图像生成保持高感知质量。据我们所知，这是第一个基于隐私保护的MND概念探索质量保持对抗图像生成的工作。为了评估其在感知质量方面的性能，在这项工作中，使用所提出的方法和几种锚点方法测试了图像分类和人脸识别的深度模型。大量的实验结果表明，所提出的MND框架能够生成具有显著改善的性能指标的对抗图像（例如，PSNR、SSIM和MOS）比用锚定方法生成的更好。
2022-06-17 cs.AI cs.CV cs.LG
Privacy-Aware Human Mobility Prediction via Adversarial Networks
Imperial College London（帝国理工学院）；University of Washington（华盛顿大学）
随着各种移动设备和基于位置的服务在不同的智慧城市场景和应用中越来越多地发展，由于地理定位的数据汇集和共享，出现了许多意想不到的隐私泄露。虽然这些地理定位数据可以提供对人类移动模式的丰富理解并解决各种社会研究问题，但对用户敏感信息的隐私问题限制了其利用。在本文中，我们设计并实现了一种新的基于LSTM的对抗机制与表示学习，以达到一个隐私保护的功能表示的原始地理定位数据（移动数据）的共享目的。我们量化了移动数据集在轨迹重建风险、用户重新识别风险和移动可预测性方面的效用-隐私权衡。我们提出的架构报告的帕累托前沿分析，使用户能够评估这种权衡作为一个函数的拉格朗日损失重量参数。在四个有代表性的移动数据集上的广泛比较结果表明了我们提出的架构的优越性和所提出的隐私保护特征提取器的效率。我们的研究结果表明，通过探索帕累托最优设置，我们可以同时增加隐私（45%）和效用（32%）。
2022-01-19 cs.CR cs.LG
PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning
信用风险建模已经渗透到我们的日常生活中。大多数银行和金融公司使用这种技术来模拟客户的可信度。虽然机器学习越来越多地用于这一领域，但由此产生的大规模用户私人信息收集重新激发了隐私辩论，考虑到每年由未经授权的黑客造成的数十起数据泄露事件，以及（可能更多）授权方的信息误用/滥用。为了解决这些关键问题，本文提出了一个基于对抗学习的隐私保护信用风险建模框架（PCAL）。PCAL旨在通过（迭代）权衡隐私风险损失和面向实用性的损失，掩盖原始数据集内的私人信息，同时保留目标预测任务性能的重要实用信息。在实用性和隐私保护方面，将PCAL与现成的选项进行比较。实验结果表明，PCAL可以从用户数据中学习到一种有效的、无隐私的表示方法，为信用风险分析中隐私保护的机器学习提供了坚实的基础。
2020-10-06 cs.CR cs.CV cs.LG
Reducing information dependency does not cause training data privacy. Adversarially non-robust features do
Dartmouth College（达特茅斯学院）；Breuer Lab（布鲁尔实验室）
挑战信息依赖导致训练数据隐私泄露的观点，通过三个结果揭示对抗性非鲁棒特征才是原因，引入反对抗训练建立因果关系并揭示隐私-鲁棒性权衡，修正对训练数据暴露的理解。
2026-08-10 cs.LG
Adversarial Sample-Based Approach for Tighter Privacy Auditing in Final Model-Only Scenarios
Hongik University（弘益大学）；Yonsei University（延世大学）
针对最终模型仅场景下DP-SGD隐私审计下界松散的问题，提出基于损失的输入空间对抗样本审计方法，无需额外假设即可获得更紧致的经验下界，在MNIST上以ε=10.0达到4.914的下界，优于基线4.385。
2025-02-24 cs.CR cs.LG
Balancing Fairness, Privacy, and Accuracy: A Multitask Adversarial Framework for Centralized Data-Driven Systems
School of Computing Technologies, RMIT University（计算技术学院，皇家墨尔本理工大学）
提出一种多任务对抗模型，将公平性和隐私作为核心目标，通过优化代价函数动态平衡三者，在最小化性能损失的同时实现高公平性和隐私保护。
2026-05-23 cs.AI cs.LG
Semi-Adversarial Networks: Convolutional Autoencoders for Imparting Privacy to Face Images
Michigan State University（密歇根州立大学）；International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术研究所）
在本文中，我们设计并评估了一个卷积自动编码器，它可以扰动输入的人脸图像，从而将隐私传递给受试者。具体而言，建议的自动编码器变换输入的人脸图像，使得变换后的图像可以成功地用于人脸识别，但不用于性别分类。为了训练这种自动编码器，我们提出了一种新的训练方案，在这项工作中被称为半对抗训练。通过将由伪性别分类器和伪面部匹配器组成的半对抗模块附加到自动编码器来促进训练。用于训练该网络的目标函数有三个项：一个是确保扰动图像是真实的人脸图像;另一个是确保人脸的性别属性被混淆;第三个是确保由于扰动图像导致的生物识别性能不受影响。大量的实验证实了所提出的架构在扩展性别隐私的人脸图像的功效。
2018-05-03 cs.CV cs.LG
SocialGuard: An Adversarial Example Based Privacy-Preserving Technique for Social Images
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
各种社交平台的流行促使更多人在网上分享他们的日常照片。然而，由于这种在线照片共享行为，发生了不期望的隐私泄露。先进的基于深度神经网络（DNN）的对象检测器可以轻松窃取用户在共享照片中暴露的个人信息。在本文中，我们提出了一种新型的基于对抗性示例的社交图像隐私保护技术，以对抗基于对象检测器的隐私窃取。具体来说，我们开发了一种对象消失算法来制作两种对抗性的社交图像。一种方法可以隐藏社交图像中的所有对象，使其不被对象检测器检测到，另一种方法可以使定制的敏感对象被对象检测器错误地分类。对象消失算法在干净的社交图像上构造扰动。在注入扰动后，社会图像可以很容易地欺骗目标检测器，而其视觉质量不会下降。我们使用两个指标，隐私保护成功率和隐私泄漏率，以评估所提出的方法的有效性。实验结果表明，该方法能有效地保护社交图像的隐私。该方法在MS-COCO和PASCAL VOC 2007数据集上的隐私保护成功率分别高达96.1%和99.3%，隐私泄露率分别低至0.57%和0.07%。此外，与现有的图像处理方法（低亮度、噪声、模糊、马赛克和JPEG压缩）相比，该方法在隐私保护和图像视觉质量维护方面具有更好的性能。
2020-11-27 cs.CV cs.LG
PAT: Privacy-Preserving Adversarial Transfer for Accurate, Robust and Privacy-Preserving EEG Decoding
Hubei Key Laboratory of Brain-inspired Intelligent Systems, School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（华中科技大学人工智能与自动化学院脑启发智能系统湖北省重点实验室）；Shenzhen Huazhong University of Science and Technology Research Institute（深圳华中科技大学研究院）；Zhongguancun Academy（中关村学院）
本文提出PAT框架，结合数据对齐、对抗训练和隐私保护迁移，提升EEG解码的准确性、鲁棒性和隐私保护，实验表明其在多个数据集上优于现有方法。
2026-04-11 cs.HC cs.LG eess.SP
Privacy-preserving Federated Adversarial Domain Adaption over Feature Groups for Interpretability
我们提出了一种新的隐私保护联邦对抗域自适应方法（$\textbf{PrADA}$），以解决一个研究不足，但实际的跨筒仓联邦领域自适应问题，其中目标域的一方是在样本和功能不足。我们通过与特征丰富方的垂直联邦学习扩展特征空间来解决特征缺乏问题，并通过从样本丰富的源方到目标方执行对抗性领域自适应来解决样本稀缺问题。在这项工作中，我们专注于可解释性至关重要的金融应用程序。然而，现有的对抗性领域自适应方法通常应用单个特征提取器来学习相对于目标任务低可解释性的特征表示。为了提高可解释性，我们利用领域专业知识将特征空间分成多个组，每个组都包含相关特征，并且我们从每个特征组中学习语义上有意义的高阶特征。此外，我们为每个特征组应用特征提取器（以及域自适应），以实现细粒度的领域自适应。我们设计了一个安全的协议，使执行的PrADA在一个安全和有效的方式。我们在两个表格数据集上评估了我们的方法。实验证明了该方法的有效性和实用性。
2022-09-23 cs.LG
NetFense: Adversarial Defenses against Privacy Attacks on Neural Networks for Graph Data
National Cheng Kung University（成功大学）
保护图数据节点隐私和攻击图神经网络（GNNs）的最新进展受到了广泛关注。眼睛还没有把这两个基本任务结合起来。想象一下，对手可以利用强大的GNN来推断社交网络中用户的私人标签。我们如何在对抗这种隐私攻击的同时保持扰动图的效用？在这项工作中，我们提出了一个新的研究任务，对抗性防御基于GNN的隐私攻击，并提出了一个基于图扰动的方法，NetFense，以实现这一目标。NetFense可以同时保持图形数据的不可访问性（即，在图结构上具有有限的改变），保持目标标签分类的预测置信度（即，保持数据效用），并降低私有标签分类的预测置信度（即，保护节点的隐私）。使用三个真实图数据对单目标和多目标扰动进行的实验表明，NetFense的扰动图可以有效地保持数据效用（即，模型不确定性）并显著降低私有标签分类的预测置信度（即，隐私保护）。广泛的研究也带来了一些见解，如NetFense的灵活性，在数据不受干扰的情况下保留本地邻域，以及对高度节点更好的隐私保护。
2021-06-22 cs.CR cs.LG cs.SI
Masking Radar Cognition under Adversarial Surveillance: A Distributional Privacy Framework
National Institute of Technology Calicut（卡利卡特国家理工学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
本文提出一种基于分布隐私的在线电子反对抗措施框架，通过vMF分布建模雷达效用并开发WDPCH-SU和WDPCH-DU算法，实现认知雷达决策的隐私掩蔽，在6G场景中具有应用价值。
2026-09-09 cs.LG eess.SP
Adversarial Privacy Protection on Speech Enhancement
College of Information Science and Engineering, Ningbo University（宁波大学信息科学与工程学院）
语音很容易在不知不觉中泄露，比如在不同的情况下被手机录下来。语音中的隐私内容可能通过语音增强技术被恶意提取。语音增强技术随着深度神经网络（DNN）的发展而迅速发展，但对抗性示例可能会导致DNN失败。在这项工作中，我们提出了一个对抗性的方法来降低语音增强系统。实验结果表明，生成的对抗性样例可以擦除原样例中的大部分内容信息，或者通过语音增强用目标语音内容替换。增强后的原始样本与增强后的对抗样本识别结果之间的单词出错率（WER）可达89.0%。增强对抗样本与目标样本的目标攻击WER较低，为33.75%。对抗扰动可以使原始示例的变化率超过1.4430。这项工作可以防止语音的恶意提取。
2022-06-16 cs.CR cs.LG cs.SD
