FedRio: Personalized Federated Social Bot Detection via Cooperative Reinforced Contrastive Adversarial Distillation
National Engineering Laboratory for Big Data Analysis and Applications, Peking University（北京大学大数据分析与应用技术国家工程实验室）
本文提出FedRio框架，通过自适应消息传递模块、联邦知识提取机制和多阶段对抗对比学习策略，提升跨平台社交机器人检测的准确性和一致性，同时在隐私保护下优于现有联邦学习基线。
2026-04-12 cs.AI cs.LG
Information Stealing in Federated Learning Systems Based on Generative Adversarial Networks
United Nations University（联合国大学）；The University of Tokyo（东京大学）
对智能机器协作解决问题的深度学习系统的攻击可能会导致网络中的节点在关键判断上犯错误。与此同时，人工智能的安全和隐私问题引起了多个学科专家的关注。在这项研究中，我们使用三个不同的数据集成功地对联邦学习（FL）环境进行了对抗攻击。这些攻击利用生成对抗网络（GANs）来影响学习过程，并通过从共享的局部模型参数中学习隐藏的特征来重建用户的私人数据。该攻击是面向目标的绘图数据，分别来自CIFAR- 10，MNIST和Fashion-MNIST。此外，通过测量真实数据和重建的对抗样本之间的欧氏距离，我们评估了对手在各种场景下的学习过程中的性能。最后，我们成功地重建受害者的真实数据，从共享的全局模型参数与所有应用的数据集。
2021-08-02 cs.CR cs.LG
Federated Generative Privacy
Artificial Intelligence Lab（人工智能实验室）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
在本文中，我们提出了FedGP，这是一个在联邦学习环境中保护隐私的数据发布框架。我们使用生成式对抗网络，其生成器组件由FedAvg算法训练，以绘制隐私保护的人工数据样本，并根据经验评估信息披露的风险。我们的实验表明，FedGP能够生成高质量的标记数据，成功地训练和验证监督模型。最后，我们证明了我们的方法显着降低了这种模型的模型反转攻击的脆弱性。
2019-10-18 cs.CR cs.DC cs.LG
Privacy-preserving Spatiotemporal Scenario Generation of Renewable Energies: A Federated Deep Generative Learning Approach
Northeast Electric Power University（东北电力大学）；ETH Zürich（苏黎世联邦理工学院）
情景生成是高渗透率可再生能源电力系统决策的基本和关键工具。基于大历史数据，提出了一种新的联邦深度生成学习框架Fed-LSGAN，该框架将联邦学习和最小二乘生成对抗网络（LSGANs）相结合，用于可更新场景生成。具体来说，联邦学习从网络边缘的可再生站点学习中央服务器中的共享全局模型，这使得Fed-LSGAN能够以隐私保护的方式生成场景，而不会通过传输模型参数而不是所有数据来牺牲生成质量。同时，基于LSGANs的深度生成模型通过充分捕捉可再生能源电力的时空特征，生成符合历史数据分布的场景，利用最小二乘损失函数提高训练稳定性和生成质量。仿真结果表明，该方案能够生成高质量的可再生场景，并优于最先进的集中式方法。此外，设计并进行了不同联邦学习设置的实验，以验证我们的方法的鲁棒性。
2021-07-16 cs.LG cs.SY eess.SP
FedDPGAN: Federated Differentially Private Generative Adversarial Networks Framework for the Detection of COVID-19 Pneumonia
King Abdul Aziz University（阿卜杜勒阿齐兹国王大学）；School of Data Science and Technology, Heilongjiang University（黑龙江大学数据科学与技术学院）；Thapar Institute of Engineering and Technology（塔帕尔工程技术学院）
针对GAN训练与医院数据共享导致的患者隐私泄露问题，提出融合联邦学习和差分隐私的FedDPGAN，在IID与非IID设置下实现不共享原始数据的COVID-19肺炎检测。
2021-04-26 cs.CV cs.LG eess.IV
Generative Adversarial Networks for Automatic Polyp Segmentation
University of Oslo（奥斯陆大学）
本文旨在使用生成对抗网络框架对自动息肉分割问题进行基准测试。将问题视为图像到图像的翻译任务，利用条件生成对抗网络来生成由图像作为输入的条件掩码。生成器和卷积神经网络都是基于卷积神经网络的。模型的Jaccard指数为0.4382，F2得分为0.611。
2020-12-12 cs.CV cs.LG eess.IV
Backdoor Attack and Defense in Federated Generative Adversarial Network-based Medical Image Synthesis
The University of British Columbia（不列颠哥伦比亚大学）
针对联邦GAN医学图像合成中的后门攻击，本文揭示其通过判别器过拟合破坏均衡的机理，并提出FedDetect依据客户端损失识别和阻断恶意客户端。
2023-07-16 cs.AI cs.CR cs.CV
Federated Traffic Synthesizing and Classification Using Generative Adversarial Networks
Xidian University（西安电子科技大学）；Pazhou Lab（琶洲实验室）；University of South Florida（南佛罗里达大学）
随着对新业务和应用需求的快速增长以及人们对数据保护意识的提高，传统的集中式流量分类方法面临着前所未有的挑战。本文介绍了一种新的框架，联邦生成对抗网络和自动分类（FGAN-AC），它集成了分散的数据合成与流量分类。FGAN-AC能够从分散的本地数据集中合成和分类多种类型的服务数据流量，而不需要大量的手动标记数据集或导致任何数据泄漏。提出并比较了两种类型的数据合成方法：计算高效的FGAN（\uppercase \expandafter{\romannumeral1}）和通信高效的FGAN（\uppercase \expandafter{\romannumeral2}）。前者仅实现单个CNN模型来处理每个局部数据集，而后者仅需要协调中间模型训练参数。提出了一种自动数据分类和模型更新框架，用于从合成的数据样本中自动识别未知流量，并为模型训练创建新的伪标签。数值结果表明，我们提出的框架有能力合成高度混合的服务数据流量，可以显着提高流量分类性能相比，现有的解决方案。
2021-04-21 cs.AI cs.LG
Using Diffusion Models as Generative Replay in Continual Federated Learning -- What will Happen?
The George Washington University（乔治华盛顿大学）；Purdue University（普渡大学）；Yonsei University（延世大学）；Army Research Lab（陆军研究实验室）
针对持续联邦学习中的灾难性遗忘与非独立同分布数据挑战，本文提出DCFL框架，利用条件扩散模型在本地设备生成合成历史数据进行生成式回放，有效缓解数据分布偏移，并提供了收敛界及多数据集验证。
2024-11-10 cs.DC cs.LG
On-demand Quantization for Green Federated Generative Diffusion in Mobile Edge Networks
School of Automation, Guangdong University of Technology（广东工业大学自动化学院）；School of Electronics Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院）；School of Computer Science and Engineering, Nanyang Technological University（南洋理工大学计算机科学与工程学院）；School of Software Engineering, Beijing Jiaotong University（北京交通大学软件学院）
针对移动边缘网络中联邦训练生成扩散模型的高通信与能耗问题，提出按需量化节能联邦扩散方法，可适配边缘设备需求，在保障生成数据质量与多样性的同时显著降低能耗与传输量。
2024-03-07 cs.DC cs.LG cs.NI
Generative adversarial networks and adversarial methods in biomedical image analysis
Image Sciences Institute, University Medical Center Utrecht（乌得勒支大学医学中心影像科学研究所）；Imperial College London（帝国理工学院）；Imagen Technologies（Imagen科技公司）
生成对抗网络（GANs）和其他对抗方法基于博弈论的观点，将两个神经网络作为游戏中的参与者进行联合优化。对抗技术已被广泛用于合成和分析生物医学图像。我们介绍了GANs和对抗方法，概述了受益于这些方法的生物医学图像分析任务。最后，我们讨论了对抗方法在生物医学图像分析中的优势和局限性，并提出了未来潜在的研究方向。
2018-10-24 cs.CV
Auditing Privacy Defenses in Federated Learning via Generative Gradient Leakage
University of Tennessee, Knoxville（田纳西大学诺克斯维尔分校）；Oak Ridge National Laboratory（橡树岭国家实验室）；Google Research（谷歌研究院）
联邦学习（FL）框架允许多个客户端在中央服务器的协调下参与学习任务，而无需交换他们的私有数据，从而为分布式学习系统带来隐私优势。然而，最近的研究表明，私人信息仍然可以通过共享梯度信息泄露。为了进一步保护用户的隐私，已经提出了几种防御机制来防止通过梯度信息降级方法的隐私泄露，例如在与服务器共享之前使用加性噪声或梯度压缩。在这项工作中，我们验证了私人训练数据仍然可以在某些防御设置下泄漏，具有新的泄漏类型，即，生成梯度泄漏（GGL）。与现有的仅依赖梯度信息来重建数据的方法不同，我们的方法利用从公共图像数据集学习的生成对抗网络（GAN）的潜在空间作为先验，以补偿梯度退化期间的信息损失。为了解决由梯度算子和GAN模型引起的非线性，我们探索各种无梯度优化方法（例如，演化策略和贝叶斯优化），并在经验上表明，他们的优势，重建高质量的图像从梯度相比，基于梯度的优化。我们希望所提出的方法可以作为一种工具，经验性地衡量隐私泄漏量，以促进更强大的防御机制的设计。
2022-03-29 cs.CV
FGAN: Federated Generative Adversarial Networks for Anomaly Detection in Network Traffic
BITS Pilani（皮拉尼比尔拉理工学院）
在过去的二十年里，人们在提高网络安全方面做了大量的工作，特别是在入侵检测系统（IDS）和异常检测方面。机器学习解决方案也已被用于IDS中，以检测传入流量中的已知和可能的攻击。诸如分组内容、发送方IP和发送方端口、连接持续时间等的参数先前已被用于训练这些机器学习模型，以学习区分真实流量和恶意流量。生成对抗网络（GANs）在检测此类异常方面取得了显著的成功，这主要归功于生成器和神经网络的对抗训练，试图绕过对方，从而提高自己的能力和准确性。然而，在网络的可能不同区域具有各种各样的流量并且容易受到大量潜在攻击的大型网络中，针对特定类型的异常训练这些GANs可能会使其忽略其他异常和攻击。此外，训练这些模型所需的数据集必须集中提供并公开访问，这就提出了网络各个参与者通信隐私的明显问题。这项工作中提出的解决方案旨在通过在这种规模和容量的网络中使用联邦架构中的GANs来解决上述两个问题。在这样的设置中，网络的不同用户将能够根据他们自己经常面对的条件来训练和定制一个集中可用的对抗模型。同时，网络的成员用户也将能够从网络中的其他用户的体验中获益。
2022-03-21 cs.CR cs.LG
Modeling documents with Generative Adversarial Networks
Aylien Ltd.（Aylien有限公司）
本文描述了一种使用生成对抗网络来学习自然语言文档的分布式表示的方法。我们提出了一个模型，该模型是基于最近提出的基于能量的GAN，而是使用一个去噪自动编码器作为网络。文档表示提取的隐藏层中的隐藏层和定量和定性的评价。
2016-12-29 cs.LG
NIPS 2016 Tutorial: Generative Adversarial Networks
OpenAI
本报告总结了作者在NIPS 2016上介绍的关于生成对抗网络（GANs）的教程。该教程介绍：（1）为什么生成建模是一个值得研究的话题，（2）生成模型如何工作，以及GANs与其他生成模型的比较，（3）GANs如何工作的细节，（4）GANs的研究前沿，以及（5）将GANs与其他方法相结合的最先进的图像模型。最后，本教程包含三个练习供读者完成，以及这些练习的解决方案。
2017-04-03 cs.LG
Generative Adversarial Networks with Conditional Neural Movement Primitives for An Interactive Generative Drawing Tool
Bogazici University（博阿齐奇大学）
素描是视觉感知和视觉空间建构的抽象表现。在这项工作中，我们提出了一个新的框架，生成对抗网络与条件神经运动原语（GAN-CNMP），它结合了一种新的对抗损失CNMP，以提高草图的平滑性和一致性。通过实验，我们证明了该模型可以用较少的未标记样本进行训练，可以在潜在空间中自动构造分布，并且在形状一致性和平滑性方面比基本模型产生更好的结果。
2021-12-21 cs.AI cs.CV cs.GR
FedGenSC: Federated Generative Semantic Communication with Channel-Aware Adaptation
American University of Beirut（贝鲁特美国大学）
针对联邦语义通信中判别器聚合不稳定、语义漂移和信道不可知三大问题，提出FedGenSC框架，通过全局生成器、语义原型库和SNR条件生成，在非IID数据下显著提升性能。
2026-09-09 cs.LG eess.SP
On the Tradeoffs of On-Device Generative Models in Federated Predictive Maintenance Systems
Consiglio Nazionale delle Ricerche, IEIIT institute（意大利国家研究委员会IEIIT研究所）；Dipartimento di Elettronica, Informazione e Bioingegneria (DEIB), Politecnico di Milano（米兰理工学院电子、信息与生物工程系）；Department of Energy, Politecnico di Milano（米兰理工学院能源学院）；Mines Paris - PSL, CRC, Sophia Antipolis, France（法国巴黎 Mines - PSL CRC，索菲亚安蒂波利斯）
本文分析了VAE、GAN和DM在联邦预测性维护中的性能和通信开销，提出了一种联邦生成模型的分类方法，揭示了在异构和带宽受限环境下模型效用、稳定性及可扩展性的权衡。
2026-10-28 cs.AI cs.LG
Lung image segmentation by generative adversarial networks
School of Applied Mathematics, Xiamen University of Technology（厦门理工学院应用数学学院）
肺部图像分割在肺部疾病的计算机辅助诊断和治疗中起着重要的作用。提出了一种基于生成对抗网络的肺部图像分割方法。我们采用了各种生成对抗网络，并利用其图像翻译能力来执行图像分割。采用生成对抗网络将原始肺部图像转换为分割图像。基于生成对抗网络的分割方法在真实肺部图像数据集上进行了测试。实验结果表明，该方法是有效的，优于最先进的方法。
2019-07-30 cs.CV eess.IV
Reducing bias and increasing utility by federated generative modeling of medical images using a centralized adversary
University of British Columbia（不列颠哥伦比亚大学）；Microsoft（微软）
我们介绍了FELICIA（FEDERATED LEARNING WITH A CentralIzed Advertisement），一种支持协作学习的生成机制。特别是，我们展示了数据有限和有偏见的数据所有者如何从其他数据所有者那里受益，同时保持所有来源的数据的私密性。这是医学图像分析中的常见情况，其中隐私立法阻止数据在本地场所之外共享。FELICIA适用于生成对抗网络（GAN）架构的大家族，包括香草和条件GANs，如本工作所示。我们表明，通过使用FELICIA机制，有限的图像样本的数据所有者可以生成高质量的合成图像，具有高实用性，而数据所有者都没有提供访问其数据。共享仅通过一个中央数据库进行，该数据库只能访问合成数据。在这里，效用被定义为在真实测试集上的分类性能。我们使用基准图像数据集（MNIST，CIFAR-10）以及皮肤病变分类任务的医学图像上的几个现实的医疗保健系统上证明了这些好处。通过多个实验，我们表明，即使在最坏的情况下，将FELICIA与真实数据相结合，也能优雅地实现与真实数据相当的性能，而大多数结果显着提高了效用。
2021-08-29 cs.AI cs.CV cs.DC
Quantum generative adversarial networks
Xanadu
量子机器学习有望成为近期量子设备的首批潜在通用应用之一。经典机器学习最近的一个重大突破是生成对抗训练的概念，其中一个训练模型的梯度被用来训练一个单独的生成模型。在这项工作和一篇配套论文中，我们将对抗训练扩展到量子领域，并展示了如何使用量子线路构建生成对抗网络。此外，我们还展示了如何使用另一个量子线路计算梯度-生成对抗网络训练中的关键要素。我们给出了一个简单的实用电路模型的例子来参数化量子机器学习模型，并进行了一个简单的数值实验来证明量子生成对抗网络可以成功训练。
2018-04-30 cs.LG quant-ph
Adversarial Attack Against Images Classification based on Generative Adversarial Networks
George Washington University（乔治华盛顿大学）
针对图像分类系统的安全问题，本文受生成对抗网络启发，提出一种新颖的对抗攻击方法，通过对抗学习生成小扰动对抗样本，在经典数据集上成功欺骗多种先进分类器并保持样本自然性，有效揭示了系统弱点以提升抗攻击能力。
2024-12-24 cs.AI cs.CV
PS-FedGAN: An Efficient Federated Learning Framework Based on Partially Shared Generative Adversarial Networks For Data Privacy
University of California, Davis（加州大学戴维斯分校）
本文提出新型联邦学习框架PS-FedGAN，通过仅部分共享GAN模型增强释放与训练机制，有效解决客户端数据异构分布问题，在保障数据隐私的同时显著降低通信成本。
2023-05-19 cs.AI cs.LG
Synthesizing Tabular Data using Generative Adversarial Networks
MIT（麻省理工学院）
生成对抗网络（GANs）隐式地学习数据集的概率分布，并可以从分布中提取样本。本文提出了表格式GAN（TGAN），这是一种生成对抗网络，可以生成医疗或教育记录等表格数据。利用深度神经网络的强大功能，TGAN生成高质量的全合成表，同时生成离散和连续变量。当我们在三个数据集上评估我们的模型时，我们发现TGAN在捕获列之间的相关性和扩大大型数据集方面都优于传统的统计生成模型。
2018-11-27 cs.LG stat.ML
CapsuleGAN: Generative Adversarial Capsule Network
USC Information Sciences Institute（南加州大学信息科学研究所）
我们提出了生成对抗胶囊网络（Capsule GAN），这是一个框架，它使用胶囊网络（CapsNets）而不是标准卷积神经网络（CNN）作为生成对抗网络（GAN）设置中的鉴别器，同时对图像数据进行建模。我们提供了设计CapsNet鉴别器和更新的GAN目标函数的指南，该目标函数包含CapsNet边际损失，用于训练Capsule GAN模型。我们表明，CapsuleGAN在MNIST和CIFAR-10数据集上建模图像数据分布方面优于卷积GAN，在生成对抗度量和半监督图像分类方面进行了评估。
2018-10-02 cs.LG stat.ML
Conditional GraphGANFed: Optimizing Graph-Structured Molecule Generation in Federated Generative Adversarial Networks
本文针对GraphGANFed无法按用户定义指标生成分子的问题，提出cGraphGANFed模型，引入评判网络整合评估结果优化生成器，经实验证实其在多指标优化、QED提升及抗非IID数据干扰上表现更优。
2026-08-26 cs.DC cs.LG
Time Efficient Training of Progressive Generative Adversarial Network using Depthwise Separable Convolution and Super Resolution Generative Adversarial Network
生成对抗网络已成功用于生成大小为1024 ^2的高分辨率增强图像。虽然生成的增强图像是前所未有的，但模型的训练时间异常长。传统的GAN需要训练鉴别器和生成器。渐进式GAN是当前用于图像增强的最先进的GAN，而不是一次训练GAN，提出了同时渐进增长鉴别器和生成器的新概念。虽然较低的阶段，如4x4和8x8训练相当快，后期阶段消耗大量的时间，可能需要几天才能完成模型训练。在我们的论文中，我们提出了一种新的流水线，结合渐进式GAN略有修改和超分辨率GAN。超分辨率GAN将低分辨率图像采样为高分辨率图像，这可以证明是一种有用的资源，可以指数级地减少训练时间。
2022-02-24 cs.CV eess.IV
Linking Generative Adversarial Learning and Binary Classification
在这篇文章中，我们指出了生成对抗（GA）训练和二进制分类之间的基本联系-任何强大的分类器本质上都会计算真实样本和生成样本之间的（f-）分歧。在决策理论中反复重新推导的结果对GA网络（GANs）具有影响，通过设计模糊损失函数，为训练f-GANs提供了另一种视角。
2017-09-05 cs.AI cs.LG stat.ML
A Federated Channel Modeling System using Generative Neural Networks
University of Pisa（比萨大学）；National Research Council（国家研究委员会）
本文提出基于联邦学习的生成对抗网络FL-GAN，用于无人机毫米波网络空地信道估计，无需先验数据分析即可生成逼真信道数据，实验表明其分布相似性优于FL-VAE及独立VAE和GAN模型。
2023-05-30 cs.DC cs.LG cs.NI
Effect of Homomorphic Encryption on the Performance of Training Federated Learning Generative Adversarial Networks
Delft University of Technology（代尔夫特理工大学）
生成对抗网络（GAN）是机器学习（ML）领域中的深度学习生成模型，涉及使用相当大的数据集训练两个神经网络（NN）。在诸如医学的某些领域中，训练数据可以是跨不同医院存储的医院患者记录。经典的集中式方法将涉及将数据发送到集中式服务器，在那里训练模型。然而，这将涉及侵犯患者及其数据的隐私和保密性，这是不可接受的。因此，联邦学习（FL）是一种在分布式环境中训练ML模型而无需数据离开主机设备的ML技术，将是集中式选项的更好替代方案。在这种ML技术中，只有参数和某些元数据会被传递。尽管如此，仍然存在可以使用参数和元数据推断用户数据的攻击。完全隐私保护的解决方案涉及同态加密（HE）通信的数据。本文将重点关注使用三种不同类型的同态加密训练FL-GAN的性能损失：部分同态加密（PHE）、部分同态加密（SHE）和完全同态加密（FHE）。我们还将测试多方计算（MPC）的性能损失，因为它具有同态属性。性能将与训练没有加密的FL-GAN的性能进行比较。我们的实验表明，加密方法越复杂，所需的时间越长，与FL的基本情况相比，HE所需的额外时间相当显著。
2022-07-01 cs.AI cs.CR cs.LG
Federated Breast Cancer Detection Enhanced by Synthetic Ultrasound Image Augmentation
Department of Radiology Northwestern University（放射科 北卡罗来纳大学）；NVIDIA
本文提出基于生成模型的数据增强框架，通过合成图像提升联邦学习在乳腺超声分类中的性能，实验表明适当使用合成数据可提升AUC指标，但过度使用反而降低性能。
2026-04-15 cs.AI cs.CV eess.IV
Generative Deep Learning for Virtuosic Classical Music: Generative Adversarial Networks as Renowned Composers
UW - Whitewater（威斯康星大学白水分校）
目前人工智能生成的音乐缺乏良好作曲技术的基本原则。通过在编程和音乐上缩小实现问题，我们可以更好地理解生成的作品所需的参数，这些参数几乎与大师级作曲家的作品无法区分。
2021-11-13 cs.LG cs.NE cs.SD
Comparision Of Adversarial And Non-Adversarial LSTM Music Generative Models
University Of Pretoria（比勒陀利亚大学）
音乐创作是一种在最少或没有人为干预的情况下创作音乐作品的方式。虽然递归神经网络传统上被应用于许多序列到序列的预测任务，包括音乐创作的成功实现，但其基于输入到输出映射的标准监督学习方法导致缺乏音符多样性。因此，这些模型可能被视为不适合诸如音乐生成之类的任务。生成对抗网络学习数据的生成分布，并产生不同的样本。这项工作实现并比较了递归神经网络音乐作曲家在数据库上的对抗性和非对抗性训练。由此产生的音乐样本由人类听众评估，他们的偏好被记录下来。评估表明，对抗性训练产生更美观的音乐。
2022-11-01 cs.LG cs.SC cs.SD
Adversarial Machine Learning And Speech Emotion Recognition: Utilizing Generative Adversarial Networks For Robustness
Information Technology University (ITU)-Punjab（旁遮普信息技术大学）；University of Southern Queensland（南昆士兰大学）
深度学习无疑为最先进的语音情感识别（SER）系统的性能提供了巨大的改进。然而，最近对对抗性示例的研究对SER系统的鲁棒性提出了巨大的挑战，因为它们只依赖于小而不可感知的扰动，因此显示了深度神经网络对对抗性示例的敏感性。在这项研究中，我们评估了如何对抗的例子可以用来攻击SER系统，并提出了第一个黑盒对抗攻击SER系统。我们还探索了潜在的防御措施，包括对抗训练和生成对抗网络（GAN），以增强鲁棒性。实验评估表明，有效利用对抗性示例的各个有趣方面有助于实现SER系统的鲁棒性，为研究人员在这一领域进一步创新提供了机会。
2018-12-30 cs.CR cs.LG eess.SP
Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
我们提出了一个数据驱动的框架，称为生成对抗隐私（GAP）。受生成对抗网络（GANs）最新进展的启发，GAP允许数据持有者直接从数据中学习私有化机制。在GAP下，找到最佳的隐私机制制定为私有化者和对手之间的约束极大极小博弈。我们表明，适当选择的对抗性损失函数，GAP提供隐私保证，对强大的信息理论的对手。我们还评估了GAP的性能上的GENKI人脸数据库。
2019-06-26 cs.CR cs.GT cs.IT
Federated Adversarial Domain Adaptation
Boston University（波士顿大学）；Columbia University（哥伦比亚大学）；Rutgers University（罗格斯大学）
本文提出联邦对抗域适应方法，通过对抗适应、动态注意力机制和特征解耦，在保护隐私的联邦学习框架下对齐不同节点与目标节点的表示分布，并在图像和文本分类任务中验证其有效性。
2025-08-24 cs.CV cs.LG
Federated Hybrid Training and Self-Adversarial Distillation: Towards Robust Edge Networks
Kyung Hee University（庆熙大学）；University of Houston（休斯顿大学）
本文提出 FedBAT 框架，将混合对抗训练与自对抗蒸馏融入联邦学习，以缓解数据异质性和对抗攻击影响，从而提升全局模型的鲁棒性与泛化能力。
2024-12-26 cs.CV cs.LG
Using adversarial images to improve outcomes of federated learning for non-IID data
Warsaw University of Technology（华沙理工大学）；Systems Research Institute Polish Academy of Sciences（波兰科学院系统研究所）
联邦学习的一个重要问题是如何处理不平衡数据。这一贡献介绍了一种新的技术，旨在处理标签偏斜的非IID数据，使用对抗性的输入，创建的I-FGSM方法。对抗性输入指导训练过程，并允许加权联合平均法对具有“选定”本地标签分布的客户端给予更多重视。实验结果，收集从图像分类任务，MNIST和CIFAR-10数据集，报告和分析。
2022-06-16 cs.LG
Privacy Leakage of Adversarial Training Models in Federated Learning Systems
Duke University（杜克大学）
对抗训练（AT）对于获得对对抗攻击鲁棒的深度神经网络至关重要，但最近的研究发现，它也可能使模型更容易受到隐私攻击。在这项工作中，我们进一步揭示了这种令人不安的属性AT设计一种新的隐私攻击，实际上适用于隐私敏感的联邦学习（FL）系统。使用我们的方法，攻击者可以利用在FL系统中的AT模型，以准确地重建用户的私人训练图像，即使在训练批量大小很大。代码可在https://github.com/zjysteven/PrivayAttack_AT_FL上获得。
2022-02-21 cs.CR cs.CV cs.LG
Federated Few-Shot Learning with Adversarial Learning
Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳市人工智能与机器人研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
我们有兴趣在许多移动设备上开发一个统一的机器学习模型，用于实际的学习任务，其中每个设备只有很少的训练数据。这是在移动计算场景中经常遇到的情况，在这种场景中，数据是稀缺的，并且是分布式的，而任务是不同的。在本文中，我们提出了一个联邦少样本学习（FedFSL）框架来学习一个Few-Shot分类模型，该模型可以用很少的标记样本对未知数据类进行分类。通过联邦学习策略，FedFSL可以利用多种数据源，同时保持数据隐私和通信效率。存在两个技术挑战：1）直接使用现有的联邦学习方法可能会导致客户端模型产生的决策边界不一致，以及2）将决策边界约束为与客户端相似，这将过度适应训练任务，但不能很好地适应看不见的任务。为了解决这些问题，我们建议通过最小化客户端模型的分歧来正则化局部更新。我们还以对抗的方式制定训练，并优化客户端模型，以产生一个能够更好地表示未知数据样本的判别特征空间。我们展示了直觉，并进行了实验，以显示我们的方法在学习视觉任务中超过基线10%，在语言任务中超过基线5%。
2021-04-01 cs.CV cs.LG
FADE: Enabling Federated Adversarial Training on Heterogeneous Resource-Constrained Edge Devices
Duke University（杜克大学）；Accenture（埃森哲）
针对资源受限异构边缘设备难以承担联邦对抗训练的问题，提出 FADE 框架，通过差异化模型解耦、单模块训练和辅助权重衰减降低内存与计算开销，并提供收敛及鲁棒性保证。
2023-04-26 cs.LG
Adversarial Client Detection via Non-parametric Subspace Monitoring in the Internet of Federated Things
Arizona State University（亚利桑那州立大学）；University of Florida（佛罗里达大学）；Clemson University（克莱姆森大学）
针对联邦物联网中联邦学习易遭对抗攻击的安全问题，提出非参数方法FedRR，利用传输参数更新的低秩特征检测对抗客户端，可在无攻击场景下控制误报率，经MNIST数字识别实验验证有效。
2023-10-02 cs.LG
Certifiably-Robust Federated Adversarial Learning via Randomized Smoothing
University of Utah（犹他大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
针对联邦学习易受对抗攻击且缺乏可认证保证的问题，本文将随机化平滑引入联邦对抗训练，在分布式隐私设置下获得与集中式训练相当的 ℓ2 可认证鲁棒性，并使训练速度提升 2–3 倍。
2021-03-30 cs.LG
Combating Exacerbated Heterogeneity for Robust Models in Federated Learning
Hong Kong Baptist University（香港浸会大学）；Shanghai Jiao Tong University（上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）；The University of Sydney（悉尼大学）；Tsinghua University（清华大学）
在现实世界的应用程序中的隐私和安全问题，导致了对抗强大的联邦模型的发展。然而，对抗训练和联邦学习在一个框架中的直接组合可能会导致不希望的鲁棒性恶化。我们发现，这种现象背后的归因是，生成的对抗性数据可能会加剧本地客户端之间的数据异构性，使包装的联邦学习表现不佳。为了解决这个问题，我们提出了一个名为Slack Federated Adversarial Training（SFAT）的新框架，在聚合过程中分配客户端松弛以对抗加剧的异质性。理论上，我们分析了所提出的方法的收敛性，以适当放宽目标时，结合联邦学习和对抗训练。在实验上，我们使用不同的对抗训练和联邦优化方法在各种基准数据集和真实世界数据集上验证了SFAT的合理性和有效性。该代码可在https://github.com/ZFancy/SFAT上公开获取。
2023-03-01 cs.LG
Ensemble Federated Adversarial Training with Non-IID data
Zhejiang University（浙江大学）
尽管联邦学习在保护数据隐私和安全的前提下赋予了分布式客户端一种协同训练模式，但由于缺乏鲁棒性，客户端在遇到对抗样本时仍然很脆弱。对抗性样本可以通过向正常输入中注入精心设计的噪声来混淆和欺骗客户端模型，以达到恶意目的。在本文中，我们介绍了一种新的Ensemble联合对抗训练方法，称为EFAT，它可以实现有效和强大的耦合训练机制。我们的核心思想是通过扩展来自其他参与客户端的不同干扰的训练数据来增强对抗样本的多样性，这有助于对抗训练在非IID环境中表现良好。在不同的非IID情况下的实验结果表明，与单独将联邦学习与对抗方法相结合相比，我们提出的方法取得了令人满意的结果，包括特征分布偏斜和标签分布偏斜。
2021-10-26 cs.AI cs.LG
Delving into the Adversarial Robustness of Federated Learning
Zhejiang University（浙江大学）；Youtu Lab, Tencent（腾讯优图实验室）；Sony AI（索尼AI）
在联邦学习（FL）中，模型与集中训练的模型一样脆弱。然而，联邦学习的对抗鲁棒性在很大程度上仍未得到探索。本文阐述了联邦学习对抗鲁棒性的挑战。为了更好地理解现有FL方法的对抗脆弱性，我们对各种攻击和对抗训练方法进行了全面的鲁棒性评估。此外，我们揭示了直接采用对抗性训练在外语中所产生的负面影响，这严重损害了测试的准确性，特别是在非IID设置。在这项工作中，我们提出了一种新的算法称为基于决策边界的联邦对抗训练（DBFAT），它由两个组件（局部重新加权和全局正则化），以提高FL系统的准确性和鲁棒性。在多个数据集上进行的大量实验表明，DBFAT在IID和非IID设置下的性能始终优于其他基线。
2023-02-19 cs.AI cs.CR cs.LG
Adversarial training in communication constrained federated learning
University of Illinois（伊利诺伊大学）；I.B.M T.J. Watson Research Center（IBM TJ·沃森研究中心）
联邦学习支持在代理数据的分布式语料库上进行模型训练。然而，经过训练的模型容易受到对抗性示例的影响，这些示例旨在引起错误分类。我们研究了在联邦学习环境中使用对抗训练（AT）的可行性。此外，我们这样做假设一个固定的通信预算和非iid数据分布之间的参与代理。我们观察到，与集中式训练相比，当AT用于联邦设置时，自然和对抗准确率都显着下降。我们将此归因于在代理处本地执行的AT的时期的数量，这反过来影响（i）本地模型之间的漂移;以及（ii）收敛时间（以通信回合的数量来衡量）。为此，我们提出了FedDynAT，一种新的算法在联邦设置执行AT。通过大量的实验，我们证明了FedDynAT通过减少模型漂移显著提高了自然和对抗精度，以及模型收敛时间。
2021-03-01 cs.AI cs.LG
Krum Federated Chain (KFC): Using blockchain to defend against adversarial attacks in Federated Learning
Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（安达卢西亚数据科学与计算智能研究所（DaSCI））；University of Granada（格拉纳达大学）
针对联邦学习易受对抗性攻击的问题，本文测试了联邦学习证明机制的防御效果，并提出结合Krum与该机制的KFC策略，实验验证了所提方法能有效抵御拜占庭和后门攻击。
2025-02-10 cs.AI cs.LG
An Empirical Analysis of Federated Learning Models Subject to Label-Flipping Adversarial Attack
本文实证分析了选定的联邦学习模型对对抗攻击的响应，探讨了不同模型在标签翻转攻击下的鲁棒性差异及实际应用影响。
2024-12-24 cs.LG
Adversarial Robustness through Bias Variance Decomposition: A New Perspective for Federated Learning
Instacart（Instacart公司）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
联邦学习通过在隐私保护约束下聚合来自一组分布式客户端的知识来学习神经网络模型。在这项工作中，我们表明这种范式可能继承了集中式神经网络的对抗性脆弱性，即，当部署该模型时，它已经恶化了对抗性示例的性能。当联邦学习范式被设计为近似集中式神经网络的更新行为时，这一点更加令人担忧。为了解决这个问题，我们提出了一个对抗强大的联邦学习框架，命名为美联储_BVA，改进的服务器和客户端更新机制。这是因为我们观察到，联邦学习中的泛化误差可以自然地分解为多个客户端预测触发的偏差和方差。因此，我们建议通过在服务器更新期间最大化偏差和方差来生成对抗性示例，并在客户端更新期间使用这些示例学习对抗性鲁棒模型更新。结果，可以从这些改进的本地客户端的模型更新中聚合对抗鲁棒的神经网络。在多个基准数据集上使用几种流行的神经网络模型进行了实验，实验结果表明，该框架在IID和非IID环境下对白盒和黑盒对抗性腐败都具有鲁棒性。
2022-09-18 cs.LG stat.ML
FAT: Federated Adversarial Training
Imperial College London（帝国理工学院）；IBM Research（IBM研究院）
联邦学习（FL）是解决机器学习（ML）中隐私和数据治理问题的最重要范例之一。到目前为止，对抗性训练已经成为ML模型上最有前途的规避威胁方法。在本文中，我们采取了联合对抗训练（FAT）的第一个已知步骤，结合了这两种方法，以减少推理过程中规避的威胁，同时在训练过程中保护数据隐私。我们使用MNIST，Fashion-MNIST和CIFAR 10研究了FAT协议在理想化联邦设置中的有效性，并提供了关于在LEAF基准数据集上稳定训练的第一个见解，该基准数据集专门模拟了联邦学习环境。我们确定了对抗训练的这种自然扩展在实现对抗鲁棒性方面的挑战，并进一步研究了在客户端破坏模型收敛的情况下的理想化设置。我们发现，修剪平均值和Bulyan防御可以妥协，我们能够颠覆克鲁姆与一种新的蒸馏为基础的攻击，提出了一个明显的“强大”的模型的防御者，而事实上，该模型无法提供对简单的攻击修改的鲁棒性。
2020-12-03 cs.CR cs.LG
QFAL: Quantum Federated Adversarial Learning
Hassan II University of Casablanca（卡萨布兰卡哈桑二世大学）；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）；NYUAD Research Institute（纽约大学阿布扎比分校研究院）
本工作提出量子联邦对抗学习（QFAL）框架，通过结合本地对抗样本生成与联邦平均，系统研究客户端数量、对抗覆盖率和扰动强度对鲁棒性的影响，揭示鲁棒性与准确性之间的权衡。
2025-02-28 cs.LG quant-ph
Logit Calibration and Feature Contrast for Robust Federated Learning on Non-IID Data
Kyung Hee University（庆熙大学）
针对 non-IID 联邦学习中直接对抗训练损害准确率的问题，提出 FatCC，通过局部 logit 校准与全局特征对比同时提升干净准确率和鲁棒准确率。
2024-04-10 cs.AI cs.CV cs.LG
FACT: Federated Adversarial Cross Training
University Medical Center Göttingen（哥廷根大学医学中心）；University of Regensburg（雷根斯堡大学）
本文提出联邦对抗交叉训练（FACT），通过源客户端间的隐式域差异识别目标域偏移，在每轮FL中交叉初始化源客户端生成域专门化表示作为对抗来学习域不变表示，在多源单目标和单源单目标基准上均优于现有域适应模型。
2023-07-28 cs.LG
