Reputation-Based Federated Learning Defense to Mitigate Threats in EEG Signal Classification
Deakin University（迪肯大学）；Khalifa University（哈利法大学）
本文提出基于声誉的联邦学习防御框架，通过协作训练保护隐私并识别受损参与者，有效减轻EEG信号分类中的数据投毒攻击威胁。
2023-10-22 cs.CR cs.LG eess.SP
Federated Attack Campaign Detection via Contrastive Encoding of Threat Indicators in Gradient Updates
Technical University of Applied Sciences Würzburg-Schweinfurt（维尔茨堡-施韦因富特应用技术大学）；Bielefeld University（比勒费尔德大学）；Center for Cybersecurity TTZ-WUE（TTZ-WUE网络安全中心）
提出FedIoC模块化框架，通过客户端梯度更新中威胁指标的对比编码，在联邦学习场景下无需直接传输IoC即可跨组织检测协同网络攻击活动，明确非IID梯度结构为恢复的主要驱动因素。
2026-09-07 cs.CR cs.LG
A Survey of Privacy Threats and Defense in Vertical Federated Learning: From Model Life Cycle Perspective
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Zhejiang University（浙江大学）；AntGroup（蚂蚁集团）；Ulsan National Institute of Science and Technology（蔚山国立科学技术院）；The University of Hong Kong（香港大学）
本文首次全面综述纵向联邦学习中的隐私攻击与防御，从模型生命周期视角分类并讨论挑战与未来方向，为研究和实践提供指导。
2024-02-06 cs.AI cs.CR cs.LG
Securing Federated Learning against Backdoor Threats with Foundation Model Integration
Renmin University of China（中国人民大学）；The University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
针对联邦学习集成基础模型引入的新型后门攻击，提出无数据防御策略，通过约束模型聚合时隐藏特征空间的异常激活，有效抵御经典与新型后门攻击，性能优于现有方法。
2025-05-27 cs.CR cs.LG
Federated Learning-Driven Cybersecurity Framework for IoT Networks with Privacy-Preserving and Real-Time Threat Detection Capabilities
Western University（西安大略大学）
针对物联网网络中传统集中式安全方法难以平衡隐私保护与实时威胁检测的问题，提出联邦学习驱动的网络安全框架，利用本地模型训练、同态加密聚合及RNN异常检测，实现98%以上威胁检测准确率并降低20%资源消耗，提供可扩展隐私保护方案。
2025-02-14 cs.CR cs.LG cs.NI
Threats to Federated Learning: A Survey
WeBank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）；National University of Singapore（新加坡国立大学）；Nanyang Technological University（南洋理工大学）
随着数据孤岛的出现和流行的隐私意识，传统的训练人工智能（AI）模型的集中式方法正面临着强大的挑战。联邦学习（FL）最近出现作为一个有前途的解决方案，在这一新的现实。现有的FL协议设计已被证明存在漏洞，这些漏洞可以被系统内外的对手利用，从而损害数据隐私。因此，使FL系统设计者意识到未来FL算法设计对隐私保护的影响至关重要。目前，没有关于这一主题的调查。在本文中，我们弥合这一重要的差距，外语文学。通过对FL的概念进行简要介绍，并对FL的威胁模型和两种主要攻击进行了独特的分类：1）中毒攻击和2）推理攻击，本文对这一重要主题进行了简单的回顾。我们强调的直觉，关键技术以及各种攻击所采用的基本假设，并讨论未来的研究方向，更强大的隐私保护FL。
2020-03-04 cs.CR cs.LG stat.ML
Private Aggregation for Byzantine-Resilient Heterogeneous Federated Learning
School of Information, Computation and Technology（信息、计算与技术学院）
针对异构联邦学习中现有拜占庭容错方案无法结合隐私保护的问题，提出融合可验证秘密共享、安全聚合与定制对称私有信息检索的多阶段方法，实现信息论隐私与拜占庭容错，并结合零阶估计降低通信开销提升可扩展性。
2025-06-11 cs.DC cs.IT cs.LG
Poisoning Attacks and Defenses in Federated Learning: A Survey
Deakin University（迪肯大学）
联邦学习（FL）能够在分布式客户端之间训练模型，而不会损害训练数据集的隐私，但客户端数据集和训练过程的不可见性会带来各种安全威胁。本调查提供了中毒攻击的分类和实验评估，以讨论健壮的FL的必要性。
2023-01-14 cs.CR cs.LG
Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning
Meta AI；Cornell University（康奈尔大学）
针对联邦学习中现有梯度压缩等防御被认为能有效抵御梯度反演攻击的结论，本文提出一种基于辅助数据训练模型的简单自适应攻击，可攻破视觉与语言任务下的现有防御，揭示被低估的隐私风险。
2023-06-09 cs.CR cs.LG
In-depth Analysis of Privacy Threats in Federated Learning for Medical Data
本文提出MedPFL框架，用于分析医疗数据联邦学习中的隐私风险并制定缓解策略，通过实验证明联邦学习在处理医学图像时存在严重隐私风险，并发现添加随机噪声的防御机制并非总是有效。
2024-09-27 cs.LG
Vertical Federated Learning: Taxonomies, Threats, and Prospects
Nanjing University of Science and Technology（南京理工大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）；The University of Newcastle（纽卡斯尔大学）；Harbin Institute of Technology（哈尔滨工业大学）；University of Adelaide（阿德莱德大学）
联邦学习（Federated learning，FL）是目前最流行的分布式机器学习技术。FL允许机器学习模型在不获取原始数据的情况下进行训练。相反，使用本地数据训练本地模型;然后共享和组合模型。这种方法保护了数据隐私，因为共享的是本地训练的模型，而不是原始数据本身。广义地说，联邦学习可以分为水平联邦学习（HFL）和垂直联邦学习（VFL）。对于前者，不同的各方持有不同的样本在同一组的功能;对于后者，不同的各方持有不同的特征数据属于同一组的样本。在许多实际情况下，VFL比HFL更相关，因为不同的公司（例如，银行和零售商）持有不同的特征（例如，信用历史和购物历史）。虽然VFL是一个新兴的研究领域，但与HFL相比，它还没有得到很好的建立。另外，VFL相关研究比较分散，联系不直观。因此，本调查旨在将这些与VFL相关的研究集中在一个地方。首先，我们对现有的VFL结构和算法进行了分类。其次，我们从安全和隐私的角度提出了VFL的威胁。最后，为了便于今后的研究，我们详细讨论了视觉语言学的挑战和前景。
2023-02-03 cs.LG
A Survey on Secure and Private Federated Learning Using Blockchain: Theory and Application in Resource-constrained Computing
Florida International University（佛罗里达国际大学）；Southern Illinois University（南伊利诺伊大学）
近年来，由于先进机器学习和人工智能的快速发展以及新兴的安全和隐私威胁，联邦学习（FL）得到了广泛的普及。FL可以从边缘设备的本地数据存储中高效地生成模型，而不会向任何实体泄露敏感数据。虽然这种模式部分缓解了用户敏感数据的隐私问题，但由于日益增长的网络威胁和隐私侵犯技术，FL过程的性能可能受到威胁并达到瓶颈。为了加快FL过程的扩散，FL环境的区块链集成引起了学术界和工业界人士的广泛关注。区块链具有去中心化、不变性、共识和透明性的特点，有可能防止安全和隐私威胁。然而，如果区块链机制需要昂贵的计算资源，那么资源受限的FL客户端就不能参与训练。考虑到这一点，本次调查的重点是审查在资源受限的FL环境中成功部署区块链的挑战、解决方案和未来方向。我们全面回顾了适合FL过程的变体区块链机制，并讨论了它们在有限资源预算下的权衡。此外，我们还广泛分析了在资源受限的FL环境中可能观察到的网络威胁，以及区块链如何在阻止这些网络攻击方面发挥关键作用。为此，我们强调了一些潜在的解决方案，以实现区块链和联邦学习的耦合，这些解决方案可以提供高水平的可靠性、数据隐私和分布式计算性能。
2023-03-24 cs.CR cs.DC cs.LG
Secure Federated Learning in 5G Mobile Networks
Ericsson Research（爱立信研究院）；Ericsson Security Research（爱立信安全研究院）；KTH Royal Institute of Technology（瑞典皇家理工学院）
机器学习（ML）是优化、保护和管理移动网络的重要推动因素。这导致从网络功能收集和处理的数据增加，这反过来又可能增加对敏感的最终用户信息的威胁。因此，需要减少对最终用户隐私的威胁的机制来充分利用ML。我们将联邦学习（FL）无缝集成到3GPP 5G网络数据分析（NWDA）架构中，并添加了多方计算（MPC）协议，以保护本地更新的机密性。我们评估了该协议，发现它比以前的工作具有更低的开销，而不会影响ML性能。
2020-09-14 cs.CR cs.LG cs.NI
Leveraging Soft Prompts for Privacy Attacks in Federated Prompt Tuning
CISE, University of Florida, FL, USA（佛罗里达大学计算机与信息科学系）；North Carolina State University, NC, USA（北卡罗来纳州立大学）；Washington State University, WA, USA（华盛顿州立大学）；Seoul National University of Science and Technology, South Korea（韩国科学技术大学）
本文提出PromptMIA，一种针对联邦提示微调的隐私攻击方法，揭示了该方法在隐私保护方面的潜在风险。
2026-11-05 cs.CR cs.LG
Toward Smart Security Enhancement of Federated Learning Networks
University of Electronic Science and Technology of China（电子科技大学）；PHENIKAA University（PHENIKAA大学）；Nanyang Technological University（南洋理工大学）
由于传统的集中式学习网络（CLN）在隐私保护、通信开销和可扩展性方面面临越来越多的挑战，联邦学习网络（FLN）已被提出作为支持机器学习（ML）模型训练的有前途的替代范例。与CLN中的集中式数据存储和处理相反，FLN利用许多边缘设备（ED）来分布式地存储数据和执行训练。通过这种方式，FLN中的ED可以在本地保存训练数据，这保护了隐私并减少了通信开销。然而，由于FLN内的模型训练依赖于所有ED的贡献，如果一些ED上传不正确或伪造的训练结果，即，中毒攻击在本文中，我们回顾了FLN的脆弱性，特别是中毒攻击和主流对策的概述。然而，现时的对策只能提供被动的保障，并没有考虑到教育署署长的贡献所支付的培训费用，导致培训成本不必要地偏高。因此，我们提出了一个智能安全增强框架FLN。特别是，一个验证前聚集（验证）的程序被开发来识别和删除非良性的训练结果从ED。然后，应用深度强化学习（Deep Reinforcement Learning，DRL）学习ED的行为模式，主动选择训练效果好、训练费用低的ED。仿真结果表明，该框架可以有效地保护FLN。
2020-08-19 cs.CR cs.LG cs.NI
A Cyber Threat Intelligence Sharing Scheme based on Federated Learning for Network Intrusion Detection
提出基于联邦学习的协作式威胁情报共享框架，允许多组织在不共享敏感数据的情况下联合训练网络入侵检测模型，并在NetFlow格式数据集上验证其有效性。
2021-11-04 cs.AI cs.CR cs.LG
Beyond Traditional Threats: A Persistent Backdoor Attack on Federated Learning
College of Computer Science and Technology, Harbin Engineering University（哈尔滨工程大学计算机科学与技术学院）；Southampton Ocean Engineering Joint Institute, Harbin Engineering University（哈尔滨工程大学南安普顿海洋工程联合学院）
针对联邦学习后门易被良性更新稀释的问题，提出全组合后门攻击方法FCBA，通过聚合更多组合触发器信息构建更完整的后门模式，显著提升了攻击持久性和成功率，优于SOTA方法。
2024-04-26 cs.AI cs.CR cs.CV
Decentralized Federated Learning: A Survey on Security and Privacy
University of Windsor（温莎大学）；University of New Brunswick（新不伦瑞克大学）；University of Western Ontario（西安大略大学）；Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本综述系统分析了去中心化联邦学习中的安全与隐私威胁、对手类型及防御机制，并探讨了其可信性与可验证性。
2024-01-25 cs.AI cs.CR cs.LG
On the Vulnerability of Backdoor Defenses for Federated Learning
Tongji University（同济大学）；Pennsylvania State University（宾夕法尼亚州立大学）
联邦学习（FL）是一种流行的分布式机器学习范例，它能够在不共享客户端数据的情况下联合训练全局模型。然而，其重复的服务器-客户端通信为后门攻击提供了空间，目的是在呈现特定触发模式时误导全局模型进入有针对性的错误预测。为了应对这种对联邦学习的后门威胁，已经提出了各种防御措施。在本文中，我们研究了当前的防御机制是否真正中和后门的威胁，从联邦学习在一个实际的设置，提出了一个新的联邦后门攻击方法可能的对策。与传统的基于后门注入的训练（在触发数据上）和重新缩放（恶意客户端模型）不同，所提出的后门攻击框架（1）直接修改（小比例）局部模型权重以通过符号翻转注入后门触发器;（2）与客户端模型联合优化触发模式，从而更持久和隐蔽地规避现有防御。在一个案例研究中，我们从三个主要类别研究了最近的联邦后门防御的优点和缺点，并在实践中训练联邦模型时为从业者提供建议。
2023-01-19 cs.AI cs.CR cs.LG
Non-Cooperative Backdoor Attacks in Federated Learning: A New Threat Landscape
VinUniversity（范大大学）；College of Engineering & Computer Science, VinUniversity（范大大学工程与计算机科学学院）；Vanderbilt University（范德堡大学）
本研究针对联邦学习易受后门攻击的问题，探究了独立攻击者发起的非合作式多触发器攻击场景，实验证实该攻击可成功植入后门且不影响主任务，凸显了构建鲁棒防御的紧迫性与研究方向。
2024-07-05 cs.AI cs.CR cs.CV
Data Poisoning and Leakage Analysis in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Fordham University（福特汉姆大学）；National Institute of Standards and Technology（美国国家标准与技术研究院）；Georgia Tech Research Institute（佐治亚理工研究院）
本章分析联邦学习中的数据泄漏与投毒威胁，探讨梯度扰动防御及动态模型扰动方法，旨在实现隐私保护、投毒韧性与性能的平衡。
2024-09-19 cs.LG
A Secure Federated Learning Framework for Residential Short Term Load Forecasting
Deakin University（迪肯大学）；Latrobe University（乐卓博大学）
智能电表测量虽然对于准确的需求预测至关重要，但也面临着一些缺点，包括消费者隐私、数据泄露问题等。最近的文献已经探索了联邦学习（FL）作为一种有前途的隐私保护机器学习替代方案，其使得能够在不暴露用于短期负荷预测的私有原始数据的情况下对模型进行协作学习。尽管有其优点，但标准FL仍然容易受到由错误和/或恶意客户端进行的称为拜占庭攻击的棘手网络威胁的影响。因此，为了提高联邦短期负荷预测对拜占庭威胁的鲁棒性，我们开发了一个最先进的差分私有安全FL的框架，确保个人智能电表的数据的隐私，同时保护FL模型和架构的安全性。我们提出的框架通过符号随机梯度下降（SignSGD）算法利用梯度量化的思想，其中客户端仅在本地模型训练后将梯度的“符号”传输到控制中心。正如我们通过涉及基准神经网络与一组拜占庭攻击模型的实验所强调的那样，我们提出的方法非常有效地减轻了这种威胁，从而优于传统的Fed-SGD模型。
2023-03-28 cs.AI cs.CR cs.DC
Secure Federated Learning for Cognitive Radio Sensing
Poznan University of Technology（波兹南理工大学）；RIMEDO Labs（RIMEDO实验室）；Princeton University（普林斯顿大学）
本文研究认知无线电中基于联邦学习的频谱感知，分析其动机、架构、算法及安全隐私威胁，并提出对策与设计建议。
2023-03-23 cs.AI cs.LG cs.SY
BadPromptFL: A Novel Backdoor Threat to Prompt-based Federated Learning in Multimodal Models
School of Information and Communication Engineering, Dalian University of Technology（信息与通信工程学院，大连理工大学）；School of Computer Science and Technology, Anhui University（计算机科学与技术学院，安徽大学）；New Laboratory of Pattern Recognition (NLPR) State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS) Institute of Automation, Chinese Academy of Sciences (CASIA)（模式识别新实验室（NLPR）多模态人工智能系统国家重点实验室（MAIS）自动化研究所，中国科学院（CASIA））
BadPromptFL提出首个针对多模态对比模型中基于提示的联邦学习的后门攻击，通过优化触发器和提示注入实现高成功率，揭示其安全脆弱性。
2025-09-06 cs.AI cs.LG
CO-DEFEND: Continuous Decentralized Federated Learning for Secure DoH-Based Threat Detection
提出CO-DEFEND框架，利用联邦学习实现多实体协作训练DoH威胁检测模型，保护数据隐私并提高可扩展性和鲁棒性，采用决策树和随机森林作为模型选择机制而非聚合。
2026-06-29 cs.LG
Mitigating Communications Threats in Decentralized Federated Learning through Moving Target Defense
University of Murcia（穆尔西亚大学）；Armasuisse Science and Technology（瑞士军备科学技术局）；University of Zurich（苏黎世大学）
本文针对去中心化联邦学习的通信安全问题，提出融合加密与移动目标防御的安全模块，并在 Fedstellar 中验证其可缓解窃听和日食攻击。
2023-12-09 cs.AI cs.CR cs.DC
Upholding Robustness in Federated Learning: Trends, Emerging Strategies, and Research Opportunities
BITS Pilani Dubai Campus（BITS Pilani迪拜校区）；University of Palermo（巴勒莫大学）；Missouri University of Science and Technology（密苏里科技大学）
本文从威胁、聚合策略和防御策略三个角度综合综述联邦学习的鲁棒性，分类攻击面与防御方法，并评估现有实践，指出开放挑战以指导未来研究。
2026-09-25 cs.LG
Federated Learning Versus Classical Machine Learning: A Convergence Comparison
Nagoya Institute of Technology（名古屋工业大学）
在过去的几十年里，机器学习已经彻底改变了大规模应用的数据处理。与此同时，趋势应用程序中越来越多的隐私威胁导致了对经典数据训练模型的重新设计。特别是，经典的机器学习涉及集中式数据训练，其中收集数据，整个训练过程在中央服务器上执行。尽管有显著的融合，但当与中央云服务器共享时，此培训涉及参与者数据的几个隐私威胁。为此，联邦学习在分布式数据训练中取得了显著的重要性。特别地，联邦学习允许参与者在本地数据上协作地训练本地模型，而不向中央云服务器泄露他们的敏感信息。在本文中，我们在两个公开可用的数据集，即逻辑回归-MNIST数据集和图像分类-CIFAR-10数据集上，对经典机器学习和联邦学习进行了收敛性比较。仿真结果表明，联邦学习在保持参与者匿名性的同时，在有限的通信轮数内实现了更高的收敛性。我们希望这项研究能够显示出它的好处，并帮助联邦学习得到广泛的实施。
2021-07-22 cs.DC cs.LG
Bayes' capacity as a measure for reconstruction attacks in federated learning
EPFL（洛桑联邦理工学院）；Macquarie University（麦考瑞大学）；INRIA（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；UNSW（新南威尔士大学）
该研究针对联邦学习中重构攻击的隐私威胁，用定量信息流框架形式化威胁模型，证明贝叶斯容量是DP-SGD信息泄露的紧上界，并验证了其在对比抗攻击机制效果中的作用。
2024-06-19 cs.AI cs.CR cs.IT
Free-rider Attacks on Model Aggregation in Federated Learning
Université Côte d’Azur（蔚蓝海岸大学）；Inria Sophia Antipolis（法国国家信息与自动化研究所索菲亚安蒂波利斯研究中心）；Accenture Labs（埃森哲实验室）
针对联邦学习的搭便车攻击包括伪装对联邦学习过程的参与，其目标是获得最终的聚合模型，而实际上没有贡献任何数据。这种攻击在联邦学习的敏感应用中至关重要，因为这些应用中数据稀缺，模型具有很高的商业价值。本文首次对基于迭代参数聚合的联邦学习方案（如FedAvg或FedProx）的搭便车攻击进行了理论和实验分析，并为这些攻击收敛到公平参与者的聚合模型提供了形式化的保证。我们首先表明，这种攻击的一个简单的实现可以简单地实现在迭代联邦优化过程中不更新局部参数。由于这种攻击可以通过在服务器级采取简单的对策来检测，因此我们随后研究了基于随机更新搭便车参数的更复杂的伪装方案。我们证明了一些实验方案，在iid和非iid设置所提出的策略。最后，我们提供了建议，以避免搭便车攻击在现实世界中的应用程序的联邦学习，特别是在敏感领域的数据和模型的安全性是至关重要的。
2021-02-22 cs.LG stat.ML
Security and Privacy in IoT Using Machine Learning and Blockchain: Threats & Countermeasures
University of Technology Sydney（悉尼科技大学）；Macquarie University（麦考瑞大学）；University of South Wales（南威尔士大学）；Federation University（联邦大学）
由于物联网（IoT）设备在众多应用中的参与，用户的安全和隐私已经成为重要的关注点。网络威胁正以爆炸性的速度增长，使得现有的安全和隐私措施不足。因此，互联网上的每个人都是黑客的产品。因此，机器学习（ML）算法用于从大型复杂数据库中生成准确的输出，其中生成的输出可用于预测和检测基于物联网的系统中的漏洞。此外，区块链（BC）技术在现代物联网应用中越来越流行，以解决安全和隐私问题。已经对ML算法或BC技术进行了几项研究。然而，这些研究使用ML算法或BC技术针对安全或隐私问题，因此需要对近年来使用ML算法和BC技术解决安全和隐私问题的努力进行综合调查。在本文中，我们总结了过去几年（从2008年到2019年）在物联网领域使用ML算法和BC技术解决安全和隐私问题的研究工作。首先，我们讨论并分类了过去12年来物联网领域报告的各种安全和隐私威胁。然后，我们对物联网领域基于ML算法和BC技术的安全和隐私工作的文献进行了分类。最后，我们确定并阐明了使用ML算法和BC技术解决物联网领域安全和隐私问题的几个挑战和未来研究方向。
2020-08-06 cs.CR cs.LG
SoK: A Systems Perspective on Compound AI Threats and Countermeasures
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Intel Labs（英特尔实验室）；Symmetry Systems（对称系统公司）
本文从系统视角系统化梳理复合AI系统面临的软硬件攻击向量，展示跨层组合攻击可降低威胁模型假设，并参照Mitre Att&ck框架定位攻击，提出全面防御策略以保障安全高效部署。
2024-11-20 cs.AI cs.CR cs.LG
Permutation-Based Stegomalware in Large Language Models: Threats and Countermeasures
Fuzzy Labs（模糊实验室）
本文利用行为保持置换对称性，既作为中和LLM隐恶意软件的防御手段，也作为理论上无损的攻击编码方法，并量化了其性能损失极小。
2026-09-16 cs.AI cs.CR cs.LG
Privacy Threats Against Federated Matrix Factorization
Hong Kong University of Science and Technology（香港科技大学）；Southern University of Science and Technology（南方科技大学）；WeBank Co. Ltd（微众银行）
矩阵分解在实际推荐应用和电子商务中非常成功。由于数据短缺和严格的法规，很难收集足够的数据来为单个公司构建高性能的推荐系统。联邦学习提供了在不损害隐私和安全的情况下桥接数据孤岛和构建机器学习模型的可能性。共享共同用户或项目的参与者协作地在来自所有参与者的数据上构建模型。已经有一些工作探索应用联邦学习的推荐系统和协同过滤系统中的隐私问题。然而，联邦矩阵分解中的隐私威胁没有被研究。本文根据特征空间的划分将联邦矩阵分解分为三类，并分析了每类联邦矩阵分解模型的隐私威胁。我们还讨论了隐私保护方法。据我们所知，这是联邦学习框架中的矩阵分解方法的隐私威胁的第一个研究。
2020-07-03 cs.CR cs.LG stat.ML
LLM Security: Vulnerabilities, Attacks, Defenses, and Countermeasures
Department of Computer Science and Artificial Intelligence, University of Granada（计算机科学与人工智能系，格拉纳达大学）
本综述系统分类了LLMs在训练与部署阶段面临的攻击及基于预防与检测的防御机制，评估了防御有效性，为保护LLMs提供了结构化框架并指出了未来研究方向。
2025-05-02 cs.AI cs.CR cs.LG
BLADERUNNER: Rapid Countermeasure for Synthetic (AI-Generated) StyleGAN Faces
MIT Lincoln Laboratory（麻省理工学院林肯实验室）
StyleGAN是由NVIDIA开发的开源TensorFlow实现。它彻底改变了高质量的面部图像生成。然而，这种人工智能/机器学习（AI/ML）算法的民主化使敌对的威胁行为者能够在社交媒体平台上建立网络角色或傀儡账户。这些超逼真的合成面孔。本报告调查了AI/ML与网络和信息运营的相关性。AI/ML算法的激增导致了DeepFakes和不真实社交媒体账户的增加。在战略和运营环境中分析威胁。现有的识别合成人脸的方法是存在的，但它们依赖于人类在视觉上仔细检查每张照片的不一致性。然而，通过使用DLIB 68-landmark预训练文件，可以通过利用StyleGAN图像中的重复行为来分析和检测合成人脸。Project Blade Runner包含两个对付StyleGAN镜像所需的脚本。通过PapersPlease作为分析器，可以从抓取的图像样本中获得攻击指标（IOA）。这些IOA可以反馈到充当检测器的AmongUs中，以从实时操作样本中识别合成人脸。Blade Runner的开源版本可能缺乏额外的单元测试和一些功能，但开源版本是一个编辑版本，更精简，更优化，并且是信息安全社区的概念验证。理想的最终状态将是逐步增加自动化，以保持与其封闭源代码的前身相当。
2022-10-28 cs.CR cs.LG
GowFed -- A novel Federated Network Intrusion Detection System
University of the Basque Country UPV/EHU（巴斯克大学 UPV/EHU）
网络入侵检测系统正在发展成为智能系统，在搜索环境中的异常的同时执行数据分析。事实上，深度学习技术的发展为构建更复杂、更有效的威胁检测模型铺平了道路。然而，在大多数边缘或IoT设备中，训练这些模型在计算上可能是不可行的。目前的方法依赖于从所有参与方接收数据的强大的集中式服务器-违反基本的隐私约束，并且由于巨大的通信开销而显著影响响应时间和运营成本。为了缓解这些问题，联邦学习成为一种有前途的方法，其中不同的代理协作训练共享模型，而不向其他人公开训练数据或需要计算密集型的集中式基础设施。这项工作提出了GowFed，一种新的网络威胁检测系统，结合使用高尔相异性矩阵和联邦平均。GowFed的不同方法已经基于最先进的知识开发出来：（1）香草版本;（2）带有注意力机制的版本。此外，每个变体都使用TensorFlow Federated框架提供的面向仿真的工具进行了测试。以同样的方式，联邦系统的集中式类似的开发进行探索他们的差异，在可扩展性和性能方面-在一组设计的实验/方案。总的来说，GowFed打算成为联合使用联邦学习和高尔相异矩阵来检测工业级网络中的网络威胁的第一个垫脚石。
2022-11-02 cs.CR cs.LG
FAT: Federated Adversarial Training
Imperial College London（帝国理工学院）；IBM Research（IBM研究院）
联邦学习（FL）是解决机器学习（ML）中隐私和数据治理问题的最重要范例之一。到目前为止，对抗性训练已经成为ML模型上最有前途的规避威胁方法。在本文中，我们采取了联合对抗训练（FAT）的第一个已知步骤，结合了这两种方法，以减少推理过程中规避的威胁，同时在训练过程中保护数据隐私。我们使用MNIST，Fashion-MNIST和CIFAR 10研究了FAT协议在理想化联邦设置中的有效性，并提供了关于在LEAF基准数据集上稳定训练的第一个见解，该基准数据集专门模拟了联邦学习环境。我们确定了对抗训练的这种自然扩展在实现对抗鲁棒性方面的挑战，并进一步研究了在客户端破坏模型收敛的情况下的理想化设置。我们发现，修剪平均值和Bulyan防御可以妥协，我们能够颠覆克鲁姆与一种新的蒸馏为基础的攻击，提出了一个明显的“强大”的模型的防御者，而事实上，该模型无法提供对简单的攻击修改的鲁棒性。
2020-12-03 cs.CR cs.LG
Federated Anomaly Detection and Mitigation for EV Charging Forecasting Under Cyberattacks
ICT Convergence Research Center（信息通信融合研究中心）；Kumoh National Institute of Technology（Kumoh国立技术学院）；IT-Convergence Engineering（信息融合工程）
本文提出一种联邦学习框架，用于在遭受网络攻击时实现电动汽车充电预测中的异常检测与缓解，通过保护隐私、检测攻击并提升预测准确性。
2025-11-22 cs.CR cs.LG
