A Survey of Trustworthy Federated Learning with Perspectives on Security, Robustness, and Privacy
The Chinese University of Hong Kong（香港中文大学）；University of Electronic Science and Technology of China（电子科技大学）；Peng Cheng Lab（鹏城实验室）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
值得信赖的人工智能（AI）技术彻底改变了日常生活，极大地造福了人类社会。在各种人工智能技术中，联邦学习（FL）脱颖而出，成为各种现实世界场景的有前途的解决方案，从金融风险评估系统到生命科学中的药物发现等尖端技术。然而，围绕数据隔离和隐私的挑战威胁着FL系统的可信度。针对数据隐私、学习算法稳定性和系统机密性的对抗攻击在联邦学习中的分布式训练环境中尤其令人担忧。因此，以值得信赖的方式开发FL至关重要，重点是安全性，鲁棒性和隐私性。在这项调查中，我们提出了一个全面的路线图，用于开发值得信赖的FL系统，并从三个关键方面总结了现有的努力：安全性，鲁棒性和隐私。我们概述了在不同的开发阶段（包括数据处理、模型训练和部署）对可信的联邦学习构成漏洞的威胁。为了指导选择最合适的防御方法，我们讨论了实现可信FL（TFL）的各个方面的具体技术解决方案。我们的方法不同于以往的工作，主要是从法律的角度来讨论TFL或从高层次的，非技术的角度来介绍FL。
2023-02-21 cs.CR cs.LG
Federated Learning with Blockchain-Enhanced Machine Unlearning: A Trustworthy Approach
Faculty of Data Science, City University of Macau（澳门大学数据科学学院）；School of Computer Science, University of Technology Sydney（悉尼科技大学计算机科学学院）
本文提出一种结合区块链与联邦学习的框架，通过不可篡改的记录和认证机制解决物联网环境中机器遗忘学习缺乏可验证性的信任问题，同时优化数据管理以保障系统效率与隐私安全。
2024-05-27 cs.AI cs.CR cs.DC
F-RBA: A Federated Learning-based Framework for Risk-based Authentication
University of Montreal（蒙特利尔大学）；University of Ottawa（渥太华大学）
提出F-RBA联邦学习框架，通过本地化风险评估和相似性特征工程，解决分布式认证中的异构数据与冷启动问题，实现隐私保护与高效检测。
2024-12-16 cs.CR cs.LG
Privacy-preserving Graph Analytics: Secure Generation and Federated Learning
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）
直接从国土安全企业的安全相关的应用程序的动机，我们专注于图数据的隐私保护分析，它提供了重要的能力来表示丰富的属性和关系。特别是，我们讨论了两个方向，即隐私保护图生成和联邦图学习，这可以共同实现每个拥有私有图数据的多方之间的协作。对于每一个方向，我们都确定了“速赢”和“难题”。最后，我们展示了一个用户界面，可以促进模型的解释，解释和可视化。我们相信，在这些方向上开发的技术将大大提高国土安全企业应对和减轻各种安全风险的能力。
2022-06-30 cs.CR cs.LG
Linkage on Security, Privacy and Fairness in Federated Learning: New Balances and New Perspectives
City University of Macau（澳门城市大学）；University of Technology Sydney（悉尼科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本综述梳理联邦学习中隐私、安全与公平问题，分析三者间复杂关联与权衡，并指出公平性可作为连接隐私与安全的桥梁及未来研究方向。
2024-06-16 cs.CR cs.DC cs.LG
Federated Learning in Healthcare: Model Misconducts, Security, Challenges, Applications, and Future Research Directions -- A Systematic Review
Islamic University（伊斯兰大学）；University of Oklahoma（俄克拉荷马大学）；Government College of Applied Human Science（应用人文科学政府学院）；IIIT Delhi（德里印度信息技术学院）
本系统综述评估了联邦学习在医疗保健中的应用，分析了模型安全实践、挑战及应用，并指出了提升数据隐私和扩展应用范围的未来研究方向。
2024-05-22 cs.AI cs.CR cs.LG
BlindFL: Vertical Federated Machine Learning without Peeking into Your Data
Peking University（北京大学）；Tencent Inc.（腾讯公司）
由于对隐私保护的日益关注，如何在不同数据源上构建具有安全保证的机器学习（ML）模型越来越受欢迎。垂直联邦学习（VFL）描述了这样一种情况，即ML模型建立在不同参与方的私有数据之上，这些参与方拥有相同实例集的不相交特征，这适合许多现实世界的协作任务。然而，我们发现现有的VFL解决方案要么支持有限的输入功能，要么在联邦执行过程中遭受潜在的数据泄漏。为此，本文旨在研究VFL场景中ML模式的功能和安全性。具体来说，我们介绍了BlindFL，一个新的VFL训练和推理框架。首先，为了解决VFL模型的功能，我们提出了联合源层来统一来自不同方的数据。联合源层可以有效地支持各种特性，包括密集、稀疏、数值和分类特性。其次，我们仔细分析了联邦执行过程中的安全性，并形式化了隐私需求。在分析的基础上，我们设计了安全和准确的算法协议，并进一步证明了理想-真实仿真范式下的安全保证。大量的实验表明，BlindFL有效地支持不同的数据集和模型，同时实现了强大的隐私保证。
2022-06-16 cs.CR cs.LG
Enabling Quartile-based Estimated-Mean Gradient Aggregation As Baseline for Federated Image Classifications
University of Miami（迈阿密大学）
本文提出估计均值聚合（EMA）方法，通过四分位数截尾均值处理恶意离群点并应对数据异质性，为联邦学习聚合技术提供兼具安全性与适应性的稳健基线。
2023-09-21 cs.AI cs.CR cs.LG
Reliability and Performance Assessment of Federated Learning on Clinical Benchmark Data
Sungkyunkwan University（成均馆大学）；Samsung Medical Center（三星医疗中心）
随着深度学习在临床环境中的应用，由于大量个人数据的收集和处理，隐私问题有所增加。最近，有人建议使用联邦学习（FL）来保护个人隐私，因为它在训练阶段不会集中数据。在这项研究中，我们评估了FL的可靠性和性能的基准数据集，包括MNIST和MIMIC-III。此外，我们试图在模拟现实临床数据分布的数据集上验证FL。我们实现了使用客户端和服务器架构的FL，并在修改后的MNIST和MIMIC-III数据集上测试了客户端和服务器FL。FL在不平衡和极度偏斜的分布上都提供了可靠的性能（即，每个医院的患者数量和患者特征的差异）。因此，FL适用于医疗数据的隐私保护。
2020-05-24 cs.CR cs.LG
Byzantine-Robust Federated Learning via Credibility Assessment on Non-IID Data
Key Laboratory of Embedded System and Service Computing (Tongji University), Ministry of Education（嵌入式系统与服务计算教育部重点实验室（同济大学））
联邦学习是一种新的框架，它使资源受限的边缘设备能够联合学习模型，解决了数据保护和数据孤岛问题。然而，标准的联邦学习容易受到拜占庭攻击，这将导致全局模型被攻击者操纵或无法收敛。在非iid数据上，当前的方法不能有效地防御拜占庭攻击。在本文中，我们提出了一个拜占庭健壮的框架联邦学习通过可信性评估非iid数据（BRCA）。可信性评估是通过自适应异常检测模型和数据验证相结合来检测拜占庭攻击。特别地，在异常检测模型中引入了自适应机制，用于模型的训练和预测。同时，给出了统一的更新算法，保证全局模型具有一致的方向。在非iid数据上，我们的实验表明，与传统方法相比，BRCA对拜占庭攻击具有更好的鲁棒性
2021-09-06 cs.DC cs.LG
Hijack Vertical Federated Learning Models As One Party
College of Computer Science and Technology at Zhejiang University（浙江大学计算机科学与技术学院）；School of Software Technology at Zhejiang University（浙江大学软件学院）；Hefei Interdisciplinary Center, National University of Defense Technology（国防科技大学合肥跨学科中心）；College of Information Science and Technology at Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）
本文聚焦纵向联邦学习（VFL）场景，指出尽管现有框架依赖密码学保障隐私并推动效率优化，但作为参与一方时模型本身的安全性仍缺乏研究。
2024-02-16 cs.AI cs.CR cs.LG
Enhanced Security and Privacy via Fragmented Federated Learning
UNESCO Chair in Data Privacy（联合国教科文组织数据隐私教席）；CYBERCAT Center for Cybersecurity Research of Catalonia（加泰罗尼亚网络安全研究中心（CYBERCAT））；Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
在联邦学习（FL）中，一组参与者与聚合器服务器共享在其本地数据上计算的更新，该聚合器服务器将更新组合到全局模型中。然而，调和准确性与隐私和安全性是一个挑战，FL。一方面，诚实的参与者发送的好的更新可能会泄露他们的私人本地信息，而恶意参与者发送的有毒更新可能会损害模型的可用性和/或完整性。另一方面，通过更新失真来增强隐私会损害准确性，而通过更新聚合来增强隐私会损害安全性，因为它不允许服务器过滤掉个别有毒更新。为了解决准确性-隐私性-安全性的冲突，我们提出了{ \em分段联邦学习}（FFL），其中参与者在将其更新发送到服务器之前随机交换和混合其更新的片段。为了实现隐私，我们设计了一个轻量级的协议，允许参与者私下交换和混合他们的更新的加密片段，使服务器既不能获得个人更新，也不能将它们链接到他们的发起人。为了实现安全性，我们设计了一个基于声誉的防御为FFL量身定制，建立信任的参与者和他们的混合更新的基础上，他们交换的片段的质量和他们发送的混合更新。由于交换的片段的参数保持其原始坐标并且攻击者可以被中和，因此服务器可以从接收到的混合更新正确地重建全局模型而不会损失准确性。在4个真实数据集上的实验表明，FFL能有效地防止半诚实服务器发起隐私攻击，并能有效地对抗投毒攻击，保持全局模型的准确性。
2022-11-19 cs.CR cs.LG
Enhancing IoT Security Against DDoS Attacks through Federated Learning
Carleton University（卡尔顿大学）；Institute of Science and High Technology and Environmental Science（科学与高技术及环境科学研究所）
针对物联网DDoS攻击，提出基于联邦学习的检测框架，利用深度自编码器降维与重训练、部分选择技术，在非IID数据集N-BaIoT上验证FedAvgM优于FedAvg，实现隐私保护下的高效攻击检测。
2024-03-16 cs.AI cs.CR cs.LG
An Intelligent Native Network Slicing Security Architecture Empowered by Federated Learning
Federal University of Viçosa (UFV)（维索萨联邦大学）；Federal University of Espírito Santo (UFES)（圣埃斯皮里图联邦大学）；Salvador University (UNIFACS)（萨尔瓦多大学）；Federal University of Ceará (UFC)（塞阿拉联邦大学）；University of São Paulo (USP)（圣保罗大学）；University of Minho (UMinho)（米尼奥大学）
针对现有网络切片架构缺乏内在智能安全能力的问题，提出安全原生架构，将基于机器学习的智能微服务作为联邦智能体部署，利用非侵入式遥测检测攻击，取得了优异的准确率，为网络切片安全提供了新方向。
2024-10-04 cs.AI cs.CR cs.ET
Towards Robust Personalized Federated Learning: Vulnerability Assessment and Defense Co-Design
East China Normal University（华东师范大学）
本文发现个性化联邦学习（PFL）方法比集中学习更易受基于迁移的对抗攻击，并通过理论分析和实验验证，提出结合随机输入噪声、输入缩放迹正则化和参数灵敏度最大化的防御框架。
2026-06-23 cs.CR cs.LG
Balancing Security and Accuracy: A Novel Federated Learning Approach for Cyberattack Detection in Blockchain Networks
University of Canberra（堪培拉大学）；School of Electrical and Data Engineering, University of Technology Sydney（悉尼科技大学电气与数据工程学院）
针对区块链数据共享网络，提出基于差分隐私噪声的联邦学习 CCD 系统，比较多种噪声机制对检测精度、收敛与运行时间的影响并给出隐私-效率平衡建议。
2024-09-08 cs.CR cs.LG
Recent Advances in Federated Learning Driven Large Language Models: A Survey on Architecture, Performance, and Security
Big Data Mining and Analytics（大数据挖掘与分析）
本文综述了联邦学习驱动的大语言模型在架构、性能优化与安全方面的最新进展，重点分析机器遗忘方法及其效率、隐私和效用权衡，并指出面向实际部署的关键研究方向。
2025-05-09 cs.AI cs.CL cs.LG
Research on Key Technologies for Cross-Cloud Federated Training of Large Language Models
University of Houston（休斯顿大学）；University of Iowa（爱荷华大学）；University of California San Diego（加州大学圣地亚哥分校）；Duke University（杜克大学）
本研究提出大语言模型跨云联邦训练技术框架，通过数据划分、通信优化、模型聚合及差分隐私等关键技术，有效解决了单云资源瓶颈，提升了训练效率与数据安全并降低成本。
2024-12-23 cs.AI cs.CR cs.LG
Enhancing Quantum Security over Federated Learning via Post-Quantum Cryptography
The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；The University of Pittsburgh（匹兹堡大学）
本研究针对联邦学习在大规模量子计算时代的量子安全性问题，实证评估了三种NIST标准化后量子密码学算法在FL数字签名中的影响，发现Dilithium是最为高效的PQC数字签名算法。
2024-09-06 cs.AI cs.CR cs.LG
CoAst: Validation-Free Contribution Assessment for Federated Learning based on Cross-Round Valuation
Nanjing University（南京大学）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出免验证联邦学习贡献评估方法 CoAst，通过权重量化和跨轮参数相似性估值，在不依赖验证数据的情况下实现与基于验证方法相当、优于现有免验证方法的评估可靠性。
2024-09-04 cs.AI cs.LG
Preserving Privacy and Security in Federated Learning
University of Florida（佛罗里达大学）
本研究提出一个原则性框架，通过同态加密安全聚合协议和零知识证明协议，在联邦学习中同时实现用户隐私保护和投毒攻击检测。
2023-08-29 cs.CR cs.LG
A New Implementation of Federated Learning for Privacy and Security Enhancement
Utah State University（犹他州立大学）；University of Wisconsin-Whitewater（威斯康星大学怀特沃特分校）；University of Nebraska–Lincoln（内布拉斯加大学林肯分校）
受个人数据隐私日益受到关注以及本地客户数据量快速增长的推动，联邦学习（FL）已成为一种新的机器学习环境。FL系统由中央参数服务器和多个本地客户端组成。它将数据保存在本地客户端，并通过共享本地学习的模型参数来学习集中式模型。无需共享本地数据，隐私可以得到很好的保护。然而，由于共享的是模型而不是原始数据，因此系统可能会受到恶意客户端发起的中毒模型攻击。此外，由于服务器上没有可用的本地客户端数据，因此识别恶意客户端具有挑战性。此外，仍然可以通过使用上传的模型来估计客户端的本地数据来执行成员推断攻击，从而导致隐私泄露。在这项工作中，我们首先提出了一个基于模型更新的联邦平均算法，以抵御拜占庭攻击，如加性噪声攻击和符号翻转攻击。提出了个体客户端模型初始化方法，通过隐藏个体本地机器学习模型，进一步隐私保护免受成员推断攻击。当结合这两种方案时，可以有效地增强隐私和安全性。实验证明，所提出的方案收敛于非IID数据分布时，没有攻击。在Byzantine攻击下，该方案的性能优于经典的基于模型的FedAvg算法.
2022-08-03 cs.CR cs.LG
Enhancing Security in Federated Learning through Adaptive Consensus-Based Model Update Validation
Oregon State University（俄勒冈州立大学）
本研究针对联邦学习中的标签翻转攻击问题，提出结合自适应阈值的简化共识验证方法，经CIFAR-10与MNIST数据集实验验证可有效提升系统安全性，在安全与效率、隐私间实现了最优平衡。
2024-03-05 cs.AI cs.CR cs.DC
Enabling SQL-based Training Data Debugging for Federated Learning
Simon Fraser University（西蒙菲莎大学）；Columbia University（哥伦比亚大学）
当我们看到逻辑回归模型的行为出乎意料时，我们如何在联邦学习设置中调试该模型（例如，该模型拒绝所有高收入客户的贷款申请）？基于SQL的训练数据调试框架已被证明可以有效地修复非联邦学习设置中的此类问题。给定模型预测上的意外查询结果，该框架自动从训练数据中移除标签错误，使得意外行为在重新训练的模型中消失。在本文中，我们启用了这个强大的联邦学习框架。关键的挑战是如何开发一个安全协议，联邦调试，这是被证明是安全的，有效的，准确的。实现这一目标需要我们研究如何无缝集成来自多个领域（数据库，机器学习和网络安全）的技术。我们首先提出FedRain，它将Rain（最先进的基于SQL的训练数据调试框架）扩展到我们的联邦学习设置。我们解决了几个技术挑战，使FedRain的工作，并分析其安全保证和时间复杂度。分析结果表明，FedRain在效率和安全性方面都存在不足。为了克服这些限制，我们重新设计了我们的安全协议，并提出了青蛙，一种新的基于SQL的训练数据调试框架量身定制的联邦学习。我们的理论分析表明，Frog比FedRain更安全，更准确，更高效。我们使用几个真实世界的数据集和案例研究进行了广泛的实验。实验结果与理论分析一致，验证了Frog算法在实际应用中的有效性。
2021-08-26 cs.CR cs.DB cs.LG
A Novel Federated Learning-Based IDS for Enhancing UAVs Privacy and Security
Department of Computer Science, University of York（计算机科学系，约克大学）；WISE Lab., Dept. of Computer Engineering, Hacettepe University（WISE实验室，计算机工程系，哈切塔佩大学）
本文提出了一种基于联邦学习的入侵检测系统FL-IDS，通过去中心化协作训练保护无人机网络数据隐私，降低计算存储成本，并结合BTSC方法在低攻击比例下提升性能，为UAV网络提供了隐私感知的安全方案。
2025-06-26 cs.CR cs.LG
Vertical Federated Learning for Effectiveness, Security, Applicability: A Survey
The National Engineering Research Center for Multimedia Software（国家多媒体软件工程技术研究中心）；School of Computer Science, Wuhan University（武汉大学计算机学院）；United Institute of Informatics Problems of Belarus National Academy of Sciences（白俄罗斯国家科学院信息问题联合研究所）；National Academy of Sciences of Belarus（白俄罗斯国家科学院）；Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机系）
本综述系统梳理了纵向联邦学习（VFL）的最新进展，从有效性、安全性和适用性三个视角综合评述现有研究，并指出了未来的关键研究方向。
2024-06-04 cs.CR cs.LG
DBFed: Debiasing Federated Learning Framework based on Domain-Independent
Dalian University of Technology（大连理工大学）；Fudan University（复旦大学）
针对联邦学习中跨主体数据偏差导致的模型歧视问题，本文提出 DBFed 框架，在客户端训练时显式编码敏感属性，并在三个真实数据集上验证其准确率与公平性优势。
2023-07-10 cs.AI cs.CY cs.DC
Poisoning Attacks and Defenses in Federated Learning: A Survey
Deakin University（迪肯大学）
联邦学习（FL）能够在分布式客户端之间训练模型，而不会损害训练数据集的隐私，但客户端数据集和训练过程的不可见性会带来各种安全威胁。本调查提供了中毒攻击的分类和实验评估，以讨论健壮的FL的必要性。
2023-01-14 cs.CR cs.LG
Security-Preserving Federated Learning via Byzantine-Sensitive Triplet Distance
KAIST（韩国科学技术院）；King’s College London（伦敦国王学院）
虽然联邦学习（FL）是跨多个边缘设备学习共享模型的有效框架，但它通常容易受到来自敌对边缘设备的拜占庭攻击。虽然FL上的现有工作通过仅在服务器端聚合本地模型的子集来减轻此类受损设备，但由于不精确的评分规则，它们仍然无法成功地忽略离群值。在本文中，我们提出了一个有效的拜占庭鲁棒FL框架，即虚拟对比聚合，通过定义一个新的评分函数，灵敏地区分模型是否中毒或没有。关键思想是从每个局部模型以及先前的全局模型中提取必要的信息，以类似于三重丢失的方式定义距离度量。数值结果验证了所提出的方法的优点，通过显示与最先进的拜占庭弹性聚合方法相比的改进性能，例如，克鲁姆，小意思，还有牙牙。
2022-10-29 cs.LG
Secure Communication Model For Quantum Federated Learning: A Post Quantum Cryptography (PQC) Framework
School of Information Technology（信息技术学院）；Deakin University（迪肯大学）
针对量子联邦学习的安全通信问题，提出融合后量子密码学与动态服务器选择的PQC-QFL框架，并分析其收敛性与安全条件，代码及结果已公开。
2023-04-26 cs.CR cs.LG
SGDE: Secure Generative Data Exchange for Cross-Silo Federated Learning
Politecnico di Milano（米兰理工大学）
GDPR等隐私监管法律将透明度和安全性作为数据处理算法的设计支柱。在这种背景下，联邦学习是隐私保护分布式机器学习最有影响力的框架之一，在许多自然语言处理和计算机视觉任务中取得了惊人的成果。一些联邦学习框架采用差分隐私来防止私有数据泄露给未经授权的方和恶意攻击者。然而，许多研究强调了标准联邦学习在中毒和推断方面的脆弱性，从而引发了对敏感数据潜在风险的担忧。为了解决这个问题，我们提出了SGDE，一个生成的数据交换协议，提高用户的安全性和机器学习性能的跨筒仓联邦。SGDE的核心是共享具有强差分隐私保证的数据生成器，这些数据生成器是在私有数据上训练的，而不是传递显式的梯度信息。这些生成器合成任意大量的数据，这些数据保留了私有样本的独特特征，但差异很大。在这项工作中，SGDE在图像和表格数据集上的跨筒仓联邦网络中进行测试，利用beta-变分自编码器作为数据生成器。从结果来看，SGDE的加入提高了任务的准确性和公平性，以及对联邦学习最有影响力的攻击的弹性。
2022-09-07 cs.AI cs.CR cs.DC
Mitigating Communications Threats in Decentralized Federated Learning through Moving Target Defense
University of Murcia（穆尔西亚大学）；Armasuisse Science and Technology（瑞士军备科学技术局）；University of Zurich（苏黎世大学）
本文针对去中心化联邦学习的通信安全问题，提出融合加密与移动目标防御的安全模块，并在 Fedstellar 中验证其可缓解窃听和日食攻击。
2023-12-09 cs.AI cs.CR cs.DC
Security and Privacy of 6G Federated Learning-enabled Dynamic Spectrum Sharing
Swinburne University of Technology（斯威本科技大学）；Monash University（莫纳什大学）；Data61, CSIRO（联邦科学与工业研究组织Data61研究院）；University of Melbourne（墨尔本大学）
本文针对6G联邦学习赋能的动态频谱共享场景中协作训练完整性与用户频谱隐私未被充分探究的问题，梳理相关研究进展，识别AI驱动的安全隐私攻击向量，并提出未来防御研究方向与指导原则。
2024-06-18 cs.CR cs.DC cs.ET
A Blockchain-based Decentralized Federated Learning Framework with Committee Consensus
Sun Yat-sen University（中山大学）；WeBank Co. Ltd.（微众银行股份有限公司）
联邦学习已被广泛研究并应用于各种场景。在移动计算场景中，联邦学习保护用户不暴露他们的私人数据，同时为各种真实世界的应用程序合作训练全局模型。然而，由于恶意客户端或中心服务器不断攻击全局模型或用户隐私数据，联邦学习的安全性越来越受到质疑。为了解决这些安全问题，我们提出了一种基于区块链的去中心化联邦学习框架，即，基于区块链的联邦学习框架与委员会共识（BFLC）。该框架使用区块链进行全局模型存储和本地模型更新交换。为了使拟议的BFLC，我们还设计了一个创新的委员会共识机制，它可以有效地减少共识计算量，减少恶意攻击。然后，我们讨论了BFLC的可扩展性，包括理论安全性、存储优化和激励措施。最后，我们使用真实世界的数据集进行实验，以验证BFLC框架的有效性。
2020-04-02 cs.DC cs.LG
A Federated Multi-View Deep Learning Framework for Privacy-Preserving Recommendations
Tencent Inc（腾讯公司）；Cornell University（康奈尔大学）
隐私保护推荐最近获得了发展势头，因为分散的用户数据越来越难以被推荐服务提供商收集，由于对用户隐私和数据安全的严重关注。严格的政府法规，如欧洲的通用数据隐私条例（GDPR），进一步加剧了这种情况。联邦学习（FL）是一种新开发的隐私保护机器学习范式，用于在不损害数据安全和隐私的情况下桥接数据存储库。因此，人们提出了许多联邦推荐（FedRec）算法来实现个性化的隐私保护推荐。然而，现有的FedRec算法大多是从传统的协同过滤（CF）方法扩展而来，不能很好地解决冷启动问题。此外，它们的性能开销w.r.t.与集中式推荐相比，在联合设置中训练的模型准确性通常是不可忽略的。本文研究了这个问题，并提出了FL-MV-DSSM，一个通用的基于内容的联邦多视图推荐框架，不仅解决了冷启动问题，但也显着提高推荐性能，通过学习联邦模型从多个数据源捕获更丰富的用户级功能。FL-MV-DSSM提出的新的联合多视图设置打开了新的使用模型，并在推荐场景中为FL带来了新的安全挑战。我们证明了\xxx的安全性保证，并在FL-MV-DSSM及其变化与公共数据集的实证评估证明了其有效性。如果这篇论文被接受，我们的代码将被发布。
2020-08-25 cs.AI cs.IR
No Free Lunch Theorem for Security and Utility in Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；Webank（微众银行）
在联邦学习场景中，多方从各自的数据中联合学习模型，对于选择合适的算法存在两个相互冲突的目标。一方面，在\textit{semi-honest}合作伙伴在场的情况下，私人和敏感的训练数据必须尽可能地保持安全，而另一方面，为了学习效用，必须在不同方之间交换一定量的信息。这样的挑战需要隐私保护的联邦学习解决方案，它最大限度地提高了学习模型的效用，并保持了参与方的私人数据的可证明的隐私保证。本文阐述了一个一般框架，a）从统一的信息论角度阐述了隐私损失和效用损失之间的权衡，b）描绘了使用不同保护机制（包括随机化、稀疏性和同态加密）时隐私-效用权衡的定量界限。结果表明，在一般情况下，\textit{there is no free lunch for the privacy-utility trade-off}和一个交易的隐私保护与一定程度的降级效用。本文的定量分析对设计实用的联邦学习算法具有指导意义。
2022-09-05 cs.LG
LoByITFL: Low Communication Secure and Private Federated Learning
School of Computation, Information and Technology（计算、信息与技术学院）
针对联邦学习中数据隐私与拜占庭安全难兼顾且现有方案牺牲隐私的问题，提出通信高效的LoByITFL方案，借助小型数据集、改进FLTrust和初始化阶段一次性可信第三方，实现信息论隐私与安全，兼具理论保证与收敛性实验验证。
2025-06-12 cs.CR cs.DC cs.IT
Federated Knowledge Recycling: Privacy-Preserving Synthetic Data Sharing
Politecnico di Milano（米兰理工大学）
本文提出FedKR方法，通过本地合成数据和动态聚合实现隐私保护的跨孤岛联邦学习，显著减少攻击面并在数据稀缺场景下提升4.24%准确率。
2024-07-30 cs.AI cs.CV cs.LG
From Distributed Machine Learning to Federated Learning: A Survey
Baidu Inc.（百度公司）；Auburn University（奥本大学）；University of Oregon（俄勒冈大学）
近年来，数据和计算资源通常分布在终端用户、各个区域或组织的设备中。由于法律或法规的限制，分布式数据和计算资源不能在不同地区或组织之间直接共享，以执行机器学习任务。联邦学习是一种利用分布式数据和计算资源的有效方法，可以协同训练机器学习模型，同时遵守法律法规，确保数据安全和数据隐私。在本文中，我们提供了一个全面的调查现有的工作联邦学习。我们提出了一个功能架构的联邦学习系统和相关技术的分类。此外，我们提出了分布式训练，数据通信，FL系统的安全性。最后，我们分析了它们的局限性，并提出了未来的研究方向。
2022-03-25 cs.AI cs.DC cs.LG
Trans-XFed: An Explainable Federated Learning for Supply Chain Credit Assessment
Department of Information and Computing Sciences, Utrecht University（信息与计算科学系，乌得勒支大学）
本文提出 Trans-XFed 架构，将联邦学习与可解释人工智能结合用于供应链信用评估，通过基于性能的客户端选择策略、同态加密 FedProx 和 transformer 编码器解决隐私、类别不平衡、Non-IID 及可解释性问题，并在真实数据集上验证了其准确性与透明性。
2025-08-19 cs.DC cs.LG
Warmup and Transfer Knowledge-Based Federated Learning Approach for IoT Continuous Authentication
École de Technologie Supérieure (ÉTS)（高等技术学院（ÉTS））；Universite de Quebec a Trois-Rivieres (UQTR)（魁北克大学三河分校（UQTR））；Lebanese American University（黎巴嫩美国大学）；New York University（纽约大学）；Mohammad Bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
连续行为身份验证方法通过允许个人在访问设备时验证其唯一身份来添加独特的安全层。通过在与移动或物联网（IoT）设备交互时监控用户的行为，保持会话真实性现在是可行的，从而使凭据盗窃和会话劫持无效。这种技术通过集成人工智能和机器学习（ML）的力量而成为可能。大多数文献都集中在通过将用户数据传输到外部服务器来训练用户的机器学习，这会使私人用户数据暴露于威胁。在本文中，我们提出了一种新的联邦学习（FL）的方法，保护匿名的用户数据和维护他的数据的安全性。我们提出了一个热身的方法，提供了一个显着的准确性增加。此外，我们利用基于特征提取的迁移学习技术来提高模型的性能。我们基于四个数据集：MNIST，FEMNIST，CIFAR-10和UMDAA-02-FD进行了广泛的实验，结果显示用户身份验证的准确性显著提高，同时维护了用户隐私和数据安全。
2022-11-10 cs.AI cs.CR cs.DC
Federated Learning-based MARL for Strengthening Physical-Layer Security in B5G Networks
Department of Computer and Software Engineering, Polytechnique Montreal（计算机与软件工程系，蒙特利尔理工学院）；Department of Electrical and Computer Engineering, Concordia University（电气与计算机工程系，康科迪亚大学）
本文提出基于联邦学习的多智能体强化学习策略，通过DQN与RDPG算法增强B5G多蜂窝网络物理层安全，实验表明RDPG收敛更快且优于分布式方法，并揭示了安全与复杂性的权衡。
2025-07-09 cs.ET cs.LG cs.NI
Flotta: a Secure and Flexible Spark-inspired Federated Learning Framework
IDSIA (USI-SUPSI)（IDSIA（瑞士意大利语区大学与瑞士应用科学大学卢加诺分校联合机构））
本文提出Flotta联邦学习框架，受Apache Spark启发，旨在保障多方联盟敏感数据安全，支持仅使用内部机器进行模型训练，兼具安全、灵活与易用性。
2024-09-20 cs.LG
On the (In)security of Peer-to-Peer Decentralized Machine Learning
SPRING Lab（SPRING实验室）；EPFL（洛桑联邦理工学院）
本文首次深入分析去中心化学习的隐私性，提出新型攻击，证明其安全性不优于联邦学习，且增加攻击面，隐私保护配置需全连接网络，丧失实际优势。
2023-11-10 cs.CR cs.LG
Reputation-Driven Asynchronous Federated Learning for Enhanced Trajectory Prediction with Blockchain
Heilongjiang University（黑龙江大学）；Shanghai Univ（上海大学）；Shanghai Artificial Intelligence Lab（上海人工智能实验室）
本文提出基于可解释声誉量化机制的异步联邦学习数据共享方法，利用图神经网络和深度强化学习优化车辆声誉分类与聚合效率，增强轨迹预测的安全性与精度。
2024-07-28 cs.CR cs.CV cs.LG
Reputation-Based Federated Learning Defense to Mitigate Threats in EEG Signal Classification
Deakin University（迪肯大学）；Khalifa University（哈利法大学）
本文提出基于声誉的联邦学习防御框架，通过协作训练保护隐私并识别受损参与者，有效减轻EEG信号分类中的数据投毒攻击威胁。
2023-10-22 cs.CR cs.LG eess.SP
IPMN Risk Assessment under Federated Learning Paradigm
Northwestern University（西北大学）；Istanbul University（伊斯坦布尔大学）；University of Catania（卡塔尼亚大学）；Erasmus Medical Center（伊拉斯姆斯医学中心）；University of Wisconsin（威斯康星大学）；Mayo Clinic（梅奥诊所）；New York University（纽约大学）；NVIDIA（英伟达公司）
本研究提出联邦学习框架，利用多中心胰腺MRI大数据集进行IPMN分类，在保护数据隐私的同时达到与集中式学习相当的高准确率。
2025-01-22 cs.DC cs.LG eess.IV
Toward Smart Security Enhancement of Federated Learning Networks
University of Electronic Science and Technology of China（电子科技大学）；PHENIKAA University（PHENIKAA大学）；Nanyang Technological University（南洋理工大学）
由于传统的集中式学习网络（CLN）在隐私保护、通信开销和可扩展性方面面临越来越多的挑战，联邦学习网络（FLN）已被提出作为支持机器学习（ML）模型训练的有前途的替代范例。与CLN中的集中式数据存储和处理相反，FLN利用许多边缘设备（ED）来分布式地存储数据和执行训练。通过这种方式，FLN中的ED可以在本地保存训练数据，这保护了隐私并减少了通信开销。然而，由于FLN内的模型训练依赖于所有ED的贡献，如果一些ED上传不正确或伪造的训练结果，即，中毒攻击在本文中，我们回顾了FLN的脆弱性，特别是中毒攻击和主流对策的概述。然而，现时的对策只能提供被动的保障，并没有考虑到教育署署长的贡献所支付的培训费用，导致培训成本不必要地偏高。因此，我们提出了一个智能安全增强框架FLN。特别是，一个验证前聚集（验证）的程序被开发来识别和删除非良性的训练结果从ED。然后，应用深度强化学习（Deep Reinforcement Learning，DRL）学习ED的行为模式，主动选择训练效果好、训练费用低的ED。仿真结果表明，该框架可以有效地保护FLN。
2020-08-19 cs.CR cs.LG cs.NI
FPGA-Based Hardware Accelerator of Homomorphic Encryption for Efficient Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；Clustar（星辰天合）；Peng Cheng Lab（鹏城实验室）
随着人们对隐私保护和数据碎片问题的日益关注，联邦学习已经成为机器学习的一种新范式。联邦学习倾向于利用各种隐私保护机制来保护传输的中间数据，其中同态加密在安全性和易用性之间取得了平衡。然而，复杂的操作和大的操作数给联邦学习带来了巨大的开销。更有效地保持准确性和安全性一直是联邦学习的关键问题。在这项工作中，我们研究了一种硬件解决方案，并设计了一个基于FPGA的同态加密框架，旨在加速联邦学习的训练阶段。其根本复杂性在于寻找一种紧凑的同态加密核心运算架构，以满足联邦学习对加密吞吐量高和配置灵活的要求。我们的框架实现了具有代表性的Paillier同态密码系统，具有高层次的综合灵活性和可移植性，在处理时钟周期，资源使用和时钟频率方面对模乘运算进行了仔细的优化。我们的加速器实现了接近最佳的执行时钟周期，具有比现有设计更好的DSP效率，并在各种联邦学习模型的训练过程中将加密时间减少了71%。
2020-07-21 cs.CR cs.DC cs.LG
GFL: A Decentralized Federated Learning Framework Based On Blockchain
Polytechnic Institute, Zhejiang University（浙江大学理工学院）；School of Software Technology, Zhejiang University（浙江大学软件学院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；School of Public Affairs, Zhejiang University（浙江大学公共管理学院）
联邦学习（FL）是一个快速发展的领域，已经提出了许多集中式和分散式的FL框架。然而，如何提高FL框架的通信性能，保持FL框架在恶意节点攻击下的安全性和鲁棒性，是当前FL框架面临的一大挑战。在本文中，我们提出了银河联邦学习框架（GFL），一个基于区块链的去中心化FL框架。GFL引入了一致性哈希算法来提高通信性能，并提出了一种新的环形分散FL算法（RDFL）来提高分散FL的性能和带宽利用率。此外，GFL引入星际文件系统（IPFS）和区块链，进一步提升通信效率和FL安全性。实验结果表明，GFL在恶意节点和非独立同分布（Non-IID）数据集的数据投毒下，提高了通信性能和分散FL性能.
2021-04-13 cs.CR cs.DC cs.LG
Uncertainty-Aware Federated Learning for Infant Movement Analysis
University of Glasgow（格拉斯哥大学）
针对婴儿运动分析中集中式训练的数据隐私问题，提出首个联邦学习框架，并引入不确定性感知的联邦平均策略，在不集中数据下达到接近集中式训练的性能。
2026-09-28 cs.AI cs.CV cs.LG
A Thorough Assessment of the Non-IID Data Impact in Federated Learning
Sapienza University of Rome（罗马萨皮恩扎大学）
本文通过Hellinger Distance全面评估联邦学习中非独立同分布数据的影响，基准测试四种处理策略，首次分析时空偏斜效应，发现标签与时空偏斜对模型性能影响显著，为解决数据异构性提供了坚实基础。
2025-07-16 cs.AI cs.LG stat.ML
Secure and Privacy-Preserving Federated Learning via Co-Utility
UNESCO Chair in Data Privacy（联合国教科文组织数据隐私教席）；CYBERCAT-Center for Cybersecurity Research of Catalonia（CYBERCAT-加泰罗尼亚网络安全研究中心）；Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
联邦学习的分散性通常利用边缘设备的力量，使其容易受到隐私和安全攻击。对等体的隐私风险在于，她在其私有数据上计算的模型更新在发送到模型管理器时可能会泄漏这些私有数据上的信息。更明显的是安全攻击，其中一个或多个恶意对等点返回错误的模型更新，以破坏学习过程并导致学习错误的模型。在本文中，我们建立了一个联邦学习框架，提供隐私的参与同行以及对拜占庭和中毒攻击的安全性。我们的框架由几个协议，提供强大的隐私参与同行通过unabsolutely匿名和合理的可持续的基础上的共同效用属性。换句话说，没有理性的一方有兴趣偏离拟议的协议。我们利用共同效用的概念来构建一个分散的共同效用声誉管理系统，为各方遵守协议提供激励。与通过差分隐私的隐私保护不同，我们的方法保留了模型更新的值，因此保留了普通联邦学习的准确性;与通过更新聚合的隐私保护不同，我们的方法保留了检测坏模型更新的能力，同时与基于同态加密的方法相比，大大减少了计算开销。
2021-08-04 cs.CR cs.DC cs.GT
Clustering Algorithm to Detect Adversaries in Federated Learning
National Institute of Technology Kurukshetra（国立库鲁克舍特拉理工学院）
近年来，联邦机器学习在为物联网设备构建智能入侵检测系统方面非常有用。由于物联网设备配备了容易受到各种攻击的安全架构，因此这些安全漏洞可能会在去中心化物联网设备的联合训练过程中带来风险。攻击者可以控制这些物联网设备，并注入虚假梯度来降低全局模型的性能。在本文中，我们提出了一种方法，检测的帮助下的聚类算法的对手。聚类后，它进一步奖励客户端检测诚实和恶意客户端。我们提出的梯度过滤方法不需要客户端的任何处理能力，也不使用过多的带宽，这使得它对于物联网设备非常可行。此外，我们的方法在提高全局模型准确性方面非常成功，即使在存在40%对手的情况下也高达99%。
2021-02-22 cs.LG
