Buffered Asynchronous Secure Aggregation for Cross-Device Federated Learning
National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）
本文提出缓冲异步安全聚合协议BASA，使异步联邦学习在无需用户间同步交互和额外硬件条件下实现安全聚合，并在训练效率和可扩展性上优于现有协议。
2024-06-05 cs.AI cs.CR cs.LG
Secure Aggregation for Privacy-Preserving Federated Learning on Clinical EEG Data
University of South-Eastern Norway（东南挪威大学）
该研究针对临床EEG数据联邦学习的隐私泄露问题，提出以掩码安全聚合为核心的隐私保护框架，经模拟医疗场景验证，半诚实变体开销低，恶意变体安全性强但开销更高。
2026-09-09 cs.CR cs.DC cs.LG
Provably Secure Federated Learning against Malicious Clients
Duke University（杜克大学）
联邦学习使客户端能够协作学习共享的全局模型，而无需与云服务器共享其本地训练数据。然而，恶意客户端可以破坏全局模型，以预测用于测试示例的不正确标签。针对恶意客户端的现有防御利用拜占庭健壮的联邦学习方法。然而，这些方法不能证明地保证用于测试示例的预测标签不受恶意客户端的影响。我们通过集成联邦学习来弥合这一差距。特别是，给定任何基础联邦学习算法，我们使用该算法学习多个全局模型，每个模型都是使用随机选择的客户端子集学习的。在预测测试样本的标签时，我们在全局模型中进行多数投票。我们表明，我们的集成联邦学习与任何基础联邦学习算法是可证明的安全，对恶意客户端。具体来说，我们的集成全局模型预测的测试示例的标签是可证明不受恶意客户端的有限数量的影响。此外，我们证明了我们导出的界是紧的。我们在MNIST和人类活动识别数据集上评估了我们的方法。例如，当1,000个客户端中有20个是恶意客户端时，我们的方法可以在MNIST上实现88%的认证准确率。
2021-10-27 cs.CR cs.DC cs.LG
Byzantine-Resilient Secure Federated Learning
University of Southern California（南加州大学）；University of California, Riverside（加州大学河滨分校）
安全联邦学习是一种隐私保护框架，通过对移动用户收集的大量数据进行训练来改进机器学习模型。这是通过迭代过程实现的，在每次迭代中，用户使用其本地数据集更新全局模型。然后，每个用户通过随机密钥屏蔽其本地模型，并且在中央服务器处聚合屏蔽的模型以计算下一次迭代的全局模型。由于本地模型受到随机掩码的保护，服务器无法观察到它们的真实值。这对模型对抗敌对（拜占庭）用户的弹性提出了一个重大挑战，这些用户可以通过修改其本地模型或数据集来操纵全局模型。为了应对这一挑战，本文提出了第一个单服务器拜占庭弹性安全聚合框架（BREA）的安全联邦学习。BREA基于集成的随机量化，可验证的离群值检测和安全的模型聚合方法，以同时保证Byzantine弹性，隐私和收敛。我们提供了理论上的收敛和隐私保证，并在网络规模，用户辍学和隐私保护方面的基本权衡。我们的实验证明了拜占庭用户存在的收敛性，以及与传统联邦学习基准相当的准确性。
2021-02-20 cs.CR cs.DC cs.LG
Secure Communication Model For Quantum Federated Learning: A Post Quantum Cryptography (PQC) Framework
School of Information Technology（信息技术学院）；Deakin University（迪肯大学）
针对量子联邦学习的安全通信问题，提出融合后量子密码学与动态服务器选择的PQC-QFL框架，并分析其收敛性与安全条件，代码及结果已公开。
2023-04-26 cs.CR cs.LG
SecureAFL: Secure Asynchronous Federated Learning
University of Louisville（路易斯维尔大学）；Northeastern University（东北大学）；National University of Singapore（新加坡国立大学）；University of North Texas（北德克萨斯大学）
本文提出SecureAFL框架，通过检测并丢弃异常更新、估计缺失客户端贡献以及采用坐标中位数聚合技术，提升异步联邦学习的安全性与鲁棒性。
2026-04-04 cs.CR cs.DC cs.LG
Federated Learning with Autotuned Communication-Efficient Secure Aggregation
Google（谷歌）；California Institute of Technology（加州理工学院）
联邦学习使移动设备能够协作学习共享的推理模型，同时将所有训练数据保存在用户的设备上，从而将进行机器学习的能力与将数据存储在云中的需求解耦。现有的关于有限通信的联邦学习的工作演示了随机旋转如何使用户的模型更新能够更有效地量化，从而降低用户和服务器之间的通信成本。同时，安全聚合使服务器能够学习至少阈值数量的设备的模型贡献的聚合，而无需观察任何单独设备的非聚合形式的贡献。在本文中，我们强调了设置安全聚合参数以实现通信效率的一些挑战，特别是在随机旋转实现的积极量化输入的背景下。然后，我们开发了一个自动调整通信高效的安全聚合的配方，基于随机旋转和安全聚合的特定属性-即旋转后矢量条目的可预测分布和安全聚合中固有的模块化包装。我们提出的理论结果和初步实验。
2019-11-30 cs.CR cs.DC cs.LG
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont（佛蒙特大学）；MassMutual（万通互惠）；Raytheon（雷神公司）
联邦机器学习利用边缘计算从网络用户数据开发模型，但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题，但也带来了自己的挑战--许多技术需要可信的第三方，否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要，但计算成本高，特别是在规模上。我们提出了一个新的联邦学习协议，利用一种新的差分私有，恶意的安全聚合协议的基础上，从错误的学习技术。我们的协议优于当前最先进的技术，经验结果表明，它可以扩展到大量的缔约方，具有最佳的准确性，任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
Privacy of federated QR decomposition using additive secure multiparty computation
University of Southern Denmark（南丹麦大学）
联邦学习（FL）是一种隐私感知的数据采掘策略，它将私有数据保存在所有者的机器上，从而对其保密。客户端计算本地模型并将其发送到计算全局模型的聚合器。在混合FL中，使用安全聚合对本地参数进行额外屏蔽，使得仅全局聚合统计数据以明文形式可用，而不是客户端特定更新。联邦QR分解尚未在跨筒仓联邦学习的上下文中得到广泛研究。在这篇文章中，我们调查了三个QR分解算法的适用性跨筒仓FL，并提出了一个隐私感知QR分解方案的基础上，Gram-Schmidt算法，不公然泄漏原始数据。我们应用该算法以联邦方式计算线性回归。
2022-10-12 cs.CR cs.LG
SecureBoost+: Large Scale and High-Performance Vertical Federated Gradient Boosting Decision Tree
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
针对现有纵向联邦GBDT算法SecureBoost训练慢、难扩展的问题，提出具备半诚实安全性的SecureBoost+框架，通过密文运算、训练机制、多分类训练等优化，实现6-35倍提速且精度不变，可支撑千万级样本与千维特征规模。
2024-06-19 cs.AI cs.LG
Sparsified Secure Aggregation for Privacy-Preserving Federated Learning
University of California, Riverside（加州大学河滨分校）
安全聚合是隐私保护联邦学习中的一种流行协议，它允许模型聚合，而不会公开单个模型。另一方面，传统的安全聚合协议会产生显著的通信开销，这可能成为现实世界中带宽受限应用的主要瓶颈。为了解决这一挑战，在这项工作中，我们提出了一个轻量级的梯度稀疏化框架的安全聚合，其中服务器从大量的用户学习稀疏化的本地模型更新的聚合，但不学习个别参数。我们的理论分析表明，所提出的框架可以显着减少安全聚合的通信开销，同时确保相当的计算复杂性。我们进一步确定了由于稀疏化的隐私和通信效率之间的权衡。我们的实验表明，与传统的安全聚合基准相比，我们的框架将通信开销降低了7.8倍，同时还将挂钟训练时间加快了1.13倍。
2021-12-23 cs.CR cs.DC cs.IT
Secure Federated Submodel Learning
Shanghai Jiao Tong University（上海交通大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；Alibaba Group（阿里巴巴集团）
联邦学习的提出有一个有趣的愿景，即在众多客户端之间实现协作式机器学习，而无需将其私有数据上传到云服务器。然而，传统的框架要求每个客户端利用完整的模型进行学习，这对于资源受限的客户端和大规模深度学习任务来说可能是非常低效的。因此，我们提出了一个新的框架，称为联邦子模型学习，其中客户端只下载完整模型的所需部分，即子模型，然后上传子模型更新。然而，客户真正需要的子模型的“位置”对应于她的私有数据，并且在交互期间将其披露给云服务器不可避免地打破了联邦学习的宗旨。为了整合效率和隐私，我们设计了一个安全的联邦子模型学习计划，加上一个私有集联盟协议作为基石。我们的安全方案具有随机响应，安全聚合，和布隆过滤器的属性，并赋予每个客户端一个定制的似是而非的可否认性，在本地差分隐私，对她想要的子模型的位置，从而保护她的私人数据。我们进一步实例化我们的方案与电子商务推荐场景在阿里巴巴，实现了一个原型系统，并广泛评估其性能超过30天的淘宝用户数据。分析和评估结果从模型精度和收敛性、实际通信、计算和存储开销等方面证明了该方案的可行性和可扩展性，并显示了其相对于传统联邦学习框架的显著优势。
2019-11-11 cs.CR cs.DC cs.LG
Efficient Sparse Secure Aggregation for Federated Learning
Owkin Inc.（Owkin公司）
联合学习使人们能够跨持有敏感数据集的分布式客户端联合训练机器学习模型。在现实世界中，这种方法受到昂贵的通信和隐私问题的阻碍。这两个挑战都已经得到了单独解决，从而导致了相互竞争的优化。在这篇文章中，我们第一次同时处理它们。更确切地说，我们适应基于压缩的联邦技术添加剂秘密共享，导致一个有效的安全聚合协议，具有自适应的安全级别。我们证明了它的隐私对恶意的对手和它的正确性，在半诚实的设置。在深度卷积网络上的实验表明，我们的安全协议以低通信成本实现了高准确性。与以前的安全聚合工作相比，我们的协议具有较低的通信和计算成本，类似的准确性。
2021-10-18 cs.CR cs.LG stat.ML
A Study of Secure Algorithms for Vertical Federated Learning: Take Secure Logistic Regression as an Example
National Taiwan University（台湾大学）
针对大数据下企业数据共享与隐私保护的矛盾，本文研究纵向联邦学习框架下的安全模型训练，以加密域执行的方式保障数据隐私，为合规的跨企业联合建模提供思路。
2024-10-30 cs.CR cs.LG
Progressive-Resolution Secure Aggregation for Federated Learning
Chalmers University of Technology（查尔姆斯理工大学）
本文提出渐进分辨率安全聚合（PSA），使客户端仅上传一次，即可在无需重新参与的情况下，按需授权获取同一聚合的逐步更精细分辨率，通过嵌套格码与附加聚合填充实现安全性。
2026-10-02 cs.CR cs.DC cs.IT
PrivacyFL: A simulator for privacy-preserving and secure federated learning
Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种使分布式客户端能够协作学习共享的机器学习模型，同时保持其训练数据本地化的技术。这降低了数据隐私风险，然而，隐私问题仍然存在，因为有可能从训练模型的权重或参数中泄露有关训练数据集的信息。建立一个联邦学习环境，特别是有安全和隐私保证的环境，是一个耗时的过程，有许多配置和参数可以操作。为了帮助客户确保协作是可行的，并检查它是否提高了他们的模型准确性，需要一个真实世界的隐私保护和安全的联邦学习模拟器。在本文中，我们介绍PrivacyFL，这是一个可扩展的，易于配置和可扩展的模拟器的联邦学习环境。它的主要特性包括延迟模拟、对客户端离开的鲁棒性、对集中式和分散式学习的支持，以及基于差分隐私和安全多方计算的可配置隐私和安全机制。在本文中，我们激发了我们的研究，描述了模拟器和相关协议的架构，并讨论了其在众多场景中的评估，这些场景强调了其广泛的功能及其优势。我们的论文解决了一个重要的现实问题：检查在各种情况下参与联邦学习环境的可行性。它还具有很强的实际影响，因为医院、银行和研究机构等拥有大量敏感数据并希望进行协作的组织将从一个能够以隐私保护和安全的方式进行协作的系统中受益匪浅。
2020-07-08 cs.CR cs.DC cs.LG
Large-Scale Secure XGB for Vertical Federated Learning
Ant Group（蚂蚁集团）
近年来，隐私保护机器学习受到越来越多的关注，特别是随着各种隐私保护法规的出台。在这种情况下，联邦学习（FL）似乎有助于在多方之间进行隐私保护的联合建模。虽然许多联邦算法已经被广泛研究，但仍然缺乏安全和实用的梯度树提升模型（例如，XGB）在文学中。在本文中，我们的目标是建立大规模的安全XGB垂直联邦学习设置。我们从三个方面保障数据隐私。具体来说，（i）我们采用安全的多方计算技术，以避免在训练过程中泄漏中间信息，（ii）我们以分布式方式存储输出模型，以最小化信息释放，以及（iii）我们提供了一种新的算法，用于安全的XGB预测与分布式模型。此外，通过提出安全的置换协议，我们可以提高训练效率并使框架可扩展到大数据集。我们在公共数据集和真实数据集上进行了广泛的实验，结果表明，我们提出的XGB模型不仅具有竞争力的准确性，而且具有实用性能。
2021-09-02 cs.CR cs.LG stat.ML
Post Quantum Secure Blockchain-based Federated Learning for Mobile Edge Computing
Hunan University（湖南大学）；Deakin University（迪肯大学）
移动边缘计算（MEC）一直是移动数据通信和边缘处理的一种很有前途的范例。我们的目标是将联邦学习（FL）和区块链的突出功能应用到MEC架构中，例如连接的自动驾驶汽车，以同时实现完全的去中心化，不变性和奖励机制。FL对于具有受限连接的移动设备是有利的，因为它需要将模型更新传递到中心点，而不是大量的数据通信。例如，自动联网车辆中的FL可以增加数据多样性并允许模型定制，即使车辆在短时间内未连接（通过利用其本地模型），也可以进行预测。然而，现有的同步FL和区块链由于移动性引起的损害而产生极高的通信成本，并且不直接适用于MEC网络。我们提出了一个完全异步的区块链联邦学习（BFL）框架，称为BFL-MEC，其中移动客户端及其模型独立发展，但保证全局学习过程的稳定性。更重要的是，我们在BFL-MEC上使用后量子安全功能来验证客户端的身份并抵御恶意攻击。我们所有的设计假设和结果进行了广泛的模拟评估。
2023-02-26 cs.CR cs.DC cs.LG
A Federated Random Forest Solution for Secure Distributed Machine Learning
IEETA/DETI, LASI University of Aveiro（IEETA/DETI实验室，阿维罗大学）
本文提出基于PySyft的联邦随机森林框架，通过加权平均、增量学习和本地评估，在保护隐私的前提下实现接近集中式精度的分布式树模型训练。
2025-05-12 cs.LG
On Using Secure Aggregation in Differentially Private Federated Learning with Multiple Local Steps
University of Helsinki（赫尔辛基大学）；Telefónica Research（西班牙电信研究机构）
本文提出一种新分析方法，使联邦学习在多个本地步骤中仍能利用安全聚合，从而在有限通信轮数下实现更高实用性的模型并保证隐私保护。
2025-03-24 cs.CR cs.LG
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa（伊斯坦布尔大学-切尔拉帕萨分校）；Queen’s University（女王大学）
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架，并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
LoByITFL: Low Communication Secure and Private Federated Learning
School of Computation, Information and Technology（计算、信息与技术学院）
针对联邦学习中数据隐私与拜占庭安全难兼顾且现有方案牺牲隐私的问题，提出通信高效的LoByITFL方案，借助小型数据集、改进FLTrust和初始化阶段一次性可信第三方，实现信息论隐私与安全，兼具理论保证与收敛性实验验证。
2025-06-12 cs.CR cs.DC cs.IT
FedST: Secure Federated Shapelet Transformation for Time Series Classification
Harbin Institute of Technology（哈尔滨工业大学）
本文提出FedST，一种在联邦学习下基于形状let的时间序列分类框架，通过安全且高效的协议与优化，实现了高准确率和三个数量级的加速。
2024-08-17 cs.DB cs.LG
Secure Bayesian Federated Analytics for Privacy-Preserving Trend Detection
Xayn AG（Xayn公司）；Imperial College London（帝国理工学院）
联合分析在边缘计算中有许多应用，它的使用可以为服务提供、产品开发和用户体验带来更好的决策。我们提出了一种贝叶斯方法的趋势检测，其中一个关键字是时髦的概率，给定一个数据集，通过贝叶斯定理计算;数据集的概率，给定一个关键字是时髦的，通过安全的聚合这样的条件概率在本地数据集的用户计算。我们提出了一个名为SAFE的贝叶斯联邦分析协议，为生产级用例提供足够的隐私，并减少用户和聚合器的计算负担。我们用一个趋势检测实验来说明这种方法，并讨论如何进一步扩展这种方法，使其为生产做好准备。
2021-07-28 cs.AI cs.CR cs.LG
Secure short-term load forecasting for smart grids with transformer-based federated learning
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
本文针对智能电网短期负荷预测中的隐私问题，提出基于Transformer的联邦学习方法，在保护用户数据隐私的同时实现准确预测，并通过与集中式学习、本地学习、LSTM和CNN的对比验证其有效性。
2023-10-26 cs.LG
Blockchain-based Secure Client Selection in Federated Learning
University of Florida（佛罗里达大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
尽管联邦学习（FL）在大规模分布式学习中具有巨大的潜力，但由于客户端训练的本地模型暴露于中央服务器，当前系统仍然受到一些隐私问题的影响。因此，FL的安全聚合协议已经被开发出来，以隐藏服务器的本地模型。然而，我们表明，通过操纵客户端的选择过程中，服务器可以绕过安全聚合学习受害者客户端的本地模型，表明安全聚合本身是不够的隐私保护。为了解决这个问题，我们利用区块链技术提出了一个可验证的客户端选择协议。由于区块链的不变性和透明性，我们提出的协议强制随机选择客户端，使服务器无法自行控制选择过程。我们目前的安全证明表明，我们的协议是安全的，对这种攻击。此外，我们在类似以太坊的区块链上进行了几次实验，以证明我们的解决方案的可行性和实用性。
2022-05-11 cs.CR cs.LG
Flotta: a Secure and Flexible Spark-inspired Federated Learning Framework
IDSIA (USI-SUPSI)（IDSIA（瑞士意大利语区大学与瑞士应用科学大学卢加诺分校联合机构））
本文提出Flotta联邦学习框架，受Apache Spark启发，旨在保障多方联盟敏感数据安全，支持仅使用内部机器进行模型训练，兼具安全、灵活与易用性。
2024-09-20 cs.LG
Hi-SAFE: Hierarchical Secure Aggregation for Lightweight Federated Learning
Hanyang University（汉阳大学）
Hi-SAFE通过构建高效的多数投票多项式和分层子群策略，为基于符号的联邦学习提供轻量且安全的聚合框架，解决隐私和通信效率的挑战。
2025-11-24 cs.LG
Turbo-Aggregate: Breaking the Quadratic Aggregation Barrier in Secure Federated Learning
University of Southern California（南加州大学）；University of California, Riverside（加州大学河滨分校）
联邦学习是一种分布式框架，用于在移动设备上的数据上训练机器学习模型，同时保护个人用户的隐私。将联邦学习扩展到大量用户的一个主要瓶颈是跨许多用户的安全模型聚合的开销。特别是，用于安全模型聚合的最新协议的开销随着用户的数量成二次方地增长。在本文中，我们提出了第一个安全的聚合框架，命名为涡轮聚合，在网络中与$N$用户实现了安全的聚合开销$O(N\log{N})$，而不是$O(N^2)$，同时容忍高达$50\%$的用户辍学率。Turbo-Aggregate采用多组循环策略进行有效的模型聚合，并利用附加秘密共享和新颖的编码技术注入聚合冗余，以处理用户退出，同时保证用户隐私。我们的实验表明，涡轮聚合实现了总的运行时间，增长几乎线性的用户数，并提供了高达$40\times$的加速比最先进的协议，高达$N=200$用户。我们的实验还展示了模型大小和带宽对Turbo-Aggregate性能的影响。
2021-02-20 cs.CR cs.DC cs.IT
Secure Federated Learning for Cognitive Radio Sensing
Poznan University of Technology（波兹南理工大学）；RIMEDO Labs（RIMEDO实验室）；Princeton University（普林斯顿大学）
本文研究认知无线电中基于联邦学习的频谱感知，分析其动机、架构、算法及安全隐私威胁，并提出对策与设计建议。
2023-03-23 cs.AI cs.LG cs.SY
Privacy Threats Analysis to Secure Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Ant Group（蚂蚁集团）
联邦学习是一种机器学习技术，它可以在多个分散的参与方之间训练模型。它以保护隐私而闻名，因为数据永远不会离开计算设备，最近的方法通过隐藏加密传输的消息来进一步增强其隐私性。然而，我们发现，尽管做出了努力，联邦学习仍然存在隐私威胁，因为它具有跨各方的交互性。本文分析了工业级安全计算联邦学习框架中的隐私威胁，揭示了此类威胁广泛存在于线性回归、逻辑回归和决策树等典型机器学习模型中。对于线性和逻辑回归，我们通过理论分析表明，攻击者可以在很少的信息下反转受害者的整个私人输入。对于决策树模型，我们发动攻击来推断受害者的私有输入的范围。所有攻击都在流行的联邦学习框架和真实世界的数据集上进行评估。
2021-06-24 cs.AI cs.CR cs.LG
SGDE: Secure Generative Data Exchange for Cross-Silo Federated Learning
Politecnico di Milano（米兰理工大学）
GDPR等隐私监管法律将透明度和安全性作为数据处理算法的设计支柱。在这种背景下，联邦学习是隐私保护分布式机器学习最有影响力的框架之一，在许多自然语言处理和计算机视觉任务中取得了惊人的成果。一些联邦学习框架采用差分隐私来防止私有数据泄露给未经授权的方和恶意攻击者。然而，许多研究强调了标准联邦学习在中毒和推断方面的脆弱性，从而引发了对敏感数据潜在风险的担忧。为了解决这个问题，我们提出了SGDE，一个生成的数据交换协议，提高用户的安全性和机器学习性能的跨筒仓联邦。SGDE的核心是共享具有强差分隐私保证的数据生成器，这些数据生成器是在私有数据上训练的，而不是传递显式的梯度信息。这些生成器合成任意大量的数据，这些数据保留了私有样本的独特特征，但差异很大。在这项工作中，SGDE在图像和表格数据集上的跨筒仓联邦网络中进行测试，利用beta-变分自编码器作为数据生成器。从结果来看，SGDE的加入提高了任务的准确性和公平性，以及对联邦学习最有影响力的攻击的弹性。
2022-09-07 cs.AI cs.CR cs.DC
Secure Aggregation with Top-K Sparsification in Decentralized Federated Learning
Southwest Jiaotong University（西南交通大学）
针对去中心化联邦学习中带宽有限和节点不可靠的问题，提出一种结合Top-K梯度稀疏化的信息论安全聚合方案，通过离线阶段处理维度相关开销，使用随机掩码和排列保护梯度，在1%稀疏率下保持精度并显著降低通信成本。
2026-06-09 cs.CR cs.IT cs.LG
SecureBoost: A Lossless Federated Learning Framework
University of California, Los Angeles（加州大学洛杉矶分校）；Webank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）
保护用户隐私是机器学习的一个重要问题，2018年5月欧盟（EU）推出的《通用数据保护条例》（GDPR）就是明证。GDPR旨在让用户更好地控制其个人数据，这促使我们探索不侵犯用户隐私的机器学习数据共享框架。为了实现这一目标，在本文中，我们提出了一种新的无损隐私保护树提升系统称为SecureBoost的设置联邦学习。SecureBoost首先在隐私保护协议下进行实体对齐，然后使用精心设计的加密策略在多方之间构建提升树。这种联邦学习系统允许学习过程在具有共同用户样本但不同特征集的多方上联合进行，这对应于垂直分区的数据集。SecureBoost的一个优点是，它提供了与非隐私保护方法相同的准确性水平，同时不会透露每个私人数据提供商的信息。我们证明了SecureBoost框架与其他需要集中数据的非联邦梯度树提升算法一样准确，因此对于信贷风险分析等工业应用来说，它具有高度的可扩展性和实用性。为此，我们讨论了协议执行过程中的信息泄漏，并提出了可证明地减少它的方法。
2021-04-07 cs.LG stat.ML
A Privacy-Centric Approach: Scalable and Secure Federated Learning Enabled by Hybrid Homomorphic Encryption
Tampere University（塔尔库大学）
本文提出将混合同态加密（HHE）集成到联邦学习中，以同时解决通信开销和数据隐私挑战，从而实现可扩展且安全的去中心化学习系统。
2025-08-07 cs.CR cs.LG
Cross-client Label Propagation for Transductive and Semi-Supervised Federated Learning
Institute of Science and Technology Austria（奥地利科学技术研究所）
本研究提出基于两种密码安全协议的跨客户端标签传播方法XCLP，可在不共享数据的前提下实现联邦学习下的标签传播，在直推式测试标注与半监督伪标注任务中准确率均优于现有方法。
2023-12-12 cs.LG
FastLloyd: Federated, Accurate, Secure, and Tunable $k$-Means Clustering with Differential Privacy
University of Waterloo（滑铁卢大学）
针对横向联邦 $k$-means 中安全计算开销高与差分隐私效用差的问题，FastLloyd 结合计算型 DP 和安全聚合，并提出新的 DP 聚类机制，实现五个数量级加速且提升聚类效用。
2025-06-10 cs.CR cs.LG
A Secure Federated Learning Framework for Residential Short Term Load Forecasting
Deakin University（迪肯大学）；Latrobe University（乐卓博大学）
智能电表测量虽然对于准确的需求预测至关重要，但也面临着一些缺点，包括消费者隐私、数据泄露问题等。最近的文献已经探索了联邦学习（FL）作为一种有前途的隐私保护机器学习替代方案，其使得能够在不暴露用于短期负荷预测的私有原始数据的情况下对模型进行协作学习。尽管有其优点，但标准FL仍然容易受到由错误和/或恶意客户端进行的称为拜占庭攻击的棘手网络威胁的影响。因此，为了提高联邦短期负荷预测对拜占庭威胁的鲁棒性，我们开发了一个最先进的差分私有安全FL的框架，确保个人智能电表的数据的隐私，同时保护FL模型和架构的安全性。我们提出的框架通过符号随机梯度下降（SignSGD）算法利用梯度量化的思想，其中客户端仅在本地模型训练后将梯度的“符号”传输到控制中心。正如我们通过涉及基准神经网络与一组拜占庭攻击模型的实验所强调的那样，我们提出的方法非常有效地减轻了这种威胁，从而优于传统的Fed-SGD模型。
2023-03-28 cs.AI cs.CR cs.DC
Simeon -- Secure Federated Machine Learning Through Iterative Filtering
School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）；Department of Computer Science, Purdue University（普渡大学计算机科学系）
联邦学习使得全局机器学习模型能够由分布式的、相互不信任的学习代理协作地训练，这些学习代理希望维护其训练数据和其硬件的隐私。一个全局模型被分发给客户端，客户端执行训练，并提交他们新训练的模型，以聚合成一个更好的模型。然而，联邦学习系统容易受到恶意学习代理的干扰，这些恶意学习代理可能希望阻止训练或在最终的全局模型中引起有针对性的错误分类。已经出现了一类容忍拜占庭的聚合算法，提供了不同程度的鲁棒性来对抗这些攻击，通常需要注意的是，攻击者的数量受到训练之前已知的数量的限制。本文介绍了西蒙：一种新的聚合方法，应用基于信誉的迭代过滤技术，即使在存在可能表现出任意行为的攻击者的情况下也能实现鲁棒性。我们比较Simeon国家的最先进的聚合技术，并发现Simeon实现了相当或优越的鲁棒性，各种攻击。值得注意的是，我们表明，Simeon是容忍sybil攻击，其他算法没有，提出了我们的方法的一个关键优势。
2021-03-13 cs.CR cs.DC cs.LG
Tazza: Shuffling Neural Network Parameters for Secure and Private Federated Learning
College of Computing, Yonsei University, Department of Mobile Systems Engineering, Dankook University（延世大学计算机学院， Dankook大学移动系统工程系）
Tazza通过神经网络参数洗牌技术，同时解决联邦学习中的安全性和隐私保护问题，提升系统鲁棒性并提高模型准确性。
2025-12-30 cs.AI cs.LG
Coding-Enforced Resilient and Secure Aggregation for Hierarchical Federated Learning
Department of Information Science and Engineering（信息科学与工程系）
本文提出H-SecCoGC方案，通过编码策略提升分层联邦学习在不可靠通信下的鲁棒性、隐私保护和学习效率。
2026-01-25 cs.AI cs.LG
Hyperparameter Optimization for SecureBoost via Constrained Multi-Objective Federated Learning
School of Computer Science, Beihang University（北京航空航天大学计算机学院）；Webank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）
针对 SecureBoost 超参数只凭启发式优化效用且存在标签泄露的问题，提出 CMOSB 约束多目标算法，联合权衡效用损失、训练成本与隐私泄露，并用 ICA 评估隐私及给出防御措施。
2024-04-06 cs.CR cs.LG
Information-Theoretically Secure Aggregation for Lightweight Federated Learning: Resilient to Dropouts and Adversaries
Hanyang University（汉阳大学）
针对基于符号的联邦学习通信成本高、易受攻击等问题，提出轻量级信息理论安全聚合框架，通过单轮安全乘法计算MV多项式，引入逆形式指数约简和单轮安全乘法技术，减少通信和延迟，实现抗数据丢失和对抗行为，为安全聚合奠定实践基础。
2026-09-10 cs.LG
RoFL: Robustness of Secure Federated Learning
ETH Zurich（苏黎世联邦理工学院）
尽管近年来已经看到许多攻击暴露了联邦学习（FL）中的严重漏洞，但仍然缺乏对这些攻击的原因以及如何有效缓解这些攻击的全面理解。在这项工作中，我们揭开了现有（有针对性的）攻击的内部运作。我们提供了新的见解，为什么这些攻击是可能的，为什么一个明确的解决方案，FL的鲁棒性是具有挑战性的。我们表明，需要ML算法记住尾部数据有显着的影响FL的完整性。这种现象在很大程度上是在隐私的背景下研究的;我们的分析揭示了它对ML完整性的影响。我们表明，某些类别的严重攻击可以有效地减轻强制执行的约束，如客户端的更新范数界。我们研究如何有效地将这些限制到安全FL协议中的单服务器设置。在此基础上，我们提出了RoFL，一个新的安全FL系统，扩展了隐私保护输入验证的安全聚合。具体而言，RoFL可以对高维加密模型更新实施诸如$L_2$和$L_\infty$边界之类的约束。
2023-01-26 cs.CR cs.LG
Transparent Contribution Evaluation for Secure Federated Learning on Blockchain
Emory University（埃默里大学）；Kyoto University（京都大学）
联邦学习是一种很有前途的机器学习范例，当多方合作构建高质量的机器学习模型时。尽管如此，这些政党只有在得到足够的激励时才愿意参与，比如根据他们的贡献给予公平的奖励。许多研究探索了基于Shapley值的方法来评估各方对学习模型的贡献。然而，它们通常假设一个半可信的服务器来训练模型和评估数据所有者的模型贡献，这缺乏透明度，可能会阻碍联邦学习在实践中的成功。在这项工作中，我们提出了一个基于区块链的联邦学习框架和一个协议，以透明地评估每个参与者的贡献。我们的框架在模型构建阶段保护所有参与方的隐私，并根据模型更新透明地评估贡献。在手写体数字数据集上的实验表明，该方法能够有效地评估贡献率。
2021-04-24 cs.CR cs.LG
Quality Inference in Federated Learning with Secure Aggregation
Budapest University of Technology and Economics（布达佩斯技术与经济大学）
本文证明在联邦学习应用安全聚合后仍可推断个体数据集质量，并通过图像识别实验实现参与者质量排序，用于检测不当行为、稳定训练和衡量个体贡献。
2023-05-25 cs.CR cs.LG stat.ML
A Secure and Efficient Federated Learning Framework for NLP
University of Connecticut（康涅狄格大学）；Duke University（杜克大学）；Facebook（脸书）；Microsoft（微软）；Northeastern University（东北大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
在这项工作中，我们考虑的问题，设计安全和有效的联邦学习（FL）框架。现有的解决方案要么涉及可信聚合器，要么需要重量级的加密原语，这会显着降低性能。此外，许多现有的安全FL设计仅在限制性假设下工作，即没有客户端可以从训练协议中退出。为了解决这些问题，我们提出了SEFL，一个安全有效的FL框架，它（1）消除了对可信实体的需求;（2）与现有的FL设计相比，实现了类似甚至更好的模型准确性;（3）对客户端退出具有弹性。通过对自然语言处理（NLP）任务的广泛实验研究，我们证明了SEFL与现有FL解决方案相比具有相当的准确性，并且所提出的修剪技术可以将运行时性能提高13.7倍。
2022-01-28 cs.CL cs.CR cs.LG
Secure Neuroimaging Analysis using Federated Learning with Homomorphic Encryption
University of Southern California（南加州大学）
联邦学习（FL）支持在各种不同的远程数据源上分布式计算机器学习模型，而无需将任何单独的数据传输到集中位置。随着更多的源和更大的数据集被添加到联邦中，这导致模型的通用性和计算的有效扩展。然而，最近的成员攻击表明，当模型参数或汇总统计数据与中央站点共享时，私人或敏感的个人数据有时会泄露或推断，需要改进的安全解决方案。在这项工作中，我们提出了一个框架，安全FL使用全同态加密（FHE）。具体来说，我们使用CKKS建设，一个近似的，浮点兼容的计划，受益于密文包装和重新缩放。在我们对大规模脑MRI数据集的评估中，我们使用我们提出的安全FL框架来训练一个深度学习模型，以从分布式MRI扫描（一个常见的基准测试任务）预测一个人的年龄，并证明加密和非加密联邦模型之间的学习性能没有下降。
2021-11-09 cs.CR cs.LG
Secure Federated Learning in 5G Mobile Networks
Ericsson Research（爱立信研究院）；Ericsson Security Research（爱立信安全研究院）；KTH Royal Institute of Technology（瑞典皇家理工学院）
机器学习（ML）是优化、保护和管理移动网络的重要推动因素。这导致从网络功能收集和处理的数据增加，这反过来又可能增加对敏感的最终用户信息的威胁。因此，需要减少对最终用户隐私的威胁的机制来充分利用ML。我们将联邦学习（FL）无缝集成到3GPP 5G网络数据分析（NWDA）架构中，并添加了多方计算（MPC）协议，以保护本地更新的机密性。我们评估了该协议，发现它比以前的工作具有更低的开销，而不会影响ML性能。
2020-09-14 cs.CR cs.LG cs.NI
Efficient Vertical Federated Learning with Secure Aggregation
University of Cambridge（剑桥大学）
针对纵向联邦学习中的梯度交换隐私泄露风险，提出一种利用最先进安全聚合模块实现安全高效训练的新方法，在不影响训练性能的同时比同态加密加速9.1e2至3.8e4倍。
2023-05-18 cs.AI cs.CR cs.LG
Federated Dynamic GNN with Secure Aggregation
University of Notre Dame（圣母大学）
给定来自多个个人设备或街道摄像头的视频数据，我们是否可以利用结构和动态信息来学习分布式监控等应用中对象的动态表示，而不会将数据存储在中央服务器上，从而导致侵犯用户隐私？在这项工作中，我们介绍了联邦动态图神经网络（Feddy），一个分布式的和安全的框架，学习对象表示从多用户图序列：i）它聚合的结构信息，从附近的对象在当前图以及动态信息，从那些在以前的图。它使用一种自我监督的损失来预测物体的轨迹。ii）它以联邦学习的方式进行训练。位于中央的服务器将模型发送到用户设备。各个用户设备上的本地模型学习并定期将其学习发送到中央服务器，而不会将用户的数据暴露给服务器。iii）研究表明，在服务器执行加权平均之后，聚合的参数可以在广播到客户端用于模型同步时被检查，尽管被解密。我们设计了一个合适的安全聚集原语聚集机制，可以保护联邦学习的安全性和隐私性，并具有可扩展性。在四个不同场景下的视频摄像机数据集上的实验和仿真结果表明，Feddy算法具有很好的安全性和有效性。
2020-09-15 cs.CR cs.LG
Byzantine-Robust Federated Learning Framework with Post-Quantum Secure Aggregation for Real-Time Threat Intelligence Sharing in Critical IoT Infrastructure
本文提出一种结合后量子安全聚合的联邦学习框架，用于关键物联网基础设施中实时威胁情报共享，通过自适应加权聚合和基于格的加密协议，有效防御拜占庭攻击和量子威胁。
2026-01-03 cs.CR cs.LG
Efficient Secure Federated Learning via Information-Theoretically Secure Key Distribution: A Medical Imaging Case Study
University of Trento（特伦托大学）；Huawei Technologies Duesseldorf（华为技术杜塞尔多夫有限公司）；Universidad Politécnica de Madrid（马德里理工大学）
本研究提出一种集成冻结骨干、知识蒸馏与量化的联邦学习框架，在真实物理密钥分配测试平台上将密钥使用量减少约35倍，同时保持预测精度，从而解决信息论安全密钥交换的吞吐量瓶颈，实现可持续的联邦学习训练。
2026-10-06 cs.CR cs.LG
ESMFL: Efficient and Secure Models for Federated Learning
Northeastern University（东北大学）；Duke University（杜克大学）；University of Connecticut（康涅狄格大学）
目前，深度神经网络被广泛应用于各个领域。然而，深度神经网络需要大量的数据汇集，这暴露了潜在的隐私问题，也消耗了大量的通信带宽。为了解决这些问题，我们提出了一种用于联邦学习分布式系统的隐私保护方法，该方法运行在英特尔软件防护扩展（Intel Software Guard Extensions）上，这是一组可提高应用程序代码和数据安全性的指令。同时，加密模型使传输开销较大。因此，我们通过稀疏化来降低交换成本，并且可以在不同的模型架构下实现合理的精度。
2021-03-03 cs.CR cs.CV cs.LG
