Safe Serializable Secure Scheduling: Transactions and the Trade-off Between Security and Consistency
现代应用程序通常对多个管理域中的数据进行操作。在这种联合设置中，参与者可能不完全信任彼此。这些分布式应用程序使用事务作为核心机制，以确保持久数据的可靠性和一致性。然而，交易所需的协调机制可能会泄露机密信息，并允许未经授权的影响。通过实施一个简单的攻击，我们表明这些侧通道可以被利用。但是，我们的重点是防止这种攻击。我们探索原子，可序列化的事务在联邦设置的安全调度。虽然我们证明，没有协议可以保证在所有设置的安全性和活性，我们建立的条件下，可以安全地完成安全调度的事务集。基于这些条件，我们介绍了分阶段提交，一个安全的联邦事务调度协议。该协议通过将事务划分为不同的阶段来避免不安全的信息通道。我们实现了一个编译器，静态检查代码，以确保它符合我们的条件，和一个系统，使用分阶段提交协议调度这些事务。实验结果表明，该实现能够安全、原子、高效地调度真实的联邦事务。
2016-08-21 cs.CR cs.DC
CHRONOS: A Hardware-Assisted Phase-Decoupled Framework for Secure Federated Learning in IoT
Faculty of Information Technology, Van Lang School of Technology, Van Lang University（范浪大学技术学院信息技术系）
CHRONOS通过硬件辅助分离加密设置与训练阶段，提升物联网联邦学习的安全性，减少聚合延迟并抵御梯度 inversion 攻击。
2026-07-28 cs.CR cs.DC
Quadratic Functional Encryption for Secure Training in Vertical Federated Learning
University of Toronto（多伦多大学）；IIT Madras（印度理工学院马德拉斯分校）
本文针对纵向联邦学习中的信息泄露问题，提出采用二次函数加密替代多输入函数加密，以安全训练广义线性模型，避免Xu等人方案中的部分信息泄露。
2023-06-19 cs.CR cs.DC cs.LG
CLIP: Client-Side Invariant Pruning for Mitigating Stragglers in Secure Federated Learning
University of Toronto（多伦多大学）
针对安全联邦学习中异构掉队客户端造成的计算与网络瓶颈，提出 CLIP 客户端不变神经元剪枝及网络感知剪枝方法，在 CIFAR10、Shakespeare、FEMNIST 上实现 13%–34% 训练加速且精度损失很小。
2025-10-19 cs.CR cs.DC cs.LG
Secure Weighted Aggregation for Federated Learning
互联网连接的数字服务的普遍采用导致其客户的个人数据隐私越来越受到关注。另一方面，机器学习（ML）技术已被数字服务提供商广泛采用，以提高运营生产力和客户满意度。ML不可避免地会访问和处理用户的个人数据，如果不小心执行，可能会违反相关的隐私保护法规。当用户数据被捕获并存储在分布式位置时，数字服务的基于云的实现加剧了这种情况，因此ML的用户数据的聚合可能严重违反隐私法规。在这种背景下，联邦学习（FL）是一个新兴的领域，它允许在分布式数据上进行ML，而无需数据离开其存储位置。然而，取决于数字服务的性质，在不同位置捕获的数据可能对业务运营具有不同的重要性，因此，为了提高FL学习模型的质量，非常需要加权聚合。此外，为了防止用户数据从聚合梯度的泄漏，需要加密机制，以允许安全的聚合FL。在本文中，我们提出了一个隐私增强FL计划，支持安全的加权聚合。此外，通过设计一个基于零知识证明（ZKP）的验证协议，该方案能够防止来自FL参与者的欺诈消息。实验结果表明，该方案具有实用性和安全性.与现有的FL方法相比，我们的方案实现了安全的加权聚合，具有额外的安全保证，可以防止欺诈性消息，具有可承受的1.2倍运行时开销和1.3倍通信成本。
2021-05-11 cs.CR cs.DC
B^2SFL: A Bi-level Blockchained Architecture for Secure Federated Learning-based Traffic Prediction
Research & Development Institute of Northwestern Polytechnical University in Shenzhen（西北工业大学深圳研究院）；Xi’an Jiaotong-Liverpool University（西交利物浦大学）；University of Delaware（特拉华大学）
本文提出了一种双层区块链架构B^2SFL，结合分布式同态加密联邦平均（DHFA）方案，解决了联邦学习交通预测中由恶意参与者和中心化服务器带来的安全与隐私问题，实验证明其能有效实现安全去中心化的实际交通预测。
2023-10-23 cs.AI cs.CR cs.DC
Secure Aggregation Is Not All You Need: Mitigating Privacy Attacks with Noise Tolerance in Federated Learning
National Taiwan University（台湾大学）
联邦学习是一种协作方法，旨在创建AI模型的同时保护数据隐私。当前的联邦学习方法往往严重依赖于安全聚合协议来保护数据隐私。然而，在某种程度上，这样的协议假设编排联邦学习过程的实体（即，服务器）并非完全恶意或不诚实。我们调查安全聚合的漏洞，如果服务器是完全恶意的，并试图获得访问私人，潜在的敏感数据可能会出现。此外，我们还提供了一种方法来进一步防御这种恶意服务器，并证明了在联邦学习设置中重建数据的已知攻击的有效性。
2022-11-10 cs.AI cs.CR
SASH: Efficient Secure Aggregation Based on SHPRG For Federated Learning
防止Fed中的私有训练数据泄漏？erated学习系统，我们提出了一种新的seed？基于种子同质性的治愈聚集方案？phic伪随机发生器（SHPRG），命名为SASH。SASH利用SHPRG的同态性质来简化掩模和去掩模？对于每个客户端和对于服务器，该方案需要开销线性的模型大小和恒定的客户端数量。我们证明，即使对最坏的情况下勾结的对手，SASH保留训练数据隐私，同时有弹性的辍学没有额外的开销。我们的实验表明，SASH显着提高了效率，超过基线的20倍，特别是在更现实的情况下，客户端和模型大小的数量变得很大，和cer？保持客户从系统中退出的百分比。
2022-08-15 cs.CR cs.DC
Eluding Secure Aggregation in Federated Learning via Model Inconsistency
EPFL（洛桑联邦理工学院）；Aarhus University（奥胡斯大学）；George Mason University（乔治梅森大学）
安全聚合是一种加密协议，它安全地计算其输入的聚合。在联邦学习中，它是保持模型更新私密性的关键。事实上，使用安全聚合可以防止服务器了解用户提供的单个模型更新的值和来源，从而阻碍推理和数据归因攻击。在这项工作中，我们表明，恶意服务器可以很容易地逃避安全聚合，如果后者没有到位。我们设计了两种不同的攻击，能够推断个人私人训练数据集上的信息，独立于参与安全聚合的用户数量。这使得它们在大规模、真实世界的联邦学习应用中成为具体的威胁。无论使用何种安全聚合协议，攻击都是通用的，同样有效。他们利用了联邦学习协议的一个漏洞，该漏洞是由安全聚合的不正确使用和缺乏参数验证引起的。我们的工作表明，目前实现的联邦学习与安全聚合只提供了一个“虚假的安全感”。
2022-09-06 cs.CR cs.LG
SAFELearning: Enable Backdoor Detectability In Federated Learning With Secure Aggregation
Stevens Institute of Technology（史蒂文斯理工学院）
本文提出SAFELearning框架，通过遗忘随机分组和部分参数披露两个新原语，在联邦学习的安全聚合中实现后门检测，显著降低后门模型准确率且不损害主任务，同时具备高效性和鲁棒性。
2021-09-03 cs.AI cs.CR cs.DC
Secure Aggregation for Privacy-Preserving Federated Learning on Clinical EEG Data
University of South-Eastern Norway（东南挪威大学）
该研究针对临床EEG数据联邦学习的隐私泄露问题，提出以掩码安全聚合为核心的隐私保护框架，经模拟医疗场景验证，半诚实变体开销低，恶意变体安全性强但开销更高。
2026-09-09 cs.CR cs.DC cs.LG
Secure Stateful Aggregation: A Practical Protocol with Applications in Differentially-Private Federated Learning
针对不可信单服务器下难以实现DP-FTRL的问题，提出安全有状态聚合协议，在保障隐私的同时提升了差分隐私联邦学习的效用，且开销极小。
2024-10-15 cs.CR
Provably Secure Federated Learning against Malicious Clients
Duke University（杜克大学）
联邦学习使客户端能够协作学习共享的全局模型，而无需与云服务器共享其本地训练数据。然而，恶意客户端可以破坏全局模型，以预测用于测试示例的不正确标签。针对恶意客户端的现有防御利用拜占庭健壮的联邦学习方法。然而，这些方法不能证明地保证用于测试示例的预测标签不受恶意客户端的影响。我们通过集成联邦学习来弥合这一差距。特别是，给定任何基础联邦学习算法，我们使用该算法学习多个全局模型，每个模型都是使用随机选择的客户端子集学习的。在预测测试样本的标签时，我们在全局模型中进行多数投票。我们表明，我们的集成联邦学习与任何基础联邦学习算法是可证明的安全，对恶意客户端。具体来说，我们的集成全局模型预测的测试示例的标签是可证明不受恶意客户端的有限数量的影响。此外，我们证明了我们导出的界是紧的。我们在MNIST和人类活动识别数据集上评估了我们的方法。例如，当1,000个客户端中有20个是恶意客户端时，我们的方法可以在MNIST上实现88%的认证准确率。
2021-10-27 cs.CR cs.DC cs.LG
Buffered Asynchronous Secure Aggregation for Cross-Device Federated Learning
National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）
本文提出缓冲异步安全聚合协议BASA，使异步联邦学习在无需用户间同步交互和额外硬件条件下实现安全聚合，并在训练效率和可扩展性上优于现有协议。
2024-06-05 cs.AI cs.CR cs.LG
SecureAFL: Secure Asynchronous Federated Learning
University of Louisville（路易斯维尔大学）；Northeastern University（东北大学）；National University of Singapore（新加坡国立大学）；University of North Texas（北德克萨斯大学）
本文提出SecureAFL框架，通过检测并丢弃异常更新、估计缺失客户端贡献以及采用坐标中位数聚合技术，提升异步联邦学习的安全性与鲁棒性。
2026-04-04 cs.CR cs.DC cs.LG
CHEM: Efficient Secure Aggregation with Cached Homomorphic Encryption in Federated Machine Learning Systems
虽然同态加密可以被合并到神经网络层中以保护机器学习任务，例如在联邦学习中对加密数据样本和加密本地模型的机密推断，但计算开销一直是致命弱点。本文提出了一种缓存协议，即CHEM，张量密文可以从一个池的缓存的基数，而不是执行昂贵的加密操作构建。从理论的角度来看，我们证明了CHEM是语义安全的，并可以在实际的假设下进行简单的分析参数化。在三种常用的公共数据集上的实验结果表明，采用CHEM算法仅产生亚秒级的加密开销，但在机密推理中对输入数据样本进行编码时，加密代价降低了48%~ 89%，在联邦学习中对局部模型进行编码时，加密代价降低了67%~ 87%.
2022-12-22 cs.CR
Byzantine-Resilient Secure Federated Learning
University of Southern California（南加州大学）；University of California, Riverside（加州大学河滨分校）
安全联邦学习是一种隐私保护框架，通过对移动用户收集的大量数据进行训练来改进机器学习模型。这是通过迭代过程实现的，在每次迭代中，用户使用其本地数据集更新全局模型。然后，每个用户通过随机密钥屏蔽其本地模型，并且在中央服务器处聚合屏蔽的模型以计算下一次迭代的全局模型。由于本地模型受到随机掩码的保护，服务器无法观察到它们的真实值。这对模型对抗敌对（拜占庭）用户的弹性提出了一个重大挑战，这些用户可以通过修改其本地模型或数据集来操纵全局模型。为了应对这一挑战，本文提出了第一个单服务器拜占庭弹性安全聚合框架（BREA）的安全联邦学习。BREA基于集成的随机量化，可验证的离群值检测和安全的模型聚合方法，以同时保证Byzantine弹性，隐私和收敛。我们提供了理论上的收敛和隐私保证，并在网络规模，用户辍学和隐私保护方面的基本权衡。我们的实验证明了拜占庭用户存在的收敛性，以及与传统联邦学习基准相当的准确性。
2021-02-20 cs.CR cs.DC cs.LG
Secure Communication Model For Quantum Federated Learning: A Post Quantum Cryptography (PQC) Framework
School of Information Technology（信息技术学院）；Deakin University（迪肯大学）
针对量子联邦学习的安全通信问题，提出融合后量子密码学与动态服务器选择的PQC-QFL框架，并分析其收敛性与安全条件，代码及结果已公开。
2023-04-26 cs.CR cs.LG
Federated Learning with Autotuned Communication-Efficient Secure Aggregation
Google（谷歌）；California Institute of Technology（加州理工学院）
联邦学习使移动设备能够协作学习共享的推理模型，同时将所有训练数据保存在用户的设备上，从而将进行机器学习的能力与将数据存储在云中的需求解耦。现有的关于有限通信的联邦学习的工作演示了随机旋转如何使用户的模型更新能够更有效地量化，从而降低用户和服务器之间的通信成本。同时，安全聚合使服务器能够学习至少阈值数量的设备的模型贡献的聚合，而无需观察任何单独设备的非聚合形式的贡献。在本文中，我们强调了设置安全聚合参数以实现通信效率的一些挑战，特别是在随机旋转实现的积极量化输入的背景下。然后，我们开发了一个自动调整通信高效的安全聚合的配方，基于随机旋转和安全聚合的特定属性-即旋转后矢量条目的可预测分布和安全聚合中固有的模块化包装。我们提出的理论结果和初步实验。
2019-11-30 cs.CR cs.DC cs.LG
Efficient Differentially Private Secure Aggregation for Federated Learning via Hardness of Learning with Errors
University of Vermont（佛蒙特大学）；MassMutual（万通互惠）；Raytheon（雷神公司）
联邦机器学习利用边缘计算从网络用户数据开发模型，但联邦学习中的隐私仍然是一个重大挑战。已经提出了使用差分隐私的技术来解决这个问题，但也带来了自己的挑战--许多技术需要可信的第三方，否则会增加太多的噪音来产生有用的模型。使用多方计算的\emph{secure aggregation}的最新进展消除了对第三方的需要，但计算成本高，特别是在规模上。我们提出了一个新的联邦学习协议，利用一种新的差分私有，恶意的安全聚合协议的基础上，从错误的学习技术。我们的协议优于当前最先进的技术，经验结果表明，它可以扩展到大量的缔约方，具有最佳的准确性，任何差异私人联邦学习计划。
2021-12-13 cs.CR cs.LG
FedSecureFormer: A Fast, Federated and Secure Transformer Framework for Lightweight Intrusion Detection in Connected and Autonomous Vehicles
Department of Computer Science and Information Systems, BITS Pilani, Pilani Campus（计算机科学与信息系统系，比斯汉学院）；Department of Systems and Computer Engineering, Carleton University（系统与计算机工程系，卡尔顿大学）
FedSecureFormer是一种基于联邦学习的轻量级入侵检测框架，采用快速且安全的Transformer结构，适用于连接和自动驾驶车辆场景。
2025-12-30 cs.AI cs.CR
Privacy of federated QR decomposition using additive secure multiparty computation
University of Southern Denmark（南丹麦大学）
联邦学习（FL）是一种隐私感知的数据采掘策略，它将私有数据保存在所有者的机器上，从而对其保密。客户端计算本地模型并将其发送到计算全局模型的聚合器。在混合FL中，使用安全聚合对本地参数进行额外屏蔽，使得仅全局聚合统计数据以明文形式可用，而不是客户端特定更新。联邦QR分解尚未在跨筒仓联邦学习的上下文中得到广泛研究。在这篇文章中，我们调查了三个QR分解算法的适用性跨筒仓FL，并提出了一个隐私感知QR分解方案的基础上，Gram-Schmidt算法，不公然泄漏原始数据。我们应用该算法以联邦方式计算线性回归。
2022-10-12 cs.CR cs.LG
Secure Federated Submodel Learning
Shanghai Jiao Tong University（上海交通大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；Alibaba Group（阿里巴巴集团）
联邦学习的提出有一个有趣的愿景，即在众多客户端之间实现协作式机器学习，而无需将其私有数据上传到云服务器。然而，传统的框架要求每个客户端利用完整的模型进行学习，这对于资源受限的客户端和大规模深度学习任务来说可能是非常低效的。因此，我们提出了一个新的框架，称为联邦子模型学习，其中客户端只下载完整模型的所需部分，即子模型，然后上传子模型更新。然而，客户真正需要的子模型的“位置”对应于她的私有数据，并且在交互期间将其披露给云服务器不可避免地打破了联邦学习的宗旨。为了整合效率和隐私，我们设计了一个安全的联邦子模型学习计划，加上一个私有集联盟协议作为基石。我们的安全方案具有随机响应，安全聚合，和布隆过滤器的属性，并赋予每个客户端一个定制的似是而非的可否认性，在本地差分隐私，对她想要的子模型的位置，从而保护她的私人数据。我们进一步实例化我们的方案与电子商务推荐场景在阿里巴巴，实现了一个原型系统，并广泛评估其性能超过30天的淘宝用户数据。分析和评估结果从模型精度和收敛性、实际通信、计算和存储开销等方面证明了该方案的可行性和可扩展性，并显示了其相对于传统联邦学习框架的显著优势。
2019-11-11 cs.CR cs.DC cs.LG
Sparsified Secure Aggregation for Privacy-Preserving Federated Learning
University of California, Riverside（加州大学河滨分校）
安全聚合是隐私保护联邦学习中的一种流行协议，它允许模型聚合，而不会公开单个模型。另一方面，传统的安全聚合协议会产生显著的通信开销，这可能成为现实世界中带宽受限应用的主要瓶颈。为了解决这一挑战，在这项工作中，我们提出了一个轻量级的梯度稀疏化框架的安全聚合，其中服务器从大量的用户学习稀疏化的本地模型更新的聚合，但不学习个别参数。我们的理论分析表明，所提出的框架可以显着减少安全聚合的通信开销，同时确保相当的计算复杂性。我们进一步确定了由于稀疏化的隐私和通信效率之间的权衡。我们的实验表明，与传统的安全聚合基准相比，我们的框架将通信开销降低了7.8倍，同时还将挂钟训练时间加快了1.13倍。
2021-12-23 cs.CR cs.DC cs.IT
FL-DECO-BC: A Privacy-Preserving, Provably Secure, and Provenance-Preserving Federated Learning Framework with Decentralized Oracles on Blockchain for VANETs
本文提出FL-DECO-BC框架，结合区块链去中心化预言机与联邦学习，为VANETs提供隐私保护、可证明安全和数据来源可追溯的分布式机器学习方案。
2024-07-30 cs.CR
PrivacyFL: A simulator for privacy-preserving and secure federated learning
Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种使分布式客户端能够协作学习共享的机器学习模型，同时保持其训练数据本地化的技术。这降低了数据隐私风险，然而，隐私问题仍然存在，因为有可能从训练模型的权重或参数中泄露有关训练数据集的信息。建立一个联邦学习环境，特别是有安全和隐私保证的环境，是一个耗时的过程，有许多配置和参数可以操作。为了帮助客户确保协作是可行的，并检查它是否提高了他们的模型准确性，需要一个真实世界的隐私保护和安全的联邦学习模拟器。在本文中，我们介绍PrivacyFL，这是一个可扩展的，易于配置和可扩展的模拟器的联邦学习环境。它的主要特性包括延迟模拟、对客户端离开的鲁棒性、对集中式和分散式学习的支持，以及基于差分隐私和安全多方计算的可配置隐私和安全机制。在本文中，我们激发了我们的研究，描述了模拟器和相关协议的架构，并讨论了其在众多场景中的评估，这些场景强调了其广泛的功能及其优势。我们的论文解决了一个重要的现实问题：检查在各种情况下参与联邦学习环境的可行性。它还具有很强的实际影响，因为医院、银行和研究机构等拥有大量敏感数据并希望进行协作的组织将从一个能够以隐私保护和安全的方式进行协作的系统中受益匪浅。
2020-07-08 cs.CR cs.DC cs.LG
Progressive-Resolution Secure Aggregation for Federated Learning
Chalmers University of Technology（查尔姆斯理工大学）
本文提出渐进分辨率安全聚合（PSA），使客户端仅上传一次，即可在无需重新参与的情况下，按需授权获取同一聚合的逐步更精细分辨率，通过嵌套格码与附加聚合填充实现安全性。
2026-10-02 cs.CR cs.DC cs.IT
Secure and Privacy-Preserving Vertical Federated Learning
Visa Research（Visa研究院）
本文提出一种端到端的隐私保护框架，通过三种高效协议实现输入和输出隐私保护，支持全局和全局-局部模型更新，减少计算和通信开销。
2026-04-15 cs.AI cs.CR cs.DC
Efficient Sparse Secure Aggregation for Federated Learning
Owkin Inc.（Owkin公司）
联合学习使人们能够跨持有敏感数据集的分布式客户端联合训练机器学习模型。在现实世界中，这种方法受到昂贵的通信和隐私问题的阻碍。这两个挑战都已经得到了单独解决，从而导致了相互竞争的优化。在这篇文章中，我们第一次同时处理它们。更确切地说，我们适应基于压缩的联邦技术添加剂秘密共享，导致一个有效的安全聚合协议，具有自适应的安全级别。我们证明了它的隐私对恶意的对手和它的正确性，在半诚实的设置。在深度卷积网络上的实验表明，我们的安全协议以低通信成本实现了高准确性。与以前的安全聚合工作相比，我们的协议具有较低的通信和计算成本，类似的准确性。
2021-10-18 cs.CR cs.LG stat.ML
A Study of Secure Algorithms for Vertical Federated Learning: Take Secure Logistic Regression as an Example
National Taiwan University（台湾大学）
针对大数据下企业数据共享与隐私保护的矛盾，本文研究纵向联邦学习框架下的安全模型训练，以加密域执行的方式保障数据隐私，为合规的跨企业联合建模提供思路。
2024-10-30 cs.CR cs.LG
On the relationship between (secure) multi-party computation and (secure) federated learning
这篇短文的贡献包括以下两个部分：在第一部分中，我们能够证明Kairouz等人提出的联邦成员学习（FL）过程\cite{Kairouz1901}是一个随机过程。也就是说，可以在多方计算（MPC）的上下文中定义FL过程的$m$元功能;此外，根据Kairouz等人的的定义可被视为所定义的$m$元功能的实现。因此，FL过程的实例也是MPC协议的实例。简而言之，FL是MPC的子集。为了私密地计算所定义的FL（m-ary）功能，已经部署了各种技术，诸如同态加密（HE）、安全多方计算（SMPC）和差分隐私（DP）。在第二部分中，我们能够证明，如果底层FL实例在基于模拟的框架中私下计算定义的$m$ -ary功能，则基于模拟的FL解决方案也是SMPC的实例。因此，SFL是SMPC的子集。
2020-08-06 cs.CR
Large-Scale Secure XGB for Vertical Federated Learning
Ant Group（蚂蚁集团）
近年来，隐私保护机器学习受到越来越多的关注，特别是随着各种隐私保护法规的出台。在这种情况下，联邦学习（FL）似乎有助于在多方之间进行隐私保护的联合建模。虽然许多联邦算法已经被广泛研究，但仍然缺乏安全和实用的梯度树提升模型（例如，XGB）在文学中。在本文中，我们的目标是建立大规模的安全XGB垂直联邦学习设置。我们从三个方面保障数据隐私。具体来说，（i）我们采用安全的多方计算技术，以避免在训练过程中泄漏中间信息，（ii）我们以分布式方式存储输出模型，以最小化信息释放，以及（iii）我们提供了一种新的算法，用于安全的XGB预测与分布式模型。此外，通过提出安全的置换协议，我们可以提高训练效率并使框架可扩展到大数据集。我们在公共数据集和真实数据集上进行了广泛的实验，结果表明，我们提出的XGB模型不仅具有竞争力的准确性，而且具有实用性能。
2021-09-02 cs.CR cs.LG stat.ML
Secure Federated Matrix Factorization
Hong Kong University of Science and Technology（香港科技大学）；Clustar；Peking University（北京大学）；WeBank（微众银行）
为了保护用户隐私并满足法律法规的要求，联邦（机器）学习近年来受到了广泛的关注。联邦学习的关键原则是训练一个机器学习模型，而不需要知道每个用户的个人原始私人数据。在本文中，我们提出了一个安全的矩阵分解框架下的联邦学习设置，称为FedMF。首先，我们设计了一个用户级分布式矩阵分解框架，当每个用户只上传梯度信息（而不是原始偏好数据）到服务器时，可以学习模型。虽然梯度信息似乎是安全的，但我们证明它仍然可能泄漏用户的原始数据。为此，我们用同态加密增强了分布式矩阵分解框架。我们实现了FedMF的原型，并使用一个真实的电影评级数据集对其进行了测试。结果验证了FedMF的可行性。我们还讨论了在实践中应用FedMF的挑战，为未来的研究。
2019-06-12 cs.CR cs.LG
Towards Bidirectional Protection in Federated Learning
University of California, Berkeley（加州大学伯克利分校）；Hong Kong University of Science and Technology（香港科技大学）
先前在增强联邦学习（FL）安全性方面的努力分为两类。在频谱的一端，一些工作使用安全聚合技术来隐藏单个客户端的更新，并且仅向恶意服务器显示聚合的全局更新，该恶意服务器试图从客户端的更新推断客户端的隐私。另一方面，一些工作使用拜占庭健壮的FL协议来抑制恶意客户端更新的影响。提出了一种联邦学习协议F2 ED-LEARNING，该协议首次提供了双向防御机制，能够同时对抗恶意集中式服务器和拜占庭恶意客户端。为了抵御拜占庭恶意客户端，F2 ED-LEARNING通过采用和校准一个经过充分研究的鲁棒均值估计器FilterL 2来提供无量纲估计误差。F2 ED-LEARNING还利用安全聚合来保护客户端免受恶意服务器的攻击。F2 ED-LEARNING的一个关键挑战是解决FilterL 2和安全聚合方案之间的不兼容性。具体地说，FilterL 2必须检查来自客户端的各个更新，而安全聚合则对恶意服务器隐藏这些更新。为此，我们提出了一种实用且高效的解决方案，将客户端拆分为分片，其中F2 ED-LEARNING安全地聚合每个分片的更新，并在来自不同分片的更新上启动FilterL 2。评估表明，F2 ED-LEARNING始终达到最佳或接近最佳的性能，并在五种常见的攻击下优于五种安全FL协议。
2021-05-30 cs.AI cs.CR cs.DC
Post Quantum Secure Blockchain-based Federated Learning for Mobile Edge Computing
Hunan University（湖南大学）；Deakin University（迪肯大学）
移动边缘计算（MEC）一直是移动数据通信和边缘处理的一种很有前途的范例。我们的目标是将联邦学习（FL）和区块链的突出功能应用到MEC架构中，例如连接的自动驾驶汽车，以同时实现完全的去中心化，不变性和奖励机制。FL对于具有受限连接的移动设备是有利的，因为它需要将模型更新传递到中心点，而不是大量的数据通信。例如，自动联网车辆中的FL可以增加数据多样性并允许模型定制，即使车辆在短时间内未连接（通过利用其本地模型），也可以进行预测。然而，现有的同步FL和区块链由于移动性引起的损害而产生极高的通信成本，并且不直接适用于MEC网络。我们提出了一个完全异步的区块链联邦学习（BFL）框架，称为BFL-MEC，其中移动客户端及其模型独立发展，但保证全局学习过程的稳定性。更重要的是，我们在BFL-MEC上使用后量子安全功能来验证客户端的身份并抵御恶意攻击。我们所有的设计假设和结果进行了广泛的模拟评估。
2023-02-26 cs.CR cs.DC cs.LG
FL-DABE-BC: A Privacy-Enhanced, Decentralized Authentication, and Secure Communication for Federated Learning Framework with Decentralized Attribute-Based Encryption and Blockchain for IoT Scenarios
提出融合DABE、HE、SMPC与区块链的FL-DABE-BC框架，在物联网设备端实现去中心化认证加密，并通过雾层安全聚合与差分隐私保护模型训练。
2024-10-26 cs.CR
Practical Secure Aggregation for Federated Learning on User-Held Data
安全聚合协议允许相互不信任的各方的集合，每个人都持有一个私有值，以协作方式计算这些值的总和，而不会泄露这些值本身。我们考虑在联邦学习模型中训练深度神经网络，在移动设备上的用户持有的训练数据中使用分布式随机梯度下降，其中安全聚合保护每个用户的模型梯度。我们设计了一种新颖的，通信效率高的安全聚合协议，允许高达1/3的用户无法完成协议的高维数据。对于16位输入值，我们的协议为$2^{10}$用户和$2^{20}$维向量提供了1.73倍的通信扩展，为$2^{14}$用户和$2^{24}$维向量提供了1.98倍的扩展。
2016-11-14 cs.CR stat.ML
Detection of False Data Injection Attacks in Smart Grid: A Secure Federated Deep Learning Approach
智能电网作为一个重要的网络物理系统，极易受到网络攻击。在各种类型的攻击中，虚假数据注入攻击（FDIA）被证明是最优先的网络相关问题之一，近年来受到越来越多的关注。然而，到目前为止，很少有人关注智能电网中FDIA检测的隐私保护问题。受联邦学习的启发，结合Transformer、联邦学习和Paillier密码体制，提出了一种基于安全联邦深度学习的FDIA检测方法。Transformer作为部署在边缘节点的检测器，利用其多头自注意力机制，深入挖掘单个电量之间的联系。通过使用联邦学习框架，我们的方法利用来自所有节点的数据来协作训练检测模型，同时通过在训练期间将数据保持在本地来保护数据隐私。为了提高联邦学习的安全性，将Paillier密码体制与联邦学习相结合，设计了一种安全的联邦学习方案。通过在IEEE 14节点和118节点测试系统上的大量实验，验证了该方法的有效性和优越性。
2022-09-06 cs.CR cs.SY eess.SY
On Using Secure Aggregation in Differentially Private Federated Learning with Multiple Local Steps
University of Helsinki（赫尔辛基大学）；Telefónica Research（西班牙电信研究机构）
本文提出一种新分析方法，使联邦学习在多个本地步骤中仍能利用安全聚合，从而在有限通信轮数下实现更高实用性的模型并保证隐私保护。
2025-03-24 cs.CR cs.LG
LoByITFL: Low Communication Secure and Private Federated Learning
School of Computation, Information and Technology（计算、信息与技术学院）
针对联邦学习中数据隐私与拜占庭安全难兼顾且现有方案牺牲隐私的问题，提出通信高效的LoByITFL方案，借助小型数据集、改进FLTrust和初始化阶段一次性可信第三方，实现信息论隐私与安全，兼具理论保证与收敛性实验验证。
2025-06-12 cs.CR cs.DC cs.IT
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa（伊斯坦布尔大学-切尔拉帕萨分校）；Queen’s University（女王大学）
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架，并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
Secure Linear Aggregation Using Decentralized Threshold Additive Homomorphic Encryption For Federated Learning
安全线性聚合是在隐私保护的前提下，对不同用户的隐私输入进行线性聚合。联邦学习（FL）环境中的服务器可以通过安全的线性聚合来完成对用户私有输入的任意线性计算。目前，基于伪随机数发生器和一次性填充技术，可以有效地计算FL中用户输入的和，但不能很好地支持用户输入的线性计算。基于分散式门限同态加密（DTAHE）方案，提出了一种安全的线性聚合协议，该协议允许服务器将用户输入与任意系数相乘并求和，从而在用户输入的基础上建立全连接层或卷积层.该协议采用Bonawitz等人的框架为用户退出提供容错，并利用区块链智能合约鼓励服务器诚实。文中给出了该协议的安全模型、安全证明和一个具体的基于格的DTAHE方案。它评估了已知的DTAHE施工方法的通信和计算成本。评价表明，基于椭圆曲线的DTAHE是友好的用户和基于格的版本导致在服务器上的计算量轻。
2021-11-21 cs.CR
Secure Bayesian Federated Analytics for Privacy-Preserving Trend Detection
Xayn AG（Xayn公司）；Imperial College London（帝国理工学院）
联合分析在边缘计算中有许多应用，它的使用可以为服务提供、产品开发和用户体验带来更好的决策。我们提出了一种贝叶斯方法的趋势检测，其中一个关键字是时髦的概率，给定一个数据集，通过贝叶斯定理计算;数据集的概率，给定一个关键字是时髦的，通过安全的聚合这样的条件概率在本地数据集的用户计算。我们提出了一个名为SAFE的贝叶斯联邦分析协议，为生产级用例提供足够的隐私，并减少用户和聚合器的计算负担。我们用一个趋势检测实验来说明这种方法，并讨论如何进一步扩展这种方法，使其为生产做好准备。
2021-07-28 cs.AI cs.CR cs.LG
Blockchain-based Secure Client Selection in Federated Learning
University of Florida（佛罗里达大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
尽管联邦学习（FL）在大规模分布式学习中具有巨大的潜力，但由于客户端训练的本地模型暴露于中央服务器，当前系统仍然受到一些隐私问题的影响。因此，FL的安全聚合协议已经被开发出来，以隐藏服务器的本地模型。然而，我们表明，通过操纵客户端的选择过程中，服务器可以绕过安全聚合学习受害者客户端的本地模型，表明安全聚合本身是不够的隐私保护。为了解决这个问题，我们利用区块链技术提出了一个可验证的客户端选择协议。由于区块链的不变性和透明性，我们提出的协议强制随机选择客户端，使服务器无法自行控制选择过程。我们目前的安全证明表明，我们的协议是安全的，对这种攻击。此外，我们在类似以太坊的区块链上进行了几次实验，以证明我们的解决方案的可行性和实用性。
2022-05-11 cs.CR cs.LG
Post-quantum Federated Learning: Secure And Scalable Threat Intelligence For Collaborative Cyber Defense
Faculty of Engineering and Technology, Sri Sri University（斯里斯里大学工程与技术学院）；Cisco Systems Inc（思科系统公司）；Dell Inc.（戴尔公司）
本研究提出基于后量子密码学的量子安全联邦学习框架，通过模拟量子攻击揭示传统FL的漏洞，并在医疗联盟案例中验证了其在威胁情报共享中的安全性和有效性。
2026-03-08 cs.CR
SecEmb: Sparsity-Aware Secure Federated Learning of On-Device Recommender System with Large Embedding
针对端侧大嵌入联邦推荐的通信与隐私矛盾，提出 SecEmb，借助隐私保护嵌入检索和安全更新聚合实现稀疏更新的无损保护，并大幅降低通信与计算开销。
2025-06-07 cs.CR
Efficient Secure Aggregation for Privacy-Preserving Federated Machine Learning
针对联邦学习安全聚合中通信与计算开销大的问题，提出e-SeaFL协议，利用辅助节点和同态向量承诺实现单轮通信的可验证聚合，效率较现有最优方法提升一个数量级。
2024-11-08 cs.CR
Verifiable Secure Aggregation via Dual Servers with Linear Tags in Federated Learning
针对联邦学习中服务器可能利用梯度反转侵犯隐私或操纵聚合结果的问题，提出一种基于伪随机函数和非共谋双服务器架构的轻量级可验证安全聚合方案，在保持通信开销与明文聚合相当且验证标签大小恒定的同时，实现用户隐私保护、端到端安全聚合及验证，并显著降低用户计算和验证开销。
2026-08-25 cs.CR
SGDE: Secure Generative Data Exchange for Cross-Silo Federated Learning
Politecnico di Milano（米兰理工大学）
GDPR等隐私监管法律将透明度和安全性作为数据处理算法的设计支柱。在这种背景下，联邦学习是隐私保护分布式机器学习最有影响力的框架之一，在许多自然语言处理和计算机视觉任务中取得了惊人的成果。一些联邦学习框架采用差分隐私来防止私有数据泄露给未经授权的方和恶意攻击者。然而，许多研究强调了标准联邦学习在中毒和推断方面的脆弱性，从而引发了对敏感数据潜在风险的担忧。为了解决这个问题，我们提出了SGDE，一个生成的数据交换协议，提高用户的安全性和机器学习性能的跨筒仓联邦。SGDE的核心是共享具有强差分隐私保证的数据生成器，这些数据生成器是在私有数据上训练的，而不是传递显式的梯度信息。这些生成器合成任意大量的数据，这些数据保留了私有样本的独特特征，但差异很大。在这项工作中，SGDE在图像和表格数据集上的跨筒仓联邦网络中进行测试，利用beta-变分自编码器作为数据生成器。从结果来看，SGDE的加入提高了任务的准确性和公平性，以及对联邦学习最有影响力的攻击的弹性。
2022-09-07 cs.AI cs.CR cs.DC
Turbo-Aggregate: Breaking the Quadratic Aggregation Barrier in Secure Federated Learning
University of Southern California（南加州大学）；University of California, Riverside（加州大学河滨分校）
联邦学习是一种分布式框架，用于在移动设备上的数据上训练机器学习模型，同时保护个人用户的隐私。将联邦学习扩展到大量用户的一个主要瓶颈是跨许多用户的安全模型聚合的开销。特别是，用于安全模型聚合的最新协议的开销随着用户的数量成二次方地增长。在本文中，我们提出了第一个安全的聚合框架，命名为涡轮聚合，在网络中与$N$用户实现了安全的聚合开销$O(N\log{N})$，而不是$O(N^2)$，同时容忍高达$50\%$的用户辍学率。Turbo-Aggregate采用多组循环策略进行有效的模型聚合，并利用附加秘密共享和新颖的编码技术注入聚合冗余，以处理用户退出，同时保证用户隐私。我们的实验表明，涡轮聚合实现了总的运行时间，增长几乎线性的用户数，并提供了高达$40\times$的加速比最先进的协议，高达$N=200$用户。我们的实验还展示了模型大小和带宽对Turbo-Aggregate性能的影响。
2021-02-20 cs.CR cs.DC cs.IT
Privacy Threats Analysis to Secure Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Ant Group（蚂蚁集团）
联邦学习是一种机器学习技术，它可以在多个分散的参与方之间训练模型。它以保护隐私而闻名，因为数据永远不会离开计算设备，最近的方法通过隐藏加密传输的消息来进一步增强其隐私性。然而，我们发现，尽管做出了努力，联邦学习仍然存在隐私威胁，因为它具有跨各方的交互性。本文分析了工业级安全计算联邦学习框架中的隐私威胁，揭示了此类威胁广泛存在于线性回归、逻辑回归和决策树等典型机器学习模型中。对于线性和逻辑回归，我们通过理论分析表明，攻击者可以在很少的信息下反转受害者的整个私人输入。对于决策树模型，我们发动攻击来推断受害者的私有输入的范围。所有攻击都在流行的联邦学习框架和真实世界的数据集上进行评估。
2021-06-24 cs.AI cs.CR cs.LG
Simeon -- Secure Federated Machine Learning Through Iterative Filtering
School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）；Department of Computer Science, Purdue University（普渡大学计算机科学系）
联邦学习使得全局机器学习模型能够由分布式的、相互不信任的学习代理协作地训练，这些学习代理希望维护其训练数据和其硬件的隐私。一个全局模型被分发给客户端，客户端执行训练，并提交他们新训练的模型，以聚合成一个更好的模型。然而，联邦学习系统容易受到恶意学习代理的干扰，这些恶意学习代理可能希望阻止训练或在最终的全局模型中引起有针对性的错误分类。已经出现了一类容忍拜占庭的聚合算法，提供了不同程度的鲁棒性来对抗这些攻击，通常需要注意的是，攻击者的数量受到训练之前已知的数量的限制。本文介绍了西蒙：一种新的聚合方法，应用基于信誉的迭代过滤技术，即使在存在可能表现出任意行为的攻击者的情况下也能实现鲁棒性。我们比较Simeon国家的最先进的聚合技术，并发现Simeon实现了相当或优越的鲁棒性，各种攻击。值得注意的是，我们表明，Simeon是容忍sybil攻击，其他算法没有，提出了我们的方法的一个关键优势。
2021-03-13 cs.CR cs.DC cs.LG
Secure Aggregation with Top-K Sparsification in Decentralized Federated Learning
Southwest Jiaotong University（西南交通大学）
针对去中心化联邦学习中带宽有限和节点不可靠的问题，提出一种结合Top-K梯度稀疏化的信息论安全聚合方案，通过离线阶段处理维度相关开销，使用随机掩码和排列保护梯度，在1%稀疏率下保持精度并显著降低通信成本。
2026-06-09 cs.CR cs.IT cs.LG
A Secure Federated Learning Framework for Residential Short Term Load Forecasting
Deakin University（迪肯大学）；Latrobe University（乐卓博大学）
智能电表测量虽然对于准确的需求预测至关重要，但也面临着一些缺点，包括消费者隐私、数据泄露问题等。最近的文献已经探索了联邦学习（FL）作为一种有前途的隐私保护机器学习替代方案，其使得能够在不暴露用于短期负荷预测的私有原始数据的情况下对模型进行协作学习。尽管有其优点，但标准FL仍然容易受到由错误和/或恶意客户端进行的称为拜占庭攻击的棘手网络威胁的影响。因此，为了提高联邦短期负荷预测对拜占庭威胁的鲁棒性，我们开发了一个最先进的差分私有安全FL的框架，确保个人智能电表的数据的隐私，同时保护FL模型和架构的安全性。我们提出的框架通过符号随机梯度下降（SignSGD）算法利用梯度量化的思想，其中客户端仅在本地模型训练后将梯度的“符号”传输到控制中心。正如我们通过涉及基准神经网络与一组拜占庭攻击模型的实验所强调的那样，我们提出的方法非常有效地减轻了这种威胁，从而优于传统的Fed-SGD模型。
2023-03-28 cs.AI cs.CR cs.DC
