FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
Survey of Privacy Threats and Countermeasures in Federated Learning
Secure System Platform Research Laboratories, NEC Corporation（NEC公司安全系统平台研究实验室）
本文综述横向、纵向和迁移联邦学习中的隐私威胁及防护对策，弥补现有研究对不同类型联邦学习共性与特有威胁缺乏系统分类的不足。
2025-08-29 cs.CR cs.LG
Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning
American International University-Bangladesh（孟加拉国美国国际大学）；North South University（北南大学）
本文通过PPMLFPL框架分析隐私保护下的机器学习模型个性化方法，比较APPLE+DP与APPLE+HE算法，发现前者执行效率高，后者整体表现更优，为隐私保护个性化学习提供实践指导。
2025-05-03 cs.CR cs.DC cs.LG
Momentum Gradient Descent Federated Learning with Local Differential Privacy
当今社会，信息技术的发展日新月异。在大数据时代，个人信息的隐私问题更加突出。主要的挑战是找到一种方法来保证在发布和分析数据时不泄露敏感的个人信息。集中式差分隐私建立在可信第三方数据管理者的假设之上。然而，这一假设在现实中并不总是正确的。局部差分隐私作为一种新的隐私保护模型，具有较强的隐私保护能力。虽然联邦学习相对而言是一种分布式学习的隐私保护方法，但它仍然引入了各种隐私问题。为了避免隐私威胁并降低通信成本，在本文中，我们提出将联邦学习和局部差分隐私与动量梯度下降相结合，以提高机器学习模型的性能。
2022-10-14 cs.LG
Privacy and Efficiency of Communications in Federated Split Learning
Boston University（波士顿大学）；Saint Louis University（圣路易斯大学）
每天，大量的敏感数据分布在手机、可穿戴设备和其他传感器上。传统上，这些庞大的数据集是在一个系统上处理的，复杂的模型被训练来做出有价值的预测。最近开发了分布式机器学习技术，例如联合学习和分裂学习，以在确保高性能的同时更好地保护用户数据和隐私。这两种分布式学习架构各有优缺点。在本文中，我们研究了这些权衡，并提出了一种新的混合联邦分裂学习架构，结合了两者的效率和隐私优势。我们的评估展示了我们的混合联合分裂学习方法如何降低运行分布式学习系统的每个客户端所需的处理能力，减少训练和推理时间，同时保持类似的准确性。我们还讨论了我们的方法对深度学习隐私推理攻击的弹性，并将我们的解决方案与其他最近提出的基准进行了比较。
2023-01-07 cs.CR cs.DC cs.LG
PBM-VFL: Vertical Federated Learning with Feature and Sample Privacy
Rensselaer Polytechnic Institute（拉特格尔理工学院）
本文提出PBM-VFL算法，结合安全多方计算与泊松二项机制实现具备差分隐私保证的纵向联邦学习，首次从理论上刻画隐私预算、收敛误差与通信成本间的关系，并在高隐私水平下保持良好性能。
2025-07-16 cs.LG
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Google Research（谷歌研究院）
针对联邦学习中的隐私与通信挑战，提出随机量化机制（RQM），通过两级随机化实现Rényi差分隐私，无需显式离散噪声，在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
FedEM: A Privacy-Preserving Framework for Concurrent Utility Preservation in Federated Learning
本文提出FedEM算法，通过自适应噪声注入引入受控扰动，在联邦学习中有效缓解梯度泄露攻击，同时保持模型精度，实现隐私保护与效用保留的稳健平衡。
2025-03-08 cs.LG
Federated Crowdsensing: Framework and Challenges
Peking University（北京大学）；Nanyang Technological University（南洋理工大学）；Shanghai University of Finance and Economics（上海财经大学）
Crowdsensing是智能城市应用的有前途的感测范例（例如，交通和环境监测），智能移动设备和先进的网络基础设施的普及。同时，由于任务是由个体来完成的，因此隐私保护是群体感知系统的关键问题之一。传统上，为了减轻用户的隐私担忧，噪声被添加到参与者的敏感数据（例如，参与者的位置）通过诸如差分隐私的技术。然而，这不可避免地导致对众测任务的质量损失。最近，联邦学习范式被提出，其目的是在机器学习中实现隐私保护，同时确保学习质量受到很小或没有损失。受联邦学习范式的启发，本文研究了联邦学习如何使众测应用受益。特别是，我们首先提出了一个联邦众测框架，它分析了每个众测阶段的隐私问题（即，任务创建、任务分配、任务执行和数据聚合），并讨论联邦学习技术如何生效。最后，我们总结了联邦众测的主要挑战和机遇。
2020-11-06 cs.CR cs.DC cs.LG
PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization
Peking University（北京大学）
联邦学习（FL）已经成为一种流行的分布式机器学习范例，具有改进的隐私性。在学习之后，应该针对每个不同的客户机进一步个性化所得到的联邦模型。虽然已经提出了几种方法来实现个性化，但它们通常限于单个本地设备，这可能导致偏差或过拟合，因为单个设备中的数据非常有限。在本文中，我们试图实现超越单一客户端的个性化。其动机是，在FL期间，可能存在许多具有相似数据分布的客户端，因此，如果这些相似的客户端可以相互协作，则可以显著提高个性化性能。受此启发，本文引入了一个新的概念，称为联邦自适应，旨在以联邦的方式适应训练模型，以实现更好的个性化效果。然而，联邦自适应的关键挑战是，由于隐私问题，我们在自适应期间不能从客户端外包任何原始数据。在本文中，我们提出了PFA，一个框架来实现隐私保护联邦适应。PFA利用神经网络的稀疏性来生成隐私保护表示，并使用它们来有效地识别具有相似数据分布的客户端。根据分组结果，PFA对联邦模型进行分组FL过程以完成自适应。为了进行评估，我们手动构建了几个实际的FL数据集的基础上，公共数据集，以模拟类不平衡和背景差异的条件。在这些数据集和流行的模型架构上进行的大量实验证明了PFA的有效性，在确保用户隐私的同时，大大优于其他最先进的方法。我们将在https://github.com/lebyni/PFA上发布我们的代码。
2021-03-08 cs.AI cs.DC cs.LG
PrivacyFL: A simulator for privacy-preserving and secure federated learning
Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种使分布式客户端能够协作学习共享的机器学习模型，同时保持其训练数据本地化的技术。这降低了数据隐私风险，然而，隐私问题仍然存在，因为有可能从训练模型的权重或参数中泄露有关训练数据集的信息。建立一个联邦学习环境，特别是有安全和隐私保证的环境，是一个耗时的过程，有许多配置和参数可以操作。为了帮助客户确保协作是可行的，并检查它是否提高了他们的模型准确性，需要一个真实世界的隐私保护和安全的联邦学习模拟器。在本文中，我们介绍PrivacyFL，这是一个可扩展的，易于配置和可扩展的模拟器的联邦学习环境。它的主要特性包括延迟模拟、对客户端离开的鲁棒性、对集中式和分散式学习的支持，以及基于差分隐私和安全多方计算的可配置隐私和安全机制。在本文中，我们激发了我们的研究，描述了模拟器和相关协议的架构，并讨论了其在众多场景中的评估，这些场景强调了其广泛的功能及其优势。我们的论文解决了一个重要的现实问题：检查在各种情况下参与联邦学习环境的可行性。它还具有很强的实际影响，因为医院、银行和研究机构等拥有大量敏感数据并希望进行协作的组织将从一个能够以隐私保护和安全的方式进行协作的系统中受益匪浅。
2020-07-08 cs.CR cs.DC cs.LG
TimberStrike: Dataset Reconstruction Attack Revealing Privacy Leakage in Federated Tree-Based Systems
Politecnico di Milano（米兰理工大学）
本文提出 TimberStrike 攻击，针对水平联邦树模型，利用决策树的分裂值和决策路径重构其他客户端的敏感训练数据，揭示了现有系统的隐私泄露风险。
2025-07-13 cs.CR cs.DC cs.LG
WebFed: Cross-platform Federated Learning Framework Based on Web Browser with Local Differential Privacy
The University of Aizu（会津大学）；Sun Yat-sen University（中山大学）
对于数据孤岛和隐私问题，联邦学习引起了广泛的兴趣，因为它允许客户使用本地数据协作训练全球模型，而无需与第三方共享任何数据。然而，现有的联邦学习框架总是需要复杂的条件配置（例如，独立图形卡（如NVIDIA、编译环境）驱动程序配置复杂，给大规模开发和部署带来诸多不便。为了促进联邦学习的部署和相关应用的实现，我们创新性地提出了WebFed，一种新颖的基于浏览器的联邦学习框架，它利用浏览器的特性（例如，跨平台、JavaScript编程特性），并通过本地差分隐私机制增强隐私保护。最后，我们在异构设备上进行实验，以评估所提出的WebFed框架的性能。
2021-10-22 cs.AI cs.CR cs.DC
Dynamic Privacy Allocation for Locally Differentially Private Federated Learning with Composite Objectives
KTH Royal Institute of Technology（KTH皇家理工学院）
本文提出一种局部差分隐私联邦学习算法，通过动态分配时变噪声方差以最小化优化误差上界，在隐私预算约束下同时实现隐私保护与效用，无需调整迭代次数且性能优于现有方法。
2023-08-02 cs.CR cs.DC cs.LG
Trading Off Privacy, Utility and Efficiency in Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本研究提出兼容横纵向联邦学习的统一框架，量化隐私泄露、效用损失与效率下降的权衡关系，推导NFL定理，并分析主流保护机制的相关下界，为参数选择提供指导。
2023-02-21 cs.CR cs.DC cs.LG
No Vandalism: Privacy-Preserving and Byzantine-Robust Federated Learning
Beijing Institute of Technology（北京理工大学）；University of Auckland（奥克兰大学）
本文提出一种隐私保护且拜占庭鲁棒的联邦学习方案NoV，通过结合零知识证明的模型过滤器抵御数据和模型投毒攻击，并采用秘密共享实现可验证安全聚合以剔除恶意客户端，有效保护数据隐私并优于现有方案。
2024-06-03 cs.CR cs.DC cs.LG
H-FL: A Hierarchical Communication-Efficient and Privacy-Protected Architecture for Federated Learning
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）的长期目标要求严格的隐私保证和低通信开销，同时保持相对较高的模型准确性。然而，同时实现所有目标是极具挑战性的。在本文中，我们提出了一个新的框架称为分层联邦学习（H-FL）来应对这一挑战。考虑到训练数据的统计异质性会降低模型的性能，本文提出了一种运行时分布重构策略，该策略对客户端进行适当的重新分配，并利用中介器重新安排客户端的局部训练。此外，我们设计了一个压缩校正机制纳入H-FL，以减少通信开销，同时不牺牲模型的性能。为了进一步提供隐私保证，我们在执行本地训练时引入了差分隐私，这只会在完整模型的一部分中注入适量的噪声。实验结果表明，我们的H-FL框架实现了最先进的性能在不同的数据集上的真实世界的图像识别任务。
2021-06-01 cs.CR cs.DC cs.LG
Federated $f$-Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
联邦学习（FL）是一种训练范式，其中客户端通过重复共享信息来协作学习模型，而不会对其本地敏感数据的隐私造成太大影响。在本文中，我们介绍了联邦$f$ -差分隐私，一个新的概念，专门为联邦设置，高斯差分隐私的框架的基础上。联合$f$ -差异隐私在记录级别上运行：它为一个客户端数据的每个单独记录提供隐私保证，以对抗对手。然后，我们提出了一个通用的私人联邦学习框架{PriFedSync}，可容纳一个大家庭的国家的最先进的FL算法，可证明实现联邦$f$差分隐私。最后，我们实证地展示了在计算机视觉任务中由{PriFedSync}训练的模型的隐私保证和预测性能之间的权衡。
2021-02-22 cs.AI cs.CR cs.CV
Federated Hypergraph Learning with Local Differential Privacy: Toward Privacy-Aware Hypergraph Structure Completion
School of Computer Science and Engineering（计算机科学与工程学院）；Central South University（中南大学）
针对联邦超图学习中的高阶信息丢失与隐私泄露问题，提出了FedHGL框架，通过预传播超边补全机制和本地差分隐私保护，有效提升了跨客户端协同训练与隐私保护下的模型性能。
2025-09-18 cs.LG
Clustered Federated Learning: Model-Agnostic Distributed Multi-Task Optimization under Privacy Constraints
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；Technische Universität Berlin（柏林工业大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Korea University（高丽大学）
联邦学习（FL）是目前最广泛采用的用于在隐私约束下协作训练（深度）机器学习模型的框架。尽管联邦学习很受欢迎，但据观察，如果本地客户端的数据分布出现分歧，它会产生次优结果。为了解决这个问题，我们提出了一种新的联邦多任务学习（FMTL）框架，即分布式联邦学习（CFL），它利用FL损失表面的几何特性，将客户端群体分组为具有联合可训练数据分布的集群。与现有的FMTL方法相比，CFL不需要对FL通信协议进行任何修改，适用于一般的非凸目标（特别是深度神经网络），并且具有对聚类质量的强数学保证。CFL足够灵活，可以处理随时间变化的客户端人群，并且可以以隐私保护的方式实现。由于只有在联邦学习收敛到一个固定点后才执行聚类，因此CFL可以被视为一种后处理方法，通过允许客户端到达更专业的模型，它始终可以实现比传统FL更高或相等的性能。我们在常用的联邦学习数据集上使用深度卷积和递归神经网络进行实验，验证了我们的理论分析。
2019-10-04 cs.DC cs.LG stat.ML
Differentially Private Federated Learning: A Systematic Review
Stevens Institute of Technology（史蒂文斯理工学院）；University of Connecticut（康涅狄格大学）；Tongji University（同济大学）；Northeastern University（东北大学）；The Hong Kong Polytechnic University（香港理工大学）；East China Normal University（华东师范大学）；Institute of Science Tokyo（东京科学研究所）
该研究针对现有差分隐私联邦学习系统综述的不足，提出基于隐私模型定义、保障特性与联邦场景的新分类体系，梳理相关应用，为隐私保护联邦学习提供研究参考与未来方向。
2025-10-02 cs.CR cs.LG
FedXGBoost: Privacy-Preserving XGBoost for Federated Learning
Technical University of Munich（慕尼黑工业大学）；Bytedance Inc.（字节跳动公司）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种分布式机器学习框架，它支持多方协作训练，同时确保数据隐私。XGBoost是最先进的树提升框架，由于传统隐私保护方法的高成本，XGBoost对联邦学习的实际适应仍然有限。为了解决这个问题，我们提出了两种具有隐私保证的联邦XGBoost变体：FedXGBoost-SMM和FedXGBoost-LDP。我们的第一个协议FedXGBoost-SMM部署了增强的安全矩阵乘法方法，以无损的准确性和较低的开销比基于防御的技术来保护隐私。第二个协议FedXGBoost-LDP是独立开发的，它是用噪声扰动为本地差分隐私设计的，并在真实世界和合成数据集上进行了经验评估。
2021-08-12 cs.CR cs.LG
Vision Through the Veil: Differential Privacy in Federated Learning for Medical Image Classification
Indian Institute of Technology Roorkee（印度理工学院鲁尔基分校）
本研究提出一种新颖的差分隐私联邦学习模型用于医学图像分类，证明通过策略性校准隐私预算，可在维持稳健分类性能的同时提供实质性隐私保护。
2023-06-30 cs.CR cs.LG
A Survey on Blockchain-Based Federated Learning and Data Privacy
Texas Tech University（得克萨斯理工大学）
本文综述了联邦学习的隐私泄露风险，系统比较了基于区块链的联邦学习架构中各种数据隐私机制的性能与安全性，并指出了未来研究方向。
2023-06-29 cs.LG
Federated Generative Privacy
Artificial Intelligence Lab（人工智能实验室）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
在本文中，我们提出了FedGP，这是一个在联邦学习环境中保护隐私的数据发布框架。我们使用生成式对抗网络，其生成器组件由FedAvg算法训练，以绘制隐私保护的人工数据样本，并根据经验评估信息披露的风险。我们的实验表明，FedGP能够生成高质量的标记数据，成功地训练和验证监督模型。最后，我们证明了我们的方法显着降低了这种模型的模型反转攻击的脆弱性。
2019-10-18 cs.CR cs.DC cs.LG
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
Federated Learning and Differential Privacy: Software tools analysis, the Sherpa.ai FL framework and methodological guidelines for preserving data privacy
Andalusian Research Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）
边缘人工智能服务的高需求也保护了数据隐私，推动了对符合这些需求的新型机器学习范式的研究。联邦学习的目标是通过分布式学习方法来保护数据隐私，这些方法将数据保存在数据孤岛中。同样，差分隐私通过测量联邦学习的元素之间的通信中的隐私损失来实现对数据隐私的保护。联邦学习和差分隐私与数据隐私保护挑战的前瞻性匹配导致了几个支持其功能的软件工具的发布，但它们缺乏对这些技术所需的统一愿景，以及支持其使用的方法工作流程。因此，我们提出了Sherpa.ai联邦学习框架，该框架建立在联邦学习和差分隐私的整体视图上。它源于对如何使机器学习范式适应联邦学习的研究，以及基于联邦学习和差分隐私开发人工智能服务的方法指南的定义。我们展示了如何通过分类和回归用例来遵循Sherpa.ai联邦学习框架的方法指南。
2020-10-06 cs.AI cs.CR cs.LG
Federated Learning for Privacy-Preserving Open Innovation Future on Digital Health
Australian Department of Health（澳大利亚卫生部）；University of Technology Sydney（悉尼科技大学）
隐私保护是人工智能领域一个备受关注的伦理问题。联邦学习是一种新的机器学习范式，用于在用户或组织之间学习共享模型，而无需直接存取数据。它有很大的潜力成为下一个通用的AI模型训练框架，提供隐私保护，因此对数字健康和医疗保健信息学的未来具有广泛的影响。在医疗保健行业实施开放式创新框架，即开放式医疗，旨在通过与合作伙伴组织和研究界建立下一代合作框架，提高医疗保健相关组织的创新和创造能力。特别是，这个改变游戏规则的协作框架提供了来自不同数据的知识共享，同时保护了隐私。本章将讨论联邦学习如何在人工智能的支持下实现开放的健康生态系统的发展。将讨论联邦学习的现有挑战和解决方案。
2021-08-24 cs.AI cs.CR cs.DC
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa（伊斯坦布尔大学-切尔拉帕萨分校）；Queen’s University（女王大学）
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架，并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
Communication-Efficient and Privacy-Preserving Feature-based Federated Transfer Learning
Syracuse University（雪城大学）
联邦学习由于其保护了客户的隐私而引起了越来越多的关注。联邦迁移学习作为联邦学习的一种变体，利用了来自相似任务的知识，因此也得到了深入的研究。然而，由于有限的无线电频谱，通过无线链路的联邦学习的通信效率是至关重要的，因为一些任务可能需要数千TB的上行链路有效载荷。为了提高通信效率，我们在本文中提出了基于特征的联邦迁移学习作为一种创新的方法，以减少超过五个数量级的上行链路的有效载荷相比，现有的方法。我们首先介绍的系统设计中，提取的功能和输出被上传，而不是参数更新，然后确定所需的有效载荷与这种方法，并提供与现有的方法进行比较。随后，我们分析了随机洗牌方案，保护客户端的隐私。最后，我们通过一个图像分类任务的实验来评估所提出的学习方案的性能，以显示其有效性。
2022-09-12 cs.LG
Privacy-Preserving Personalized Federated Prompt Learning for Multimodal Large Language Models
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）
针对多模态LLM联邦提示学习中个性化、泛化性与隐私难以平衡的问题，提出DP-FPL方法，通过低秩分解与差异化差分隐私保护策略，在减轻隐私噪声影响的同时平衡权衡，实验效果优于基准方法。
2025-02-13 cs.LG
Privacy Risks Analysis and Mitigation in Federated Learning for Medical Images
Knight Foundation School of Computing and Information Sciences（奈特基金会计算与信息科学学院）
本文提出MedPFL框架分析并缓解医学图像联邦学习的隐私风险，证实该场景下存在严重隐私泄露风险，且传统加噪防御并非总能有效防护。
2024-01-31 cs.LG
Federated Learning for Cross-Domain Data Privacy: A Distributed Approach to Secure Collaboration
Cornell University（康奈尔大学）；University of Minnesota（明尼苏达大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）；Illinois Institute of Technology（伊利诺伊理工大学）
本文提出一种基于联邦学习的分布式数据隐私保护框架，通过仅共享模型参数实现安全的跨域数据协作，实验证明其在医疗、金融等多域环境中兼具高模型性能与隐私保护能力。
2025-03-31 cs.CR cs.LG
When Differential Privacy Meets Wireless Federated Learning: An Improved Analysis for Privacy and Convergence
School of Informatics, Xiamen University, China（厦门大学信息学院，中国）；Internet of Things Thrust, Hong Kong University of Science and Technology (Guangzhou), China（香港科技大学（广州）物联网研究组，中国）
本文研究了差分隐私无线联邦学习中隐私损失的精确表征及收敛性，提出通用非凸损失目标下的分析方法，明确设备选择与小批量采样影响，证明隐私损失可收敛于常数，建立梯度裁剪下的收敛保证及隐私-效用权衡。
2026-08-04 cs.LG
Towards Privacy-Preserving Data-Driven Education: The Potential of Federated Learning
University of Bergen（卑尔根大学）
本文通过教育数据预测实验比较联邦学习与传统非联邦方法，证明其准确率相当且在对抗攻击下更具韧性，为教育隐私保护提供可行路径。
2025-03-16 cs.AI cs.CR cs.LG
Privacy and Trust Redefined in Federated Machine Learning
Edinburgh Napier University（爱丁堡龙比亚大学）；Eight Bells LTD（八钟有限公司）
传统机器学习中的一个常见隐私问题是训练过程需要公开数据。在医疗记录等高度敏感数据的情况下，访问这些信息具有挑战性，并且通常被禁止。幸运的是，隐私保护技术已经开发出来，通过分配训练的计算并确保其所有者的数据隐私来克服这一障碍。将计算分配给多个参与实体引入了新的隐私复杂性和风险。在本文中，我们提出了一个隐私保护的分散工作流程，促进参与者之间的可信联邦学习。我们的概念验证定义了一个信任框架，该框架使用在超级账本项目Aries/Indy/Ursa下开发的分散身份技术进行实例化。只有拥有由适当机构颁发的可验证凭据的实体才能够建立安全的、经过认证的通信渠道，这些渠道被授权参与与心理健康数据相关的联邦学习工作流程。
2021-03-30 cs.CR cs.CY cs.DC
A Multivocal Literature Review on Privacy and Fairness in Federated Learning
University of Bayreuth（拜罗伊特大学）；Fraunhofer FIT（弗劳恩霍夫应用信息技术研究所）
本文通过多声文献综述梳理联邦学习中隐私与公平性的整合方法，指出二者关系被忽视且存在内在张力，呼吁构建兼顾隐私、公平与性能的一体化框架。
2024-10-27 cs.AI cs.LG
HyFed: A Hybrid Federated Framework for Privacy-preserving Machine Learning
Technical University of Munich（慕尼黑工业大学）；University of Hamburg（汉堡大学）；University of Southern Denmark（南丹麦大学）；Imperial College London（帝国理工学院）
联邦学习（FL）使多个客户端能够在中央服务器的协调下联合训练全局模型。虽然FL是一个隐私感知的范例，其中原始数据共享是不需要的，最近的研究表明，FL可能会通过与服务器或其他客户端共享的模型参数泄漏客户端的私有数据。在本文中，我们提出了HyFed框架，它增强了隐私的FL，同时保持了全球模型的效用。HyFed为开发人员提供了一个通用的API来开发联邦的隐私保护算法。HyFed支持模拟和联邦操作模式，其源代码可在https://github.com/tum-aimed/hyfed上公开获得。
2021-10-27 cs.CR cs.LG
Privacy of federated QR decomposition using additive secure multiparty computation
University of Southern Denmark（南丹麦大学）
联邦学习（FL）是一种隐私感知的数据采掘策略，它将私有数据保存在所有者的机器上，从而对其保密。客户端计算本地模型并将其发送到计算全局模型的聚合器。在混合FL中，使用安全聚合对本地参数进行额外屏蔽，使得仅全局聚合统计数据以明文形式可用，而不是客户端特定更新。联邦QR分解尚未在跨筒仓联邦学习的上下文中得到广泛研究。在这篇文章中，我们调查了三个QR分解算法的适用性跨筒仓FL，并提出了一个隐私感知QR分解方案的基础上，Gram-Schmidt算法，不公然泄漏原始数据。我们应用该算法以联邦方式计算线性回归。
2022-10-12 cs.CR cs.LG
A Privacy-Preserving Subgraph-Level Federated Graph Neural Network via Differential Privacy
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；Beijing Jiaotong University（北京交通大学）
目前，联邦图神经网络（GNN）由于其在不违反隐私法规的情况下在现实中的广泛应用而引起了人们的广泛关注。在所有的隐私保护技术中，差分隐私（DP）由于其有效性和较小的计算开销是最有前途的一个。然而，基于DP的联邦GNN还没有得到很好的研究，特别是在子图级的设置，如推荐系统的场景。联邦GNN面临的最大挑战是如何在保证隐私的同时解决非独立同分布（non-IID）数据。在本文中，我们提出了DP-FedRec，一个基于DP的联邦GNN来填补这一空白。利用私有集交叉（PSI）来扩展每个客户端的局部图，从而解决非IID问题。最重要的是，DP不仅应用于PSI的权重，还应用于PSI的交集图的边缘，以充分保护客户端的隐私。测试结果表明，DP-FedRec在图形扩展方面取得了更好的性能，DP只引入了很少的计算开销。
2022-06-07 cs.AI cs.CR cs.LG
COVID-19 Imaging Data Privacy by Federated Learning Design: A Theoretical Framework
Charles Sturt University（查尔斯特大学）
为应对COVID-19的医疗挑战，我们需要在全球范围内频繁共享健康数据、知识和资源。然而，在这个数字时代，数据隐私是一个大问题，需要将隐私保证安全地嵌入到使用健康数据的所有技术解决方案的设计中。在本文中，我们介绍了差分隐私的设计（dPbD）框架，并讨论其嵌入到联邦机器学习系统。为了限制我们的论文的范围，我们专注于通过计算机视觉和深度学习方法进行疾病诊断的COVID-19成像数据隐私的问题场景。我们讨论了评估联邦机器学习系统的设计，并讨论了如何差分隐私设计（dPbD）框架可以提高数据隐私的联邦学习系统的可扩展性和鲁棒性。我们认为，可扩展的差异私有联邦学习设计是一个很有前途的解决方案，用于建立一个安全，私有和协作的机器学习模型，如需要打击COVID 19的挑战。
2020-10-13 cs.CR cs.CV cs.LG
Privacy-preserving Federated Learning for Residential Short Term Load Forecasting
FINATRAX, University of Luxembourg（卢森堡大学FINATRAX）；University of Luxembourg（卢森堡大学）
由于间歇性发电和动态需求模式的高水平，对住宅负荷的准确预测变得至关重要。智能电表在进行这些预测时可以发挥重要作用，因为它们提供详细的负荷数据。然而，由于数据隐私要求，使用智能电表数据进行负荷预测具有挑战性。本文研究了如何通过结合联邦学习和隐私保护技术（如差分隐私和安全聚合）来满足这些要求。在我们的分析中，我们使用了大量的住宅负载数据，并模拟了不同的联邦学习模型和隐私保护技术如何影响性能和隐私。我们的模拟表明，结合联邦学习和隐私保护技术可以确保高预测准确性和接近完全的隐私。具体来说，我们发现，这种组合使高水平的信息共享，同时确保隐私的处理负荷数据和预测模型。此外，我们确定并讨论了应用联邦学习，差分隐私和安全聚合住宅短期负荷预测的挑战。
2022-09-19 cs.AI cs.LG cs.SY
FederatedNILM: A Distributed and Privacy-preserving Framework for Non-intrusive Load Monitoring based on Federated Deep Learning
University of Essex（埃塞克斯大学）；Durham University（杜伦大学）；University College Cork（科克大学学院）
非侵入式负载监测（NILM）通常利用机器学习方法，并有效地将智能电表读数从家庭级别分解为电器级别的消耗，可以帮助分析用户的用电行为，并实现实际的智能能源和智能电网应用。然而，智能电表是私有和分布式的，这使得NILM的实际应用具有挑战性。为此，本文提出了一种分布式隐私保护的联邦深度学习框架（FederatedNILM），将联邦学习与最先进的深度学习架构相结合，进行NILM，用于家电典型状态的分类。通过大量的对比实验，证明了所提出的FederatedNILM框架的有效性。
2021-08-08 cs.AI cs.LG eess.SP
Federated Diffusion Modeling with Differential Privacy for Tabular Data Synthesis
Deutsche Bundesbank（德国联邦银行）；University of St.Gallen（圣加尔大学）；Swiss Federal Audit Office（瑞士联邦审计局）；International Computer Science Institute (ICSI)（国际计算机科学研究所）
提出 DP-FedTabDiff 框架，融合差分隐私、联邦学习与扩散模型生成高保真表格数据，并在真实数据集上验证其隐私与效用平衡。
2025-08-29 cs.LG q-fin.ST
Privacy Threats Against Federated Matrix Factorization
Hong Kong University of Science and Technology（香港科技大学）；Southern University of Science and Technology（南方科技大学）；WeBank Co. Ltd（微众银行）
矩阵分解在实际推荐应用和电子商务中非常成功。由于数据短缺和严格的法规，很难收集足够的数据来为单个公司构建高性能的推荐系统。联邦学习提供了在不损害隐私和安全的情况下桥接数据孤岛和构建机器学习模型的可能性。共享共同用户或项目的参与者协作地在来自所有参与者的数据上构建模型。已经有一些工作探索应用联邦学习的推荐系统和协同过滤系统中的隐私问题。然而，联邦矩阵分解中的隐私威胁没有被研究。本文根据特征空间的划分将联邦矩阵分解分为三类，并分析了每类联邦矩阵分解模型的隐私威胁。我们还讨论了隐私保护方法。据我们所知，这是联邦学习框架中的矩阵分解方法的隐私威胁的第一个研究。
2020-07-03 cs.CR cs.LG stat.ML
Privacy Preserving Machine Learning for Electronic Health Records using Federated Learning and Differential Privacy
University of Washington（华盛顿大学）
针对电子健康记录的高敏感属性，为保障机器学习模型分析患者数据时的隐私安全，提出结合联邦学习与差分隐私的隐私保护技术方案。
2024-06-23 cs.CR cs.ET cs.LG
When Crowdsensing Meets Federated Learning: Privacy-Preserving Mobile Crowdsensing System
School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）；College of Mathematics and Computer Science, Fuzhou University（福州大学数学与计算机科学学院）；Peng Cheng Laboratory（鹏城实验室）；School of Computer Science and Engineering, South China University of Technology（华南理工大学计算机科学与工程学院）
移动众测是一种新兴的感知数据汇集模式，具有可扩展性、低部署成本和分布式等特点。传统的MCS系统受到隐私问题和公平奖励分配的影响。此外，现有的隐私保护MCS解决方案通常关注数据汇集的隐私保护，而不是数据处理的隐私保护。为了解决MCS面临的问题，本文将联邦学习（FL）融入MCS，提出了一种隐私保护的MCS系统\textsc{CrowdFL}。具体来说，为了保护隐私，参与者通过联邦学习在本地处理传感数据，只上传加密的训练模型。特别地，提出了一种隐私保护的联邦平均算法来平均加密的训练模型。为了减少抑制丢弃参与者的计算和通信开销，设计了丢弃和重传策略。此外，设计了一种隐私保护的发布定价激励机制，试图打破隐私保护和数据评估的困境。理论分析和实际MCS应用的实验结果表明，所提出的\textsc{CrowdFL}能够有效地保护参与者的隐私，是可行和有效的。
2021-02-20 cs.CR cs.LG
DP-Hype: Federated Differentially Private Hyperparameter Search
Institute of IT Security, University of Luebeck（吕贝克大学IT安全研究所）
提出DP-Hype算法，通过联邦投票基于客户端本地评估进行隐私保护超参数搜索，实现客户端级差分隐私且隐私预算与超参数数量无关，在多种数据集上展示高效用。
2026-06-16 cs.LG
On the Efficiency of Privacy Attacks in Federated Learning
Ahsanullah University of Science and Technology（阿赫桑乌拉科技大学）；University of Hong Kong（香港大学）；Florida International University（佛罗里达国际大学）
针对联邦学习现有隐私攻击计算成本高、实用性弱的问题，提出EPAFL框架，通过三种早停技术在保持攻击成功率的同时显著降低计算开销，并公开代码。
2024-04-15 cs.CR cs.LG
Marking the Pace: A Blockchain-Enhanced Privacy-Traceable Strategy for Federated Recommender Systems
Institute of Innovation, Science, and Sustainability, Federation University Australia（澳大利亚联邦大学创新、科学与可持续发展研究所）；School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；Institute of Electronic Information and Network Engineering, Chongqing University of Posts and Telecommunications（重庆邮电大学电子信息与网络工程研究院）；School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院）
本文提出隐私可追溯联邦推荐系统LIBERATE，通过区块链可追溯机制和本地差分隐私保护数据共享与模型更新中的隐私，并在真实数据集上验证了其有效性和性能。
2024-06-07 cs.LG
Communication-Efficient and Privacy-Adaptable Mechanism -- a Federated Learning Scheme with Convergence Analysis
Department of Computer Science, City University of Hong Kong（计算机科学系，香港城市大学）
本文提出了一种通信高效且隐私适应的联邦学习方案CEPAM，并通过理论分析和实验评估其隐私保障和收敛性质。
2026-01-15 cs.LG
Byzantine-Robust Federated Learning with Optimal Statistical Rates and Privacy Guarantees
UC Berkeley（加州大学伯克利分校）；Google（谷歌）；Carnegie Mellon University（卡内基梅隆大学）；HKUST（香港科技大学）
我们提出了拜占庭鲁棒的联邦学习协议，具有接近最优的统计率。与以前的工作相比，我们提出的协议提高了维度依赖性，并实现了严格的统计率方面的所有参数的强凸损失。我们对竞争协议的基准，并显示所提出的协议的经验优势。最后，我们注意到，我们的协议与桶可以自然地与隐私保证程序相结合，以引入半诚实服务器的安全性。https://github.com/wanglun1996/secure-robust-federated-learning中提供了评估代码。
2023-03-18 cs.AI cs.CR cs.DC
PAPAYA Federated Analytics Stack: Engineering Privacy, Scalability and Practicality
Meta
本文提出PAPAYA联邦分析技术栈，结合可信执行环境与设备端计算优化，解决现有联邦分析系统在准确性、灵活性和扩展性上的局限，实现隐私、可扩展性与实用性的统一。
2025-03-27 cs.LG
