Differential Privacy Meets Federated Learning under Communication Constraints
Virginia Tech（弗吉尼亚理工大学）
联邦学习系统的性能受到通信代价和训练方差的影响。通信开销问题通常通过三种通信减少技术来解决，即模型压缩、部分设备参与和周期性聚合，代价是增加训练方差。与传统的分布式学习系统不同，联邦学习存在数据异构性（因为设备从可能不同的分布中采样数据），这会在训练期间引起设备之间的额外差异。各种降低方差的训练算法已经被引入来对抗数据异构性的影响，而它们通常需要额外的通信资源来提供必要的控制信息。此外，数据隐私仍然是FL中的一个关键问题，因此已经有人尝试将差分隐私引入该框架，作为效用和隐私要求之间的中介。本文从理论和实验上研究了资源受限联邦系统下通信成本和训练方差之间的权衡，以及通信减少技术如何在差分私有环境中相互作用。研究结果为设计实用的隐私感知联邦学习系统提供了重要的见解。
2021-01-28 cs.DC cs.LG
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Federated Learning and Differential Privacy: Software tools analysis, the Sherpa.ai FL framework and methodological guidelines for preserving data privacy
Andalusian Research Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）
边缘人工智能服务的高需求也保护了数据隐私，推动了对符合这些需求的新型机器学习范式的研究。联邦学习的目标是通过分布式学习方法来保护数据隐私，这些方法将数据保存在数据孤岛中。同样，差分隐私通过测量联邦学习的元素之间的通信中的隐私损失来实现对数据隐私的保护。联邦学习和差分隐私与数据隐私保护挑战的前瞻性匹配导致了几个支持其功能的软件工具的发布，但它们缺乏对这些技术所需的统一愿景，以及支持其使用的方法工作流程。因此，我们提出了Sherpa.ai联邦学习框架，该框架建立在联邦学习和差分隐私的整体视图上。它源于对如何使机器学习范式适应联邦学习的研究，以及基于联邦学习和差分隐私开发人工智能服务的方法指南的定义。我们展示了如何通过分类和回归用例来遵循Sherpa.ai联邦学习框架的方法指南。
2020-10-06 cs.AI cs.CR cs.LG
Towards Privacy-Preserving Data-Driven Education: The Potential of Federated Learning
University of Bergen（卑尔根大学）
本文通过教育数据预测实验比较联邦学习与传统非联邦方法，证明其准确率相当且在对抗攻击下更具韧性，为教育隐私保护提供可行路径。
2025-03-16 cs.AI cs.CR cs.LG
FederatedNILM: A Distributed and Privacy-preserving Framework for Non-intrusive Load Monitoring based on Federated Deep Learning
University of Essex（埃塞克斯大学）；Durham University（杜伦大学）；University College Cork（科克大学学院）
非侵入式负载监测（NILM）通常利用机器学习方法，并有效地将智能电表读数从家庭级别分解为电器级别的消耗，可以帮助分析用户的用电行为，并实现实际的智能能源和智能电网应用。然而，智能电表是私有和分布式的，这使得NILM的实际应用具有挑战性。为此，本文提出了一种分布式隐私保护的联邦深度学习框架（FederatedNILM），将联邦学习与最先进的深度学习架构相结合，进行NILM，用于家电典型状态的分类。通过大量的对比实验，证明了所提出的FederatedNILM框架的有效性。
2021-08-08 cs.AI cs.LG eess.SP
Federated Learning with Bayesian Differential Privacy
EPFL（洛桑联邦理工学院）
我们考虑的问题，加强联邦学习与正式的隐私保证。我们建议采用贝叶斯差分隐私，放松差分隐私类似分布的数据，提供更清晰的隐私损失界限。我们适应贝叶斯隐私会计方法的联邦设置，并建议在不同层次上更有效的隐私预算的多个改进。我们的实验表明，在图像分类任务（包括医疗应用程序）上，联邦学习的最先进的差分隐私界限具有显着的优势，使隐私预算在客户端级别低于1，在实例级别低于0.1。较低的噪声量也有利于模型的准确性，并减少通信回合的数量。
2019-11-22 cs.CR cs.DC cs.LG
Multi-Agent Privacy Game in Federated Learning: A Unified Mean-Field View
研究联邦学习中隐私问题，提出将其表述为平均场隐私博弈的方法，每个客户端通过平均场统计量选隐私预算，该框架能产生可处理均衡，适应异构偏好，继承隐私保证，实验表明其实现隐私 - 效用权衡并提供个性化保证。
2026-07-28 cs.AI cs.LG
Federated Latent Factor Model for Bias-Aware Recommendation with Privacy-Preserving
College of Computer and Information Science, Southwest University, Chongqing 400715, China（西南大学计算机与信息科学学院）；School of Engineering, University of Western Australia, Australia（西澳大学工程学院）；School of Cyber Science and Technology, Beihang University, Beijing 100191, China（北航信息科学与技术学院）
针对联邦推荐系统中因隐私保护而无法访问原始数据导致的评分偏差问题，提出联邦偏差感知潜在因子模型，将训练偏差纳入本地损失函数，在不损害隐私的前提下消除偏差，并在三个真实数据集上显著提升推荐准确性。
2025-04-21 cs.AI cs.LG
Survey of Privacy Threats and Countermeasures in Federated Learning
Secure System Platform Research Laboratories, NEC Corporation（NEC公司安全系统平台研究实验室）
本文综述横向、纵向和迁移联邦学习中的隐私威胁及防护对策，弥补现有研究对不同类型联邦学习共性与特有威胁缺乏系统分类的不足。
2025-08-29 cs.CR cs.LG
Privacy-preserving Federated Learning for Residential Short Term Load Forecasting
FINATRAX, University of Luxembourg（卢森堡大学FINATRAX）；University of Luxembourg（卢森堡大学）
由于间歇性发电和动态需求模式的高水平，对住宅负荷的准确预测变得至关重要。智能电表在进行这些预测时可以发挥重要作用，因为它们提供详细的负荷数据。然而，由于数据隐私要求，使用智能电表数据进行负荷预测具有挑战性。本文研究了如何通过结合联邦学习和隐私保护技术（如差分隐私和安全聚合）来满足这些要求。在我们的分析中，我们使用了大量的住宅负载数据，并模拟了不同的联邦学习模型和隐私保护技术如何影响性能和隐私。我们的模拟表明，结合联邦学习和隐私保护技术可以确保高预测准确性和接近完全的隐私。具体来说，我们发现，这种组合使高水平的信息共享，同时确保隐私的处理负荷数据和预测模型。此外，我们确定并讨论了应用联邦学习，差分隐私和安全聚合住宅短期负荷预测的挑战。
2022-09-19 cs.AI cs.LG cs.SY
Byzantine-Robust Federated Learning with Optimal Statistical Rates and Privacy Guarantees
UC Berkeley（加州大学伯克利分校）；Google（谷歌）；Carnegie Mellon University（卡内基梅隆大学）；HKUST（香港科技大学）
我们提出了拜占庭鲁棒的联邦学习协议，具有接近最优的统计率。与以前的工作相比，我们提出的协议提高了维度依赖性，并实现了严格的统计率方面的所有参数的强凸损失。我们对竞争协议的基准，并显示所提出的协议的经验优势。最后，我们注意到，我们的协议与桶可以自然地与隐私保证程序相结合，以引入半诚实服务器的安全性。https://github.com/wanglun1996/secure-robust-federated-learning中提供了评估代码。
2023-03-18 cs.AI cs.CR cs.DC
Federated Markov Imputation: Privacy-Preserving Temporal Imputation in Multi-Centric ICU Environments
Bielefeld University（比勒菲尔德大学）
针对电子健康记录联邦学习中缺失数据及时间粒度差异问题，提出联邦马尔可夫插补（FMI），通过协作构建全局转移模型实现隐私保护的时间插补，在MIMIC-IV脓毒症预测任务上优于局部基线。
2025-09-25 cs.AI cs.LG
FEDBUD: Joint Incentive and Privacy Optimization for Resource-Constrained Federated Learning
School of Artificial Intelligence, Sun Yat-sen University（中山大学人工智能学院）
本文提出FEDBUD系统，通过联合考虑数据量和噪声水平对激励策略的影响，解决联邦学习中隐私保护与激励策略设计的难题。
2026-04-12 cs.DC cs.LG
Privacy Threats Analysis to Secure Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Ant Group（蚂蚁集团）
联邦学习是一种机器学习技术，它可以在多个分散的参与方之间训练模型。它以保护隐私而闻名，因为数据永远不会离开计算设备，最近的方法通过隐藏加密传输的消息来进一步增强其隐私性。然而，我们发现，尽管做出了努力，联邦学习仍然存在隐私威胁，因为它具有跨各方的交互性。本文分析了工业级安全计算联邦学习框架中的隐私威胁，揭示了此类威胁广泛存在于线性回归、逻辑回归和决策树等典型机器学习模型中。对于线性和逻辑回归，我们通过理论分析表明，攻击者可以在很少的信息下反转受害者的整个私人输入。对于决策树模型，我们发动攻击来推断受害者的私有输入的范围。所有攻击都在流行的联邦学习框架和真实世界的数据集上进行评估。
2021-06-24 cs.AI cs.CR cs.LG
In-depth Analysis of Privacy Threats in Federated Learning for Medical Data
本文提出MedPFL框架，用于分析医疗数据联邦学习中的隐私风险并制定缓解策略，通过实验证明联邦学习在处理医学图像时存在严重隐私风险，并发现添加随机噪声的防御机制并非总是有效。
2024-09-27 cs.LG
Multi-Objective Optimization for Privacy-Utility Balance in Differentially Private Federated Learning
Deakin University（迪肯大学）；Data61, CSIRO（联邦科学与工业研究组织Data61）；University of New South Wales (UNSW)（新南威尔士大学）
针对联邦学习差分隐私中裁剪范数难选的问题，提出多目标优化自适应裁剪机制，动态平衡隐私与效用，在多个数据集上优于固定裁剪基线。
2025-03-27 cs.AI cs.LG
Topological Federated Clustering via Gravitational Potential Fields under Local Differential Privacy
GFC通过引力势场拓扑持久性方法，在局部差分隐私下实现高效的隐私保护联邦聚类，提升隐私与准确性平衡。
2025-11-30 cs.AI cs.LG
FedPH: Privacy-enhanced Heterogeneous Federated Learning
Chongqing Jiaotong University（重庆交通大学）
联邦学习是一种分布式机器学习环境，允许客户在不共享私有数据的情况下进行协作学习。这是通过交换参数来实现的。然而，客户端之间的数据分布和计算资源的差异使得相关研究变得困难。为了解决这些异构问题，我们提出了一种新的联邦学习方法。我们的方法利用预先训练的模型作为局部模型的骨干，其中完全连接的层包括头部。主干提取头部特征，类的嵌入向量在客户端之间共享，以改进头部，提高局部模型的性能。通过共享类的嵌入向量而不是基于梯度的参数，客户端可以更好地适应私有数据，并且服务器和客户端之间的通信更有效。为了保护隐私，我们提出了一个隐私保护的混合方法，添加噪声的类的嵌入向量。当满足差分隐私时，该方法对局部模型的性能影响最小。我们在自建的车辆数据集上对我们的方法进行了全面的评估，并将其与非独立同分布（Non-IID）下的其他联邦学习方法进行了比较。
2023-03-16 cs.AI cs.LG
Stochastic Coded Federated Learning with Convergence and Privacy Guarantees
The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong Polytechnic University（香港理工大学）
联邦学习（FL）作为一种隐私保护的分布式机器学习框架已经引起了广泛的关注，其中许多客户端通过与参数服务器交换模型更新而不是共享其原始数据来协作训练机器学习模型。然而，FL训练由于客户端的异构计算资源和波动的通信速率引起的离散而收敛缓慢且性能不稳定。本文提出了一种编码的联邦学习框架，即随机编码的联邦学习（SCFL），以减轻掉队的问题。在这个框架中，每个客户端通过向其本地数据的随机线性组合添加加性噪声来生成隐私保护编码数据集。服务器从所有客户端收集编码数据集以构建复合数据集，这有助于补偿离散效应。在训练过程中，服务器和客户端执行小批量随机梯度下降（SGD），并且服务器在模型聚合中添加补充项以获得无偏梯度估计。我们用互信息差分隐私（MI-DP）来描述隐私保证，并分析了联邦学习的收敛性能。此外，通过分析隐私约束对收敛速度的影响，我们证明了所提出的SCFL方法的隐私性能折衷。最后，数值实验证实了我们的分析，并显示SCFL在实现快速收敛，同时保护数据隐私的好处。
2022-09-08 cs.DC cs.LG
Communication Efficient and Privacy-Preserving Federated Learning Based on Evolution Strategies
针对现有联邦学习通信开销高、易信息泄露的问题，提出基于进化策略的零阶联邦学习算法FedES，仅传输损失值且依靠预共享种子保障隐私，收敛性能与反向传播方法相当。
2023-11-09 cs.AI cs.LG
FedPass: Privacy-Preserving Vertical Federated Deep Learning with Adaptive Obfuscation
Webank（微众银行）；HKUST（香港科技大学）
垂直联邦学习（VFL）允许具有标记特征的主动方利用被动方的辅助特征来提高模型性能。在VFL的训练和推理过程中，私有特征和标签泄漏问题引起了广泛的研究关注。在本文中，我们提出了一个通用的隐私保护垂直联邦深度学习框架FedPass，它利用自适应混淆来同时保护特征和标签。从理论上证明了私有特征和标签的强隐私保护能力（定理1和定理2）。不同数据集和网络架构的广泛实验结果也证明了FedPass相对于现有方法的优越性，因为它在隐私和模型性能之间接近最佳的权衡。
2023-01-31 cs.CR cs.DC cs.LG
Shuffled Differentially Private Federated Learning for Time Series Data Analytics
Beijing Institute of Technology（北京理工大学）
针对时间序列数据联邦学习中的隐私保护与时间依赖性学习干扰问题，提出结合本地差分隐私与混洗技术的隐私放大算法，在五种数据集上验证其准确率损失极小且优于集中式差分隐私方法。
2023-07-30 cs.AI cs.CR cs.LG
Towards Privacy-Aware Causal Structure Learning in Federated Setting
Hefei University of Technology（合肥工业大学）；Shanxi University（山西大学）
针对联邦学习中的隐私保护需求，提出FedPC算法，通过逐层聚合与一致分离集策略实现无需集中数据的因果结构学习。
2023-09-06 cs.AI cs.CR cs.LG
Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning
American International University-Bangladesh（孟加拉国美国国际大学）；North South University（北南大学）
本文通过PPMLFPL框架分析隐私保护下的机器学习模型个性化方法，比较APPLE+DP与APPLE+HE算法，发现前者执行效率高，后者整体表现更优，为隐私保护个性化学习提供实践指导。
2025-05-03 cs.CR cs.DC cs.LG
Momentum Gradient Descent Federated Learning with Local Differential Privacy
当今社会，信息技术的发展日新月异。在大数据时代，个人信息的隐私问题更加突出。主要的挑战是找到一种方法来保证在发布和分析数据时不泄露敏感的个人信息。集中式差分隐私建立在可信第三方数据管理者的假设之上。然而，这一假设在现实中并不总是正确的。局部差分隐私作为一种新的隐私保护模型，具有较强的隐私保护能力。虽然联邦学习相对而言是一种分布式学习的隐私保护方法，但它仍然引入了各种隐私问题。为了避免隐私威胁并降低通信成本，在本文中，我们提出将联邦学习和局部差分隐私与动量梯度下降相结合，以提高机器学习模型的性能。
2022-10-14 cs.LG
Mitigating Data Reconstruction Attacks in Federated Learning: Conditions, Bounds, and Theoretical Guarantees
Huazhong University of Science and Technology（华中科技大学）
本文从线性代数与优化理论两个角度对联邦学习中的隐私泄露进行理论分析，证明了Jacobian矩阵不满秩时存在产生相同更新的不同批次以确保隐私，推导了防数据重构攻击的批大小充分条件并建立了隐私泄露上界，为设计隐私保护算法提供了理论基础。
2026-10-20 cs.AI cs.CR cs.LG
PrivacyFL: A simulator for privacy-preserving and secure federated learning
Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种使分布式客户端能够协作学习共享的机器学习模型，同时保持其训练数据本地化的技术。这降低了数据隐私风险，然而，隐私问题仍然存在，因为有可能从训练模型的权重或参数中泄露有关训练数据集的信息。建立一个联邦学习环境，特别是有安全和隐私保证的环境，是一个耗时的过程，有许多配置和参数可以操作。为了帮助客户确保协作是可行的，并检查它是否提高了他们的模型准确性，需要一个真实世界的隐私保护和安全的联邦学习模拟器。在本文中，我们介绍PrivacyFL，这是一个可扩展的，易于配置和可扩展的模拟器的联邦学习环境。它的主要特性包括延迟模拟、对客户端离开的鲁棒性、对集中式和分散式学习的支持，以及基于差分隐私和安全多方计算的可配置隐私和安全机制。在本文中，我们激发了我们的研究，描述了模拟器和相关协议的架构，并讨论了其在众多场景中的评估，这些场景强调了其广泛的功能及其优势。我们的论文解决了一个重要的现实问题：检查在各种情况下参与联邦学习环境的可行性。它还具有很强的实际影响，因为医院、银行和研究机构等拥有大量敏感数据并希望进行协作的组织将从一个能够以隐私保护和安全的方式进行协作的系统中受益匪浅。
2020-07-08 cs.CR cs.DC cs.LG
Anonymizing Data for Privacy-Preserving Federated Learning
IBM Research Cambridge（IBM剑桥研究院）；IBM Watson Health（IBM沃森健康）；IBM T. J. Watson Research Center（IBM T. J.沃森研究中心）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习能够从分布在多个站点的数据中训练全局机器学习模型，而无需移动数据。这在医疗保健应用中尤其重要，因为数据中充斥着个人的、高度敏感信息，并且数据分析方法必须可证明符合监管准则。尽管联邦学习阻止了原始数据的共享，但仍然有可能对训练过程中暴露的模型参数或生成的机器学习模型发起隐私攻击。在本文中，我们提出了在联邦学习的背景下提供隐私的第一种语法方法。与最先进的基于差分隐私的框架不同，我们的方法旨在最大限度地提高效用或模型性能，同时支持GDPR和HIPAA所要求的可防御的隐私级别。我们使用100万患者的真实电子健康数据对医疗保健领域的两个重要问题进行了全面的实证评估。结果表明，我们的方法在实现高模型性能，同时提供所需的隐私水平的有效性。通过比较研究，我们还表明，对于不同的数据集，实验设置和隐私预算，我们的方法在联邦学习中提供了比基于差分隐私的技术更高的模型性能。
2020-02-21 cs.AI cs.CR cs.LG
Federated Knowledge Recycling: Privacy-Preserving Synthetic Data Sharing
Politecnico di Milano（米兰理工大学）
本文提出FedKR方法，通过本地合成数据和动态聚合实现隐私保护的跨孤岛联邦学习，显著减少攻击面并在数据稀缺场景下提升4.24%准确率。
2024-07-30 cs.AI cs.CV cs.LG
A Unified Learn-to-Distort-Data Framework for Privacy-Utility Trade-off in Trustworthy Federated Learning
Huazhong University of Science and Technology（华中科技大学）
该研究提出统一的Learn-to-Distort-Data框架，通过将隐私保护机制的失真建模为可学习变量并与模型参数联合优化，实现联邦学习的隐私-效用均衡，可结合多领域技术设计相关算法。
2024-07-09 cs.AI cs.CR cs.LG
PBM-VFL: Vertical Federated Learning with Feature and Sample Privacy
Rensselaer Polytechnic Institute（拉特格尔理工学院）
本文提出PBM-VFL算法，结合安全多方计算与泊松二项机制实现具备差分隐私保证的纵向联邦学习，首次从理论上刻画隐私预算、收敛误差与通信成本间的关系，并在高隐私水平下保持良好性能。
2025-07-16 cs.LG
Randomized Quantization is All You Need for Differential Privacy in Federated Learning
Georgia Institute of Technology（佐治亚理工学院）；Google Research（谷歌研究院）
针对联邦学习中的隐私与通信挑战，提出随机量化机制（RQM），通过两级随机化实现Rényi差分隐私，无需显式离散噪声，在隐私-精度权衡上优于先前工作。
2023-06-20 cs.CR cs.DC cs.LG
FedEM: A Privacy-Preserving Framework for Concurrent Utility Preservation in Federated Learning
本文提出FedEM算法，通过自适应噪声注入引入受控扰动，在联邦学习中有效缓解梯度泄露攻击，同时保持模型精度，实现隐私保护与效用保留的稳健平衡。
2025-03-08 cs.LG
Federated Crowdsensing: Framework and Challenges
Peking University（北京大学）；Nanyang Technological University（南洋理工大学）；Shanghai University of Finance and Economics（上海财经大学）
Crowdsensing是智能城市应用的有前途的感测范例（例如，交通和环境监测），智能移动设备和先进的网络基础设施的普及。同时，由于任务是由个体来完成的，因此隐私保护是群体感知系统的关键问题之一。传统上，为了减轻用户的隐私担忧，噪声被添加到参与者的敏感数据（例如，参与者的位置）通过诸如差分隐私的技术。然而，这不可避免地导致对众测任务的质量损失。最近，联邦学习范式被提出，其目的是在机器学习中实现隐私保护，同时确保学习质量受到很小或没有损失。受联邦学习范式的启发，本文研究了联邦学习如何使众测应用受益。特别是，我们首先提出了一个联邦众测框架，它分析了每个众测阶段的隐私问题（即，任务创建、任务分配、任务执行和数据聚合），并讨论联邦学习技术如何生效。最后，我们总结了联邦众测的主要挑战和机遇。
2020-11-06 cs.CR cs.DC cs.LG
Towards Causal Federated Learning For Enhanced Robustness and Privacy
MILA（MILA研究所）；University of Montreal（蒙特利尔大学）
联邦学习是一种新兴的隐私保护分布式机器学习方法，通过在参与设备（客户端）上本地执行分布式训练并将本地模型聚合为全局模型来构建共享模型。由于这种方法可以防止数据汇集和汇总，因此有助于在很大程度上降低相关的隐私风险。然而，所有参与客户端的数据样本通常不是独立和相同分布的（非iid），并且学习模型的分布外（OOD）泛化可能很差。除了这个挑战之外，联邦学习还容易受到各种安全攻击，其中一些恶意参与实体致力于插入后门，降低生成的聚合模型以及推断参与实体拥有的数据。在本文中，我们提出了一种学习联邦学习设置中所有参与客户端共有的不变（因果）特征的方法，并实证分析了它如何提高分布（OOD）准确性以及最终学习模型的隐私性。
2021-04-14 cs.AI cs.CR cs.LG
Federated Learning for Privacy-Preserving Medical AI
University of Surrey（Surrey大学）
本文研究了利用三维MRI数据进行阿尔茨海默病分类的隐私保护联邦学习，提出了一种机构感知的数据分区策略和自适应局部差分隐私机制，提升了隐私-效用平衡并验证了联邦优化算法在医疗AI中的应用。
2026-03-16 cs.AI cs.CV cs.LG
Differentially Private Federated Learning: A Systematic Review
Stevens Institute of Technology（史蒂文斯理工学院）；University of Connecticut（康涅狄格大学）；Tongji University（同济大学）；Northeastern University（东北大学）；The Hong Kong Polytechnic University（香港理工大学）；East China Normal University（华东师范大学）；Institute of Science Tokyo（东京科学研究所）
该研究针对现有差分隐私联邦学习系统综述的不足，提出基于隐私模型定义、保障特性与联邦场景的新分类体系，梳理相关应用，为隐私保护联邦学习提供研究参考与未来方向。
2025-10-02 cs.CR cs.LG
FedXGBoost: Privacy-Preserving XGBoost for Federated Learning
Technical University of Munich（慕尼黑工业大学）；Bytedance Inc.（字节跳动公司）；Massachusetts Institute of Technology（麻省理工学院）
联邦学习是一种分布式机器学习框架，它支持多方协作训练，同时确保数据隐私。XGBoost是最先进的树提升框架，由于传统隐私保护方法的高成本，XGBoost对联邦学习的实际适应仍然有限。为了解决这个问题，我们提出了两种具有隐私保证的联邦XGBoost变体：FedXGBoost-SMM和FedXGBoost-LDP。我们的第一个协议FedXGBoost-SMM部署了增强的安全矩阵乘法方法，以无损的准确性和较低的开销比基于防御的技术来保护隐私。第二个协议FedXGBoost-LDP是独立开发的，它是用噪声扰动为本地差分隐私设计的，并在真实世界和合成数据集上进行了经验评估。
2021-08-12 cs.CR cs.LG
Vision Through the Veil: Differential Privacy in Federated Learning for Medical Image Classification
Indian Institute of Technology Roorkee（印度理工学院鲁尔基分校）
本研究提出一种新颖的差分隐私联邦学习模型用于医学图像分类，证明通过策略性校准隐私预算，可在维持稳健分类性能的同时提供实质性隐私保护。
2023-06-30 cs.CR cs.LG
TimberStrike: Dataset Reconstruction Attack Revealing Privacy Leakage in Federated Tree-Based Systems
Politecnico di Milano（米兰理工大学）
本文提出 TimberStrike 攻击，针对水平联邦树模型，利用决策树的分裂值和决策路径重构其他客户端的敏感训练数据，揭示了现有系统的隐私泄露风险。
2025-07-13 cs.CR cs.DC cs.LG
Privacy-preserving Speech Emotion Recognition through Semi-Supervised Federated Learning
Department of Mathematics and Computer Science, Eindhoven University of Technology（埃因霍温理工大学数学与计算机科学系）
语音情感识别（SER）是指从自然语音中识别人类情感。如果准确地完成，它可以在构建以人为中心的上下文感知智能系统方面提供许多好处。现有的SER方法在很大程度上是集中式的，没有考虑用户的隐私。联邦学习（FL）是一种分布式机器学习范式，用于处理隐私敏感个人数据的分散化。在本文中，我们提出了一个隐私保护和数据高效的SER方法，利用FL的概念。据我们所知，这是第一个联邦SER方法，它利用自我训练学习结合联邦学习，利用标记和未标记的设备上的数据。我们对IEMOCAP数据集的实验评估表明，即使在数据标签可用性低和高度非独立同分布的情况下，我们的联邦方法也可以学习可推广的SER模型。分布。我们表明，与完全监督的联邦同行相比，我们的方法平均只需10%的标记数据，就可以将识别率提高8.67%。
2022-02-05 cs.AI cs.LG cs.SD
Federated Deep Learning with Bayesian Privacy
WeBank（微众银行）；Hong Kong University of Science and Technology（香港科技大学）；Shanghai Jiao Tong University（上海交通大学）
联邦学习（FL）旨在通过协作学习模型而不在用户之间共享私有数据来保护数据隐私。对于具有数十亿模型参数的深度神经网络的联邦学习，现有的隐私保护解决方案不能令人满意。基于同态加密（HE）的方法提供安全的隐私保护，但是遭受极高的计算和通信开销，使得其在实践中几乎无用。具有差分隐私（DP）的深度学习被实现为以可管理的复杂度成本的实用学习算法。然而，DP是容易受到侵略性的贝叶斯恢复攻击，在文献中公开，并在这项工作的实验结果中证明。为了解决上述困惑，我们提出了一种新的贝叶斯隐私（BP）框架，使贝叶斯恢复攻击被制定为从观察到的公共信息重建私人数据的概率。具体地，所提出的BP框架通过Kullback-Leibler（KL）关于隐私数据的先验分布与基于暴露信息的恢复隐私数据的后验分布之间的分歧来准确地量化隐私损失。据我们所知，这种贝叶斯隐私分析是第一个提供安全的隐私保护能力对贝叶斯恢复攻击的理论依据。作为一个具体的用例，我们证明了一种使用私有护照层的新型联邦深度学习方法能够同时实现高模型性能，隐私保护能力和低计算复杂性。理论分析是根据信息泄漏的经验测量广泛实验了各种DNN网络的图像分类MNIST，CIFAR 10和CIFAR 100数据集。
2021-09-27 cs.AI cs.CR cs.LG
Dynamic Privacy Allocation for Locally Differentially Private Federated Learning with Composite Objectives
KTH Royal Institute of Technology（KTH皇家理工学院）
本文提出一种局部差分隐私联邦学习算法，通过动态分配时变噪声方差以最小化优化误差上界，在隐私预算约束下同时实现隐私保护与效用，无需调整迭代次数且性能优于现有方法。
2023-08-02 cs.CR cs.DC cs.LG
A Privacy-Preserving Framework for Advertising Personalization Incorporating Federated Learning and Differential Privacy
Rutgers University（罗格斯大学）；Duke University（杜克大学）；University of California, Irvine（加州大学欧文分校）
本文提出融合联邦学习与差分隐私的广告个性化框架，通过分布式特征提取、动态隐私预算分配与鲁棒聚合等技术，在保障隐私的同时实现了推荐准确率与系统效率的双重优化。
2025-07-16 cs.CR cs.LG
Trading Off Privacy, Utility and Efficiency in Federated Learning
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
本研究提出兼容横纵向联邦学习的统一框架，量化隐私泄露、效用损失与效率下降的权衡关系，推导NFL定理，并分析主流保护机制的相关下界，为参数选择提供指导。
2023-02-21 cs.CR cs.DC cs.LG
No Vandalism: Privacy-Preserving and Byzantine-Robust Federated Learning
Beijing Institute of Technology（北京理工大学）；University of Auckland（奥克兰大学）
本文提出一种隐私保护且拜占庭鲁棒的联邦学习方案NoV，通过结合零知识证明的模型过滤器抵御数据和模型投毒攻击，并采用秘密共享实现可验证安全聚合以剔除恶意客户端，有效保护数据隐私并优于现有方案。
2024-06-03 cs.CR cs.DC cs.LG
Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture
Istanbul University-Cerrahpasa（伊斯坦布尔大学-切尔拉帕萨分校）；Queen’s University（女王大学）
本文提出结合本地差分隐私、安全多方计算安全聚合与 DPResNet 的联邦医学影像分类框架，并在 BloodMNIST 跨医院场景中验证其可在严格保密下取得接近非隐私模型的性能。
2024-12-01 cs.CR cs.LG
Secure Bayesian Federated Analytics for Privacy-Preserving Trend Detection
Xayn AG（Xayn公司）；Imperial College London（帝国理工学院）
联合分析在边缘计算中有许多应用，它的使用可以为服务提供、产品开发和用户体验带来更好的决策。我们提出了一种贝叶斯方法的趋势检测，其中一个关键字是时髦的概率，给定一个数据集，通过贝叶斯定理计算;数据集的概率，给定一个关键字是时髦的，通过安全的聚合这样的条件概率在本地数据集的用户计算。我们提出了一个名为SAFE的贝叶斯联邦分析协议，为生产级用例提供足够的隐私，并减少用户和聚合器的计算负担。我们用一个趋势检测实验来说明这种方法，并讨论如何进一步扩展这种方法，使其为生产做好准备。
2021-07-28 cs.AI cs.CR cs.LG
H-FL: A Hierarchical Communication-Efficient and Privacy-Protected Architecture for Federated Learning
Xi’an Jiaotong University（西安交通大学）
联邦学习（FL）的长期目标要求严格的隐私保证和低通信开销，同时保持相对较高的模型准确性。然而，同时实现所有目标是极具挑战性的。在本文中，我们提出了一个新的框架称为分层联邦学习（H-FL）来应对这一挑战。考虑到训练数据的统计异质性会降低模型的性能，本文提出了一种运行时分布重构策略，该策略对客户端进行适当的重新分配，并利用中介器重新安排客户端的局部训练。此外，我们设计了一个压缩校正机制纳入H-FL，以减少通信开销，同时不牺牲模型的性能。为了进一步提供隐私保证，我们在执行本地训练时引入了差分隐私，这只会在完整模型的一部分中注入适量的噪声。实验结果表明，我们的H-FL框架实现了最先进的性能在不同的数据集上的真实世界的图像识别任务。
2021-06-01 cs.CR cs.DC cs.LG
Binary Federated Learning with Client-Level Differential Privacy
The Hong Kong University of Science and Technology（香港科技大学）
本文提出一种结合二值神经网络与离散噪声的联邦学习算法，在客户端级差分隐私保护下提升通信效率并改善隐私-效用权衡。
2023-08-07 cs.AI cs.CR cs.LG
Federated Hypergraph Learning with Local Differential Privacy: Toward Privacy-Aware Hypergraph Structure Completion
School of Computer Science and Engineering（计算机科学与工程学院）；Central South University（中南大学）
针对联邦超图学习中的高阶信息丢失与隐私泄露问题，提出了FedHGL框架，通过预传播超边补全机制和本地差分隐私保护，有效提升了跨客户端协同训练与隐私保护下的模型性能。
2025-09-18 cs.LG
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
Clustered Federated Learning: Model-Agnostic Distributed Multi-Task Optimization under Privacy Constraints
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；Technische Universität Berlin（柏林工业大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Korea University（高丽大学）
联邦学习（FL）是目前最广泛采用的用于在隐私约束下协作训练（深度）机器学习模型的框架。尽管联邦学习很受欢迎，但据观察，如果本地客户端的数据分布出现分歧，它会产生次优结果。为了解决这个问题，我们提出了一种新的联邦多任务学习（FMTL）框架，即分布式联邦学习（CFL），它利用FL损失表面的几何特性，将客户端群体分组为具有联合可训练数据分布的集群。与现有的FMTL方法相比，CFL不需要对FL通信协议进行任何修改，适用于一般的非凸目标（特别是深度神经网络），并且具有对聚类质量的强数学保证。CFL足够灵活，可以处理随时间变化的客户端人群，并且可以以隐私保护的方式实现。由于只有在联邦学习收敛到一个固定点后才执行聚类，因此CFL可以被视为一种后处理方法，通过允许客户端到达更专业的模型，它始终可以实现比传统FL更高或相等的性能。我们在常用的联邦学习数据集上使用深度卷积和递归神经网络进行实验，验证了我们的理论分析。
2019-10-04 cs.DC cs.LG stat.ML
Federated Learning for Cross-Domain Data Privacy: A Distributed Approach to Secure Collaboration
Cornell University（康奈尔大学）；University of Minnesota（明尼苏达大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）；Illinois Institute of Technology（伊利诺伊理工大学）
本文提出一种基于联邦学习的分布式数据隐私保护框架，通过仅共享模型参数实现安全的跨域数据协作，实验证明其在医疗、金融等多域环境中兼具高模型性能与隐私保护能力。
2025-03-31 cs.CR cs.LG
