E2FL: Equal and Equitable Federated Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）使数据所有者能够训练共享的全局模型，而无需共享其私有数据。不幸的是，FL容易受到内在公平性问题的影响：由于客户端数据分布的异质性，最终训练的模型可以在参与的客户端之间提供不成比例的优势。在这项工作中，我们提出了平等和公平的联邦学习（E2FL），以产生公平的联邦学习模型，同时保持两个主要的公平性，公平和平等。我们验证了E2FL在不同的现实世界FL应用的效率和公平性，并表明E2FL优于现有的基线方面所产生的效率，不同群体的公平性，以及所有个人客户端之间的公平性。
2022-08-16 cs.LG
DWFL: Enhancing Federated Learning through Dynamic Weighted Averaging
Georgia State University（佐治亚州立大学）；Lahore University of Management Science（拉合尔管理科学大学）
针对联邦学习在蛋白质序列分类中精度不足的问题，提出基于深度前馈神经网络的动态加权联邦学习（DWFL），按性能加权平均局部模型权重以优化全局模型，实验表明显著提升准确性。
2024-11-07 cs.LG
FedExP: Speeding Up Federated Averaging via Extrapolation
Carnegie Mellon University（卡内基梅隆大学）；IBM Research（IBM研究院）
Federated Averaging（FedAvg）仍然是联邦学习（FL）优化的最流行算法，因为它实现简单、无状态、隐私保证以及安全聚合。最近的工作试图通过将客户端更新视为伪梯度并使用服务器步长，将FedAvg中的香草平均推广到广义梯度下降步骤。虽然服务器步长的使用已被证明在理论上提供性能改进，但在大多数现有作品中尚未看到服务器步长的实际益处。在这项工作中，我们提出了FedExP，一种方法来自适应地确定服务器的步长在FL的基础上动态变化的伪梯度在整个FL过程。我们首先考虑overparameterized凸政权，在那里我们揭示了一个有趣的相似性FedAvg和投影到凸集（POCS）算法。然后，我们展示了如何FedExP可以动机作为一个新的扩展外推机制，用于加快POCS。我们的理论分析稍后还讨论了FedExP在欠参数化和非凸设置中的影响。实验结果表明，FedExP在一系列现实FL数据集上始终比FedAvg和竞争基线收敛得更快。
2023-03-06 cs.LG
Federated Learning System without Model Sharing through Integration of Dimensional Reduced Data Representations
University of Tsukuba（筑波大学）
简化是机器学习管道中的常用元素，有助于从高维数据中提取重要特征。在这项工作中，我们探索了一种替代的联邦学习系统，该系统能够在监督学习任务之前集成分布式数据的降维表示，从而避免各方之间的模型共享。我们将这种方法在图像分类任务上的性能与三种替代框架进行了比较：集中式机器学习，个体机器学习和联邦平均，并分析了没有模型共享的联邦学习系统的潜在用例。我们的研究结果表明，我们的方法可以实现类似的准确性，联邦平均和性能优于联邦平均在小用户设置。
2020-11-13 cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
Fairness and Accuracy in Federated Learning
Southwest Jiaotong University（西南交通大学）
在联邦学习设置中，多个客户端在中央服务器的协调下联合训练模型，而训练数据保存在客户端上以确保隐私。通常，联合网络中不同设备之间的数据分布不一致，终端设备之间的通信带宽有限，这使得统计异构性和昂贵的通信成为联邦学习的主要挑战。提出了一种在联邦学习（FedFa）中提高公平性和准确性的算法。它引入了一个优化方案，采用了双动量梯度，从而加快了模型的收敛速度。提出了一种结合训练精度和训练频率的信息量来衡量权值的权值选择算法。该程序有助于解决由于某些客户的偏好而导致的联邦学习中的不公平问题。我们的研究结果表明，所提出的FedFa算法优于基线算法的准确性和公平性。
2020-12-18 cs.LG
FedCF: Fair Federated Conformal Prediction
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
提出FedCF框架，将共形公平性扩展到联邦学习，通过分析不同人口统计组的公平性差距来审计模型公平性，并在多个数据集上验证。
2026-05-30 cs.LG
Improving Fairness for Data Valuation in Horizontal Federated Learning
University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada Co.（华为技术加拿大公司）；Simon Fraser University（西蒙弗雷泽大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
联邦学习是一种新兴的分散式机器学习方案，允许多个数据所有者协同工作，同时确保数据隐私。联邦学习的成功很大程度上取决于数据所有者的参与。为了维持和鼓励数据所有者的参与，公平地评估数据所有者提供的数据质量并给予相应的奖励至关重要。最近由Wang等人提出的联邦Shapley值[联邦学习，2020]是在联邦学习框架下对数据价值的度量，满足数据估值的许多期望属性。然而，在联合Shapley值的设计中仍然存在潜在的不公平因素，因为具有相同本地数据的两个数据所有者可能不会收到相同的评估。为了提高联邦Shapley值的公平性，提出了一种新的度量标准--完备联邦Shapley值。设计依赖于完成一个矩阵，该矩阵由数据所有者的不同子集的所有可能贡献组成。它示出了在温和的条件下，该矩阵是近似低秩的利用优化的概念和工具。理论分析和实证评估都证实了该措施在许多情况下确实改善了公平性。
2022-05-23 cs.LG
FedFACT: A Provable Framework for Controllable Group-Fairness Calibration in Federated Learning
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
FedFACT提出一种可控联邦群体公平性校准框架，通过刻画全局与局部公平约束下的贝叶斯最优分类器，将公平联邦学习重构为代价敏感学习与双层优化问题，并给出收敛与泛化保证，实验证明其在准确率与公平性权衡上优于基线。
2025-11-07 cs.LG
FairEnergy: Contribution-Based Fairness meets Energy Efficiency in Federated Learning
FairEnergy通过整合贡献评分优化设备选择、带宽分配和压缩级别，实现联邦学习中的公平性与能效的平衡，实验表明其在非IID数据上能提升精度并显著降低能耗。
2025-11-19 cs.LG
Partial Model Averaging in Federated Learning: Performance Guarantees and Benefits
University of Southern California（南加州大学）；Amazon Alexa AI（亚马逊 Alexa AI）
局部随机梯度下降（SGD）与周期模型平均（FedAvg）是联邦学习的基础算法。该算法在多个工作者上独立运行SGD，并定期对所有工作者的模型进行平均。然而，当本地SGD与许多工人一起运行时，周期性平均会导致工人之间的显著模型差异，使全局损失缓慢收敛。虽然最近的先进优化方法解决了集中在非IID设置的问题，但由于潜在的周期性模型平均，仍然存在模型差异问题。我们提出了一个部分模型平均框架，减轻模型差异的问题，在联邦学习。部分平均鼓励局部模型在参数空间上保持彼此接近，并且它能够更有效地最小化全局损失。给定固定的迭代次数和大量的工人（128），部分平均比周期性的全平均实现了高达2.2%的高验证精度。
2022-01-11 cs.LG stat.ML
Fair and efficient contribution valuation for vertical federated learning
University of British Columbia（不列颠哥伦比亚大学）；Simon Fraser University（西蒙 Fraser大学）；Huawei Technologies Canada（华为技术加拿大）
本文针对纵向联邦学习中数据源贡献难以公平评估的问题，提出基于Shapley值的VerFedSV指标，在保证公平性的同时实现高效计算，并适配同步与异步算法，实验验证了其公平性、高效性、适应性和有效性。
2025-08-21 cs.LG
Heterogeneous federated collaborative filtering using FAIR: Federated Averaging in Random Subspaces
Rice University（莱斯大学）；ThirdAI Corp（ThirdAI 公司）
针对联邦推荐中嵌入表超出异构设备内存的问题，本文提出 FAIR，利用基于哈希随机投影的一致可坍缩子空间实现任意压缩和全设备协同训练，并验证其效果与收敛性。
2023-11-03 cs.LG
FAIRVAR: Fair Federated Learning via Variance Regularization
Department of Computing Science, Umeå University, Umeå, Sweden（计算机科学系，乌梅大学，乌梅，瑞典）；Department of Mathematics and Mathematical Statistics, Umeå University, Umeå, Sweden（数学与统计学系，乌梅大学，乌梅，瑞典）
提出一种新的梯度方差正则化方法 FairGrad 和 FairGrad*，通过减少客户端准确率方差来提升联邦学习的公平性，同时保持或提高平均性能。
2026-06-24 cs.LG
Federated Learning with Matched Averaging
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；University of Michigan（密歇根大学）
联邦学习允许边缘设备协作学习共享模型，同时将训练数据保留在设备上，从而将进行模型训练的能力与将数据存储在云中的需求解耦。我们提出了联邦匹配平均（FedMA）算法，该算法设计用于现代神经网络架构（例如，卷积神经网络（CNN）和LSTM）的联邦学习。FedMA通过将隐藏元素（即卷积层的通道; LSTM的隐藏状态;全连接层的神经元）与类似的特征提取签名进行匹配和平均，以逐层方式构建共享全局模型。我们的实验表明，FedMA不仅在真实世界数据集上训练的深度CNN和LSTM架构上优于流行的最先进的联邦学习算法，而且还降低了整体通信负担。
2020-02-15 cs.LG stat.ML
Federated Averaging Langevin Dynamics: Toward a unified theory and new algorithms
École Polytechnique（巴黎综合理工学院）；Lagrange Mathematics and Computing Research Center（拉格朗日数学与计算研究中心）；Institut Polytechnique de Paris（巴黎理工学院）
本文主要研究联邦学习环境下的贝叶斯推断。虽然已经提出了几个分布式MCMC算法，很少考虑FL的具体限制，如通信瓶颈和统计异质性。最近，引入了联合平均朗之万动力学（Federated Averaging Langevin Dynamics，简称FMD），其将联合平均算法扩展到贝叶斯推断。我们得到了一个新的紧的非渐近上界的瓦瑟斯坦距离的全球后验的Wasserstein D。该界限突出了统计异质性的影响，这会导致局部更新的漂移，从而对收敛产生负面影响。我们提出了一个新的算法VR-VRND *，使用控制变量来纠正客户端漂移。我们建立了非渐近界，表明VR-ADVD * 不受统计异质性的影响。最后，我们说明了我们的结果在几个FL基准贝叶斯推断。
2022-10-31 cs.LG stat.ML
Window-based Model Averaging Improves Generalization in Heterogeneous Federated Learning
Politecnico di Torino（都灵理工大学）
针对联邦学习数据异构导致的噪声、不稳定和收敛慢问题，提出基于窗口的模型平均方法WIMA，聚合多轮全局模型以减少偏差，提升泛化，且无额外开销，实验验证其鲁棒性和有效性。
2023-10-10 cs.LG
Accelerating Fair Federated Learning: Adaptive Federated Adam
Uppsala University（乌普萨拉大学）
联邦学习是一种分布式和隐私保护的方法，用于从不同方的分散数据协作地训练统计模型。然而，当参与者的数据集不是独立和同分布的（非IID）时，由朴素联邦算法训练的模型可能偏向于某些参与者，并且参与者之间的模型性能是不均匀的。这被称为联邦学习中的公平性问题。在本文中，我们制定公平控制的联邦学习作为一个动态的多目标优化问题，以确保所有参与者的公平性能。为了有效地解决这一问题，本文研究了Adam作为联邦学习服务器优化器的收敛性和偏差，提出了自适应联邦Adam（AdaFedAdam）算法，在减轻偏差的同时加速公平的联邦学习。我们验证了AdaFedAdam的有效性，Pareto最优性和鲁棒性的数值实验，并表明AdaFedAdam优于现有的算法，提供更好的收敛性和公平性的联邦计划。
2023-01-23 cs.DC cs.LG
Fair Federated Learning via Bounded Group Loss
CMU（卡内基梅隆大学）
跨保护组的公平预测是许多联邦学习应用程序的重要约束。然而，以前的工作研究组公平联邦学习缺乏正式的收敛或公平性保证。在这项工作中，我们提出了一个可证明公平的联邦学习的一般框架。特别是，我们探索和扩展的概念有限的组损失作为一个理论基础的方法组公平。使用这种设置，我们提出了一个可扩展的联邦优化方法，优化了一些组公平性约束下的经验风险。我们提供的方法的收敛性保证以及公平性保证所得到的解决方案。从经验上讲，我们在公平ML和联邦学习的共同基准上评估了我们的方法，表明它可以提供比基线方法更公平，更准确的预测。
2022-10-13 cs.CY cs.LG
pFedFair: Towards Optimal Group Fairness-Accuracy Trade-off in Heterogeneous Federated Learning
The Chinese University of Hong Kong（香港中文大学）
针对异构联邦学习中现有群体公平性约束方法导致准确率次优的问题，提出pFedFair个性化联邦学习框架，通过客户端本地施加公平约束并结合图像嵌入模型拓展至视觉场景，实现了公平性与准确率的最优权衡。
2025-03-19 cs.LG
Class-Wise Federated Averaging for Efficient Personalization
SAKAK Inc.（SAKAK公司）；The Cyber University of Korea（韩国网络大学）
针对联邦学习在异构数据下个性化不足的问题，提出类级联邦平均（cwFedAvg）框架及权重分布正则化器（WDR），通过类级聚合与分布对齐实现高效个性化，保持通信成本并避免额外计算。
2025-08-02 cs.DC cs.LG
Federated Learning at the Forefront of Fairness: A Multifaceted Perspective
School of Computing, Macquarie University（麦考瑞大学计算机学院）；School of Control and Computer Engineering, North China Electric Power University（华北电力大学控制与计算机工程学院）
本文从多维度视角探讨联邦学习中的公平性问题，分类现有公平性方法，并提出框架和未来研究方向以推动公平性在FL中的发展。
2026-01-31 cs.LG
Entropy-driven Fair and Effective Federated Learning
School of Science and Engineering, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）理工程学院）；School of Science Information and Technology, ShanghaiTech University（上海科技大学信息科学与技术学院）；Department of Electrical Engineering and Computer Sciences, University of California, Berkeley（加州大学伯克利分校电气工程与计算机科学系）
针对联邦学习中设备异构导致的客户端性能不公平问题，提出基于熵聚合、模型与梯度对齐的双层优化算法，兼顾公平性、全局性能与收敛保证。
2025-05-11 cs.LG
Multi-dimensional Fair Federated Learning
Shandong University（山东大学）；SDU-NTU Joint Centre for AI Research, Shandong University（山东大学-南洋理工大学联合人工智能研究中心）；Nanyang Technological University（南洋理工大学）
针对联邦学习中群体公平与客户端公平难以兼顾的问题，提出mFairFL，通过差分乘子约束优化并检测、协调梯度冲突，在三个基准上优于七个基线。
2023-12-09 cs.LG
Post-Fair Federated Learning: Achieving Group and Community Fairness in Federated Learning via Post-processing
University of Notre Dame（圣母大学）
本文提出后处理公平联邦学习框架post-FFL，通过线性规划同时实现群体公平与社区公平，最大化全局模型效用，理论界定准确率损失，实验证明优于现有方法。
2024-05-28 cs.CY cs.LG
FairFed: Enabling Group Fairness in Federated Learning
University of Southern California（南加州大学）
训练在不同人口群体中公平的ML模型至关重要，因为ML在医疗保健和招聘等关键决策场景中的集成度越来越高。联邦学习已被视为一种有前途的解决方案，用于在多方之间协作训练机器学习模型，同时保持其本地数据的隐私。然而，联邦学习也在减轻对某些人群的潜在偏见方面提出了新的挑战（例如，人口统计组），因为这通常需要集中访问敏感信息（例如，种族、性别）。受群体公平性在联邦学习中的重要性和挑战的启发，在这项工作中，我们提出了FairFed，一种新的公平性感知聚合算法，以提高联邦学习中的群体公平性。我们提出的方法是服务器端和不可知的应用本地去偏置，从而允许跨客户端灵活使用不同的本地去偏置方法。我们根据经验评估FairFed与公平ML和联邦学习的公共基线，并证明它提供了更公平的模型，特别是在客户端之间高度异构的数据分布下。我们还展示了FairFed在涉及从组织内不同地理位置或部门收集的自然分布的真实数据的场景中的好处。
2022-11-23 cs.CY cs.LG
Fair Resource Allocation in Federated Learning
CMU（卡内基梅隆大学）；Facebook AI（Facebook人工智能）
联邦学习涉及在大规模异构网络中训练统计模型。在这样的网络中简单地最小化聚合损失函数可能不成比例地有利于或不利于某些设备。在这项工作中，我们提出了q-公平联邦学习（q-FFL），一种新的优化目标的启发，在无线网络中的公平资源分配，鼓励更公平（具体地说，更均匀）的准确性分布在联合网络中的设备。为了解决q-FFL，我们设计了一个通信效率高的方法，q-FedAvg，这是适合于联邦网络。我们在一套具有凸模型和非凸模型的联邦数据集上验证了q-FFL的有效性和q-FedAvg的效率，并表明q-FFL（以及q-FedAvg）在公平性、灵活性方面优于现有基线。和效率。
2020-02-14 cs.LG stat.ML
Federated Learning via Posterior Averaging: A New Perspective and Practical Algorithms
CMU（卡内基梅隆大学）；Google（谷歌）
联邦学习通常作为优化问题来处理，其中目标是通过跨拥有本地数据并指定全局目标的不同部分的客户端设备分布计算来最小化全局损失函数。我们提出了另一种观点，并将联邦学习表述为后验推理问题，其目标是通过让客户端设备各自推断其本地数据的后验来推断全局后验分布。虽然精确的推理通常是棘手的，但这种观点提供了一种在联邦设置中搜索全局最优值的原则性方法。此外，从联邦二次目标的分析，我们开发了一个计算和通信效率的近似后验推理算法-联邦后验平均（FedPA）。我们的算法使用MCMC对客户端的局部后验进行近似推断，并有效地将其统计信息传达给服务器，后者使用它们来改进后验模式的全局估计。最后，我们证明了FedPA概括了联邦平均（FedAvg），可以同样受益于自适应优化器，并在四个现实和具有挑战性的基准测试中产生最先进的结果，收敛速度更快，达到更好的最优。
2021-01-30 cs.AI cs.LG stat.ML
Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Ditto: Fair and Robust Federated Learning Through Personalization
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI（脸书人工智能研究院）
公平性和鲁棒性是联邦学习系统的两个重要问题。在这项工作中，我们确定，数据和模型中毒攻击和公平性的鲁棒性，衡量跨设备的性能的均匀性，在统计异构网络的竞争约束。为了解决这些限制，我们建议采用一个简单的，通用的框架个性化的联邦学习，Ditto，可以提供内在的公平性和鲁棒性的好处，并开发一个可扩展的solver为it.Theoretically，我们分析的能力，Ditto实现公平性和鲁棒性同时对一类线性问题。从经验上讲，在一套联合数据集上，我们表明Ditto不仅相对于最近的个性化方法实现了具有竞争力的性能，而且相对于最先进的公平或稳健的基线，还实现了更准确，稳健和公平的模型。
2021-06-15 cs.LG stat.ML
New Metrics to Evaluate the Performance and Fairness of Personalized Federated Learning
Purdue University（普渡大学）
在联邦学习（FL）中，客户端通过中央聚合器学习单个全局模型（FedAvg）。在这种设置中，跨客户端的数据的非IID分布限制了全局FL模型对每个客户端的本地数据提供良好的性能。个性化FL旨在通过为每个客户找到个性化模型来解决这个问题。最近的工作广泛报告了数据集的特定数据分割的平均个性化模型准确性，以评估其方法的有效性。然而，考虑到众多的个性化方法，它是至关重要的，以研究每个用户的个性化准确性和准确性的改善用户之间的公平的公平的概念。为了解决这些问题，我们提出了一套性能和公平性指标，旨在评估个性化FL方法的质量。我们将这些指标应用于最近提出的四种个性化FL方法，CIFAR-10数据集的三个不同数据分割上的PRFL，FedPer，pFedMe和Per-FedAvg。我们的评估表明，在用户中平均准确度最高的个性化模型可能不一定是最公平的。我们的代码可在https://tinyurl.com/1hp9ywfa上获得，供公众使用。
2021-07-28 cs.LG
Training Fair Models in Federated Learning without Data Privacy Infringement
McMaster University（麦克马斯特大学）；East China University of Science and Technology（华东理工大学）；Huawei Technologies Canada（华为技术加拿大公司）
针对联邦学习中难以在保护隐私的前提下训练公平模型的问题，提出联邦公平性评估方法与FedFair框架，可在不侵犯隐私的同时训练高性能公平模型，经三个真实数据集验证效果优异。
2024-11-01 cs.CY cs.LG
Precision-Weighted Federated Learning
Concordia University（康考迪亚大学）；Imagia Cybernetics Inc.（Imagia控制论公司）
使用联合平均算法的联邦学习对于依赖协作学习的大规模应用显示出巨大的优势，特别是当训练数据由于隐私约束而不平衡或不可访问时。我们假设，联邦平均低估了全部程度的异质性的数据进行聚合时。我们提出了精确加权的联邦学习一种新的算法，该算法在计算在联邦学习设置中训练的模型的参数的加权平均值时考虑了随机梯度的方差。通过精确加权联邦学习，我们提供了一种替代的平均方案，当数据的组成具有很大的特征多样性时，该方案可以利用数据的异质性。我们的方法使用标准图像分类数据集进行评估，使用两种不同的数据划分策略（IID/非IID）来衡量我们的方法在资源受限环境中的性能和速度，例如移动和物联网设备。我们得到了一个很好的平衡之间的计算效率和收敛速度与精度加权联邦学习。我们的性能评估显示，在非IID设置中，MNIST的预测效果好9%，Fashion-MNIST好18%，CIFAR-10好5%。进一步的可靠性评估批准的稳定性，在我们的方法达到99%的可靠性指标与IID分区和96%的非IID分区。此外，我们在Fashion-MNIST上获得了20倍的加速，只有10个客户端，而在每个通信回合有100个客户端同时参与聚合的情况下，加速高达37倍。结果表明，精确加权联邦学习是一种有效的和更快的方法来聚合私人数据，特别是在数据高度异构的领域。
2021-07-20 cs.LG
Byzantine-Robust Federated Machine Learning through Adaptive Model Averaging
Imperial College London（帝国理工学院）
联合学习能够在许多参与者的情况下大规模训练协作机器学习模型，同时保护其数据集的隐私。标准的联邦学习技术容易受到拜占庭式故障、有偏见的本地数据集和中毒攻击的影响。在本文中，我们介绍了自适应联邦平均，一种新的算法，强大的联邦学习，旨在检测故障，攻击和不良更新的参与者提供的协作模型。我们提出了一个隐马尔可夫模型来建模和学习每个参与者在训练过程中提供的模型更新的质量。与现有的强大的联邦学习计划相比，我们提出了一个强大的聚合规则，在每次训练迭代中检测和丢弃坏的或恶意的局部模型更新。这包括阻止不需要的参与者的机制，这也提高了计算和通信效率。我们在4个真实数据集上的实验评估表明，我们的算法对错误，噪声和恶意参与者的鲁棒性明显更强，同时比其他最先进的强大联邦学习方法（如Multi-KRUM和坐标中值）在计算上更有效。
2019-09-11 cs.DC cs.LG stat.ML
Federated Multiple Label Hashing (FedMLH): Communication Efficient Federated Learning on Extreme Classification Tasks
Rice University（莱斯大学）
联邦学习使许多本地设备能够联合训练深度学习模型，而无需共享本地数据。目前，大多数联邦训练方案通过平均局部模型的参数来学习全局模型。然而，这些训练方案中的大多数遭受高的通信成本导致的传输全部本地模型参数。此外，由于不同设备上的类不平衡的非iid数据，直接平均模型参数会导致显著的性能下降。特别是对于涉及极端分类的现实生活中的联邦学习任务，（1）通信成为主要瓶颈，因为模型大小与输出类的数量成比例地增加;（2）极端分类（例如用户推荐）通常具有极不平衡的类和不同设备上的异构数据。为了克服这个问题，我们提出了联邦多标签哈希（FedMLH），它利用标签散列来同时减小模型大小（最多减少3.40倍），包括通信费用（最多减少18.75倍），并实现了更高的准确性（相对精度提高高达35.5%）和更快的收敛速度（最多增加5.5倍），与联邦平均算法相比，在联邦极端分类任务上免费使用。
2021-10-23 cs.LG
Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation
University of Science and Technology of China（中国科学技术大学）；Aarhus University（奥胡斯大学）
针对联邦推荐中性别公平性与隐私保护的问题，提出PPOA方法，通过安全聚合、量化技术和正交映射，在保护用户属性隐私的同时提升不同性别群体推荐效果，实现最优公平性。
2024-11-29 cs.LG
Gradient Masked Averaging for Federated Learning
Massachussetts Institute of Technology（麻省理工学院）；Universite de Montreal（蒙特利尔大学）；Mila, Quebec AI Institute（魁北克人工智能研究所）；Sorbonne University（索邦大学）；Concordia University（康考迪亚大学）
针对联邦学习中数据异构导致平均聚合性能退化的问题，提出梯度掩码平均聚合方法，忽略虚假机制，在多个数据集上持续提升异构客户端性能。
2023-11-14 cs.AI cs.LG
Minimax Demographic Group Fairness in Federated Learning
University College London（伦敦大学学院）；Duke University（杜克大学）；Apple Inc.（苹果公司）
联邦学习是一种越来越流行的范例，它使大量实体能够协作学习更好的模型。在这项工作中，我们研究了在联邦学习场景中的极大极小组公平性，在这种场景中，不同的参与实体在训练阶段可能只能访问人口组的一个子集。我们正式分析了我们提出的组公平性目标与现有的联邦学习公平性标准的不同之处，这些标准在参与者而不是人口统计组之间施加类似的性能。我们提供了一个优化算法- FedMinMax -解决所提出的问题，证明享有集中式学习算法的性能保证。我们通过实验将所提出的方法与其他最先进的方法在各种联邦学习设置中的组公平性进行比较，表明我们的方法具有竞争力或优越的性能。
2022-01-25 cs.DC cs.LG
A Multivocal Literature Review on Privacy and Fairness in Federated Learning
University of Bayreuth（拜罗伊特大学）；Fraunhofer FIT（弗劳恩霍夫应用信息技术研究所）
本文通过多声文献综述梳理联邦学习中隐私与公平性的整合方法，指出二者关系被忽视且存在内在张力，呼吁构建兼顾隐私、公平与性能的一体化框架。
2024-10-27 cs.AI cs.LG
Riemannian Federated Learning via Averaging Gradient Streams
Xiamen University（厦门大学）；Indian Institute of Technology Bombay（印度孟买理工学院）；Microsoft（微软公司）
针对黎曼联邦学习中部分参与与数据异构性难题，提出RFedAGS算法，通过平均梯度流实现服务器聚合，并证明其全局与邻域收敛性，实验验证了良好性能。
2025-10-19 cs.LG math.OC
Benchmarking federated strategies in Peer-to-Peer Federated learning for biomedical data
CUNEF Universidad（库内夫大学）；Universidad Autónoma de Chile（智利自治大学）；Universidad Pablo de Olavide（巴勃罗·德·奥拉维德大学）；Universidad de Extremadura（埃斯特雷马杜拉大学）
本研究针对生物医学数据，在对等联邦学习环境中测试了多种聚合策略，发现基于准确率的加权平均方法优于经典的联邦平均方法。
2024-02-15 cs.AI cs.DC cs.LG
Enforcing fairness in private federated learning via the modified method of differential multipliers
KTH Royal Institute of Technology（KTH皇家理工学院）；Apple（苹果公司）
具有差分隐私的联邦学习或私有联邦学习提供了一种在尊重用户隐私的同时训练训练机器学习模型的策略。然而，差分隐私会不成比例地降低模型在代表性不足的群体上的性能，因为在存在噪声的情况下，分布的这些部分很难学习。在机器学习模型中实施公平性的现有方法已经考虑了集中式设置，其中算法可以访问用户的数据。本文介绍了一种在私有联邦学习中增强组公平性的算法，其中用户的数据不会离开他们的设备。首先，本文将修正的微分乘子方法推广到具有公平性约束的经验风险最小化问题，从而提供了一种在中心环境下实现公平性的算法。然后，将该算法扩展到私有联邦学习环境。所提出的算法，\texttt{FPFL}，测试的联邦版本的成人数据集和“不公平”版本的FEMNIST数据集。这些数据集上的实验显示了私有联邦学习如何加剧训练模型中的不公平性，以及FPFL如何能够减轻这种不公平性。
2022-04-15 cs.LG stat.ML
Fairness in Federated Learning for Spatial-Temporal Applications
University of Washington（华盛顿大学）；Kennesaw State University（肯尼索州立大学）
联邦学习涉及在移动电话等远程设备上训练统计模型，同时保持数据本地化。在异构且可能庞大的网络中进行培训，为隐私保护数据分析和使这些模型多样化提供了机会，使其对人群更具包容性。联邦学习可以被视为一个独特的机会，通过使模型训练发生在不同的参与者和定期动态生成的数据上，为许多现有模型带来公平和平等。在本文中，我们讨论了目前的度量和方法，可用于测量和评估的公平性的时空模型的背景下。我们提出了如何重新定义这些指标和方法，以解决在联邦学习环境中面临的挑战。
2022-01-20 cs.CY cs.LG
FairGFL: Privacy-Preserving Fairness-Aware Federated Learning with Overlapping Subgraphs
National Engineering Laboratory for Big Data Analytics (NEL-BDA)（大数据分析国家工程实验室）；School of Mathematics and Statistics（数学与统计学学院）；Ministry of Education Key Lab for Intelligent Networks and Network Security（教育部智能网络与网络安全重点实验室）；School of Computer Science and Technology（计算机科学与技术学院）
FairGFL通过保护隐私的方式，在联邦学习中提升跨客户端公平性，通过可解释的加权聚合和正则化器优化模型实用性与公平性的平衡。
2025-12-29 cs.DC cs.LG
Hierarchically Fair Federated Learning
Deakin University（迪肯大学）
当联邦学习在具有孤立数据集的竞争代理之间采用时，代理是自私的，并且只有当它们得到公平的奖励时才参与。为了鼓励联邦学习的应用，本文采用了一种管理策略，即，贡献越多，回报越多。我们提出了一种新的分层公平的联邦学习（HFFL）框架。在这一框架下，代理商将按其预先商定的贡献水平获得奖励。HFFL+扩展了这一点，以纳入异构模型。理论分析和几个数据集的实证评估证实了我们的框架在维护公平性，从而促进联邦学习在竞争环境中的有效性。
2020-05-01 cs.AI cs.CY cs.LG
FedPAQ: A Communication-Efficient Federated Learning Method with Periodic Averaging and Quantization
UC Santa Barbara（加州大学圣巴巴拉分校）；UT Austin（德克萨斯大学奥斯汀分校）；UPenn（宾夕法尼亚大学）；MIT（麻省理工学院）
联邦学习是一种分布式框架，根据该框架，在一组设备上训练模型，同时保持数据本地化。该框架面临着几个面向系统的挑战，其中包括（i）由于大量设备将其本地更新上传到参数服务器而产生的通信瓶颈，以及（ii）由于联合网络由数百万个设备组成而产生的可扩展性。由于这些系统挑战以及与数据的统计异质性和隐私问题相关的问题，设计一种可证明有效的联邦学习方法具有重要意义，但它仍然具有挑战性。在本文中，我们提出了FedPAQ，一个通信效率高的联邦学习方法与周期平均和量化。FedPAQ依赖于三个关键特性：（1）定期平均，其中模型在设备上本地更新，并且仅在服务器上定期平均;（2）部分设备参与，其中只有一小部分设备参与每轮训练;以及（3）量化消息传递，其中边缘节点在上传到参数服务器之前对其更新进行验证。这些特性解决了联邦学习中的通信和可伸缩性挑战。我们还表明，FedPAQ实现了近最佳的理论保证强凸和非凸损失函数和经验证明我们的方法提供的通信计算权衡。
2020-06-07 cs.DC cs.LG math.OC
FAVANO: Federated AVeraging with Asynchronous NOdes
Isep, Sorbonne University（索邦大学ISEP）；CMAP, Ecole Polytechnique（巴黎综合理工学院CMAP）；Mathematical and Algorithmic Sciences Lab, Huawei Technologies（华为技术数学与算法科学实验室）
本文提出了一种新颖的集中式异步联邦学习框架FAVANO，用于在资源受限环境中训练深度神经网络，提供了非凸环境下的收敛保证，并在标准基准上优于现有方法。
2023-11-22 cs.LG stat.ML
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Welfare and Fairness Dynamics in Federated Learning: A Client Selection Perspective
University of Minnesota（明尼苏达大学）
联邦学习（FL）是一种隐私保护学习技术，其使得分布式计算设备能够跨数据孤岛协作地训练共享学习模型。现有的FL工作主要集中在设计先进的FL算法，以提高模型的性能。然而，客户的经济考虑因素，如公平和激励，尚未得到充分探讨。如果没有这些考虑，自我激励的客户可能会失去兴趣并离开联合会。为了解决这个问题，我们设计了一个新的激励机制，包括客户选择过程，以消除低质量的客户和资金转移过程，以确保公平的奖励分配。实验结果表明，该激励机制能有效地提高联盟的持续时间和公平性。
2023-02-17 cs.LG stat.ML
Federated Fairness Analytics: Quantifying Fairness in Federated Learning
University of Bristol（布里斯托尔大学）
针对联邦学习中公平性定义与量化指标缺失的问题，提出包含四类概念及对应新指标的联邦公平性分析方法，实验验证其可助力从业者获取不同粒度的系统公平性洞察，相关工作已开源。
2024-08-15 cs.AI cs.DC cs.GT
From Optimization to Generalization: Fair Federated Learning against Quality Shift via Inter-Client Sharpness Matching
School of Electronic Information and Communications, Huazhong University of Science and Technology（华中科技大学电子信息与通信学院）
本研究针对联邦学习中成像质量偏移导致的公平性问题，提出客户端间锐度匹配（FedISM）方法，通过锐度感知协调客户端泛化，实验证明其优于现有方法。
2024-12-18 cs.CV cs.LG
FUSE: Fairness-aware Update Screening against Byzantine Exploitation in $q$-Fair Federated Learning
George Mason University（乔治梅森大学）；The University of Hong Kong（香港大学）；Huazhong University of Science and Technology（华中科技大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；The Hong Kong Polytechnic University（香港理工大学）
本研究针对$q$-公平联邦学习忽视拜占庭鲁棒性的问题，提出结构感知鲁棒聚合器FUSE，通过径向与结构测试结合可信数据集筛选更新，在多基准多攻击下显著提升最差攻击准确率并保留公平性。
2026-10-14 cs.AI cs.LG
Blockchain-based Trustworthy Federated Learning Architecture
Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；UNSW（新南威尔士大学）
联邦学习是一种新兴的隐私保护AI技术，其中客户端（即，组织或设备）在本地训练模型，并基于本地模型更新来制定全局模型，而无需外部地传输本地数据。然而，联邦学习系统很难实现可信度并体现负责任的人工智能原则。特别是，联邦学习系统面临着问责和公平性的挑战，由于多利益相关者的参与和客户端数据分布的异质性。为了增强联邦学习系统的可问责性和公平性，我们提出了一种基于区块链的可信联邦学习架构。我们首先设计了一个基于智能合约的数据模型出处注册表，以实现问责制。此外，我们提出了一个加权公平的数据采样算法，以提高公平性的训练数据。我们使用COVID-19 X射线检测用例来评估所提出的方法。评价结果表明，这一办法是可行的，可以促进问责制，提高公平性。该算法可以实现更好的性能比默认的联邦学习设置在模型的泛化和准确性。
2021-10-29 cs.AI cs.LG
Adaptive Personalized Federated Learning via Multi-task Averaging of Kernel Mean Embeddings
Inria（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）；University of Montpellier（蒙彼利埃大学）；Univ. Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
本文提出基于核均值嵌入的多任务平均方法，实现自适应个性化联邦学习，无需预设数据异质性，自动切换全局与局部学习模式，并通过随机傅里叶特征降低通信成本。
2026-02-13 cs.AI cs.LG
