Federated Fairness Analytics: Quantifying Fairness in Federated Learning
University of Bristol（布里斯托尔大学）
针对联邦学习中公平性定义与量化指标缺失的问题，提出包含四类概念及对应新指标的联邦公平性分析方法，实验验证其可助力从业者获取不同粒度的系统公平性洞察，相关工作已开源。
2024-08-15 cs.AI cs.DC cs.GT
Convergence-Privacy-Fairness Trade-Off in Personalized Federated Learning
Beijing University of Posts and Telecommunications（北京邮电大学）；Macquarie University（麦考瑞大学）；Peng Cheng Laboratory（鹏城实验室）；University of Technology Sydney（悉尼大学）；University of Manitoba（曼尼托巴大学）
本文提出DP-Ditto，在差分隐私保护下扩展Ditto，分析个性化联邦学习中的隐私、收敛与公平权衡，并证明其在公平性和准确性上显著优于现有方法。
2025-06-17 cs.DC cs.LG
Unified Group Fairness on Federated Learning
University of YYY（YYY大学）；Institute of WWW（WWW研究所）
联邦学习（FL）已经成为一种重要的机器学习范例，其中基于来自分布式客户端的私有数据来训练全局模型。然而，现有的FL算法大多不能保证性能公平性对不同的群体，因为数据分布偏移组。在本文中，我们制定了统一的组公平性问题的FL，其中组可以形成的客户端（包括现有的客户端和新添加的客户端）和敏感属性（S）。为了解决这个问题，我们首先提出了一个通用的公平联邦框架。然后从联邦不确定集的角度出发，通过理论分析，构造了一个统一的组公平风险，以保证FL上的统一组公平性，并提出了一种有效的联邦优化算法--带动量加速的联邦镜像下降上升算法（Federated Mirror Descent Ascent with Momentum Acceleration，FMDA-M）。通过实验验证了FMDA-M算法在各种分布偏移设置下的优越性，实验结果表明FMDA-M算法在统一组公平性方面优于现有的公平FL算法。
2022-02-16 cs.LG
FedGA: A Fair Federated Learning Framework Based on the Gini Coefficient
Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology（广西可信软件重点实验室，桂林电子科技大学）
本文提出 FedGA 框架，利用基尼系数量化客户端性能差异，并据此自适应确定公平干预时机和动态调整聚合权重，在多个数据集上验证了其在保持整体性能的同时提升公平性的效果。
2025-07-17 cs.DC cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
E2FL: Equal and Equitable Federated Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）使数据所有者能够训练共享的全局模型，而无需共享其私有数据。不幸的是，FL容易受到内在公平性问题的影响：由于客户端数据分布的异质性，最终训练的模型可以在参与的客户端之间提供不成比例的优势。在这项工作中，我们提出了平等和公平的联邦学习（E2FL），以产生公平的联邦学习模型，同时保持两个主要的公平性，公平和平等。我们验证了E2FL在不同的现实世界FL应用的效率和公平性，并表明E2FL优于现有的基线方面所产生的效率，不同群体的公平性，以及所有个人客户端之间的公平性。
2022-08-16 cs.LG
Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Fairness and Accuracy in Federated Learning
Southwest Jiaotong University（西南交通大学）
在联邦学习设置中，多个客户端在中央服务器的协调下联合训练模型，而训练数据保存在客户端上以确保隐私。通常，联合网络中不同设备之间的数据分布不一致，终端设备之间的通信带宽有限，这使得统计异构性和昂贵的通信成为联邦学习的主要挑战。提出了一种在联邦学习（FedFa）中提高公平性和准确性的算法。它引入了一个优化方案，采用了双动量梯度，从而加快了模型的收敛速度。提出了一种结合训练精度和训练频率的信息量来衡量权值的权值选择算法。该程序有助于解决由于某些客户的偏好而导致的联邦学习中的不公平问题。我们的研究结果表明，所提出的FedFa算法优于基线算法的准确性和公平性。
2020-12-18 cs.LG
Linkage on Security, Privacy and Fairness in Federated Learning: New Balances and New Perspectives
City University of Macau（澳门城市大学）；University of Technology Sydney（悉尼科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本综述梳理联邦学习中隐私、安全与公平问题，分析三者间复杂关联与权衡，并指出公平性可作为连接隐私与安全的桥梁及未来研究方向。
2024-06-16 cs.CR cs.DC cs.LG
Post-Fair Federated Learning: Achieving Group and Community Fairness in Federated Learning via Post-processing
University of Notre Dame（圣母大学）
本文提出后处理公平联邦学习框架post-FFL，通过线性规划同时实现群体公平与社区公平，最大化全局模型效用，理论界定准确率损失，实验证明优于现有方法。
2024-05-28 cs.CY cs.LG
FedSAC: Dynamic Submodel Allocation for Collaborative Fairness in Federated Learning
Xiamen University（厦门大学）；Sony AI（索尼人工智能）
针对联邦学习中的协作公平性问题，提出FedSAC框架，通过动态子模型分配实现有界协作公平性，兼顾本地模型一致性，提升公平性与模型精度。
2024-05-28 cs.AI cs.DC cs.LG
FedFACT: A Provable Framework for Controllable Group-Fairness Calibration in Federated Learning
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
FedFACT提出一种可控联邦群体公平性校准框架，通过刻画全局与局部公平约束下的贝叶斯最优分类器，将公平联邦学习重构为代价敏感学习与双层优化问题，并给出收敛与泛化保证，实验证明其在准确率与公平性权衡上优于基线。
2025-11-07 cs.LG
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Enhancing Convergence, Privacy and Fairness for Wireless Personalized Federated Learning: Quantization-Assisted Min-Max Fair Scheduling
School of Information and Communication Engineering, Beijing University of Posts and Telecommunications（信息与通信工程学院，北京邮电大学）；School of Computing, Macquarie University（计算学院，麦考瑞大学）；Department of Broadband Communication, Peng Cheng Laboratory（宽带通信部，鹏城实验室）；China Telecom, Sichuan Branch（中国电信四川分公司）
本文针对无线个性化联邦学习中的隐私与公平性问题，提出量化辅助高斯差分隐私机制，并通过最小化收敛上界设计最小-最大公平调度策略，实验表明其在准确率、最大测试损失和公平性上显著优于其他方法。
2025-06-03 cs.DC cs.LG
Improving Fairness for Data Valuation in Horizontal Federated Learning
University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada Co.（华为技术加拿大公司）；Simon Fraser University（西蒙弗雷泽大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
联邦学习是一种新兴的分散式机器学习方案，允许多个数据所有者协同工作，同时确保数据隐私。联邦学习的成功很大程度上取决于数据所有者的参与。为了维持和鼓励数据所有者的参与，公平地评估数据所有者提供的数据质量并给予相应的奖励至关重要。最近由Wang等人提出的联邦Shapley值[联邦学习，2020]是在联邦学习框架下对数据价值的度量，满足数据估值的许多期望属性。然而，在联合Shapley值的设计中仍然存在潜在的不公平因素，因为具有相同本地数据的两个数据所有者可能不会收到相同的评估。为了提高联邦Shapley值的公平性，提出了一种新的度量标准--完备联邦Shapley值。设计依赖于完成一个矩阵，该矩阵由数据所有者的不同子集的所有可能贡献组成。它示出了在温和的条件下，该矩阵是近似低秩的利用优化的概念和工具。理论分析和实证评估都证实了该措施在许多情况下确实改善了公平性。
2022-05-23 cs.LG
A Multivocal Literature Review on Privacy and Fairness in Federated Learning
University of Bayreuth（拜罗伊特大学）；Fraunhofer FIT（弗劳恩霍夫应用信息技术研究所）
本文通过多声文献综述梳理联邦学习中隐私与公平性的整合方法，指出二者关系被忽视且存在内在张力，呼吁构建兼顾隐私、公平与性能的一体化框架。
2024-10-27 cs.AI cs.LG
pFedFair: Towards Optimal Group Fairness-Accuracy Trade-off in Heterogeneous Federated Learning
The Chinese University of Hong Kong（香港中文大学）
针对异构联邦学习中现有群体公平性约束方法导致准确率次优的问题，提出pFedFair个性化联邦学习框架，通过客户端本地施加公平约束并结合图像嵌入模型拓展至视觉场景，实现了公平性与准确率的最优权衡。
2025-03-19 cs.LG
Fairness in Federated Learning for Spatial-Temporal Applications
University of Washington（华盛顿大学）；Kennesaw State University（肯尼索州立大学）
联邦学习涉及在移动电话等远程设备上训练统计模型，同时保持数据本地化。在异构且可能庞大的网络中进行培训，为隐私保护数据分析和使这些模型多样化提供了机会，使其对人群更具包容性。联邦学习可以被视为一个独特的机会，通过使模型训练发生在不同的参与者和定期动态生成的数据上，为许多现有模型带来公平和平等。在本文中，我们讨论了目前的度量和方法，可用于测量和评估的公平性的时空模型的背景下。我们提出了如何重新定义这些指标和方法，以解决在联邦学习环境中面临的挑战。
2022-01-20 cs.CY cs.LG
Multi-Criteria Client Selection and Scheduling with Fairness Guarantee for Federated Learning Service
University of Memphis（孟菲斯大学）；Shenzhen University（深圳大学）
针对联邦学习中的客户端选择与调度问题，提出一种多准则公平性保证方案，通过两阶段贪心与启发式算法，在预算内最大化得分并确保每个客户端至少被选一次，实验证明在非独立同分布数据下能提升模型质量。
2023-12-05 cs.DC cs.LG
Improving Fairness via Federated Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
最近，已经提出了许多算法来从分散数据中学习公平分类器。然而，许多理论和算法问题仍然是开放的。首先，联邦学习是否必要，即，我们是否可以简单地训练当地公平的分类人员并将其汇总？在这项工作中，我们首先提出了一个新的理论框架，我们证明了联邦学习可以严格提高模型公平性相比，这样的非联邦算法。然后，我们从理论上和经验表明，基于FedAvg的公平学习算法的性能权衡严格比集中式数据训练的公平分类器差。为了弥合这一差距，我们提出了FedFB，一个私人公平的学习算法分散的数据。关键思想是修改FedAvg协议，使其能够有效地模仿集中式公平学习。我们的实验结果表明，FedFB显著优于现有方法，有时与集中训练模型的性能相匹配。
2022-12-07 cs.LG
Enforcing fairness in private federated learning via the modified method of differential multipliers
KTH Royal Institute of Technology（KTH皇家理工学院）；Apple（苹果公司）
具有差分隐私的联邦学习或私有联邦学习提供了一种在尊重用户隐私的同时训练训练机器学习模型的策略。然而，差分隐私会不成比例地降低模型在代表性不足的群体上的性能，因为在存在噪声的情况下，分布的这些部分很难学习。在机器学习模型中实施公平性的现有方法已经考虑了集中式设置，其中算法可以访问用户的数据。本文介绍了一种在私有联邦学习中增强组公平性的算法，其中用户的数据不会离开他们的设备。首先，本文将修正的微分乘子方法推广到具有公平性约束的经验风险最小化问题，从而提供了一种在中心环境下实现公平性的算法。然后，将该算法扩展到私有联邦学习环境。所提出的算法，\texttt{FPFL}，测试的联邦版本的成人数据集和“不公平”版本的FEMNIST数据集。这些数据集上的实验显示了私有联邦学习如何加剧训练模型中的不公平性，以及FPFL如何能够减轻这种不公平性。
2022-04-15 cs.LG stat.ML
An Efficiency-boosting Client Selection Scheme for Federated Learning with Fairness Guarantee
South China University of Technology（华南理工大学）；the University of Warwick（华威大学）；State University of New York, New Paltz（纽约州立大学新帕尔兹分校）；The University of Sydney（悉尼大学）
针对联邦学习中客户端选择影响效率与公平性的问题，提出基于李雅普诺夫优化和C2MAB的RBCS-F算法，以估计模型交换时间并保证公平，其遗憾有界且经实验验证。
2023-09-04 cs.DC cs.LG
Federated Learning at the Forefront of Fairness: A Multifaceted Perspective
School of Computing, Macquarie University（麦考瑞大学计算机学院）；School of Control and Computer Engineering, North China Electric Power University（华北电力大学控制与计算机工程学院）
本文从多维度视角探讨联邦学习中的公平性问题，分类现有公平性方法，并提出框架和未来研究方向以推动公平性在FL中的发展。
2026-01-31 cs.LG
Achieving Fairness Across Local and Global Models in Federated Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；John Hopkins University（约翰霍普金斯大学）；The University of Texas Health at Houston（德克萨斯大学休斯顿健康科学中心）
针对联邦学习中数据异构与敏感属性不可用导致的公平性挑战，提出EquiFL方法，通过在本地优化中引入公平性项并设计协调机制，有效提升本地与全局公平性，并在多个基准及医疗数据集上验证了其准确性与公平性的平衡。
2024-06-24 cs.CY cs.LG
Fairness-Aware Client Selection for Federated Learning
Nanyang Technological University (NTU)（南洋理工大学）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）；Alibaba Group（阿里巴巴集团）；University of Science and Technology of China（中国科学技术大学）
针对联邦学习客户端选择中性能与公平难以平衡的问题，提出基于Lyapunov优化的FairFedCS方法，联合多维度动态调整选择概率，实验验证其在公平性和准确率上均优于现有前沿方法。
2023-07-20 cs.AI cs.DC cs.LG
Fairness-Aware Job Scheduling for Multi-Job Federated Learning
Nanyang Technological University（南洋理工大学）；DSO National Laboratories（DSO国家实验室）；Alibaba Group（阿里巴巴集团）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）
针对多服务器联邦学习中的客户端竞争问题，提出基于李雅普诺夫优化的公平性感知调度方法FairFedJS，兼顾需求与出价，显著提升调度公平性并缩短收敛时间。
2024-02-08 cs.AI cs.DC cs.LG
Emulating Full Participation: An Effective and Fair Client Selection Strategy for Federated Learning
The Chinese University of Hong Kong（香港中文大学）；Zhejiang Lab（之江实验室）；School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区网络空间安全学院）；Tsinghua University（清华大学）
针对联邦学习中客户端选择的性能与公平性冲突问题，提出基于Lyapunov函数和子模性的长期优化策略，通过增强客户端数据分布多样性，实现接近全参与的收敛效果与公平性提升。
2025-03-24 cs.DC cs.LG
Fair Federated Learning via Bounded Group Loss
CMU（卡内基梅隆大学）
跨保护组的公平预测是许多联邦学习应用程序的重要约束。然而，以前的工作研究组公平联邦学习缺乏正式的收敛或公平性保证。在这项工作中，我们提出了一个可证明公平的联邦学习的一般框架。特别是，我们探索和扩展的概念有限的组损失作为一个理论基础的方法组公平。使用这种设置，我们提出了一个可扩展的联邦优化方法，优化了一些组公平性约束下的经验风险。我们提供的方法的收敛性保证以及公平性保证所得到的解决方案。从经验上讲，我们在公平ML和联邦学习的共同基准上评估了我们的方法，表明它可以提供比基线方法更公平，更准确的预测。
2022-10-13 cs.CY cs.LG
FairFed: Enabling Group Fairness in Federated Learning
University of Southern California（南加州大学）
训练在不同人口群体中公平的ML模型至关重要，因为ML在医疗保健和招聘等关键决策场景中的集成度越来越高。联邦学习已被视为一种有前途的解决方案，用于在多方之间协作训练机器学习模型，同时保持其本地数据的隐私。然而，联邦学习也在减轻对某些人群的潜在偏见方面提出了新的挑战（例如，人口统计组），因为这通常需要集中访问敏感信息（例如，种族、性别）。受群体公平性在联邦学习中的重要性和挑战的启发，在这项工作中，我们提出了FairFed，一种新的公平性感知聚合算法，以提高联邦学习中的群体公平性。我们提出的方法是服务器端和不可知的应用本地去偏置，从而允许跨客户端灵活使用不同的本地去偏置方法。我们根据经验评估FairFed与公平ML和联邦学习的公共基线，并证明它提供了更公平的模型，特别是在客户端之间高度异构的数据分布下。我们还展示了FairFed在涉及从组织内不同地理位置或部门收集的自然分布的真实数据的场景中的好处。
2022-11-23 cs.CY cs.LG
CurvFed: Curvature-Aligned Federated Learning for Fairness without Demographics
Arizona State University（亚利桑那州立大学）
CurvFed通过优化损失景观曲率，在不使用人口统计学信息的情况下实现联邦学习中的公平性，通过Fisher信息矩阵的顶层特征值正则化，提升模型在不同偏见因素下的一致性。
2026-09-23 cs.AI cs.DC cs.LG
Welfare and Fairness Dynamics in Federated Learning: A Client Selection Perspective
University of Minnesota（明尼苏达大学）
联邦学习（FL）是一种隐私保护学习技术，其使得分布式计算设备能够跨数据孤岛协作地训练共享学习模型。现有的FL工作主要集中在设计先进的FL算法，以提高模型的性能。然而，客户的经济考虑因素，如公平和激励，尚未得到充分探讨。如果没有这些考虑，自我激励的客户可能会失去兴趣并离开联合会。为了解决这个问题，我们设计了一个新的激励机制，包括客户选择过程，以消除低质量的客户和资金转移过程，以确保公平的奖励分配。实验结果表明，该激励机制能有效地提高联盟的持续时间和公平性。
2023-02-17 cs.LG stat.ML
Global Group Fairness in Federated Learning via Function Tracking
EPFL（洛桑联邦理工学院）；ETH Zurich（苏黎世联邦理工学院）
针对联邦学习中全局公平正则项难按客户端拆分的问题，提出基于MMD的低通信开销函数跟踪方案，可兼容主流联邦算法并保证收敛，还能简化差分隐私下的分析，实验验证了理论有效性。
2025-03-19 cs.LG math.OC stat.ME
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
PrivFairFL: Privacy-Preserving Group Fairness in Federated Learning
Mila – Quebec AI Institute（Mila – 魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；University of Washington Tacoma（华盛顿大学塔科马分校）；Ghent University（根特大学）
群体公平性确保了基于机器学习（ML）的决策系统的结果不会偏向于由敏感属性（如性别或种族）定义的特定人群。在联邦学习（FL）中实现群体公平性是具有挑战性的，因为减轻偏见本质上需要使用所有客户端的敏感属性值，而FL的目的正是通过不允许访问客户端的数据来保护隐私。正如我们在本文中所示，在FL中的公平性和隐私性之间的冲突可以通过将FL与安全多方计算（MPC）和差分隐私（DP）相结合来解决。在这样做的过程中，我们提出了一种在完整和正式的隐私保证下在跨设备FL中训练组公平ML模型的方法，而不需要客户端公开其敏感属性值。
2022-08-26 cs.CR cs.LG
FedFair^3: Unlocking Threefold Fairness in Federated Learning
School of Computing and Informatics（计算与信息学院）；University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）
针对联邦学习中客户端参与公平性与效率难兼顾的问题，提出实现选择策略、参与轮次、准确率分布三重公平的FedFair^3方法，在不降低全局准确率的同时显著降低准确率方差并缩短训练时间。
2024-01-29 cs.AI cs.CY cs.DC
Federated Learning with Relative Fairness
The University of Tokyo（东京大学）；RIKEN Advanced Intelligence Project（理化学研究所先进智能项目）
本文提出一个联邦学习框架，通过极小极大问题方法最小化客户端间的相对不公平性，引入基于损失比率的公平性指标，并开发了Scaff-PD-IA算法，在保持性能的同时降低差异。
2024-11-02 cs.CR cs.LG stat.ML
FedCF: Fair Federated Conformal Prediction
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
提出FedCF框架，将共形公平性扩展到联邦学习，通过分析不同人口统计组的公平性差距来审计模型公平性，并在多个数据集上验证。
2026-05-30 cs.LG
Towards Fairness-Aware Federated Learning
Nanyang Technological University（南洋理工大学）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-南洋理工大学新加坡联合研究院）；Alibaba Group（阿里巴巴集团）；The University of British Columbia（不列颠哥伦比亚大学）
本文针对联邦学习中客户端被不公平对待的问题，系统综述了公平感知联邦学习（FAFL）方法，提出涵盖客户端选择、优化、贡献评估和激励分配的分类体系，并探讨了评估指标与未来研究方向。
2023-04-03 cs.AI cs.DC cs.LG
Empirical Analysis of Privacy-Fairness-Accuracy Trade-offs in Federated Learning: A Step Towards Responsible AI
本文首次对联邦学习中的隐私-公平性-效用权衡进行大规模实证研究，系统比较了DP、HE、SMC与公平性优化器在多数据集上的表现，揭示了隐私与公平机制的意外相互作用，并提出了设计鲁棒FL系统的实用指南。
2025-08-09 cs.CR cs.DC cs.ET
Fairness and Privacy in Federated Learning and Their Implications in Healthcare
University of Virginia（弗吉尼亚大学）
本文综述医疗场景下公平联邦学习的生命周期，提出更新的公平性分类，并分析隐私保护、非iid数据、通信开销与客户端异构性带来的实现挑战。
2023-08-15 cs.CR cs.LG
FairEnergy: Contribution-Based Fairness meets Energy Efficiency in Federated Learning
FairEnergy通过整合贡献评分优化设备选择、带宽分配和压缩级别，实现联邦学习中的公平性与能效的平衡，实验表明其在非IID数据上能提升精度并显著降低能耗。
2025-11-19 cs.LG
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation
University of Science and Technology of China（中国科学技术大学）；Aarhus University（奥胡斯大学）
针对联邦推荐中性别公平性与隐私保护的问题，提出PPOA方法，通过安全聚合、量化技术和正交映射，在保护用户属性隐私的同时提升不同性别群体推荐效果，实现最优公平性。
2024-11-29 cs.LG
Toward the Tradeoffs between Privacy, Fairness and Utility in Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Huazhong University of Science and Technology（华中科技大学）
本文研究联邦学习中隐私、公平性与效用的相互影响，提出隐私保护的公平联邦学习方法，并实验证明三者之间存在权衡关系。
2023-11-30 cs.AI cs.LG
Federated fairness-aware classification under differential privacy
Department of Statistics, University of Warwick（沃里克大学统计系）
本文研究了在联邦学习中差分隐私与公平性对分类任务的联合影响，提出FDP-Fair算法及简化版CDP-Fair算法，理论分析并验证了算法在隐私、公平性和风险控制方面的保障。
2026-03-25 cs.LG stat.ME stat.ML
Friends in Unexpected Places: Enhancing Local Fairness in Federated Learning through Clustering
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究）；UC, San Diego（圣地亚哥大学）
针对异构联邦学习中全局与局部公平性不一致的问题，提出基于聚类的局部公平FL新算法，通过引入新公平性度量实现局部准确率与公平性的可调平衡，无需显式干预即可达到或超越现有方法。
2025-05-30 cs.CY cs.LG
CoRe-Fed: Bridging Collaborative and Representation Fairness via Federated Embedding Distillation
CoRe-Fed通过联邦嵌入蒸馏实现协同与表示公平性，通过嵌入级正则化和公平性感知聚合策略提升模型性能和公平性。
2026-01-31 cs.LG
Federated Unlearning in the Wild: Rethinking Fairness and Data Discrepancy
针对联邦遗忘中公平性缺失与数据异质性被忽视的问题，提出公平感知的FedCCCU方法，通过跨客户端约束实现高效遗忘，实验证明其优于现有方法。
2025-10-08 cs.AI cs.LG
Ditto: Fair and Robust Federated Learning Through Personalization
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI（脸书人工智能研究院）
公平性和鲁棒性是联邦学习系统的两个重要问题。在这项工作中，我们确定，数据和模型中毒攻击和公平性的鲁棒性，衡量跨设备的性能的均匀性，在统计异构网络的竞争约束。为了解决这些限制，我们建议采用一个简单的，通用的框架个性化的联邦学习，Ditto，可以提供内在的公平性和鲁棒性的好处，并开发一个可扩展的solver为it.Theoretically，我们分析的能力，Ditto实现公平性和鲁棒性同时对一类线性问题。从经验上讲，在一套联合数据集上，我们表明Ditto不仅相对于最近的个性化方法实现了具有竞争力的性能，而且相对于最先进的公平或稳健的基线，还实现了更准确，稳健和公平的模型。
2021-06-15 cs.LG stat.ML
Fairness-Aware Federated Learning with Trajectory Shapley Value
Faculty of Mathematics, Ecole Normale Supérieure Paris-Saclay（巴黎-萨克雷大学数学系）；Chair for Dynamics, Control, Machine Learning and Numerics – Alexander von Humboldt Professorship, Department of Mathematics, Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔兰根-纽伦堡弗里德里希-亚历山大大学数学系）
提出轨迹Shapley值作为贡献度量，并设计FedTSV自适应聚合方法，以解决联邦学习中固定权重导致的偏倚和不稳定问题，实现公平、鲁棒且高效的协作学习。
2026-11-13 cs.LG
Federated Learning with Fair Worker Selection: A Multi-Round Submodular Maximization Approach
Virginia Tech（弗吉尼亚理工大学）；The Ohio State University（俄亥俄州立大学）
在本文中，我们研究了联邦学习系统中的公平工人选择问题，其中公平作为一种激励机制，鼓励更多的工人参加联邦。考虑到全局模型的训练精度作为所选工人的效用，这通常是一个单调子模块函数，我们将工人选择问题表示为一个新的具有基数和公平性约束的多轮单调子模块最大化问题。其目标是最大限度地提高多轮的时间平均效用，但需要满足额外的公平性要求，即每个工人必须在一定的时间内被选中。虽然传统的具有基数约束的子模最大化已经是一个众所周知的NP-Hard问题，但多轮设置中的公平性约束增加了额外的难度。为了解决这个新的挑战，我们提出了三种算法：公平连续贪婪（FairCG 1和FairCG 2）和公平离散贪婪（FairDG），所有这些算法都满足公平性要求，只要可行。此外，我们证明了在FairCG 1和FairCG 2下实现的时间平均效用的非平凡下界。此外，通过给予公平性更高的优先级，FairDG确保了更强的短期公平性保证，这在每一轮中都有效。最后，我们进行了大量的模拟，以验证所提出的算法的有效性的时间平均效用和公平性的满意度。
2021-07-25 cs.DC cs.GT cs.LG
Mitigating Group Bias in Federated Learning: Beyond Local Fairness
University of Minnesota（明尼苏达大学）；Cisco Systems Inc.（思科系统公司）
本研究探讨了联邦学习中局部公平训练的理论基础，证明全局模型公平性可由本地客户端汇总统计量获得，并提出一种直接最小化带惩罚经验损失的全局公平训练算法，在保持高准确率的同时显著提升了公平性。
2023-05-17 cs.CY cs.LG
Blockchain-based Trustworthy Federated Learning Architecture
Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；UNSW（新南威尔士大学）
联邦学习是一种新兴的隐私保护AI技术，其中客户端（即，组织或设备）在本地训练模型，并基于本地模型更新来制定全局模型，而无需外部地传输本地数据。然而，联邦学习系统很难实现可信度并体现负责任的人工智能原则。特别是，联邦学习系统面临着问责和公平性的挑战，由于多利益相关者的参与和客户端数据分布的异质性。为了增强联邦学习系统的可问责性和公平性，我们提出了一种基于区块链的可信联邦学习架构。我们首先设计了一个基于智能合约的数据模型出处注册表，以实现问责制。此外，我们提出了一个加权公平的数据采样算法，以提高公平性的训练数据。我们使用COVID-19 X射线检测用例来评估所提出的方法。评价结果表明，这一办法是可行的，可以促进问责制，提高公平性。该算法可以实现更好的性能比默认的联邦学习设置在模型的泛化和准确性。
2021-10-29 cs.AI cs.LG
New Metrics to Evaluate the Performance and Fairness of Personalized Federated Learning
Purdue University（普渡大学）
在联邦学习（FL）中，客户端通过中央聚合器学习单个全局模型（FedAvg）。在这种设置中，跨客户端的数据的非IID分布限制了全局FL模型对每个客户端的本地数据提供良好的性能。个性化FL旨在通过为每个客户找到个性化模型来解决这个问题。最近的工作广泛报告了数据集的特定数据分割的平均个性化模型准确性，以评估其方法的有效性。然而，考虑到众多的个性化方法，它是至关重要的，以研究每个用户的个性化准确性和准确性的改善用户之间的公平的公平的概念。为了解决这些问题，我们提出了一套性能和公平性指标，旨在评估个性化FL方法的质量。我们将这些指标应用于最近提出的四种个性化FL方法，CIFAR-10数据集的三个不同数据分割上的PRFL，FedPer，pFedMe和Per-FedAvg。我们的评估表明，在用户中平均准确度最高的个性化模型可能不一定是最公平的。我们的代码可在https://tinyurl.com/1hp9ywfa上获得，供公众使用。
2021-07-28 cs.LG
