Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Welfare and Fairness Dynamics in Federated Learning: A Client Selection Perspective
University of Minnesota（明尼苏达大学）
联邦学习（FL）是一种隐私保护学习技术，其使得分布式计算设备能够跨数据孤岛协作地训练共享学习模型。现有的FL工作主要集中在设计先进的FL算法，以提高模型的性能。然而，客户的经济考虑因素，如公平和激励，尚未得到充分探讨。如果没有这些考虑，自我激励的客户可能会失去兴趣并离开联合会。为了解决这个问题，我们设计了一个新的激励机制，包括客户选择过程，以消除低质量的客户和资金转移过程，以确保公平的奖励分配。实验结果表明，该激励机制能有效地提高联盟的持续时间和公平性。
2023-02-17 cs.LG stat.ML
Unified Group Fairness on Federated Learning
University of YYY（YYY大学）；Institute of WWW（WWW研究所）
联邦学习（FL）已经成为一种重要的机器学习范例，其中基于来自分布式客户端的私有数据来训练全局模型。然而，现有的FL算法大多不能保证性能公平性对不同的群体，因为数据分布偏移组。在本文中，我们制定了统一的组公平性问题的FL，其中组可以形成的客户端（包括现有的客户端和新添加的客户端）和敏感属性（S）。为了解决这个问题，我们首先提出了一个通用的公平联邦框架。然后从联邦不确定集的角度出发，通过理论分析，构造了一个统一的组公平风险，以保证FL上的统一组公平性，并提出了一种有效的联邦优化算法--带动量加速的联邦镜像下降上升算法（Federated Mirror Descent Ascent with Momentum Acceleration，FMDA-M）。通过实验验证了FMDA-M算法在各种分布偏移设置下的优越性，实验结果表明FMDA-M算法在统一组公平性方面优于现有的公平FL算法。
2022-02-16 cs.LG
Global Group Fairness in Federated Learning via Function Tracking
EPFL（洛桑联邦理工学院）；ETH Zurich（苏黎世联邦理工学院）
针对联邦学习中全局公平正则项难按客户端拆分的问题，提出基于MMD的低通信开销函数跟踪方案，可兼容主流联邦算法并保证收敛，还能简化差分隐私下的分析，实验验证了理论有效性。
2025-03-19 cs.LG math.OC stat.ME
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
Post-Fair Federated Learning: Achieving Group and Community Fairness in Federated Learning via Post-processing
University of Notre Dame（圣母大学）
本文提出后处理公平联邦学习框架post-FFL，通过线性规划同时实现群体公平与社区公平，最大化全局模型效用，理论界定准确率损失，实验证明优于现有方法。
2024-05-28 cs.CY cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
Federated Learning with Relative Fairness
The University of Tokyo（东京大学）；RIKEN Advanced Intelligence Project（理化学研究所先进智能项目）
本文提出一个联邦学习框架，通过极小极大问题方法最小化客户端间的相对不公平性，引入基于损失比率的公平性指标，并开发了Scaff-PD-IA算法，在保持性能的同时降低差异。
2024-11-02 cs.CR cs.LG stat.ML
Toward the Tradeoffs between Privacy, Fairness and Utility in Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Huazhong University of Science and Technology（华中科技大学）
本文研究联邦学习中隐私、公平性与效用的相互影响，提出隐私保护的公平联邦学习方法，并实验证明三者之间存在权衡关系。
2023-11-30 cs.AI cs.LG
E2FL: Equal and Equitable Federated Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）使数据所有者能够训练共享的全局模型，而无需共享其私有数据。不幸的是，FL容易受到内在公平性问题的影响：由于客户端数据分布的异质性，最终训练的模型可以在参与的客户端之间提供不成比例的优势。在这项工作中，我们提出了平等和公平的联邦学习（E2FL），以产生公平的联邦学习模型，同时保持两个主要的公平性，公平和平等。我们验证了E2FL在不同的现实世界FL应用的效率和公平性，并表明E2FL优于现有的基线方面所产生的效率，不同群体的公平性，以及所有个人客户端之间的公平性。
2022-08-16 cs.LG
Federated fairness-aware classification under differential privacy
Department of Statistics, University of Warwick（沃里克大学统计系）
本文研究了在联邦学习中差分隐私与公平性对分类任务的联合影响，提出FDP-Fair算法及简化版CDP-Fair算法，理论分析并验证了算法在隐私、公平性和风险控制方面的保障。
2026-03-25 cs.LG stat.ME stat.ML
Fairness and Accuracy in Federated Learning
Southwest Jiaotong University（西南交通大学）
在联邦学习设置中，多个客户端在中央服务器的协调下联合训练模型，而训练数据保存在客户端上以确保隐私。通常，联合网络中不同设备之间的数据分布不一致，终端设备之间的通信带宽有限，这使得统计异构性和昂贵的通信成为联邦学习的主要挑战。提出了一种在联邦学习（FedFa）中提高公平性和准确性的算法。它引入了一个优化方案，采用了双动量梯度，从而加快了模型的收敛速度。提出了一种结合训练精度和训练频率的信息量来衡量权值的权值选择算法。该程序有助于解决由于某些客户的偏好而导致的联邦学习中的不公平问题。我们的研究结果表明，所提出的FedFa算法优于基线算法的准确性和公平性。
2020-12-18 cs.LG
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
Minimax Demographic Group Fairness in Federated Learning
University College London（伦敦大学学院）；Duke University（杜克大学）；Apple Inc.（苹果公司）
联邦学习是一种越来越流行的范例，它使大量实体能够协作学习更好的模型。在这项工作中，我们研究了在联邦学习场景中的极大极小组公平性，在这种场景中，不同的参与实体在训练阶段可能只能访问人口组的一个子集。我们正式分析了我们提出的组公平性目标与现有的联邦学习公平性标准的不同之处，这些标准在参与者而不是人口统计组之间施加类似的性能。我们提供了一个优化算法- FedMinMax -解决所提出的问题，证明享有集中式学习算法的性能保证。我们通过实验将所提出的方法与其他最先进的方法在各种联邦学习设置中的组公平性进行比较，表明我们的方法具有竞争力或优越的性能。
2022-01-25 cs.DC cs.LG
Federated Unlearning in the Wild: Rethinking Fairness and Data Discrepancy
针对联邦遗忘中公平性缺失与数据异质性被忽视的问题，提出公平感知的FedCCCU方法，通过跨客户端约束实现高效遗忘，实验证明其优于现有方法。
2025-10-08 cs.AI cs.LG
Ditto: Fair and Robust Federated Learning Through Personalization
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI（脸书人工智能研究院）
公平性和鲁棒性是联邦学习系统的两个重要问题。在这项工作中，我们确定，数据和模型中毒攻击和公平性的鲁棒性，衡量跨设备的性能的均匀性，在统计异构网络的竞争约束。为了解决这些限制，我们建议采用一个简单的，通用的框架个性化的联邦学习，Ditto，可以提供内在的公平性和鲁棒性的好处，并开发一个可扩展的solver为it.Theoretically，我们分析的能力，Ditto实现公平性和鲁棒性同时对一类线性问题。从经验上讲，在一套联合数据集上，我们表明Ditto不仅相对于最近的个性化方法实现了具有竞争力的性能，而且相对于最先进的公平或稳健的基线，还实现了更准确，稳健和公平的模型。
2021-06-15 cs.LG stat.ML
Blockchain-based Trustworthy Federated Learning Architecture
Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）；UNSW（新南威尔士大学）
联邦学习是一种新兴的隐私保护AI技术，其中客户端（即，组织或设备）在本地训练模型，并基于本地模型更新来制定全局模型，而无需外部地传输本地数据。然而，联邦学习系统很难实现可信度并体现负责任的人工智能原则。特别是，联邦学习系统面临着问责和公平性的挑战，由于多利益相关者的参与和客户端数据分布的异质性。为了增强联邦学习系统的可问责性和公平性，我们提出了一种基于区块链的可信联邦学习架构。我们首先设计了一个基于智能合约的数据模型出处注册表，以实现问责制。此外，我们提出了一个加权公平的数据采样算法，以提高公平性的训练数据。我们使用COVID-19 X射线检测用例来评估所提出的方法。评价结果表明，这一办法是可行的，可以促进问责制，提高公平性。该算法可以实现更好的性能比默认的联邦学习设置在模型的泛化和准确性。
2021-10-29 cs.AI cs.LG
FedFACT: A Provable Framework for Controllable Group-Fairness Calibration in Federated Learning
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
FedFACT提出一种可控联邦群体公平性校准框架，通过刻画全局与局部公平约束下的贝叶斯最优分类器，将公平联邦学习重构为代价敏感学习与双层优化问题，并给出收敛与泛化保证，实验证明其在准确率与公平性权衡上优于基线。
2025-11-07 cs.LG
Fairness in Federated Learning for Spatial-Temporal Applications
University of Washington（华盛顿大学）；Kennesaw State University（肯尼索州立大学）
联邦学习涉及在移动电话等远程设备上训练统计模型，同时保持数据本地化。在异构且可能庞大的网络中进行培训，为隐私保护数据分析和使这些模型多样化提供了机会，使其对人群更具包容性。联邦学习可以被视为一个独特的机会，通过使模型训练发生在不同的参与者和定期动态生成的数据上，为许多现有模型带来公平和平等。在本文中，我们讨论了目前的度量和方法，可用于测量和评估的公平性的时空模型的背景下。我们提出了如何重新定义这些指标和方法，以解决在联邦学习环境中面临的挑战。
2022-01-20 cs.CY cs.LG
FedSAC: Dynamic Submodel Allocation for Collaborative Fairness in Federated Learning
Xiamen University（厦门大学）；Sony AI（索尼人工智能）
针对联邦学习中的协作公平性问题，提出FedSAC框架，通过动态子模型分配实现有界协作公平性，兼顾本地模型一致性，提升公平性与模型精度。
2024-05-28 cs.AI cs.DC cs.LG
GLOCALFAIR: Jointly Improving Global and Local Group Fairness in Federated Learning
University of Tennessee Knoxville（田纳西大学诺克斯维尔分校）；Google Research（谷歌研究院）；Intuit AI Research（Intuit人工智能研究院）
本文提出GLOCALFAIR框架，通过客户端约束优化与服务器端公平性感知聚类聚合的协同设计，在不共享敏感统计信息的前提下，联合提升联邦学习中的全局与本地群体公平性并保持模型效用。
2024-10-02 cs.AI cs.CY cs.LG
A Reputation Mechanism Is All You Need: Collaborative Fairness and Adversarial Robustness in Federated Learning
University of Singapore（新加坡大学）；Ant financial（蚂蚁金融）
联邦学习（FL）是一种新兴的实用框架，用于在多个参与者（如最终用户、组织和公司）之间进行有效和可扩展的机器学习。然而，大多数现有的FL或分布式学习框架都没有很好地解决两个重要问题：协作公平性和对抗鲁棒性（例如搭便车者和恶意参与者）。在传统的FL中，所有参与者都获得全局模型（平等奖励），这可能对高贡献的参与者不公平。此外，由于缺乏一个安全机制，搭便车者或恶意advertisers可以游戏的系统访问的全球模型免费或破坏it. In本文中，我们提出了一种新的鲁棒性和公平的联邦学习（RFFL）框架，通过信誉机制，同时实现合作的公平性和对抗性的鲁棒性。RFFL通过经由其上传的梯度（使用向量相似性）检查其贡献来维护每个参与者的声誉，从而识别要移除的非贡献或恶意参与者。我们的方法与众不同，不需要任何辅助/验证数据集。在基准数据集上的大量实验表明，RFFL可以实现高公平性，对不同类型的对手具有很强的鲁棒性，同时实现有竞争力的预测精度。
2021-07-27 cs.LG stat.ML
FeDABoost: Fairness Aware Federated Learning with Adaptive Boosting
Department of Computer Science, Blekinge Institute of Technology（计算机科学系，布莱金厄学院）
针对非独立同分布场景下联邦学习的性能与公平性问题，提出融合动态提升与自适应梯度聚合的FeDABoost框架，经多基准数据集验证，在保障竞争力性能的同时提升了公平性。
2025-10-03 cs.AI cs.LG
Federated Learning for Generalization, Robustness, Fairness: A Survey and Benchmark
Wuhan University（武汉大学）；Hong Kong University of Science and Technology（香港科技大学）
该综述系统梳理了联邦学习在泛化性、鲁棒性和公平性三方面的研究进展，并基于多个数据集进行基准测试，同时提供公开平台以持续追踪领域发展。
2023-11-12 cs.AI cs.LG
Fairness in Federated Learning: Fairness for Whom?
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）
本文批判性分析了联邦学习公平性研究中脱离社会技术背景的五个陷阱，并提出以危害为中心的框架，将公平性定义与具体风险及利益相关者脆弱性相联系，倡导更全面、上下文感知和负责任的公平性研究。
2025-05-27 cs.AI cs.CY cs.LG
LoGoFair: Post-Processing for Local and Global Fairness in Federated Learning
Zhejiang University（浙江大学）
针对联邦学习中现有方法无法同时兼顾统计异构下的局部与全局公平性、且难适配模型无关设置的问题，提出后处理框架LoGoFair，通过约束下的贝叶斯最优分类器求解和联邦协同后处理实现双公平，经真实数据集验证有效。
2025-03-21 cs.DC cs.LG
Improving Fairness for Data Valuation in Horizontal Federated Learning
University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada Co.（华为技术加拿大公司）；Simon Fraser University（西蒙弗雷泽大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
联邦学习是一种新兴的分散式机器学习方案，允许多个数据所有者协同工作，同时确保数据隐私。联邦学习的成功很大程度上取决于数据所有者的参与。为了维持和鼓励数据所有者的参与，公平地评估数据所有者提供的数据质量并给予相应的奖励至关重要。最近由Wang等人提出的联邦Shapley值[联邦学习，2020]是在联邦学习框架下对数据价值的度量，满足数据估值的许多期望属性。然而，在联合Shapley值的设计中仍然存在潜在的不公平因素，因为具有相同本地数据的两个数据所有者可能不会收到相同的评估。为了提高联邦Shapley值的公平性，提出了一种新的度量标准--完备联邦Shapley值。设计依赖于完成一个矩阵，该矩阵由数据所有者的不同子集的所有可能贡献组成。它示出了在温和的条件下，该矩阵是近似低秩的利用优化的概念和工具。理论分析和实证评估都证实了该措施在许多情况下确实改善了公平性。
2022-05-23 cs.LG
The Impact of Data Distribution on Fairness and Robustness in Federated Learning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
联邦学习（FL）是一种分布式机器学习协议，它允许一组代理在不共享数据集的情况下协作训练模型。这使得FL特别适合需要数据隐私的设置。然而，据观察，FL的性能是密切相关的代理的本地数据分布的相似性。特别是，由于代理的数据分布不同，训练模型的准确性下降。在这项工作中，我们研究了局部数据分布的变化如何影响训练模型的公平性和鲁棒性以及准确性。我们的实验结果表明，训练后的模型表现出更高的偏见，并变得更容易受到攻击的局部数据分布不同。重要的是，公平性和鲁棒性的退化可能比准确性严重得多。因此，我们发现，如果训练模型要部署在公平/安全关键环境中，那么对准确性影响不大的小变化仍然很重要。
2021-11-29 cs.AI cs.LG
Achieving Fairness Across Local and Global Models in Federated Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；John Hopkins University（约翰霍普金斯大学）；The University of Texas Health at Houston（德克萨斯大学休斯顿健康科学中心）
针对联邦学习中数据异构与敏感属性不可用导致的公平性挑战，提出EquiFL方法，通过在本地优化中引入公平性项并设计协调机制，有效提升本地与全局公平性，并在多个基准及医疗数据集上验证了其准确性与公平性的平衡。
2024-06-24 cs.CY cs.LG
Fair Federated Learning via Bounded Group Loss
CMU（卡内基梅隆大学）
跨保护组的公平预测是许多联邦学习应用程序的重要约束。然而，以前的工作研究组公平联邦学习缺乏正式的收敛或公平性保证。在这项工作中，我们提出了一个可证明公平的联邦学习的一般框架。特别是，我们探索和扩展的概念有限的组损失作为一个理论基础的方法组公平。使用这种设置，我们提出了一个可扩展的联邦优化方法，优化了一些组公平性约束下的经验风险。我们提供的方法的收敛性保证以及公平性保证所得到的解决方案。从经验上讲，我们在公平ML和联邦学习的共同基准上评估了我们的方法，表明它可以提供比基线方法更公平，更准确的预测。
2022-10-13 cs.CY cs.LG
FUSE: Fairness-aware Update Screening against Byzantine Exploitation in $q$-Fair Federated Learning
George Mason University（乔治梅森大学）；The University of Hong Kong（香港大学）；Huazhong University of Science and Technology（华中科技大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；The Hong Kong Polytechnic University（香港理工大学）
本研究针对$q$-公平联邦学习忽视拜占庭鲁棒性的问题，提出结构感知鲁棒聚合器FUSE，通过径向与结构测试结合可信数据集筛选更新，在多基准多攻击下显著提升最差攻击准确率并保留公平性。
2026-10-14 cs.AI cs.LG
FairFed: Enabling Group Fairness in Federated Learning
University of Southern California（南加州大学）
训练在不同人口群体中公平的ML模型至关重要，因为ML在医疗保健和招聘等关键决策场景中的集成度越来越高。联邦学习已被视为一种有前途的解决方案，用于在多方之间协作训练机器学习模型，同时保持其本地数据的隐私。然而，联邦学习也在减轻对某些人群的潜在偏见方面提出了新的挑战（例如，人口统计组），因为这通常需要集中访问敏感信息（例如，种族、性别）。受群体公平性在联邦学习中的重要性和挑战的启发，在这项工作中，我们提出了FairFed，一种新的公平性感知聚合算法，以提高联邦学习中的群体公平性。我们提出的方法是服务器端和不可知的应用本地去偏置，从而允许跨客户端灵活使用不同的本地去偏置方法。我们根据经验评估FairFed与公平ML和联邦学习的公共基线，并证明它提供了更公平的模型，特别是在客户端之间高度异构的数据分布下。我们还展示了FairFed在涉及从组织内不同地理位置或部门收集的自然分布的真实数据的场景中的好处。
2022-11-23 cs.CY cs.LG
pFedFair: Towards Optimal Group Fairness-Accuracy Trade-off in Heterogeneous Federated Learning
The Chinese University of Hong Kong（香港中文大学）
针对异构联邦学习中现有群体公平性约束方法导致准确率次优的问题，提出pFedFair个性化联邦学习框架，通过客户端本地施加公平约束并结合图像嵌入模型拓展至视觉场景，实现了公平性与准确率的最优权衡。
2025-03-19 cs.LG
Improving Fairness via Federated Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
最近，已经提出了许多算法来从分散数据中学习公平分类器。然而，许多理论和算法问题仍然是开放的。首先，联邦学习是否必要，即，我们是否可以简单地训练当地公平的分类人员并将其汇总？在这项工作中，我们首先提出了一个新的理论框架，我们证明了联邦学习可以严格提高模型公平性相比，这样的非联邦算法。然后，我们从理论上和经验表明，基于FedAvg的公平学习算法的性能权衡严格比集中式数据训练的公平分类器差。为了弥合这一差距，我们提出了FedFB，一个私人公平的学习算法分散的数据。关键思想是修改FedAvg协议，使其能够有效地模仿集中式公平学习。我们的实验结果表明，FedFB显著优于现有方法，有时与集中训练模型的性能相匹配。
2022-12-07 cs.LG
A Post-Processing-Based Fair Federated Learning Framework
University of Oxford（牛津大学）
本文提出一种基于后处理的公平联邦学习框架，通过标准FL训练和去中心化本地去偏两阶段方法，在最小精度损失下显著提升群体公平性，尤其适用于数据异构场景。
2025-01-25 cs.AI cs.CY cs.LG
The Cost of Local and Global Fairness in Federated Learning
University of Notre Dame（圣母大学）
本文针对多分类联邦学习，提出一个同时兼顾全局与局部公平性的后处理框架，通过从贝叶斯最优评分函数导出公平预测器，在最小化准确率损失的同时，于准确率-公平性权衡及计算通信成本上优于现有SOTA方法。
2025-03-27 cs.AI cs.CY cs.LG
Federated Learning at the Forefront of Fairness: A Multifaceted Perspective
School of Computing, Macquarie University（麦考瑞大学计算机学院）；School of Control and Computer Engineering, North China Electric Power University（华北电力大学控制与计算机工程学院）
本文从多维度视角探讨联邦学习中的公平性问题，分类现有公平性方法，并提出框架和未来研究方向以推动公平性在FL中的发展。
2026-01-31 cs.LG
PrivFairFL: Privacy-Preserving Group Fairness in Federated Learning
Mila – Quebec AI Institute（Mila – 魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；University of Washington Tacoma（华盛顿大学塔科马分校）；Ghent University（根特大学）
群体公平性确保了基于机器学习（ML）的决策系统的结果不会偏向于由敏感属性（如性别或种族）定义的特定人群。在联邦学习（FL）中实现群体公平性是具有挑战性的，因为减轻偏见本质上需要使用所有客户端的敏感属性值，而FL的目的正是通过不允许访问客户端的数据来保护隐私。正如我们在本文中所示，在FL中的公平性和隐私性之间的冲突可以通过将FL与安全多方计算（MPC）和差分隐私（DP）相结合来解决。在这样做的过程中，我们提出了一种在完整和正式的隐私保证下在跨设备FL中训练组公平ML模型的方法，而不需要客户端公开其敏感属性值。
2022-08-26 cs.CR cs.LG
Linkage on Security, Privacy and Fairness in Federated Learning: New Balances and New Perspectives
City University of Macau（澳门城市大学）；University of Technology Sydney（悉尼科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本综述梳理联邦学习中隐私、安全与公平问题，分析三者间复杂关联与权衡，并指出公平性可作为连接隐私与安全的桥梁及未来研究方向。
2024-06-16 cs.CR cs.DC cs.LG
Fair Federated Medical Image Segmentation via Client Contribution Estimation
The Chinese University of Hong Kong（香港中文大学）；NVIDIA（英伟达）
如何保证公平性是联邦学习的一个重要课题。最近的研究调查了如何根据客户的贡献（合作公平性）来奖励客户，以及如何在客户之间实现一致的绩效（绩效公平性）。尽管在这两个方面都取得了进展，但我们认为，为了吸引和激励更多不同的客户加入FL，以获得高质量的全球模式，将它们放在一起考虑至关重要。在这项工作中，我们提出了一种新的方法来同时优化这两种类型的公平性。具体来说，我们建议在梯度和数据空间中估计客户端的贡献。在梯度空间中，我们监控每个客户端相对于其他客户端的梯度方向差异。在数据空间中，我们使用辅助模型来度量客户端数据的预测误差。基于这种贡献估计，我们提出了一种FL方法，通过贡献估计的联邦训练（FedCE），即，使用估计作为全局模型聚合权重。我们从理论上分析了我们的方法，并在两个真实世界的医疗数据集上进行了经验评估。我们的方法的有效性已被验证与显着的性能改进，更好的协作公平性，更好的性能公平性，以及全面的分析研究。
2023-03-29 cs.AI cs.CV cs.LG
Fairness and Privacy in Federated Learning and Their Implications in Healthcare
University of Virginia（弗吉尼亚大学）
本文综述医疗场景下公平联邦学习的生命周期，提出更新的公平性分类，并分析隐私保护、非iid数据、通信开销与客户端异构性带来的实现挑战。
2023-08-15 cs.CR cs.LG
FedFair^3: Unlocking Threefold Fairness in Federated Learning
School of Computing and Informatics（计算与信息学院）；University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）
针对联邦学习中客户端参与公平性与效率难兼顾的问题，提出实现选择策略、参与轮次、准确率分布三重公平的FedFair^3方法，在不降低全局准确率的同时显著降低准确率方差并缩短训练时间。
2024-01-29 cs.AI cs.CY cs.DC
FairGFL: Privacy-Preserving Fairness-Aware Federated Learning with Overlapping Subgraphs
National Engineering Laboratory for Big Data Analytics (NEL-BDA)（大数据分析国家工程实验室）；School of Mathematics and Statistics（数学与统计学学院）；Ministry of Education Key Lab for Intelligent Networks and Network Security（教育部智能网络与网络安全重点实验室）；School of Computer Science and Technology（计算机科学与技术学院）
FairGFL通过保护隐私的方式，在联邦学习中提升跨客户端公平性，通过可解释的加权聚合和正则化器优化模型实用性与公平性的平衡。
2025-12-29 cs.DC cs.LG
Fairness-Aware Client Selection for Federated Learning
Nanyang Technological University (NTU)（南洋理工大学）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）；Alibaba Group（阿里巴巴集团）；University of Science and Technology of China（中国科学技术大学）
针对联邦学习客户端选择中性能与公平难以平衡的问题，提出基于Lyapunov优化的FairFedCS方法，联合多维度动态调整选择概率，实验验证其在公平性和准确率上均优于现有前沿方法。
2023-07-20 cs.AI cs.DC cs.LG
Fairness-Aware Job Scheduling for Multi-Job Federated Learning
Nanyang Technological University（南洋理工大学）；DSO National Laboratories（DSO国家实验室）；Alibaba Group（阿里巴巴集团）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）
针对多服务器联邦学习中的客户端竞争问题，提出基于李雅普诺夫优化的公平性感知调度方法FairFedJS，兼顾需求与出价，显著提升调度公平性并缩短收敛时间。
2024-02-08 cs.AI cs.DC cs.LG
Friends in Unexpected Places: Enhancing Local Fairness in Federated Learning through Clustering
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究）；UC, San Diego（圣地亚哥大学）
针对异构联邦学习中全局与局部公平性不一致的问题，提出基于聚类的局部公平FL新算法，通过引入新公平性度量实现局部准确率与公平性的可调平衡，无需显式干预即可达到或超越现有方法。
2025-05-30 cs.CY cs.LG
Accelerating Fair Federated Learning: Adaptive Federated Adam
Uppsala University（乌普萨拉大学）
联邦学习是一种分布式和隐私保护的方法，用于从不同方的分散数据协作地训练统计模型。然而，当参与者的数据集不是独立和同分布的（非IID）时，由朴素联邦算法训练的模型可能偏向于某些参与者，并且参与者之间的模型性能是不均匀的。这被称为联邦学习中的公平性问题。在本文中，我们制定公平控制的联邦学习作为一个动态的多目标优化问题，以确保所有参与者的公平性能。为了有效地解决这一问题，本文研究了Adam作为联邦学习服务器优化器的收敛性和偏差，提出了自适应联邦Adam（AdaFedAdam）算法，在减轻偏差的同时加速公平的联邦学习。我们验证了AdaFedAdam的有效性，Pareto最优性和鲁棒性的数值实验，并表明AdaFedAdam优于现有的算法，提供更好的收敛性和公平性的联邦计划。
2023-01-23 cs.DC cs.LG
Towards Fair and Privacy-Preserving Federated Deep Models
National University of Singapore（新加坡国立大学）；Monash University（莫纳什大学）；IBM Singapore Lab（IBM新加坡实验室）；The University of Melbourne（墨尔本大学）；Swinburne University of Technology（斯威本科技大学）；Nanyang Technological University（南洋理工大学）；Australian National University（澳大利亚国立大学）
当前独立的深度学习框架往往会导致过拟合和低效用。这个问题可以通过集中式框架来解决，该集中式框架部署中央服务器以在来自所有各方的联合数据上训练全局模型，或者通过分布式框架来解决，该分布式框架利用参数服务器来聚合局部模型更新。基于服务器的解决方案容易出现单点故障问题。在这方面，协作学习框架，如联邦学习（FL），更强大。现有的联邦学习框架忽略了参与的一个重要方面：公平性。所有各方都得到了相同的最终模型，而不考虑他们的贡献。为了解决这些问题，我们提出了一个分散的公平和隐私保护深度学习（FPPDL）框架，将公平性纳入联邦深度学习模型。特别是，我们设计了一个本地可信度相互评估机制，以保证公平性，和一个三层洋葱式加密方案，以保证准确性和隐私。与现有的外语教学模式不同，在FPPDL模式下，每个参与者接受不同版本的外语教学模式，其表现与他的贡献相称。在基准数据集上的实验表明，FPPDL平衡了公平性，隐私性和准确性。它使联邦学习生态系统能够检测和隔离低贡献方，从而促进负责任的参与。
2020-05-19 cs.AI cs.CR cs.LG
FedPF: Accurate Target Privacy Preserving Federated Learning Balancing Fairness and Utility
The School of Computer Science, Shanghai Jiao Tong University, Shanghai, China（上海交通大学计算机科学学院，上海，中国）；The Shanghai Key Laboratory of Integrated Administration Technologies for Information Security, Shanghai, China（上海信息安全集成管理技术重点实验室，上海，中国）；The School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）科学与工程学院，中国）
FedPF通过将多目标优化转化为零和博弈，平衡公平性与隐私保护，实验证明在严格隐私约束下仍能保持最低歧视水平和高效用，同时揭示了隐私和公平性需通过精心权衡而非单独优化。
2026-04-29 cs.AI cs.LG
Mitigating Group Bias in Federated Learning: Beyond Local Fairness
University of Minnesota（明尼苏达大学）；Cisco Systems Inc.（思科系统公司）
本研究探讨了联邦学习中局部公平训练的理论基础，证明全局模型公平性可由本地客户端汇总统计量获得，并提出一种直接最小化带惩罚经验损失的全局公平训练算法，在保持高准确率的同时显著提升了公平性。
2023-05-17 cs.CY cs.LG
CurvFed: Curvature-Aligned Federated Learning for Fairness without Demographics
Arizona State University（亚利桑那州立大学）
CurvFed通过优化损失景观曲率，在不使用人口统计学信息的情况下实现联邦学习中的公平性，通过Fisher信息矩阵的顶层特征值正则化，提升模型在不同偏见因素下的一致性。
2026-09-23 cs.AI cs.DC cs.LG
FedCF: Fair Federated Conformal Prediction
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
提出FedCF框架，将共形公平性扩展到联邦学习，通过分析不同人口统计组的公平性差距来审计模型公平性，并在多个数据集上验证。
2026-05-30 cs.LG
PUFFLE: Balancing Privacy, Utility, and Fairness in Federated Learning
University of Pisa（比萨大学）；Telefónica Research（西班牙电信研究院）
本文提出PUFFLE方法，首次在联邦学习中同时平衡效用、隐私与公平性，在保持严格隐私保证下将不公平性降低达75%，最坏情况效用仅降17%。
2024-07-21 cs.AI cs.CR cs.CY
Towards Collaborative Fairness in Federated Learning Under Imbalanced Covariate Shift
The Pennsylvania State University（宾夕法尼亚州立大学）；State University of New York at Albany（纽约州立大学阿尔巴尼分校）；University of Minnesota Twin Cities（明尼苏达大学双城分校）；Dalian University of Technology（大连理工大学）
针对联邦学习中不平衡协变量偏移影响协作公平性的问题，提出FedAKD方法，通过异步知识蒸馏策略利用高置信度样本更新模型，显著提升了协作公平性、预测准确性和客户端参与度。
2025-07-11 cs.AI cs.LG
