Solving a Class of Non-Convex Minimax Optimization in Federated Learning
University of Pittsburgh（匹兹堡大学）；University of Virginia（弗吉尼亚大学）；University of Maryland（马里兰大学）
针对联邦学习场景下非凸极小极大优化研究不足的问题，提出FedSGDA+和FedSGDA-M算法，降低了不同设置下的通信与样本复杂度，经实验验证了算法效率。
2023-10-05 cs.AI cs.LG
Federated Minimax Optimization: Improved Convergence Analyses and Algorithms
Carnegie Mellon University（卡内基梅隆大学）；Syracuse University（雪城大学）
在本文中，我们考虑非凸极大极小优化，这在许多现代机器学习应用中越来越突出，如GANs。在这些应用中，大规模基于边缘的训练数据收集需要通信高效的分布式优化算法来处理数据，例如在联邦学习中使用的算法。在本文中，我们分析了本地随机梯度下降上升（SGDA），本地更新版本的SGDA算法。SGDA是极大极小优化中使用的核心算法，但在分布式环境中并不容易理解。我们证明了局部SGDA算法对几类非凸-凹和非凸-非凹极大极小问题具有\textit{order-optimal}样本复杂度，并且对于客户数也具有\textit{linear speedup}样本复杂度.我们提供了一个新的和更严格的分析，提高了现有文献中的收敛性和通信保证。对于非凸PL和非凸单点凹函数，我们改进了已有的集中极大极小问题的复杂性结果。此外，我们提出了一个基于动量的局部更新算法，它具有相同的收敛保证，但优于本地SGDA在我们的实验中证明。
2022-03-09 cs.DC cs.LG math.OC
Federated Minimax Optimization with Client Heterogeneity
Carnegie Mellon University（卡内基梅隆大学）
随着GANs等现代应用的出现，极大极小优化的兴趣激增，它本质上比简单的最小化更具挑战性。驻留在多个边缘设备或\textit{clients}上的训练数据加剧了这种困难，特别是当这些客户端可以具有异构数据集和本地计算能力时。我们提出了一个通用的联邦极大极小优化框架，它包含了这样的设置和几个现有的方法，如本地SGDA。我们表明，天真的聚集异构本地进展的结果优化不匹配的目标函数-以前在标准联邦最小化观察到的现象。为了解决这个问题，我们建议通过连续通信回合之间进行的本地步骤的数量来规范化客户端更新。我们分析了所提出的算法的收敛性的非凸-凹和非凸-非凹函数的类和特征的异构客户端数据，部分客户端的参与，和异构本地计算的影响。我们的分析工作在更一般的假设下，客户端内的噪音和客户端间的异质性比迄今为止考虑在文献中。对于所有考虑的函数类，我们显着改善现有的计算和通信复杂性的结果。实验结果支持我们的理论主张。
2023-02-09 cs.DC cs.LG math.OC
A Communication-efficient Algorithm with Linear Convergence for Federated Minimax Learning
Northwestern University（西北大学）
针对联邦极小极大优化通信频繁、Local SGDA 恒定步长下难以精确收敛的问题，提出基于梯度跟踪的 FedGDA-GT，在强凸强凹条件下实现 O(log(1/ε)) 通信复杂度的线性收敛，并实验验证其优于 Local SGDA。
2023-06-06 cs.DC cs.LG
Lexicographically Fair Learning: Algorithms and Generalization
University of Pennsylvania（宾夕法尼亚大学）
我们将监督学习问题中的极大极小公平性的概念扩展到它的自然结论：字典式极大极小公平性（或简称lexifairness）。非正式地，给定一组感兴趣的人口统计组，极小极大公平要求具有最高误差的组的误差最小化。Lexifairness更进一步，要求在所有极小极大公平解中，第二高误差组的误差应最小化，在所有这些解中，第三高误差组的误差应最小化，等等。尽管它很自然，但正确定义lexifairness比极小极大公平要微妙得多，因为它对近似误差的固有敏感性。我们给出了一个近似lexifairness的概念，避免了这个问题，然后推导出甲骨文高效的算法，找到近似lexifair的解决方案，在一个非常一般的设置。当缺乏公平约束的基本经验风险最小化问题是凸的（例如，线性回归和逻辑回归），我们的算法即使在最坏的情况下也是有效的。最后，我们展示了推广的界限--训练样本上的近似lexifairness意味着真实分布上的近似lexifairness具有高概率。我们证明推广界的能力取决于我们选择的定义，避免了天真定义的不稳定性。
2021-02-16 cs.DS cs.LG stat.ML
Fairness-Constrained Optimization Attack in Federated Learning
University of Surrey, U.K.（英国萨里大学）；The Alan Turing Institute, London, U.K.（艾伦·图灵研究所）；The University of Warwick, U.K.（沃里克大学）；The University of Essex, UK（埃塞克斯大学）；Indian Institute of Technology (BHU), Varanasi（印度理工学院（班加罗尔））；University of Louisville, USA（路易斯维尔大学）；University of North Texas, USA（北德克萨斯大学）；Indian Institute of Technology Patna（印度理工学院帕纳布）
本文提出一种联邦学习中的公平性攻击，通过优化公平性损失使恶意客户端发送有偏模型，在保持全局准确率的同时将偏见提升至90%，且难以被现有鲁棒聚合方案检测。
2025-10-14 cs.CR cs.LG
A Wasserstein Minimax Framework for Mixed Linear Regression
MIT（麻省理工学院）；Weizmann Institute of Science（魏茨曼科学研究所）
多模态分布通常用于在统计学习任务中对聚类数据建模。本文研究混合线性回归（MLR）问题。我们提出了一个最佳的基于运输的框架MLR问题，Wasserstein混合线性回归（WMLR），它最小化学习和目标混合回归模型之间的瓦瑟斯坦距离。通过基于模型的对偶分析，WMLR将底层的MLR任务减少为非凸-凹极大极小优化问题，该问题可以通过梯度下降上升（GDA）算法证明求解以找到极大极小平稳点。在混合两个线性回归模型的特殊情况下，我们证明了WMLR具有全局收敛性和推广保证。我们证明了WMLR的样本复杂度与数据的维数成线性增长。最后，我们讨论了WMLR在联邦学习任务中的应用，其中训练样本由网络中的多个代理收集。与期望最大化算法不同，WMLR直接扩展到分布式、联邦学习设置。我们通过几个数值实验来支持我们的理论结果，这些实验突出了我们的框架处理混合模型联邦学习设置的能力。
2021-06-16 cs.LG math.OC stat.ML
Efficient Algorithms for Federated Saddle Point Optimization
Carnegie Mellon University（卡内基梅隆大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Washington（华盛顿大学）
我们考虑了联邦环境下的强凸-凹极大极小问题，其中通信约束是主要的瓶颈。当客户端任意异构时，简单的Minibatch代理可以实现最佳性能。随着客户端变得更加同质化，在客户端使用多个局部梯度更新通过降低通信频率显著改善了Minibatch代理。我们的目标是设计一种算法，可以利用客户端的相似性的好处，同时恢复任意异构性（最多日志因素）下的Minibatch代理性能。我们给出了第一个实现这一目标的联邦极大极小优化算法。其主要思想是结合（i）SCAFFOLD（一种在客户端之间执行凸优化方差缩减的算法）来消除对异质性的最坏情况依赖性，以及（ii）Catalyst（一种基于修改目标的加速框架）来加速收敛，而不会放大客户端漂移。我们证明了该算法实现了我们的目标，并包括实验来验证理论。
2021-02-12 cs.DC cs.LG math.OC
Distributionally Robust Federated Averaging
The Pennsylvania State University（宾夕法尼亚州立大学）
在本文中，我们研究了通信有效的分布式算法的分布式鲁棒联邦学习通过周期平均与自适应采样。与标准的经验风险最小化相比，由于底层优化问题的极大极小结构，一个关键的困难来自于这样一个事实，即控制局部损失混合的全局参数只能在全局舞台上不频繁地更新。为了弥补这一点，我们提出了一个分布式鲁棒联邦平均（DRFA）算法，采用了一种新的快照计划，以近似的混合参数的历史梯度的积累。我们分析了DRFA的收敛速度在凸线性和非凸线性设置。我们还将所提出的想法推广到混合参数正则化的目标，并提出了一个近似的变体，称为DRFA-Prox，具有可证明的收敛速度。我们还分析了另一种优化方法，正则化的情况下，在强凸强凹和非凸（PL条件下）强凹设置。据我们所知，本文是第一个解决分布式鲁棒联邦学习减少通信，并分析分布式极小极大问题的局部下降方法的效率。我们在联邦学习环境中为我们的理论结果提供了确凿的实验证据。
2021-02-25 cs.DC cs.LG stat.ML
Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Post-Fair Federated Learning: Achieving Group and Community Fairness in Federated Learning via Post-processing
University of Notre Dame（圣母大学）
本文提出后处理公平联邦学习框架post-FFL，通过线性规划同时实现群体公平与社区公平，最大化全局模型效用，理论界定准确率损失，实验证明优于现有方法。
2024-05-28 cs.CY cs.LG
Minimax Group Fairness: Algorithms and Experiments
University of Pennsylvania（宾夕法尼亚大学）；Amazon AWS AI（亚马逊AWS人工智能部门）
我们考虑了最近引入的框架，其中公平性是衡量最坏情况下的结果，而不是组之间的结果更标准的差异。在这个框架中，我们提供了可证明收敛的预言机有效的学习算法（或等价地，减少非公平学习）的极大极小组公平性。这里的目标是最小化所有组的最大损失，而不是均衡组损失。我们的算法适用于回归和分类设置，并支持整体错误率和假阳性或假阴性率作为兴趣的公平性度量。他们还支持放宽公平性约束，从而允许研究的整体准确性和极小极大公平之间的权衡。我们比较了我们的算法在各种公平敏感的数据集的实验行为和性能，并显示经验的情况下，极大极小公平是严格的，强烈优选平等的结果概念。
2021-03-08 cs.LG
Fairness in Federated Learning for Spatial-Temporal Applications
University of Washington（华盛顿大学）；Kennesaw State University（肯尼索州立大学）
联邦学习涉及在移动电话等远程设备上训练统计模型，同时保持数据本地化。在异构且可能庞大的网络中进行培训，为隐私保护数据分析和使这些模型多样化提供了机会，使其对人群更具包容性。联邦学习可以被视为一个独特的机会，通过使模型训练发生在不同的参与者和定期动态生成的数据上，为许多现有模型带来公平和平等。在本文中，我们讨论了目前的度量和方法，可用于测量和评估的公平性的时空模型的背景下。我们提出了如何重新定义这些指标和方法，以解决在联邦学习环境中面临的挑战。
2022-01-20 cs.CY cs.LG
Achieving Fairness Across Local and Global Models in Federated Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；John Hopkins University（约翰霍普金斯大学）；The University of Texas Health at Houston（德克萨斯大学休斯顿健康科学中心）
针对联邦学习中数据异构与敏感属性不可用导致的公平性挑战，提出EquiFL方法，通过在本地优化中引入公平性项并设计协调机制，有效提升本地与全局公平性，并在多个基准及医疗数据集上验证了其准确性与公平性的平衡。
2024-06-24 cs.CY cs.LG
Fair Federated Learning via Bounded Group Loss
CMU（卡内基梅隆大学）
跨保护组的公平预测是许多联邦学习应用程序的重要约束。然而，以前的工作研究组公平联邦学习缺乏正式的收敛或公平性保证。在这项工作中，我们提出了一个可证明公平的联邦学习的一般框架。特别是，我们探索和扩展的概念有限的组损失作为一个理论基础的方法组公平。使用这种设置，我们提出了一个可扩展的联邦优化方法，优化了一些组公平性约束下的经验风险。我们提供的方法的收敛性保证以及公平性保证所得到的解决方案。从经验上讲，我们在公平ML和联邦学习的共同基准上评估了我们的方法，表明它可以提供比基线方法更公平，更准确的预测。
2022-10-13 cs.CY cs.LG
FairFed: Enabling Group Fairness in Federated Learning
University of Southern California（南加州大学）
训练在不同人口群体中公平的ML模型至关重要，因为ML在医疗保健和招聘等关键决策场景中的集成度越来越高。联邦学习已被视为一种有前途的解决方案，用于在多方之间协作训练机器学习模型，同时保持其本地数据的隐私。然而，联邦学习也在减轻对某些人群的潜在偏见方面提出了新的挑战（例如，人口统计组），因为这通常需要集中访问敏感信息（例如，种族、性别）。受群体公平性在联邦学习中的重要性和挑战的启发，在这项工作中，我们提出了FairFed，一种新的公平性感知聚合算法，以提高联邦学习中的群体公平性。我们提出的方法是服务器端和不可知的应用本地去偏置，从而允许跨客户端灵活使用不同的本地去偏置方法。我们根据经验评估FairFed与公平ML和联邦学习的公共基线，并证明它提供了更公平的模型，特别是在客户端之间高度异构的数据分布下。我们还展示了FairFed在涉及从组织内不同地理位置或部门收集的自然分布的真实数据的场景中的好处。
2022-11-23 cs.CY cs.LG
Friends in Unexpected Places: Enhancing Local Fairness in Federated Learning through Clustering
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究）；UC, San Diego（圣地亚哥大学）
针对异构联邦学习中全局与局部公平性不一致的问题，提出基于聚类的局部公平FL新算法，通过引入新公平性度量实现局部准确率与公平性的可调平衡，无需显式干预即可达到或超越现有方法。
2025-05-30 cs.CY cs.LG
Mitigating Group Bias in Federated Learning: Beyond Local Fairness
University of Minnesota（明尼苏达大学）；Cisco Systems Inc.（思科系统公司）
本研究探讨了联邦学习中局部公平训练的理论基础，证明全局模型公平性可由本地客户端汇总统计量获得，并提出一种直接最小化带惩罚经验损失的全局公平训练算法，在保持高准确率的同时显著提升了公平性。
2023-05-17 cs.CY cs.LG
Minimax AUC Fairness: Efficient Algorithm with Provable Convergence
University at Albany, SUNY（纽约州立大学奥尔巴尼分校）
在重大决策中使用机器学习模型往往加剧社会不平等，特别是对按种族和性别界定的边缘化群体成员产生不同的影响。ROC曲线下面积（AUC）被广泛用于评估机器学习中评分函数的性能，但在算法公平性方面的研究少于其他性能指标。由于AUC的成对性质，定义基于AUC的组公平性度量是成对依赖的，并且可以涉及\emph{intra-group}和\emph{inter-group} AUC两者。重要的是，仅考虑一类AUC不足以减轻AUC优化中的不公平性。在本文中，我们提出了一个极大极小学习和偏见缓解框架，结合了组内和组间AUC，同时保持效用。基于这个罗尔斯框架，我们设计了一个有效的随机优化算法，并证明了其收敛到最小的组级AUC。我们在合成数据集和真实数据集上进行了数值实验，以验证极大极小框架和所提出的优化算法的有效性。
2022-11-28 cs.CY cs.LG stat.ML
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Boosting Fairness and Robustness in Over-the-Air Federated Learning
Technische Universität Berlin（柏林工业大学）；Exzellenzcluster Science of Intelligence（科学智能卓越集群）
针对超5G场景下空中联邦学习的效率与公平鲁棒性需求，提出基于极小极大优化的算法，借上境图形式证明收敛性，无需复杂编解码重建信道系数，兼顾效率、隐私、公平性与鲁棒性。
2024-03-07 cs.CY cs.LG
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
Unified Group Fairness on Federated Learning
University of YYY（YYY大学）；Institute of WWW（WWW研究所）
联邦学习（FL）已经成为一种重要的机器学习范例，其中基于来自分布式客户端的私有数据来训练全局模型。然而，现有的FL算法大多不能保证性能公平性对不同的群体，因为数据分布偏移组。在本文中，我们制定了统一的组公平性问题的FL，其中组可以形成的客户端（包括现有的客户端和新添加的客户端）和敏感属性（S）。为了解决这个问题，我们首先提出了一个通用的公平联邦框架。然后从联邦不确定集的角度出发，通过理论分析，构造了一个统一的组公平风险，以保证FL上的统一组公平性，并提出了一种有效的联邦优化算法--带动量加速的联邦镜像下降上升算法（Federated Mirror Descent Ascent with Momentum Acceleration，FMDA-M）。通过实验验证了FMDA-M算法在各种分布偏移设置下的优越性，实验结果表明FMDA-M算法在统一组公平性方面优于现有的公平FL算法。
2022-02-16 cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
Dynamic Fair Federated Learning Based on Reinforcement Learning
Beijing University of Posts and Telecommunications（北京邮电大学）
针对联邦学习数据异构导致的设备间不公平问题，本文提出强化学习驱动的 DQFFL 算法，利用 α-公平性动态分配客户端权重，并在性能、公平性与收敛速度上超越现有方法。
2023-11-02 cs.CY cs.IT cs.LG
E2FL: Equal and Equitable Federated Learning
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）使数据所有者能够训练共享的全局模型，而无需共享其私有数据。不幸的是，FL容易受到内在公平性问题的影响：由于客户端数据分布的异质性，最终训练的模型可以在参与的客户端之间提供不成比例的优势。在这项工作中，我们提出了平等和公平的联邦学习（E2FL），以产生公平的联邦学习模型，同时保持两个主要的公平性，公平和平等。我们验证了E2FL在不同的现实世界FL应用的效率和公平性，并表明E2FL优于现有的基线方面所产生的效率，不同群体的公平性，以及所有个人客户端之间的公平性。
2022-08-16 cs.LG
Fairness in Federated Learning: Trends, Challenges, and Opportunities
本综述聚焦联邦学习中由异质性引发的公平性问题，梳理多类偏差来源、现有公平性缓解技术的优劣、相关理论与评估指标，并展望未来研究方向，为公平联邦学习研究提供基础。
2025-08-31 cs.CY cs.LG
Improving Fairness in AI Models on Electronic Health Records: The Case for Federated Learning Methods
University of Delaware（特拉华大学）
本研究提出一种结合对抗性去偏见和公平聚合的联邦学习方法，用于电子健康记录，以在保持准确率的同时有效缓解AI模型偏见。
2023-05-19 cs.CY cs.LG
Training Fair Models in Federated Learning without Data Privacy Infringement
McMaster University（麦克马斯特大学）；East China University of Science and Technology（华东理工大学）；Huawei Technologies Canada（华为技术加拿大公司）
针对联邦学习中难以在保护隐私的前提下训练公平模型的问题，提出联邦公平性评估方法与FedFair框架，可在不侵犯隐私的同时训练高性能公平模型，经三个真实数据集验证效果优异。
2024-11-01 cs.CY cs.LG
Fairness and Accuracy in Federated Learning
Southwest Jiaotong University（西南交通大学）
在联邦学习设置中，多个客户端在中央服务器的协调下联合训练模型，而训练数据保存在客户端上以确保隐私。通常，联合网络中不同设备之间的数据分布不一致，终端设备之间的通信带宽有限，这使得统计异构性和昂贵的通信成为联邦学习的主要挑战。提出了一种在联邦学习（FedFa）中提高公平性和准确性的算法。它引入了一个优化方案，采用了双动量梯度，从而加快了模型的收敛速度。提出了一种结合训练精度和训练频率的信息量来衡量权值的权值选择算法。该程序有助于解决由于某些客户的偏好而导致的联邦学习中的不公平问题。我们的研究结果表明，所提出的FedFa算法优于基线算法的准确性和公平性。
2020-12-18 cs.LG
BoostFGL: Boosting Fairness in Federated Graph Learning
Department of Computer Science, Beijing Institute of Technology, Beijing, China（北京理工大学计算机科学部）；The Hong Kong University of Science（香港科学与技术大学）
BoostFGL通过引入三种协调机制提升联邦图学习的公平性，显著提高整体F1指标，同时保持竞争力。
2026-01-23 cs.CY cs.LG
Minimax Pareto Fairness: A Multi Objective Perspective
Duke University（杜克大学）
在这项工作中，我们制定和正式表征组公平性作为一个多目标优化问题，每个敏感的组风险是一个单独的目标。我们提出了一个公平的标准，分类器实现极小极大风险，是帕累托有效的w.r.t.所有群体，避免不必要的伤害，并可以导致最好的零差距模式，如果政策规定这样做。我们提供了一种与深度神经网络兼容的简单优化算法来满足这些约束。由于我们的方法不需要测试时访问敏感属性，它可以应用于减少最坏情况下的分类错误之间的结果不平衡的分类问题。我们在预测收入、ICU患者死亡率、皮肤病变分类和评估信用风险的真实案例研究中测试了所提出的方法，展示了我们的框架与其他方法相比是如何有利的。
2020-11-03 cs.LG stat.ML
Minimax Demographic Group Fairness in Federated Learning
University College London（伦敦大学学院）；Duke University（杜克大学）；Apple Inc.（苹果公司）
联邦学习是一种越来越流行的范例，它使大量实体能够协作学习更好的模型。在这项工作中，我们研究了在联邦学习场景中的极大极小组公平性，在这种场景中，不同的参与实体在训练阶段可能只能访问人口组的一个子集。我们正式分析了我们提出的组公平性目标与现有的联邦学习公平性标准的不同之处，这些标准在参与者而不是人口统计组之间施加类似的性能。我们提供了一个优化算法- FedMinMax -解决所提出的问题，证明享有集中式学习算法的性能保证。我们通过实验将所提出的方法与其他最先进的方法在各种联邦学习设置中的组公平性进行比较，表明我们的方法具有竞争力或优越的性能。
2022-01-25 cs.DC cs.LG
Fair Differentially Private Federated Learning Framework
Department of Computing Science, Umeå University（于默奥大学计算机科学系）
本文提出“公平差分隐私联邦学习框架”，通过裁剪有偏模型更新并引入高斯机制实现差分隐私，解决联邦学习中无需验证数据生成公平全局模型及全局私有差分模型的挑战。
2023-05-23 cs.CY cs.LG
FOCUS: Fairness via Agent-Awareness for Federated Learning on Heterogeneous Data
California Institute of Technology（加州理工学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Amazon（亚马逊）
针对联邦学习异构数据下的公平性挑战，提出基于智能体感知的公平性定义FAA及聚类训练算法FOCUS，在保证准确率的同时显著提升公平性。
2023-11-16 cs.CY cs.LG
FedFACT: A Provable Framework for Controllable Group-Fairness Calibration in Federated Learning
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
FedFACT提出一种可控联邦群体公平性校准框架，通过刻画全局与局部公平约束下的贝叶斯最优分类器，将公平联邦学习重构为代价敏感学习与双层优化问题，并给出收敛与泛化保证，实验证明其在准确率与公平性权衡上优于基线。
2025-11-07 cs.LG
GLOCALFAIR: Jointly Improving Global and Local Group Fairness in Federated Learning
University of Tennessee Knoxville（田纳西大学诺克斯维尔分校）；Google Research（谷歌研究院）；Intuit AI Research（Intuit人工智能研究院）
本文提出GLOCALFAIR框架，通过客户端约束优化与服务器端公平性感知聚类聚合的协同设计，在不共享敏感统计信息的前提下，联合提升联邦学习中的全局与本地群体公平性并保持模型效用。
2024-10-02 cs.AI cs.CY cs.LG
Federating for Learning Group Fair Models
University College London（伦敦大学学院）；Duke University（杜克大学）
联邦学习是一种越来越流行的范例，它使大量实体能够协作学习更好的模型。在这项工作中，我们研究极小极大组公平的范例，不同的参与实体可能只能访问一个子集的人口群体在训练阶段。我们正式分析了这个公平性目标与现有的联邦学习公平性标准的不同之处，这些标准在参与者而不是人口统计学群体中施加了类似的性能。我们提供了一个优化算法- FedMinMax -解决所提出的问题，证明享有集中式学习算法的性能保证。我们通过实验比较了所提出的方法与其他方法在各种联邦学习设置的组公平性。
2021-10-07 cs.CY cs.LG
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
Federated Fairness Analytics: Quantifying Fairness in Federated Learning
University of Bristol（布里斯托尔大学）
针对联邦学习中公平性定义与量化指标缺失的问题，提出包含四类概念及对应新指标的联邦公平性分析方法，实验验证其可助力从业者获取不同粒度的系统公平性洞察，相关工作已开源。
2024-08-15 cs.AI cs.DC cs.GT
Towards Group Fairness with Multiple Sensitive Attributes in Federated Foundation Models
本文首次对联邦基础模型中多敏感属性的群体公平性进行因果分析，通过扩展模型结构同时权衡多个属性，并利用因果发现与推断量化公平效应，实验验证了其有效性与可解释性。
2025-06-23 cs.LG
Minimax Estimation for Personalized Federated Learning: An Alternative between FedAvg and Local Training?
University of Pennsylvania（宾夕法尼亚大学）；Meta AI Research（元人工智能研究）
本文从极小极大角度研究个性化联邦学习中FedAvg与纯本地训练的速率最优性，证明二者在不同数据异质性水平下分别最优，并表明在二者间选择的二分策略及FedAvg加本地微调策略在相应条件下均达到极小极大最优。
2025-03-11 cs.LG stat.ML
Fairness in Federated Learning: Fairness for Whom?
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）
本文批判性分析了联邦学习公平性研究中脱离社会技术背景的五个陷阱，并提出以危害为中心的框架，将公平性定义与具体风险及利益相关者脆弱性相联系，倡导更全面、上下文感知和负责任的公平性研究。
2025-05-27 cs.AI cs.CY cs.LG
Improving Fairness for Data Valuation in Horizontal Federated Learning
University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada Co.（华为技术加拿大公司）；Simon Fraser University（西蒙弗雷泽大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
联邦学习是一种新兴的分散式机器学习方案，允许多个数据所有者协同工作，同时确保数据隐私。联邦学习的成功很大程度上取决于数据所有者的参与。为了维持和鼓励数据所有者的参与，公平地评估数据所有者提供的数据质量并给予相应的奖励至关重要。最近由Wang等人提出的联邦Shapley值[联邦学习，2020]是在联邦学习框架下对数据价值的度量，满足数据估值的许多期望属性。然而，在联合Shapley值的设计中仍然存在潜在的不公平因素，因为具有相同本地数据的两个数据所有者可能不会收到相同的评估。为了提高联邦Shapley值的公平性，提出了一种新的度量标准--完备联邦Shapley值。设计依赖于完成一个矩阵，该矩阵由数据所有者的不同子集的所有可能贡献组成。它示出了在温和的条件下，该矩阵是近似低秩的利用优化的概念和工具。理论分析和实证评估都证实了该措施在许多情况下确实改善了公平性。
2022-05-23 cs.LG
A Post-Processing-Based Fair Federated Learning Framework
University of Oxford（牛津大学）
本文提出一种基于后处理的公平联邦学习框架，通过标准FL训练和去中心化本地去偏两阶段方法，在最小精度损失下显著提升群体公平性，尤其适用于数据异构场景。
2025-01-25 cs.AI cs.CY cs.LG
F3: Fair and Federated Face Attribute Classification with Heterogeneous Data
IIIT Hyderabad（国际信息技术学院海得拉巴分校）
不同人口群体之间的公平性是人脸相关任务的一个重要标准，人脸属性分类（FAC）是一个突出的例子。除了这种趋势，联邦学习（FL）作为分布式训练的可扩展范例越来越受到关注。现有的FL方法需要数据的同质性，以确保公平性。然而，这种假设在现实世界中限制太多。我们提出了F3，一个新的FL框架下的公平FAC数据异构性。F3采用多重统计学方法，在不需要数据同质性假设的情况下，提高不同人口统计群体之间的公平性。我们通过在流行的人脸数据集上报告经验观察到的公平性措施和准确性保证来证明F3的有效性。我们的研究结果表明，F3罢工FAC的准确性和公平性之间的实际平衡。
2022-06-24 cs.CV cs.CY cs.LG
A Multivocal Literature Review on Privacy and Fairness in Federated Learning
University of Bayreuth（拜罗伊特大学）；Fraunhofer FIT（弗劳恩霍夫应用信息技术研究所）
本文通过多声文献综述梳理联邦学习中隐私与公平性的整合方法，指出二者关系被忽视且存在内在张力，呼吁构建兼顾隐私、公平与性能的一体化框架。
2024-10-27 cs.AI cs.LG
The Cost of Local and Global Fairness in Federated Learning
University of Notre Dame（圣母大学）
本文针对多分类联邦学习，提出一个同时兼顾全局与局部公平性的后处理框架，通过从贝叶斯最优评分函数导出公平预测器，在最小化准确率损失的同时，于准确率-公平性权衡及计算通信成本上优于现有SOTA方法。
2025-03-27 cs.AI cs.CY cs.LG
pFedFair: Towards Optimal Group Fairness-Accuracy Trade-off in Heterogeneous Federated Learning
The Chinese University of Hong Kong（香港中文大学）
针对异构联邦学习中现有群体公平性约束方法导致准确率次优的问题，提出pFedFair个性化联邦学习框架，通过客户端本地施加公平约束并结合图像嵌入模型拓展至视觉场景，实现了公平性与准确率的最优权衡。
2025-03-19 cs.LG
Improving Fairness via Federated Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
最近，已经提出了许多算法来从分散数据中学习公平分类器。然而，许多理论和算法问题仍然是开放的。首先，联邦学习是否必要，即，我们是否可以简单地训练当地公平的分类人员并将其汇总？在这项工作中，我们首先提出了一个新的理论框架，我们证明了联邦学习可以严格提高模型公平性相比，这样的非联邦算法。然后，我们从理论上和经验表明，基于FedAvg的公平学习算法的性能权衡严格比集中式数据训练的公平分类器差。为了弥合这一差距，我们提出了FedFB，一个私人公平的学习算法分散的数据。关键思想是修改FedAvg协议，使其能够有效地模仿集中式公平学习。我们的实验结果表明，FedFB显著优于现有方法，有时与集中训练模型的性能相匹配。
2022-12-07 cs.LG
Enforcing fairness in private federated learning via the modified method of differential multipliers
KTH Royal Institute of Technology（KTH皇家理工学院）；Apple（苹果公司）
具有差分隐私的联邦学习或私有联邦学习提供了一种在尊重用户隐私的同时训练训练机器学习模型的策略。然而，差分隐私会不成比例地降低模型在代表性不足的群体上的性能，因为在存在噪声的情况下，分布的这些部分很难学习。在机器学习模型中实施公平性的现有方法已经考虑了集中式设置，其中算法可以访问用户的数据。本文介绍了一种在私有联邦学习中增强组公平性的算法，其中用户的数据不会离开他们的设备。首先，本文将修正的微分乘子方法推广到具有公平性约束的经验风险最小化问题，从而提供了一种在中心环境下实现公平性的算法。然后，将该算法扩展到私有联邦学习环境。所提出的算法，\texttt{FPFL}，测试的联邦版本的成人数据集和“不公平”版本的FEMNIST数据集。这些数据集上的实验显示了私有联邦学习如何加剧训练模型中的不公平性，以及FPFL如何能够减轻这种不公平性。
2022-04-15 cs.LG stat.ML
Achieving Model Fairness in Vertical Federated Learning
University of Victoria（维多利亚大学）；University of British Columbia（不列颠哥伦比亚大学）；Huawei Technologies Canada（华为技术加拿大公司）；Simon Fraser University（西蒙弗雷泽大学）；McMaster University（麦克马斯特大学）
垂直联邦学习（Vertical Federated Learning，VFL）使得拥有非重叠特征的多方能够在不泄露其私有数据和模型参数的情况下增强其机器学习模型，因此吸引了越来越多的关注。与其他机器学习算法类似，VFL面临公平性的需求和挑战，即，所学习的模型可能对具有敏感属性的某些组是不公平的歧视。为了解决这个问题，我们提出了一个公平的VFL框架在这项工作中。首先，我们系统地阐述了在VFL中训练公平模型的问题，其中学习任务被建模为约束优化问题。为了以联邦和隐私保护的方式解决这个问题，我们考虑了问题的等价对偶形式，并开发了一个异步梯度坐标下降上升算法，其中一些活跃的数据方在每个通信回合执行多个并行本地更新，以有效地减少通信回合的数量。服务器发送给被动方的消息经过精心设计，以便在不侵犯数据和敏感属性隐私的情况下发布本地更新所需的信息。我们严格研究的收敛性算法时，适用于一般的非凸凹极小极大问题。我们证明了该算法找到一个$δ$ -平稳点的对偶目标在$\mathcal{O}(δ^{-4})$通信轮在温和的条件下。最后，在三个基准数据集上的大量实验证明了我们的方法在训练公平模型方面的优越性能。
2022-09-06 cs.CY cs.LG
Equipping Federated Graph Neural Networks with Structure-aware Group Fairness
Stevens Institute of Technology（史蒂文斯理工学院）
针对联邦图神经网络中本地偏差易传播至全局模型的公平性问题，提出融合公平感知本地更新与公平加权全局聚合的F²GNN框架，从数据与算法双维度缓解偏差，在公平性和准确率上均优于基线方法。
2024-05-13 cs.LG
FairVFL: A Fair Vertical Federated Learning Framework with Contrastive Adversarial Learning
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Sony AI（索尼人工智能）；USTC（中国科学技术大学）；Shenzhen University（深圳大学）；Zhongguancun Laboratory（中关村实验室）
垂直联邦学习（Vertical Federated Learning，VFL）是一种隐私保护的机器学习范式，它可以以隐私保护的方式从分布在不同平台上的特征中学习模型。由于在现实世界的应用程序中，数据可能包含对公平敏感特征的偏见（例如，性别），VFL模型可能从训练数据继承偏差，并且对于某些用户组变得不公平。然而，现有的公平机器学习方法通常依赖于公平敏感特征的集中存储来实现模型公平性，这通常不适用于联邦场景。本文提出了一种公平的垂直联邦学习框架（FairVFL），该框架可以提高VFL模型的公平性。FairVFL的核心思想是以隐私保护的方式基于分散的特征字段学习样本的统一和公平表示。具体来说，每个具有公平性不敏感特征的平台首先从本地特征学习本地数据表示。然后，这些本地表示被上传到服务器，并聚合成目标任务的统一表示。为了学习公平的统一表示，我们将其发送到存储公平敏感特征的每个平台，并应用对抗学习来消除从有偏差数据继承的统一表示中的偏差。此外，为了保护用户隐私，我们进一步提出了一种对比对抗学习方法，在将隐私信息发送到保持公平敏感特征的平台之前，将隐私信息从服务器的统一表示中删除。在三个真实数据集上的实验表明，该方法能有效地提高模型的公平性，同时很好地保护用户隐私。
2022-10-31 cs.CR cs.CY cs.LG
