Datasets for Fairness in Language Models: An In-Depth Survey
University of Leeds（利兹大学）；Florida International University（佛罗里达国际大学）
本文系统综述语言模型公平性数据集，提出统一评估框架并在16个常用数据集上揭示被忽视的偏差，为更负责任的基准选择与构建提供指导。
2025-09-22 cs.CL cs.CY cs.LG
A Human-in-the-Loop Fairness-Aware Model Selection Framework for Complex Fairness Objective Landscapes
University of Freiburg（弗莱堡大学）；Zuse School ELIZA（祖塞ELIZA学院）
本文提出人在环公平感知模型选择框架ManyFairHPO，将公平度量视为多目标优化问题，帮助从业者识别和平衡公平冲突，并通过法学院招生案例验证其有效性。
2024-10-21 cs.LG
SimFair: A Unified Framework for Fairness-Aware Multi-Label Classification
Purdue University（普渡大学）
近年来，人们越来越关注机器学习算法做出的不公平决策。为了提高模型决策的公平性，人们提出了各种公平性概念，并开发了许多公平性感知方法。然而，大多数现有的定义和方法只关注单标签分类。多标签分类的公平性，其中每个实例与多个标签相关联，仍然有待建立。为了填补这一空白，本文研究了公平感知的多标签分类。我们首先扩展人口均等（DP）和机会均等（EOP），两个流行的公平概念，多标签分类的情况下。通过系统的研究，我们表明，在多标签数据，由于不均匀分布的标签，EOp通常无法构建一个可靠的估计标签的实例很少。然后，我们提出了一个新的框架命名为相似性$s$ -诱导公平（$s_γ$ -SimFair）.这个新的框架在估计特定标签组的公平性时利用具有相似标签的数据以获得更好的稳定性，并且可以统一DP和EOp。理论分析和在真实数据集上的实验结果表明，与现有的多标签分类方法$s_γ$ -SimFair相比，该方法具有更好的分类性能.
2023-02-22 cs.LG
FairGSE: Fairness-Aware Graph Neural Network without High False Positive Rates
针对现有公平感知图神经网络假阳性率过高的问题，提出FairGSE框架，通过最大化二维结构熵兼顾公平性与假阳性控制，实验显示其FPR较SOTA方法降低39%且公平性提升相当。
2025-11-15 cs.LG
Fairness-Aware Node Representation Learning
University of California, Irvine（加州大学欧文分校）
节点表示学习已经证明了它在图的各种应用中的有效性。特别是，对比学习的最新发展已经导致了一些任务的无监督节点表示学习的有希望的结果。尽管图对比学习取得了成功，随之而来的兴趣也在不断增长，但公平性在该领域的探索还很不够。为此，本研究通过自适应特征掩蔽和边缘删除，解决了图对比学习中的公平性问题，并采用公平性感知图增强设计。在这项研究中，不同的公平性概念的图，作为建议的图增强的指导方针。此外，理论分析提供了定量证明所提出的特征掩蔽方法可以减少本征偏差。真实社交网络上的实验结果表明，所提出的增强可以提高公平性的统计奇偶性和平等的机会，同时提供可比的分类精度，以国家的最先进的对比方法节点分类。
2021-06-09 cs.LG
Explaining Algorithmic Fairness Through Fairness-Aware Causal Path Decomposition
Institute for Artificial Intelligence, Tsinghua University（清华大学人工智能研究院）；University of Florida（佛罗里达大学）；Weill Cornell Medicine（威尔康奈尔医学院）
算法公平性近年来在数据采掘和机器学习领域引起了广泛的关注。到目前为止，现有的研究主要集中在定量指标的发展，以衡量算法的差异在不同的保护组，并调整算法的输出，以减少这种差异的方法。在本文中，我们建议研究的问题，识别模型差异的来源。与现有的解释方法，通常学习特征的重要性，我们认为特征变量之间的因果关系，并提出了一种新的框架，从公平意识的因果路径，这是路径连接的敏感属性和最终的预测，图上的贡献之和分解的差距。我们还考虑的情况下，在这些路径内的某些边缘上的方向无法确定。我们的框架也是模型不可知的，适用于各种定量差异的措施。对合成数据集和真实数据集的实证评估表明，我们的方法可以提供精确和全面的解释模型的差异。
2021-08-11 cs.LG
On the Maximal Local Disparity of Fairness-Aware Classifiers
University of Science and Technology of China（中国科学技术大学）；Peking University（北京大学）
本文提出最大局部公平性差异指标MCDP及其高效计算和可微近似方法，并通过双层优化在表格和图像数据上实现更优的公平性-准确性权衡。
2024-06-05 cs.LG
Partial Fairness Awareness: Belief-Guided Strategic Mechanism for Strategic Agents
National University of Defense Technology, Changsha, China（国防科技大学）；Peking University, Beijing, China（北京大学）；Shanghai University of Finance and Economics, Shanghai, China（上海财经大学）；ZGC Laboratory, Beijing, China（ZGC实验室）；Faculty of Computing, Harbin Institute of Technology, Harbin, China（哈尔滨工业大学计算机学院）
针对策略分类中的公平暴露困境，提出部分公平意识（PFA）问题，通过发布公平约束候选集并隐藏真实约束，结合信念引导机制实现代理与系统公平约束的对齐，实验表明PFA在降低群体公平差距、提高合格个体接受率和结果稳定性方面优于完全公开或私有的公平机制。
2026-05-30 cs.LG
Modeling Techniques for Machine Learning Fairness: A Survey
Texas A&M University（德克萨斯农工大学）；Rice University（莱斯大学）；University of Georgia（佐治亚大学）
机器学习模型在高风险应用中变得越来越普遍。尽管这些模式在业绩方面有明显的好处，但它们可能显示出对少数群体的歧视，并导致决策过程中的公平问题，从而对个人和社会产生严重的负面影响。近年来，已经开发了各种技术来减轻机器学习模型的不公平性。其中，在处理方法引起了越来越多的关注，在模型设计中直接考虑公平性，以诱导内在公平的模型，并从根本上缓解输出和表示的公平性问题。在这项调查中，我们回顾了目前的进展，在处理公平缓解技术。根据模型中实现公平性的位置，我们将其分为显式和隐式方法，前者直接将公平性度量纳入训练目标，后者侧重于细化潜在的表示学习。最后，我们结束了调查，在这个社区的研究挑战的讨论，以激励未来的探索。
2022-04-10 cs.LG
Fairness-Aware Multi-Group Target Detection in Online Discussion
Dept. of Computer Science, The University of Texas at Austin（德克萨斯大学奥斯汀分校计算机科学系）；Department of Data, Analytics, Technology, and Artificial Intelligence, ESADE（ESADE大学数据、分析、技术和人工智能系）；The Information School, The University of Texas at Austin（德克萨斯大学奥斯汀分校信息学院）
本文研究了在线讨论中目标群体检测的公平性影响，提出了一种公平性意识的多群体目标检测方法，减少了群体间的偏见并提升了预测性能。
2026-06-18 cs.LG
A fairness-aware extension of Stochastic Multicriteria Acceptability Analysis for ranking
Engineering School, Mackenzie Presbyterian University（麦肯锡长老会大学工程学院）
提出SMAA-Fair，通过重加权排序以提升群体公平性，结合统计均等、rKL和nDKL指标，在保持鲁棒性同时改善受保护群体在有利位置的代表性。
2026-06-17 cs.LG
Fairness-aware Message Passing for Graph Neural Networks
The Pennsylvania State University（宾夕法尼亚州立大学）；National University of Singapore（新加坡国立大学）
针对图神经网络预测中的社会偏见问题，提出公平感知消息传递框架GMMD及其简化变体GMMD-S，通过优化图平滑性与表示公平性实现公平表示，在保持高准确率的同时显著提升多种骨干GNN模型的公平性。
2023-06-19 cs.LG
Survey on Causal-based Machine Learning Fairness Notions
INRIA（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
解决公平性问题对于安全地使用机器学习算法来支持对人们生活产生关键影响的决策至关重要，例如招聘，虐待儿童，疾病诊断，贷款发放等。然而，最新的公平概念是基于因果关系的，反映了现在广泛接受的观点，即使用因果关系是适当解决公平问题的必要条件。本文研究了一个详尽的清单，基于cabinet的公平概念，并研究其在现实世界中的应用场景。由于大多数基于因果关系的公平性概念是根据不可观察的量来定义的（例如，干预措施和反事实），在实践中部署它们需要使用观测数据来计算或估计这些数量。本文提供了一个全面的报告，不同的方法来推断因果量的观测数据，包括可识别性（珍珠的SCM框架）和估计（潜在的结果框架）。这份调查报告的主要贡献是（1）一个指导方针，以帮助选择一个合适的公平概念给定一个特定的现实世界的情况下，（2）根据珍珠的因果关系阶梯的公平概念的排名，表明它是多么困难，在实践中部署每个概念。
2022-06-07 cs.LG
Adversarial Attacks on Fairness of Graph Neural Networks
University of Virginia（弗吉尼亚大学）；IBM Research（IBM研究院）
本文研究针对公平感知GNN的对抗攻击，提出通用框架G-FairAttack及快速计算技术，可在不显著影响预测效用的情况下破坏多类GNN的公平性。
2024-03-03 cs.LG
Fairness-Aware Low-Rank Representation Fine-Tuning
Innovation Lab, Featurespace（Featurespace创新实验室）
针对现有公平感知微调方法需敏感属性标签的局限，提出四种公平感知LoRA策略，实验显示其中两种策略在效用与公平性上优于标准微调，同时也揭示了多公平目标优化的挑战。
2026-08-25 cs.CV cs.LG
Fairness-Aware Online Meta-learning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
与离线工作方式相比，在线学习有两种研究范式：（1）在线元学习（OML）在一个接一个的任务被揭示的顺序设置中学习模型参数的良好先验（或学习学习）。虽然它提供了一个次线性的遗憾界限，这种技术完全忽略了公平学习的重要性，这是人类智力的一个重要标志。(2)在线公平意识学习。此设置捕获了许多关注公平性的分类问题。但它的目标是实现zero-shot泛化，而没有任何特定于任务的适应。因此，这限制了模型适应新到达数据的能力。为了克服这些问题，弥补这一差距，在本文中，我们首次提出了一种新的在线元学习算法，即FFML，这是在不公平预防的设置。FFML的关键部分是学习在线公平分类模型的原始和对偶参数的良好先验，这些参数分别与模型的准确性和公平性相关联。该问题是制定在一个双层凹凸优化的形式。理论分析给出了损失后悔和违反累积公平约束的次线性上界。我们的实验证明了FFML的多功能性，通过将其应用于三个真实世界的数据集上的分类，并在公平性和分类准确性之间的权衡上显示出比最好的先前工作有实质性的改进
2021-08-21 cs.LG
FairGT: A Fairness-aware Graph Transformer
Dalian University of Technology（大连理工大学）；RMIT University（皇家墨尔本理工大学）
针对图Transformer忽略公平性且传统方法无法直接适用的问题，提出FairGT，通过结构特征选择和多跳节点特征集成确保敏感特征独立性，在五个数据集上显著提升了公平性指标。
2024-04-26 cs.CY cs.LG
FairFinGAN: Fairness-aware Synthetic Financial Data Generation
University of Koblenz（科伦兹大学）；Hanoi University of Science and Technology（河内科学技术大学）；Banking Academy of Vietnam（越南银行学院）；University of Sheffield（谢菲尔德大学）
FairFinGAN通过引入公平性约束生成公平且实用的合成金融数据，有效减少偏见并提升数据实用性。
2026-03-05 cs.LG
Fairness-aware Anomaly Detection via Fair Projection
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人社会研究院）；The Guangdong Provincial Key Laboratory of Future Networks of Intelligence（广东省未来网络智能化重点实验室）
针对无监督异常检测可能存在的群体公平性偏差问题，提出基于公平投影的FairAD方法，通过学习公共目标分布投影兼顾检测精度与公平性，还提出无阈值公平性指标，在真实基准上实现了更优的精度-公平性权衡。
2025-05-16 cs.LG
Fairness-Aware Meta-Learning via Nash Bargaining
Virginia Tech（弗吉尼亚理工大学）；Meta AI；University of California, Berkeley（加利福尼亚大学伯克利分校）
本文提出两阶段公平性感知元学习框架，利用 NBS 解决子群体超梯度冲突并逼近 Pareto 前沿，再优化特定公平目标，兼具理论保证与跨数据集实证效果。
2024-06-11 cs.LG
A Model Ensemble-Based Post-Processing Framework for Fairness-Aware Prediction
本文提出一种基于模型集成的后处理框架，用于提升预测中的公平性，通过实验验证该框架在分类、回归和生存分析中能有效提升公平性同时保持预测准确性。
2026-10-16 cs.LG stat.ML
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Benchmarking Fairness-aware Graph Neural Networks in Knowledge Graphs
The University of Osaka（大阪大学）
该研究针对现有公平感知图神经网络（GNN）缺乏知识图谱场景评估的空白，基于YAGO等三个大规模知识图谱构建新数据集，在不同GNN骨干和早停条件下测试预处理与处理中公平方法，揭示了知识图谱上准确率与公平性的权衡规律及不同方法的效果差异。
2025-10-21 cs.AI cs.LG
Statistical Guarantees for Fairness Aware Plug-In Algorithms
American Express（美国运通）
在（Menon & Williamson，2018）中提出了一种估计贝叶斯最优分类器的插件算法。然而，他们的方法的统计效力尚未确定。我们证明了插件算法是统计一致的。我们还得到有限样本保证学习贝叶斯最优分类器通过插件算法。最后，我们提出了一个协议，修改插件的方法，以便同时保证公平性和差分隐私方面的二进制特征被认为是敏感的。
2021-07-27 cs.LG stat.ML
A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization
Feedzai（飞载）；Universidade do Porto（波尔图大学）
相当多的研究工作已被引导到算法公平性，但仍然没有重大突破。在实践中，需要对所有可能的技术和超参数进行详尽的搜索，以找到最佳的公平性-准确性权衡。因此，再加上ML从业者缺乏工具，减少偏差方法的实际应用仍然很少。为了解决这个问题，我们提出了Fairband，一个基于带宽的公平感知超参数优化（HO）算法。Fairband在概念上简单，资源有效，易于实现，并且对目标指标，模型类型和正在探索的超参数空间都不可知。此外，通过将公平概念引入HO，我们可以将公平目标无缝有效地集成到现实世界的ML管道中。我们比较Fairband与流行的HO方法在四个现实世界的决策数据集。我们表明，Fairband可以有效地导航的公平性和准确性的权衡，通过超参数优化。此外，在没有额外的训练成本的情况下，它始终发现在预测准确性的相对较小的降低下实现大幅提高的公平性的配置。
2020-10-22 cs.AI cs.LG
Fairness-Aware Insurance Pricing: A Multi-Objective Optimization Approach
本文提出一种多目标优化方法，通过NSGA-II算法同时优化保险定价中的准确性、群体公平性、个体公平性和反事实公平性，实现公平性与盈利性的平衡。
2025-12-31 cs.LG q-fin.RM
Towards Fairness-Aware Multi-Objective Optimization
East China University of Science and Technology（华东理工大学）；Northeastern University（东北大学）；Bielefeld University（比勒费尔德大学）；University of Surrey（萨里大学）
近年来，公平感知机器学习在减轻决策中的不公平或歧视方面得到了快速发展，应用范围广泛。然而，公平感知的多目标最优化问题在现实生活中确实很常见，如公平资源分配问题和数据驱动的多目标最优化问题，却很少受到关注。本文旨在从公平性的角度阐明和拓宽我们对多目标最优化的理解。为此，我们从讨论多目标最优化中的用户偏好开始，然后探索其与机器学习和多目标最优化中的公平性的关系。在此基础上，给出了公平性感知多目标优化的典型案例，进一步阐述了公平性在传统多目标最优化、数据驱动优化和联邦优化中的重要性。最后，公平意识的多目标最优化的挑战和机遇。我们希望这篇文章能够为在优化的背景下理解公平性迈出一小步，并促进对公平感知多目标最优化的研究兴趣。
2022-07-22 cs.AI cs.LG cs.NE
Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Differential Privacy and Fairness in Decisions and Learning Tasks: A Survey
Syracuse University（雪城大学）；Georgia Institute of Technology（佐治亚理工学院）
本文综述了差分隐私（DP）和公平性的交叉最近的工作。它审查的条件下，隐私和公平性可能有对齐或对比的目标，分析DP如何以及为什么可能加剧偏见和不公平的决策问题和学习任务，并描述了可用的缓解措施DP系统中出现的公平性问题。该调查提供了对在公平视角下部署隐私保护机器学习或决策任务时所面临的主要挑战和潜在风险的统一理解。
2022-09-08 cs.AI cs.LG
An Experimental Study on Fairness-aware Machine Learning for Credit Scoring Problems
Banking Academy of Vietnam（越南银行学院）；Vietnam Academy of Science and Technology（越南科学技术 academy）；Hanoi University of Science and Technology（河内科学技术大学）；University of Koblenz（科隆大学）
本文研究信用评分中公平性意识机器学习的关键方面，评估公平性模型与传统分类模型的平衡性，发现公平性模型在预测准确性和公平性间取得更好平衡。
2026-03-05 cs.CY cs.LG stat.ML
Fairness-aware Outlier Ensemble
Zhejiang University（浙江大学）；Pennsylvania State University（宾夕法尼亚州立大学）；University at Buffalo（布法罗大学）
离群值集成方法在发现与大多数数据显著不同的实例方面表现出出色的性能。然而，如果没有公平意识，它们在道德场景中的适用性，如欺诈检测和司法判决系统，可能会降低。在本文中，我们提出了通过一个公平意识的集成框架，以减少偏差的离群集成结果。由于离群点检测任务中缺乏地面真值，关键的挑战是如何在提高公平性的同时减轻检测性能的下降。为了解决这一挑战，我们定义了一个距离测量的基础上输出的传统离群集成技术来估计可能的成本与检测性能下降。同时，我们提出了一个后处理框架，通过堆叠过程来调整原始集成结果，以便我们可以实现公平性和检测性能之间的权衡。检测性能通过ROC曲线下面积（AUC）来衡量，而公平性则在组和个体水平上进行衡量。在8个公共数据集上进行了实验。结果表明，该框架在提高离群集成结果的公平性的有效性。我们还分析了AUC和公平性之间的权衡。
2021-03-17 cs.AI cs.LG
FairOD: Fairness-aware Outlier Detection
Carnegie Mellon University（卡内基梅隆大学）；Snap Inc.（Snap 公司）
公平性和离群点检测（OD）密切相关，因为OD的目标正是在给定的群体中发现稀有的少数样本。然而，当少数群体（由受保护的变量定义，如种族/民族/性别/年龄）并不反映积极的阶级成员身份（如犯罪/欺诈）时，OD产生不公正的结果。令人惊讶的是，公平意识OD在以前的工作中几乎没有被触及，因为公平机器学习文献主要集中在监督设置上。我们的工作旨在弥合这一差距。具体来说，我们开发desiderata捕获动机良好的公平标准OD，并系统地正式的公平OD问题。此外，在我们的期望的指导下，我们提出了FairOD，一个公平意识的离群值检测器，具有以下理想的属性：FairOD（1）在测试时表现出治疗奇偶性，（2）旨在标记来自所有组的相等比例的样本（即通过统计奇偶性获得组公平性），以及（3）努力标记每个组中真正的高风险样本。在一组不同的合成和真实世界数据集上进行的广泛实验表明，FairOD产生的结果对于受保护的变量是公平的，同时在检测性能方面与公平不可知的检测器相当（在某些情况下，甚至更好）。
2021-08-30 cs.AI cs.LG
FairQuant: Fairness-Aware Mixed-Precision Quantization for Medical Image Classification
Department of Computer Science, University of Copenhagen, Denmark（计算机科学系，哥本哈根大学，丹麦）
FairQuant通过公平性感知的混合精度量化方法，在医学图像分类中提升模型精度和公平性，实现性能与效率的平衡。
2026-02-26 cs.CV cs.LG
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University（Chungnam国立大学）
提出FnRGNN，一种多层面公平性处理框架，通过边重加权、MMD对齐和Sinkhorn分布匹配，在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Fairness Aware Reward Optimization
CSAIL, Department of EECS, Massachusetts Institute of Technology（计算机科学与人工智能实验室，电气工程与计算机科学系，麻省理工学院）；School of CIT, MCML, MDSI, Technical University of Munich（信息科技学院，MCML，MDSI，慕尼黑技术大学）
Faro通过在处理过程中训练奖励模型，实现公平性、准确性与校准性的平衡，减少偏见并提升模型质量。
2026-02-08 cs.AI cs.LG
Fairness-Aware Learning with Restriction of Universal Dependency using f-Divergences
University of Tsukuba（筑波大学）
公平感知学习是一种新的分类任务框架。与常规的经验风险最小化（ERM）一样，它旨在学习具有低错误率的分类器，同时，分类器的预测独立于敏感特征，如性别，宗教，种族和民族。现有方法可以实现对给定样本的低依赖性，但这不能保证对未知样本的依赖性。现有的公平性感知学习算法采用不同的依赖性度量，并且每个算法都是针对特定的算法而设计的。这种多样性使得很难从理论上对它们进行分析和比较。在本文中，我们提出了一个公平意识学习的一般框架，使用f-分歧，并涵盖了现有方法中采用的大多数依赖措施。我们引入了一种方法来估计的f-发散，使我们能够给出一个统一的分析的上界的估计误差，这个界比现有的收敛速度分析的发散估计。利用我们的发散估计，我们提出了一个公平意识的学习算法，并对其泛化误差进行了理论分析。我们的分析表明，在温和的假设下，即使与公平的强制，我们的方法的推广误差是$O(\sqrt{1/n})$，这是相同的常规ERM。此外，更重要的是，我们表明，对于任何f-发散，发散的估计误差的上限是$O(\sqrt{1/n})$。这表明，我们的公平性感知学习算法保证了对由f-发散表示的任何依赖性度量的未见过样本的低依赖性。
2015-06-25 cs.LG stat.ML
Toward a Fairness-Aware Scoring System for Algorithmic Decision-Making
Xi’an Jiaotong-Liverpool University（西交利物浦大学）；Xi’an Jiaotong University（西安交通大学）；University of Oklahoma（俄克拉荷马大学）；University of Washington（华盛顿大学）
评分系统作为一种预测模型，在可解释性和透明度方面具有显著优势，并有助于快速决策。因此，评分系统已广泛用于各种行业，如医疗保健和刑事司法。然而，这些模型中的公平性问题长期以来一直受到批评，大数据和机器学习算法在评分系统构建中的使用加剧了这种担忧。在本文中，我们提出了一个通用的框架来创建公平意识，数据驱动的评分系统。首先，我们开发了一个社会福利函数，它包含了效率和群体公平。然后，我们将社会福利最大化问题转化为机器学习中的风险最小化问题，并借助混合整数规划方法推导出一个公平性感知的评分系统。最后，几个理论界的推导提供参数选择建议。我们提出的框架提供了一个合适的解决方案，以解决群体公平性的问题，在发展的评分系统。它使决策者能够设置和定制他们想要的公平性要求以及其他特定于应用的约束。我们测试所提出的算法与几个经验数据集。实验证据支持建议的评分系统在实现利益相关者的最佳福利和平衡的可解释性，公平性和效率的需求的有效性。
2022-11-22 cs.LG stat.ME
Fairness-aware Classification: Criterion, Convexity, and Bounds
University of Arkansas（阿肯色大学）
公平感知分类在机器学习领域受到越来越多的关注。最近的研究建议制定公平意识的分类约束优化问题。然而，一些局限性存在于以前的作品，由于缺乏一个理论框架来指导制定。在本文中，我们提出了一个通用的框架，学习公平的分类，解决了以前的限制。该框架将各种常用的公平性度量公式化为凸约束，可以直接纳入经典的分类模型。在这个框架内，我们提出了一个无约束的标准，训练数据，确保任何分类器从数据中学习是公平的。我们还推导出的约束条件，确保真正的公平性度量是满足时，代理函数来实现凸性。我们的框架可以用来制定公平意识的分类公平性保证和计算效率。使用真实世界数据集的实验证明了我们的理论结果，并显示了所提出的框架和方法的有效性。
2018-09-13 cs.AI cs.CY cs.LG
Uncertainty-Aware Fairness-Adaptive Classification Trees
University of Florence（佛罗伦萨大学）；University of Calabria（卡拉布里亚大学）
针对机器学习预测中的歧视问题，提出融合公平感知不纯度度量、基于置信区间考量公平性不确定性的分类树算法，在准确率无显著损失下有效降低歧视。
2024-10-08 cs.LG stat.ML
GFLC: Graph-based Fairness-aware Label Correction for Fair Classification
University of Tartu, Institute of Computer Science（塔尔图大学计算机科学研究所）
本文提出GFLC方法，通过结合预测置信度、Ricci流优化的图正则化及人口统计均等激励，在保持公平性的同时有效修正标签噪声，显著改善性能与公平性的权衡。
2025-06-18 cs.AI cs.LG
Fairness-Aware Data Valuation for Supervised Learning
Feedzai（Feedzai公司）；Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院）；Instituto de Telecomunicações（电信研究所）
数据估值是一个ML领域，研究训练实例对给定预测任务的价值。虽然数据偏差是下游模型不公平的主要来源之一，但以前的数据评估工作并没有考虑训练实例如何影响ML模型的性能和公平性。因此，我们提出了公平感知数据评估（FADO），这是一个数据评估框架，可用于将公平性问题纳入一系列ML相关任务（例如，数据预处理、探索性数据分析、主动学习）。我们提出了一个基于熵的数据评估指标，适合于解决我们的双管齐下的目标，最大限度地提高性能和公平性，这是更有效的计算比现有的指标。然后，我们将展示如何FADO可以应用为基础的不公平缓解预处理技术。我们的方法取得了令人鼓舞的结果-与基线相比，公平性提高了40个百分点，性能损失不到1个百分点-并以数据为中心的方式促进公平性，其中对数据质量的更深入理解占据了中心地位。
2023-03-29 cs.CY cs.LG
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Tulane University（杜兰大学）；DePaul University（德保罗大学）；IBM Watson Research Center（IBM沃森研究中心）
随着推荐系统的设计和部署越来越多的社会后果的应用程序，它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而，我们认为，以前的文献一直是基于简单的，统一的，往往是一维的公平假设的概念，不承认现实世界的复杂性，公平意识的应用程序。在本文中，我们明确表示的设计决策，进入多个定义和交叉保护组的准确性和公平性之间的权衡，支持多个公平性指标。该框架还允许推荐器调整其性能的基础上，已交付的建议，在一个时间范围内的历史视图，动态重新平衡公平性的关注。在这个框架内，我们制定了基于彩票的公平性问题之间的选择机制，并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
FairGAT: Fairness-aware Graph Attention Networks
University of California, Irvine（加州大学欧文分校）
图形可以方便地建模各种复杂系统，如基因网络和电网，以及分析它们之间的潜在关系。图上的学习最近吸引了越来越多的关注，特别是基于图神经网络（GNN）的解决方案，其中图注意力网络（GAT）已经成为用于基于图的任务的最广泛使用的神经网络结构之一。虽然有研究表明，在学习过程中使用图结构会导致算法偏见的放大，但GAT中的注意设计对算法偏见的影响还没有研究。基于此，本研究首先进行了理论分析，以证明算法偏见在基于GAT的学习节点分类的来源。然后，一种新的算法，FairGAT，利用公平意识的注意设计的理论研究结果的基础上开发。在真实网络上的实验结果表明，FairGAT提高了组公平性措施，同时也提供了相当的效用，节点分类和链接预测的公平性感知基线。
2023-03-26 cs.CY cs.LG
FairGAN: Fairness-aware Generative Adversarial Networks
University of Arkansas（阿肯色大学）
公平感知学习在数据采掘中越来越重要。歧视预防的目的是在训练数据用于进行预测分析之前，防止在训练数据中出现歧视。在本文中，我们专注于公平的数据生成，确保生成的数据是无歧视的。受生成对抗网络（GAN）的启发，我们提出了一种公平感知的生成对抗网络，称为公平GAN，它能够学习生成公平数据的生成器，并保持良好的数据效用。与朴素的公平数据生成模型相比，FairGAN进一步保证了在生成数据上训练的分类器可以在真实数据上实现公平分类。在真实数据集上的实验表明了FairGAN的有效性。
2018-05-28 cs.CY cs.LG stat.ML
Metrics and methods for a systematic comparison of fairness-aware machine learning algorithms
Experian DataLabs UK&I and EMEA（益博睿英国爱尔兰及欧洲、中东和非洲数据实验室）
理解和消除机器学习模型所做决策的偏见对于避免歧视弱势群体至关重要。尽管最近在算法公平性方面取得了进展，但仍然没有明确的答案来说明哪些偏差缓解方法是最有效的。评估策略通常是特定于用例的，依赖于带有不明确偏见的数据，并采用固定的策略将模型输出转换为决策结果。为了解决这些问题，我们进行了系统的比较，一些流行的公平算法适用于监督分类。我们的研究是同类研究中最全面的。它利用三个真实数据集和四个合成数据集，以及两种不同的将模型输出转换为决策的方法。它考虑了28种不同建模管道的公平性，预测性能，校准质量和速度，对应于公平性感知算法和公平性感知算法。我们发现，不知道公平性的算法通常无法产生足够公平的模型，最简单的算法不一定是最公平的。我们还发现，公平意识算法可以在预测能力没有实质性下降的情况下诱导公平性。最后，我们发现数据集的特质（例如，内在不公平的程度，相关性的性质）确实影响公平意识方法的性能。我们的研究结果允许从业者缩小他们想采用的方法，而不必提前知道他们的公平性要求。
2020-10-08 cs.AI cs.CY cs.LG
Fairness-aware Regression Robust to Adversarial Attacks
University of California, Davis（加州大学戴维斯分校）
在本文中，我们朝着回答如何设计对对抗攻击具有鲁棒性的公平机器学习算法的问题迈出了第一步。使用极大极小框架，我们的目标是设计一个对抗性鲁棒的公平回归模型，该模型在攻击者能够向数据集添加精心设计的对抗性数据点或对数据集执行一级攻击的情况下实现最佳性能。通过求解提出的非光滑非凸-非凹Minimax问题，得到了最优敌手和鲁棒公平性回归模型。对于合成数据和真实世界数据集，数值结果表明，与其他公平机器学习模型相比，本文提出的对抗鲁棒公平模型在中毒数据集上具有更好的预测精度和基于组的公平性度量.
2022-11-04 cs.CR cs.LG
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Carnegie Mellon University（卡内基梅隆大学）
数据驱动的学习算法在许多在线应用中被采用，其中数据随着时间的推移变得可用，如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时，底层数据分布可能会随着时间的推移而演变，从而需要模型自适应。在这种动态环境中，即所谓的数据流中，公平性感知学习不能被认为是一次性的要求，而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题，这体现在许多现实生活中的应用，并减轻歧视，主要是因为他们“拒绝”少数情况下，由于他们无法有效地学习所有类。在这项工作中，我们提出了\ours，一个在线的公平意识的方法，保持一个有效的和公平的流分类。\ours ~是一种在线提升方法，通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果，以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明，我们的方法优于最先进的公平感知流方法，平衡准确率（相对）提高[11.2%~ 14.2%]，gmean（相对）提高[22.6%~ 31.8%]，回忆率（相对）提高[42.5%~ 49.6%]，Kappa值为14.3%~ 25.7%，统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
FairSR: Fairness-aware Sequential Recommendation through Multi-Task Learning with Preference Graph Embeddings
National Cheng Kung University（国立成功大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
顺序推荐（SR）从用户-项目交互的时间动态中学习，以预测下一个。公平性感知推荐减轻了用户偏好学习中的各种算法偏差。本文旨在将SR和算法公平性结合起来。我们提出了一种新的公平性感知的顺序推荐任务，在其中定义了一个新的度量，交互公平性，以估计如何推荐项目公平地与不同的保护属性组的用户进行交互。我们提出了一个基于多任务学习的深度端到端模型FairSR，它由两部分组成。一种是从给定的用户及其项目序列中学习和提取个性化的序列特征，用于SR。另一种是公平感知偏好图嵌入（FPGE）。FPGE的目标是双重的：将用户和项目的属性及其相关性的知识纳入实体表示，并减轻用户属性在项目上的不公平分布。在三个数据集上进行的大量实验表明，FairSR在推荐性能上优于最先进的SR模型。此外，FairSR推荐的项目也表现出良好的交互公平性。
2022-04-30 cs.IR cs.LG cs.SI
Fairness-aware Federated Minimax Optimization with Convergence Guarantee
The Hong Kong University of Science and Technology（香港科技大学）
本文针对联邦学习中的群体公平性问题，提出新算法FFALM，通过在训练目标施加公平性约束并求解极小极大重构，在保证收敛率理论上界的同时，在CelebA和UTKFace数据集上有效提升了模型公平性。
2024-10-17 cs.CY cs.LG
Fairness Aware Counterfactuals for Subgroups
Athena Research Center（雅典娜研究中心）；Université Libre De Bruxelles（布鲁塞尔自由大学）；National Technical University of Athens（雅典国立技术大学）
本文提出FACTS框架，通过反事实解释审计子组公平性，引入更精细的子组公平性概念及高效可解释的评估框架，并在多个基准数据集上验证了其优势与广泛适用性。
2023-06-26 cs.CY cs.LG
Fairness-aware kidney exchange and kidney paired donation
Division of Biostatistics, University of California, Berkeley（加州大学伯克利分校生物统计学系）；Department of Statistics and Data Science and Department of Biostatistics, University of California, Los Angeles（加州大学洛杉矶分校统计与数据科学系和生物统计学系）；University of California, Berkeley（加州大学伯克利分校）
本文提出了一种基于条件独立性的公平性标准，用于改进肾脏配对捐赠中的公平性，通过线性化策略和列生成方法实现高效计算，并通过理论分析和实证研究验证其有效性。
2026-01-18 cs.LG stat.ME
Beyond Independent Manipulation: Individual Fairness-aware Strategic Classification with Peer Imitation
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机科学与技术学院）；School of Mathematical Sciences, Peking University（北京大学数学学院）；Institute for Theoretical Computer Science, Shanghai University of Finance and Economics（上海财经大学理论计算机科学研究所）；Information Technology Development, Aetos Capital Group, Sydney（悉尼Aetos资本集团信息技术部）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
提出个体公平感知策略分类（IFSC）框架，通过建模基于个体公平的同伴驱动操纵（模仿邻近被接受同伴），并采用鲁棒学习过程处理同伴可观测性不确定性，以改善个体公平一致性并减轻模仿引起的扭曲。
2026-06-26 cs.AI cs.LG
Fix Fairness, Don't Ruin Accuracy: Performance Aware Fairness Repair using AutoML
Iowa State University（爱荷华州立大学）；Carnegie Mellon University（卡内基梅隆大学）
本研究提出Fair-AutoML，利用AutoML改进优化函数和公平性感知搜索空间，在几乎不损失准确性的前提下修复ML模型偏见，实验显示显著优于现有方法。
2023-08-29 cs.LG cs.SE
Fairness-aware Model-agnostic Positive and Unlabeled Learning
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
随着机器学习在高风险决策问题中的应用越来越多，对某些社会群体的潜在算法偏见对个人和整个社会造成了负面影响。在现实世界的场景中，许多这样的问题涉及积极的和未标记的数据，如医疗诊断，犯罪风险评估和推荐系统。例如，在医疗诊断中，只有诊断出的疾病才会被记录（阳性），而其他疾病则不会被记录（未标记）。尽管在（半）监督和无监督环境中有大量关于公平性感知机器学习的现有工作，但在上述积极和无标签学习（PUL）背景下，公平性问题在很大程度上没有得到充分探讨，在这种情况下，它通常更严重。在本文中，为了缓解这种紧张局势，我们提出了一个公平意识的PUL方法命名为FairPUL。特别是，对于来自两个群体的个体的二进制分类，我们的目标是在两个群体中实现相似的真阳性率和假阳性率作为我们的公平性度量。在分析PUL最优公平分类器的基础上，我们设计了一个模型无关的后处理框架，同时利用正例和未标记的例子。我们的框架被证明是统计上一致的分类误差和公平性度量。在合成数据集和真实数据集上的实验表明，我们的框架在PUL和公平分类方面都优于最先进的框架。
2022-06-19 cs.CY cs.LG
