Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia（弗吉尼亚大学）；City University of Hong Kong（香港城市大学）；Microsoft（微软）
公平机器学习旨在减轻模型预测对某些亚群的偏见，这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中，反事实公平性通过比较每个个体从原始数据和反事实的预测，从因果的角度衡量模型的公平性。在反事实中，这个人的敏感属性值被修改了。近年来，一些研究将反事实公平性扩展到图数据，但大多数研究都忽略了以下可能导致偏差的事实：1）每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2）敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题，在本文中，我们提出了一个新的公平概念-图反事实公平，它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示，我们提出了一种新的框架，基于反事实数据增强。在这个框架中，我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后，我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明，我们的框架在图反事实公平性方面优于最先进的基线，并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
Fair Classification via Domain Adaptation: A Dual Adversarial Learning Approach
Illinois Institute of Technology（伊利诺伊理工学院）
本文提出一种双对抗学习框架，利用源域敏感属性通过域自适应实现目标域公平分类，在目标域无敏感属性时仍保持有效。
2023-05-30 cs.AI cs.LG
Fair Streaming Feature Selection
Anhui University（安徽大学）；The Hong Kong Polytechnic University（香港理工大学）
针对现有流特征选择算法易因敏感属性产生不公平结果的问题，提出FairSFS算法，动态调整特征集并识别敏感属性相关性，在保证准确率相当的同时显著提升公平性。
2024-06-20 cs.AI cs.LG
FairNet: Dynamic Fairness Correction without Performance Loss via Contrastive Conditional LoRA
FairNet提出一种结合偏置检测器与条件LoRA的动态公平性校正框架，通过新对比损失函数处理数据稀疏，在保持整体性能的同时提升最差群体表现。
2025-10-22 cs.AI cs.LG
SOMtime the World Ain$'$t Fair: Violating Fairness Using Self-Organizing Maps
Faculty of Biology, Technion University（生物学院，技术学院）；Taub Faculty of Computer Science, Technion University（计算机科学学院，技术学院）
研究发现基于自组织映射的SOMtime方法，能让敏感属性在无监督嵌入中成为主导潜在轴，恢复与敏感属性对齐的排序，其嵌入分割产生人口统计学倾斜聚类，揭示“通过无意识实现公平”在表示层面失败，公平审计需扩展到无监督组件。
2026-07-09 cs.AI cs.LG
Fairness via Adversarial Attribute Neighbourhood Robust Learning
Dalian University of Technology（大连理工大学）；The University of Iowa（爱荷华大学）；Netflix（奈飞公司）；Texas A&M University（得克萨斯农工大学）
提高特权和低特权敏感属性组（例如，{种族，性别}）之间的公平性吸引了大量的关注。为了提高模型在不同敏感属性中的一致性，我们提出了一个原则性的\underline{R} obust \underline{A} dversarial \underline{A} tribute \underline{N} neighbourhood（RAAN）损失，以消除分类头的偏差，并促进不同敏感属性组之间更公平的表示分布。RAAN的核心思想是通过为每个样本分配一个对抗性鲁棒权值来消除不同敏感属性组之间有偏表示的差异，该权值定义在对抗性属性邻居（即来自不同保护组的样本）的表示上。为了提供有效的优化算法，我们铸造的RAAN到一个耦合的组合函数的总和，并提出了一个随机自适应（亚当式）和非自适应（SGD式）的算法框架SCRAAN与可证明的理论保证。在公平性相关基准数据集上的大量实证研究验证了该方法的有效性。
2022-10-12 cs.AI cs.CV cs.LG
One Fits All: Learning Fair Graph Neural Networks for Various Sensitive Attributes
Sun Yat-sen University（中山大学）；Tencent AI Lab（腾讯AI实验室）
本文从因果与不变学习视角提出 FairINV 框架，通过敏感属性划分并消除标签与多敏感属性的虚假相关，实现一次训练即可适配不同敏感属性的公平 GNN。
2025-06-09 cs.LG
FeDa4Fair: Client-Level Federated Datasets for Fairness Evaluation
Institute of Computer Science, Johannes Gutenberg University（约翰内斯·古滕贝格大学计算机科学研究所）；University of Pisa（比萨大学）
本文提出FeDa4Fair框架，旨在解决联邦学习中客户端层面的公平性问题，通过定制化数据集和标准化评估流程提升公平性研究的鲁棒性和可重复性。
2026-05-09 cs.AI cs.LG
Towards Group Fairness with Multiple Sensitive Attributes in Federated Foundation Models
本文首次对联邦基础模型中多敏感属性的群体公平性进行因果分析，通过扩展模型结构同时权衡多个属性，并利用因果发现与推断量化公平效应，实验验证了其有效性与可解释性。
2025-06-23 cs.LG
FairGRAPE: Fairness-aware GRAdient Pruning mEthod for Face Attribute Classification
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
现有的修剪技术保留了深度神经网络做出正确预测的整体能力，但也可能在压缩过程中放大隐藏的偏差。我们提出了一种新的修剪方法，公平意识梯度修剪方法（FairGRAPE），最大限度地减少修剪对不同子组的不成比例的影响。我们的方法计算每个模型权重的每组重要性，并选择一个子集的权重，保持相对组间的总重要性修剪。然后，该方法修剪网络边缘的重要性值小，并通过更新重要性值重复该过程。我们在四个不同的数据集上证明了我们的方法的有效性，FairFace，UTKFace，CelebA和ImageNet，用于面部属性分类任务，与最先进的修剪算法相比，我们的方法将性能下降的差异降低了90%。我们的方法在具有高修剪率（99%）的设置中显著更有效。实验中使用的代码和数据集可在https://github.com/Bernardo1998/FairGRAPE上获得
2022-07-22 cs.AI cs.CV cs.LG
Exploiting Fairness to Enhance Sensitive Attributes Reconstruction
LAAS-CNRS（LAAS-法国国家科学研究中心）；Université de Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）；École de Technologie Supérieure（高等技术学院）；Université du Québec à Montréal（魁北克大学蒙特利尔分校）；INSA（法国国立应用科学学院）
近年来，越来越多的工作已经出现在如何学习机器学习模型的公平性约束下，往往表示相对于一些敏感的属性。在这项工作中，我们考虑设置中的对手有黑箱访问的目标模型，并表明该模型的公平性的信息可以利用对手，以提高他的重建的敏感属性的训练数据。更确切地说，我们提出了一个通用的重建校正方法，它作为输入的初始猜测的对手，并纠正它遵守一些用户定义的约束（如公平信息），同时尽量减少对手的猜测的变化。该方法不依赖于目标模型的类型、公平性感知学习方法以及对手的辅助知识。为了评估我们方法的适用性，我们对两种最先进的公平学习方法进行了彻底的实验评估，使用了四种不同的公平性度量，具有广泛的公差范围，以及三种不同大小和敏感属性的数据集。实验结果表明，该方法可以有效地提高训练集敏感属性的重构能力。
2022-09-02 cs.AI cs.CR cs.LG
Enhancing Multi-Attribute Fairness in Healthcare Predictive Modeling
College of Computing and Informatics（计算与信息学院）；Drexel University（德雷塞尔大学）
针对医疗预测建模中多属性公平性问题，提出两阶段优化方法，兼顾预测性能与多敏感属性公平，实验显示同时优化优于单一属性方法，显著降低EOD并保持高准确性。
2025-01-22 cs.CY cs.LG
Group Fairness with Uncertainty in Sensitive Attributes
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）；University of Florida（佛罗里达大学）
针对敏感属性缺失或带噪导致的公平性失效问题，提出基于 bootstrap 并由鲁棒QCQP支撑的算法，可在离散或连续属性下保证独立性等群体公平。
2023-06-07 cs.LG
Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）
对抗学习是公平表示学习中广泛使用的一种技术，用于消除数据表示中敏感属性的偏差。它通常需要将敏感属性标签作为预测目标。然而，在许多场景下，许多样本的敏感属性标签可能是未知的，并且很难基于具有观察到的属性标签的稀缺数据训练一个强的分类器，这可能导致产生不公平的表示。本文提出了一种基于对抗性变分自编码器的半监督公平表示学习方法，该方法可以减少对抗性公平模型对带有标签敏感属性的数据的依赖。更具体地说，我们使用一个偏见感知模型，通过准确地预测敏感属性从输入数据捕捉敏感属性的固有偏见信息，我们使用一个无偏见的模型，学习去偏见的公平表示，通过使用对抗学习，以消除偏见信息。由两个模型学习的隐藏表示被正则化为正交的。此外，两个模型预测的软标签被进一步集成到一个半监督的变分自编码器中，以重建输入数据，我们应用了一个额外的熵正则化，以鼓励从无偏模型推断的属性标签是高熵的。通过这种方式，如果输入数据被很好地重构，则偏差感知模型可以更好地捕获属性信息，而无偏差模型对敏感属性的区分性较低。在两个不同任务的数据集上进行的大量实验验证了该方法在有限数据和敏感属性标签的情况下可以实现良好的表示学习公平性。
2022-04-01 cs.LG
Fair Classification under Covariate Shift and Missing Protected Attribute -- an Investigation using Related Features
本研究使用一种简单的方法研究了协变量偏移和缺失保护属性下的公平分类问题，该方法基于使用重要性权重来处理协变量偏移，并使用Related Features arXiv：2104.14537来处理缺失保护属性。
2022-04-17 cs.CY cs.LG
Dikaios: Privacy Auditing of Algorithmic Fairness via Attribute Inference Attacks
机器学习（ML）模型已经被部署用于高风险应用。由于在数据集中观察到的敏感属性的类别不平衡，ML模型对由敏感属性（如种族和性别）识别的少数亚组是不公平的。处理中的公平性算法确保模型预测与敏感属性无关。此外，ML模型容易受到属性推断攻击，其中对手可以通过利用其可区分的模型预测来识别敏感属性的值。尽管隐私和公平性是可信ML的重要支柱，但公平算法引入的属性泄漏隐私风险尚未研究。我们确定属性推理攻击作为一种有效的措施，审计黑盒公平算法，使模型构建者占隐私和公平的模型设计。我们提出了Dikaios，一个隐私审计工具的公平算法的模型构建者，利用一个新的有效的属性推理攻击，占类不平衡的敏感属性，通过自适应预测阈值。我们对Dikaios进行了评估，以在五个数据集上对两个处理中公平算法进行隐私审计。我们表明，我们的属性推断攻击与自适应预测阈值显着优于以前的攻击。我们强调了处理中公平算法的局限性，以确保在敏感属性的不同值之间进行不可区分的预测。事实上，这些处理中公平方案的属性隐私风险根据数据集中敏感属性的比例是高度可变的。公平机制对属性隐私风险的这种不可预测的影响是模型构建者必须考虑的对其利用的重要限制。
2022-11-24 cs.CR cs.LG
CAFP: A Post-Processing Framework for Group Fairness via Counterfactual Model Averaging
Bain&Company（贝恩公司）
本文提出CAFP方法，通过生成反事实输入并平均预测结果，实现无需重新训练的公平性提升，理论分析显示其能消除敏感属性影响并降低公平差距。
2026-04-08 cs.AI cs.LG
FairGen: Controlling Sensitive Attributes for Fair Generations in Diffusion Models via Adaptive Latent Guidance
UIUC（伊利诺伊大学）；AWS AI Labs（亚马逊AI实验室）
针对文本到图像扩散模型的人口群体偏见问题，提出自适应潜变量引导机制FairGen，结合记忆模块实现公平生成，并构建HBE基准，实验证明其偏见缓解效果优于现有方法。
2025-10-22 cs.AI cs.CV cs.LG
Positive-Sum Fairness: Leveraging Demographic Attributes to Achieve Fair AI Outcomes Without Sacrificing Group Gains
Lunit Inc.（Lunit公司）
本文提出正和公平概念，认为只要不损害子群体性能，利用种族等敏感属性提升整体性能所导致的群体差异扩大是可接受的，并通过四个CNN模型的对比实验验证了该思想。
2024-09-30 cs.AI cs.CV cs.CY
On Disentangled and Locally Fair Representations
Tel Aviv University（特拉维夫大学）
我们研究的问题进行分类的方式是公平的敏感群体，如种族和性别。这一问题是通过分解和当地公平的陈述来解决的。我们学习了一个局部公平的表示，这样，在学习的表示下，每个样本的邻域在敏感属性方面是平衡的。例如，当决定雇用一个人时，我们确保$K$中最相似的被雇用人员在种族上是平衡的。至关重要的是，我们确保相似的个体是基于与其种族无关的属性被发现的。为此，我们将嵌入空间分解为两个表示。其中第一个与敏感属性相关，而第二个不相关。我们只对第二个不相关的表示应用我们的局部公平性目标。通过一组实验，我们证明了必要性的解纠缠和本地公平获得公平和准确的表示。我们评估我们的方法在现实世界中的设置，如预测收入和重新监禁率，并证明我们的方法的优势。
2022-05-05 cs.AI cs.LG
When Fair Classification Meets Noisy Protected Attributes
Northeastern University（东北大学）
本文首次系统对比依赖属性、容忍噪声和属性盲三类公平分类算法，在四个真实数据集上验证了属性盲和容忍噪声方法在受保护属性带噪时仍可接近依赖属性算法的性能，为实际部署提供了指导。
2023-07-11 cs.CY cs.LG
Fair Classification with Noisy Protected Attributes: A Framework with Provable Guarantees
Yale University（耶鲁大学）；Huawei（华为）
我们提出了一个优化框架，学习一个公平的分类器中存在的噪声扰动的保护属性。与以前的工作相比，我们的框架可以使用非常一般的线性和线性分数公平性约束，可以处理多个非二进制保护属性，并输出一个分类器，该分类器具有可证明的准确性和公平性保证。从经验上讲，我们表明，我们的框架可以用来实现统计率或误报率的公平性保证，即使在噪声很大的情况下，在两个真实世界的数据集的准确性损失最小。
2021-02-16 cs.AI cs.CY cs.DS
Fair Graph Representation Learning via Sensitive Attribute Disentanglement
Sun Yat-sen University（中山大学）
提出 FairSAD 框架，通过敏感属性解耦与通道掩码识别、去相关，在降低 GNN 决策对敏感属性依赖的同时保留任务信息，并在真实数据集上显著提升公平性与效用。
2024-05-11 cs.CY cs.LG
Towards Fair Graph Neural Networks via Graph Counterfactual without Sensitive Attributes
Guilin University of Electronic Technology（桂林电子科技大学）；Jinan University（暨南大学）
针对现有公平图神经网络反事实方法依赖敏感属性的问题，提出Fairwos框架，通过生成伪敏感属性、构建图反事实并动态调整权重实现公平性，在六个数据集上表现优于现有方法。
2024-12-13 cs.LG
When Fairness Meets Privacy: Fair Classification with Semi-Private Sensitive Attributes
Illinois Institute of Technology（伊利诺伊理工学院）；Cisco Research（思科研究院）；University of Connecticut（康涅狄格大学）
本文提出FairSP框架，利用少量干净敏感属性纠正受本地差分隐私保护的敏感属性，并通过对抗式联合建模实现半私有设置下的公平分类，在保护隐私的同时保持高准确率。
2023-05-29 cs.AI cs.CR cs.CY
Fairness in Ranking: Robustness through Randomization without the Protected Attribute
University of Padova（帕多瓦大学）；National Technical University of Athens（雅典国家技术大学）；Athena Research & Innovation Center in Information Communication & Knowledge Technologies（雅典娜信息通信与知识技术研究创新中心）；Czech Technical University in Prague（捷克技术大学）
针对排序公平性研究中受保护属性缺失、单一公平指标优化易导致其他指标不公平的问题，提出无需受保护属性的随机化排序后处理方法，经数值研究验证其在P-Fairness上的鲁棒性及NDCG上的有效性，优于现有方法。
2024-03-28 cs.AI cs.CY cs.LG
Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information
The Pennsylvania State University（宾夕法尼亚州立大学）
图神经网络（GNN）在对图结构数据建模方面显示出强大的能力。然而，类似于其他机器学习模型，GNN可能会对受保护的敏感属性进行预测，例如，肤色和性别。因为包括GNN的机器学习算法被训练以反映训练数据的分布，该分布通常包含对敏感属性的历史偏差。此外，GNN中的区分可以通过图结构和消息传递机制来放大。因此，GNN在犯罪率预测等敏感领域的应用将受到很大限制。虽然对i.i.d数据进行了广泛的公平分类研究，但解决非i.i. d数据歧视问题的方法相当有限。此外，稀疏注释在敏感属性的实际情况很少考虑在现有的作品。因此，我们研究了具有有限敏感属性信息的公平GNNs学习的新问题。FairGNN被提出来消除GNN的偏差，同时通过利用图结构和有限的敏感信息来保持高的节点分类精度。我们的理论分析表明，FairGNN可以确保GNN的公平性在温和的条件下，给定有限的节点与已知的敏感属性。在真实数据集上的大量实验也证明了FairGNN在去偏和保持高精度方面的有效性。
2021-10-15 cs.LG
Fair Multi-Exit Framework for Facial Attribute Classification
University of Notre Dame（圣母大学）
公平性在面部识别中变得越来越重要。如果没有偏见缓解，部署不公平的人工智能将损害弱势群体的利益。在本文中，我们观察到，虽然神经网络的深层特征通常提供更高的准确性，但当我们从深层提取特征时，公平性条件会恶化。这种现象促使我们扩展多退出框架的概念。与现有的主要关注准确性的作品不同，我们的多出口框架是以公平为导向的，内部分类器被训练得更准确，更公平。在推理过程中，允许内部分类器中具有高置信度的任何实例提前退出。此外，我们的框架可以适用于大多数现有的公平意识的框架。在CelebA和UTK人脸数据集上的实验结果表明，该框架能够在很大程度上改善人脸的公平性。
2023-01-08 cs.AI cs.CV cs.LG
Weak Proxies are Sufficient and Preferable for Fairness with Missing Sensitive Attributes
ByteDance（字节跳动）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
评估公平性在实践中可能具有挑战性，因为数据的敏感属性通常由于隐私限制而无法访问。业界经常采用的方法是使用现成的代理模型来预测缺失的敏感属性，例如Meta [Alao et al.，2021]和Twitter [Belli等人，2022年]。尽管它很受欢迎，但有三个重要的问题没有得到回答：（1）直接使用代理在衡量公平方面是否有效？(2)如果不能，是否可以只使用代理来准确地评估公平性？(3)考虑到推断用户隐私信息的道德争议，是否有可能只使用弱（即不准确）代理来保护隐私？我们的理论分析表明，直接使用代理模型可能会给人一种虚假的（不）公平感。其次，我们开发了一种算法，能够测量公平性（可证明）准确地只有三个正确识别的代理。第三，我们证明了我们的算法只允许使用弱代理（例如，在COMPAS上只有68.85%的准确率），为用户隐私增加了一层额外的保护。实验验证了我们的理论分析，并表明我们的算法可以有效地测量和减轻偏见。我们的研究结果意味着一套实用的指导方针，从业者如何正确使用代理。代码可在github.com/UCSC-REAL/fair-eval上获得。
2023-01-31 cs.AI cs.CY cs.LG
Wearable-based Fair and Accurate Pain Assessment Using Multi-Attribute Fairness Loss in Convolutional Neural Networks
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；University of Massachusetts Chan Medical School（马萨诸塞大学陈医学院）；National Institute on Aging（美国国家老龄化研究所）
针对AI疼痛评估中的群体偏见问题，提出融合多属性公平性损失的CNN模型，在NIH All-Of-US数据集上兼顾准确率与公平性。
2025-02-16 cs.AI cs.LG eess.SP
Learning Fair Graph Representations with Multi-view Information Bottleneck
Guilin University of Electronic Technology（桂林电子科技大学）；Hainan University（海南大学）；Guangxi University（广西大学）；University of South Australia（澳大利亚南昆士兰大学）
针对图神经网络易放大数据偏差、现有公平性方法忽略属性与结构差异影响的问题，提出多视图信息瓶颈框架FairMIB，通过多视图分解、对比学习、条件信息瓶颈目标及IPW邻接校正，实现效用与公平性指标的SOTA表现。
2025-10-29 cs.AI cs.LG
FairNVT: Fair Classification via Noise Injection in Vision Transformers
University of British Columbia（不列颠哥伦比亚大学）；RBC Borealis；Simon Fraser University（西蒙 Fraser大学）
FairNVT通过在视觉变换器中注入噪声，提升表示和预测层面的公平性，同时保持任务准确性，采用轻量适配器学习任务相关和敏感嵌入，并通过校准高斯噪声和正交约束减少敏感属性泄露。
2026-08-19 cs.AI cs.CV cs.LG
MANI-Rank: Multiple Attribute and Intersectional Group Fairness for Consensus Ranking
Worcester Polytechnic Institute（伍斯特理工学院）
将许多排名者的偏好结合到一个单一的共识排名中，对于从招聘、录取到贷款的后续申请至关重要。虽然群体公平性已被广泛研究的分类，群体公平性的排名，特别是排名聚合仍然处于起步阶段。最近的工作引入了用于组合排名的公平排名聚合的概念，但仅限于候选人具有单个二进制保护属性的情况，即，他们只分为两类。然而，如何创建一个代表所有排名者偏好的共识排名，同时确保公平对待具有性别、种族和国籍等多重受保护属性的候选人，仍然是一个悬而未决的问题。在这项工作中，我们是第一个定义和解决这个开放的多属性公平共识排名（MFCR）问题。作为一个基础，我们设计了新的组公平性标准的排名，称为MANI-RANK，确保公平对待由个人保护属性及其交集定义的组。利用MANI-RANK准则，我们开发了一系列的算法，首次解决MFCR问题。我们的实验研究与丰富多样的共识方案表明，我们的MFCR方法是唯一的方法来实现交叉和保护属性的公平性，同时也代表了通过许多基础排名表达的偏好。我们对优秀奖学金的真实案例研究说明了我们的MFCR方法在减轻多个受保护属性及其交叉点之间的偏差方面的有效性。这是“MANI排名：多属性和交叉组公平性共识排名”的扩展版本，将出现在ICDE 2022中。
2022-07-20 cs.CY cs.LG
Practical Approaches for Fair Learning with Multitype and Multivariate Sensitive Attributes
University of Cambridge（剑桥大学）
重要的是要保证部署在现实世界中的机器学习算法不会导致不公平或意外的社会后果。Fair ML在很大程度上专注于在属性和目标结果都是二进制的简单环境中保护单个属性。然而，在许多实际问题中的实际应用需要同时保护多个敏感属性，这些属性通常不是简单的二进制，而是连续的或分类的。为了解决这个更具挑战性的任务，我们引入了FairCOCCO，这是一个建立在再生核希尔伯特空间上的互协方差算子上的公平性度量。这导致了两个实用的工具：第一，FairCOCCO分数，一个归一化的度量，可以量化设置中的公平性与任意类型的单个或多个敏感属性;第二，随后的正则化项，可以被纳入任意学习目标，以获得公平的预测。这些贡献解决了算法公平性文献中的关键差距，我们根据经验证明了在平衡预测能力和真实世界数据集公平性方面对最先进技术的一致改进。
2022-11-11 cs.CY cs.LG stat.ML
Fair Data Pre-Processing with Imperfect Attribute Space
National University of Singapore（新加坡国立大学）
本文提出LatentPre框架，通过引入潜在属性增强公平数据处理，在不完美属性空间中实现公平与效用的平衡。
2026-03-27 cs.DB cs.LG
Fair Ranking with Noisy Protected Attributes
Yale University（耶鲁大学）
公平排序问题，要求排序一组给定的项目，以最大限度地提高效用受组公平性约束，已受到关注的公平性，信息检索，和机器学习文献。然而，最近的作品，观察到社会显着（包括受保护）的项目属性的错误可以显着破坏现有的公平排名算法的公平性保证，并提出减轻这种错误的影响的问题。我们研究了一个模型下的公平排名问题，其中项目的社会显着属性是随机和独立扰动。我们提出了一个公平的排名框架，它结合了群体公平性的要求，以及社会显着的属性扰动的概率信息。我们提供可证明的保证，我们的框架实现的公平性和效用，并表明这是信息理论上不可能显着击败这些保证。我们的框架适用于多个非不相交的属性和一般类的公平性约束，包括比例和平等的代表性。从经验上讲，我们观察到，与基线相比，我们的算法输出具有更高公平性的排名，并且与基线相比具有类似或更好的公平性-效用权衡。
2022-11-30 cs.CY cs.DS cs.IR
Two-stage Algorithm for Fairness-aware Machine Learning
University of Tokyo（东京大学）；Purdue University（普渡大学）
决策过程现在影响着我们生活的许多方面。机器学习的标准工具，如分类和回归，会受到数据偏差的影响，因此直接应用这种现成的工具可能会导致特定群体受到不公平的歧视。删除数据的敏感属性并不能解决这个问题，因为当非敏感属性和敏感属性相关时，可能会出现\textit{disparate impact}。在这里，我们研究了一种公平的机器学习算法，该算法在做出决策时避免了这种不同的影响。受经济学领域中广泛使用的两阶段最小二乘法的启发，我们提出了一种两阶段算法，该算法消除了训练数据中的偏差。该算法在概念上是简单的。与大多数现有的公平算法，设计用于分类任务，所提出的方法是能够（i）处理回归任务，（ii）结合解释属性，以消除反向歧视，（iii）处理数值敏感属性。该算法的性能和公平性进行了评估与合成和真实世界的数据集模拟。
2017-10-13 cs.AI cs.LG stat.ML
Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants
University of California, Berkeley（加州大学伯克利分校）；University of Cambridge（剑桥大学）；University of Washington（华盛顿大学）；University of Michigan（密歇根大学）；University of Toronto（多伦多大学）
本文主张算法公平性研究应超越敏感属性，通过社会决定因素量化结构性不公正，并通过理论模型和实证研究证明仅关注敏感属性的缓解策略可能引入新的结构性不公正。
2026-05-29 cs.AI cs.CY cs.LG
Fair Supervised Learning with A Simple Random Sampler of Sensitive Attributes
Purdue University（普渡大学）
针对监督学习的公平性问题，提出基于敏感属性简单随机采样器的神经网络公平性惩罚项，构建高效组级处理中训练框架，在基准数据集上效用与公平性更优，并给出理论误差分析。
2024-03-09 cs.LG stat.ML
FAROS: Fair Graph Generation via Attribute Switching Mechanisms
Université Paris-Saclay, CentraleSupélec, Inria, France（巴黎萨克雷大学、中央超算研究所、法国国家信息与自动化研究所）
FAROS框架通过在预训练图扩散模型生成过程中切换节点敏感属性，并利用多准则约束选择最优切换比例与扩散步骤，从而在保持准确性的同时提升生成图的公平性。
2025-07-04 cs.LG
Fair Outlier Detection
Indian Institute of Technology Madras（印度马德拉斯理工学院）
如果离群值检测的结果不偏向于在这种敏感属性上定义的特定组，则离群值检测方法可以被认为对指定的敏感属性是公平的。在这项任务中，我们认为，第一次我们最好的知识，公平离群点检测的任务。在这项工作中，我们考虑了多个多值敏感属性（例如，性别、种族、宗教、国籍、婚姻状况等）。我们提出了一个公平的离群点检测方法，FairLOF，这是受流行的LOF制定基于邻域的离群点检测。我们概述了LOF中可能导致不公平的方法，并制定了三个启发式原则，以提高公平性，这构成了FairLOF方法的基础。作为一个新的任务，我们开发了一个公平离群点检测的评估框架，并使用该框架对FairLOF的质量和结果的公平性进行基准测试。通过对真实世界数据集的广泛实证评估，我们说明了FairLOF能够实现公平性的显着改善，有时对公平性不可知LOF方法测量结果质量的边际退化。
2020-08-04 cs.AI cs.DB cs.LG
Ethical Fairness in Ubiquitous Health Sensing without Known Attributes
Ira A. Fulton Schools of Engineering, Arizona State University（亚利桑那州立大学弗里曼工程学院）；Arizona State University（亚利桑那州立大学）；Cornell University（康奈尔大学）；University of Michigan（密歇根大学）
针对普适健康感知中缺乏人口统计或异构属性时的公平性问题，提出基于Fisher信息引导的潜在子群学习与无害正则化框架Flare，通过优化几何实现伦理公平。
2026-11-04 cs.AI cs.CY cs.LG
Fairness without the sensitive attribute via Causal Variational Autoencoder
CNRS（法国国家科学研究中心）；AXA（安盛集团）；Polish Academy of Science（波兰科学院）
近年来，机器学习模型中的大多数公平策略都集中在通过假设敏感信息被观察到来减轻不必要的偏差。然而，这在实践中并不总是可能的。由于隐私目的和各种法规，如欧盟的RGPD，许多个人敏感属性通常不会被收集。我们注意到，在这种困难的情况下，缺乏减轻偏见的方法，特别是实现经典的公平目标，如人口均等和均等赔率。通过利用最近的发展近似推理，我们提出了一种方法来填补这一空白。基于因果图，我们依靠一个新的变分自动编码为基础的框架命名为SRCVAE推断敏感信息代理，服务于偏见减轻对抗公平的方法。我们的经验表明，显着的改进，在该领域的现有作品。我们观察到，生成的代理的潜在空间恢复敏感信息，我们的方法实现了更高的准确性，同时获得相同水平的公平性，在两个真实的数据集上，测量使用常见的公平性定义。
2021-09-10 cs.AI cs.CY cs.LG
Distributionally Generative Augmentation for Fair Facial Attribute Classification
Zhejiang University（浙江大学）；Tsinghua University（清华大学）；HKUST（香港科技大学）；NTU（南洋理工大学）；Skywork AI（世悦科技）
提出一种基于生成的两阶段框架DiGA，通过识别并随机编辑虚假属性来增强数据，在不需额外标注的情况下训练出兼顾准确性与公平性的面部属性分类模型。
2024-03-25 cs.CV cs.LG
Fair Recommendations with Limited Sensitive Attributes: A Distributionally Robust Optimization Approach
University of Science and Technology of China（中国科学技术大学）
针对敏感属性信息有限时推荐系统的公平性问题，提出分布鲁棒公平优化（DRFO）方法，通过最小化最坏情况不公平性来应对属性重建误差，并验证其有效性。
2024-05-27 cs.CY cs.IR cs.LG
Towards Fair Classifiers Without Sensitive Attributes: Exploring Biases in Related Features
College of Information Sciences and Technology, The Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）；Department of Computer Science, College of Computing, Illinois Institute of Technology（伊利诺伊理工学院计算学院计算机科学系）
尽管机器学习模型发展迅速并取得了巨大成功，但大量的研究已经暴露了它们从训练数据继承潜在歧视和社会偏见的缺点。这种现象阻碍了它们在高风险应用程序中的采用。因此，已经做出了许多努力来开发公平的机器学习模型。它们中的大多数要求在训练过程中敏感属性可用，以学习公平模型。然而，在现实应用中，由于隐私或法律问题，通常无法获得敏感属性，这对现有的公平保证策略提出了挑战。虽然每个数据样本的敏感属性是未知的，我们观察到，通常有一些不敏感的特征，在训练数据是高度相关的敏感属性，这可以用来减轻偏见。因此，在本文中，我们研究了一个新的问题，探索与敏感属性高度相关的特征，以学习公平和准确的分类器。我们从理论上证明，通过最小化这些相关特征与模型预测之间的相关性，我们可以学习一个公平的分类器。基于这一动机，我们提出了一个新的框架，同时使用这些相关的功能进行准确的预测和执行公平。此外，该模型可以动态调整每个相关特征的正则化权重，以平衡其对模型分类和公平性的贡献。在真实数据集上的实验结果证明了该模型在学习公平模型时的有效性，并具有较高的分类精度。
2021-12-28 cs.CY cs.LG
Debias Anything: Fairness with Diversity without Supervision in Diffusion Models
Criteo AI Lab（Criteo AI实验室）；ESSEC Business School（ESSEC商学院）；CentraleSupélec, Université Paris-Saclay（巴黎萨克雷大学中央理工-高等电力学院）；FairPlay joint team（FairPlay联合团队）
本文提出一种通用适配器方法，联合优化扩散模型的公平性与多样性，无需敏感属性标注，通过文本提示方向和语义不一致性分数实现，实验证明在同等公平性下提升质量与多样性。
2026-10-02 cs.LG
LabellessFace: Fair Metric Learning for Face Recognition without Attribute Labels
Shizuoka University（静冈大学）；RIKEN AIP（理化学研究所人工智能项目）；Tohoku University（东北大学）
针对人脸识别系统的人口统计偏差问题，提出无需人口属性标签的LabellessFace框架，通过类别偏袒程度度量和公平类别间隔惩罚动态调整学习，在保证认证准确率的同时提升公平性。
2024-09-14 cs.AI cs.CV cs.CY
On the Inductive Biases of Demographic Parity-based Fair Learning Algorithms
The Chinese University of Hong Kong（香港中文大学）
本研究揭示基于人口均等（DP）的公平学习算法在敏感属性分布不均的不平衡训练集上会产生偏向多数类的归纳偏置，提出SA-DRO方法提升对敏感属性边缘分布的鲁棒性，实验验证了理论结论与方法的去偏效果。
2024-06-20 cs.AI cs.IT cs.LG
The Impact of Data Preparation on the Fairness of Software Systems
University of Coimbra（科英布拉大学）
机器学习模型在直接影响人的场景中被广泛采用。基于这些模型的软件系统的开发引起了社会和法律问题，因为它们的决定可能会导致基于种族或性别等属性的不公平待遇。数据准备是任何机器学习管道中的关键，但其对公平性的影响还有待详细研究。在本文中，我们评估了学习模型的公平性和有效性如何受到敏感属性的删除，分类属性的编码和实例选择方法（包括交叉验证和随机欠采样）的影响。我们使用了成人收入和德国信用数据集，这些数据集被广泛研究，并被认为存在公平性问题。我们分别应用每种数据准备技术，使用统计奇偶性差异、不同影响和标准化偏见指数来分析预测性能和公平性的差异。结果表明，公平性受到对训练数据进行的转换的影响，特别是在不平衡的数据集中。正如预期的那样，删除敏感属性不足以消除预测中的所有不公平性，但它是实现更公平模型的关键。此外，相对于真实标签的标准随机欠采样有时比不执行随机欠采样更有偏见。
2019-10-05 cs.AI cs.LG stat.ML
Fairness without Sensitive Attributes via Knowledge Sharing
The University of Queensland（昆士兰大学）
本文提出基于置信度的层次化分类器Reckoner，通过高置信度模型向低置信度模型进行知识共享，在敏感属性缺失条件下实现公平学习，并在COMPAS和New Adult数据集上同时优于现有基线。
2024-09-27 cs.LG
Flexibly Fair Representation Learning by Disentanglement
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；University of Tübingen（蒂宾根大学）；Google Research（谷歌研究院）
我们考虑的问题，学习表示，实现组和子组的公平性方面的多个敏感属性。从解开表示学习文献的灵感，我们提出了一种算法，用于学习数据集的紧凑表示，这是有用的重建和预测，但也是\emph{flexibly fair}，这意味着他们可以很容易地在测试时修改，以实现子组人口统计奇偶性方面的多个敏感属性及其连接。我们的经验表明，由此产生的编码器-这不需要敏感的属性进行推理-使适应一个单一的表示，以各种公平的分类任务与新的目标标签和子群定义。
2019-06-06 cs.AI cs.LG stat.ML
F3: Fair and Federated Face Attribute Classification with Heterogeneous Data
IIIT Hyderabad（国际信息技术学院海得拉巴分校）
不同人口群体之间的公平性是人脸相关任务的一个重要标准，人脸属性分类（FAC）是一个突出的例子。除了这种趋势，联邦学习（FL）作为分布式训练的可扩展范例越来越受到关注。现有的FL方法需要数据的同质性，以确保公平性。然而，这种假设在现实世界中限制太多。我们提出了F3，一个新的FL框架下的公平FAC数据异构性。F3采用多重统计学方法，在不需要数据同质性假设的情况下，提高不同人口统计群体之间的公平性。我们通过在流行的人脸数据集上报告经验观察到的公平性措施和准确性保证来证明F3的有效性。我们的研究结果表明，F3罢工FAC的准确性和公平性之间的实际平衡。
2022-06-24 cs.CV cs.CY cs.LG
Fair Transfer of Multiple Style Attributes in Text
IIIT Delhi（德里英德拉普拉斯塔信息技术学院）；IBM Research（IBM研究院）
为了在在线平台上保持匿名和模糊身份，用户可能会改变他们的文本，并将自己描绘成不同的性别或人口统计。同样，聊天机器人可能需要自定义其通信风格，以提高与受众的互动。近年来，这种改变书面文本风格的方式受到了极大的关注。然而，这些研究工作大多是为了迎合单一的风格属性的转移。单独关注单个样式的缺点是，这通常会导致目标文本中其他现有样式属性的行为不可预测或不公平地由新样式主导。为了抵消这种行为，最好有一个样式传输机制，可以同时公平地传输或控制多个样式。通过这种方法，人们可以获得混淆或书面文本，其中包含所需程度的多种软风格，如女性品质，礼貌或正式。在这项工作中，我们证明了多种风格的传输不能通过顺序执行多个单一风格的传输来实现。这是因为每一个单一的风格转移步骤往往逆转或占主导地位的风格纳入前一个转移步骤。然后，我们提出了一个神经网络架构，公平地转移多个风格属性在一个给定的文本。我们在Yelp数据集上测试了我们的架构，以证明我们与现有的一种风格的传输步骤相比具有更高的性能。
2020-01-18 cs.AI cs.CL cs.LG
