Fairness Evaluation in Text Classification: Machine Learning Practitioner Perspectives of Individual and Group Fairness
IBM Research（IBM研究院）；Massachusetts Institute of Technology（麻省理工学院）
减轻算法偏见是机器学习模型开发和部署中的一项关键任务。虽然有几个工具包可以帮助机器学习从业者解决公平性问题，但人们对从业者用来评估模型公平性的策略以及影响其评估的因素知之甚少，特别是在文本分类的背景下。评价模型公平性的两种常用方法是群体公平性和个体公平性。我们与机器学习从业者（n=24）进行了一项研究，以了解用于评估模型的策略。向从业者提出的问题（群体与个人公平性）影响他们认为公平的模型。与会者重点关注与低估/高估相关的风险以及与身份令牌操作相关的模型敏感性。我们发现公平性评估策略涉及个人经验或用户如何形成身份令牌组来测试模型的公平性。我们提供了交互式工具的建议，用于评估文本分类的公平性。
2023-03-01 cs.CY cs.HC cs.LG
FFB: A Fair Fairness Benchmark for In-Processing Group Fairness Methods
Texas A&M University（德克萨斯农工大学）；Meta AI；Anytime AI；UIUC（伊利诺伊大学厄巴纳-香槟分校）；University of Houston（休斯顿大学）；Rice University（莱斯大学）
本文提出开源基准框架FFB，通过统一实验设置、提供可扩展代码和标准化流程，对处理中群体公平性方法进行大规模评估，以促进公平性研究社区发展。
2024-06-11 cs.AI cs.CY cs.LG
Principal Fairness for Human and Algorithmic Decision-Making
Harvard University（哈佛大学）；Institute for Quantitative Social Science（定量社会科学研究所）；University of Massachusetts（马萨诸塞大学）
利用因果推理文献中的主要分层概念，我们引入了一个新的公平性概念，称为主要公平性，用于人类和算法决策。关键的想法是，人们不应该歧视那些同样受到决定影响的个人。与现有的公平性统计定义不同，主要公平性明确说明了个人可能受到决策影响的事实。此外，我们解释了如何从现有的cabetity为基础的公平标准的主要公平不同。例如，与反事实公平标准相反，主要公平考虑的是有关决定的影响，而不是受保护的利益属性的影响。我们简要地讨论了如何处理经验评估和策略学习问题下提出的主要公平标准。
2022-03-24 cs.CY cs.LG stat.ML
Fair Mixup: Fairness via Interpolation
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；IBM Research AI（IBM研究院人工智能部门）
在公平性约束（如组公平性）下训练分类器，使组之间的预测差异规则化。然而，即使在训练过程中满足了约束条件，它们在评估时也可能无法推广。为了提高公平分类器的泛化能力，我们提出了公平混淆，一个新的数据增强策略施加公平约束。特别是，我们表明，公平性，可以通过正规化的模型之间的插值样本的路径。我们使用mixup，一个强大的数据增强策略来生成这些插值。我们分析了公平的混淆，并实证表明，它确保了更好的概括性的准确性和公平性的测量表，视觉和语言基准。
2021-03-11 cs.CY cs.LG stat.ML
Can Synthetic Data be Fair and Private? A Comparative Study of Synthetic Data Generation and Fairness Algorithms
Centre for the Science of Learning & Technology (SLATE), University of Bergen（学习科学与技术中心（SLATE），卑尔根大学）；University of South Australia（澳大利亚南澳大利亚大学）
本研究探讨了合成数据生成与公平性算法在平衡隐私和公平性方面的效果，发现DECAF算法在隐私和公平性之间取得最佳平衡，但其预测准确性较低，而对合成数据应用预处理公平算法能进一步提升公平性。
2025-01-03 cs.AI cs.CY cs.LG
A Suite of Fairness Datasets for Tabular Classification
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）
针对公平性机器学习研究实验评估中数据集使用过少的问题，本文引入了一套可获取20个公平性数据集及相关元数据的函数，以促进未来更严谨的实验评估。
2023-07-31 cs.AI cs.CY cs.LG
Rethinking Fairness: An Interdisciplinary Survey of Critiques of Hegemonic ML Fairness Approaches
Purdue University（普渡大学）
这篇调查文章评估和比较了当前对机器学习（ML）的公平性增强技术干预的现有批评，这些批评来自一系列非计算学科，包括哲学，女权主义研究，批判性种族和民族研究，法律研究，人类学和科学技术研究。它弥合了认识上的分歧，以提供对霸权计算方法的可能性和局限性的跨学科理解，以实现ML公平，为社会最边缘化的人产生公正的结果。本文根据九个主要的批评主题进行组织，其中这些不同的领域相互交叉：1）人工智能公平研究中的“公平”如何定义; 2）人工智能系统如何解决问题; 3）抽象对人工智能工具功能的影响及其导致技术解决方案的倾向; 4）种族分类如何在人工智能公平研究中运作; 5）使用人工智能公平措施来避免监管和进行道德清洗; 6）在人工智能公平考虑方面缺乏参与式设计和民主审议; 7）巩固“偏见”、非共识和缺乏透明度的数据汇集做法; 8）将边缘化群体掠夺性地纳入人工智能系统; 9）缺乏对人工智能长期社会和道德结果的参与。从这些批评中，文章最后设想了未来ML公平研究的方向，这些方向积极地破坏了社会中根深蒂固的权力动态和结构性不公正。
2022-05-06 cs.AI cs.CY cs.LG
Fairness Hacking: The Malicious Practice of Shrouding Unfairness in Algorithms
Data Protection Authority of Baden-Württemberg（巴登-符腾堡州数据保护局）；University of Tübingen（蒂宾根大学）；University of Stuttgart（斯图加特大学）
本文提出“公平性黑客”概念，揭示通过度量内和度量间两种方式滥用公平性指标以掩盖算法不公平性的恶意实践，并探讨相应对策及真实数据集演示，旨在指导社区减少此类滥用。
2023-11-12 cs.AI cs.CY cs.LG
Algorithmic Fairness in Performative Policy Learning: Escaping the Impossibility of Group Fairness
University of Michigan（密歇根大学）
研究预测模型影响目标分布的表演性问题，提出利用政策制定者引导人群的能力来缓解长期不平等，从而在社会分类问题中实现更强的群体公平性保证，并解决不同公平性定义间的冲突。
2024-05-30 cs.CY cs.LG stat.ML
Fair Enough: Searching for Sufficient Measures of Fairness
North Carolina State University（北卡罗来纳州立大学）
测试机器学习软件的道德偏见已经成为当前一个紧迫的问题。作为回应，最近的研究提出了大量新的公平性指标，例如，IBM AIF 360工具包中的数十个公平性指标。这就提出了一个问题：任何公平工具如何能够满足如此多样化的目标？虽然我们不能完全简化公平测试的任务，但我们肯定可以减少这个问题。本文表明，许多这些公平性指标有效地衡量同样的事情。基于使用七个真实世界数据集的实验，我们发现（a）26个分类度量可以聚类为七组，（b）四个数据集度量可以聚类为三组。此外，每个精简集实际上可以预测不同的事情。因此，不再需要（甚至不可能）满足所有公平性度量。总之，为了简化公平性测试问题，我们推荐以下步骤：（1）确定什么类型的公平性是可取的（我们提供了一些这样的类型）;然后（2）在我们的聚类中查找这些类型;然后（3）每个聚类只测试一个项目。
2022-03-21 cs.CY cs.LG cs.SE
Conformalized Fairness via Quantile Regression
University of Alberta（阿尔伯塔大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在社会敏感领域，公平性越来越受到关注。虽然已经建立了丰富的文献平均公平，分位数公平的研究仍然稀少，但至关重要。为了满足巨大的需求，并倡导分位数公平的意义，我们提出了一种新的框架来学习一个实值分位数函数的公平性要求下的人口奇偶性的敏感属性，如种族或性别，从而获得一个可靠的公平预测区间。使用最优传输和功能同步技术，我们建立了理论保证的分布免费覆盖和公平分位数构造的诱导预测区间的精确公平性。提供了一个动手流水线，以将灵活的分位数回归与有效的公平性调整后处理算法相结合。我们在几个基准数据集上证明了这种方法的优越经验性能。我们的研究结果表明，该模型能够揭示在广泛的社会和医疗应用中公平性-准确性权衡的机制。
2022-10-14 cs.CY cs.LG stat.ML
Fairness Reprogramming
UC Santa Barbara（加州大学圣巴巴拉分校）；Michigan State University（密歇根州立大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；The Hong Kong Polytechnic University（香港理工大学）
尽管最近在促进机器学习（ML）公平性方面取得了巨大进展，但现有的主流方法大多需要重新训练或微调神经网络的整个权重以满足公平性标准。然而，由于计算和存储成本高、数据效率低以及模型隐私问题，这对于那些大规模训练模型来说在实践中通常是不可行的。在本文中，我们提出了一个新的通用公平性学习范式，称为FairReprogram，它结合了模型重编程技术。具体来说，FairReprogram考虑了模型不能改变的情况，并在输入中附加了一组扰动，称为公平触发器，该触发器根据最小-最大公式调整为公平标准。我们进一步介绍了一个信息理论框架，解释了为什么以及在什么条件下可以实现公平的目标，使用公平触发器。我们从理论上和经验上证明，公平性触发器可以通过提供错误的人口统计信息来有效地掩盖固定ML模型输出预测中的人口统计偏差，从而阻碍模型利用正确的人口统计信息进行预测。在NLP和CV数据集上进行的大量实验表明，在两个广泛使用的公平性标准下，我们的方法可以实现比基于再训练的方法更好的公平性改进，并且数据依赖性要小得多。代码可在https://github.com/UCSB-NLP-Chang/Fairness-Reprogramming.git上获得。
2022-12-12 cs.AI cs.CY cs.LG
How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Michigan State University（密歇根州立大学）
近年来，人们越来越关注深度学习的公平性。现有的公平性感知机器学习方法主要关注分布数据的公平性。然而，在实际应用中，训练数据和测试数据之间的分布偏移是常见的。在本文中，我们首先表明，现有的方法实现的公平性可以很容易地打破轻微的分布偏移。为了解决这个问题，我们提出了一种新的公平性学习方法，称为CUrvature匹配（CUrvature MAtching），它可以实现鲁棒的公平性推广到未知分布变化的未知域。具体来说，通过匹配两个群体的损失曲率分布，CNOAA强制模型在多数群体和少数群体上具有相似的泛化能力。我们在三个流行的公平数据集上评估我们的方法。与现有的方法相比，在不牺牲整体精度或分布内公平性的情况下，在不可见的分布偏移下，CRAMA实现了优异的公平性。
2022-07-04 cs.LG
Remembering to Be Fair: Non-Markovian Fairness in Sequential Decision Making
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）；University of Waterloo（滑铁卢大学）
针对序列决策中公平性依赖历史、需过程中评估的非马尔可夫特性，本文界定其多类性质，探究记忆与公平策略构建的关联，提出可自动扩充训练数据提升强化学习公平策略合成样本效率的FairQCM算法。
2024-06-19 cs.AI cs.CY cs.LG
Within-group fairness: A guidance for more sound between-group fairness
Samsung Electronics Co.（三星电子公司）；Konkuk University（建国大学）；Seoul National University（首尔国立大学）
由于人工智能算法对社会决策有着至关重要的影响，因此它们不仅应该准确，而且不应该对某些敏感群体（例如，非白人女性）。已经开发了各种专门设计的AI算法，以确保训练的AI模型在敏感群体之间是公平的。在本文中，我们提出了一个新的问题，即组间公平AI模型可能会不公平地对待同一敏感组中的个体。我们引入了一个新的公平性概念，即组内公平性，它要求AI模型对同一敏感组中的人以及不同敏感组中的人都是公平的。我们具体化组内公平的概念，提出相应的数学定义和开发学习算法，以控制组内公平和组间公平的同时。数值研究表明，所提出的学习算法提高组内的公平性，而不牺牲准确性以及组间的公平性。
2023-01-20 cs.CY cs.LG stat.AP
Fair Without Leveling Down: A New Intersectional Fairness Definition
Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
针对分类场景下交叉群体公平问题，提出结合绝对与相对性能的α交叉公平新定义，经基准测试发现现有公平方法存在拉平最优群体性能而非提升最差群体性能的问题。
2023-11-07 cs.CL cs.CY cs.LG
Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness
University of Chicago（芝加哥大学）；University of California, Berkeley（加州大学伯克利分校）；Sentience Institute（感知研究所）
本文利用因果语境建立反事实公平性与鲁棒预测及群体公平性之间的联系，证明反事实公平预测器在无偏目标分布中可达到准确性最优，并揭示在测量误差、标签选择和预测变量选择三种情境下，反事实公平性分别等价于人口统计均等、均等化几率和校准。
2023-10-30 cs.AI cs.CY cs.LG
Metric-Free Individual Fairness with Cooperative Contextual Bandits
George Mason University（乔治梅森大学）
数据采掘算法越来越多地用于日常生活中各行各业的自动决策。不幸的是，正如几项研究所报告的那样，这些算法注入了来自数据和环境的偏见，导致不公平和不公平的解决方案。为了减轻机器学习中的偏差，已经提出了公平性的不同形式化，其可以被分类为群体公平性和个体公平性。群体公平性要求不同的群体应该得到类似的对待，这可能对群体中的某些人不公平。另一方面，个体公平要求相似的个体受到相似的对待。然而，个人的公平性仍然研究不足，由于其依赖于特定问题的相似性度量。我们提出了一个无度量的个人公平性和合作上下文土匪（CCB）算法。CCB算法利用公平性作为奖励并试图最大化它。将公平性视为奖励的优点是公平性标准不需要是可微的。该算法在多个真实世界的基准数据集上进行了测试。结果表明，该算法在减轻偏见，实现个人和群体的公平性的有效性。
2020-11-13 cs.LG
Is It Still Fair? Investigating Gender Fairness in Cross-Corpus Speech Emotion Recognition
National Tsing Hua University（国立清华大学）
本文研究跨语料库语音情感识别中性别公平性的泛化问题，提出组合公平性适配机制以同时处理源和目标性别，从而在迁移学习任务中提升性别公平性。
2025-01-02 cs.LG
FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing
University of Michigan（密歇根大学）
图神经网络（GNN）已被证明在底层数据是图的预测建模任务中表现出色。然而，随着GNN在以人为中心的应用中的广泛使用，公平性问题已经出现。虽然边删除是一种用于促进GNN公平性的常用方法，但它没有考虑数据何时本质上缺少公平连接。在这项工作中，我们认为未探索的方法，边添加，伴随着删除，以促进公平。我们提出了两个模型无关的算法来执行边缘编辑：蛮力方法和连续近似方法，FairEdit。FairEdit通过利用公平性损失的梯度信息来找到提高公平性的边缘，从而执行有效的边缘编辑。我们发现，FairEdit在许多数据集和GNN方法上的表现优于标准训练，同时对许多最先进的方法进行了测试，证明了FairEdit在许多领域和模型中提高公平性的能力。
2022-02-16 cs.LG
Correct-By-Construction: Certified Individual Fairness through Neural Network Training
Singapore Management University（新加坡国立管理学院）
本文提出一个构造即正确的个体公平性训练框架，通过可证明公平的初始化和基于随机化响应机制的公平保持训练算法，在无需训练期神经网络验证的情况下，形式化保证并高效地训练出既公平又准确的模型。
2025-08-21 cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
Practical Compositional Fairness: Understanding Fairness in Multi-Component Recommender Systems
Google Brain（谷歌大脑）
我们如何构建推荐系统来考虑公平性？现实世界的推荐系统通常由多个模型组成，由多个团队构建。然而，大多数关于公平性的研究都集中在单个模型中提高公平性。此外，最近对分类公平性的研究表明，组合多个“公平”分类器仍然会导致“不公平”的分类系统。这提出了一个重大的挑战：我们如何理解和提高公平性的推荐系统组成的多个组件？在本文中，我们研究的组合推荐公平性。我们考虑两个最近提出的公平性排名指标：平等的曝光和成对排名的准确性。虽然我们表明，在推荐的公平性是不能保证组成，我们提供了理论的一组条件下，个别模型的公平性组成。然后，我们提出了一个分析框架，了解一个真正的系统的信号是否可以实现组合公平性，并提高哪个组件将对整个系统的公平性产生最大的影响。除了理论结果，我们在多个数据集上发现-包括一个大规模的真实世界推荐系统-整个系统的端到端公平性在很大程度上可以通过提高单个组件的公平性来实现。
2021-01-25 cs.LG stat.ML
The KL-Divergence between a Graph Model and its Fair I-Projection as a Fairness Regularizer
Ghent University（根特大学）
图上的学习和推理越来越多地借助于概率模型来完成，例如指数随机图模型、图嵌入模型和图神经网络。然而，当图表对人与人之间的关系进行建模时，它们将不可避免地反映出偏见、偏见和其他形式的不公平和不平等。因此，一个重要的挑战是设计准确的图建模方法，同时根据问题所需的特定公平性概念来保证公平性。然而，过去关于这个主题的工作仍然很少，仅限于消除特定的图建模方法，并且通常旨在以间接的方式确保公平性。我们提出了一个通用的方法适用于大多数概率图建模方法。具体来说，我们首先定义的类的公平图模型对应于一组选定的公平标准。考虑到这一点，我们提出了一个公平正则化定义为KL之间的发散图模型和它的I-投影到一组公平的模型。我们证明，使用这种公平性正则化与现有的图建模方法相结合，有效地权衡公平性与准确性，而最先进的模型只能使这种权衡的公平性标准，他们是专门设计的。
2021-06-27 cs.LG
Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
Cornell University（康奈尔大学）；Loyola University Maryland（洛约拉大学马里兰州）
研究探讨了大型科技公司如何在推荐系统中处理公平性，识别了技术团队与法律、数据团队在公平性工作中的挑战，并提出可行的实践建议。
2026-02-27 cs.AI cs.CY cs.HC
A Tale of Fairness Revisited: Beyond Adversarial Learning for Deep Neural Network Fairness
Khoury College of Computer Sciences（胡里计算机学院）；Northeastern University（东北大学）
出于自动化和人工智能技术时代对公平算法决策的需求，本技术报告提供了对深度学习中公平性对抗训练的理论见解。我们建立在以前的对抗公平性工作的基础上，展示了公平预测和模型性能之间的持续权衡，并探索了有助于抵消这种权衡的进一步机制。
2021-01-08 cs.AI cs.LG
Algorithmic Fairness Verification with Graphical Models
National University of Singapore（新加坡国立大学）；Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
近年来，机器学习（ML）算法已被部署在安全关键和高风险决策中，其中算法的公平性至关重要。ML中的公平性集中在检测ML分类器引起的对某些人口统计群体的偏见，并提出算法解决方案来减轻不同公平性定义的偏见。为此，已经提出了几种公平性验证器，它们计算ML分类器预测中的偏差-基本上超出了有限数据集-给定输入特征的概率分布。在验证线性分类器的上下文中，现有的公平性验证器由于特征之间的相关性的不精确建模而受到准确性的限制，并且由于分类器作为SSAT/SMT公式的限制性公式化或通过采样而受到可扩展性的限制。在本文中，我们提出了一个有效的公平性验证，称为FVGM，编码的相关性特征之间的贝叶斯网络。与现有的验证器相比，FVGM提出了一种基于随机子集和的线性分类器验证方法。在实验中，我们表明，FVGM导致更多样化的公平性增强算法，公平性攻击和组/因果公平性指标比国家的最先进的公平性验证家庭的准确和可扩展的评估。我们还表明，FVGM有利于公平性影响函数的计算作为一个垫脚石，以检测由子集的功能引起的偏见的来源。
2022-06-01 cs.AI cs.CY cs.LG
Understanding and Improving Fairness-Accuracy Trade-offs in Multi-Task Learning
Google Research（谷歌研究院）
随着多任务模型在更广泛的机器学习应用中越来越受欢迎，从业者理解与这些模型相关的公平性含义变得越来越重要。大多数现有的公平性文献都专注于更公平地学习单个任务，而ML公平性如何在联合学习环境中与多个任务相互作用则在很大程度上未得到充分探索。在本文中，我们关注的是群体公平性（例如，平等的机会，平等的赔率）作为ML公平概念在多任务场景中发挥作用。在多任务学习中，多个任务被联合学习，以利用任务相关性来实现更有效的归纳转移。这呈现了多维帕累托边界（1）关于每个任务的组公平性和准确性之间的权衡，以及（2）跨多个任务的权衡。我们的目标是提供一个更深入的了解如何组公平性与准确性在多任务学习，我们表明，传统的方法，主要集中在优化帕累托边界的多任务准确性可能不会表现良好的公平性目标。我们提出了一组新的指标，以更好地捕捉多维帕累托边界的公平性，准确性权衡独特的多任务学习设置。我们进一步提出了多任务感知公平性（MTA-F）方法来提高多任务学习的公平性。几个真实世界的数据集上的实验证明了我们所提出的方法的有效性。
2021-06-04 cs.LG
FairSelect: A Systematic Evaluation of Multi-Level and Intersectional Algorithmic Fairness
研究针对算法公平性方法多孤立单轴评估的局限，提出FairSelect工具包，支持多模型架构等评估。通过合成与真实临床数据集验证，发现公平干预相互作用方式复杂，该工具包能系统识别策略，兼顾临床机器学习中群体公平与模型性能。
2026-07-13 cs.LG
Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
On the Identification of Fair Auditors to Evaluate Recommender Systems based on a Novel Non-Comparative Fairness Notion
Missouri University of Science and Technology（密苏里科技大学）
决策支持系统是指在司法、房地产和银行等领域为人们的决策提供支持的信息系统。最近，人们发现这些支助系统在许多实际部署中具有歧视性。为了评估和减轻这些偏见，算法公平性文献已经使用比较正义的概念进行了培育，这主要依赖于比较社会中的两个或多个个体或群体，这些系统得到了支持。然而，这种公平的概念是不是很有用的，在确定公平的审计师谁聘请评估决策支持系统内的潜在偏见。作为解决方案，我们引入了一个范式转变的算法公平性通过提出一个新的公平性概念的基础上的原则，非比较正义。假设审计师根据决策支持系统的某些（可能未知的）期望属性进行公平性评估，则建议的公平性概念将系统的结果与审计师的期望结果进行比较。我们表明，建议的公平性概念也提供了保证，在比较公平的概念，证明任何系统可以被认为是公平的，从比较公平的角度来看（如个人公平性和统计平价），如果它是非相对公平的审计师谁被认为是公平的，就相同的公平性概念。我们还表明，反之亦然的情况下，个人公平。一个简短的讨论也提出了关于我们的公平概念可以用来识别公平和可靠的审计师，以及我们如何可以使用它们来量化决策支持系统中的偏见。
2020-09-09 cs.AI cs.CY cs.HC
Counterfactual Fairness in Text Classification through Robustness
Stanford University（斯坦福大学）；Google AI（谷歌人工智能）
本文研究文本分类中的反事实公平性，提出了这样一个问题：如果示例中引用的敏感属性不同，预测结果会如何变化？毒性分类器通过预测“有些人是同性恋”是有毒的，而“有些人是异性恋”是无毒的，证明了一个反事实的公平问题。我们提供了一个度量，反事实令牌公平性（CTF），用于测量这种特殊形式的公平性在文本分类器，并描述其与组公平性的关系。此外，我们提供了三种方法，盲法，反事实增强和反事实logit配对（CLP），用于优化训练过程中的反事实令牌公平性，桥接鲁棒性和公平性文献。根据经验，我们发现盲目性和CLP解决了反事实令牌公平性。这些方法不会损害分类器的性能，并与组公平性有不同的权衡。这些方法，无论是测量和优化，提供了一个新的路径前进，解决文本分类的公平性问题。
2019-02-13 cs.LG stat.ML
Algorithmic Decision Making with Conditional Fairness
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Squirrel AI Learning（松鼠AI智适应教育）
公平性问题是决策系统中的一个重要问题。已经提出了各种公平性概念来衡量算法不公平的程度。在实践中，经常存在一组我们称之为公平变量的变量，它们是决策前的协变量，如用户的选择。在评估决策支持算法的公平性时，公平变量的影响无关紧要。因此，我们定义条件公平性作为一个更健全的公平性度量的公平性变量的条件。鉴于不同的先验知识的公平变量，我们证明了传统的公平符号，如人口统计学平价和均衡的赔率，是我们的条件公平符号的特殊情况。此外，我们提出了一个可导出的条件公平正则化器（DCFR），它可以集成到任何决策模型，跟踪算法决策的精度和公平性之间的权衡。具体来说，在我们的DCFR中提出了一种基于对抗表示的条件独立损失来衡量不公平的程度。通过在三个真实数据集上的大量实验，我们证明了我们的条件公平性符号和DCFR的优点。
2021-07-18 cs.LG stat.ML
50 Years of Test (Un)fairness: Lessons for Machine Learning
Google（谷歌）
关于什么是不公平和什么是公平的定量定义已经在多个学科中引入了50多年，包括教育，招聘和机器学习。我们追溯了在过去的半个世纪里，公平的概念是如何在教育和招聘的测试社区中被定义的，探索了不同公平定义出现的文化和社会背景。在某些情况下，公平性的早期定义与当前机器学习研究中的公平性定义相似或相同，并预示着当前的正式工作。在其他情况下，对公平意味着什么以及如何衡量公平的见解在很大程度上被忽视了。我们从几个方面比较了过去和现在的公平概念，包括公平标准、标准的重点（例如，测试、模型或其使用），公平性与个人、组和子组的关系，以及用于测量公平性的数学方法（例如，分类，回归）。这项工作指出了未来研究和测量（不）公平的方式，建立在我们对公平的现代理解的基础上，同时结合了过去的见解。
2018-12-03 cs.AI cs.LG
Obtaining Dyadic Fairness by Optimal Transport
East China Normal University（华东师范大学）
公平性是机器学习模型中的一个重要指标，也是可信机器学习的重要组成部分。在本文中，我们专注于获得流行的链接预测任务，这是衡量二元公平的公平性。基于最优传输理论，提出了一种新的预处理方法，通过数据修复来建立并元公平性。基于图链接预测的二元公平性与条件分布对齐问题之间的理论联系，二元修复方案可以等价地转化为条件分布对齐问题。在此基础上，通过有效地解决对齐问题，得到了一种基于传输的最优二元公平算法DyadicOT，该算法满足灵活性和无二义性的要求。所提出的DyadicOT算法在两个基准图数据集上显示出优于其他公平性方法的结果。
2022-11-29 cs.AI cs.LG
Shortcomings of Counterfactual Fairness and a Proposed Modification
London School of Economics and Political Science（伦敦政治经济学院）
在本文中，我认为，反事实的公平性并不构成一个算法是公平的必要条件，并随后提出如何修改约束，以弥补这一缺陷。为此，我讨论了一个假设的情况下，反事实的公平和公平的直觉判断来分开。然后，我转向的问题，歧视的概念可以解释，以检查的缺点，反事实的公平性作为一个必要条件的算法公平性更详细。然后，我将这种分析的见解到一个新的公平约束，因果相关公平，这是一个修改的反事实公平约束，似乎规避其缺点。
2020-11-14 cs.AI cs.LG stat.ML
Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Virginia Tech（弗吉尼亚理工大学）；ADA University（阿塞拜疆ADA大学）；University of Potsdam（波茨坦大学）；University of Passau（帕绍大学）
研究公平性增强算法在亚群体层面如何影响隐私风险，通过调整似然比攻击进行审计，分析差分隐私与公平性方法交互，发现公平性干预对隐私风险影响因多种因素而异，引入统一实证框架支持相关审计。
2026-07-17 cs.AI cs.LG
FairRARI: A Plug and Play Framework for Fairness-Aware PageRank
Department of Electrical Engineering (ESAT-STADIUS), KU Leuven（KU莱顿电气工程系）
FairRARI通过统一的凸优化框架在保持公平性的同时提升页面排名的效率。
2026-10-01 cs.LG cs.SI
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine（加州大学欧文分校）；Haverford College（哈弗福德学院）
出于对共享和传输公平机器学习工具的公平性影响的关注，我们提出了两种算法：公平性验证和公平MAML。第一种是模型不可知的算法，它提供了可解释的边界条件，当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型，可以快速微调到特定的任务，从只有少数样本实例，同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用，并提供了我们对K-shot公平性知识的第一个实验，即在只有K个数据点的新任务上训练公平模型。然后，我们说明了这两种算法作为一种组合方法的有用性，用于从新任务的几个数据点训练模型，同时使用公平性检验作为可解释的边界条件，在这种条件下，新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
To be Robust and to be Fair: Aligning Fairness with Robustness
Purdue University（普渡大学）
本文研究了对抗训练与攻击中公平性与准确率的关系，提出统一公平性攻击结构并证明其与准确率攻击的对齐性，实验表明该方法能同时提升两种指标的鲁棒性。
2023-03-31 cs.AI cs.LG
Models and Mechanisms for Spatial Data Fairness
University of Southern California（南加州大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）
数据驱动的决策研究中的公平性：来自某些人口群体的个人在被考虑申请贷款或工作、获得公共资源或其他类型的服务时可能受到不公平对待。在基于位置的应用程序中，决策是基于个人的行踪，这往往与种族，收入和教育等敏感属性相关。虽然公平性最近受到了极大的关注，例如，在机器学习中，很少关注在处理位置数据时实现公平性。由于其特性和特定类型的处理算法，位置数据提出了重要的公平性挑战。我们引入空间数据公平性的概念来解决位置数据和空间查询的特定挑战。我们设计了一种新的积木，以实现公平多项式的形式公平。接下来，我们提出了两种机制，基于公平多项式，实现个人的空间公平性，对应于两种常见的基于位置的决策类型：基于距离和基于区域。大量的实验结果表明，所提出的机制实现了空间公平性，而不牺牲效用。
2022-10-17 cs.DB cs.LG
A Notion of Individual Fairness for Clustering
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）；Google（谷歌）
在公平机器学习中，特别是在公平分类中，一个常见的区别是群体公平性和个体公平性。在聚类的背景下，群体公平性近年来得到了广泛的研究，然而，聚类的个体公平性几乎没有被探索。在本文中，我们提出了一个自然的概念，个人的公平聚类。我们的概念要求每个数据点，平均而言，比任何其他集群中的点更接近自己集群中的点。我们研究了几个问题，我们提出的个人公平的概念。在消极的一面，我们表明，决定一个给定的数据集是否允许这样一个单独的公平聚类一般是NP-难的。在积极的一面，对于一个数据集躺在真正的线的特殊情况下，我们提出了一个有效的动态规划方法来找到一个单独的公平聚类。对于一般的数据集，我们调查的目的是尽量减少个人违反公平的数量，并比较它们的标准聚类方法对真实的数据集。
2020-06-08 cs.LG stat.ML
Cooperative Multi-Agent Fairness and Equivariant Policies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
我们通过合作多智能体学习的镜头来研究公平性。我们的工作是由经验证据，天真的团队奖励最大化产生不公平的结果，为个别团队成员的动机。为了解决多智能体环境中的公平性问题，我们引入了团队公平性，这是一种基于组的多智能体学习公平性度量。然后，我们证明了它是可能的，以加强团队的公平性，在政策优化过程中，通过将团队的联合政策转化为一个等变映射。我们将我们的多智能体学习策略称为通过等方差的公平性（Fair-E），并以经验证明其有效性。然后，我们引入公平通过等变正则化（公平ER）作为公平E的软约束版本，并表明它达到更高水平的效用比公平E和公平的结果比非等变政策。最后，我们提出了新的发现，在多代理设置的公平性效用权衡，显示权衡的幅度是依赖于代理的技能。
2022-01-19 cs.AI cs.LG cs.MA
Fairness Under Composition
Harvard John A. Paulson School of Engineering and Applied Science, Harvard University（哈佛大学哈佛约翰·A·保尔森工程与应用科学学院）；Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）
算法公平性，特别是评分和分类算法的公平性，已经成为越来越多的社会关注的话题，并且最近见证了理论计算机科学、机器学习、统计学、社会科学和法律的研究爆炸式增长。大部分文献考虑了单独使用一次的单个分类器（或评分函数）的情况。在这项工作中，我们开始研究的公平性的算法组成的系统，是公平的隔离，也就是说，我们研究公平下的组成。我们确定的陷阱天真的组成，并给出一般的公平组成的结构，证明了公平的分类器，孤立地不一定组成公平的系统，也似乎不公平的组件可能会仔细结合起来，构建公平的系统。我们主要关注[Dwork，Hardt，Pitassi，Reingold，Zemel，2011]中提出的个人公平设置，但也将我们的结果扩展到最近文献中流行的一大类群体公平定义，展示了几种情况，其中群体公平定义在组合下给出了误导性信号。
2018-11-20 cs.LG stat.ML
Data Management for Causal Algorithmic Fairness
University of Washington（华盛顿大学）
公平性越来越被认为是机器学习系统的关键组成部分。然而，正是这些系统所训练的基础数据往往反映出歧视，这表明存在数据管理问题。在本文中，我们首先区分了文献中关于公平的联想和因果定义，并认为公平的概念需要因果推理。然后，我们审查现有的工作，并确定未来的机会，应用数据管理技术的因果算法公平性。
2019-10-01 cs.DB cs.LG
End-to-End Fairness Optimization with Fair Decision-Focused Learning
School of Business Stevens Institute of Technology（史蒂文斯理工学院商学院）
该研究提出端到端公平性优化框架及公平决策聚焦学习范式，结合多任务学习处理预测与决策阶段的公平性问题，通过数值实验验证其在资源分配场景的有效性。
2026-08-11 cs.LG math.OC
What is Fair? Exploring Pareto-Efficiency for Fairness Constrained Classifiers
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）；Google AI（谷歌人工智能）
学习模型放大现有社会偏见的潜力已得到广泛认可。公平感知分类器约束，它适用于在敏感属性（如种族和性别）上定义的子组之间的性能的平等度量，试图纠正不公平，但可能会产生不均匀的性能下降偏斜的数据集。在某些领域，不平衡的性能下降可能会产生另一种形式的无意偏见。本着构建公平意识算法作为社会当务之急的精神，我们探索了一种替代方案：帕累托有效公平（PEF）。从理论上讲，我们证明了PEF确定的帕累托曲线上的分组性能最接近的公平超平面，最大限度地提高多个子群的准确性的操作点。从经验上讲，我们证明，PEF优于实现帕累托水平的准确性相比，严格的公平性约束，在几个UCI数据集的所有子组。
2019-10-30 cs.LG stat.ML
Recovering Fairness Directly from Modularity: a New Way for Fair Community Partitioning
School of Mathematics and Statistics（数学与统计学学院）；Xidian University（西安电子科技大学）；City Faculty of Data Science（数据科学城市学院）；University of Macau（澳门大学）；College of Mathematical Medicine（数学医学学院）；Zhejiang Normal University（浙江师范大学）
针对传统模块度社区划分忽视公平性的问题，提出公平-模块度指标与FairFN算法，在保持划分质量的同时显著提升公平性，尤其适用于不平衡数据集。
2025-05-27 cs.LG cs.SI
Multi-Category Fairness in Sponsored Search Auctions
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Harvard University（哈佛大学）
广告中的公平性是一个受到计算机科学和经济学文献中理论和经验观察的特别关注的话题。我们研究了为来自许多不同类别的广告客户提供服务的通用平台的广告公平性问题。首先，我们从个体公平和无嫉妒的角度出发，提出了类间公平和类内公平的要求。其次，我们调查的“平台实用程序”（代理的质量分配）可实现的机制，满足这些desiderata。更具体地说，我们比较公平的机制对不公平的最佳效用，我们通过建设表明，我们的公平desiderata是兼容的效用。也就是说，我们构建了一个家庭的公平机制，具有高效用，在一类公平机制中表现接近最优。我们的机制还具有良好的实现属性，包括度量遗忘，这允许平台在不需要知道公平性要求的具体情况下产生公平分配。
2019-08-29 cs.GT cs.LG
Operationalizing Individual Fairness with Pairwise Fair Representations
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
我们重新审视Dwork等人提出的个人公平性的概念。在操作他们的方法的一个核心挑战是在引发人类规范的相似性度量的困难。在本文中，我们提出了一个可操作的个人公平性，不依赖于人类的距离度量规范。相反，我们提出了新的方法来引出和利用同样值得的个人的边信息，以对抗社会群体之间的从属关系。我们将这些知识建模为公平图，并学习数据的统一成对公平表示（PFR），该表示捕获个体之间的数据驱动相似性和公平图中的成对边信息。我们从各种来源得出公平性判断，包括对累犯预测（COMPAS）和暴力邻里预测（Crime & Communities）两个真实世界数据集的人类判断。我们的实验表明，PFR模型的个人公平操作是切实可行的。
2019-12-02 cs.LG stat.ML
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Beyond Parity: Fairness Objectives for Collaborative Filtering
Virginia Tech（弗吉尼亚理工大学）
我们研究了协同过滤推荐系统的公平性，该系统对历史数据中存在的歧视很敏感。有偏见的数据可能导致协作过滤方法对少数群体的用户做出不公平的预测。我们确定现有的公平性指标的不足，并提出了四个新的指标，解决不同形式的不公平。这些公平性度量可以通过向学习目标添加公平性项来优化。在合成数据和真实数据上的实验表明，我们的新指标可以更好地衡量公平性比基线，公平性目标有效地帮助减少不公平。
2017-11-30 cs.AI cs.IR cs.LG
Non-Comparative Fairness for Human-Auditing and Its Relation to Traditional Fairness Notions
Missouri University of Science and Technology（密苏里科技大学）
基于比较原则的传统算法公平性概念的基于机器学习的服务（MLS）中的偏差评估实际上是困难的，使得有必要依赖于人类审计员反馈。然而，尽管在各种比较公平的概念上接受了严格的培训，但众所周知，人类审计师在实践中对公平概念的各个方面都不同意，因此很难收集可靠的反馈。本文通过提出一种基于非比较正义原则的新的公平概念，为算法公平性领域提供了一个范式转换。与传统的公平概念相反，在传统的公平概念中，两个人/群体的结果进行比较，我们提出的概念比较MLS的结果与每个输入的期望结果。这个期望的结果自然描述了人类审计员的期望，并且可以很容易地用于在人群审计平台上评估MLS。我们表明，任何MLS可以被认为是公平的，从比较公平的角度来看（无论是在个人公平性，统计平价，平等机会或校准），如果它是非相对公平的一个公平的审计师。我们还表明，反之亦然的情况下，个人公平。鉴于这种评估依赖于审计师的可信度，我们还提出了一种方法，以确定公平和可靠的审计师，估计他们的偏见相对于一组给定的敏感属性，以及量化的不确定性在一个给定的MLS内的偏见估计。此外，所有上述结果也验证了COMPAS，德国信贷和成人普查收入数据集。
2021-06-29 cs.AI cs.HC cs.LG
Federated Fairness Analytics: Quantifying Fairness in Federated Learning
University of Bristol（布里斯托尔大学）
针对联邦学习中公平性定义与量化指标缺失的问题，提出包含四类概念及对应新指标的联邦公平性分析方法，实验验证其可助力从业者获取不同粒度的系统公平性洞察，相关工作已开源。
2024-08-15 cs.AI cs.DC cs.GT
