Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Virginia Tech（弗吉尼亚理工大学）；ADA University（阿塞拜疆ADA大学）；University of Potsdam（波茨坦大学）；University of Passau（帕绍大学）
研究公平性增强算法在亚群体层面如何影响隐私风险，通过调整似然比攻击进行审计，分析差分隐私与公平性方法交互，发现公平性干预对隐私风险影响因多种因素而异，引入统一实证框架支持相关审计。
2026-07-17 cs.AI cs.LG
To be Robust and to be Fair: Aligning Fairness with Robustness
Purdue University（普渡大学）
本文研究了对抗训练与攻击中公平性与准确率的关系，提出统一公平性攻击结构并证明其与准确率攻击的对齐性，实验表明该方法能同时提升两种指标的鲁棒性。
2023-03-31 cs.AI cs.LG
A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization
Feedzai（飞载）；Universidade do Porto（波尔图大学）
相当多的研究工作已被引导到算法公平性，但仍然没有重大突破。在实践中，需要对所有可能的技术和超参数进行详尽的搜索，以找到最佳的公平性-准确性权衡。因此，再加上ML从业者缺乏工具，减少偏差方法的实际应用仍然很少。为了解决这个问题，我们提出了Fairband，一个基于带宽的公平感知超参数优化（HO）算法。Fairband在概念上简单，资源有效，易于实现，并且对目标指标，模型类型和正在探索的超参数空间都不可知。此外，通过将公平概念引入HO，我们可以将公平目标无缝有效地集成到现实世界的ML管道中。我们比较Fairband与流行的HO方法在四个现实世界的决策数据集。我们表明，Fairband可以有效地导航的公平性和准确性的权衡，通过超参数优化。此外，在没有额外的训练成本的情况下，它始终发现在预测准确性的相对较小的降低下实现大幅提高的公平性的配置。
2020-10-22 cs.AI cs.LG
End-to-End Fairness Optimization with Fair Decision-Focused Learning
School of Business Stevens Institute of Technology（史蒂文斯理工学院商学院）
该研究提出端到端公平性优化框架及公平决策聚焦学习范式，结合多任务学习处理预测与决策阶段的公平性问题，通过数值实验验证其在资源分配场景的有效性。
2026-08-11 cs.LG math.OC
FFB: A Fair Fairness Benchmark for In-Processing Group Fairness Methods
Texas A&M University（德克萨斯农工大学）；Meta AI；Anytime AI；UIUC（伊利诺伊大学厄巴纳-香槟分校）；University of Houston（休斯顿大学）；Rice University（莱斯大学）
本文提出开源基准框架FFB，通过统一实验设置、提供可扩展代码和标准化流程，对处理中群体公平性方法进行大规模评估，以促进公平性研究社区发展。
2024-06-11 cs.AI cs.CY cs.LG
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Cooperative Multi-Agent Fairness and Equivariant Policies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
我们通过合作多智能体学习的镜头来研究公平性。我们的工作是由经验证据，天真的团队奖励最大化产生不公平的结果，为个别团队成员的动机。为了解决多智能体环境中的公平性问题，我们引入了团队公平性，这是一种基于组的多智能体学习公平性度量。然后，我们证明了它是可能的，以加强团队的公平性，在政策优化过程中，通过将团队的联合政策转化为一个等变映射。我们将我们的多智能体学习策略称为通过等方差的公平性（Fair-E），并以经验证明其有效性。然后，我们引入公平通过等变正则化（公平ER）作为公平E的软约束版本，并表明它达到更高水平的效用比公平E和公平的结果比非等变政策。最后，我们提出了新的发现，在多代理设置的公平性效用权衡，显示权衡的幅度是依赖于代理的技能。
2022-01-19 cs.AI cs.LG cs.MA
Can Synthetic Data be Fair and Private? A Comparative Study of Synthetic Data Generation and Fairness Algorithms
Centre for the Science of Learning & Technology (SLATE), University of Bergen（学习科学与技术中心（SLATE），卑尔根大学）；University of South Australia（澳大利亚南澳大利亚大学）
本研究探讨了合成数据生成与公平性算法在平衡隐私和公平性方面的效果，发现DECAF算法在隐私和公平性之间取得最佳平衡，但其预测准确性较低，而对合成数据应用预处理公平算法能进一步提升公平性。
2025-01-03 cs.AI cs.CY cs.LG
A Suite of Fairness Datasets for Tabular Classification
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）
针对公平性机器学习研究实验评估中数据集使用过少的问题，本文引入了一套可获取20个公平性数据集及相关元数据的函数，以促进未来更严谨的实验评估。
2023-07-31 cs.AI cs.CY cs.LG
Non-Comparative Fairness for Human-Auditing and Its Relation to Traditional Fairness Notions
Missouri University of Science and Technology（密苏里科技大学）
基于比较原则的传统算法公平性概念的基于机器学习的服务（MLS）中的偏差评估实际上是困难的，使得有必要依赖于人类审计员反馈。然而，尽管在各种比较公平的概念上接受了严格的培训，但众所周知，人类审计师在实践中对公平概念的各个方面都不同意，因此很难收集可靠的反馈。本文通过提出一种基于非比较正义原则的新的公平概念，为算法公平性领域提供了一个范式转换。与传统的公平概念相反，在传统的公平概念中，两个人/群体的结果进行比较，我们提出的概念比较MLS的结果与每个输入的期望结果。这个期望的结果自然描述了人类审计员的期望，并且可以很容易地用于在人群审计平台上评估MLS。我们表明，任何MLS可以被认为是公平的，从比较公平的角度来看（无论是在个人公平性，统计平价，平等机会或校准），如果它是非相对公平的一个公平的审计师。我们还表明，反之亦然的情况下，个人公平。鉴于这种评估依赖于审计师的可信度，我们还提出了一种方法，以确定公平和可靠的审计师，估计他们的偏见相对于一组给定的敏感属性，以及量化的不确定性在一个给定的MLS内的偏见估计。此外，所有上述结果也验证了COMPAS，德国信贷和成人普查收入数据集。
2021-06-29 cs.AI cs.HC cs.LG
Fairness Hacking: The Malicious Practice of Shrouding Unfairness in Algorithms
Data Protection Authority of Baden-Württemberg（巴登-符腾堡州数据保护局）；University of Tübingen（蒂宾根大学）；University of Stuttgart（斯图加特大学）
本文提出“公平性黑客”概念，揭示通过度量内和度量间两种方式滥用公平性指标以掩盖算法不公平性的恶意实践，并探讨相应对策及真实数据集演示，旨在指导社区减少此类滥用。
2023-11-12 cs.AI cs.CY cs.LG
Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness
University of Chicago（芝加哥大学）；University of California, Berkeley（加州大学伯克利分校）；Sentience Institute（感知研究所）
本文利用因果语境建立反事实公平性与鲁棒预测及群体公平性之间的联系，证明反事实公平预测器在无偏目标分布中可达到准确性最优，并揭示在测量误差、标签选择和预测变量选择三种情境下，反事实公平性分别等价于人口统计均等、均等化几率和校准。
2023-10-30 cs.AI cs.CY cs.LG
Exacerbating Algorithmic Bias through Fairness Attacks
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
近年来，算法公平性引起了人们的广泛关注，提出了许多定量的度量方法来表征不同机器学习算法的公平性。尽管有这种兴趣，这些公平措施的鲁棒性方面的故意对抗攻击尚未得到适当的解决。事实上，大多数对抗性机器学习都专注于恶意攻击对系统准确性的影响，而不考虑系统的公平性。我们提出了新类型的数据投毒攻击，对手故意针对系统的公平性。具体来说，我们提出了两个家庭的攻击目标的公平措施。在锚定攻击中，我们通过将中毒点放置在特定目标点附近来扭曲决策边界，从而使结果产生偏差。在对公平性的影响攻击中，我们的目标是最大化敏感属性与决策结果之间的协方差，并影响模型的公平性。我们进行了大量的实验，表明我们提出的攻击的有效性。
2020-12-16 cs.AI cs.CR cs.LG
Personalized Counterfactual Fairness in Recommendation
Rutgers University（罗格斯大学）
随着越来越多的用户使用推荐系统进行信息搜索和决策，推荐系统对人类和社会产生了越来越重要的影响。因此，解决推荐中潜在的不公平问题至关重要。就像用户对物品有个性化偏好一样，用户对公平性的诉求在很多场景下也是个性化的。因此，为用户提供个性化的公平推荐，以满足其个性化的公平需求是非常重要的。此外，以往的公平推荐工作主要集中在基于关联的公平性。然而，重要的是要从关联公平的概念，因果公平的概念，更恰当地评估公平的推荐系统。基于上述考虑，本文重点研究了在推荐系统中实现个性化的反事实公平性。为此，我们引入了一个框架，通过生成功能独立的用户嵌入推荐，通过对手学习实现反事实公平的建议。该框架允许推荐系统实现个性化的公平性，同时也涵盖非个性化的情况下，用户。在两个真实数据集上使用浅层和深层推荐算法进行的实验表明，该方法可以为用户生成更公平的推荐，并具有理想的推荐性能。
2021-11-05 cs.AI cs.IR cs.LG
When Fairness Metrics Disagree: Evaluating the Reliability of Demographic Fairness Assessment in Machine Learning
Founder, Ducaltus（Ducaltus创始人）；BSc (Hons) Artificial Intelligence（人工智能学士（荣誉））；School of Computing, Engineering & Digital Technologies（计算、工程与数字技术学院）；Teesside University, UK（英国泰赛德大学）
本文研究了公平性评估的一致性问题，通过多指标分析评估机器学习模型中的人口偏见，发现不同公平性指标可能导致矛盾的评估结果，引入了公平性分歧指数（FDI）来量化指标间的不一致程度。
2026-05-19 cs.AI cs.CV cs.LG
Remembering to Be Fair: Non-Markovian Fairness in Sequential Decision Making
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）；University of Waterloo（滑铁卢大学）
针对序列决策中公平性依赖历史、需过程中评估的非马尔可夫特性，本文界定其多类性质，探究记忆与公平策略构建的关联，提出可自动扩充训练数据提升强化学习公平策略合成样本效率的FairQCM算法。
2024-06-19 cs.AI cs.CY cs.LG
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Tulane University（杜兰大学）；DePaul University（德保罗大学）；IBM Watson Research Center（IBM沃森研究中心）
随着推荐系统的设计和部署越来越多的社会后果的应用程序，它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而，我们认为，以前的文献一直是基于简单的，统一的，往往是一维的公平假设的概念，不承认现实世界的复杂性，公平意识的应用程序。在本文中，我们明确表示的设计决策，进入多个定义和交叉保护组的准确性和公平性之间的权衡，支持多个公平性指标。该框架还允许推荐器调整其性能的基础上，已交付的建议，在一个时间范围内的历史视图，动态重新平衡公平性的关注。在这个框架内，我们制定了基于彩票的公平性问题之间的选择机制，并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
FairMT: Fairness for Heterogeneous Multi-Task Learning
Xi’an Jiaotong University（西安交通大学）；Queen Mary University of London（伦敦大学皇家亨利学院）；Kings College London（伦敦国王学院）；University of Exeter（埃克塞特大学）
FairMT是一种统一的公平性感知多任务学习框架，通过异构公平性约束聚合机制在不完整监督下提升公平性，同时保持任务效用。
2025-11-29 cs.AI cs.CY cs.LG
FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons
Xi’an Jiaotong University（西安交通大学）；Rutgers University（罗格斯大学）；Wuhan University（武汉大学）
随着深度神经网络（DNN）被集成到越来越多对社会产生深远影响的关键系统中，人们越来越关注其道德性能，例如公平性。不幸的是，在许多情况下，模型的公平性和准确性是相互矛盾的优化目标。为了解决这个问题，已经有一些工作试图通过在模型级使用对抗性博弈来提高模型的公平性。该方法引入了一个对手，除了评估模型对主任务的预测准确性外，还评估模型的公平性，并执行联合优化以获得平衡的结果。在本文中，我们注意到，在执行基于反向传播的训练时，这种矛盾的现象已经在单个神经元水平上表现出来。基于这一观察，我们提出了FairNeuron，一个DNN模型自动修复工具，以减轻公平性问题，并在不引入另一个模型的情况下平衡准确性-公平性权衡。它的工作原理是从准确性和公平性训练目标中检测具有矛盾优化方向的神经元，并通过选择性丢弃来实现权衡。与现有的方法相比，我们的方法是轻量级的，使其可扩展性和更有效。在3个数据集上的测试结果表明，FairNeuron能够有效地提高模型的公平性，同时保持稳定的效用。
2022-05-11 cs.AI cs.LG cs.SE
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
准确性和个体公平性对于可信的机器学习都是至关重要的，但这两个方面往往是相互不兼容的，因此增强一个方面可能会不可避免地牺牲另一个方面，从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准，准确的公平性，个人的公平性与准确性。非正式地说，它要求个人和个人的类似对应方的待遇符合统一的目标，即，个人的基本事实我们证明，准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后，我们提出了一个暹罗公平处理方法，以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知，这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标，公平精度，公平召回，公平F1得分，量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明，我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%，真实公平率提高10.09%~ 20.57%，公平F1分提高5.43%~ 10.01%，最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后，应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视，平均公平地服务于比基线模型多112.33%的客户（具体地说，以精确公平的方式多81.29%的客户）。
2022-11-30 cs.CY cs.LG
Procedural Fairness and Its Relationship with Distributive Fairness in Machine Learning
Southern University of Science and Technology（南方科技大学）；Lingnan University（岭南大学）
针对机器学习领域程序公平性研究不足的问题，本文提出训练阶段实现程序公平的新方法，验证其有效性，并探究程序公平与分配公平的关联及两类公平指标优化的差异。
2025-01-12 cs.CY cs.LG
Fix Representation (Optimally) Before Fairness: Finite-Sample Shrinkage Population Correction and the True Price of Fairness Under Subpopulation Shift
Department of Biostatistics, Vanderbilt University Medical Center, Nashville, TN 37232, USA（生物统计学系，范德比尔特大学医学中心）；Department of Informatics, King's College London, WC2R 2LS London, UK（信息学系，国王学院伦敦）
本文提出在公平性之前通过有限样本收缩校正优化表示，以揭示真实公平性代价，通过实验验证该方法有效消除虚假权衡。
2026-02-05 cs.LG
Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
Cornell University（康奈尔大学）；Loyola University Maryland（洛约拉大学马里兰州）
研究探讨了大型科技公司如何在推荐系统中处理公平性，识别了技术团队与法律、数据团队在公平性工作中的挑战，并提出可行的实践建议。
2026-02-27 cs.AI cs.CY cs.HC
Is It Still Fair? Investigating Gender Fairness in Cross-Corpus Speech Emotion Recognition
National Tsing Hua University（国立清华大学）
本文研究跨语料库语音情感识别中性别公平性的泛化问题，提出组合公平性适配机制以同时处理源和目标性别，从而在迁移学习任务中提升性别公平性。
2025-01-02 cs.LG
Fairness Testing of Deep Image Classification with Adequacy Metrics
Zhejiang University（浙江大学）；Singapore Management University（新加坡管理大学）
作为深度图像分类应用，例如，人脸识别在我们的日常生活中越来越普遍，其公平性问题也越来越受到关注。因此，在部署之前全面测试这些应用程序的公平性至关重要。现有的公平性测试方法存在以下局限性：1）适用性，即，它们仅适用于结构化数据或文本，而不处理用于图像分类应用的语义级中的高维和抽象域采样; 2）功能性，即，它们产生不公平的样本，而没有提供测试标准来表征模型的公平充分性。为了填补这一空白，我们提出了DeepFAIT，这是一个专门为深度图像分类应用设计的系统公平性测试框架。DeepFAIT由几个重要组件组成，可以对深度图像分类应用进行有效的公平性测试：1）用于识别公平性相关神经元的神经元选择策略; 2）用于评估模型公平性的一组多粒度充分性度量; 3）用于有效解决公平性问题的测试选择算法。我们已经对广泛采用的大规模人脸识别应用进行了实验，即，VGGFace和FairFace。实验结果表明，该方法可以有效地识别公平性相关的神经元，表征模型的公平性，并选择最有价值的测试用例，以减轻模型的公平性问题。
2021-12-01 cs.LG
On the Identification of Fair Auditors to Evaluate Recommender Systems based on a Novel Non-Comparative Fairness Notion
Missouri University of Science and Technology（密苏里科技大学）
决策支持系统是指在司法、房地产和银行等领域为人们的决策提供支持的信息系统。最近，人们发现这些支助系统在许多实际部署中具有歧视性。为了评估和减轻这些偏见，算法公平性文献已经使用比较正义的概念进行了培育，这主要依赖于比较社会中的两个或多个个体或群体，这些系统得到了支持。然而，这种公平的概念是不是很有用的，在确定公平的审计师谁聘请评估决策支持系统内的潜在偏见。作为解决方案，我们引入了一个范式转变的算法公平性通过提出一个新的公平性概念的基础上的原则，非比较正义。假设审计师根据决策支持系统的某些（可能未知的）期望属性进行公平性评估，则建议的公平性概念将系统的结果与审计师的期望结果进行比较。我们表明，建议的公平性概念也提供了保证，在比较公平的概念，证明任何系统可以被认为是公平的，从比较公平的角度来看（如个人公平性和统计平价），如果它是非相对公平的审计师谁被认为是公平的，就相同的公平性概念。我们还表明，反之亦然的情况下，个人公平。一个简短的讨论也提出了关于我们的公平概念可以用来识别公平和可靠的审计师，以及我们如何可以使用它们来量化决策支持系统中的偏见。
2020-09-09 cs.AI cs.CY cs.HC
FairACE: Achieving Degree Fairness in Graph Neural Networks via Contrastive and Adversarial Group-Balanced Training
College of Liberal Arts and Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校文理学院）
针对图神经网络中度偏差导致不同度节点预测性能不平等问题，提出FairACE框架，结合非对称对比学习与对抗训练，通过组平衡公平损失和AD指标，提升度公平性且保持精度。
2025-04-15 cs.AI cs.LG cs.SI
Correct-By-Construction: Certified Individual Fairness through Neural Network Training
Singapore Management University（新加坡国立管理学院）
本文提出一个构造即正确的个体公平性训练框架，通过可证明公平的初始化和基于随机化响应机制的公平保持训练算法，在无需训练期神经网络验证的情况下，形式化保证并高效地训练出既公平又准确的模型。
2025-08-21 cs.LG
Pushing the limits of fairness impossibility: Who's the fairest of them all?
LinkedIn Corporation（领英公司）；Massachusetts Institute of Technology（麻省理工学院）
公平性不可能定理是算法公平性文献中的一个基本结果。它指出，在特殊情况之外，一个人不可能同时精确地满足所有三个常见的和直观的公平定义-人口均等，均衡赔率和预测率均等。这一结果促使大多数作品专注于一两个指标的解决方案。而不是效仿，在本文中，我们提出了一个框架，推动极限的不可能性定理，以满足所有三个指标，以最大限度地。我们开发了一种基于整数规划的方法，可以产生一个可证明的最佳后处理方法，同时满足多个公平性标准下的小违规。我们的实验表明，我们的后处理器可以同时提高不同定义的公平性，模型性能降低最小。我们还讨论了我们的模型选择和公平性解释框架的应用，从而试图回答这个问题：谁是最公平的？
2022-08-24 cs.AI cs.CY cs.LG
Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
National University of Singapore（新加坡国立大学）
受数据用于不同预测任务的场景的启发，我们研究了公平表示是否可以用于保证未知任务的公平性和同时用于多个公平概念。我们认为七组公平的概念，涵盖独立，分离和校准的概念。在公平不可能结果的背景下，我们探讨近似公平。我们证明，虽然公平表示可能无法保证所有预测任务的公平性，但它确实保证了一个重要的任务子集的公平性-表示是有区别的任务。具体而言，所有七个组公平性概念是线性控制的公平性和歧视性的表示。当不同的公平概念之间存在不相容时，公平和歧视性的表示达到了近似满足所有概念的最佳点。出于我们的理论研究结果，我们建议学习公平和歧视性的表示使用借口损失自我监督学习，和最大平均离散作为一个公平的正则化。在表格，图像和人脸数据集上的实验表明，使用学习的表示，我们在学习表示时不知道的下游预测确实对七个组公平性概念变得更公平，并且根据我们的理论结果计算的公平性保证都是有效的。
2022-02-20 cs.CV cs.CY cs.LG
FairGSE: Fairness-Aware Graph Neural Network without High False Positive Rates
针对现有公平感知图神经网络假阳性率过高的问题，提出FairGSE框架，通过最大化二维结构熵兼顾公平性与假阳性控制，实验显示其FPR较SOTA方法降低39%且公平性提升相当。
2025-11-15 cs.LG
Counterfactual Fairness in Text Classification through Robustness
Stanford University（斯坦福大学）；Google AI（谷歌人工智能）
本文研究文本分类中的反事实公平性，提出了这样一个问题：如果示例中引用的敏感属性不同，预测结果会如何变化？毒性分类器通过预测“有些人是同性恋”是有毒的，而“有些人是异性恋”是无毒的，证明了一个反事实的公平问题。我们提供了一个度量，反事实令牌公平性（CTF），用于测量这种特殊形式的公平性在文本分类器，并描述其与组公平性的关系。此外，我们提供了三种方法，盲法，反事实增强和反事实logit配对（CLP），用于优化训练过程中的反事实令牌公平性，桥接鲁棒性和公平性文献。根据经验，我们发现盲目性和CLP解决了反事实令牌公平性。这些方法不会损害分类器的性能，并与组公平性有不同的权衡。这些方法，无论是测量和优化，提供了一个新的路径前进，解决文本分类的公平性问题。
2019-02-13 cs.LG stat.ML
Algorithmic Decision Making with Conditional Fairness
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Squirrel AI Learning（松鼠AI智适应教育）
公平性问题是决策系统中的一个重要问题。已经提出了各种公平性概念来衡量算法不公平的程度。在实践中，经常存在一组我们称之为公平变量的变量，它们是决策前的协变量，如用户的选择。在评估决策支持算法的公平性时，公平变量的影响无关紧要。因此，我们定义条件公平性作为一个更健全的公平性度量的公平性变量的条件。鉴于不同的先验知识的公平变量，我们证明了传统的公平符号，如人口统计学平价和均衡的赔率，是我们的条件公平符号的特殊情况。此外，我们提出了一个可导出的条件公平正则化器（DCFR），它可以集成到任何决策模型，跟踪算法决策的精度和公平性之间的权衡。具体来说，在我们的DCFR中提出了一种基于对抗表示的条件独立损失来衡量不公平的程度。通过在三个真实数据集上的大量实验，我们证明了我们的条件公平性符号和DCFR的优点。
2021-07-18 cs.LG stat.ML
Fairness in Reinforcement Learning
University of Pennsylvania（宾夕法尼亚大学）
我们开始研究强化学习中的公平性，其中学习算法的行为可能会影响其环境和未来的奖励。我们的公平性约束要求，如果选择后一个动作的长期（折扣）奖励更高，则算法永远不会偏好一个动作。第一个结果是否定的：尽管公平性与最优策略一致，但满足公平性的任何学习算法必须花费状态数量的时间指数，以实现对最优策略的非平凡近似。然后，我们提供了一个可证明公平的多项式时间算法下的近似公平的概念，从而建立一个指数差距之间的确切和近似公平
2017-08-06 cs.LG
Fairness Evaluation in Text Classification: Machine Learning Practitioner Perspectives of Individual and Group Fairness
IBM Research（IBM研究院）；Massachusetts Institute of Technology（麻省理工学院）
减轻算法偏见是机器学习模型开发和部署中的一项关键任务。虽然有几个工具包可以帮助机器学习从业者解决公平性问题，但人们对从业者用来评估模型公平性的策略以及影响其评估的因素知之甚少，特别是在文本分类的背景下。评价模型公平性的两种常用方法是群体公平性和个体公平性。我们与机器学习从业者（n=24）进行了一项研究，以了解用于评估模型的策略。向从业者提出的问题（群体与个人公平性）影响他们认为公平的模型。与会者重点关注与低估/高估相关的风险以及与身份令牌操作相关的模型敏感性。我们发现公平性评估策略涉及个人经验或用户如何形成身份令牌组来测试模型的公平性。我们提供了交互式工具的建议，用于评估文本分类的公平性。
2023-03-01 cs.CY cs.HC cs.LG
The KL-Divergence between a Graph Model and its Fair I-Projection as a Fairness Regularizer
Ghent University（根特大学）
图上的学习和推理越来越多地借助于概率模型来完成，例如指数随机图模型、图嵌入模型和图神经网络。然而，当图表对人与人之间的关系进行建模时，它们将不可避免地反映出偏见、偏见和其他形式的不公平和不平等。因此，一个重要的挑战是设计准确的图建模方法，同时根据问题所需的特定公平性概念来保证公平性。然而，过去关于这个主题的工作仍然很少，仅限于消除特定的图建模方法，并且通常旨在以间接的方式确保公平性。我们提出了一个通用的方法适用于大多数概率图建模方法。具体来说，我们首先定义的类的公平图模型对应于一组选定的公平标准。考虑到这一点，我们提出了一个公平正则化定义为KL之间的发散图模型和它的I-投影到一组公平的模型。我们证明，使用这种公平性正则化与现有的图建模方法相结合，有效地权衡公平性与准确性，而最先进的模型只能使这种权衡的公平性标准，他们是专门设计的。
2021-06-27 cs.LG
fairret: a Framework for Differentiable Fairness Regularization Terms
Ghent University（根特大学）
针对现有公平性工具包定义有限且难与自动微分库集成的问题，本文提出可微公平性正则化项框架 fairret，支持线性分式统计量并提供 PyTorch 实现。
2024-04-10 cs.LG
FedFACT: A Provable Framework for Controllable Group-Fairness Calibration in Federated Learning
Zhejiang University（浙江大学）；Hangzhou Dianzi University（杭州电子科技大学）
FedFACT提出一种可控联邦群体公平性校准框架，通过刻画全局与局部公平约束下的贝叶斯最优分类器，将公平联邦学习重构为代价敏感学习与双层优化问题，并给出收敛与泛化保证，实验证明其在准确率与公平性权衡上优于基线。
2025-11-07 cs.LG
FairTP: A Prolonged Fairness Framework for Traffic Prediction
Central South University（中南大学）；The Education University of Hong Kong（香港教育大学）；Lingnan University（岭南大学）；The Hong Kong Polytechnic University（香港理工大学）
针对交通预测中传感器部署不均导致的长期不公平问题，提出FairTP框架，通过定义区域静态公平与传感器动态公平，结合状态识别模块和平衡采样策略，在最小化精度损失下显著提升预测公平性。
2024-12-18 cs.LG
Counterfactual Fairness Evaluation of Machine Learning Models on Educational Datasets
Department of Computer Science and Engineering, Korea University, South Korea（计算机科学与工程系，韩国大学，韩国）
本文针对教育数据，通过基准数据集上的反事实公平性分析，揭示敏感属性的因果影响，为教育场景中的个体公平性评估提供新视角。
2025-04-20 cs.CY cs.LG
Within-group fairness: A guidance for more sound between-group fairness
Samsung Electronics Co.（三星电子公司）；Konkuk University（建国大学）；Seoul National University（首尔国立大学）
由于人工智能算法对社会决策有着至关重要的影响，因此它们不仅应该准确，而且不应该对某些敏感群体（例如，非白人女性）。已经开发了各种专门设计的AI算法，以确保训练的AI模型在敏感群体之间是公平的。在本文中，我们提出了一个新的问题，即组间公平AI模型可能会不公平地对待同一敏感组中的个体。我们引入了一个新的公平性概念，即组内公平性，它要求AI模型对同一敏感组中的人以及不同敏感组中的人都是公平的。我们具体化组内公平的概念，提出相应的数学定义和开发学习算法，以控制组内公平和组间公平的同时。数值研究表明，所提出的学习算法提高组内的公平性，而不牺牲准确性以及组间的公平性。
2023-01-20 cs.CY cs.LG stat.AP
Understanding and Improving Fairness-Accuracy Trade-offs in Multi-Task Learning
Google Research（谷歌研究院）
随着多任务模型在更广泛的机器学习应用中越来越受欢迎，从业者理解与这些模型相关的公平性含义变得越来越重要。大多数现有的公平性文献都专注于更公平地学习单个任务，而ML公平性如何在联合学习环境中与多个任务相互作用则在很大程度上未得到充分探索。在本文中，我们关注的是群体公平性（例如，平等的机会，平等的赔率）作为ML公平概念在多任务场景中发挥作用。在多任务学习中，多个任务被联合学习，以利用任务相关性来实现更有效的归纳转移。这呈现了多维帕累托边界（1）关于每个任务的组公平性和准确性之间的权衡，以及（2）跨多个任务的权衡。我们的目标是提供一个更深入的了解如何组公平性与准确性在多任务学习，我们表明，传统的方法，主要集中在优化帕累托边界的多任务准确性可能不会表现良好的公平性目标。我们提出了一组新的指标，以更好地捕捉多维帕累托边界的公平性，准确性权衡独特的多任务学习设置。我们进一步提出了多任务感知公平性（MTA-F）方法来提高多任务学习的公平性。几个真实世界的数据集上的实验证明了我们所提出的方法的有效性。
2021-06-04 cs.LG
FairSelect: A Systematic Evaluation of Multi-Level and Intersectional Algorithmic Fairness
研究针对算法公平性方法多孤立单轴评估的局限，提出FairSelect工具包，支持多模型架构等评估。通过合成与真实临床数据集验证，发现公平干预相互作用方式复杂，该工具包能系统识别策略，兼顾临床机器学习中群体公平与模型性能。
2026-07-13 cs.LG
Fair Mixup: Fairness via Interpolation
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；IBM Research AI（IBM研究院人工智能部门）
在公平性约束（如组公平性）下训练分类器，使组之间的预测差异规则化。然而，即使在训练过程中满足了约束条件，它们在评估时也可能无法推广。为了提高公平分类器的泛化能力，我们提出了公平混淆，一个新的数据增强策略施加公平约束。特别是，我们表明，公平性，可以通过正规化的模型之间的插值样本的路径。我们使用mixup，一个强大的数据增强策略来生成这些插值。我们分析了公平的混淆，并实证表明，它确保了更好的概括性的准确性和公平性的测量表，视觉和语言基准。
2021-03-11 cs.CY cs.LG stat.ML
Error Parity Fairness: Testing for Group Fairness in Regression Tasks
University of Houston（休斯顿大学）
人工智能（AI）的应用围绕着人类生活越来越多方面的决策。社会的反应是对这种自动决策系统（ADS）的责任施加法律和社会期望。公平性是人工智能问责制的基本组成部分，涉及对个人和敏感群体的公正对待（例如，基于性别、种族）。虽然许多研究集中在公平学习和公平测试的分类任务，文献是相当有限的，如何检查回归任务的公平性。这项工作提出了误差奇偶性作为回归公平的概念，并介绍了一种测试方法来评估组公平性的基础上的统计假设检验程序。错误奇偶检验检查预测错误是否在敏感组中类似地分布，以确定ADS是否公平。然后是一个适当的排列测试，比较几个统计组，以探索差异和确定受影响的群体。通过对美国县级COVID-19预测的案例研究，证明了所提出的方法的有用性和适用性，该研究揭示了基于种族的预测误差差异。总体而言，所提出的回归公平性测试方法填补了公平机器学习文献中的空白，并可作为更大的问责制评估和算法审计的一部分。
2022-08-16 cs.CY cs.LG
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine（加州大学欧文分校）；Haverford College（哈弗福德学院）
出于对共享和传输公平机器学习工具的公平性影响的关注，我们提出了两种算法：公平性验证和公平MAML。第一种是模型不可知的算法，它提供了可解释的边界条件，当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型，可以快速微调到特定的任务，从只有少数样本实例，同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用，并提供了我们对K-shot公平性知识的第一个实验，即在只有K个数据点的新任务上训练公平模型。然后，我们说明了这两种算法作为一种组合方法的有用性，用于从新任务的几个数据点训练模型，同时使用公平性检验作为可解释的边界条件，在这种条件下，新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
The Long Arc of Fairness: Formalisations and Ethical Discourse
Technical University of Denmark（丹麦技术大学）；Technische Universität Berlin（柏林工业大学）
近年来，算法决策（ADM）的形式化和建模公平性的想法已经发展到了一个复杂的专业化点。然而，关于公平的技术（形式化）和伦理话语之间的关系并不总是明确和富有成效的。我们从另一个角度出发，回顾了现有的公平性指标，并讨论了一些常见的问题。例如，程序和分配的公平性往往是形式化的，并静态地讨论，忽视了现状的结构性先决条件和特定干预措施的下游影响。然后，我们引入动态公平建模，一个更全面的方法，重新调整正式的公平指标与伦理话语的参数。动态公平模型包括（1）道德目标，（2）量化决策程序和结果的正式指标，以及（3）中期或长期下游影响。通过将公平相关过程的这些要素置于情境中，动态公平建模阐明了以前潜在的道德方面，从而提供了一个有用的工具来导航不同公平干预之间的权衡。为了说明该框架，我们讨论了一个示例应用程序-目前欧洲努力增加公司董事会中的女性人数，例如通过配额解决方案-并提出适合我们框架的早期技术工作。
2022-03-08 cs.CY cs.LG
Your fairness may vary: Pretrained language model fairness in toxic text classification
IBM Research（IBM研究院）
预训练语言模型在自然语言处理系统中的普及要求在下游任务中仔细评估此类模型，这些模型具有更高的社会影响潜力。对这种系统的评价通常侧重于准确性措施。我们在本文中的研究结果呼吁重视公平措施以及。通过对两个有毒文本分类任务（英语）的十几个不同大小的预训练语言模型的分析，我们证明了仅关注准确性度量可以导致模型在公平性特征方面存在很大差异。具体来说，我们观察到，公平性的变化甚至超过准确性与增加训练数据大小和不同的随机初始化。与此同时，我们发现，公平性的变化是由模型的大小来解释的，尽管在文献中的索赔。为了提高模型的公平性，无需再训练，我们表明，两个后处理方法开发的结构化，表格数据可以成功地应用到一系列的预训练语言模型。警告：本文包含冒犯性文本的示例。
2022-04-14 cs.CL cs.LG
A Notion of Individual Fairness for Clustering
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）；Google（谷歌）
在公平机器学习中，特别是在公平分类中，一个常见的区别是群体公平性和个体公平性。在聚类的背景下，群体公平性近年来得到了广泛的研究，然而，聚类的个体公平性几乎没有被探索。在本文中，我们提出了一个自然的概念，个人的公平聚类。我们的概念要求每个数据点，平均而言，比任何其他集群中的点更接近自己集群中的点。我们研究了几个问题，我们提出的个人公平的概念。在消极的一面，我们表明，决定一个给定的数据集是否允许这样一个单独的公平聚类一般是NP-难的。在积极的一面，对于一个数据集躺在真正的线的特殊情况下，我们提出了一个有效的动态规划方法来找到一个单独的公平聚类。对于一般的数据集，我们调查的目的是尽量减少个人违反公平的数量，并比较它们的标准聚类方法对真实的数据集。
2020-06-08 cs.LG stat.ML
Fairness Under Composition
Harvard John A. Paulson School of Engineering and Applied Science, Harvard University（哈佛大学哈佛约翰·A·保尔森工程与应用科学学院）；Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）
算法公平性，特别是评分和分类算法的公平性，已经成为越来越多的社会关注的话题，并且最近见证了理论计算机科学、机器学习、统计学、社会科学和法律的研究爆炸式增长。大部分文献考虑了单独使用一次的单个分类器（或评分函数）的情况。在这项工作中，我们开始研究的公平性的算法组成的系统，是公平的隔离，也就是说，我们研究公平下的组成。我们确定的陷阱天真的组成，并给出一般的公平组成的结构，证明了公平的分类器，孤立地不一定组成公平的系统，也似乎不公平的组件可能会仔细结合起来，构建公平的系统。我们主要关注[Dwork，Hardt，Pitassi，Reingold，Zemel，2011]中提出的个人公平设置，但也将我们的结果扩展到最近文献中流行的一大类群体公平定义，展示了几种情况，其中群体公平定义在组合下给出了误导性信号。
2018-11-20 cs.LG stat.ML
Optimal Transport of Classifiers to Fairness
Ghent University（根特大学）
在过去关于机器学习公平性的工作中，重点是迫使分类器的预测对于不同人口统计学特征的人具有相似的统计属性。为了减少对这些属性的违反，公平性方法通常简单地重新调整分类器分数，忽略不同群体成员之间的相似性和差异性。然而，我们假设这些信息是相关的量化给定分类器的不公平性。为了验证这一假设，我们引入了最优公平传输（OTF），这是一种将违反公平约束量化为概率分类器和满足这些约束的任何评分函数之间的最小最优传输成本的方法。对于一类灵活的线性公平约束，我们构建了一个实用的方法来计算OTF作为一个可微的公平正则化，可以添加到任何标准的分类设置。实验表明，OTF可以用来实现预测能力和公平性之间的改进的权衡。
2022-11-29 cs.LG stat.ML
Achieving Fairness at No Utility Cost via Data Reweighing with Influence
Brandeis University（布兰迪斯大学）
随着算法治理的快速发展，公平性已经成为机器学习模型抑制无意歧视的一个强制属性。在本文中，我们专注于预处理方面，以实现公平性，并提出了一种数据重新加权的方法，只调整样本的权重在训练阶段。不同于大多数以前的重新加权方法，通常分配一个统一的权重为每个（子）组，我们颗粒模型的影响，每个训练样本的公平性相关的数量和预测效用，并计算个人的权重的基础上的影响下的约束，从公平性和效用。实验结果表明，以前的方法实现了公平的效用不可忽略的成本，而作为一个显着的优势，我们的方法可以凭经验释放的权衡，并获得公平的机会均等的成本。与多个真实世界表格数据集上的基线方法相比，我们通过香草分类器和标准训练过程证明了无成本的公平性。代码可在https://github.com/brandeis-machine-learning/influence-fairness获得。
2022-06-17 cs.CY cs.LG
What is Fair? Exploring Pareto-Efficiency for Fairness Constrained Classifiers
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）；Google AI（谷歌人工智能）
学习模型放大现有社会偏见的潜力已得到广泛认可。公平感知分类器约束，它适用于在敏感属性（如种族和性别）上定义的子组之间的性能的平等度量，试图纠正不公平，但可能会产生不均匀的性能下降偏斜的数据集。在某些领域，不平衡的性能下降可能会产生另一种形式的无意偏见。本着构建公平意识算法作为社会当务之急的精神，我们探索了一种替代方案：帕累托有效公平（PEF）。从理论上讲，我们证明了PEF确定的帕累托曲线上的分组性能最接近的公平超平面，最大限度地提高多个子群的准确性的操作点。从经验上讲，我们证明，PEF优于实现帕累托水平的准确性相比，严格的公平性约束，在几个UCI数据集的所有子组。
2019-10-30 cs.LG stat.ML
