Fairness Score and Process Standardization: Framework for Fairness Certification in Artificial Intelligence Systems
Telecommunication Engineering Centre（电信工程中心）；Ministry of Communications（通信部）；Adobe Inc.（奥多比公司）；Manipal Institute of Technology（马尼帕尔理工学院）
各种人工智能（AI）系统做出的决策极大地影响着我们的日常生活。随着人工智能系统的使用越来越多，知道它们是公平的，识别其决策中的潜在偏见，并创建一个标准化框架来确定其公平性变得至关重要。在本文中，我们提出了一种新的公平分数来衡量数据驱动的AI系统的公平性，以及为此类系统颁发公平认证的标准操作程序（SOP）。公平评分和审计流程标准化将确保质量，减少歧义，实现比较并提高人工智能系统的可信度。它还将提供一个框架，以实施公平的概念，并促进此类系统的商业部署。此外，由指定的第三方审计机构按照标准化流程颁发的公平证书将增强组织对其打算部署的人工智能系统的信心。本文提出的偏差指数还揭示了数据集中各种受保护属性之间的比较偏差。为了证实所提出的框架，我们使用多个数据集迭代地训练有偏和无偏数据的模型，并检查公平性分数和所提出的过程正确地识别偏差并判断公平性。
2022-01-10 cs.AI cs.CY cs.LG
A Suite of Fairness Datasets for Tabular Classification
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）
针对公平性机器学习研究实验评估中数据集使用过少的问题，本文引入了一套可获取20个公平性数据集及相关元数据的函数，以促进未来更严谨的实验评估。
2023-07-31 cs.AI cs.CY cs.LG
Preventing Fairness Gerrymandering: Auditing and Learning for Subgroup Fairness
University of Pennsylvania（宾夕法尼亚大学）；Microsoft Research-New York City（微软研究院（纽约市））
机器学习中最流行的公平性概念是统计定义：它们固定一小部分预定义的组，然后要求分类器的某些统计数据在这些组中的奇偶性。这种形式的约束容易受到有意或无意的“公平选区划分”的影响，其中分类器似乎对每个单独的组是公平的，但严重违反了在受保护属性上定义的一个或多个结构化子组上的公平约束。我们建议，而不是要求统计概念的公平性指数（或无限）许多子群，定义了一个结构化的功能类的保护属性。这插入公平的统计定义和最近提出的个人公平的概念之间，但提出了一些计算上的挑战。如何审计一个固定的分类器，看看它是否满足这样一个强定义的公平性，现在已经不清楚了。我们证明了审计子群公平性的计算问题的误报率和统计奇偶性的平等是等价的弱不可知学习的问题，这意味着它是计算困难的最坏情况下，即使是简单的结构子类。然后，我们推导出两个算法，可证明收敛到最好的公平分类，访问神谕，可以解决不可知的学习问题。该算法的基础上制定的分组公平性作为一个两个球员之间的零和游戏的学习者和审计员。我们的第一个算法可证明收敛在一个多项式的步骤。我们的第二个算法只具有可证明的渐近收敛性，但具有简单和更快的每步计算的优点。我们使用线性回归作为启发式预言实现了更简单的算法，并表明我们可以有效地审计和学习真实数据集上的公平分类器。
2018-12-03 cs.DS cs.GT cs.LG
Algorithmic Decision Making with Conditional Fairness
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Squirrel AI Learning（松鼠AI智适应教育）
公平性问题是决策系统中的一个重要问题。已经提出了各种公平性概念来衡量算法不公平的程度。在实践中，经常存在一组我们称之为公平变量的变量，它们是决策前的协变量，如用户的选择。在评估决策支持算法的公平性时，公平变量的影响无关紧要。因此，我们定义条件公平性作为一个更健全的公平性度量的公平性变量的条件。鉴于不同的先验知识的公平变量，我们证明了传统的公平符号，如人口统计学平价和均衡的赔率，是我们的条件公平符号的特殊情况。此外，我们提出了一个可导出的条件公平正则化器（DCFR），它可以集成到任何决策模型，跟踪算法决策的精度和公平性之间的权衡。具体来说，在我们的DCFR中提出了一种基于对抗表示的条件独立损失来衡量不公平的程度。通过在三个真实数据集上的大量实验，我们证明了我们的条件公平性符号和DCFR的优点。
2021-07-18 cs.LG stat.ML
SLIDE: a surrogate fairness constraint to ensure fairness consistency
Department of Statistics, Seoul National University（统计系，首尔国立大学）；Department of Statistics, Inha University（统计系，延世大学）
本文提出SLIDE，一种计算可行且渐近有效的替代公平约束，用于在最小化经验风险时确保模型公平性，并在基准数据集上验证其有效性。
2022-07-04 cs.LG stat.ML
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine（加州大学欧文分校）；Haverford College（哈弗福德学院）
出于对共享和传输公平机器学习工具的公平性影响的关注，我们提出了两种算法：公平性验证和公平MAML。第一种是模型不可知的算法，它提供了可解释的边界条件，当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型，可以快速微调到特定的任务，从只有少数样本实例，同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用，并提供了我们对K-shot公平性知识的第一个实验，即在只有K个数据点的新任务上训练公平模型。然后，我们说明了这两种算法作为一种组合方法的有用性，用于从新任务的几个数据点训练模型，同时使用公平性检验作为可解释的边界条件，在这种条件下，新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
A Notion of Individual Fairness for Clustering
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）；Google（谷歌）
在公平机器学习中，特别是在公平分类中，一个常见的区别是群体公平性和个体公平性。在聚类的背景下，群体公平性近年来得到了广泛的研究，然而，聚类的个体公平性几乎没有被探索。在本文中，我们提出了一个自然的概念，个人的公平聚类。我们的概念要求每个数据点，平均而言，比任何其他集群中的点更接近自己集群中的点。我们研究了几个问题，我们提出的个人公平的概念。在消极的一面，我们表明，决定一个给定的数据集是否允许这样一个单独的公平聚类一般是NP-难的。在积极的一面，对于一个数据集躺在真正的线的特殊情况下，我们提出了一个有效的动态规划方法来找到一个单独的公平聚类。对于一般的数据集，我们调查的目的是尽量减少个人违反公平的数量，并比较它们的标准聚类方法对真实的数据集。
2020-06-08 cs.LG stat.ML
Fairness Under Composition
Harvard John A. Paulson School of Engineering and Applied Science, Harvard University（哈佛大学哈佛约翰·A·保尔森工程与应用科学学院）；Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）
算法公平性，特别是评分和分类算法的公平性，已经成为越来越多的社会关注的话题，并且最近见证了理论计算机科学、机器学习、统计学、社会科学和法律的研究爆炸式增长。大部分文献考虑了单独使用一次的单个分类器（或评分函数）的情况。在这项工作中，我们开始研究的公平性的算法组成的系统，是公平的隔离，也就是说，我们研究公平下的组成。我们确定的陷阱天真的组成，并给出一般的公平组成的结构，证明了公平的分类器，孤立地不一定组成公平的系统，也似乎不公平的组件可能会仔细结合起来，构建公平的系统。我们主要关注[Dwork，Hardt，Pitassi，Reingold，Zemel，2011]中提出的个人公平设置，但也将我们的结果扩展到最近文献中流行的一大类群体公平定义，展示了几种情况，其中群体公平定义在组合下给出了误导性信号。
2018-11-20 cs.LG stat.ML
What is Fair? Exploring Pareto-Efficiency for Fairness Constrained Classifiers
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）；Google AI（谷歌人工智能）
学习模型放大现有社会偏见的潜力已得到广泛认可。公平感知分类器约束，它适用于在敏感属性（如种族和性别）上定义的子组之间的性能的平等度量，试图纠正不公平，但可能会产生不均匀的性能下降偏斜的数据集。在某些领域，不平衡的性能下降可能会产生另一种形式的无意偏见。本着构建公平意识算法作为社会当务之急的精神，我们探索了一种替代方案：帕累托有效公平（PEF）。从理论上讲，我们证明了PEF确定的帕累托曲线上的分组性能最接近的公平超平面，最大限度地提高多个子群的准确性的操作点。从经验上讲，我们证明，PEF优于实现帕累托水平的准确性相比，严格的公平性约束，在几个UCI数据集的所有子组。
2019-10-30 cs.LG stat.ML
Operationalizing Individual Fairness with Pairwise Fair Representations
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
我们重新审视Dwork等人提出的个人公平性的概念。在操作他们的方法的一个核心挑战是在引发人类规范的相似性度量的困难。在本文中，我们提出了一个可操作的个人公平性，不依赖于人类的距离度量规范。相反，我们提出了新的方法来引出和利用同样值得的个人的边信息，以对抗社会群体之间的从属关系。我们将这些知识建模为公平图，并学习数据的统一成对公平表示（PFR），该表示捕获个体之间的数据驱动相似性和公平图中的成对边信息。我们从各种来源得出公平性判断，包括对累犯预测（COMPAS）和暴力邻里预测（Crime & Communities）两个真实世界数据集的人类判断。我们的实验表明，PFR模型的个人公平操作是切实可行的。
2019-12-02 cs.LG stat.ML
Fair Mixup: Fairness via Interpolation
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；IBM Research AI（IBM研究院人工智能部门）
在公平性约束（如组公平性）下训练分类器，使组之间的预测差异规则化。然而，即使在训练过程中满足了约束条件，它们在评估时也可能无法推广。为了提高公平分类器的泛化能力，我们提出了公平混淆，一个新的数据增强策略施加公平约束。特别是，我们表明，公平性，可以通过正规化的模型之间的插值样本的路径。我们使用mixup，一个强大的数据增强策略来生成这些插值。我们分析了公平的混淆，并实证表明，它确保了更好的概括性的准确性和公平性的测量表，视觉和语言基准。
2021-03-11 cs.CY cs.LG stat.ML
Conformalized Fairness via Quantile Regression
University of Alberta（阿尔伯塔大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在社会敏感领域，公平性越来越受到关注。虽然已经建立了丰富的文献平均公平，分位数公平的研究仍然稀少，但至关重要。为了满足巨大的需求，并倡导分位数公平的意义，我们提出了一种新的框架来学习一个实值分位数函数的公平性要求下的人口奇偶性的敏感属性，如种族或性别，从而获得一个可靠的公平预测区间。使用最优传输和功能同步技术，我们建立了理论保证的分布免费覆盖和公平分位数构造的诱导预测区间的精确公平性。提供了一个动手流水线，以将灵活的分位数回归与有效的公平性调整后处理算法相结合。我们在几个基准数据集上证明了这种方法的优越经验性能。我们的研究结果表明，该模型能够揭示在广泛的社会和医疗应用中公平性-准确性权衡的机制。
2022-10-14 cs.CY cs.LG stat.ML
Fairness in Credit Scoring: Assessment, Implementation and Profit Implications
Humboldt University of Berlin（柏林洪堡大学）
算法决策的兴起催生了对公平机器学习（ML）的大量研究。金融机构使用ML来构建风险记分卡，以支持一系列与信贷相关的决策。然而，关于信用评分中公平ML的文献很少。本文有三个贡献。首先，我们重新审视统计公平标准，并检查其是否足以进行信用评分。其次，我们将算法选项分类，以便在ML模型开发管道中纳入公平目标。最后，我们实证比较不同的公平处理器在利润为导向的信用评分的背景下，使用真实世界的数据。实证结果证实了公平措施的评价，确定合适的选项，以实施公平的信用评分，并澄清在贷款决策的利润公平权衡。我们发现，多个公平性标准可以近似地同时满足，并建议分离作为衡量记分卡公平性的适当标准。我们还发现，公平的处理器可以在利润和公平性之间实现良好的平衡，并表明算法歧视可以以相对较低的成本降低到合理的水平。与论文对应的代码可以在GitHub上找到。
2022-06-17 cs.LG q-fin.RM stat.ML
How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Michigan State University（密歇根州立大学）
近年来，人们越来越关注深度学习的公平性。现有的公平性感知机器学习方法主要关注分布数据的公平性。然而，在实际应用中，训练数据和测试数据之间的分布偏移是常见的。在本文中，我们首先表明，现有的方法实现的公平性可以很容易地打破轻微的分布偏移。为了解决这个问题，我们提出了一种新的公平性学习方法，称为CUrvature匹配（CUrvature MAtching），它可以实现鲁棒的公平性推广到未知分布变化的未知域。具体来说，通过匹配两个群体的损失曲率分布，CNOAA强制模型在多数群体和少数群体上具有相似的泛化能力。我们在三个流行的公平数据集上评估我们的方法。与现有的方法相比，在不牺牲整体精度或分布内公平性的情况下，在不可见的分布偏移下，CRAMA实现了优异的公平性。
2022-07-04 cs.LG
Two Simple Ways to Learn Individual Fairness Metrics from Data
University of Michigan（密歇根大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）
个体公平是算法公平的直观定义，它解决了群体公平的一些缺点。尽管它有好处，但它取决于特定于任务的公平度量，该度量编码了我们对手头ML任务的公平和不公平的直觉，并且许多ML任务缺乏广泛接受的公平度量是更广泛采用个人公平性的主要障碍。在本文中，我们提出了两种简单的方法来从各种数据类型中学习公平的度量。我们的经验表明，公平的训练与学习的指标导致提高公平性的三个机器学习任务容易受到性别和种族偏见。我们还提供了理论保证这两种方法的统计性能。
2020-06-19 cs.LG stat.ME stat.ML
Can I Trust My Fairness Metric? Assessing Fairness with Unlabeled Data and Bayesian Inference
Department of Computer Science（计算机科学系）；Department of Cognitive Sciences University of California, Irvine（加州大学尔湾分校认知科学系）
我们调查的问题，可靠地评估组公平标记的例子很少，但未标记的例子很多。我们提出了一个通用的贝叶斯框架，可以用未标记的数据来增强标记的数据，以产生与仅基于标记数据的方法相比更准确且方差更低的估计。我们的方法估计未标记的例子在每个组中使用的分层潜变量模型标记的例子的条件下校准的分数。这反过来又允许推断后验分布与各种组公平性度量的不确定性的相关概念。我们证明，我们的方法导致显着和一致的减少估计误差在多个众所周知的公平数据集，敏感属性和预测模型。结果表明，使用未标记的数据和贝叶斯推断在评估预测模型是否公平方面的好处。
2020-10-19 cs.AI cs.LG stat.ML
Within-group fairness: A guidance for more sound between-group fairness
Samsung Electronics Co.（三星电子公司）；Konkuk University（建国大学）；Seoul National University（首尔国立大学）
由于人工智能算法对社会决策有着至关重要的影响，因此它们不仅应该准确，而且不应该对某些敏感群体（例如，非白人女性）。已经开发了各种专门设计的AI算法，以确保训练的AI模型在敏感群体之间是公平的。在本文中，我们提出了一个新的问题，即组间公平AI模型可能会不公平地对待同一敏感组中的个体。我们引入了一个新的公平性概念，即组内公平性，它要求AI模型对同一敏感组中的人以及不同敏感组中的人都是公平的。我们具体化组内公平的概念，提出相应的数学定义和开发学习算法，以控制组内公平和组间公平的同时。数值研究表明，所提出的学习算法提高组内的公平性，而不牺牲准确性以及组间的公平性。
2023-01-20 cs.CY cs.LG stat.AP
Doubly-Regressing Approach for Subgroup Fairness
Seoul National University（首尔国立大学）；SK Hynix Inc.（SK海力士公司）
本文提出DRAF算法，通过双重回归方法解决子组公平性问题，减少计算量并提升公平性度量。
2026-01-27 cs.LG stat.ME stat.ML
Beyond Parity: Fairness Objectives for Collaborative Filtering
Virginia Tech（弗吉尼亚理工大学）
我们研究了协同过滤推荐系统的公平性，该系统对历史数据中存在的歧视很敏感。有偏见的数据可能导致协作过滤方法对少数群体的用户做出不公平的预测。我们确定现有的公平性指标的不足，并提出了四个新的指标，解决不同形式的不公平。这些公平性度量可以通过向学习目标添加公平性项来优化。在合成数据和真实数据上的实验表明，我们的新指标可以更好地衡量公平性比基线，公平性目标有效地帮助减少不公平。
2017-11-30 cs.AI cs.IR cs.LG
Metric-Free Individual Fairness with Cooperative Contextual Bandits
George Mason University（乔治梅森大学）
数据采掘算法越来越多地用于日常生活中各行各业的自动决策。不幸的是，正如几项研究所报告的那样，这些算法注入了来自数据和环境的偏见，导致不公平和不公平的解决方案。为了减轻机器学习中的偏差，已经提出了公平性的不同形式化，其可以被分类为群体公平性和个体公平性。群体公平性要求不同的群体应该得到类似的对待，这可能对群体中的某些人不公平。另一方面，个体公平要求相似的个体受到相似的对待。然而，个人的公平性仍然研究不足，由于其依赖于特定问题的相似性度量。我们提出了一个无度量的个人公平性和合作上下文土匪（CCB）算法。CCB算法利用公平性作为奖励并试图最大化它。将公平性视为奖励的优点是公平性标准不需要是可微的。该算法在多个真实世界的基准数据集上进行了测试。结果表明，该算法在减轻偏见，实现个人和群体的公平性的有效性。
2020-11-13 cs.LG
Is It Still Fair? Investigating Gender Fairness in Cross-Corpus Speech Emotion Recognition
National Tsing Hua University（国立清华大学）
本文研究跨语料库语音情感识别中性别公平性的泛化问题，提出组合公平性适配机制以同时处理源和目标性别，从而在迁移学习任务中提升性别公平性。
2025-01-02 cs.LG
FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing
University of Michigan（密歇根大学）
图神经网络（GNN）已被证明在底层数据是图的预测建模任务中表现出色。然而，随着GNN在以人为中心的应用中的广泛使用，公平性问题已经出现。虽然边删除是一种用于促进GNN公平性的常用方法，但它没有考虑数据何时本质上缺少公平连接。在这项工作中，我们认为未探索的方法，边添加，伴随着删除，以促进公平。我们提出了两个模型无关的算法来执行边缘编辑：蛮力方法和连续近似方法，FairEdit。FairEdit通过利用公平性损失的梯度信息来找到提高公平性的边缘，从而执行有效的边缘编辑。我们发现，FairEdit在许多数据集和GNN方法上的表现优于标准训练，同时对许多最先进的方法进行了测试，证明了FairEdit在许多领域和模型中提高公平性的能力。
2022-02-16 cs.LG
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
准确性和个体公平性对于可信的机器学习都是至关重要的，但这两个方面往往是相互不兼容的，因此增强一个方面可能会不可避免地牺牲另一个方面，从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准，准确的公平性，个人的公平性与准确性。非正式地说，它要求个人和个人的类似对应方的待遇符合统一的目标，即，个人的基本事实我们证明，准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后，我们提出了一个暹罗公平处理方法，以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知，这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标，公平精度，公平召回，公平F1得分，量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明，我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%，真实公平率提高10.09%~ 20.57%，公平F1分提高5.43%~ 10.01%，最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后，应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视，平均公平地服务于比基线模型多112.33%的客户（具体地说，以精确公平的方式多81.29%的客户）。
2022-11-30 cs.CY cs.LG
Escaping the Impossibility of Fairness: From Formal to Substantive Algorithmic Fairness
University of Michigan（密歇根大学）
用算法促进公平的公共政策的努力似乎从根本上受到了“公平的不可能性”（公平的数学定义之间的不相容性）的限制。这种技术限制提出了一个关于算法公平性的核心问题：计算机科学家和政策制定者如何用算法支持公平的政策改革？在这篇文章中，我认为用算法促进正义需要改革算法公平性的方法论。首先，我诊断了当前算法公平性方法论的问题，我称之为“形式算法公平性”。因为形式上的算法公平性将分析限制在孤立的决策过程中，它导致了公平的不可能性和加剧压迫的模型，尽管看起来“公平”。第二，我从法律和哲学的实质平等理论出发，提出了一种替代方法论，我称之为“实质算法公平性”。“由于实质性的算法公平性需要更广泛的分析范围，它使人们能够摆脱不可能的公平，并为用算法减轻不公正提供了严格的指导。总之，实质性算法公平性为算法公平性提供了一个新的方向：远离“公平”决策的正式数学模型，转向对算法是否以及如何在实践中促进正义的实质性评估。
2023-02-26 cs.CY cs.LG
Correct-By-Construction: Certified Individual Fairness through Neural Network Training
Singapore Management University（新加坡国立管理学院）
本文提出一个构造即正确的个体公平性训练框架，通过可证明公平的初始化和基于随机化响应机制的公平保持训练算法，在无需训练期神经网络验证的情况下，形式化保证并高效地训练出既公平又准确的模型。
2025-08-21 cs.LG
FedShard: Federated Unlearning with Efficiency Fairness and Performance Fairness
针对联邦遗忘中客户端效率与性能公平性未被充分探索的问题，提出首个兼顾双公平性的FedShard算法，设计公平性评估指标，验证其公平性并缓解不公平风险，遗忘速度为从头重训练的1.3-6.2倍、最先进方法的4.9倍。
2025-11-11 cs.LG
Fairness in Reinforcement Learning
University of Pennsylvania（宾夕法尼亚大学）
我们开始研究强化学习中的公平性，其中学习算法的行为可能会影响其环境和未来的奖励。我们的公平性约束要求，如果选择后一个动作的长期（折扣）奖励更高，则算法永远不会偏好一个动作。第一个结果是否定的：尽管公平性与最优策略一致，但满足公平性的任何学习算法必须花费状态数量的时间指数，以实现对最优策略的非平凡近似。然后，我们提供了一个可证明公平的多项式时间算法下的近似公平的概念，从而建立一个指数差距之间的确切和近似公平
2017-08-06 cs.LG
The KL-Divergence between a Graph Model and its Fair I-Projection as a Fairness Regularizer
Ghent University（根特大学）
图上的学习和推理越来越多地借助于概率模型来完成，例如指数随机图模型、图嵌入模型和图神经网络。然而，当图表对人与人之间的关系进行建模时，它们将不可避免地反映出偏见、偏见和其他形式的不公平和不平等。因此，一个重要的挑战是设计准确的图建模方法，同时根据问题所需的特定公平性概念来保证公平性。然而，过去关于这个主题的工作仍然很少，仅限于消除特定的图建模方法，并且通常旨在以间接的方式确保公平性。我们提出了一个通用的方法适用于大多数概率图建模方法。具体来说，我们首先定义的类的公平图模型对应于一组选定的公平标准。考虑到这一点，我们提出了一个公平正则化定义为KL之间的发散图模型和它的I-投影到一组公平的模型。我们证明，使用这种公平性正则化与现有的图建模方法相结合，有效地权衡公平性与准确性，而最先进的模型只能使这种权衡的公平性标准，他们是专门设计的。
2021-06-27 cs.LG
fairret: a Framework for Differentiable Fairness Regularization Terms
Ghent University（根特大学）
针对现有公平性工具包定义有限且难与自动微分库集成的问题，本文提出可微公平性正则化项框架 fairret，支持线性分式统计量并提供 PyTorch 实现。
2024-04-10 cs.LG
A Tale of Fairness Revisited: Beyond Adversarial Learning for Deep Neural Network Fairness
Khoury College of Computer Sciences（胡里计算机学院）；Northeastern University（东北大学）
出于自动化和人工智能技术时代对公平算法决策的需求，本技术报告提供了对深度学习中公平性对抗训练的理论见解。我们建立在以前的对抗公平性工作的基础上，展示了公平预测和模型性能之间的持续权衡，并探索了有助于抵消这种权衡的进一步机制。
2021-01-08 cs.AI cs.LG
Minimax Group Fairness: Algorithms and Experiments
University of Pennsylvania（宾夕法尼亚大学）；Amazon AWS AI（亚马逊AWS人工智能部门）
我们考虑了最近引入的框架，其中公平性是衡量最坏情况下的结果，而不是组之间的结果更标准的差异。在这个框架中，我们提供了可证明收敛的预言机有效的学习算法（或等价地，减少非公平学习）的极大极小组公平性。这里的目标是最小化所有组的最大损失，而不是均衡组损失。我们的算法适用于回归和分类设置，并支持整体错误率和假阳性或假阴性率作为兴趣的公平性度量。他们还支持放宽公平性约束，从而允许研究的整体准确性和极小极大公平之间的权衡。我们比较了我们的算法在各种公平敏感的数据集的实验行为和性能，并显示经验的情况下，极大极小公平是严格的，强烈优选平等的结果概念。
2021-03-08 cs.LG
FairSelect: A Systematic Evaluation of Multi-Level and Intersectional Algorithmic Fairness
研究针对算法公平性方法多孤立单轴评估的局限，提出FairSelect工具包，支持多模型架构等评估。通过合成与真实临床数据集验证，发现公平干预相互作用方式复杂，该工具包能系统识别策略，兼顾临床机器学习中群体公平与模型性能。
2026-07-13 cs.LG
Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
On the Identification of Fair Auditors to Evaluate Recommender Systems based on a Novel Non-Comparative Fairness Notion
Missouri University of Science and Technology（密苏里科技大学）
决策支持系统是指在司法、房地产和银行等领域为人们的决策提供支持的信息系统。最近，人们发现这些支助系统在许多实际部署中具有歧视性。为了评估和减轻这些偏见，算法公平性文献已经使用比较正义的概念进行了培育，这主要依赖于比较社会中的两个或多个个体或群体，这些系统得到了支持。然而，这种公平的概念是不是很有用的，在确定公平的审计师谁聘请评估决策支持系统内的潜在偏见。作为解决方案，我们引入了一个范式转变的算法公平性通过提出一个新的公平性概念的基础上的原则，非比较正义。假设审计师根据决策支持系统的某些（可能未知的）期望属性进行公平性评估，则建议的公平性概念将系统的结果与审计师的期望结果进行比较。我们表明，建议的公平性概念也提供了保证，在比较公平的概念，证明任何系统可以被认为是公平的，从比较公平的角度来看（如个人公平性和统计平价），如果它是非相对公平的审计师谁被认为是公平的，就相同的公平性概念。我们还表明，反之亦然的情况下，个人公平。一个简短的讨论也提出了关于我们的公平概念可以用来识别公平和可靠的审计师，以及我们如何可以使用它们来量化决策支持系统中的偏见。
2020-09-09 cs.AI cs.CY cs.HC
Superhuman Fairness
University of Illinois Chicago（伊利诺伊大学芝加哥分校）
基于机器学习的决策的公平性已经成为监督机器学习方法设计中越来越重要的焦点。大多数公平性方法优化性能度量（例如，准确性、对数损失或AUC）和公平性度量（例如，人口均等，均等赔率）。这就引出了一个问题：是否指定了正确的性能-公平性权衡？相反，我们通过引入超人的公平性，将公平机器学习重新转换为一种模仿学习任务，这种公平性旨在同时在多个预测性能和公平性指标上超越人类决策。我们证明了这种方法的好处次优决策。
2023-01-31 cs.AI cs.LG
Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
National University of Singapore（新加坡国立大学）
受数据用于不同预测任务的场景的启发，我们研究了公平表示是否可以用于保证未知任务的公平性和同时用于多个公平概念。我们认为七组公平的概念，涵盖独立，分离和校准的概念。在公平不可能结果的背景下，我们探讨近似公平。我们证明，虽然公平表示可能无法保证所有预测任务的公平性，但它确实保证了一个重要的任务子集的公平性-表示是有区别的任务。具体而言，所有七个组公平性概念是线性控制的公平性和歧视性的表示。当不同的公平概念之间存在不相容时，公平和歧视性的表示达到了近似满足所有概念的最佳点。出于我们的理论研究结果，我们建议学习公平和歧视性的表示使用借口损失自我监督学习，和最大平均离散作为一个公平的正则化。在表格，图像和人脸数据集上的实验表明，使用学习的表示，我们在学习表示时不知道的下游预测确实对七个组公平性概念变得更公平，并且根据我们的理论结果计算的公平性保证都是有效的。
2022-02-20 cs.CV cs.CY cs.LG
Counterfactual Fairness Is Basically Demographic Parity
New York University（纽约大学）
做出公平的决策对于在社交环境中道德地实施机器学习算法至关重要。在这项工作中，我们考虑了反事实公平的著名定义[Kusner et al.，NeurIPS，2017]。我们首先证明，一个算法，满足反事实的公平性也满足人口均等，一个更简单的公平性约束。同样，我们表明，所有的算法满足人口均等可以平凡地修改，以满足反事实的公平性。总之，我们的研究结果表明，反事实公平基本上等同于人口统计学上的平等，这对反事实公平越来越多的工作具有重要意义。然后，我们验证我们的理论研究结果经验，分析三个现有的算法对三个简单的基准反事实的公平。我们发现，两个简单的基准算法优于所有三个现有的算法-在公平性，准确性和效率方面-在几个数据集。我们的分析使我们正式确定了一个具体的公平目标：维护受保护群体中个人的秩序。我们认为，受保护组中个体排序的透明度使公平算法更值得信赖。通过设计，这两个简单的基准算法满足这一目标，而现有的反事实公平算法不。
2023-03-03 cs.CY cs.LG
50 Years of Test (Un)fairness: Lessons for Machine Learning
Google（谷歌）
关于什么是不公平和什么是公平的定量定义已经在多个学科中引入了50多年，包括教育，招聘和机器学习。我们追溯了在过去的半个世纪里，公平的概念是如何在教育和招聘的测试社区中被定义的，探索了不同公平定义出现的文化和社会背景。在某些情况下，公平性的早期定义与当前机器学习研究中的公平性定义相似或相同，并预示着当前的正式工作。在其他情况下，对公平意味着什么以及如何衡量公平的见解在很大程度上被忽视了。我们从几个方面比较了过去和现在的公平概念，包括公平标准、标准的重点（例如，测试、模型或其使用），公平性与个人、组和子组的关系，以及用于测量公平性的数学方法（例如，分类，回归）。这项工作指出了未来研究和测量（不）公平的方式，建立在我们对公平的现代理解的基础上，同时结合了过去的见解。
2018-12-03 cs.AI cs.LG
Fairness Evaluation in Text Classification: Machine Learning Practitioner Perspectives of Individual and Group Fairness
IBM Research（IBM研究院）；Massachusetts Institute of Technology（麻省理工学院）
减轻算法偏见是机器学习模型开发和部署中的一项关键任务。虽然有几个工具包可以帮助机器学习从业者解决公平性问题，但人们对从业者用来评估模型公平性的策略以及影响其评估的因素知之甚少，特别是在文本分类的背景下。评价模型公平性的两种常用方法是群体公平性和个体公平性。我们与机器学习从业者（n=24）进行了一项研究，以了解用于评估模型的策略。向从业者提出的问题（群体与个人公平性）影响他们认为公平的模型。与会者重点关注与低估/高估相关的风险以及与身份令牌操作相关的模型敏感性。我们发现公平性评估策略涉及个人经验或用户如何形成身份令牌组来测试模型的公平性。我们提供了交互式工具的建议，用于评估文本分类的公平性。
2023-03-01 cs.CY cs.HC cs.LG
Obtaining Dyadic Fairness by Optimal Transport
East China Normal University（华东师范大学）
公平性是机器学习模型中的一个重要指标，也是可信机器学习的重要组成部分。在本文中，我们专注于获得流行的链接预测任务，这是衡量二元公平的公平性。基于最优传输理论，提出了一种新的预处理方法，通过数据修复来建立并元公平性。基于图链接预测的二元公平性与条件分布对齐问题之间的理论联系，二元修复方案可以等价地转化为条件分布对齐问题。在此基础上，通过有效地解决对齐问题，得到了一种基于传输的最优二元公平算法DyadicOT，该算法满足灵活性和无二义性的要求。所提出的DyadicOT算法在两个基准图数据集上显示出优于其他公平性方法的结果。
2022-11-29 cs.AI cs.LG
Error Parity Fairness: Testing for Group Fairness in Regression Tasks
University of Houston（休斯顿大学）
人工智能（AI）的应用围绕着人类生活越来越多方面的决策。社会的反应是对这种自动决策系统（ADS）的责任施加法律和社会期望。公平性是人工智能问责制的基本组成部分，涉及对个人和敏感群体的公正对待（例如，基于性别、种族）。虽然许多研究集中在公平学习和公平测试的分类任务，文献是相当有限的，如何检查回归任务的公平性。这项工作提出了误差奇偶性作为回归公平的概念，并介绍了一种测试方法来评估组公平性的基础上的统计假设检验程序。错误奇偶检验检查预测错误是否在敏感组中类似地分布，以确定ADS是否公平。然后是一个适当的排列测试，比较几个统计组，以探索差异和确定受影响的群体。通过对美国县级COVID-19预测的案例研究，证明了所提出的方法的有用性和适用性，该研究揭示了基于种族的预测误差差异。总体而言，所提出的回归公平性测试方法填补了公平机器学习文献中的空白，并可作为更大的问责制评估和算法审计的一部分。
2022-08-16 cs.CY cs.LG
Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Virginia Tech（弗吉尼亚理工大学）；ADA University（阿塞拜疆ADA大学）；University of Potsdam（波茨坦大学）；University of Passau（帕绍大学）
研究公平性增强算法在亚群体层面如何影响隐私风险，通过调整似然比攻击进行审计，分析差分隐私与公平性方法交互，发现公平性干预对隐私风险影响因多种因素而异，引入统一实证框架支持相关审计。
2026-07-17 cs.AI cs.LG
Transferring Fairness using Multi-Task Learning with Limited Demographic Information
Johns Hopkins University（约翰斯·霍普金斯大学）
针对目标任务缺少人口统计标注的问题，本文提出多任务公平性损失，借助相关任务标签迁移公平性，并验证其可跨数据集实现交叉公平性。
2024-04-15 cs.CY cs.LG
FairRARI: A Plug and Play Framework for Fairness-Aware PageRank
Department of Electrical Engineering (ESAT-STADIUS), KU Leuven（KU莱顿电气工程系）
FairRARI通过统一的凸优化框架在保持公平性的同时提升页面排名的效率。
2026-10-01 cs.LG cs.SI
To be Robust and to be Fair: Aligning Fairness with Robustness
Purdue University（普渡大学）
本文研究了对抗训练与攻击中公平性与准确率的关系，提出统一公平性攻击结构并证明其与准确率攻击的对齐性，实验表明该方法能同时提升两种指标的鲁棒性。
2023-03-31 cs.AI cs.LG
FETA: Fairness Enforced Verifying, Training, and Predicting Algorithms for Neural Networks
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；HEC Montréal（蒙特利尔高等商学院）
由神经网络驱动的决策在直接影响人们生活质量的应用中已经变得非常突出。本文研究了神经网络模型的检验、训练和保证个体公平性的问题。一个流行的方法是强制公平的公平概念转化为约束模型的参数。然而，这样的转换并不总是保证训练的神经网络模型的公平预测。为了解决这一挑战，我们开发了一个反例引导的后处理技术，可证明在预测时间执行公平性约束。与只在测试或训练数据周围的点上执行公平性的先前工作相反，我们能够在输入域中的所有点上执行和保证公平性。此外，我们提出了一种在处理技术，使用公平作为一个归纳偏见，通过迭代地将公平反例在学习过程中。我们已经在一个名为FETA的工具中实现了这些技术。对真实世界数据集的经验评估表明，FETA不仅能够在预测时保证公平性，而且还能够训练表现出更高程度的个体公平性的准确模型。
2023-01-30 cs.CY cs.LG
Understanding Fairness Surrogate Functions in Algorithmic Fairness
Hong Kong Baptist University（香港浸会大学）
本文揭示人口统计奇偶公平定义与其代理函数之间的代理-公平差距及大间隔点导致的不稳定，提出通用 sigmoid 代理和 Balanced Surrogate 算法，在保持准确率的同时提升公平性与稳定性。
2024-04-09 cs.AI cs.LG
A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization
Feedzai（飞载）；Universidade do Porto（波尔图大学）
相当多的研究工作已被引导到算法公平性，但仍然没有重大突破。在实践中，需要对所有可能的技术和超参数进行详尽的搜索，以找到最佳的公平性-准确性权衡。因此，再加上ML从业者缺乏工具，减少偏差方法的实际应用仍然很少。为了解决这个问题，我们提出了Fairband，一个基于带宽的公平感知超参数优化（HO）算法。Fairband在概念上简单，资源有效，易于实现，并且对目标指标，模型类型和正在探索的超参数空间都不可知。此外，通过将公平概念引入HO，我们可以将公平目标无缝有效地集成到现实世界的ML管道中。我们比较Fairband与流行的HO方法在四个现实世界的决策数据集。我们表明，Fairband可以有效地导航的公平性和准确性的权衡，通过超参数优化。此外，在没有额外的训练成本的情况下，它始终发现在预测准确性的相对较小的降低下实现大幅提高的公平性的配置。
2020-10-22 cs.AI cs.LG
Models and Mechanisms for Spatial Data Fairness
University of Southern California（南加州大学）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）
数据驱动的决策研究中的公平性：来自某些人口群体的个人在被考虑申请贷款或工作、获得公共资源或其他类型的服务时可能受到不公平对待。在基于位置的应用程序中，决策是基于个人的行踪，这往往与种族，收入和教育等敏感属性相关。虽然公平性最近受到了极大的关注，例如，在机器学习中，很少关注在处理位置数据时实现公平性。由于其特性和特定类型的处理算法，位置数据提出了重要的公平性挑战。我们引入空间数据公平性的概念来解决位置数据和空间查询的特定挑战。我们设计了一种新的积木，以实现公平多项式的形式公平。接下来，我们提出了两种机制，基于公平多项式，实现个人的空间公平性，对应于两种常见的基于位置的决策类型：基于距离和基于区域。大量的实验结果表明，所提出的机制实现了空间公平性，而不牺牲效用。
2022-10-17 cs.DB cs.LG
Cooperative Multi-Agent Fairness and Equivariant Policies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
我们通过合作多智能体学习的镜头来研究公平性。我们的工作是由经验证据，天真的团队奖励最大化产生不公平的结果，为个别团队成员的动机。为了解决多智能体环境中的公平性问题，我们引入了团队公平性，这是一种基于组的多智能体学习公平性度量。然后，我们证明了它是可能的，以加强团队的公平性，在政策优化过程中，通过将团队的联合政策转化为一个等变映射。我们将我们的多智能体学习策略称为通过等方差的公平性（Fair-E），并以经验证明其有效性。然后，我们引入公平通过等变正则化（公平ER）作为公平E的软约束版本，并表明它达到更高水平的效用比公平E和公平的结果比非等变政策。最后，我们提出了新的发现，在多代理设置的公平性效用权衡，显示权衡的幅度是依赖于代理的技能。
2022-01-19 cs.AI cs.LG cs.MA
Data Management for Causal Algorithmic Fairness
University of Washington（华盛顿大学）
公平性越来越被认为是机器学习系统的关键组成部分。然而，正是这些系统所训练的基础数据往往反映出歧视，这表明存在数据管理问题。在本文中，我们首先区分了文献中关于公平的联想和因果定义，并认为公平的概念需要因果推理。然后，我们审查现有的工作，并确定未来的机会，应用数据管理技术的因果算法公平性。
2019-10-01 cs.DB cs.LG
Achieving Fairness at No Utility Cost via Data Reweighing with Influence
Brandeis University（布兰迪斯大学）
随着算法治理的快速发展，公平性已经成为机器学习模型抑制无意歧视的一个强制属性。在本文中，我们专注于预处理方面，以实现公平性，并提出了一种数据重新加权的方法，只调整样本的权重在训练阶段。不同于大多数以前的重新加权方法，通常分配一个统一的权重为每个（子）组，我们颗粒模型的影响，每个训练样本的公平性相关的数量和预测效用，并计算个人的权重的基础上的影响下的约束，从公平性和效用。实验结果表明，以前的方法实现了公平的效用不可忽略的成本，而作为一个显着的优势，我们的方法可以凭经验释放的权衡，并获得公平的机会均等的成本。与多个真实世界表格数据集上的基线方法相比，我们通过香草分类器和标准训练过程证明了无成本的公平性。代码可在https://github.com/brandeis-machine-learning/influence-fairness获得。
2022-06-17 cs.CY cs.LG
End-to-End Fairness Optimization with Fair Decision-Focused Learning
School of Business Stevens Institute of Technology（史蒂文斯理工学院商学院）
该研究提出端到端公平性优化框架及公平决策聚焦学习范式，结合多任务学习处理预测与决策阶段的公平性问题，通过数值实验验证其在资源分配场景的有效性。
2026-08-11 cs.LG math.OC
Recovering Fairness Directly from Modularity: a New Way for Fair Community Partitioning
School of Mathematics and Statistics（数学与统计学学院）；Xidian University（西安电子科技大学）；City Faculty of Data Science（数据科学城市学院）；University of Macau（澳门大学）；College of Mathematical Medicine（数学医学学院）；Zhejiang Normal University（浙江师范大学）
针对传统模块度社区划分忽视公平性的问题，提出公平-模块度指标与FairFN算法，在保持划分质量的同时显著提升公平性，尤其适用于不平衡数据集。
2025-05-27 cs.LG cs.SI
