Algorithmic Fairness
Tel-Aviv University（特拉维夫大学）
越来越多的关于人类日常生活的决策正在由人工智能（AI）算法控制，从医疗保健，交通和教育到大学招生，招聘，提供贷款等领域。由于它们现在涉及我们生活的许多方面，因此开发不仅准确而且客观公正的人工智能算法至关重要。最近的研究表明，算法决策可能是固有的倾向于不公平的，即使是没有intention.This本文提出了一个概述的主要概念，识别，测量和改善算法公平性时，使用AI算法。本文首先讨论了算法偏见和不公平的原因，以及公平性的常用定义和度量。然后，公平性增强机制进行了审查，并分为预处理，过程中和后处理机制。然后对这些机制进行全面比较，以便更好地了解在不同情况下应使用哪些机制。然后，本文介绍了最常用的公平性相关的数据集在这一领域。最后，本文通过回顾几个新兴的研究子领域的算法公平性结束。
2020-01-21 cs.AI cs.CY cs.LG
On the Identification of Fair Auditors to Evaluate Recommender Systems based on a Novel Non-Comparative Fairness Notion
Missouri University of Science and Technology（密苏里科技大学）
决策支持系统是指在司法、房地产和银行等领域为人们的决策提供支持的信息系统。最近，人们发现这些支助系统在许多实际部署中具有歧视性。为了评估和减轻这些偏见，算法公平性文献已经使用比较正义的概念进行了培育，这主要依赖于比较社会中的两个或多个个体或群体，这些系统得到了支持。然而，这种公平的概念是不是很有用的，在确定公平的审计师谁聘请评估决策支持系统内的潜在偏见。作为解决方案，我们引入了一个范式转变的算法公平性通过提出一个新的公平性概念的基础上的原则，非比较正义。假设审计师根据决策支持系统的某些（可能未知的）期望属性进行公平性评估，则建议的公平性概念将系统的结果与审计师的期望结果进行比较。我们表明，建议的公平性概念也提供了保证，在比较公平的概念，证明任何系统可以被认为是公平的，从比较公平的角度来看（如个人公平性和统计平价），如果它是非相对公平的审计师谁被认为是公平的，就相同的公平性概念。我们还表明，反之亦然的情况下，个人公平。一个简短的讨论也提出了关于我们的公平概念可以用来识别公平和可靠的审计师，以及我们如何可以使用它们来量化决策支持系统中的偏见。
2020-09-09 cs.AI cs.CY cs.HC
Fairness in Risk Assessment Instruments: Post-Processing to Achieve Counterfactual Equalized Odds
在刑事司法、医学和社会福利等领域，决策者越来越多地使用算法风险评估工具（RAI）。RAIs评估不良后果的风险，如累犯或忽视儿童，可能为高风险的决定提供信息，如是否保释被告或启动儿童福利调查。重要的是要确保RAIs是公平的，以便公平地分配这些决定的利益和危害。最广泛使用的算法公平性标准是针对可观察的结果制定的，例如一个人是否真的再犯，但这些标准在应用于RAI时具有误导性。由于RAIs旨在为可以降低风险的干预措施提供信息，因此预测本身会影响下游结果。最近的工作认为，区域审计机构的公平标准应该利用潜在的结果，即在没有适当干预的情况下会发生的结果。然而，目前还不存在满足这种公平标准的方法。在本文中，我们针对这样一个标准，反事实均衡赔率。我们开发了一个后处理的预测，估计通过双鲁棒估计，扩展和适应以前的后处理方法的反事实设置。我们还提供了双鲁棒估计的风险和公平性的任意固定后处理的预测。我们的预测收敛到一个最佳的公平的预测在快速的速度。我们说明了我们的方法的属性，并表明它表现良好的模拟和真实数据。
2021-08-07 stat.ME
InfoFair: Information-Theoretic Intersectional Fairness
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）；University of Arkansas（阿肯色大学）
算法公平性在数据采掘和机器学习中变得越来越重要。其中，一个基本的符号是群体公平。除了少数例外，绝大多数现有的关于群体公平性的工作主要集中在关于单个敏感属性的去偏置上，尽管事实上多个敏感属性（例如，性别、种族、婚姻状况等）在现实世界中是司空见惯的。因此，需要制定方法，确保同时在所有令人关切的敏感属性方面取得公平的学习成果。在本文中，我们研究的问题，信息理论的交叉公平性（InfoFair），其中统计奇偶性，一个代表性的组公平性措施，是保证人口群体之间形成的多个敏感属性的利益。我们将其描述为一个互信息最小化问题，并提出了一个通用的端到端算法框架来解决这个问题，其核心思想是利用互信息的变分表示，该变分表示考虑了学习结果和敏感属性之间的变分分布，以及变分分布和原始分布之间的密度比。我们提出的框架可以推广到许多不同的设置，包括其他统计公平概念，并可以处理任何类型的学习任务配备了基于梯度的优化器。在三个真实世界的数据集上的公平分类任务的实证评估表明，我们提出的框架可以有效地去偏的分类结果与分类精度的影响最小。
2023-01-01 cs.IT cs.LG math.IT
Algorithmic Fairness and Statistical Discrimination
数学公平性是一个新的跨学科研究领域，专注于如何衡量一个过程或算法是否可能无意中产生不公平的结果，以及是否或如何减轻这些过程的潜在不公平。统计歧视描述了一组信息问题，可以引起理性的（即，贝叶斯）决策，导致不公平的结果，即使在没有歧视的意图。在这篇文章中，我们提供了这两个相关文献的概述，并得出它们之间的联系。这一比较既说明了合理性与公平性之间的冲突，也说明了包容性的重要性（例如，“理性预期”和“自我实现的预言”）在定义和追求公平。采取一致行动，我们认为，这两个传统建议考虑新的公平概念，明确说明如何的算法打算测量的个人特征可能会改变响应算法的价值。
2022-08-17 econ.TH stat.AP
Fairness Explainability using Optimal Transport with Applications in Image Classification
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Université de Montréal（蒙特利尔大学）
本文提出一种基于最优传输理论的综合方法，利用Wasserstein重心实现公平预测并定位偏见相关区域，从而在图像分类中解释模型偏见的成因并衡量各特征对偏见的影响。
2023-10-31 cs.CV cs.LG stat.AP
Double Fairness Policy Learning: Integrating Action Fairness and Outcome Fairness in Decision-making
Department of Statistics（统计系）；Florida State University（佛罗里达州立大学）；Department of Management Science（管理科学系）；University of Miami（迈阿密大学）；London School of Economics and Political Science（伦敦政治经济学院）；Department of Decision Sciences（决策科学系）；George Washington University（乔治华盛顿大学）
本文提出双公平性学习框架，通过整合行动公平与结果公平，提升决策中的公平性并最小化价值损失。
2026-02-09 cs.LG stat.ML
Preference-Informed Fairness
Stanford University（斯坦福大学）；University of Southern California（南加州大学）；Weizmann Institute of Science（魏茨曼科学研究所）
我们研究决策系统中的公平概念，当个人对决策的可能结果有不同的偏好时。我们的出发点是Dwork等人的开创性工作，其中引入了个体公平性（IF）的概念：给定特定任务的相似性度量，根据该度量具有相似资格的每对个体都应该获得相似的结果。我们表明，当个人对结果有不同的偏好时，要求IF可能会无意中导致IF旨在保护的个人不太喜欢的结果。一个自然的替代IF是公平分配的经典概念，无嫉妒（EF）：没有人应该喜欢另一个人的结果超过自己的。虽然EF允许所有个体都获得高度偏好的结果的解决方案，但EF也可能过度限制。例如，如果许多人都同意最佳结果，那么如果任何一个人接受了这个结果，他们都必须接受它，而不管每个人对结果的潜在资格。我们引入并研究了一个新的概念，偏好知情的个人公平（PIIF），这是一个放松的个人公平和嫉妒自由。在高层次上，PIIF要求结果满足IF式约束，但允许偏差，只要它们符合个人的偏好。我们表明，PIIF可以允许的结果是更有利于个人比任何IF解决方案，同时提供了更多的灵活性，决策者比EF。此外，我们展示了如何有效地优化任何凸目标的结果受到PIIF丰富的个人偏好。最后，我们证明了广泛的适用性的PIIF框架，通过扩展我们的定义和算法，多任务有针对性的广告设置Dwork和Ilvento介绍。
2019-09-10 cs.CY cs.DS cs.LG
FADE: FAir Double Ensemble Learning for Observable and Counterfactual Outcomes
Carnegie Mellon University（卡内基梅隆大学）；J. P. Morgan AI Research（摩根大通人工智能研究院）
建立公平预测的方法通常涉及公平性和准确性之间以及不同公平性标准之间的权衡，但这些权衡的性质各不相同。最近的工作旨在描述这些权衡在特定的问题设置，但这些方法往往不适应用户谁希望提高现有的基准模型的公平性，而不牺牲准确性，反之亦然。这些结果通常也限于可观察的准确性和公平性标准。我们开发了一个灵活的公平集成学习框架，允许用户有效地探索公平性-准确性空间或提高基准模型的公平性或准确性。我们的框架可以同时针对多个可观察或反事实的公平标准，它使用户能够结合大量以前训练和新训练的预测。我们提供理论保证，我们的估计收敛速度快。我们将我们的方法应用于模拟和真实数据，以及可观察和反事实的准确性和公平性标准。我们发现，令人惊讶的是，多个不公平的措施，有时可以同时最小化，对准确性的影响很小，相对于无约束的预测或现有的基准模型。
2021-09-01 cs.LG stat.ML
Evaluation Metrics as Averaged Outcomes of Fair Gambles
University of Tübingen and Tübingen AI Center（图宾根大学和图宾根人工智能研究中心）
通过博弈论概率框架，证明大多数评估指标可视为公平赌博的平均结果，并揭示校准型与遗憾型指标的理论等价性及分数不可比性。
2026-06-24 cs.LG stat.ML
Comparing Fairness Criteria Based on Social Outcome
The University of Tokyo（东京大学）；Santa Fe Institute（圣塔菲研究所）
算法决策过程中的公平性正引起越来越多的关注。当一个算法被应用于与人类相关的决策时，一个仅仅优化其预测能力的估计器可以在现有数据上学习偏差，这激发了我们在机器学习中的公平性概念。虽然文献中研究了几种不同的概念，但很少研究这些概念如何影响个人。我们证明了这样的比较引起的几个政策的公知的公平标准，包括色盲（CB），人口平价（DP），和均衡的赔率（EO）。我们表明，EO是唯一的标准，其中消除组水平的差距。对这些政策的社会福利和差距进行了实证研究。
2018-06-13 cs.AI cs.LG stat.ML
Simulating Eutopia: Revisiting Long-term Fairness with Outcomes, Performativity, and Dynamics
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）；Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
研究人工智能驱动决策制定者在信贷借贷财富过程中的长期公平性，通过形式化财富动态为能动性马尔可夫决策过程，开发Eutopia模拟器学习公平策略，测试不同算法，结果显示考虑能动性动态及公平感知效用学习效果更佳。
2026-09-29 cs.AI cs.CY cs.LG
Fairness Through Causal Awareness: Learning Latent-Variable Models for Biased Data
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
我们如何从有偏见的数据中学习？历史数据集通常反映了历史偏见;敏感或受保护的属性可能会影响观察到的治疗和结果。负责从这些数据集准确预测结果的分类算法往往会复制这些偏差。我们提倡一种因果建模方法来从有偏见的数据中学习，探索公平分类和干预之间的关系。我们提出了一个因果模型，其中敏感属性混淆治疗和结果。基于之前在深度学习和生成建模方面的工作，我们描述了如何仅从观察数据中学习这个因果模型的参数，即使存在未观察到的混杂因素。我们的实验表明，公平意识的因果模型提供了更好的估计之间的因果关系的敏感属性，治疗和结果。我们进一步提出的证据表明，估计这些因果效应可以帮助学习更准确和公平的政策，当与历史上有偏见的数据集。
2018-12-03 cs.LG stat.ML
Fair Machine Learning Under Partial Compliance
Brown University（布朗大学）；Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）
通常，公平的机器学习研究关注单个决策者，并假设底层群体是固定的。然而，激励这项工作的许多关键领域的特点是有许多决策者的竞争性市场。现实地说，我们可能认为只有一小部分国家会采取任何非强制性的公平意识政策，政治哲学家称这种情况为部分服从。这种可能性提出了一些重要的问题：决策主体的策略行为如何在部分服从设置影响分配结果？如果k %的雇主自愿采取促进公平的干预措施，我们应该期待k %的进步（总体上）走向普遍采用的好处，还是部分遵守的动态会冲走所希望的好处？采用全球（相对于本地）视角如何影响审计师的结论？在本文中，我们提出了一个简单的就业市场模型，利用模拟作为一种工具，探索相互作用效应和激励效应对结果和审计指标的影响。我们的主要发现是，在平衡：（1）部分遵守（k %的雇主）在实现完全合规结果方面的进展可能远远低于比例（k %）;（2）当公平的雇主与全球雇主相匹配时，差距更为严重（与地方）统计;（3）选择本地与全球统计数据可以描绘出与合规与非合规的公平需求相比截然不同的绩效画面。顺从的雇主;（4）部分遵守当地的平等措施会导致极端隔离。
2022-09-27 cs.CY cs.LG stat.ML
Causal Fairness for Outcome Control
Columbia University（哥伦比亚大学）
本文针对结果控制任务，从因果视角定义收益与收益公平，并进一步提出因果收益公平及优化算法，以在最大化结果$Y$时消除受保护属性导致的歧视。
2023-06-08 cs.AI cs.LG stat.ML
Identifying Best Fair Intervention
University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
研究了在给定的因果模型中，具有公平性约束的最佳臂识别问题。我们的目标是在一个给定的节点上找到一个软干预，以最大限度地提高结果，同时满足公平性约束，通过反事实估计，只有部分知识的因果模型。这个问题的动机是确保在线市场的公平性。我们提供理论保证的错误概率和经验检验我们的算法的有效性与两阶段的基线。
2021-11-08 cs.CY cs.LG stat.ML
From Parity to Preference-based Notions of Fairness in Classification
MPI-SWS（马克斯·普朗克软件系统研究所）；MPI-IS（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
在不断扩大的应用程序中采用自动化，数据驱动的决策已经引起了人们对其对某些社会群体的潜在不公平的担忧。在这种情况下，最近的一些研究集中在定义，检测和消除数据驱动的决策系统中的不公平。然而，现有的公平概念，基于不同社会群体的待遇或结果的均等（平等），往往是相当严格的，限制了整体决策的准确性。在本文中，我们从经济学和博弈论中的公平分工和无嫉妒文献中汲取灵感，并提出了基于偏好的公平概念--在各种决策处理或结果之间进行选择，任何一组用户都会集体偏好其处理或结果，而不管与其他组相比的（差异）平价。然后，我们引入易处理的代理设计的边缘为基础的分类器，满足这些基于偏好的公平性的概念。最后，我们用各种合成和真实世界的数据集进行实验，并表明基于偏好的公平性比基于奇偶校验的公平性允许更高的决策准确性。
2017-11-28 cs.LG stat.ML
Fair Classification with Partial Feedback: An Exploration-Based Data Collection Approach
Duke University（杜克大学）；Yale University（耶鲁大学）
提出一种基于探索的数据收集方法，通过探索策略收集被忽略子群体的结果数据，保证子群体覆盖、限制假阳性并收敛至理想分类器，在提升各群体真阳性比例的同时仅微小降低预测效用。
2024-06-01 cs.AI cs.CY cs.LG
Fair Generalized Linear Models with a Convex Penalty
NYU Grossman School of Medicine（纽约大学格罗斯曼医学院）；University of California, Irvine（加州大学欧文分校）
尽管最近在算法公平性方面取得了进展，但尽管广义线性模型（GLM）在实践中被广泛使用，但用于实现公平性的方法学仍有待于一般地探索。在本文中，我们介绍了两个公平性准则的GLM均衡的期望结果或对数似然的基础上。我们证明，GLM这两个标准可以通过一个凸罚项的基础上的线性组件的GLM，从而允许有效的优化。我们还推导出公平的GLM估计的理论性质。为了从经验上证明所提出的公平GLM的有效性，我们将其与其他知名的公平预测方法在一组广泛的二进制分类和回归基准数据集上进行比较。此外，我们证明了公平的GLM可以产生一系列的响应变量，而不是二进制和连续的结果公平的预测。
2022-06-18 cs.LG stat.ME stat.ML
Demographic-Agnostic Fairness without Harm
针对基于偏好的公平性依赖已知人口统计信息的问题，提出DAFH算法，联合学习群体分类器与解耦分类器，并通过理论分析和合成及真实数据实验验证其效果。
2025-09-28 cs.LG stat.ML
On Consequentialism and Fairness
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
最近关于机器学习公平性的研究主要强调如何定义、量化和鼓励“公平”的结果。然而，对这些努力所依据的道德基础却关注较少。应该考虑的伦理观点之一是结果主义，粗略地说，结果才是最重要的。尽管结果主义并非没有困难，尽管它不一定提供一种选择行动的易处理的方法（因为不确定性、主观性和聚合的综合问题），但它仍然提供了一个强大的基础，可以用来批评现有的关于机器学习公平性的文献。此外，它还突出了一些涉及的权衡，包括谁重要的问题，使用政策的利弊，以及遥远未来的相对价值。在本文中，我们提供了一个结果主义的公平性的共同定义内的机器学习的批评，以及一个机器学习的结果主义的观点。最后，我们更广泛地讨论了学习和随机化的问题，这对自动化决策系统的道德有重要的影响。
2020-05-11 cs.AI cs.CY cs.LG
Avoiding Resentment Via Monotonic Fairness
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
通过明确使用受保护的属性（如种族或性别）来实现人口平衡的分类器通常在政治或文化上存在争议，因为它们缺乏个体公平性，即具有相似资格的个人将获得不同的结果。个体和群体公平决策标准可能产生反直觉的结果，例如，由于类似候选人中的人口统计不平衡，最佳约束边界可能会拒绝直观上更好的候选人。这两种方法都可以被视为引入了个人怨恨，其中一些人如果属于不同的人口阶层并具有相同的资格，或者如果他们留在同一个阶层但客观上具有更差的资格（例如较低的考试成绩），则会得到更好的结果。我们表明，这两种形式的怨恨可以避免使用单调约束的机器学习模型，以创建单独的公平，人口平衡的分类。
2019-09-03 cs.AI cs.LG stat.ML
Controllable Guarantees for Fair Outcomes via Contrastive Information Estimation
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of Southern California（南加州大学）
控制训练数据集中的偏差对于确保下游应用中不同群体之间的平等待遇或平等至关重要。一个简单的解决方案是转换数据，使其在统计上独立于组成员关系，但当需要在公平性和准确性之间进行合理的折衷时，这可能会丢弃太多的信息。另一种常见的方法是限制寻求最大化对等的特定对手的能力。不幸的是，对抗性方法产生的表示可能仍然存在偏见，因为它们的有效性与训练过程中使用的对手的复杂性有关。为此，我们从理论上建立，通过限制表示和保护属性之间的互信息，我们可以确保控制任何下游分类器的奇偶校验。我们证明了一种有效的方法，通过互信息的基础上对比信息估计控制奇偶校验，并表明它们优于依赖于变分边界的方法，基于复杂的生成模型。我们在UCI Adult和Heritage Health数据集上测试了我们的方法，并证明我们的方法在一系列所需的奇偶校验阈值上提供了更多信息，同时为任何下游算法的奇偶校验提供了强有力的理论保证。
2021-06-03 cs.LG stat.ML
Fair Classification and Social Welfare
既然机器学习算法处于许多资源分配管道的中心，计算机科学家已经不知不觉地被塑造成部分社会规划者。鉴于这种情况，重要的问题随之而来。计算机科学家定义的公平与社会福利概念之间有什么关系？在本文中，我们提出了一个基于福利的分类和公平制度的分析。我们将损失最小化程序转化为一个社会福利最大化问题，其中包含一组个人和群体的隐含福利权重--这些权重可以从分配正义的角度进行分析。在相反的方向上，我们问一个给定的数据集和假设类的可能标签的空间是什么。我们提供了一个算法，回答这个问题，相对于线性超平面在$\mathbb{R}^d$，运行在$O(n^dd)$。我们对公平标准和福利之间关系的主要发现集中在公平约束的经验风险最小化方案的敏感性分析上。我们描述了$Δε$扰动对公平参数$ε$的范围，这些参数对个人以及扩展到群体的效用产生更好、更差和中性的结果。我们表明，应用更严格的公平标准，被编纂为平等的约束，可以恶化两组的福利结果。更一般地说，总是倾向于“更公平”的分类不遵守帕累托原则-社会选择理论和福利经济学的基本公理。机器学习领域最近的工作围绕着这些公平的概念展开，这些概念对于确保算法系统不会对弱势社会群体产生不同的负面影响至关重要。通过表明这些限制往往不能转化为改善这些群体的结果，我们对它们作为确保正义的手段的有效性表示怀疑。
2019-05-01 cs.AI cs.LG stat.ML
Auditing Fairness under Unobserved Confounding
Carnegie Mellon University（卡内基梅隆大学）
针对未观测混杂下难以审计决策系统公平性的问题，本文利用分配前数据推导无偏风险估计，计算高风险个体治疗率边界，并通过Paxlovid分配研究验证框架，证明观测到的种族不平等无法由同等强度的未观测混杂因素解释。
2024-12-09 cs.CY cs.LG stat.ME
Individually Fair Learning with One-Sided Feedback
The Hebrew University（希伯来大学）；University of Pennsylvania（宾夕法尼亚大学）
我们考虑一个在线学习问题，其中学习者能够观察到真正的标签只有积极的预测的情况下，单侧反馈。在每一轮中，$k$实例根据学习者部署的随机策略到达并接收分类结果，其目标是在部署单独公平策略的同时最大化准确性。我们首先扩展了Bechavod等人（2020）的框架，该框架依赖于人类公平审计员的存在来检测违反公平性的行为，而是将来自动态选择的多个小组的反馈，可能不一致，审计员。然后，我们从我们的具有单侧反馈的在线学习问题和报告违反公平性的面板到上下文组合半强盗问题（Cesa-Bianchi & Lugosi，2009，György等人，2007年）。最后，我们展示了如何在上下文组合半强盗设置中利用两种算法的保证：Exp 2（Bubeck等人，2012）和甲骨文高效的上下文-半-Bandit-FTPL（Syrgkanis等人，2016），同时提供多标准的无遗憾保证的准确性和公平性。我们的研究结果消除了先前工作中两个潜在的偏见来源：在全信息环境下运行的算法无法获得的“隐藏结果”，以及可能存在于任何单个人类审计员中的人类偏见，但可以通过选择精心挑选的小组来减轻。
2022-06-09 cs.LG stat.ML
Efficient Fair Principal Component Analysis
College of Information Sciences and Technology（信息科学与技术学院）；School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）；Microsoft Bing（微软必应）
已经表明，诸如PCA的降维方法可能固有地倾向于不公平，并且处理来自不同敏感群体（诸如种族、肤色、性别等）的数据，不公平为了追求公平性增强的降维，使用帕累托最优的概念，我们提出了一个自适应的一阶算法来学习一个子空间，保持公平性，同时稍微妥协的重建损失。从理论上讲，我们提供了充分的条件，该算法的解决方案属于帕累托边界的所有敏感组，从而保证了整体重建损失和公平性约束之间的最佳权衡。我们还提供了我们的算法的收敛性分析，并显示其有效性，通过不同的数据集上的实证研究，表现出优越的性能相比，国家的最先进的算法。该算法可以有效地推广到多个组敏感特征，并有效地减少下游任务（如分类）中的不公平决策。
2020-03-08 cs.DS cs.LG math.OC
When fairness metrics fail: A utility-based perspective on $\varepsilon$-fairness
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Freiburg（弗莱堡大学）
本文提出基于效用的公平性评估框架，证明概率性公平指标可能掩盖极端不公平，并通过大学录取和信用风险案例展示需同时考虑决策概率与后果。
2026-09-18 cs.LG econ.TH q-fin.MF
Improving Fairness in Criminal Justice Algorithmic Risk Assessments Using Conformal Prediction Sets
风险评估算法因潜在的不公平而受到正确的批评，并且有一个活跃的家庭手工业试图进行修复。在本文中，我们采用了一个框架，从共形预测集，以消除不公平的风险算法本身和协变量用于预测。从30万名罪犯在他们的传讯样本中，我们构建了一个混淆表及其衍生的公平性措施，有效地释放黑人和白人罪犯之间的任何有意义的差异。我们还为个别罪犯提供公平的预测，并提供有效的概率保证，即预测的结果是真实的结果。我们认为我们的工作是一个概念的示范，适用于各种刑事司法决定。所提供的程序可以在管理人员使用通常的刑事司法数据集的司法管辖区例行实施。必要的过程可以在脚本软件R中找到。然而，利益相关者是否会接受我们的方法作为实现风险评估公平性的一种手段还不得而知。虽然我们提供了帕累托改进，但也有一些法律问题需要解决。
2021-05-21 stat.AP stat.ML
