Compatibility of Fairness Metrics with EU Non-Discrimination Laws: Demographic Parity & Conditional Demographic Disparity
Hasselt University（哈塞尔特大学）；Université Catholique de Louvain（鲁汶大学）；University of Bologna（博洛尼亚大学）；University of Luxembourg（卢森堡大学）
本研究结合欧盟反歧视法律框架，通过CDD分析DP公平定义与法律反歧视概念的适配性，实验验证带公平约束的分类器可在降偏差的同时适配司法情境解释，为AI决策的法律公平性研究提供了初步依据。
2023-06-14 cs.CY cs.LG
Facets of Disparate Impact: Evaluating Legally Consistent Bias in Machine Learning
Washington State University（华盛顿州立大学）
本文提出“客观公平指数”，在法律标准下结合边际收益与客观测试，用于区分机器学习中的歧视性测试与系统性差异，并在COMPAS等应用中验证其价值。
2025-05-08 cs.CY cs.LG
Equality before the Law: Legal Judgment Consistency Analysis for Fairness
Tsinghua University（清华大学）；Beijing Powerlaw Intelligent Technology Co., Ltd.（北京幂律智能科技有限公司）
在一个法律体系中，判决的一致性被认为是公平的最重要表现之一。然而，由于在现实世界中影响量刑的事实因素的复杂性，很少有工作已经做了定量测量的判断一致性对现实世界的数据。在本文中，我们提出了一个判断不一致性的评估指标，法律不一致系数（LInCo），旨在评估按特定特征划分的数据组之间的不一致性（例如，性别、地区、种族）。我们建议模拟法官从不同的群体与法律判断预测（LJP）模型和测量的司法不一致性的判决结果的分歧LJP模型训练在不同的群体。合成数据的实验结果验证了LInCo的有效性。我们进一步使用LInCo来探讨真实案例中的不一致性，并得出以下结论：（1）法律制度中存在区域和性别不一致，但性别不一致性远远小于区域不一致性;（2）区域不一致性的水平在不同时期变化不大;（3）总体而言，司法不一致性与刑事指控的严重程度呈负相关。此外，我们使用LInCo来评估几种去偏置方法的性能，如对抗学习，发现这些机制可以有效地帮助LJP模型避免遭受数据偏差。
2021-03-25 cs.AI cs.CL cs.LG
On the Apparent Conflict Between Individual and Group Fairness
University of Oxford（牛津大学）
在公平机器学习研究中，对“群体”和“个人”公平措施进行了区分。许多技术研究论文认为这两种方法都很重要，但相互矛盾，并提出了最大限度地减少这些措施之间的权衡的方法。本文认为，这种明显的冲突是基于一种误解。它借鉴了公平机器学习研究中的理论讨论，以及政治和法律哲学，认为个人和群体的公平性并不存在根本冲突。首先，它概述了平等主义公平的帐户，其中包括群体和个人公平的合理动机，从而表明在原则上不需要冲突。其次，它考虑了个人正义的概念，从法律哲学和法理学，这似乎是相似的，但实际上是矛盾的公平机器学习文献中提出的个人公平的概念。结论是，个人和群体公平之间的明显冲突更多的是公平措施的生硬应用的人工制品，而不是原则冲突的问题。在实践中，可以通过细致入微地考虑特定部署情况下“不公平”的根源，并审慎合理地采取措施来减轻这种不公平，来解决这一冲突。
2019-12-14 cs.CY cs.LG stat.ML
Multi-dimensional discrimination in Law and Machine Learning -- A comparative overview
L3S Research Center Hannover（汉诺威L3S研究中心）；Free University of Berlin（柏林自由大学）；Leibniz University of Hanover（莱布尼茨汉诺威大学）；Bundeswehr University Munich（慕尼黑联邦国防军大学）
人工智能驱动的决策可能会导致基于种族、性别或年龄等受保护特征/属性对某些个人或社会群体的歧视。公平感知机器学习领域专注于理解、减轻和解释AI/ML模型中的偏见的方法和算法。尽管如此，到目前为止，绝大多数提出的方法基于单个受保护的属性（例如，仅性别或种族）来评估公平性。然而，在现实中，人的身份是多方面的，歧视可能基于一个以上的受保护特征而发生，导致所谓的"多方面歧视“或”多方面公平“问题。虽然在法律文献中得到了充分阐述，但歧视的多层面性在机器学习界却较少探讨。最近在这方面的做法主要遵循法律领域的所谓交叉公平定义，而其他概念，如附加和顺序歧视，则研究较少或迄今未考虑。在这项工作中，我们概述了多维歧视/公平在法律领域的不同定义，以及他们如何被转移/操作（如果）在公平意识的机器学习域。通过并列这两个领域，我们得出的连接，确定的局限性，并指出开放的研究方向。
2023-02-12 cs.CY cs.LG
It's complicated. The relationship of algorithmic fairness and non-discrimination provisions for high-risk systems in the EU AI Act
University Tübingen（图宾根大学）；CZS Institute for AI and Law Germany（德国人工智能与法律研究所）
本文探讨欧盟人工智能法案中高风险系统中算法公平与非歧视规定的相互关系，分析两者之间的联系及未来可能的互动。
2026-01-22 cs.AI cs.CY cs.LG
FairComp: Workshop on Fairness and Robustness in Machine Learning for Ubiquitous Computing
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Cambridge（剑桥大学）；Nokia Bell Labs（诺基亚贝尔实验室）；Aalborg University（奥尔堡大学）
FairComp研讨会聚焦泛在计算中机器学习公平性这一尚未充分探索的问题，从社会、技术和法律三个维度探讨伦理风险、偏见缓解方法及政策影响，以推动负责任的泛在计算研究社区建设。
2023-09-22 cs.CY cs.ET cs.LG
Rule-Based Approach for Party-Based Sentiment Analysis in Legal Opinion Texts
University of Moratuwa（莫拉图瓦大学）
阐述与先前法院案件有关的意见和论点的文件被称为法律意见文本。律师和法律官员在处理新的法律案件时，不得不花费大量精力和时间从这些文件中手工获取所需信息。因此，如果有一种方法可以自动化从法律意见文本中提取信息的过程，它将为这些人提供很大的便利。基于当事人的情感分析通过识别法律文本中每个法律当事人的意见值，将在自动化系统中发挥关键作用。
2020-11-13 cs.CL cs.LG
Towards Explainability and Fairness in Swiss Judgement Prediction: Benchmarking on a Multilingual Dataset
Technical University of Munich（慕尼黑工业大学）；University of Bern（伯尔尼大学）；Bern University of Applied Sciences（伯尔尼应用科学大学）；Stanford University（斯坦福大学）
本文利用瑞士多语言判决预测数据集，通过专家标注理由和遮挡法评估BERT类LJP模型的可解释性，发现预测性能提升不等于可解释性提升，并提出下级法院插入（LCI）框架量化模型偏见。
2024-02-26 cs.AI cs.CL cs.LG
Algorithmic Unfairness through the Lens of EU Non-Discrimination Law: Or Why the Law is not a Decision Tree
Eindhoven University of Technology（埃因霍温理工大学）；Sciences Po Law School（巴黎政治学院法学院）；CNRS（法国国家科学研究中心）；ENS Paris-Saclay（巴黎萨克雷高等师范学院）；University of Copenhagen（哥本哈根大学）
本文通过欧盟非歧视法视角分析算法不公的典型案例，揭示法律推理与算法公平性指标在规范假设上的差异及其局限，并为AI从业者和监管者提供启示。
2023-05-24 cs.AI cs.CY cs.LG
A Maximal Correlation Approach to Imposing Fairness in Machine Learning
MIT（麻省理工学院）；MIT-IBM Watson AI Lab, IBM Research（麻省理工-IBM 沃森人工智能实验室，IBM研究院）
随着机器学习算法越来越受欢迎并在许多行业中多样化，有关其公平性的道德和法律问题变得越来越重要。我们探讨的问题，算法公平性，采取信息理论的观点。最大相关性框架被引入表示公平性约束，并被证明能够被用来导出正则化，执行独立性和分离为基础的公平性标准，这允许优化算法的离散和连续变量的计算效率比现有的算法。我们表明，这些算法提供了平滑的性能-公平性权衡曲线，并在离散数据集（COMPAS，成人）和连续数据集（社区和犯罪）上与最先进的方法竞争。
2020-12-30 cs.AI cs.IT cs.LG
Fairness and Bias in Robot Learning
University of Freiburg（弗莱堡大学）；University of Mannheim（曼海姆大学）；University Medical Center Freiburg（弗莱堡大学医学中心）
本文首次从技术、伦理和法律跨学科视角综述机器人学习中的公平性问题，提出偏见来源与歧视类型的分类法，并梳理公平性定义与公平学习方法，为该领域发展奠定基础。
2023-10-29 cs.AI cs.CV cs.CY
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam（阿姆斯特丹大学）
随着机器学习对人们生活的影响越来越大，算法公平性的重要性也越来越大。最近的公平性度量的工作表明，需要在公平性约束的因果推理。在这项工作中，一个实用的方法命名为公平贸易提出了灵活的预测模型，集成敏感的因果路径的公平性约束。该方法使用最新的进展，变分推理，以占未观察到的混杂因素。此外，提出了一种方法大纲，它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下，对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献，这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
Equal Opportunity and Affirmative Action via Counterfactual Predictions
Columbia University（哥伦比亚大学）
机器学习（ML）可以通过学习从历史数据中预测决策来自动化决策。然而，这些预测因素可能会从过去的决策中继承歧视性政策，并复制不公平的决策。在本文中，我们提出了两种算法，调整拟合的ML预测，使它们公平。我们专注于公平的两个法律概念：（a）提供平等的机会（EO），无论个人的敏感属性和（b）通过平权行动（AA）修复历史上的劣势。从技术上讲，我们通过建立因果模型并考虑反事实决策来产生公平的EO和AA预测。我们证明了所得到的预测理论上是最佳的预测性能，同时满足公平性。我们评估算法，以及准确性和公平性之间的权衡，关于入学，收入，信用和累犯的数据集。
2019-05-29 cs.LG stat.ML
Counterfactual Fairness
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）；New York University（纽约大学）；University of Surrey（萨里大学）；University College London（伦敦大学学院）
当机器学习用于自动化保险、贷款、招聘和预测性警务等领域的决策时，它可能会对人们产生法律或道德后果。在许多这样的情况下，先前的决定对某些亚群有不公平的偏见，例如那些特定的种族，性别或性取向。由于这些过去的数据可能有偏见，机器学习预测器必须考虑到这一点，以避免延续或创造歧视性做法。在本文中，我们开发了一个框架，公平性建模工具，从因果推断。我们对反事实公平的定义抓住了这样一种直觉：如果一个决定在（a）现实世界和（b）一个反事实世界中是相同的，那么这个决定对一个人是公平的，在这个反事实世界中，这个人属于不同的人口统计群体。我们展示了我们的框架上的一个现实世界的问题，公平的预测成功的法学院。
2018-03-08 cs.CY cs.LG stat.ML
FAT Forensics: A Python Toolbox for Algorithmic Fairness, Accountability and Transparency
University of Bristol（布里斯托尔大学）；RMIT University（皇家墨尔本理工大学）
今天，由机器学习算法驱动的人工智能系统可以对我们的日常生活做出重要的、有时具有法律约束力的决定。然而，在许多情况下，这些系统及其行动既没有受到管制，也没有得到认证。为了帮助应对这些算法可能造成的潜在危害，我们开发了一个开源工具箱，可以分析机器学习过程中选定的公平性，问责制和透明度方面：数据（及其特征），模型和预测，允许自动客观地向相关利益相关者报告。在本文中，我们描述了这个Python包的设计，范围，使用和影响，它是在3-Clause BSD开源许可证下发布的。
2022-08-25 cs.AI cs.CY cs.LG
Fine-grained Intent Classification in the Legal Domain
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
一个法律从业者必须经历许多漫长的法律诉讼。为了了解法律案件中不同当事人/个人行为背后的动机，必须清楚地理解文档中表达与案件对应的意图的部分。在本文中，我们介绍了一个数据集的93个法律文件，属于案件类别的谋杀，土地纠纷，抢劫，或腐败，表达意图的短语相同的文件的类别进行了注释。此外，我们为每个这样的短语注释细粒度的意图，以使读者能够更深入地理解案例。最后，我们分析了几种基于transformer的模型在自动化提取意图短语（粗粒度和细粒度）的过程中的性能，并将文档分类为可能的4个类别之一，并观察到，我们的数据集具有挑战性，特别是在细粒度意图分类的情况下。
2022-05-06 cs.CL cs.IR cs.LG
Segment First, Retrieve Better: Realistic Legal Search via Rhetorical Role-Based Queries
IIT Kanpur（印度IIT坎浦尔）；IISER Kolkata（印度IISER科希拉）；Symbiosis Law School Pune（印度西布罗德法律学校）
针对传统法律判例检索受文档数量增长和案件信息有限制约的问题，提出TraceRetriever方法，通过提取修辞显著片段、融合多模型检索结果实现高效检索，在相关数据集上验证了其可靠性与可扩展性。
2025-08-01 cs.AI cs.CL cs.IR
The Impact of Data Preparation on the Fairness of Software Systems
University of Coimbra（科英布拉大学）
机器学习模型在直接影响人的场景中被广泛采用。基于这些模型的软件系统的开发引起了社会和法律问题，因为它们的决定可能会导致基于种族或性别等属性的不公平待遇。数据准备是任何机器学习管道中的关键，但其对公平性的影响还有待详细研究。在本文中，我们评估了学习模型的公平性和有效性如何受到敏感属性的删除，分类属性的编码和实例选择方法（包括交叉验证和随机欠采样）的影响。我们使用了成人收入和德国信用数据集，这些数据集被广泛研究，并被认为存在公平性问题。我们分别应用每种数据准备技术，使用统计奇偶性差异、不同影响和标准化偏见指数来分析预测性能和公平性的差异。结果表明，公平性受到对训练数据进行的转换的影响，特别是在不平衡的数据集中。正如预期的那样，删除敏感属性不足以消除预测中的所有不公平性，但它是实现更公平模型的关键。此外，相对于真实标签的标准随机欠采样有时比不执行随机欠采样更有偏见。
2019-10-05 cs.AI cs.LG stat.ML
Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
Cornell University（康奈尔大学）；Loyola University Maryland（洛约拉大学马里兰州）
研究探讨了大型科技公司如何在推荐系统中处理公平性，识别了技术团队与法律、数据团队在公平性工作中的挑战，并提出可行的实践建议。
2026-02-27 cs.AI cs.CY cs.HC
General Post-Processing Framework for Fairness Adjustment of Machine Learning Models
本文提出一种通用后处理公平性调整框架，适用于多种机器学习任务和公平性度量，通过解耦训练过程，无需自定义损失函数，并支持黑盒模型，在真实数据集上实现了与对抗性去偏相当的公平性/准确性权衡。
2025-04-22 cs.LG
Measuring Non-Expert Comprehension of Machine Learning Fairness Metrics
University of Maryland（马里兰大学）；ICSI（国际计算机科学研究所）
机器学习中的偏见已经在几个领域表现出了不公正，例如医学，招聘和刑事司法。作为回应，计算机科学家们开发了无数的公平定义，以纠正现场算法中的这种偏见。虽然有些定义是基于既定的法律和道德规范，但其他定义在很大程度上是数学的。目前还不清楚公众是否同意这些公平的定义，也许更重要的是，他们是否理解这些定义。我们采取初步措施，通过解决这个问题来弥合ML研究人员和公众之间的差距：外行观众是否理解ML公平的基本定义？我们开发了一个度量标准来衡量对三个定义的理解-人口均等，平等机会和均等几率。我们使用在线调查来评估这个指标，并调查理解和情感，人口统计学和定义本身之间的关系。
2020-07-02 cs.AI cs.CY cs.LG
Algorithmic Fairness: A Tolerance Perspective
University of New South Wales（新南威尔士大学）；La Trobe University（拉筹伯大学）；University of Technology Sydney（悉尼科技大学）
该综述从容忍度视角切入算法公平性研究，提出基于容忍度的全新分类体系，覆盖多行业研究现状，梳理新兴挑战并给出未来研究与政策方向，助力构建更公平的算法系统。
2024-04-26 cs.AI cs.CY cs.IR
FairProof : Confidential and Certifiable Fairness for Neural Networks
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Stanford University（斯坦福大学）
针对机器学习模型公平性验证中隐私与信任的冲突，提出FairProof系统，利用零知识证明在保密前提下公开验证模型公平性，并设计适配的公平性认证算法，经Gnark实现验证可行。
2024-07-16 cs.AI cs.CR cs.LG
An Senegalese Legal Texts Structuration Using LLM-augmented Knowledge Graph
Sciences and Technologies | Economic and Social Sciences（科技 | 经济和社会科学）；Iba Der Thiam University（伊巴德里亚姆大学）；Social Sciences, Iba Der Thiam University, Thies, Senegal（社会科学，伊巴德里亚姆大学，泰西，塞内加尔）
本研究利用LLM增强的知识图谱对塞内加尔法律文本进行结构化处理，提取7967篇文章并构建图数据库，提升法律信息的可访问性和理解性。
2025-09-27 cs.CL cs.LG
FairPrep: Promoting Data to a First-Class Citizen in Studies on Fairness-Enhancing Interventions
New York University（纽约大学）
将道德和法律合规纳入机器辅助决策的重要性得到了广泛认可。此外，最近的几项工作认为，如果我们不考虑模型训练和部署上游的生命周期阶段，就会错过提高数据质量和代表性、控制偏差以及允许人类监督和影响计算过程的关键机会。然而，迄今为止，为希望开发和部署负责任的机器学习方法的数据科学家提供系统级支持的工作很少。我们的目标是填补这一空白，目前FairPrep，公平性增强干预措施的设计和评估框架。FairPrep基于以开发人员为中心的设计，帮助数据科学家遵循软件工程和机器学习的最佳实践。作为我们的贡献的一部分，我们确定现有的实证研究中的不足之处，分析公平性增强的干预措施。然后，我们将展示如何使用FairPrep来衡量声音最佳实践的影响，例如超参数调整和功能缩放。特别是，我们的研究结果表明，在以前的研究中观察到的公平性增强干预措施的结果的高度可变性往往是缺乏超参数调整的伪像。此外，我们还表明，数据清理方法的选择可能会影响增强公平性干预措施的有效性。
2019-11-28 cs.CY cs.DB cs.LG
Fairness in Machine Learning
University of Pisa（比萨大学）；DeepMind（深度思维）
基于机器学习的系统正在广泛应用于社会和日常生活的许多方面。这一现象伴随着对采用这些技术可能产生的道德问题的担忧。ML公平性是机器学习最近建立的一个领域，它研究如何确保数据和模型不准确性中的偏见不会导致模型基于种族、性别、残疾和性或政治取向等特征对个人不利。在这篇手稿中，我们讨论了目前关于公平的推理和处理方法中存在的一些局限性，并描述了作者为解决这些问题所做的一些工作。更具体地说，我们展示了因果贝叶斯网络如何在推理和处理公平性方面发挥重要作用，特别是在复杂的不公平场景中。我们描述了如何最优运输理论可以用来开发的方法，施加约束的完整形状的分布对应于不同的敏感属性，克服了大多数方法的限制，近似公平desiderata施加约束的低阶矩或其他功能的分布。我们提出了一个统一的框架，包括方法，可以处理不同的设置和公平标准，并享有强有力的理论保证。我们介绍了一种学习公平表示的方法，可以推广到看不见的任务。最后，我们描述了一种技术，占敏感属性的使用的法律限制。
2020-12-31 cs.CY cs.LG stat.ML
GFLC: Graph-based Fairness-aware Label Correction for Fair Classification
University of Tartu, Institute of Computer Science（塔尔图大学计算机科学研究所）
本文提出GFLC方法，通过结合预测置信度、Ricci流优化的图正则化及人口统计均等激励，在保持公平性的同时有效修正标签噪声，显著改善性能与公平性的权衡。
2025-06-18 cs.AI cs.LG
Causal Fairness under Unobserved Confounding: A Neural Sensitivity Framework
Munich Center for Machine Learning（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）
本文首次研究未观测混杂下的因果公平性问题，提出神经敏感性框架，推导公平性度量界限并提供最坏情况保证，通过实验和真实案例验证其有效性。
2024-10-22 cs.AI cs.CY cs.LG
Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review
Departamento de Estadística, Universidad Carlos III de Madrid（统计系，卡洛斯三世大学）；uc3m-Santander Big Data Institute (IBiDat), Universidad Carlos III de Madrid（圣安德烈斯-卡洛斯三世大学大数据研究所）；Department of Statistics and O.R., Universidad Nacional de Educación a Distancia (UNED), Madrid, Spain（统计与运筹学系，国家远程教育大学）
本文综述了机器学习中个体公平与群体公平的权衡，探讨了混合公平性方法的理论基础、优化机制及应用挑战。
2026-01-23 cs.CY cs.LG
The Fairness Field Guide: Perspectives from Social and Formal Sciences
University of Arkansas（阿肯色大学）
在过去的几年里，已经提出了一系列不同的方法来衡量机器学习模型的公平性。然而，尽管越来越多的出版物和实现，仍然缺乏文献来解释公平的机器学习与哲学，社会学和法律等社会科学的相互作用。我们希望通过积累和阐述社会和形式科学（特别是机器学习和统计学）在本领域指南中产生的公平机器学习的思想和讨论来解决这个问题。具体来说，除了给出几种流行的基于统计和因果关系的公平机器学习方法的数学和算法背景外，我们还解释了支持它们的基本哲学和法律思想。此外，我们从社会学和哲学的角度探讨了对当前公平机器学习方法的一些批评。我们希望本领域指南能够帮助公平的机器学习从业者更好地理解他们的算法如何与重要的人文价值观（如公平）保持一致，以及我们作为一个领域如何设计方法和指标，以更好地为受压迫和边缘化的民众服务。
2022-03-08 cs.AI cs.CY cs.LG
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
Fairness Certification for Natural Language Processing and Large Language Models
Leipzig University（莱比锡大学）；Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig（可扩展数据分析与人工智能中心（ScaDS.AI）德累斯顿/莱比锡）
本文针对自然语言处理和大型语言模型中的公平性问题，采用定性研究方法，通过文献回顾和专家访谈，系统提出了六项可细分为18个子类别的公平性标准，为公平性认证流程的操作化和测试奠定了基础。
2024-01-03 cs.AI cs.CL cs.CY
Datasets for Portuguese Legal Semantic Textual Similarity: Comparing weak supervision and an annotation process approaches
Fluminense Federal University（弗鲁米嫩塞联邦大学）
本文面向巴西法律文本语义相似度任务，构建四个法律领域数据集，并通过专家真值集验证启发式弱监督标注的有效性。
2023-05-29 cs.CL cs.LG
The Unfairness of Fair Machine Learning: Levelling down and strict egalitarianism by default
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究所）；Amazon Web Services（亚马逊云服务）
近年来，机器学习（ML）中的公平性已经成为研究和开发的一个高度活跃的领域。大多数人对公平的定义很简单，公平意味着减少人口群体之间在业绩或成果方面的差距，同时尽可能保持原始系统的准确性。这种通过公平措施实现平等的过度简单化令人不安。许多当前的公平措施都遭受公平和性能退化，或“拉平”，其中公平是通过使每个群体的情况更糟，或通过将表现较好的群体降低到最差水平来实现的。当公平只能通过伤害耻辱、失去团结、不平等的关注和错过实质性平等的机会，使每个人在物质或关系方面变得更糟来实现时，在将模糊的“公平”概念转化为实践方面似乎出了问题。本文探讨了在fairML中降低水平的原因和普遍性，并基于平等和分配正义的哲学和法律理论以及平等法法理学探讨了可能的理由和批评。我们发现，fairML目前没有进行必要的测量、报告或分析，以证明在实践中降低水平的合理性。我们提出了在fairML中实现实质性平等的第一步：通过执行最低可接受伤害阈值或“最低速率约束”作为公平约束，通过设计来“升级”系统。我们同样提出了一个替代的基于伤害的框架，以对抗目前在该领域占主导地位的过于简化的平等主义框架，并推动未来的讨论更多地走向实质性的平等机会，远离严格的平等主义默认。N.B.摘要缩短，完整摘要见论文。
2023-03-12 cs.AI cs.LG
Promises and Challenges of Causality for Ethical Machine Learning
SonyAI（索尼人工智能）
近年来，人们对设计公平决策系统的因果推理越来越感兴趣，因为它与法律框架的兼容性，对人类利益相关者的可解释性，以及对观测数据中固有的虚假相关性的鲁棒性等因素。然而，最近对因果公平的关注，一直伴随着极大的怀疑，由于在文献中应用当前因果公平方法的实践和认识论挑战。受计量经济学、社会科学和生物医学领域长期以来对因果关系的实证研究的启发，本文提出了在“潜在结果框架”下适当应用因果公平的条件。“我们强调了因果推理的关键方面，这些方面在因果公平文献中经常被忽视。特别是，我们讨论的重要性，指定的性质和时间的社会类别，如种族或性别的干预。确切地说，而不是假设一个不可变的属性的干预，我们提出了一个重点转移到他们的看法，并讨论了公平性评价的影响。我们认为，这种概念化的干预是关键，在评估因果假设的有效性和进行合理的因果分析，包括避免治疗后的偏见。随后，我们说明了因果关系如何解决现有的公平性指标的局限性，包括那些依赖于统计相关性。具体来说，我们引入了常见的统计公平概念的因果变量，我们做了一个新的观察，在因果框架下，不同的公平概念之间没有根本的分歧。最后，我们进行了广泛的实验，我们证明了我们的方法来评估和减轻不公平，特别是当治疗后的变量存在。
2022-10-26 cs.CY cs.LG
Multi-disciplinary fairness considerations in machine learning for clinical trials
University of Cambridge（剑桥大学）；MRC Biostatistics Unit, University of Cambridge（剑桥大学医学研究委员会生物统计组）；Sapienza University of Rome（罗马第一大学）；The Alan Turing Institute（阿兰·图灵研究所）；Technical University of Munich（慕尼黑工业大学）；Helmholtz Munich（亥姆霍兹慕尼黑中心）
虽然近年来人们对应用机器学习来改善医疗保健的兴趣大幅增长，但仍有许多障碍阻碍了在医疗实践中的部署。一个值得关注的问题是，这有可能加剧社会中根深蒂固的偏见和现有的健康差距。机器学习中的公平领域试图解决这些公平问题;然而，适当的方法是依赖于上下文的，需要特定领域的考虑。我们专注于临床试验，即，对人类进行的研究，以评估医学治疗。临床试验是机器学习在医疗保健领域的一个相对未被开发的应用，部分原因是复杂的伦理、法律和监管要求以及高昂的成本。我们的目标是提供一个多学科的评估，如何公平的机器学习适合临床试验研究和实践的背景。我们首先回顾了当前临床试验的伦理考虑和指南，并研究了它们与机器学习中公平性的常见定义之间的关系。我们研究了临床试验中不公平的潜在来源，提供了具体的例子，并讨论了机器学习在减轻潜在偏见或在不小心应用时加剧偏见方面可能发挥的作用。特别关注的是适应性临床试验，这可能会采用机器学习。最后，我们强调需要进一步调查和发展的概念，并强调可能与临床试验设计相关的公平性新方法。
2022-05-18 cs.CY cs.LG
Decoupled classifiers for fair and efficient machine learning
当在机器学习系统中使用敏感属性（如性别或种族）符合道德和法律时，问题仍然是如何做到这一点。我们表明，天真的应用程序的机器学习算法使用敏感的功能，导致一个固有的权衡组之间的准确性。我们提供了一种简单有效的解耦技术，可以添加到任何黑盒机器学习算法之上，为不同的群体学习不同的分类器。迁移学习用于缓解任何一个组的数据太少的问题。该方法可以应用于一系列公平性标准。特别是，我们要求应用程序设计者指定为联合损失函数，使公平性和准确性之间的权衡显式。我们的减少有效地找到最小的损失，只要目标具有一定的自然单调性属性，这可能是独立的兴趣，在算法的公平性研究。
2017-07-20 cs.CY cs.LG
Causal Conceptions of Fairness and their Consequences
Stanford University（斯坦福大学）；New York University（纽约大学）；Harvard University（哈佛大学）
本文将因果公平定义分为约束反事实差异与约束保护特征影响两类，证明并实证其几乎总是产生被强帕累托支配的策略，揭示形式局限与不良后果。
2022-07-12 cs.AI cs.CY cs.LG
