Long Term Fairness for Minority Groups via Performative Distributionally Robust Optimization
University of Alberta（阿尔伯塔大学）
机器学习（ML）的公平性研究人员已经围绕几个公平性标准进行了合并，这些标准提供了ML模型公平性的正式定义。然而，这些标准有一些严重的局限性。我们确定了这些正式的公平标准的四个关键缺点，并旨在帮助解决这些问题，通过扩展表演预测，包括一个分布鲁棒的目标。
2022-07-12 cs.AI cs.LG math.OC
Pareto-Guided Teacher Alignment for Fair Personalized Text Generation
Purdue University（普渡大学）
提出帕累托引导的教师对齐框架，通过修订候选生成、对感知可行性门控、帕累托候选选择和偏好优化，在减少人口统计差异的同时保持个性化保真度，实验表明公平缓解效果依赖于目标且跨域迁移不一致。
2026-06-08 cs.AI cs.CL cs.CY
What Is Fairness? On the Role of Protected Attributes and Fictitious Worlds
LMU Munich, Germany Munich Center for Machine Learning (MCML)（慕尼黑大学慕尼黑分校慕尼黑机器学习中心）；LMU Munich, Germany（慕尼黑大学慕尼黑分校）
本研究通过形式化公平概念并引入虚构规范期望（FiND）世界框架，弥合了哲学与机器学习间的鸿沟，论证了受保护属性的因果效应移除方法，并在COMPAS数据上进行了实验验证。
2024-11-29 cs.AI cs.CY cs.LG
Toward A Logical Theory Of Fairness and Bias
University of Edinburgh（爱丁堡大学）；Alan Turing Institute（艾伦·图灵研究所）
本文主张在认知设定中形式化重构机器学习公平性定义，并在认知情景演算中形式化了无意识公平、人口统计平等和反事实公平三个概念，以支持丰富的环境建模。
2023-06-08 cs.AI cs.LO
Fairness as Equality of Opportunity: Normative Guidance from Political Philosophy
New York University（纽约大学）
最近的兴趣编纂的公平性在自动决策系统（ADS），导致了广泛的配方是什么意思的算法系统是公平的。这些主张大多受到政治哲学学术的启发，但没有充分地扎根于政治哲学学术。本文旨在纠正这一缺陷。我们引入了一个公平理想的分类法，从政治哲学的机会均等（EOP）的原则，澄清他们的哲学概念和公平机器学习的建议编纂。我们安排这些公平的理想上的EOP频谱，这是一个有用的框架，以指导设计一个公平的ADS在给定的上下文中。我们使用我们的公平作为EOP框架，重新解释不可能的结果从哲学的角度来看，不同的价值体系之间的不兼容性，并展示了几个现实世界和假设的例子的框架的效用。通过我们的EOP框架，我们希望从道德和政治哲学的角度回答ADS公平意味着什么，并为道德和法律专家的类似奖学金铺平道路。
2021-06-15 cs.AI cs.CY cs.LG
Towards Substantive Conceptions of Algorithmic Fairness: Normative Guidance from Equal Opportunity Doctrines
New York University（纽约大学）；Surveillance Technology Oversight Project（监控技术监督项目）
在这项工作中，我们使用平等机会（EO）的政治哲学学说，明确的规范性判断嵌入在不同的概念算法公平性。我们对比正式的EO方法，狭隘地集中在公平的竞争在离散的决策点，与实质性的EO学说，看看人们的公平生活的机会，更全面地在一生中。我们使用这种分类法来提供一个道德解释的不可能的结果之间的不相容的公平竞争的不同概念-向前看与向后看-当人们没有公平的生活机会。我们用这个结果来激发实质性的概念算法公平性和概述两个合理的程序的基础上的运气平等主义学说的EO，罗尔斯的公平机会均等的原则。
2022-07-11 cs.AI cs.CY cs.LG
Technical Challenges for Training Fair Neural Networks
University of Maryland, College Park（马里兰大学帕克分校）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
随着机器学习算法在应用程序中的广泛部署，人们对其预测的公平性提出了许多担忧，特别是在高风险环境中（如面部识别和医学成像）。为了回应这些关注，社会提出并正式确定了各种公平的概念以及纠正不公平行为的方法。虽然公平性约束已经被广泛研究了经典模型，但对深度神经网络施加公平性的方法的有效性尚不清楚。在本文中，我们观察到这些大型模型过度拟合公平目标，并产生一系列意想不到的和不希望的后果。我们使用最先进的架构对面部识别和自动医疗诊断数据集进行实验。
2021-02-12 cs.AI cs.CY cs.LG
Promoting Fairness through Hyperparameter Optimization
Feedzai（Feedzai公司）；Universidade do Porto（波尔图大学）
相当多的研究工作已被引导到算法公平性，但在现实世界中采用的偏见减少技术仍然是稀缺的。现有的方法要么是度量或模型特定的，需要在推理时访问敏感的属性，或携带高的开发或部署成本。这项工作探讨了仅为预测性能而优化ML模型时出现的不公平性，以及如何通过简单且易于部署的干预来减轻这种不公平性：公平感知超参数优化（HO）。我们提出并评估了三种流行的HO算法的公平性感知变体：公平随机搜索，公平TPE和Fairband。我们验证了我们的方法在现实世界中的银行开户欺诈案例研究，以及公平性文献的三个数据集。结果表明，在没有额外训练成本的情况下，与公平盲HO相比，可以找到平均公平性增加111%，性能仅下降6%的模型。
2021-10-11 cs.AI cs.LG
50 Years of Test (Un)fairness: Lessons for Machine Learning
Google（谷歌）
关于什么是不公平和什么是公平的定量定义已经在多个学科中引入了50多年，包括教育，招聘和机器学习。我们追溯了在过去的半个世纪里，公平的概念是如何在教育和招聘的测试社区中被定义的，探索了不同公平定义出现的文化和社会背景。在某些情况下，公平性的早期定义与当前机器学习研究中的公平性定义相似或相同，并预示着当前的正式工作。在其他情况下，对公平意味着什么以及如何衡量公平的见解在很大程度上被忽视了。我们从几个方面比较了过去和现在的公平概念，包括公平标准、标准的重点（例如，测试、模型或其使用），公平性与个人、组和子组的关系，以及用于测量公平性的数学方法（例如，分类，回归）。这项工作指出了未来研究和测量（不）公平的方式，建立在我们对公平的现代理解的基础上，同时结合了过去的见解。
2018-12-03 cs.AI cs.LG
Human-Guided Fair Classification for Natural Language Processing
ETH Zurich（苏黎世联邦理工学院）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Oxford（牛津大学）
文本分类器在简历筛选和内容审核等高风险任务中有很好的应用前景。这些分类器必须是公平的，并避免歧视性决定，因为它们对性别或种族等敏感属性的扰动保持不变。然而，人类对这些扰动的直觉和捕获它们的正式相似性规范之间存在差距。虽然现有的研究已经开始解决这一差距，但目前的方法是基于硬编码的单词替换，导致规范的表达能力有限或无法完全符合人类直觉（例如，在不对称反事实的情况下）。这项工作提出了新的方法来弥合这一差距，发现表达和直观的个人公平规范。我们展示了如何利用无监督的风格转移和GPT-3的zero-shot功能自动生成表达候选对语义相似的句子，不同的敏感属性。然后，我们通过广泛的众包研究来验证生成的配对，这证实了这些配对中的许多配对与人类对毒性分类公平性的直觉一致。最后，我们展示了如何利用有限的人类反馈来学习相似性规范，该规范可用于训练下游公平感知模型。
2023-03-16 cs.AI cs.CL cs.CY
Statistical Equity: A Fairness Classification Objective
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
机器学习系统已被证明传播过去的社会错误。有鉴于此，大量研究都集中在设计“公平”的解决方案上。“即使有这么多的工作，公平也没有单一的定义，主要是因为公平是主观的，取决于环境。我们提出了一个新的公平定义，公平的原则，考虑现有的偏见的数据，并试图作出公平的决定，占这些以前的历史偏见的动机。我们将公平的定义形式化，并在适当的背景下激发它。接下来，我们将其操作化，以实现公平分类。我们执行多个自动和人工评估，以显示我们的定义的有效性，并证明其在公平性方面的实用性，如反馈回路。
2020-05-14 cs.AI cs.LG stat.ML
FairOD: Fairness-aware Outlier Detection
Carnegie Mellon University（卡内基梅隆大学）；Snap Inc.（Snap 公司）
公平性和离群点检测（OD）密切相关，因为OD的目标正是在给定的群体中发现稀有的少数样本。然而，当少数群体（由受保护的变量定义，如种族/民族/性别/年龄）并不反映积极的阶级成员身份（如犯罪/欺诈）时，OD产生不公正的结果。令人惊讶的是，公平意识OD在以前的工作中几乎没有被触及，因为公平机器学习文献主要集中在监督设置上。我们的工作旨在弥合这一差距。具体来说，我们开发desiderata捕获动机良好的公平标准OD，并系统地正式的公平OD问题。此外，在我们的期望的指导下，我们提出了FairOD，一个公平意识的离群值检测器，具有以下理想的属性：FairOD（1）在测试时表现出治疗奇偶性，（2）旨在标记来自所有组的相等比例的样本（即通过统计奇偶性获得组公平性），以及（3）努力标记每个组中真正的高风险样本。在一组不同的合成和真实世界数据集上进行的广泛实验表明，FairOD产生的结果对于受保护的变量是公平的，同时在检测性能方面与公平不可知的检测器相当（在某些情况下，甚至更好）。
2021-08-30 cs.AI cs.LG
Towards Logical Specification of Statistical Machine Learning
AIST（产业技术综合研究所）
本文提出基于 Kripke 模型与认知逻辑的形式化框架，用逻辑公式刻画统计分类器的性能、鲁棒性与公平性，并以反事实认知算子表达条件不可区分性。
2020-03-28 cs.AI cs.CR cs.LG
Fairness Overfitting in Machine Learning: An Information-Theoretic Perspective
Center of Excellence for Generative AI, KAUST, Saudi Arabia；University of Florida, Gainesville, USA；The Swiss AI Lab, IDSIA, USI \& SUPSI, Switzerland
针对机器学习公平性在未见数据上缺乏泛化保证的问题，本文基于 Efron-Stein 不等式提出信息论框架，推导 MI 与 CMI 公平性泛化界并通过实验验证其紧致性。
2025-06-09 cs.AI cs.IT cs.LG
Feasibility-Guided Fair Adaptive Offline Reinforcement Learning for Medicaid Care Management
Waymark；San Francisco General Hospital, University of California San Francisco（旧金山通用医院，加州大学旧金山分校）；University of Pennsylvania（宾夕法尼亚大学）
提出FG-FARL离线强化学习方法，通过校准各群体安全阈值减少危害并均衡公平性，在Medicaid数据上实现了与基线相当的价值并提升了公平性。
2025-09-11 cs.AI cs.LG cs.LO
Dynamic fairness-aware recommendation through multi-agent social choice
Comenius University Bratislava（布拉迪斯拉发考门斯基大学）；Tulane University（杜兰大学）
本文针对个性化推荐中的多利益相关方公平性问题，提出将推荐公平性建模为两阶段社会选择问题，结合分配与聚合机制，并设计出能够动态整合多种公平性关切的新推荐技术。
2024-02-27 cs.AI
Fairness through Social Welfare Optimization
Stevens Institute of Technology（史蒂文斯理工学院）；Carnegie Mellon University（卡内基梅隆大学）
我们提出了社会福利优化作为一个通用的范式，在人工智能系统中的公平性。我们认为，优化模型允许制定广泛的公平标准作为社会福利函数，同时使人工智能能够利用高度先进的解决方案技术。人们可以通过将公平纳入社会福利职能，实现所有群体的公平，而不是试图减少选定群体之间的偏见。这也使得能够更全面地核算所涉个人的福利。我们展示了如何将社会福利优化与基于规则的AI和机器学习相结合，使用处理中或后处理方法。我们目前的实证结果，从一个案例研究作为这些整合策略的有效性和潜力的初步审查。
2022-07-20 cs.AI math.OC
Unveiling Performance Challenges of Large Language Models in Low-Resource Healthcare: A Demographic Fairness Perspective
University of Illinois Chicago（伊利诺伊大学芝加哥分校）
该研究从人口统计公平性视角，评估了多种主流框架下的前沿大语言模型在低资源医疗任务中的表现，发现其存在性能挑战与公平性问题，且相关优化手段效果有限，凸显了该领域专项研究的紧迫性。
2024-12-07 cs.AI cs.CL
Social Diversity Reduces the Complexity and Cost of Fostering Fairness
Teesside University（提赛德大学）；Exeter University（埃克塞特大学）
机构和投资者不断面临着适当分配捐赠的挑战。没有预算是无限的，在不牺牲积极成果的情况下优化整体支出已经通过几种方法得到了解决。到目前为止，以前的工作没有考虑如何鼓励公平的人口中，社会多样性是无处不在的，投资者只能部分观察人口。在这里，通过将社会多样性的最后通牒游戏通过异构图，我们研究了几个干扰机制，假设不完全信息和灵活的公平标准的影响。我们量化的多样性的作用，并显示它如何减少信息收集的需要，使我们能够放松严格的，昂贵的干扰过程。此外，我们发现，某些个人的影响，表示不同的网络中心性措施，可以利用，以进一步减少支出，如果最低的公平性要求降低。我们的研究结果表明，多样性的变化，并开辟了新的机制，希望促进公平的机构。总的来说，我们的分析提供了新的见解，以指导社会多元化复杂系统中的机构政策。
2022-11-18 cs.AI cs.MA math.DS
A General Incentives-Based Framework for Fairness in Multi-agent Resource Allocation
Washington University in St Louis（圣路易斯华盛顿大学）
我们介绍了一般激励为基础的公平框架（GIFF），公平的多代理资源分配，推断公平的决策，从标准的价值函数的一种新方法。在资源有限的环境中，代理人优化效率往往会产生不公平的结果。我们的方法利用动作值（Q-）函数来平衡效率和公平性，而不需要额外的训练。具体来说，我们的方法计算每个动作的本地公平增益，并引入了一个反事实的优势校正项，以阻止过度分配给已经富裕的代理。这种方法是正式的集中控制设置，其中仲裁器使用GIF修改的Q值来解决分配问题。不同领域的经验评估，包括动态共乘，无家可归预防和复杂的工作分配任务，表明我们的框架始终优于强大的基线，并可以发现有远见的，公平的政策。该框架的有效性是支持的理论基础，我们证明了它的公平代理是一个原则性的下界上的真正的公平性改善，其权衡参数提供单调调整。我们的研究结果将GIFF确立为一个强大而有原则的框架，用于利用标准强化学习组件在复杂的多智能体系统中实现更公平的结果。
2025-10-30 cs.AI cs.MA
