Fairness in Algorithmic Recourse Through the Lens of Substantive Equality of Opportunity
New York University（纽约大学）；NOVA University（新星大学）；CENTAI
针对现有算法追索权公平性研究缺乏时间维度考量的问题，本文提出两种契合实质机会平等的追索权公平概念，结合基于智能体的模拟框架分析努力成本，并提出奖励努力的干预方案以提升公平性。
2024-01-29 cs.CY cs.LG
Equality, Equity, and Causality in Fairness Research: A Commentary on Cheng (2026)
Teachers College, Columbia University（哥伦比亚大学教师学院）
对程关于心理测量学与人工智能/机器学习公平性比较的文章作评论，探讨平等与公平区别及因果关系在公平性研究中的作用，扩展其讨论，为心理测量学和人工智能/机器学习社区未来公平性研究指明方向。
2026-10-12 cs.LG stat.ME stat.ML
A Moral Framework for Understanding of Fair ML through Economic Models of Equality of Opportunity
ETH Zürich（苏黎世联邦理工学院）；University of Zürich（苏黎世大学）；MPI-SWS（马克斯·普朗克软件系统研究所）
我们将最近提出的算法公平性的概念映射到机会均等（EOP）的经济模型--一个广泛研究的政治哲学中的公平理想。我们正式表明，通过我们的概念映射，许多现有的算法公平性的定义，如预测值奇偶性和平等的赔率，可以被解释为EOP的特殊情况。在这方面，我们的工作作为一个统一的道德框架，理解现有的算法公平性的概念。最重要的是，这个框架使我们能够明确地阐明每一个公平概念背后的道德假设，并以新的眼光解释最近的公平不可能性结果。最后但并非最不重要的启发运气平等主义模型的EOP，我们提出了一个新的家庭的措施算法公平性。我们说明了我们的建议经验，并表明，采用算法（不）公平的措施时，其基本的道德假设不满意，可能会对弱势群体的福利产生毁灭性的后果。
2018-11-27 cs.LG econ.TH stat.ML
Is calibration a fairness requirement? An argument from the point of view of moral philosophy and decision theory
Politecnico di Milano（米兰理工大学）；Zurich University of Applied Sciences（苏黎世应用科学大学）
在本文中，我们对机器学习文献中争论的两个统计公平性标准进行了道德分析：1）组间校准和2）组间假阳性率和假阴性率相等。在我们的论文中，我们专注于支持这两种措施的道德论据。群体校准与假阳性和假阴性率平等之间的冲突是从业者之间关于群体公平性定义争论的核心问题之一。对于任何彻底的道德分析，公平一词的含义必须明确和适当定义。在我们的论文中，我们将公平等同于（非）歧视，这是对群体公平讨论的合理理解。更具体地说，我们把它等同于表面上的错误歧视，就像Lippert-Rasmussen教授在处理这一定义时所使用的那样。在本文中，我们认为，违反团体校准可能是不公平的，在某些情况下，但在其他人不公平。这与文献中已经提出的主张一致，即算法公平性应该以对上下文敏感的方式定义。最重要的实际含义是，基于公平性要求组间校准或假阳性/假阴性率相等的例子的论点并不普遍。因为在一种情况下，群体校准可能是公平的要求，但在另一种情况下则不是。
2022-06-19 cs.CY cs.LG
Fairness over Equality: Correcting Social Incentives in Asymmetric Sequential Social Dilemmas
Izmir University of Economics \& University of Edinburgh（伊兹密大学经济学院及爱丁堡大学）；Middle East Technical University \& Utrecht University（中东部技术大学及乌得勒支大学）；University of Edinburgh（爱丁堡大学）；DeepFlow
本文提出改进方法，通过重新定义公平性、引入基于代理的加权机制和本地化反馈，以解决不对称序列社会困境中的合作问题。
2026-02-17 cs.LG
The Unfairness of Fair Machine Learning: Levelling down and strict egalitarianism by default
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究所）；Amazon Web Services（亚马逊云服务）
近年来，机器学习（ML）中的公平性已经成为研究和开发的一个高度活跃的领域。大多数人对公平的定义很简单，公平意味着减少人口群体之间在业绩或成果方面的差距，同时尽可能保持原始系统的准确性。这种通过公平措施实现平等的过度简单化令人不安。许多当前的公平措施都遭受公平和性能退化，或“拉平”，其中公平是通过使每个群体的情况更糟，或通过将表现较好的群体降低到最差水平来实现的。当公平只能通过伤害耻辱、失去团结、不平等的关注和错过实质性平等的机会，使每个人在物质或关系方面变得更糟来实现时，在将模糊的“公平”概念转化为实践方面似乎出了问题。本文探讨了在fairML中降低水平的原因和普遍性，并基于平等和分配正义的哲学和法律理论以及平等法法理学探讨了可能的理由和批评。我们发现，fairML目前没有进行必要的测量、报告或分析，以证明在实践中降低水平的合理性。我们提出了在fairML中实现实质性平等的第一步：通过执行最低可接受伤害阈值或“最低速率约束”作为公平约束，通过设计来“升级”系统。我们同样提出了一个替代的基于伤害的框架，以对抗目前在该领域占主导地位的过于简化的平等主义框架，并推动未来的讨论更多地走向实质性的平等机会，远离严格的平等主义默认。N.B.摘要缩短，完整摘要见论文。
2023-03-12 cs.AI cs.LG
Fairness GAN
IBM Research（IBM研究院）
在本文中，我们介绍了公平性GAN，一种方法，用于生成一个数据集，这是类似于一个给定的多媒体数据集，但更公平的分配决策中的保护属性。我们提出了一种新的辅助分类器GAN，它致力于人口统计学上的均等或机会均等，并在几个数据集上显示了实证结果，包括CelebFaces属性（CelebA）数据集，Quick，Draw！数据集，以及足球运动员图像和他们被要求的罪行的数据集。所提出的公式非常适合吸收未标记的数据;我们利用这一点来用更大的CelebA数据集来增强足球数据集。这种方法往往改善人口均等和机会均等，同时产生可信的形象。
2018-05-24 cs.CY cs.LG stat.ML
How Do Fair Decisions Fare in Long-term Qualification?
University of Michigan（密歇根大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
虽然为决策提出了许多公平标准，但其对人口福祉的长期影响仍不清楚。在这项工作中，我们研究了部分观察马尔可夫决策问题设置下的人口资格和算法决策的动态。通过描述这种动态的均衡，我们分析了静态公平约束对平等和改善群体福祉的长期影响。我们的研究结果表明，静态公平性约束可以促进平等或加剧差距，这取决于资格转换的驱动因素和敏感属性对特征分布的影响。我们还考虑了可能的干预措施，可以有效地提高组资格或促进组资格的平等。我们的理论结果和实验上的静态现实世界的数据集与模拟动力学表明，我们的框架可以用来促进社会科学研究。
2020-10-21 cs.CY cs.LG
From Fair Decision Making to Social Equality
American University of Beirut（贝鲁特美国大学）；Toyota Technological Institute at Chicago（芝加哥丰田理工学院）
智能决策系统中的公平性研究大多忽略了对底层群体的长期影响。然而，公平方面的考虑（例如扶持行动）往往隐含着实现人口中各群体之间平衡的目标。平衡的最基本概念是各群体资格之间的最终平等。我们如何将影响力动态纳入决策？动态遗忘公平政策在实现平等方面表现如何？在本文中，我们提出了一个简单而揭示模型，其中包括（1）一个选择过程中，一个机构从多个群体中选择，根据他们的资格，以最大限度地提高制度效用和（2）动态管理的演变集团的资格，根据强加的政策。我们把人口均等作为平权行动的形式。然后，我们给出了条件下，一个不受约束的政策达到平等的本身。在这种情况下，令人惊讶的是，强制实行人口均等可能会打破平等。当它不，人们会期望额外的约束，以减少效用，然而，我们表明，效用实际上可能会增加。在更现实的场景中，不受约束的策略不会导致平等。在这种情况下，我们表明，虽然实施人口均等可能会弥补这一点，有一个危险，群体解决在一套更差的资格。作为一线希望，我们还确定了约束何时不仅会导致平等，而且会改善所有群体。这为失配假说的两个方面提供了可量化的见解。这些案例和权衡有助于确定何时以及如何在选拔过程中实行人口均等，从长远来看，对机构和社会都是有益的。
2020-02-27 cs.CY cs.LG stat.ML
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
准确性和个体公平性对于可信的机器学习都是至关重要的，但这两个方面往往是相互不兼容的，因此增强一个方面可能会不可避免地牺牲另一个方面，从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准，准确的公平性，个人的公平性与准确性。非正式地说，它要求个人和个人的类似对应方的待遇符合统一的目标，即，个人的基本事实我们证明，准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后，我们提出了一个暹罗公平处理方法，以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知，这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标，公平精度，公平召回，公平F1得分，量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明，我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%，真实公平率提高10.09%~ 20.57%，公平F1分提高5.43%~ 10.01%，最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后，应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视，平均公平地服务于比基线模型多112.33%的客户（具体地说，以精确公平的方式多81.29%的客户）。
2022-11-30 cs.CY cs.LG
Review of Mathematical frameworks for Fairness in Machine Learning
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université de Toulouse 3（图卢兹第三大学）；Instituto de Matemáticas de la Universidad de Valladolid（巴利亚多利德大学数学研究所）；Universidad de Valladolid（巴利亚多利德大学）
从数学的角度对近年来文献中提出的主要公平性定义和公平学习方法进行了综述。根据我们的独立性为基础的方法，我们考虑如何建立公平的算法，其性能下降的后果相比，可能不公平的情况下。这对应于由准则$\textit{statistical parity}$或$\textit{equality of odds}$给出的公平性价格。给出了$\textit{equality of odds}$意义下的最佳公平分类器和最佳公平预测器（线性回归高斯模型下）的表达式。
2020-05-26 cs.LG stat.ML
Achieving Fairness via Post-Processing in Web-Scale Recommender Systems
LinkedIn Corp.（领英公司）
由于其对社会的巨大影响，建立公平的推荐系统是一个具有挑战性和关键性的研究领域。我们扩展了两个普遍接受的公平性概念的定义，推荐系统，即机会均等和均等化的赔率。这些公平措施确保同等“合格”（或“不合格”）的候选人得到平等对待，而不论其受保护的属性状态（如性别或种族）如何。我们提出了可扩展的方法来实现平等的机会和均衡的赔率排名中存在的位置偏差，这通常困扰推荐系统生成的数据。我们的算法是模型不可知的，因为它们只依赖于模型提供的最终分数，这使得它们很容易适用于几乎所有的网络规模的推荐系统。我们进行了广泛的模拟以及现实世界的实验，以显示我们的方法的有效性。
2022-08-11 cs.LG stat.ME stat.ML
Equality before the Law: Legal Judgment Consistency Analysis for Fairness
Tsinghua University（清华大学）；Beijing Powerlaw Intelligent Technology Co., Ltd.（北京幂律智能科技有限公司）
在一个法律体系中，判决的一致性被认为是公平的最重要表现之一。然而，由于在现实世界中影响量刑的事实因素的复杂性，很少有工作已经做了定量测量的判断一致性对现实世界的数据。在本文中，我们提出了一个判断不一致性的评估指标，法律不一致系数（LInCo），旨在评估按特定特征划分的数据组之间的不一致性（例如，性别、地区、种族）。我们建议模拟法官从不同的群体与法律判断预测（LJP）模型和测量的司法不一致性的判决结果的分歧LJP模型训练在不同的群体。合成数据的实验结果验证了LInCo的有效性。我们进一步使用LInCo来探讨真实案例中的不一致性，并得出以下结论：（1）法律制度中存在区域和性别不一致，但性别不一致性远远小于区域不一致性;（2）区域不一致性的水平在不同时期变化不大;（3）总体而言，司法不一致性与刑事指控的严重程度呈负相关。此外，我们使用LInCo来评估几种去偏置方法的性能，如对抗学习，发现这些机制可以有效地帮助LJP模型避免遭受数据偏差。
2021-03-25 cs.AI cs.CL cs.LG
Properties of fairness measures in the context of varying class imbalance and protected group ratios
Institute of Computing Science, Poznan University of Technology（波兹南理工大学计算科学学院）
本文研究类别不平衡与受保护群体比例变化下公平性度量的一般性质，分析六种流行度量的概率质量函数，发现机会均等和阳性预测均等对类别不平衡更敏感，为选择合适公平性度量提供指导。
2025-02-26 cs.CY cs.LG
Equality of opportunity in travel behavior prediction with deep neural networks and discrete choice models
Massachusetts Institute of Technology（麻省理工学院）
尽管研究人员越来越多地采用机器学习来建模旅行行为，但他们主要关注预测准确性，忽视了机器学习算法中嵌入的伦理挑战。本研究引入了一个重要的缺失维度-计算公平性-旅游行为分析。我们首先通过机会均等将计算公平性操作化，然后区分数据中固有的偏见和建模引入的偏见。然后，我们使用2017年全国家庭旅行调查（NHTS）和2018-2019年我在芝加哥的每日旅行调查来展示旅行行为建模的预测差异。从实证上看，深度神经网络和离散选择模型（DCM）在多个社会群体中表现出一致的预测差异：对少数民族、低收入人群和残疾人群体的频繁驾驶的假阴性率都有过高的预测，而对社会弱势群体和农村人口的出行负担都有过高的预测。比较DNN和DCM，我们发现DNN在预测差异方面优于DCM，因为DNN的误指定误差更小。为了减轻预测差异，本研究引入了绝对相关正则化方法，该方法用合成和真实世界的数据进行评估。结果表明，在旅行行为建模中预测差异的普遍性，并且差异仍然存在于各种模型细节中，例如DNN层的数量，批量大小和权重初始化。由于这些预测差异，如果没有公平调整的预测结果用于交通政策制定，会加剧社会不公平，我们主张认真考虑公平问题的出行行为建模，并使用偏见缓解算法公平的交通决策。
2021-09-25 cs.LG stat.AP stat.ML
Emergent Unfairness in Algorithmic Fairness-Accuracy Trade-Off Research
Cornell University（康奈尔大学）
在机器学习（ML）的子学科中，研究人员做出明确的数学假设，以便于证明写作。我们注意到，特别是在公平性-准确性权衡优化奖学金领域，类似的注意力并没有支付给这种方法的基础规范性假设。这些假设假定：1）准确性和公平性是内在对立的; 2）严格的数学等式概念可以充分模拟公平性; 3）可以独立于历史背景来衡量决策的准确性和公平性; 4）收集更多关于边缘化个体的数据是减轻权衡影响的合理解决方案。我们认为，这些假设，这往往是隐含的和未经检验的，导致不一致的结论：虽然这项工作的预期目标可能是提高机器学习模型的公平性，这些未经检验的，隐含的假设实际上可能导致紧急不公平。最后，我们提出了实现潜在解决方案的具体途径。
2021-09-07 cs.AI cs.CY cs.LG
Group Fairness in Prediction-Based Decision Making: From Moral Assessment to Implementation
University of Zurich（苏黎世大学）；Zurich University of Applied Sciences（苏黎世应用科学大学）
确保基于预测的决策的公平性是基于统计组公平性标准。这些标准中哪一个在道德上是最合适的取决于上下文，它的选择需要伦理分析。在本文中，我们提出了一个逐步的过程，集成了三个要素：（a）根据最近提出的“公平机会均等”的一般原则，对特定情况下公平的含义进行道德评估的框架;（b）将评估结果与既定统计群体公平标准相对应，以及（c）一种用于将如此定义的公平性集成到最优决策中的方法。作为第二个贡献，我们展示了FEC原则的新应用，并表明，通过这种扩展，FEC框架涵盖了所有类型的组公平性标准：独立性，分离性和充分性。第三，我们引入了FEC原则的扩展版本，它还允许考虑公平性评估中与道德无关的元素，并链接到众所周知的公平性标准放宽。本文提出了一个框架，开发公平的决策系统在一个概念上健全的方式，结合道德和计算元素的公平预测为基础的决策在一个综合的方法。复制我们结果的数据和代码可在https://github.com/joebaumann/fair-prediction-based-decision-making上获得。
2022-10-19 cs.CY cs.LG
Decoding Demographic un-fairness from Indian Names
Indian Institute of Technology（印度理工学院）
人口统计分类在推荐系统的公平性评估或在线网络和投票系统中的非故意偏见测量中至关重要。教育和政治等重要领域往往为社会平等的未来奠定基础，需要仔细审查，以制定政策，更好地促进受国内人口分布不平衡制约的资源分配平等。我们收集了三个公开的数据集，训练国家的最先进的分类器在性别和种姓分类领域。我们在印度上下文中训练模型，在印度，相同的名字可以有不同的样式约定（Jolly Abraham/Kumar Abhishikta在一个州可能被写为Abraham Jolly/Abishikta Kumar）。最后，我们还进行了交叉测试（在不同数据集上进行训练和测试），以了解上述模型的有效性。我们还对预测模型进行了误差分析。最后，我们试图评估现有的印度系统的偏见作为案例研究，并发现一些有趣的模式，表现在复杂的人口布局的次大陆在性别和种姓的尺寸。
2022-09-07 cs.CL cs.CY cs.DL
What is Fair? Exploring Pareto-Efficiency for Fairness Constrained Classifiers
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）；Google AI（谷歌人工智能）
学习模型放大现有社会偏见的潜力已得到广泛认可。公平感知分类器约束，它适用于在敏感属性（如种族和性别）上定义的子组之间的性能的平等度量，试图纠正不公平，但可能会产生不均匀的性能下降偏斜的数据集。在某些领域，不平衡的性能下降可能会产生另一种形式的无意偏见。本着构建公平意识算法作为社会当务之急的精神，我们探索了一种替代方案：帕累托有效公平（PEF）。从理论上讲，我们证明了PEF确定的帕累托曲线上的分组性能最接近的公平超平面，最大限度地提高多个子群的准确性的操作点。从经验上讲，我们证明，PEF优于实现帕累托水平的准确性相比，严格的公平性约束，在几个UCI数据集的所有子组。
2019-10-30 cs.LG stat.ML
MMM-fair: An Interactive Toolkit for Exploring and Operationalizing Multi-Fairness Trade-offs
University of the Bundeswehr（德国联邦国防军大学）；Free University Berlin（柏林自由大学）
本文介绍mmm-fair，一个开源交互式工具包，通过提升集成方法实现多目标优化，联合最小化分类错误与公平性违规，支持无代码界面、LLM解释和帕累托探索，以探索和操作多公平性权衡。
2025-09-09 cs.CY cs.LG
An Experimental Study on Fairness-aware Machine Learning for Credit Scoring Problems
Banking Academy of Vietnam（越南银行学院）；Vietnam Academy of Science and Technology（越南科学技术 academy）；Hanoi University of Science and Technology（河内科学技术大学）；University of Koblenz（科隆大学）
本文研究信用评分中公平性意识机器学习的关键方面，评估公平性模型与传统分类模型的平衡性，发现公平性模型在预测准确性和公平性间取得更好平衡。
2026-03-05 cs.CY cs.LG stat.ML
Achieving Fairness through Adversarial Learning: an Application to Recidivism Prediction
Stanford University（斯坦福大学）
累犯预测分数在美国各地被用来确定对数十万囚犯的判刑和监督。一个这样的累犯预测分数的生成器是Northpointe的替代制裁的惩教罪犯管理分析（COMPAS）分数，在加利福尼亚州和佛罗里达州等州使用，根据某些公平措施，过去的研究表明对黑人囚犯有偏见。为了抵消这种种族偏见，我们提出了一个对抗训练的神经网络，预测累犯和训练，以消除种族偏见。当将我们的模型结果与COMPAS进行比较时，我们获得了预测准确性，并更接近实现三个公平性指标中的两个：奇偶性和赔率相等。我们的模型可以推广到任何预测和人口统计。这项研究为在高风险的现实世界应用（如累犯预测）中进行科学复制和简化提供了一个例子。
2018-06-30 cs.LG stat.ML
Reinforcement Learning for Fair Dynamic Pricing
BBVA Data and Analytics（BBVA数据与分析（公司））
不公平的定价政策已被证明是客户对定价最负面的看法之一，并可能导致公司的长期损失。尽管动态定价模型有助于公司实现收入最大化，但应考虑公平和平等，以避免客户群体之间的不公平价格差异。本文展示了如何通过使用强化学习（RL）技术来解决动态定价问题，以便在保持收入和公平性之间平衡的同时使价格最大化。我们证明，RL提供了两个主要功能，以支持动态定价的公平性：一方面，RL是能够从最近的经验，适应复杂的市场环境的定价政策;另一方面，它提供了一个权衡短期和长期目标，从而将公平性集成到模型的核心。考虑到这两个特点，我们提出了RL的收入优化的应用程序，与公平性的额外整合作为学习过程的一部分，通过使用Jain的指数作为度量。模拟环境中的结果显示，公平性有了显着改善，同时保持了收入的优化。
2018-03-27 cs.AI cs.LG stat.ML
The Equity Framework: Fairness Beyond Equalized Predictive Outcomes
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；University of California at Irvine（加州大学欧文分校）
机器学习（ML）决策算法现在被广泛用于预测决策，例如，确定谁可以录取和贷款。它们的广泛使用和对个人的影响导致ML社区质疑并关注算法如何不同地影响不同的人和社区。在本文中，我们研究的公平性问题时出现的决策者使用的模型（代理模型），偏离模型，描绘的物理和社会环境中的决策（预期模型）。我们还强调了障碍对个人访问和利用模型的影响。为此，我们制定了一个公平框架，该框架考虑了平等进入模型，平等的模型结果，平等地利用模型，从而实现公平和比目前以平等为目标的公平概念更高的社会福利。我们展示了框架的三个主要方面是如何联系在一起的，并提供了一个公平的评分算法和问题，以指导决策者对公平的决策。我们展示了如何不考虑访问，结果和利用将加剧代理差距，导致无限的不公平循环，通过不准确和不完整的地面真相策展加强结构性不平等。因此，我们建议更严格地审视模型设计及其对公平的影响，并转向公平实现预测决策模型。
2022-04-18 cs.AI cs.CY cs.LG
Are Your Reviewers Being Treated Equally? Discovering Subgroup Structures to Improve Fairness in Spam Detection
Lehigh University（利哈伊大学）；BUPT（北京邮电大学）
本文研究垃圾邮件检测中不同评论者群体间的公平性问题，提出利用评论图中的隐藏子群结构来校准检测准确率，并在Yelp数据集上验证了方法的有效性。
2023-05-05 cs.LG
Deep Unsupervised Learning for Generalized Assignment Problems: A Case-Study of User-Association in Wireless Networks
Lassonde School of Engineering at York University（约克大学拉松德工程学院）；Thompson Rivers University（汤普森河大学）
在无线通信领域中存在着许多资源分配问题，这些问题可以用广义分配问题（GAP）来表示。GAP是线性和分配问题（LSAP）的一种一般形式，由于等式和不等式约束的存在，其求解更具挑战性。我们提出了一种新的深度无监督学习（DUL）方法，以节省时间的方式解决GAP。更具体地说，我们提出了一种新的方法，便于训练深度神经网络（DNN）使用定制的损失函数。这种定制的损失函数构成了目标函数和对应于等式和不等式约束的惩罚项。此外，我们建议在DNN的输出处使用Softmax激活函数以及张量分裂，这简化了定制的损失函数并保证满足等式约束。作为一个案例研究，我们考虑了一个典型的用户关联问题在无线网络中，制定它作为GAP，并因此解决它使用我们提出的DUL方法。数值结果表明，所提出的DUL方法提供了接近最优的结果，显着降低时间复杂度。
2021-03-26 cs.LG eess.SP
Fairness in TabNet Model by Disentangled Representation for the Prediction of Hospital No-Show
Qatar Computing Research Institute（卡塔尔计算研究所）；University of Gabes（加贝斯大学）；Sidra Medicine（西德拉医院）
病人不出现是卫生中心的主要负担，导致收入损失，增加等待时间和健康结果恶化。开发机器学习（ML）模型来预测不出现的情况可能有助于解决这个重要问题。为了确保获得医疗服务的机会平等，考虑使用公平的ML模型进行未出现预测至关重要。在这项工作中，我们感兴趣的是开发基于表格数据的深度学习模型，用于在确保公平性的同时进行未出现预测。我们的基线模型TabNet使用了细心的特征变换，并在表格数据上显示出了有希望的结果。我们提出了基于表示学习的Fair-TabNet，它将预测性与敏感性成分分离开来。该模型被训练为联合最小化未显示和敏感变量的损失函数，同时确保敏感和预测表示正交。在实验分析中，我们使用了2019年收集的210，000个预约的医院数据集。我们的初步结果表明，建议公平TabNet提高了预测，公平性和收敛速度TabNet的预约未出现预测的任务。与最先进的表格数据模型的比较显示出有希望的结果，并可以通过更好地调整超参数来进一步改进。
2021-03-06 cs.LG
FairlyUncertain: A Comprehensive Benchmark of Uncertainty in Algorithmic Fairness
New York University（纽约大学）
本文提出 FairlyUncertain 公理化基准，系统评估公平性中的不确定性估计，发现二分类中简单方法更一致且校准良好、弃权（不执行）无法缓解群体结果不平衡，而回归中纳入校准不确定性可无需显式干预即改善公平性。
2024-10-02 cs.LG stat.ML
Preventing Fairness Gerrymandering: Auditing and Learning for Subgroup Fairness
University of Pennsylvania（宾夕法尼亚大学）；Microsoft Research-New York City（微软研究院（纽约市））
机器学习中最流行的公平性概念是统计定义：它们固定一小部分预定义的组，然后要求分类器的某些统计数据在这些组中的奇偶性。这种形式的约束容易受到有意或无意的“公平选区划分”的影响，其中分类器似乎对每个单独的组是公平的，但严重违反了在受保护属性上定义的一个或多个结构化子组上的公平约束。我们建议，而不是要求统计概念的公平性指数（或无限）许多子群，定义了一个结构化的功能类的保护属性。这插入公平的统计定义和最近提出的个人公平的概念之间，但提出了一些计算上的挑战。如何审计一个固定的分类器，看看它是否满足这样一个强定义的公平性，现在已经不清楚了。我们证明了审计子群公平性的计算问题的误报率和统计奇偶性的平等是等价的弱不可知学习的问题，这意味着它是计算困难的最坏情况下，即使是简单的结构子类。然后，我们推导出两个算法，可证明收敛到最好的公平分类，访问神谕，可以解决不可知的学习问题。该算法的基础上制定的分组公平性作为一个两个球员之间的零和游戏的学习者和审计员。我们的第一个算法可证明收敛在一个多项式的步骤。我们的第二个算法只具有可证明的渐近收敛性，但具有简单和更快的每步计算的优点。我们使用线性回归作为启发式预言实现了更简单的算法，并表明我们可以有效地审计和学习真实数据集上的公平分类器。
2018-12-03 cs.DS cs.GT cs.LG
On the impossibility of non-trivial accuracy under fairness constraints
Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；CentraleSupélec（中央理工-高等电力学院）；Université Paris-Saclay（巴黎萨克雷大学）；École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）
关于机器学习（ML）中公平性的主要担忧之一是，为了实现它，人们可能不得不牺牲一些准确性。为了克服这个问题，Hardt等人提出了机会均等（EO）的概念，当目标标签相对于输入特征是确定性的时，该概念与最大准确度兼容。然而，在概率的情况下，问题更复杂：已经表明，在差分隐私约束下，存在仅在完全损害准确性的情况下才能实现EO的数据源，在这个意义上，满足EO的分类器不能比平凡的分类器更准确（即，常数）分类器。在我们的论文中，我们加强了这一结果，删除隐私约束。也就是说，我们表明，对于某些数据源，最准确的分类，满足EO是一个平凡的分类。此外，我们研究了精度和EO损失（机会差）之间的权衡，并提供了一个充分条件下的数据源EO和非平凡的精度是兼容的。
2021-11-23 cs.CR cs.LG
seeBias: A Comprehensive Tool for Assessing and Visualizing AI Fairness
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；National University of Singapore（新加坡国立大学）；NUS Artificial Intelligence Institute（新加坡国立大学人工智能研究院）
本文提出 seeBias R 包，通过整合分类、校准等多维度评估与可视化，弥补现有公平性工具忽视校准等关键方面的不足，并在刑事司法和医疗数据上验证其能发现传统指标遗漏的差异。
2025-04-11 cs.AI cs.LG
Achieving Group Fairness through Independence in Predictive Process Monitoring
Research Center for Information Systems Engineering (LIRIS)（信息系统工程研究中心（LIRIS））；KU Leuven（根特大学）
本研究通过确保预测不受敏感群体成员身份影响的独立性，解决预测性过程监控中的群体公平性问题，提出结合二元交叉熵和Wasserstein分布损失的复合损失函数，在受控实验中有效平衡了预测性能与公平性。
2025-04-28 cs.LG stat.ML
