Testing Group Fairness via Optimal Transport Projections
Stanford University（斯坦福大学）；Singapore University of Technology and Design（新加坡科技设计大学）；VinAI Research（VinAI研究院）
我们提出了一个统计测试框架来检测给定的机器学习分类器是否无法满足广泛的组公平性概念。所提出的测试是一种灵活的，可解释的，统计上严格的工具，用于审计是否表现出的偏见是固有的算法或由于数据的随机性。统计的挑战，这可能会出现从多个影响标准，定义组公平性和模型参数是不连续的，方便地解决了投影的经验措施组公平的概率模型，使用最佳运输。这个统计量是有效地计算使用线性规划和它的渐近分布明确获得。该框架还可以用于测试复合公平性假设和多敏感属性的公平性。最佳的运输测试配方，提高了可解释性的特点，最小的协变量扰动，消除了在审计中观察到的偏见。
2021-06-02 cs.CY cs.LG math.ST
Everything is Relative: Understanding Fairness with Optimal Transport
Brown University（布朗大学）；University of Rhode Island（罗德岛大学）
为了研究自动决策系统中的歧视，学者们提出了几种公平的定义，每一种都表达了不同的公平理想。这些定义要求从业人员就采用哪种概念做出复杂的决定，而且往往难以在实践中使用，因为它们对系统是否公平做出二元判断，而不是解释所发现的不公平的结构。我们提出了一个最佳的运输为基础的公平性，提供了一个可解释的和可量化的探索偏见及其结构，通过比较一对结果彼此。在这项工作中，我们使用的最佳运输地图来检查个人，子群和组的公平性。我们的框架能够恢复众所周知的算法歧视的例子，当其他指标失败时检测不公平，并探索追索机会。
2021-02-20 cs.CY cs.LG
Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Aix Marseille Univ, CNRS, AMSE（艾克斯-马赛大学、国家科学研究中心、AMSE）；CNRS - Université de Montréal（国家科学研究中心-蒙特利尔大学）
本文结合因果图适配与最优传输，将Knothe重排和三角传输扩展至概率图模型，提出序列传输方法以探讨个体层面的反事实公平性，并通过数值实验验证其应用。
2025-04-28 cs.LG stat.ME
Fairness Through Matching
Seoul National University（首尔大学）；University of Twente（特文特大学）；Samsung Research（三星研究院）；Pohang University of Science and Technology (POSTECH)（浦项科技大学）；School of Law Seoul National University（首尔大学法学院）；Interdisciplinary Program in Artificial Intelligence Seoul National University（首尔大学人工智能跨学科项目）
本文揭示群体公平模型隐含跨群体输入传输映射，提出匹配人口统计公平 MDP 及 FTM 算法，可借助用户指定的最优传输映射学习具有理想性质的公平模型。
2025-01-06 cs.AI cs.LG stat.ML
All of the Fairness for Edge Prediction with Optimal Transport
Univ Lyon（里昂大学）；UJM-Saint-Etienne（圣艾蒂安大学）；CNRS（法国国家科学研究中心）；Institut d’Optique Graduate School（法国高等光学研究所）；Laboratoire Hubert Curien UMR 5516（于贝尔·居里安实验室）
最近，机器学习和数据采掘算法越来越多地用于支持医疗保健、教育或安全等许多具有高度社会重要性的领域的决策系统。虽然在预测能力方面非常有效，但部署的算法有时倾向于学习具有歧视性偏见的归纳模型，因为后者在学习样本中存在。这个问题产生了一个新的领域的算法公平性，其目标是纠正歧视性偏见引入的某一属性，以解相关模型的输出。在本文中，我们研究的公平性问题的边缘预测任务的图形，一个在很大程度上未被充分研究的情况下相比，一个更流行的设置公平分类。为此，我们制定了公平的边缘预测的问题，从理论上分析它，并提出了一个嵌入不可知的修复程序的邻接矩阵的任意图之间的权衡组和个人的公平性。我们的实验表明，我们的方法的多功能性和它的能力，以提供明确的控制不同的公平性和预测精度的概念。
2020-10-30 cs.AI cs.LG stat.ML
FairPOT: Balancing AUC Performance and Fairness with Proportional Optimal Transport
本文提出与模型无关的后处理框架FairPOT，利用最优传输选择性地转换劣势群体中可控比例的风险分数，有效平衡了高风险领域中AUC性能与公平性，并在全局和部分AUC场景下优于现有方法。
2025-08-12 cs.AI cs.CY cs.LG
Pairwise Fairness for Ranking and Regression
Google Research（谷歌研究院）
我们提出了成对的公平性指标的排名模型和回归模型，形成类似的统计公平的概念，如平等的机会，平等的准确性，统计奇偶性。我们的成对公式支持离散保护组和连续保护属性。我们表明，由此产生的训练问题，可以有效地解决现有的约束优化和强大的优化技术开发的公平分类。实验说明了这些方法的广泛适用性和权衡。
2020-01-07 cs.LG stat.ML
Demographic Parity Tails for Regression
本文提出一种关注敏感群体目标分布尾部的回归方法，通过最优传输理论实现更精细的公平干预，提供理论保障和实验验证。
2026-04-02 cs.LG stat.ML
Fairness Explainability using Optimal Transport with Applications in Image Classification
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Université de Montréal（蒙特利尔大学）
本文提出一种基于最优传输理论的综合方法，利用Wasserstein重心实现公平预测并定位偏见相关区域，从而在图像分类中解释模型偏见的成因并衡量各特征对偏见的影响。
2023-10-31 cs.CV cs.LG stat.AP
Counterfactually Fair Regression via Optimal Transport
Inria, Soda team（Inria，Soda团队）；Inria, FairPlay joint team（Inria，FairPlay联合团队）；CREST, ENSAE, IP Paris（CREST，ENSAE，IP巴黎）；CMAP, CNRS, Ecole Polytechnique, Institut Polytechnique de Paris（CMAP，CNRS，Polytechnique学院，巴黎理工学院）
本文采用因果不确定性视角，通过重采样噪声定义反事实公平性，提出基于最优传输的后处理估计器，并证明其有限样本公平性保证和风险界。
2026-05-27 cs.CY cs.LG stat.ML
EquiPy: Sequential Fairness using Optimal Transport in Python
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；ENSAE Institut Polytechnique Paris（巴黎综合理工学院经济统计学院）；Milliman（米勒曼公司）
本文推出开源 Python 包 EquiPy，基于最优传输理论将多敏感变量公平性问题分解求解，提供模型无关、可视化可解释的偏见缓解工具，并在美国人口普查数据上验证。
2025-03-12 cs.LG
Overcoming Representation Bias in Fairness-Aware data Repair using Optimal Transport
Dyson School of Design Engineering, Imperial College London（帝国理工学院伦敦分校设计工程学院）；Department of Electronic and Electrical Engineering, Trinity College Dublin（都柏林信任学院电子与电气工程系）
本文提出了一种基于贝叶斯非参数停止规则的方法，用于克服公平性感知数据修复中的表示偏差问题，通过优化传输操作符修复存档数据。
2024-10-03 cs.CY cs.LG math.ST
Projection to Fairness in Statistical Learning
Massachusetts Institute of Technology（麻省理工学院）；University Toulouse 3（图卢兹第三大学）
在回归的背景下，我们考虑的基本问题是使估计公平，同时尽可能保持其预测精度。为此，我们将其对公平性的投影定义为反映预测准确性的最接近公平估计量。我们的方法利用最优运输工具来有效地构建任何给定估计量的公平性投影，作为一个简单的后处理步骤。此外，我们的方法精确地量化了公平性的成本，以预测准确性衡量。
2020-06-25 cs.LG math.ST stat.ML
Conformalized Fairness via Quantile Regression
University of Alberta（阿尔伯塔大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在社会敏感领域，公平性越来越受到关注。虽然已经建立了丰富的文献平均公平，分位数公平的研究仍然稀少，但至关重要。为了满足巨大的需求，并倡导分位数公平的意义，我们提出了一种新的框架来学习一个实值分位数函数的公平性要求下的人口奇偶性的敏感属性，如种族或性别，从而获得一个可靠的公平预测区间。使用最优传输和功能同步技术，我们建立了理论保证的分布免费覆盖和公平分位数构造的诱导预测区间的精确公平性。提供了一个动手流水线，以将灵活的分位数回归与有效的公平性调整后处理算法相结合。我们在几个基准数据集上证明了这种方法的优越经验性能。我们的研究结果表明，该模型能够揭示在广泛的社会和医疗应用中公平性-准确性权衡的机制。
2022-10-14 cs.CY cs.LG stat.ML
Optimal Transport for Fairness: Archival Data Repair using Small Research Data Sets
Dyson School of Design Engineering, Imperial College London（伦敦帝国理工学院戴森设计工程学院）；Department of Electronic and Electrical Engineering, Trinity College Dublin（都柏林圣三一学院电子与电气工程系）
本文针对法规要求下训练数据的不公平性修复问题，将公平性定义为条件独立性，提出利用小规模带标签研究数据设计基于最优传输的修复方案，在平稳性假设下高效修复大量样本外档案数据，并显著降低计算成本，实验证明该方法能有效消除条件依赖。
2024-03-20 cs.CY cs.LG math.ST
Group-Fair Online Allocation in Continuous Time
The Ohio State University（俄亥俄州立大学）；Georgia Institute of Technology（佐治亚理工学院）
离散时间在线学习理论已成功地应用于许多不确定性条件下的序贯决策问题。然而，在许多应用中，包括在线自由职业者平台中的合同雇佣和云计算系统中的服务器分配，每个动作的结果仅在随机和动作相关的时间之后被观察到。此外，由于某些伦理和经济方面的考虑，控制器可能会对每个任务的完成施加最后期限，并要求在总时间预算$B$的分配中跨不同组的公平性。为了解决这些应用，我们考虑了连续时间在线学习问题的公平性考虑，并提出了一种新的框架的基础上连续时间效用最大化。我们发现，这个配方恢复奖励最大化，最大最小公平和按比例公平分配规则在不同的群体作为特殊情况。我们描述了最优离线策略，该策略以最优公平的方式（由效用函数定义）分配不同动作之间的总时间，并施加最后期限以最大限度地提高时间效率。在没有任何统计知识的情况下，我们提出了一种新的在线学习算法的时间平均值的双上升优化的基础上，并证明了它达到$\tilde{O}(B^{-1/2})$遗憾界。
2020-07-23 cs.LG stat.ML
Geometry of Relaxed Fair Regression: A Unified Framework for Aware and Unaware Settings
Inria, Soda team（Inria，Soda团队）；CREST, ENSAE, IP Paris（CREST，ENSAE，IP巴黎）；Inria, Fairplay joint team（Inria，Fairplay联合团队）；CMAP, CNRS, Ecole Polytechnique, Institut Polytechnique de Paris（CMAP，CNRS，Polytechnique学院，巴黎理工学院）
本文通过最优传输理论统一了感知与无感知设置下的公平回归问题，提出了基于Wasserstein-2和全变差惩罚的算法，在松弛公平约束下实现准确预测。
2026-11-02 cs.CY cs.LG stat.ML
Fairness in Machine Learning
University of Pisa（比萨大学）；DeepMind（深度思维）
基于机器学习的系统正在广泛应用于社会和日常生活的许多方面。这一现象伴随着对采用这些技术可能产生的道德问题的担忧。ML公平性是机器学习最近建立的一个领域，它研究如何确保数据和模型不准确性中的偏见不会导致模型基于种族、性别、残疾和性或政治取向等特征对个人不利。在这篇手稿中，我们讨论了目前关于公平的推理和处理方法中存在的一些局限性，并描述了作者为解决这些问题所做的一些工作。更具体地说，我们展示了因果贝叶斯网络如何在推理和处理公平性方面发挥重要作用，特别是在复杂的不公平场景中。我们描述了如何最优运输理论可以用来开发的方法，施加约束的完整形状的分布对应于不同的敏感属性，克服了大多数方法的限制，近似公平desiderata施加约束的低阶矩或其他功能的分布。我们提出了一个统一的框架，包括方法，可以处理不同的设置和公平标准，并享有强有力的理论保证。我们介绍了一种学习公平表示的方法，可以推广到看不见的任务。最后，我们描述了一种技术，占敏感属性的使用的法律限制。
2020-12-31 cs.CY cs.LG stat.ML
Explainable post-training bias mitigation with distribution-based fairness metrics
Discover Financial Services（Discover金融服务公司）
提出一种基于随机梯度下降的训练后偏差缓解框架，利用分布公平性约束高效生成人口统计学盲且可解释的模型，并设计可微全局公平性度量，在多数据集上验证了其有效性。
2025-10-29 cs.LG math.PR
Optimal Transport on Categorical Data for Counterfactuals using Compositional Data and Dirichlet Transport
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；CNRS - Université de Montréal（国家科学研究中心-蒙特利尔大学）；Aix Marseille Univ, CNRS, AMSE（阿维尼翁-马赛大学，国家科学研究中心，AMSE）
针对现有最优传输反事实方法难解释、类别变量传输难的问题，提出将类别变量转为成分数据并在$\text{R}^d$概率单纯形内传输的新方法，经真实数据验证有效，为反事实公平研究提供了新路径。
2025-05-20 cs.LG stat.ME
A Statistical Test for Probabilistic Fairness
EPFL（洛桑联邦理工学院）；Stanford University（斯坦福大学）
算法现在通常用于做出影响人类生活的重大决策。例子包括大学入学，医疗干预或执法。虽然算法使我们能够利用隐藏在大量数据中的所有信息，但它们可能会无意中放大现有数据集中的现有偏见。这种担忧引发了人们对公平机器学习的兴趣，该学习旨在量化和减轻算法歧视。事实上，机器学习模型应该在大规模部署之前进行密集测试，以检测算法偏差。在本文中，我们使用最优传输理论的思想，提出了一个统计假设检验检测不公平的分类。利用特征空间的几何形状，测试统计量量化测试样本上支持的经验分布到使预训练分类器公平的分布流形的距离。我们开发了一个严格的假设检验机制，用于评估任何预先训练的逻辑分类器的概率公平性，我们在理论上和经验上都表明，所提出的测试是渐进正确的。此外，所提出的框架提供了可解释性，通过识别数据的最有利的扰动，使给定的分类器变得公平。
2020-12-09 cs.CY cs.LG stat.ML
OptiGrad: A Fair and more Efficient Price Elasticity Optimization via a Gradient Based Learning
AXA Group Operations（安盛集团运营部）；Sorbonne Université（索邦大学）；Polish Academy of Science（波兰科学院）
针对非寿险定价中间接优化的误差、离散近似与公平性难题，本文提出OptiGrad，在连续费率空间中基于梯度直接优化并以对抗预测器嵌入DP公平约束，提升利润与公平表现。
2024-04-16 cs.AI cs.CY cs.LG
Unleashing Linear Optimizers for Group-Fair Learning and Optimization
Harvard University（哈佛大学）；Microsoft Research New England（微软新英格兰研究院）
大多数系统和学习算法优化平均性能或平均损失--一个原因是计算复杂性。然而，许多具有实际意义的目标比简单的平均损失更为复杂。例如，在平衡绩效或损失与人员公平性时，就会出现这种情况。我们证明，从计算的角度来看，优化任意的目标，考虑到性能在一个小数目的组是不是显着更难优化比平均性能。我们的主要结果是一个多项式时间的减少，使用线性优化器优化的任意（Lipschitz连续）功能的性能超过（恒定）数量的可能重叠的群体。这包括公平的目标，在少数群体，我们进一步指出，其他现有的公平概念，如个人公平，可以投凸优化，因此可以使用更标准的凸技术。除了学习，我们的方法更普遍地适用于多目标优化。
2018-06-04 cs.DS cs.LG stat.ML
Fair Regression under Sample Selection Bias
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
近年来，公平回归的研究主要集中在发展新的公平概念和近似方法，因为目标变量甚至敏感属性在回归设置中是连续的。然而，所有以前的公平回归研究假设训练数据和测试数据是从相同的分布。由于训练数据和测试数据之间的样本选择偏差，这一假设在现实世界中经常被违反。在本文中，我们开发了一个框架下的样本选择偏差的公平回归时，从训练数据的一组样本的因变量值丢失作为另一个隐藏的过程的结果。我们的框架采用了经典的Heckman模型的偏差校正和拉格朗日对偶，以实现公平的回归的基础上，各种公平的概念。Heckman模型描述了样本选择过程，并使用称为逆米尔斯比（IMR）的衍生变量来校正样本选择偏差。我们使用公平不等式和等式约束来描述各种公平概念，并应用拉格朗日对偶理论将原问题转化为对偶凸优化问题。对于两个流行的公平性概念，平均差和均方误差差，我们推导出明确的公式，无需迭代优化，和皮尔逊相关，我们推导出它的条件，实现强对偶。我们在三个真实世界的数据集上进行了实验，实验结果证明了该方法在效用和公平性指标方面的有效性。
2021-10-08 cs.AI cs.CY cs.LG
Standardized Interpretable Fairness Measures for Continuous Risk Scores
SCHUFA Holding AG（思楚法控股公司）
本文提出基于Wasserstein距离的连续分数标准化公平性度量，易于计算和解释群体差异，能比较不同模型或数据集间的偏差，并证明其优于基于ROC的度量。
2024-08-29 cs.AI cs.LG stat.ML
Exposing the Illusion of Fairness: Auditing Vulnerabilities to Distributional Manipulation Attacks
Institut de Mathématiques de Toulouse (IMT)（图卢兹数学研究所）；Institut national de recherche en sciences et technologies du numérique (INRIA)（国家数字科学与技术研究院）；Artificial and Natural Intelligence Toulouse Institute 2 (ANITI 2)（图卢兹人工智能与自然智能研究所2）；Institut de Recherche en Informatique de Toulouse (IRIT)（图卢兹计算机研究所）；Independent Researcher（独立研究员）；CNRS IRL CROSSING（国家科学研究中心IRL CROSSING）
研究恶意被审计方如何通过分布操纵制造公平假象，提出基于熵和最优传输的操纵策略，并评估统计检验的检测能力，为监管验证提供指导。
2026-06-17 cs.LG math.OC stat.AP
Decorrelation using Optimal Transport
University of Geneva（日内瓦大学）
本文提出使用凸神经最优传输求解器（Cnots）对特征空间与受保护属性进行去相关，在高能物理喷注分类中表现优异，多分类任务中显著优于现有方法。
2023-07-14 cs.LG hep-ex hep-ph
Counterfactual Fairness through Transforming Data Orthogonal to Bias
Carnegie Mellon University（卡内基梅隆大学）
提出模型无关的数据预处理算法Orthogonal to Bias (OB)，通过确保数据与连续敏感变量正交来实现反事实公平，在合成和真实数据集上有效促进公平且不损害准确性。
2025-06-25 cs.LG stat.ML
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Continuous Fairness On Data Streams
Lyon 1 University（里昂第一大学）
本文提出了一种在数据流中实现持续群体公平性的方法，通过块级公平性模型和高效的重新排列算法，提高了公平性保障的效率和效果。
2026-01-13 cs.CY cs.DS cs.LG
Fairness-Aware Neural Réyni Minimization for Continuous Features
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；AXA（安盛集团）；Polish Academy of Science（波兰科学院）
在过去的几年里，学术界和社会对公平机器学习的兴趣急剧上升。虽然最近已经提出了大量的公平算法来解决离散变量的这一挑战，但对于连续变量，只有少数想法存在。本文的目标是保证回归模型的输出与任何给定的连续敏感变量之间具有一定的独立性。为此目的，我们使用Hirschal-Gebelein-Rényi（HGR）最大相关系数作为公平性度量。我们提出了两种方法来最小化HGR系数。首先，通过用$χ^{2}$发散的神经网络估计来减小HGR的上界。第二，通过直接使用对抗神经网络架构来最小化HGR。这个想法是预测输出Y，同时最小化对抗神经网络找到预测HGR系数所需的估计变换的能力。我们经验性地评估和比较我们的方法，并证明了显着的改进，以前提出的工作在该领域。
2019-11-12 cs.AI cs.CY cs.LG
Fair-CDA: Continuous and Directional Augmentation for Group Fairness
The Future Network of Intelligence Institute, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）未来智能网络研究院）；School of Science and Engineering, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）理工学院）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Beijing Normal University（北京师范大学）；Tsinghua University（清华大学）
本文提出Fair-CDA，一种细粒度数据增强策略，通过特征解耦提取敏感特征并在群体间转移路径上进行正则化以实现可控的群体公平性，同时引入校准模型填补标签以缓解准确率下降，在多个基准和在线推荐系统中均取得优异表现。
2023-04-01 cs.LG
A Maximal Correlation Approach to Imposing Fairness in Machine Learning
MIT（麻省理工学院）；MIT-IBM Watson AI Lab, IBM Research（麻省理工-IBM 沃森人工智能实验室，IBM研究院）
随着机器学习算法越来越受欢迎并在许多行业中多样化，有关其公平性的道德和法律问题变得越来越重要。我们探讨的问题，算法公平性，采取信息理论的观点。最大相关性框架被引入表示公平性约束，并被证明能够被用来导出正则化，执行独立性和分离为基础的公平性标准，这允许优化算法的离散和连续变量的计算效率比现有的算法。我们表明，这些算法提供了平滑的性能-公平性权衡曲线，并在离散数据集（COMPAS，成人）和连续数据集（社区和犯罪）上与最先进的方法竞争。
2020-12-30 cs.AI cs.IT cs.LG
Fair Representation Learning for Continuous Sensitive Attributes using Expectation of Integral Probability Metrics
Department of Applied Mathematics, University of Twente（应用数学系，特文特大学）；Department of Statistics, Seoul National University（统计系，首尔国立大学）
针对连续敏感属性难以适用现有公平表示学习方法的问题，提出EIPM公平度量及可有限样本估计的FREM算法，并实验证明其优于基线。
2025-05-09 cs.LG stat.ML
Fairness-Aware Grouping for Continuous Sensitive Variables: Application for Debiasing Face Analysis with respect to Skin Tone
Artefact Research Center, Paris, France（阿切夫特研究中心，法国巴黎）；Institut de Mathématiques de Toulouse (UMR 5219), CNRS, Université de Toulouse, F-31062 Toulouse, France（图卢兹数学研究所（UMR 5219），CNRS，图卢兹大学，法国图卢兹）；L’Oréal Research（欧莱雅研究）；INRIA, ANITI, France（INRIA，ANITI，法国）
针对连续敏感属性分组易忽视少数群体歧视的问题，提出基于组间歧视方差最大化的公平性分组方法，并在 CelebA 和 FFHQ 上验证其能揭示更细致歧视模式，通过逐组后处理提升公平性且对准确性影响极小。
2025-07-15 cs.CV cs.LG
From Discrete to Continuous: Deep Fair Clustering With Transferable Representations
School of Information Science and Engineering, Southeast University（东南大学信息科学与工程学院）
针对现有深度公平聚类无法处理连续敏感属性且忽略表示迁移潜力的问题，提出一种基于信息瓶颈的灵活方法，在表示层面施加公平性约束，能同时处理离散与连续敏感属性，并首次实现向下游任务的可迁移性，实验证明其优于现有最先进方法。
2024-03-24 cs.CV cs.CY cs.LG
FairCanary: Rapid Continuous Explainable Fairness
Northeastern University（东北大学）；Fiddler Labs Inc.（Fiddler Labs公司）；Snap Inc.（Snap公司）
本文提出分位数人口统计漂移（QDD）偏差指标，并将其集成到持续监控系统FairCanary中，通过复用现有预测解释实现快速可解释的模型公平性监控，速度较先前工作提升一个数量级。
2023-05-28 cs.CY cs.LG
Generalized Disparate Impact for Configurable Fairness Solutions in ML
University of Bologna（博洛尼亚大学）
本文针对连续受保护属性场景，在分析HGR指标局限性的基础上，提出一族语义互补、可解释、鲁棒且可配置的公平性指标，并支持细粒度依赖约束，扩展了公平AI的可用工具。
2023-05-29 cs.LG
Extending Fair Null-Space Projections for Continuous Attributes to Kernel Methods
Felix Störck；Fabian Hinder；Barbara Hammer
提出将公平零空间投影扩展到核诱导特征空间，通过经验特征空间直接变换核矩阵，实现模型和公平评分无关的连续属性公平性方法，并在支持向量回归中展示竞争性或改进性能。
2026-08-04 cs.AI cs.LG
Equality of opportunity in travel behavior prediction with deep neural networks and discrete choice models
Massachusetts Institute of Technology（麻省理工学院）
尽管研究人员越来越多地采用机器学习来建模旅行行为，但他们主要关注预测准确性，忽视了机器学习算法中嵌入的伦理挑战。本研究引入了一个重要的缺失维度-计算公平性-旅游行为分析。我们首先通过机会均等将计算公平性操作化，然后区分数据中固有的偏见和建模引入的偏见。然后，我们使用2017年全国家庭旅行调查（NHTS）和2018-2019年我在芝加哥的每日旅行调查来展示旅行行为建模的预测差异。从实证上看，深度神经网络和离散选择模型（DCM）在多个社会群体中表现出一致的预测差异：对少数民族、低收入人群和残疾人群体的频繁驾驶的假阴性率都有过高的预测，而对社会弱势群体和农村人口的出行负担都有过高的预测。比较DNN和DCM，我们发现DNN在预测差异方面优于DCM，因为DNN的误指定误差更小。为了减轻预测差异，本研究引入了绝对相关正则化方法，该方法用合成和真实世界的数据进行评估。结果表明，在旅行行为建模中预测差异的普遍性，并且差异仍然存在于各种模型细节中，例如DNN层的数量，批量大小和权重初始化。由于这些预测差异，如果没有公平调整的预测结果用于交通政策制定，会加剧社会不公平，我们主张认真考虑公平问题的出行行为建模，并使用偏见缓解算法公平的交通决策。
2021-09-25 cs.LG stat.AP stat.ML
Optimal Fair Aggregation of Crowdsourced Noisy Labels using Demographic Parity Constraints
University of California, Berkeley（加州大学伯克利分校）；Université de Paris（巴黎大学）；CNRS（国家科学研究中心）
针对众包标签聚合中的公平性问题，提出在ε-公平框架下分析多数投票和最优贝叶斯聚合的公平性差距，并推广多类公平后处理算法以强制执行人口统计平价约束。
2026-06-07 cs.LG
Fair Inference for Discrete Latent Variable Models
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
现在人们已经很好地理解了，机器学习模型，在没有适当照顾的情况下对数据进行训练，往往会对某些人群表现出不公平和歧视性的行为。传统的算法公平性研究主要集中在监督学习任务，特别是分类。虽然无监督学习的公平性受到了一些关注，但文献主要关注连续嵌入的公平表示学习。在本文中，我们相反地专注于使用离散潜变量的概率图模型的无监督学习。我们开发了一个公平的随机变分推理技术的离散潜变量，这是通过包括一个公平的惩罚的变分分布，旨在尊重原则的交叉性，从法律，社会科学和人文文学的公平性的关键镜头，然后优化变分参数在此处罚。我们首先展示了我们的方法在基准数据集上使用朴素贝叶斯和高斯混合模型来提高聚类的公平性和公正性方面的实用性。为了证明我们的方法的一般性及其对现实世界的影响潜力，我们开发了一个特殊用途的图形模型，用于刑事司法风险评估，并使用我们的公平方法来防止编码不公平的社会偏见的推论。
2022-09-15 cs.CY cs.LG
Deriva-ML: A Continuous FAIRness Approach to Reproducible Machine Learning Models
Information Sciences Institute（信息科学研究所）；Viterbi School of Engineering（维特比工程学院）；University of Southern California（南加州大学）；Keck School of Medicine（凯克医学院）
本文提出 Deriva-ML，通过贯穿 ML 研究全生命周期的 FAIR 数据管理工具与最佳实践，提升 eScience 团队构建正确、可复现机器学习解决方案的能力。
2024-06-27 cs.AI cs.DB cs.HC
