Efficient Fair Principal Component Analysis
College of Information Sciences and Technology（信息科学与技术学院）；School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）；Microsoft Bing（微软必应）
已经表明，诸如PCA的降维方法可能固有地倾向于不公平，并且处理来自不同敏感群体（诸如种族、肤色、性别等）的数据，不公平为了追求公平性增强的降维，使用帕累托最优的概念，我们提出了一个自适应的一阶算法来学习一个子空间，保持公平性，同时稍微妥协的重建损失。从理论上讲，我们提供了充分的条件，该算法的解决方案属于帕累托边界的所有敏感组，从而保证了整体重建损失和公平性约束之间的最佳权衡。我们还提供了我们的算法的收敛性分析，并显示其有效性，通过不同的数据集上的实证研究，表现出优越的性能相比，国家的最先进的算法。该算法可以有效地推广到多个组敏感特征，并有效地减少下游任务（如分类）中的不公平决策。
2020-03-08 cs.DS cs.LG math.OC
SoFaiR: Single Shot Fair Representation Learning
George Mason University（乔治梅森大学）
为了避免对数据的歧视性使用，组织可以学习将它们映射到一个表示中，过滤掉与敏感属性相关的信息。然而，所有现有的方法在公平表示学习产生一个公平信息的权衡。为了达到公平信息平面上的不同点，必须训练不同的模型。在本文中，我们首先证明，公平信息权衡率失真权衡充分的特点。然后，我们使用这个关键结果，并提出SoFaiR，一个Single Shot公平的表示学习方法，用一个训练模型生成公平信息平面上的许多点。除了节省计算，我们的单次方法是，就我们所知的范围内，第一个公平的表示学习方法，解释了什么信息是受影响的公平性/失真属性的变化表示。从经验上讲，我们发现在三个数据集上，SoFaiR实现了与其多镜头对应物类似的公平信息权衡。
2022-04-26 cs.CY cs.LG
A novel approach for Fair Principal Component Analysis based on eigendecomposition
School of Applied Sciences (FCA), University of Campinas (UNICAMP)（坎皮纳斯大学（UNICAMP）应用科学学院（FCA））
主成分分析（PCA）是信号处理中一种普遍存在的降维技术，它搜索一个投影矩阵，使降维数据集与原始数据集之间的均方误差最小化。由于经典PCA不是针对解决与公平性有关的问题而定制的，因此其应用于实际问题可能导致不同组的重构误差的差异（例如，男人和女人，白人和黑人，等等），这可能会带来有害的后果，例如对敏感群体的偏见。虽然最近已经提出了几个公平的版本的PCA，仍然存在着一个根本的差距，在寻找算法，是足够简单的部署在实际系统中。为了解决这个问题，我们提出了一种新的PCA算法，它通过一个简单的策略来解决公平性问题，该策略包括一维搜索，该搜索利用PCA的封闭形式的解决方案。数值实验表明，该方案可以显着提高公平性，在整体重建误差的损失非常小，而不诉诸复杂的优化方案。此外，我们的研究结果在几种真实情况下以及在不平衡和平衡数据集的情况下是一致的。
2022-08-24 cs.CY cs.LG
Fair CoVariance Neural Networks
Delft University of Technology（代尔夫特理工大学）；Rice University（莱斯大学）
针对传统协方差数据处理存在偏差且低样本下公平PCA不稳定的问题，提出基于协方差矩阵图卷积的公平协方差神经网络，通过双路径缓解偏差，理论与实验证明其更稳定公平且具灵活性。
2025-01-14 cs.LG stat.ML
Efficient fair PCA for fair representation learning
Amazon Web Services（亚马逊云科技）
我们重新审视公平主成分分析（PCA）的问题，其目标是学习混淆人口统计信息的数据的最佳低秩线性近似。我们提出了一个概念上简单的方法，允许类似于标准PCA的分析解决方案，可以内核化。我们的方法与标准PCA或内核PCA具有相同的复杂性，并且运行速度比基于半定规划或流形优化的公平PCA的现有方法快得多，同时获得类似的结果。
2023-02-26 cs.CY cs.LG stat.ML
Statistical and computational trade-offs in estimation of sparse principal components
近年来，稀疏主成分分析已成为一种非常流行的高维数据降维技术。在最简单的情况下，理论上的挑战是在假设总体协方差阵的首特征向量是稀疏的情况下估计该特征向量。已经提出了一系列令人印象深刻的估计，其中一些是快速计算，而另一些是已知的，以实现最小最大的最佳速率在某些高斯或亚高斯类。在本文中，我们表明，在一个广泛相信的假设下，从计算复杂性理论，在这个问题中的统计和计算性能之间有一个根本的权衡。更确切地说，工作与新的，更大的类满足有限的协方差浓度条件，我们表明，有一个有效的样本量制度中，没有随机多项式时间算法可以实现最小最大的最优速率。我们还研究了著名的半定松弛估计的（多项式时间）变量的理论性能，揭示了统计和计算效率之间微妙的相互作用。
2016-09-28 math.ST stat.ML stat.TH
Achieving Fair PCA Using Joint Eigenvalue Decomposition
IIIT Hyderabad（印度国际信息技术研究所（海得拉巴））
本文提出将联合特征值分解（JEVD）与主成分分析（PCA）结合，以实现公平降维，在保留数据结构的同时促进群体间公平，并在多个数据集上优于现有基线方法。
2025-02-24 cs.LG stat.ML
Fair PCA, One Component at a Time
Aalto University（阿尔托大学）
针对现有Min-Max Fair PCA方法缺失标准PCA子空间包含性的问题，研究定义了满足正交约束的公平主成分，提出迭代计算方法，兼具理论合理性与更优的实验性能。
2025-05-17 cs.LG stat.ML
Addressing multiple metrics of group fairness in data-driven decision making
Joint Research Centre, European Commission（欧盟联合研究中心）；Universitat Pompeu Fabra（庞培法布拉大学）
机器学习中的公平性、责任性和透明度（FAT-ML）文献提出了一组不同的群体公平性度量标准，以衡量对受保护特征（如性别或种族）表征的社会人口统计群体的歧视。根据度量标准的选择，这种系统可以被视为公平或不公平。已经提出了几个指标，其中一些相互不兼容。我们这样做的经验，通过观察，这些指标中的几个集群在两个或三个主要集群为相同的群体和机器学习方法。此外，我们提出了一个强大的方法来可视化多维公平性在两个维度上，通过主成分分析（PCA）的组公平性指标。在多个数据集上的实验结果表明，PCA分解解释了具有一到三个分量的度量之间的方差。
2020-03-10 cs.CY cs.LG stat.ML
Fast and Efficient MMD-based Fair PCA via Optimization over Stiefel Manifold
KAIST（韩国科学技术院）；UC Berkeley IEOR（加州大学伯克利分校工业工程与运筹学系）；Citadel（城堡投资）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文将公平主成分分析（PCA）定义为最小化不同保护类的降维条件分布之间的最大均值差异（MMD）。MMD的纳入自然会导致一个准确和易于处理的数学公式的公平性具有良好的统计特性。我们将受MMD约束的公平PCA问题表示为Stiefel流形上的非凸优化，并使用具有平滑的黎曼精确罚方法（REPMS; Liu和Boumal，2019）解决它。重要的是，我们提供了局部最优性保证，并明确显示了每个超参数在实际设置中的理论效果，扩展了以前的结果。基于合成数据集和UCI数据集的实验比较表明，我们的方法在解释方差，公平性和运行时间方面优于以前的工作。
2022-01-25 cs.CY cs.LG stat.ML
Principal Fairness for Human and Algorithmic Decision-Making
Harvard University（哈佛大学）；Institute for Quantitative Social Science（定量社会科学研究所）；University of Massachusetts（马萨诸塞大学）
利用因果推理文献中的主要分层概念，我们引入了一个新的公平性概念，称为主要公平性，用于人类和算法决策。关键的想法是，人们不应该歧视那些同样受到决定影响的个人。与现有的公平性统计定义不同，主要公平性明确说明了个人可能受到决策影响的事实。此外，我们解释了如何从现有的cabetity为基础的公平标准的主要公平不同。例如，与反事实公平标准相反，主要公平考虑的是有关决定的影响，而不是受保护的利益属性的影响。我们简要地讨论了如何处理经验评估和策略学习问题下提出的主要公平标准。
2022-03-24 cs.CY cs.LG stat.ML
Principal Trade-off Analysis
University of Chicago（芝加哥大学）；Lockheed Martin Corp（洛克希德·马丁公司）
本文提出主权衡分析（PTA），用正交二维特征平面分解两人零和博弈，并在四类博弈中验证其可揭示策略权衡、对称性与类型结构。
2023-08-16 cs.GT cs.LG
Accuracy and Fairness Trade-offs in Machine Learning: A Stochastic Multi-Objective Approach
Lehigh University（理海大学）；University of Coimbra（科英布拉大学）
在将机器学习应用于现实生活中的决策系统中，例如，信用评分和刑事司法，预测结果可能会歧视具有敏感属性的人，导致不公平。公平机器学习中常用的策略是将公平性作为预测损失最小化的约束或惩罚项，这最终限制了提供给决策者的信息。在本文中，我们介绍了一种新的方法来处理公平性，制定一个随机多目标优化问题，相应的帕累托前沿唯一和全面定义的准确性，公平性权衡。然后，我们应用了随机近似型方法，有效地获得良好的传播和准确的帕累托前沿，这样做，我们可以处理训练数据到达流的方式。
2022-03-18 cs.LG stat.ML
Analysis of multiple data sequences with different distributions: defining common principal component axes by ergodic sequence generation and multiple reweighting composition
主成分分析（PCA）定义了一个由PC轴描述的多维数据序列的减少空间，以捕捉数据的变化。在实践中，我们需要多个数据序列，精确地服从各个概率分布，并且为了对序列进行公平比较，我们需要PC轴，该PC轴对于多个序列是共同的，但适当地捕获这些多个分布。对于这些要求，我们提出了个人遍历采样这些序列，并提供特殊的重新加权恢复目标分布。
2021-04-16 physics.bio-ph stat.ME
FACT: A Diagnostic for Group Fairness Trade-offs
Carnegie Mellon University（卡内基梅隆大学）；JP Morgan（摩根大通）；JP Morgan AI Research（摩根大通人工智能研究院）；Determined AI
群体公平性是一类公平性概念，衡量不同群体的个人如何根据其受保护的属性受到不同的对待，已被证明是相互冲突的，通常会损失模型的预测性能。我们提出了一个通用的诊断，使这些权衡组公平性的系统特征。我们观察到，大多数组公平性概念可以通过公平混淆张量来表达，这是根据受保护的属性值分裂的混淆矩阵。我们构建了几个优化问题，这些优化问题直接优化了该张量元素的准确性和公平性目标，从而为理解包括组公平性不兼容性在内的多种权衡提供了一个总体视角。它还提出了一种替代的后处理方法，设计公平的分类。在合成和真实数据集上，我们展示了我们诊断的用例，特别是在理解准确性和公平性之间的权衡方面。
2020-07-07 cs.CY cs.LG stat.ML
Conditional Supervised Contrastive Learning for Fair Text Classification
University of Virginia（弗吉尼亚大学）；UC Berkeley（加州大学伯克利分校）；UCLA（加州大学洛杉矶分校）；UIUC（伊利诺伊大学厄巴纳-香槟分校）
对比表示学习由于其在图像和序列数据表示学习方面的优越性能而受到广泛关注。然而，学习的表示可能会导致下游任务的性能差异，例如在毒性评论分类中代表性不足的群体的沉默增加。鉴于这一挑战，在这项工作中，我们研究了通过对比学习学习满足公平性概念的公平表示，即文本分类的均衡化几率。具体来说，我们首先从理论上分析了公平约束的学习表示和条件监督对比目标之间的联系，然后提出使用条件监督对比目标来学习文本分类的公平表示。我们在两个文本数据集上进行实验，以证明我们的方法在平衡现有文本分类基线之间的任务性能和偏见缓解之间的权衡方面的有效性。此外，我们还表明，所提出的方法是稳定的，在不同的超参数设置。
2022-10-31 cs.AI cs.CL cs.CY
Overcoming Fairness Trade-offs via Pre-processing: A Causal Perspective
Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文从因果视角提出FiND世界框架，通过因果预处理方法近似该世界，在理论上证明并实证验证了该方法能同时解决公平性与准确性权衡以及不同公平性指标间的不兼容性。
2025-01-24 cs.LG stat.ML
Inherent Trade-Offs in the Fair Determination of Risk Scores
Cornell University（康奈尔大学）；Harvard University（哈佛大学）
最近在公共领域中关于算法分类的讨论涉及到了关于概率分类对不同群体公平意味着什么的相互竞争的概念之间的紧张关系。我们正式的三个公平的条件，在这些辩论的核心，我们证明，除了在高度约束的特殊情况下，没有方法，可以同时满足这三个条件。此外，即使满足所有三个条件近似要求的数据躺在一个近似版本的约束的特殊情况下确定我们的定理。这些结果表明，公平的关键概念是相互不相容的一些方式，因此提供了一个框架，思考它们之间的权衡。
2016-11-17 cs.CY cs.LG stat.ML
Fair Variable Selection
Università della Svizzera Italiana（瑞士意大利语区大学）；Monash University（莫纳什大学）
本文提出公平Lasso和公平后验方法，在广义线性模型中选择公平协变量，以在个体公平与群体公平之间取得有利权衡，并可用于条件人口统计平价。
2026-10-09 stat.ME
Understanding and Improving Fairness-Accuracy Trade-offs in Multi-Task Learning
Google Research（谷歌研究院）
随着多任务模型在更广泛的机器学习应用中越来越受欢迎，从业者理解与这些模型相关的公平性含义变得越来越重要。大多数现有的公平性文献都专注于更公平地学习单个任务，而ML公平性如何在联合学习环境中与多个任务相互作用则在很大程度上未得到充分探索。在本文中，我们关注的是群体公平性（例如，平等的机会，平等的赔率）作为ML公平概念在多任务场景中发挥作用。在多任务学习中，多个任务被联合学习，以利用任务相关性来实现更有效的归纳转移。这呈现了多维帕累托边界（1）关于每个任务的组公平性和准确性之间的权衡，以及（2）跨多个任务的权衡。我们的目标是提供一个更深入的了解如何组公平性与准确性在多任务学习，我们表明，传统的方法，主要集中在优化帕累托边界的多任务准确性可能不会表现良好的公平性目标。我们提出了一组新的指标，以更好地捕捉多维帕累托边界的公平性，准确性权衡独特的多任务学习设置。我们进一步提出了多任务感知公平性（MTA-F）方法来提高多任务学习的公平性。几个真实世界的数据集上的实验证明了我们所提出的方法的有效性。
2021-06-04 cs.LG
Evaluation of Fairness Trade-offs in Predicting Student Success
Cornell University（康奈尔大学）
早期识别有风险学生的预测模型可以帮助教学人员引导资源，以更好地支持他们，但人们越来越担心教育中算法系统的公平性。预测模型可能会无意中在谁获得支持方面引入偏见，从而加剧现有的不平等。我们通过建立一个基于大学行政记录的学生成功预测模型来研究这个问题。我们发现，该模型表现出性别和种族偏见的三分之二的公平措施考虑。然后，我们应用事后调整，以提高模型的公平性，突出三个公平措施之间的权衡。
2020-06-30 cs.CY cs.LG
You Only Debias Once: Towards Flexible Accuracy-Fairness Trade-offs at Inference Time
Case Western Reserve University（凯斯西储大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；North Carolina State University（北卡罗来纳州立大学）；Texas A&M University（德克萨斯农工大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Rice University（莱斯大学）
本文提出YODO方法，通过单次训练在权重空间中找到连接准确率最优点与公平性最优点的“线”，从而在推理时以极低开销实现任意灵活可调的准确率-公平性权衡。
2025-03-10 cs.LG
Fair Contracts in Principal-Agent Games with Heterogeneous Types
Université de Neuchâtel（Neuchâtel大学）
针对多智能体系统中潜在特质差异导致的公平性问题，提出基于重复委托-代理博弈的框架，使委托人学习同质线性契约以平衡结果，且不牺牲效率。
2025-06-18 cs.GT cs.LG cs.MA
MMM-fair: An Interactive Toolkit for Exploring and Operationalizing Multi-Fairness Trade-offs
University of the Bundeswehr（德国联邦国防军大学）；Free University Berlin（柏林自由大学）
本文介绍mmm-fair，一个开源交互式工具包，通过提升集成方法实现多目标优化，联合最小化分类错误与公平性违规，支持无代码界面、LLM解释和帕累托探索，以探索和操作多公平性权衡。
2025-09-09 cs.CY cs.LG
Principal Fairness: Removing Bias via Projections
Sapienza University of Rome（罗马第一大学）
减少数据中隐藏的偏差并确保算法数据分析的公平性最近受到了极大的关注。我们补充了最近的几篇论文在这方面的研究，介绍了一种通用的方法，以减少偏见的数据，通过随机预测在一个“公平”的子空间。我们将此方法应用于确定子图问题。对于稠密子图，我们的方法基于公平的预测允许恢复理论和经验上几乎最优的，公平的，密集的子图隐藏在输入数据。我们还表明，在小集合扩张假设下，近似这个问题超过2的因素是NP-难的，我们展示了一个多项式时间算法与匹配的近似界。
2021-03-06 cs.DS cs.LG
Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Virginia Tech（弗吉尼亚理工大学）；ADA University（阿塞拜疆ADA大学）；University of Potsdam（波茨坦大学）；University of Passau（帕绍大学）
研究公平性增强算法在亚群体层面如何影响隐私风险，通过调整似然比攻击进行审计，分析差分隐私与公平性方法交互，发现公平性干预对隐私风险影响因多种因素而异，引入统一实证框架支持相关审计。
2026-07-17 cs.AI cs.LG
Pairwise Fairness for Ranking and Regression
Google Research（谷歌研究院）
我们提出了成对的公平性指标的排名模型和回归模型，形成类似的统计公平的概念，如平等的机会，平等的准确性，统计奇偶性。我们的成对公式支持离散保护组和连续保护属性。我们表明，由此产生的训练问题，可以有效地解决现有的约束优化和强大的优化技术开发的公平分类。实验说明了这些方法的广泛适用性和权衡。
2020-01-07 cs.LG stat.ML
Inherent Trade-offs in the Fair Allocation of Treatments
University of Southern California（南加利福尼亚大学）；USC Information Sciences Institute（南加利福尼亚大学信息科学研究所）
显性和隐性的偏见蒙蔽了人的判断，导致对少数群体的歧视性待遇。算法公平性的一个基本目标是通过学习改善总体结果的策略，同时为受保护的类提供公平待遇，从而避免人类判断中的陷阱。在本文中，我们提出了一个因果框架，学习最优的干预政策，从数据的公平性约束。我们定义了两种治疗偏倚的测量方法，并推断出最佳治疗分配，最大限度地减少偏倚，同时优化总体结局。我们证明，有一个平衡的公平和整体利益的困境，但是，允许优惠待遇，在某些情况下（平权行动）的保护类可以显着提高整体利益，同时也保持公平。我们将我们的框架应用于包含学生标准化考试成绩的数据，并展示了如何使用它来设计现实世界的政策，以公平地提高学生的考试成绩。我们的框架提供了一种原则性的方法来学习现实世界中的公平待遇政策。
2020-10-30 cs.AI cs.CY cs.LG
Scoring Is Not Enough: Addressing Gaps in Utility-fairness Trade-offs for Ranking
Department of Computer Science（计算机科学系）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Department of Electrical and Computer Engineering（电气与计算机工程系）
本文证明评分函数在实现效用与公平的权衡中存在本质缺陷，并提出半贪婪后处理方法可接近最优权衡。
2026-06-26 cs.CY cs.IR cs.LG
Demystifying Local and Global Fairness Trade-offs in Federated Learning Using Partial Information Decomposition
University of Maryland College Park（马里兰大学帕克分校）
本研究引入部分信息分解理论解析联邦学习中全局与局部公平性的权衡机制，识别三类不公平来源，推导权衡边界并提出凸优化问题明确性能极限，通过实验验证理论结论。
2024-03-04 cs.CY cs.IT cs.LG
Fairness-Accuracy Trade-Offs: A Causal Perspective
Columbia University（哥伦比亚大学）
本研究首次从因果视角分析公平性与准确性的权衡，引入路径特定超额损失（PSEL）将总超额损失（TEL）分解为局部成分，并提出因果公平性/效用比指标，同时开发了一种新的因果约束公平学习神经方法。
2024-12-20 cs.AI cs.LG stat.ML
No-Free-Fairness: Fundamental Limits and Trade-offs in Learning Systems
Hanoi University of Science and Technology（河内科技大学）
本文提出无免费公平定理，揭示学习系统中三个固有差异来源：任务固有成本导致性能与公平的权衡、有限样本诱导子群差异、模型类表达力限制导致公平不可达，表明不公平源于决策问题结构、数据有限性和模型表达力。
2026-06-17 cs.AI cs.LG
Least but not Last: Fine-tuning Intermediate Principal Components for Better Performance-Forgetting Trade-Offs
Department of Computer Science, RWTH Aachen University, Aachen, Germany（RWTH亚琛大学计算机科学系）；Aarhus University, Aarhus, Denmark（奥胡斯大学）
本文提出了一种基于中间主成分的LoRA初始化方法，通过细调中间组件实现更好的性能-遗忘权衡，提升了模型的准确性和鲁棒性。
2026-09-01 cs.LG
Learning Optimal Fair Classification Trees: Trade-offs Between Interpretability, Fairness, and Accuracy
USC Center for AI in Society（南加州大学人工智能与社会中心）；University of Southern California（南加州大学）
提出混合整数优化框架学习最优公平分类树，引入决策复杂度度量，权衡可解释性、公平性与准确性，在固定差异阈值下可解释性代价约4.2个百分点，但能实现几乎完全公平。
2023-07-25 cs.AI cs.LG math.OC
Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review
Departamento de Estadística, Universidad Carlos III de Madrid（统计系，卡洛斯三世大学）；uc3m-Santander Big Data Institute (IBiDat), Universidad Carlos III de Madrid（圣安德烈斯-卡洛斯三世大学大数据研究所）；Department of Statistics and O.R., Universidad Nacional de Educación a Distancia (UNED), Madrid, Spain（统计与运筹学系，国家远程教育大学）
本文综述了机器学习中个体公平与群体公平的权衡，探讨了混合公平性方法的理论基础、优化机制及应用挑战。
2026-01-23 cs.CY cs.LG
First-See-Then-Design: A Multi-Stakeholder View for Optimal Performance-Fairness Trade-Offs
Department of Computer Science, Saarland University（萨尔兰大学计算机科学系）；Zurich University of Applied Sciences（苏黎世应用科学大学）
本文提出多利益相关者框架，通过福利经济学和分配正义理论，建模决策者与决策主体的效用，定义公平性为社会规划者的效用，探讨决策策略对性能-公平性权衡的影响。
2026-04-15 cs.AI cs.LG
Empirical observation of negligible fairness-accuracy trade-offs in machine learning for public policy
Carnegie Mellon University（卡内基梅隆大学）
在政策和社会影响环境中越来越多地使用机器学习，引起了人们对公平影响的担忧，特别是对少数民族。这些问题引起了机器学习和人工智能研究人员的极大兴趣，他们开发了新的方法并建立了提高公平性的理论界限，重点关注源数据，正则化和模型训练，或对模型分数的事后调整。然而，很少有工作研究在现实世界中的公平性和准确性之间的实际权衡，以了解这些界限和方法如何转化为政策选择和对社会的影响。我们的实证研究填补了这一空白，通过调查减少差异对准确性的影响，重点是使用机器学习的共同背景，以告知教育，心理健康，刑事司法和住房安全等资源受限项目的利益分配。在这里，我们描述的应用工作中，我们发现公平性和准确性的权衡是可以忽略不计的实践。在研究的每一个设置中，明确地关注实现公平，并使用我们提出的事后差异缓解方法，公平性得到了大幅提高，而不牺牲准确性。这一观察结果在所研究的政策背景、可用于干预的资源规模、时间和受保护群体的相对规模方面都是稳健的。这些实证结果挑战了一个普遍持有的假设，即减少差异要么需要接受一个明显的下降，准确性或开发新的，复杂的方法，使减少这些应用程序中的差异更实际。
2021-09-03 cs.CY cs.LG
Data Preparation for Fairness-Performance Trade-Offs: A Practitioner-Friendly Alternative?
University of Salerno（萨勒诺大学）
本文提出FATE优化技术，通过在ML生命周期早期选择最优的公平性感知数据准备管道，实证评估其在提升公平性与性能方面是否优于标准预处理偏见缓解方法。
2024-12-20 cs.LG cs.SE
Does Privacy Always Harm Fairness? Data-Dependent Trade-offs via Chernoff Information Neural Estimation
University of California Santa Barbara（加州大学圣芭芭拉分校）；JP Morgan Chase Global Technology Applied Research（摩根大通全球技术应用研究）
本文通过Chernoff信息理论分析隐私与公平性之间的数据依赖性权衡，提出Chernoff差异及其噪声变体，并开发神经网络估计器CINE以实现实世界数据集的分析。
2026-03-24 cs.AI cs.IT cs.LG
The Unbearable Weight of Massive Privilege: Revisiting Bias-Variance Trade-Offs in the Context of Fair Prediction
New York University（纽约大学）
在本文中，我们从设计公平分类器的角度重新审视模型误差的偏差-方差分解：我们受到广泛持有的社会技术信念的激励，即社会领域中的大型数据集中的噪声方差跟踪人口统计特征，例如性别，种族，残疾，我们提出了一个条件IID（CIID）模型，该模型由特定于组的分类器构建，旨在改善单个模型（IID设置）所做的权衡。我们从理论上分析了高斯混合模型中不同模型的偏差-方差分解，然后在COMPAS和folktables数据集上对我们的设置进行了实证测试。我们用两个过程来实例化cid模型，通过排除不良影响来提高“公平性”：第一，通过直接对敏感属性进行调节，第二，通过将样本聚类到组中并对聚类成员资格进行调节（对受保护的组成员资格视而不见）。我们的分析表明，可能有原则性的程序和具体的现实用例，在这些程序和用例下，条件模型是首选的，我们惊人的实证结果强烈表明，非iid设置，如这里提出的cid设置，可能更适合社交环境中的大数据应用。
2023-02-17 cs.CY cs.LG
A Multi-Objective Evaluation Framework for Analyzing Utility-Fairness Trade-Offs in Machine Learning Systems
Idiap Research Institute（Idiap研究 institute）；École Polytechnique Fédérale de Lausanne（瑞士联邦理工学院）；Federal University of São Paulo（圣保罗联邦大学）
本文提出了一种多目标评估框架，用于分析机器学习系统中效用与公平性之间的权衡，适用于医疗影像等对公平性要求较高的领域。
2026-02-28 cs.CV cs.LG
Fair Classification with Efficient and Post-hoc Controllable Fairness-Accuracy Trade-off
University of Tsukuba, Japan（茨口大学）；RIKEN AIP, Japan（日本理化学研究所）
提出一种基于梯度优化的公平分类算法，通过学习有效特征表示，在无需重新训练的情况下实现与处理中方法相当甚至更优的公平性-准确性权衡效率。
2026-06-29 cs.LG
Empirical Analysis of Privacy-Fairness-Accuracy Trade-offs in Federated Learning: A Step Towards Responsible AI
本文首次对联邦学习中的隐私-公平性-效用权衡进行大规模实证研究，系统比较了DP、HE、SMC与公平性优化器在多数据集上的表现，揭示了隐私与公平机制的意外相互作用，并提出了设计鲁棒FL系统的实用指南。
2025-08-09 cs.CR cs.DC cs.ET
FACEGroup: Feasible and Actionable Counterfactual Explanations for Group Fairness
University of Ioannina（伊奥安纳大学）；Archimedes, Athena Research Center（阿基米德研究所）；Boston University（波士顿大学）
本文提出基于图的FACEGroup框架，通过建模可行性约束、识别相似子群并捕捉权衡，生成可行的群体反事实解释以审计群体公平性，并引入新指标量化公平性差异。
2025-09-08 cs.AI cs.LG stat.ME
Investigating Trade-offs in Utility, Fairness and Differential Privacy in Neural Networks
Tilburg University（蒂尔堡大学）
该研究对比四类神经网络，探究隐私、效用与公平的权衡关系，发现最高隐私保证下差分隐私公平神经网络公平性最优、准确率仅小幅下降，但相较前期工作准确率提升而公平性有所下降。
2021-02-11 cs.AI cs.LG
Causality-Aided Trade-off Analysis for Machine Learning Fairness
The Hong Kong University of Science and Technology（香港科技大学）；Nanjing University（南京大学）
本文提出基于因果分析的 ML 公平性权衡框架，通过领域优化和统一接口分析公平参数与关键指标，并在三个真实数据集上验证其方法选择价值。
2023-10-03 cs.LG cs.SE
Selecting for Less Discriminatory Algorithms: A Relational Search Framework for Navigating Fairness-Accuracy Trade-offs in Practice
Responsible AI Lab, National Fair Housing Alliance（负责任人工智能实验室，国家公平住房联盟）；Department of Mathematical Sciences, Durham University（数学科学系，达勒姆大学）
本文提出一种关系搜索框架，用于在现实世界中选择更少歧视性算法，以平衡公平性和准确性。
2025-12-12 cs.CY cs.LG
Learning Heterogeneous Performance-Fairness Trade-offs in Federated Learning
Department of Computer Science and Engineering and the Research Institute of Trustworthy Autonomous Systems at Southern University of Science and Technology（计算机科学与工程系和可信自主系统研究 institute at 南方科技大学）
为解决联邦学习中均匀偏好采样忽视客户端异构性及局部与全局 Pareto 前沿差距的问题，提出 HetPFL 框架，通过自适应偏好采样和偏好感知超网络融合有效学习局部与全局 Pareto 前沿，实现线性收敛并显著优于基线。
2025-04-30 cs.AI cs.LG
On Fairness, Diversity and Randomness in Algorithmic Decision Making
Max Planck Institute for Software Systems (MPI-SWS)（马克斯·普朗克软件系统研究所 (MPI-SWS)）；University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）；Leverhulme Centre for the Future of Intelligence（李弗休姆未来智能中心）
考虑一个二元决策过程，其中单个机器学习分类器取代了大量人类。我们提出的问题，在决策过程中造成的多样性损失。我们研究了在公平感知学习的背景下使用随机分类器集合而不是单个分类器的潜在好处，并展示了各种有吸引力的特性：（i）对于若干不同的公平性度量，公平分类器的集合被保证是公平的，（ii）不公平分类器的集合仍然可以实现公平的结果，以及（iii）分类器的集合可以实现比单个分类器更好的准确性-公平性权衡。最后，我们引入了分布公平性的概念，以进一步表征随机分类器集成的潜在好处。
2017-06-30 cs.LG stat.ML
A Distributed Fair Machine Learning Framework with Private Demographic Data Protection
University of Wyoming（怀俄明大学）
公平机器学习已经成为一个具有广泛社会影响的重要研究课题。然而，大多数公平的学习方法需要直接存取个人人口统计数据，而这些数据越来越多地被限制用于保护用户隐私（例如，欧盟一般数据保护条例）。在本文中，我们提出了一个分布式的公平学习框架，以保护人口统计数据的隐私。我们假设这些数据由第三方私人持有，该第三方可以与数据中心（负责模型开发）进行通信，而不会泄露人口统计信息。我们提出了一个原则性的方法来设计公平的学习方法在这个框架下，四种方法，并显示他们一贯优于现有的同行在公平性和准确性在三个真实世界的数据集。我们从理论上分析了该框架，并证明了它可以学习模型具有高公平性或高准确性，与他们的权衡平衡的阈值变量。
2019-09-17 cs.LG stat.ML
People-Centred Medical Image Analysis via Fairness-Aware Human-AI Cooperation
提出PecMan框架，联合建模子群依赖可靠性、决策分配和协作预测，通过门控与整合机制动态分配病例给自动模型或人类专家，无需测试时敏感属性，实现公平感知的人机协作分类。
2026-06-09 cs.AI cs.LG
COVAriance-Induced Fairness Gap Penalty for Subgroup-Fair Clustering
Department of Statistics, Seoul National University（首尔国立大学统计系）；KAIST AI（韩国科学技术院人工智能研究所）
研究在多敏感属性定义多个子群时的公平聚类问题，提出基于协方差诱导公平差距惩罚的方法，推导代理并连续松弛，扩展框架捕捉子群 - 边际公平差距，实验证明算法在成本 - 公平权衡上有竞争力且提高计算效率。
2026-07-21 cs.LG stat.ML
Fairness-Aware Reinforcement Learning (FAReL): A Framework for Transparent and Balanced Sequential Decision-Making
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Technische Universiteit Delft（代尔夫特理工大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Universiteit Leiden（莱顿大学）；Universiteit Hasselt（哈塞尔特大学）
本文提出公平感知强化学习框架FAReL，通过扩展MDP（$f$MDP）显式建模个体与群体，在招聘和欺诈检测场景中实现性能与公平性的可探索权衡，以轻微性能损失换取更公平的策略。
2025-09-26 cs.AI cs.LG
FairBED: Incorporating Fairness into Bayesian Experimental Design
Department of Statistics（统计学系）；CeBAM, Nuffield Department of Medicine（CeBAM医学系）；University of Oxford（牛津大学）；Department of Statistical Science（统计科学系）；University College London（伦敦大学学院）
提出FairBED方法，通过贝叶斯实验设计最大化目标信息增益并最小化敏感属性信息增益，以收集更公平的数据，改善公平性与准确性的权衡。
2026-10-20 cs.LG stat.ML
