Fairness vs Performance: Characterizing the Pareto Frontier of Algorithmic Decision Systems
Zurich University of Applied Sciences / University of Zurich（应用科学大学苏黎世分校 / 苏黎世大学）；Zurich University of Applied Sciences（应用科学大学苏黎世分校）
研究探讨算法决策系统中公平性与性能的权衡，通过多目标优化分析决策者效用与群体公平性，揭示帕累托前沿由确定性阈值规则构成，扩展了现有公平性约束下的最优定理。
2026-05-11 cs.AI cs.CY cs.LG
APFEx: Adaptive Pareto Front Explorer for Intersectional Fairness
Indian Statistical Institute, Kolkata（印度统计研究院，科利卡特）
APFEx首次将交叉公平性建模为敏感属性笛卡尔积上的联合优化问题，通过自适应多目标优化器、可微公平性度量和理论收敛保证，在四个数据集上实现了减少公平性违规并保持竞争力的准确率。
2025-09-23 cs.LG
Pareto Pairwise Ranking for Fairness Enhancement of Recommender Systems
学习排序自2010年左右引入以来，是一种有效的推荐方式。著名的算法，如贝叶斯个性化排名和协作少即是多过滤，在学术界和工业界都留下了深刻的影响。然而，大多数学习排序方法专注于提高技术准确性指标，如AUC，MRR和NDCG。推荐系统的其他评价指标，如公平性，直到最近几年才在很大程度上被忽视。本文提出了一种新的学习排序算法Pareto Pairwise Ranking。我们的灵感来自贝叶斯个性化排名和幂律分布的想法。我们表明，我们的算法是有竞争力的技术精度指标评估时，与其他算法。更重要的是，在我们的实验部分中，我们证明了Pareto Pairwise Ranking是最公平的算法，与其他9个当代算法相比。
2022-12-06 cs.AI cs.IR cs.LG
Efficient Fairness-Performance Pareto Front Computation
Technion - Israel Institute of Technology（技术离子-以色列理工学院）；NVIDIA（英伟达）
本文提出一种无需训练复杂表示模型即可高效计算公平性-性能最优帕累托前沿的方法，利用结构性质简化为离散问题，并通过凹凸规划求解，可作为表示学习算法的基准。
2025-10-24 cs.LG stat.ML
Learning with Impartiality to Walk on the Pareto Frontier of Fairness, Privacy, and Utility
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
部署机器学习（ML）模型通常需要公平性和隐私保证。这两个目标都提出了独特的权衡与效用（例如，模型的准确性。然而，公平、隐私和效用之间的相互作用还不太清楚。因此，通常只有一个目标被优化，而其他目标则被调整为超参数。因为它们隐含地优先考虑某些目标，这样的设计以有害的、不可检测的方式使模型产生偏差。为了解决这个问题，我们采用公正性作为原则：ML管道的设计不应该偏向于一个目标。我们提出了公平指定的模型，它为我们提供了准确的帕累托边界，显示目标之间的内在权衡。扩展了两个用于隐私保护学习的规范ML框架，我们提供了两种方法（FairDP-SGD和FairPATE）来训练公平指定的模型并恢复Pareto边界。通过理论隐私分析和全面的实证研究，我们提供了一个答案的问题，公平缓解应该集成在一个隐私感知ML管道。
2023-02-17 cs.AI cs.CY cs.LG
Learning Heterogeneous Performance-Fairness Trade-offs in Federated Learning
Department of Computer Science and Engineering and the Research Institute of Trustworthy Autonomous Systems at Southern University of Science and Technology（计算机科学与工程系和可信自主系统研究 institute at 南方科技大学）
为解决联邦学习中均匀偏好采样忽视客户端异构性及局部与全局 Pareto 前沿差距的问题，提出 HetPFL 框架，通过自适应偏好采样和偏好感知超网络融合有效学习局部与全局 Pareto 前沿，实现线性收敛并显著优于基线。
2025-04-30 cs.AI cs.LG
A Theoretical Approach to Characterize the Accuracy-Fairness Trade-off Pareto Frontier
Shanghai Jiao Tong University（上海交通大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Georgia（佐治亚大学）；New Jersey Institute of Technology（新泽西理工学院）
本文提出理论框架刻画准确率-公平性权衡的 Pareto 前沿，证明权衡存在性并分四类分析必要条件，通过合成数据实验揭示前沿连续性、准确率急剧下降及两步消除权衡的方法。
2023-10-19 cs.CY cs.LG
Equity and Fairness of Bayesian Knowledge Tracing
University of Vienna（维也纳大学）；Max-Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
我们考虑从知识追踪模型中得出的课程的公平性和公正性。我们首先定义了一个统一的概念，一个公平的辅导系统作为一个系统，实现最大可能的知识，在最短的时间为每个学生与它互动。实现完美的公平需要辅导系统，可以提供个性化的课程，每个学生。特别是，我们调查的公平辅导系统，从知识追踪模型的课程设计。我们首先表明，许多现有的模型，包括经典的贝叶斯知识跟踪（BKT）和深度知识跟踪（DKT），以及它们的衍生课程可能无法实现公平的辅导。为了克服这个问题，我们提出了一种新的模型，贝叶斯-贝叶斯知识跟踪（BBKT），自然使在线个性化，从而更公平的辅导。我们证明，从我们的模型派生的课程是更有效和公平的比那些来自经典的BKT模型。此外，我们强调，改进模型的重点是下一步预测的公平性可能不足以开发公平的辅导系统。
2022-05-04 cs.LG
Controllable Pareto Trade-off between Fairness and Accuracy
University of Southern California（南加州大学）；University of Technology Sydney（悉尼技术大学）；University of Maryland, College Park（马里兰大学学院市分校）
提出CPT方法，利用多目标优化和梯度稳定技术，实现公平性与准确性之间可控的Pareto权衡。
2025-09-17 cs.LG
Enhancing Fairness and Performance in Machine Learning Models: A Multi-Task Learning Approach with Monte-Carlo Dropout and Pareto Optimality
Rice University（莱斯大学）
针对机器学习中由数据与算法引发的偏差问题，提出结合MC Dropout的多任务学习框架，借助帕累托最优平衡公平性与性能，在多数据集上验证有效并提升了模型可解释性。
2024-10-06 cs.CY cs.LG
Accuracy and Fairness Trade-offs in Machine Learning: A Stochastic Multi-Objective Approach
Lehigh University（理海大学）；University of Coimbra（科英布拉大学）
在将机器学习应用于现实生活中的决策系统中，例如，信用评分和刑事司法，预测结果可能会歧视具有敏感属性的人，导致不公平。公平机器学习中常用的策略是将公平性作为预测损失最小化的约束或惩罚项，这最终限制了提供给决策者的信息。在本文中，我们介绍了一种新的方法来处理公平性，制定一个随机多目标优化问题，相应的帕累托前沿唯一和全面定义的准确性，公平性权衡。然后，我们应用了随机近似型方法，有效地获得良好的传播和准确的帕累托前沿，这样做，我们可以处理训练数据到达流的方式。
2022-03-18 cs.LG stat.ML
Multi-Objective Multi-Agent Bandits: From Learning Efficiency to Fairness Optimization
University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）
本文研究了在随机奖励下的多目标多智能体老虎机问题，提出基于Pareto regret的高效学习算法和基于社会福利的公平学习方法，证明了算法在效率和公平性上的性能。
2026-05-07 cs.LG
Pareto-Guided Teacher Alignment for Fair Personalized Text Generation
Purdue University（普渡大学）
提出帕累托引导的教师对齐框架，通过修订候选生成、对感知可行性门控、帕累托候选选择和偏好优化，在减少人口统计差异的同时保持个性化保真度，实验表明公平缓解效果依赖于目标且跨域迁移不一致。
2026-06-08 cs.AI cs.CL cs.CY
Leveling Down in Computer Vision: Pareto Inefficiencies in Fair Deep Classifiers
Amazon Web Services（亚马逊云科技）；MPI-IS（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）；Rice University（莱斯大学）
算法公平性通常是在权衡方面被激励的，在权衡中，整体性能被降低，以便改善对处于不利地位的群体的性能，否则算法将不太准确。与此相反，我们发现，将现有的公平性方法应用于计算机视觉，通过降低所有组中分类器的性能来提高公平性（其中表现最好的组的性能下降幅度更大）。将分类的偏差方差分解扩展到公平性，我们从理论上解释了为什么大多数为低容量模型设计的公平分类器不应该用于涉及高容量模型的设置中，这是计算机视觉常见的情况。我们证实了这一分析与广泛的实验支持，表明在计算机视觉中使用的许多公平性算法也降低了最弱势群体的性能。基于这些见解，我们提出了一种自适应增强策略，独特的，所有的方法测试，提高性能的弱势群体。
2022-03-31 cs.CV cs.LG
The Fairness-Quality Trade-off in Clustering
Columbia University（哥伦比亚大学）；Max Planck Institute for Intelligent Systems Tübingen（图宾根马克斯·普朗克智能系统研究所）
针对聚类中公平性与质量的权衡问题鲜有研究的现状，提出可追踪两类通用目标下帕累托前沿的算法，证明其最坏情况时间复杂度的必然性，同时给出聚类中心固定时针对特定公平目标的多项式时间算法。
2024-08-19 cs.CY cs.LG
Understanding and Improving Fairness-Accuracy Trade-offs in Multi-Task Learning
Google Research（谷歌研究院）
随着多任务模型在更广泛的机器学习应用中越来越受欢迎，从业者理解与这些模型相关的公平性含义变得越来越重要。大多数现有的公平性文献都专注于更公平地学习单个任务，而ML公平性如何在联合学习环境中与多个任务相互作用则在很大程度上未得到充分探索。在本文中，我们关注的是群体公平性（例如，平等的机会，平等的赔率）作为ML公平概念在多任务场景中发挥作用。在多任务学习中，多个任务被联合学习，以利用任务相关性来实现更有效的归纳转移。这呈现了多维帕累托边界（1）关于每个任务的组公平性和准确性之间的权衡，以及（2）跨多个任务的权衡。我们的目标是提供一个更深入的了解如何组公平性与准确性在多任务学习，我们表明，传统的方法，主要集中在优化帕累托边界的多任务准确性可能不会表现良好的公平性目标。我们提出了一组新的指标，以更好地捕捉多维帕累托边界的公平性，准确性权衡独特的多任务学习设置。我们进一步提出了多任务感知公平性（MTA-F）方法来提高多任务学习的公平性。几个真实世界的数据集上的实验证明了我们所提出的方法的有效性。
2021-06-04 cs.LG
Towards Efficient Pareto-optimal Utility-Fairness between Groups in Repeated Rankings
College of Engineering & Computer Science, VinUniversity（VinUniversity工程与计算机科学学院）；University of Engineering and Technology, Vietnam National University（越南国家大学工程技术大学）
本文针对重复排序中效用与群体公平性的帕累托最优平衡问题，提出基于Expohedron和外接球面松弛的高效求解方法，显著降低计算复杂度并逼近真实帕累托曲线。
2024-02-22 cs.IR cs.LG
Trading Utility for Dynamic Fairness in Multiple Resource Division with Sequential Demand
Computer Science Dept. University of Illinois Chicago（伊利诺伊大学芝加哥分校计算机科学系）
提出一种神经分配机制，通过多目标优化在顺序分配中平衡公平与效用，实现更高的效用同时保持可比公平性。
2026-06-09 cs.GT cs.LG
Fair Knowledge Tracing in Second Language Acquisition
Monash University（莫纳什大学）；Renmin University of China（中国人民大学）；Australian National University（澳大利亚国立大学）
本研究评估Duolingo数据集上两种预测模型在跨平台和国家间的公平性，发现深度学习在准确率与公平性上总体优于机器学习，但模型普遍偏向移动用户，且不同语言轨道适用性不同。
2024-12-23 cs.AI cs.CY cs.HC
Optimizing Unlicensed Band Spectrum Sharing With Subspace-Based Pareto Tracing
National Institute of Standards and Technology（美国国家标准与技术研究院）
为了满足即将推出和部署的无线网络不断增长的数据吞吐量需求，长期演进许可辅助接入（LTE-LAA）等新无线技术在共享和未授权频段中运行。然而，LAA网络必须与现有IEEE 802.11 Wi-Fi系统共存。我们考虑多个LAA和Wi-Fi链路共享未授权频带的共存场景。我们的目标是通过降维和多标准优化同时最大化这些网络的关键性能指标（KPI）来改善这种共存。这些KPI是作为介质访问控制协议和物理层参数的函数的网络吞吐量。我们通过近似活动子空间来识别优化标准中的低维结构，即，同时最大化KPI的参数的几个线性组合。我们利用一个聚合的低维子空间参数化的近似活动子空间的吞吐量，以促进多标准优化。低维子空间近似告知可视化，揭示了混合活动坐标上的凸KPI，从而导致接近最优解的解析帕累托轨迹。
2021-02-24 cs.LG eess.SP
Introducing the Expohedron for Efficient Pareto-optimal Fairness-Utility Amortizations in Repeated Rankings
Naver Labs Europe（欧洲Naver实验室）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）
我们考虑的问题，计算一系列的排名，最大限度地提高消费者的效用，同时最大限度地减少生产者的个人不公平的曝光。虽然以前的工作已经解决了这个问题，使用线性或二次规划的双随机矩阵，这种方法，依赖于伯克霍夫-冯诺依曼（BvN）分解，太慢，在大规模实施。在本文中，我们介绍了一个几何对象，一个多面体，我们称之为多面体，其点表示所有可实现的曝光项目的位置为基础的模型（PBM）。我们展示了它的一些属性，并制定了一个Carathéodory分解算法的复杂性$O(n^2\log(n))$能够表示任何点内的多面体作为一个凸和最多$n$顶点，其中$n$是项目的数量排名。这样的分解使得可以将任何可行的目标暴露表示为至多$n$等级上的分布。此外，我们表明，我们可以使用这个多面体恢复多目标公平效用优化问题的整个帕累托前沿，使用一个简单的几何过程与复杂性$O(n^2\log(n))$。我们的方法比较有利的线性或二次规划基线的算法复杂性和经验运行时间，适用于任何优点，是一个非递减函数的项目相关性。此外，我们的解决方案可以表示为一个分布，只有$n$排列，而不是$(n-1)^2 + 1$实现BvN分解。我们在合成和真实世界的数据集上进行实验，证实了我们的理论结果。
2022-02-07 cs.IR cs.LG
Fairness Without Harm: An Influence-Guided Active Sampling Approach
UC Santa Cruz（加州大学圣克鲁兹分校）；Meta GenAI（元通用人工智能部门）
提出一种不依赖训练组标注、仅需验证集组标注的影响力引导主动采样算法，在不损害准确性的前提下改善群体公平性，理论分析与实验验证其有效性。
2024-11-08 cs.AI cs.LG
Fair and Green Hyperparameter Optimization via Multi-objective and Multiple Information Source Bayesian Optimization
University of Milano-Bicocca（米兰比可卡大学）；OAKS srl（OAKS有限责任公司）
有一个共识是，只关注搜索最佳机器学习模型的准确性会放大数据中包含的偏差，导致不公平的预测和决策支持。最近，多目标超参数优化已经被提出来搜索机器学习模型，这些模型在准确性和公平性之间提供同样的帕累托有效的权衡。虽然这些方法被证明比公平感知的机器学习算法更通用-优化精度限制在某个公平阈值上-但在大型数据集的情况下，它们可能会大幅增加能耗。在本文中，我们提出了FangG-HPO，一个公平的和绿色的超参数优化（HPO）方法的基础上，多目标和多信息源贝叶斯优化。FanG-HPO使用大型数据集的子集（又名信息源）来获得准确性和公平性的廉价近似值，并使用多目标贝叶斯优化来有效地识别帕累托有效的机器学习模型。实验考虑了两个基准（公平性）数据集和两种机器学习算法（XGBoost和多层感知器），并通过BoTorch中的多目标单源优化算法对FanG-HPO进行了评估，BoTorch是最先进的贝叶斯优化平台。
2022-05-18 cs.LG math.OC stat.ML
Fair Domain Generalization: An Information-Theoretic View
本文提出PAFDG框架，通过信息论视角解决公平领域泛化问题，实现效用与公平性的帕累托优化。
2026-01-01 cs.CV cs.LG
Federated Multi-Objective Learning with Controlled Pareto Frontiers
本文提出CR-FMOL框架，通过偏好锥约束在联邦学习中实现客户端层面的帕累托最优性，实验证明其能提升客户端公平性并有望在充分训练后达到与FedAvg相当的准确率。
2025-08-23 cs.LG
Fair Feature Selection: A Comparison of Multi-Objective Genetic Algorithms
University of Kent（肯特大学）
本文比较基于Pareto支配和字典序优化的两种公平特征选择遗传算法，发现字典序方法在不损害公平性的前提下取得更高准确性。
2023-10-04 cs.LG
A Hybrid 2-stage Neural Optimization for Pareto Front Extraction
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究所）
分类、推荐和排名问题通常涉及具有附加约束的竞争目标（例如，以满足公平性或多样性标准）。这样的优化问题是相当具有挑战性的，通常涉及非凸函数以及在平衡权衡中考虑用户偏好。帕累托解代表了联合优化多个竞争目标的最优边界。经常使用的线性标量化策略的一个主要障碍是，由此产生的优化问题可能并不总是收敛到全局最优。此外，这样的方法每次运行仅返回一个解点。帕累托解集是针对不同权衡选择的多次运行中所有此类全局最优解的子集。因此，帕累托前沿只能通过线性标量化问题的多次运行来保证，其中所有运行都收敛到它们各自的全局最优值。因此，为实际问题提取帕累托前沿在计算上是难以处理的，具有大量的计算开销、有限的可扩展性和降低的准确性。我们提出了一个强大的，低成本的，两阶段的，混合神经帕累托优化方法，是准确的和规模（计算空间和时间）与数据维度，以及功能和约束的数量。第一阶段（神经网络）有效地提取一个弱的帕累托前沿，使用弗里茨-约翰条件作为约束，没有假设的凸性的目标或约束。第二阶段（有效帕累托过滤器）提取强帕累托最优子集给定的弱前从阶段1。Fritz-John条件为我们提供了真实和网络提取的弱Pareto前沿之间的近似误差的理论界。数值实验表明，一组典型的基准问题和公平性优化任务从以前的作品的准确性和效率。
2021-02-13 cs.LG math.OC
Fairer and More Accurate Tabular Models Through NAS
本研究首次将多目标神经架构搜索与超参数优化应用于表格数据，通过联合优化模型架构与训练超参数，在准确性和公平性约束下生成帕累托最优架构，超越了现有偏差缓解方法。
2023-10-18 cs.AI cs.CY cs.LG
Using Pareto Simulated Annealing to Address Algorithmic Bias in Machine Learning
University College Dublin（都柏林大学）
算法偏见可能是由于训练数据的偏差或算法本身的问题。这些算法问题通常与模型容量和正则化问题有关。这种低估偏差可能会出现，因为模型已经优化了良好的泛化精度，而没有明确考虑偏差或公平性。从某种意义上说，我们不应该感到惊讶，一个模型可能是有偏见的，当它没有被“要求”不要。在本文中，我们考虑将偏差（低估）作为模型训练中的一个额外标准。我们提出了一个多目标优化策略，使用帕累托模拟退火，优化平衡的准确性和低估。我们在一个合成数据集和两个真实世界数据集上证明了该策略的有效性。
2021-05-31 cs.CY cs.LG
Addressing Algorithmic Disparity and Performance Inconsistency in Federated Learning
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）；Weill Cornell Medicine（威尔·康奈尔医学院）
联邦学习（Federated learning，FL）能够从分布式数据源中进行学习，而不需要访问不同数据源的原始数据样本，因此受到越来越多的关注。到目前为止，FL的研究主要集中在提高性能，算法差异将如何影响从FL学习的模型，以及算法差异对效用不一致性的影响在很大程度上是未知的。在本文中，我们提出了一个FL框架，共同考虑性能的一致性和算法公平性在不同的本地客户端（数据源）。我们从约束多目标优化的角度推导出我们的框架，在该框架中，我们学习了一个模型，该模型满足对所有客户端的公平性约束，并具有一致的性能。具体来说，我们把算法的预测损失在每个本地客户端作为一个目标，并最大限度地提高性能最差的客户端的公平性约束，通过优化代理最大值函数的所有目标。一个基于梯度的过程是实现这个优化问题的帕累托最优。理论分析证明，我们的方法可以收敛到一个Pareto解决方案，实现最小最大的性能与公平性约束的所有客户端。在合成数据集和真实数据集上进行的综合实验表明，我们的方法优于基线，并且在所有本地客户端实现公平性和一致性方面有效。
2021-10-20 cs.LG
Separation-Utility Pareto Frontier: An Information-Theoretic Characterization
Department of Mathematics University of California Davis（数学系加州大学戴维斯分校）
研究效用与分离间的帕累托前沿，通过信息论证明其表征方式与凹性。基于此开发CMI正则化器，与深度模型兼容。数值实验表明该方法能减少分离违规，在多数据集上匹配或超越基线方法效用，为深度学习中实施分离提供新途径。
2026-07-14 cs.LG stat.ML
Fairness-Aware Insurance Pricing: A Multi-Objective Optimization Approach
本文提出一种多目标优化方法，通过NSGA-II算法同时优化保险定价中的准确性、群体公平性、个体公平性和反事实公平性，实现公平性与盈利性的平衡。
2025-12-31 cs.LG q-fin.RM
The Statistical Fairness-Accuracy Frontier
Rice University（莱斯大学）；University of California, Berkeley（加州大学伯克利分校）；Inria Paris（法国国家信息与自动化研究所巴黎分院）
本文研究了在有限样本情况下，如何通过最优样本分配策略和估计器设计，近似公平性-准确率前沿并量化其可靠性。
2026-10-19 cs.LG econ.TH math.OC
The Sharpe predictor for fairness in machine learning
Lehigh University（利哈伊大学）；University of Coimbra（科英布拉大学）
在机器学习（ML）应用中，不公平的预测可能会歧视少数群体。大多数现有的公平机器学习（FML）方法将公平性视为ML模型优化中的约束或惩罚项，这不会导致发现学习准确性和公平性度量之间权衡的完整景观，并且不会以有意义的方式整合公平性。最近，我们引入了一个新的范式FML的基础上随机多目标优化（SMOO），准确性和公平性指标的立场，同时优化冲突的目标。整个权衡范围被定义为SMOO问题的帕累托前沿，然后可以使用随机梯度型算法有效地计算。SMOO还允许为FML定义和计算新的有意义的预测器，一个新的预测器是我们在本文中介绍和探索的Sharpe预测器，它给出了最高的准确性与不公平性的比率。受金融领域SMOO的启发，FML的Sharpe预测器提供了每单位预测风险（不公平性）的最高预测回报（准确性）。
2021-08-13 cs.LG
Consider the Alternatives: Navigating Fairness-Accuracy Tradeoffs via Disqualification
Weizmann Institute of Science（魏茨曼科学研究所）
在许多机器学习环境中，公平性和准确性之间存在固有的紧张关系。在这种权衡之下，应该如何着手？在这项工作中，我们介绍和研究$γ$ -取消资格，一个新的框架推理的公平性和准确性的权衡w.r.t的基准类$H$的上下文中的监督学习。我们的要求规定，如果一个分类器可以通过从$H$切换到另一个分类器来提高其公平性，而不会在准确性上付出“太多”，则该分类器应被取消资格。“太多”的概念通过参数$γ$来量化，该参数用作指定准确性和公平性之间可接受的权衡的工具，其方式独立于用于量化给定任务中的公平性和准确性的特定度量。为了实现这一目标，我们建立了原则性的翻译单位的准确性和单位（不）公平性不同的准确性措施。我们显示$γ$ -取消资格可以很容易地比较不同的学习策略，他们如何权衡公平性和准确性，我们给一个有效的减少找到最佳的分类器，满足我们的要求的问题近似的帕累托边界的$H$。
2021-10-02 cs.CY cs.LG
Fairness under Covariate Shift: Improving Fairness-Accuracy tradeoff with few Unlabeled Test Samples
Google Research India（谷歌研究院印度分院）；UCLA（加州大学洛杉矶分校）；Fujitsu Research India（富士通研究院印度分院）
针对协变量偏移下公平性下降问题，利用少量无标签测试样本，提出复合加权熵与表示匹配损失联合优化方法，显著提升公平性-准确性权衡，并验证了非对称协变量偏移场景下的优越性及理论近似效果。
2024-01-08 cs.AI cs.LG
Demystifying the Optimal Fair Classifier in Multi-Class Classification
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；College of Computer Science（计算机科学学院）；Technology, Zhejiang University（技术，浙江大学）；School of Communication Engineering, Hangzhou Dianzi University（杭州电子科技大学通信工程学院）
本文针对多类分类中的公平性问题，提出了一种在公平约束下最优分类器的概率公式，并设计了两种属性盲算法（处理中与处理后）以逼近最优精度-公平帕累托前沿。
2026-05-30 cs.AI cs.LG
Fair Data Representation for Machine Learning at the Pareto Frontier
University of California Davis（加州大学戴维斯分校）
提出一种基于最优仿射传输的公平数据表示预处理算法，通过逼近Wasserstein-2重心刻画预测误差与统计差异的帕累托前沿，兼具计算高效性与敏感信息保护能力。
2023-11-24 cs.LG math.PR stat.ML
Tracing Stereotypes in Pre-trained Transformers: From Biased Neurons to Fairer Models
University of Salerno（萨勒诺大学）
本文通过追踪预训练转换器中的偏见神经元，提出了一种在BERT模型中抑制偏见的方法，从而减少模型中的偏见并提升公平性。
2026-01-09 cs.LG cs.SE
Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium
University of Central Florida（中佛罗里达大学）
针对现有偏见缓解方法易损失信息、难以平衡准确性与公平性的问题，提出基于双层优化的公平双层神经网络FairBiNN，可实现帕累托最优，在表格数据集上性能优于现有公平方法，缩小了准确率与公平性的差距。
2024-10-29 cs.LG
Accuracy Is Not Enough: A Cross-Architecture Audit of Demographic Bias in Deep Knowledge Tracing
FPT University（FPT大学）；Van Lang University（文朗大学）
本研究跨架构审计深度知识追踪模型的人口统计学偏见，发现最准确的AKT模型偏见最严重，且标准缓解措施无效。
2026-09-18 cs.LG
Active Fairness in Algorithmic Decision Making
MIT（麻省理工学院）
社会越来越依赖于机器学习模型来进行自动化决策。然而，自动化带来的效率提升伴随着对算法歧视的担忧，这种歧视可能会使不平等现象系统化。最近的工作提出了最佳的后处理方法，随机分类决策的一小部分个人，以实现公平的措施有关的奇偶性错误和校准。然而，这些方法引起了人们的关注，由于信息效率低下，组内的不公平性，和帕累托次优，它们所带来的。目前的工作提出了一种替代的主动框架，公平的分类，其中，在部署中，决策者自适应地获取信息，根据不同的群体或个人的需要，对平衡的差异分类性能。我们提出了两种这样的方法，其中信息收集是适应组和个人层面的需求分别。我们在现实世界的数据集上展示了这些可以实现的：1）校准和单错误奇偶校验（例如，机会均等）;以及2）假阳性率和假阴性率的均等（即，等赔率）。此外，我们表明，通过利用其额外的自由度，主动方法可以大大优于先前认为最佳的基于随机化的分类器，同时避免组内不公平等限制。
2018-11-07 cs.AI cs.CY cs.LG
Unprocessing Seven Years of Algorithmic Fairness
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（蒂宾根人工智能中心）
本研究通过大规模实证评估，发现后处理方法在公平-准确性帕累托前沿上优于或包含其他方法，并提出“反处理”以解决方法论错误，实现公平性方法的公平比较。
2024-03-15 cs.CY cs.LG
Exploring Equality: An Investigation into Custom Loss Functions for Fairness Definitions
本文首次将 Group Accuracy Parity 框架应用于 COMPAS，通过定制损失函数和 Pareto 前沿分析，证明其在公平性与准确性之间取得了比传统公平性定义更好的平衡，同时指出算法改进之外还需法律和制度变革。
2025-01-03 cs.CY cs.LG
Certifying Fairness of Probabilistic Circuits
University of California, Los Angeles（加州大学洛杉矶分校）；Arizona State University（亚利桑那州立大学）
随着越来越多地使用机器学习系统进行决策，有关此类系统的公平性的问题开始占据中心舞台。大多数关于算法公平性的现有工作都假设在预测时完全观察到特征，就像统计奇偶性和机会均等等流行概念一样。然而，这对于可以通过部分观察进行预测的模型来说是不够的，因为我们可能会错过偏差模式并错误地证明模型是公平的。为了解决这个问题，最近引入的公平性概念询问模型是否表现出任何歧视模式，其中以（部分）特征观察为特征的个体仅通过披露一个或多个敏感属性（如性别和种族）来获得截然不同的决定。通过显式地解释部分观测，这提供了一个更细粒度的公平性概念。在本文中，我们提出了一个算法来搜索歧视模式的一般类的概率模型，即概率电路。以前，这样的算法仅限于朴素贝叶斯分类器，使强大的独立性假设;相比之下，概率电路提供了一个统一的框架，范围广泛的易处理的概率模型，甚至可以从某些类别的贝叶斯网络和概率程序编译，使我们的方法更广泛地适用。此外，对于不公平的模型，快速找到歧视模式并提取它们以获得更好的可解释性可能是有用的。因此，我们还提出了一种基于采样的方法来更有效地挖掘歧视模式，并引入了新的模式类别，如最小，最大和帕累托最优模式，可以有效地指数总结许多歧视模式
2022-12-05 cs.AI cs.CY cs.LG
Exploring Accuracy-Fairness Trade-off in Large Language Models
Southern University of Science and Technology（南方科技大学）；Lingnan University（岭南大学）
本文提出将LLM训练重构为多目标学习任务，并利用多目标进化学习（MOEL）框架同时优化准确性与公平性，获得帕累托最优模型集，为解决LLM中准确性与公平性权衡问题提供了新途径。
2024-11-21 cs.AI cs.CL cs.CY
Fair Feature Subset Selection using Multiobjective Genetic Algorithm
North Dakota State University（北达科他州立大学）
特征子集选择问题旨在选择相关的特征子集，以提高训练数据上的机器学习（ML）算法的性能。数据中的一些特征可能是固有的噪声，计算成本高，不适当的缩放或与其他特征相关，并且它们可能对诱导算法的准确性，成本和复杂性产生不利影响。传统的特征选择方法的目标是去除这些不相关的特征。近年来，ML对我们日常生活的决策过程产生了显著的影响。我们希望确保这些决定不会反映出基于年龄、性别或种族等受保护属性对某些群体或个人的偏见行为。在本文中，我们提出了一个特征子集选择方法，提高了公平性和准确性的目标，并使用NSGA-II算法计算帕累托最优解。我们使用统计差异作为公平性度量，F1-Score作为模型性能的度量。我们在最常用的公平性基准数据集上使用三种不同的机器学习算法进行的实验表明，使用进化算法，我们可以有效地探索公平性和准确性之间的权衡。
2022-04-30 cs.CY cs.LG cs.NE
