Benchmarking Fairness-aware Graph Neural Networks in Knowledge Graphs
The University of Osaka（大阪大学）
该研究针对现有公平感知图神经网络（GNN）缺乏知识图谱场景评估的空白，基于YAGO等三个大规模知识图谱构建新数据集，在不同GNN骨干和早停条件下测试预处理与处理中公平方法，揭示了知识图谱上准确率与公平性的权衡规律及不同方法的效果差异。
2025-10-21 cs.AI cs.LG
Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML
Eindhoven University of Technology（埃因霍温理工大学）；Ludwig-Maximilians-Universität München（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Albert-Ludwigs-Universität Freiburg（阿尔伯特-路德维希-弗莱堡大学）；University of Tübingen（蒂宾根大学）
本文探讨公平性无法完全自动化，系统梳理公平性相关伤害的来源及其对公平感知AutoML设计的影响，指出公平感知AutoML可作为ML从业者的重要工具，并提出开放性技术挑战与以用户为中心的辅助系统设计方向。
2024-02-20 cs.AI cs.CY
FairAgent: Democratizing Fairness-Aware Machine Learning with LLM-Powered Agents
Clemson University USA（卡罗来纳州克莱姆森大学）；University of Arkansas USA（阿肯色大学）
针对公平感知机器学习开发门槛高的问题，提出由LLM驱动的FairAgent系统，可自动完成偏差分析、数据处理与缓解策略实施，在提升性能的同时降低开发难度与成本。
2025-10-05 cs.AI cs.LG
A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization
Feedzai（飞载）；Universidade do Porto（波尔图大学）
相当多的研究工作已被引导到算法公平性，但仍然没有重大突破。在实践中，需要对所有可能的技术和超参数进行详尽的搜索，以找到最佳的公平性-准确性权衡。因此，再加上ML从业者缺乏工具，减少偏差方法的实际应用仍然很少。为了解决这个问题，我们提出了Fairband，一个基于带宽的公平感知超参数优化（HO）算法。Fairband在概念上简单，资源有效，易于实现，并且对目标指标，模型类型和正在探索的超参数空间都不可知。此外，通过将公平概念引入HO，我们可以将公平目标无缝有效地集成到现实世界的ML管道中。我们比较Fairband与流行的HO方法在四个现实世界的决策数据集。我们表明，Fairband可以有效地导航的公平性和准确性的权衡，通过超参数优化。此外，在没有额外的训练成本的情况下，它始终发现在预测准确性的相对较小的降低下实现大幅提高的公平性的配置。
2020-10-22 cs.AI cs.LG
Towards Fairness-Aware Multi-Objective Optimization
East China University of Science and Technology（华东理工大学）；Northeastern University（东北大学）；Bielefeld University（比勒费尔德大学）；University of Surrey（萨里大学）
近年来，公平感知机器学习在减轻决策中的不公平或歧视方面得到了快速发展，应用范围广泛。然而，公平感知的多目标最优化问题在现实生活中确实很常见，如公平资源分配问题和数据驱动的多目标最优化问题，却很少受到关注。本文旨在从公平性的角度阐明和拓宽我们对多目标最优化的理解。为此，我们从讨论多目标最优化中的用户偏好开始，然后探索其与机器学习和多目标最优化中的公平性的关系。在此基础上，给出了公平性感知多目标优化的典型案例，进一步阐述了公平性在传统多目标最优化、数据驱动优化和联邦优化中的重要性。最后，公平意识的多目标最优化的挑战和机遇。我们希望这篇文章能够为在优化的背景下理解公平性迈出一小步，并促进对公平感知多目标最优化的研究兴趣。
2022-07-22 cs.AI cs.LG cs.NE
Fairness-Aware Network Embeddings: Methods, Applications, and Challenges
LIACS, Leiden University（莱顿大学LIACS学院）；IIT Ropar（印度理工学院罗帕尔分校）；IIT Roorkee（印度理工学院鲁基分校）；Eindhoven University of Technology（埃因霍温理工大学）
本综述梳理面向公平性的网络嵌入方法，提出多维度分类体系，比较相关方法的公平性维度差异，指出当前局限与未来方向，为开发公平可信的网络表示学习方法提供参考。
2026-08-21 cs.AI cs.SI
Fairness-aware Outlier Ensemble
Zhejiang University（浙江大学）；Pennsylvania State University（宾夕法尼亚州立大学）；University at Buffalo（布法罗大学）
离群值集成方法在发现与大多数数据显著不同的实例方面表现出出色的性能。然而，如果没有公平意识，它们在道德场景中的适用性，如欺诈检测和司法判决系统，可能会降低。在本文中，我们提出了通过一个公平意识的集成框架，以减少偏差的离群集成结果。由于离群点检测任务中缺乏地面真值，关键的挑战是如何在提高公平性的同时减轻检测性能的下降。为了解决这一挑战，我们定义了一个距离测量的基础上输出的传统离群集成技术来估计可能的成本与检测性能下降。同时，我们提出了一个后处理框架，通过堆叠过程来调整原始集成结果，以便我们可以实现公平性和检测性能之间的权衡。检测性能通过ROC曲线下面积（AUC）来衡量，而公平性则在组和个体水平上进行衡量。在8个公共数据集上进行了实验。结果表明，该框架在提高离群集成结果的公平性的有效性。我们还分析了AUC和公平性之间的权衡。
2021-03-17 cs.AI cs.LG
A Survey on Fairness-aware Recommender Systems
Tianjin University（天津大学）；Monash University（莫纳什大学）；Nantong University（南通大学）；RMIT University（皇家墨尔本理工大学）；Griffith University（格里菲斯大学）
本文综述公平性感知推荐系统，梳理不同场景下的公平性概念、方法、数据集、指标、工业应用及与可信性原则的联系，并指出未来研究方向。
2023-06-01 cs.AI cs.IR
FairOD: Fairness-aware Outlier Detection
Carnegie Mellon University（卡内基梅隆大学）；Snap Inc.（Snap 公司）
公平性和离群点检测（OD）密切相关，因为OD的目标正是在给定的群体中发现稀有的少数样本。然而，当少数群体（由受保护的变量定义，如种族/民族/性别/年龄）并不反映积极的阶级成员身份（如犯罪/欺诈）时，OD产生不公正的结果。令人惊讶的是，公平意识OD在以前的工作中几乎没有被触及，因为公平机器学习文献主要集中在监督设置上。我们的工作旨在弥合这一差距。具体来说，我们开发desiderata捕获动机良好的公平标准OD，并系统地正式的公平OD问题。此外，在我们的期望的指导下，我们提出了FairOD，一个公平意识的离群值检测器，具有以下理想的属性：FairOD（1）在测试时表现出治疗奇偶性，（2）旨在标记来自所有组的相等比例的样本（即通过统计奇偶性获得组公平性），以及（3）努力标记每个组中真正的高风险样本。在一组不同的合成和真实世界数据集上进行的广泛实验表明，FairOD产生的结果对于受保护的变量是公平的，同时在检测性能方面与公平不可知的检测器相当（在某些情况下，甚至更好）。
2021-08-30 cs.AI cs.LG
A Human-in-the-loop Framework to Construct Context-aware Mathematical Notions of Outcome Fairness
University of Toronto（多伦多大学）；ETH Zürich（苏黎世联邦理工学院）；Carnegie Mellon University（卡内基梅隆大学）
现有的数学公平概念无法解释决策的背景。我们认为，道德考虑的背景因素是一个固有的人类任务。因此，我们提出了一个框架来学习上下文感知的公平性的数学公式，引发人们的公平性评估。我们的公平概念家族对应于对机会平等（EOP）经济模型的新解释，它包括了大多数现有的公平概念作为特例。我们的人在回路的方法是设计来学习EOP家庭的适当参数，利用人类的反应，成对的问题，决策主体的情况和应得的，以及对他们的伤害/好处。我们通过在Amazon Mechanical Turk上进行一系列人类受试者实验，在假设的犯罪风险评估场景中说明了我们的框架。我们的工作迈出了重要的第一步，使利益相关者能够在制定机器学习的公平性方面发表意见。
2021-05-18 cs.AI cs.CY
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University（Chungnam国立大学）
提出FnRGNN，一种多层面公平性处理框架，通过边重加权、MMD对齐和Sinkhorn分布匹配，在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Fairness Aware Reward Optimization
CSAIL, Department of EECS, Massachusetts Institute of Technology（计算机科学与人工智能实验室，电气工程与计算机科学系，麻省理工学院）；School of CIT, MCML, MDSI, Technical University of Munich（信息科技学院，MCML，MDSI，慕尼黑技术大学）
Faro通过在处理过程中训练奖励模型，实现公平性、准确性与校准性的平衡，减少偏见并提升模型质量。
2026-02-08 cs.AI cs.LG
FAME: Fairness-aware Attention-modulated Video Editing
FAME通过注意力调制在免训练视频编辑中缓解职业相关性别偏见，同时保持提示对齐和时间一致性，在FairVE基准上超越现有基线。
2025-10-27 cs.AI cs.CV
Fairness-aware Classification: Criterion, Convexity, and Bounds
University of Arkansas（阿肯色大学）
公平感知分类在机器学习领域受到越来越多的关注。最近的研究建议制定公平意识的分类约束优化问题。然而，一些局限性存在于以前的作品，由于缺乏一个理论框架来指导制定。在本文中，我们提出了一个通用的框架，学习公平的分类，解决了以前的限制。该框架将各种常用的公平性度量公式化为凸约束，可以直接纳入经典的分类模型。在这个框架内，我们提出了一个无约束的标准，训练数据，确保任何分类器从数据中学习是公平的。我们还推导出的约束条件，确保真正的公平性度量是满足时，代理函数来实现凸性。我们的框架可以用来制定公平意识的分类公平性保证和计算效率。使用真实世界数据集的实验证明了我们的理论结果，并显示了所提出的框架和方法的有效性。
2018-09-13 cs.AI cs.CY cs.LG
GFLC: Graph-based Fairness-aware Label Correction for Fair Classification
University of Tartu, Institute of Computer Science（塔尔图大学计算机科学研究所）
本文提出GFLC方法，通过结合预测置信度、Ricci流优化的图正则化及人口统计均等激励，在保持公平性的同时有效修正标签噪声，显著改善性能与公平性的权衡。
2025-06-18 cs.AI cs.LG
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Tulane University（杜兰大学）；DePaul University（德保罗大学）；IBM Watson Research Center（IBM沃森研究中心）
随着推荐系统的设计和部署越来越多的社会后果的应用程序，它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而，我们认为，以前的文献一直是基于简单的，统一的，往往是一维的公平假设的概念，不承认现实世界的复杂性，公平意识的应用程序。在本文中，我们明确表示的设计决策，进入多个定义和交叉保护组的准确性和公平性之间的权衡，支持多个公平性指标。该框架还允许推荐器调整其性能的基础上，已交付的建议，在一个时间范围内的历史视图，动态重新平衡公平性的关注。在这个框架内，我们制定了基于彩票的公平性问题之间的选择机制，并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
Metrics and methods for a systematic comparison of fairness-aware machine learning algorithms
Experian DataLabs UK&I and EMEA（益博睿英国爱尔兰及欧洲、中东和非洲数据实验室）
理解和消除机器学习模型所做决策的偏见对于避免歧视弱势群体至关重要。尽管最近在算法公平性方面取得了进展，但仍然没有明确的答案来说明哪些偏差缓解方法是最有效的。评估策略通常是特定于用例的，依赖于带有不明确偏见的数据，并采用固定的策略将模型输出转换为决策结果。为了解决这些问题，我们进行了系统的比较，一些流行的公平算法适用于监督分类。我们的研究是同类研究中最全面的。它利用三个真实数据集和四个合成数据集，以及两种不同的将模型输出转换为决策的方法。它考虑了28种不同建模管道的公平性，预测性能，校准质量和速度，对应于公平性感知算法和公平性感知算法。我们发现，不知道公平性的算法通常无法产生足够公平的模型，最简单的算法不一定是最公平的。我们还发现，公平意识算法可以在预测能力没有实质性下降的情况下诱导公平性。最后，我们发现数据集的特质（例如，内在不公平的程度，相关性的性质）确实影响公平意识方法的性能。我们的研究结果允许从业者缩小他们想采用的方法，而不必提前知道他们的公平性要求。
2020-10-08 cs.AI cs.CY cs.LG
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Carnegie Mellon University（卡内基梅隆大学）
数据驱动的学习算法在许多在线应用中被采用，其中数据随着时间的推移变得可用，如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时，底层数据分布可能会随着时间的推移而演变，从而需要模型自适应。在这种动态环境中，即所谓的数据流中，公平性感知学习不能被认为是一次性的要求，而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题，这体现在许多现实生活中的应用，并减轻歧视，主要是因为他们“拒绝”少数情况下，由于他们无法有效地学习所有类。在这项工作中，我们提出了\ours，一个在线的公平意识的方法，保持一个有效的和公平的流分类。\ours ~是一种在线提升方法，通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果，以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明，我们的方法优于最先进的公平感知流方法，平衡准确率（相对）提高[11.2%~ 14.2%]，gmean（相对）提高[22.6%~ 31.8%]，回忆率（相对）提高[42.5%~ 49.6%]，Kappa值为14.3%~ 25.7%，统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
Geometric Fairness-Aware Routing for Federated Edge Networks
Department of Electrical and Computer Engineering, University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校电气与计算机工程系）
提出Geo-FairFed，融合双曲图神经网络与联邦优化，通过曲率正则化公平目标实现边缘节点间的均衡路由，在6G和IoT拓扑上延迟降低20%、能耗降低17%、公平性提升21%。
2026-06-26 cs.AI cs.NI
Beyond Independent Manipulation: Individual Fairness-aware Strategic Classification with Peer Imitation
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机科学与技术学院）；School of Mathematical Sciences, Peking University（北京大学数学学院）；Institute for Theoretical Computer Science, Shanghai University of Finance and Economics（上海财经大学理论计算机科学研究所）；Information Technology Development, Aetos Capital Group, Sydney（悉尼Aetos资本集团信息技术部）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
提出个体公平感知策略分类（IFSC）框架，通过建模基于个体公平的同伴驱动操纵（模仿邻近被接受同伴），并采用鲁棒学习过程处理同伴可观测性不确定性，以改善个体公平一致性并减轻模仿引起的扭曲。
2026-06-26 cs.AI cs.LG
Fairness-Aware Unsupervised Feature Selection
Tsinghua University（清华大学）；Brandeis University（布兰迪斯大学）；University of Virginia（弗吉尼亚大学）
特征选择是一种普遍的数据预处理范例，用于各种学习任务。由于获取监督信息的代价昂贵，无监督特征选择近年来引起了人们的极大兴趣。然而，现有的无监督特征选择算法没有公平性考虑，并且通过选择与受保护属性（诸如性别、种族和民族）过度关联的特征而遭受放大歧视的高风险。在本文中，我们做了初步的调查公平意识的无监督特征选择问题，并开发了一个原则性的框架，利用内核对齐找到一个子集的高质量的功能，可以最好地保留在原始特征空间中的信息，同时最低限度地与受保护的属性相关。具体而言，不同于主流的处理中去偏置方法，我们提出的框架可以被视为一个模型无关的去偏置策略，消除偏见和歧视之前，下游学习算法参与。多个真实数据集上的实验结果表明，我们的框架实现了效用最大化和公平性促进之间的良好权衡。
2021-06-04 cs.AI cs.LG
Fairness and Transparency in Recommendation: The Users' Perspective
University of Colorado Boulder（科罗拉多大学博尔德分校）
虽然推荐系统是由个性化定义的，但最近的工作表明了额外的，超越准确性目标的重要性，例如公平性。由于用户通常希望他们的推荐是纯粹个性化的，这些新的算法目标必须在公平意识推荐系统中透明地传达。虽然解释在推荐系统研究中有很长的历史，但很少有工作试图解释使用公平目标的系统。尽管人工智能其他分支以前的工作已经探索了使用解释作为提高公平性的工具，但这项工作并没有集中在推荐上。在这里，我们认为公平意识推荐系统和技术，以提高其透明度的用户的观点。我们描述了一个探索性的访谈研究，调查用户的公平感，推荐系统，公平意识的目标的结果。我们提出了三个功能-通知我们的参与者的需求-可以提高用户的理解和信任的公平意识的推荐系统。
2021-03-16 cs.AI cs.HC cs.IR
Parity-based Cumulative Fairness-aware Boosting
Leibniz University Hannover（汉诺威莱布尼茨大学）；L3S Research Center（L3S研究中心）；Freie Universität Berlin（柏林自由大学）
数据驱动的人工智能系统可能会导致基于性别或种族等受保护属性的歧视。这种行为的一个原因是训练数据中编码的社会偏见（例如，女性代表不足），这在阶级分布不平衡的情况下更加严重（例如，“被授予”是少数人阶级）。最先进的公平性感知机器学习方法专注于在提高公平性的同时保持\emph{overall}分类准确性。在存在阶级不平衡的情况下，这种方法可能进一步加剧歧视问题，因为它剥夺了已经代表性不足的群体（例如，\textit{females}）平等社会特权的基本权利（例如，平等的信贷机会）。为此，我们提出了AdaFair，一个公平性感知的提升集成，它在每一轮改变数据分布，不仅考虑到类错误，而且还考虑到基于部分集成累积定义的模型的公平性相关性能。除了在训练中提升每一轮被区分的组之外，AdaFair通过优化集成学习器的数量来直接解决训练后阶段的不平衡问题，以实现平衡的错误性能（BER）。AdaFair可以促进不同的基于均等的公平概念，并有效地减少歧视性结果。我们的实验表明，我们的方法可以实现统计奇偶性，平等的机会，和不同的虐待方面的奇偶性，同时保持良好的预测性能的所有类。
2022-01-04 cs.AI cs.LG
SimFair: Physics-Guided Fairness-Aware Learning with Simulation Models
University of Maryland（马里兰大学）；University of Pittsburgh（匹兹堡大学）；University of Florida（佛罗里达大学）
针对新区域无样本导致公平性难以迁移的问题，提出物理引导的公平感知学习框架SimFair，将物理仿真与逆建模融入训练，以温度预测验证其公平保持效果。
2024-02-05 cs.AI cs.CY cs.LG
Fairness-aware Adversarial Perturbation Towards Bias Mitigation for Deployed Deep Models
Wuhan University（武汉大学）；Zhejiang University（浙江大学）；Ant Group（蚂蚁集团）；Adobe Research（Adobe研究院）
优先考虑公平性在人工智能（AI）系统中至关重要，特别是对于那些社会应用，例如，招聘制度应平等地推荐来自不同人口群体的申请人，风险评估制度必须消除刑事司法中的种族主义。现有的人工智能系统道德发展努力利用数据科学来减轻训练集中的偏见，或将公平原则引入训练过程。然而，对于已部署的人工智能系统，它可能不允许在实践中进行重新训练或调整。相比之下，我们提出了一种更灵活的方法，即，公平感知对抗扰动（FAAP），其学习扰动输入数据以在公平相关特征上盲部署模型，例如，性别和种族。FAAP的主要优势在于它不会修改已部署模型的参数和结构。为了实现这一目标，我们设计了一个基于潜在表示的公平性相关属性从部署的模型区分。同时，一个扰动发生器的训练，对干扰，这样就没有公平相关的功能可以从扰动输入提取。详尽的实验评估表明，建议FAAP的有效性和优越的性能。此外，FAAP在真实世界的商业部署（无法访问模型参数）上进行了验证，这表明FAAP具有可移植性，具有黑盒适应的潜力。
2022-03-03 cs.AI cs.LG
Fairness-Aware Reinforcement Learning (FAReL): A Framework for Transparent and Balanced Sequential Decision-Making
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Technische Universiteit Delft（代尔夫特理工大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Universiteit Leiden（莱顿大学）；Universiteit Hasselt（哈塞尔特大学）
本文提出公平感知强化学习框架FAReL，通过扩展MDP（$f$MDP）显式建模个体与群体，在招聘和欺诈检测场景中实现性能与公平性的可探索权衡，以轻微性能损失换取更公平的策略。
2025-09-26 cs.AI cs.LG
Exploring the impact of fairness-aware criteria in AutoML
University of Coimbra, CISUC/LASI – Centre for Informatics and Systems of the University of Coimbra（科英布拉大学，CISUC/LASI – 科英布拉大学信息与系统中心）
本文研究了在AutoML框架中直接整合公平性对构建完整ML流水线的影响，通过引入互补公平性指标提升了公平性，尽管预测性能略有下降，但公平性显著提高，且数据使用减少。
2026-04-11 cs.AI cs.LG
FairGU: Fairness-aware Graph Unlearning in Social Networks
Jilin University Changchun China；Zhejiang Gongshang University Hangzhou China；Adelaide University Adelaide Australia；Jinan University \& TAL Education Group Guangzhou China；RMIT University Melbourne Australia；Nanyang Technological University Singapore；Jilin University；Zhejiang Gongshang University；Adelaide University；Jinan University \& TAL Education Group；RMIT University；Nanyang Technological University
FairGU通过整合公平性模块和数据保护策略，提升社交网络中图去学习的公平性和实用性。
2026-01-18 cs.AI cs.LG
FADE: Towards Fairness-aware Generation for Domain Generalization via Classifier-Guided Score-based Diffusion Models
School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）；School of Informatics, Xiamen University（厦门大学信息学院）；Department of Computer Science, Baylor University（贝勒大学计算机科学系）；Departments of Biostatistics and Epidemiology, Harvard University（哈佛大学生物统计学与流行病学系）
本文提出FADE方法，通过预训练基于分数的扩散模型和分类器并引导生成公平数据，有效解决了公平感知领域泛化问题，在提升公平性的同时改善了分布偏移下的准确率。
2025-04-30 cs.AI cs.LG
Adaptive Fairness-Aware Online Meta-Learning for Changing Environments
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；University of Arkansas（阿肯色大学）
具有公平意识的在线学习框架已经成为持续终身学习环境的有力工具。学习器的目标是顺序地学习新任务，其中新任务随着时间的推移一个接一个地出现，并且学习器确保新任务在不同的受保护子群体（例如种族和性别）中的统计平等。现有方法的一个主要缺点是，他们大量使用的独立同分布假设的数据，因此提供静态后悔分析的框架。然而，低静态遗憾并不意味着在不断变化的环境中，任务是从异构分布采样的良好性能。为了解决变化环境中的公平性感知在线学习问题，本文首先通过在强适应损失后悔模型上加入长期公平性约束，构造了一个新的后悔度量FairSAR.此外，为了在每一轮确定一个好的模型参数，我们提出了一种新的自适应公平性感知的在线元学习算法，即FairSAOML，它能够在偏差控制和模型精度方面适应不断变化的环境。该问题的形式制定了一个双层凸-凹优化模型的原始和对偶参数，分别与模型的准确性和公平性。理论分析提供了损失后悔和违反累积公平约束的次线性上界。我们的实验评估不同的真实世界的数据集与不断变化的环境设置表明，建议FairSAOML显着优于替代品的基础上最好的先验在线学习方法。
2022-05-26 cs.AI cs.LG
FAHT: An Adaptive Fairness-aware Decision Tree Classifier
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Leibniz University Hannover（汉诺威莱布尼茨大学）
自动化数据驱动的决策系统在广泛的在线和离线服务中无处不在。这些系统依赖于复杂的学习算法和可用的数据来优化决策支持辅助的服务功能。然而，人们越来越关注所采用模型的问责制和公平性，因为现有的历史数据往往具有本质上的歧视性，即，当得到正分类时，共享一个或多个敏感属性的成员的比例高于总体中的比例，这导致决策支持系统缺乏公平性。已经提出了一些公平意识的学习方法来处理这个问题。然而，这些方法将公平性作为静态问题来处理，并且不考虑底层流种群的演化。在本文中，我们引入了一个学习机制，设计一个公平的分类器在线流基于决策。我们的学习模型，FAHT（公平意识Hoeffding树），是一个著名的Hoeffding树算法的决策树感应流，也占公平的扩展。我们的实验表明，我们的算法是能够处理歧视在流媒体环境中，同时保持适度的预测性能的流。
2019-07-16 cs.AI cs.LG stat.ML
Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics
本文提出基于哲学中“力”概念的努力感知公平性（EaF）度量，通过实验证明人们更关注特征时间轨迹而非聚合值，并提供刑事司法与金融领域的计算流程，以帮助审计员发现并纠正针对努力改善但仍受系统性劣势影响的个体的不公平决策。
2025-09-11 cs.AI cs.CY cs.HC
Fairness-Aware Naive Bayes Classifier for Data with Multiple Sensitive Features
University of Durham（杜伦大学）
公平感知机器学习寻求在生成预测时最大化效用，同时避免基于种族、性别、宗教等敏感属性的不公平歧视。遵循这种策略的简单而有效的二进制分类算法是两个朴素贝叶斯（2NB），它强制执行统计奇偶性-要求组成数据集的组以相同的可能性接收阳性标签。在本文中，我们将此算法推广到N-naive-Bayes（NNB），以消除假设数据中只有两个敏感组的简化，而是将其应用于任意数量的组。我们提出了一个扩展的原始算法的统计奇偶约束和后处理例程，强制执行统计独立的标签和单个敏感属性。然后，我们研究了它的应用程序的数据与多个敏感功能，并提出了一个新的约束和后处理例程，以执行差分公平，扩展已建立的组公平约束集中在交叉。我们实证证明了美国人口普查数据集的NNB算法的有效性，并比较其准确性和去偏性能，不同的影响和DF- $ε$分数，与类似的组公平算法。最后，我们列出了用户在将该算法纳入其应用程序之前应该注意的重要事项，并指导他们进一步阅读使用统计奇偶性作为公平标准的利弊和道德影响。
2022-02-23 cs.AI cs.LG
fairBERTs: Erasing Sensitive Information Through Semantic and Fairness-aware Perturbations
Alibaba Group（阿里巴巴集团）
针对预训练语言模型存在刻板偏见的公平性问题，提出fairBERTs框架，借助生成对抗网络的语义与公平感知扰动擦除敏感信息，在保持效用的同时缓解不公平，且对抗组件可迁移提升其他类BERT模型的公平性。
2024-07-11 cs.AI cs.CL
Learning Fairness-aware Relational Structures
SUNY Binghamton（纽约州立大学宾汉姆顿分校（SUNY Binghamton））
开发公平的机器学习模型，有效地避免偏见和歧视，是近年来引起关注的一个重要问题。为了进行有能力的预测，需要对特征和变量之间的复杂关系依赖进行编码，这就需要开发公平而又富有表现力的关系模型。在这项工作中，我们引入公平A3 SL，公平意识的结构学习算法学习关系结构，它结合了公平措施，同时学习关系图形模型结构。我们的方法是通用的，能够编码广泛的公平性指标，如统计奇偶性差异，高估，均衡的赔率，平等的机会，包括最近提出的关系公平措施。虽然现有方法在预测后对预定模型结构采用公平性度量，但Fair-A3 SL直接学习结构，同时优化公平性度量，因此能够消除模型中的任何结构偏差。我们证明了我们学习的模型结构的有效性时，与最先进的公平模型定量和定性的数据集代表三种不同的建模场景：i）关系数据集，ii）累犯预测数据集广泛用于研究歧视，和iii）推荐系统数据集。我们的研究结果表明，Fair-A3 SL可以学习公平，但可解释和表达的结构，能够做出准确的预测。
2020-02-21 cs.AI cs.LG stat.ML
FairCompressAgent: An Agentic Framework for Fairness-Aware Model Compression for FPGA Deployment
University of Notre Dame（圣母大学）
提出FairCompressAgent智能体框架，通过语言模型规划器与执行层协作，在FPGA部署中实现公平感知压缩配置的自动选择与交互优化，显著降低存储并改善公平性。
2026-09-17 cs.AI cs.AR
Incentive-Aware Machine Learning; Robustness, Fairness, Improvement & Causality
MIT（麻省理工学院）
该研究提出统一的激励感知机器学习框架，从鲁棒性、公平性及改进/因果性三方面整合离线、在线与因果模型，以应对策略性输入、智能体异质性等挑战。
2025-05-08 cs.AI cs.GT
FACTER: Fairness-Aware Conformal Thresholding and Prompt Engineering for Enabling Fair LLM-Based Recommender Systems
University of Southern California（南加州大学）
本文提出公平性感知框架 FACTER，通过共形预测、自适应语义方差阈值和对抗性提示生成，在不重训大语言模型的情况下将推荐系统公平性违规最高降低95.5%，同时保持推荐准确性。
2025-02-05 cs.AI cs.CY cs.IR
Evolutionary Multi-Objective Optimisation for Fairness-Aware Self Adjusting Memory Classifiers in Data Streams
La Trobe University（拉筹伯大学）；Can Tho University（芹苴大学）；RMIT University（皇家墨尔本理工大学）
本文提出一种结合自适应记忆KNN与进化多目标优化的方法，用于数据流分类中同时最大化准确率并最小化歧视，实验证明其能显著降低不公平性。
2024-04-18 cs.AI cs.NE
Fairness-Aware Interpretable Modeling (FAIM) for Trustworthy Machine Learning in Healthcare
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Singapore General Hospital（新加坡中央医院）；National University of Singapore（新加坡国立大学）；Duke University（杜克大学）
针对医疗等高风险领域机器学习模型的公平性问题，提出可解释框架FAIM，结合交互式界面与临床专业知识，在真实数据集上实现性能不下降的同时显著缓解偏见，提供多学科参与的定制化AI公平建模模式。
2024-03-08 cs.AI cs.CY cs.LG
FAE: A Fairness-Aware Ensemble Framework
Leibniz University Hanover（莱布尼茨汉诺威大学）；L3S Research Center（L3S研究中心）
基于大数据和机器学习（ML）算法的自动决策可能会导致针对性别、种族、性取向等个人数据定义的某些受保护群体的歧视性决策。这种旨在发现大数据模式的算法不仅可能会在训练数据中发现任何编码的社会偏见，更糟糕的是，它们可能会加强这种偏见，导致更严重的歧视。迄今为止提出的大多数公平感知机器学习方法仅关注机器学习过程的预处理、处理中或处理后步骤，即，分别是输入数据、学习算法或导出模型。然而，公平性问题不能孤立于ML过程的单步的。相反，歧视往往是大数据和算法之间复杂相互作用的结果，因此，需要采取更全面的方法。建议FAE（公平意识包围）框架结合了公平相关的干预措施，在数据分析过程的前处理和后处理步骤。在预处理步骤中，我们通过生成平衡的训练样本来解决受保护组的代表性不足（组不平衡）和类不平衡的问题。在后处理步骤中，我们通过将决策边界向公平的方向移动来解决类重叠的问题。
2020-02-03 cs.AI cs.LG stat.ML
Learning to Teach Fairness-aware Deep Multi-task Learning
L3S Research Center（L3S研究中心）；Leibniz University Hannover（汉诺威莱布尼茨大学）；Free University Berlin（柏林自由大学）
公平意识学习主要关注单任务学习（STL）。多任务学习（MTL）的公平性影响最近才被考虑，并提出了一种开创性的方法，该方法考虑了每个任务的公平性-准确性权衡以及不同任务之间的性能权衡。我们提出了一种灵活的方法，而不是一个刚性的公平性和准确性的权衡制定，学习如何在MTL设置公平，选择目标（准确性或公平性），以优化在每一步。我们介绍了L2 T-FMT算法，这是一个教师-学生网络协同训练;学生学习解决公平MTL问题，而教师指导学生从准确性或公平性中学习，这取决于每个任务的学习难度。此外，这种在每个任务的每个步骤使用哪个目标的动态选择将权衡权重的数量从2 T减少到T，其中T是任务的数量。我们在三个真实数据集上的实验表明，L2 T-FMT在公平性（12-19%）和准确性（高达2%）方面都优于最先进的方法。
2022-06-16 cs.AI cs.CY cs.LG
Measuring Fairness in Large Audio Language Models via Semantic-Aware Bias Estimation
Meta Platforms, Inc.（元平台公司）
针对大音频语言模型公平性评估中语义与说话人混淆因素的问题，提出语义感知混合效应回归框架，经实验验证可减少虚假结论，得到更稳健的子群体性能差异估计。
2026-08-17 cs.AI cs.CL cs.SD
FAIRO: Fairness-aware Adaptation in Sequential-Decision Making for Human-in-the-Loop Systems
University of California, Irvine（加州大学尔湾分校）
针对人在回路序贯决策系统中人类偏好动态变化引发的公平性偏差问题，提出基于Options强化学习的FAIRO算法，支持公平性-效用权衡，在三类场景中平均提升公平性35.36%。
2023-11-06 cs.AI cs.CY cs.LG
Equitable Survival Prediction: A Fairness-Aware Survival Modeling (FASM) Approach
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Duke University School of Medicine（杜克大学医学院）；Duke AI Health（杜克人工智能健康中心）；Mass General Brigham（麻省总医院布里格姆）；Harvard Medical School（哈佛医学院）；National University of Singapore（新加坡国立大学）
针对生存分析中的算法偏见，提出公平感知的生存建模（FASM）方法，在SEER乳腺癌数据上显著提升公平性且保持判别性能，推动公平性成为临床护理核心原则。
2025-10-23 cs.AI cs.LG
Is Your Model Fairly Certain? Uncertainty-Aware Fairness Evaluation for LLMs
Carnegie Mellon University（卡内基梅隆大学）；Apple Inc.（苹果公司）
提出不确定性感知公平性指标UCerF及含31,756样本的性别-职业数据集，评估十个开源LLM，揭示传统指标遗漏的模型内部偏见，推动透明AI系统发展。
2025-05-29 cs.AI cs.CL cs.LG
People-Centred Medical Image Analysis via Fairness-Aware Human-AI Cooperation
提出PecMan框架，联合建模子群依赖可靠性、决策分配和协作预测，通过门控与整合机制动态分配病例给自动模型或人类专家，无需测试时敏感属性，实现公平感知的人机协作分类。
2026-06-09 cs.AI cs.LG
HALF: Harm-Aware LLM Fairness Evaluation Aligned with Deployment
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
提出HALF框架，通过伤害严重程度分层评估大语言模型在真实应用中的公平性，发现模型公平性跨域不一致且规模性能不保证公平，揭示基准与部署间的差距。
2025-10-16 cs.AI cs.CL
FairGE: Fairness-Aware Graph Encoding in Incomplete Social Networks
Jilin University Changchun China；Adelaide University Adelaide Australia；Zhejiang University of Technology Hangzhou China；RMIT Univeristy Melbourne Australia；RMIT University Melbourne Australia；Jinan University \& TAL Education Group Guangzhou China；Jilin University；Adelaide University；Zhejiang University of Technology；RMIT Univeristy；RMIT University；Jinan University \& TAL Education Group
FairGE通过谱图理论在不完整社交网络中直接编码公平性，无需生成缺失的敏感属性，提升了统计平衡和机会平等的性能。
2026-01-18 cs.AI cs.SI
FEED: Fairness-Enhanced Meta-Learning for Domain Generalization
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；Baylor University（贝勒大学）
针对元学习中分布外泛化与公平性兼顾的难题，提出FEED框架，通过将数据潜在表示解耦为三类向量并将公平感知不变性准则融入元学习，实现跨域鲁棒泛化，实验验证其在准确率和公平性上均优于现有最优方法。
2024-11-02 cs.AI cs.LG
Group-Aware Threshold Adaptation for Fair Classification
School of Electrical and Computer Engineering, Purdue University（普渡大学电气与计算机工程学院）；Krannert School of Management, Purdue University（普渡大学克兰纳特管理学院）
随着机器学习在不同领域的应用不断扩展和多样化，其公平性问题越来越受到人们的关注。为了减轻不同人口统计群体之间的歧视模型行为，我们引入了一种新的后处理方法，通过组感知阈值自适应优化多个公平性约束。我们建议通过优化从分类模型输出的概率分布估计的混淆矩阵来学习每个人口统计组的自适应分类阈值。由于我们只需要模型输出的估计概率分布而不是分类模型结构，因此我们的后处理模型可以应用于各种分类模型，并以模型不可知的方式提高公平性并确保隐私。这甚至允许我们对现有的公平性方法进行后处理，以进一步改善准确性和公平性之间的权衡。此外，我们的模型具有较低的计算成本。我们提供了严格的理论分析，我们的优化算法的收敛性和我们的方法的准确性和公平性之间的权衡。我们的方法理论上使一个更好的上界在附近的最优性比现有的方法在相同的条件下。实验结果表明，我们的方法优于国家的最先进的方法，并获得的结果是最接近的理论准确性-公平性权衡边界。
2021-11-08 cs.AI cs.LG
Improving the Fairness of Deep-Learning, Short-term Crime Prediction with Under-reporting-aware Models
Huawei（华为）；University of Maryland（马里兰大学）
本文提出一种融合预处理校正与公平性正则化的新型深度学习架构，以提升短期犯罪预测在不同种族和族裔群体间的公平性。
2024-06-13 cs.AI cs.CY cs.LG
Machine Learning for Fairness-Aware Load Shedding: A Real-Time Solution via Identifying Binding Constraints
National Renewable Energy Laboratory（美国国家可再生能源实验室）
本文提出一种机器学习算法，通过识别绑定约束实现毫秒级计算，解决公平感知负荷削减优化问题的实时性挑战，并在3节点和RTS-GMLC系统上验证了其有效性。
2025-02-27 cs.AI cs.SY eess.SY
Are There Exceptions to Goodhart's Law? On the Moral Justification of Fairness-Aware Machine Learning
Eindhoven University of Technology（埃因霍温理工大学）
公平感知机器学习（fair-ml）技术是一种算法干预，旨在确保受机器学习模型预测影响的个体得到公平对待。该问题通常被视为一个优化问题，其目标是在定量公平性约束下实现高预测性能。然而，任何设计公平ML算法的尝试都必须假设古德哈特定律有一个例外：当公平性度量成为优化约束时，它不会停止是一个好的度量。在本文中，我们认为，公平措施是特别敏感的古德哈特定律。我们的主要贡献如下。首先，我们提出了一个框架，道德推理的公正性指标的理由。与现有的工作相比，我们的框架纳入了这样一种信念，即结果的分配是否公平，不仅取决于不平等的原因，还取决于道德要求决策主体必须获得特定的利益或避免负担。我们使用的框架来验证道德和经验的假设下，特定的公平指标对应于一个公平的结果分配。其次，我们探讨了在公平ml算法中使用公平度量作为约束的道德合理程度，例如Hardt等人（2016）引入的公平ml算法。我们说明，通过公平ml算法执行公平度量通常不会导致公平分配的结果，激励其使用，甚至可以伤害个人的干预是为了保护。
2024-07-02 cs.AI cs.CY cs.LG
