Pareto-Guided Teacher Alignment for Fair Personalized Text Generation
Purdue University(普渡大学)
提出帕累托引导的教师对齐框架,通过修订候选生成、对感知可行性门控、帕累托候选选择和偏好优化,在减少人口统计差异的同时保持个性化保真度,实验表明公平缓解效果依赖于目标且跨域迁移不一致。
2026-06-08 cs.AI cs.CL cs.CY
FAIRO: Fairness-aware Adaptation in Sequential-Decision Making for Human-in-the-Loop Systems
University of California, Irvine(加州大学尔湾分校)
针对人在回路序贯决策系统中人类偏好动态变化引发的公平性偏差问题,提出基于Options强化学习的FAIRO算法,支持公平性-效用权衡,在三类场景中平均提升公平性35.36%。
2023-11-06 cs.AI cs.CY cs.LG
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University(比勒菲尔德大学机器学习组)
针对流式学习中类别不平衡与算法偏见并存的问题,提出公平感知预处理方法CFSMOTE,通过过采样时的情境测试与群体平衡同时解决两类问题,在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Benchmarking Fairness-aware Graph Neural Networks in Knowledge Graphs
The University of Osaka(大阪大学)
该研究针对现有公平感知图神经网络(GNN)缺乏知识图谱场景评估的空白,基于YAGO等三个大规模知识图谱构建新数据集,在不同GNN骨干和早停条件下测试预处理与处理中公平方法,揭示了知识图谱上准确率与公平性的权衡规律及不同方法的效果差异。
2025-10-21 cs.AI cs.LG
Improving the Fairness of Deep-Learning, Short-term Crime Prediction with Under-reporting-aware Models
Huawei(华为);University of Maryland(马里兰大学)
本文提出一种融合预处理校正与公平性正则化的新型深度学习架构,以提升短期犯罪预测在不同种族和族裔群体间的公平性。
2024-06-13 cs.AI cs.CY cs.LG
Are There Exceptions to Goodhart's Law? On the Moral Justification of Fairness-Aware Machine Learning
Eindhoven University of Technology(埃因霍温理工大学)
公平感知机器学习(fair-ml)技术是一种算法干预,旨在确保受机器学习模型预测影响的个体得到公平对待。该问题通常被视为一个优化问题,其目标是在定量公平性约束下实现高预测性能。然而,任何设计公平ML算法的尝试都必须假设古德哈特定律有一个例外:当公平性度量成为优化约束时,它不会停止是一个好的度量。在本文中,我们认为,公平措施是特别敏感的古德哈特定律。我们的主要贡献如下。首先,我们提出了一个框架,道德推理的公正性指标的理由。与现有的工作相比,我们的框架纳入了这样一种信念,即结果的分配是否公平,不仅取决于不平等的原因,还取决于道德要求决策主体必须获得特定的利益或避免负担。我们使用的框架来验证道德和经验的假设下,特定的公平指标对应于一个公平的结果分配。其次,我们探讨了在公平ml算法中使用公平度量作为约束的道德合理程度,例如Hardt等人(2016)引入的公平ml算法。我们说明,通过公平ml算法执行公平度量通常不会导致公平分配的结果,激励其使用,甚至可以伤害个人的干预是为了保护。
2024-07-02 cs.AI cs.CY cs.LG
A Benchmark for Fairness-Aware Graph Learning
University of Virginia(弗吉尼亚大学);Case Western Reserve University(凯斯西储大学)
本文提出一个全面基准,系统评估十种公平感知图学习方法在七个数据集上的群体公平、个体公平、公平平衡及效率,并给出实践指导。
2024-07-16 cs.CY cs.LG cs.SI
Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics
本文提出基于哲学中“力”概念的努力感知公平性(EaF)度量,通过实验证明人们更关注特征时间轨迹而非聚合值,并提供刑事司法与金融领域的计算流程,以帮助审计员发现并纠正针对努力改善但仍受系统性劣势影响的个体的不公平决策。
2025-09-11 cs.AI cs.CY cs.HC
Toward Fair Graph Neural Networks Via Dual-Teacher Knowledge Distillation
School of Computer Science(计算机科学学院);Guangxi Key Lab of MSMI(广西 MSMI 重点实验室);MOE Key Lab of EBIT, Guangxi Normal University, Guilin, 541004, Guangxi, China(教育部 EBIT 重点实验室,广西师范大学,桂林,541004,广西,中国);School of Computer Science and Technology(计算机科学与技术学院);Hainan University(海南大学);China University of Mining and Technology(中国矿业大学)
针对图神经网络中的公平性问题,提出基于双教师蒸馏的FairDTD框架,通过特征教师和结构教师双重蒸馏,并利用完整数据,在保持模型效用的同时实现最优公平性。
2025-10-14 cs.CY cs.LG stat.ML
One-vs.-One Mitigation of Intersectional Bias: A General Method to Extend Fairness-Aware Binary Classification
Fujitsu Laboratories Ltd.(富士通实验室)
本文提出一对一缓解方法,通过比较敏感属性各子群体对,在二分类中显著降低交叉偏见,优于传统方法,适用于多敏感属性场景。
2025-03-25 cs.AI cs.CY cs.LG
FairAgent: Democratizing Fairness-Aware Machine Learning with LLM-Powered Agents
Clemson University USA(卡罗来纳州克莱姆森大学);University of Arkansas USA(阿肯色大学)
针对公平感知机器学习开发门槛高的问题,提出由LLM驱动的FairAgent系统,可自动完成偏差分析、数据处理与缓解策略实施,在提升性能的同时降低开发难度与成本。
2025-10-05 cs.AI cs.LG
FACTER: Fairness-Aware Conformal Thresholding and Prompt Engineering for Enabling Fair LLM-Based Recommender Systems
University of Southern California(南加州大学)
本文提出公平性感知框架 FACTER,通过共形预测、自适应语义方差阈值和对抗性提示生成,在不重训大语言模型的情况下将推荐系统公平性违规最高降低95.5%,同时保持推荐准确性。
2025-02-05 cs.AI cs.CY cs.IR
A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization
Feedzai(飞载);Universidade do Porto(波尔图大学)
相当多的研究工作已被引导到算法公平性,但仍然没有重大突破。在实践中,需要对所有可能的技术和超参数进行详尽的搜索,以找到最佳的公平性-准确性权衡。因此,再加上ML从业者缺乏工具,减少偏差方法的实际应用仍然很少。为了解决这个问题,我们提出了Fairband,一个基于带宽的公平感知超参数优化(HO)算法。Fairband在概念上简单,资源有效,易于实现,并且对目标指标,模型类型和正在探索的超参数空间都不可知。此外,通过将公平概念引入HO,我们可以将公平目标无缝有效地集成到现实世界的ML管道中。我们比较Fairband与流行的HO方法在四个现实世界的决策数据集。我们表明,Fairband可以有效地导航的公平性和准确性的权衡,通过超参数优化。此外,在没有额外的训练成本的情况下,它始终发现在预测准确性的相对较小的降低下实现大幅提高的公平性的配置。
2020-10-22 cs.AI cs.LG
FairGrad: Fairness Aware Gradient Descent
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院)
本文提出FairGrad,一种通过迭代学习群体特定权重的重新加权方法来实现分类模型群体公平性,具有易实现、兼容多种公平性定义和低开销的特点,并在多个数据集上表现与标准基线相当。
2023-08-07 cs.AI cs.CY cs.LG
Fairness-aware Agnostic Federated Learning
University of Arkansas(阿肯色大学);University of Illinois(伊利诺伊大学)
联邦学习是一种新兴的框架,它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而,如何在联邦学习中实现公平性,特别是当测试数据分布与训练分布不同甚至未知时,还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束,无法在未知测试数据上实现模型公平性。在本文中,我们开发了一个公平意识的不可知的联邦学习框架(AgnosticFair),以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此,基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外,所建立的模型可以直接应用于本地站点,因为它保证了本地数据分布的公平性。据我们所知,这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明,在数据转移场景下,该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Towards Fairness-Aware Multi-Objective Optimization
East China University of Science and Technology(华东理工大学);Northeastern University(东北大学);Bielefeld University(比勒费尔德大学);University of Surrey(萨里大学)
近年来,公平感知机器学习在减轻决策中的不公平或歧视方面得到了快速发展,应用范围广泛。然而,公平感知的多目标最优化问题在现实生活中确实很常见,如公平资源分配问题和数据驱动的多目标最优化问题,却很少受到关注。本文旨在从公平性的角度阐明和拓宽我们对多目标最优化的理解。为此,我们从讨论多目标最优化中的用户偏好开始,然后探索其与机器学习和多目标最优化中的公平性的关系。在此基础上,给出了公平性感知多目标优化的典型案例,进一步阐述了公平性在传统多目标最优化、数据驱动优化和联邦优化中的重要性。最后,公平意识的多目标最优化的挑战和机遇。我们希望这篇文章能够为在优化的背景下理解公平性迈出一小步,并促进对公平感知多目标最优化的研究兴趣。
2022-07-22 cs.AI cs.LG cs.NE
An Experimental Study on Fairness-aware Machine Learning for Credit Scoring Problems
Banking Academy of Vietnam(越南银行学院);Vietnam Academy of Science and Technology(越南科学技术 academy);Hanoi University of Science and Technology(河内科学技术大学);University of Koblenz(科隆大学)
本文研究信用评分中公平性意识机器学习的关键方面,评估公平性模型与传统分类模型的平衡性,发现公平性模型在预测准确性和公平性间取得更好平衡。
2026-03-05 cs.CY cs.LG stat.ML
Fairness-aware Outlier Ensemble
Zhejiang University(浙江大学);Pennsylvania State University(宾夕法尼亚州立大学);University at Buffalo(布法罗大学)
离群值集成方法在发现与大多数数据显著不同的实例方面表现出出色的性能。然而,如果没有公平意识,它们在道德场景中的适用性,如欺诈检测和司法判决系统,可能会降低。在本文中,我们提出了通过一个公平意识的集成框架,以减少偏差的离群集成结果。由于离群点检测任务中缺乏地面真值,关键的挑战是如何在提高公平性的同时减轻检测性能的下降。为了解决这一挑战,我们定义了一个距离测量的基础上输出的传统离群集成技术来估计可能的成本与检测性能下降。同时,我们提出了一个后处理框架,通过堆叠过程来调整原始集成结果,以便我们可以实现公平性和检测性能之间的权衡。检测性能通过ROC曲线下面积(AUC)来衡量,而公平性则在组和个体水平上进行衡量。在8个公共数据集上进行了实验。结果表明,该框架在提高离群集成结果的公平性的有效性。我们还分析了AUC和公平性之间的权衡。
2021-03-17 cs.AI cs.LG
Improving Group Fairness in Knowledge Distillation via Laplace Approximation of Early Exits
EESC KTH Royal Institute of Technology(皇家理工学院电子与系统工程系);CSE IIT Bombay(印度理工学院班加罗尔计算机科学与工程系)
本文提出利用拉普拉斯近似获得校准良好的不确定性估计,对知识蒸馏中的困难实例进行重新加权,以改善学生模型的群体公平性,并在MultiNLI数据集上验证了其优于边际方法的稳健性。
2025-05-02 cs.AI cs.LG
FairOD: Fairness-aware Outlier Detection
Carnegie Mellon University(卡内基梅隆大学);Snap Inc.(Snap 公司)
公平性和离群点检测(OD)密切相关,因为OD的目标正是在给定的群体中发现稀有的少数样本。然而,当少数群体(由受保护的变量定义,如种族/民族/性别/年龄)并不反映积极的阶级成员身份(如犯罪/欺诈)时,OD产生不公正的结果。令人惊讶的是,公平意识OD在以前的工作中几乎没有被触及,因为公平机器学习文献主要集中在监督设置上。我们的工作旨在弥合这一差距。具体来说,我们开发desiderata捕获动机良好的公平标准OD,并系统地正式的公平OD问题。此外,在我们的期望的指导下,我们提出了FairOD,一个公平意识的离群值检测器,具有以下理想的属性:FairOD(1)在测试时表现出治疗奇偶性,(2)旨在标记来自所有组的相等比例的样本(即通过统计奇偶性获得组公平性),以及(3)努力标记每个组中真正的高风险样本。在一组不同的合成和真实世界数据集上进行的广泛实验表明,FairOD产生的结果对于受保护的变量是公平的,同时在检测性能方面与公平不可知的检测器相当(在某些情况下,甚至更好)。
2021-08-30 cs.AI cs.LG
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University(Chungnam国立大学)
提出FnRGNN,一种多层面公平性处理框架,通过边重加权、MMD对齐和Sinkhorn分布匹配,在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Fairness Aware Reward Optimization
CSAIL, Department of EECS, Massachusetts Institute of Technology(计算机科学与人工智能实验室,电气工程与计算机科学系,麻省理工学院);School of CIT, MCML, MDSI, Technical University of Munich(信息科技学院,MCML,MDSI,慕尼黑技术大学)
Faro通过在处理过程中训练奖励模型,实现公平性、准确性与校准性的平衡,减少偏见并提升模型质量。
2026-02-08 cs.AI cs.LG
GFLC: Graph-based Fairness-aware Label Correction for Fair Classification
University of Tartu, Institute of Computer Science(塔尔图大学计算机科学研究所)
本文提出GFLC方法,通过结合预测置信度、Ricci流优化的图正则化及人口统计均等激励,在保持公平性的同时有效修正标签噪声,显著改善性能与公平性的权衡。
2025-06-18 cs.AI cs.LG
Fairness-Aware Data Valuation for Supervised Learning
Feedzai(Feedzai公司);Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等技术学院);Instituto de Telecomunicações(电信研究所)
数据估值是一个ML领域,研究训练实例对给定预测任务的价值。虽然数据偏差是下游模型不公平的主要来源之一,但以前的数据评估工作并没有考虑训练实例如何影响ML模型的性能和公平性。因此,我们提出了公平感知数据评估(FADO),这是一个数据评估框架,可用于将公平性问题纳入一系列ML相关任务(例如,数据预处理、探索性数据分析、主动学习)。我们提出了一个基于熵的数据评估指标,适合于解决我们的双管齐下的目标,最大限度地提高性能和公平性,这是更有效的计算比现有的指标。然后,我们将展示如何FADO可以应用为基础的不公平缓解预处理技术。我们的方法取得了令人鼓舞的结果-与基线相比,公平性提高了40个百分点,性能损失不到1个百分点-并以数据为中心的方式促进公平性,其中对数据质量的更深入理解占据了中心地位。
2023-03-29 cs.CY cs.LG
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder(科罗拉多大学博尔德分校);Tulane University(杜兰大学);DePaul University(德保罗大学);IBM Watson Research Center(IBM沃森研究中心)
随着推荐系统的设计和部署越来越多的社会后果的应用程序,它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而,我们认为,以前的文献一直是基于简单的,统一的,往往是一维的公平假设的概念,不承认现实世界的复杂性,公平意识的应用程序。在本文中,我们明确表示的设计决策,进入多个定义和交叉保护组的准确性和公平性之间的权衡,支持多个公平性指标。该框架还允许推荐器调整其性能的基础上,已交付的建议,在一个时间范围内的历史视图,动态重新平衡公平性的关注。在这个框架内,我们制定了基于彩票的公平性问题之间的选择机制,并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
FairGAT: Fairness-aware Graph Attention Networks
University of California, Irvine(加州大学欧文分校)
图形可以方便地建模各种复杂系统,如基因网络和电网,以及分析它们之间的潜在关系。图上的学习最近吸引了越来越多的关注,特别是基于图神经网络(GNN)的解决方案,其中图注意力网络(GAT)已经成为用于基于图的任务的最广泛使用的神经网络结构之一。虽然有研究表明,在学习过程中使用图结构会导致算法偏见的放大,但GAT中的注意设计对算法偏见的影响还没有研究。基于此,本研究首先进行了理论分析,以证明算法偏见在基于GAT的学习节点分类的来源。然后,一种新的算法,FairGAT,利用公平意识的注意设计的理论研究结果的基础上开发。在真实网络上的实验结果表明,FairGAT提高了组公平性措施,同时也提供了相当的效用,节点分类和链接预测的公平性感知基线。
2023-03-26 cs.CY cs.LG
FairGAN: Fairness-aware Generative Adversarial Networks
University of Arkansas(阿肯色大学)
公平感知学习在数据采掘中越来越重要。歧视预防的目的是在训练数据用于进行预测分析之前,防止在训练数据中出现歧视。在本文中,我们专注于公平的数据生成,确保生成的数据是无歧视的。受生成对抗网络(GAN)的启发,我们提出了一种公平感知的生成对抗网络,称为公平GAN,它能够学习生成公平数据的生成器,并保持良好的数据效用。与朴素的公平数据生成模型相比,FairGAN进一步保证了在生成数据上训练的分类器可以在真实数据上实现公平分类。在真实数据集上的实验表明了FairGAN的有效性。
2018-05-28 cs.CY cs.LG stat.ML
A Human-in-the-Loop Fairness-Aware Model Selection Framework for Complex Fairness Objective Landscapes
University of Freiburg(弗莱堡大学);Zuse School ELIZA(祖塞ELIZA学院)
本文提出人在环公平感知模型选择框架ManyFairHPO,将公平度量视为多目标优化问题,帮助从业者识别和平衡公平冲突,并通过法学院招生案例验证其有效性。
2024-10-21 cs.LG
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center(L3S研究中心);Leibniz University of Hannover(汉诺威莱布尼茨大学);Carnegie Mellon University(卡内基梅隆大学)
数据驱动的学习算法在许多在线应用中被采用,其中数据随着时间的推移变得可用,如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时,底层数据分布可能会随着时间的推移而演变,从而需要模型自适应。在这种动态环境中,即所谓的数据流中,公平性感知学习不能被认为是一次性的要求,而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题,这体现在许多现实生活中的应用,并减轻歧视,主要是因为他们“拒绝”少数情况下,由于他们无法有效地学习所有类。在这项工作中,我们提出了\ours,一个在线的公平意识的方法,保持一个有效的和公平的流分类。\ours ~是一种在线提升方法,通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果,以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明,我们的方法优于最先进的公平感知流方法,平衡准确率(相对)提高[11.2%~ 14.2%],gmean(相对)提高[22.6%~ 31.8%],回忆率(相对)提高[42.5%~ 49.6%],Kappa值为14.3%~ 25.7%,统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
Fairness-aware Federated Minimax Optimization with Convergence Guarantee
The Hong Kong University of Science and Technology(香港科技大学)
本文针对联邦学习中的群体公平性问题,提出新算法FFALM,通过在训练目标施加公平性约束并求解极小极大重构,在保证收敛率理论上界的同时,在CelebA和UTKFace数据集上有效提升了模型公平性。
2024-10-17 cs.CY cs.LG
Fairness Aware Counterfactuals for Subgroups
Athena Research Center(雅典娜研究中心);Université Libre De Bruxelles(布鲁塞尔自由大学);National Technical University of Athens(雅典国立技术大学)
本文提出FACTS框架,通过反事实解释审计子组公平性,引入更精细的子组公平性概念及高效可解释的评估框架,并在多个基准数据集上验证了其优势与广泛适用性。
2023-06-26 cs.CY cs.LG
Beyond Independent Manipulation: Individual Fairness-aware Strategic Classification with Peer Imitation
College of Computer Science and Technology, National University of Defense Technology(国防科技大学计算机科学与技术学院);School of Mathematical Sciences, Peking University(北京大学数学学院);Institute for Theoretical Computer Science, Shanghai University of Finance and Economics(上海财经大学理论计算机科学研究所);Information Technology Development, Aetos Capital Group, Sydney(悉尼Aetos资本集团信息技术部);Faculty of Computing, Harbin Institute of Technology(哈尔滨工业大学计算机学院);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
提出个体公平感知策略分类(IFSC)框架,通过建模基于个体公平的同伴驱动操纵(模仿邻近被接受同伴),并采用鲁棒学习过程处理同伴可观测性不确定性,以改善个体公平一致性并减轻模仿引起的扭曲。
2026-06-26 cs.AI cs.LG
Fairness-aware Model-agnostic Positive and Unlabeled Learning
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
随着机器学习在高风险决策问题中的应用越来越多,对某些社会群体的潜在算法偏见对个人和整个社会造成了负面影响。在现实世界的场景中,许多这样的问题涉及积极的和未标记的数据,如医疗诊断,犯罪风险评估和推荐系统。例如,在医疗诊断中,只有诊断出的疾病才会被记录(阳性),而其他疾病则不会被记录(未标记)。尽管在(半)监督和无监督环境中有大量关于公平性感知机器学习的现有工作,但在上述积极和无标签学习(PUL)背景下,公平性问题在很大程度上没有得到充分探讨,在这种情况下,它通常更严重。在本文中,为了缓解这种紧张局势,我们提出了一个公平意识的PUL方法命名为FairPUL。特别是,对于来自两个群体的个体的二进制分类,我们的目标是在两个群体中实现相似的真阳性率和假阳性率作为我们的公平性度量。在分析PUL最优公平分类器的基础上,我们设计了一个模型无关的后处理框架,同时利用正例和未标记的例子。我们的框架被证明是统计上一致的分类误差和公平性度量。在合成数据集和真实数据集上的实验表明,我们的框架在PUL和公平分类方面都优于最先进的框架。
2022-06-19 cs.CY cs.LG
Fairness-Aware Unsupervised Feature Selection
Tsinghua University(清华大学);Brandeis University(布兰迪斯大学);University of Virginia(弗吉尼亚大学)
特征选择是一种普遍的数据预处理范例,用于各种学习任务。由于获取监督信息的代价昂贵,无监督特征选择近年来引起了人们的极大兴趣。然而,现有的无监督特征选择算法没有公平性考虑,并且通过选择与受保护属性(诸如性别、种族和民族)过度关联的特征而遭受放大歧视的高风险。在本文中,我们做了初步的调查公平意识的无监督特征选择问题,并开发了一个原则性的框架,利用内核对齐找到一个子集的高质量的功能,可以最好地保留在原始特征空间中的信息,同时最低限度地与受保护的属性相关。具体而言,不同于主流的处理中去偏置方法,我们提出的框架可以被视为一个模型无关的去偏置策略,消除偏见和歧视之前,下游学习算法参与。多个真实数据集上的实验结果表明,我们的框架实现了效用最大化和公平性促进之间的良好权衡。
2021-06-04 cs.AI cs.LG
Fairness-Aware Low-Rank Representation Fine-Tuning
Innovation Lab, Featurespace(Featurespace创新实验室)
针对现有公平感知微调方法需敏感属性标签的局限,提出四种公平感知LoRA策略,实验显示其中两种策略在效用与公平性上优于标准微调,同时也揭示了多公平目标优化的挑战。
2026-08-25 cs.CV cs.LG
FairEHR-CLP: Towards Fairness-Aware Clinical Predictions with Contrastive Learning in Multimodal Electronic Health Records
Stanford University(斯坦福大学);Meta Platforms, Inc.(元平台公司)
本文提出FairEHR-CLP框架,通过合成人口统计学对应体与对比学习对齐多模态EHR患者表征,并设计子群体错误率差异指标,在三项任务和三个数据集上提升临床预测的公平性与效用。
2024-08-04 cs.CY cs.LG
FALE: Fairness-Aware ALE Plots for Auditing Bias in Subgroups
Athena Research Center(雅典娜研究中心);Université Libre de Bruxelles(布鲁塞尔自由大学)
本文提出FALE(公平性感知累积局部效应)图方法,通过扩展ALE图来识别和可视化子群中的潜在偏见,作为检测子群公平性问题的初级工具。
2024-04-29 cs.CY cs.LG
Parity-based Cumulative Fairness-aware Boosting
Leibniz University Hannover(汉诺威莱布尼茨大学);L3S Research Center(L3S研究中心);Freie Universität Berlin(柏林自由大学)
数据驱动的人工智能系统可能会导致基于性别或种族等受保护属性的歧视。这种行为的一个原因是训练数据中编码的社会偏见(例如,女性代表不足),这在阶级分布不平衡的情况下更加严重(例如,“被授予”是少数人阶级)。最先进的公平性感知机器学习方法专注于在提高公平性的同时保持\emph{overall}分类准确性。在存在阶级不平衡的情况下,这种方法可能进一步加剧歧视问题,因为它剥夺了已经代表性不足的群体(例如,\textit{females})平等社会特权的基本权利(例如,平等的信贷机会)。为此,我们提出了AdaFair,一个公平性感知的提升集成,它在每一轮改变数据分布,不仅考虑到类错误,而且还考虑到基于部分集成累积定义的模型的公平性相关性能。除了在训练中提升每一轮被区分的组之外,AdaFair通过优化集成学习器的数量来直接解决训练后阶段的不平衡问题,以实现平衡的错误性能(BER)。AdaFair可以促进不同的基于均等的公平概念,并有效地减少歧视性结果。我们的实验表明,我们的方法可以实现统计奇偶性,平等的机会,和不同的虐待方面的奇偶性,同时保持良好的预测性能的所有类。
2022-01-04 cs.AI cs.LG
Fairness-aware Adversarial Perturbation Towards Bias Mitigation for Deployed Deep Models
Wuhan University(武汉大学);Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Adobe Research(Adobe研究院)
优先考虑公平性在人工智能(AI)系统中至关重要,特别是对于那些社会应用,例如,招聘制度应平等地推荐来自不同人口群体的申请人,风险评估制度必须消除刑事司法中的种族主义。现有的人工智能系统道德发展努力利用数据科学来减轻训练集中的偏见,或将公平原则引入训练过程。然而,对于已部署的人工智能系统,它可能不允许在实践中进行重新训练或调整。相比之下,我们提出了一种更灵活的方法,即,公平感知对抗扰动(FAAP),其学习扰动输入数据以在公平相关特征上盲部署模型,例如,性别和种族。FAAP的主要优势在于它不会修改已部署模型的参数和结构。为了实现这一目标,我们设计了一个基于潜在表示的公平性相关属性从部署的模型区分。同时,一个扰动发生器的训练,对干扰,这样就没有公平相关的功能可以从扰动输入提取。详尽的实验评估表明,建议FAAP的有效性和优越的性能。此外,FAAP在真实世界的商业部署(无法访问模型参数)上进行了验证,这表明FAAP具有可移植性,具有黑盒适应的潜力。
2022-03-03 cs.AI cs.LG
Confidence-Aware Multi-Teacher Knowledge Distillation
首先引入知识蒸馏,以利用来自单个教师模型的额外监督来进行学生模型训练。为了提高学生的成绩,最近的一些变体试图利用来自多个教师的不同知识来源。然而,现有的研究主要是整合来自不同来源的知识,通过平均多个教师的预测或结合他们使用其他各种无标签的策略,这可能会误导学生在低质量的教师预测的存在。为了解决这个问题,我们提出了置信度感知的多教师知识蒸馏(CA-MKD),它自适应地分配样本的可靠性为每个教师预测的帮助下,地面真理标签,与那些教师预测接近一个热标签分配大的权重。此外,CA-MKD还包括中间层,以稳定知识转移过程。大量的实验表明,我们的CA-MKD始终优于所有比较国家的最先进的方法在各种师生架构。
2022-02-14 cs.AI cs.LG
Fairness-Aware Reinforcement Learning (FAReL): A Framework for Transparent and Balanced Sequential Decision-Making
Vrije Universiteit Brussel(布鲁塞尔自由大学);Technische Universiteit Delft(代尔夫特理工大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Universiteit Leiden(莱顿大学);Universiteit Hasselt(哈塞尔特大学)
本文提出公平感知强化学习框架FAReL,通过扩展MDP($f$MDP)显式建模个体与群体,在招聘和欺诈检测场景中实现性能与公平性的可探索权衡,以轻微性能损失换取更公平的策略。
2025-09-26 cs.AI cs.LG
Exploring the impact of fairness-aware criteria in AutoML
University of Coimbra, CISUC/LASI – Centre for Informatics and Systems of the University of Coimbra(科英布拉大学,CISUC/LASI – 科英布拉大学信息与系统中心)
本文研究了在AutoML框架中直接整合公平性对构建完整ML流水线的影响,通过引入互补公平性指标提升了公平性,尽管预测性能略有下降,但公平性显著提高,且数据使用减少。
2026-04-11 cs.AI cs.LG
Evaluation of Fairness Trade-offs in Predicting Student Success
Cornell University(康奈尔大学)
早期识别有风险学生的预测模型可以帮助教学人员引导资源,以更好地支持他们,但人们越来越担心教育中算法系统的公平性。预测模型可能会无意中在谁获得支持方面引入偏见,从而加剧现有的不平等。我们通过建立一个基于大学行政记录的学生成功预测模型来研究这个问题。我们发现,该模型表现出性别和种族偏见的三分之二的公平措施考虑。然后,我们应用事后调整,以提高模型的公平性,突出三个公平措施之间的权衡。
2020-06-30 cs.CY cs.LG
FairGU: Fairness-aware Graph Unlearning in Social Networks
Jilin University Changchun China;Zhejiang Gongshang University Hangzhou China;Adelaide University Adelaide Australia;Jinan University \& TAL Education Group Guangzhou China;RMIT University Melbourne Australia;Nanyang Technological University Singapore;Jilin University;Zhejiang Gongshang University;Adelaide University;Jinan University \& TAL Education Group;RMIT University;Nanyang Technological University
FairGU通过整合公平性模块和数据保护策略,提升社交网络中图去学习的公平性和实用性。
2026-01-18 cs.AI cs.LG
FADE: Towards Fairness-aware Generation for Domain Generalization via Classifier-Guided Score-based Diffusion Models
School of New Media and Communication, Tianjin University(天津大学新媒体与传播学院);School of Informatics, Xiamen University(厦门大学信息学院);Department of Computer Science, Baylor University(贝勒大学计算机科学系);Departments of Biostatistics and Epidemiology, Harvard University(哈佛大学生物统计学与流行病学系)
本文提出FADE方法,通过预训练基于分数的扩散模型和分类器并引导生成公平数据,有效解决了公平感知领域泛化问题,在提升公平性的同时改善了分布偏移下的准确率。
2025-04-30 cs.AI cs.LG
Fairness-Aware Few-Shot Learning for Audio-Visual Stress Detection
针对AI压力检测在数据稀缺场景下的性别偏见问题,提出公平感知元学习框架FairM2S,通过元训练和适应阶段的等化赔率约束等缓解偏见,在提升准确率的同时降低公平性差距,并发布SAVSD数据集支持相关研究。
2025-11-12 cs.CY cs.HC cs.LG
Adaptive Fairness-Aware Online Meta-Learning for Changing Environments
The University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Arkansas(阿肯色大学)
具有公平意识的在线学习框架已经成为持续终身学习环境的有力工具。学习器的目标是顺序地学习新任务,其中新任务随着时间的推移一个接一个地出现,并且学习器确保新任务在不同的受保护子群体(例如种族和性别)中的统计平等。现有方法的一个主要缺点是,他们大量使用的独立同分布假设的数据,因此提供静态后悔分析的框架。然而,低静态遗憾并不意味着在不断变化的环境中,任务是从异构分布采样的良好性能。为了解决变化环境中的公平性感知在线学习问题,本文首先通过在强适应损失后悔模型上加入长期公平性约束,构造了一个新的后悔度量FairSAR.此外,为了在每一轮确定一个好的模型参数,我们提出了一种新的自适应公平性感知的在线元学习算法,即FairSAOML,它能够在偏差控制和模型精度方面适应不断变化的环境。该问题的形式制定了一个双层凸-凹优化模型的原始和对偶参数,分别与模型的准确性和公平性。理论分析提供了损失后悔和违反累积公平约束的次线性上界。我们的实验评估不同的真实世界的数据集与不断变化的环境设置表明,建议FairSAOML显着优于替代品的基础上最好的先验在线学习方法。
2022-05-26 cs.AI cs.LG
A Model Ensemble-Based Post-Processing Framework for Fairness-Aware Prediction
本文提出一种基于模型集成的后处理框架,用于提升预测中的公平性,通过实验验证该框架在分类、回归和生存分析中能有效提升公平性同时保持预测准确性。
2026-10-16 cs.LG stat.ML
A survey on datasets for fairness-aware machine learning
Leibniz University Hannover(汉诺威莱布尼茨大学);Carnegie Mellon University(卡内基梅隆大学);Free University Berlin(柏林自由大学)
随着决策越来越依赖于机器学习(ML)和(大)数据,数据驱动的人工智能(AI)系统中的公平性问题越来越受到研究和行业的关注。已经提出了各种各样的公平性感知机器学习解决方案,其涉及数据、学习算法和/或模型输出中的公平性相关干预。然而,提出新方法的一个重要部分是在代表现实和多样化环境的基准数据集上进行经验评估。因此,在本文中,我们概述了用于公平感知机器学习的真实世界数据集。我们专注于表格数据作为公平感知机器学习最常见的数据表示。我们通过识别不同属性之间的关系来开始分析,特别是w.r.t.。保护属性和类属性,使用贝叶斯网络。为了更深入地了解数据集中的偏差,我们使用探索性分析来研究有趣的关系。
2022-01-21 cs.LG
FAHT: An Adaptive Fairness-aware Decision Tree Classifier
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Leibniz University Hannover(汉诺威莱布尼茨大学)
自动化数据驱动的决策系统在广泛的在线和离线服务中无处不在。这些系统依赖于复杂的学习算法和可用的数据来优化决策支持辅助的服务功能。然而,人们越来越关注所采用模型的问责制和公平性,因为现有的历史数据往往具有本质上的歧视性,即,当得到正分类时,共享一个或多个敏感属性的成员的比例高于总体中的比例,这导致决策支持系统缺乏公平性。已经提出了一些公平意识的学习方法来处理这个问题。然而,这些方法将公平性作为静态问题来处理,并且不考虑底层流种群的演化。在本文中,我们引入了一个学习机制,设计一个公平的分类器在线流基于决策。我们的学习模型,FAHT(公平意识Hoeffding树),是一个著名的Hoeffding树算法的决策树感应流,也占公平的扩展。我们的实验表明,我们的算法是能够处理歧视在流媒体环境中,同时保持适度的预测性能的流。
2019-07-16 cs.AI cs.LG stat.ML
Fairness-Aware Naive Bayes Classifier for Data with Multiple Sensitive Features
University of Durham(杜伦大学)
公平感知机器学习寻求在生成预测时最大化效用,同时避免基于种族、性别、宗教等敏感属性的不公平歧视。遵循这种策略的简单而有效的二进制分类算法是两个朴素贝叶斯(2NB),它强制执行统计奇偶性-要求组成数据集的组以相同的可能性接收阳性标签。在本文中,我们将此算法推广到N-naive-Bayes(NNB),以消除假设数据中只有两个敏感组的简化,而是将其应用于任意数量的组。我们提出了一个扩展的原始算法的统计奇偶约束和后处理例程,强制执行统计独立的标签和单个敏感属性。然后,我们研究了它的应用程序的数据与多个敏感功能,并提出了一个新的约束和后处理例程,以执行差分公平,扩展已建立的组公平约束集中在交叉。我们实证证明了美国人口普查数据集的NNB算法的有效性,并比较其准确性和去偏性能,不同的影响和DF- $ε$分数,与类似的组公平算法。最后,我们列出了用户在将该算法纳入其应用程序之前应该注意的重要事项,并指导他们进一步阅读使用统计奇偶性作为公平标准的利弊和道德影响。
2022-02-23 cs.AI cs.LG
Robust Fairness-aware Learning Under Sample Selection Bias
University of Arkansas(阿肯色大学)
许多机器学习算法的基本假设是训练数据和测试数据来自相同的分布。然而,由于训练数据和测试数据之间的样本选择偏差,这一假设在现实世界中经常被违反。以往的研究工作主要集中在对有偏差的训练数据进行重新加权以匹配测试数据,然后在重新加权的训练数据上建立分类模型。然而,如何实现公平的分类模型是不够的探索。在本文中,我们提出了一个框架下的样本选择偏差的鲁棒性和公平的学习。我们的框架采用重加权估计方法的偏差校正和极小极大鲁棒估计方法实现预测精度的鲁棒性。此外,在极大极小优化过程中,在最坏情况下实现了公平性,保证了模型在测试数据上的公平性。我们进一步开发了两种算法来处理样本选择偏差时,测试数据是可用的和不可用的。我们在两个真实世界的数据集上进行了实验,实验结果证明了它在效用和公平性度量方面的有效性。
2021-05-24 cs.CY cs.LG
Learning Fairness-aware Relational Structures
SUNY Binghamton(纽约州立大学宾汉姆顿分校(SUNY Binghamton))
开发公平的机器学习模型,有效地避免偏见和歧视,是近年来引起关注的一个重要问题。为了进行有能力的预测,需要对特征和变量之间的复杂关系依赖进行编码,这就需要开发公平而又富有表现力的关系模型。在这项工作中,我们引入公平A3 SL,公平意识的结构学习算法学习关系结构,它结合了公平措施,同时学习关系图形模型结构。我们的方法是通用的,能够编码广泛的公平性指标,如统计奇偶性差异,高估,均衡的赔率,平等的机会,包括最近提出的关系公平措施。虽然现有方法在预测后对预定模型结构采用公平性度量,但Fair-A3 SL直接学习结构,同时优化公平性度量,因此能够消除模型中的任何结构偏差。我们证明了我们学习的模型结构的有效性时,与最先进的公平模型定量和定性的数据集代表三种不同的建模场景:i)关系数据集,ii)累犯预测数据集广泛用于研究歧视,和iii)推荐系统数据集。我们的研究结果表明,Fair-A3 SL可以学习公平,但可解释和表达的结构,能够做出准确的预测。
2020-02-21 cs.AI cs.LG stat.ML
SimFair: A Unified Framework for Fairness-Aware Multi-Label Classification
Purdue University(普渡大学)
近年来,人们越来越关注机器学习算法做出的不公平决策。为了提高模型决策的公平性,人们提出了各种公平性概念,并开发了许多公平性感知方法。然而,大多数现有的定义和方法只关注单标签分类。多标签分类的公平性,其中每个实例与多个标签相关联,仍然有待建立。为了填补这一空白,本文研究了公平感知的多标签分类。我们首先扩展人口均等(DP)和机会均等(EOP),两个流行的公平概念,多标签分类的情况下。通过系统的研究,我们表明,在多标签数据,由于不均匀分布的标签,EOp通常无法构建一个可靠的估计标签的实例很少。然后,我们提出了一个新的框架命名为相似性$s$ -诱导公平($s_γ$ -SimFair).这个新的框架在估计特定标签组的公平性时利用具有相似标签的数据以获得更好的稳定性,并且可以统一DP和EOp。理论分析和在真实数据集上的实验结果表明,与现有的多标签分类方法$s_γ$ -SimFair相比,该方法具有更好的分类性能.
2023-02-22 cs.LG