Fair CCA for Fair Representation Learning: An ADNI Study
University of Pennsylvania(宾夕法尼亚大学)
针对现有公平CCA方法忽略下游分类任务公平性的问题,提出一种新型公平CCA方法,在保证准确率和相关分析性能的同时提升分类公平性,已在合成数据和ADNI真实数据上验证有效。
2025-10-01 cs.AI cs.CY cs.LG
Fair Node Representation Learning via Adaptive Data Augmentation
University of California, Irvine(加利福尼亚大学尔湾分校)
节点表示学习已经证明了它在图的各种应用中的有效性,这导致了对该领域越来越多的关注。然而,公平性在很大程度上是外地一个探索不足的领域,这可能导致在随后的任务中产生偏向代表性不足群体的结果。为此,这项工作从理论上解释了通过图神经网络(GNNs)获得的节点表示中的偏差来源。我们的分析表明,节点的功能和图形结构导致偏见在所获得的表示。在分析的基础上,开发了节点特征和图结构上的公平性感知数据增强框架,以减少固有偏差。我们的分析和提出的方案可以很容易地用于提高各种基于GNN的学习机制的公平性。在图对比学习的背景下,在真实网络上进行了大量的节点分类和链接预测实验。与多个基准的比较表明,拟议的增强战略可以提高公平性的统计平价和平等机会,同时提供可比的效用,以国家的最先进的对比方法。
2022-01-21 cs.AI cs.LG
Fair Group-Shared Representations with Normalizing Flows
Johannes Gutenberg-Universität Mainz(美因茨约翰内斯·古腾堡大学)
机器学习的公平性问题源于这样一个事实,即历史数据经常显示出对特定人群的偏见,这些人群在最近的过去一直处于弱势地位,或者仍然处于弱势地位。在这种情况下,一种可能的方法是采用公平的表示学习算法,该算法能够从数据中消除偏差,使组在统计上无法区分。在本文中,我们反而开发了一个公平的表示学习算法,它能够映射属于不同群体的个人在一个单一的群体。这是通过训练一对标准化流模型并通过在它们之上训练排名或分类模型来约束它们不删除关于地面事实的信息而实现的。总体而言,“链式”模型是可逆的,并有一个易于处理的雅可比矩阵,它允许将不同群体的概率密度联系在一起,并从一个群体到另一个群体“识别”个体。我们的实验表明,我们的方法是有竞争力的其他公平的表示学习算法。此外,我们的算法实现了更强的不变性w.r.t.敏感的属性。
2022-01-17 cs.AI cs.LG
DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision
KAIST(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院);GIST(光州科学技术院);Tsinghua University(清华大学);IBS(基础科学研究院)
算法公平性已经成为一个重要的机器学习问题,特别是对于任务关键型Web应用程序。这项工作提出了一个名为DualFair的自我监督模型,可以从学习的表示中消除性别和种族等敏感属性的偏见。与针对单一类型公平性的现有模型不同,我们的模型联合优化了两个公平性标准-群体公平性和反事实公平性-因此在群体和个人层面上都做出了更公平的预测。我们的模型使用对比损失来生成每个受保护组无法区分的嵌入,同时迫使反事实对的嵌入相似。然后使用自知识蒸馏方法来保持下游任务的表示质量。对多个数据集的广泛分析证实了该模型的有效性,并进一步显示了联合解决两个公平标准的协同作用,表明该模型在公平智能Web应用程序的潜在价值。
2023-03-15 cs.AI cs.CY cs.LG
Fair Normalizing Flows
ETH Zurich(苏黎世联邦理工学院);DeepMind(深度思维)
公平表示学习是一种有吸引力的方法,它通过对敏感数据进行编码来保证下游预测器的公平性。不幸的是,最近的研究表明,强对抗性预测器仍然可以通过从这些表示中恢复敏感属性来表现出不公平性。在这项工作中,我们提出了公平规范化流(FNF),一种新的方法,提供更严格的公平性保证学习表示。具体来说,我们考虑一个实际的设置,我们可以估计敏感群体的概率密度。其关键思想是将编码器建模为经过训练的归一化流,以最小化不同组的潜在表示之间的统计距离。FNF的主要优点是它的精确似然计算允许我们保证任何潜在的敌对下游预测器的最大不公平性。我们通过实验证明了FNF在各种具有挑战性的现实数据集上执行各种组公平概念以及其他有吸引力的属性(如可解释性和迁移学习)的有效性。
2022-03-17 cs.AI cs.LG
Learning Fair Graph Representations with Multi-view Information Bottleneck
Guilin University of Electronic Technology(桂林电子科技大学);Hainan University(海南大学);Guangxi University(广西大学);University of South Australia(澳大利亚南昆士兰大学)
针对图神经网络易放大数据偏差、现有公平性方法忽略属性与结构差异影响的问题,提出多视图信息瓶颈框架FairMIB,通过多视图分解、对比学习、条件信息瓶颈目标及IPW邻接校正,实现效用与公平性指标的SOTA表现。
2025-10-29 cs.AI cs.LG
An unsupervised cluster-level based method for learning node representations of heterogeneous graphs in scientific papers
Beijing University of Posts and Telecommunications(北京邮电大学)
学习科技论文数据的知识表示是一个亟待解决的问题,而如何学习科技论文异构网络中论文节点的表示是解决这一问题的核心。提出一种无监督聚类级的科技论文异构图节点表示学习方法(UCHL),旨在获取节点(作者、机构、论文等)的表示在科学论文的异质性图表中。本文在异构图表示的基础上,对整个异构图进行链接预测,得到节点边之间的关系,即论文与论文之间的关系。实验结果表明,该方法在真实科学论文数据集上的多个评价指标上取得了良好的性能。
2022-03-31 cs.AI cs.LG
Flexibly Fair Representation Learning by Disentanglement
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Tübingen(蒂宾根大学);Google Research(谷歌研究院)
我们考虑的问题,学习表示,实现组和子组的公平性方面的多个敏感属性。从解开表示学习文献的灵感,我们提出了一种算法,用于学习数据集的紧凑表示,这是有用的重建和预测,但也是\emph{flexibly fair},这意味着他们可以很容易地在测试时修改,以实现子组人口统计奇偶性方面的多个敏感属性及其连接。我们的经验表明,由此产生的编码器-这不需要敏感的属性进行推理-使适应一个单一的表示,以各种公平的分类任务与新的目标标签和子群定义。
2019-06-06 cs.AI cs.LG stat.ML
Learning Fair Representation via Distributional Contrastive Disentanglement
University of Seoul(首尔大学);Korea University(高丽大学);POSTECH(浦项科技大学)
学习公平表示对于实现公平或消除敏感信息的偏见至关重要。大多数现有的作品依赖于对抗性表示学习来向表示注入一些不变性。然而,对抗性学习方法的训练相对不稳定,这可能会损害公平性和预测性之间的平衡。我们提出了一种新的方法,通过分布式对比变分自编码器(FarconVAE)学习FAIR表示,它导致潜在空间被解开成敏感和非敏感部分。我们首先构造具有不同敏感属性但具有相同标签的观测对。然后,FarconVAE强制每个非敏感潜伏期更接近,而敏感潜伏期彼此远离,并且通过对比它们的分布远离非敏感潜伏期。通过理论分析,提出了一种基于高斯核和Student-t核的分布式对比学习的对比损失模型。此外,我们采用了一种新的交换重构损失,以进一步促进解纠缠。FarconVAE在公平性、预训练模型去偏和领域泛化任务方面表现出优异的性能,这些任务来自各种模态,包括表格、图像和文本。
2022-06-17 cs.AI cs.CY cs.LG
De-biased Representation Learning for Fairness with Unreliable Labels
Data Science Institute(数据科学研究所);University of Technology Sydney(悉尼科技大学);Tsinghua University(清华大学)
在保持所有任务相关信息的同时消除偏差对于公平表示学习方法来说是具有挑战性的,因为它们会产生随机或退化的表示。标签,当敏感属性与标签相关时。现有的工作建议注入的标签信息的学习过程中,以克服这些问题。然而,观察到的标签是干净的这一假设并不总是得到满足。事实上,标签偏见被认为是导致歧视的主要来源。换句话说,公平预处理方法在学习过程或评估阶段忽略了标签中编码的区分。这种矛盾给学习表征的公平性打上了一个问号。为了规避这个问题,我们探讨了以下问题:\emph{Can we learn fair representations predictable to latent ideal fair labels given only access to unreliable labels?}在这项工作中,我们提出了一个\textbf{D}电子- \textbf{B}基于\textbf{R} epresentation学习\textbf{F}空气(DBRF)框架,解开的敏感信息从非敏感属性,同时保持学习表示偏向理想的公平标签,而不是观察到的可预测的。我们通过信息论的概念,如互信息和信息瓶颈,制定了去偏学习框架。其核心理念是,DBRF主张在敏感信息有利于不可靠标签预测的情况下,不使用不可靠标签进行监管。在合成数据和真实数据上的实验结果表明,DBRF有效地学习了理想标签的去偏表示。
2022-08-01 cs.AI cs.CY cs.LG
Towards Fair Graph Representation Learning in Social Networks
China University of Mining and Technology(中国矿业大学);University of South Australia(南澳大学);Guangxi Normal University(广西师范大学)
本文针对社交网络中因社会同质性导致GNN表示学习不公平的问题,提出Equity-Aware GNN(EAGNN)方法,通过充分性、独立性和分离性约束实现公平表示学习,并在多个数据集上取得领先的公平性与有效性。
2024-10-22 cs.AI cs.LG cs.SI
Fair Patient Model: Mitigating Bias in the Patient Representation Learned from the Electronic Health Records
University of Pittsburgh(匹兹堡大学);Intelligent Systems Program(智能系统计划);School of Computing and Information(计算与信息学院);Department of Medicine(医学院);Department of Electrical and Computer Engineering(电气与计算机工程系);Department of Health Information Management(健康信息管理系);Department of Biomedical Informatics(生物医学信息学系);Clinical and Translational Science Institute(临床与转化科学研究所)
本文提出 Fair Patient Model(FPM),通过加权损失函数从 EHR 中学习公平患者表示,在 MIMIC-III 的四项预测任务中改善公平性并保持可比准确率。
2023-06-05 cs.AI cs.CY cs.LG
Conditional Supervised Contrastive Learning for Fair Text Classification
University of Virginia(弗吉尼亚大学);UC Berkeley(加州大学伯克利分校);UCLA(加州大学洛杉矶分校);UIUC(伊利诺伊大学厄巴纳-香槟分校)
对比表示学习由于其在图像和序列数据表示学习方面的优越性能而受到广泛关注。然而,学习的表示可能会导致下游任务的性能差异,例如在毒性评论分类中代表性不足的群体的沉默增加。鉴于这一挑战,在这项工作中,我们研究了通过对比学习学习满足公平性概念的公平表示,即文本分类的均衡化几率。具体来说,我们首先从理论上分析了公平约束的学习表示和条件监督对比目标之间的联系,然后提出使用条件监督对比目标来学习文本分类的公平表示。我们在两个文本数据集上进行实验,以证明我们的方法在平衡现有文本分类基线之间的任务性能和偏见缓解之间的权衡方面的有效性。此外,我们还表明,所提出的方法是稳定的,在不同的超参数设置。
2022-10-31 cs.AI cs.CL cs.CY
FairMT: Fairness for Heterogeneous Multi-Task Learning
Xi’an Jiaotong University(西安交通大学);Queen Mary University of London(伦敦大学皇家亨利学院);Kings College London(伦敦国王学院);University of Exeter(埃克塞特大学)
FairMT是一种统一的公平性感知多任务学习框架,通过异构公平性约束聚合机制在不完整监督下提升公平性,同时保持任务效用。
2025-11-29 cs.AI cs.CY cs.LG
Fair Oversampling Technique using Heterogeneous Clusters
Fujitsu Ltd.(富士通有限公司)
针对公平过采样技术在原始聚类规模过小时导致分类器过拟合的问题,提出基于异构聚类的公平过采样技术,通过生成具有类别或群体混合特征的合成数据并引入考虑分布与噪声的插值方法,提升了分类器鲁棒性与公平性及效用。
2023-05-23 cs.AI cs.LG
On ADMM in Heterogeneous Federated Learning: Personalization, Robustness, and Fairness
School of Computer Science, Wuhan University(武汉大学计算机学院);School of Computer and Information Engineering, Jiangxi Normal University(江西师范大学计算机与信息工程学院);La Trobe Business School, La Trobe University(拉筹伯大学拉筹伯商学院);School of Computing Technologies, RMIT University(皇家墨尔本理工大学计算技术学院);Hong Kong University of Science and Technology(香港科技大学)
本文提出基于ADMM的优化框架FLAME,同时训练个性化与全局模型,在温和假设下建立全局收敛性,理论上提升鲁棒性与公平性,实验证明其在收敛速度、准确率及抗攻击能力上优于现有方法。
2024-07-23 cs.AI cs.LG
Learning Heterogeneous Performance-Fairness Trade-offs in Federated Learning
Department of Computer Science and Engineering and the Research Institute of Trustworthy Autonomous Systems at Southern University of Science and Technology(计算机科学与工程系和可信自主系统研究 institute at 南方科技大学)
为解决联邦学习中均匀偏好采样忽视客户端异构性及局部与全局 Pareto 前沿差距的问题,提出 HetPFL 框架,通过自适应偏好采样和偏好感知超网络融合有效学习局部与全局 Pareto 前沿,实现线性收敛并显著优于基线。
2025-04-30 cs.AI cs.LG
Fair Classification with Group-Dependent Label Noise
UC Santa Cruz(加州大学圣克鲁兹分校)
这项工作探讨如何训练公平分类器的设置中,训练标签被破坏与随机噪声,腐败的出错率取决于标签类和受保护的子组的成员函数。异构标签噪声模型生成注释时对特定群体的系统偏见。我们首先提出的分析结果表明,天真地施加奇偶性约束的人口差距的措施,而不考虑异质性和组依赖的出错率,可以降低准确性和公平性的分类。我们的实验表明,这些问题在实践中也会出现。我们通过执行经验风险最小化与仔细定义的代理损失函数和代理约束,帮助避免引入的陷阱异质标签噪声来解决这些问题。我们提供了理论和经验的理由,我们的方法的有效性。我们认为我们的研究结果是一个重要的例子,说明在没有适当照顾的情况下,对有偏见的数据集施加公平性至少会带来与其带来的好处一样多的伤害。
2021-02-17 cs.AI cs.CY cs.LG
FeDa4Fair: Client-Level Federated Datasets for Fairness Evaluation
Institute of Computer Science, Johannes Gutenberg University(约翰内斯·古滕贝格大学计算机科学研究所);University of Pisa(比萨大学)
本文提出FeDa4Fair框架,旨在解决联邦学习中客户端层面的公平性问题,通过定制化数据集和标准化评估流程提升公平性研究的鲁棒性和可重复性。
2026-05-09 cs.AI cs.LG
On Disentangled and Locally Fair Representations
Tel Aviv University(特拉维夫大学)
我们研究的问题进行分类的方式是公平的敏感群体,如种族和性别。这一问题是通过分解和当地公平的陈述来解决的。我们学习了一个局部公平的表示,这样,在学习的表示下,每个样本的邻域在敏感属性方面是平衡的。例如,当决定雇用一个人时,我们确保$K$中最相似的被雇用人员在种族上是平衡的。至关重要的是,我们确保相似的个体是基于与其种族无关的属性被发现的。为此,我们将嵌入空间分解为两个表示。其中第一个与敏感属性相关,而第二个不相关。我们只对第二个不相关的表示应用我们的局部公平性目标。通过一组实验,我们证明了必要性的解纠缠和本地公平获得公平和准确的表示。我们评估我们的方法在现实世界中的设置,如预测收入和重新监禁率,并证明我们的方法的优势。
2022-05-05 cs.AI cs.LG
Empirical Analysis of Asynchronous Federated Learning on Heterogeneous Devices: Efficiency, Fairness, and Privacy Trade-offs
RISE Research Institutes of Sweden(瑞典RISE研究机构);Mälardalen University(马尔默大学)
本文通过五设备边缘测试平台比较FedAvg与FedAsync,结合LDP和Moments Accountant量化隐私损失,揭示异步FL提升效率但加剧公平性与隐私差异。
2025-05-11 cs.AI cs.DC cs.LG
Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia(弗吉尼亚大学);City University of Hong Kong(香港城市大学);Microsoft(微软)
公平机器学习旨在减轻模型预测对某些亚群的偏见,这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中,反事实公平性通过比较每个个体从原始数据和反事实的预测,从因果的角度衡量模型的公平性。在反事实中,这个人的敏感属性值被修改了。近年来,一些研究将反事实公平性扩展到图数据,但大多数研究都忽略了以下可能导致偏差的事实:1)每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2)敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题,在本文中,我们提出了一个新的公平概念-图反事实公平,它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示,我们提出了一种新的框架,基于反事实数据增强。在这个框架中,我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后,我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明,我们的框架在图反事实公平性方面优于最先进的基线,并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
Generating Synthetic Fair Syntax-agnostic Data by Learning and Distilling Fair Representation
Northeastern University(东北大学)
本文提出基于知识蒸馏的公平数据生成方法,通过小型架构蒸馏潜在空间中的公平表示,在公平性、样本质量和数据效用上分别提升5%、5%和10%。
2024-08-20 cs.AI cs.LG
Procedural Fairness Failures in RLHF from Preference Averaging
Vishnu Institute of Technology(维什努理工学院)
该研究指出标准RLHF因偏好平均引发程序公平性失败,提出PA-RLHF分开优化不同偏好模式,提升了对齐准确率并缩小了群体公平差距,对大模型和智能体系统有重要意义。
2026-08-12 cs.AI cs.CL cs.LG
Assessing Multilingual Fairness in Pre-trained Multimodal Representations
University of California, Santa Cruz(加州大学圣克鲁兹分校)
最近预训练的多模态模型,如CLIP,在连接图像和自然语言方面表现出了卓越的能力。英语的文本表征可以被期望地转移到多语言,并支持不同语言的下游多模态任务。然而,多语言公平原则很少被仔细审查:多语言多模态模型是否平等对待语言?他们的表现是否偏向于特定的语言?为了回答这些问题,我们将语言视为公平性的接受者,并为预训练的多模态模型引入了两个新的公平性概念,多语言个体公平性和多语言群体公平性。多语言个体公平性要求不同语言中表达相似语义的文本片段与图像的连接相似,而多语言群体公平性要求跨语言的预测性能均衡。我们描述了预先训练的多语言视觉和语言表示在多大程度上对不同语言都是公平的。然而,大量的实验表明,多语言表示并不能满足群体公平性:(1)存在严重的多语言准确性差异问题;(2)错误表现出跨语言的偏见,影响图像中的人群,包括种族,性别和年龄。
2022-03-16 cs.AI cs.CL cs.LG
Exploring How Fair Model Representations Relate to Fair Recommendations
Norwegian University of Science and Technology(挪威科学与技术大学)
本文探讨了公平模型表示与公平推荐之间的关系,提出两种新方法衡量推荐中公平性,并通过实验表明优化公平表示能提升推荐公平性,但表示层面评估不适用于模型比较。
2026-03-25 cs.AI cs.IR cs.LG
Conditional Learning of Fair Representations
Vector Institute(向量研究所);Carnegie Mellon University(卡内基梅隆大学);University of Cambridge(剑桥大学);Microsoft Research(微软研究院)
我们提出了一种新的算法,学习公平的表示,可以同时减轻两个概念的差异在不同的人口分组的分类设置。我们的算法设计的两个关键组成部分是平衡的出错率和条件对齐的表示。我们展示了这两个组成部分如何有助于确保准确性平价和均衡的假阳性和假阴性率,而不影响人口统计学平价。此外,我们还证明了在理论和两个现实世界的实验,该算法导致一个更好的效用公平的平衡数据集的权衡与现有的算法相比,学习公平表示分类。
2020-02-15 cs.AI cs.LG stat.ML
Towards Fairer and More Efficient Federated Learning via Multidimensional Personalized Edge Models
Xi’an Jiaotong University(西安交通大学);The Hong Kong Polytechnic University(香港理工大学)
针对边缘异构导致联邦学习公平性与效率不足的问题,本文提出CFL系统,借助在线模型搜索辅助器和新型聚合算法生成多维个性化模型,显著提升准确率、效率与公平性。
2023-04-27 cs.AI cs.DC cs.LG
Learning Controllable Fair Representations
Computer Science Department, Stanford University(斯坦福大学计算机科学系(注:根据机构粒度要求,此处提取到大学级别,即“斯坦福大学”;但原文明确给出“Computer Science Department”,按要求提取到大学/学院级别即可,此处保留“斯坦福大学计算机科学系”更准确,因该系是斯坦福大学的下属机构,属于大学级别)}]} 修正:根据要求,机构粒度提取到大学/学院/公司/研究院级别即可,不要细拆到系。因此正确应为:{);Stanford University(斯坦福大学)
学习可转移的数据表示,并且对于某些受保护的属性是公平的,这对于减少不公平的决策,同时保持数据的效用至关重要。我们提出了一个信息理论动机的目标,学习最大限度地表达表示公平的约束。我们证明了一系列现有的方法优化近似拉格朗日对偶我们的目标。与这些现有的方法相比,我们的目标允许用户通过指定不公平的限制来控制表示的公平性。利用对偶性,我们引入了一种方法,优化模型参数以及表达公平性的权衡。经验证据表明,我们提出的方法可以平衡多种公平概念之间的权衡,并以较低的计算成本实现更高的表现力。
2020-03-14 cs.AI cs.LG stat.ML
Learning to Ignore: Fair and Task Independent Representations
ZHAW School of Engineering(苏黎世应用科技大学工程学院)
训练公平的机器学习模型,旨在提高其可解释性并解决领域转移问题,在过去几年中引起了人们的极大兴趣。有大量的工作涉及这些主题,主要是在分离。在这项工作中,我们表明,他们可以被看作是一个共同的框架学习不变的表示。表示应该允许预测目标,同时对将数据集分成子组的敏感属性保持不变。我们的方法是基于一个简单的观察,它是不可能的任何学习算法,以区分样本,如果他们有相同的特征表示。这被公式化为一个额外的损失(正则化器),在子组之间强制执行一个共同的特征表示。我们应用它来学习公平模型和解释敏感属性的影响。此外,它可以用于领域自适应,转移知识和学习有效地从很少的例子。在所有的应用中,不仅要学会预测目标,而且要学会忽略什么。
2021-01-21 cs.AI cs.LG
OKRA: an Explainable, Heterogeneous, Multi-Stakeholder Job Recommender System
Maastricht University(马斯特里赫特大学)
本文提出基于图神经网络的可解释多利益相关方职位推荐系统OKRA,在准确率、可解释性与公平性之间取得平衡,并在两个数据集上显著优于六个基线模型。
2025-03-17 cs.AI cs.HC cs.IR
No Location Left Behind: Measuring and Improving the Fairness of Implicit Representations for Earth Data
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(威特沃特斯兰德大学)
针对现有地球数据隐式神经表示(INRs)优先全局平均性能而缺乏公平性评估的问题,本文构建首个FAIR-Earth数据集,提出球面小波编码方法,提升高频信号子群体建模性能,推动INRs公平评估与部署。
2025-02-05 cs.AI cs.LG
Learning Fairer Representations with FairVIC
Department of Computer Science, University of York, York, United Kingdom(英国约克大学计算机科学系)
本文提出 FairVIC,在训练损失中引入方差、不变性和协方差项以减少对受保护特征的依赖,实验表明其在不损失准确性的情况下将各项公平性指标提升约 70%。
2025-10-21 cs.AI cs.CY cs.LG
Learning Fair Invariant Representations under Covariate and Correlation Shifts Simultaneously
Tianjin University(天津大学);Baylor University(贝勒大学)
针对现有公平感知域泛化方法鲜少同时兼顾协变量与相关偏移的问题,提出一种通过潜在空间解耦、消减敏感信息学习公平域不变表示的方法,在准确率与公平性上均超越SOTA。
2024-08-18 cs.AI cs.CY cs.LG
Fairness via Representation Neutralization
Texas A&M University(德州农工大学);Microsoft Research(微软研究院);Rice University(莱斯大学)
DNN模型的现有偏差缓解方法主要用于学习去偏编码器。这个过程不仅需要对敏感属性进行大量的实例级注释,而且不能保证所有的公平性敏感信息都已从编码器中删除。为了解决这些局限性,我们探讨了以下研究问题:我们是否可以通过仅对分类头进行去偏来降低DNN模型的区分度,即使使用有偏的表示作为输入?为此,我们提出了一种新的缓解技术,即公平表示中立化(RNF),通过仅对DNN模型的特定任务分类头进行去偏来实现公平性。为此,我们利用具有相同地面真实标签但不同敏感属性的样本,并使用它们的中性表示来训练DNN模型的分类头。RNF的关键思想是阻止分类头捕获具有特定类别标签的编码器表示中的公平性敏感信息之间的虚假相关性。为了解决无法访问敏感属性注释的低资源设置,我们利用偏差放大模型为敏感属性生成代理注释。在几个基准数据集上的实验结果表明,我们的RNF框架可以有效地减少DNN模型的区分度,同时最大限度地降低特定任务的性能。
2021-10-27 cs.AI cs.CY cs.LG