Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
National University of Singapore(新加坡国立大学)
受数据用于不同预测任务的场景的启发,我们研究了公平表示是否可以用于保证未知任务的公平性和同时用于多个公平概念。我们认为七组公平的概念,涵盖独立,分离和校准的概念。在公平不可能结果的背景下,我们探讨近似公平。我们证明,虽然公平表示可能无法保证所有预测任务的公平性,但它确实保证了一个重要的任务子集的公平性-表示是有区别的任务。具体而言,所有七个组公平性概念是线性控制的公平性和歧视性的表示。当不同的公平概念之间存在不相容时,公平和歧视性的表示达到了近似满足所有概念的最佳点。出于我们的理论研究结果,我们建议学习公平和歧视性的表示使用借口损失自我监督学习,和最大平均离散作为一个公平的正则化。在表格,图像和人脸数据集上的实验表明,使用学习的表示,我们在学习表示时不知道的下游预测确实对七个组公平性概念变得更公平,并且根据我们的理论结果计算的公平性保证都是有效的。
2022-02-20 cs.CV cs.CY cs.LG
Differential Privacy, Linguistic Fairness, and Training Data Influence: Impossibility and Possibility Theorems for Multilingual Language Models
University of Copenhagen(哥本哈根大学)
本文研究多语言语言模型中差分隐私、语言公平性、压缩与训练数据影响透明性能否共存,通过定理证明与两类NLP实验揭示隐私与影响稀疏性的冲突。
2023-08-17 cs.AI cs.CL cs.CR
Fair Interpretable Representation Learning with Correction Vectors
Johannes Gutenberg-Universität Mainz(约翰内斯·古腾堡美因茨大学);Università di Torino(都灵大学)
神经网络体系结构已被广泛用于公平表示学习设置,其中的目标是学习一个新的表示为一个给定的向量,这是独立的敏感信息。在文献中已经提出了各种表示去偏置技术。然而,由于神经网络本质上是不透明的,这些方法很难理解,这限制了它们的实用性。我们提出了一个新的框架,公平的表示学习,是围绕学习的“校正向量”,这具有相同的维数作为给定的数据向量。校正向量可以通过架构约束显式地计算,或者通过基于归一化流训练可逆模型来隐式地计算。我们的实验表明,以这种方式约束的几个公平的表示学习模型不会表现出损失的排名或分类性能。此外,我们证明了国家的最先进的结果可以实现的可逆模型。最后,我们讨论的法律地位,我们的方法,在最近的立法在欧盟。
2022-02-07 cs.CY cs.LG
FairLRF: Achieving Fairness through Sparse Low Rank Factorization
University of Notre Dame(诺特难大学)
FairLRF通过稀疏低秩分解技术提升深度学习模型的公平性,有效减少群体间的偏见差异。
2026-09-17 cs.LG
Adversarial Learned Fair Representations using Dampening and Stacking
Just Eat Takeaway.com
随着我们日常生活中越来越多的决策变得自动化,需要机器学习算法来做出公平的决策。在公平表示学习中,我们的任务是找到一个合适的数据表示,其中敏感变量被删失。最近的工作旨在通过对抗学习来学习公平表示。本文建立在这项工作的基础上,引入了一种新的算法,该算法使用阻尼和堆叠来学习对抗性的公平表示。结果表明,我们的算法改进了早期的工作,在审查和重建。
2022-03-16 cs.AI cs.CY cs.LG
Learning Fair Representations with Kolmogorov-Arnold Networks
本文提出利用柯尔莫戈罗夫-阿诺尔德网络在公平对抗学习框架中实现公平表示,通过理论分析和实证研究提升公平性与预测准确性的平衡。
2025-12-24 cs.CY cs.LG
Parity-Aware Byte-Pair Encoding: Improving Cross-lingual Fairness in Tokenization
EPFL(苏黎世联邦理工学院);University of Zurich(苏黎世大学)
研究针对词元化中低资源语言词元化不合理问题,引入奇偶感知字节对编码,通过公平最大化规则平衡跨语言公平性与全局压缩,减少词元化不平等,对全局压缩和下游语言模型性能影响小。
2026-07-07 cs.AI cs.CL cs.LG
Disentangled Representation with Causal Constraints for Counterfactual Fairness
University of South Australia(南澳大学);Simon Fraser University(西蒙弗雷泽大学)
针对公平表示学习忽视隐变量因果关系的问题,提出CF-VAE学习符合领域知识的结构化表示,理论保证反事实公平,并在实验中同时提升公平性与预测准确性。
2023-12-16 cs.AI cs.CY cs.LG
Efficient fair PCA for fair representation learning
Amazon Web Services(亚马逊云科技)
我们重新审视公平主成分分析(PCA)的问题,其目标是学习混淆人口统计信息的数据的最佳低秩线性近似。我们提出了一个概念上简单的方法,允许类似于标准PCA的分析解决方案,可以内核化。我们的方法与标准PCA或内核PCA具有相同的复杂性,并且运行速度比基于半定规划或流形优化的公平PCA的现有方法快得多,同时获得类似的结果。
2023-02-26 cs.CY cs.LG stat.ML
Fair CCA for Fair Representation Learning: An ADNI Study
University of Pennsylvania(宾夕法尼亚大学)
针对现有公平CCA方法忽略下游分类任务公平性的问题,提出一种新型公平CCA方法,在保证准确率和相关分析性能的同时提升分类公平性,已在合成数据和ADNI真实数据上验证有效。
2025-10-01 cs.AI cs.CY cs.LG
Fair Graph Representation Learning via Sensitive Attribute Disentanglement
Sun Yat-sen University(中山大学)
提出 FairSAD 框架,通过敏感属性解耦与通道掩码识别、去相关,在降低 GNN 决策对敏感属性依赖的同时保留任务信息,并在真实数据集上显著提升公平性与效用。
2024-05-11 cs.CY cs.LG
Learning Fair Representations with High-Confidence Guarantees
University of Massachusetts(马萨诸塞大学);Berkeley Existential Risk Initiative(伯克利生存风险倡议)
本文正式定义了以高置信度学习公平表示的问题,提出了FRG框架,为限制所有下游模型和任务的不公平性提供用户定义上限的高置信度保证,并经理论和实证评估验证了其有效性。
2023-10-23 cs.CY cs.LG stat.ML
FairVFL: A Fair Vertical Federated Learning Framework with Contrastive Adversarial Learning
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院);Sony AI(索尼人工智能);USTC(中国科学技术大学);Shenzhen University(深圳大学);Zhongguancun Laboratory(中关村实验室)
垂直联邦学习(Vertical Federated Learning,VFL)是一种隐私保护的机器学习范式,它可以以隐私保护的方式从分布在不同平台上的特征中学习模型。由于在现实世界的应用程序中,数据可能包含对公平敏感特征的偏见(例如,性别),VFL模型可能从训练数据继承偏差,并且对于某些用户组变得不公平。然而,现有的公平机器学习方法通常依赖于公平敏感特征的集中存储来实现模型公平性,这通常不适用于联邦场景。本文提出了一种公平的垂直联邦学习框架(FairVFL),该框架可以提高VFL模型的公平性。FairVFL的核心思想是以隐私保护的方式基于分散的特征字段学习样本的统一和公平表示。具体来说,每个具有公平性不敏感特征的平台首先从本地特征学习本地数据表示。然后,这些本地表示被上传到服务器,并聚合成目标任务的统一表示。为了学习公平的统一表示,我们将其发送到存储公平敏感特征的每个平台,并应用对抗学习来消除从有偏差数据继承的统一表示中的偏差。此外,为了保护用户隐私,我们进一步提出了一种对比对抗学习方法,在将隐私信息发送到保持公平敏感特征的平台之前,将隐私信息从服务器的统一表示中删除。在三个真实数据集上的实验表明,该方法能有效地提高模型的公平性,同时很好地保护用户隐私。
2022-10-31 cs.CR cs.CY cs.LG
On the Power of Randomization in Fair Classification and Representation
Northeastern University(东北大学);Microsoft Research(微软研究院)
本文研究随机化在公平分类与公平表示中的作用,细化了最优公平分类器的刻画,证明随机化分类器可超越确定性分类器,还构建了具有可证明最优准确率的多类公平表示,无准确率损失。
2024-10-07 cs.LG
Decomposed Trust: Privacy, Adversarial Robustness, Ethics, and Fairness in Low-Rank LLMs
Department of Computer Science, Iowa State University, United States(爱荷华州立大学计算机科学系);Meta, United States(Meta)
本文研究低秩因子化对大语言模型信任性的影响,发现其在隐私保护上有所保留,但会削弱对话中个人身份信息的保护,同时增强对抗鲁棒性,但伦理和公平性有所下降。
2026-04-30 cs.AI cs.LG
Rethinking Fair Representation Learning for Performance-Sensitive Tasks
Imperial College London(帝国理工学院);Microsoft Research Health Futures(微软研究院健康未来部)
本文通过因果推理揭示公平表示学习在分布偏移和性能敏感场景下的根本局限,质疑现有评估实践,并主张以细粒度偏差分析推动该领域发展。
2025-02-07 cs.CY cs.LG stat.ML
DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision
KAIST(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院);GIST(光州科学技术院);Tsinghua University(清华大学);IBS(基础科学研究院)
算法公平性已经成为一个重要的机器学习问题,特别是对于任务关键型Web应用程序。这项工作提出了一个名为DualFair的自我监督模型,可以从学习的表示中消除性别和种族等敏感属性的偏见。与针对单一类型公平性的现有模型不同,我们的模型联合优化了两个公平性标准-群体公平性和反事实公平性-因此在群体和个人层面上都做出了更公平的预测。我们的模型使用对比损失来生成每个受保护组无法区分的嵌入,同时迫使反事实对的嵌入相似。然后使用自知识蒸馏方法来保持下游任务的表示质量。对多个数据集的广泛分析证实了该模型的有效性,并进一步显示了联合解决两个公平标准的协同作用,表明该模型在公平智能Web应用程序的潜在价值。
2023-03-15 cs.AI cs.CY cs.LG
From Discrete to Continuous: Deep Fair Clustering With Transferable Representations
School of Information Science and Engineering, Southeast University(东南大学信息科学与工程学院)
针对现有深度公平聚类无法处理连续敏感属性且忽略表示迁移潜力的问题,提出一种基于信息瓶颈的灵活方法,在表示层面施加公平性约束,能同时处理离散与连续敏感属性,并首次实现向下游任务的可迁移性,实验证明其优于现有最先进方法。
2024-03-24 cs.CV cs.CY cs.LG
Learning Fair Representation via Distributional Contrastive Disentanglement
University of Seoul(首尔大学);Korea University(高丽大学);POSTECH(浦项科技大学)
学习公平表示对于实现公平或消除敏感信息的偏见至关重要。大多数现有的作品依赖于对抗性表示学习来向表示注入一些不变性。然而,对抗性学习方法的训练相对不稳定,这可能会损害公平性和预测性之间的平衡。我们提出了一种新的方法,通过分布式对比变分自编码器(FarconVAE)学习FAIR表示,它导致潜在空间被解开成敏感和非敏感部分。我们首先构造具有不同敏感属性但具有相同标签的观测对。然后,FarconVAE强制每个非敏感潜伏期更接近,而敏感潜伏期彼此远离,并且通过对比它们的分布远离非敏感潜伏期。通过理论分析,提出了一种基于高斯核和Student-t核的分布式对比学习的对比损失模型。此外,我们采用了一种新的交换重构损失,以进一步促进解纠缠。FarconVAE在公平性、预训练模型去偏和领域泛化任务方面表现出优异的性能,这些任务来自各种模态,包括表格、图像和文本。
2022-06-17 cs.AI cs.CY cs.LG
FairNN- Conjoint Learning of Fair Representations for Fair Decisions
Leibniz University of Hanover(汉诺威莱布尼茨大学);L3S Research Center(L3S研究中心);University of Twente(特文特大学)
在本文中,我们提出了FairNN一个神经网络,执行联合特征表示和分类的公平意识的学习。我们的方法优化了多目标损失函数,其中(a)通过抑制受保护的属性来学习公平表示(b)通过最小化重建损失来保持信息内容,以及(c)通过最小化分类误差并尊重均衡的基于奇数的公平性正则化来以公平的方式解决分类任务。我们在各种数据集上的实验表明,这种联合方法优于表示学习或监督学习中对不公平性的单独处理。此外,我们的正则化器可以自适应地加权,以平衡损失函数的不同分量,从而为联合公平表示学习和决策提供了一个非常通用的框架。
2020-04-11 cs.LG stat.ML
De-biased Representation Learning for Fairness with Unreliable Labels
Data Science Institute(数据科学研究所);University of Technology Sydney(悉尼科技大学);Tsinghua University(清华大学)
在保持所有任务相关信息的同时消除偏差对于公平表示学习方法来说是具有挑战性的,因为它们会产生随机或退化的表示。标签,当敏感属性与标签相关时。现有的工作建议注入的标签信息的学习过程中,以克服这些问题。然而,观察到的标签是干净的这一假设并不总是得到满足。事实上,标签偏见被认为是导致歧视的主要来源。换句话说,公平预处理方法在学习过程或评估阶段忽略了标签中编码的区分。这种矛盾给学习表征的公平性打上了一个问号。为了规避这个问题,我们探讨了以下问题:\emph{Can we learn fair representations predictable to latent ideal fair labels given only access to unreliable labels?}在这项工作中,我们提出了一个\textbf{D}电子- \textbf{B}基于\textbf{R} epresentation学习\textbf{F}空气(DBRF)框架,解开的敏感信息从非敏感属性,同时保持学习表示偏向理想的公平标签,而不是观察到的可预测的。我们通过信息论的概念,如互信息和信息瓶颈,制定了去偏学习框架。其核心理念是,DBRF主张在敏感信息有利于不可靠标签预测的情况下,不使用不可靠标签进行监管。在合成数据和真实数据上的实验结果表明,DBRF有效地学习了理想标签的去偏表示。
2022-08-01 cs.AI cs.CY cs.LG
Towards a Unified Framework for Fair and Stable Graph Representation Learning
Harvard University(哈佛大学)
随着图神经网络(GNN)输出的表示越来越多地用于现实世界的应用,确保这些表示是公平和稳定的变得非常重要。在这项工作中,我们建立了反事实公平性和稳定性之间的关键联系,并利用它提出了一个新的框架,NIFTY(uNIfying Fairness and stabilITY),它可以与任何GNN一起使用,以学习公平和稳定的表示。我们引入了一个新的目标函数,同时考虑了公平性和稳定性,并使用Lipschitz常数开发了一个逐层权重归一化,以增强GNN中的神经消息传递。在这样做的过程中,我们在目标函数和GNN架构中都加强了公平性和稳定性。此外,我们从理论上表明,我们的逐层权重归一化促进了所得到的表示中的反事实公平性和稳定性。我们介绍了三个新的图形数据集,包括刑事司法和金融贷款领域的高风险决策。对上述数据集的广泛实验证明了我们框架的有效性。
2021-06-16 cs.LG
Adversarial Stacked Auto-Encoders for Fair Representation Learning
Innopolis University(Innopolis 大学)
以唯一的准确性作为最终目标来训练机器学习模型可能会促进数据中嵌入的偏见和歧视行为。一种解决方案是学习满足特定公平性度量的潜在表示。采用不同类型的学习方法将数据映射到公平的表示空间。主要目的是学习数据的潜在表示,在公平性度量上得分很高,同时保持下游任务的可用性。在本文中,我们提出了一个新的公平的表示学习方法,利用不同层次的数据表示收紧学习表示的公平性界限。我们的研究结果表明,堆叠不同的自动编码器,并在不同的潜在空间执行公平性的结果在公平性的改善相比,其他现有的方法。
2021-07-27 cs.AI cs.LG
Learning Adversarially Fair and Transferable Representations
University of Toronto(多伦多大学);Vector Institute(向量研究所)
在本文中,我们提倡表示学习作为减轻下游不公平预测结果的关键。出于一个场景的动机,学习的表示被第三方使用未知的目标,我们提出并探索对抗性表示学习作为一种自然的方法,确保这些方公平行事。我们将群体公平性(人口统计学上的平等、均等化的几率和平等的机会)与不同的对抗性目标联系起来。通过最坏情况下的理论保证和实验验证,我们表明,这个目标的选择是至关重要的公平预测。此外,我们提出了第一个深入的公平迁移学习的实验演示,并实证表明,我们学到的表示承认公平的预测新的任务,同时保持效用,公平表示学习的一个基本目标。
2018-10-22 cs.LG stat.ML
Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院)
对抗学习是公平表示学习中广泛使用的一种技术,用于消除数据表示中敏感属性的偏差。它通常需要将敏感属性标签作为预测目标。然而,在许多场景下,许多样本的敏感属性标签可能是未知的,并且很难基于具有观察到的属性标签的稀缺数据训练一个强的分类器,这可能导致产生不公平的表示。本文提出了一种基于对抗性变分自编码器的半监督公平表示学习方法,该方法可以减少对抗性公平模型对带有标签敏感属性的数据的依赖。更具体地说,我们使用一个偏见感知模型,通过准确地预测敏感属性从输入数据捕捉敏感属性的固有偏见信息,我们使用一个无偏见的模型,学习去偏见的公平表示,通过使用对抗学习,以消除偏见信息。由两个模型学习的隐藏表示被正则化为正交的。此外,两个模型预测的软标签被进一步集成到一个半监督的变分自编码器中,以重建输入数据,我们应用了一个额外的熵正则化,以鼓励从无偏模型推断的属性标签是高熵的。通过这种方式,如果输入数据被很好地重构,则偏差感知模型可以更好地捕获属性信息,而无偏差模型对敏感属性的区分性较低。在两个不同任务的数据集上进行的大量实验验证了该方法在有限数据和敏感属性标签的情况下可以实现良好的表示学习公平性。
2022-04-01 cs.LG
SCAR: State-Space Compression for AI-Based Radio Resource Management of Vehicular Services
Middlesex University London(伦敦密德萨斯大学);IIIT-Hyderabad(海得拉巴国际信息技术学院);IIIT Hyderabad(海得拉巴国际信息技术学院);Manchester Metropolitan University(曼彻斯特城市大学);Dublin City University(都柏林城市大学)
SCAR通过状态空间压缩技术提升动态车辆环境中AI驱动的网络管理可扩展性与公平性。
2026-11-20 cs.LG cs.NE cs.SY
Learning Fairer Representations with FairVIC
Department of Computer Science, University of York, York, United Kingdom(英国约克大学计算机科学系)
本文提出 FairVIC,在训练损失中引入方差、不变性和协方差项以减少对受保护特征的依赖,实验表明其在不损失准确性的情况下将各项公平性指标提升约 70%。
2025-10-21 cs.AI cs.CY cs.LG
Fair Patient Model: Mitigating Bias in the Patient Representation Learned from the Electronic Health Records
University of Pittsburgh(匹兹堡大学);Intelligent Systems Program(智能系统计划);School of Computing and Information(计算与信息学院);Department of Medicine(医学院);Department of Electrical and Computer Engineering(电气与计算机工程系);Department of Health Information Management(健康信息管理系);Department of Biomedical Informatics(生物医学信息学系);Clinical and Translational Science Institute(临床与转化科学研究所)
本文提出 Fair Patient Model(FPM),通过加权损失函数从 EHR 中学习公平患者表示,在 MIMIC-III 的四项预测任务中改善公平性并保持可比准确率。
2023-06-05 cs.AI cs.CY cs.LG
Deep Fair Learning: Task-Aware Fair Representations via Joint Distance-Covariance Regularization
University of Alberta(阿尔伯塔大学)
本文提出深度公平学习框架,将非线性充分降维与深度学习结合,通过微调中的新惩罚项实现敏感属性与表示的条件独立,在多种敏感属性类型和数据结构上显著优于现有方法。
2026-10-06 cs.LG stat.ML
Fix Representation (Optimally) Before Fairness: Finite-Sample Shrinkage Population Correction and the True Price of Fairness Under Subpopulation Shift
Department of Biostatistics, Vanderbilt University Medical Center, Nashville, TN 37232, USA(生物统计学系,范德比尔特大学医学中心);Department of Informatics, King's College London, WC2R 2LS London, UK(信息学系,国王学院伦敦)
本文提出在公平性之前通过有限样本收缩校正优化表示,以揭示真实公平性代价,通过实验验证该方法有效消除虚假权衡。
2026-02-05 cs.LG
On Fairness of Medical Image Classification with Multiple Sensitive Attributes via Learning Orthogonal Representations
The University of British Columbia(不列颠哥伦比亚大学);The Chinese University of Hong Kong(香港中文大学)
减轻机器学习模型的歧视在医学图像分析中得到了越来越多的关注。然而,罕见的作品集中在多个敏感的人口统计数据的患者的公平治疗,这是一个关键的,但现实世界的临床应用具有挑战性的问题。在本文中,我们提出了一种新的方法,公平的表示学习方面的多敏感属性。我们追求目标和多敏感表示之间的独立性,实现正交的表示空间。具体地说,我们通过将目标信息保持在低秩敏感空间的补空间上来增强列空间的正交性。此外,在行空间中,我们鼓励目标和敏感表示之间的特征维度是正交的。在CheXpert数据集上进行了大量实验,证明了该方法的有效性。据我们所知,这是第一个工作,以减轻不公平的多个敏感属性在医学成像领域。
2023-03-08 cs.CV cs.CY cs.LG
Learning Fair Invariant Representations under Covariate and Correlation Shifts Simultaneously
Tianjin University(天津大学);Baylor University(贝勒大学)
针对现有公平感知域泛化方法鲜少同时兼顾协变量与相关偏移的问题,提出一种通过潜在空间解耦、消减敏感信息学习公平域不变表示的方法,在准确率与公平性上均超越SOTA。
2024-08-18 cs.AI cs.CY cs.LG
Fairness-Aware Node Representation Learning
University of California, Irvine(加州大学欧文分校)
节点表示学习已经证明了它在图的各种应用中的有效性。特别是,对比学习的最新发展已经导致了一些任务的无监督节点表示学习的有希望的结果。尽管图对比学习取得了成功,随之而来的兴趣也在不断增长,但公平性在该领域的探索还很不够。为此,本研究通过自适应特征掩蔽和边缘删除,解决了图对比学习中的公平性问题,并采用公平性感知图增强设计。在这项研究中,不同的公平性概念的图,作为建议的图增强的指导方针。此外,理论分析提供了定量证明所提出的特征掩蔽方法可以减少本征偏差。真实社交网络上的实验结果表明,所提出的增强可以提高公平性的统计奇偶性和平等的机会,同时提供可比的分类精度,以国家的最先进的对比方法节点分类。
2021-06-09 cs.LG
Provably Fair Representations
The Australian National University(澳大利亚国立大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织 Data61)
机器学习系统越来越多地用于做出有关人们生活的决定,例如是否向某人提供贷款或是否面试某人的工作。这使得人们对使这种机器学习系统公平产生了相当大的兴趣。一种方法是变换算法所使用的输入数据。这可以通过在将每个输入数据点用于训练或测试之前使其通过表示函数来实现。从数据中学习这种表示函数的技术在经验上是成功的,但通常缺乏理论上的公平性保证。我们表明,它是可以证明,一个代表功能是公平的,根据共同的措施,群体和个人的公平性,以及有用的目标任务。这些可证明的属性可以用于涉及数据生产者、数据用户和数据监管者的治理模型中,其中公平性和目标任务效用之间存在关注点的分离,以确保透明度并防止不正当的激励。我们正式定义的“不信任的成本”使用这个模型相比,有一个单一的受信任方的设置,并提供在特定情况下,这个成本的界限。我们提出了一种实用的方法来学习公平表示函数,并将其应用于金融和刑事司法数据集。我们评估的公平性和实用性,这些代表性的功能,我们的理论结果的动机措施。
2017-10-12 cs.LG
Learning Smooth and Fair Representations
George Mason University(乔治梅森大学)
拥有数据的组织因歧视性地使用数据侵害受保护的人口群体而面临越来越多的法律责任,这种责任延伸到涉及第三方访问和使用数据的合同交易。这是有问题的,因为原始数据所有者无法事先预测下游用户未来的所有使用。本文探讨了上游的能力,先发制人地删除功能和敏感属性之间的相关性映射功能到一个公平的表示空间。我们的主要结果表明,公平性的代表分布的人口统计奇偶性可以从一个有限的样本,当且仅当卡方互信息之间的功能和表示是有限的。经验上,我们发现,平滑的表示分布提供了公平证书的泛化保证,这改善了现有的公平表示学习方法。此外,与公平表示学习中最先进的方法相比,我们没有观察到平滑表示分布会降低下游任务的准确性。
2020-06-15 cs.LG stat.ML
Going Beyond Classification Accuracy Metrics in Model Compression
NVIDIA(英伟达);TU Kaiserslautern(凯泽斯劳滕工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);University of Utah(犹他大学)
随着边缘计算设备的兴起,部署节能和资源高效模型的需求越来越大。大量的研究致力于开发方法,可以大大减少模型的大小,而不影响标准指标,如top-1的准确性。然而,这些修剪方法往往会导致其他指标(如跨类公平性和可解释性)的显著不匹配。为了克服这种偏差,我们提出了一种新的多部分损失函数的启发知识蒸馏文献。通过大量的实验,我们证明了我们的方法在不同的压缩算法,架构,任务以及数据集的有效性。特别是,我们获得了压缩模型和参考模型之间的预测不匹配数量的最多$4.1\times$减少,以及在参考模型做出正确预测的情况下最多$5.7\times$减少;所有这些都不改变压缩算法,并且对损失函数进行微小修改。此外,我们还展示了如何在模型的预测之间引入简单的对齐,从而自然地提高了其他指标的对齐,包括公平性和属性。因此,我们的框架可以作为一个简单的即插即用组件的压缩算法在未来。
2021-06-14 cs.AI cs.CV cs.LG
FARE: Provably Fair Representation Learning with Practical Certificates
ETH Zurich(苏黎世联邦理工学院)
针对公平表征学习缺乏可落地公平保证的问题,提出 FARE,通过受限编码器与有限样本高置信上界程序,为任意下游分类器提供紧且实用的公平性证书。
2023-06-08 cs.AI cs.CY cs.LG
Fair Representation Learning with Controllable High Confidence Guarantees via Adversarial Inference
Rutgers University(罗格斯大学);Sony AI(索尼人工智能);University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校);University College Dublin(都柏林大学);University of Massachusetts(马萨诸塞大学)
本文提出FRG框架,通过对抗推理为表示学习提供可控高置信度的公平性保证,确保下游预测中群体差异不超过用户定义阈值,并在三个数据集上优于六种基线方法。
2025-10-23 cs.LG
Impossibility results for fair representations
University of Waterloo(滑铁卢大学);Vector Institute(向量研究所)
随着人们对机器学习中公平性的认识不断提高,以及对数据表示在数据处理任务中的核心作用的认识,人们对公平数据表示的概念产生了明显的兴趣。这种表示的目标是在表示下的数据上训练的模型(例如,分类器)将保证遵守某些公平性约束。当它们可以固定用于在各种不同任务上训练模型时,以及当它们用作原始数据(表示设计者已知的)和使用表示下的数据来学习预测模型并做出决策的潜在恶意代理之间的数据过滤时,这样的表示是有用的。最近的一长串研究论文努力为实现这些目标提供工具。然而,我们证明这基本上是徒劳的努力。粗略地说,我们证明,没有表示可以保证公平的分类器为不同的任务训练使用它,即使是实现标签独立的人口公平的基本目标失败,一旦边际数据分布偏移。更精确的公平性概念,如赔率平等,不能通过不考虑任务特定标签规则的表示来保证,该规则将评估这种公平性(即使边际数据分布已知为先验)。此外,除了琐碎的情况下,没有表示可以保证任何两个不同的任务的赔率平等公平,同时允许两者的准确标签预测。虽然我们的一些结论是直观的,我们制定(和证明)清晰的声明,这种不可能性,往往对比的印象传达了许多最近的作品公平代表。
2021-07-07 cs.LG stat.ML
Fair Representation Learning using Interpolation Enabled Disentanglement
Virginia Tech(弗吉尼亚理工大学);Amazon(亚马逊公司)
随着人们对机器学习社区解决现实问题的兴趣越来越大,通过关注公平性和审计这些黑箱模型所做的预测来揭示其决策背后隐藏的推理变得至关重要。在本文中,我们提出了一种新的方法来解决两个关键问题:(a)我们可以同时学习公平的解纠缠表示,同时确保学习的表示对下游任务的效用,以及(b)我们可以提供理论见解,当提出的方法将是公平和准确的。为了解决前者,我们提出了方法FRIED,公平表示学习使用插值使能解纠缠。在我们的架构中,通过施加基于批评的对抗框架,我们强制潜在空间中的插值点更加真实。这有助于有效地捕获数据流形,并增强了下游预测任务的学习表示的实用性。我们解决后一个问题,开发一个理论的公平性和准确性的权衡使用分类器为基础的条件互信息估计。我们证明了FRIED对不同模式的数据集-表格,文本和图像数据集的有效性。我们观察到,与现有基线相比,FRIED学习的表示总体上更公平,并且对于下游预测任务也更准确。此外,我们在现实世界的医疗索赔数据集上评估了FRIED,在那里我们进行了专家辅助模型审计研究,为阿片类药物成瘾模式提供了有用的见解。
2021-10-13 cs.LG
Heterogeneous federated collaborative filtering using FAIR: Federated Averaging in Random Subspaces
Rice University(莱斯大学);ThirdAI Corp(ThirdAI 公司)
针对联邦推荐中嵌入表超出异构设备内存的问题,本文提出 FAIR,利用基于哈希随机投影的一致可坍缩子空间实现任意压缩和全设备协同训练,并验证其效果与收敛性。
2023-11-03 cs.LG
On Disentangled and Locally Fair Representations
Tel Aviv University(特拉维夫大学)
我们研究的问题进行分类的方式是公平的敏感群体,如种族和性别。这一问题是通过分解和当地公平的陈述来解决的。我们学习了一个局部公平的表示,这样,在学习的表示下,每个样本的邻域在敏感属性方面是平衡的。例如,当决定雇用一个人时,我们确保$K$中最相似的被雇用人员在种族上是平衡的。至关重要的是,我们确保相似的个体是基于与其种族无关的属性被发现的。为此,我们将嵌入空间分解为两个表示。其中第一个与敏感属性相关,而第二个不相关。我们只对第二个不相关的表示应用我们的局部公平性目标。通过一组实验,我们证明了必要性的解纠缠和本地公平获得公平和准确的表示。我们评估我们的方法在现实世界中的设置,如预测收入和重新监禁率,并证明我们的方法的优势。
2022-05-05 cs.AI cs.LG
Learning Fair and Interpretable Representations via Linear Orthogonalization
University of Southern California(南加州大学)
为了减少人类的错误和偏见,许多高风险的决策已经交给了机器算法。然而,最近的研究表明,这并不能消除歧视,而且可能使有害的陈规定型观念永久化。虽然已经开发了算法来提高公平性,但它们通常至少面临三个缺点之一:它们不可解释,与无偏等价物相比,它们的预测质量迅速恶化,并且它们不容易在模型之间转移。为了解决这些缺点,我们提出了一种几何方法,删除数据和任何数量的受保护变量之间的相关性。此外,我们可以通过一个可调参数来控制去偏置的强度,以解决预测质量和公平性之间的权衡。所得到的特征是可解释的,并且可以与许多流行的模型一起使用,例如线性回归、随机森林和多层感知器。结果发现,与各种基准数据集上的几种最先进的公平AI算法相比,所得到的预测更加准确和公平。我们的工作表明,去偏置数据是一个简单而有效的解决方案,以提高公平性。
2019-12-17 cs.CY cs.LG stat.ML
Towards Poisoning Fair Representations
Purdue University(普渡大学);Tencent AI Lab(腾讯AI实验室);Georgia Institute of Technology(佐治亚理工学院)
针对深度公平表示学习缺乏安全评估的问题,提出首个数据投毒框架,通过精心构造样本和双层优化近似诱导不公平表示,并给出投毒样本量理论分析。
2024-03-04 cs.LG
Fair Sufficient Representation Learning
The Hong Kong Polytechnic University(香港理工大学)
本文提出FSRL方法,通过目标函数的凸组合在表征层面平衡充分性与公平性,利用距离协方差实现并证明其收敛性,在医疗与文本数据集上实现了公平性与准确性的更优权衡。
2025-03-29 cs.LG stat.ML
MMD-B-Fair: Learning Fair Representations with Statistical Testing
University of British Columbia(不列颠哥伦比亚大学);Amii(阿尔伯塔机器智能研究所)
提出 MMD-B-Fair,利用核两样本检验与分块检验的渐近性质学习公平表示,在隐藏敏感属性的同时保留目标信息,并在多数据集及下游迁移任务中验证有效。
2023-04-25 cs.LG stat.ML
FairMixRep : Self-supervised Robust Representation Learning for Heterogeneous Data with Fairness constraints
Walmart Labs(沃尔玛实验室);Gartner(高德纳);University of Arkansas(阿肯色大学)
由于其复杂的特征流形,在具有数值和分类类型的混合变量的异构空间中的表示学习具有有趣的挑战。此外,无监督设置中的特征学习,没有类别标签和合适的学习损失函数,增加了问题的复杂性。此外,学习的表示和后续预测不应反映对某些敏感群体或属性的歧视行为。拟议的特征映射应保留数据中存在的最大变化,并且需要对敏感变量保持公平。我们建议,在我们的工作的第一阶段,一个有效的编码器-解码器框架来捕获混合域的信息。我们的工作的第二阶段的重点是去偏的混合空间表示,通过添加相关的公平性约束。这确保了在保持公平性的投影之前和之后的表示之间的最小信息损失。学习的最终表示的信息内容和公平性方面已经通过几个指标进行了验证,其中它显示出出色的性能。我们的工作(FairMixRep)从无监督的角度解决了混合空间公平表示学习的问题,并学习了及时,独特和新颖的研究贡献的通用表示。
2020-10-14 cs.AI cs.LG stat.ML
Fairness in representation: quantifying stereotyping as a representational harm
University of Utah(犹他大学);Haverford College(哈弗福德学院);University of Arizona(亚利桑那大学)
虽然分配的危害已经越来越多地作为算法公平性子领域的一部分进行研究,但表示的危害却很少受到关注。在本文中,我们形式化了两个刻板印象的概念,并展示了它们如何在机器学习管道中表现出后来的分配危害。我们还提出了缓解策略,并证明了它们在合成数据集上的有效性。
2019-01-28 cs.LG stat.ML
Latent Space Smoothing for Individually Fair Representations
ETH Zurich(苏黎世联邦理工学院);DeepMind(深度思维)
公平表示学习将用户数据转换为一种表示,该表示确保公平性和实用性,而与下游应用无关。然而,学习单独的公平表示,即,在诸如计算机视觉的高维环境中,保证相似的个体被相似地对待仍然是具有挑战性的。在这项工作中,我们介绍LASSI,第一个表示学习方法来证明个人的公平性的高维数据。我们的关键见解是利用生成建模的最新进展来捕获生成潜在空间中的相似个体集。这使我们能够通过使用对抗训练来最小化他们的表示之间的距离,来学习单独的公平表示,将相似的个体映射到一起。最后,我们采用随机平滑来可证明地将相似的个体映射到一起,从而确保下游应用程序的本地鲁棒性验证导致端到端的公平性认证。我们对具有挑战性的真实世界图像数据的实验评估表明,我们的方法将认证的个人公平性提高了90%,而不会显着影响任务效用。
2022-07-26 cs.AI cs.CV cs.LG
Learning Certified Individually Fair Representations
ETH Zurich(苏黎世联邦理工学院)
公平表示学习提供了一种有效的方式来实施公平性约束,而不损害下游用户的效用。一个理想的家庭这样的公平约束,每个要求类似的待遇相似的个人,被称为个人公平。在这项工作中,我们介绍了第一种方法,使数据消费者获得证书的个人公平的现有和新的数据点。其关键思想是将相似的个体映射到接近的潜在表示,并利用这种潜在的接近来证明个体的公平性。也就是说,我们的方法使数据生产者能够学习和证明一个表示,其中对于一个数据点,所有相似的个人都在$\ell_\infty$ -距离最多$ε$,从而允许数据消费者通过证明其分类器的$ε$ -鲁棒性来证明个人的公平性。我们对五个真实世界的数据集和几个公平性约束的实验评估证明了我们的方法的表达性和可扩展性。
2020-11-28 cs.AI cs.LG stat.ML
PLS-based approach for fair representation learning
Institute of Data Science and Artificial Intelligence (DATAI), Universidad de Navarra(纳瓦拉大学数据科学与人工智能研究所);Universidad Pública de Navarra(纳瓦拉公立大学)
本研究针对公平表示学习问题,提出融入公平性约束的公平PLS成分方法,支持线性及核嵌入下的非线性场景,经多数据集验证,效果优于标准公平PCA方法。
2025-02-22 cs.CY cs.LG math.ST
Learning Fair Representations for Kernel Models
Carnegie Mellon University(卡内基梅隆大学);Determined AI
公平代表是一个强大的工具,用于建立标准,如统计平等,代理非歧视,以及学习模型中的机会平等。用于学习这些表示的现有技术通常是模型不可知的,因为它们对原始数据进行预处理,使得输出满足某些公平性标准,并且可以与任意学习方法一起使用。相比之下,我们展示了学习模型感知的公平表示的承诺,专注于基于内核的模型。我们利用经典的充分降维(SDR)框架来构造表示作为再生核希尔伯特空间(RKHS)的子空间,其成员函数保证满足公平性。我们的方法支持几个公平的标准,连续和离散数据,和多个受保护的属性。我们进一步展示了如何校准的精度权衡的RKHS的子空间之间的主要角度来表征它。最后,我们应用我们的方法来获得公平贝叶斯学习的第一个公平高斯过程(FGP)先验,并表明它与真实数据上的最先进方法相比具有竞争力,并且在某些情况下优于最先进的方法。
2020-01-20 cs.LG stat.ML
Conditional Supervised Contrastive Learning for Fair Text Classification
University of Virginia(弗吉尼亚大学);UC Berkeley(加州大学伯克利分校);UCLA(加州大学洛杉矶分校);UIUC(伊利诺伊大学厄巴纳-香槟分校)
对比表示学习由于其在图像和序列数据表示学习方面的优越性能而受到广泛关注。然而,学习的表示可能会导致下游任务的性能差异,例如在毒性评论分类中代表性不足的群体的沉默增加。鉴于这一挑战,在这项工作中,我们研究了通过对比学习学习满足公平性概念的公平表示,即文本分类的均衡化几率。具体来说,我们首先从理论上分析了公平约束的学习表示和条件监督对比目标之间的联系,然后提出使用条件监督对比目标来学习文本分类的公平表示。我们在两个文本数据集上进行实验,以证明我们的方法在平衡现有文本分类基线之间的任务性能和偏见缓解之间的权衡方面的有效性。此外,我们还表明,所提出的方法是稳定的,在不同的超参数设置。
2022-10-31 cs.AI cs.CL cs.CY
Operationalizing Individual Fairness with Pairwise Fair Representations
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
我们重新审视Dwork等人提出的个人公平性的概念。在操作他们的方法的一个核心挑战是在引发人类规范的相似性度量的困难。在本文中,我们提出了一个可操作的个人公平性,不依赖于人类的距离度量规范。相反,我们提出了新的方法来引出和利用同样值得的个人的边信息,以对抗社会群体之间的从属关系。我们将这些知识建模为公平图,并学习数据的统一成对公平表示(PFR),该表示捕获个体之间的数据驱动相似性和公平图中的成对边信息。我们从各种来源得出公平性判断,包括对累犯预测(COMPAS)和暴力邻里预测(Crime & Communities)两个真实世界数据集的人类判断。我们的实验表明,PFR模型的个人公平操作是切实可行的。
2019-12-02 cs.LG stat.ML