Fairness-aware Message Passing for Graph Neural Networks
The Pennsylvania State University（宾夕法尼亚州立大学）；National University of Singapore（新加坡国立大学）
针对图神经网络预测中的社会偏见问题，提出公平感知消息传递框架GMMD及其简化变体GMMD-S，通过优化图平滑性与表示公平性实现公平表示，在保持高准确率的同时显著提升多种骨干GNN模型的公平性。
2023-06-19 cs.LG
Towards Fair Graph Neural Networks via Graph Counterfactual
The Pennsylvania State University（宾夕法尼亚州立大学）；New Jersey Institute of Technology（新泽西理工学院）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
针对现有公平图神经网络依赖统计公平易受统计异常影响、图反事实方法生成的反事实不真实的问题，本文提出CAF框架，从训练数据中选取反事实学习公平节点表示，实验验证了其有效性。
2023-08-21 cs.LG
FairDrop: Biased Edge Dropout for Enhancing Fairness in Graph Representation Learning
Sapienza University of Rome（罗马第一大学）；Edinburgh Napier University（爱丁堡龙比亚大学）
图表示学习已经成为许多场景中无处不在的组件，从社会网络分析到智能电网中的能量预测。在一些应用中，确保节点（或图）表示相对于某些受保护属性的公平性对于它们的正确部署至关重要。然而，图深度学习的公平性仍然没有得到充分的探索，几乎没有可用的解决方案。特别地，类似节点在几个真实世界图上聚类的趋势（即，同性恋）可以大大恶化这些程序的公平性。在本文中，我们提出了一种新的偏边丢弃算法（FairDrop），以对抗同伦和改善图表示学习的公平性。FairDrop可以很容易地插入到许多现有的算法中，它是高效的，适应性强的，并且可以与其他公平诱导解决方案相结合。在描述了一般算法之后，我们展示了它在两个基准任务上的应用，具体地，作为用于产生节点嵌入的随机游走模型，以及用于链接预测的图卷积网络。我们证明，该算法可以成功地提高所有模型的公平性，以一个小的或可忽略不计的准确性下降，并与现有的最先进的解决方案相比。在消融研究中，我们证明了我们的算法可以灵活地插在偏向公平和无偏边缘辍学之间。此外，为了更好地评估收益，我们提出了一个新的二元组的定义来衡量一个链接预测任务时，与基于组的公平性度量配对的偏见。特别是，我们扩展了用于测量节点嵌入中的偏差的度量，以考虑图结构。
2021-12-27 cs.LG stat.ML
FMP: Toward Fair Graph Message Passing against Topology Bias
Texas A&M University（得克萨斯农工大学）；Rice University（莱斯大学）
尽管最近在通过图神经网络（GNN）中的正则化、对抗性去偏置和对比学习来实现公平表示和预测方面取得了进展，但工作机制（即，消息传递）在引起不公平问题的GNN背后仍然是未知的。在这项工作中，我们从理论和实验上证明，代表性的聚集在消息传递方案中积累的偏见，由于拓扑结构引起的拓扑结构的偏见在节点表示。因此，提出了一种\textsf{F}空中\textsf{M}消息\textsf{P}发送（FMP）方案，以聚合来自邻居的有用信息，但在考虑图平滑性和公平性目标的统一框架中最小化拓扑偏差的影响。所提出的FMP是有效的，透明的，并与反向传播训练兼容。为了提高算法的效率，还采用了梯度计算加速方法。节点分类任务的实验表明，所提出的FMP优于国家的最先进的基线，有效地和有效地减轻偏见的三个现实世界的数据集。
2022-02-08 cs.LG
FairACE: Achieving Degree Fairness in Graph Neural Networks via Contrastive and Adversarial Group-Balanced Training
College of Liberal Arts and Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校文理学院）
针对图神经网络中度偏差导致不同度节点预测性能不平等问题，提出FairACE框架，结合非对称对比学习与对抗训练，通过组平衡公平损失和AD指标，提升度公平性且保持精度。
2025-04-15 cs.AI cs.LG cs.SI
FairGP: A Scalable and Fair Graph Transformer Using Graph Partitioning
Dalian University of Technology（大连理工大学）；University of South Australia（南澳大学）；The University of New South Wales（新南威尔士大学）；The University of Melbourne（墨尔本大学）；RMIT University（皇家墨尔本理工大学）
FairGP通过图划分减少高阶节点敏感特征对低阶节点的偏差影响，并优化注意力机制，在降低计算复杂度的同时提升图Transformer的公平性，在多个数据集上优于现有方法。
2025-01-02 cs.LG stat.ML
Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information
The Pennsylvania State University（宾夕法尼亚州立大学）
图神经网络（GNN）在对图结构数据建模方面显示出强大的能力。然而，类似于其他机器学习模型，GNN可能会对受保护的敏感属性进行预测，例如，肤色和性别。因为包括GNN的机器学习算法被训练以反映训练数据的分布，该分布通常包含对敏感属性的历史偏差。此外，GNN中的区分可以通过图结构和消息传递机制来放大。因此，GNN在犯罪率预测等敏感领域的应用将受到很大限制。虽然对i.i.d数据进行了广泛的公平分类研究，但解决非i.i. d数据歧视问题的方法相当有限。此外，稀疏注释在敏感属性的实际情况很少考虑在现有的作品。因此，我们研究了具有有限敏感属性信息的公平GNNs学习的新问题。FairGNN被提出来消除GNN的偏差，同时通过利用图结构和有限的敏感信息来保持高的节点分类精度。我们的理论分析表明，FairGNN可以确保GNN的公平性在温和的条件下，给定有限的节点与已知的敏感属性。在真实数据集上的大量实验也证明了FairGNN在去偏和保持高精度方面的有效性。
2021-10-15 cs.LG
Towards Fair Graph Prompting: A Dual-Prompt Mechanism for Mitigating Attribute and Structural Bias
University of Michigan（密歇根大学）；University of Virginia（弗吉尼亚大学）
提出自适应双提示框架（ADPrompt），通过自适应特征修正和自适应消息校准两个模块，在适应预训练GNN的同时缓解节点属性与图结构中的偏差，实现公平的节点分类。
2026-06-02 cs.LG
MAPPING: Debiasing Graph Neural Networks for Fair Node Classification with Limited Sensitive Information Leakage
University of Pittsburgh（匹兹堡大学）
针对图神经网络中的公平性与隐私问题，提出与模型无关的去偏框架MAPPING，通过基于距离协瓦尔的约束和对抗去偏同时减少特征与拓扑偏差并防范属性推断攻击，有效平衡了效用与公平性。
2025-01-26 cs.LG stat.ML
Graph Learning with Localized Neighborhood Fairness
Harvard University（哈佛大学）；Adobe Research（奥多比研究院）；Intel Labs（英特尔研究院）
学习公平图表示下游应用程序变得越来越重要，但现有的工作主要集中在提高公平性在全球范围内通过修改图结构或目标函数，而不考虑本地邻域的节点。在这项工作中，我们正式引入了邻域公平的概念，并开发了一个计算框架，用于学习这种局部公平嵌入。我们认为，邻域公平的概念更合适，因为基于GNN的模型在节点的局部邻域级别上运行。我们的邻域公平框架有两个主要组件，可以灵活地从任意数据中学习公平图表示：第一个目标是为图中的任何任意节点构造公平邻域，第二个目标使得这些公平邻域能够自适应以更好地捕获某些应用或数据相关约束，例如允许邻域更偏向于图中的某些属性或邻居。虽然链接预测已经被广泛研究，但是我们是第一个研究公平链接分类的图表示学习任务的人。我们证明了所提出的邻域公平框架的有效性，各种图形机器学习任务，包括公平的链接预测，链接分类，学习公平的图形嵌入。值得注意的是，我们的方法不仅实现了更好的公平性，而且在大多数情况下，在各种各样的图表，问题设置和指标中提高了准确性。
2022-12-22 cs.LG cs.SI
Subgroup Generalization and Fairness of Graph Neural Networks
University of Michigan（密歇根大学）
尽管图神经网络（GNN）的应用取得了巨大的成功，但对其泛化能力的理论理解，特别是对于数据不独立且相同分布（IID）的节点级任务，一直很稀疏。泛化性能的理论研究有利于理解GNN模型的基本问题（如公平性）和设计更好的学习方法。在本文中，我们提出了一种新的PAC贝叶斯分析GNNs下的非IID半监督学习设置。此外，我们分析了未标记节点的不同子群上的泛化性能，这使我们能够从理论角度进一步研究GNN的准确性-（不）公平性。在合理的假设下，我们证明了测试子组和训练集之间的距离可能是影响GNN在该子组上性能的关键因素，这需要特别注意公平学习的训练节点选择。在多个GNN模型和数据集上的实验支持了我们的理论结果。
2021-11-30 cs.AI cs.LG
Adversarial Inter-Group Link Injection Degrades the Fairness of Graph Neural Networks
Graz University of Technology（格拉茨工业大学）；Know-Center GmbH（知识中心有限公司）；Nanjing University（南京大学）；L3S Research Center（L3S研究中心）；Modul University Vienna（维也纳模块大学）；University of Mannheim（曼海姆大学）；GESIS - Leibniz Institute for the Social Sciences（GESIS——莱布尼茨社会科学研究所）；CSH Vienna（维也纳复杂科学中心）
我们提出证据证明对抗攻击的存在和有效性的图神经网络（GNNs），旨在降低公平性。这些攻击可能会使基于GNN的节点分类中的特定节点子组处于不利地位，其中底层网络的节点具有敏感属性，例如种族或性别。我们进行定性和实验分析，解释对抗性链接注入如何损害GNN预测的公平性。例如，攻击者可以通过在属于相反子组和相反类标签的节点之间注入对抗性链接来损害基于GNN的节点分类的公平性。我们在经验数据集上的实验表明，对抗性公平攻击可以显著降低GNN预测的公平性（攻击是有效的），具有低扰动率（攻击是有效的），并且准确性没有显著下降（攻击是欺骗性的）。这项工作证明了GNN模型对对抗性公平攻击的脆弱性。我们希望我们的研究结果能提高社区对这个问题的认识，并为未来开发更强大的GNN模型奠定基础。
2022-12-16 cs.CR cs.CY cs.LG
Homophily-aware Supervised Contrastive Counterfactual Augmented Fair Graph Neural Network
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；University of the Basque Country（巴斯克大学）；IKERBASQUE（巴斯克科学基金会）；Institut Polytechnique de Paris（巴黎综合理工学院）；INRIA, Projet Regalia（法国国家信息与自动化研究所，Regalia项目）
本文提出一种改进的公平图神经网络框架，通过两阶段训练策略提升分类准确性和公平性。
2026-02-08 cs.LG
FairSIN: Achieving Fairness in Graph Neural Networks through Sensitive Information Neutralization
Beijing University of Posts and Telecommunications（北京邮电大学）
针对图神经网络基于敏感属性产生偏见的问题，提出FairSIN方法，通过中和敏感信息并引入公平性促进特征，在保持高精度的同时显著提升公平性。
2025-05-22 cs.CY cs.LG
On Graph Neural Network Fairness in the Presence of Heterophilous Neighborhoods
University of Michigan（密歇根大学）；Lawrence Livermore National Lab（劳伦斯利弗莫尔国家实验室）；RWTH Aachen University（亚琛工业大学）
我们研究了图神经网络（GNNs）的节点分类任务，并建立了由统计奇偶性和平等机会衡量的组公平性与局部非线性之间的联系，即，链接节点具有相似属性的趋势。这种非对称性通常是由同质性引起的，即具有相似属性的节点连接的趋势。在社交网络中，系统性因素迫使个体进入具有共同敏感属性的社区，因此，同质性是很常见的。通过合成图，我们研究了本地发生的同质性和公平预测之间的相互作用，发现并不是所有的节点邻域在这方面都是平等的-由一类敏感属性主导的邻域往往很难获得公平待遇，特别是在发散的本地类和敏感属性同质性的情况下。在确定局部同质性和公平性之间存在关系后，我们研究了不公平性问题是否与所应用的GNN模型的设计有关。我们表明，通过采用能够处理dispertative组标签的heterophilous GNN设计，在真实和合成数据集中，局部heterophilous邻域中的组公平性可以比homophilous设计提高高达25%。
2022-11-14 cs.CY cs.LG cs.SI
FairGAT: Fairness-aware Graph Attention Networks
University of California, Irvine（加州大学欧文分校）
图形可以方便地建模各种复杂系统，如基因网络和电网，以及分析它们之间的潜在关系。图上的学习最近吸引了越来越多的关注，特别是基于图神经网络（GNN）的解决方案，其中图注意力网络（GAT）已经成为用于基于图的任务的最广泛使用的神经网络结构之一。虽然有研究表明，在学习过程中使用图结构会导致算法偏见的放大，但GAT中的注意设计对算法偏见的影响还没有研究。基于此，本研究首先进行了理论分析，以证明算法偏见在基于GAT的学习节点分类的来源。然后，一种新的算法，FairGAT，利用公平意识的注意设计的理论研究结果的基础上开发。在真实网络上的实验结果表明，FairGAT提高了组公平性措施，同时也提供了相当的效用，节点分类和链接预测的公平性感知基线。
2023-03-26 cs.CY cs.LG
Endowing Pre-trained Graph Models with Provable Fairness
Beijing University of Posts and Telecommunications（北京邮电大学）
本文提出 GraphPAR 框架，通过冻结预训练图模型参数并训练适配器与敏感语义增强器，在节点分类任务中实现可证明的公平性，约 90% 节点获得公平性保证。
2024-02-20 cs.AI cs.CY cs.LG
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University（Chungnam国立大学）
提出FnRGNN，一种多层面公平性处理框架，通过边重加权、MMD对齐和Sinkhorn分布匹配，在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Towards Unbiased Federated Graph Learning: Label and Topology Perspectives
针对联邦图学习中高准确率掩盖边缘化节点性能下降的公平性问题，提出FairFGL框架，通过客户端细粒度模块与服务器端聚类聚合策略，实现类别与拓扑公平性，在8个基准上获最高22.62%的Macro-F1增益并提升收敛速度。
2025-04-14 cs.AI cs.DB cs.LG
Model-Agnostic Fairness Regularization for GNNs with Incomplete Sensitive Information
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；University of the Basque Country（巴斯克大学）；IKERBASQUE；INRIA, Regalia Team（INRIA 雷加利亚团队）
本文提出了一种模型无关的公平性正则化框架，用于在敏感信息不完全可用的情况下缓解GNNs中的偏见问题，通过整合等机会和统计平衡作为正则化项，有效提升公平性和分类性能。
2025-11-27 cs.CY cs.LG cs.SI
Chasing Fairness in Graphs: A GNN Architecture Perspective
Texas A&M University（德克萨斯农工大学）；Clemson University（克莱姆森大学）；Rice University（莱斯大学）；University of Houston（休斯顿大学）
针对GNN架构放大偏差导致公平性差的问题，提出公平消息传递（FMP）新架构，在前向传播中显式利用敏感属性并缓解偏差，在三个真实数据集上实现更好的公平性与准确性权衡。
2023-12-19 cs.AI cs.CY cs.LG
Fair Graph Neural Network with Supervised Contrastive Regularization
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université Toulouse 3（图卢兹第三大学）；University of the Basque Country UPV/EHU（巴斯克大学（UPV/EHU））；IKERBASQUE, Basque Foundation for Science（伊克尔巴斯克科学基金会）
本文提出一种结合监督对比损失与环境损失的公平图神经网络训练模型，在增强CAF框架的同时提升准确性与公平性，并在三个真实数据集上验证其优越性。
2024-04-09 cs.AI cs.LG
Unbiased GNN Learning via Fairness-Aware Subgraph Diffusion
School of Computer Science, Carleton University（卡尔顿大学计算机科学学院）
本文提出公平感知子图扩散方法FASD，通过随机微分方程驱动的生成式扩散过程对采样子图进行去偏，再在去偏子图上进行GNN学习，从而在多个基准数据集上实现优于现有公平GNN基线的无偏节点预测。
2024-12-31 cs.AI cs.LG
BoostFGL: Boosting Fairness in Federated Graph Learning
Department of Computer Science, Beijing Institute of Technology, Beijing, China（北京理工大学计算机科学部）；The Hong Kong University of Science（香港科学与技术大学）
BoostFGL通过引入三种协调机制提升联邦图学习的公平性，显著提高整体F1指标，同时保持竞争力。
2026-01-23 cs.CY cs.LG
Fairness-Aware Graph Representation Learning with Limited Demographic Information
Florida International University（佛罗里达国际大学）；University of New Mexico（新墨西哥大学）；Boise State University（博伊西州立大学）；University of Louisville（路易斯维尔大学）
本文提出FairGLite框架，在有限人口信息下减轻图学习中的偏见，通过生成人口信息代理和自适应置信度策略，实现公平性和效用的平衡。
2025-12-26 cs.CY cs.LG
ComFairGNN: Community Fair Graph Neural Network
Iowa State University（爱荷华州立大学）
针对GNNs因图结构复杂性导致的评估偏差问题，提出ComFairGNN框架，通过社区级策略衡量偏差并采用基于可学习核心集的去偏函数，有效缓解局部邻居分布引发的偏见，在准确性与公平性上表现优异。
2025-07-15 cs.AI cs.LG
EqGNN: Equalized Node Opportunity in Graphs
Technion, Israel Institute of Technology（以色列理工学院）
图神经网络（GNNs），已被广泛用于图中的监督学习任务，达到最先进的结果。然而，很少有工作致力于创建无偏见的GNN，即，其中分类与诸如种族或性别的敏感属性无关。有些人忽略了敏感的属性，或者为了公平而优化统计对等的标准。然而，已经表明，这两种方法都不能确保公平性，而是削弱了预测任务的效用。在这项工作中，我们提出了一个GNN框架，允许优化均衡赔率公平标准的概念表示。该架构由三个组件组成：（1）GNN分类器预测效用类，（2）采样器学习给定标签的节点的敏感属性的分布。它生成的样本被送入一个（3）鉴别器，该鉴别器使用一种新的“置换损失”函数来区分真实的和采样的敏感属性。使用这些组件，我们训练一个模型来忽略关于敏感属性的信息，只考虑它的标签。据我们所知，我们是第一个为均衡赔率标准优化GNN的人。我们在几个图数据集和敏感属性上评估了我们的分类器，并显示我们的算法达到了最先进的结果。
2021-08-19 cs.AI cs.LG
Graph Neural Network Surrogates of Fair Graph Filtering
Information Technologies Institute（信息技术研究所）；Centre for Research and Technology—Hellas（希腊研究与技术中心）
通过边传播将先前节点值转换为后验分数的图过滤器通常支持影响人类的图挖掘任务，例如推荐和排名。因此，重要的是使它们在满足节点组之间的统计奇偶性约束（例如，在性别之间按比例分配评分质量）。为了实现这一点，同时最小限度地扰动原始后验，我们引入了一个过滤器感知的通用近似框架后验目标。这定义了在运行时训练的适当的图神经网络，类似于过滤器，但也局部优化了一大类目标，包括公平性感知的目标。在8个过滤器和5个图的集合上的实验表明，我们的方法在满足奇偶性约束的同时，保持基于分数的社区成员推荐的AUC，并在先前的扩散中产生最小的效用损失。
2023-03-16 cs.CY cs.IR cs.LG
BeMap: Balanced Message Passing for Fair Graph Neural Network
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Rochester（罗切斯特大学）；Penn State University（宾夕法尼亚州立大学）
针对图神经网络消息传递会因不同群体1跳邻居不均衡而放大偏差的问题，提出采用均衡感知采样策略的公平消息传递方法BeMap，可在维持分类精度的同时缓解偏差，且已开源代码。
2024-03-08 cs.AI cs.LG cs.SI
Fair Preprocessing: Towards Understanding Compositional Fairness of Data Transformers in Machine Learning Pipeline
Iowa State University（爱荷华州立大学）
近年来，已经报道了许多事件，其中机器学习模型表现出基于种族、性别、年龄等的人之间的歧视。已经进行了研究以测量和减轻机器学习模型中的不公平。对于机器学习任务，通常的做法是构建一个流水线，该流水线包括一组有序的数据预处理阶段，然后是分类器。然而，大多数关于公平性的研究都考虑了基于单个分类器的预测任务。机器学习管道中预处理阶段的公平性影响是什么？此外，研究表明，不公平的根本原因往往根植于数据本身，而不是模型。但是，还没有研究已经进行了测量的不公平性所造成的一个特定的转换，在数据预处理阶段。在本文中，我们引入了公平性的因果方法来推理ML管道中数据预处理阶段的公平性影响。我们利用现有的指标来定义阶段的公平性度量。然后，我们进行了详细的公平性评估的预处理阶段，在37个管道收集来自三个不同的来源。我们的结果表明，某些数据Transformers导致模型表现出不公平性。我们在几类数据Transformers中确定了一些公平模式。最后，我们展示了预处理阶段的局部公平性如何构成流水线的全局公平性。我们使用公平组合来选择适当的下游Transformer，以减轻机器学习管道中的不公平。
2021-07-20 cs.LG
Adversarial Graph Embeddings for Fair Influence Maximization over Social Networks
Monash University（莫纳什大学）；RMIT University（皇家墨尔本理工大学）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
影响力最大化是网络科学中广泛研究的主题，其目标是达到最大可能数量的节点，同时只针对一小部分初始个体。它在许多领域都有重要的应用，包括病毒式营销、信息传播、新闻传播和疫苗接种。然而，该目标通常不考虑受影响的节点的最终集合是否相对于敏感属性（例如种族或性别）是公平的。在这里，我们讨论公平的影响力最大化，旨在更公平地接触少数群体。我们引入了对抗图嵌入：我们共同训练了一个用于图嵌入的自动编码器和一个识别敏感属性的编码器。这导致了类似地分布在敏感属性之间的嵌入。然后我们通过聚类嵌入找到一个好的初始集合。我们相信，我们是第一个使用嵌入的任务，公平的影响力最大化。虽然公平性和影响力最大化目标之间通常存在权衡，但我们在合成和真实世界数据集上的实验表明，我们的方法大大减少了差异，同时与最先进的影响力最大化方法保持竞争力。
2020-05-11 cs.LG cs.SI stat.ML
Physics-Guided Fair Graph Sampling for Water Temperature Prediction in River Networks
University of Pittsburgh（匹兹堡大学）；University of Maryland（马里兰大学）；U.S. Geological Survey（美国地质调查局）；University of Florida（佛罗里达大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
提出一种物理引导的公平图采样方法，通过利用物理知识优化GNNs的邻居选择与权重，减少河流水温预测中不同敏感群体间的模型偏差。
2024-12-21 cs.CY cs.LG physics.soc-ph
Fairness-Aware Node Representation Learning
University of California, Irvine（加州大学欧文分校）
节点表示学习已经证明了它在图的各种应用中的有效性。特别是，对比学习的最新发展已经导致了一些任务的无监督节点表示学习的有希望的结果。尽管图对比学习取得了成功，随之而来的兴趣也在不断增长，但公平性在该领域的探索还很不够。为此，本研究通过自适应特征掩蔽和边缘删除，解决了图对比学习中的公平性问题，并采用公平性感知图增强设计。在这项研究中，不同的公平性概念的图，作为建议的图增强的指导方针。此外，理论分析提供了定量证明所提出的特征掩蔽方法可以减少本征偏差。真实社交网络上的实验结果表明，所提出的增强可以提高公平性的统计奇偶性和平等的机会，同时提供可比的分类精度，以国家的最先进的对比方法节点分类。
2021-06-09 cs.LG
Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia（弗吉尼亚大学）；City University of Hong Kong（香港城市大学）；Microsoft（微软）
公平机器学习旨在减轻模型预测对某些亚群的偏见，这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中，反事实公平性通过比较每个个体从原始数据和反事实的预测，从因果的角度衡量模型的公平性。在反事实中，这个人的敏感属性值被修改了。近年来，一些研究将反事实公平性扩展到图数据，但大多数研究都忽略了以下可能导致偏差的事实：1）每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2）敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题，在本文中，我们提出了一个新的公平概念-图反事实公平，它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示，我们提出了一种新的框架，基于反事实数据增强。在这个框架中，我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后，我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明，我们的框架在图反事实公平性方面优于最先进的基线，并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
Individual Fairness in Pipelines
Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）；Microsoft Research（微软研究院）；Harvard University（哈佛大学）
众所周知，一个由单独公平的组成部分构建的系统本身可能并不公平。在这项工作中，我们调查管道组成下的个人公平。管道不同于普通的顺序或重复组成，因为个人可能在任何阶段退出，随后阶段的分类可能取决于剩余的“群体”个人。举个例子，一家公司可能会为一个新项目雇佣一个团队，并在以后的某个时候提拔团队中表现最好的人。与其他重复分类设置不同，其中不公平程度在多个公平步骤中优雅地降低，管道中的不公平程度可以是任意的，即使在只有两个阶段的管道中也是如此。在一系列真实例子的指导下，我们提供了一个严格的框架来评估管道的不同类型的公平性保证。我们表明，天真的审计是无法发现系统的不公平，为了确保公平性，一定存在某种形式的依赖之间的设计算法在不同阶段的管道。最后，我们提供了在后期阶段允许灵活性的结构，这意味着在构建早期阶段时不需要锁定整个管道。
2020-04-12 cs.CY cs.LG stat.ML
FairProp: Fair Node Representation Learning via Differentiable Propagation Layers
KU Leuven（鲁汶大学）
本文提出FairProp，通过向APPNP的凸平滑问题加入群体均值约束和组内协方差正则化，并将投影梯度下降展开为可微分传播层，实现节点分类、链接预测和回归的公平表示学习，提供首个相关界限并线性收敛。
2026-10-06 cs.LG cs.SI
Fair Pipelines
University of Michigan（密歇根大学）；Michigan Tech Research Institute（密歇根理工大学研究所）；University of Utah（犹他大学）
这项工作有助于确保公平的机器学习在现实世界中的解耦复合决策的公平性考虑。特别是，这项工作研究如何通过一个复合的决策过程，我们称之为管道的公平传播。以前的工作在算法公平性只集中在公平性方面的一个决定。然而，许多决策过程需要不止一个决策。例如，招聘至少是一个两阶段的模型：决定从申请人池中面试谁，然后决定从面试池中雇用谁。也许令人惊讶的是，我们表明，公平的组成部分可能无法保证公平管道下的$(1+\varepsilon)$ -公平的机会均等的定义。然而，我们确定了确实提供这种保证的情况。我们还提出了许多方向，为未来的工作更一般的复合机器学习决策。
2017-07-03 cs.CY cs.LG stat.ML
A pipeline for enabling path-specific causal fairness in observational health data
Department of Biomedical Informatics（生物医学信息学系）；Columbia University（哥伦比亚大学）；Big Data Institute（大数据研究所）；University of Oxford（牛津大学）
本文提出了一种通用管道，用于训练能够解决直接和间接医疗偏见的因果公平机器学习模型。
2026-01-17 cs.AI cs.LG
Fair Node Representation Learning via Adaptive Data Augmentation
University of California, Irvine（加利福尼亚大学尔湾分校）
节点表示学习已经证明了它在图的各种应用中的有效性，这导致了对该领域越来越多的关注。然而，公平性在很大程度上是外地一个探索不足的领域，这可能导致在随后的任务中产生偏向代表性不足群体的结果。为此，这项工作从理论上解释了通过图神经网络（GNNs）获得的节点表示中的偏差来源。我们的分析表明，节点的功能和图形结构导致偏见在所获得的表示。在分析的基础上，开发了节点特征和图结构上的公平性感知数据增强框架，以减少固有偏差。我们的分析和提出的方案可以很容易地用于提高各种基于GNN的学习机制的公平性。在图对比学习的背景下，在真实网络上进行了大量的节点分类和链接预测实验。与多个基准的比较表明，拟议的增强战略可以提高公平性的统计平价和平等机会，同时提供可比的效用，以国家的最先进的对比方法。
2022-01-21 cs.AI cs.LG
Fairness-Optimized Synthetic EHR Generation for Arbitrary Downstream Predictive Tasks
University of Delaware（德克萨斯大学）
提出一种与任务和模型无关的合成EHR数据生成流水线，在保持与真实数据一致的同时减少下游任务的公平性问题，为健康AI应用提供广泛适用的公平性优化工具。
2025-06-27 cs.LG
k-hop Fairness: Addressing Disparities in Graph Link Prediction Beyond First-Order Neighborhoods
LTCI, Télécom Paris（LTCI，巴黎电信学院）；i3, Télécom Paris（i3，巴黎电信学院）
本文提出k-hop公平性方法，用于解决图链接预测中超越一阶邻域的结构性不平等问题，通过预处理和后处理策略提升公平性与性能的平衡。
2026-03-04 cs.LG
FAROS: Fair Graph Generation via Attribute Switching Mechanisms
Université Paris-Saclay, CentraleSupélec, Inria, France（巴黎萨克雷大学、中央超算研究所、法国国家信息与自动化研究所）
FAROS框架通过在预训练图扩散模型生成过程中切换节点敏感属性，并利用多准则约束选择最优切换比例与扩散步骤，从而在保持准确性的同时提升生成图的公平性。
2025-07-04 cs.LG
Impact Of Missing Data Imputation On The Fairness And Accuracy Of Graph Node Classifiers
Lahore University of Management Science（拉合尔管理科学大学）；Georgia State University（佐治亚州立大学）；Massey University（梅西大学）；Hazara University（哈扎拉大学）；National University of Ireland Galway（爱尔兰国立高威大学）
机器学习（ML）算法的公平性分析近年来引起了许多研究者的兴趣。大多数ML方法对受保护的群体有偏见，这限制了ML模型在许多应用中的适用性，如犯罪率预测等，因为数据可能有缺失值，如果处理不当，会进一步影响公平性。许多填补方法被提出来处理缺失数据。然而，缺失数据填补对公平性的影响还没有得到很好的研究。在本文中，我们分析了公平性的影响，在图数据（节点属性）的背景下，使用不同的嵌入和神经网络的方法填补。在六个数据集上的大量实验表明，图节点分类下的缺失数据填补存在严重的公平性问题。我们还发现，填补方法的选择影响公平性和准确性。我们的研究结果提供了宝贵的见解图数据的公平性和如何有效地处理图中的缺失。这项工作也提供了方向的公平性在图形数据的理论研究。
2022-11-01 cs.CY cs.LG cs.SI
PINE: Pipeline for Important Node Exploration in Attributed Networks
Sber AI Lab, Skoltech（斯伯银行人工智能实验室与斯克里普斯基技术大学）；Sber AI Lab（斯伯银行人工智能实验室）
PINE通过结合节点语义特征和注意力机制，提出无监督方法识别属性网络中的重要节点。
2025-12-08 cs.LG
Local Statistical Parity for the Estimation of Fair Decision Trees
Computer Science Department, CIMAT（CIMAT 计算机科学系）；University of Edinburgh（爱丁堡大学）
针对决策树估计的公平性问题，提出局部统计奇偶性准则并融入递归算法，设计约束逻辑回归树（C-LRT）以平衡准确性与公平性，实验验证有效。
2025-04-25 cs.LG
DispaRisk: Auditing Fairness Through Usable Information
George Mason University（乔治·玛森大学）；Universidad de Valparaiso（瓦尔帕莱索大学）
本文提出DispaRisk框架，利用可用信息理论在ML流程早期主动评估数据集差异风险，能识别高歧视数据集和易偏见模型族，提升偏见风险可解释性，助力开发更公平的ML系统。
2025-05-29 cs.LG
FairAD: Computationally Efficient Fair Graph Clustering via Algebraic Distance
Texas State University（德克萨斯州立大学）；Lamar University（拉马尔大学）
本文提出一种基于代数距离的计算高效公平图聚类方法 FairAD，通过构建亲和矩阵、图粗化与约束最小化实现公平聚类，速度较现有算法快40倍。
2025-10-31 cs.LG
Be Fair! Can Machine Learning Engineering Agents Adhere to Fairness Constraints?
BIFOLD & TU Berlin（BIFOLD与柏林技术大学）；New York University（纽约大学）
本文研究机器学习工程代理在自动化ML管道开发中能否满足公平性约束，通过黑色素瘤分类实验发现代理生成的管道在预测质量和公平性上均低于人工基线。
2026-06-03 cs.DB cs.LG
CrossWalk: Fairness-enhanced Node Representation Learning
Sharif University of Technology（谢里夫理工大学）；Monash University（莫纳什大学）；Max Planck Institute for Human Development（马克斯·普朗克人类发展研究所）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）；University of California Los Angeles（加州大学洛杉矶分校）
机器学习系统放大社会不平等和不公平的潜力正受到越来越多的公众和学术界的关注。最近的许多工作都集中在开发算法工具来评估和减轻这种不公平。然而，有很少的工作，提高公平性的图算法。在这里，我们开发了一个简单，有效和通用的方法，Crosswalk，提高公平性的各种图形算法，包括影响力最大化，链接预测和节点分类，适用于节点嵌入。CrossWalk适用于任何基于随机游走的节点表示学习算法，例如DeepWalk和Node2Vec。其关键思想是通过增加（1）更接近组的外围或（2）连接网络中不同组的边的权重，使随机游走偏向于跨组边界。CrossWalk将靠近组外围的节点从嵌入空间中的其他组拉向其邻居，同时保留图的必要结构属性。大量的实验表明，我们的算法，以提高各种图算法，包括影响力最大化，链接预测和节点分类在合成和真实网络的公平性，只有一个很小的性能下降。
2022-03-25 cs.LG cs.SI stat.ML
Causally Fair Node Classification on Non-IID Graph Data
Clemson University（克莱姆森大学）；University of Arkansas（亚拉巴马大学）；Walmart Inc.（沃尔玛公司）
针对图数据中节点因果机制异质性违反经典因果模型假设的问题，提出基于网络结构因果模型的消息传递变分自编码器，通过计算干预分布实现因果公平节点分类，理论保证可分解性和图独立性条件，实验验证其有效缓解偏差。
2026-06-23 cs.AI cs.LG
Machine Learning Pipelines: Provenance, Reproducibility and FAIR Data Principles
Heinz-Nixdorf Chair for Distributed Information Systems（海因茨-尼克斯多夫分布式信息系统讲席）；Michael Stifel Center Jena（耶拿米夏埃尔·施蒂费尔中心）；Friedrich Schiller University Jena（耶拿弗里德里希·席勒大学）
机器学习（ML）是一种越来越重要的科学工具，支持许多领域的决策和知识生成。因此，ML实验结果的可重复性也变得越来越重要。不幸的是，情况往往并非如此。相反，ML与许多其他学科一样，面临着可重复性危机。在本文中，我们描述了我们支持ML管道端到端再现性的目标和初始步骤。我们研究了除了源代码和数据集的可用性之外，哪些因素会影响ML实验的可重复性。我们提出了将FAIR数据实践应用于ML工作流的方法。我们提出了我们的工具，ProvBook的作用，在捕获和比较ML实验的起源和他们的再现性使用autoyter笔记本电脑的初步结果。
2020-06-22 cs.AI cs.LG stat.ML
Uncovering the Structural Fairness in Graph Contrastive Learning
Beijing University of Posts and Telecommunications（北京邮电大学）；BioMap（百图生科）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
最近的研究表明，图卷积网络（GCN）往往表现出更差的低度节点，表现出所谓的结构不公平的图与长尾度分布在现实世界中普遍存在。图对比学习（GCL）结合了GCN和对比学习的能力，已经成为一种有前途的学习节点表示的自监督方法。协鑫在结构公平方面表现如何？令人惊讶的是，我们发现GCL方法获得的表示已经比GCN学习的表示更公平。我们从理论上证明了这种公平性源于GCL的社区内集中和社区间分散特性，从而产生了一个非常清晰的社区结构，以驱动低度节点远离社区边界。基于我们的理论分析，我们进一步设计了一种新的图增强方法，称为GRAph的度偏差（GRADE），它适用于不同的策略，低，高程度的节点的对比学习。在各种基准测试和评估协议上的实验验证了该方法的有效性。
2022-10-06 cs.LG cs.SI
FairSample: Training Fair and Accurate Graph Convolutional Neural Networks Efficiently
Simon Fraser University（西蒙弗雷泽大学）；LinkedIn Corporation（领英公司）
针对图卷积神经网络易受图中社会偏见影响的问题，提出FairSample框架，通过图结构修正、强化学习可学习采样及公平正则化，高效实现公平且准确的GCN训练。
2024-01-26 cs.AI cs.CY cs.LG
VirnyFlow: Optimizing ML Pipelines for Accuracy, Fairness, and Stability at Scale
Ukrainian Catholic University（乌克兰天主教大学）；New York University（纽约大学）
VirnyFlow是兼顾准确率、公平性与稳定性的大规模ML流水线优化系统，可扩展至多节点，在真实数据集上性能优于主流AutoML系统，支持人类在环迭代调整优化目标。
2026-08-18 cs.AI cs.CY cs.LG
