Fair Graph Neural Network with Supervised Contrastive Regularization
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université Toulouse 3（图卢兹第三大学）；University of the Basque Country UPV/EHU（巴斯克大学（UPV/EHU））；IKERBASQUE, Basque Foundation for Science（伊克尔巴斯克科学基金会）
本文提出一种结合监督对比损失与环境损失的公平图神经网络训练模型，在增强CAF框架的同时提升准确性与公平性，并在三个真实数据集上验证其优越性。
2024-04-09 cs.AI cs.LG
Data-Algorithm-Architecture Co-Optimization for Fair Neural Networks on Skin Lesion Dataset
George Mason University（乔治梅森大学）；University of Pittsburgh Medical Center（匹兹堡大学医学中心）；Guangdong Provincial People’s Hospital（广东省人民医院）；University of Notre Dame（圣母大学）；University of Pittsburgh（匹兹堡大学）
本文提出BiaslessNAS框架，通过数据-算法-架构协同优化，在皮肤病变数据集上实现公平神经网络，相比传统NAS，准确率提升2.55%，公平性提升65.50%。
2024-07-18 cs.AI cs.LG
Measure Twice, Cut Once: Quantifying Bias and Fairness in Deep Neural Networks
Texas State University（得克萨斯州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
算法偏见越来越受到研究界和整个社会的关注。人工智能中的偏见比传统形式的歧视更加抽象和不直观，并且更难以检测和减轻。在目前的文献中存在一个明显的差距，在多类分类器的性能评估的相对偏差。在这项工作中，我们提出了两个简单而有效的度量，组合误差方差（CEV）和对称距离误差（EFT），以定量评估两个模型之间的类偏差。通过评估这些新指标的性能，并通过展示其实际应用，我们表明，它们可以用来衡量公平性以及偏见。这些演示表明，我们的指标可以解决测量多类分类中的偏差的特定需求。
2021-10-08 cs.AI cs.CY cs.LG
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University（Chungnam国立大学）
提出FnRGNN，一种多层面公平性处理框架，通过边重加权、MMD对齐和Sinkhorn分布匹配，在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Fair Classification via Transformer Neural Networks: Case Study of an Educational Domain
University of Tartu（塔尔图大学）
如今的教育技术越来越多地使用数据和机器学习（ML）模型。这为学生，教师和管理员提供了支持和见解，以实现最佳策略。然而，众所周知，ML模型会受到偏见的影响，这引发了人们对在教育中使用这些自动化ML算法的公平性，偏见和歧视及其意想不到的和不可预见的负面后果的担忧。决策过程中的偏见来自用于训练ML模型和模型架构的数据集。本文提出了一个初步的调查Transformer神经网络的公平性的两个表格数据集：法学院和学生数学。与经典ML模型相比，基于transformer的模型将这些表格数据集转换为更丰富的表示，同时解决分类任务。我们使用不同的公平性指标进行评估，并检查基于transformer的模型在表格数据集上的公平性和准确性之间的权衡。从经验上讲，我们的方法在法学院数据集的公平性和性能之间的权衡方面显示了令人印象深刻的结果。
2022-07-31 cs.AI cs.LG
Benchmarking Fairness-aware Graph Neural Networks in Knowledge Graphs
The University of Osaka（大阪大学）
该研究针对现有公平感知图神经网络（GNN）缺乏知识图谱场景评估的空白，基于YAGO等三个大规模知识图谱构建新数据集，在不同GNN骨干和早停条件下测试预处理与处理中公平方法，揭示了知识图谱上准确率与公平性的权衡规律及不同方法的效果差异。
2025-10-21 cs.AI cs.LG
FairProof : Confidential and Certifiable Fairness for Neural Networks
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Stanford University（斯坦福大学）
针对机器学习模型公平性验证中隐私与信任的冲突，提出FairProof系统，利用零知识证明在保密前提下公开验证模型公平性，并设计适配的公平性认证算法，经Gnark实现验证可行。
2024-07-16 cs.AI cs.CR cs.LG
Investigating Trade-offs in Utility, Fairness and Differential Privacy in Neural Networks
Tilburg University（蒂尔堡大学）
该研究对比四类神经网络，探究隐私、效用与公平的权衡关系，发现最高隐私保证下差分隐私公平神经网络公平性最优、准确率仅小幅下降，但相较前期工作准确率提升而公平性有所下降。
2021-02-11 cs.AI cs.LG
FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons
Xi’an Jiaotong University（西安交通大学）；Rutgers University（罗格斯大学）；Wuhan University（武汉大学）
随着深度神经网络（DNN）被集成到越来越多对社会产生深远影响的关键系统中，人们越来越关注其道德性能，例如公平性。不幸的是，在许多情况下，模型的公平性和准确性是相互矛盾的优化目标。为了解决这个问题，已经有一些工作试图通过在模型级使用对抗性博弈来提高模型的公平性。该方法引入了一个对手，除了评估模型对主任务的预测准确性外，还评估模型的公平性，并执行联合优化以获得平衡的结果。在本文中，我们注意到，在执行基于反向传播的训练时，这种矛盾的现象已经在单个神经元水平上表现出来。基于这一观察，我们提出了FairNeuron，一个DNN模型自动修复工具，以减轻公平性问题，并在不引入另一个模型的情况下平衡准确性-公平性权衡。它的工作原理是从准确性和公平性训练目标中检测具有矛盾优化方向的神经元，并通过选择性丢弃来实现权衡。与现有的方法相比，我们的方法是轻量级的，使其可扩展性和更有效。在3个数据集上的测试结果表明，FairNeuron能够有效地提高模型的公平性，同时保持稳定的效用。
2022-05-11 cs.AI cs.LG cs.SE
MAFT: Efficient Model-Agnostic Fairness Testing for Deep Neural Networks via Zero-Order Gradient Search
East China Normal University（华东师范大学）
本文提出黑盒个体公平性测试方法MAFT，通过零阶梯度搜索、梯度估计和属性扰动等轻量级技术，在不依赖模型内部信息的情况下达到白盒方法同等效果，并在有效性和效率上大幅超越现有黑盒方法。
2024-12-28 cs.AI cs.CY cs.LG
Testing Individual Fairness in Graph Neural Networks
Jheronimus Academy of Data Science, Tilburg University（杰罗尼姆斯数据科学学院，蒂尔堡大学）
该博士项目针对图神经网络中的个体公平性缺失问题，通过文献综述构建分类体系，并开发测试框架以评估和确保公平性，最终在基于图的大型语言模型上进行工业案例验证。
2025-04-25 cs.AI cs.LG
Subgroup Generalization and Fairness of Graph Neural Networks
University of Michigan（密歇根大学）
尽管图神经网络（GNN）的应用取得了巨大的成功，但对其泛化能力的理论理解，特别是对于数据不独立且相同分布（IID）的节点级任务，一直很稀疏。泛化性能的理论研究有利于理解GNN模型的基本问题（如公平性）和设计更好的学习方法。在本文中，我们提出了一种新的PAC贝叶斯分析GNNs下的非IID半监督学习设置。此外，我们分析了未标记节点的不同子群上的泛化性能，这使我们能够从理论角度进一步研究GNN的准确性-（不）公平性。在合理的假设下，我们证明了测试子组和训练集之间的距离可能是影响GNN在该子组上性能的关键因素，这需要特别注意公平学习的训练节点选择。在多个GNN模型和数据集上的实验支持了我们的理论结果。
2021-11-30 cs.AI cs.LG
Fair Foundation Models for Medical Image Analysis: Challenges and Perspectives
Federal University of São Paulo（巴西圣保罗联邦大学）；Federal Institute of Goiás（哥亚斯联邦理工学院）；Idiap Research Institute（Idiap研究机构）
本文探讨了医疗图像分析中公平基础模型的挑战与前景，强调通过系统性干预和政策参与实现公平性，以推动医疗技术的普及。
2026-01-14 cs.AI cs.CV cs.LG
FairACE: Achieving Degree Fairness in Graph Neural Networks via Contrastive and Adversarial Group-Balanced Training
College of Liberal Arts and Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校文理学院）
针对图神经网络中度偏差导致不同度节点预测性能不平等问题，提出FairACE框架，结合非对称对比学习与对抗训练，通过组平衡公平损失和AD指标，提升度公平性且保持精度。
2025-04-15 cs.AI cs.LG cs.SI
FUGNN: Harmonizing Fairness and Utility in Graph Neural Networks
Dalian University of Technology（大连理工大学）；RMIT University（皇家墨尔本理工大学）
针对图神经网络公平性与效用难以兼顾的问题，提出基于谱图理论的FUGNN方法，通过谱截断、公平性特征向量选择及Transformer优化分布，在6个真实数据集上实现了公平性与效用的协调提升。
2024-08-13 cs.AI cs.LG
ComFairGNN: Community Fair Graph Neural Network
Iowa State University（爱荷华州立大学）
针对GNNs因图结构复杂性导致的评估偏差问题，提出ComFairGNN框架，通过社区级策略衡量偏差并采用基于可学习核心集的去偏函数，有效缓解局部邻居分布引发的偏见，在准确性与公平性上表现优异。
2025-07-15 cs.AI cs.LG
Investigating the Effect of k-NN Preprocessing on Developing Graph Neural Networks: A Fairness-Based Perspective
University of the Aegean（爱琴海大学）
本研究提出在GCN中嵌入均等化几率公平约束，并系统分析k-NN图构建的邻域大小对分类性能与公平性的影响，实验表明公平约束有效缓解组间差异且不显著牺牲准确性。
2026-09-29 cs.AI cs.LG
Leveraging Semi-Supervised Learning for Fairness using Neural Networks
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Northwestern University（西北大学）；Zillow Group（Zillow集团）
人们越来越关注基于机器学习的决策系统的公平性。标记数据的缺乏一直是基于机器学习的系统面临的一个挑战性问题。在这种情况下，半监督学习已被证明是一种有效的方法，利用未标记的数据，以提高模型的性能。值得注意的是，未标记的数据不包含标签信息，标签信息本身可能是训练机器学习系统中偏差的重要来源。这启发我们通过在半监督框架中制定问题来应对公平性的挑战。在本文中，我们提出了一个半监督算法，利用神经网络受益于未标记的数据，不仅提高了性能，而且还提高了决策过程的公平性。该模型称为SSFair，利用未标记数据中的信息来减轻训练数据中的偏差。
2019-12-31 cs.AI cs.LG stat.ML
Wearable-based Fair and Accurate Pain Assessment Using Multi-Attribute Fairness Loss in Convolutional Neural Networks
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；University of Massachusetts Chan Medical School（马萨诸塞大学陈医学院）；National Institute on Aging（美国国家老龄化研究所）
针对AI疼痛评估中的群体偏见问题，提出融合多属性公平性损失的CNN模型，在NIH All-Of-US数据集上兼顾准确率与公平性。
2025-02-16 cs.AI cs.LG eess.SP
Algorithmic Fairness: Not a Purely Technical but Socio-Technical Property
University of Copenhagen（哥本哈根大学）；Technical University of Denmark（丹麦技术大学）；The University of Osaka（大阪大学）；Kyoto University（京都大学）
本文批判了将算法公平性视为纯粹技术属性的观点，通过概念分析与实证说明揭示现有公平性度量在复杂现实场景中的局限，并提出设计公平性度量的三项原则，以弥合技术形式化与社会现实之间的差距。
2025-09-18 cs.AI cs.CY cs.LG
BeMap: Balanced Message Passing for Fair Graph Neural Network
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Rochester（罗切斯特大学）；Penn State University（宾夕法尼亚州立大学）
针对图神经网络消息传递会因不同群体1跳邻居不均衡而放大偏差的问题，提出采用均衡感知采样策略的公平消息传递方法BeMap，可在维持分类精度的同时缓解偏差，且已开源代码。
2024-03-08 cs.AI cs.LG cs.SI
No prejudice! Fair Federated Graph Neural Networks for Personalized Recommendation
Indian Institute of Technology, Delhi（印度理工学院德里分校）
针对联邦推荐系统中的群体偏见，提出公平联邦个性化图神经网络F2PGNN，结合个性化GNN与差分隐私，在保护隐私的同时将不公平性降低47%-99%。
2023-12-20 cs.AI cs.IR cs.LG
NeuFair: Neural Network Fairness Repair with Dropout
Pennsylvania State University（宾夕法尼亚州立大学）；University of Texas at El Paso（德克萨斯大学埃尔帕索分校）
本文提出NeuFair，一种在推理阶段通过随机dropout修复预训练深度神经网络公平性的后处理算法族，以最小化歧视为目标进行随机搜索，在保持模型性能的同时实现最高69%的公平性提升。
2024-09-02 cs.AI cs.LG cs.SE
Learning Fair and Preferable Allocations through Neural Network
Kyoto University（京都大学）
针对不可分割资源分配中形式化算法难复现专家偏好且直接模仿可能带来不公平的问题，提出可微神经轮询网络NRR，从示例中学习智能体排序并严格保证EF1。
2025-05-12 cs.AI
Hidden Technical Debts for Fair Machine Learning in Financial Services
FICO AI Research（FICO人工智能研究院）
机器学习（ML）的最新进展已经证明了在短时间内构建复杂预测系统的强大解决方案的潜力。然而，在金融科技（Fintech）等高度监管的行业，人们对ML系统歧视特定受保护群体或个人的风险表示担忧。为了解决这些问题，研究人员引入了各种数学公平性指标和偏见缓解算法。本文讨论了在Fintech的生产环境中构建公平ML系统的隐藏技术债务和挑战。我们探讨了ML系统开发和部署生存周期中需要注意公平性的各个阶段。为了识别在为金融科技构建公平的机器学习系统时存在的隐藏技术债务，我们专注于关键的管道阶段，包括数据准备，模型开发，系统监控和生产集成。我们的分析表明，在Fintech中为生产就绪的ML系统实施公平性需要在ML系统生存周期的不同阶段做出具体的工程承诺。我们还提出了几个初始起点，以减轻在生产中部署公平ML系统的这些技术债务。
2021-03-22 cs.AI cs.LG stat.ML
Fairness Hub Technical Briefs: Definition and Detection of Distribution Shift
本文聚焦教育场景中分布偏移的定义与检测，指出训练与部署数据不匹配导致性能下降，并关注标准预测任务中模型输入输出关系。
2024-05-23 cs.CY cs.LG
Fairness Hub Technical Briefs: AUC Gap
本文提出用 AUC Gap 衡量不同子群体间的模型性能差异，为多团队教育 AI/ML 应用提供算法无关、易计算的公平性基准与分析依据。
2023-09-25 cs.CY cs.LG
The Long Arc of Fairness: Formalisations and Ethical Discourse
Technical University of Denmark（丹麦技术大学）；Technische Universität Berlin（柏林工业大学）
近年来，算法决策（ADM）的形式化和建模公平性的想法已经发展到了一个复杂的专业化点。然而，关于公平的技术（形式化）和伦理话语之间的关系并不总是明确和富有成效的。我们从另一个角度出发，回顾了现有的公平性指标，并讨论了一些常见的问题。例如，程序和分配的公平性往往是形式化的，并静态地讨论，忽视了现状的结构性先决条件和特定干预措施的下游影响。然后，我们引入动态公平建模，一个更全面的方法，重新调整正式的公平指标与伦理话语的参数。动态公平模型包括（1）道德目标，（2）量化决策程序和结果的正式指标，以及（3）中期或长期下游影响。通过将公平相关过程的这些要素置于情境中，动态公平建模阐明了以前潜在的道德方面，从而提供了一个有用的工具来导航不同公平干预之间的权衡。为了说明该框架，我们讨论了一个示例应用程序-目前欧洲努力增加公司董事会中的女性人数，例如通过配额解决方案-并提出适合我们框架的早期技术工作。
2022-03-08 cs.CY cs.LG
Fair Distributed Cooperative Bandit Learning on Networks for Intelligent Internet of Things Systems (Technical Report)
School of Electronics and Communication Engineering, Sun Yat-sen University（中山大学电子与通信工程学院）；China Academy of Electronics and Information Technology（中国电子科技集团公司电子科学研究院）
本文针对智能物联网系统提出公平分布式协作赌博机模型及DC-ULCB算法，实现服务器协作选传感器以最大化数据速率并保证公平，理论证明遗憾对数上界，仿真验证优于现有算法。
2024-03-18 cs.DC cs.LG
The Larger The Fairer? Small Neural Networks Can Achieve Fairness for Edge Devices
George Mason University（乔治梅森大学）；The University of New Mexico（新墨西哥大学）；University of Pittsburgh（匹兹堡大学）；University of Notre Dame（圣母大学）
随着人工智能民主化的进展，神经网络正在更频繁地部署在边缘设备中，以实现广泛的应用。公平性问题逐渐出现在许多应用中，如人脸识别和移动医疗。一个基本问题出现了：什么是边缘设备最公平的神经架构？通过检查现有的神经网络，我们观察到较大的网络通常更公平。但是，边缘设备需要更小的神经架构来满足硬件规格。为了应对这一挑战，这项工作提出了一种新的公平和硬件感知神经架构搜索框架，即FaHaNa。再加上模型冻结方法，FaHaNa可以有效地搜索神经网络，平衡公平性和准确性，同时保证满足硬件规格。实验结果表明，FaHaNa在皮肤病学数据集上能够以较高的公平性和准确性识别一系列神经网络。针对边缘设备，FaHaNa找到了一个精度略高、尺寸小5.28倍、公平性分数高15.14%的神经架构，与MobileNetV 2相比;同时，在Raspberry PI和Odroid XU-4上，它实现了5.75倍和5.79倍的加速比。
2022-02-23 cs.CY cs.LG
Pareto Pairwise Ranking for Fairness Enhancement of Recommender Systems
学习排序自2010年左右引入以来，是一种有效的推荐方式。著名的算法，如贝叶斯个性化排名和协作少即是多过滤，在学术界和工业界都留下了深刻的影响。然而，大多数学习排序方法专注于提高技术准确性指标，如AUC，MRR和NDCG。推荐系统的其他评价指标，如公平性，直到最近几年才在很大程度上被忽视。本文提出了一种新的学习排序算法Pareto Pairwise Ranking。我们的灵感来自贝叶斯个性化排名和幂律分布的想法。我们表明，我们的算法是有竞争力的技术精度指标评估时，与其他算法。更重要的是，在我们的实验部分中，我们证明了Pareto Pairwise Ranking是最公平的算法，与其他9个当代算法相比。
2022-12-06 cs.AI cs.IR cs.LG
Statistical and Structural Approaches to Algorithmic Fairness
Graz University of Technology（格拉茨技术大学）；Institute of Human-Centred Computing（人本计算研究所）
针对现代机器学习系统嵌入结构性不平等的问题，本文批判了当前公平性范式依赖确定性点估计和忽视个体结构背景的两大局限，并提出统计与结构相结合的方法。
2026-06-26 cs.AI cs.LG stat.ML
FETA: Fairness Enforced Verifying, Training, and Predicting Algorithms for Neural Networks
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；HEC Montréal（蒙特利尔高等商学院）
由神经网络驱动的决策在直接影响人们生活质量的应用中已经变得非常突出。本文研究了神经网络模型的检验、训练和保证个体公平性的问题。一个流行的方法是强制公平的公平概念转化为约束模型的参数。然而，这样的转换并不总是保证训练的神经网络模型的公平预测。为了解决这一挑战，我们开发了一个反例引导的后处理技术，可证明在预测时间执行公平性约束。与只在测试或训练数据周围的点上执行公平性的先前工作相反，我们能够在输入域中的所有点上执行和保证公平性。此外，我们提出了一种在处理技术，使用公平作为一个归纳偏见，通过迭代地将公平反例在学习过程中。我们已经在一个名为FETA的工具中实现了这些技术。对真实世界数据集的经验评估表明，FETA不仅能够在预测时保证公平性，而且还能够训练表现出更高程度的个体公平性的准确模型。
2023-01-30 cs.CY cs.LG
A Sociotechnical View of Algorithmic Fairness
University of Zurich（苏黎世大学）；LMU Munich（慕尼黑大学）
算法公平性被定义为一种新兴的技术，它可以减轻自动决策中的系统性歧视，为改善信息系统（IS）的公平性提供了机会。然而，基于国家的最先进的文献综述，我们认为，公平是一个固有的社会概念和技术的算法公平性，因此应通过社会技术的镜头。我们推进算法公平性作为一种社会技术现象的话语。我们的研究目标是嵌入AF的社会技术观点的IS。具体来说，我们详细说明了为什么使用算法手段来确保公平的系统的结果取决于技术和社会结构之间的相互影响。这种观点可以产生新的见解，整合来自技术领域和社会研究的知识。此外，它还为IS辩论提出了新的方向。我们的贡献如下：首先，我们质疑的基本假设，在当前的话语算法公平性的基础上，系统地分析了310篇文章。其次，我们回应这些假设的理论算法公平性作为一个社会技术的建设。第三，我们提出的方向是研究人员，以提高他们的影响，追求独特的理解社会技术算法公平性。我们呼吁并采取整体方法来解决AF。从社会技术的角度看待算法公平性可以为系统性偏见和歧视提供整体解决方案。
2021-09-27 cs.CY cs.LG stat.ML
FairComp: Workshop on Fairness and Robustness in Machine Learning for Ubiquitous Computing
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Cambridge（剑桥大学）；Nokia Bell Labs（诺基亚贝尔实验室）；Aalborg University（奥尔堡大学）
FairComp研讨会聚焦泛在计算中机器学习公平性这一尚未充分探索的问题，从社会、技术和法律三个维度探讨伦理风险、偏见缓解方法及政策影响，以推动负责任的泛在计算研究社区建设。
2023-09-22 cs.CY cs.ET cs.LG
Argumentative Debates for Transparent Bias Detection [Technical Report]
针对现有偏见检测方法缺乏透明度的问题，提出基于论证图的论辩式偏见检测框架ABIDE，通过辩论形式实现透明的偏见检测，实验验证其性能优于论辩式基线。
2025-11-17 cs.AI cs.LG
Balancing Utility and Fairness in Submodular Maximization (Technical Report)
East China Normal University（华东师范大学）；Singapore Management University（新加坡管理大学）；CENTAI Institute（CENTAI研究所）；Eurecat（Eurecat技术中心）
针对子模最大化中效用与公平性难以兼顾的问题，提出双准则子模最大化（BSM）问题，并设计两种实例相关近似算法，在最大覆盖、影响力最大化和设施选址中验证了有效性。
2023-06-19 cs.DS cs.LG
Fairness-Aware Neural Réyni Minimization for Continuous Features
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；AXA（安盛集团）；Polish Academy of Science（波兰科学院）
在过去的几年里，学术界和社会对公平机器学习的兴趣急剧上升。虽然最近已经提出了大量的公平算法来解决离散变量的这一挑战，但对于连续变量，只有少数想法存在。本文的目标是保证回归模型的输出与任何给定的连续敏感变量之间具有一定的独立性。为此目的，我们使用Hirschal-Gebelein-Rényi（HGR）最大相关系数作为公平性度量。我们提出了两种方法来最小化HGR系数。首先，通过用$χ^{2}$发散的神经网络估计来减小HGR的上界。第二，通过直接使用对抗神经网络架构来最小化HGR。这个想法是预测输出Y，同时最小化对抗神经网络找到预测HGR系数所需的估计变换的能力。我们经验性地评估和比较我们的方法，并证明了显着的改进，以前提出的工作在该领域。
2019-11-12 cs.AI cs.CY cs.LG
Causal Fairness under Unobserved Confounding: A Neural Sensitivity Framework
Munich Center for Machine Learning（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）
本文首次研究未观测混杂下的因果公平性问题，提出神经敏感性框架，推导公平性度量界限并提供最坏情况保证，通过实验和真实案例验证其有效性。
2024-10-22 cs.AI cs.CY cs.LG
Provable Fairness for Neural Network Models using Formal Verification
Stony Brook University（石溪大学）
机器学习模型越来越多地用于关键决策任务，因此验证它们不包含从训练数据中提取的性别或种族偏见变得非常重要。实现公平性的典型方法围绕着清理或管理训练数据的努力，以及对评估数据的模型公平性的事后统计评估。相比之下，我们提出的技术\emph{prove}公平性使用最近开发的形式化方法，验证神经网络models.Beyond的正式证明所暗示的保证的强度，我们的方法的优势，我们不需要明确的训练或评估数据（这往往是专有的），以分析一个给定的训练模型。在公平性文献中的两个熟悉的数据集（COMPAS和ADULTS）上进行的实验中，我们表明，通过适当的训练，我们可以以AUC分数小于1%的代价将不公平性平均降低65.4%。
2022-12-16 cs.CY cs.LG
Individual Fairness in Bayesian Neural Networks
Trinity College Dublin（都柏林圣三一学院）；The Alan Turing Institute（艾伦·图灵研究所）；Delft University of Technology（代尔夫特理工大学）
本文研究贝叶斯神经网络的 ε-δ-个体公平性，提出结合统计抽样界与对抗攻击的 Fair-FGSM、Fair-PGD 估计框架，并实证表明近似贝叶斯推断模型通常比确定性模型更公平。
2023-04-21 cs.CY cs.LG
Unraveling Privacy Risks of Individual Fairness in Graph Neural Networks
Faculty of IT Monash University（莫纳什大学信息技术学院）；School of CIS The University of Melbourne（墨尔本大学计算机与信息系统学院）；School of ICT Griffith University（格里菲斯大学信息与通信技术学院）
本文探索图神经网络中边泄漏隐私风险与个体公平性的相互作用，发现提升公平性会加剧隐私风险，并提出基于影响函数的损失重加权与图结构扰动方法以平衡两者。
2024-03-20 cs.CY cs.LG
Bridging the Fairness Divide: Achieving Group and Individual Fairness in Graph Neural Networks
University of Georgia（佐治亚大学）；University of Virginia（弗吉尼亚大学）
本文提出新框架FairGI，通过个体相似性矩阵实现组内个体公平，并利用对抗学习解决群体公平问题，在图神经网络中同时实现了群体公平与组内个体公平，且保持了相当的预测准确率。
2024-04-26 cs.CY cs.LG cs.SI
FairSIN: Achieving Fairness in Graph Neural Networks through Sensitive Information Neutralization
Beijing University of Posts and Telecommunications（北京邮电大学）
针对图神经网络基于敏感属性产生偏见的问题，提出FairSIN方法，通过中和敏感信息并引入公平性促进特征，在保持高精度的同时显著提升公平性。
2025-05-22 cs.CY cs.LG
Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
Cornell University（康奈尔大学）；Loyola University Maryland（洛约拉大学马里兰州）
研究探讨了大型科技公司如何在推荐系统中处理公平性，识别了技术团队与法律、数据团队在公平性工作中的挑战，并提出可行的实践建议。
2026-02-27 cs.AI cs.CY cs.HC
FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing
University of Michigan（密歇根大学）
图神经网络（GNN）已被证明在底层数据是图的预测建模任务中表现出色。然而，随着GNN在以人为中心的应用中的广泛使用，公平性问题已经出现。虽然边删除是一种用于促进GNN公平性的常用方法，但它没有考虑数据何时本质上缺少公平连接。在这项工作中，我们认为未探索的方法，边添加，伴随着删除，以促进公平。我们提出了两个模型无关的算法来执行边缘编辑：蛮力方法和连续近似方法，FairEdit。FairEdit通过利用公平性损失的梯度信息来找到提高公平性的边缘，从而执行有效的边缘编辑。我们发现，FairEdit在许多数据集和GNN方法上的表现优于标准训练，同时对许多最先进的方法进行了测试，证明了FairEdit在许多领域和模型中提高公平性的能力。
2022-02-16 cs.LG
FairAgent: Democratizing Fairness-Aware Machine Learning with LLM-Powered Agents
Clemson University USA（卡罗来纳州克莱姆森大学）；University of Arkansas USA（阿肯色大学）
针对公平感知机器学习开发门槛高的问题，提出由LLM驱动的FairAgent系统，可自动完成偏差分析、数据处理与缓解策略实施，在提升性能的同时降低开发难度与成本。
2025-10-05 cs.AI cs.LG
Escaping the Impossibility of Fairness: From Formal to Substantive Algorithmic Fairness
University of Michigan（密歇根大学）
用算法促进公平的公共政策的努力似乎从根本上受到了“公平的不可能性”（公平的数学定义之间的不相容性）的限制。这种技术限制提出了一个关于算法公平性的核心问题：计算机科学家和政策制定者如何用算法支持公平的政策改革？在这篇文章中，我认为用算法促进正义需要改革算法公平性的方法论。首先，我诊断了当前算法公平性方法论的问题，我称之为“形式算法公平性”。因为形式上的算法公平性将分析限制在孤立的决策过程中，它导致了公平的不可能性和加剧压迫的模型，尽管看起来“公平”。第二，我从法律和哲学的实质平等理论出发，提出了一种替代方法论，我称之为“实质算法公平性”。“由于实质性的算法公平性需要更广泛的分析范围，它使人们能够摆脱不可能的公平，并为用算法减轻不公正提供了严格的指导。总之，实质性算法公平性为算法公平性提供了一个新的方向：远离“公平”决策的正式数学模型，转向对算法是否以及如何在实践中促进正义的实质性评估。
2023-02-26 cs.CY cs.LG
Improving Fairness in Graph Neural Networks via Mitigating Sensitive Attribute Leakage
Vanderbilt University（范德堡大学）；University of Virginia（弗吉尼亚大学）；Case Western Reserve University（凯斯西储大学）
图神经网络（GNN）在学习图上的节点表示方面表现出强大的能力。然而，它们可能从训练数据中继承历史偏见，导致预测中的歧视性偏差。虽然一些工作已经开发了公平的GNN，但大多数都直接从非图域借用公平的表示学习技术，而没有考虑GNN中特征传播引起的敏感属性泄漏的潜在问题。然而，我们根据经验观察到，特征传播可以改变以前无害的非敏感特征与敏感特征的相关性。这可以被视为敏感信息的泄漏，这可能进一步加剧预测中的歧视。因此，我们根据特征相关性设计了两种特征掩蔽策略，以突出考虑特征传播和相关性变化在减轻歧视方面的重要性。出于我们的分析，我们提出了公平的看法图神经网络（FairVGNN）自动识别和屏蔽敏感相关的功能，考虑相关性变化后的功能传播，以产生公平的功能视图。给定学习到的公平视图，我们自适应地钳制编码器的权重，以避免使用敏感相关的特征。在真实数据集上的实验表明，FairVGNN在模型效用和公平性之间具有更好的权衡。我们的代码可在https://github.com/YuWVandy/FairVGNN上公开获取。
2022-06-09 cs.CR cs.CY cs.LG
JustQ: Automated Deployment of Fair and Accurate Quantum Neural Networks
Luddy School of Informatics, Computing, and Engineering（卢迪信息学、计算与工程学院）；Kelley School of Business（凯利商学院）；Indiana University（印第安纳大学）
本文提出JustQ框架，通过设计空间探索揭示量子神经网络的不公平性，并利用强化学习与完整NISQ误差模型，在NISQ计算机上实现公平且准确的QNN部署，优于先前方法。
2024-03-17 cs.CY cs.LG quant-ph
FairNAS: Rethinking Evaluation Fairness of Weight Sharing Neural Architecture Search
Xiaomi AI Lab（小米人工智能实验室）
权值共享神经结构搜索中最关键的问题之一是在预定义的搜索空间内对候选模型进行评估。在实践中，一次性超网经过训练以充当评估者。可靠的排名当然会带来更准确的搜索结果。然而，目前的方法很容易做出错误的判断。在本文中，我们证明了他们的偏见的评价是由于固有的不公平的超网训练。有鉴于此，我们提出了两个层次的约束：期望公平和严格公平。特别是，严格的公平性确保了整个训练过程中所有选择块的平等优化机会，既不会高估也不会低估它们的能力。我们证明，这是至关重要的提高模型的排名的信心。利用多目标进化搜索算法对在所提出的公平性约束下训练的单次超网进行验证，我们得到了各种最先进的模型，例如，FairNAS-A在ImageNet上达到77.5%的top-1验证准确率。这些模型及其评估代码可在http://github.com/fairnas/FairNAS网站上公开获取。
2021-07-28 cs.AI cs.CV cs.LG
Causal intersectionality for fair ranking
New York University（纽约大学）
在本文中，我们提出了一个因果建模方法，交叉公平，和一个灵活的，特定于任务的方法计算交叉公平的排名。排名在许多情况下使用，从网络搜索结果到大学录取，但公平排名的因果推理受到的关注有限。此外，越来越多的关于因果公平的文献很少关注交叉性。通过将这些问题放在一个正式的因果框架中，我们使交叉性在公平机器学习中的应用变得明确，与重要的现实世界影响和领域知识相关联，并且对技术限制透明。我们在真实和合成数据集上对我们的方法进行了实验评估，探索了不同结构假设下的行为。
2020-06-15 cs.AI cs.LG stat.AP
Dynamical Isometry based Rigorous Fair Neural Architecture Search
Tsinghua University（清华大学）；Glasssix Technology (Beijing) Group Co., Ltd（北京格灵深瞳信息技术集团有限公司）；Northwestern Polytechnical University（西北工业大学）
本文针对权重共享神经架构搜索缺乏可解释性和公平性的问题，提出基于动态等距的搜索算法，利用平均场不动点分析和雅可比矩阵保证模块评估的严格公平性，并在 ImageNet 上取得领先精度。
2023-07-06 cs.CY cs.LG
FairGSE: Fairness-Aware Graph Neural Network without High False Positive Rates
针对现有公平感知图神经网络假阳性率过高的问题，提出FairGSE框架，通过最大化二维结构熵兼顾公平性与假阳性控制，实验显示其FPR较SOTA方法降低39%且公平性提升相当。
2025-11-15 cs.LG
