FairSAM: Fair Classification on Corrupted Image Data Through Sharpness-Aware Minimization
Clemson University（克莱姆森大学）
针对图像分类模型在数据损坏时性能下降且不公平的问题，提出FairSAM框架，将公平性策略融入锐度感知最小化，平衡鲁棒性与公平性。
2026-06-23 cs.AI cs.LG
Efficient PAC Learning of Halfspaces with Constant Malicious Noise Rate
Stevens Institute of Technology（史蒂文斯理工学院）
本文研究恶意噪声下半空间的高效 PAC 学习，提出通过最小化重加权 hinge 损失并结合权重控制梯度恶化，在分布与大间隔条件同时满足时实现恒定噪声容忍度。
2025-02-15 cs.DS cs.LG stat.ML
FairGrad: Fairness Aware Gradient Descent
Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
本文提出FairGrad，一种通过迭代学习群体特定权重的重新加权方法来实现分类模型群体公平性，具有易实现、兼容多种公平性定义和低开销的特点，并在多个数据集上表现与标准基线相当。
2023-08-07 cs.AI cs.CY cs.LG
Enhancing Robust Fairness via Confusional Spectral Regularization
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Exeter（埃克塞特大学）；University of Liverpool（利物浦大学）
针对深度神经网络中鲁棒公平性问题，提出一种基于PAC-Bayesian框架的混淆谱正则化方法，通过约束鲁棒混淆矩阵谱范数提升最差类别鲁棒准确率，实验验证其有效性。
2025-01-22 cs.LG
EquiPy: Sequential Fairness using Optimal Transport in Python
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；ENSAE Institut Polytechnique Paris（巴黎综合理工学院经济统计学院）；Milliman（米勒曼公司）
本文推出开源 Python 包 EquiPy，基于最优传输理论将多敏感变量公平性问题分解求解，提供模型无关、可视化可解释的偏见缓解工具，并在美国人口普查数据上验证。
2025-03-12 cs.LG
On Learning and Enforcing Latent Assessment Models using Binary Feedback from Human Auditors Regarding Black-Box Classifiers
Missouri University of Science and Technology（密苏里科技大学）
算法公平性文献提出了许多数学概念和度量，并且还指出在同时满足它们中的一些或全部的同时在它们之间进行权衡。此外，公平概念的上下文性质使得难以在不同的算法系统中自动进行偏差评估。因此，在本文中，我们提出了一种新的模型，称为潜在的评估模型（LAM）来描述由人类审计师提供的二进制反馈，假设审计师比较分类器的输出，他或她自己的内在判断，为每个输入。我们证明，个人和团体的公平性概念是保证，只要审计师的内在判断本质上满足手头的公平性概念，并相对相似的分类器的评价。我们还证明了LAM和传统的公平概念之间的关系，在三个著名的数据集，即COMPAS，德国信贷和成人人口普查收入数据集。此外，我们还推导出获得PAC学习保证所需的最小反馈样本数，以估计黑盒分类器的LAM。这些保证也通过训练标准的机器学习算法来验证，这些算法基于400名人类审计员关于COMPAS的真实二进制反馈。
2022-02-16 cs.HC cs.LG
PAC-learning in the presence of evasion adversaries
Princeton University（普林斯顿大学）
在机器学习算法的测试阶段存在规避攻击，这对它们的部署和理解都是一个重大挑战。这些攻击可以通过在输入中添加不可感知的扰动来生成对抗性示例，而找到有效的防御和检测器已被证明是困难的。在本文中，我们远离攻击-防御军备竞赛，并试图了解在逃避对手存在的情况下可以学到什么的限制。特别是，我们扩展了可能近似正确（PAC）的学习框架，占对手的存在。我们首先定义损坏的假设类，产生于标准的二进制假设类中存在的逃避对手，并推导出Vapnik-Chervonenkis（VC）维这些，表示为对抗VC维。然后，我们表明，样本复杂性上界从统计学习的基本定理可以扩展到逃避对手的情况下，其中的样本复杂性由对抗VC维控制。然后，我们显式地推导出对抗VC维的半空间分类器中存在的样本明智的范数约束对手的类型通常研究逃避攻击，并表明它是相同的标准VC维，关闭一个悬而未决的问题。最后，我们证明了对抗VC维可以大于或小于标准VC维，这取决于假设类和对手，使其本身成为一个有趣的研究对象。
2018-06-06 cs.CR cs.LG stat.ML
Distribution-Independent PAC Learning of Halfspaces with Massart Noise
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
我们研究了在Massart噪声存在下半空间的{ \em distribution-independent} PAC学习问题。具体来说，我们给出了一组标记的例子$(\mathbf{x}, y)$绘制从分布$\mathcal{D}$上$\mathbb{R}^{d+1}$，使得边缘分布上的未标记的点$\mathbf{x}$是任意的和标签$y$产生的一个未知的半空间破坏与Massart噪声的噪声率$η<1/2$。我们的目标是找到一个假设$h$，最大限度地减少误分类错误$\mathbf{Pr}_{(\mathbf{x}, y) \sim \mathcal{D}} \left[ h(\mathbf{x}) \neq y \right]$。我们给出了一个$\mathrm{poly}\left(d, 1/ε\right)$的时间算法，该问题的误分类错误$η+ε$。我们还提供了证据，我们的算法的错误保证的改进可能是计算困难的。在我们的工作之前，没有有效的弱（独立于分布）学习者在这个模型中是已知的，即使是对于析取类。这种半空间（甚至析取）的算法的存在性在各种著作中都是一个悬而未决的问题，从Sloan（1988），Cohen（1997）开始，最近在Avrim Blum的FOCS 2003教程中得到了强调。
2019-12-10 cs.DS cs.LG math.ST
A Unified Framework for Fair and Personalized Decentralized Learning under Communication Constraints
School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology（瑞典皇家理工学院电气与计算机科学学院）
该研究针对通信约束下去中心化学习的公平性等挑战，提出融合个性化、公平性与高效通信的DMFL-SQ算法，在CIFAR-10等数据集上验证其能减少通信并维持性能、提升公平性。
2026-09-01 cs.LG
Efficient and Noise-Tolerant PAC Learning of Multiclass Linear Classifiers
Augusta University（奥古斯塔大学）
本文研究了在存在恶意噪声的情况下，如何高效学习多类线性分类器，并提出了一种在混合分布和边际条件下的PAC学习算法，该算法在常数噪声率下仅需O(k²·(d log d + log k))个样本。
2026-08-11 cs.LG
Fairness in multi-class multi-group classification problems via contextial coherent risk measures
Stevens Institute of Technology（史蒂文斯理工学院）
针对多类多组分类的公平性挑战，提出基于相干风险测度的分类器设计及对应数值求解方法，该方法扩展性好且分类器鲁棒，在公平性处理上优于支持向量机等方法。
2026-09-01 cs.LG stat.ML
Fairmetrics: An R package for group fairness evaluation
针对机器学习模型可能对特定群体产生偏见的问题，提出了 {fairmetrics} R 包，通过提供多种群体公平性标准的点估计与区间估计及示例数据集，帮助用户严格评估模型公平性并支持偏见缓解策略的实施。
2025-08-22 cs.LG stat.CO stat.ML
Adversarial Attacks on Fairness of Graph Neural Networks
University of Virginia（弗吉尼亚大学）；IBM Research（IBM研究院）
本文研究针对公平感知GNN的对抗攻击，提出通用框架G-FairAttack及快速计算技术，可在不显著影响预测效用的情况下破坏多类GNN的公平性。
2024-03-03 cs.LG
FORML: Learning to Reweight Data for Fairness
Stanford University（斯坦福大学）；Apple（苹果公司）
机器学习模型被训练为最小化单个度量的平均损失，因此通常不考虑公平性和鲁棒性。在训练中忽略这些指标会使这些模型在训练数据不平衡或测试分布不同时容易违反公平性。这项工作介绍了公平优化的重新加权通过元学习（FORML），训练算法，平衡公平性和鲁棒性与准确性，通过联合学习训练样本权重和神经网络参数。该方法增加了模型的公平性，通过学习，以平衡来自过度和代表性不足的子组的贡献，通过动态重新加权的数据从用户指定的保持了一组代表的分布下，公平性是期望的。FORML改进了图像分类任务的机会公平性标准，减少了损坏标签的偏差，并通过数据压缩促进了构建更公平的数据集。这些改进是在没有预处理数据或后处理模型输出的情况下实现的，不需要学习额外的加权函数，不需要改变模型架构，并且同时保持原始预测度量的准确性。
2022-07-20 cs.CV cs.LG
EM-Based Channel Estimation from Crowd-Sourced RSSI Samples Corrupted by Noise and Interference
Naval Research Labs（海军研究实验室）；WINLAB, Rutgers University（罗格斯大学WINLAB）
我们提出了一种方法，用于估计信道参数RSSI测量和丢失的数据包计数，它可以工作在存在的损失，由于干扰和信号衰减低于本底噪声。这在无线网络中尤其重要，例如车辆，其中传播模型随着节点的密度而变化。该方法是基于随机期望最大化，其中接收到的数据被建模为混合分布（无/低干扰和强干扰），不完整（删失），由于数据包丢失。根据普遍接受的无线信号和干扰功率模型，混合物中的PDF是Gamma。该方法利用损失计数作为附加信息，因此对于少量接收的RSSI样本，优于不使用该信息（ML-）的最大似然估计。因此，它允许廉价的在线信道估计从ad-hoc收集的数据。该方法在未删失数据混合物上的性能也优于ML-，因为ML-假设样本来自单模PDF。
2015-04-05 cs.LG
Sample Selection for Fair and Robust Training
KAIST（韩国科学技术院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
公平性和鲁棒性是值得信赖的AI的关键要素，需要一起解决。公平性是关于学习无偏模型，而鲁棒性是关于从损坏的数据中学习，并且已知仅解决其中一个可能会对另一个产生不利影响。在这项工作中，我们提出了一个基于样本选择的算法，公平和强大的训练。为此，我们制定了一个组合优化问题的无偏选择的样本中存在的数据损坏。观察到解决这个优化问题是强NP-难的，我们提出了一个贪心算法，是有效的，在实践中。实验表明，我们的算法获得的公平性和鲁棒性是更好的或可比的最先进的技术，无论是在合成和基准真实数据集。此外，与其他公平和强大的训练基线不同，我们的算法可以通过仅修改批次选择中的采样步骤来使用，而无需更改训练算法或利用额外的干净数据。
2021-10-27 cs.AI cs.LG stat.ML
Bias Begins with Data: The FairGround Corpus for Robust and Reproducible Research on Algorithmic Fairness
Department of Statistics, LMU Munich（统计系，慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；University of Trieste（特里este大学）
针对公平机器学习研究中数据集选择狭窄、处理不一致的问题，提出FairGround统一框架、语料库和Python包，含44个表格数据集及标准化工具，提升公平性研究的可复现性与可靠性。
2025-10-25 cs.CY cs.LG stat.ML
Impacts of Individual Fairness on Group Fairness from the Perspective of Generalized Entropy
KAIST（韩国科学技术院）；POSTECH（浦项工科大学）；Sungkyunkwan University（成均馆大学）
本文通过广义熵约束的经验风险最小化算法研究个体公平对群体公平的影响，证明其PAC可学习性，并实验发现加强个体公平并不总能提升群体公平。
2025-11-09 cs.LG
Attraction-Repulsion clustering with applications to fairness
Universidad de Valladolid（巴利亚多利德大学）；Basque Center for Applied Mathematics（巴斯克应用数学中心）；Université de Toulouse（图卢兹大学）
我们认为多样性增强聚类的问题，即开发聚类方法，产生集群，有利于多样性方面的一组受保护的属性，如种族，性别，年龄等的背景下，公平聚类，多样性起着重要作用时，公平被理解为人口均等。为了促进多样性，我们在未受保护的属性中引入扰动，以类似于物理学中带电粒子的吸引-排斥的方式来解释受保护的属性。这些扰动是通过一个易于处理的解释相异性定义的。基于吸引-排斥相异性的聚类分析惩罚了聚类中关于受保护属性的同质性，并导致多样性的改善。我们的方法，这属于预处理设置的一个优点，是它与各种各样的聚类方法和白非欧几里德数据的兼容性。我们说明了使用我们的程序与合成和真实的数据，并提供多样性，公平性和集群结构之间的关系的讨论。我们的过程是在一个R包中实现的，可以在https://github.com/HristoInouzhe/AttractionRepulsionClustering上免费获得。
2021-10-26 cs.LG stat.ML
FFB: A Fair Fairness Benchmark for In-Processing Group Fairness Methods
Texas A&M University（德克萨斯农工大学）；Meta AI；Anytime AI；UIUC（伊利诺伊大学厄巴纳-香槟分校）；University of Houston（休斯顿大学）；Rice University（莱斯大学）
本文提出开源基准框架FFB，通过统一实验设置、提供可扩展代码和标准化流程，对处理中群体公平性方法进行大规模评估，以促进公平性研究社区发展。
2024-06-11 cs.AI cs.CY cs.LG
dalex: Responsible Machine Learning with Interactive Explainability and Fairness in Python
Warsaw University of Technology（华沙理工大学）；Faculty of Mathematics and Information Science（数学与信息科学学院）；Samsung Research & Development Institute（三星研发研究院）
可用数据量的增加、计算能力的提高以及对更高性能的不断追求导致预测模型的复杂性不断增加。它们的黑箱性质导致不透明债务现象，增加了歧视的风险，缺乏可重复性，以及由于数据漂移而导致的性能下降。为了管理这些风险，良好的MLOps实践要求更好地验证模型性能和公平性，更高的可解释性和持续监控。更深层次的模型透明性的必要性不仅出现在科学和社会领域，也出现在关于人工智能的新兴法律法规中。为了促进负责任的机器学习模型的开发，我们展示了dalex，这是一个Python包，它实现了用于交互式模型探索的模型不可知接口。它采用了通过开发各种负责任的机器学习工具而精心制作的设计;因此，它旨在统一现有的解决方案。这个库的源代码和文档可以在https://python.drwhy.ai/的开放许可下获得。
2021-10-11 cs.HC cs.LG cs.SE
FairX: A comprehensive benchmarking tool for model analysis using fairness, utility, and explainability
Institute for Experiential AI, Northeastern University（东北大学体验式人工智能研究院）
FairX是一个开源Python基准测试工具，统一支持公平性、效用和可解释性分析，并新增公平生成模型训练与合成数据质量评估能力，支持表格和图像数据集。
2024-09-03 cs.AI cs.LG
Trusting Fair Data: Leveraging Quality in Fairness-Driven Data Removal Techniques
Heinrich Heine University（海因里希·海涅大学）
本文研究公平性驱动的数据移除技术中因排除相关数据导致可信度降低的问题，提出在公平性基础上增加群体覆盖和最小数据损失目标，通过多目标优化寻找帕累托最优解以平衡公平性与数据质量，并发布FairDo工具包。
2024-09-19 cs.AI cs.LG
Minimax Group Fairness in Strategic Classification
Carnegie Mellon University (CMU)（卡内基梅隆大学）；Toyota Technological Institute at Chicago (TTIC)（芝加哥丰田理工学院）
本文研究策略分类中兼顾准确率与极小极大群体公平性的分类器学习问题，将问题形式化为公平感知Stackelberg博弈，并针对可分离与不可分离代价函数分别提出高效算法，在真实数据上验证了算法有效性。
2024-10-03 cs.LG
Bias Discovery in Machine Learning Models for Mental Health
Utrecht University（乌得勒支大学）；University Medical Center Utrecht（乌得勒支大学医学中心）；Leiden University Medical Center（莱顿大学医学中心）；Leiden University（莱顿大学）
公平和偏见是人工智能中的关键概念，但在临床精神病学的机器学习应用中，它们相对被忽视。我们使用一个在临床心理健康数据上训练的模型来计算公平性指标并提出偏见缓解策略。我们收集了与乌得勒支大学医学中心精神科患者的入院、诊断和治疗相关的结构化数据。我们训练了一个机器学习模型，以根据过去的数据预测苯二氮卓类药物的未来给药。我们发现，性别在预测中扮演了一个意想不到的角色，这构成了偏见。使用AI Fairness 360包，我们实现了重新加权和歧视感知正则化作为偏差缓解策略，并探索了它们对模型性能的影响。这是在真实临床精神病学数据上训练的机器学习模型中首次应用偏差探索和缓解。
2022-05-24 cs.AI cs.CY cs.LG
Decentralized Fairness Aware Multi Task Federated Learning for VR Network
School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）
本文提出去中心化公平感知多任务联邦学习方法，通过个性化缓存策略提升VR网络中内容交付效率与质量。
2025-12-03 cs.IT cs.LG math.IT
