Robust Fairness-aware Learning Under Sample Selection Bias
University of Arkansas（阿肯色大学）
许多机器学习算法的基本假设是训练数据和测试数据来自相同的分布。然而，由于训练数据和测试数据之间的样本选择偏差，这一假设在现实世界中经常被违反。以往的研究工作主要集中在对有偏差的训练数据进行重新加权以匹配测试数据，然后在重新加权的训练数据上建立分类模型。然而，如何实现公平的分类模型是不够的探索。在本文中，我们提出了一个框架下的样本选择偏差的鲁棒性和公平的学习。我们的框架采用重加权估计方法的偏差校正和极小极大鲁棒估计方法实现预测精度的鲁棒性。此外，在极大极小优化过程中，在最坏情况下实现了公平性，保证了模型在测试数据上的公平性。我们进一步开发了两种算法来处理样本选择偏差时，测试数据是可用的和不可用的。我们在两个真实世界的数据集上进行了实验，实验结果证明了它在效用和公平性度量方面的有效性。
2021-05-24 cs.CY cs.LG
Local Statistical Parity for the Estimation of Fair Decision Trees
Computer Science Department, CIMAT（CIMAT 计算机科学系）；University of Edinburgh（爱丁堡大学）
针对决策树估计的公平性问题，提出局部统计奇偶性准则并融入递归算法，设计约束逻辑回归树（C-LRT）以平衡准确性与公平性，实验验证有效。
2025-04-25 cs.LG
Learning Fair Demand Models
Department of Industrial Engineering and Operations Research and Data Science Institute, Columbia University（工业工程与运筹学系及数据科学研究院，哥伦比亚大学）；Department of Industrial Engineering and Operations Research, Columbia University（工业工程与运筹学系，哥伦比亚大学）
研究数据驱动定价中的公平性问题，通过比较在需求估计或价格优化阶段施加公平约束的策略，分析其对消费者福利和社会效益的影响。
2026-06-05 cs.CY cs.LG
Understanding challenges to the interpretation of disaggregated evaluations of algorithmic fairness
Google Research, Mountain View, CA, USA（谷歌研究, 山景城, 加州, 美国）；Google DeepMind, Mountain View, CA, USA（谷歌深Mind, 山景城, 加州, 美国）；New York University, New York, NY, USA（纽约大学, 纽约, 纽约, 美国）；Massachusetts Institute of Technology, Cambridge, MA, USA（麻省理工学院, 柏林, 马萨诸塞, 美国）；The Hopsital for Sick Children, Toronto, ON, Canada（儿童医院, 温哥华, 加拿大）；Stanford University, Stanford, CA, USA（斯坦福大学, 斯坦福, 加州, 美国）
本研究揭示分类评估在算法公平性中的局限性，提出结合因果假设与分析方法以提升公平性评估的可靠性。
2025-10-23 cs.CY cs.LG stat.ML
Fairness-Aware Estimation of Graphical Models
University of Pennsylvania（宾夕法尼亚大学）
本文提出一个公平性感知框架，通过将成对图差异误差与定制损失函数融入非光滑多目标优化，在保持图形模型性能的同时减少受保护属性相关的估计偏差。
2024-11-08 cs.LG stat.ML
Privacy Constrained Fairness Estimation for Decision Trees
Department of Information and Computing Sciences, Utrecht（乌得勒支信息与计算科学系）；Responsible AI Team, Dutch Central Government Audit Service（荷兰中央政府审计服务责任AI团队）
本文研究了在决策树中结合差分隐私的公平性估计问题，提出了一种隐私感知的规则公平性估计方法，通过实验和理论分析证明该方法在可解释性较高的决策树上表现更优。
2023-12-13 cs.CR cs.CY cs.LG
BaBE: Enhancing Fairness via Estimation of Latent Explaining Variables
CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）；Università di Roma “La Sapienza”（罗马第一大学（萨皮恩扎大学））；Inria Saclay（法国国家信息与自动化研究所萨克雷分所）；École Polytechnique（巴黎综合理工学院）
本文提出 BaBE 方法，结合贝叶斯推断与期望最大化估计潜在解释变量 E，以在敏感属性与合法属性相关时实现公平决策，实验表明其兼顾公平性与准确率。
2024-05-06 cs.AI cs.CY cs.LG
Strategic Demonstration Selection for Improved Fairness in LLM In-Context Learning
University of Bristol（布里斯托尔大学）；New Jersey Institute of Technology（新泽西理工学院）
本研究探究上下文学习提示中示范样本对大语言模型公平性的影响，提出结合聚类与进化策略的样本筛选方法，在保障预测准确率的同时有效提升模型公平性。
2024-08-19 cs.CL cs.CY cs.LG
Matrix Estimation for Individual Fairness
Princeton University（普林斯顿大学）；Massachusetts Institute of Technology（麻省理工学院）
本文将个体公平性与矩阵估计相结合，证明使用奇异值阈值化（SVT）预处理数据能在不牺牲预测性能、不增加预测误差的条件下提升算法的个体公平性，并在合成与真实数据上验证了该结论。
2023-08-03 cs.LG stat.ML
Fair Federated Medical Image Segmentation via Client Contribution Estimation
The Chinese University of Hong Kong（香港中文大学）；NVIDIA（英伟达）
如何保证公平性是联邦学习的一个重要课题。最近的研究调查了如何根据客户的贡献（合作公平性）来奖励客户，以及如何在客户之间实现一致的绩效（绩效公平性）。尽管在这两个方面都取得了进展，但我们认为，为了吸引和激励更多不同的客户加入FL，以获得高质量的全球模式，将它们放在一起考虑至关重要。在这项工作中，我们提出了一种新的方法来同时优化这两种类型的公平性。具体来说，我们建议在梯度和数据空间中估计客户端的贡献。在梯度空间中，我们监控每个客户端相对于其他客户端的梯度方向差异。在数据空间中，我们使用辅助模型来度量客户端数据的预测误差。基于这种贡献估计，我们提出了一种FL方法，通过贡献估计的联邦训练（FedCE），即，使用估计作为全局模型聚合权重。我们从理论上分析了我们的方法，并在两个真实世界的医疗数据集上进行了经验评估。我们的方法的有效性已被验证与显着的性能改进，更好的协作公平性，更好的性能公平性，以及全面的分析研究。
2023-03-29 cs.AI cs.CV cs.LG
Fairness in Machine Learning-based Hand Load Estimation: A Case Study on Load Carriage Tasks
University of Virginia（弗吉尼亚大学）；Virginia Polytechnic Institute and State University（弗吉尼亚理工大学）
本文针对基于机器学习的手部负荷预测中存在性别偏差的问题，提出一种基于变分自编码器特征解耦的公平预测模型，仅利用性别无关特征进行预测，在公平性和预测精度上均优于随机森林等传统方法。
2025-04-08 cs.LG
Fairness Hub Technical Briefs: Definition and Detection of Distribution Shift
本文聚焦教育场景中分布偏移的定义与检测，指出训练与部署数据不匹配导致性能下降，并关注标准预测任务中模型输入输出关系。
2024-05-23 cs.CY cs.LG
Does Privacy Always Harm Fairness? Data-Dependent Trade-offs via Chernoff Information Neural Estimation
University of California Santa Barbara（加州大学圣芭芭拉分校）；JP Morgan Chase Global Technology Applied Research（摩根大通全球技术应用研究）
本文通过Chernoff信息理论分析隐私与公平性之间的数据依赖性权衡，提出Chernoff差异及其噪声变体，并开发神经网络估计器CINE以实现实世界数据集的分析。
2026-03-24 cs.AI cs.IT cs.LG
Measuring Model-Induced Discrimination via Efficient Fairness Approximation
Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）；Department of Mathematics, National University of Singapore（新加坡国立大学数学系）
提出基于流形视角的公平度量HFM，利用集合间距离评估分类器歧视，并设计近似算法ApproxDist提高计算效率，实验表明其兼顾个体与群体公平。
2026-06-23 cs.CY cs.LG
Auditing the Imputation Effect on Fairness of Predictive Analytics in Higher Education
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
学院和大学以各种方式使用预测分析来提高学生的成功率。尽管预测分析具有潜力，但在高等教育中采用它们存在两个主要障碍：（a）部署缺乏民主化，（b）可能加剧不平等。教育研究人员和政策制定者在实践中部署预测建模时遇到了许多挑战。这些挑战存在于建模的不同步骤中，包括数据准备、模型开发和评估。然而，如果执行不当，这些步骤中的每一个都可能给系统引入额外的偏倚。大多数大规模和具有全国代表性的教育数据集都受到研究参与者大量不完整答复的困扰。虽然许多与教育相关的研究解决了缺失数据的挑战，但在实践中，处理缺失值对预测结果公平性的影响知之甚少。在本文中，我们首先评估了大学生成功预测建模结果的差异，然后使用一组常用的指标来研究插补技术对模型性能和公平性的影响。我们进行前瞻性评估，以提供比历史数据评估更少的未来绩效和公平性偏差估计。我们对一个真实的大规模教育数据集的全面分析揭示了建模差异的关键见解，以及插补技术如何影响不同测试场景下学生成功预测结果的公平性。我们的研究结果表明，如果测试集遵循历史分布，插补会引入偏倚。然而，如果社会中的不公正得到解决，因此即将到来的一批观察结果是平等的，模型将减少偏见。
2022-12-29 cs.CY cs.LG
Perceived Fairness of the Machine Learning Development Process: Concept Scale Development
University of Nebraska（内布拉斯加大学）
本研究从社会技术视角定义并验证机器学习开发中的感知公平性，提出透明度、问责制和代表性三维框架，以指导公平ML系统的构建。
2025-01-23 cs.CY cs.HC cs.LG
FORML: Learning to Reweight Data for Fairness
Stanford University（斯坦福大学）；Apple（苹果公司）
机器学习模型被训练为最小化单个度量的平均损失，因此通常不考虑公平性和鲁棒性。在训练中忽略这些指标会使这些模型在训练数据不平衡或测试分布不同时容易违反公平性。这项工作介绍了公平优化的重新加权通过元学习（FORML），训练算法，平衡公平性和鲁棒性与准确性，通过联合学习训练样本权重和神经网络参数。该方法增加了模型的公平性，通过学习，以平衡来自过度和代表性不足的子组的贡献，通过动态重新加权的数据从用户指定的保持了一组代表的分布下，公平性是期望的。FORML改进了图像分类任务的机会公平性标准，减少了损坏标签的偏差，并通过数据压缩促进了构建更公平的数据集。这些改进是在没有预处理数据或后处理模型输出的情况下实现的，不需要学习额外的加权函数，不需要改变模型架构，并且同时保持原始预测度量的准确性。
2022-07-20 cs.CV cs.LG
Individual Fairness in Bayesian Neural Networks
Trinity College Dublin（都柏林圣三一学院）；The Alan Turing Institute（艾伦·图灵研究所）；Delft University of Technology（代尔夫特理工大学）
本文研究贝叶斯神经网络的 ε-δ-个体公平性，提出结合统计抽样界与对抗攻击的 Fair-FGSM、Fair-PGD 估计框架，并实证表明近似贝叶斯推断模型通常比确定性模型更公平。
2023-04-21 cs.CY cs.LG
Fair Differentially Private Federated Learning Framework
Department of Computing Science, Umeå University（于默奥大学计算机科学系）
本文提出“公平差分隐私联邦学习框架”，通过裁剪有偏模型更新并引入高斯机制实现差分隐私，解决联邦学习中无需验证数据生成公平全局模型及全局私有差分模型的挑战。
2023-05-23 cs.CY cs.LG
Fairness constraint in Structural Econometrics and Application to fair estimation using Instrumental Variables
Stony Brook University（石溪大学）；Toulouse School of Economics（图卢兹经济学院）；University of Toulouse Capitole（图卢兹第一大学）；Université Toulouse Paul Sabatier（图卢兹第三大学）
监督机器学习算法从学习样本中确定模型，该模型将用于预测新的观察结果。为此，它聚合了学习样本的观察结果的个体特征。但是这种信息聚合没有考虑训练样本中可能包含的对不可观察量的任何潜在选择和任何现状偏差。后一种偏见引起了人们对机器学习算法的所谓\textit{fairness}的担忧，特别是对弱势群体的担忧。在本章中，我们通过结构计量经济学模型的镜头来回顾机器学习中的公平性问题，其中未知指数是函数方程的解，并且明确考虑了内隐问题。我们将公平性建模为一个线性算子，其零空间包含严格{ \it fair}索引的集合。通过将无约束索引投影到该算子的零空间中或通过直接在该零空间中找到函数方程的最接近解来获得{ \it fair}解。我们也承认，政策制定者在改变现状时可能会付出代价。实现\textit{approximate fairness}是通过在学习过程中引入公平惩罚并或多或少地平衡现状和完全公平解决方案之间的影响来获得的。
2022-02-16 cs.LG econ.EM math.ST
Fairness Implications of Heterogeneous Treatment Effect Estimation with Machine Learning Methods in Policy-making
Centre for Social Research and Methods（社会研究与方法中心）；Australian National University（澳大利亚国立大学）
本文探讨因果机器学习在政策制定中的公平性，指出标准AI公平方法不适用，提出间接决策场景下的公平定义，强调需谨慎建模以避免决策偏见。
2023-09-02 cs.LG econ.EM
FairReweighing: Density Estimation-Based Reweighing Framework for Improving Separation in Fair Regression
Rochester Institute of Technology（罗切斯特理工学院）
针对回归任务公平性研究不足的问题，提出基于密度估计的FairReweighing预处理重加权框架，可适配多类型敏感属性与任务，理论可保证分离性，实验性能优于现有最优方案。
2025-11-14 cs.LG
Causal Fair Metric: Bridging Causality, Individual Fairness, and Adversarial Robustness
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（蒂宾根人工智能中心）；McGill University（麦吉尔大学）；University of Montréal（蒙特利尔大学）；MILA（米拉计算科学研究所）
本文提出一种基于因果结构的因果公平度量，通过度量学习实现估计，兼顾个体公平性与对抗鲁棒性，并在分类器中验证其有效性。
2024-02-06 cs.CY cs.LG
Competing Risks: Impact on Risk Estimation and Algorithmic Fairness
Columbia University, New York University of Cambridge, Cambridge（哥伦比亚大学、牛津大学剑桥分校、剑桥）；University of Cambridge, Cambridge（牛津大学剑桥分校、剑桥）
本研究证明将竞争风险误作审查会高估生存风险并加剧群体差异，提出误差量化框架，并基于心血管数据强调建模时必须考虑竞争风险以提升公平性。
2025-08-07 cs.LG
FairPrep: Promoting Data to a First-Class Citizen in Studies on Fairness-Enhancing Interventions
New York University（纽约大学）
将道德和法律合规纳入机器辅助决策的重要性得到了广泛认可。此外，最近的几项工作认为，如果我们不考虑模型训练和部署上游的生命周期阶段，就会错过提高数据质量和代表性、控制偏差以及允许人类监督和影响计算过程的关键机会。然而，迄今为止，为希望开发和部署负责任的机器学习方法的数据科学家提供系统级支持的工作很少。我们的目标是填补这一空白，目前FairPrep，公平性增强干预措施的设计和评估框架。FairPrep基于以开发人员为中心的设计，帮助数据科学家遵循软件工程和机器学习的最佳实践。作为我们的贡献的一部分，我们确定现有的实证研究中的不足之处，分析公平性增强的干预措施。然后，我们将展示如何使用FairPrep来衡量声音最佳实践的影响，例如超参数调整和功能缩放。特别是，我们的研究结果表明，在以前的研究中观察到的公平性增强干预措施的结果的高度可变性往往是缺乏超参数调整的伪像。此外，我们还表明，数据清理方法的选择可能会影响增强公平性干预措施的有效性。
2019-11-28 cs.CY cs.DB cs.LG
Training Fair Models in Federated Learning without Data Privacy Infringement
McMaster University（麦克马斯特大学）；East China University of Science and Technology（华东理工大学）；Huawei Technologies Canada（华为技术加拿大公司）
针对联邦学习中难以在保护隐私的前提下训练公平模型的问题，提出联邦公平性评估方法与FedFair框架，可在不侵犯隐私的同时训练高性能公平模型，经三个真实数据集验证效果优异。
2024-11-01 cs.CY cs.LG
Bayesian Modeling of Intersectional Fairness: The Variance of Bias
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
交叉性是一个框架，它分析了权力和压迫的连锁系统如何沿着重叠的维度影响个人，包括种族，性别，性取向，阶级和残疾。因此，交叉性理论意味着重要的是，在人工智能系统中的公平性受到保护的多维保护属性。然而，由于数据稀疏性，在多维环境中公平性的测量在统计上变得具有挑战性，数据稀疏性在维度的数量和每个维度的值中迅速增加。我们提出了一个贝叶斯概率建模方法的可靠性，数据效率的估计公平性与多维保护属性，我们适用于两个现有的交叉公平性指标。人口普查数据和COMPAS刑事司法累犯数据集的实验结果表明，我们的方法的实用性，并表明贝叶斯方法是有价值的建模和测量的公平性在一个交叉的背景下。
2019-09-10 cs.AI cs.CY cs.LG
Fair clustering via equitable group representations
University of Utah（犹他大学）
聚类公平意味着什么？一种流行的方法是确保每个集群所包含的群体（大致）与它们在人口中的比例相同。起作用的规范性原则是平衡：任何聚类都可以作为数据的代表，因此应该反映其多样性。但集群也体现了另一种形式的代表性。在大多数聚类问题中，一个核心原则是聚类中心应该代表它所代表的聚类，即与它相关联的点“接近”。这是为了让我们可以有效地用聚类中心替换点，而不会显著损失保真度，这确实是聚类的一个常见“用例”。为了使这样的聚类公平，中心应该同样好地“代表”不同的群体。我们称这样的聚类为组代表聚类。本文研究了群代表聚类的结构和计算。我们表明，这一概念自然平行的公平概念的发展分类，直接类似的想法，如人口均等和机会均等。我们展示了这些概念是如何区别于，不能被捕获的平衡为基础的公平概念。我们提出了近似算法组代表$k$中值聚类和耦合这与各种现实世界的数据集上的经验评估。
2021-01-27 cs.DS cs.LG stat.ML
Fair and Representative Subset Selection from Data Streams
University of Helsinki（赫尔辛基大学）；Pompeu Fabra University（庞培法布拉大学）；Eurecat（Eurecat技术中心）
我们研究的问题，从一个大的数据流中提取一个小的代表性项目的子集。在许多数据挖掘和机器学习应用中，例如社会网络分析和推荐系统，这个问题可以被公式化为最大化服从基数约束的单调子模函数$k$。在这项工作中，我们考虑设置在流中的数据项属于几个不相交的组之一，并调查的优化问题与一个额外的\emph{fairness}约束，限制选择到一个给定数量的项目从每个组。然后，我们提出了有效的算法的公平性感知的流子模块最大化问题的变体。特别是，我们首先给出了一个$ (\frac{1}{2}-\varepsilon) $近似算法，需要$ O(\frac{1}{\varepsilon} \log \frac{k}{\varepsilon}) $通过流的任何常数$ \varepsilon>0 $。此外，我们给出了一个单通流算法，具有相同的近似比的$(\frac{1}{2}-\varepsilon)$时，无限的缓冲区大小和后处理时间是允许的，并讨论如何适应更实际的设置，缓冲区大小是有界的。最后，我们证明了我们提出的算法的效率和有效性在两个现实世界的应用程序，即\emph{maximum coverage on large graphs}和\emph{personalized recommendation}。
2021-02-12 cs.DS cs.LG
FairFedMed: Benchmarking Group Fairness in Federated Medical Imaging with FairLoRA
Harvard AI and Robotics Lab（哈佛人工智能与机器人实验室）；Harvard University（哈佛大学）；Harvard Ophthalmology AI lab（哈佛眼科人工智能实验室）；University of Central Florida（佛罗里达中央大学）；University of Louisiana at Lafayette（路易斯安那州立大学拉斐特分校）；New York University（纽约大学）；NYUAD Center for Artificial Intelligence and Robotics（纽约大学阿布扎克人工智能与机器人中心）
针对医学联邦学习中的群体公平性问题，提出首个基准数据集FairFedMed及基于SVD低秩逼近的公平感知框架FairLoRA，在医学图像分类中达到最优性能并显著提升公平性。
2025-07-21 cs.CV cs.CY cs.LG
Data-Driven Fairness Generalization for Deepfake Detection
Florida State University（佛罗里达州立大学）；Oklahoma State University（俄克拉荷马州立大学）
本文提出一种数据驱动框架，通过合成多样化人口群体数据、损失锐度感知优化和多任务学习，解决深度伪造检测中的公平性泛化问题，并在跨数据集评估中超越现有方法。
2024-12-31 cs.AI cs.CV cs.CY
Causal Modeling for Fairness in Dynamical Systems
University of Toronto（多伦多大学）；Vector Institute（矢量研究所）
在许多应用领域-例如贷款、教育和在线零售商-当机器学习系统与动态变化的环境交互时，公平和公正问题就会出现，从而对个人和人口群体产生即时和长期影响。我们讨论因果有向无环图（DAG）作为一个统一的框架，最近的文献公平性，在这样的动态系统。我们表明，这种提法提供了几个新的调查方向的建模，因果关系的假设可以表达和操纵。我们强调在动态公平设置中计算干预量的重要性，并展示了因果假设如何使模拟（当环境动态已知时）和离线政策估计（当动态未知时）在组和个人层面上对短期和长期结果进行干预。
2020-07-06 cs.AI cs.CY cs.LG
Identifying Best Fair Intervention
University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
研究了在给定的因果模型中，具有公平性约束的最佳臂识别问题。我们的目标是在一个给定的节点上找到一个软干预，以最大限度地提高结果，同时满足公平性约束，通过反事实估计，只有部分知识的因果模型。这个问题的动机是确保在线市场的公平性。我们提供理论保证的错误概率和经验检验我们的算法的有效性与两阶段的基线。
2021-11-08 cs.CY cs.LG stat.ML
Fairness in Multi-Task Learning via Wasserstein Barycenters
Université de Montréal（蒙特利尔大学）；Université du Québec à Montréal（魁北克大学蒙特利尔分校）
本文利用多边际Wasserstein重心将强人口统计均等扩展到多任务学习，给出回归与二分类场景下最优公平预测器的闭式解，并通过实验验证后处理方法在公平决策中的实用价值。
2023-07-06 cs.CY cs.LG stat.ML
Achievable Fairness on Your Data With Utility Guarantees
ByteDance Research（字节跳动研究院）；University of California Santa Cruz（加州大学圣克鲁兹分校）
本文提出一种基于YOTO框架的计算高效方法，近似个体数据集的公平性-准确率权衡曲线，并量化不确定性，以可靠审计模型公平性并检测SOTA方法的次优性。
2024-11-09 cs.CY cs.LG stat.ML
Privacy-Preserving Orthogonal Aggregation for Guaranteeing Gender Fairness in Federated Recommendation
University of Science and Technology of China（中国科学技术大学）；Aarhus University（奥胡斯大学）
针对联邦推荐中性别公平性与隐私保护的问题，提出PPOA方法，通过安全聚合、量化技术和正交映射，在保护用户属性隐私的同时提升不同性别群体推荐效果，实现最优公平性。
2024-11-29 cs.LG
Group Fairness in Non-monotone Submodular Maximization
University of North Texas（北德克萨斯大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
最大化子模函数在机器学习和数据采掘中有着广泛的应用。一个这样的应用程序是数据汇总，其目标是从一个大的数据集中选择一小组有代表性的和不同的数据项。但是，数据项可能具有敏感属性，如种族或性别，在这种情况下，设计\emph{fairness-aware}算法以减轻可能导致特定组的过度或不足表示的潜在算法偏见非常重要。受此启发，我们提出并研究了经典的非单调子模最大化问题，新的组公平性约束。我们的目标是选择一组最大化非单调子模块函数的项目，同时确保从每个组中选择的项目的数量与其大小成比例，到决策者指定的程度。我们开发了第一个常数因子的近似算法为这个问题。我们还扩展了基本模型，将一个额外的全局大小约束的选定项目的总数。
2023-03-09 cs.DS cs.LG
Fair and Robust Estimation of Heterogeneous Treatment Effects for Policy Learning
Harvard Medical School（哈佛医学院）；Korea University（高丽大学）；Harvard University（哈佛大学）
提出公平约束下异质性处理效应非参数估计框架，具双重稳健性，刻画公平与福利权衡，经模拟与实例验证。
2023-12-20 cs.LG stat.ME stat.ML
On the Maximal Local Disparity of Fairness-Aware Classifiers
University of Science and Technology of China（中国科学技术大学）；Peking University（北京大学）
本文提出最大局部公平性差异指标MCDP及其高效计算和可微近似方法，并通过双层优化在表格和图像数据上实现更优的公平性-准确性权衡。
2024-06-05 cs.LG
Survey on Causal-based Machine Learning Fairness Notions
INRIA（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
解决公平性问题对于安全地使用机器学习算法来支持对人们生活产生关键影响的决策至关重要，例如招聘，虐待儿童，疾病诊断，贷款发放等。然而，最新的公平概念是基于因果关系的，反映了现在广泛接受的观点，即使用因果关系是适当解决公平问题的必要条件。本文研究了一个详尽的清单，基于cabinet的公平概念，并研究其在现实世界中的应用场景。由于大多数基于因果关系的公平性概念是根据不可观察的量来定义的（例如，干预措施和反事实），在实践中部署它们需要使用观测数据来计算或估计这些数量。本文提供了一个全面的报告，不同的方法来推断因果量的观测数据，包括可识别性（珍珠的SCM框架）和估计（潜在的结果框架）。这份调查报告的主要贡献是（1）一个指导方针，以帮助选择一个合适的公平概念给定一个特定的现实世界的情况下，（2）根据珍珠的因果关系阶梯的公平概念的排名，表明它是多么困难，在实践中部署每个概念。
2022-06-07 cs.LG
FairGFL: Privacy-Preserving Fairness-Aware Federated Learning with Overlapping Subgraphs
National Engineering Laboratory for Big Data Analytics (NEL-BDA)（大数据分析国家工程实验室）；School of Mathematics and Statistics（数学与统计学学院）；Ministry of Education Key Lab for Intelligent Networks and Network Security（教育部智能网络与网络安全重点实验室）；School of Computer Science and Technology（计算机科学与技术学院）
FairGFL通过保护隐私的方式，在联邦学习中提升跨客户端公平性，通过可解释的加权聚合和正则化器优化模型实用性与公平性的平衡。
2025-12-29 cs.DC cs.LG
Assessing Phenotype Definitions for Algorithmic Fairness
Columbia University（哥伦比亚大学）
疾病识别是观察性健康研究的核心和常规活动。队列影响下游分析，例如如何表征病情，如何定义患者风险以及研究什么治疗方法。因此，关键是要确保选定的队列代表所有患者，而不考虑其人口统计学或健康的社会决定因素。虽然在构建可能影响其公平性的表型定义时存在多个潜在偏倚来源，但在表型分型领域，考虑不同定义对患者亚组的影响并不标准。在本文中，我们提出了一套最佳实践来评估表型定义的公平性。我们利用预测模型中常用的已建立的公平性指标，并将其与常用的流行病学队列描述指标相关联。我们描述了一项针对克罗恩病和2型糖尿病的实证研究，每个研究都有多个表型定义，这些定义来自两组患者亚组（性别和种族）的文献。我们发现，不同的表型定义表现出广泛的变化和不同的性能，根据不同的公平性指标和分组。我们希望所提出的最佳实践可以帮助构建公平和包容性的表型定义。
2022-08-27 cs.AI cs.LG q-bio.OT
Equitable Survival Prediction: A Fairness-Aware Survival Modeling (FASM) Approach
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Duke University School of Medicine（杜克大学医学院）；Duke AI Health（杜克人工智能健康中心）；Mass General Brigham（麻省总医院布里格姆）；Harvard Medical School（哈佛医学院）；National University of Singapore（新加坡国立大学）
针对生存分析中的算法偏见，提出公平感知的生存建模（FASM）方法，在SEER乳腺癌数据上显著提升公平性且保持判别性能，推动公平性成为临床护理核心原则。
2025-10-23 cs.AI cs.LG
Beyond Internal Data: Constructing Complete Datasets for Fairness Testing
Centre of Artificial Intelligence University College London（人工智能研究中心伦敦大学学院）
针对公平性测试中人口统计数据难以获取的问题，本文提出利用分离但重叠的数据集构建高保真合成完整数据，实证表明其公平性指标与真实数据一致。
2025-07-24 cs.AI cs.LG stat.ML
Can I Trust My Fairness Metric? Assessing Fairness with Unlabeled Data and Bayesian Inference
Department of Computer Science（计算机科学系）；Department of Cognitive Sciences University of California, Irvine（加州大学尔湾分校认知科学系）
我们调查的问题，可靠地评估组公平标记的例子很少，但未标记的例子很多。我们提出了一个通用的贝叶斯框架，可以用未标记的数据来增强标记的数据，以产生与仅基于标记数据的方法相比更准确且方差更低的估计。我们的方法估计未标记的例子在每个组中使用的分层潜变量模型标记的例子的条件下校准的分数。这反过来又允许推断后验分布与各种组公平性度量的不确定性的相关概念。我们证明，我们的方法导致显着和一致的减少估计误差在多个众所周知的公平数据集，敏感属性和预测模型。结果表明，使用未标记的数据和贝叶斯推断在评估预测模型是否公平方面的好处。
2020-10-19 cs.AI cs.LG stat.ML
Max-Min Diversification with Fairness Constraints: Exact and Approximation Algorithms
East China Normal University（华东师范大学）；University of Helsinki（赫尔辛基大学）；Spotify
本文研究带群体公平上下界约束的最大-最小多样化选择问题，提出基于整数线性规划的精确算法和可扩展的 (1−ε)/5-近似算法，并在真实数据集上验证其优于现有方法。
2023-01-05 cs.CY cs.DS cs.LG
Privacy-Preserving Race/Ethnicity Estimation for Algorithmic Bias Measurement in the U.S
LinkedIn（领英）
针对美国AI公平性测量中种族/族裔数据难获取且需保护隐私的问题，提出结合BISG模型、稀疏调查样本与隐私增强技术的PPRE方法，在保护成员隐私的前提下实现种族/族裔维度的公平性测量，并指出未来研究与工程挑战。
2024-09-16 cs.CR cs.LG
InfoFair: Information-Theoretic Intersectional Fairness
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Arizona State University（亚利桑那州立大学）；University of Arkansas（阿肯色大学）
算法公平性在数据采掘和机器学习中变得越来越重要。其中，一个基本的符号是群体公平。除了少数例外，绝大多数现有的关于群体公平性的工作主要集中在关于单个敏感属性的去偏置上，尽管事实上多个敏感属性（例如，性别、种族、婚姻状况等）在现实世界中是司空见惯的。因此，需要制定方法，确保同时在所有令人关切的敏感属性方面取得公平的学习成果。在本文中，我们研究的问题，信息理论的交叉公平性（InfoFair），其中统计奇偶性，一个代表性的组公平性措施，是保证人口群体之间形成的多个敏感属性的利益。我们将其描述为一个互信息最小化问题，并提出了一个通用的端到端算法框架来解决这个问题，其核心思想是利用互信息的变分表示，该变分表示考虑了学习结果和敏感属性之间的变分分布，以及变分分布和原始分布之间的密度比。我们提出的框架可以推广到许多不同的设置，包括其他统计公平概念，并可以处理任何类型的学习任务配备了基于梯度的优化器。在三个真实世界的数据集上的公平分类任务的实证评估表明，我们提出的框架可以有效地去偏的分类结果与分类精度的影响最小。
2023-01-01 cs.IT cs.LG math.IT
Evaluating Fairness of Machine Learning Models Under Uncertain and Incomplete Information
Google（谷歌）；Rutgers University（罗格斯大学）；Amazon（亚马逊）；University of Washington（华盛顿大学）
公平分类器的训练和评价是一个具有挑战性的问题。这部分是由于大多数感兴趣的公平性度量依赖于数据点的敏感属性信息和标签信息。在许多情况下，不可能收集具有此类信息的大型数据集。一种常用的替代方法是在具有敏感属性信息的数据上单独训练属性分类器，然后稍后在ML流水线中使用它来评估给定分类器的偏差。虽然这种解耦有助于缓解人口稀少的问题，但它提出了几个自然的问题，例如：属性分类器应该如何训练？以及如何使用给定的属性分类器进行准确的偏差估计？在这项工作中，我们从理论和经验的角度来研究这个问题。我们首先通过实验证明，属性分类器的测试精度并不总是与其在下游模型的偏差估计中的有效性相关。为了进一步研究这一现象，我们分析了一个理想化的理论模型，并描述了最佳分类器的结构。我们的分析有令人惊讶的和反直觉的影响，在某些制度中，人们可能希望尽可能不均匀地分布在不同的子组之间的属性分类器的错误。基于我们的分析，我们开发了训练和使用属性分类器在数据稀缺制度的偏见估计的算法。我们实证证明了我们的方法对真实和模拟数据的有效性。
2021-02-16 cs.LG stat.ML
Fairness Feedback Loops: Training on Synthetic Data Amplifies Bias
University of Toronto（多伦多大学）；Vector Institute（矢量研究院）；University of Oxford（牛津大学）
本研究提出追踪多代模型诱导分布偏移的框架，发现其会引发性能与公平性下降等问题，同时提出算法补偿框架，通过构建代表性训练批次开展干预，为识别和缓解不公平反馈循环提供新思路。
2024-03-12 cs.LG
Fairness Evaluation of Risk Estimation Models for Lung Cancer Screening
Diagnostic Image Analysis Group, Department of Medical Imaging, Radboud University Medical Center（放射医学成像分析组，医学影像系，拉德堡德大学医学中心）；Department of Artificial Intelligence, Radboud University（人工智能系，拉德堡德大学）；Ethics of Healthcare Group, Department IQ Health, Radboud University Medical Center（医疗伦理组，IQ健康系，拉德堡德大学医学中心）
本研究评估了肺癌筛查风险估计模型的公平性，发现不同性别和种族群体在模型性能上存在显著差异，可能源于不公平偏见。
2025-12-23 cs.AI cs.CV cs.CY
Determination of the most representative descriptor among a set of feature vectors for the same object
Oxagile（奥克萨吉勒公司）
在人脸识别问题的解决方案的一个例子中，在本研究中考虑的方法估计的最具代表性的描述符之间的一组特征向量为同一张脸。该估计是基于在用特征向量非常稀疏地填充特征空间的情况下通过Welsch/Leclerc损失函数应用对作为描述符的集合的模式中值混合向量的鲁棒计算
2020-07-06 cs.CV cs.LG
Assessing Fairness in the Presence of Missing Data
University of Pennsylvania（宾夕法尼亚大学）
缺失数据是普遍存在的，并在实际数据分析中提出了艰巨的挑战。虽然有越来越多的文献在充分观察的数据分析的公平性，有很少的理论工作，调查不完整数据分析的公平性。在实践中，处理缺失数据的流行分析方法是仅使用完整案例集，即，完全观察到所有特征的观测值来训练预测算法。然而，根据缺失数据机制，完整病例的分布和完整数据的分布可能会有很大的不同。当目标是在没有缺失值的完整数据域中开发公平算法时，在完整案例域中公平的算法可能会对完整数据域中的某些边缘化群体表现出不成比例的偏见。为了填补这一重大差距，我们研究的问题，估计公平性在完整的数据域的任意模型评估，仅仅使用完整的情况下。我们提供的公平性估计误差的上限和下限，并进行数值实验，以评估我们的理论结果。我们的工作提供了第一个已知的理论结果，在不完全数据分析的公平性保证。
2021-12-07 cs.AI cs.LG
Collaborative Mean Estimation Among Heterogeneous Strategic Agents: Individual Rationality, Fairness, and Truthful Contribution
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Cornell University（康奈尔大学）
研究异构策略智能体协作均值估计问题，设计满足个体理性且最小化社会惩罚的机制及其纳什均衡，实现O(√m)近似并证明相关硬度结果，同时结合公理化博弈实现更公平的结果。
2025-08-14 cs.GT cs.LG
