Causal Fairness Analysis
ETH Zürich（苏黎世联邦理工学院）；Columbia University（哥伦比亚大学）
基于人工智能和机器学习的决策系统已被广泛应用于现实世界的各种场景，包括医疗保健、执法、教育和金融。展望未来，自主系统将推动整个业务决策，更广泛地说，支持大规模决策基础设施，以解决社会最具挑战性的问题，这不再是遥不可及的。当决策由人类做出时，不公平和歧视的问题普遍存在，当决策使用几乎没有透明度，问责制和公平性的机器时，这些问题仍然存在（或可能被放大）。在本文中，我们介绍了一个\textit{causal fairness analysis}的框架，旨在填补这一空白，即，理解，建模，并可能解决决策设置中的公平问题。我们的方法的主要见解将是将观察到的数据上存在的差异的量化与首先产生差异的潜在且通常未观察到的因果机制的集合联系起来，我们称之为因果公平性分析的基本问题（FPCFA）。为了解决FPCFA，我们研究的问题，分解的变化和公平性的经验措施，这种变化的结构机制和不同的人口单位。我们的努力最终在公平地图，这是第一次系统地尝试组织和解释文献中发现的不同标准之间的关系。最后，我们研究了进行因果公平性分析所需的因果假设，并提出了一个公平性食谱，它允许数据科学家评估不同影响和不同处理的存在。
2022-07-23 cs.AI cs.LG stat.ML
Fair Clustering: A Causal Perspective
ETH Zürich（苏黎世联邦理工学院）；Columbia University（哥伦比亚大学）
针对现有公平聚类方法未考虑因果机制、优化非因果公平性可能引发直接歧视的问题，提出结合因果公平性指标的聚类方法，支持指定需最小化的指标，并在含不公平偏差的数据集上验证了有效性。
2023-12-14 cs.CY cs.LG stat.ML
Fairness-Accuracy Trade-Offs: A Causal Perspective
Columbia University（哥伦比亚大学）
本研究首次从因果视角分析公平性与准确性的权衡，引入路径特定超额损失（PSEL）将总超额损失（TEL）分解为局部成分，并提出因果公平性/效用比指标，同时开发了一种新的因果约束公平学习神经方法。
2024-12-20 cs.AI cs.LG stat.ML
On the Fairness of Causal Algorithmic Recourse
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Saarland University（萨尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
算法公平性通常从预测的角度来研究。相反，在这里，我们调查的公平性的角度，追索权行动建议个人补救不利的分类。我们提出了两个新的公平标准，在组和个人层面上，这-不像以前的工作均衡的平均组明智的距离从决策边界-明确占功能之间的因果关系，从而捕捉下游的影响，在物理世界中进行追索行动。我们探讨了我们的标准如何与其他人，如反事实的公平，并表明，公平的追索权是补充公平的预测。我们从理论上和经验上研究如何通过改变分类器来执行公平的因果追索权，并在Adult数据集上进行案例研究。最后，我们讨论了我们的标准所揭示的数据生成过程中的公平违规行为是否可以通过社会干预而不是对分类器的限制来更好地解决。
2022-03-06 cs.AI cs.LG stat.ML
Disentangled Representation with Causal Constraints for Counterfactual Fairness
University of South Australia（南澳大学）；Simon Fraser University（西蒙弗雷泽大学）
针对公平表示学习忽视隐变量因果关系的问题，提出CF-VAE学习符合领域知识的结构化表示，理论保证反事实公平，并在实验中同时提升公平性与预测准确性。
2023-12-16 cs.AI cs.CY cs.LG
Causal Fairness under Unobserved Confounding: A Neural Sensitivity Framework
Munich Center for Machine Learning（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）
本文首次研究未观测混杂下的因果公平性问题，提出神经敏感性框架，推导公平性度量界限并提供最坏情况保证，通过实验和真实案例验证其有效性。
2024-10-22 cs.AI cs.CY cs.LG
Causal Manifold Fairness: Enforcing Geometric Invariance in Representation Learning
Machine Learning Lab IIIT-Hyderabad（IIIT-海得拉巴第二工业大学机器学习实验室）
本文提出因果流形公平性框架，通过强制潜在空间几何不变性，解决敏感属性对数据流形几何的因果扭曲问题，实现公平性与效用的平衡。
2026-01-06 cs.AI cs.CY cs.LG
Causal Conceptions of Fairness and their Consequences
Stanford University（斯坦福大学）；New York University（纽约大学）；Harvard University（哈佛大学）
本文将因果公平定义分为约束反事实差异与约束保护特征影响两类，证明并实证其几乎总是产生被强帕累托支配的策略，揭示形式局限与不良后果。
2022-07-12 cs.AI cs.CY cs.LG
Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables
NTT Communication Science Laboratories（NTT通信科学实验室）
提出一种利用变量簇因果图实现干预公平性的学习框架，通过调整簇集间的最大均值差异训练模型，在有限因果图知识下平衡公平与精度。
2026-06-23 cs.LG stat.ML
FairPFN: A Tabular Foundation Model for Causal Fairness
ELLIS Institute Tübingen（图宾根ELLIS研究所）；University of Freiburg（弗赖堡大学）；Prior Labs（Prior实验室）；Meta
针对因果公平方法依赖已知因果模型的问题，本文提出在合成因果公平数据上预训练的表格基础模型 FairPFN，可在无因果模型先验知识时识别并消除受保护属性的因果效应。
2025-06-08 cs.CY cs.LG
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas（阿肯色大学）
在在线推荐中，客户从底层分布以顺序和随机的方式到达，并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目，以最大化预期回报，同时实现用户端公平的客户，即，共享相似简档的客户将接收相似的奖励，而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略，我们首先提出了基于d-分离的UCB算法（D-UCB），以探索利用d-分离集来减少所需的探索量，以实现低累积遗憾。在此基础上，我们提出了公平因果强盗（F-UCB）实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
Enhancing Model Robustness and Fairness with Causality: A Regularization Approach
University of Chicago（芝加哥大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Tulane University（杜兰大学）
最近的工作引起了人们对统计机器学习模型中虚假相关性和意外偏差风险的担忧，这些风险威胁到模型的鲁棒性和公平性。在本文中，我们提出了一种简单直观的正则化方法，在模型训练过程中整合因果知识，并通过强调因果特征和不强调虚假特征来构建一个强大而公平的模型。具体来说，我们首先手动识别因果和虚假的功能与因果推理的反事实框架启发的原则。然后，我们提出了一种正则化方法来分别惩罚因果和虚假特征。通过调整每种类型特征的惩罚强度，我们建立了一个预测模型，该模型更多地依赖于因果特征，而较少依赖于非因果特征。我们进行实验，以评估模型的鲁棒性和公平性的三个数据集与多个指标。实验结果表明，新的模型建立与因果意识显着提高模型的鲁棒性方面的反事实文本和模型的公平性方面的敏感属性。
2021-10-03 cs.AI cs.LG
FairPFN: Transformers Can do Counterfactual Fairness
University of Freiburg（弗莱堡大学）；Zuse School ELIZA（楚塞ELIZA学院）；Charité（夏里特医学院）；ELLIS Institute Tübingen（蒂宾根ELLIS研究院）
本文提出 FairPFN，一种基于 ICL 与 PFN、用合成公平数据预训练的 Transformer，可无需真实因果模型而从观测数据中消除受保护属性的因果影响。
2024-07-08 cs.AI cs.CY cs.LG
Causal Equal Protection as Algorithmic Fairness
Arizona State University（亚利桑那州立大学）；Politecnico di Milano（米兰理工大学）；Algorithmwatch
本文提出因果平等保护原则，将分类均等与因果分析结合，主张个人不应因受保护特征而承受不平等的分类错误风险，并允许在能均衡风险时使用这些特征。
2025-02-05 cs.AI cs.CY cs.DS
Causal Adversarial Perturbations for Individual Fairness and Robustness in Heterogeneous Data Spaces
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；McGill University（麦吉尔大学）
本文提出因果对抗扰动与对抗训练正则化方法，利用结构因果模型和敏感属性构建公平度量，在异构数据空间中同时提升分类器的个体公平性、对抗鲁棒性和因果意识。
2023-08-17 cs.CY cs.LG
Addressing Both Statistical and Causal Gender Fairness in NLP Models
University of Virginia（弗吉尼亚大学）
本文评估了NLP模型中针对性别偏见的统计与因果去偏方法，发现单一方法仅在目标指标上有效，而结合两类技术可同时降低统计和因果公平性指标上的偏见。
2024-03-30 cs.CL cs.CY cs.LG
Causal Feature Selection for Algorithmic Fairness
University of Chicago（芝加哥大学）；IBM Research AI（IBM研究院人工智能部门）
在高风险的社会决策中使用机器学习（ML）鼓励在整个ML生命周期中考虑公平性。虽然数据集成是生成高质量训练数据的主要步骤之一，但大多数公平性文献都忽略了这一阶段。在这项工作中，我们在数据管理的集成组件中考虑公平性，旨在确定在不向数据集添加任何偏差的情况下提高预测的特征。我们在因果干预公平范式下工作。在不需要先验的基础结构因果模型的情况下，我们提出了一种方法来确定一个子集合的功能，通过执行不同的功能子集之间的条件独立性测试，确保数据集的公平性。我们使用组测试来提高方法的复杂性。我们从理论上证明了所提出的算法的正确性，以确定功能，确保干预的公平性，并表明，次线性条件独立性测试是足够的，以确定这些变量。在真实世界的数据集上进行了详细的经验评估，以证明我们的技术的有效性和效率。
2022-03-31 cs.CY cs.DB cs.LG
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam（阿姆斯特丹大学）
随着机器学习对人们生活的影响越来越大，算法公平性的重要性也越来越大。最近的公平性度量的工作表明，需要在公平性约束的因果推理。在这项工作中，一个实用的方法命名为公平贸易提出了灵活的预测模型，集成敏感的因果路径的公平性约束。该方法使用最新的进展，变分推理，以占未观察到的混杂因素。此外，提出了一种方法大纲，它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下，对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献，这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
Selection, Ignorability and Challenges With Causal Fairness
University of Oxford（牛津大学）
在本文中，我们看看流行的公平方法，使用因果反事实。这些方法捕捉到了一个直观的概念，即如果一个人的种族、性别或宗教与事实不符，那么如果这个预测与预测相吻合，那么这个预测就是公平的。为了实现这一点，我们必须有因果模型，能够捕捉到如果我们要反事实地改变这些特征，某人会是什么样子。然而，我们认为，任何模型，可以做到这一点必须位于特别表现良好的类，通常认为在公平文献之外。这是因为在公平环境中，这类模型需要特别强的因果假设，通常只在随机对照试验中看到。我们认为，在一般情况下，这是不太可能举行。此外，我们表明，在许多情况下，它可以被明确拒绝，因为样本是从更广泛的人群中选择的。我们发现这给反事实公平以及更一般的因果公平方法的应用带来了困难。
2022-03-02 cs.LG stat.ML
Causal Fair Metric: Bridging Causality, Individual Fairness, and Adversarial Robustness
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（蒂宾根人工智能中心）；McGill University（麦吉尔大学）；University of Montréal（蒙特利尔大学）；MILA（米拉计算科学研究所）
本文提出一种基于因果结构的因果公平度量，通过度量学习实现估计，兼顾个体公平性与对抗鲁棒性，并在分类器中验证其有效性。
2024-02-06 cs.CY cs.LG
Causal Interventions for Fairness
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）；University of Surrey（萨里大学）；New York University（纽约大学）；University College London（伦敦大学学院）
算法公平性中的大多数方法都约束机器学习方法，因此所得到的预测满足公平性的几个直观概念之一。虽然这可能有助于私营公司遵守非歧视法律或避免负面宣传，但我们认为这往往太少，太迟了。在收集培训数据时，弱势群体中的个人已经因无法控制的因素而遭受歧视和失去机会。在目前的工作中，我们专注于干预措施，如新的公共政策，特别是如何最大限度地发挥其积极作用，同时提高整个系统的公平性。我们使用因果方法来模拟干预的效果，考虑到潜在的干扰-每个人的结果可能取决于谁接受干预。我们证明了这一点的一个例子，分配预算的教学资源使用的数据集在纽约市的学校。
2018-06-06 cs.AI cs.LG stat.ML
Promises and Challenges of Causality for Ethical Machine Learning
SonyAI（索尼人工智能）
近年来，人们对设计公平决策系统的因果推理越来越感兴趣，因为它与法律框架的兼容性，对人类利益相关者的可解释性，以及对观测数据中固有的虚假相关性的鲁棒性等因素。然而，最近对因果公平的关注，一直伴随着极大的怀疑，由于在文献中应用当前因果公平方法的实践和认识论挑战。受计量经济学、社会科学和生物医学领域长期以来对因果关系的实证研究的启发，本文提出了在“潜在结果框架”下适当应用因果公平的条件。“我们强调了因果推理的关键方面，这些方面在因果公平文献中经常被忽视。特别是，我们讨论的重要性，指定的性质和时间的社会类别，如种族或性别的干预。确切地说，而不是假设一个不可变的属性的干预，我们提出了一个重点转移到他们的看法，并讨论了公平性评价的影响。我们认为，这种概念化的干预是关键，在评估因果假设的有效性和进行合理的因果分析，包括避免治疗后的偏见。随后，我们说明了因果关系如何解决现有的公平性指标的局限性，包括那些依赖于统计相关性。具体来说，我们引入了常见的统计公平概念的因果变量，我们做了一个新的观察，在因果框架下，不同的公平概念之间没有根本的分歧。最后，我们进行了广泛的实验，我们证明了我们的方法来评估和减轻不公平，特别是当治疗后的变量存在。
2022-10-26 cs.CY cs.LG
Causal Bias Detection in Generative Artificial Intelligence
Department of Statistics & Data Science（统计与数据科学系）
本文研究了生成人工智能中的因果公平性问题，提出了新的因果分解结果，以量化不同因果路径和现实机制被生成模型替代对公平性的影响，并通过分析大型语言模型中的种族和性别偏见验证了方法的有效性。
2026-05-18 cs.AI cs.LG stat.ML
Learning for Counterfactual Fairness from Observational Data
University of Virginia（弗吉尼亚大学）；Bytedance Research（字节跳动研究院）
针对因果模型未知导致反事实公平预测困难的问题，本文提出 CLAIRE 框架，利用反事实数据增强与不变惩罚进行表示学习，在合成及真实数据上提升公平性与预测效果。
2023-07-17 cs.CY cs.LG stat.ML
Data Management for Causal Algorithmic Fairness
University of Washington（华盛顿大学）
公平性越来越被认为是机器学习系统的关键组成部分。然而，正是这些系统所训练的基础数据往往反映出歧视，这表明存在数据管理问题。在本文中，我们首先区分了文献中关于公平的联想和因果定义，并认为公平的概念需要因果推理。然后，我们审查现有的工作，并确定未来的机会，应用数据管理技术的因果算法公平性。
2019-10-01 cs.DB cs.LG
Tuning Derivatives for Causal Fairness in Machine Learning
Department of Statistics, Umeå School of Business, Economics and Statistics（统计系，乌梅亚商学院、经济学和统计学学院）；Integrated Science Lab, Department of Physics（整合科学实验室，物理系）
本文提出一种针对连续保护属性的因果公平性框架，通过路径特定偏导数形式化统计平衡与预测平衡，并设计公平调优算法在无法实现完全公平时进行SP与PP的权衡。
2026-07-13 cs.AI cs.CY cs.LG
Fairness-Driven LLM-based Causal Discovery with Active Learning and Dynamic Scoring
Rice University（莱斯大学）
针对因果发现算法可扩展性不足的问题，提出结合广度优先搜索、主动学习和动态评分的LLM因果发现框架，提升了公平性驱动的因果发现的效率与准确性。
2025-03-21 cs.AI cs.LG stat.ML
Evaluating Causal Discovery Algorithms for Path-Specific Fairness and Utility in Healthcare
University of California Irvine（加州大学尔湾分校）；University of Orléans（奥尔良大学）
本文评估了三种因果发现算法在结构恢复和路径特定公平分解中的表现，发现Peter-Clark在合成数据中表现最佳，Fast Causal Inference在心力衰竭数据中效用最高，路径特定效应分析揭示了公平-效用比的差异。
2026-03-16 cs.AI cs.LG
Convex Fairness Constrained Model Using Causal Effect Estimators
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
近年来，人们对机器学习中的公平性进行了大量研究。在这里，平均差异（MD）或人口均等是最流行的公平措施之一。然而，MD不仅量化了歧视，还量化了解释性偏差，即由解释性特征证明的结果差异。在本文中，我们设计了新的模型，称为FairCEEs，消除歧视，同时保持解释性偏见。该模型基于利用倾向得分分析的因果效应估计值。我们证明了FairCEEs的平方损失理论上优于一个天真的MD约束模型。我们提供了一种有效的算法来解决回归和二进制分类任务中的FairCEE。在我们对这两项任务中的合成和真实数据进行的实验中，FairCEE的表现优于现有的模型，该模型考虑了特定情况下的解释性偏差。
2020-02-16 cs.AI cs.LG stat.ML
A Causal Bayesian Networks Viewpoint on Fairness
DeepMind（深度思维）
我们提供了一个图形化的解释不公平的数据集作为一个不公平的因果路径中的因果贝叶斯网络表示的数据生成机制的存在。我们使用这个观点来重新审视最近围绕COMPAS审前风险评估工具的争论，更普遍地指出，模型的公平性评估需要仔细考虑训练数据背后的不公平模式。我们表明，因果贝叶斯网络为我们提供了一个强大的工具来衡量不公平的数据集，并在复杂的不公平的情况下设计公平的模型。
2019-07-15 cs.LG stat.ML
Causal Fairness-Guided Dataset Reweighting using Neural Networks
SCHUFA Holding AG（舒法控股公司）；University of Pisa（比萨大学）；Technical University of Munich（慕尼黑工业大学）
本文提出一种基于两个神经网络结构反映因果图与干预图的数据集重加权方法，通过判别器引导实现因果公平性，并在真实数据上验证其有效性与数据保真度。
2023-11-17 cs.LG
SCALES: From Fairness Principles to Constrained Decision-Making
National University of Singapore（新加坡国立大学）
本文提出了SCALES，一个通用的框架，将公认的公平原则转化为一个共同的表示的基础上的约束马尔可夫决策过程（CMDP）。在因果语言的帮助下，我们的框架可以对决策过程（程序公平性）以及决策结果（结果公平性）进行约束。具体而言，我们表明，众所周知的公平原则可以编码为一个实用程序组件，一个非因果组件，或因果组件中的SCALES-CMDP。我们使用一组案例研究来说明SCALES，这些案例研究涉及模拟的医疗保健场景和真实世界的COMPAS数据集。实验表明，我们的框架产生公平的政策，体现在单步和顺序决策方案的替代公平原则。
2022-09-22 cs.AI cs.CY cs.LG
CausalPre: Scalable and Effective Data Pre-Processing for Causal Fairness
National University of Singapore（新加坡国立大学）
本文提出CausalPre框架，通过因果引导的数据预处理实现高效公平，无需强因果模型假设，实验表明其有效且可扩展。
2026-03-26 cs.DB cs.LG
Identifiability of Causal-based Fairness Notions: A State of the Art
Inria（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
机器学习算法可能会产生有偏见的结果/预测，通常针对少数群体和代表性不足的子群体。因此，公平性正在成为基于机器学习的技术的大规模应用的重要要求。最常用的公平概念（例如统计奇偶性，均衡赔率，预测奇偶性等）是观察性的，仅仅依赖于变量之间的相关性。这些概念无法识别统计异常情况下的偏差，如辛普森悖论或伯克森悖论。基于偏见的公平概念（例如，反事实公平、无代理歧视等）不受这种异常的影响，因此更可靠地评估公平性。然而，基于因果关系的公平概念的问题在于，它们是根据并不总是可测量的数量（例如因果、反事实和特定路径效应）来定义的。这被称为可识别性问题，是因果推理文献中大量工作的主题。本文是一个汇编的主要可识别性的结果，特别是相关的机器学习公平性。使用大量的例子和因果关系图的结果进行说明。本文将特别感兴趣的公平研究人员，从业者和政策制定者谁正在考虑使用的cafecurity为基础的公平概念，因为它总结和说明了主要的可识别性的结果
2022-06-07 cs.LG
Causal Fairness for Outcome Control
Columbia University（哥伦比亚大学）
本文针对结果控制任务，从因果视角定义收益与收益公平，并进一步提出因果收益公平及优化算法，以在最大化结果$Y$时消除受保护属性导致的歧视。
2023-06-08 cs.AI cs.LG stat.ML
Causal Fairness Assessment of Treatment Allocation with Electronic Health Records
Columbia University Irving Medical Center（哥伦比亚大学欧文医学中心）；University of Michigan（密歇根大学）；Columbia University（哥伦比亚大学）
针对电子健康记录中治疗分配的公平性评估空白，提出一种因果公平性算法，通过匹配相同治疗获益可能性的患者识别潜在不公，并应用于冠状动脉疾病队列验证及分析健康社会决定因素的影响。
2024-01-07 cs.LG
Tier Balancing: Towards Dynamic Fairness over Underlying Causal Factors
Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文用DAG因果建模决策与数据分布的动态相互作用，提出面向潜在因果因素的Tier Balancing公平概念，并证明单步干预的局限及趋近长期公平的可能与不可能性。
2023-06-06 cs.LG stat.ML
Survey on Causal-based Machine Learning Fairness Notions
INRIA（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
解决公平性问题对于安全地使用机器学习算法来支持对人们生活产生关键影响的决策至关重要，例如招聘，虐待儿童，疾病诊断，贷款发放等。然而，最新的公平概念是基于因果关系的，反映了现在广泛接受的观点，即使用因果关系是适当解决公平问题的必要条件。本文研究了一个详尽的清单，基于cabinet的公平概念，并研究其在现实世界中的应用场景。由于大多数基于因果关系的公平性概念是根据不可观察的量来定义的（例如，干预措施和反事实），在实践中部署它们需要使用观测数据来计算或估计这些数量。本文提供了一个全面的报告，不同的方法来推断因果量的观测数据，包括可识别性（珍珠的SCM框架）和估计（潜在的结果框架）。这份调查报告的主要贡献是（1）一个指导方针，以帮助选择一个合适的公平概念给定一个特定的现实世界的情况下，（2）根据珍珠的因果关系阶梯的公平概念的排名，表明它是多么困难，在实践中部署每个概念。
2022-06-07 cs.LG
Causal Fairness for Survival Analysis
Department of Statistics & Data Science（统计与数据科学系）
本文提出一种因果框架，用于生存分析中的公平性评估，通过分解生存差异的直接、间接和虚假路径，提供对公平性演变的可解释分析。
2026-05-12 cs.AI cs.LG stat.AP
The Sensitivity of Counterfactual Fairness to Unmeasured Confounding
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Microsoft Research（微软研究院）；University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）；University College London（伦敦大学学院）
公平的因果方法最近引起了机器学习社区和对道德预测算法感兴趣的更广泛的各方的极大兴趣。这在很大程度上是由于因果模型允许人们同时利用数据和专家知识来消除预测中的歧视性影响。然而，因果建模的一个主要假设是你知道因果图。这就为偏差引入了一个新的机会，这是由错误指定因果模型引起的。一种常见的方式是通过未测量的混杂：变量之间的真实因果效应部分由未观察到的数量描述。在这项工作中，我们设计的工具来评估公平措施的敏感性，这种混淆的流行类的非线性加性噪声模型（ANMs）。具体来说，我们给出了一个程序计算两个反事实公平的预测，其中一个已成为偏见，由于混淆之间的最大差异。对于双变量混杂的情况，我们的技术可以通过一系列封闭形式的更新迅速计算。对于多元混杂，我们给出了一个算法，可以有效地解决通过自动微分。我们展示了我们的新的敏感性分析工具，在现实世界的公平性的情况下，以评估混淆所产生的偏见。
2019-07-01 cs.CY cs.LG stat.ML
Counterfactual Fairness Evaluation of Machine Learning Models on Educational Datasets
Department of Computer Science and Engineering, Korea University, South Korea（计算机科学与工程系，韩国大学，韩国）
本文针对教育数据，通过基准数据集上的反事实公平性分析，揭示敏感属性的因果影响，为教育场景中的个体公平性评估提供新视角。
2025-04-20 cs.CY cs.LG
A pipeline for enabling path-specific causal fairness in observational health data
Department of Biomedical Informatics（生物医学信息学系）；Columbia University（哥伦比亚大学）；Big Data Institute（大数据研究所）；University of Oxford（牛津大学）
本文提出了一种通用管道，用于训练能够解决直接和间接医疗偏见的因果公平机器学习模型。
2026-01-17 cs.AI cs.LG
Principal Fairness for Human and Algorithmic Decision-Making
Harvard University（哈佛大学）；Institute for Quantitative Social Science（定量社会科学研究所）；University of Massachusetts（马萨诸塞大学）
利用因果推理文献中的主要分层概念，我们引入了一个新的公平性概念，称为主要公平性，用于人类和算法决策。关键的想法是，人们不应该歧视那些同样受到决定影响的个人。与现有的公平性统计定义不同，主要公平性明确说明了个人可能受到决策影响的事实。此外，我们解释了如何从现有的cabetity为基础的公平标准的主要公平不同。例如，与反事实公平标准相反，主要公平考虑的是有关决定的影响，而不是受保护的利益属性的影响。我们简要地讨论了如何处理经验评估和策略学习问题下提出的主要公平标准。
2022-03-24 cs.CY cs.LG stat.ML
Reconciling Predictive and Statistical Parity: A Causal Approach
Columbia University（哥伦比亚大学）
本文通过因果分解公式调和了统计平价与预测平价，证明二者互补而非互斥，并借助业务必要性概念统一了公平性谱系。
2023-12-22 cs.AI cs.CY cs.LG
Fairness Through Causal Awareness: Learning Latent-Variable Models for Biased Data
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
我们如何从有偏见的数据中学习？历史数据集通常反映了历史偏见;敏感或受保护的属性可能会影响观察到的治疗和结果。负责从这些数据集准确预测结果的分类算法往往会复制这些偏差。我们提倡一种因果建模方法来从有偏见的数据中学习，探索公平分类和干预之间的关系。我们提出了一个因果模型，其中敏感属性混淆治疗和结果。基于之前在深度学习和生成建模方面的工作，我们描述了如何仅从观察数据中学习这个因果模型的参数，即使存在未观察到的混杂因素。我们的实验表明，公平意识的因果模型提供了更好的估计之间的因果关系的敏感属性，治疗和结果。我们进一步提出的证据表明，估计这些因果效应可以帮助学习更准确和公平的政策，当与历史上有偏见的数据集。
2018-12-03 cs.LG stat.ML
Causal Multi-Level Fairness
Tandon School of Engineering New York University（纽约大学坦登工程学院）；School of Global Public Health New York University（纽约大学全球公共卫生学院）
众所周知，种族歧视制度对边缘化群体的影响很大，如果不考虑所有偏见来源，影响就更大。虽然迄今为止算法公平性的工作主要集中在解决由于个体相关属性而引起的歧视，但社会科学研究阐明了我们与个体相关的一些属性如何被概念化为在宏观（例如结构）层面上有原因，并且在多个层面上对属性公平可能很重要。例如，不是简单地将种族视为个人的因果关系和受保护的属性，而是可以将原因提炼为个人经历的感知种族歧视，而这反过来又会受到邻里因素的影响。这种多层次的概念化与公平问题有关，因为不仅要考虑到个人是否属于另一个人口群体，而且要考虑到个人是否在宏观一级受到歧视待遇。在本文中，我们正式的问题，多层次的公平性，使用工具，从因果推理的方式，允许一个评估和解释敏感属性的影响，在多个层次。我们通过说明剩余的不公平性，如果宏观层面的敏感属性不占，或包括不占其多层次的性质，说明问题的重要性。此外，在现实世界的任务的背景下，预测收入的基础上，宏观和个人层面的属性，我们展示了一种方法来减轻不公平，多层次的敏感属性的结果。
2021-05-12 cs.CY cs.LG stat.ML
Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN
University of Bergen Centre for the Science of Learning \& Technology (SLATE) Bergen Norway；Department of Computer Science University of Oxford；Alan Turing Institute Oxford United Kingdom；University of Bergen；University of Oxford；Alan Turing Institute
本研究从公平性角度评估了TabPFN的因果预训练效果，发现其在预测准确性上表现优异，但在公平性改进方面存在局限，特别是在面对缺失-不在随机协变量偏移时。
2026-01-27 cs.AI cs.LG
Uncovering Bias Paths with LLM-guided Causal Discovery: An Active Learning and Dynamic Scoring Approach
本文提出一种结合LLM引导的主动学习和动态评分方法，用于在存在噪声和混杂因素时发现公平性相关的因果路径。
2026-01-07 cs.AI cs.LG stat.ML
FairCauseSyn: Towards Causally Fair LLM-Augmented Synthetic Data Generation
University of California, Irvine（加州大学尔湾分校）
提出首个LLM增强的合成数据生成方法FairCauseSyn，在健康表格数据上实现因果公平，偏差小于10%，并将敏感属性偏差降低70%。
2025-06-23 cs.AI cs.LG
Overcoming Fairness Trade-offs via Pre-processing: A Causal Perspective
Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文从因果视角提出FiND世界框架，通过因果预处理方法近似该世界，在理论上证明并实证验证了该方法能同时解决公平性与准确性权衡以及不同公平性指标间的不兼容性。
2025-01-24 cs.LG stat.ML
Counterfactual Fairness with Partially Known Causal Graph
The University of Melbourne（墨尔本大学）；The University of Sydney（悉尼大学）；Hong Kong Baptist University（香港浸会大学）；Carnegie Mellon University（卡内基梅隆大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
公平的机器学习旨在避免基于\textit{sensitive attributes}（如性别和种族）对个人或子群体进行不利的处理。公平机器学习中那些建立在因果推理基础上的方法通过因果效应来确定歧视和偏见。虽然基于因果图的公平学习越来越受到关注，但目前的方法假设真正的因果图是完全已知的。本文提出了一种通用的方法来实现反事实公平的概念时，真正的因果图是未知的。为了能够选择功能，导致反事实的公平性，我们推导出的条件和算法，以确定祖先的变量之间的关系在\textit{Partially Directed Acyclic Graph (PDAG)}，特别是一类因果DAG，可以从观察数据结合领域知识。有趣的是，我们发现，反事实的公平性可以实现，如果真正的因果图是完全已知的，当提供特定的背景知识：敏感属性没有祖先的因果图。模拟和真实世界的数据集上的结果证明了我们的方法的有效性。
2023-01-17 cs.LG
The Fragility of Fairness: Causal Sensitivity Analysis for Fair Machine Learning
University of Oxford（牛津大学）；Harvard University（哈佛大学）；University of Cincinnati（辛辛那提大学）；Carnegie Mellon University（卡内基梅隆大学）
针对现实数据偏差导致公平性评估失效的问题，提出基于因果敏感性分析的通用框架，在14个数据集上验证了公平性评估对微小偏差的脆弱性，为衡量指标信息量提供必要工具。
2024-10-15 cs.CY cs.LG
On Discrimination Discovery and Removal in Ranked Data using Causal Graph
University of Arkansas（阿肯色大学）
从历史数据中学习的预测模型被广泛用于帮助公司和组织做出决策。然而，他们可能会在数字上不公平地对待不受欢迎的群体，引发对公平和歧视的担忧。本文研究了基于公平性的排序问题，旨在发现排序数据中的差异性，并重建公平的排序。现有的公平意识排名方法主要是基于统计平等，不能衡量真正的歧视性影响，因为歧视是因果关系。另一方面，现有的基于分类器的反歧视学习方法集中在分类问题上，不能直接应用于处理排名数据。为了解决这些限制，我们建议将排名位置映射到一个连续的分数变量，代表候选人的资格。然后，我们建立一个因果图，由离散的个人资料属性和连续的分数。路径特异性效应技术扩展到混合变量因果图，以确定直接和间接歧视。从理论上分析了排序数据的路径特异性效应与二元决策的路径特异性效应之间的关系。最后，算法发现和消除歧视的排名数据集。使用真实数据集的实验表明，我们的方法的有效性。
2018-03-05 cs.AI cs.CY cs.LG
Interventional Fairness on Partially Known Causal Graphs: A Constrained Optimization Approach
School of Mathematics and Statistics, The University of Melbourne（墨尔本大学数学与统计学院）；School of Data Science, Fudan University（复旦大学数据科学学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对现有因果公平方法依赖完全已知因果图的局限，提出基于PDAG的约束优化框架，在因果图部分已知时平衡公平性与预测准确率，经模拟和真实数据集验证有效。
2024-03-08 cs.LG
