Transferring Fairness using Multi-Task Learning with Limited Demographic Information
Johns Hopkins University（约翰斯·霍普金斯大学）
针对目标任务缺少人口统计标注的问题，本文提出多任务公平性损失，借助相关任务标签迁移公平性，并验证其可跨数据集实现交叉公平性。
2024-04-15 cs.CY cs.LG
Shortcomings of Counterfactual Fairness and a Proposed Modification
London School of Economics and Political Science（伦敦政治经济学院）
在本文中，我认为，反事实的公平性并不构成一个算法是公平的必要条件，并随后提出如何修改约束，以弥补这一缺陷。为此，我讨论了一个假设的情况下，反事实的公平和公平的直觉判断来分开。然后，我转向的问题，歧视的概念可以解释，以检查的缺点，反事实的公平性作为一个必要条件的算法公平性更详细。然后，我将这种分析的见解到一个新的公平约束，因果相关公平，这是一个修改的反事实公平约束，似乎规避其缺点。
2020-11-14 cs.AI cs.LG stat.ML
Counterfactual Fairness
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）；New York University（纽约大学）；University of Surrey（萨里大学）；University College London（伦敦大学学院）
当机器学习用于自动化保险、贷款、招聘和预测性警务等领域的决策时，它可能会对人们产生法律或道德后果。在许多这样的情况下，先前的决定对某些亚群有不公平的偏见，例如那些特定的种族，性别或性取向。由于这些过去的数据可能有偏见，机器学习预测器必须考虑到这一点，以避免延续或创造歧视性做法。在本文中，我们开发了一个框架，公平性建模工具，从因果推断。我们对反事实公平的定义抓住了这样一种直觉：如果一个决定在（a）现实世界和（b）一个反事实世界中是相同的，那么这个决定对一个人是公平的，在这个反事实世界中，这个人属于不同的人口统计群体。我们展示了我们的框架上的一个现实世界的问题，公平的预测成功的法学院。
2018-03-08 cs.CY cs.LG stat.ML
On Learning and Testing of Counterfactual Fairness through Data Preprocessing
North Carolina State University（北卡罗来纳州立大学）；Indian Institute of Management（印度管理学院）
机器学习在现实生活中的决策中变得越来越重要，但人们担心它在使用不当时可能带来的伦理问题。最近的工作将机器学习公平性的讨论引入因果框架，并详细阐述了反事实公平性的概念。在本文中，我们开发了通过dAta预处理进行公平学习（FLAP）算法，以从有偏见的训练数据中学习反事实公平决策，并形式化应使用不同数据预处理程序来保证反事实公平性的条件。我们还表明，反事实的公平性是等价的条件独立的决定和敏感属性的处理非敏感属性，这使我们能够检测歧视的原始决策使用处理后的数据。我们的算法的性能说明使用模拟数据和现实世界的应用程序。
2022-02-25 cs.LG stat.ML
Towards Harmless Rawlsian Fairness Regardless of Demographic Prior
School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院）；Institute of High-Performance Computing, Agency for Science, Technology and Research（新加坡科技研究局高性能计算研究所）；Centre for Frontier AI Research, Agency for Science, Technology and Research（新加坡科技研究局前沿人工智能研究中心）；College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）
针对无人口统计先验的公平性需求，提出VFair方法，通过最小化训练损失方差实现无害罗尔斯公平，实验表明回归任务公平性显著提升，分类任务效果有限。
2024-11-08 cs.CY cs.LG stat.ML
Counterfactual Reasoning for Fair Clinical Risk Prediction
Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心）；Stanford University（斯坦福大学）
使用机器学习系统来支持医疗保健决策提出了一个问题，即由于电子健康记录中的观察数据中隐含的偏见，这些系统可能会在多大程度上引入或加剧历史上代表性不足和受虐待群体的护理差异。为了在临床风险预测模型的背景下解决这个问题，我们开发了一个增强的反事实公平标准，以将均衡赔率的组公平标准扩展到个人水平。我们这样做是因为，如果事实和反事实的结果没有差别，我们要求对一个病人和一个由改变敏感属性而产生的反事实病人做出相同的预测。我们调查了增强的反事实公平性标准在多大程度上可以应用于开发公平模型，用于观察电子健康记录数据的住院时间延长和死亡率。由于公平性准则是不明确的，没有知识的数据生成过程中，我们使用变分自编码器来执行反事实推理的背景下，假设的因果图。虽然我们的技术提供了一种在学习生成模型的背景下权衡公平性维护与预测性能降低的方法，但需要进一步的工作来评估这种方法的一般性。
2019-07-14 cs.CY cs.LG stat.ML
Adversarial Learning for Counterfactual Fairness
Sorbonne Université（索邦大学）；LIP6/CNRS（法国国家科学研究中心计算机科学实验室）；AXA REV Research（安盛研究）
近年来，公平性已经成为机器学习研究界的一个重要话题。特别是，反事实公平的目的是建立预测模型，确保在最个人的水平公平。这个想法不是从全局上考虑整个人口的公平性，而是想象任何一个人在给定的兴趣属性（例如不同的性别或种族）变化的情况下会是什么样子。现有的方法依赖于个体的变分自动编码，使用最大平均离散（MMD）惩罚来限制推断表示与其相应的敏感属性的统计依赖性。这使得能够模拟用于训练目标公平模型的反事实样本，目标是为任何个体的每个替代版本产生类似的结果。在这项工作中，我们建议依赖于一种对抗性神经学习方法，这种方法可以实现比MMD惩罚更强大的推理，并且特别适合连续设置，其中敏感属性的值不能被穷举。实验表明，显着的改善，无论是离散和连续设置的反事实的公平性。
2020-08-30 cs.AI cs.CY cs.LG
Counterfactual Fair Opportunity: Measuring Decision Model Fairness with Counterfactual Reasoning
Polytechnic University of Bari（巴里理工大学）；University of Bari（巴里大学）
越来越多的人工智能和机器学习模型的应用带来了不公平行为的潜在风险，根据最近的法规，已经引起了研究界的关注。一些研究人员专注于寻求新的公平定义或开发方法来识别有偏见的预测。然而，没有人试图利用反事实空间来达到这一目的。在这个方向上，在这项工作中提出的方法，旨在揭示不公平的模型行为，使用反事实推理的情况下，在无意识设置的公平。定义了机会平等的反事实版本--反事实公平机会，并引入了两种新的度量方法来分析反事实样本中的敏感信息。在三个不同数据集上的实验结果显示了我们的方法和指标的有效性，揭示了经典机器学习和去偏置模型的不公平行为。
2023-02-16 cs.AI cs.CY cs.LG
Prediction Sensitivity: Continual Audit of Counterfactual Fairness in Deployed Classifiers
University of Vermont（佛蒙特大学）
随着基于人工智能的系统越来越多地影响我们生活的许多领域，审计这些系统的公平性是一个越来越高的风险问题。传统的群体公平性度量可能会错过对个人的歧视，并且在部署后难以应用。反事实公平描述了一种个性化的公平概念，但在部署后评估更具挑战性。我们提出了预测灵敏度，部署分类器的反事实公平性的持续审计方法。预测灵敏度有助于回答这个问题：如果这个人属于不同的人口统计学群体，那么这个预测会有所不同吗？对于部署的模型所做的每一个预测。预测灵敏度可以利用受保护状态和其他特征之间的相关性，并且在预测时不需要受保护状态信息。我们的实证结果表明，预测灵敏度是有效的检测违反反事实公平。
2022-02-09 cs.AI cs.CY cs.LG
Counterfactually Fair Regression via Optimal Transport
Inria, Soda team（Inria，Soda团队）；Inria, FairPlay joint team（Inria，FairPlay联合团队）；CREST, ENSAE, IP Paris（CREST，ENSAE，IP巴黎）；CMAP, CNRS, Ecole Polytechnique, Institut Polytechnique de Paris（CMAP，CNRS，Polytechnique学院，巴黎理工学院）
本文采用因果不确定性视角，通过重采样噪声定义反事实公平性，提出基于最优传输的后处理估计器，并证明其有限样本公平性保证和风险界。
2026-05-27 cs.CY cs.LG stat.ML
Counterfactual Situation Testing: Uncovering Discrimination under Fairness given the Difference
Scuola Normale Superiore, University of Pisa（比萨高等师范学校，比萨大学）；University of Pisa（比萨大学）
本文提出因果数据挖掘框架CST，通过基于因果知识生成申诉人反事实并构建对照与测试组来检测分类器个体歧视，实验表明其即使在反事实公平条件下也能发现更多案例。
2023-10-16 cs.CY cs.LG stat.ML
Achieving Counterfactual Fairness with Imperfect Structural Causal Model
University of Technology Sydney（悉尼科技大学）；Curtin University（科廷大学）
反事实公平性是指模型对现实世界（观察数据）中的个体的预测与反事实世界（即，如果该人属于其他敏感群体，该怎么办？现有的研究需要预先定义结构因果模型，以捕捉变量之间的相关性进行反事实推理;然而，潜在的因果模型通常是未知的，并且难以在现实世界中验证。此外，因果模型的错误设定可能会导致模型预测性能低下，从而做出不公平的决策。在这项研究中，我们提出了一种新的极小极大博弈理论模型的反事实的公平性，可以产生准确的结果，同时实现一个反事实的公平决策与结构因果模型的强假设放松。此外，我们还从理论上证明了所提出的minimax模型的误差界。在多个真实世界数据集上的实证实验表明，我们在准确性和公平性方面都有出色的表现。源代码可从\url{https://github.com/tridungduong16/counterfactual_fairness_game_theoretic}获得。
2023-03-26 cs.AI cs.CY cs.LG
Compatibility of Fairness Metrics with EU Non-Discrimination Laws: Demographic Parity & Conditional Demographic Disparity
Hasselt University（哈塞尔特大学）；Université Catholique de Louvain（鲁汶大学）；University of Bologna（博洛尼亚大学）；University of Luxembourg（卢森堡大学）
本研究结合欧盟反歧视法律框架，通过CDD分析DP公平定义与法律反歧视概念的适配性，实验验证带公平约束的分类器可在降偏差的同时适配司法情境解释，为AI决策的法律公平性研究提供了初步依据。
2023-06-14 cs.CY cs.LG
Counterfactual Fairness in Mortgage Lending via Matching and Randomization
Albers School of Business and Economics（阿尔伯斯商业与经济学院）；Seattle University（西雅图大学）
抵押贷款中的不公平造成了美国种族和族裔群体之间的代际不平等。许多研究解决了这个问题，但大多数现有的工作集中在基于相关性的技术。在我们的工作中，我们使用反事实公平的框架来训练公平的机器学习模型。我们提出了一个新的因果关系图的变量在住房抵押贷款披露法案（HMDA）的数据。我们使用基于匹配的方法，而不是潜变量建模方法，因为前一种方法不依赖于任何建模假设。此外，匹配为我们提供了反事实对，其中种族变量是孤立的。我们首先证明了非洲裔美国人和非西班牙裔白人亚群之间的抵押贷款批准和利率的不公平性。然后，我们证明了使用匹配来平衡数据并不能保证机器学习模型的完美反事实公平性。
2021-12-03 cs.CY cs.LG
Towards counterfactual fairness through auxiliary variables
University of Maryland（马里兰大学）；Clemson University（克莱姆森大学）
针对现有反事实公平方法忽视敏感特征内在信息的问题，提出EXOC框架，通过辅助节点与控制节点建模外生因果和信息流，在合成及真实数据集上取得优于现有方法的公平性表现。
2025-02-20 cs.DS cs.LG stat.ML
Achieving Counterfactual Fairness for Anomaly Detection
Utah State University（犹他州立大学）；University of Arkansas（阿肯色大学）；Clemson University（克莱姆森大学）
由于许多异常检测应用都涉及到人类，因此保证异常检测模型的公平性受到了广泛关注。然而，现有的公平异常检测方法主要集中在基于关联的公平性的概念。在这项工作中，我们的目标是反事实公平，这是一个普遍的基于因果关系的公平概念。反事实公平异常检测的目标是确保个体在事实世界中的检测结果与个体属于不同群体的反事实世界中的检测结果相同。为此，我们提出了一个反事实公平的异常检测（CFAD）框架，其中包括两个阶段，反事实数据生成和公平的异常检测。在一个人工数据集和两个真实数据集上的实验结果表明，CFAD能够有效地检测异常，并确保反事实公平性。
2023-03-04 cs.LG
Fairness without Demographics through Learning Graph of Gradients
Carnegie Mellon University（卡内基梅隆大学）；The Chinese University of Hong Kong（香港中文大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Tsinghua University（清华大学）
本文提出一种基于梯度图的无人口统计信息公平性方法，通过对抗性加权架构学习样本权重，利用图结构进行软分组，在保持准确率的同时显著提升公平性并对噪声更鲁棒。
2024-12-29 cs.LG stat.ML
Fairness Aware Counterfactuals for Subgroups
Athena Research Center（雅典娜研究中心）；Université Libre De Bruxelles（布鲁塞尔自由大学）；National Technical University of Athens（雅典国立技术大学）
本文提出FACTS框架，通过反事实解释审计子组公平性，引入更精细的子组公平性概念及高效可解释的评估框架，并在多个基准数据集上验证了其优势与广泛适用性。
2023-06-26 cs.CY cs.LG
Fairness Through Counterfactual Utilities
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
针对现有群体公平性定义局限于分类问题且在其他机器学习环境中存在多种定制化解释的问题，提出基于效用和反事实结果的广义公平框架，解决了分类、聚类和强化学习中的公平性问题。
2022-02-12 cs.CY cs.LG
Fairness Meets Privacy: Integrating Differential Privacy and Demographic Parity in Multi-class Classification
Sorbonne Universite（索邦大学）
本文提出DP2DP算法，通过整合差分隐私与人口平等，实现多类分类中的隐私保护与公平性保障。
2025-11-24 cs.LG stat.ML
Distributionally Robust Survival Analysis: A Novel Fairness Loss Without Demographics
Heinz College of Information Systems and Public Policy, Carnegie Mellon University（卡内基梅隆大学海因茨信息系统与公共政策学院）
我们提出了一种训练生存分析模型的一般方法，该方法可以最大限度地减少所有足够大的子群体（至少以用户指定的最小概率发生）的最坏情况下的错误。这种方法使用了一个训练损失函数，该函数不知道任何人口统计信息，因此无法将其视为敏感信息。尽管如此，我们证明，与各种基线相比，我们提出的方法在最近建立的公平性指标上的得分更高（预测准确性没有显着下降），包括那些直接使用敏感人口统计信息的训练损失。我们的代码可在：https://github.com/discovershu/DRO_COX
2022-11-18 cs.LG stat.ML
Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia（弗吉尼亚大学）；City University of Hong Kong（香港城市大学）；Microsoft（微软）
公平机器学习旨在减轻模型预测对某些亚群的偏见，这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中，反事实公平性通过比较每个个体从原始数据和反事实的预测，从因果的角度衡量模型的公平性。在反事实中，这个人的敏感属性值被修改了。近年来，一些研究将反事实公平性扩展到图数据，但大多数研究都忽略了以下可能导致偏差的事实：1）每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2）敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题，在本文中，我们提出了一个新的公平概念-图反事实公平，它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示，我们提出了一种新的框架，基于反事实数据增强。在这个框架中，我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后，我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明，我们的框架在图反事实公平性方面优于最先进的基线，并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
FADE: FAir Double Ensemble Learning for Observable and Counterfactual Outcomes
Carnegie Mellon University（卡内基梅隆大学）；J. P. Morgan AI Research（摩根大通人工智能研究院）
建立公平预测的方法通常涉及公平性和准确性之间以及不同公平性标准之间的权衡，但这些权衡的性质各不相同。最近的工作旨在描述这些权衡在特定的问题设置，但这些方法往往不适应用户谁希望提高现有的基准模型的公平性，而不牺牲准确性，反之亦然。这些结果通常也限于可观察的准确性和公平性标准。我们开发了一个灵活的公平集成学习框架，允许用户有效地探索公平性-准确性空间或提高基准模型的公平性或准确性。我们的框架可以同时针对多个可观察或反事实的公平标准，它使用户能够结合大量以前训练和新训练的预测。我们提供理论保证，我们的估计收敛速度快。我们将我们的方法应用于模拟和真实数据，以及可观察和反事实的准确性和公平性标准。我们发现，令人惊讶的是，多个不公平的措施，有时可以同时最小化，对准确性的影响很小，相对于无约束的预测或现有的基准模型。
2021-09-01 cs.LG stat.ML
AI Fairness Beyond Complete Demographics: Current Achievements and Future Directions
Florida International University（佛罗里达国际大学）；National University of Singapore（新加坡国立大学）
本文针对多数AI公平性方法依赖完整人口统计信息、难以适配现实场景的问题，综述相关研究，提出新的公平性概念分类体系，总结现有技术并指出开放研究方向。
2025-11-17 cs.AI cs.CY cs.LG
The Sensitivity of Counterfactual Fairness to Unmeasured Confounding
MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Microsoft Research（微软研究院）；University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）；University College London（伦敦大学学院）
公平的因果方法最近引起了机器学习社区和对道德预测算法感兴趣的更广泛的各方的极大兴趣。这在很大程度上是由于因果模型允许人们同时利用数据和专家知识来消除预测中的歧视性影响。然而，因果建模的一个主要假设是你知道因果图。这就为偏差引入了一个新的机会，这是由错误指定因果模型引起的。一种常见的方式是通过未测量的混杂：变量之间的真实因果效应部分由未观察到的数量描述。在这项工作中，我们设计的工具来评估公平措施的敏感性，这种混淆的流行类的非线性加性噪声模型（ANMs）。具体来说，我们给出了一个程序计算两个反事实公平的预测，其中一个已成为偏见，由于混淆之间的最大差异。对于双变量混杂的情况，我们的技术可以通过一系列封闭形式的更新迅速计算。对于多元混杂，我们给出了一个算法，可以有效地解决通过自动微分。我们展示了我们的新的敏感性分析工具，在现实世界的公平性的情况下，以评估混淆所产生的偏见。
2019-07-01 cs.CY cs.LG stat.ML
CERTIFAI: Counterfactual Explanations for Robustness, Transparency, Interpretability, and Fairness of Artificial Intelligence models
University of Texas at Austin（德克萨斯大学奥斯汀分校）；CognitiveScale
随着人工智能在我们的社会中发挥着越来越重要的作用，企业和研究人员都有道德和道德义务，以确保他们的机器学习模型得到负责任的设计，部署和维护。这些模型需要经过严格的审核，以确保公平性、鲁棒性、透明度和可解释性。已经开发了各种方法来单独关注这些问题，但是，将这些方法与模型开发结合起来管理可能会很麻烦且耗时。在本文中，我们介绍了一个统一的和模型无关的方法来解决这些问题：反事实的稳健性，透明度，可解释性和公平性的人工智能模型（CERTIFAI）。与该领域以前的方法不同，CERTIFAI是一个通用工具，可应用于任何黑盒模型和任何类型的输入数据。给定一个模型和一个输入实例，CERTIFAI使用自定义的遗传算法来生成反事实：接近输入的实例会改变模型的预测。我们展示了如何使用这些反事实来研究鲁棒性，可解释性，透明度和公平性的问题。此外，我们还引入了CERScore，这是第一个黑盒模型鲁棒性得分，它可以对可以访问模型内部的方法进行验证。
2019-05-20 cs.LG stat.ML
Counterfactual Fairness through Transforming Data Orthogonal to Bias
Carnegie Mellon University（卡内基梅隆大学）
提出模型无关的数据预处理算法Orthogonal to Bias (OB)，通过确保数据与连续敏感变量正交来实现反事实公平，在合成和真实数据集上有效促进公平且不损害准确性。
2025-06-25 cs.LG stat.ML
"What We Can't Measure, We Can't Understand": Challenges to Demographic Data Procurement in the Pursuit of Fairness
Partnership on AI（人工智能伙伴关系）；Minnesota State University, Mankato（明尼苏达州立大学曼卡托分校）；Sony AI（索尼人工智能）
随着对公平和无偏见的算法系统的需求增加，在工业中致力于算法公平性的个人数量也在增加。然而，这些从业者往往无法获得他们认为需要的人口统计数据，以发现实践中的偏见。即使有越来越多的工具包和策略来实现算法公平性，它们几乎总是需要访问人口统计属性或代理。我们通过半结构化的访谈调查了这一困境，采访了38位从事算法公平性工作或与之相邻的从业者和专业人士。与会者描绘了一幅复杂的图景，说明人口数据的可用性和实际使用情况，从无法获得任何类型的个人数据到法律要求收集和使用人口数据进行歧视评估。在许多领域，人口数据汇集提出了一系列难题，包括如何平衡隐私和公平，如何定义相关的社会类别，如何确保有意义的同意，以及私营公司推断某人的人口统计数据是否合适。我们的研究提出了企业、监管机构、研究人员和社区团体必须考虑的挑战，以使从业者能够在实践中解决算法偏见。重要的是，我们并不建议未来工作的总体目标应该是简单地降低收集人口数据的障碍。相反，我们的研究提出了一系列规范性问题，即如何、何时以及是否应该获取这些数据，以及在不获取这些数据的情况下，还应该做些什么来减轻偏倚。
2021-01-23 cs.CY cs.LG
Fairness-Aware Graph Representation Learning with Limited Demographic Information
Florida International University（佛罗里达国际大学）；University of New Mexico（新墨西哥大学）；Boise State University（博伊西州立大学）；University of Louisville（路易斯维尔大学）
本文提出FairGLite框架，在有限人口信息下减轻图学习中的偏见，通过生成人口信息代理和自适应置信度策略，实现公平性和效用的平衡。
2025-12-26 cs.CY cs.LG
Disentangled Representation with Causal Constraints for Counterfactual Fairness
University of South Australia（南澳大学）；Simon Fraser University（西蒙弗雷泽大学）
针对公平表示学习忽视隐变量因果关系的问题，提出CF-VAE学习符合领域知识的结构化表示，理论保证反事实公平，并在实验中同时提升公平性与预测准确性。
2023-12-16 cs.AI cs.CY cs.LG
Fairness Risks for Group-conditionally Missing Demographics
Department of Computer Science, University of Illinois at Chicago（伊利诺伊大学芝加哥分校计算机科学系）；Amazon（亚马逊）
针对敏感特征因群体依赖性而缺失导致公平性模型受限的问题，提出在变分自编码器中联合学习群体条件缺失概率并结合概率插补增强公平性风险，在图像与表格数据上实现了准确性与公平性的更好平衡。
2025-04-30 cs.CY cs.LG
FairPFN: Transformers Can do Counterfactual Fairness
University of Freiburg（弗莱堡大学）；Zuse School ELIZA（楚塞ELIZA学院）；Charité（夏里特医学院）；ELLIS Institute Tübingen（蒂宾根ELLIS研究院）
本文提出 FairPFN，一种基于 ICL 与 PFN、用合成公平数据预训练的 Transformer，可无需真实因果模型而从观测数据中消除受保护属性的因果影响。
2024-07-08 cs.AI cs.CY cs.LG
"Explain it in the Same Way!" -- Model-Agnostic Group Fairness of Counterfactual Explanations
Bielefeld University（比勒费尔德大学）；University of Cyprus（塞浦路斯大学）
反事实解释是一种流行的解释类型，用于使决策系统的结果对用户透明。反事实解释告诉用户做什么，以改变系统的结果在一个理想的方式。然而，最近发现，关于如何做的建议在受保护的个人群体之间的复杂性可能有很大差异。向一个群体提供更困难的行动建议会导致这个群体与其他群体相比处于不利地位。在这项工作中，我们提出了一个模型不可知的方法计算反事实的解释，不显着不同的保护组之间的复杂性。
2022-11-27 cs.AI cs.CY cs.LG
Procedural Fairness via Group Counterfactual Explanation
Gianforte School of Computing, Montana State University, Bozeman, MT, USA（蒙大拿州立大学戈登福特 computing 学院，博兹曼，MT，美国）
本文提出GCIG框架，通过强制跨群体解释不变性提升程序公平性，实验证明其能有效减少跨群体解释差异并保持预测性能。
2026-03-11 cs.AI cs.CY cs.LG
On Demographic Group Fairness Guarantees in Deep Learning
Harvard AI and Robotics Lab at Harvard University（哈佛大学人工智能与机器人实验室）；Embodied AI and Robotics (AIR) Lab at New York University（纽约大学具身人工智能与机器人实验室）；School of Computing and Informatics, University of Louisiana at Lafayette（路易斯安那州立大学拉法叶分校计算机与信息学院）
本文提出Fairness-Aware Regularization方法，通过减少组间特征差异提升模型公平性与准确性。
2026-02-28 cs.CY cs.LG
FACEGroup: Feasible and Actionable Counterfactual Explanations for Group Fairness
University of Ioannina（伊奥安纳大学）；Archimedes, Athena Research Center（阿基米德研究所）；Boston University（波士顿大学）
本文提出基于图的FACEGroup框架，通过建模可行性约束、识别相似子群并捕捉权衡，生成可行的群体反事实解释以审计群体公平性，并引入新指标量化公平性差异。
2025-09-08 cs.AI cs.LG stat.ME
Grad2Fair: A Gradient-driven Approach for Graph Fairness without Demographics
School of Computer Science and Engineering, Sun Yat-Sen University（中山大学计算机科学与工程学院）；School of Software Engineering, Sun Yat-sen University（中山大学软件工程学院）；Institute of Artificial Intelligence, Xiamen University（厦门大学人工智能研究所）
研究无人口统计信息的图公平性问题，提出基于梯度分布的GradDist度量偏差，进而提出梯度引导的Grad2Fair方法，直接利用梯度去偏并消除人口统计预测，实验验证该方法在多数情况下性能优于基线。
2026-07-17 cs.LG
Lookahead Counterfactual Fairness
The Ohio State University（俄亥俄州立大学）
针对反事实公平性忽视预测对个体下游影响的问题，提出前瞻反事实公平性 LCF，给出可满足条件、算法及路径依赖扩展，并通过合成与真实数据实验验证。
2024-12-02 cs.AI cs.LG stat.ML
Fairness Index Measures to Evaluate Bias in Biometric Recognition
Idiap Research Institute（Idiap研究所）；University of Lausanne（洛桑大学）
本文提出基于分数分布统计特征的多种公平性指数，用于评估生物识别系统的人口统计偏差，并引入非线性加权策略以缓解数据集不平衡影响，适用于多种生物识别模态。
2023-06-19 cs.CV cs.CY cs.LG
Counterfactual Risk Assessments, Evaluation, and Fairness
Carnegie Mellon University（卡内基梅隆大学）
医学风险评估越来越多地用于帮助人类在高风险环境中做出决策，如医学，刑事司法和教育。在每一种情况下，风险评估工具的目的都是为医疗或释放条件等行动提供信息，其目的往往是降低再次入院或累犯等不良事件的可能性。问题是，大多数工具都是根据历史数据进行训练和评估的，其中观察到的结果取决于历史决策政策。因此，这些工具反映了历史政策下的风险，而不是该工具旨在提供信息的不同决策选项下的风险。即使构建工具来预测特定决策下的风险，它们也经常被不正确地评估为目标结果的预测因子。专注于评估任务，在本文中，我们定义了常见的预测性能和算法的公平性指标，我们认为更适合于决策环境的反事实的类似物。我们介绍了一种新的方法，估计建议的指标使用双重稳健估计。我们提供的理论结果表明，只有在强的条件下，公平性，根据标准度量和反事实度量同时举行。因此，在标准公平度量中以均等为目标的公平促进方法可能-正如我们的经验所示，确实-在反事实模拟中引起更大的不平衡。我们提供的合成数据和现实世界的儿童福利数据集的实证比较，以证明所提出的方法如何提高标准实践。
2020-01-10 cs.CY cs.LG stat.AP
Learning Counterfactually Fair Models via Improved Generation with Neural Causal Models
针对现有反事实公平方法的样本生成与正则项局限，提出用带核最小二乘损失的神经因果模型改进反事实生成，并结合MMD正则项显式约束公平性，实现了公平性与泛化性的更优权衡。
2025-09-05 cs.LG
Demographic-Agnostic Fairness without Harm
针对基于偏好的公平性依赖已知人口统计信息的问题，提出DAFH算法，联合学习群体分类器与解耦分类器，并通过理论分析和合成及真实数据实验验证其效果。
2025-09-28 cs.LG stat.ML
Fairness without Demographics through Adversarially Reweighted Learning
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Google Research（谷歌研究院）
许多以前的机器学习（ML）公平性文献假设数据集中存在种族和性别等受保护的特征，并依赖它们来减轻公平性问题。然而，在实践中，隐私和监管等因素往往排除了受保护的功能的收集，或用于培训或推理，严重限制了传统的公平性研究的适用性。因此，我们要问：当我们甚至不知道受保护的组成员时，我们如何训练ML模型来提高公平性？在这项工作中，我们通过提出逆向重新加权学习（ARL）来解决这个问题。特别是，我们假设不受保护的特征和任务标签对于识别公平性问题是有价值的，并且可以用于共同训练对抗性重新加权方法以提高公平性。我们的研究结果表明，{ARL}提高了罗尔斯最大-最小公平性，在多个数据集中最坏情况下的保护组的AUC显著改善，优于最先进的替代方案。
2020-11-03 cs.LG stat.ML
Partial Identification Approach to Counterfactual Fairness Assessment
Columbia University（哥伦比亚大学）；Syracuse University（Syracuse大学）
针对反事实公平性度量难以从观测数据中评估的问题，本文提出基于部分识别的贝叶斯方法，以高置信度推导度量边界，并在COMPAS数据集上验证了算法，揭示了种族、年龄对再犯风险评分的不同效应。
2025-09-30 cs.AI cs.CY cs.LG
Selection, Ignorability and Challenges With Causal Fairness
University of Oxford（牛津大学）
在本文中，我们看看流行的公平方法，使用因果反事实。这些方法捕捉到了一个直观的概念，即如果一个人的种族、性别或宗教与事实不符，那么如果这个预测与预测相吻合，那么这个预测就是公平的。为了实现这一点，我们必须有因果模型，能够捕捉到如果我们要反事实地改变这些特征，某人会是什么样子。然而，我们认为，任何模型，可以做到这一点必须位于特别表现良好的类，通常认为在公平文献之外。这是因为在公平环境中，这类模型需要特别强的因果假设，通常只在随机对照试验中看到。我们认为，在一般情况下，这是不太可能举行。此外，我们表明，在许多情况下，它可以被明确拒绝，因为样本是从更广泛的人群中选择的。我们发现这给反事实公平以及更一般的因果公平方法的应用带来了困难。
2022-03-02 cs.LG stat.ML
Breaking the Dyadic Barrier: Rethinking Fairness in Link Prediction Beyond Demographic Parity
针对链路预测中现有二元公平性定义掩盖子群体差异、人口统计学均等不适用排序任务的问题，提出新评估框架及轻量级后处理结合解耦预测器的方法，缓解偏差并优化公平性-效用权衡。
2025-11-16 cs.AI cs.LG cs.SI
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas（阿肯色大学）
在在线推荐中，客户从底层分布以顺序和随机的方式到达，并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目，以最大化预期回报，同时实现用户端公平的客户，即，共享相似简档的客户将接收相似的奖励，而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略，我们首先提出了基于d-分离的UCB算法（D-UCB），以探索利用d-分离集来减少所需的探索量，以实现低累积遗憾。在此基础上，我们提出了公平因果强盗（F-UCB）实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
Achieving Fairness Without Harm via Selective Demographic Experts
本文提出一种无伤害公平性方法，通过为不同人口统计群体学习独立表示并选择性应用群体特定专家，在医疗和人脸数据集上验证了其能在不损害性能的前提下实现公平。
2025-11-09 cs.LG
Are demographically invariant models and representations in medical imaging fair?
Technical University of Denmark（丹麦技术大学）；Pioneer Centre for AI（人工智能先锋中心）；Research Institute for Signals, Systems and Computational Intelligence (CONICET)（信号、系统与计算智能研究所（CONICET））；Universidad Nacional del Litoral（国立 littoral 大学）；University of Copenhagen（哥本哈根大学）；Neurobiology Research Unit, Rigshospitalet（哥本哈根大学医院神经生物学研究单元）
本文论证医学影像中人口统计学不变的表征既非公平的必要条件也非充分条件，并指出模型可能需要编码人口统计学属性，呼吁开展全面的模型公平性评估。
2024-07-03 cs.CY cs.LG eess.IV
Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Aix Marseille Univ, CNRS, AMSE（艾克斯-马赛大学、国家科学研究中心、AMSE）；CNRS - Université de Montréal（国家科学研究中心-蒙特利尔大学）
本文结合因果图适配与最优传输，将Knothe重排和三角传输扩展至概率图模型，提出序列传输方法以探讨个体层面的反事实公平性，并通过数值实验验证其应用。
2025-04-28 cs.LG stat.ME
On the Fairness of Randomized Trials for Recommendation with Heterogeneous Demographics and Beyond
推荐中的观测事件是决策的结果，因此通常被选择性地标记，即数据为非随机缺失（MNAR），这往往会对真实结果风险的估计产生较大的偏差。纠正MNAR偏倚的一般方法是进行小型随机对照试验（RCT），其中采用额外的统一政策将项目随机分配给每个用户。在这项工作中，我们专注于公平的随机对照试验在同质和异质人口统计学，特别是分析偏见的最不利的组在后者设置。考虑到随机对照试验的局限性，本文提出了一种新的无需昂贵随机对照试验的反事实稳健风险最小化（CRRM）框架，并推导了其理论泛化误差界。最后，在合成任务和真实数据集上进行了实验，验证了该方法在公平性和泛化能力上的优越性。
2021-10-04 cs.LG stat.ML
Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions
本文提出CEC框架，通过对个体与反事实对照体的特征归因对齐，检测并缓解隐藏的程序性偏见，提升信用决策的公平性。
2026-05-12 cs.AI cs.CE cs.CY
Efficient and Interpretable Transformer for Counterfactual Fairness
Acturial and Risk Mangament Sciences, University of Illinois Urbana-Champaign（精算与风险管理科学，伊利诺伊大学厄巴纳-香槟分校）
本文提出FCorrTransformer和CAR框架，通过特征相关性建模提升模型公平性与效率，实验证明其在不平衡分类和回归任务中表现优异。
2026-04-29 cs.LG
Is invariance all you need for algorithmic fairness? Removing demographic information can create new bias
本文研究算法公平性中人口统计表示不变性的作用，证明强制不变性可能阻碍偏见缓解甚至产生新偏见，并区分边缘与类条件不变性，指出其分别对应人口统计均等和均等化几率，经理论和实证验证，认为不变性对公平性既不可取也不充分。
2026-09-29 cs.AI cs.LG
