Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia（弗吉尼亚大学）；City University of Hong Kong（香港城市大学）；Microsoft（微软）
公平机器学习旨在减轻模型预测对某些亚群的偏见，这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中，反事实公平性通过比较每个个体从原始数据和反事实的预测，从因果的角度衡量模型的公平性。在反事实中，这个人的敏感属性值被修改了。近年来，一些研究将反事实公平性扩展到图数据，但大多数研究都忽略了以下可能导致偏差的事实：1）每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2）敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题，在本文中，我们提出了一个新的公平概念-图反事实公平，它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示，我们提出了一种新的框架，基于反事实数据增强。在这个框架中，我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后，我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明，我们的框架在图反事实公平性方面优于最先进的基线，并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
Disentangled Representation with Causal Constraints for Counterfactual Fairness
University of South Australia（南澳大学）；Simon Fraser University（西蒙弗雷泽大学）
针对公平表示学习忽视隐变量因果关系的问题，提出CF-VAE学习符合领域知识的结构化表示，理论保证反事实公平，并在实验中同时提升公平性与预测准确性。
2023-12-16 cs.AI cs.CY cs.LG
Counterfactual Fairness Evaluation of Machine Learning Models on Educational Datasets
Department of Computer Science and Engineering, Korea University, South Korea（计算机科学与工程系，韩国大学，韩国）
本文针对教育数据，通过基准数据集上的反事实公平性分析，揭示敏感属性的因果影响，为教育场景中的个体公平性评估提供新视角。
2025-04-20 cs.CY cs.LG
"Explain it in the Same Way!" -- Model-Agnostic Group Fairness of Counterfactual Explanations
Bielefeld University（比勒费尔德大学）；University of Cyprus（塞浦路斯大学）
反事实解释是一种流行的解释类型，用于使决策系统的结果对用户透明。反事实解释告诉用户做什么，以改变系统的结果在一个理想的方式。然而，最近发现，关于如何做的建议在受保护的个人群体之间的复杂性可能有很大差异。向一个群体提供更困难的行动建议会导致这个群体与其他群体相比处于不利地位。在这项工作中，我们提出了一个模型不可知的方法计算反事实的解释，不显着不同的保护组之间的复杂性。
2022-11-27 cs.AI cs.CY cs.LG
Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions
本文提出CEC框架，通过对个体与反事实对照体的特征归因对齐，检测并缓解隐藏的程序性偏见，提升信用决策的公平性。
2026-05-12 cs.AI cs.CE cs.CY
Procedural Fairness via Group Counterfactual Explanation
Gianforte School of Computing, Montana State University, Bozeman, MT, USA（蒙大拿州立大学戈登福特 computing 学院，博兹曼，MT，美国）
本文提出GCIG框架，通过强制跨群体解释不变性提升程序公平性，实验证明其能有效减少跨群体解释差异并保持预测性能。
2026-03-11 cs.AI cs.CY cs.LG
Shortcomings of Counterfactual Fairness and a Proposed Modification
London School of Economics and Political Science（伦敦政治经济学院）
在本文中，我认为，反事实的公平性并不构成一个算法是公平的必要条件，并随后提出如何修改约束，以弥补这一缺陷。为此，我讨论了一个假设的情况下，反事实的公平和公平的直觉判断来分开。然后，我转向的问题，歧视的概念可以解释，以检查的缺点，反事实的公平性作为一个必要条件的算法公平性更详细。然后，我将这种分析的见解到一个新的公平约束，因果相关公平，这是一个修改的反事实公平约束，似乎规避其缺点。
2020-11-14 cs.AI cs.LG stat.ML
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas（阿肯色大学）
在在线推荐中，客户从底层分布以顺序和随机的方式到达，并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目，以最大化预期回报，同时实现用户端公平的客户，即，共享相似简档的客户将接收相似的奖励，而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略，我们首先提出了基于d-分离的UCB算法（D-UCB），以探索利用d-分离集来减少所需的探索量，以实现低累积遗憾。在此基础上，我们提出了公平因果强盗（F-UCB）实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
Counterfactual Fairness Is Not Demographic Parity, and Other Observations
University College London（伦敦大学学院）
本文驳斥了反事实公平等同于人口统计均等的观点，并澄清了关于反事实公平的常见误解。
2024-02-05 cs.CY cs.LG stat.ML
Adversarial Learning for Counterfactual Fairness
Sorbonne Université（索邦大学）；LIP6/CNRS（法国国家科学研究中心计算机科学实验室）；AXA REV Research（安盛研究）
近年来，公平性已经成为机器学习研究界的一个重要话题。特别是，反事实公平的目的是建立预测模型，确保在最个人的水平公平。这个想法不是从全局上考虑整个人口的公平性，而是想象任何一个人在给定的兴趣属性（例如不同的性别或种族）变化的情况下会是什么样子。现有的方法依赖于个体的变分自动编码，使用最大平均离散（MMD）惩罚来限制推断表示与其相应的敏感属性的统计依赖性。这使得能够模拟用于训练目标公平模型的反事实样本，目标是为任何个体的每个替代版本产生类似的结果。在这项工作中，我们建议依赖于一种对抗性神经学习方法，这种方法可以实现比MMD惩罚更强大的推理，并且特别适合连续设置，其中敏感属性的值不能被穷举。实验表明，显着的改善，无论是离散和连续设置的反事实的公平性。
2020-08-30 cs.AI cs.CY cs.LG
FACEGroup: Feasible and Actionable Counterfactual Explanations for Group Fairness
University of Ioannina（伊奥安纳大学）；Archimedes, Athena Research Center（阿基米德研究所）；Boston University（波士顿大学）
本文提出基于图的FACEGroup框架，通过建模可行性约束、识别相似子群并捕捉权衡，生成可行的群体反事实解释以审计群体公平性，并引入新指标量化公平性差异。
2025-09-08 cs.AI cs.LG stat.ME
Achieving Counterfactual Fairness for Anomaly Detection
Utah State University（犹他州立大学）；University of Arkansas（阿肯色大学）；Clemson University（克莱姆森大学）
由于许多异常检测应用都涉及到人类，因此保证异常检测模型的公平性受到了广泛关注。然而，现有的公平异常检测方法主要集中在基于关联的公平性的概念。在这项工作中，我们的目标是反事实公平，这是一个普遍的基于因果关系的公平概念。反事实公平异常检测的目标是确保个体在事实世界中的检测结果与个体属于不同群体的反事实世界中的检测结果相同。为此，我们提出了一个反事实公平的异常检测（CFAD）框架，其中包括两个阶段，反事实数据生成和公平的异常检测。在一个人工数据集和两个真实数据集上的实验结果表明，CFAD能够有效地检测异常，并确保反事实公平性。
2023-03-04 cs.LG
Partial Identification Approach to Counterfactual Fairness Assessment
Columbia University（哥伦比亚大学）；Syracuse University（Syracuse大学）
针对反事实公平性度量难以从观测数据中评估的问题，本文提出基于部分识别的贝叶斯方法，以高置信度推导度量边界，并在COMPAS数据集上验证了算法，揭示了种族、年龄对再犯风险评分的不同效应。
2025-09-30 cs.AI cs.CY cs.LG
Counterfactual Fairness in Mortgage Lending via Matching and Randomization
Albers School of Business and Economics（阿尔伯斯商业与经济学院）；Seattle University（西雅图大学）
抵押贷款中的不公平造成了美国种族和族裔群体之间的代际不平等。许多研究解决了这个问题，但大多数现有的工作集中在基于相关性的技术。在我们的工作中，我们使用反事实公平的框架来训练公平的机器学习模型。我们提出了一个新的因果关系图的变量在住房抵押贷款披露法案（HMDA）的数据。我们使用基于匹配的方法，而不是潜变量建模方法，因为前一种方法不依赖于任何建模假设。此外，匹配为我们提供了反事实对，其中种族变量是孤立的。我们首先证明了非洲裔美国人和非西班牙裔白人亚群之间的抵押贷款批准和利率的不公平性。然后，我们证明了使用匹配来平衡数据并不能保证机器学习模型的完美反事实公平性。
2021-12-03 cs.CY cs.LG
Counterfactual Fairness in Text Classification through Robustness
Stanford University（斯坦福大学）；Google AI（谷歌人工智能）
本文研究文本分类中的反事实公平性，提出了这样一个问题：如果示例中引用的敏感属性不同，预测结果会如何变化？毒性分类器通过预测“有些人是同性恋”是有毒的，而“有些人是异性恋”是无毒的，证明了一个反事实的公平问题。我们提供了一个度量，反事实令牌公平性（CTF），用于测量这种特殊形式的公平性在文本分类器，并描述其与组公平性的关系。此外，我们提供了三种方法，盲法，反事实增强和反事实logit配对（CLP），用于优化训练过程中的反事实令牌公平性，桥接鲁棒性和公平性文献。根据经验，我们发现盲目性和CLP解决了反事实令牌公平性。这些方法不会损害分类器的性能，并与组公平性有不同的权衡。这些方法，无论是测量和优化，提供了一个新的路径前进，解决文本分类的公平性问题。
2019-02-13 cs.LG stat.ML
Counterfactually Fair Conformal Prediction
UC Santa Barbara（加州大学圣芭芭拉分校）；Munich RE（慕尼黑再保险）
CF-CP通过反事实公平的预测集实现公平不确定性量化，适用于回归和分类任务。
2026-03-12 cs.LG
Bursting the Burden Bubble? An Assessment of Sharma et al.'s Counterfactual-based Fairness Metric
Utrecht University（乌得勒支大学）
机器学习近年来的负面宣传有所增加，这是由于偏见、不公平和不可解释的模型。人们越来越有兴趣让机器学习模型对弱势群体（如女性或有色人种）更加公平。评价一个模型的公平性，需要有一个标准。一个新的度量评估组之间的公平性是负担，它使用反事实近似的平均距离，一组中的负面分类的个人的决策边界的模型。本研究的目的是比较负担的统计平价，一个众所周知的公平性度量，并发现负担的优点和缺点。我们通过计算三个数据集中敏感属性的负担和统计奇偶性来做到这一点：创建两个合成数据集来显示两个度量之间的差异，并使用一个真实世界数据集。我们表明，负担可以显示不公平的统计平价不能，这两个指标甚至可以不同意哪个组是不公平的待遇。我们的结论是，负担是一个有价值的指标，但不能取代统计平价：而是有价值的使用两者。
2022-11-21 cs.AI cs.CY cs.LG
Towards Substantive Conceptions of Algorithmic Fairness: Normative Guidance from Equal Opportunity Doctrines
New York University（纽约大学）；Surveillance Technology Oversight Project（监控技术监督项目）
在这项工作中，我们使用平等机会（EO）的政治哲学学说，明确的规范性判断嵌入在不同的概念算法公平性。我们对比正式的EO方法，狭隘地集中在公平的竞争在离散的决策点，与实质性的EO学说，看看人们的公平生活的机会，更全面地在一生中。我们使用这种分类法来提供一个道德解释的不可能的结果之间的不相容的公平竞争的不同概念-向前看与向后看-当人们没有公平的生活机会。我们用这个结果来激发实质性的概念算法公平性和概述两个合理的程序的基础上的运气平等主义学说的EO，罗尔斯的公平机会均等的原则。
2022-07-11 cs.AI cs.CY cs.LG
Counterfactual Reasoning for Fair Clinical Risk Prediction
Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心）；Stanford University（斯坦福大学）
使用机器学习系统来支持医疗保健决策提出了一个问题，即由于电子健康记录中的观察数据中隐含的偏见，这些系统可能会在多大程度上引入或加剧历史上代表性不足和受虐待群体的护理差异。为了在临床风险预测模型的背景下解决这个问题，我们开发了一个增强的反事实公平标准，以将均衡赔率的组公平标准扩展到个人水平。我们这样做是因为，如果事实和反事实的结果没有差别，我们要求对一个病人和一个由改变敏感属性而产生的反事实病人做出相同的预测。我们调查了增强的反事实公平性标准在多大程度上可以应用于开发公平模型，用于观察电子健康记录数据的住院时间延长和死亡率。由于公平性准则是不明确的，没有知识的数据生成过程中，我们使用变分自编码器来执行反事实推理的背景下，假设的因果图。虽然我们的技术提供了一种在学习生成模型的背景下权衡公平性维护与预测性能降低的方法，但需要进一步的工作来评估这种方法的一般性。
2019-07-14 cs.CY cs.LG stat.ML
Counterfactually Fair Regression via Optimal Transport
Inria, Soda team（Inria，Soda团队）；Inria, FairPlay joint team（Inria，FairPlay联合团队）；CREST, ENSAE, IP Paris（CREST，ENSAE，IP巴黎）；CMAP, CNRS, Ecole Polytechnique, Institut Polytechnique de Paris（CMAP，CNRS，Polytechnique学院，巴黎理工学院）
本文采用因果不确定性视角，通过重采样噪声定义反事实公平性，提出基于最优传输的后处理估计器，并证明其有限样本公平性保证和风险界。
2026-05-27 cs.CY cs.LG stat.ML
Fairness Aware Counterfactuals for Subgroups
Athena Research Center（雅典娜研究中心）；Université Libre De Bruxelles（布鲁塞尔自由大学）；National Technical University of Athens（雅典国立技术大学）
本文提出FACTS框架，通过反事实解释审计子组公平性，引入更精细的子组公平性概念及高效可解释的评估框架，并在多个基准数据集上验证了其优势与广泛适用性。
2023-06-26 cs.CY cs.LG
CAFP: A Post-Processing Framework for Group Fairness via Counterfactual Model Averaging
Bain&Company（贝恩公司）
本文提出CAFP方法，通过生成反事实输入并平均预测结果，实现无需重新训练的公平性提升，理论分析显示其能消除敏感属性影响并降低公平差距。
2026-04-08 cs.AI cs.LG
Fairness Through Counterfactual Utilities
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
针对现有群体公平性定义局限于分类问题且在其他机器学习环境中存在多种定制化解释的问题，提出基于效用和反事实结果的广义公平框架，解决了分类、聚类和强化学习中的公平性问题。
2022-02-12 cs.CY cs.LG
Personalized Counterfactual Fairness in Recommendation
Rutgers University（罗格斯大学）
随着越来越多的用户使用推荐系统进行信息搜索和决策，推荐系统对人类和社会产生了越来越重要的影响。因此，解决推荐中潜在的不公平问题至关重要。就像用户对物品有个性化偏好一样，用户对公平性的诉求在很多场景下也是个性化的。因此，为用户提供个性化的公平推荐，以满足其个性化的公平需求是非常重要的。此外，以往的公平推荐工作主要集中在基于关联的公平性。然而，重要的是要从关联公平的概念，因果公平的概念，更恰当地评估公平的推荐系统。基于上述考虑，本文重点研究了在推荐系统中实现个性化的反事实公平性。为此，我们引入了一个框架，通过生成功能独立的用户嵌入推荐，通过对手学习实现反事实公平的建议。该框架允许推荐系统实现个性化的公平性，同时也涵盖非个性化的情况下，用户。在两个真实数据集上使用浅层和深层推荐算法进行的实验表明，该方法可以为用户生成更公平的推荐，并具有理想的推荐性能。
2021-11-05 cs.AI cs.IR cs.LG
Learning Counterfactually Fair Models via Improved Generation with Neural Causal Models
针对现有反事实公平方法的样本生成与正则项局限，提出用带核最小二乘损失的神经因果模型改进反事实生成，并结合MMD正则项显式约束公平性，实现了公平性与泛化性的更优权衡。
2025-09-05 cs.LG
Counterfactual Fairness with Disentangled Causal Effect Variational Autoencoder
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
如果我们能开发出一种方法来去除分类特征中隐藏的敏感信息，那么公平分类的问题就可以得到缓解。这条分离敏感信息的线是通过因果推理发展起来的，因果推理使反事实世代能够对比相反敏感属性的假设情况。随着这种与因果关系的分离，深层潜在因果模型中的一个频繁假设定义了一个单一的潜在变量来吸收因果图的整个外生不确定性。然而，我们声称这种结构不能区分1）由干预引起的信息（即，敏感变量）和2）来自数据的与干预相关的信息。因此，本文提出了解纠缠因果效应变分自编码器（DCEVAE）来解决这一局限性，它将外生不确定性分解为两个潜在变量：1）与干预措施无关; 2）与干预措施相关而无因果关系。特别是，我们的解开方法保留了潜在的变量相关的干预措施，在生成反事实的例子。我们表明，我们的方法估计的总效果和反事实的效果没有一个完整的因果图。通过添加公平正则化，DCEVAE生成反事实公平数据集，同时丢失较少的原始信息。此外，DCEVAE仅通过翻转敏感信息来生成自然的反事实图像。此外，我们从理论上展示了DCEVAE的协方差结构的差异和以前的工作的潜在的解纠缠的角度来看。
2020-12-09 cs.AI cs.LG
Ensuring Equitable Financial Decisions: Leveraging Counterfactual Fairness and Deep Learning for Bias
Nihilent Technologies Ltd.（Nihilent科技有限公司）
本文针对机器学习模型在贷款审批等关键决策中的性别偏见问题，提出结合反事实公平与数据增强的偏见缓解技术，并在偏斜金融数据集上验证了其能有效实现更公平的决策结果。
2024-08-27 cs.AI cs.LG
Counterfactual Reasoning for Bias Evaluation and Detection in a Fairness under Unawareness setting
Polytechnic University of Bari（巴里理工大学）；Università degli Studi di Bari Aldo Moro（巴里大学阿尔多·莫罗）
本研究针对无意识公平场景下算法仍可能通过代理特征产生歧视的问题，提出基于反事实推理的黑盒模型偏差检测方法，可识别敏感代理特征，实验证实无敏感特征训练的模型仍常存歧视偏差。
2023-08-26 cs.AI cs.CY cs.LG
Learning for Counterfactual Fairness from Observational Data
University of Virginia（弗吉尼亚大学）；Bytedance Research（字节跳动研究院）
针对因果模型未知导致反事实公平预测困难的问题，本文提出 CLAIRE 框架，利用反事实数据增强与不变惩罚进行表示学习，在合成及真实数据上提升公平性与预测效果。
2023-07-17 cs.CY cs.LG stat.ML
On Learning and Testing of Counterfactual Fairness through Data Preprocessing
North Carolina State University（北卡罗来纳州立大学）；Indian Institute of Management（印度管理学院）
机器学习在现实生活中的决策中变得越来越重要，但人们担心它在使用不当时可能带来的伦理问题。最近的工作将机器学习公平性的讨论引入因果框架，并详细阐述了反事实公平性的概念。在本文中，我们开发了通过dAta预处理进行公平学习（FLAP）算法，以从有偏见的训练数据中学习反事实公平决策，并形式化应使用不同数据预处理程序来保证反事实公平性的条件。我们还表明，反事实的公平性是等价的条件独立的决定和敏感属性的处理非敏感属性，这使我们能够检测歧视的原始决策使用处理后的数据。我们的算法的性能说明使用模拟数据和现实世界的应用程序。
2022-02-25 cs.LG stat.ML
Equal Opportunity and Affirmative Action via Counterfactual Predictions
Columbia University（哥伦比亚大学）
机器学习（ML）可以通过学习从历史数据中预测决策来自动化决策。然而，这些预测因素可能会从过去的决策中继承歧视性政策，并复制不公平的决策。在本文中，我们提出了两种算法，调整拟合的ML预测，使它们公平。我们专注于公平的两个法律概念：（a）提供平等的机会（EO），无论个人的敏感属性和（b）通过平权行动（AA）修复历史上的劣势。从技术上讲，我们通过建立因果模型并考虑反事实决策来产生公平的EO和AA预测。我们证明了所得到的预测理论上是最佳的预测性能，同时满足公平性。我们评估算法，以及准确性和公平性之间的权衡，关于入学，收入，信用和累犯的数据集。
2019-05-29 cs.LG stat.ML
Counterfactual Fairness with Graph Uncertainty
Instituto Superior Técnico（里斯本技术高等学院）；Instituto de Telecomunicações（电信研究所）；Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS研究所）
本文提出CF-GU方法，通过整合因果图的不确定性，提升反事实公平性评估的鲁棒性和准确性。
2026-01-06 cs.AI cs.CY cs.LG
Lookahead Counterfactual Fairness
The Ohio State University（俄亥俄州立大学）
针对反事实公平性忽视预测对个体下游影响的问题，提出前瞻反事实公平性 LCF，给出可满足条件、算法及路径依赖扩展，并通过合成与真实数据实验验证。
2024-12-02 cs.AI cs.LG stat.ML
Counterfactual Fairness
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）；New York University（纽约大学）；University of Surrey（萨里大学）；University College London（伦敦大学学院）
当机器学习用于自动化保险、贷款、招聘和预测性警务等领域的决策时，它可能会对人们产生法律或道德后果。在许多这样的情况下，先前的决定对某些亚群有不公平的偏见，例如那些特定的种族，性别或性取向。由于这些过去的数据可能有偏见，机器学习预测器必须考虑到这一点，以避免延续或创造歧视性做法。在本文中，我们开发了一个框架，公平性建模工具，从因果推断。我们对反事实公平的定义抓住了这样一种直觉：如果一个决定在（a）现实世界和（b）一个反事实世界中是相同的，那么这个决定对一个人是公平的，在这个反事实世界中，这个人属于不同的人口统计群体。我们展示了我们的框架上的一个现实世界的问题，公平的预测成功的法学院。
2018-03-08 cs.CY cs.LG stat.ML
COPF: An Online Framework for Deployment-Stable Counterfactual Fairness in Evolving Graphs
Shanghai Jiao Tong University（上海交通大学）
针对演化图上的在线链接推荐，提出COPF框架，通过反事实暴露机会差距、显式探索和残差不可区分性审计，实现部署稳定的公平性监控与控制。
2026-05-30 cs.AI cs.LG
Fairness as Equality of Opportunity: Normative Guidance from Political Philosophy
New York University（纽约大学）
最近的兴趣编纂的公平性在自动决策系统（ADS），导致了广泛的配方是什么意思的算法系统是公平的。这些主张大多受到政治哲学学术的启发，但没有充分地扎根于政治哲学学术。本文旨在纠正这一缺陷。我们引入了一个公平理想的分类法，从政治哲学的机会均等（EOP）的原则，澄清他们的哲学概念和公平机器学习的建议编纂。我们安排这些公平的理想上的EOP频谱，这是一个有用的框架，以指导设计一个公平的ADS在给定的上下文中。我们使用我们的公平作为EOP框架，重新解释不可能的结果从哲学的角度来看，不同的价值体系之间的不兼容性，并展示了几个现实世界和假设的例子的框架的效用。通过我们的EOP框架，我们希望从道德和政治哲学的角度回答ADS公平意味着什么，并为道德和法律专家的类似奖学金铺平道路。
2021-06-15 cs.AI cs.CY cs.LG
Counterfactually Fair Regression with Double Machine Learning
Centre for Social Research and Methods（社会研究与方法中心）；Australian National University（澳大利亚国立大学）
反事实公平是人工智能公平的一种方法，它试图根据具有某种敏感状态的个人在没有这种状态的情况下会产生的结果来做出决策。本文提出了双重机器学习（DML）公平性，它将回归问题中的反事实公平性问题类比为潜在结果框架下因果推理中估计反事实结果的问题。它使用任意机器学习方法来部分消除敏感变量对非敏感变量和结果的影响。假设两组变量的影响是可加性分离的，结果将近似相等，个人水平的结果将是反事实公平的。本文演示了在模拟研究有关歧视工作场所招聘和应用程序的真实数据估计法学院学生的GPA的方法。然后，它讨论了当它是适当的应用这样一种方法来解决现实世界中的歧视问题的结构是概念上复杂的，最后，是否DML公平可以实现正义，在这些设置。
2023-03-21 cs.LG stat.ME
Towards Fair Graph Neural Networks via Graph Counterfactual
The Pennsylvania State University（宾夕法尼亚州立大学）；New Jersey Institute of Technology（新泽西理工学院）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
针对现有公平图神经网络依赖统计公平易受统计异常影响、图反事实方法生成的反事实不真实的问题，本文提出CAF框架，从训练数据中选取反事实学习公平节点表示，实验验证了其有效性。
2023-08-21 cs.LG
Counterfactual Fairness with Partially Known Causal Graph
The University of Melbourne（墨尔本大学）；The University of Sydney（悉尼大学）；Hong Kong Baptist University（香港浸会大学）；Carnegie Mellon University（卡内基梅隆大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
公平的机器学习旨在避免基于\textit{sensitive attributes}（如性别和种族）对个人或子群体进行不利的处理。公平机器学习中那些建立在因果推理基础上的方法通过因果效应来确定歧视和偏见。虽然基于因果图的公平学习越来越受到关注，但目前的方法假设真正的因果图是完全已知的。本文提出了一种通用的方法来实现反事实公平的概念时，真正的因果图是未知的。为了能够选择功能，导致反事实的公平性，我们推导出的条件和算法，以确定祖先的变量之间的关系在\textit{Partially Directed Acyclic Graph (PDAG)}，特别是一类因果DAG，可以从观察数据结合领域知识。有趣的是，我们发现，反事实的公平性可以实现，如果真正的因果图是完全已知的，当提供特定的背景知识：敏感属性没有祖先的因果图。模拟和真实世界的数据集上的结果证明了我们的方法的有效性。
2023-01-17 cs.LG
Evidence Without Injustice: A New Counterfactual Test for Fair Algorithms
Arizona State University（亚利桑那州立大学）
本文提出一种新的反事实检验，评估算法输出的证据价值是否依赖结构性不公，发现预测性警务算法失败而摄像头系统通过，并论证基于未通过检验的证据进行惩罚在道德上更有问题。
2025-10-25 cs.AI cs.CY cs.LG
Efficient and Interpretable Transformer for Counterfactual Fairness
Acturial and Risk Mangament Sciences, University of Illinois Urbana-Champaign（精算与风险管理科学，伊利诺伊大学厄巴纳-香槟分校）
本文提出FCorrTransformer和CAR框架，通过特征相关性建模提升模型公平性与效率，实验证明其在不平衡分类和回归任务中表现优异。
2026-04-29 cs.LG
Towards Counterfactual Fairness-aware Domain Generalization in Changing Environments
School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）；Department of Computer Science, Baylor University（贝勒大学计算机科学系）；GE Aerospace Research（GE航空航天研究院）；NEC Labs America（美国 NEC 实验室）
本文提出CDSAE框架，通过分离环境信息与敏感属性并引入公平性正则化，在连续变化的领域分布中同时提升模型泛化能力与分类公平性。
2024-05-06 cs.AI cs.CY cs.LG
Towards counterfactual fairness through auxiliary variables
University of Maryland（马里兰大学）；Clemson University（克莱姆森大学）
针对现有反事实公平方法忽视敏感特征内在信息的问题，提出EXOC框架，通过辅助节点与控制节点建模外生因果和信息流，在合成及真实数据集上取得优于现有方法的公平性表现。
2025-02-20 cs.DS cs.LG stat.ML
Mitigating topology biases in Graph Diffusion via Counterfactual Intervention
Purdue University（帕克大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
FairGDiff通过反事实干预缓解图扩散中的拓扑偏见，平衡公平性与实用性，优于现有方法。
2026-03-02 cs.AI cs.LG cs.SI
Sequential Conditional Transport on Probabilistic Graphs for Interpretable Counterfactual Fairness
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Aix Marseille Univ, CNRS, AMSE（艾克斯-马赛大学、国家科学研究中心、AMSE）；CNRS - Université de Montréal（国家科学研究中心-蒙特利尔大学）
本文结合因果图适配与最优传输，将Knothe重排和三角传输扩展至概率图模型，提出序列传输方法以探讨个体层面的反事实公平性，并通过数值实验验证其应用。
2025-04-28 cs.LG stat.ME
FADE: FAir Double Ensemble Learning for Observable and Counterfactual Outcomes
Carnegie Mellon University（卡内基梅隆大学）；J. P. Morgan AI Research（摩根大通人工智能研究院）
建立公平预测的方法通常涉及公平性和准确性之间以及不同公平性标准之间的权衡，但这些权衡的性质各不相同。最近的工作旨在描述这些权衡在特定的问题设置，但这些方法往往不适应用户谁希望提高现有的基准模型的公平性，而不牺牲准确性，反之亦然。这些结果通常也限于可观察的准确性和公平性标准。我们开发了一个灵活的公平集成学习框架，允许用户有效地探索公平性-准确性空间或提高基准模型的公平性或准确性。我们的框架可以同时针对多个可观察或反事实的公平标准，它使用户能够结合大量以前训练和新训练的预测。我们提供理论保证，我们的估计收敛速度快。我们将我们的方法应用于模拟和真实数据，以及可观察和反事实的准确性和公平性标准。我们发现，令人惊讶的是，多个不公平的措施，有时可以同时最小化，对准确性的影响很小，相对于无约束的预测或现有的基准模型。
2021-09-01 cs.LG stat.ML
Counterfactual Fairness by Combining Factual and Counterfactual Predictions
本研究理论分析了反事实公平性与预测性能间的固有权衡，提出一种不损失最优性的公平化方法，并设计了适用于不完整因果知识的高性能算法，实验验证了其有效性。
2025-01-22 cs.LG
Fair Recourse for All: Ensuring Individual and Group Fairness in Counterfactual Explanations
University of Applied Sciences and Arts of Southern Switzerland（瑞士南方应用科学与艺术大学）；Università della Svizzera italiana（瑞士意大利大学）
本文提出了一种基于强化学习的方法，生成同时满足个体和群体公平性的反事实解释，以提升XAI的公平性和透明度。
2026-01-28 cs.AI cs.LG
Counterfactually Fair Representation
The Ohio State University（俄亥俄州立大学）；Yahoo Research（雅虎研究院）
针对高风险场景下机器学习模型的偏见问题，本研究提出一种可利用全部特征训练模型的新算法，从理论和实证层面验证其能满足反事实公平要求，弥补了此前同类方法无理论保证的不足。
2023-11-09 cs.CY cs.LG
Under the Radar -- Auditing Fairness in ML for Humanitarian Mapping
German Aerospace Center (DLR)（德国航空航天中心）；Technical University of Munich (TUM)（慕尼黑工业大学）
利用机器学习从太空进行人道主义测绘有助于决策者及时准确地识别有需要的人。然而，最近对算法决策的公平性和透明度的担忧是将这些方法应用于实践的一个重大障碍。在本文中，我们研究，如果从空间人道主义测绘方法容易在他们的预测偏见。我们绘制乡村一级的贫困和电力价格在印度的基础上夜间灯光（NTLs）与线性回归和随机森林和分析，如果预测系统地显示对预定种姓或部落社区的偏见。为了实现这一点，我们设计了一个因果关系的方法来衡量反事实的公平性的基础上倾向得分匹配。这允许将利益共同体中的村庄与合成反事实进行比较。我们的研究结果表明，贫困是系统性的高估和电力系统低估了预定部落相比，一个合成的反事实的村庄。对贱民种姓的影响则相反，因为这些种姓的贫困被低估，而电气化被高估。这些结果是一个警告信号，在人道主义绘图的各种应用中，公平问题会损害政策目标。
2021-08-04 cs.AI cs.CY cs.LG
Towards Fair Graph Neural Networks via Graph Counterfactual without Sensitive Attributes
Guilin University of Electronic Technology（桂林电子科技大学）；Jinan University（暨南大学）
针对现有公平图神经网络反事实方法依赖敏感属性的问题，提出Fairwos框架，通过生成伪敏感属性、构建图反事实并动态调整权重实现公平性，在六个数据集上表现优于现有方法。
2024-12-13 cs.LG
A Distribution Mapping Approach to Counterfactually Fair Reinforcement Learning
University of Michigan（密歇根大学）；LSE（伦敦政治经济学院）
该研究针对强化学习在高风险场景中可能出现的不公平决策问题，提出一种结合策略学习的反事实公平数据预处理算法，通过分位数分布映射方法实现反事实状态与奖励估计，并在数值实验和真实健康数据集上验证了算法有效性。
2026-08-11 cs.CY cs.LG stat.ME
Counterfactual Situation Testing: Uncovering Discrimination under Fairness given the Difference
Scuola Normale Superiore, University of Pisa（比萨高等师范学校，比萨大学）；University of Pisa（比萨大学）
本文提出因果数据挖掘框架CST，通过基于因果知识生成申诉人反事实并构建对照与测试组来检测分类器个体歧视，实验表明其即使在反事实公平条件下也能发现更多案例。
2023-10-16 cs.CY cs.LG stat.ML
A Counterfactual Fair Model for Longitudinal Electronic Health Records via Deconfounder
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文提出FLMD两阶段去混杂模型，利用未观测混杂表示与反事实公平约束，在纵向EHR预测中兼顾准确率与公平性，并通过真实、不平衡及合成数据集验证其优势。
2023-10-02 cs.CY cs.LG
