De-Biasing Generative Models using Counterfactual Methods
University of California, Los Angeles（加州大学洛杉矶分校）
变分自编码器（VAE）和其他生成方法不仅因为其生成特性而且因为其解开低维潜在变量空间的能力而引起了越来越多的兴趣。然而，现有的生成模型很少考虑因果关系。我们提出了一种新的基于解码器的框架，称为因果反事实生成模型（CCGM），它包括一个部分可训练的因果层，其中可以学习因果模型的一部分，而不会显着影响重建保真度。通过学习图像语义标签或表格变量之间的因果关系，我们可以分析偏差，干预生成模型，并模拟新的场景。此外，通过修改因果结构，我们可以在原始训练数据的域之外生成样本，并使用这种反事实模型来消除数据集的偏差。因此，具有已知偏差的数据集仍然可以用于训练因果生成模型并学习因果关系，但我们可以在生成侧生成去偏差数据集。我们提出的方法结合了因果潜在空间VAE模型与特定的修改，以强调因果保真度，使更精细的控制因果层和学习一个强大的干预框架的能力。我们探讨如何更好地解开因果学习和编码/解码产生更高的因果干预质量。我们还将我们的模型与类似的研究进行了比较，以证明在干预之外需要明确的生成去偏置。我们的初步实验表明，我们的模型可以生成对因果框架高保真的图像和表格数据，并适应显式去偏置，以忽略与基线相比因果数据中不期望的关系。
2023-02-11 cs.LG
Debiased Counterfactual Generation via Flow Matching from Observations
Gatsby Computational Neuroscience Unit（盖茨计算神经科学单位）；University College London（伦敦大学学院）；Department of Statistics（统计系）；University of British Columbia（不列颠哥伦比亚大学）
本文提出通过去偏流从观测数据学习反事实分布，改进了传统方法，提高了效率和鲁棒性。
2026-05-08 cs.LG stat.ML
Flow IV: Counterfactual Inference In Nonseparable Outcome Models Using Instrumental Variables
Chalmers University of Technology（查尔姆斯理工大学）
本文提出Flow IV方法，通过工具变量和正常化流估计可逆结果函数，实现非可分离模型中的反事实推断。
2026-03-28 cs.LG stat.ML
DynaCF: Mitigating Shortcut Learning in Reward Models via Dynamic Counterfactual Sensitivity
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；New Jersey Institute of Technology（新泽西理工学院）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
提出DynaCF框架，通过在线测量反事实扰动下的边际变化和偏好翻转来动态降低捷径敏感样本的权重，从而缓解奖励模型中的捷径学习问题。
2026-06-08 cs.CL cs.LG
CAISA at SemEval-2023 Task 8: Counterfactual Data Augmentation for Mitigating Class Imbalance in Causal Claim Identification
University of Bonn（波恩大学）；University of Marburg（马尔堡大学）
针对因果医学主张识别中的类别不平衡问题，提出基于动词替换的反事实数据增强方法，并与三种增强技术对比，证明其显著提升少数类性能。
2023-06-01 cs.CL cs.LG
Mitigating Gender Bias in Depression Detection via Counterfactual Inference
School of Advanced Technology（高级技术学院）；Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学）
本文提出反事实推理框架，通过因果图建模和消除性别偏见，提升抑郁症检测的公平性和准确性。
2026-02-02 cs.AI cs.CY cs.LG
Mitigating Spurious Correlations in NLI via LLM-Synthesized Counterfactuals and Dynamic Balanced Sampling
University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出了一种自动化流程，通过LLM合成反事实和动态平衡采样缓解NLI中的虚假相关性，提升了模型性能和领域内准确性。
2025-12-20 cs.AI cs.CL cs.LG
Relative Counterfactual Contrastive Learning for Mitigating Pretrained Stance Bias in Stance Detection
Tianjin University（天津大学）
针对预训练语言模型存在的预训练立场偏差难测量问题，提出相对反事实对比学习方法，通过结构因果模型定位偏差、目标感知样本生成获取相对偏差、反事实对比学习去偏，提升了立场检测性能。
2024-05-16 cs.AI cs.LG stat.ME
Counterfactual Segmentation Reasoning: Diagnosing and Mitigating Pixel-Grounding Hallucination
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出反事实分割推理任务，通过反事实微调训练模型减少分割幻觉，实验表明其在减少幻觉和提升分割性能方面效果显著。
2025-12-11 cs.AI cs.CL cs.CV
Learning Fair Node Representations with Graph Counterfactual Fairness
University of Virginia（弗吉尼亚大学）；City University of Hong Kong（香港城市大学）；Microsoft（微软）
公平机器学习旨在减轻模型预测对某些亚群的偏见，这些亚群涉及种族和性别等敏感属性。在众多现有的公平性概念中，反事实公平性通过比较每个个体从原始数据和反事实的预测，从因果的角度衡量模型的公平性。在反事实中，这个人的敏感属性值被修改了。近年来，一些研究将反事实公平性扩展到图数据，但大多数研究都忽略了以下可能导致偏差的事实：1）每个节点的邻居的敏感属性可能会因果地影响预测w.r.t.该节点; 2）敏感属性可能会对其他特征和图结构产生因果影响。为了解决这些问题，在本文中，我们提出了一个新的公平概念-图反事实公平，它考虑了上述事实导致的偏见。为了学习图反事实公平性的节点表示，我们提出了一种新的框架，基于反事实数据增强。在这个框架中，我们生成对应于每个节点及其邻居的敏感属性上的扰动的反事实。然后，我们通过最小化从原始图中学习的表示与每个节点的反事实之间的差异来执行公平性。在合成图和真实世界图上的实验表明，我们的框架在图反事实公平性方面优于最先进的基线，并且还实现了相当的预测性能。
2022-01-10 cs.AI cs.LG
Mitigating Shortcut Learning with Diffusion Counterfactuals and Diverse Ensembles
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Eberhard-Karls-Universität Tübingen（埃伯哈德卡尔斯蒂宾根大学）；Idiap Research Institute（伊迪亚普研究所）
针对模型依赖数据虚假相关性的shortcut learning问题，提出DiffDiv框架，利用扩散概率模型生成合成反事实样本以增加集成模型多样性，无需额外监督信号即可消除对捷径线索的依赖，提升泛化能力。
2025-04-02 cs.AI cs.CV cs.LG
Mitigating Gender Bias in Distilled Language Models via Counterfactual Role Reversal
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；Amazon Alexa（亚马逊Alexa）；Harvard University（哈佛大学）；University of California, Los Angeles（加州大学洛杉矶分校）
语言模型擅长于生成连贯的文本，并且诸如知识蒸馏之类的模型压缩技术使得它们能够在资源受限的环境中使用。然而，这些模式可能在多个方面存在偏见，包括毫无根据地将男性和女性与性别中立的职业联系起来。因此，没有任何公平约束的知识蒸馏可能会保留或夸大教师模型对蒸馏模型的偏见。为此，我们提出了一种新的方法来减轻性别差异的文本生成过程中学习一个公平的模型在知识蒸馏。我们提出了两个修改的基础知识蒸馏基于反事实角色反转$\unicode{x2014}$修改教师概率和扩大训练集。我们评估了性别极性的开放式文本中产生的GPT $\unicode{x2012}$ 2模型的蒸馏和微调，并证明了性别差距的大幅减少，只有一个小的妥协效用。最后，我们观察到，在语言生成中减少性别极性的语言模型不会提高嵌入公平性或下游分类公平性。
2022-03-23 cs.CL cs.LG
Towards Understanding and Mitigating Social Biases in Language Models
Carnegie Mellon University（卡内基梅隆大学）
随着机器学习方法被部署到医疗保健、法律系统和社会科学等现实环境中，认识到它们如何在这些敏感的决策过程中塑造社会偏见和刻板印象至关重要。在这些现实世界的部署中，大规模的预训练语言模型（LM）可能会表现出不受欢迎的代表性偏见，这是一种潜在的危险-由刻板印象造成的有害偏见，传播涉及性别，种族，宗教和其他社会结构的负面概括。作为提高LMs公平性的一步，我们仔细定义了代表性偏见的几个来源，然后提出新的基准和指标来衡量它们。有了这些工具，我们提出了在文本生成过程中减轻社会偏见的步骤。我们的实证结果和人类评估表明，有效地减轻偏见，同时保留关键的上下文信息，高保真文本生成，从而推动了性能公平帕累托边界。
2021-06-24 cs.AI cs.CL cs.CY
On Counterfactual Data Augmentation Under Confounding
Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）；Microsoft Research（微软研究院）
本文从因果视角分析混杂偏差对下游分类器的影响，提出一种简单有效的反事实图像生成算法以消除混杂效应，帮助模型学习不变特征并提升泛化能力。
2023-11-21 cs.CV cs.LG stat.ML
FairFlow: Mitigating Dataset Biases through Undecided Learning
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
针对语言模型易受数据集偏差影响导致新数据性能下降的问题，提出FairFlow去偏差框架，通过扰动操作生成偏差视图结合对比目标学习鲁棒表征，在域外和难样本上优于现有方法且不影响域内性能。
2025-03-22 cs.AI cs.CL cs.LG
Mitigating Degree Biases in Message Passing Mechanism by Utilizing Community Structures
The Catholic University of Korea（韩国天主教大学）
本文提出社区感知图变换器（CGT），通过可学习增强和自监督学习利用社区结构，生成社区内边以缓解消息传递中的节点度偏差，在多个基准上超越现有方法。
2023-12-28 cs.AI cs.LG cs.SI
Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University（首尔大学）；LG AI Research（LG AI研究院）；University of Michigan（密歇根大学）
该研究定义并验证了偏置神经元的存在，提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元，在零样本设置下有效缓解偏置且不损失模型性能，仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
Gender Slopes: Counterfactual Fairness for Computer Vision Models by Attribute Manipulation
UCLA（加州大学洛杉矶分校）
自动化计算机视觉系统已应用于许多领域，包括安全、执法和个人设备，但最近的报告表明，这些系统可能会产生有偏见的结果，歧视某些人口群体。然而，诊断和理解模型偏差的潜在真正原因是一项具有挑战性的任务，因为现代计算机视觉系统依赖于复杂的黑箱模型，其行为难以解码。我们建议使用一个编码器-解码器网络开发的图像属性操作，以合成不同的性别和种族的尺寸，同时保持其他信号完好无损的面部图像。我们使用这些合成图像来测量商业计算机视觉分类器的反事实公平性，方法是检查这些分类器受图像中控制的性别和种族线索影响的程度，例如，女性面孔可能会导致护士概念的得分较高，而STEM相关概念的得分较低。我们还报告了在线搜索服务中与专业相关的关键词的性别代表性，这可能解释了模型中编码的偏见的起源。
2020-05-21 cs.AI cs.CV cs.LG
Benchmarking Instance-Centric Counterfactual Algorithms for XAI: From White Box to Black Box
Human Technology Institute, University of Technology Sydney（悉尼科技大学人类技术研究所）；School of Information Systems, Queensland University of Technology（昆士兰科技大学信息系统学院）；INESC-ID Lisboa / Instituto Superior Técnico, ULisboa（INESC-ID里斯本/里斯本大学高等技术学院）
本研究在25个数据集上基准测试四种反事实算法，发现模型类型影响小，仅邻近损失算法不可操作，需保证合理性并建议反事实检查分析以识别偏差。
2024-06-11 cs.AI cs.LG
Mitigating Unwanted Biases with Adversarial Learning
Stanford University（斯坦福大学）；Google（谷歌）
机器学习是用于构建准确表示输入训练数据的模型的工具。当训练数据中存在关于人口统计学群体的不期望的偏差时，经过良好训练的模型将反映这些偏差。我们提出了一个框架，包括一个变量的兴趣组，同时学习预测和对手，以减轻这种偏见。网络X的输入，这里是文本或人口普查数据，产生一个预测Y，比如一个类比完成或收入等级，而对手试图对一个受保护的变量Z（这里是性别或邮政编码）进行建模。目标是最大化预测者预测Y的能力，同时最小化对手预测Z的能力。应用于类比完成，这种方法导致准确的预测，表现出较少的刻板印象Z的证据。当应用于使用UCI Adult（Census）Dataset的分类任务时，其产生预测模型，该预测模型不会损失太多准确性，同时实现非常接近均等的几率（Hardt等人，2016）。该方法是灵活的，适用于多种定义的公平性，以及广泛的基于梯度的学习模型，包括回归和分类任务。
2018-01-22 cs.AI cs.CY cs.LG
Mitigating Molecular Aggregation in Drug Discovery with Predictive Insights from Explainable AI
University of Manitoba（曼尼托巴大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本研究应用可解释AI模型MEGAN识别胶体聚集分子，利用反事实设计替代物并实验验证，以减少药物筛选假阳性，加速药物发现。
2025-05-27 cond-mat.soft cs.LG q-bio.BM
Mitigating Biases in Collective Decision-Making: Enhancing Performance in the Face of Fake News
Université Libre de Bruxelles（布鲁塞尔自由大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学（荷语））；FARI Institute（FARI研究所）；UC Berkeley（加州大学伯克利分校）；Center for Human-Compatible AI（人类兼容人工智能中心）
本研究通过收集人类识别假新闻标题的数据集，分析个体与集体偏见的影响，并评估自适应聚合算法，发现其能提升准确性并缓解偏见，促进集体智慧。
2024-03-11 cs.HC cs.LG cs.SI
Learning Personalized Treatment Decisions in Precision Medicine: Disentangling Treatment Assignment Bias in Counterfactual Outcome Prediction and Biomarker Identification
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；University Hospital Zurich（苏黎世大学医院）；Harvard University（哈佛大学）；DFCI（达纳-法伯癌症研究所）
本文利用互信息建模临床观察数据中的治疗分配偏倚，并在TCGA及药物、CRISPR筛选数据上验证不同偏倚对反事实预测和生物标志物识别的影响，为精准医疗个性化治疗决策提供更现实的基准。
2024-11-24 cs.IT cs.LG math.IT
Mitigating Cognitive Biases in Multi-Criteria Crowd Assessment
Kyoto University（京都大学）
针对众包多准则评估中的认知偏差问题，构建众包评估数据集研究准则间偏差影响，并提出两种考虑准则间关系的贝叶斯意见聚合模型结构，有效减少偏差并提升聚合准确性。
2024-07-10 cs.HC cs.LG
Counterfactual Fair Opportunity: Measuring Decision Model Fairness with Counterfactual Reasoning
Polytechnic University of Bari（巴里理工大学）；University of Bari（巴里大学）
越来越多的人工智能和机器学习模型的应用带来了不公平行为的潜在风险，根据最近的法规，已经引起了研究界的关注。一些研究人员专注于寻求新的公平定义或开发方法来识别有偏见的预测。然而，没有人试图利用反事实空间来达到这一目的。在这个方向上，在这项工作中提出的方法，旨在揭示不公平的模型行为，使用反事实推理的情况下，在无意识设置的公平。定义了机会平等的反事实版本--反事实公平机会，并引入了两种新的度量方法来分析反事实样本中的敏感信息。在三个不同数据集上的实验结果显示了我们的方法和指标的有效性，揭示了经典机器学习和去偏置模型的不公平行为。
2023-02-16 cs.AI cs.CY cs.LG
Staying VIGILant: Mitigating Visual Laziness via Counterfactual Visual Alignment in MLLMs
UAB（阿拉巴马大学伯明翰分校）；Yale（耶鲁大学）；UNSW（新南威尔士大学）；Tulane（杜兰大学）；Georgia Tech（佐治亚理工学院）；NEU（东北大学）；OSU（俄亥俄州立大学）；UIowa（爱荷华大学）；Harvard（哈佛大学）
提出VIGIL框架，通过强化学习后训练最大化视觉输入与生成响应间的互信息，惩罚“盲目自信”实例，有效缓解MLLMs的视觉懒惰问题，在幻觉和推理基准上优于现有方法。
2026-06-26 cs.CL cs.CV cs.LG
EqualizeIR: Mitigating Linguistic Biases in Retrieval Models
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
本文提出 EqualizeIR 框架，利用语言偏置弱学习器正则化训练鲁棒检索模型，以缓解 IR 模型因查询语言复杂度不同而产生的性能偏见，并在多个数据集上验证其能缩小性能差距并提升整体检索效果。
2025-03-22 cs.CL cs.LG
MUtE: A Dual Framework for Concept Erasure and Counterfactual Interventions
onepoint
提出MUtE双重框架，通过推导新型擦除函数实现概念擦除与反事实生成的无缝切换，并施加平移偏差约束，实验证明其能改善算法公平性并生成反事实文本。
2026-09-11 cs.CL cs.LG
Mitigating Label Biases for In-context Learning
EPFL（洛桑联邦理工学院）；UC Irvine（加州大学欧文分校）；ETH Zurich（苏黎世联邦理工学院）
本文定义了上下文学习中的三种标签偏差，并提出利用随机领域内单词估计偏差的校准方法，显著提升了GPT-J和GPT-3在多任务上的性能。
2023-08-04 cs.AI cs.CL cs.LG
Mitigating Racial Biases in Toxic Language Detection with an Equity-Based Ensemble Framework
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
最近的研究表明，在流行的有毒语言数据集中，对写非裔美国人英语的用户存在种族偏见。虽然以前的工作集中在一个单一的公平标准，我们建议使用额外的描述性公平指标，以更好地了解这些偏见的来源。我们证明了不同的基准分类器，以及两个过程中的偏见补救技术，传播种族偏见，即使在一个更大的语料库。然后，我们提出了一个新的整体框架，使用一个专门的分类器，是微调到非洲裔美国人的英语方言。我们表明，我们提出的框架大大减少了模型从这些数据集中学习到的种族偏见。我们展示了集成框架如何提高所有样本数据集的公平性指标，对分类性能的影响最小，并提供经验证据，证明其能够消除对使用非裔美国人英语的作者的注释偏见。* * 请注意，本作品可能包含冒犯性词语和短语的示例。
2021-09-27 cs.CL cs.LG
Visual Disentangled Diffusion Autoencoders: Scalable Counterfactual Generation for Foundation Models
Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）
DiDAE通过解耦字典学习和扩散自编码器实现高效无梯度反事实生成，提升基础模型的鲁棒性和下游任务表现。
2026-01-29 cs.LG
OccamNets: Mitigating Dataset Bias by Favoring Simpler Hypotheses
Rochester Institute of Technology（罗切斯特理工学院）；Adobe Research（奥多比研究院）；University of Rochester（罗切斯特大学）
针对数据集偏差损害深度网络泛化的问题，提出具备两种归纳偏置的OccamNets架构，通过偏好简单假设提升鲁棒性，性能优于或匹敌现有最优方法，且与现有去偏方法结合可进一步提升效果。
2024-04-15 cs.LG
Understanding and Mitigating Annotation Bias in Facial Expression Recognition
University of California, Los Angeles（加州大学洛杉矶分校）
计算机视觉模型的性能取决于其训练数据的大小和质量。最近的研究揭示了常见图像数据集中以前未知的成分偏差，这些偏差导致模型输出偏斜，并提出了减轻这些偏差的方法。然而，大多数现有的作品假设人类生成的注释可以被认为是黄金标准和公正的。在本文中，我们揭示了这种假设可能是有问题的，并且应该特别注意防止模型学习这种注释偏差。我们专注于面部表情识别，并比较实验室控制和野生数据集之间的标签偏差。我们证明了许多表情数据集在性别之间存在显著的注释偏差，特别是在快乐和愤怒的表情方面，并且传统方法无法完全减轻训练模型中的这种偏差。为了消除表情注释偏差，我们提出了一个AU校准的面部表情识别（AUC-FER）框架，利用面部动作单元（AU），并将三重损失的目标函数。实验结果表明，该方法是更有效地消除表达式注释偏见比现有的技术。
2021-08-19 cs.AI cs.CV cs.LG
Discovering and Mitigating Visual Biases through Keyword Explanation
KAIST（韩国科学技术院）；University of Michigan（密歇根大学）；KRAFTON；POSTECH（浦项科技大学）
提出B2T框架，通过从错误预测图像描述中提取并验证关键词来解释视觉偏差，支持偏差发现与去偏差训练等应用，在多个数据集上有效识别已知和新颖偏差。
2024-03-27 cs.CV cs.LG
Teacher's pet: understanding and mitigating biases in distillation
Google Research（谷歌研究院）
知识蒸馏被广泛地用作使用来自复杂教师模型的预测来改进相对简单的学生模型的性能的手段。一些作品表明，蒸馏显着提高学生的整体表现，但是，这些收益均匀所有数据分组？在本文中，我们证明了蒸馏可以损害某些子群的性能，例如，类与一些相关的样本。我们将这种行为追溯到教师分布转移到学生模型并被学生模型放大所产生的错误。为了缓解这个问题，我们提出了技术，软化教师的影响，它是不太可靠的子群。在多个图像分类基准上的实验表明，这些改进的蒸馏保持了整体准确性的提高，同时还确保了子组性能的提高。
2021-07-08 cs.LG
Meaningfully Debugging Model Mistakes using Conceptual Counterfactual Explanations
Stanford University（斯坦福大学）
理解和解释训练模型所犯的错误对于许多机器学习目标至关重要，例如提高鲁棒性，解决概念漂移和减轻偏见。然而，这通常是一个特别的过程，涉及手动查看模型在许多测试样本上的错误，并猜测这些错误预测的根本原因。在本文中，我们提出了一种系统的方法，概念反事实解释（CCE），解释了为什么分类器在人类可理解的概念方面对特定的测试样本犯了错误（例如，由于模糊的条纹，这匹斑马被误分类为狗）。我们基于两个先前的想法：反事实解释和概念激活向量，并验证了我们的方法对众所周知的预训练模型，表明它解释了模型的错误有意义。此外，对于在具有虚假相关性的数据上训练的新模型，CCE准确地将虚假相关性识别为来自单个错误分类的测试样本的模型错误的原因。在两个具有挑战性的医疗应用中，CCE产生了有用的见解，并得到了临床医生的证实，这些见解涉及模型在现实世界中所犯的偏见和错误。
2022-06-14 cs.LG
Learning for Counterfactual Fairness from Observational Data
University of Virginia（弗吉尼亚大学）；Bytedance Research（字节跳动研究院）
针对因果模型未知导致反事实公平预测困难的问题，本文提出 CLAIRE 框架，利用反事实数据增强与不变惩罚进行表示学习，在合成及真实数据上提升公平性与预测效果。
2023-07-17 cs.CY cs.LG stat.ML
OSCaR: Orthogonal Subspace Correction and Rectification of Biases in Word Embeddings
UCLA（加州大学洛杉矶分校）；University of Utah（犹他大学）
众所周知，语言表征带有刻板偏见，因此，导致下游任务中有偏见的预测。虽然现有的方法在通过线性投影减轻偏差方面是有效的，但是这样的方法过于激进：它们不仅去除偏差，而且从词嵌入中擦除有价值的信息。我们开发了新的措施来评估特定的信息保留，证明偏见消除和信息保留之间的权衡。为了解决这一挑战，我们提出了OSCaR（正交子空间校正和整流），一种偏差缓解方法，专注于解开概念之间的偏见的关联，而不是删除概念批发。我们对性别偏见的实验表明，OSCaR是一种平衡良好的方法，可以确保语义信息保留在嵌入中，偏见也被有效地减轻。
2021-09-10 cs.AI cs.CL cs.LG
Counterfactual Fairness
The Alan Turing Institute（艾伦·图灵研究所）；University of Warwick（华威大学）；New York University（纽约大学）；University of Surrey（萨里大学）；University College London（伦敦大学学院）
当机器学习用于自动化保险、贷款、招聘和预测性警务等领域的决策时，它可能会对人们产生法律或道德后果。在许多这样的情况下，先前的决定对某些亚群有不公平的偏见，例如那些特定的种族，性别或性取向。由于这些过去的数据可能有偏见，机器学习预测器必须考虑到这一点，以避免延续或创造歧视性做法。在本文中，我们开发了一个框架，公平性建模工具，从因果推断。我们对反事实公平的定义抓住了这样一种直觉：如果一个决定在（a）现实世界和（b）一个反事实世界中是相同的，那么这个决定对一个人是公平的，在这个反事实世界中，这个人属于不同的人口统计群体。我们展示了我们的框架上的一个现实世界的问题，公平的预测成功的法学院。
2018-03-08 cs.CY cs.LG stat.ML
Enhancing Counterfactual Explanation Search with Diffusion Distance and Directional Coherence
Institute of Computer Science, University of Tartu（塔尔图大学计算机科学学院）
本研究受人类认知启发，提出结合扩散距离与方向一致性两种新偏差，增强反事实解释搜索，并在合成与真实数据集上验证了CoDiCE方法的有效性。
2024-07-25 cs.AI cs.LG
Identification and Mitigating Bias in Quantum Machine Learning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文围绕量子机器学习中的偏差问题，系统探讨其表现形式、产生原因及识别、诊断与缓解策略，为该领域偏差治理提供研究框架。
2024-09-23 cs.AI cs.LG quant-ph
Fair Infinitesimal Jackknife: Mitigating the Influence of Biased Training Data Points Without Refitting
IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工-IBM沃森人工智能实验室）
在重要的决策应用中，减少机器学习模型中不必要的偏见，这些偏见会使种族和性别等敏感属性所界定的群体成员处于系统性劣势，这是争取公平的一个关键干预措施。在本文中，我们提出了一种算法，提高了公平性的预先训练的分类器，通过简单地丢弃精心挑选的训练数据点。我们选择实例的基础上，他们的影响的公平性度量的兴趣，计算使用无穷小折刀为基础的方法。训练点的下降原则上是这样做的，但实际上并不需要对模型进行重新拟合。至关重要的是，我们发现这样的干预并没有实质性地降低模型的预测性能，而是大大提高了公平性度量。通过仔细的实验，我们评估了所提出的方法在不同任务上的有效性，并发现它一贯改善现有的替代品。
2022-12-13 cs.CY cs.LG stat.ML
Mitigating Biases in Student Performance Prediction via Attention-Based Personalized Federated Learning
Purdue University（普渡大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
传统的基于学习的学生建模方法由于数据可用性方面的偏见而无法很好地推广到代表性不足的学生群体。在本文中，我们提出了一种方法来预测学生的表现，从他们的在线学习活动，优化推理的准确性，在不同的人口群体，如种族和性别。在联邦学习的最新基础上，在我们的方法中，单个学生子组的个性化模型是从一个全局模型中导出的，该模型通过元梯度更新在所有学生模型中聚合，该更新考虑了子组的异质性。为了更好地了解学生活动的表现，我们用一种自我监督的行为预训练方法来增强我们的方法，这种方法利用了学生行为的多种形式（例如，访问讲座视频和参与论坛），并在模型聚集阶段包括神经网络注意力机制。通过对来自在线课程的三个真实世界数据集的实验，我们证明了我们的方法在预测所有子组的学生学习成果方面比现有的学生建模基线有了实质性的改进。对由此产生的学生嵌入的视觉分析证实，我们的个性化方法确实在不同的子组中识别出不同的活动模式，与基线相比具有更强的推理能力。
2022-08-02 cs.AI cs.CY cs.LG
Iterative Counterfactual Data Augmentation
North Carolina State University（北卡罗来纳州立大学）
本文提出迭代反事实数据增强（ICDA），通过高噪声干预迭代收敛至低噪声状态，减少虚假信号信息，增强目标信号与标签的互信息，使模型生成的文档理由更符合人类标注，实验涵盖六个人类数据集和两个大语言模型数据集。
2025-02-25 cs.CL cs.IT cs.LG
Counterfactual Reasoning for Bias Evaluation and Detection in a Fairness under Unawareness setting
Polytechnic University of Bari（巴里理工大学）；Università degli Studi di Bari Aldo Moro（巴里大学阿尔多·莫罗）
本研究针对无意识公平场景下算法仍可能通过代理特征产生歧视的问题，提出基于反事实推理的黑盒模型偏差检测方法，可识别敏感代理特征，实验证实无敏感特征训练的模型仍常存歧视偏差。
2023-08-26 cs.AI cs.CY cs.LG
Mitigating Clever Hans Strategies in Image Classifiers through Generating Counterexamples
Berlin Institute for the Foundations of Learning（柏林学习与数据基础研究院）；Department of Artificial Intelligence, Korea University, 02841 Seoul, Korea（韩国大学人工智能系）
本文提出 CFKD 框架，通过生成多样化反事实并结合知识蒸馏修正图像分类器决策边界，在无需混杂因素标签的情况下提升多虚假相关场景的鲁棒泛化。
2025-10-20 cs.LG
Mitigating Observation Biases in Crowdsourced Label Aggregation
Kyoto University（京都大学）
众包已经被广泛用于以低成本从大量人力资源高效地获得用于监督学习的标记数据集。然而，从众包中获得高质量结果的技术挑战之一是处理由人类执行工作的事实引起的可变性和偏差，各种研究已经解决了这个问题，通过整合冗余收集的响应来提高质量。在这项研究中，我们专注于众包中的观察偏差。工人响应的频率和任务的复杂性发生变化，这可能会影响聚合结果，当它们与响应的质量相关时。我们还提出了众包响应的统计聚合方法，该方法与因果推断中使用的观测数据偏差消除方法相结合。通过使用合成和真实数据集与/不人工注入垃圾邮件和串通工人的实验，我们验证了所提出的方法提高了聚合精度存在较强的观察偏差和鲁棒性的垃圾邮件和串通工人。
2023-02-25 cs.HC cs.LG
Fairness Invariants: A Relational Approach to Explaining and Mitigating Fairness Bugs
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Pennsylvania State University（宾夕法尼亚州立大学）
本文提出REMI框架，将反事实公平性视为关系不变量发现问题，可自动定位、解释和缓解个体歧视，在83%以上案例中定位真实公平性缺陷，使黑箱模型歧视性决策减少最多70%。
2026-08-28 cs.AI cs.LG cs.SE
Demographic Parity: Mitigating Biases in Real-World Data
Institute for Medical Bioinformatics and Biostatistics（医学生物信息学与生物统计学研究所）；Philipps-Universität Marburg（马尔堡菲利普斯大学）
针对历史数据偏见会传导至招聘、贷款和量刑等决策模型的问题，本文提出与模型无关的渐近数据集构建方法，在保留分类效用的同时编码人口统计均等，并基于人口普查合成数据验证可消除显性与隐性偏见。
2023-09-27 cs.CY cs.LG
Aligning (Medical) LLMs for (Counterfactual) Fairness
University of Delaware（特拉华大学）
本研究提出在知识蒸馏框架内使用偏好优化的模型对齐方法，有效缓解医疗LLMs中的偏见，提升AI医疗决策的公平性。
2024-08-22 cs.CL cs.LG
Mitigating biases in big mobility data: a case study of monitoring large-scale transit systems
Southwest Jiaotong University（西南交通大学）；University of Washington（华盛顿大学）；University of South Florida（南佛罗里达大学）；Dongguan University of Technology（东莞理工学院）
本研究评估大规模移动数据中的偏差，提出缓解方法，并验证其在美国100多个县公共交通系统监测中的有效性，揭示COVID-19后恢复的区域差异。
2024-07-16 cs.CY cs.LG physics.soc-ph
Neutralizing Gender Bias in Word Embedding with Latent Disentanglement and Counterfactual Generation
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
最近的研究表明，在人工生成的语料库上训练的词嵌入在嵌入空间中具有很强的性别偏见，这些偏见可能导致各种下游任务的区分结果。鉴于以前的方法项目的词嵌入到一个线性子空间去偏置，我们介绍了一个\textit{Latent Disentanglement}方法与连体自动编码器结构与自适应梯度反转层。我们的结构使语义潜在信息和性别潜在信息的给定的词分离到不相交的潜在维度。然后，引入一个\textit{Counterfactual Generation}对词的性别信息进行转换，使得原嵌入和修改后的嵌入在几何对齐正则化后，能够产生一个性别中立的词嵌入，而不会丢失语义信息。从各种定量和定性的去偏置实验，我们的方法比现有的去偏置方法在去偏置词嵌入。此外，我们的方法显示了在去偏置过程中通过最小化外部NLP下游任务的语义信息损失来保留语义信息的能力。
2020-11-03 cs.CL cs.LG stat.ML
On Learning and Testing of Counterfactual Fairness through Data Preprocessing
North Carolina State University（北卡罗来纳州立大学）；Indian Institute of Management（印度管理学院）
机器学习在现实生活中的决策中变得越来越重要，但人们担心它在使用不当时可能带来的伦理问题。最近的工作将机器学习公平性的讨论引入因果框架，并详细阐述了反事实公平性的概念。在本文中，我们开发了通过dAta预处理进行公平学习（FLAP）算法，以从有偏见的训练数据中学习反事实公平决策，并形式化应使用不同数据预处理程序来保证反事实公平性的条件。我们还表明，反事实的公平性是等价的条件独立的决定和敏感属性的处理非敏感属性，这使我们能够检测歧视的原始决策使用处理后的数据。我们的算法的性能说明使用模拟数据和现实世界的应用程序。
2022-02-25 cs.LG stat.ML
Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws
Virginia Tech（弗吉尼亚理工大学）
本文提出通过指令微调解决理解缺陷，在不使用显式去偏技术的情况下，将生成模型在国籍、年龄等维度上的刻板印象输出减少超过60%，并强调区分偏见与任务缺陷的重要性。
2024-12-16 cs.CL cs.LG
