Mitigating Sampling Bias and Improving Robustness in Active Learning
Intel Labs（英特尔实验室）；Intel Corporation（英特尔公司）
本文提出了简单有效的方法，以减轻采样偏差在主动学习，同时实现最先进的精度和模型的鲁棒性。我们引入了监督对比主动学习，利用对比损失的主动学习在监督设置。我们提出了一个无偏的查询策略，选择信息丰富的数据样本的不同特征表示与我们的方法：监督对比主动学习（SCAL）和深度特征建模（DFM）。我们经验证明，我们提出的方法减少采样偏差，实现最先进的准确性和模型校准的主动学习设置与查询计算26倍的速度比贝叶斯主动学习的分歧和11倍的速度比CoreSet。所提出的SCAL方法在对数据集移位和分布外的鲁棒性方面有很大的优势。
2021-09-13 cs.LG
Beyond Communication Overhead: A Multilevel Monte Carlo Approach for Mitigating Compression Bias in Distributed Learning
Viterby Faculty of Electrical and Computer Engineering（电气与计算机工程学院）
针对分布式学习中通信开销与压缩偏差的权衡，提出多层蒙特卡洛压缩方案，利用有偏压缩器构建无偏估计，并应用于Top-k和位级压缩器，在分布式深度学习任务上验证了有效性。
2025-07-07 cs.LG
Mitigating Dataset Bias by Using Per-sample Gradient
KAIST AI（韩国科学技术院人工智能学院）；KAIST ISysE（韩国科学技术院工业与系统工程系）
深度神经网络的性能受到训练数据集设置的强烈影响。特别地，当存在与目标属性具有强相关性的属性时，训练的模型可以提供非预期的预先判断并显示出显著的推断错误（即，数据集偏差问题）。已经提出了各种方法来减轻数据集偏差，并且它们的重点是弱相关样本，称为偏差冲突样本。这些方法基于涉及人类或经验相关性度量的显式偏差标签（例如，训练损失）。然而，这些指标需要人力成本或理论解释不足。在这项研究中，我们提出了一种去偏置算法，称为PGD（基于每样本的去偏置），它包括三个步骤：（1）在均匀批量采样上训练模型，（2）设置每个样本的重要性与样本梯度的范数成比例，（3）使用重要批量采样训练模型，其概率在步骤（2）中获得。与各种合成和真实世界数据集的现有基线相比，所提出的方法在分类任务中显示出最先进的准确性。此外，我们描述了关于PGD如何减轻数据集偏差的理论理解。
2023-02-10 cs.LG
Latent Adversarial Debiasing: Mitigating Collider Bias in Deep Neural Networks
University of Edinburgh（爱丁堡大学）；Jagiellonian University（雅盖隆大学）
对撞机偏差是样本选择偏差的一种有害形式，神经网络无法处理。当由于训练数据收集过程，潜在的因果信号与其他混杂信号强烈相关时，这种偏差表现出来。在混淆信号易于学习的情况下，深度神经网络将锁定这一点，由此产生的模型将难以推广到野外测试场景。我们在这里认为，失败的原因是神经网络的深层结构和所使用的贪婪梯度驱动学习过程的结合-一个更喜欢容易计算的信号时，可用的。我们表明，即使在100%的训练数据中存在混杂信号，也可以通过使用潜在对抗性去偏（LAD）生成偏置解耦的训练数据来减轻这种情况。通过在这些对抗性示例上训练神经网络，我们可以提高它们在对撞机偏差设置中的泛化能力。实验显示了LAD在无标记去偏中的最新性能，在背景色MNIST上的增益为76.12%，在前地色MNIST上的增益为35.47%，在损坏的CIFAR-10上的增益为8.27%。
2020-11-19 cs.LG
On Measuring and Mitigating Biased Inferences of Word Embeddings
University of Utah（犹他大学）
词嵌入带有来自它们所训练的文本的刻板内涵，这可能导致依赖它们的下游模型中的无效推断。我们利用这一观察设计了一个机制，用于测量定型使用的任务自然语言推理。我们证明了减少无效的推断，通过偏见缓解策略静态词嵌入（GloVe）。此外，我们表明，性别偏见，这些技术扩展到语境化嵌入时，选择性地只适用于静态组件的语境化嵌入（ELMo，BERT）。
2019-11-26 cs.CL cs.LG
Diverse Adversaries for Mitigating Bias in Training
School of Computing and Information Systems（计算与信息系统学院）；The University of Melbourne（墨尔本大学）
对抗性学习可以学习比标准方法更公平和更少偏见的语言模型。然而，目前的对抗性技术只能部分减轻模型偏差，再加上它们的训练过程往往不稳定。在本文中，我们提出了一种基于使用多个不同鉴别器的对抗学习新方法，鼓励鉴别器相互学习正交隐藏表示。实验结果表明，我们的方法大大提高了标准的对抗性去除方法，在减少偏见和训练的稳定性。
2021-01-25 cs.AI cs.LG
Mitigating Gender Bias in Machine Learning Data Sets
University College Dublin（都柏林大学学院）
人工智能有能力放大和延续社会偏见，并为社会带来深刻的伦理影响。在招聘广告和招聘工具的背景下，由于依赖于潜在的语言处理和推荐算法，性别偏见已被确定。解决这些问题的尝试涉及测试学习关联，将公平性概念集成到机器学习中，并对训练数据进行更严格的分析。考虑到性别意识形态嵌入语言的复杂方式，在文本数据上训练算法时减轻偏见尤其具有挑战性。本文提出了一个识别机器学习训练数据中性别偏见的框架，利用性别理论和社会语言学，系统地指出文本训练数据和相关神经词嵌入模型中的偏见水平，从而突出了从训练数据中消除偏见并严格评估其影响的途径。
2020-05-18 cs.CL cs.LG
Simon Says: Evaluating and Mitigating Bias in Pruned Neural Networks with Knowledge Distillation
Texas State University（德克萨斯州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
近年来，人工智能无处不在的部署在算法偏见、歧视和公平性方面引起了极大的关注。与人类造成的传统形式的偏见或歧视相比，人工智能产生的算法偏见更加抽象和不直观，因此更难以解释和减轻。在当前的文献中，关于评估和减轻修剪神经网络中的偏差存在明显的差距。在这项工作中，我们致力于解决具有挑战性的问题，评估，减轻和解释修剪神经网络中的诱导偏差。我们的论文有三个贡献。首先，我们提出了两个简单而有效的度量，组合误差方差（CEV）和对称距离误差（EFT），以定量评估修剪模型的诱导偏差预防质量。其次，我们证明了知识蒸馏可以减轻修剪神经网络中的诱导偏差，即使是不平衡的数据集。第三，我们揭示了模型相似性与修剪诱导的偏差有很强的相关性，这为解释为什么修剪后的神经网络会出现偏差提供了一个强有力的方法。我们的代码可在https://github.com/codestar12/pruning-distilation-bias上获得
2021-06-15 cs.AI cs.CV cs.LG
Mitigating the Bias of Centered Objects in Common Datasets
Peter Pazmany Catholic University（彼得·帕兹曼尼天主教大学）
本文指出常见数据集存在物体居中偏差，导致卷积网络在物体接近边界时准确率显著下降，并提出利用数据增强技术有效缓解该问题。
2023-08-04 cs.CV cs.LG
Mitigating Algorithmic Bias on Facial Expression Recognition
Bayor University（贝勒大学）
针对有偏见数据集导致算法偏向多数类的问题，本文提出使用去偏变分自编码器缓解偏见，并在面部表情识别任务上进行实验验证。
2023-12-23 cs.CV cs.CY cs.LG
Mitigating Pooling Bias in E-commerce Search via False Negative Estimation
The Pennsylvania State University（宾夕法尼亚州立大学）；Instacart
针对电商搜索负采样存在的池化偏差问题，提出基于假阴性估计的BHNS策略，经Instacart场景及公开数据集验证，兼具实用效果与跨领域应用潜力。
2024-08-17 cs.IR cs.LG
Detecting and Mitigating Algorithmic Bias in Binary Classification using Causal Modeling
Singapore Institute of Technology（新加坡理工学院）；University of Western Australia（西澳大利亚大学）
该研究针对二分类场景中的算法性别偏差问题，提出基于因果建模的检测与缓解方法，经Adult数据集验证可有效减偏差且略提准确率，方法易用可解释性强。
2023-11-09 cs.CY cs.LG
Identification and Mitigating Bias in Quantum Machine Learning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文围绕量子机器学习中的偏差问题，系统探讨其表现形式、产生原因及识别、诊断与缓解策略，为该领域偏差治理提供研究框架。
2024-09-23 cs.AI cs.LG quant-ph
Mitigating Bias in Federated Learning
IBM Research（IBM研究院）
随着创建歧视感知模型的方法的发展，它们专注于集中式ML，而联邦学习（FL）尚未探索。FL是协作ML的一种新兴方法，其中聚合器协调多方来训练全局模型，而无需共享他们的训练数据。在本文中，我们讨论了FL中偏差的原因，并提出了三种预处理和处理方法来减轻偏差，而不影响数据隐私，这是FL的一个关键要求。由于各方之间的数据异质性是FL的挑战性特征之一，我们在几个数据分布上进行实验，以分析它们对模型性能，公平性指标和偏见学习模式的影响。我们对我们提出的技术进行了全面的分析，结果表明，即使各方有偏斜的数据分布或只有20%的缔约方采用这些方法，这些方法也是有效的。
2020-12-04 cs.LG stat.ML
Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation
Nishit Singh
将偏见形式化为对称性破缺操作，通过损失正则化恢复对称性，在合成数据集上实现90%以上的违规减少，准确率成本约5%。
2026-06-02 cs.AI cs.LG
Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information
Technion – Israel Institute of Technology（以色列理工学院）
本文提出 DAFair，通过预定义原型人口统计文本和微调正则化项，在不使用显式人口统计标签的情况下缓解语言模型表示中的社会偏见，并在多任务、多模型实验中优于既有无标注及有限标注去偏见方法。
2024-04-05 cs.CL cs.CY cs.LG
Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University（首尔大学）；LG AI Research（LG AI研究院）；University of Michigan（密歇根大学）
该研究定义并验证了偏置神经元的存在，提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元，在零样本设置下有效缓解偏置且不损失模型性能，仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
ProbLog4Fairness: A Neurosymbolic Approach to Modeling and Mitigating Bias
针对公平性定义兼容难、偏差假设整合框架缺乏的问题，提出用ProbLog概率逻辑程序形式化偏差假设，结合神经符号扩展整合进训练，在合成与真实数据集上缓解偏差，优于固定偏差类型的基线方法。
2025-11-12 cs.AI cs.LG
Discovering and Mitigating Visual Biases through Keyword Explanation
KAIST（韩国科学技术院）；University of Michigan（密歇根大学）；KRAFTON；POSTECH（浦项科技大学）
提出B2T框架，通过从错误预测图像描述中提取并验证关键词来解释视觉偏差，支持偏差发现与去偏差训练等应用，在多个数据集上有效识别已知和新颖偏差。
2024-03-27 cs.CV cs.LG
Mitigating Gender Bias in Contextual Word Embeddings
本文提出新的掩码语言建模目标函数和评估指标，用于缓解上下文词嵌入中的性别偏见，同时证明静态嵌入偏见主要源于刻板印象名字而非性别化词语本身。
2024-11-18 cs.CL cs.LG
Mitigating Bias in RAG: Controlling the Embedder
Carnegie Mellon University（卡内基梅隆大学）
本研究通过偏见冲突理论及120个微调嵌入器实验，发现控制嵌入器偏见比提高其公平性更能有效缓解RAG系统整体偏见。
2025-02-24 cs.CL cs.LG
Mitigating Label Bias in Machine Learning: Fairness through Confident Learning
Hangzhou Dianzi University（杭州电子科技大学）；University of Technology Sydney（悉尼科技大学）；Huazhong University of Science and Technology（华中科技大学）；Renmin University of China（中国人民大学）
本文提出在置信学习框架内通过截断置信度得分和扩展概率阈值置信区间，并结合协同教学范式，从有偏标签数据中筛选公平实例，以缓解标签偏差并提升模型公平性。
2023-12-24 cs.CY cs.LG
Mitigating Label Bias via Decoupled Confident Learning
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对训练标签中普遍存在的社会偏差，本文提出剪枝方法 DeCoLe，以识别并缓解仇恨言论检测等任务中的偏差标签，且效果优于现有方法。
2023-09-29 cs.CL cs.LG
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology（麻省理工学院）
本文提出三种技术缓解概念瓶颈模型中的偏见，以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University（德里理工大学）；IIIT-Delhi（德里印度理工学院）
词嵌入是词的语义和句法表示的标准模型。不幸的是，这些模型已被证明表现出不受欢迎的词的协会，导致性别，种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中，我们提出了RAN-Debias，一种新的性别去偏置方法，它不仅消除了词向量中存在的偏见，而且改变了其相邻向量的空间分布，实现了无偏见的设置，同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计（GIPE），它衡量的程度，不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明，RAN-Debias在减少邻近偏差（GIPE）方面明显优于最先进的方法，至少减少42.02%。它还减少了直接偏见，增加了最小的语义干扰，并在下游应用程序任务（共指消解）中实现了最佳性能。
2020-06-02 cs.CL cs.LG
ConQUR: Mitigating Delusional Bias in Deep Q-learning
Department of Computer Science, Princeton University（普林斯顿大学计算机科学系）；Google Research（谷歌研究院）；Department of Computing Science, University of Alberta（阿尔伯塔大学计算机科学系）
偏置是近似Q学习中误差的基本来源。迄今为止，唯一明确解决妄想的技术需要使用表格值估计进行全面搜索。在本文中，我们开发了有效的方法，以减轻妄想偏见训练Q-近似与标签是“一致的”与底层的贪婪政策类。我们引入了一个简单的惩罚方案，鼓励跨训练批次使用的Q标签与可表达的策略类保持（联合）一致。我们还提出了一个搜索框架，允许多个Q-逼近生成和跟踪，从而减轻过早（隐式）的政策承诺的影响。实验结果表明，这些方法可以提高Q学习在各种Atari游戏中的性能，有时显着。
2020-02-27 cs.AI cs.LG stat.ML
Mitigating Estimation Bias with Representation Learning in TD Error-Driven Regularization
School of Automation, Central South University（自动化学院，中南大学）；School of Engineering, University of Newcastle（工程学院，新castle大学）
本文提出了一种基于表示学习的双演员-批评者框架，通过三种凸组合策略和增强的表示来缓解TD误差驱动正则化中的估计偏差，实现灵活的偏差控制和性能提升。
2025-11-20 cs.AI cs.LG
How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts
Walmart Labs（沃尔玛实验室）；SAP Labs（思爱普实验室）；McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）
基于Transformer架构构建的神经机器翻译系统通常会根据单词重叠度量来提高翻译质量。然而，越来越多的研究也强调了这些模型在培训过程中固有的性别偏见，这在其翻译中反映不佳。在这项工作中，我们调查这些模型是否可以被指示，以修复他们的偏见在推理过程中使用有针对性的，指导性的指示作为上下文。通过在推理过程中翻译相关的上下文句子以及输入，我们在三个流行的测试套件（WinoMT，BUG，SimpleGen）中观察到在减少翻译中的性别偏见方面有很大的改进。我们进一步提出了一种新的度量标准，以评估几个大型预训练模型（OPUS-MT，M2M-100）对翻译过程中使用上下文来纠正其偏见的敏感性。我们的方法不需要微调，因此可以很容易地在生产系统中使用，以消除刻板的性别职业偏见1。我们希望我们的方法，以及我们的指标，可以用来构建更好的，无偏见的翻译系统。
2022-10-17 cs.CL cs.LG
Mitigating Spectral Bias in Neural Operators via High-Frequency Scaling for Physical Systems
Brown University（布朗大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对神经算子因谱偏差导致物理建模解过度平滑的问题，提出高频缩放（HFS）方法直接作用于隐空间缓解卷积类神经算子的谱偏差，提升流场预测精度，且结合HFS增强算子的扩散模型可进一步降低误差。
2025-03-17 cs.LG physics.comp-ph
Mitigating Observation Biases in Crowdsourced Label Aggregation
Kyoto University（京都大学）
众包已经被广泛用于以低成本从大量人力资源高效地获得用于监督学习的标记数据集。然而，从众包中获得高质量结果的技术挑战之一是处理由人类执行工作的事实引起的可变性和偏差，各种研究已经解决了这个问题，通过整合冗余收集的响应来提高质量。在这项研究中，我们专注于众包中的观察偏差。工人响应的频率和任务的复杂性发生变化，这可能会影响聚合结果，当它们与响应的质量相关时。我们还提出了众包响应的统计聚合方法，该方法与因果推断中使用的观测数据偏差消除方法相结合。通过使用合成和真实数据集与/不人工注入垃圾邮件和串通工人的实验，我们验证了所提出的方法提高了聚合精度存在较强的观察偏差和鲁棒性的垃圾邮件和串通工人。
2023-02-25 cs.HC cs.LG
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）
先进的机器学习技术提高了自然语言处理的性能。然而，最近的研究，例如，Zhao et al.（2017）表明，这些技术无意中捕获了隐藏在语料库中的社会偏见，并进一步放大了它。然而，他们的分析仅针对模型的最佳预测。在本文中，我们从分布的角度研究了性别偏见放大问题，并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下，我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
2020-05-13 cs.CL cs.CV cs.LG
Metric-DST: Mitigating Selection Bias Through Diversity-Guided Semi-Supervised Metric Learning
Delft University of Technology（代尔夫特理工大学）
针对选择偏差损害机器学习公平性的问题，提出Metric-DST多样性引导自训练策略，结合度量学习与隐式嵌入空间纳入多样本，在多类带偏差数据集上训练出更稳健模型，为缓解选择偏差、提升模型公平性提供灵活通用方案。
2024-11-28 cs.AI cs.LG
Generative Adversarial Networks for Mitigating Biases in Machine Learning Systems
University of Montreal（蒙特利尔大学）；Université du Québec en Outaouais（魁北克大学乌塔韦校区）
在本文中，我们提出了一个新的框架，以减轻偏见的机器学习系统。现有的缓解方法的问题在于，它们是面向模型的，在某种意义上，它们专注于调整训练算法以产生公平的结果，而忽略了训练数据本身可能是有偏差的结果的主要原因的事实。从技术上讲，在这种基于模型的方法中可以发现两个基本限制：1）在不降低机器学习模型的准确性的情况下无法实现缓解，以及2）当用于训练的数据在很大程度上存在偏差时，训练时间会自动增加，以便找到有助于产生公平结果的合适的学习参数。为了解决这些缺点，我们在这项工作中提出了一个新的框架，可以在很大程度上减轻机器学习系统中的偏见和歧视，同时提高这些系统的预测精度。所提出的框架是基于条件生成对抗网络（cGANs），它被用来从原始数据中生成新的具有选择性属性的合成公平数据。我们还提出了一个分析数据偏差的框架，这对于理解需要为每个人群进行综合采样和标记的数据的数量和类型非常重要。实验结果表明，该方法可以有效地消除不同类型的偏差，同时提高底层机器学习模型的预测精度。
2019-05-23 cs.LG stat.ML
Toward Mitigating Sex Bias in Pilot Trainees' Stress and Fatigue Modeling
Purdue University（普渡大学）
针对飞行员学员压力与疲劳检测模型中的性别偏见，本文基于69名学生数据，用决策树和带公平约束的阈值优化器进行30次实验，显著降低人口均等与机会均等差异。
2024-09-16 cs.CY cs.LG
Mitigating Simplicity Bias in Deep Learning for Improved OOD Generalization and Robustness
University of Southern California（南加州大学）
针对神经网络简单性偏差导致OOD泛化差的问题，提出通过正则化条件互信息鼓励模型使用多样特征，从而提升OOD泛化、子群鲁棒性和公平性，并辅以理论分析。
2023-10-09 cs.LG stat.ML
DeepTechnome: Mitigating Unknown Bias in Deep Learning Based Assessment of CT Images
Siemens Healthcare GmbH（西门子医疗有限公司）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
使用相关生物信息可靠地检测疾病对于深度学习技术在医学成像中的实际应用至关重要。我们在训练过程中针对未知偏差对深度学习模型进行去偏-而无需预先对输入进行预处理/过滤，也无需假设有关其分布或数据集中精确性质的特定知识。我们使用控制区域作为代理，携带有关偏差的信息，采用分类器模型来提取特征，并使用我们的自定义模块化DecorreLayer抑制有偏差的中间特征。我们评估我们的方法对952肺计算机断层扫描的数据集，通过引入模拟偏差w.r.t.重建核和噪声水平，并提出包括对抗性测试集的偏见减少技术的评估。在中等规模的模型架构中，应用所提出的方法从表现出强偏差的数据中学习，它几乎完美地恢复了在使用相应的无偏数据进行训练时观察到的分类性能。
2022-05-26 cs.CV cs.LG eess.IV
Bias-Aware Minimisation: Understanding and Mitigating Estimator Bias in Private SGD
Institute for AI in Medicine, Technical University of Munich（慕尼黑工业大学医学人工智能研究所）；Konrad Zuse School for Excelllence in Reliable AI（康拉德·楚泽卓越可靠人工智能学院）；V7 Labs（V7实验室）；Imperial College London（帝国理工学院）
针对DP-SGD的私有梯度估计有偏导致模型效用受限的问题，提出偏差感知最小化BAM方法，可证明降低偏差且适配大网络，在多个数据集上显著改善隐私-效用权衡。
2023-08-23 cs.CR cs.LG
On Mitigating Affinity Bias through Bandits with Evolving Biased Feedback
Algorithms and Randomness Center, Georgia Institute of Technology（佐治亚理工学院算法与随机性中心）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Google Research（谷歌研究院）
本文提出亲和老虎机（affinity bandits）模型刻画招聘反馈回路中的亲和偏差，证明其遗憾下界比标准老虎机大一个关于K的乘法因子，并设计出无需观察真实奖励即可近乎匹配该下界的淘汰式算法。
2025-03-07 cs.LG stat.ML
Domain-Incremental Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition
University of Cambridge（剑桥大学）；Binghamton University（宾汉姆顿大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
随着面部表情识别（FER）系统融入我们的日常生活，这些系统需要优先做出公平的决策，而不是以更高的个人准确率为目标。从监测系统到诊断个人的心理和情绪健康状况，这些系统需要平衡准确性与公平性的权衡，以做出不会不公正地歧视特定代表性不足的人口群体的决定。将偏差识别为面部分析系统中的关键问题，已经提出了不同的方法，旨在在数据和算法级别上减轻偏差。在这项工作中，我们提出了新的使用持续学习（CL），特别是，使用域增量学习（域IL）设置，作为一个有力的偏见缓解方法，以提高FER系统的公平性，同时防止偏见所产生的数据分布偏态。我们使用两个流行的基准，RAF-DB和BP 4D数据集，分别比较了不同的非基于CL和基于CL的方法在表情识别和动作单元（AU）检测任务上的分类准确性和公平性得分。我们的实验结果表明，基于CL的方法，平均而言，优于其他流行的偏见缓解技术的准确性和公平性指标。
2021-03-15 cs.CV cs.LG
Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices
Cornell University（康奈尔大学）；Microsoft Research（微软研究院）
人们对在招聘中使用算法的兴趣迅速增长，特别是作为解决或减轻偏见的一种手段。然而，到目前为止，人们对这些方法在实践中如何使用知之甚少。算法评估是如何建立、验证和检查偏差的？在这项工作中，我们记录和分析的索赔和实践的公司提供算法的就业评估。特别是，我们确定了算法就业前评估的供应商（即，筛选候选人的算法），记录他们披露的关于他们的开发和验证程序的信息，并评估他们的实践，特别关注检测和减轻偏见的努力。我们的分析考虑了技术和法律两个方面。从技术上讲，我们考虑供应商在数据汇集和预测目标方面做出的各种选择，并探讨这些选择带来的风险和权衡。我们还讨论了如何算法去偏置技术接口，并创造挑战，反歧视法。
2019-12-06 cs.AI cs.CY cs.LG
Dissecting and Mitigating Diffusion Bias via Mechanistic Interpretability
ShanghaiTech University（上海科技大学）；Stony Brook University（石溪大学）；Tencent PCG（腾讯互动娱乐事业群）
本文通过机制可解释性识别扩散模型中的偏见特征，并直接操纵这些特征以实现对生成内容偏见水平的细粒度控制，在保持图像质量的同时有效管理生成分布，并促进对扩散模型内部机制的进一步研究。
2025-03-26 cs.CV cs.LG
AIM: Attributing, Interpreting, Mitigating Data Unfairness
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；IBM Research（IBM研究院）
针对公平机器学习领域数据偏差溯源研究不足的问题，提出AIM框架，通过样本偏差准则与算法实现偏差的样本级归因解释，并设计基于最小数据编辑的策略，以极低效用损失同时缓解群体与个体不公平性。
2024-06-18 cs.AI cs.LG stat.ML
Mitigating Bias in Adaptive Data Gathering via Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
自适应地收集的数据-例如，通过强盗算法-显示出偏见。这是真实的，当收集简单的数值数据时-由随机强盗算法跟踪的经验手段是向下偏置的-当收集更复杂的数据时-对通过上下文强盗算法收集的复杂数据运行假设检验会导致错误的发现。在本文中，我们表明，如果数据汇集过程是差分私有的，这个问题是缓解。这让我们既可以约束简单数值量的偏差（如随机强盗算法的经验平均值），又可以校正在自适应收集的数据上运行的假设检验的p值。此外，存在差分私人土匪算法与附近的最佳遗憾界：我们应用现有的定理在简单的随机情况下，并给出了一个新的分析线性上下文土匪。我们补充我们的理论结果与实验验证我们的理论。
2018-06-06 cs.DS cs.LG stat.ML
Mitigating Statistical Bias within Differentially Private Synthetic Data
University of Oxford（牛津大学）；University of Warwick（华威大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Kaiserslautern（凯泽斯劳滕大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心）
对隐私保护机器学习的兴趣日益增加，导致了用于从未公开的真实数据生成私有合成数据的新的和进化的方法。然而，隐私保护机制可以显著降低合成数据的效用，这反过来又会影响下游任务，如学习预测模型或推理。我们提出了几个重新加权策略，使用私有化的似然比，不仅减轻下游估计的统计偏差，但也具有普遍适用性的差分私人生成模型。通过大规模的实证评估，我们表明，私人重要性加权提供了简单而有效的隐私兼容的合成数据的一般应用程序的增强。
2022-05-19 cs.CR cs.LG stat.ML
Identifying and mitigating bias in algorithms used to manage patients in a pandemic
NYU Grossman School of Medicine（纽约大学格罗斯曼医学院）；NYU Langone Health System（纽约大学朗格尼医疗系统）；New York University（纽约大学）
已经开发了许多COVID-19临床决策支持系统。然而，由于方法学上的缺陷，包括算法偏见，这些系统中的许多系统不具有有效性的优点。方法使用由纽约市四家医院组成的真实世界数据集创建Logistic回归模型来预测COVID-19死亡率，呼吸机状态和住院状态，并分析种族，性别和年龄的偏倚。在训练过程中应用简单的阈值调整，以建立更公平的模型。结果与未经训练的模型相比，校准模型显示偏倚试验的数量减少了57%，而预测性能（通过受试者/工作曲线下面积（AUC）测量）保持不变。校正后，预测模型的平均灵敏度从0.527增加到0.955。结论我们证明，在现实世界的数据上天真地训练和部署机器学习模型来预测分析COVID-19具有很高的偏倚风险。在模型训练期间简单地实现调整或校准可以在后续部署中获得实质性和持续的公平性收益。
2021-10-30 cs.CY cs.LG
Mitigating Extrinsic Gender Bias for Bangla Classification Tasks
Ahsanullah University of Science and Technology（阿沙努拉科学与技术大学）；University of California, Riverside（加州大学河滨分校）
本文研究了孟加拉语预训练语言模型中的外在性别偏见，构建了四个任务特定的基准数据集，并提出RandSymKL方法以缓解偏见，实验表明其能有效减少偏见并保持高准确率。
2026-05-16 cs.AI cs.CL cs.LG
Backdoor for Debias: Mitigating Model Bias with Backdoor Attack-based Artificial Bias
本文提出利用后门攻击构造可调节的反向人工偏置，并结合知识蒸馏框架在降低原始数据模型偏置的同时减少后门安全风险，在图像和结构化数据集上验证了有效性。
2024-07-01 cs.AI cs.CY cs.LG
Mitigating Label Biases for In-context Learning
EPFL（洛桑联邦理工学院）；UC Irvine（加州大学欧文分校）；ETH Zurich（苏黎世联邦理工学院）
本文定义了上下文学习中的三种标签偏差，并提出利用随机领域内单词估计偏差的校准方法，显著提升了GPT-J和GPT-3在多任务上的性能。
2023-08-04 cs.AI cs.CL cs.LG
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University（密歇根州立大学）；TAL Education Group（好未来教育集团）
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出，在人类对话数据上训练的对话系统是有偏见的。特别是，它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法，例如词嵌入。但是，它们并不直接适用于对话系统，因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性，并极大地损害了对话模型的性能。在本文中，我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型，不受性别偏见，同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明，我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
DISCO: Mitigating Bias in Deep Learning with Conditional Distance Correlation
Technical University of Munich, Germany（慕尼黑技术大学）；Konrad Zuse School of Excellence in Reliable AI, Germany（Konrad Zuse可靠性人工智能卓越学院）；Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心（MCML））
提出基于反因果模型的条件独立性准则，并设计条件距离相关性的高效估计器DISCO$_m$和sDISCO，通过正则化实现梯度模型中的偏差缓解，在多个数据集上优于或媲美现有方法。
2026-05-29 cs.AI cs.CV cs.LG
Understanding and Mitigating Annotation Bias in Facial Expression Recognition
University of California, Los Angeles（加州大学洛杉矶分校）
计算机视觉模型的性能取决于其训练数据的大小和质量。最近的研究揭示了常见图像数据集中以前未知的成分偏差，这些偏差导致模型输出偏斜，并提出了减轻这些偏差的方法。然而，大多数现有的作品假设人类生成的注释可以被认为是黄金标准和公正的。在本文中，我们揭示了这种假设可能是有问题的，并且应该特别注意防止模型学习这种注释偏差。我们专注于面部表情识别，并比较实验室控制和野生数据集之间的标签偏差。我们证明了许多表情数据集在性别之间存在显著的注释偏差，特别是在快乐和愤怒的表情方面，并且传统方法无法完全减轻训练模型中的这种偏差。为了消除表情注释偏差，我们提出了一个AU校准的面部表情识别（AUC-FER）框架，利用面部动作单元（AU），并将三重损失的目标函数。实验结果表明，该方法是更有效地消除表达式注释偏见比现有的技术。
2021-08-19 cs.AI cs.CV cs.LG
Relative Counterfactual Contrastive Learning for Mitigating Pretrained Stance Bias in Stance Detection
Tianjin University（天津大学）
针对预训练语言模型存在的预训练立场偏差难测量问题，提出相对反事实对比学习方法，通过结构因果模型定位偏差、目标感知样本生成获取相对偏差、反事实对比学习去偏，提升了立场检测性能。
2024-05-16 cs.AI cs.LG stat.ME
What is in a name? Mitigating Name Bias in Text Embeddings via Anonymization
Pocket FM
本文首次揭示文本嵌入中因人名、地名等名称导致的偏见，并提出推理时文本匿名化方法，在保留核心语义的同时去除名称引用，在两个NLP任务上显著提升性能。
2025-02-05 cs.AI cs.CL cs.LG
Phrase-Level Adversarial Training for Mitigating Bias in Neural Network-based Automatic Essay Scoring
Eötvös Lorand University（厄特沃什·罗兰大学）；University of Groningen（格罗宁根大学）
本文提出一种与模型无关的短语级对抗作文生成与数据增强方法，以缓解AES模型对高频样本的偏见，并在多种神经网络评分模型上验证其稳健性与性能提升。
2024-09-07 cs.AI cs.CL cs.LG
