Mitigating Sampling Bias and Improving Robustness in Active Learning
Intel Labs（英特尔实验室）；Intel Corporation（英特尔公司）
本文提出了简单有效的方法，以减轻采样偏差在主动学习，同时实现最先进的精度和模型的鲁棒性。我们引入了监督对比主动学习，利用对比损失的主动学习在监督设置。我们提出了一个无偏的查询策略，选择信息丰富的数据样本的不同特征表示与我们的方法：监督对比主动学习（SCAL）和深度特征建模（DFM）。我们经验证明，我们提出的方法减少采样偏差，实现最先进的准确性和模型校准的主动学习设置与查询计算26倍的速度比贝叶斯主动学习的分歧和11倍的速度比CoreSet。所提出的SCAL方法在对数据集移位和分布外的鲁棒性方面有很大的优势。
2021-09-13 cs.LG
Mitigating Memorization of Noisy Labels by Clipping the Model Prediction
Southern University of Science and Technology（南方科技大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；South China University of Technology（华南理工大学）；Nanyang Technological University（南洋理工大学）；RIKEN AIP（理化学研究所人工智能研究中心）
针对噪声标签下深度神经网络泛化性能差的问题，提出LogitClip方法通过钳制logit向量范数为损失引入上界，理论验证其耐噪性，实验证明可显著提升CE及多种常用鲁棒损失的噪声鲁棒性与泛化性能。
2023-06-13 cs.AI cs.LG
Beyond Communication Overhead: A Multilevel Monte Carlo Approach for Mitigating Compression Bias in Distributed Learning
Viterby Faculty of Electrical and Computer Engineering（电气与计算机工程学院）
针对分布式学习中通信开销与压缩偏差的权衡，提出多层蒙特卡洛压缩方案，利用有偏压缩器构建无偏估计，并应用于Top-k和位级压缩器，在分布式深度学习任务上验证了有效性。
2025-07-07 cs.LG
Mitigating Dataset Bias by Using Per-sample Gradient
KAIST AI（韩国科学技术院人工智能学院）；KAIST ISysE（韩国科学技术院工业与系统工程系）
深度神经网络的性能受到训练数据集设置的强烈影响。特别地，当存在与目标属性具有强相关性的属性时，训练的模型可以提供非预期的预先判断并显示出显著的推断错误（即，数据集偏差问题）。已经提出了各种方法来减轻数据集偏差，并且它们的重点是弱相关样本，称为偏差冲突样本。这些方法基于涉及人类或经验相关性度量的显式偏差标签（例如，训练损失）。然而，这些指标需要人力成本或理论解释不足。在这项研究中，我们提出了一种去偏置算法，称为PGD（基于每样本的去偏置），它包括三个步骤：（1）在均匀批量采样上训练模型，（2）设置每个样本的重要性与样本梯度的范数成比例，（3）使用重要批量采样训练模型，其概率在步骤（2）中获得。与各种合成和真实世界数据集的现有基线相比，所提出的方法在分类任务中显示出最先进的准确性。此外，我们描述了关于PGD如何减轻数据集偏差的理论理解。
2023-02-10 cs.LG
Latent Adversarial Debiasing: Mitigating Collider Bias in Deep Neural Networks
University of Edinburgh（爱丁堡大学）；Jagiellonian University（雅盖隆大学）
对撞机偏差是样本选择偏差的一种有害形式，神经网络无法处理。当由于训练数据收集过程，潜在的因果信号与其他混杂信号强烈相关时，这种偏差表现出来。在混淆信号易于学习的情况下，深度神经网络将锁定这一点，由此产生的模型将难以推广到野外测试场景。我们在这里认为，失败的原因是神经网络的深层结构和所使用的贪婪梯度驱动学习过程的结合-一个更喜欢容易计算的信号时，可用的。我们表明，即使在100%的训练数据中存在混杂信号，也可以通过使用潜在对抗性去偏（LAD）生成偏置解耦的训练数据来减轻这种情况。通过在这些对抗性示例上训练神经网络，我们可以提高它们在对撞机偏差设置中的泛化能力。实验显示了LAD在无标记去偏中的最新性能，在背景色MNIST上的增益为76.12%，在前地色MNIST上的增益为35.47%，在损坏的CIFAR-10上的增益为8.27%。
2020-11-19 cs.LG
Teacher's pet: understanding and mitigating biases in distillation
Google Research（谷歌研究院）
知识蒸馏被广泛地用作使用来自复杂教师模型的预测来改进相对简单的学生模型的性能的手段。一些作品表明，蒸馏显着提高学生的整体表现，但是，这些收益均匀所有数据分组？在本文中，我们证明了蒸馏可以损害某些子群的性能，例如，类与一些相关的样本。我们将这种行为追溯到教师分布转移到学生模型并被学生模型放大所产生的错误。为了缓解这个问题，我们提出了技术，软化教师的影响，它是不太可靠的子群。在多个图像分类基准上的实验表明，这些改进的蒸馏保持了整体准确性的提高，同时还确保了子组性能的提高。
2021-07-08 cs.LG
On Measuring and Mitigating Biased Inferences of Word Embeddings
University of Utah（犹他大学）
词嵌入带有来自它们所训练的文本的刻板内涵，这可能导致依赖它们的下游模型中的无效推断。我们利用这一观察设计了一个机制，用于测量定型使用的任务自然语言推理。我们证明了减少无效的推断，通过偏见缓解策略静态词嵌入（GloVe）。此外，我们表明，性别偏见，这些技术扩展到语境化嵌入时，选择性地只适用于静态组件的语境化嵌入（ELMo，BERT）。
2019-11-26 cs.CL cs.LG
Diverse Adversaries for Mitigating Bias in Training
School of Computing and Information Systems（计算与信息系统学院）；The University of Melbourne（墨尔本大学）
对抗性学习可以学习比标准方法更公平和更少偏见的语言模型。然而，目前的对抗性技术只能部分减轻模型偏差，再加上它们的训练过程往往不稳定。在本文中，我们提出了一种基于使用多个不同鉴别器的对抗学习新方法，鼓励鉴别器相互学习正交隐藏表示。实验结果表明，我们的方法大大提高了标准的对抗性去除方法，在减少偏见和训练的稳定性。
2021-01-25 cs.AI cs.LG
Investigating and Mitigating the Side Effects of Noisy Views for Self-Supervised Clustering Algorithms in Practical Multi-View Scenarios
University of Electronic Science and Technology of China（电子科技大学）；Shenzhen Institute for Advanced Study（深圳高等研究院）；Harbin Institute of Technology（哈尔滨工业大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Singapore University of Technology and Design（新加坡科技设计大学）
本文研究了实际多视图场景中噪声视图导致聚类性能退化的问题，提出深度多视图聚类方法MVCAN，通过允许跨视图不共享参数和预测不一致，并设计两级迭代优化生成稳健目标，有效缓解噪声副作用并提升了聚类鲁棒性。
2024-03-25 cs.CV cs.LG
An Analysis of Concept Bottleneck Models: Measuring, Understanding, and Mitigating the Impact of Noisy Annotations
POSTECH
本文提出了一种两阶段框架，通过尖锐性感知训练和不确定性校正来缓解概念瓶颈模型中噪声标注的影响，提升模型的鲁棒性和可解释性。
2026-01-30 cs.AI cs.LG
Mitigating Gender Bias in Machine Learning Data Sets
University College Dublin（都柏林大学学院）
人工智能有能力放大和延续社会偏见，并为社会带来深刻的伦理影响。在招聘广告和招聘工具的背景下，由于依赖于潜在的语言处理和推荐算法，性别偏见已被确定。解决这些问题的尝试涉及测试学习关联，将公平性概念集成到机器学习中，并对训练数据进行更严格的分析。考虑到性别意识形态嵌入语言的复杂方式，在文本数据上训练算法时减轻偏见尤其具有挑战性。本文提出了一个识别机器学习训练数据中性别偏见的框架，利用性别理论和社会语言学，系统地指出文本训练数据和相关神经词嵌入模型中的偏见水平，从而突出了从训练数据中消除偏见并严格评估其影响的途径。
2020-05-18 cs.CL cs.LG
Simon Says: Evaluating and Mitigating Bias in Pruned Neural Networks with Knowledge Distillation
Texas State University（德克萨斯州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
近年来，人工智能无处不在的部署在算法偏见、歧视和公平性方面引起了极大的关注。与人类造成的传统形式的偏见或歧视相比，人工智能产生的算法偏见更加抽象和不直观，因此更难以解释和减轻。在当前的文献中，关于评估和减轻修剪神经网络中的偏差存在明显的差距。在这项工作中，我们致力于解决具有挑战性的问题，评估，减轻和解释修剪神经网络中的诱导偏差。我们的论文有三个贡献。首先，我们提出了两个简单而有效的度量，组合误差方差（CEV）和对称距离误差（EFT），以定量评估修剪模型的诱导偏差预防质量。其次，我们证明了知识蒸馏可以减轻修剪神经网络中的诱导偏差，即使是不平衡的数据集。第三，我们揭示了模型相似性与修剪诱导的偏差有很强的相关性，这为解释为什么修剪后的神经网络会出现偏差提供了一个强有力的方法。我们的代码可在https://github.com/codestar12/pruning-distilation-bias上获得
2021-06-15 cs.AI cs.CV cs.LG
Mitigating the Bias of Centered Objects in Common Datasets
Peter Pazmany Catholic University（彼得·帕兹曼尼天主教大学）
本文指出常见数据集存在物体居中偏差，导致卷积网络在物体接近边界时准确率显著下降，并提出利用数据增强技术有效缓解该问题。
2023-08-04 cs.CV cs.LG
Mitigating Noisy Supervision Using Synthetic Samples with Soft Labels
McMaster University（麦克马斯特大学）
针对深度神经网络易受噪声标签影响导致泛化差的问题，提出利用合成样本与软标签训练模型的框架，通过聚合样本及其最近邻并逐步纠正噪声标签，在多个基准和真实数据集上显著提升了表示质量与鲁棒性。
2024-06-22 cs.CV cs.LG
Mitigating Algorithmic Bias on Facial Expression Recognition
Bayor University（贝勒大学）
针对有偏见数据集导致算法偏向多数类的问题，本文提出使用去偏变分自编码器缓解偏见，并在面部表情识别任务上进行实验验证。
2023-12-23 cs.CV cs.CY cs.LG
Towards Understanding and Mitigating Social Biases in Language Models
Carnegie Mellon University（卡内基梅隆大学）
随着机器学习方法被部署到医疗保健、法律系统和社会科学等现实环境中，认识到它们如何在这些敏感的决策过程中塑造社会偏见和刻板印象至关重要。在这些现实世界的部署中，大规模的预训练语言模型（LM）可能会表现出不受欢迎的代表性偏见，这是一种潜在的危险-由刻板印象造成的有害偏见，传播涉及性别，种族，宗教和其他社会结构的负面概括。作为提高LMs公平性的一步，我们仔细定义了代表性偏见的几个来源，然后提出新的基准和指标来衡量它们。有了这些工具，我们提出了在文本生成过程中减轻社会偏见的步骤。我们的实证结果和人类评估表明，有效地减轻偏见，同时保留关键的上下文信息，高保真文本生成，从而推动了性能公平帕累托边界。
2021-06-24 cs.AI cs.CL cs.CY
Mitigating Pooling Bias in E-commerce Search via False Negative Estimation
The Pennsylvania State University（宾夕法尼亚州立大学）；Instacart
针对电商搜索负采样存在的池化偏差问题，提出基于假阴性估计的BHNS策略，经Instacart场景及公开数据集验证，兼具实用效果与跨领域应用潜力。
2024-08-17 cs.IR cs.LG
Identification and Mitigating Bias in Quantum Machine Learning
University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文围绕量子机器学习中的偏差问题，系统探讨其表现形式、产生原因及识别、诊断与缓解策略，为该领域偏差治理提供研究框架。
2024-09-23 cs.AI cs.LG quant-ph
Detecting and Mitigating Algorithmic Bias in Binary Classification using Causal Modeling
Singapore Institute of Technology（新加坡理工学院）；University of Western Australia（西澳大利亚大学）
该研究针对二分类场景中的算法性别偏差问题，提出基于因果建模的检测与缓解方法，经Adult数据集验证可有效减偏差且略提准确率，方法易用可解释性强。
2023-11-09 cs.CY cs.LG
Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information
Technion – Israel Institute of Technology（以色列理工学院）
本文提出 DAFair，通过预定义原型人口统计文本和微调正则化项，在不使用显式人口统计标签的情况下缓解语言模型表示中的社会偏见，并在多任务、多模型实验中优于既有无标注及有限标注去偏见方法。
2024-04-05 cs.CL cs.CY cs.LG
Mitigating Bias in Federated Learning
IBM Research（IBM研究院）
随着创建歧视感知模型的方法的发展，它们专注于集中式ML，而联邦学习（FL）尚未探索。FL是协作ML的一种新兴方法，其中聚合器协调多方来训练全局模型，而无需共享他们的训练数据。在本文中，我们讨论了FL中偏差的原因，并提出了三种预处理和处理方法来减轻偏差，而不影响数据隐私，这是FL的一个关键要求。由于各方之间的数据异质性是FL的挑战性特征之一，我们在几个数据分布上进行实验，以分析它们对模型性能，公平性指标和偏见学习模式的影响。我们对我们提出的技术进行了全面的分析，结果表明，即使各方有偏斜的数据分布或只有20%的缔约方采用这些方法，这些方法也是有效的。
2020-12-04 cs.LG stat.ML
Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University（首尔大学）；LG AI Research（LG AI研究院）；University of Michigan（密歇根大学）
该研究定义并验证了偏置神经元的存在，提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元，在零样本设置下有效缓解偏置且不损失模型性能，仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation
Nishit Singh
将偏见形式化为对称性破缺操作，通过损失正则化恢复对称性，在合成数据集上实现90%以上的违规减少，准确率成本约5%。
2026-06-02 cs.AI cs.LG
ProbLog4Fairness: A Neurosymbolic Approach to Modeling and Mitigating Bias
针对公平性定义兼容难、偏差假设整合框架缺乏的问题，提出用ProbLog概率逻辑程序形式化偏差假设，结合神经符号扩展整合进训练，在合成与真实数据集上缓解偏差，优于固定偏差类型的基线方法。
2025-11-12 cs.AI cs.LG
Discovering and Mitigating Visual Biases through Keyword Explanation
KAIST（韩国科学技术院）；University of Michigan（密歇根大学）；KRAFTON；POSTECH（浦项科技大学）
提出B2T框架，通过从错误预测图像描述中提取并验证关键词来解释视觉偏差，支持偏差发现与去偏差训练等应用，在多个数据集上有效识别已知和新颖偏差。
2024-03-27 cs.CV cs.LG
Mitigating Gender Bias in Contextual Word Embeddings
本文提出新的掩码语言建模目标函数和评估指标，用于缓解上下文词嵌入中的性别偏见，同时证明静态嵌入偏见主要源于刻板印象名字而非性别化词语本身。
2024-11-18 cs.CL cs.LG
Mitigating Bias in RAG: Controlling the Embedder
Carnegie Mellon University（卡内基梅隆大学）
本研究通过偏见冲突理论及120个微调嵌入器实验，发现控制嵌入器偏见比提高其公平性更能有效缓解RAG系统整体偏见。
2025-02-24 cs.CL cs.LG
Mitigating Label Bias in Machine Learning: Fairness through Confident Learning
Hangzhou Dianzi University（杭州电子科技大学）；University of Technology Sydney（悉尼科技大学）；Huazhong University of Science and Technology（华中科技大学）；Renmin University of China（中国人民大学）
本文提出在置信学习框架内通过截断置信度得分和扩展概率阈值置信区间，并结合协同教学范式，从有偏标签数据中筛选公平实例，以缓解标签偏差并提升模型公平性。
2023-12-24 cs.CY cs.LG
Mitigating Label Bias via Decoupled Confident Learning
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对训练标签中普遍存在的社会偏差，本文提出剪枝方法 DeCoLe，以识别并缓解仇恨言论检测等任务中的偏差标签，且效果优于现有方法。
2023-09-29 cs.CL cs.LG
ConQUR: Mitigating Delusional Bias in Deep Q-learning
Department of Computer Science, Princeton University（普林斯顿大学计算机科学系）；Google Research（谷歌研究院）；Department of Computing Science, University of Alberta（阿尔伯塔大学计算机科学系）
偏置是近似Q学习中误差的基本来源。迄今为止，唯一明确解决妄想的技术需要使用表格值估计进行全面搜索。在本文中，我们开发了有效的方法，以减轻妄想偏见训练Q-近似与标签是“一致的”与底层的贪婪政策类。我们引入了一个简单的惩罚方案，鼓励跨训练批次使用的Q标签与可表达的策略类保持（联合）一致。我们还提出了一个搜索框架，允许多个Q-逼近生成和跟踪，从而减轻过早（隐式）的政策承诺的影响。实验结果表明，这些方法可以提高Q学习在各种Atari游戏中的性能，有时显着。
2020-02-27 cs.AI cs.LG stat.ML
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology（麻省理工学院）
本文提出三种技术缓解概念瓶颈模型中的偏见，以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
FairFlow: Mitigating Dataset Biases through Undecided Learning
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
针对语言模型易受数据集偏差影响导致新数据性能下降的问题，提出FairFlow去偏差框架，通过扰动操作生成偏差视图结合对比目标学习鲁棒表征，在域外和难样本上优于现有方法且不影响域内性能。
2025-03-22 cs.AI cs.CL cs.LG
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University（德里理工大学）；IIIT-Delhi（德里印度理工学院）
词嵌入是词的语义和句法表示的标准模型。不幸的是，这些模型已被证明表现出不受欢迎的词的协会，导致性别，种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中，我们提出了RAN-Debias，一种新的性别去偏置方法，它不仅消除了词向量中存在的偏见，而且改变了其相邻向量的空间分布，实现了无偏见的设置，同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计（GIPE），它衡量的程度，不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明，RAN-Debias在减少邻近偏差（GIPE）方面明显优于最先进的方法，至少减少42.02%。它还减少了直接偏见，增加了最小的语义干扰，并在下游应用程序任务（共指消解）中实现了最佳性能。
2020-06-02 cs.CL cs.LG
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）
先进的机器学习技术提高了自然语言处理的性能。然而，最近的研究，例如，Zhao et al.（2017）表明，这些技术无意中捕获了隐藏在语料库中的社会偏见，并进一步放大了它。然而，他们的分析仅针对模型的最佳预测。在本文中，我们从分布的角度研究了性别偏见放大问题，并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下，我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
2020-05-13 cs.CL cs.CV cs.LG
Mitigating Estimation Bias with Representation Learning in TD Error-Driven Regularization
School of Automation, Central South University（自动化学院，中南大学）；School of Engineering, University of Newcastle（工程学院，新castle大学）
本文提出了一种基于表示学习的双演员-批评者框架，通过三种凸组合策略和增强的表示来缓解TD误差驱动正则化中的估计偏差，实现灵活的偏差控制和性能提升。
2025-11-20 cs.AI cs.LG
How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts
Walmart Labs（沃尔玛实验室）；SAP Labs（思爱普实验室）；McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）
基于Transformer架构构建的神经机器翻译系统通常会根据单词重叠度量来提高翻译质量。然而，越来越多的研究也强调了这些模型在培训过程中固有的性别偏见，这在其翻译中反映不佳。在这项工作中，我们调查这些模型是否可以被指示，以修复他们的偏见在推理过程中使用有针对性的，指导性的指示作为上下文。通过在推理过程中翻译相关的上下文句子以及输入，我们在三个流行的测试套件（WinoMT，BUG，SimpleGen）中观察到在减少翻译中的性别偏见方面有很大的改进。我们进一步提出了一种新的度量标准，以评估几个大型预训练模型（OPUS-MT，M2M-100）对翻译过程中使用上下文来纠正其偏见的敏感性。我们的方法不需要微调，因此可以很容易地在生产系统中使用，以消除刻板的性别职业偏见1。我们希望我们的方法，以及我们的指标，可以用来构建更好的，无偏见的翻译系统。
2022-10-17 cs.CL cs.LG
Mitigating Spectral Bias in Neural Operators via High-Frequency Scaling for Physical Systems
Brown University（布朗大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对神经算子因谱偏差导致物理建模解过度平滑的问题，提出高频缩放（HFS）方法直接作用于隐空间缓解卷积类神经算子的谱偏差，提升流场预测精度，且结合HFS增强算子的扩散模型可进一步降低误差。
2025-03-17 cs.LG physics.comp-ph
Mitigating Observation Biases in Crowdsourced Label Aggregation
Kyoto University（京都大学）
众包已经被广泛用于以低成本从大量人力资源高效地获得用于监督学习的标记数据集。然而，从众包中获得高质量结果的技术挑战之一是处理由人类执行工作的事实引起的可变性和偏差，各种研究已经解决了这个问题，通过整合冗余收集的响应来提高质量。在这项研究中，我们专注于众包中的观察偏差。工人响应的频率和任务的复杂性发生变化，这可能会影响聚合结果，当它们与响应的质量相关时。我们还提出了众包响应的统计聚合方法，该方法与因果推断中使用的观测数据偏差消除方法相结合。通过使用合成和真实数据集与/不人工注入垃圾邮件和串通工人的实验，我们验证了所提出的方法提高了聚合精度存在较强的观察偏差和鲁棒性的垃圾邮件和串通工人。
2023-02-25 cs.HC cs.LG
Metric-DST: Mitigating Selection Bias Through Diversity-Guided Semi-Supervised Metric Learning
Delft University of Technology（代尔夫特理工大学）
针对选择偏差损害机器学习公平性的问题，提出Metric-DST多样性引导自训练策略，结合度量学习与隐式嵌入空间纳入多样本，在多类带偏差数据集上训练出更稳健模型，为缓解选择偏差、提升模型公平性提供灵活通用方案。
2024-11-28 cs.AI cs.LG
Generative Adversarial Networks for Mitigating Biases in Machine Learning Systems
University of Montreal（蒙特利尔大学）；Université du Québec en Outaouais（魁北克大学乌塔韦校区）
在本文中，我们提出了一个新的框架，以减轻偏见的机器学习系统。现有的缓解方法的问题在于，它们是面向模型的，在某种意义上，它们专注于调整训练算法以产生公平的结果，而忽略了训练数据本身可能是有偏差的结果的主要原因的事实。从技术上讲，在这种基于模型的方法中可以发现两个基本限制：1）在不降低机器学习模型的准确性的情况下无法实现缓解，以及2）当用于训练的数据在很大程度上存在偏差时，训练时间会自动增加，以便找到有助于产生公平结果的合适的学习参数。为了解决这些缺点，我们在这项工作中提出了一个新的框架，可以在很大程度上减轻机器学习系统中的偏见和歧视，同时提高这些系统的预测精度。所提出的框架是基于条件生成对抗网络（cGANs），它被用来从原始数据中生成新的具有选择性属性的合成公平数据。我们还提出了一个分析数据偏差的框架，这对于理解需要为每个人群进行综合采样和标记的数据的数量和类型非常重要。实验结果表明，该方法可以有效地消除不同类型的偏差，同时提高底层机器学习模型的预测精度。
2019-05-23 cs.LG stat.ML
DeepTechnome: Mitigating Unknown Bias in Deep Learning Based Assessment of CT Images
Siemens Healthcare GmbH（西门子医疗有限公司）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
使用相关生物信息可靠地检测疾病对于深度学习技术在医学成像中的实际应用至关重要。我们在训练过程中针对未知偏差对深度学习模型进行去偏-而无需预先对输入进行预处理/过滤，也无需假设有关其分布或数据集中精确性质的特定知识。我们使用控制区域作为代理，携带有关偏差的信息，采用分类器模型来提取特征，并使用我们的自定义模块化DecorreLayer抑制有偏差的中间特征。我们评估我们的方法对952肺计算机断层扫描的数据集，通过引入模拟偏差w.r.t.重建核和噪声水平，并提出包括对抗性测试集的偏见减少技术的评估。在中等规模的模型架构中，应用所提出的方法从表现出强偏差的数据中学习，它几乎完美地恢复了在使用相应的无偏数据进行训练时观察到的分类性能。
2022-05-26 cs.CV cs.LG eess.IV
Toward Mitigating Sex Bias in Pilot Trainees' Stress and Fatigue Modeling
Purdue University（普渡大学）
针对飞行员学员压力与疲劳检测模型中的性别偏见，本文基于69名学生数据，用决策树和带公平约束的阈值优化器进行30次实验，显著降低人口均等与机会均等差异。
2024-09-16 cs.CY cs.LG
Mitigating Simplicity Bias in Deep Learning for Improved OOD Generalization and Robustness
University of Southern California（南加州大学）
针对神经网络简单性偏差导致OOD泛化差的问题，提出通过正则化条件互信息鼓励模型使用多样特征，从而提升OOD泛化、子群鲁棒性和公平性，并辅以理论分析。
2023-10-09 cs.LG stat.ML
Bias-Aware Minimisation: Understanding and Mitigating Estimator Bias in Private SGD
Institute for AI in Medicine, Technical University of Munich（慕尼黑工业大学医学人工智能研究所）；Konrad Zuse School for Excelllence in Reliable AI（康拉德·楚泽卓越可靠人工智能学院）；V7 Labs（V7实验室）；Imperial College London（帝国理工学院）
针对DP-SGD的私有梯度估计有偏导致模型效用受限的问题，提出偏差感知最小化BAM方法，可证明降低偏差且适配大网络，在多个数据集上显著改善隐私-效用权衡。
2023-08-23 cs.CR cs.LG
On Mitigating Affinity Bias through Bandits with Evolving Biased Feedback
Algorithms and Randomness Center, Georgia Institute of Technology（佐治亚理工学院算法与随机性中心）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Google Research（谷歌研究院）
本文提出亲和老虎机（affinity bandits）模型刻画招聘反馈回路中的亲和偏差，证明其遗憾下界比标准老虎机大一个关于K的乘法因子，并设计出无需观察真实奖励即可近乎匹配该下界的淘汰式算法。
2025-03-07 cs.LG stat.ML
Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices
Cornell University（康奈尔大学）；Microsoft Research（微软研究院）
人们对在招聘中使用算法的兴趣迅速增长，特别是作为解决或减轻偏见的一种手段。然而，到目前为止，人们对这些方法在实践中如何使用知之甚少。算法评估是如何建立、验证和检查偏差的？在这项工作中，我们记录和分析的索赔和实践的公司提供算法的就业评估。特别是，我们确定了算法就业前评估的供应商（即，筛选候选人的算法），记录他们披露的关于他们的开发和验证程序的信息，并评估他们的实践，特别关注检测和减轻偏见的努力。我们的分析考虑了技术和法律两个方面。从技术上讲，我们考虑供应商在数据汇集和预测目标方面做出的各种选择，并探讨这些选择带来的风险和权衡。我们还讨论了如何算法去偏置技术接口，并创造挑战，反歧视法。
2019-12-06 cs.AI cs.CY cs.LG
Domain-Incremental Continual Learning for Mitigating Bias in Facial Expression and Action Unit Recognition
University of Cambridge（剑桥大学）；Binghamton University（宾汉姆顿大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
随着面部表情识别（FER）系统融入我们的日常生活，这些系统需要优先做出公平的决策，而不是以更高的个人准确率为目标。从监测系统到诊断个人的心理和情绪健康状况，这些系统需要平衡准确性与公平性的权衡，以做出不会不公正地歧视特定代表性不足的人口群体的决定。将偏差识别为面部分析系统中的关键问题，已经提出了不同的方法，旨在在数据和算法级别上减轻偏差。在这项工作中，我们提出了新的使用持续学习（CL），特别是，使用域增量学习（域IL）设置，作为一个有力的偏见缓解方法，以提高FER系统的公平性，同时防止偏见所产生的数据分布偏态。我们使用两个流行的基准，RAF-DB和BP 4D数据集，分别比较了不同的非基于CL和基于CL的方法在表情识别和动作单元（AU）检测任务上的分类准确性和公平性得分。我们的实验结果表明，基于CL的方法，平均而言，优于其他流行的偏见缓解技术的准确性和公平性指标。
2021-03-15 cs.CV cs.LG
AIM: Attributing, Interpreting, Mitigating Data Unfairness
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；IBM Research（IBM研究院）
针对公平机器学习领域数据偏差溯源研究不足的问题，提出AIM框架，通过样本偏差准则与算法实现偏差的样本级归因解释，并设计基于最小数据编辑的策略，以极低效用损失同时缓解群体与个体不公平性。
2024-06-18 cs.AI cs.LG stat.ML
Dissecting and Mitigating Diffusion Bias via Mechanistic Interpretability
ShanghaiTech University（上海科技大学）；Stony Brook University（石溪大学）；Tencent PCG（腾讯互动娱乐事业群）
本文通过机制可解释性识别扩散模型中的偏见特征，并直接操纵这些特征以实现对生成内容偏见水平的细粒度控制，在保持图像质量的同时有效管理生成分布，并促进对扩散模型内部机制的进一步研究。
2025-03-26 cs.CV cs.LG
Mitigating Bias in Adaptive Data Gathering via Differential Privacy
University of Pennsylvania（宾夕法尼亚大学）
自适应地收集的数据-例如，通过强盗算法-显示出偏见。这是真实的，当收集简单的数值数据时-由随机强盗算法跟踪的经验手段是向下偏置的-当收集更复杂的数据时-对通过上下文强盗算法收集的复杂数据运行假设检验会导致错误的发现。在本文中，我们表明，如果数据汇集过程是差分私有的，这个问题是缓解。这让我们既可以约束简单数值量的偏差（如随机强盗算法的经验平均值），又可以校正在自适应收集的数据上运行的假设检验的p值。此外，存在差分私人土匪算法与附近的最佳遗憾界：我们应用现有的定理在简单的随机情况下，并给出了一个新的分析线性上下文土匪。我们补充我们的理论结果与实验验证我们的理论。
2018-06-06 cs.DS cs.LG stat.ML
Mitigating Bias in Set Selection with Noisy Protected Attributes
Yale University（耶鲁大学）
子集选择算法在人工智能驱动的应用程序中无处不在，包括在线招聘门户网站和图像搜索引擎，因此这些工具必须不基于性别或种族等受保护属性进行歧视。目前，公平子集选择算法假设受保护的属性是已知的数据集的一部分。然而，受保护的属性可能由于数据汇集期间的错误或如果它们被估算（如在现实世界设置中经常发生的情况）而具有噪声。虽然有大量的工作解决了噪声对机器学习算法性能的影响，但其对公平性的影响在很大程度上仍未得到检验。我们发现，在噪声保护属性的存在下，在试图增加公平性而不考虑噪声，实际上，可以降低结果的公平性！为了解决这个问题，我们考虑现有的噪声模型，其中存在关于受保护属性的概率信息（例如，[58，34，20，46]），并询问在噪声条件下公平选择是否可能？我们制定了一个“去噪”的选择问题，其功能为一大类的公平性度量;给定所需的公平性目标，去噪问题的解决方案违反了目标，最多一个小的乘法量具有很高的概率。虽然这个去噪问题是NP难的，但我们给出了一个基于线性规划的近似算法，并在合成数据集和真实数据集上对该算法进行了评估。我们的实证结果表明，这种方法可以产生子集，显着提高公平性指标，尽管存在噪声保护属性，和以前的噪声无关的方法相比，有更好的效用和公平性之间的帕累托权衡。
2021-02-22 cs.CY cs.DS cs.IR
Mitigating Statistical Bias within Differentially Private Synthetic Data
University of Oxford（牛津大学）；University of Warwick（华威大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Kaiserslautern（凯泽斯劳滕大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心）
对隐私保护机器学习的兴趣日益增加，导致了用于从未公开的真实数据生成私有合成数据的新的和进化的方法。然而，隐私保护机制可以显著降低合成数据的效用，这反过来又会影响下游任务，如学习预测模型或推理。我们提出了几个重新加权策略，使用私有化的似然比，不仅减轻下游估计的统计偏差，但也具有普遍适用性的差分私人生成模型。通过大规模的实证评估，我们表明，私人重要性加权提供了简单而有效的隐私兼容的合成数据的一般应用程序的增强。
2022-05-19 cs.CR cs.LG stat.ML
Mitigating Extrinsic Gender Bias for Bangla Classification Tasks
Ahsanullah University of Science and Technology（阿沙努拉科学与技术大学）；University of California, Riverside（加州大学河滨分校）
本文研究了孟加拉语预训练语言模型中的外在性别偏见，构建了四个任务特定的基准数据集，并提出RandSymKL方法以缓解偏见，实验表明其能有效减少偏见并保持高准确率。
2026-05-16 cs.AI cs.CL cs.LG
Mitigating Unwanted Biases with Adversarial Learning
Stanford University（斯坦福大学）；Google（谷歌）
机器学习是用于构建准确表示输入训练数据的模型的工具。当训练数据中存在关于人口统计学群体的不期望的偏差时，经过良好训练的模型将反映这些偏差。我们提出了一个框架，包括一个变量的兴趣组，同时学习预测和对手，以减轻这种偏见。网络X的输入，这里是文本或人口普查数据，产生一个预测Y，比如一个类比完成或收入等级，而对手试图对一个受保护的变量Z（这里是性别或邮政编码）进行建模。目标是最大化预测者预测Y的能力，同时最小化对手预测Z的能力。应用于类比完成，这种方法导致准确的预测，表现出较少的刻板印象Z的证据。当应用于使用UCI Adult（Census）Dataset的分类任务时，其产生预测模型，该预测模型不会损失太多准确性，同时实现非常接近均等的几率（Hardt等人，2016）。该方法是灵活的，适用于多种定义的公平性，以及广泛的基于梯度的学习模型，包括回归和分类任务。
2018-01-22 cs.AI cs.CY cs.LG
