Counterspeech for Mitigating the Influence of Media Bias: Comparing Human and LLM-Generated Responses
The Chinese University of Hong Kong, Hong Kong, China（香港中文大学）；MoE Key Laboratory of High Confidence Software Technologies（高可信软件技术国家重点实验室）；Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳））
本文首次在新闻语境中研究反驳言论生成，构建了关联媒体偏见、攻击性评论与反驳言论的数据集，并比较人类与LLM生成的反驳言论，发现模型回应更礼貌但缺乏新颖性，最终通过少样本学习和新闻背景信息提升生成质量。
2025-08-20 cs.CL cs.CY cs.SI
UniBias: Unveiling and Mitigating LLM Bias through Internal Attention and FFN Manipulation
Nanyang Technological University（南洋理工大学）；Singapore-ETH Centre（新加坡-ETH中心）
该研究针对大语言模型因固有偏见引发的提示脆弱性问题，探究FFN与注意力头的内部偏见机制，提出仅推理阶段的UniBias方法识别消除偏见组件，经12个NLP数据集验证可提升ICL性能、缓解提示脆弱性。
2024-12-12 cs.AI cs.CL
Understanding and Mitigating Gender Bias in LLMs via Interpretable Neuron Editing
The University of Manchester（曼彻斯特大学）；National Centre for Text Mining（国家文本挖掘中心）
本研究提出CommonWords数据集和可解释神经元编辑方法，通过识别并选择性编辑性别偏见相关神经元，在五个大语言模型上有效降低性别偏见同时保持模型原有能力。
2025-01-24 cs.CL
Mitigating the Bias of Large Language Model Evaluation
School of Architecture and Design, Harbin Institute of Technology（哈尔滨工业大学建筑与设计学院）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；University of Essex（埃塞克斯大学）
本研究针对LLM-as-a-Judge评估中偏好表面质量而忽略指令遵循的偏差，分别通过校准（闭源模型）和对比训练（开源模型）进行缓解，实验证明在保持准确率的同时大幅降低了偏差。
2024-09-25 cs.CL
Faithful-Patchscopes: Understanding and Mitigating Model Bias in Hidden Representations Explanation of Large Language Models
University of Georgia（佐治亚大学）；King Abdullah University of Science（国王阿卜杜勒-阿齐兹大学）；Hong Kong Center for Construction Robotics（香港建筑机器人中心）
本文提出BALOR方法，通过logit校准缓解大语言模型隐藏表示解释中的模型偏差，提升解释的忠实度和上下文信息的准确性。
2026-01-30 cs.CL
Eliminating Biased Length Reliance of Direct Preference Optimization via Down-Sampled KL Divergence
Tencent YouTu Lab（腾讯优图实验室）；King’s College London（伦敦国王学院）；University of Warwick（华威大学）；The Alan Turing Institute（阿兰·图灵研究所）
本研究针对直接偏好优化（DPO）因序列级KL散度差异产生的固有长度依赖及冗长性问题，提出下采样方法SamPO，在多规模模型和多基准上实现了较DPO 5%-12%的性能提升。
2024-12-09 cs.CL
Mitigating Biases of Large Language Models in Stance Detection with Counterfactual Augmented Calibration
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Peng Cheng Laboratory（鹏城实验室）；The Chinese University of Hong Kong（香港中文大学）；King’s College London（伦敦国王学院）；The 30th Research Institute of China Electronics Technology Group Corporation（中国电子科技集团公司第三十研究所）
本文提出反事实增强校准网络FACTUAL，通过校准LLMs立场预测中的偏见并利用反事实数据提升去偏与域外泛化能力，在目标内和零样本立场检测中取得最先进结果。
2025-02-09 cs.CL
Loose lips sink ships: Mitigating Length Bias in Reinforcement Learning from Human Feedback
Fudan University（复旦大学）；International Human Phenome Institutes (Shanghai)（上海国际人类表型组研究院）
针对RLHF中奖励模型因长度偏差而错误偏好长回答的问题，本文提出基于专家乘积（PoE）的分离建模方法，通过主专家理解意图、有偏专家捕捉长度偏差并引入扰动，有效提升了语言模型在不同序列长度下的性能。
2023-11-29 cs.CL
Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG
University of Michigan（密歇根大学）
本文识别出大语言模型中的演绎刻板印象失败模式，提供统计解释，并提出推理时注入框架 Fair-GCG 以发现有效短语，提升多个公平性基准的性能。
2026-07-01 cs.AI cs.CL
Less Learn Shortcut: Analyzing and Mitigating Learning of Spurious Feature-Label Correlation
Harbin Institute of Technology（哈尔滨工业大学）；Baidu Inc.（百度公司）
针对模型过度依赖词-标签虚假相关性的问题，提出少学捷径（LLS）训练策略，通过量化并降低有偏样本权重，在多个任务上提升对抗性数据性能且保持域内性能。
2023-06-22 cs.CL
On Measuring and Mitigating Biased Inferences of Word Embeddings
University of Utah（犹他大学）
词嵌入带有来自它们所训练的文本的刻板内涵，这可能导致依赖它们的下游模型中的无效推断。我们利用这一观察设计了一个机制，用于测量定型使用的任务自然语言推理。我们证明了减少无效的推断，通过偏见缓解策略静态词嵌入（GloVe）。此外，我们表明，性别偏见，这些技术扩展到语境化嵌入时，选择性地只适用于静态组件的语境化嵌入（ELMo，BERT）。
2019-11-26 cs.CL cs.LG
Mitigating Hidden Confounding by Progressive Confounder Imputation via Large Language Models
Renmin University of China（中国人民大学）；Peking University（北京大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出ProCI框架，首次利用大语言模型的语义推理与世界知识迭代生成、插补并验证隐藏混杂因素，采用分布推理策略提升鲁棒性，在多个数据集上显著改善处理效应估计。
2025-06-26 cs.AI cs.CL
DR.GAP: Mitigating Bias in Large Language Models using Gender-Aware Prompting with Decoupled Reasoning
School of Information Science and Technology, ShanghaiTech University（上海科技大学信息科学与技术学院）；School of Computer and Cyber Sciences, Augusta University（奥古斯塔大学计算机与网络科学学院）
该研究针对大语言模型的性别偏见问题，提出DR.GAP方法，通过生成无性别推理轨迹作为上下文示例，在不修改模型参数的情况下缓解偏见，且可扩展至视觉语言模型，经多任务多模型实验验证有效。
2026-08-18 cs.AI cs.CL
Paying More Attention to Source Context: Mitigating Unfaithful Translations from Large Language Model
Institute of Computing and Intelligence, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）计算与智能学院）；Peng Cheng Laboratory, Shenzhen（鹏城实验室）
针对仅解码器 LLM 因偏向目标前缀而产生不忠实翻译的问题，本文从零样本提示的源/目标注意力调控与指令微调三方面增强源上下文关注，并在多语言测试中验证其可减少幻觉翻译。
2024-06-11 cs.AI cs.CL
Getting Sick After Seeing a Doctor? Diagnosing and Mitigating Knowledge Conflicts in Event Temporal Reasoning
Hong Kong University of Science and Technology（香港科技大学）；University of Southern California（南加州大学）；Tencent AI Lab（腾讯AI实验室）；University of California, Davis（加州大学戴维斯分校）
本文研究事件时间推理中的知识冲突，提出四类偏见指标进行诊断，并采用反事实数据增强缓解PLM与LLM的偏见和幻觉。
2024-04-08 cs.AI cs.CL
Mitigating Bias in Queer Representation within Large Language Models: A Collaborative Agent Approach
App-In Club（App-In俱乐部）
针对 LLM 在性别代词使用中排斥酷儿身份的问题，本文提出含偏见检测与纠正专用智能体的协作流水线，并在 Tango 上证明其相较 GPT-4o 显著提升包容性代词判断。
2024-12-02 cs.CL cs.MA
Language Models Get a Gender Makeover: Mitigating Gender Bias with Few-Shot Data Interventions
Carnegie Mellon University（卡内基梅隆大学）
针对预训练语言模型传播性别偏见且重新训练成本高的问题，本文提出仅用10个去偏样本进行微调的少样本数据干预方法，在尽量保持语言建模能力的同时取得优于现有基线的去偏效果。
2023-06-07 cs.CL cs.LG
PowerTransformer: Unsupervised Controllable Revision for Biased Language Correction
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
无意识的偏见在现代文本和媒体中仍然普遍存在，这就需要算法来帮助作者纠正偏见。例如，一个故事中的女性角色往往被描绘成被动和无能为力的（“她梦想成为一名医生”），而一个男人则被描绘成更主动和强大的（“他追求他的梦想成为一名医生”）。我们制定 * 可控的去偏见 *，一个新的修订任务，旨在重写给定的文本，以纠正隐含的和潜在的不良偏见的人物刻画。然后，我们介绍PowerTransformer作为一种方法，通过内涵框架的镜头来消除文本的偏见（Sap等人，2017年），编码语用知识的隐含权力动态相对于动词谓词。我们的任务的一个关键挑战是缺乏平行语料库。为了应对这一挑战，我们采用了一种无监督的方法，使用辅助监督与相关任务，如基于重建损失的释义和自我监督，建立在预训练的语言模型上。通过基于自动和人工评估的综合实验，我们证明了我们的方法优于消融和相关任务的现有方法。此外，我们展示了使用PowerTransformer作为减轻电影剧本中角色刻画中有据可查的性别偏见的一步。
2020-10-26 cs.AI cs.CL
LFTF: Locating First and Then Fine-Tuning for Mitigating Gender Bias in Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；Tencent（腾讯）
本研究提出GenBiasEval、GenHintEval两个数据集及对应指标以评估大模型性别偏见，还提出LFTF算法，通过定位并微调与偏见最相关的模块，在保留通用能力的同时有效缓解性别偏见。
2025-05-21 cs.AI cs.CL
Attention Speaks Volumes: Localizing and Mitigating Bias in Language Models
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）
本研究针对大语言模型在模糊比较提示下的偏见问题，提出ATLAS技术通过分析注意力定位并缩放有偏层以缓解偏见，实验证实偏见集中在模型后三分之一层，该方法可有效降偏且对性能影响极小。
2024-10-29 cs.AI cs.CL cs.LG
The Authors Matter: Understanding and Mitigating Implicit Bias in Deep Text Classification
Michigan State University（密歇根州立大学）；TAL Education Group（好未来教育集团）
很明显，在人类数据上训练的深度文本分类模型可能会有偏见。特别是，他们产生偏见的文本，明确包括某些人口群体的身份条款的结果。我们把这种类型的偏见称为外显偏见，这已经得到了广泛的研究。然而，深度文本分类模型也可能对某些人口统计群体的作者所写的文本产生有偏见的结果。我们把这种偏见称为隐性偏见，我们对它的理解仍然相当有限。在本文中，我们首先证明了隐含的偏见存在于不同的文本分类任务，为不同的人口群体。然后，我们建立了一个基于学习的解释方法，以加深我们对内隐偏见的认识。具体来说，我们验证了分类器学会根据与作者的人口统计属性相关的语言特征进行预测。接下来，我们提出了一个Debiased-TC框架来训练深度文本分类器，以便对正确的特征进行预测，从而减轻隐含的偏见。我们在三个真实世界的数据集上进行了广泛的实验。结果表明，在我们提出的框架下训练的文本分类模型在公平性方面显着优于传统模型，在分类性能方面也略有提高。
2021-05-06 cs.CL
BiasFreeBench: a Benchmark for Mitigating Bias in Large Language Model Responses
UC San Diego（加州大学圣地亚哥分校）；Columbia University（哥伦比亚大学）；Zhejiang University（浙江大学）；Stanford University（斯坦福大学）
BiasFreeBench通过统一测试平台评估八种主流偏见缓解方法，提供响应层面的偏见自由分数，旨在提升大型语言模型的公平性和安全性。
2026-02-15 cs.AI cs.CL cs.CY
Look to the Right: Mitigating Relative Position Bias in Extractive Question Answering
The University of Tokyo（东京大学）；National Institute of Informatics（国立信息学研究所）
当训练集存在非预期偏差时，提取式问答（QA）模型倾向于利用虚假相关性进行预测。这种倾向导致模型不能推广到相关性不成立的例子。确定QA模型可以利用的虚假相关性对于在现实应用中构建可推广的QA模型至关重要;此外，需要开发一种方法，即使在训练集有偏差时，也可以防止这些模型学习虚假相关性。在这项研究中，我们发现，答案的相对位置，这是定义为相对距离从答案跨度最接近的问题上下文重叠字，可以利用QA模型作为表面线索进行预测。具体来说，我们发现，当训练集中的相对位置有偏差时，在训练过程中看不到相对位置的例子的性能会显着下降。为了减轻看不见的相对位置的性能下降，我们提出了一个基于集合的去偏置方法，不需要先验知识的相对位置的分布。我们证明了所提出的方法减轻了模型对使用有偏和完整SQuAD数据集的相对位置的依赖。我们希望这项研究可以帮助提高QA模型在实际应用中的泛化能力。
2022-10-26 cs.CL
Mitigating the Position Bias of Transformer Models in Passage Re-Ranking
TU Wien（维也纳工业大学）；University College London（伦敦大学学院）
受监督的机器学习模型及其评估在很大程度上取决于底层数据集的质量。当我们搜索一条相关的信息时，它可能出现在给定段落的任何地方。然而，我们观察到一个偏见的正确答案在文本中的位置在两个流行的问答数据集用于通道重新排名。过度偏爱通道内的较早位置是不想要的人工制品。这导致了三种常见的基于transformer的重新排序模型，以忽略未看到的段落中的相关部分。更令人担忧的是，由于评估集来自相同的偏置分布，因此过拟合该偏置的模型高估了它们的真实有效性。在这项工作中，我们分析了数据集上的位置偏差，上下文表示，以及它们对检索结果的影响。我们提出了一个去偏方法检索数据集。我们的研究结果表明，在位置偏置数据集上训练的模型在去偏置数据集上进行评估时，重新排名的有效性显着降低。我们证明，通过减轻位置偏差，基于transformer的重新排序模型在有偏和去偏数据集上同样有效，并且在两个不同偏数据集之间的迁移学习设置中更有效。
2021-01-18 cs.CL cs.IR
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University（德里理工大学）；IIIT-Delhi（德里印度理工学院）
词嵌入是词的语义和句法表示的标准模型。不幸的是，这些模型已被证明表现出不受欢迎的词的协会，导致性别，种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中，我们提出了RAN-Debias，一种新的性别去偏置方法，它不仅消除了词向量中存在的偏见，而且改变了其相邻向量的空间分布，实现了无偏见的设置，同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计（GIPE），它衡量的程度，不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明，RAN-Debias在减少邻近偏差（GIPE）方面明显优于最先进的方法，至少减少42.02%。它还减少了直接偏见，增加了最小的语义干扰，并在下游应用程序任务（共指消解）中实现了最佳性能。
2020-06-02 cs.CL cs.LG
EqualizeIR: Mitigating Linguistic Biases in Retrieval Models
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
本文提出 EqualizeIR 框架，利用语言偏置弱学习器正则化训练鲁棒检索模型，以缓解 IR 模型因查询语言复杂度不同而产生的性能偏见，并在多个数据集上验证其能缩小性能差距并提升整体检索效果。
2025-03-22 cs.CL cs.LG
A Generative Approach for Mitigating Structural Biases in Natural Language Inference
Technion（以色列理工学院）；Israel Institute of Technology（以色列理工学院）；Harvard University（哈佛大学）
许多自然语言推理（NLI）数据集包含偏差，这些偏差允许模型仅使用输入的偏差子集，而不考虑其余特征。例如，模型能够通过仅使用假设来做出分类决策，而无需学习它与前提之间的真实关系。这些结构性偏差导致判别模型学习非预期的表面特征，并在训练分布中推广得很差。在这项工作中，我们将NLI任务重新定义为生成任务，其中模型以输入和标签的偏置子集为条件，并生成输入的剩余子集。我们表明，通过施加一个统一的先验，我们得到一个可证明的无偏模型。通过合成实验，我们发现，这种方法是非常强大的大量的偏见。然后，我们证明经验上的两种类型的自然偏见，这种方法导致完全无偏的模型在实践中。然而，我们发现生成模型很难训练，而且它们的表现通常比判别基线差。我们强调了在NLI的背景下生成建模任务的难度，这是导致性能下降的原因。最后，通过用判别目标微调生成模型，我们减少了生成模型和判别基线之间的性能差距，同时允许少量的偏差。
2021-08-31 cs.CL
Mitigating Bias in Text Classification via Prompt-Based Text Transformation
University of York（约克大学）
针对文本分类中语言模型依赖群体特定语言信号产生偏差的问题，本研究提示ChatGPT用四种方式重写文本，在保留核心语义的同时显著降低了模型的位置分类准确率，提供了实用可推广的偏差缓解方法。
2025-09-04 cs.CL
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge（剑桥大学）；Bar-Ilan University（巴伊兰大学）
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强（CDA），其中语料库被复制和增强以消除偏见，例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较，发现虽然两者都成功地减少了直接偏见，并且在量化嵌入质量的任务中表现良好，但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法，在两个语料库中平均为19%。我们提出了两个改进CDA：反事实数据替换（CDS），CDA的一个变种，其中潜在的偏见文本被随机替换，以避免重复，和名称干预，一种新的名称配对技术，大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法：在去偏见之后，先前有偏见的单词根据性别的聚类显着减少（聚类纯度降低了49%），从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
Mitigating Bias for Question Answering Models by Tracking Bias Influence
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Amazon AGI（亚马逊AGI）
本文提出BMBI方法，通过实例间影响检测偏见并进行多任务优化，同时引入新偏见指标，可在保持QA准确率的同时显著降低BBQ全部9类偏见。
2024-06-17 cs.AI cs.CL cs.CY
Unbiased Math Word Problems Benchmark for Mitigating Solving Bias
Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区）；Sun Yat-sen University（中山大学）；Dark Matter AI Inc.（暗物质人工智能公司）
在本文中，我们重新审视了当前数学应用题（MWP）基准评估模型时的解决偏差。然而，现有的求解器存在求解偏差，包括数据偏差和学习偏差，这是由于有偏见的数据集和不适当的训练策略。我们的实验验证了MWP求解器很容易被有偏见的训练数据集所偏见，这些训练数据集不涵盖所有MWP的每个问题叙述的不同问题，因此求解器只能学习浅层语义而不是深层语义来理解问题。此外，MWP可以通过多个等价方程自然求解，而当前数据集仅将其中一个等价方程作为地面真值，迫使模型匹配标记的地面真值，而忽略其他等价方程。在这里，我们首先介绍了一个新的MWP数据集，名为UnbiasedMWP，它是通过改变我们收集的数据中的接地表达式，并手动用相应的多个新问题注释它们而构建的。然后，为了进一步减轻学习偏差，我们提出了一种动态目标选择（DynamicTargetSelection，简称DTS）策略，该策略根据当前模型输出与候选等价方程之间的最长前缀匹配来动态选择更合适的目标表达式，该候选等价方程是在训练过程中应用交换律获得的。结果表明，我们的UnbiasedMWP比原始数据和其他数据集具有更少的偏差，为公平评估求解器的推理技能而不是匹配最近邻提供了一个有希望的基准。使用我们的BMPs训练的求解器在多个MWP基准测试中实现了更高的精度。源代码可在https://github.com/yangzhch6/UnbiasedMWP上获得。
2022-05-17 cs.AI cs.CL
Does Your Model Classify Entities Reasonably? Diagnosing and Mitigating Spurious Correlations in Entity Typing
University of Southern California（南加州大学）
实体分类的目的是预测一个或多个描述句子中特定提及类型的单词。由于从表面模式到标注实体标签的捷径和有偏见的训练，现有的实体分类模型受到虚假相关性的问题。为了全面研究实体分型方法的可信度和可靠性，我们首先系统地定义了不同类型的模型偏差，这些偏差主要反映在虚假的相关性上。特别是，我们确定了六种类型的现有的模型偏差，包括提及上下文偏差，词汇重叠偏差，命名实体偏差，代词偏差，依赖偏差和过度概括偏差。为了减轻模型偏差，我们引入了一个反事实的数据增强方法。通过用去偏见的对应物来增强原始训练集，模型被迫完全理解句子并发现实体类型的基本线索，而不是依赖于虚假的相关性来寻找捷径。在UFET数据集上的实验结果表明，我们的反事实数据增强方法有助于提高不同实体类型模型的泛化能力，在原始测试集和去偏测试集上都具有更好的性能。
2022-10-26 cs.CL
Mitigating Political Bias in Language Models Through Reinforced Calibration
Dartmouth College（达特茅斯学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；ProtagoLabs
当前的大规模语言模型可能会因为训练数据而带有政治偏见，当它们部署在现实世界中时可能会导致严重的问题。在本文中，我们描述了衡量GPT-2生成的政治偏见的指标，并提出了一个强化学习（RL）框架，以减轻生成的文本中的政治偏见。通过使用来自词嵌入或分类器的奖励，我们的RL框架指导去偏生成，而无需访问训练数据或需要重新训练模型。在对政治偏见敏感的三个属性（性别，位置和主题）的实证实验中，我们的方法根据我们的指标和人类评估减少了偏见，同时保持了可读性和语义连贯性。
2021-04-30 cs.AI cs.CL
Mitigating Word Bias in Zero-shot Prompt-based Classifiers
ALTA Institute（ALTA研究所）；University of Cambridge（剑桥大学）
本文针对零样本基于提示的分类器中因词偏置导致的性能差异问题，提出一种无监督地重新加权类别期望边际概率以实现均匀先验的方法，并建立类别先验与语言模型词先验的理论联系，实现零资源阈值设置，在多项NLP任务上取得显著且一致的性能提升。
2023-09-10 cs.CL
NeuS: Neutral Multi-News Summarization for Mitigating Framing Bias
The Hong Kong University of Science and Technology（香港科技大学）；Hong Kong University of Science and Technology（香港科技大学）
媒体新闻框架偏见会加剧政治两极分化，破坏公民社会。因此，对自动缓解方法的需求正在增长。我们提出了一个新的任务，一个中立的摘要生成从多个新闻文章的不同政治倾向，以促进平衡和公正的新闻阅读。在本文中，我们首先收集了一个新的数据集，通过案例研究说明框架偏见的见解，并提出了一个新的有效的指标和模型（NeuS-TITLE）的任务。基于我们的发现，标题提供了一个很好的信号，框架偏见，我们提出NeuS-TITLE，学会中和新闻内容的层次顺序从标题到文章。我们的分层多任务学习是通过使用标识符标记（“TITLE=>"，“ARTICLE=>”）顺序格式化我们的分层数据对（标题，文章）并使用标准的负对数似然目标微调自回归解码器来实现的。然后我们分析并指出剩余的挑战和未来的方向。最有趣的观察之一是，神经NLG模型不仅可以产生事实上不准确或无法验证的内容，而且还可以产生政治偏见的内容。
2022-05-03 cs.CL
Queens are Powerful too: Mitigating Gender Bias in Dialogue Generation
Facebook AI Research（Facebook人工智能研究院）；Laboratoire Lorrain d’Informatique et Applications (LORIA)（洛林计算机科学及其应用实验室）
模型通常很容易学习训练数据中存在的偏差，并且它们的预测直接反映了这种偏差。我们分析了对话数据中的性别偏见，并研究了这种偏见如何在随后的生成聊天对话模型中被放大。我们在六个现有的对话数据集中测量性别偏见，并专注于最有偏见的一个，基于多玩家文本的奇幻冒险数据集LIGHT，作为我们偏见缓解技术的测试平台。LIGHT数据集在性别方面高度不平衡，主要包含男性角色，可能是因为它完全由众包工作者收集，反映了幻想或中世纪环境中存在的常见偏见。我们考虑三种技术来减轻性别偏见：反事实数据增强，有针对性的数据汇集，和偏差控制的培训。我们表明，我们提出的技术通过平衡生成的对话话语的性别来减轻LIGHT中的性别偏见，并且组合起来特别有效。我们使用各种评估方法来量化性能-例如性别词的数量，对话安全分类器和人类研究-所有这些都表明我们的模型产生较少的性别，但同样吸引人的闲聊反应。
2020-04-16 cs.CL
Mitigating Media Bias through Neutral Article Generation
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Hong Kong University of Science and Technology（香港科技大学）
媒体偏见可能导致政治两极分化加剧，因此，对自动缓解方法的需求日益增加。现有的缓解工作显示来自多个新闻媒体的文章，以提供多样化的新闻报道，但没有中和每个显示的文章中固有的偏见。因此，我们提出了一个新的任务，一个单一的中立的文章生成多个偏见的文章，以促进更有效地获得平衡和公正的信息。在本文中，我们编译了一个新的数据集NeuWS，定义了一个自动评估指标，并提供了基线和多个分析，作为拟议任务的坚实起点。最后，我们得到了一个人的评价，以证明我们的指标和人类的判断之间的一致性。
2021-04-01 cs.AI cs.CL
Bias Vector: Mitigating Biases in Language Models with Task Arithmetic Approach
Mitsubishi Electric Corporation（三菱电机株式会社）
提出偏置向量方法，通过持续训练、构造权重差并减去偏置向量来缓解语言模型偏见，在SEAT上平均提升0.177分且不损害GLUE性能。
2024-12-16 cs.AI cs.CL
Optimus: A Robust Defense Framework for Mitigating Toxicity while Fine-Tuning Conversational AI
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本研究提出Optimus框架，通过整合训练无关的毒性分类方案和双重策略对齐过程，有效缓解微调过程中的毒性问题，并在有毒性分类器偏差时仍能保持高召回率，优于现有最佳防御方法StarDSS。
2026-05-21 cs.AI cs.CL cs.CR
OSCaR: Orthogonal Subspace Correction and Rectification of Biases in Word Embeddings
UCLA（加州大学洛杉矶分校）；University of Utah（犹他大学）
众所周知，语言表征带有刻板偏见，因此，导致下游任务中有偏见的预测。虽然现有的方法在通过线性投影减轻偏差方面是有效的，但是这样的方法过于激进：它们不仅去除偏差，而且从词嵌入中擦除有价值的信息。我们开发了新的措施来评估特定的信息保留，证明偏见消除和信息保留之间的权衡。为了解决这一挑战，我们提出了OSCaR（正交子空间校正和整流），一种偏差缓解方法，专注于解开概念之间的偏见的关联，而不是删除概念批发。我们对性别偏见的实验表明，OSCaR是一种平衡良好的方法，可以确保语义信息保留在嵌入中，偏见也被有效地减轻。
2021-09-10 cs.AI cs.CL cs.LG
Mitigating Bias in Conversations: A Hate Speech Classifier and Debiaser with Prompts
Vector Institute of Artificial Intelligence（向量人工智能研究所）；Toronto Metropolitan University（多伦多都会大学）
针对对话中仇恨言论的偏见问题，提出含分类检测与提示式去偏的两步方法，经基准数据集验证可降低负面性，助力构建更包容公平的网络交流环境。
2023-07-14 cs.AI cs.CL
Don't Discard All the Biased Instances: Investigating a Core Assumption in Dataset Bias Mitigation Techniques
University of Qom（库姆大学）；Tehran Institute for Advanced Studies（德黑兰高等研究院）；Khatam University（哈塔姆大学）
用于减轻数据集偏差的现有技术通常利用偏差模型来识别偏差实例。然后在主模型的训练过程中减少这些有偏差的实例的作用，以增强其对分布外数据的鲁棒性。这些技术的一个共同的核心假设是，主模型处理有偏的实例类似于有偏的模型，因为它将诉诸于偏见，只要可用。在本文中，我们表明，这一假设并不成立。我们对该领域的两个著名数据集MNLI和FEVER进行了严格的调查，以及两种有偏见的实例检测方法，部分输入和有限容量模型。我们的实验表明，在大约三分之一到一半的情况下，有偏模型无法预测主模型的行为，这一点突出表现在他们做出决策所依据的输入的显著不同部分。基于人工验证，我们还表明，这一估计是高度符合人类的解释。我们的研究结果表明，降低权重的偏差检测方法，这是一个广泛实践的过程中检测到的实例，是一个不必要的浪费训练数据。我们发布我们的代码，以促进可重复性和未来的研究。
2021-09-01 cs.CL cs.LG
Detecting and Mitigating Indirect Stereotypes in Word Embeddings
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出BIRM方法，通过在学习嵌入前修改词间共现概率来消除偏见属性影响，以缓解词嵌入中的间接偏见，实验证明其能降低偏见且仅轻微影响语义质量。
2023-05-23 cs.CL cs.LG
Mitigating Bias in Large Vision-Language Models via Counterfactual Ensemble Decoding
State Key Lab of Software Development Environment, Beihang University（北京航空航天大学软件开发环境国家重点实验室）
该研究针对大视觉语言模型的社会偏差问题，提出反事实集成解码框架，通过构建多群体反事实视角并集成解码，在三类基准上实现最高47.97%的偏差降低，同时保留模型核心能力。
2026-08-25 cs.AI cs.CL
A Causal Inference Method for Reducing Gender Bias in Word Embedding Relations
City University of Hong Kong（香港城市大学）
词嵌入已经成为自然语言处理的关键，因为它提高了各种任务的经验表现。然而，最近的研究发现，性别偏见是纳入神经词嵌入，下游任务，依赖于这些偏见的词向量也产生性别偏见的结果。虽然已经开发了一些词嵌入性别去偏见的方法，这些方法主要集中在减少与性别方向相关的性别偏见，并未能减少词嵌入关系中呈现的性别偏见。在本文中，我们设计了一个因果和简单的方法来减轻性别偏见的词向量关系，利用性别定义的词嵌入和性别偏见的词嵌入之间的统计依赖关系。我们的方法在性别去偏见任务、词汇和词汇水平评估任务以及下游共指消解任务上都取得了最先进的结果。
2019-11-25 cs.CL cs.LG
Mitigating Label Bias via Decoupled Confident Learning
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对训练标签中普遍存在的社会偏差，本文提出剪枝方法 DeCoLe，以识别并缓解仇恨言论检测等任务中的偏差标签，且效果优于现有方法。
2023-09-29 cs.CL cs.LG
Phrase-Level Adversarial Training for Mitigating Bias in Neural Network-based Automatic Essay Scoring
Eötvös Lorand University（厄特沃什·罗兰大学）；University of Groningen（格罗宁根大学）
本文提出一种与模型无关的短语级对抗作文生成与数据增强方法，以缓解AES模型对高频样本的偏见，并在多种神经网络评分模型上验证其稳健性与性能提升。
2024-09-07 cs.AI cs.CL cs.LG
A Data-Centric Approach to Detecting and Mitigating Demographic Bias in Pediatric Mental Health Text: A Case Study in Anxiety Detection
University College London（伦敦大学学院）；Queen Mary University of London（伦敦玛丽女王大学）；University of Cincinnati（辛辛那提大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出一种以数据为中心的去偏方法，通过中和性别化语言并保留临床关键信息，缓解儿科心理健康文本中的人口统计学偏差，在焦虑检测中将诊断偏差降低最多27%。
2024-12-30 cs.AI cs.CL
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University（密歇根州立大学）；TAL Education Group（好未来教育集团）
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出，在人类对话数据上训练的对话系统是有偏见的。特别是，它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法，例如词嵌入。但是，它们并不直接适用于对话系统，因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性，并极大地损害了对话模型的性能。在本文中，我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型，不受性别偏见，同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明，我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
Open-Domain Event Graph Induction for Mitigating Framing Bias
University of Pennsylvania（宾夕法尼亚大学）；Tencent AI Lab（腾讯人工智能实验室）
针对新闻文章中固有的框架偏见问题，提出中性事件图归纳任务，通过三步框架从多输入源归纳事件图并利用图卷积网络移除偏见节点，有效缓解偏见。
2023-05-22 cs.AI cs.CL
Mitigating Bias in RAG: Controlling the Embedder
Carnegie Mellon University（卡内基梅隆大学）
本研究通过偏见冲突理论及120个微调嵌入器实验，发现控制嵌入器偏见比提高其公平性更能有效缓解RAG系统整体偏见。
2025-02-24 cs.CL cs.LG
Mitigating Gender Bias in Distilled Language Models via Counterfactual Role Reversal
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；Amazon Alexa（亚马逊Alexa）；Harvard University（哈佛大学）；University of California, Los Angeles（加州大学洛杉矶分校）
语言模型擅长于生成连贯的文本，并且诸如知识蒸馏之类的模型压缩技术使得它们能够在资源受限的环境中使用。然而，这些模式可能在多个方面存在偏见，包括毫无根据地将男性和女性与性别中立的职业联系起来。因此，没有任何公平约束的知识蒸馏可能会保留或夸大教师模型对蒸馏模型的偏见。为此，我们提出了一种新的方法来减轻性别差异的文本生成过程中学习一个公平的模型在知识蒸馏。我们提出了两个修改的基础知识蒸馏基于反事实角色反转$\unicode{x2014}$修改教师概率和扩大训练集。我们评估了性别极性的开放式文本中产生的GPT $\unicode{x2012}$ 2模型的蒸馏和微调，并证明了性别差距的大幅减少，只有一个小的妥协效用。最后，我们观察到，在语言生成中减少性别极性的语言模型不会提高嵌入公平性或下游分类公平性。
2022-03-23 cs.CL cs.LG
SS-BERT: Mitigating Identity Terms Bias in Toxic Comment Classification by Utilising the Notion of "Subjectivity" and "Identity Terms"
University of Sheffield（谢菲尔德大学）
有毒评论分类模型经常被发现偏向于身份术语，这些术语是表征特定人群的术语，例如“穆斯林”和“黑人”。这种偏见通常反映在假阳性预测中，即带有身份术语的无毒评论。在这项工作中，我们提出了一种新的方法来解决有毒评论分类中的这种偏见，利用评论的主观性水平和身份术语的存在的概念。我们假设，当一个评论是关于一群人的特征是由一个身份术语，该评论是有毒的可能性与评论的主观性水平，即在何种程度上的评论传达个人的感情和意见。在BERT模型的基础上，我们提出了一个新的结构，能够利用这些功能，并在4个不同大小的数据集上彻底评估我们的模型，并代表不同的社交媒体平台。结果表明，我们的模型可以始终优于BERT和SOTA模型设计，以解决同一性术语偏见以不同的方式，在F1的最大改善分别为2.43%和1.91%。
2021-09-06 cs.AI cs.CL cs.LG
COBIAS: Assessing the Contextual Reliability of Bias Benchmarks for Language Models
International Institute of Information Technology, Hyderabad（国际信息技术学院海得拉巴分校）；Amazon GenAI（亚马逊生成式人工智能）；University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）
针对现有语言模型偏见基准缺乏上下文考量的问题，提出上下文可靠性框架及COBIAS指标，基于模型跨上下文行为差异衡量偏见陈述检测可靠性，验证其与人类判断一致性高，可助力构建可靠基准与偏见缓解。
2025-05-16 cs.AI cs.CL
