Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search
University of California, Santa Cruz（加州大学圣克鲁兹分校）
互联网搜索影响人们对世界的认知，因此减少搜索结果中的偏见并学习公平模型对于社会公益至关重要。我们研究了图像搜索中的一种独特的性别偏见：对于性别中立的自然语言查询，搜索图像往往是性别不平衡的。我们诊断了两种典型的图像搜索模型，一种是在域内数据集上训练的专用模型，另一种是在互联网上的海量图像和文本数据上预先训练的广义表示模型。这两种模式都存在严重的性别偏见。因此，我们引入了两种新的去偏置方法：处理中的公平采样方法，以解决训练模型的性别不平衡问题，和后处理的特征裁剪方法的基础上互信息去偏置预训练模型的多模态表示。在MS-COCO和Flickr 30 K基准上的大量实验表明，我们的方法显着减少了图像搜索模型中的性别偏见。
2021-09-12 cs.CL cs.CV
Counterfactual Data Augmentation for Mitigating Gender Stereotypes in Languages with Rich Morphology
University of Cambridge（剑桥大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft Research（微软研究院）
性别陈规定型观念在世界上大多数语言中都很明显，因此被NLP系统传播或放大。尽管研究的重点是减轻英语中的性别刻板印象，但常用的方法会在形态丰富的语言中产生不合语法的句子。我们提出了一种新的方法，在这些语言中的男性和女性的曲折变化的句子之间的转换。对于西班牙语和希伯来语，我们的方法在标签水平上达到了82%和73%的F1分数，在形式水平上达到了90%和87%的准确度。通过使用四种不同的语言评估我们的方法，我们表明，平均而言，它减少了2.5倍的性别刻板印象，而不牺牲语法。
2020-05-27 cs.CL
GenderAlign: An Alignment Dataset for Mitigating Gender Bias in Large Language Models
South China University of Technology（华南理工大学）；Pazhou Laboratory（琶洲实验室）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
针对大语言模型中的性别偏见问题，构建了包含8k个单轮对话的对齐数据集GenderAlign，通过选择低偏见高质量回应，有效减少性别偏见。
2024-12-16 cs.AI cs.CL
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University（密歇根州立大学）；TAL Education Group（好未来教育集团）
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出，在人类对话数据上训练的对话系统是有偏见的。特别是，它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法，例如词嵌入。但是，它们并不直接适用于对话系统，因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性，并极大地损害了对话模型的性能。在本文中，我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型，不受性别偏见，同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明，我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
Mitigating Extrinsic Gender Bias for Bangla Classification Tasks
Ahsanullah University of Science and Technology（阿沙努拉科学与技术大学）；University of California, Riverside（加州大学河滨分校）
本文研究了孟加拉语预训练语言模型中的外在性别偏见，构建了四个任务特定的基准数据集，并提出RandSymKL方法以缓解偏见，实验表明其能有效减少偏见并保持高准确率。
2026-05-16 cs.AI cs.CL cs.LG
Identifying and Mitigating Gender Bias in Hyperbolic Word Embeddings
Delhi Technological University（德里技术大学）；Indraprastha Institute of Information Technology Delhi（德里英迪拉普拉斯信息技术研究所）
欧氏词嵌入模型，如GloVe和Word2Vec，已被证明反映了类似人类的性别偏见。在本文中，我们将性别偏见的研究扩展到最近流行的双曲词嵌入。我们提出了gyrocosine偏差，一种新的措施，用于量化性别偏见双曲字表示，并观察到一个显着的存在性别偏见。为了解决这个问题，我们提出了庞加莱性别去偏置（PGD），一种新的去偏置程序双曲词表示。在一组评价测试上的实验表明，PGD在增加最小语义偏移量的同时，有效地减少了偏见。
2021-09-28 cs.AI cs.CL
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University（德里技术大学）
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题，出现了大量研究，旨在减轻这些偏见，同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎（FEE），用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术，用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外，它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
A Causal Inference Method for Reducing Gender Bias in Word Embedding Relations
City University of Hong Kong（香港城市大学）
词嵌入已经成为自然语言处理的关键，因为它提高了各种任务的经验表现。然而，最近的研究发现，性别偏见是纳入神经词嵌入，下游任务，依赖于这些偏见的词向量也产生性别偏见的结果。虽然已经开发了一些词嵌入性别去偏见的方法，这些方法主要集中在减少与性别方向相关的性别偏见，并未能减少词嵌入关系中呈现的性别偏见。在本文中，我们设计了一个因果和简单的方法来减轻性别偏见的词向量关系，利用性别定义的词嵌入和性别偏见的词嵌入之间的统计依赖关系。我们的方法在性别去偏见任务、词汇和词汇水平评估任务以及下游共指消解任务上都取得了最先进的结果。
2019-11-25 cs.CL cs.LG
Understanding and Mitigating Gender Bias in LLMs via Interpretable Neuron Editing
The University of Manchester（曼彻斯特大学）；National Centre for Text Mining（国家文本挖掘中心）
本研究提出CommonWords数据集和可解释神经元编辑方法，通过识别并选择性编辑性别偏见相关神经元，在五个大语言模型上有效降低性别偏见同时保持模型原有能力。
2025-01-24 cs.CL
Queens are Powerful too: Mitigating Gender Bias in Dialogue Generation
Facebook AI Research（Facebook人工智能研究院）；Laboratoire Lorrain d’Informatique et Applications (LORIA)（洛林计算机科学及其应用实验室）
模型通常很容易学习训练数据中存在的偏差，并且它们的预测直接反映了这种偏差。我们分析了对话数据中的性别偏见，并研究了这种偏见如何在随后的生成聊天对话模型中被放大。我们在六个现有的对话数据集中测量性别偏见，并专注于最有偏见的一个，基于多玩家文本的奇幻冒险数据集LIGHT，作为我们偏见缓解技术的测试平台。LIGHT数据集在性别方面高度不平衡，主要包含男性角色，可能是因为它完全由众包工作者收集，反映了幻想或中世纪环境中存在的常见偏见。我们考虑三种技术来减轻性别偏见：反事实数据增强，有针对性的数据汇集，和偏差控制的培训。我们表明，我们提出的技术通过平衡生成的对话话语的性别来减轻LIGHT中的性别偏见，并且组合起来特别有效。我们使用各种评估方法来量化性能-例如性别词的数量，对话安全分类器和人类研究-所有这些都表明我们的模型产生较少的性别，但同样吸引人的闲聊反应。
2020-04-16 cs.CL
Detecting Gender Bias in Transformer-based Models: A Case Study on BERT
University of Connecticut（康涅狄格大学）；University of New Mexico（新墨西哥大学）；George Mason University（乔治梅森大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Stevens Institute of Technology（斯蒂文斯理工学院）
在本文中，我们提出了一种新的性别偏见检测方法，利用注意力地图的transformer为基础的模型。通过对注意力模块的修改，设计了性别偏见检测器; 3）将性别偏见检测器插入到模型的不同位置，以呈现性别偏见的内部流程，4）通过扫描整个维基百科（一个BERT预训练数据集）得出一致的性别偏见结论。我们观察到：1）注意力矩阵，Wq和Wk比其他模块引入更多的性别偏见（包括嵌入层）和2）偏差度在模型内部周期性地变化（注意矩阵Q，K，V，以及注意层的剩余部分（包括全连接层，剩余连接，以及层归一化模块）增强了性别偏差，而平均注意力减小了偏差）。
2021-10-15 cs.CL cs.LG
Target-Agnostic Gender-Aware Contrastive Learning for Mitigating Bias in Multilingual Machine Translation
Seoul National University（首尔大学）；Microsoft Research Asia（微软亚洲研究院）
针对多语言机器翻译中的性别偏见，提出目标语言无关的性别感知对比学习（GACL），通过微调预训练模型提升性别准确性且不损害翻译性能，并验证其跨语言迁移性和模型规模适用性。
2023-11-10 cs.CL
Mitigating Gender Bias in Machine Translation with Target Gender Annotations
Tilde（蒂尔德公司）；University of Latvia（拉脱维亚大学）
翻译时“秘书要求详细说明。“对于一种具有语法性别的语言，可能有必要确定主语“秘书”的性别。如果句子不包含必要的信息，就不可能总是消除歧义。在这种情况下，机器翻译系统选择最常见的翻译选项，这通常对应于刻板的翻译，从而潜在地加剧了对某些群体和人的偏见和边缘化。我们认为，一个适当的翻译所需的信息并不总是可以推断出被翻译的句子，甚至可能依赖于外部知识。因此，在这项工作中，我们建议将获取必要信息的任务与学习正确翻译的任务解耦。为此，我们提出了一种方法，用于训练机器翻译系统使用包含主题的性别信息的单词级注释。为了准备训练数据，我们用相应目标语言词的语法性别信息来注释常规源语言词。使用这样的数据来训练机器翻译系统减少了它们对性别定型观念的依赖，当关于主体性别的信息可用时。我们对五种语言对的实验表明，这可以将WinoMT测试集的准确率提高25.8个百分点。
2020-10-18 cs.CL
The power of Prompts: Evaluating and Mitigating Gender Bias in MT with LLMs
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）
本文基于LLMs研究英译加泰罗尼亚语和西班牙语机器翻译中的性别偏见，发现基础LLMs偏见高于NMT模型，并提出一种提示结构在WinoMT上减少高达12%性别偏见。
2024-07-26 cs.CL
Mitigating Gender Stereotypes in Hindi and Marathi
Manipal Institute of Technology（马尼帕尔理工学院）；MAHE（马尼帕尔高等教育学院）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
随着自然语言处理在我们日常生活中的使用越来越多，解决这些系统中固有的性别偏见的需求也越来越大。这是因为在执行机器翻译等任务时，固有的偏见会干扰这些系统输出的语义结构。虽然研究是在英语中进行量化和减轻偏见，印度语言中的去偏见方法要么相对新生，要么完全没有一些印度语言。大多数印度语言都是有性别的，即，每个名词都根据每种语言的语法规则被赋予一个性。因此，评价不同于用英语进行的评价。本文评估了印地语和马拉地语中的性别刻板印象。这些方法将不同于英语中的方法，因为在某些单词中有阳性和阴性对应物。我们建立了一个中性和性别的职业词，情感词和测量偏见的嵌入连贯性测试（ECT）和相对范数距离（RND）的帮助下的数据集。我们也试图减轻这种偏见的嵌入。实验表明，我们提出的去偏见技术减少这些语言中的性别偏见。
2022-05-12 cs.CL
Mitigating Gender Bias in Machine Translation through Adversarial Learning
UC Berkeley（加州大学伯克利分校）；Princeton University（普林斯顿大学）
机器翻译和其他NLP系统通常包含关于敏感属性的重大偏见，例如性别或种族，这会恶化系统性能并使有害的刻板印象永久化。最近的初步研究表明，对抗性学习可以用作模型不可知的偏见缓解方法的一部分，不需要修改数据。然而，将这种策略应用于机器翻译和其他现代NLP领域需要（1）在微调预训练的大语言模型的背景下重新构建训练目标，以及（2）为性别或其他受保护变量制定措施，这些变量必须从数据本身推导出来。我们提出了一个对抗性学习框架，解决这些挑战，以减轻性别偏见seq 2seq机器翻译。我们的框架改善了男性与女性实体句子翻译质量的差异，对于英语-德语翻译为86%，对于英语-法语翻译为91%，对翻译质量的影响最小。结果表明，对抗性学习是一种很有前途的技术，可以减轻机器翻译中的性别偏见。
2022-03-20 cs.AI cs.CL
On Evaluating and Mitigating Gender Biases in Multilingual Settings
Microsoft Research India（微软印度研究院）
本文针对多语言环境下性别偏见评估与缓解的挑战，构建了基于人工标注的印度语言偏见评估基准，扩展多种去偏方法并验证其在多语言模型上的效果。
2023-07-04 cs.CL
Evaluating Gender Bias in Natural Language Inference
Walmart Labs（沃尔玛实验室）；SAP Labs（思爱普实验室）；McGill University（麦吉尔大学）；Facebook AI Research（脸书人工智能研究）
性别偏见的刻板印象最近引起了自然语言处理的重大伦理问题。然而，在检测和评估性别偏见的自然语言理解，通过推理的进展是有限的，需要进一步调查。在这项工作中，我们提出了一种评估方法来衡量这些偏见，通过构建一个挑战性的任务，涉及配对性别中立的前提对性别特定的假设。我们使用我们的挑战任务，调查国家的最先进的NLI模型的存在下，性别刻板印象使用的职业。我们的研究结果表明，在MNLI和SNLI数据集上训练的三个模型（BERT，RoBERTa，BART）明显容易出现性别引起的预测错误。我们还发现，在某些情况下，诸如增加训练数据集以确保性别平衡的数据集等去偏置技术可以帮助减少这种偏见。
2021-05-12 cs.CL cs.LG
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）
先进的机器学习技术提高了自然语言处理的性能。然而，最近的研究，例如，Zhao et al.（2017）表明，这些技术无意中捕获了隐藏在语料库中的社会偏见，并进一步放大了它。然而，他们的分析仅针对模型的最佳预测。在本文中，我们从分布的角度研究了性别偏见放大问题，并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下，我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
2020-05-13 cs.CL cs.CV cs.LG
Mitigating Gender Bias in English to Romanian Machine Translation
Human Language Technologies Research Center（人类语言技术研究中心）；Faculty of Mathematics and Computer Science（数学与计算机科学学院）；University of Bucharest（布加勒斯特大学）
该研究提出结合LLM性别分类与Transformer翻译的混合流水线，引入新数据集，使英罗机器翻译在WinoMT等基准上性别准确率提升超40个百分点，为缓解该领域性别偏差提供新方法。
2026-08-11 cs.AI cs.CL
Evaluating the Underlying Gender Bias in Contextualized Word Embeddings
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
性别偏见严重影响着自然语言处理应用。词嵌入已被明确证明既保持又放大了当前数据源中存在的性别偏见。最近，上下文化的词嵌入通过计算依赖于它们出现在其中的句子的词向量表示来增强先前的词嵌入技术。在本文中，我们研究的影响，这种概念的变化，在词嵌入计算与性别偏见。我们的分析包括不同的措施，以前在文献中应用到标准的词嵌入。我们的研究结果表明，语境化的词嵌入是更少的偏见比标准的，即使后者是去偏见。
2019-04-18 cs.CL cs.LG
Exploring Gender Bias in Large Language Models: An In-depth Dive into the German Language
RWTH Aachen University（亚琛工业大学）；AppTek GmbH（AppTek有限责任公司）；Know Center Research GmbH（Know Center研究有限责任公司）
本文通过构建五个德语性别偏见评估数据集并在八个多语言LLM上测试，揭示了德语中男性职业术语歧义和中性名词影响性别感知等独特挑战，强调需要定制化评估框架。
2025-07-22 cs.CL cs.LG
Gender-preserving Debiasing for Pre-trained Word Embeddings
Tokyo Metropolitan University（东京都立大学）；University of Liverpool（利物浦大学）
从大量文本集合中学习的词嵌入已经表现出显著的歧视性偏见，如性别，种族或民族偏见，这反过来又会使使用这些词嵌入的下游NLP应用程序产生偏见。以性别偏见为例，我们提出了一种去偏见方法，该方法保留了非歧视性的性别相关信息，同时从预训练的词嵌入中去除了刻板的歧视性性别偏见。具体来说，我们考虑四种类型的信息：\emph{feminine}，\emph{masculine}，\emph{gender-neutral}和\emph{stereotypical}，这代表性别与偏见之间的关系，并提出了一个去偏见的方法，（a）保留性别相关的信息，在女性和男性的话，（b）保留中性的性别中性词，（c）删除偏见的刻板印象的话。在先前提出的几个基准数据集上的实验结果表明，我们提出的方法可以比现有的SoTA方法更好地去偏置预训练的词嵌入，同时保留性别相关但非歧视性的信息。
2019-06-03 cs.CL cs.LG
Unmasking Contextual Stereotypes: Measuring and Mitigating BERT's Gender Bias
University of Groningen（格罗宁根大学）；University of Malta（马耳他大学）
语境化的词嵌入已经取代标准嵌入，成为NLP系统中选择的表征性知识源。由于之前在标准词嵌入中发现了各种偏见，因此评估其替换中编码的偏见也至关重要。关注BERT（Devlin等人，2018），我们通过研究英语和德语中表示性别的目标词与职业名称之间的关联来衡量性别偏见，并将研究结果与现实世界的劳动力统计数据进行比较。我们通过在GAP语料库上微调BERT来减轻偏差（Webster等人，2018），在应用反事实数据替代（CDS）（Maudslay等人，2019年）。我们表明，我们的方法测量偏见是适当的语言，如英语，但不适合语言丰富的形态和性别标记，如德语。我们的研究结果强调了跨语言调查偏见和缓解技术的重要性，特别是考虑到目前对大规模，多语言语言模型的重视。
2020-10-27 cs.CL
Type B Reflexivization as an Unambiguous Testbed for Multilingual Multi-Task Gender Bias
University of Copenhagen（哥本哈根大学）；Alexandra Instituttet（亚历山德拉研究所）；Google Research（谷歌研究院）
在以前的NLP性别偏见研究中，片面关注英语错过了其他语言的机会：英语挑战数据集，如GAP和WinoGender，突出了“幻觉”的模型偏好，例如，消除性别模糊的“医生”作为男性医生的出现。我们表明，对于具有B型反身化的语言，例如，瑞典语和俄语，我们可以构建多任务挑战数据集，用于检测导致明确错误模型预测的性别偏见：在这些语言中，“医生摘下面具”的直接翻译在共指阅读和不相交阅读之间并不模糊。相反，共指阅读需要一个无性别的代词，而有性别的所有格代词是反反身的。我们提出了一个多语言，多任务的挑战数据集，它跨越了四种语言和四个NLP任务，只关注这种现象。我们在所有的任务语言组合中发现了性别偏见的证据，并将模型偏见与国家劳动力市场统计数据相关联。
2020-09-28 cs.CL cs.LG
LFTF: Locating First and Then Fine-Tuning for Mitigating Gender Bias in Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；Tencent（腾讯）
本研究提出GenBiasEval、GenHintEval两个数据集及对应指标以评估大模型性别偏见，还提出LFTF算法，通过定位并微调与偏见最相关的模块，在保留通用能力的同时有效缓解性别偏见。
2025-05-21 cs.AI cs.CL
The Confidence Trap: Gender Bias and Predictive Certainty in LLMs
本研究探讨大语言模型在性别偏见任务中的置信度校准问题，提出Gender-ECE指标以评估公平性差异，发现Gemma-2在性别偏见基准中校准最差。
2026-01-12 cs.CL cs.LG
Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation
University of Virginia（弗吉尼亚大学）；Salesforce Research（赛富时研究院）
源自人类生成语料库的词嵌入继承了强烈的性别偏见，这可以通过下游模型进一步放大。一些常用的去偏方法，包括开创性的硬去偏算法，应用后处理过程，将预先训练的词嵌入投影到与推断的性别子空间正交的子空间中。我们发现，语义不可知的语料库，如词频捕获的词嵌入负面影响这些算法的性能。我们提出了一个简单但有效的技术，双硬Debias，净化词嵌入对这样的语料库的错误之前，推断和删除性别子空间。三个偏见缓解基准的实验表明，我们的方法保留了预训练的词嵌入的分布语义，同时减少性别偏见，以显着更大的程度比以前的方法。
2020-05-03 cs.CL cs.LG
DR.GAP: Mitigating Bias in Large Language Models using Gender-Aware Prompting with Decoupled Reasoning
School of Information Science and Technology, ShanghaiTech University（上海科技大学信息科学与技术学院）；School of Computer and Cyber Sciences, Augusta University（奥古斯塔大学计算机与网络科学学院）
该研究针对大语言模型的性别偏见问题，提出DR.GAP方法，通过生成无性别推理轨迹作为上下文示例，在不修改模型参数的情况下缓解偏见，且可扩展至视觉语言模型，经多任务多模型实验验证有效。
2026-08-18 cs.AI cs.CL
Assessing Gender Bias in LLMs: Comparing LLM Outputs with Human Perceptions and Official Statistics
Minerva University（密涅瓦大学）
本研究通过新建职业角色评估集并利用KL散度比较五个LLM与人类感知及官方统计数据的性别判断，发现LLM普遍偏离性别中立且更贴近统计数据，仍存在固有性别偏见。
2024-11-20 cs.CL cs.LG
Locating and Mitigating Gender Bias in Large Language Models
University of Science and Technology of China（中国科学技术大学）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
本研究提出统一框架，结合因果中介分析定位大语言模型中性别偏见的关键组件，并提出基于知识编辑的LSDM方法，在保留模型整体能力的同时有效缓解职业代词中的性别偏见。
2024-03-21 cs.AI cs.CL
Detecting Gender Bias in Course Evaluations
Chalmers University of Technology（查尔姆斯理工大学）
本文基于机器学习和NLP方法分析课程评价数据，发现学生评价内容因主考教师性别而异，并通过对比英语和瑞典语课程揭示更细微的性别偏见。
2024-04-02 cs.CL cs.LG
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge（剑桥大学）；Bar-Ilan University（巴伊兰大学）
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强（CDA），其中语料库被复制和增强以消除偏见，例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较，发现虽然两者都成功地减少了直接偏见，并且在量化嵌入质量的任务中表现良好，但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法，在两个语料库中平均为19%。我们提出了两个改进CDA：反事实数据替换（CDS），CDA的一个变种，其中潜在的偏见文本被随机替换，以避免重复，和名称干预，一种新的名称配对技术，大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法：在去偏见之后，先前有偏见的单词根据性别的聚类显着减少（聚类纯度降低了49%），从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
Projective Methods for Mitigating Gender Bias in Pre-trained Language Models
National Research Council Canada（加拿大国家研究委员会）；University of Guelph（圭尔夫大学）
本研究探讨投影去偏方法在BERT内部表示中的应用，发现其能有效缓解内在及下游性别偏差，但两者相关性不强，提示不应仅依赖内在偏差测试集评估去偏效果。
2024-03-27 cs.CL
Exploring and Mitigating Gender Bias in Encoder-Based Transformer Models
Department of Computer Science and Engineering BRAC University（计算机科学与工程系 BRAC大学）
本文研究了BERT等基于编码器的Transformer模型中的性别偏见，提出了量化偏见的新指标MALoR和基于反事实数据增强的持续预训练缓解方法，显著降低了偏见得分且不损害下游任务性能。
2025-11-01 cs.CL
Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs
Texas A&M University（得克萨斯农工大学）
通过生成性别中性故事对并利用直接偏好优化，该研究旨在减少大语言模型中的性别偏见，同时保持模型能力。
2026-01-14 cs.AI cs.CL cs.CY
Multi-Dimensional Gender Bias Classification
Facebook AI Research（Facebook人工智能研究院）；Laboratoire Lorrain d’Informatique et Applications (LORIA)（洛林计算机科学及其应用实验室（LORIA））
机器学习模型被训练来寻找数据中的模式。NLP模型在训练有性别偏见的文本时，可能会无意中学习到社会上不受欢迎的模式。在这项工作中，我们提出了一个总体框架，分解文本中的性别偏见沿几个语用和语义方面：从性别的人被谈论的偏见，从性别的人被说话的偏见，从性别的扬声器的偏见。使用这个细粒度的框架，我们自动注释八个大规模的数据集与性别信息。此外，我们还收集了一个新颖的、众包的话语级性别重写评估基准。区分多个维度的性别偏见是很重要的，因为它使我们能够训练更细粒度的性别偏见分类器。我们证明了我们的分类器对于各种重要的应用都是有价值的，例如控制生成模型中的性别偏见，检测任意文本中的性别偏见，并在性别方面揭示攻击性语言。
2020-05-01 cs.CL
Grammatical gender associations outweigh topical gender bias in crosslinguistic word embeddings
Babbel（巴巴贝尔（语言学习公司））
最近的研究表明，语义的向量空间模型可以反映人类文化中不受欢迎的偏见。我们对跨语言词嵌入的研究表明，主题性别偏见与语法性别联想的影响相互作用，并且在程度上被语法性别联想的影响所超越，并且两者都可以通过语料库词形化来减弱。这一发现对诸如机器翻译等下游应用具有启示意义。
2020-05-18 cs.CL
Gender Inflected or Bias Inflicted: On Using Grammatical Gender Cues for Bias Evaluation in Machine Translation
National Institute of Technology, Hamirpur（哈米尔普尔国家理工学院）
针对现有NMT性别偏见评估多依赖英语或性别中立句的局限，本研究以印地语为源语言构建OTSC-Hindi、WinoMT-Hindi性别特指数据集，验证了用含语法性别线索的句子评估偏见的合理性，强调评估数据集设计需考虑语言特性。
2023-11-07 cs.CL
Debiasing Embeddings for Reduced Gender Bias in Text Classification
Google（谷歌）
（Bolukbasi等人，2016）证明了预训练的词嵌入可以从它们所训练的数据中继承性别偏见。我们使用职业分类的案例研究（De-Arteaga et al.，2019年）。我们发现，传统的去偏置嵌入技术实际上可以通过提供一个噪声较小的通道来传达性别信息，从而恶化下游分类器的偏差。然而，通过相对较小的调整，我们展示了如何使用这些相同的技术来同时减少偏差并保持高分类精度。
2019-08-07 cs.CL cs.LG stat.ML
Measuring Gender Bias in Job Title Matching for Grammatical Gender Languages
Avature Machine Learning（阿瓦图尔机器学习）
本研究提出基于RBO的性别控制排名比较指标，构建四种语法性别语言的职位匹配测试集，评估多语言模型并揭示其普遍存在的性别偏见。
2025-09-17 cs.CL
Gender Bias in Coreference Resolution
Johns Hopkins University（约翰斯·霍普金斯大学）
本文对共指消解系统中的性别偏见进行了实证研究。我们首先介绍一种新的，Winograd模式风格的最小对句子，不同的代词性别。有了这些“Winogender图式”，我们评估和确认系统的性别偏见在三个公开的共指消解系统，并将这种偏见与现实世界和文本的性别统计。
2018-04-25 cs.CL
GKnow: Measuring the Entanglement of Gender Bias and Factual Gender
Center for Information and Language Processing, LMU Munich（信息与语言处理中心，慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML））
本文提出GKnow基准，用于评估语言模型在不同性别预测类型中的性别知识和偏见，发现性别偏见与事实性性别在电路和神经元层面高度纠缠，表明神经元剪除不可靠。
2026-05-12 cs.CL
MoESD: Mixture of Experts Stable Diffusion to Mitigate Gender Bias
Imperial College London（伦敦帝国学院）
针对文本到图像模型的性别偏见，本文提出带偏见适配器与偏见识别门的 MoESD，在潜在空间识别文本编码偏见并借助特殊提示标记缓解偏见，且保持图像质量。
2024-10-24 cs.AI cs.CL cs.LG
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University（乔治华盛顿大学）；University of Washington（华盛顿大学）
当衡量一种语言的词嵌入所捕获的语义性别信息时，语言的语法性别是否会产生干扰？一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明，词嵌入学习语法性别的语言，这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此，词嵌入后处理方法被引入到量化，解开，和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度，这是衡量的效果大小（科恩的d），由一个显着的平均值d = 1.3为法语，德语和意大利语，和d = 0.56为波兰语和西班牙语。一旦语法性别被解开，超过90%的10，000无生命名词和他们的语法性别之间的关联减弱，跨语言的偏见结果从词嵌入协会测试（WEAT）变得更加符合国家级的内隐偏见测量。结果进一步表明，从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
Exploring Gender Bias Beyond Occupational Titles
University of Tartu, Institute of Computer Science（塔尔图大学计算机科学学院）
本研究提出GenderLexicon数据集与评估框架，通过动作动词、宾语名词等上下文元素量化性别偏见并提升可解释性，证实职业刻板印象之外存在性别偏见。
2025-07-12 cs.CL
Examining Gender Bias in Languages with Grammatical Gender
University of California Los Angeles（加州大学洛杉矶分校）；University of Southern California（南加州大学）；University of Pennsylvania（宾夕法尼亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
最近的研究表明，词嵌入表现出从训练语料库继承的性别偏见。然而，迄今为止，大多数研究都集中在量化和减轻这种偏见只在英语。这些分析不能直接扩展到语言，表现出形态的性别协议，如西班牙语和法语。在本文中，我们提出了新的衡量标准，这些语言的词嵌入中的性别偏见，并进一步证明了双语嵌入，这些语言与英语对齐的性别偏见的证据。最后，我们扩展了现有的方法，以减轻性别偏见的词嵌入下单语和双语设置。在改进的词嵌入联想测试、词相似度、词翻译和词对翻译任务上的实验表明，该方法在保持嵌入效用的同时，有效地减少了性别偏见。
2019-09-09 cs.CL
Mitigating Confounding in Speech-Based Dementia Detection through Weight Masking
University of Minnesota（明尼苏达大学）；University of Washington（华盛顿大学）
本文针对基于语音的痴呆检测中的性别混杂问题，提出扩展混杂过滤器和双重过滤器两种权重掩蔽方法，通过消融性别相关权重获得去混杂分类器，在略微降低检测性能的同时缓解过拟合。
2025-06-05 cs.CL
Robustness and Reliability of Gender Bias Assessment in Word Embeddings: The Role of Base Pairs
Department of Computer Science（计算机科学系）；University of Sheffield（谢菲尔德大学）
它已被证明，词嵌入可以表现出性别偏见，并提出了各种方法来量化这一点。然而，这些方法在多大程度上捕捉了从数据中继承的社会陈规定型观念，这一点一直存在争议。偏见是一个复杂的概念，有多种方法来定义它。以前的工作是利用性别词对来衡量偏见和提取偏见的类比。我们表明，依赖这些性别对有很强的局限性：基于它们的偏见措施是不健全的，不能识别常见类型的现实世界的偏见，而类比利用它们是不合适的偏见指标。特别是，众所周知的类比“男人是计算机程序员，女人是家庭主妇”是由于词汇相似性，而不是社会偏见。这对测量嵌入偏差的工作和消除嵌入偏差的相关工作具有重要影响。
2020-10-27 cs.AI cs.CL cs.LG
Exploring the Linear Subspace Hypothesis in Gender Bias Mitigation
University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）
本文推广Bolukbasi等人（2016）的线性性别偏见缓解方法至核化非线性版本，并实证验证了偏见子空间确为线性，支持原假设。
2024-05-22 cs.CL cs.CY cs.LG
Gender Bias in Large Language Models across Multiple Languages
University of Toronto（多伦多大学）；Mcgill University（麦吉尔大学）；SI-TECH Information Technology（SI-TECH信息技术公司）；University of Alberta（阿尔伯塔大学）
本文针对英语之外研究不足的问题，用三类度量考察GPT系列模型在多语言生成中的性别偏见，发现所测语言均存在显著偏见。
2024-03-01 cs.CL
Reducing Gender Bias in Word-Level Language Models with a Gender-Equalizing Loss Function
New York University（纽约大学）
神经语言模型倾向于学习自然语言数据集，从而导致有偏见的文本生成。在这项研究中，我们提出了一个去偏置的方法的基础上的损失函数修改。我们引入了一个新的术语的损失函数，试图在输出中的男性和女性的话的概率相等。使用一系列的偏见评估指标，我们提供的经验证据表明，我们的方法成功地减轻性别偏见的语言模型，而不增加困惑。与现有的去偏置策略、数据增强和词嵌入去偏置方法相比，该方法在几个方面表现更好，特别是在减少职业词中的性别偏见方面。最后，我们介绍了数据增强和我们的方法的组合，并表明它在所有偏差评估指标上都优于现有策略。
2019-06-03 cs.CL
On Measuring Gender Bias in Translation of Gender-neutral Pronouns
Seoul National University（首尔大学）；INMC
关于社会偏见的伦理学最近在自然语言处理中提出了引人注目的问题。特别是对于与性别相关的主题，在诸如图像描述、内容推荐和自动化就业的领域中，对减少模型偏差的系统的需求已经增长。然而，机器翻译系统中的性别偏见的检测和评估尚未得到彻底的研究，因为任务是跨语言的，具有挑战性的定义。在本文中，我们提出了一个计划，使一个测试集，评估性别偏见的机器翻译系统，与韩国，一种语言的性别中性代词。三个词/短语集主要是构建，每个包含积极/消极的表达或职业;所有的术语都是性别独立的或至少没有严重偏向一侧。然后，根据代词的正式性和句子的礼貌性构建了附加的句子列表。在生成的句子集的大小为4,236，我们评估传统的机器翻译系统中的性别偏见，利用所提出的措施，这是在这里被称为翻译性别偏见指数（TGBI）。语料库和评价代码可在线查阅。
2019-05-28 cs.CL
Extending Challenge Sets to Uncover Gender Bias in Machine Translation: Impact of Stereotypical Verbs and Adjectives
人类的性别偏见反映在语言和文本的产生中。由于最先进的机器翻译（MT）系统是在大型文本语料库（主要由人类生成）上训练的，因此在MT中也可以发现性别偏见。例如，当职业从英语这样的语言（主要使用性别中性词）翻译成德语这样的语言（主要使用女性和男性职业版本）时，必须由机器翻译系统做出决定。最近的研究表明，机器翻译系统偏向于刻板的职业翻译。2019年，第一个也是迄今为止唯一一个明确旨在衡量MT系统中性别偏见程度的挑战集已经发布。在这一套中，性别偏见的衡量完全基于职业的翻译。在本文中，我们提出了这个挑战集的扩展，称为WiBeMT，带有性别偏见的形容词，并添加了带有性别偏见的动词的句子。最终的挑战集由超过70，000个句子组成，并已被三个商业机器翻译系统翻译：DeepL翻译，微软翻译和谷歌翻译。结果表明，所有三个MT系统的性别偏见。这种性别偏见在很大程度上受形容词的影响，在较小程度上受动词的影响。
2021-07-24 cs.CL
