Exploring Gender Bias Beyond Occupational Titles
University of Tartu, Institute of Computer Science（塔尔图大学计算机科学学院）
本研究提出GenderLexicon数据集与评估框架，通过动作动词、宾语名词等上下文元素量化性别偏见并提升可解释性，证实职业刻板印象之外存在性别偏见。
2025-07-12 cs.CL
Examining Gender Bias in Languages with Grammatical Gender
University of California Los Angeles（加州大学洛杉矶分校）；University of Southern California（南加州大学）；University of Pennsylvania（宾夕法尼亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
最近的研究表明，词嵌入表现出从训练语料库继承的性别偏见。然而，迄今为止，大多数研究都集中在量化和减轻这种偏见只在英语。这些分析不能直接扩展到语言，表现出形态的性别协议，如西班牙语和法语。在本文中，我们提出了新的衡量标准，这些语言的词嵌入中的性别偏见，并进一步证明了双语嵌入，这些语言与英语对齐的性别偏见的证据。最后，我们扩展了现有的方法，以减轻性别偏见的词嵌入下单语和双语设置。在改进的词嵌入联想测试、词相似度、词翻译和词对翻译任务上的实验表明，该方法在保持嵌入效用的同时，有效地减少了性别偏见。
2019-09-09 cs.CL
Queens are Powerful too: Mitigating Gender Bias in Dialogue Generation
Facebook AI Research（Facebook人工智能研究院）；Laboratoire Lorrain d’Informatique et Applications (LORIA)（洛林计算机科学及其应用实验室）
模型通常很容易学习训练数据中存在的偏差，并且它们的预测直接反映了这种偏差。我们分析了对话数据中的性别偏见，并研究了这种偏见如何在随后的生成聊天对话模型中被放大。我们在六个现有的对话数据集中测量性别偏见，并专注于最有偏见的一个，基于多玩家文本的奇幻冒险数据集LIGHT，作为我们偏见缓解技术的测试平台。LIGHT数据集在性别方面高度不平衡，主要包含男性角色，可能是因为它完全由众包工作者收集，反映了幻想或中世纪环境中存在的常见偏见。我们考虑三种技术来减轻性别偏见：反事实数据增强，有针对性的数据汇集，和偏差控制的培训。我们表明，我们提出的技术通过平衡生成的对话话语的性别来减轻LIGHT中的性别偏见，并且组合起来特别有效。我们使用各种评估方法来量化性能-例如性别词的数量，对话安全分类器和人类研究-所有这些都表明我们的模型产生较少的性别，但同样吸引人的闲聊反应。
2020-04-16 cs.CL
Gender Bias in Large Language Models across Multiple Languages
University of Toronto（多伦多大学）；Mcgill University（麦吉尔大学）；SI-TECH Information Technology（SI-TECH信息技术公司）；University of Alberta（阿尔伯塔大学）
本文针对英语之外研究不足的问题，用三类度量考察GPT系列模型在多语言生成中的性别偏见，发现所测语言均存在显著偏见。
2024-03-01 cs.CL
Reducing Gender Bias in Word-Level Language Models with a Gender-Equalizing Loss Function
New York University（纽约大学）
神经语言模型倾向于学习自然语言数据集，从而导致有偏见的文本生成。在这项研究中，我们提出了一个去偏置的方法的基础上的损失函数修改。我们引入了一个新的术语的损失函数，试图在输出中的男性和女性的话的概率相等。使用一系列的偏见评估指标，我们提供的经验证据表明，我们的方法成功地减轻性别偏见的语言模型，而不增加困惑。与现有的去偏置策略、数据增强和词嵌入去偏置方法相比，该方法在几个方面表现更好，特别是在减少职业词中的性别偏见方面。最后，我们介绍了数据增强和我们的方法的组合，并表明它在所有偏差评估指标上都优于现有策略。
2019-06-03 cs.CL
On Measuring Gender Bias in Translation of Gender-neutral Pronouns
Seoul National University（首尔大学）；INMC
关于社会偏见的伦理学最近在自然语言处理中提出了引人注目的问题。特别是对于与性别相关的主题，在诸如图像描述、内容推荐和自动化就业的领域中，对减少模型偏差的系统的需求已经增长。然而，机器翻译系统中的性别偏见的检测和评估尚未得到彻底的研究，因为任务是跨语言的，具有挑战性的定义。在本文中，我们提出了一个计划，使一个测试集，评估性别偏见的机器翻译系统，与韩国，一种语言的性别中性代词。三个词/短语集主要是构建，每个包含积极/消极的表达或职业;所有的术语都是性别独立的或至少没有严重偏向一侧。然后，根据代词的正式性和句子的礼貌性构建了附加的句子列表。在生成的句子集的大小为4,236，我们评估传统的机器翻译系统中的性别偏见，利用所提出的措施，这是在这里被称为翻译性别偏见指数（TGBI）。语料库和评价代码可在线查阅。
2019-05-28 cs.CL
Extending Challenge Sets to Uncover Gender Bias in Machine Translation: Impact of Stereotypical Verbs and Adjectives
人类的性别偏见反映在语言和文本的产生中。由于最先进的机器翻译（MT）系统是在大型文本语料库（主要由人类生成）上训练的，因此在MT中也可以发现性别偏见。例如，当职业从英语这样的语言（主要使用性别中性词）翻译成德语这样的语言（主要使用女性和男性职业版本）时，必须由机器翻译系统做出决定。最近的研究表明，机器翻译系统偏向于刻板的职业翻译。2019年，第一个也是迄今为止唯一一个明确旨在衡量MT系统中性别偏见程度的挑战集已经发布。在这一套中，性别偏见的衡量完全基于职业的翻译。在本文中，我们提出了这个挑战集的扩展，称为WiBeMT，带有性别偏见的形容词，并添加了带有性别偏见的动词的句子。最终的挑战集由超过70，000个句子组成，并已被三个商业机器翻译系统翻译：DeepL翻译，微软翻译和谷歌翻译。结果表明，所有三个MT系统的性别偏见。这种性别偏见在很大程度上受形容词的影响，在较小程度上受动词的影响。
2021-07-24 cs.CL
Gender Bias Hidden Behind Chinese Word Embeddings: The Case of Chinese Adjectives
Uppsala University（乌普萨拉大学）
词嵌入中的性别偏见近年来逐渐成为一个活跃的研究领域。这一领域的大多数研究都是以英语为目标语言的测量和去偏置方法。本文从汉语形容词这一独特的视角考察静态词嵌入中的性别偏见。通过使用不同的模型训练单词表示，评估形容词向量背后的性别偏见。通过比较产生的结果和人类评分的数据集，我们展示了性别偏见编码的词嵌入区别于人们的态度。
2021-06-01 cs.CL
Disclosure and Mitigation of Gender Bias in LLMs
Texas A&M University（得克萨斯农工大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
提出基于条件生成的间接探测框架，揭示LLMs中无显式性别提及时的显式与隐式偏见，并通过超参数调整、指令引导和去偏调整三种方法有效缓解偏见。
2024-02-17 cs.CL
Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation
Texas A&M University（德克萨斯A&M大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文提出无需预定义性别短语和刻板印象的条件文本生成机制，通过三类输入和显隐性指标评估LLM性别偏见，发现模型增大未必提升公平性且所有被测模型均存在显性或隐性偏见。
2023-11-01 cs.CL
Theories of "Gender" in NLP Bias Research
Umeå University（于默奥大学）；Uppsala University（乌普萨拉大学）
人们对自然语言处理（NLP）技术包含和延续社会偏见的担忧日益增加，导致了一个丰富且快速增长的研究领域。性别偏见是正在分析的中心偏见之一，但迄今为止，还没有全面分析“性别”在该领域的理论化。我们调查了近200篇关于NLP中性别偏见的文章，以发现该领域如何明确地（例如通过术语的定义）和隐含地（例如通过性别如何在实践中运作）将性别概念化。为了更好地了解新兴的思想轨迹，我们将这些文章按时间分为两个部分。我们发现，大多数的文章并没有使他们的性别理论明确，即使他们明确定义了“偏见”。几乎没有人使用交叉或包含非二元性别的性别模型;许多人将性别特征，社会性别和语言性别混为一谈，无视跨性别，非二元和双性人的存在和经验。在承认性别是一个复杂现实的声明中，这两个时间段之间的声明有所增加，但是，很少有文章能够将这种承认付诸实践。除了分析这些发现，我们提供了具体的建议，以促进跨学科的工作，并纳入性别研究的理论和方法。我们希望这将在NLP中产生更具包容性的性别偏见研究。
2022-05-05 cs.CL
Don't Overlook the Grammatical Gender: Bias Evaluation for Hindi-English Machine Translation
National Institute of Technology, Hamirpur（国家理工学院（哈姆普尔））；Anu（阿努）
针对现有评测多用英语源句或性别中立句的问题，本文构建两套印地语性别特定句集，自动评估HI-EN NMT系统能否依据语法性别线索识别性别。
2023-11-11 cs.CL
A Multilingual Perspective on Probing Gender Bias
University of Copenhagen（哥本哈根大学）
本论文从多语言视角研究性别偏见在语言及语言技术中的表达，采用跨学科方法结合自然语言处理与政治学、历史学，以探测并理解社会偏见。
2024-03-15 cs.CL
Gender Lost In Translation: How Bridging The Gap Between Languages Affects Gender Bias in Zero-Shot Multilingual Translation
Maastricht University（马斯特里赫特大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文研究零样本多语言神经机器翻译中的性别偏见，发现语言无关表示可减轻男性偏见，且桥接语言性别屈折程度越高，枢轴翻译在性别保留公平性上越优于零样本翻译。
2023-05-26 cs.CL
Examining Covert Gender Bias: A Case Study in Turkish and English Machine Translation Models
University of Pittsburgh（匹兹堡大学）
随着机器翻译（MT）变得越来越强大、可访问和广泛，偏见永久化的可能性也随着其进步而增长。虽然公开的偏见指标已在机器翻译中进行了研究，我们认为，隐蔽的偏见暴露了一个问题，是进一步根深蒂固。通过使用性别中立的语言土耳其语和性别化的语言英语，我们研究了MT模型中显性和隐性性别偏见的情况。具体来说，我们介绍了一种方法来调查不对称的性别标记。我们还评估了偏见的归属人格和研究职业和人格的刻板印象，通过公开的偏见指标MT模型。我们的工作探索了MT模型中更深层次的偏见，并证明了MT模型开发中对特定语言的跨学科方法的持续需求。
2021-08-23 cs.CL
Gender Bias in English-to-Greek Machine Translation
Ghent University（根特大学）；University of Antwerp（安特卫普大学）
本文通过构建GendEL双语数据集，研究Google Translate和DeepL在英译希腊语中的性别偏见，并评估GPT-4o作为偏见缓解工具的潜力，发现商用系统在性别未指定时缺乏中立翻译能力，而GPT-4o虽有改善但仍存残余偏见。
2025-06-11 cs.CL
Gender Bias in MT for a Genderless Language: New Benchmarks for Basque
本文通过引入两个新数据集，研究巴斯克语翻译中的性别偏见问题，发现模型存在系统性偏好阳性形式的现象。
2026-03-09 cs.CL
Gender Bias in Neural Natural Language Processing
Carnegie Mellon University（卡内基梅隆大学）
我们研究神经自然语言处理（NLP）系统是否反映了训练数据中的历史偏差。我们定义了一个通用的基准来量化各种神经NLP任务中的性别偏见。我们使用最先进的神经共指消解和在基准数据集上训练的基于RNN的语言模型进行的实证评估发现，模型如何看待职业存在显著的性别偏见。然后，我们减轻偏见与CDA：一个通用的方法，语料库增强通过因果干预，打破性别和性别中性词之间的关联。我们的经验表明，CDA有效地减少性别偏见，同时保持准确性。我们还探讨了空间的缓解策略与CDA，一个事先的方法，词嵌入去偏置（WED），和他们的组合。我们表明，CDA优于WED，大大，所以当词嵌入的训练。对于预训练的嵌入，这两种方法可以有效地组合。我们还发现，随着对原始数据集进行梯度下降训练，性别偏见随着损失的减少而增加，这表明优化鼓励偏见; CDA减轻了这种行为。
2019-05-30 cs.CL
Gender Bias in Contextualized Word Embeddings
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Los Angeles（加州大学洛杉矶分校）；University of Virginia（弗吉尼亚大学）；University of Cambridge（剑桥大学）
在本文中，我们量化，分析和减轻ELMo的语境化词向量中表现出的性别偏见。首先，我们进行了几个内在的分析，发现（1）训练数据ELMo包含显着更多的男性比女性实体，（2）训练ELMo嵌入系统编码性别信息和（3）ELMo不平等地编码性别信息的男性和女性实体。然后，我们表明，一个国家的最先进的共指系统，依赖于ELMo继承其偏见，并表现出显着的偏见WinoBias探测语料库。最后，我们探索了两种方法来减轻这种性别偏见，并表明WinoBias上的偏见可以消除。
2019-04-05 cs.CL
Analyzing Gender Bias within Narrative Tropes
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
大众媒体通过使用比喻来反映和强化社会偏见，比喻是一种叙事元素，如原型人物和情节弧线，在媒体中经常出现。在本文中，我们专门研究了大量比喻中的性别偏见。为了使我们的研究，我们爬tvtropes.org，这是一个在线用户创建的存储库，包含30K tropes与190万个它们在电影，电视和文学中出现的例子相关联。我们在TVTROPES数据集中自动对每个比喻的“性别”进行评分，这使得我们能够分析（1）比喻中高度性别化的主题，（2）性别偏见和流行接受之间的关系，以及（3）作品创作者的性别如何与他们使用的比喻类型相关。
2020-10-30 cs.CL
Relating Word Embedding Gender Biases to Gender Gaps: A Cross-Cultural Analysis
SIFT
本文通过量化词嵌入中的性别偏见，分析不同文化背景下教育、政治、经济和健康领域的性别差距。
2026-01-23 cs.CL
DiFair: A Benchmark for Disentangled Assessment of Gender Knowledge and Bias
Tehran Institute for Advanced Studies (TeIAS)（德黑兰高等研究院）；Khatam University（哈塔姆大学）；Worcester Polytechnic Institute（伍斯特理工学院）
提出手动构建的数据集 DiFair 与统一指标性别不变性得分，解耦评估预训练语言模型的性别偏见与有用性别知识，发现去偏虽缓解偏见但会损失有用知识。
2023-10-22 cs.CL
Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them
Department of Computer Science, Bar-Ilan University（巴伊兰大学计算机科学系）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
词嵌入在NLP中广泛用于各种任务。结果表明，从文本语料库中提取的词嵌入反映了社会中的性别偏见。这一现象在不同的词嵌入模型中普遍存在，引起了严重的关注。最近的几项工作解决了这个问题，并提出了显着减少词嵌入中的性别偏见的方法，展示了令人信服的结果。然而，我们认为这种去除是肤浅的。虽然根据所提供的偏见定义，偏见确实大大减少，但实际效果主要是隐藏偏见，而不是消除它。性别偏见信息仍然反映在去偏见嵌入中的“性别中立”词之间的距离中，并且可以从它们中恢复。我们提出了一系列的实验来支持这一说法，两个去偏置方法。我们的结论是，现有的偏见消除技术是不够的，不应该被信任提供性别中立的建模。
2019-09-24 cs.CL
Overview of the NLPCC 2025 Shared Task: Gender Bias Mitigation Challenge
Multimodal Art Projection Research Community University of Manchester Independent Researcher
针对中文语境下性别偏见计算语言学资源匮乏的问题，本研究构建了含3.29万条标注句子的CORGI-PM语料库，设置三项NLPCC 2025共享任务挑战以推动文本性别偏见自动化检测、分类与消减，并呈现参赛结果分析。
2025-06-14 cs.CL
Gender Biases and Where to Find Them: Exploring Gender Bias in Pre-Trained Transformer-based Language Models Using Movement Pruning
The University of Tokyo（东京大学）；National Institute of Informatics（国立信息学研究所）
语言模型去偏已经成为自然语言处理领域的一个重要研究领域。提出了许多去偏置技术，但偏置消融仍然是一个未解决的问题。我们展示了一种新的框架，用于通过运动修剪来检查预训练的基于transformer的语言模型中的偏差。给定一个模型和一个去偏置目标，我们的框架会找到一个包含比原始模型更少偏差的模型子集。我们通过修剪模型来实现我们的框架，同时根据去偏目标对其进行微调。优化的只是修剪分数--与模型权重相结合的参数，这些参数充当门。我们尝试修剪注意力头部，这是Transformers的一个重要组成部分：我们修剪正方形块，并建立了一种修剪整个头部的新方法。最后，我们展示了我们的框架使用性别偏见，并根据我们的研究结果，我们提出了一个改进现有的去偏置方法。此外，我们重新发现了一个偏差-性能权衡：模型性能越好，它包含的偏差就越多。
2022-07-06 cs.CL
Adversarial Examples Generation for Reducing Implicit Gender Bias in Pre-trained Models
在过去的几年里，情境化的预训练神经语言模型，如BERT，GPT，在各种NLP任务中表现出显着的进步。为了增强现有预训练模型的鲁棒性，一种方法是对抗性示例生成和评估，以进行数据增强或对抗性学习。与此同时，在实际应用中，嵌入在模型中的性别偏见似乎是一个严重的问题。许多研究都涉及到了词汇层面的性别偏见（如性别刻板印象职业），而很少有研究涉及词汇层面的性别偏见和内隐性别偏见。本文提出了一种自动生成隐性性别偏见样本的方法和一种衡量性别偏见的指标。我们的方法生成的样品将在准确性方面进行评估。该指标将用于指导从预训练模型生成示例。因此，这些示例可以用于对预训练模型进行攻击。最后，我们讨论了我们生成的例子对减少性别偏见的评估功效，为未来的研究。
2021-10-03 cs.CL
Measuring Bias or Measuring the Task: Understanding the Brittle Nature of LLM Gender Biases
The University of Chicago（芝加哥大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本研究探讨提示的评估框架如何影响LLM性别偏见测量，发现评估框架明确的提示引发不同性别输出分布，且离散选择指标放大偏见，凸显评估脆弱性并引发对基准生态效度的思考。
2025-09-10 cs.CL
Unveiling Gender Bias in Terms of Profession Across LLMs: Analyzing and Addressing Sociological Implications
Indian Institute of Technology Bhilai（印度理工学院比莱分校）
本研究通过对比GPT-2与GPT-3.5，分析大语言模型在职业术语中的性别偏见，揭示其社会学影响，并提出算法与数据增强等缓解策略，旨在推动更公平的AI系统。
2023-08-31 cs.CL
Evaluating Gender Bias in Machine Translation
Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们提出了第一个挑战集和评估协议的分析性别偏见的机器翻译（MT）。我们的方法使用了两个最近的共指消解数据集，这些数据集由英语句子组成，这些句子将参与者塑造成非刻板的性别角色（例如，“医生请护士在手术中帮助她”）。我们设计了一种基于词法分析的八种具有语法性别的目标语言的自动性别偏见评估方法（例如，“医生”一词的女性变音）。我们的分析表明，四个流行的工业机器翻译系统和两个最新的国家的最先进的学术机器翻译模型显着倾向于性别偏见的翻译错误的所有测试的目标语言。我们的数据和代码是公开的。
2019-06-03 cs.CL
The power of Prompts: Evaluating and Mitigating Gender Bias in MT with LLMs
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）
本文基于LLMs研究英译加泰罗尼亚语和西班牙语机器翻译中的性别偏见，发现基础LLMs偏见高于NMT模型，并提出一种提示结构在WinoMT上减少高达12%性别偏见。
2024-07-26 cs.CL
Beyond Binary Gender: Evaluating Gender-Inclusive Machine Translation with Ambiguous Attitude Words
Beijing Jiaotong University（北京交通大学）；Tencent Inc（腾讯公司）
本研究提出基准 AmbGIMT 和基于情感态度得分（EAS）的新评估流程，利用歧义态度词评估二元性别之外的机器翻译性别偏见，发现非二元语境翻译质量较差且偏见明显，提示中加入约束上下文可大幅减少但无法消除偏见。
2024-07-23 cs.CL
What is Your Favorite Gender, MLM? Gender Bias Evaluation in Multilingual Masked Language Models
Emory University（埃默里大学）
针对多语言 MLM 性别偏见评估不足的问题，本文提出不依赖英语平行语料的多语言方法和基于模型的句子对生成技术，并用多种指标证明既有评估不稳定。
2024-04-09 cs.CL
Gender Bias Amplification During Speed-Quality Optimization in Neural Machine Translation
Facebook AI（脸书人工智能研究院）
当神经机器翻译（NMT）模型针对速度进行优化并使用BLEU在通用测试集上进行评估时，偏差是否会被放大？我们研究了在基于Transformer的模型中常用的加速解码的架构和技术，例如贪婪搜索、量化、平均注意力网络（AAN）和浅层解码器模型，并展示了它们对性别名词翻译的影响。我们构建了一个新的性别偏见测试集，SimpleGEN，基于性别名词短语，其中有一个单一的，明确的，正确的答案。虽然我们在应用速度优化时发现整体BLEU性能下降最小，但我们观察到性别化名词翻译性能以更快的速度下降。
2021-06-01 cs.CL
Evaluating Gender Bias in Speech Translation
Alexandria University（亚历山大大学）
科学界越来越意识到必须接受多元化，并始终代表主要和次要的社会群体。目前，对于不同类型的偏差没有标准的评估技术。因此，迫切需要提供评估集和协议来测量我们的自动系统中的现有偏差。评估偏见应该是在系统中减轻偏见的重要一步。本文介绍了WinoST，这是一款用于评估语音翻译中性别偏见的新的免费挑战赛。WinoST是WinoMT的语音版本，WinoMT是MT挑战集，两者都遵循评估协议来测量性别准确性。使用最先进的端到端语音翻译系统，我们报告了四种语言对的性别偏见评估，我们表明语音翻译的性别准确率比MT低23%以上。
2022-05-14 cs.CL
Investigating Gender Bias in BERT
Singapore University of Technology and Design（新加坡科技设计大学）
上下文语言模型（CLM）将NLP基准测试推向了一个新的高度。在文本分类等下游任务中利用CLM提供的词嵌入已经成为一种新的规范。然而，除非得到解决，否则CLM很容易在数据集中学习固有的性别偏见。因此，下游NLP模型的预测可能会因性别词的变化而发生明显变化，例如将“他”替换为“她”，甚至是性别中性词。在本文中，我们将重点分析一个流行的CLM，即，BERT。我们分析了它在五个与情绪和情绪强度预测相关的下游任务中引起的性别偏见。对于每个任务，我们训练一个简单的回归利用BERT的词嵌入。然后，我们使用公平评估语料库评估回归的性别偏见。理想情况下，从具体的设计来看，模型应该从输入中丢弃性别信息特征。然而，结果显示，系统的预测对性别特定的单词和短语的依赖性很大。我们认为，这种偏见可以通过从词嵌入中去除性别特征来减少。因此，对于BERT中的每一层，我们识别主要编码性别信息的方向。由这些方向形成的空间被称为词嵌入语义空间中的性别子空间。我们提出了一种算法，发现细粒度的性别方向，即，每个BERT层有一个主方向。这就避免了在多个维度上实现性别子空间的需要，也避免了其他关键信息的遗漏。实验表明，去除这些方向的嵌入组件在减少下游任务中的BERT引起的偏差方面取得了很大的成功。
2020-09-10 cs.CL
''Fifty Shades of Bias'': Normative Ratings of Gender Bias in GPT Generated English Text
Microsoft Research India（微软研究院印度分院）；University of Michigan（密歇根大学）；Carnegie Mellon University（卡内基梅隆大学）
本文构建了首个带有性别偏见规范性评分的GPT生成英文文本数据集，采用Best–Worst Scaling进行人工比较标注，系统分析偏见主题变化，发现身份攻击与性别偏见最相关，并评估了现有自动模型在该数据集上的表现。
2023-10-26 cs.CL
Understanding and Mitigating Gender Bias in LLMs via Interpretable Neuron Editing
The University of Manchester（曼彻斯特大学）；National Centre for Text Mining（国家文本挖掘中心）
本研究提出CommonWords数据集和可解释神经元编辑方法，通过识别并选择性编辑性别偏见相关神经元，在五个大语言模型上有效降低性别偏见同时保持模型原有能力。
2025-01-24 cs.CL
Gender Bias in Multilingual Neural Machine Translation: The Architecture Matters
TALP Research Center（TALP研究中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
多语言神经机器翻译体系结构的差异主要在于语言之间共享模块和参数的数量。在本文中，从算法的角度来看，我们探讨了当使用相同的数据进行训练时，所选择的架构是否会影响性别偏见的准确性。在四个语言对的实验表明，特定于存储的编码器-解码器表现出更少的偏见比共享的编码器-解码器架构。进一步对源语嵌入和注意力的可解释性分析表明，在特定性别的情况下，源语嵌入编码了更多的性别信息，其注意力更容易被转移。这两种行为都有助于减轻性别偏见。
2020-12-24 cs.CL
Target-Agnostic Gender-Aware Contrastive Learning for Mitigating Bias in Multilingual Machine Translation
Seoul National University（首尔大学）；Microsoft Research Asia（微软亚洲研究院）
针对多语言机器翻译中的性别偏见，提出目标语言无关的性别感知对比学习（GACL），通过微调预训练模型提升性别准确性且不损害翻译性能，并验证其跨语言迁移性和模型规模适用性。
2023-11-10 cs.CL
Assumed Identities: Quantifying Gender Bias in Machine Translation of Gender-Ambiguous Occupational Terms
School of Electrical and Computer Engineering, National Technical University of Athens（电气与计算机工程学院，国家技术大学雅典）；Instituto de Telecomunicações（电信研究所）；Department of Social Policy, Panteion University of Social and Political Sciences（社会政策系，帕内翁社会与政治科学大学）
本文提出基于概率的指标GRAPE和基准数据集GAMBIT，用于量化机器翻译系统在处理性别模糊职业术语时的系统性性别偏见，并评估其在希腊语和法语中的表现。
2025-09-22 cs.CL
Efficient Gender Debiasing of Pre-trained Indic Language Models
Manipal Institute of Technology（马尼帕尔理工学院）；Pune Institute of Computer Technology（浦那计算机技术学院）
语言模型预训练数据中存在的性别偏见反映在使用这些模型的系统中。该模式固有的性别偏见显示了我们文化中对妇女的过时和不平等的看法，并鼓励歧视。因此，为了建立更公平的制度和提高公平性，必须查明和减轻这些模式中存在的偏见。虽然在这一领域有大量的工作是用英语进行的，但在其他性别和低资源语言，特别是印度语言方面，却缺乏研究。英语是一种无性别的语言，它有无性别的名词。英语中的偏见检测方法不能直接部署在其他性别语言中，语法和语义各不相同。在我们的论文中，我们测量与印地语语言模型中的职业相关的性别偏见。我们在本文中的主要贡献是构建一个新的语料库来评估印地语中的职业性别偏见，使用定义良好的度量标准量化这些系统中现有的偏见，并通过有效地微调我们的模型来减轻这种偏见。我们的研究结果表明，偏见是减少后引入我们提出的缓解技术。我们的代码库是公开的。
2022-09-08 cs.CL
Gender Coreference and Bias Evaluation at WMT 2020
Microsoft（微软）；Charles University（查尔斯大学）；Charles University in Prague（布拉格查尔斯大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
机器翻译中的性别偏见可以表现在基于虚假的性别相关性来选择性别屈折变化。例如，总是把医生翻译成男人，把护士翻译成女人。随着模型变得越来越流行并部署在商业系统中，这可能特别有害。我们的工作提供了最大的证据，在超过19个系统提交给WMT超过四个不同的目标语言：捷克语，德语，波兰语和俄语的现象。为了实现这一点，我们使用WinoMT，最近的自动测试套件，检查性别共指和偏见时，从英语翻译到语法性别的语言。我们扩展WinoMT来处理WMT中测试的两种新语言：波兰语和捷克语。我们发现，所有的系统始终使用虚假的相关性的数据，而不是有意义的上下文信息。
2020-10-12 cs.CL
Collecting a Large-Scale Gender Bias Dataset for Coreference Resolution and Machine Translation
School of Computer Science and Engineering（计算机科学与工程学院）；The Hebrew University of Jerusalem（希伯来大学）
最近的研究发现，在机器翻译和共指消解的模型中，性别偏见的证据大多使用合成的诊断数据集。虽然这些在受控实验中量化了偏见，但它们通常是在小范围内进行的，并且主要由人工的，不分布的句子组成。在这项工作中，我们发现语法模式表明定型和非定型的性别角色分配（例如，女护士与男舞者）的语料库从三个领域，导致第一个大规模的性别偏见数据集的108K不同的现实世界的英语句子。我们手动验证我们的语料库的质量，并使用它来评估各种共指消解和机器翻译模型中的性别偏见。我们发现，所有测试过的模型在提供自然输入时都倾向于过度依赖性别刻板印象，这在商业系统中部署时可能特别有害。最后，我们表明，我们的数据集本身微调的共指消解模型，发现它减轻了偏见举行了一套。我们的数据集和模型可在www.github.com/SLAB-NLP/BUG上公开获取。我们希望他们将刺激未来的研究性别偏见评估缓解技术在现实环境中。
2021-09-10 cs.CL
Investigating Gender Bias in Turkish Language Models
German Research Center for Artificial Intelligence (DFKI) Berlin, Germany（德国人工智能研究中心（DFKI）柏林）
本研究针对土耳其语这类语法无性别语言的性别偏见研究空白，拓展现有偏见评估框架，设计适配土耳其语境的测试，还评估了族群偏见，分析偏见与模型特征的关联并公开数据集。
2024-04-17 cs.CL
Exploiting Biased Models to De-bias Text: A Gender-Fair Rewriting Model
University of Zurich（苏黎世大学）；Textshuttle（Textshuttle公司）；ETH Zurich（苏黎世联邦理工学院）；University of Edinburgh（爱丁堡大学）
针对自然语言生成模型的性别偏见问题，提出利用机器翻译模型通过往返翻译从性别公平文本生成偏见文本作为训练数据，无需手工规则即可训练德语性别公平改写模型，并验证了其有效性。
2023-05-18 cs.CL
Whose wife is it anyway? Assessing bias against same-gender relationships in machine translation
Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of Michigan（密歇根大学）
该研究针对机器翻译系统是否存在对同性关系的偏见问题，利用多种名词性别语言的职业名词模板句测试三款主流服务，发现其同性关系句翻译准确率低且受语境、职业女性占比影响，为NLP系统社会关系内在偏见评估提供案例。
2024-07-12 cs.CL
Comparing Intrinsic Gender Bias Evaluation Measures without using Human Annotated Examples
Tokyo Institute of Technology（东京工业大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
在预训练的语言模型（PLM）中已经识别出许多类型的社会偏见，并且已经提出了各种内在偏见评估措施来量化这些社会偏见。先前的工作依赖于人类注释的例子来比较现有的固有偏差评估措施。然而，这种方法不容易适应不同的语言，也不适合大规模的评估，由于成本和困难时，招募人类注释。为了克服这一限制，我们提出了一种方法来比较内在的性别偏见的评价措施，而不依赖于人类注释的例子。具体来说，我们创建多个偏见控制版本的PLM使用不同数量的男性与女性性别的句子，挖掘自动从一个未注释的语料库使用性别相关的单词列表。接下来，使用内在偏差评估措施评估每个偏差控制的PLM，并计算计算出的偏差分数与用于微调PLM的性别比例之间的等级相关性。在多个语料库和PLM上的实验反复表明，我们提出的方法报告的相关性，不需要人类注释的例子是可比的，在以前的工作中使用人类注释的例子计算。
2023-01-28 cs.CL
Akal Badi ya Bias: An Exploratory Study of Gender Bias in Hindi Language Technology
Microsoft Research（微软研究院）；Karya；Carnegie Mellon University（卡内基梅隆大学）；University of Michigan（密歇根大学）；Delft University of Technology（代尔夫特理工大学）；Cornell University（康奈尔大学）
本文首次综合考察印地语语言技术中的性别偏见，结合文本挖掘、计算模型与面向农村及低收入女性的田野研究，指出方法局限并倡导社区中心的包容性研究框架。
2024-05-10 cs.CL
Investigating Cross-Linguistic Gender Bias in Hindi-English Across Domains
LJMU（利物浦约翰摩尔斯大学）
衡量、评估和减少性别偏见已经成为最前沿的问题，每隔几个月就会发布更新和改进的语言嵌入。但是，这种偏见会因领域而异吗？我们在各种嵌入模型中看到了大量研究这些偏见的工作，但在消除印度语偏见方面所做的工作有限。我们的目标是衡量和研究这种偏见在印地语，这是一个高阶语言（性别）与英语，低阶语言。为了实现这一目标，我们研究了跨域的变化，以量化域嵌入是否允许我们深入了解这对印地语-英语模型的性别偏见。我们将在四个不同的语料库中生成嵌入，并通过实施不同的指标来比较结果，例如使用预训练的最先进的Indic-English翻译模型，该模型在许多NLP任务中的表现优于现有模型。
2021-11-22 cs.CL
Identifying and Reducing Gender Bias in Word-Level Language Models
New York University（纽约大学）
许多文本语料库都表现出社会问题的偏见，这些偏见可以在基于这些数据训练的模型中传播或放大。例如，“doctor”与男性代词同时出现的频率高于与女性代词同时出现的频率。在这项研究中，我们（i）提出了一个衡量性别偏见的指标;（ii）衡量文本语料库和从在文本语料库上训练的递归神经网络语言模型生成的文本中的偏见;（iii）提出了语言模型的正则化损失项，该正则化损失项最小化编码器训练的嵌入到编码性别的嵌入子空间上的投影;（iv）最后，评估我们建议的方法在减少性别偏见方面的成效。我们发现这种正则化方法可以有效地将性别偏见减少到分配给损失项的最佳权重，超过该权重，模型会随着困惑度的增加而变得不稳定。我们在三个训练语料库-Penn Treebank，WikiText-2和CNN/Daily Mail-上复制了这个研究，得到了类似的结论。
2019-04-05 cs.CL
Fewer Errors, but More Stereotypes? The Effect of Model Size on Gender Bias
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
预训练模型的大小正在增加，它们在各种NLP任务上的性能也在增加。然而，随着他们记忆能力的增强，他们可能会发现更多的社会偏见。在这项工作中，我们研究模型大小和性别偏见（特别是职业性别偏见）之间的联系。我们在两种设置中测量三个掩蔽语言模型家族（RoBERTa，DeBERTa和T5）的偏差：直接使用基于提示的方法，和使用下游任务（Winogender）。我们发现，一方面，较大的模型在前一项任务中获得更高的偏见分数，但在后一项任务中，它们的性别错误较少。为了检验这些可能相互矛盾的结果，我们仔细研究了Winogender上不同模型的行为。我们发现，虽然较大的模型表现优于较小的模型，但它们的错误由性别偏见引起的概率更高。此外，我们发现，与反刻板印象错误相比，刻板印象错误的比例随着模型大小的增加而增加。我们的研究结果强调了增加模型大小可能带来的潜在风险。
2022-06-20 cs.CL
Reducing Gender Bias in Abusive Language Detection
Centre for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Hong Kong University of Science and Technology（香港科技大学）
由于训练数据集的不平衡，滥用语言检测模型往往会偏向于特定人群的身份词。例如，“你是个好女人”在现有数据集上训练时被认为是“性别歧视”。这种模型偏差是模型在实际应用中足够稳健的障碍。在这项工作中，我们测量了使用不同辱骂性语言数据集训练的模型的性别偏见，同时分析了不同预训练的词嵌入和模型架构的影响。我们还试验了三种偏见缓解方法：（1）去偏见的词嵌入，（2）性别交换数据增强，（3）更大的语料库微调。这些方法可以有效地减少90-98%的性别偏差，并可以扩展到纠正其他场景中的模型偏差。
2018-08-22 cs.CL
Second Order WinoBias (SoWinoBias) Test Set for Latent Gender Bias Detection in Coreference Resolution
University of Guelph（圭尔夫大学）；Vector Institute（向量研究所）
我们观察到一个实例的性别引起的偏见在下游的应用程序，尽管没有明确的性别词在测试用例。我们提供了一个测试集SoWinoBias，用于测量共指消解系统中的此类潜在性别偏见。我们评估目前的去偏置方法的性能SoWinoBias测试集，特别是在参考方法的设计和改变嵌入空间属性。请参阅https://github.com/hillarydawkins/SoWinoBias。
2021-09-28 cs.CL
In-Contextual Gender Bias Suppression for Large Language Models
Institute of Industrial Science, The University of Tokyo（东京大学工业科学研究所）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊公司）
本文提出一种无需访问模型参数、仅通过文本前言注入反事实陈述和性别中立描述来抑制大语言模型性别偏见的方法，并在LLaMA2等模型上验证了其有效性和对下游任务影响的可接受性。
2024-02-20 cs.CL
