Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them
Department of Computer Science, Bar-Ilan University（巴伊兰大学计算机科学系）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
词嵌入在NLP中广泛用于各种任务。结果表明，从文本语料库中提取的词嵌入反映了社会中的性别偏见。这一现象在不同的词嵌入模型中普遍存在，引起了严重的关注。最近的几项工作解决了这个问题，并提出了显着减少词嵌入中的性别偏见的方法，展示了令人信服的结果。然而，我们认为这种去除是肤浅的。虽然根据所提供的偏见定义，偏见确实大大减少，但实际效果主要是隐藏偏见，而不是消除它。性别偏见信息仍然反映在去偏见嵌入中的“性别中立”词之间的距离中，并且可以从它们中恢复。我们提出了一系列的实验来支持这一说法，两个去偏置方法。我们的结论是，现有的偏见消除技术是不够的，不应该被信任提供性别中立的建模。
2019-09-24 cs.CL
How does Grammatical Gender Affect Noun Representations in Gender-Marking Languages?
Bar-Ilan University（巴伊兰大学）；University of Copenhagen（哥本哈根大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
许多自然语言也将语法性别赋予语言中的无生命名词。在这些语言中，与有性别标记的名词相关的词会发生屈折变化以与名词的性别一致。我们发现，这会影响无生命名词的词表征，导致具有相同性别的名词比具有不同性别的名词更接近彼此。虽然“嵌入去偏”方法无法消除这种影响，但我们证明，在训练词嵌入时，仔细应用中和单词上下文中语法性别信号的方法可以有效地消除这种影响。无论是在单语还是跨语环境中，修复语法性别偏见都会对所得到的词嵌入的质量产生积极影响。我们注意到，成功地消除性别信号，而可以实现的，是不是微不足道的，一个语言特定的形态分析仪，连同它的谨慎使用，是必不可少的，以取得良好的效果。
2019-10-30 cs.CL
An exploration of the encoding of grammatical gender in word embeddings
Uppsala University（乌普萨拉大学）
词的向量表示，即词嵌入，开辟了语言学研究的新途径。这些表示可以捕获关于单词的不同类型的信息。名词语法性是根据名词的形式和语义特征对名词进行的一种典型分类。基于词嵌入的语法性研究有助于深入探讨语法性是如何决定的。在这项研究中，我们比较了不同的词嵌入集，根据神经分类器的准确性，确定语法性别的名词。研究发现，在瑞典语、丹麦语和荷兰语的嵌入中，语法性别的编码方式存在重叠。我们的实验结果的上下文嵌入指出，添加更多的上下文信息的嵌入是有害的分类器的性能。我们还观察到，从嵌入的训练语料库中删除诸如冠词之类的形态句法特征会显着降低分类性能，这表明很大一部分信息被编码在名词和冠词之间的关系中。
2020-11-03 cs.CL
Beyond Binary Gender: Evaluating Gender-Inclusive Machine Translation with Ambiguous Attitude Words
Beijing Jiaotong University（北京交通大学）；Tencent Inc（腾讯公司）
本研究提出基准 AmbGIMT 和基于情感态度得分（EAS）的新评估流程，利用歧义态度词评估二元性别之外的机器翻译性别偏见，发现非二元语境翻译质量较差且偏见明显，提示中加入约束上下文可大幅减少但无法消除偏见。
2024-07-23 cs.CL
Word embedding and neural network on grammatical gender -- A case study of Swedish
Lab Dynamics of Language UMR 5596（语言动力学实验室 UMR 5596）；University Lyon 2（里昂第二大学）；Uppsala University（乌普萨拉大学）
我们分析了瑞典语中词嵌入所提供的语法性别信息。希望本文能成为连接计算语言学方法和普通语言学方法的桥梁之一。以瑞典语中的名词分类为例，我们首先展示了如何通过词嵌入模型和人工神经网络来捕获语言中关于语法性别的信息。然后，我们将我们的结果与之前的语言学假设的分配和使用的语法性别在瑞典语和分析的错误所造成的计算模型从语言学的角度。
2020-07-28 cs.CL
Gender Bias in Contextualized Word Embeddings
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Los Angeles（加州大学洛杉矶分校）；University of Virginia（弗吉尼亚大学）；University of Cambridge（剑桥大学）
在本文中，我们量化，分析和减轻ELMo的语境化词向量中表现出的性别偏见。首先，我们进行了几个内在的分析，发现（1）训练数据ELMo包含显着更多的男性比女性实体，（2）训练ELMo嵌入系统编码性别信息和（3）ELMo不平等地编码性别信息的男性和女性实体。然后，我们表明，一个国家的最先进的共指系统，依赖于ELMo继承其偏见，并表现出显着的偏见WinoBias探测语料库。最后，我们探索了两种方法来减轻这种性别偏见，并表明WinoBias上的偏见可以消除。
2019-04-05 cs.CL
Investigating Gender Bias in BERT
Singapore University of Technology and Design（新加坡科技设计大学）
上下文语言模型（CLM）将NLP基准测试推向了一个新的高度。在文本分类等下游任务中利用CLM提供的词嵌入已经成为一种新的规范。然而，除非得到解决，否则CLM很容易在数据集中学习固有的性别偏见。因此，下游NLP模型的预测可能会因性别词的变化而发生明显变化，例如将“他”替换为“她”，甚至是性别中性词。在本文中，我们将重点分析一个流行的CLM，即，BERT。我们分析了它在五个与情绪和情绪强度预测相关的下游任务中引起的性别偏见。对于每个任务，我们训练一个简单的回归利用BERT的词嵌入。然后，我们使用公平评估语料库评估回归的性别偏见。理想情况下，从具体的设计来看，模型应该从输入中丢弃性别信息特征。然而，结果显示，系统的预测对性别特定的单词和短语的依赖性很大。我们认为，这种偏见可以通过从词嵌入中去除性别特征来减少。因此，对于BERT中的每一层，我们识别主要编码性别信息的方向。由这些方向形成的空间被称为词嵌入语义空间中的性别子空间。我们提出了一种算法，发现细粒度的性别方向，即，每个BERT层有一个主方向。这就避免了在多个维度上实现性别子空间的需要，也避免了其他关键信息的遗漏。实验表明，去除这些方向的嵌入组件在减少下游任务中的BERT引起的偏差方面取得了很大的成功。
2020-09-10 cs.CL
Relating Word Embedding Gender Biases to Gender Gaps: A Cross-Cultural Analysis
SIFT
本文通过量化词嵌入中的性别偏见，分析不同文化背景下教育、政治、经济和健康领域的性别差距。
2026-01-23 cs.CL
How to Split: the Effect of Word Segmentation on Gender Bias in Speech Translation
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Trento（特伦托大学）
在认识到性别偏见是影响当前翻译技术的一个主要问题后，研究人员主要试图通过在数据方面开展工作来减轻性别偏见。然而，算法方面是否会加剧不必要的输出仍然是迄今为止调查不足。在这项工作中，我们把自动翻译中的性别偏见的分析，到一个看似中立，但关键的组成部分：分词。分割方法会影响翻译性别的能力吗？某些分割方法是否会惩罚女性语言标记的表现？我们解决这些问题，通过比较现有的5个分割策略的目标端的语音翻译系统。我们对两种语言对（英语-意大利语/法语）的研究结果表明，最先进的子词分割（BPE）是以更高的性别偏见为代价的。鉴于这一发现，我们提出了一种组合方法，该方法保留了BPE的整体翻译质量，同时利用基于字符的分割的更高能力来正确翻译性别。
2021-05-28 cs.CL
A Causal Inference Method for Reducing Gender Bias in Word Embedding Relations
City University of Hong Kong（香港城市大学）
词嵌入已经成为自然语言处理的关键，因为它提高了各种任务的经验表现。然而，最近的研究发现，性别偏见是纳入神经词嵌入，下游任务，依赖于这些偏见的词向量也产生性别偏见的结果。虽然已经开发了一些词嵌入性别去偏见的方法，这些方法主要集中在减少与性别方向相关的性别偏见，并未能减少词嵌入关系中呈现的性别偏见。在本文中，我们设计了一个因果和简单的方法来减轻性别偏见的词向量关系，利用性别定义的词嵌入和性别偏见的词嵌入之间的统计依赖关系。我们的方法在性别去偏见任务、词汇和词汇水平评估任务以及下游共指消解任务上都取得了最先进的结果。
2019-11-25 cs.CL cs.LG
Assessing Group-level Gender Bias in Professional Evaluations: The Case of Medical Student End-of-Shift Feedback
Carnegie Mellon University（卡内基梅隆大学）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Harvard Medical School（哈佛医学院）；Indiana University（印第安纳大学）
虽然今天大约50%的医学院毕业生是女性，但女医生在高级职位上的代表性往往不足，比男医生赚的钱少，晋升机会也少。有越来越多的文献表明，在各种形式的医学评价中存在性别偏见，但这项工作主要是通过使用LIWC等固定词典寻找特定单词进行的，并侧重于推荐信。我们使用了一个数据集的书面和定量评估医学生的表现对个别轮班的工作，收集了多个机构，调查在何种程度上存在的性别偏见在一天到一天的背景下，医学生。我们调查的差异，在叙述性的评论给予男性和女性学生的男性或女性教师评估员，使用微调BERT模型。这使我们能够检查组是否以系统的不同方式编写，而不依赖于手工制作的单词列表或主题模型。我们将这些结果与传统LIWC方法的结果进行了比较，发现尽管我们在该数据集中没有发现组级性别偏见的证据，但在给予女性的反馈中，与家庭和儿童相关的术语使用得更多。
2022-06-01 cs.CL
Identifying and Mitigating Gender Bias in Hyperbolic Word Embeddings
Delhi Technological University（德里技术大学）；Indraprastha Institute of Information Technology Delhi（德里英迪拉普拉斯信息技术研究所）
欧氏词嵌入模型，如GloVe和Word2Vec，已被证明反映了类似人类的性别偏见。在本文中，我们将性别偏见的研究扩展到最近流行的双曲词嵌入。我们提出了gyrocosine偏差，一种新的措施，用于量化性别偏见双曲字表示，并观察到一个显着的存在性别偏见。为了解决这个问题，我们提出了庞加莱性别去偏置（PGD），一种新的去偏置程序双曲词表示。在一组评价测试上的实验表明，PGD在增加最小语义偏移量的同时，有效地减少了偏见。
2021-09-28 cs.AI cs.CL
Gender-preserving Debiasing for Pre-trained Word Embeddings
Tokyo Metropolitan University（东京都立大学）；University of Liverpool（利物浦大学）
从大量文本集合中学习的词嵌入已经表现出显著的歧视性偏见，如性别，种族或民族偏见，这反过来又会使使用这些词嵌入的下游NLP应用程序产生偏见。以性别偏见为例，我们提出了一种去偏见方法，该方法保留了非歧视性的性别相关信息，同时从预训练的词嵌入中去除了刻板的歧视性性别偏见。具体来说，我们考虑四种类型的信息：\emph{feminine}，\emph{masculine}，\emph{gender-neutral}和\emph{stereotypical}，这代表性别与偏见之间的关系，并提出了一个去偏见的方法，（a）保留性别相关的信息，在女性和男性的话，（b）保留中性的性别中性词，（c）删除偏见的刻板印象的话。在先前提出的几个基准数据集上的实验结果表明，我们提出的方法可以比现有的SoTA方法更好地去偏置预训练的词嵌入，同时保留性别相关但非歧视性的信息。
2019-06-03 cs.CL cs.LG
Assessing Gender Bias in LLMs: Comparing LLM Outputs with Human Perceptions and Official Statistics
Minerva University（密涅瓦大学）
本研究通过新建职业角色评估集并利用KL散度比较五个LLM与人类感知及官方统计数据的性别判断，发现LLM普遍偏离性别中立且更贴近统计数据，仍存在固有性别偏见。
2024-11-20 cs.CL cs.LG
Equalizing Gender Biases in Neural Machine Translation with Word Embeddings Techniques
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
神经机器翻译极大地推动了该领域的质量。然而，输出翻译仍然存在很大的问题，其中之一就是公平性。神经模型在包含偏见和刻板印象的大型文本语料库上训练。因此，模型继承了这些社会偏见。最近的方法已经显示出在其他自然语言处理工具（例如词嵌入）中减少性别偏见的结果。我们利用在神经机器翻译中使用词嵌入的事实，提出了一种使用这些表示来均衡神经机器翻译中的性别偏见的方法。具体来说，我们提出，实验和分析的集成GloVe嵌入在Transformer翻译架构的两个去偏置技术。我们评估我们提出的系统上的WMT英语-西班牙语基准任务，显示收益高达一个BLEU点。至于性别偏见的评估，我们生成一个测试集的职业，我们表明，我们提出的系统学习，以平衡现有的偏见从基线系统。
2019-06-02 cs.CL
Evaluating the Underlying Gender Bias in Contextualized Word Embeddings
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
性别偏见严重影响着自然语言处理应用。词嵌入已被明确证明既保持又放大了当前数据源中存在的性别偏见。最近，上下文化的词嵌入通过计算依赖于它们出现在其中的句子的词向量表示来增强先前的词嵌入技术。在本文中，我们研究的影响，这种概念的变化，在词嵌入计算与性别偏见。我们的分析包括不同的措施，以前在文献中应用到标准的词嵌入。我们的研究结果表明，语境化的词嵌入是更少的偏见比标准的，即使后者是去偏见。
2019-04-18 cs.CL cs.LG
Examining the Presence of Gender Bias in Customer Reviews Using Word Embedding
University of Utah（犹他大学）
人类已经进入了算法时代。每一分钟，算法都会塑造无数的偏好，从推荐产品到潜在的生活伴侣。在市场中，算法被训练来从客户评论中学习消费者偏好，因为用户生成的评论被认为是客户的声音和公司有价值的信息来源。从评论中挖掘的见解在产品推荐、定向广告、促销、细分等多种商业活动中发挥着不可或缺的作用。在这项研究中，我们质疑评论是否可能持有算法学习和传播的刻板性别偏见。利用数百万次观察的数据和词嵌入方法GloVe，我们表明，旨在从人类语言输出中学习的算法也会学习性别偏见。我们还研究了为什么会发生这种偏见：是否偏见是由于对女性的负面偏见或男性的积极偏见。我们研究了性别偏见的影响，在审查的选择，并得出结论，对女性消费者的政策影响，特别是当他们不知道的偏见，和企业的道德影响。
2019-02-01 cs.CL
Identifying and Reducing Gender Bias in Word-Level Language Models
New York University（纽约大学）
许多文本语料库都表现出社会问题的偏见，这些偏见可以在基于这些数据训练的模型中传播或放大。例如，“doctor”与男性代词同时出现的频率高于与女性代词同时出现的频率。在这项研究中，我们（i）提出了一个衡量性别偏见的指标;（ii）衡量文本语料库和从在文本语料库上训练的递归神经网络语言模型生成的文本中的偏见;（iii）提出了语言模型的正则化损失项，该正则化损失项最小化编码器训练的嵌入到编码性别的嵌入子空间上的投影;（iv）最后，评估我们建议的方法在减少性别偏见方面的成效。我们发现这种正则化方法可以有效地将性别偏见减少到分配给损失项的最佳权重，超过该权重，模型会随着困惑度的增加而变得不稳定。我们在三个训练语料库-Penn Treebank，WikiText-2和CNN/Daily Mail-上复制了这个研究，得到了类似的结论。
2019-04-05 cs.CL
[RE] Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation
Thapar University（塔帕尔大学）
尽管在自然语言处理（NLP）任务中广泛使用，但词嵌入因继承了训练语料库的非故意性别偏见而受到批评。程序员与男人的关系更密切，家庭主妇与女人的关系更密切。这种性别偏见也被证明在下游任务中传播。
2021-04-14 cs.AI cs.CL
Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation
University of Virginia（弗吉尼亚大学）；Salesforce Research（赛富时研究院）
源自人类生成语料库的词嵌入继承了强烈的性别偏见，这可以通过下游模型进一步放大。一些常用的去偏方法，包括开创性的硬去偏算法，应用后处理过程，将预先训练的词嵌入投影到与推断的性别子空间正交的子空间中。我们发现，语义不可知的语料库，如词频捕获的词嵌入负面影响这些算法的性能。我们提出了一个简单但有效的技术，双硬Debias，净化词嵌入对这样的语料库的错误之前，推断和删除性别子空间。三个偏见缓解基准的实验表明，我们的方法保留了预训练的词嵌入的分布语义，同时减少性别偏见，以显着更大的程度比以前的方法。
2020-05-03 cs.CL cs.LG
Is there Gender bias and stereotype in Portuguese Word Embeddings?
UFRGS（南里奥格兰德联邦大学）；Instituto de Informática（信息学院）
在这项工作中，我们提出了一个分析与葡萄牙语词嵌入的职业性别偏见的存在。这项工作的目的是研究葡萄牙语中与男女定型职业有关的性别影响。
2018-10-10 cs.AI cs.CL
Gender Bias in Neural Natural Language Processing
Carnegie Mellon University（卡内基梅隆大学）
我们研究神经自然语言处理（NLP）系统是否反映了训练数据中的历史偏差。我们定义了一个通用的基准来量化各种神经NLP任务中的性别偏见。我们使用最先进的神经共指消解和在基准数据集上训练的基于RNN的语言模型进行的实证评估发现，模型如何看待职业存在显著的性别偏见。然后，我们减轻偏见与CDA：一个通用的方法，语料库增强通过因果干预，打破性别和性别中性词之间的关联。我们的经验表明，CDA有效地减少性别偏见，同时保持准确性。我们还探讨了空间的缓解策略与CDA，一个事先的方法，词嵌入去偏置（WED），和他们的组合。我们表明，CDA优于WED，大大，所以当词嵌入的训练。对于预训练的嵌入，这两种方法可以有效地组合。我们还发现，随着对原始数据集进行梯度下降训练，性别偏见随着损失的减少而增加，这表明优化鼓励偏见; CDA减轻了这种行为。
2019-05-30 cs.CL
Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example
本研究以GPT-4生成的六学科高等教育教师评价为对象，通过多维度分析框架揭示LLM文本中存在符合社会刻板印象的性别语言关联模式，验证了其生成内容会反映现有社会偏见。
2024-09-15 cs.CL
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University（德里理工大学）；IIIT-Delhi（德里印度理工学院）
词嵌入是词的语义和句法表示的标准模型。不幸的是，这些模型已被证明表现出不受欢迎的词的协会，导致性别，种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中，我们提出了RAN-Debias，一种新的性别去偏置方法，它不仅消除了词向量中存在的偏见，而且改变了其相邻向量的空间分布，实现了无偏见的设置，同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计（GIPE），它衡量的程度，不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明，RAN-Debias在减少邻近偏差（GIPE）方面明显优于最先进的方法，至少减少42.02%。它还减少了直接偏见，增加了最小的语义干扰，并在下游应用程序任务（共指消解）中实现了最佳性能。
2020-06-02 cs.CL cs.LG
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University（乔治华盛顿大学）；University of Washington（华盛顿大学）
当衡量一种语言的词嵌入所捕获的语义性别信息时，语言的语法性别是否会产生干扰？一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明，词嵌入学习语法性别的语言，这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此，词嵌入后处理方法被引入到量化，解开，和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度，这是衡量的效果大小（科恩的d），由一个显着的平均值d = 1.3为法语，德语和意大利语，和d = 0.56为波兰语和西班牙语。一旦语法性别被解开，超过90%的10，000无生命名词和他们的语法性别之间的关联减弱，跨语言的偏见结果从词嵌入协会测试（WEAT）变得更加符合国家级的内隐偏见测量。结果进一步表明，从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
Understanding Undesirable Word Embedding Associations
Vector Institute（矢量研究院）；University of Toronto（多伦多大学）
本研究针对词嵌入捕捉不良关联的问题，证明子空间投影事后去偏见在特定条件下等价于无偏见语料库训练，发现WEAT高估偏见，提出RIPA度量，实验显示SGNS不放大多数词性别关联但会放大刻板印象词的性别关联。
2026-08-19 cs.CL
Mitigating Gender Bias in Machine Translation with Target Gender Annotations
Tilde（蒂尔德公司）；University of Latvia（拉脱维亚大学）
翻译时“秘书要求详细说明。“对于一种具有语法性别的语言，可能有必要确定主语“秘书”的性别。如果句子不包含必要的信息，就不可能总是消除歧义。在这种情况下，机器翻译系统选择最常见的翻译选项，这通常对应于刻板的翻译，从而潜在地加剧了对某些群体和人的偏见和边缘化。我们认为，一个适当的翻译所需的信息并不总是可以推断出被翻译的句子，甚至可能依赖于外部知识。因此，在这项工作中，我们建议将获取必要信息的任务与学习正确翻译的任务解耦。为此，我们提出了一种方法，用于训练机器翻译系统使用包含主题的性别信息的单词级注释。为了准备训练数据，我们用相应目标语言词的语法性别信息来注释常规源语言词。使用这样的数据来训练机器翻译系统减少了它们对性别定型观念的依赖，当关于主体性别的信息可用时。我们对五种语言对的实验表明，这可以将WinoMT测试集的准确率提高25.8个百分点。
2020-10-18 cs.CL
Learning Gender-Neutral Word Embeddings
University of California, Los Angeles（加州大学洛杉矶分校）
词嵌入模型已经成为广泛的自然语言处理（NLP）应用中的基本组件。然而，在人类生成的语料库上训练的嵌入已被证明继承了反映社会结构的强烈性别刻板印象。为了解决这个问题，在本文中，我们提出了一个新的训练过程学习性别中立的词嵌入。我们的方法旨在保留词向量的某些维度中的性别信息，同时迫使其他维度不受性别影响。基于所提出的方法，我们生成GloVe的性别中立的变体（GN-GloVe）。定量和定性实验表明，GN-GloVe成功地隔离了性别信息，而不牺牲嵌入模型的功能。
2018-08-29 cs.CL cs.LG stat.ML
Reducing Gender Bias in Abusive Language Detection
Centre for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Hong Kong University of Science and Technology（香港科技大学）
由于训练数据集的不平衡，滥用语言检测模型往往会偏向于特定人群的身份词。例如，“你是个好女人”在现有数据集上训练时被认为是“性别歧视”。这种模型偏差是模型在实际应用中足够稳健的障碍。在这项工作中，我们测量了使用不同辱骂性语言数据集训练的模型的性别偏见，同时分析了不同预训练的词嵌入和模型架构的影响。我们还试验了三种偏见缓解方法：（1）去偏见的词嵌入，（2）性别交换数据增强，（3）更大的语料库微调。这些方法可以有效地减少90-98%的性别偏差，并可以扩展到纠正其他场景中的模型偏差。
2018-08-22 cs.CL
Mitigating Gender Stereotypes in Hindi and Marathi
Manipal Institute of Technology（马尼帕尔理工学院）；MAHE（马尼帕尔高等教育学院）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
随着自然语言处理在我们日常生活中的使用越来越多，解决这些系统中固有的性别偏见的需求也越来越大。这是因为在执行机器翻译等任务时，固有的偏见会干扰这些系统输出的语义结构。虽然研究是在英语中进行量化和减轻偏见，印度语言中的去偏见方法要么相对新生，要么完全没有一些印度语言。大多数印度语言都是有性别的，即，每个名词都根据每种语言的语法规则被赋予一个性。因此，评价不同于用英语进行的评价。本文评估了印地语和马拉地语中的性别刻板印象。这些方法将不同于英语中的方法，因为在某些单词中有阳性和阴性对应物。我们建立了一个中性和性别的职业词，情感词和测量偏见的嵌入连贯性测试（ECT）和相对范数距离（RND）的帮助下的数据集。我们也试图减轻这种偏见的嵌入。实验表明，我们提出的去偏见技术减少这些语言中的性别偏见。
2022-05-12 cs.CL
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University（德里技术大学）
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题，出现了大量研究，旨在减轻这些偏见，同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎（FEE），用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术，用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外，它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
Conceptor Debiasing of Word Representations Evaluated on WEAT
University of Pennsylvania（宾夕法尼亚大学）
诸如Word2Vec之类的词嵌入中的偏差已经被广泛研究，并且做出了许多努力来消除这种偏差。我们展示了如何使用概念去偏置后处理传统的和语境化的词嵌入。我们的概念去偏见，可以同时消除种族和性别偏见，不像标准的去偏见方法，可以有效地利用有偏见的词的异质列表。我们发现，概念去偏会减少单词表征的种族和性别偏见，这是使用Caliskan等人的词嵌入联想测试（WEAT）测量的。（2017）。
2019-06-14 cs.CL
Quantifying the Semantic Core of Gender Systems
Facebook AI Research（脸书人工智能研究院）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Cambridge（剑桥大学）；University of Zürich（苏黎世大学）；Microsoft Research（微软研究院）
世界上许多语言在词位上使用语法性别。例如，在西班牙语中，“房子”（casa）是阴性的，而“纸”（papel）是阳性的。对于一个讲无性别语言的人来说，这个分配似乎既不押韵也不合理。但是，将无生命名词赋予语法性别真的是任意的吗？我们提出了第一个大规模的调查的任意性名词性别分配。为此，我们使用典型相关分析相关的语法性别的无生命名词与外部接地的定义，他们的词汇语义。我们发现，18种语言的语法性别和词汇语义之间存在着显著的相关性。
2019-10-29 cs.CL
Impact of Gender Debiased Word Embeddings in Language Modeling
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
性别、种族和社会偏见最近被发现是自然语言处理应用中不公平的明显例子。实现公平的关键途径是理解、分析和解释我们的数据和算法。最近的研究表明，在训练中使用的人工生成的数据是产生偏见的一个明显因素。此外，目前的算法也被证明会放大数据的偏差。为了进一步解决这些问题，在本文中，我们研究了一个最先进的递归神经语言模型在使用预训练的标准和去偏词嵌入对数据进行训练时的行为，这些数据不足以代表女性。结果表明，与使用任务内训练的嵌入相比，当使用预训练的嵌入在不平衡数据上训练时，语言模型继承更高的偏差。此外，结果表明，在相同的数据，语言模型继承较低的偏见时，使用去偏预训练嵌入，相比使用标准的预训练嵌入。
2021-05-05 cs.CL
GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models
University of Science and Technology of China（中国科学技术大学）；A*STAR（新加坡科技研究局）；Beihang University（北京航空航天大学）；Nanyang Technological University（南洋理工大学）
GenderCARE提出综合框架，含新标准、对基准GenderPair和去偏技术，显著减少LLMs性别偏见，平均超35%，最高超90%，且语言任务性能损失低于2%。
2025-02-23 cs.AI cs.CL
Grammatical Gender, Neo-Whorfianism, and Word Embeddings: A Data-Driven Approach to Linguistic Relativity
New York University（纽约大学）
语言与思维的关系问题已经困扰了语言学家至少一个世纪。新沃尔夫主义是有争议的萨皮尔-沃尔夫假说的一个弱版本，认为我们的思想受到母语语法结构的微妙影响。这方面的一个研究领域集中在名词的语法性如何影响我们感知相应对象的方式。例如，在德语中音调是阳性的（der Schlüssel），而在西班牙语中音调是阴性的（la llave），这一事实是否改变了说话者对这些对象的看法？Boroditsky et al.（2003，§4）提出的心理语言学证据表明，答案可能是肯定的：当被要求说出最能描述一个调的形容词时，德语和西班牙语使用者分别说出了更具刻板印象的男性和女性形容词。然而，最近重复这些实验的尝试失败了（Mickan等人，2014年）。在这项工作中，我们提供了一个计算模拟Boroditsky等人（2003，§4）的实验设计的9种语言，找到证据反对新沃尔夫主义。
2019-10-22 cs.CL
Word Embeddings via Causal Inference: Gender Bias Reducing and Semantic Information Preserving
University of Alberta（阿尔伯塔大学）；University of Essex（埃塞克斯大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）
随着自然语言处理（NLP）在日常生活中的广泛应用，NLP模型中继承的社会偏见变得更加严重和成问题。先前的研究表明，在人类生成的语料库上训练的词嵌入具有强烈的性别偏见，可以在下游任务中产生歧视性结果。以前的去偏见方法主要集中在对偏见进行建模，只隐含地考虑语义信息，而完全忽视了偏见和语义成分之间复杂的潜在因果结构。为了解决这些问题，我们提出了一种新的方法，利用因果推理框架，以有效地消除性别偏见。所提出的方法使我们能够构建和分析复杂的因果机制，促进性别信息流，同时保留词嵌入内的甲骨文语义信息。我们的综合实验表明，该方法在性别去偏见任务中取得了最先进的结果。此外，我们的方法在单词相似性评估和各种外部下游NLP任务中具有更好的性能。
2021-12-09 cs.CL cs.CY
Unmasking Contextual Stereotypes: Measuring and Mitigating BERT's Gender Bias
University of Groningen（格罗宁根大学）；University of Malta（马耳他大学）
语境化的词嵌入已经取代标准嵌入，成为NLP系统中选择的表征性知识源。由于之前在标准词嵌入中发现了各种偏见，因此评估其替换中编码的偏见也至关重要。关注BERT（Devlin等人，2018），我们通过研究英语和德语中表示性别的目标词与职业名称之间的关联来衡量性别偏见，并将研究结果与现实世界的劳动力统计数据进行比较。我们通过在GAP语料库上微调BERT来减轻偏差（Webster等人，2018），在应用反事实数据替代（CDS）（Maudslay等人，2019年）。我们表明，我们的方法测量偏见是适当的语言，如英语，但不适合语言丰富的形态和性别标记，如德语。我们的研究结果强调了跨语言调查偏见和缓解技术的重要性，特别是考虑到目前对大规模，多语言语言模型的重视。
2020-10-27 cs.CL
The effects of gender bias in word embeddings on depression prediction
Utrecht University（乌得勒支大学）
词嵌入作为一种最先进的语义特征向量表示方法被广泛应用于各种自然语言处理问题中。尽管他们在不同的任务和领域的成功，他们可能会表现出不希望的偏见，刻板的类别，由于统计和社会偏见，存在于数据集，他们是trainedon.In这项研究中，我们分析了性别偏见，在四个不同的预训练词嵌入专门为抑郁症类别的精神障碍域。我们使用上下文和非上下文嵌入，这些嵌入是在独立于领域以及临床领域特定的数据上训练的。我们观察到，嵌入对不同性别群体的抑郁症进行偏见，这取决于嵌入的类型。此外，我们证明，这些不希望的相关性被转移到下游任务抑郁症表型识别。我们发现，数据增强通过简单地交换性别词减轻了偏见显着的下游任务。
2022-12-15 cs.CL cs.LG
Predicting gender and age categories in English conversations using lexical, non-lexical, and turn-taking features
The Hong Kong Polytechnic University（香港理工大学）
本文考察了英国英语会话中的性别和年龄突显性和（立体声）典型性，旨在根据词汇、短语和话轮转换特征预测性别和年龄类别。我们研究了SpokenBNC，这是一个包含约1140万个英国英语对话单词的语料库，并确定了标记为性别和年龄类别的扬声器之间的行为差异。我们探讨了语言使用和话轮转换动态的差异，并确定了一系列的特征，设置类别分开。我们发现，女性发言者往往会产生更多的话轮，略长，而男性发言者的话轮具有较高的类型标记比和一个明显的范围内的最小粒子，如“嗯”，“嗯”和“嗯”。例如，在不同年龄组中，我们观察到，年轻人说话时会说脏话和大笑，而老年人说话时往往会说一些简短的话。然后，我们使用观察到的特征来预测每个会话和每个回合的发言者的性别和年龄标签作为分类任务，表明非词汇话语，如通常被排除在对话数据之外的最小粒子，可以有助于设置类别。
2021-02-26 cs.CL
What Triggers my Model? Contrastive Explanations Inform Gender Choices by Translation Models
Language and Translation Technology Team, Ghent University（根特大学语言与翻译技术团队）
研究通过对比翻译分析，揭示了翻译模型中性别选择的触发因素，并展示如何通过理解模型决策来减轻性别偏见。
2026-03-04 cs.CL
Gender bias in (non)-contextual clinical word embeddings for stereotypical medical categories
Utrecht University（乌得勒支大学）
临床词嵌入作为一种最先进的特征向量表示，广泛应用于各种生物自然语言处理问题。虽然他们在单词的语义表示方面非常成功，但由于他们接受培训的数据集-可能带有统计和社会偏见-他们可能会表现出性别刻板印象。本研究分析性别偏见的临床嵌入三个医学类别：精神障碍，性传播疾病和人格特质。在这种程度上，我们分析了两种不同的预训练嵌入，即（情境化）临床BERT和（非情境化）BioWordVec。我们发现，这两种嵌入都偏向于敏感的性别群体，但BioWordVec在所有三个类别中表现出比临床BERT更高的偏差。此外，我们的分析表明，临床嵌入进行了高度的偏见，一些医学术语和疾病，这是与医学文献相冲突。这种缺乏根据的关系可能会对使用临床嵌入的下游应用造成损害。
2022-08-08 cs.CL cs.CY
Gender and Racial Stereotype Detection in Legal Opinion Word Embeddings
Thomson Reuters Labs（汤森路透实验室）
研究表明，一些自然语言处理（NLP）系统编码和复制有害的偏见，对我们的社会产生潜在的不良道德影响。在这篇文章中，我们提出了一种方法来识别性别和种族刻板印象的词嵌入培训的司法意见，从美国判例法。当下游系统用于分类、信息抽取、问答或用于构建法律研究工具的其他机器学习系统时，包含原型信息的嵌入可能会造成伤害。我们首先解释了以前提出的识别这些偏见的方法是如何不适合用于在法律意见文本上训练的词嵌入的。然后，我们提出了一个域适应的方法来识别性别和种族偏见在法律领域。我们使用这些方法进行的分析表明，种族和性别偏见被编码到经过法律意见训练的词嵌入中。这些偏见并没有通过排除历史数据来减轻，并且出现在法律的多个大的主题领域。下游系统，使用法律意见词嵌入和潜在的缓解策略的建议，根据我们的观察的影响进行了讨论。
2022-04-12 cs.AI cs.CL
FAIRE: Assessing Racial and Gender Bias in AI-Driven Resume Evaluations
Algoverse AI Research（Algoverse人工智能研究院）
本文提出基准FAIRE，通过直接评分和排名方法测试大型语言模型在评估简历时的种族与性别偏见，发现各模型均存在不同程度和方向的偏见，强调了减少AI招聘偏见的迫切需求。
2025-04-02 cs.AI cs.CL
Evaluating Gender Bias in Large Language Models via Chain-of-Thought Prompting
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Tokyo Institute of Technology（东京工业大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
本研究针对不可扩展任务中CoT提示对大语言模型性别偏见的影响展开探究，构建了兼具算术与符号推理特征的词汇计数基准，发现CoT提示可减轻大语言模型的无意识社会偏见，促进公平预测。
2024-01-28 cs.CL
Neutralizing Gender Bias in Word Embedding with Latent Disentanglement and Counterfactual Generation
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
最近的研究表明，在人工生成的语料库上训练的词嵌入在嵌入空间中具有很强的性别偏见，这些偏见可能导致各种下游任务的区分结果。鉴于以前的方法项目的词嵌入到一个线性子空间去偏置，我们介绍了一个\textit{Latent Disentanglement}方法与连体自动编码器结构与自适应梯度反转层。我们的结构使语义潜在信息和性别潜在信息的给定的词分离到不相交的潜在维度。然后，引入一个\textit{Counterfactual Generation}对词的性别信息进行转换，使得原嵌入和修改后的嵌入在几何对齐正则化后，能够产生一个性别中立的词嵌入，而不会丢失语义信息。从各种定量和定性的去偏置实验，我们的方法比现有的去偏置方法在去偏置词嵌入。此外，我们的方法显示了在去偏置过程中通过最小化外部NLP下游任务的语义信息损失来保留语义信息的能力。
2020-11-03 cs.CL cs.LG stat.ML
What Does Debiasing Really Remove? A Geometric Study of PCA-Based Gender Debiasing in Word Embeddings
Hood College（胡德学院）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）
通过几何分析揭示PCA去偏主要移除第一主成分中的直接性别偏见，但无法消除分布在多维度上的关联偏见，且会破坏嵌入几何结构，表明偏见并非纯低秩，简单子空间移除不足以全面去偏。
2026-06-06 cs.CL
Measuring Bias in Contextualized Word Representations
Carnegie Mellon University（卡内基梅隆大学）
诸如BERT的上下文词嵌入在许多NLP任务中已经实现了最先进的性能。由于它们被优化以捕获训练数据的统计特性，因此它们也倾向于拾取和放大数据中存在的社会刻板印象。在这项研究中，我们（1）~提出了一种基于模板的方法来量化BERT中的偏见;（2）~表明这种方法在捕获社会偏见方面比传统的基于余弦的方法获得了更一致的结果;（3）~进行了一项案例研究，评估性别代词解决的下游任务中的性别偏见。虽然我们的案例研究侧重于性别偏见，但所提出的技术可以推广到揭示其他偏见，包括在多类环境中，如种族和宗教偏见。
2019-06-18 cs.CL
Gender Bias in Large Language Models across Multiple Languages
University of Toronto（多伦多大学）；Mcgill University（麦吉尔大学）；SI-TECH Information Technology（SI-TECH信息技术公司）；University of Alberta（阿尔伯塔大学）
本文针对英语之外研究不足的问题，用三类度量考察GPT系列模型在多语言生成中的性别偏见，发现所测语言均存在显著偏见。
2024-03-01 cs.CL
Gender Bias in Word Embeddings: A Comprehensive Analysis of Frequency, Syntax, and Semantics
University of Washington（华盛顿大学）；Information School（信息学院）；Birla Institute of Technology and Science（比尔拉科学技术学院）；Harvard University（哈佛大学）
语言语料库中的统计数据将众所周知的社会偏见编码到词嵌入中。在这里，我们专注于性别，以全面分析在互联网语料库上训练的广泛使用的静态英语词嵌入中基于群体的偏见（GloVe 2014，fastText 2017）。使用单类别词嵌入关联测试，我们证明了性别偏见的普遍存在，也显示出差异：（1）与男性和女性相关的词的频率;（b）性别相关词的词性标签;（c）性别相关词的语义类别;（d）性别相关词的效价，唤醒和优势。首先，在词频方面：我们发现，在词汇表中最常见的1,000个单词中，77%与男性的联系比女性更多，这为英语世界的日常语言中男性默认提供了直接证据。第二，转向词性：与男性相关的词最多的通常是动词（例如，fight，overpower），而与女性相关的最多的词通常是形容词和副词（例如，情感上的，情感上的）。嵌入中的性别偏见也渗透到词性中。第三，对于语义类别：自下而上，对与每个性别相关的前1,000个词进行聚类分析。与男性相关的概念包括大型科技、工程、宗教、体育和暴力的角色和领域;相比之下，与女性相关的概念则不太关注角色，包括女性特有的诽谤和性内容，以及外观和厨房术语。第四，从一个约20，000字的词汇，使用人类的评级的字的效价，唤醒，和优势，我们发现，男性相关的词更高的唤醒和优势，而女性相关的词更高的效价。
2022-06-07 cs.AI cs.CL cs.CY
Assessing Sentiment Strength in Words Prior Polarities
TRENTO-RISE（特伦托-瑞斯）
情感分析的许多方法都依赖于词汇，其中单词被标记为其先前的极性-即，如果一个单词脱离上下文，则会引起积极或消极的东西。特别是，像SentiWordNet这样覆盖面广的资源为（几乎）每个单词提供了极性。由于词可以有多个意义，我们解决的问题是如何计算一个词的前极性从每个意义的极性开始，并返回其极性强度作为一个索引之间的-1和1。我们比较了14个这样的公式，出现在文献中，并评估哪一个最接近人类的判断之前的极性，回归和分类模型。
2012-12-18 cs.CL
Towards Lexical Gender Inference: A Scalable Methodology using Online Databases
Insight SFI Research Centre for Data Analytics（Insight SFI数据分析研究中心）；School of ICS（信息与计算科学学院）；University College Dublin（都柏林大学学院）
提出了一种在大规模语言数据集中自动检测具有词汇性别的词的新方法。目前，在自然语言处理中对性别偏见的评估依赖于人工编译的性别表达的词典，例如代词（“他”、“她”等）。以及带有词汇性的名词（“mother”、“boyfriend”、“policewoman”等）。然而，如果不定期更新，手工汇编这些列表可能会导致信息静态化，并且往往涉及个人注释者和研究人员的价值判断。此外，未列入清单的术语不在分析范围之内。为了解决这些问题，我们设计了一个可扩展的，基于字典的方法来自动检测词汇性别，可以提供一个动态的，最新的分析，高覆盖率。我们的方法在确定从维基百科样本中随机检索的名词的词汇性别时，以及在以前的研究中使用的性别词列表上进行测试时，准确率达到80%以上。
2022-06-28 cs.CL
Tracking Sentiment in Mail: How Genders Differ on Emotional Axes
Institute for Information Technology, National Research Council Canada（加拿大国家研究委员会信息技术研究所）；School of Computing Science, Simon Fraser University（西蒙弗雷泽大学计算机科学学院）
随着电子邮件的广泛使用，我们现在可以访问我们自己写的前所未有的大量文本。在本文中，我们将展示如何将情感分析与有效的可视化相结合，以量化和跟踪多种类型邮件中的情感。我们通过众包创建了一个很大的词--情感联想词典，并用它来比较情书，仇恨邮件和自杀笔记中的情感。我们发现，有显着的性别差异，他们如何使用情感词在工作场所的电子邮件。例如，女性使用许多来自喜悦-悲伤轴的词汇，而男性则更喜欢来自恐惧-信任轴的词汇。最后，我们展示了可以帮助人们在电子邮件中跟踪情绪的可视化。
2013-09-24 cs.CL
Under the Morphosyntactic Lens: A Multifaceted Evaluation of Gender Bias in Speech Translation
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）
性别偏见在很大程度上被认为是一种影响语言技术的问题现象，最近的研究强调，它可能在不同的语言中表现得不同。然而，目前大多数的评价实践都是在综合条件下，对一组狭窄的职业名词进行词级评价。这种协议忽略了语法性别语言的关键特征，其特征是性别协议的形态句法链，标记在各种词汇和词性（POS）上。为了克服这一限制，我们丰富了自然的、性别敏感的Must-SHE语料库（Bentivogli等人，2020）与两个新的语言注释层（POS和协议链），并探讨在何种程度上不同的词汇类别和协议现象的影响性别倾斜。专注于语音翻译，我们对三种语言方向（英语-法语/意大利语/西班牙语）进行了多方面的评估，模型在不同的数据量和不同的分词技术上进行了训练。通过揭示模型行为，性别偏见及其在几个粒度级别上的检测，我们的研究结果强调了专门分析的价值，而不仅仅是汇总的整体结果。
2022-03-18 cs.CL
