Locating and Mitigating Gender Bias in Large Language Models
University of Science and Technology of China（中国科学技术大学）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
本研究提出统一框架，结合因果中介分析定位大语言模型中性别偏见的关键组件，并提出基于知识编辑的LSDM方法，在保留模型整体能力的同时有效缓解职业代词中的性别偏见。
2024-03-21 cs.AI cs.CL
Projective Methods for Mitigating Gender Bias in Pre-trained Language Models
National Research Council Canada（加拿大国家研究委员会）；University of Guelph（圭尔夫大学）
本研究探讨投影去偏方法在BERT内部表示中的应用，发现其能有效缓解内在及下游性别偏差，但两者相关性不强，提示不应仅依赖内在偏差测试集评估去偏效果。
2024-03-27 cs.CL
Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs
Texas A&M University（得克萨斯农工大学）
通过生成性别中性故事对并利用直接偏好优化，该研究旨在减少大语言模型中的性别偏见，同时保持模型能力。
2026-01-14 cs.AI cs.CL cs.CY
Acmite: Mitigating Gender Bias in LLMs through Concept-Guided Mutual Information
Kyoto University（京都大学）；Zhejiang University（浙江大学）；Shanghai Jiao Tong University（上海交通大学）；Inner Mongolia University（内蒙古大学）
提出Acmite框架，通过概念引导和互信息最小化，实现对大语言模型性别偏见的选择性去偏，在保持通用能力的同时有效降低偏见。
2026-10-02 cs.CL
Mitigating Gender Bias in Code Large Language Models via Model Editing
Harbin Institute of Technology（哈尔滨工业大学）；Anhui University（安徽大学）
针对代码大型语言模型中的性别偏见问题，提出了CodeGenBias数据集和FB-Score评估指标，并开发了多粒度模型编辑方法MG-Editing，在保持通用代码生成能力的同时有效缓解了偏见。
2024-10-10 cs.AI cs.CL cs.SE
Mitigating Bias in Queer Representation within Large Language Models: A Collaborative Agent Approach
App-In Club（App-In俱乐部）
针对 LLM 在性别代词使用中排斥酷儿身份的问题，本文提出含偏见检测与纠正专用智能体的协作流水线，并在 Tango 上证明其相较 GPT-4o 显著提升包容性代词判断。
2024-12-02 cs.CL cs.MA
Gender Bias in Machine Translation and The Era of Large Language Models
本章综述传统神经机器翻译与大语言模型中的性别偏见，并通过英语—意大利语场景下的 ChatGPT 实验评估其偏见应对能力，强调持续缓解偏见、促进公平包容的必要性。
2024-01-18 cs.AI cs.CL cs.CY
Mitigating Gender Bias in Machine Learning Data Sets
University College Dublin（都柏林大学学院）
人工智能有能力放大和延续社会偏见，并为社会带来深刻的伦理影响。在招聘广告和招聘工具的背景下，由于依赖于潜在的语言处理和推荐算法，性别偏见已被确定。解决这些问题的尝试涉及测试学习关联，将公平性概念集成到机器学习中，并对训练数据进行更严格的分析。考虑到性别意识形态嵌入语言的复杂方式，在文本数据上训练算法时减轻偏见尤其具有挑战性。本文提出了一个识别机器学习训练数据中性别偏见的框架，利用性别理论和社会语言学，系统地指出文本训练数据和相关神经词嵌入模型中的偏见水平，从而突出了从训练数据中消除偏见并严格评估其影响的途径。
2020-05-18 cs.CL cs.LG
Unveiling Gender Bias in Terms of Profession Across LLMs: Analyzing and Addressing Sociological Implications
Indian Institute of Technology Bhilai（印度理工学院比莱分校）
本研究通过对比GPT-2与GPT-3.5，分析大语言模型在职业术语中的性别偏见，揭示其社会学影响，并提出算法与数据增强等缓解策略，旨在推动更公平的AI系统。
2023-08-31 cs.CL
Style Transfer as Bias Mitigation: Diffusion Models for Synthetic Mental Health Text for Arabic
School of Engineering and Applied Science（工程与应用科学学院）；George Washington University（乔治·华盛顿大学）
本文提出基于扩散模型的风格迁移方法，用于生成阿拉伯语心理健康文本，以缓解性别偏见问题。
2026-01-20 cs.AI cs.CL
Towards Understanding and Mitigating Social Biases in Language Models
Carnegie Mellon University（卡内基梅隆大学）
随着机器学习方法被部署到医疗保健、法律系统和社会科学等现实环境中，认识到它们如何在这些敏感的决策过程中塑造社会偏见和刻板印象至关重要。在这些现实世界的部署中，大规模的预训练语言模型（LM）可能会表现出不受欢迎的代表性偏见，这是一种潜在的危险-由刻板印象造成的有害偏见，传播涉及性别，种族，宗教和其他社会结构的负面概括。作为提高LMs公平性的一步，我们仔细定义了代表性偏见的几个来源，然后提出新的基准和指标来衡量它们。有了这些工具，我们提出了在文本生成过程中减轻社会偏见的步骤。我们的实证结果和人类评估表明，有效地减轻偏见，同时保留关键的上下文信息，高保真文本生成，从而推动了性能公平帕累托边界。
2021-06-24 cs.AI cs.CL cs.CY
Detection, Classification, and Mitigation of Gender Bias in Large Language Models
Zhengzhou University（郑州大学）；Wuhan University（武汉大学）
针对大语言模型存在的性别偏见问题，本研究结合强化学习、思维链推理与监督微调，在NLPCC 2025共享任务7的三个子任务中均取得第一名的成绩。
2025-06-14 cs.CL
LLM-Guided Synthetic Augmentation (LGSA) for Mitigating Bias in AI Systems
Vellore Institute of Technology（韦洛尔理工学院）
提出LGSA方法，利用大语言模型生成反事实样本以缓解AI偏见，在受控数据集上实现99.1%准确率并将性别偏见差距降至1.9%，兼顾公平与性能。
2025-10-15 cs.AI cs.CL
Gender Encoding Patterns in Pretrained Language Model Representations
Khatam University（哈塔姆大学）；Cardiff University（卡迪夫大学）
本文通过信息论方法系统分析多种编码器架构中性别偏见的编码模式，发现去偏技术常效果有限且可能加剧内部表示中的偏见，为改进偏见缓解策略提供指导。
2025-03-09 cs.AI cs.CL
Auto-Search and Refinement: An Automated Framework for Gender Bias Mitigation in Large Language Models
School of Information Science and Technology, ShanghaiTech University（信息科学与技术学院，上海科技大学）；Emory University（埃默里大学）；Sun Yat-sen University（中山大学）
提出自动化且与模型无关的框架FaIRMaker，通过auto-search and refinement范式生成Fairwords作为指令整合到输入查询中，有效缓解大型语言模型的性别偏见，同时保持任务性能并兼容各类模型。
2025-11-01 cs.AI cs.CL
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University（德里理工大学）；IIIT-Delhi（德里印度理工学院）
词嵌入是词的语义和句法表示的标准模型。不幸的是，这些模型已被证明表现出不受欢迎的词的协会，导致性别，种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中，我们提出了RAN-Debias，一种新的性别去偏置方法，它不仅消除了词向量中存在的偏见，而且改变了其相邻向量的空间分布，实现了无偏见的设置，同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计（GIPE），它衡量的程度，不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明，RAN-Debias在减少邻近偏差（GIPE）方面明显优于最先进的方法，至少减少42.02%。它还减少了直接偏见，增加了最小的语义干扰，并在下游应用程序任务（共指消解）中实现了最佳性能。
2020-06-02 cs.CL cs.LG
Mitigating Gender Bias in Distilled Language Models via Counterfactual Role Reversal
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；Amazon Alexa（亚马逊Alexa）；Harvard University（哈佛大学）；University of California, Los Angeles（加州大学洛杉矶分校）
语言模型擅长于生成连贯的文本，并且诸如知识蒸馏之类的模型压缩技术使得它们能够在资源受限的环境中使用。然而，这些模式可能在多个方面存在偏见，包括毫无根据地将男性和女性与性别中立的职业联系起来。因此，没有任何公平约束的知识蒸馏可能会保留或夸大教师模型对蒸馏模型的偏见。为此，我们提出了一种新的方法来减轻性别差异的文本生成过程中学习一个公平的模型在知识蒸馏。我们提出了两个修改的基础知识蒸馏基于反事实角色反转$\unicode{x2014}$修改教师概率和扩大训练集。我们评估了性别极性的开放式文本中产生的GPT $\unicode{x2012}$ 2模型的蒸馏和微调，并证明了性别差距的大幅减少，只有一个小的妥协效用。最后，我们观察到，在语言生成中减少性别极性的语言模型不会提高嵌入公平性或下游分类公平性。
2022-03-23 cs.CL cs.LG
Mitigating Gender Bias in Natural Language Processing: Literature Review
UC Santa Barbara（加州大学圣巴巴拉分校）；UC Los Angeles（加州大学洛杉矶分校）
随着自然语言处理（NLP）和机器学习（ML）工具的普及，认识到它们在塑造社会偏见和刻板印象方面的作用变得越来越重要。虽然NLP模型在建模各种应用程序方面取得了成功，但它们传播甚至可能放大文本语料库中的性别偏见。虽然对人工智能中的偏见的研究并不新鲜，但减轻NLP中性别偏见的方法相对较新。在本文中，我们回顾了当代研究识别和减轻NLP中的性别偏见。我们讨论了基于四种形式的表征偏见的性别偏见和分析方法识别性别偏见。此外，我们讨论了现有的性别去偏见方法的优点和缺点。最后，我们讨论了未来的研究，以识别和减轻NLP中的性别偏见。
2019-06-21 cs.CL
Gender-Neutral Large Language Models for Medical Applications: Reducing Bias in PubMed Abstracts
Yale University Department of Computer Science（耶鲁大学计算机科学系）；UTHealth Houston McWilliams School of Biomedical Informatics（德克萨斯大学健康科学中心休斯顿生物医学信息学学院）
本文提出一种通过中和职业代词缓解医疗文献LLM性别偏见的流水线，开发了MOBERT模型，其包容性替换率达70%，远超基线1965BERT的4%，促进了医疗应用的公平语言建模。
2025-05-28 cs.AI cs.CL cs.IR
GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models
University of Science and Technology of China（中国科学技术大学）；A*STAR（新加坡科技研究局）；Beihang University（北京航空航天大学）；Nanyang Technological University（南洋理工大学）
GenderCARE提出综合框架，含新标准、对基准GenderPair和去偏技术，显著减少LLMs性别偏见，平均超35%，最高超90%，且语言任务性能损失低于2%。
2025-02-23 cs.AI cs.CL
Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws
Virginia Tech（弗吉尼亚理工大学）
本文提出通过指令微调解决理解缺陷，在不使用显式去偏技术的情况下，将生成模型在国籍、年龄等维度上的刻板印象输出减少超过60%，并强调区分偏见与任务缺陷的重要性。
2024-12-16 cs.CL cs.LG
REFINE-LM: Mitigating Language Model Stereotypes via Reinforcement Learning
ADAPT Centre, Trinity College Dublin（都柏林圣三一学院ADAPT中心）；CRIL CNRS, Univ Artois（阿尔图瓦大学CRIL法国国家科学研究中心）；INRIA/IRISA Rennes（雷恩INRIA/IRISA研究所）；U. Lorraine, CNRS, LORIA（洛林大学法国国家科学研究中心LORIA研究所）；U. Lisboa, INESC-I（里斯本大学INESC-I研究所）
针对语言模型存在的多类刻板印象偏差问题，提出无需微调、标注少、成本低的REFINE-LM强化学习去偏方法，可在保留模型性能的同时有效降低多类偏差。
2024-08-18 cs.AI cs.CL
Mitigating Gender Bias in Contextual Word Embeddings
本文提出新的掩码语言建模目标函数和评估指标，用于缓解上下文词嵌入中的性别偏见，同时证明静态嵌入偏见主要源于刻板印象名字而非性别化词语本身。
2024-11-18 cs.CL cs.LG
Neutrality Bites: Gender Representation in AI-Generated Animal Stories
University of Washington（华盛顿大学）
研究六种主流LLM在生成动物故事时的性别分配，发现模型常避免指定性别或使用中性语言，但一旦指定则显著偏向男性，女性角色几乎缺席，表明中立策略可能导致边缘视角的抹除。
2026-06-06 cs.AI cs.CL
How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts
Walmart Labs（沃尔玛实验室）；SAP Labs（思爱普实验室）；McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）
基于Transformer架构构建的神经机器翻译系统通常会根据单词重叠度量来提高翻译质量。然而，越来越多的研究也强调了这些模型在培训过程中固有的性别偏见，这在其翻译中反映不佳。在这项工作中，我们调查这些模型是否可以被指示，以修复他们的偏见在推理过程中使用有针对性的，指导性的指示作为上下文。通过在推理过程中翻译相关的上下文句子以及输入，我们在三个流行的测试套件（WinoMT，BUG，SimpleGen）中观察到在减少翻译中的性别偏见方面有很大的改进。我们进一步提出了一种新的度量标准，以评估几个大型预训练模型（OPUS-MT，M2M-100）对翻译过程中使用上下文来纠正其偏见的敏感性。我们的方法不需要微调，因此可以很容易地在生产系统中使用，以消除刻板的性别职业偏见1。我们希望我们的方法，以及我们的指标，可以用来构建更好的，无偏见的翻译系统。
2022-10-17 cs.CL cs.LG
Towards Fair Rankings: Leveraging LLMs for Gender Bias Detection and Measurement
Università della Svizzera italiana \& University of Amsterdam；University of Amsterdam The Netherland；Unviersity of Amsterdam The Netherland；University of Amsterdam
本文利用LLMs检测段落排序中的性别偏见，提出新指标CWEx并发布MSMGenderBias数据集，实验证明其比以往指标更详细且与人类标签对齐度更高，为缓解IR系统偏见提供稳健框架。
2025-06-27 cs.CL cs.IR
Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search
University of California, Santa Cruz（加州大学圣克鲁兹分校）
互联网搜索影响人们对世界的认知，因此减少搜索结果中的偏见并学习公平模型对于社会公益至关重要。我们研究了图像搜索中的一种独特的性别偏见：对于性别中立的自然语言查询，搜索图像往往是性别不平衡的。我们诊断了两种典型的图像搜索模型，一种是在域内数据集上训练的专用模型，另一种是在互联网上的海量图像和文本数据上预先训练的广义表示模型。这两种模式都存在严重的性别偏见。因此，我们引入了两种新的去偏置方法：处理中的公平采样方法，以解决训练模型的性别不平衡问题，和后处理的特征裁剪方法的基础上互信息去偏置预训练模型的多模态表示。在MS-COCO和Flickr 30 K基准上的大量实验表明，我们的方法显着减少了图像搜索模型中的性别偏见。
2021-09-12 cs.CL cs.CV
How far can bias go? Tracing bias from pretraining data to alignment
CIS, LMU Munich（慕尼黑大学语言信息学研究所）；ILLC, University of Amsterdam（阿姆斯特丹大学语言研究所）；Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室）
研究探讨预训练数据中的性别职业偏见如何在LLM中表现，通过零样本提示和词元共现分析，发现训练数据中的偏见被放大，指令微调部分缓解了代表性偏见，但整体性别刻板印象仍存在。
2026-05-11 cs.CL
Counterfactual Data Augmentation for Mitigating Gender Stereotypes in Languages with Rich Morphology
University of Cambridge（剑桥大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft Research（微软研究院）
性别陈规定型观念在世界上大多数语言中都很明显，因此被NLP系统传播或放大。尽管研究的重点是减轻英语中的性别刻板印象，但常用的方法会在形态丰富的语言中产生不合语法的句子。我们提出了一种新的方法，在这些语言中的男性和女性的曲折变化的句子之间的转换。对于西班牙语和希伯来语，我们的方法在标签水平上达到了82%和73%的F1分数，在形式水平上达到了90%和87%的准确度。通过使用四种不同的语言评估我们的方法，我们表明，平均而言，它减少了2.5倍的性别刻板印象，而不牺牲语法。
2020-05-27 cs.CL
From Detection to Mitigation: Addressing Gender Bias in Chinese Texts via Efficient Tuning and Voting-Based Rebalancing
Guangdong Provincial Key Laboratory of Quantum Engineering and Quantum Materials（广东省量子工程与量子材料重点实验室）；School of Electronic Science and Engineering (School of Microelectronics)（电子科学与工程学院（微电子学院））；South China Normal University（华南师范大学）；Guangdong Provincial Key Laboratory of Intelligent Information Processing（广东省智能信息处理重点实验室）；School of Business（商学院）；Yangzhou University（扬州大学）
本文提出基于LoRA高效微调与投票再平衡的方法，解决中文性别偏见检测与缓解，在NLPCC-2025共享任务中平均分47.90%，排名第四。
2025-09-09 cs.CL
White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出LABE基准评估LLM在文本生成中的语言能动性社会偏见，并发现其性别与交叉偏见严重且提示缓解不稳定，进而提出MSR策略通过能动性分类器选择性改写文本以更有效可靠地缓解偏见。
2025-05-30 cs.AI cs.CL cs.CY
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University（密歇根州立大学）；TAL Education Group（好未来教育集团）
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出，在人类对话数据上训练的对话系统是有偏见的。特别是，它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法，例如词嵌入。但是，它们并不直接适用于对话系统，因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性，并极大地损害了对话模型的性能。在本文中，我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型，不受性别偏见，同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明，我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
Identifying and Mitigating Gender Bias in Hyperbolic Word Embeddings
Delhi Technological University（德里技术大学）；Indraprastha Institute of Information Technology Delhi（德里英迪拉普拉斯信息技术研究所）
欧氏词嵌入模型，如GloVe和Word2Vec，已被证明反映了类似人类的性别偏见。在本文中，我们将性别偏见的研究扩展到最近流行的双曲词嵌入。我们提出了gyrocosine偏差，一种新的措施，用于量化性别偏见双曲字表示，并观察到一个显着的存在性别偏见。为了解决这个问题，我们提出了庞加莱性别去偏置（PGD），一种新的去偏置程序双曲词表示。在一组评价测试上的实验表明，PGD在增加最小语义偏移量的同时，有效地减少了偏见。
2021-09-28 cs.AI cs.CL
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University（德里技术大学）
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题，出现了大量研究，旨在减轻这些偏见，同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎（FEE），用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术，用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外，它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
BiasDPO: Mitigating Bias in Language Models through Direct Preference Optimization
American University in Cairo（开罗美国大学）
本文提出BiasDPO框架，利用直接偏好优化和手工数据集减轻LLM生成文本中的性别、种族及宗教偏见，在Phi-2模型上显著降低偏置输出，并优于基线及多数开源模型。
2024-07-18 cs.CL
Spurious Correlations and Beyond: Understanding and Mitigating Shortcut Learning in SDOH Extraction with Large Language Models
Department of Computer Science（计算机科学系）；School of Nursing（护理学院）；Department of Information Sciences and Technology（信息科学与技术系）；Department of Biomedical Informatics & Medical Education（生物医学信息学与医学教育系）
研究大型语言模型在 SDOH 抽取中因依赖表面线索导致的虚假预测及性别差异问题，并评估提示工程与思维链等缓解策略以提升模型可靠性。
2025-05-30 cs.AI cs.CL
Queens are Powerful too: Mitigating Gender Bias in Dialogue Generation
Facebook AI Research（Facebook人工智能研究院）；Laboratoire Lorrain d’Informatique et Applications (LORIA)（洛林计算机科学及其应用实验室）
模型通常很容易学习训练数据中存在的偏差，并且它们的预测直接反映了这种偏差。我们分析了对话数据中的性别偏见，并研究了这种偏见如何在随后的生成聊天对话模型中被放大。我们在六个现有的对话数据集中测量性别偏见，并专注于最有偏见的一个，基于多玩家文本的奇幻冒险数据集LIGHT，作为我们偏见缓解技术的测试平台。LIGHT数据集在性别方面高度不平衡，主要包含男性角色，可能是因为它完全由众包工作者收集，反映了幻想或中世纪环境中存在的常见偏见。我们考虑三种技术来减轻性别偏见：反事实数据增强，有针对性的数据汇集，和偏差控制的培训。我们表明，我们提出的技术通过平衡生成的对话话语的性别来减轻LIGHT中的性别偏见，并且组合起来特别有效。我们使用各种评估方法来量化性能-例如性别词的数量，对话安全分类器和人类研究-所有这些都表明我们的模型产生较少的性别，但同样吸引人的闲聊反应。
2020-04-16 cs.CL
Unsupervised Concept Vector Extraction for Bias Control in LLMs
Department of Computer Science University of Virginia（计算机科学系 首都维吉尼亚大学）
本文提出一种无监督概念向量提取方法，通过概率加权和投影控制来测量并操控大语言模型中的性别偏见，并验证其可泛化至种族偏见。
2025-09-18 cs.CL cs.CY
Gender and content bias in Large Language Models: a case study on Google Gemini 2.0 Flash Experimental
University of Perugia（佩鲁贾大学）；Chapin Hall at University of Chicago（芝加哥大学查平学院）；Berdyansk State Pedagogical University（别尔江斯克国立师范大学）；Università di Bologna（博洛尼亚大学）；University of North Texas（北得克萨斯大学）；Chapin Hall（查平学院）
本研究评估Google Gemini 2.0 Flash Experimental的性别与内容偏见，对比ChatGPT-4o发现其性别偏见降低但对暴力、性内容更宽松，揭示AI伦理对齐的复杂性，强调需持续优化审核机制。
2025-03-18 cs.AI cs.CL cs.CY
Target-Agnostic Gender-Aware Contrastive Learning for Mitigating Bias in Multilingual Machine Translation
Seoul National University（首尔大学）；Microsoft Research Asia（微软亚洲研究院）
针对多语言机器翻译中的性别偏见，提出目标语言无关的性别感知对比学习（GACL），通过微调预训练模型提升性别准确性且不损害翻译性能，并验证其跨语言迁移性和模型规模适用性。
2023-11-10 cs.CL
Unveiling and Mitigating Bias in Mental Health Analysis with Large Language Models
Stanford University（斯坦福大学）；Meta Platforms, Inc.（元平台公司）；ETH Zürich（苏黎世联邦理工学院）；University Medical Center Utrecht（乌得勒支大学医学中心）；Leiden University Medical Center（莱顿大学医学中心）
该研究针对大语言模型在心理健康分析中公平性研究不足的问题，系统评估10个大模型在7类社会因素上的偏差，发现GPT-4性能与公平性整体最优，且定制的公平感知提示可有效缓解偏差。
2024-06-19 cs.CL
Mitigating Gender Bias in Machine Translation with Target Gender Annotations
Tilde（蒂尔德公司）；University of Latvia（拉脱维亚大学）
翻译时“秘书要求详细说明。“对于一种具有语法性别的语言，可能有必要确定主语“秘书”的性别。如果句子不包含必要的信息，就不可能总是消除歧义。在这种情况下，机器翻译系统选择最常见的翻译选项，这通常对应于刻板的翻译，从而潜在地加剧了对某些群体和人的偏见和边缘化。我们认为，一个适当的翻译所需的信息并不总是可以推断出被翻译的句子，甚至可能依赖于外部知识。因此，在这项工作中，我们建议将获取必要信息的任务与学习正确翻译的任务解耦。为此，我们提出了一种方法，用于训练机器翻译系统使用包含主题的性别信息的单词级注释。为了准备训练数据，我们用相应目标语言词的语法性别信息来注释常规源语言词。使用这样的数据来训练机器翻译系统减少了它们对性别定型观念的依赖，当关于主体性别的信息可用时。我们对五种语言对的实验表明，这可以将WinoMT测试集的准确率提高25.8个百分点。
2020-10-18 cs.CL
Mitigating Gender Stereotypes in Hindi and Marathi
Manipal Institute of Technology（马尼帕尔理工学院）；MAHE（马尼帕尔高等教育学院）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
随着自然语言处理在我们日常生活中的使用越来越多，解决这些系统中固有的性别偏见的需求也越来越大。这是因为在执行机器翻译等任务时，固有的偏见会干扰这些系统输出的语义结构。虽然研究是在英语中进行量化和减轻偏见，印度语言中的去偏见方法要么相对新生，要么完全没有一些印度语言。大多数印度语言都是有性别的，即，每个名词都根据每种语言的语法规则被赋予一个性。因此，评价不同于用英语进行的评价。本文评估了印地语和马拉地语中的性别刻板印象。这些方法将不同于英语中的方法，因为在某些单词中有阳性和阴性对应物。我们建立了一个中性和性别的职业词，情感词和测量偏见的嵌入连贯性测试（ECT）和相对范数距离（RND）的帮助下的数据集。我们也试图减轻这种偏见的嵌入。实验表明，我们提出的去偏见技术减少这些语言中的性别偏见。
2022-05-12 cs.CL
Mitigating Gender Bias in Machine Translation through Adversarial Learning
UC Berkeley（加州大学伯克利分校）；Princeton University（普林斯顿大学）
机器翻译和其他NLP系统通常包含关于敏感属性的重大偏见，例如性别或种族，这会恶化系统性能并使有害的刻板印象永久化。最近的初步研究表明，对抗性学习可以用作模型不可知的偏见缓解方法的一部分，不需要修改数据。然而，将这种策略应用于机器翻译和其他现代NLP领域需要（1）在微调预训练的大语言模型的背景下重新构建训练目标，以及（2）为性别或其他受保护变量制定措施，这些变量必须从数据本身推导出来。我们提出了一个对抗性学习框架，解决这些挑战，以减轻性别偏见seq 2seq机器翻译。我们的框架改善了男性与女性实体句子翻译质量的差异，对于英语-德语翻译为86%，对于英语-法语翻译为91%，对翻译质量的影响最小。结果表明，对抗性学习是一种很有前途的技术，可以减轻机器翻译中的性别偏见。
2022-03-20 cs.AI cs.CL
On Evaluating and Mitigating Gender Biases in Multilingual Settings
Microsoft Research India（微软印度研究院）
本文针对多语言环境下性别偏见评估与缓解的挑战，构建了基于人工标注的印度语言偏见评估基准，扩展多种去偏方法并验证其在多语言模型上的效果。
2023-07-04 cs.CL
Purdah and Patriarchy: Evaluating and Mitigating South Asian Biases in Open-Ended Multilingual LLM Generations
George Mason University（乔治·马歇尔大学）
本研究针对南亚多语种LLM评估中文化交叉偏见被忽略的问题，构建涵盖多维度的文化偏见词典，分析10种南亚语言生成内容中的父权制相关偏见，并验证两种自我去偏见策略的效果，拓展了文化偏见研究的视角与范围。
2026-05-06 cs.CL
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）
先进的机器学习技术提高了自然语言处理的性能。然而，最近的研究，例如，Zhao et al.（2017）表明，这些技术无意中捕获了隐藏在语料库中的社会偏见，并进一步放大了它。然而，他们的分析仅针对模型的最佳预测。在本文中，我们从分布的角度研究了性别偏见放大问题，并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下，我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
2020-05-13 cs.CL cs.CV cs.LG
Mitigating Gender Bias in English to Romanian Machine Translation
Human Language Technologies Research Center（人类语言技术研究中心）；Faculty of Mathematics and Computer Science（数学与计算机科学学院）；University of Bucharest（布加勒斯特大学）
该研究提出结合LLM性别分类与Transformer翻译的混合流水线，引入新数据集，使英罗机器翻译在WinoMT等基准上性别准确率提升超40个百分点，为缓解该领域性别偏差提供新方法。
2026-08-11 cs.AI cs.CL
Detecting and Mitigating Bias in LLMs through Knowledge Graph-Augmented Training
Althire AI（阿尔泰人工智能公司）；Gen AI Research（生成式人工智能研究院）
本研究提出知识图谱增强训练（KGAT）方法，利用结构化领域知识缓解大型语言模型中的偏见，通过在Gender Shades等数据集上的评估与针对性策略，显著降低了偏见输出并提升了公平性指标。
2025-04-01 cs.AI cs.CL
Unmasking Contextual Stereotypes: Measuring and Mitigating BERT's Gender Bias
University of Groningen（格罗宁根大学）；University of Malta（马耳他大学）
语境化的词嵌入已经取代标准嵌入，成为NLP系统中选择的表征性知识源。由于之前在标准词嵌入中发现了各种偏见，因此评估其替换中编码的偏见也至关重要。关注BERT（Devlin等人，2018），我们通过研究英语和德语中表示性别的目标词与职业名称之间的关联来衡量性别偏见，并将研究结果与现实世界的劳动力统计数据进行比较。我们通过在GAP语料库上微调BERT来减轻偏差（Webster等人，2018），在应用反事实数据替代（CDS）（Maudslay等人，2019年）。我们表明，我们的方法测量偏见是适当的语言，如英语，但不适合语言丰富的形态和性别标记，如德语。我们的研究结果强调了跨语言调查偏见和缓解技术的重要性，特别是考虑到目前对大规模，多语言语言模型的重视。
2020-10-27 cs.CL
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge（剑桥大学）；Bar-Ilan University（巴伊兰大学）
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强（CDA），其中语料库被复制和增强以消除偏见，例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较，发现虽然两者都成功地减少了直接偏见，并且在量化嵌入质量的任务中表现良好，但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法，在两个语料库中平均为19%。我们提出了两个改进CDA：反事实数据替换（CDS），CDA的一个变种，其中潜在的偏见文本被随机替换，以避免重复，和名称干预，一种新的名称配对技术，大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法：在去偏见之后，先前有偏见的单词根据性别的聚类显着减少（聚类纯度降低了49%），从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
Multiple-Debias: A Full-process Debiasing Method for Multilingual Pre-trained Language Models
Guangdong University of Technology（广东工业大学）；Guangdong University of Foreign Studies（广东外语外贸大学）
本文提出Multiple-Debias方法，通过多语言反事实数据增强和多语言Self-Debias，结合参数高效微调，有效减少多语言预训练模型中性别、种族和宗教偏见。
2026-04-03 cs.CL
A Causal Inference Method for Reducing Gender Bias in Word Embedding Relations
City University of Hong Kong（香港城市大学）
词嵌入已经成为自然语言处理的关键，因为它提高了各种任务的经验表现。然而，最近的研究发现，性别偏见是纳入神经词嵌入，下游任务，依赖于这些偏见的词向量也产生性别偏见的结果。虽然已经开发了一些词嵌入性别去偏见的方法，这些方法主要集中在减少与性别方向相关的性别偏见，并未能减少词嵌入关系中呈现的性别偏见。在本文中，我们设计了一个因果和简单的方法来减轻性别偏见的词向量关系，利用性别定义的词嵌入和性别偏见的词嵌入之间的统计依赖关系。我们的方法在性别去偏见任务、词汇和词汇水平评估任务以及下游共指消解任务上都取得了最先进的结果。
2019-11-25 cs.CL cs.LG
Exploring and Mitigating Gender Bias in Encoder-Based Transformer Models
Department of Computer Science and Engineering BRAC University（计算机科学与工程系 BRAC大学）
本文研究了BERT等基于编码器的Transformer模型中的性别偏见，提出了量化偏见的新指标MALoR和基于反事实数据增强的持续预训练缓解方法，显著降低了偏见得分且不损害下游任务性能。
2025-11-01 cs.CL
