Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University(首尔大学);LG AI Research(LG AI研究院);University of Michigan(密歇根大学)
该研究定义并验证了偏置神经元的存在,提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元,在零样本设置下有效缓解偏置且不损失模型性能,仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
FairFlow: Mitigating Dataset Biases through Undecided Learning
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
针对语言模型易受数据集偏差影响导致新数据性能下降的问题,提出FairFlow去偏差框架,通过扰动操作生成偏差视图结合对比目标学习鲁棒表征,在域外和难样本上优于现有方法且不影响域内性能。
2025-03-22 cs.AI cs.CL cs.LG
Towards Understanding and Mitigating Social Biases in Language Models
Carnegie Mellon University(卡内基梅隆大学)
随着机器学习方法被部署到医疗保健、法律系统和社会科学等现实环境中,认识到它们如何在这些敏感的决策过程中塑造社会偏见和刻板印象至关重要。在这些现实世界的部署中,大规模的预训练语言模型(LM)可能会表现出不受欢迎的代表性偏见,这是一种潜在的危险-由刻板印象造成的有害偏见,传播涉及性别,种族,宗教和其他社会结构的负面概括。作为提高LMs公平性的一步,我们仔细定义了代表性偏见的几个来源,然后提出新的基准和指标来衡量它们。有了这些工具,我们提出了在文本生成过程中减轻社会偏见的步骤。我们的实证结果和人类评估表明,有效地减轻偏见,同时保留关键的上下文信息,高保真文本生成,从而推动了性能公平帕累托边界。
2021-06-24 cs.AI cs.CL cs.CY
CANINE: Pre-training an Efficient Tokenization-Free Encoder for Language Representation
Google Research(谷歌研究院)
流水线NLP系统已经在很大程度上被端到端神经建模所取代,但几乎所有常用的模型仍然需要显式的标记化步骤。虽然最近基于数据派生的子词词典的标记化方法比手动设计的标记化器更脆弱,但这些技术并不同样适用于所有语言,并且使用任何固定词汇表可能会限制模型的适应能力。在本文中,我们提出了CANINE,一个神经编码器,直接对字符序列进行操作,没有显式的标记化或词汇,以及一个预训练策略,直接对字符进行操作或可选地使用子字作为软归纳偏差。为了有效和高效地使用其更细粒度的输入,CANINE将减少输入序列长度的下采样与编码上下文的深度Transformer堆栈相结合。尽管模型参数减少了28%,但CANINE在TyDi QA(一个具有挑战性的多语言基准测试)上的表现优于可比的mBERT模型2.8 F1。
2022-05-18 cs.CL cs.LG
Mitigating Extrinsic Gender Bias for Bangla Classification Tasks
Ahsanullah University of Science and Technology(阿沙努拉科学与技术大学);University of California, Riverside(加州大学河滨分校)
本文研究了孟加拉语预训练语言模型中的外在性别偏见,构建了四个任务特定的基准数据集,并提出RandSymKL方法以缓解偏见,实验表明其能有效减少偏见并保持高准确率。
2026-05-16 cs.AI cs.CL cs.LG
Identifying and Mitigating Gender Bias in Hyperbolic Word Embeddings
Delhi Technological University(德里技术大学);Indraprastha Institute of Information Technology Delhi(德里英迪拉普拉斯信息技术研究所)
欧氏词嵌入模型,如GloVe和Word2Vec,已被证明反映了类似人类的性别偏见。在本文中,我们将性别偏见的研究扩展到最近流行的双曲词嵌入。我们提出了gyrocosine偏差,一种新的措施,用于量化性别偏见双曲字表示,并观察到一个显着的存在性别偏见。为了解决这个问题,我们提出了庞加莱性别去偏置(PGD),一种新的去偏置程序双曲词表示。在一组评价测试上的实验表明,PGD在增加最小语义偏移量的同时,有效地减少了偏见。
2021-09-28 cs.AI cs.CL
Mitigating Label Biases for In-context Learning
EPFL(洛桑联邦理工学院);UC Irvine(加州大学欧文分校);ETH Zurich(苏黎世联邦理工学院)
本文定义了上下文学习中的三种标签偏差,并提出利用随机领域内单词估计偏差的校准方法,显著提升了GPT-J和GPT-3在多任务上的性能。
2023-08-04 cs.AI cs.CL cs.LG
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University(密歇根州立大学);TAL Education Group(好未来教育集团)
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出,在人类对话数据上训练的对话系统是有偏见的。特别是,它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法,例如词嵌入。但是,它们并不直接适用于对话系统,因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性,并极大地损害了对话模型的性能。在本文中,我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型,不受性别偏见,同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明,我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
Mitigating Political Bias in Language Models Through Reinforced Calibration
Dartmouth College(达特茅斯学院);University of Texas at Austin(德克萨斯大学奥斯汀分校);ProtagoLabs
当前的大规模语言模型可能会因为训练数据而带有政治偏见,当它们部署在现实世界中时可能会导致严重的问题。在本文中,我们描述了衡量GPT-2生成的政治偏见的指标,并提出了一个强化学习(RL)框架,以减轻生成的文本中的政治偏见。通过使用来自词嵌入或分类器的奖励,我们的RL框架指导去偏生成,而无需访问训练数据或需要重新训练模型。在对政治偏见敏感的三个属性(性别,位置和主题)的实证实验中,我们的方法根据我们的指标和人类评估减少了偏见,同时保持了可读性和语义连贯性。
2021-04-30 cs.AI cs.CL
On Measuring and Mitigating Biased Inferences of Word Embeddings
University of Utah(犹他大学)
词嵌入带有来自它们所训练的文本的刻板内涵,这可能导致依赖它们的下游模型中的无效推断。我们利用这一观察设计了一个机制,用于测量定型使用的任务自然语言推理。我们证明了减少无效的推断,通过偏见缓解策略静态词嵌入(GloVe)。此外,我们表明,性别偏见,这些技术扩展到语境化嵌入时,选择性地只适用于静态组件的语境化嵌入(ELMo,BERT)。
2019-11-26 cs.CL cs.LG
What is in a name? Mitigating Name Bias in Text Embeddings via Anonymization
Pocket FM
本文首次揭示文本嵌入中因人名、地名等名称导致的偏见,并提出推理时文本匿名化方法,在保留核心语义的同时去除名称引用,在两个NLP任务上显著提升性能。
2025-02-05 cs.AI cs.CL cs.LG
Phrase-Level Adversarial Training for Mitigating Bias in Neural Network-based Automatic Essay Scoring
Eötvös Lorand University(厄特沃什·罗兰大学);University of Groningen(格罗宁根大学)
本文提出一种与模型无关的短语级对抗作文生成与数据增强方法,以缓解AES模型对高频样本的偏见,并在多种神经网络评分模型上验证其稳健性与性能提升。
2024-09-07 cs.AI cs.CL cs.LG
Mitigating Language-Dependent Ethnic Bias in BERT
KAIST(韩国科学技术院)
BERT等大规模语言模型存在性别和种族偏见。他们还表现出其他方面的社会偏见,其中大部分还没有被深入研究,其中一些因语言而异。在本文中,我们研究种族偏见,以及它如何在不同的语言分析和减轻种族偏见在单语BERT为英语,德语,西班牙语,韩语,土耳其语和中文。为了观察和量化种族偏见,我们开发了一种新的度量标准,称为分类偏见评分。然后,我们提出了两种缓解方法;第一种是使用多语言模型,第二种是使用两个单语模型的上下文单词对齐。我们比较我们提出的方法与单语BERT,并表明这些方法有效地减轻种族偏见。这两种方法中哪一种效果更好取决于该语言可用的NLP资源的数量。我们还用阿拉伯语和希腊语进行了实验,以验证我们提出的方法适用于更广泛的语言。
2021-09-14 cs.AI cs.CL
Mitigating Gender Bias in Machine Learning Data Sets
University College Dublin(都柏林大学学院)
人工智能有能力放大和延续社会偏见,并为社会带来深刻的伦理影响。在招聘广告和招聘工具的背景下,由于依赖于潜在的语言处理和推荐算法,性别偏见已被确定。解决这些问题的尝试涉及测试学习关联,将公平性概念集成到机器学习中,并对训练数据进行更严格的分析。考虑到性别意识形态嵌入语言的复杂方式,在文本数据上训练算法时减轻偏见尤其具有挑战性。本文提出了一个识别机器学习训练数据中性别偏见的框架,利用性别理论和社会语言学,系统地指出文本训练数据和相关神经词嵌入模型中的偏见水平,从而突出了从训练数据中消除偏见并严格评估其影响的途径。
2020-05-18 cs.CL cs.LG
GenderAlign: An Alignment Dataset for Mitigating Gender Bias in Large Language Models
South China University of Technology(华南理工大学);Pazhou Laboratory(琶洲实验室);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
针对大语言模型中的性别偏见问题,构建了包含8k个单轮对话的对齐数据集GenderAlign,通过选择低偏见高质量回应,有效减少性别偏见。
2024-12-16 cs.AI cs.CL
Distributional Properties of Subword Regularization
Tokyo Institute of Technology(东京工业大学);ETH Zürich(苏黎世联邦理工学院)
本文分析了BPE和MaxMatch等子词正则化随机变体的分布偏向问题,提出一种均匀采样分词的算法作为现有分词器的替代方案,有效提升了机器翻译质量。
2024-08-21 cs.CL
Locating and Mitigating Gender Bias in Large Language Models
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
本研究提出统一框架,结合因果中介分析定位大语言模型中性别偏见的关键组件,并提出基于知识编辑的LSDM方法,在保留模型整体能力的同时有效缓解职业代词中的性别偏见。
2024-03-21 cs.AI cs.CL
Mitigating Gender Bias in Machine Translation through Adversarial Learning
UC Berkeley(加州大学伯克利分校);Princeton University(普林斯顿大学)
机器翻译和其他NLP系统通常包含关于敏感属性的重大偏见,例如性别或种族,这会恶化系统性能并使有害的刻板印象永久化。最近的初步研究表明,对抗性学习可以用作模型不可知的偏见缓解方法的一部分,不需要修改数据。然而,将这种策略应用于机器翻译和其他现代NLP领域需要(1)在微调预训练的大语言模型的背景下重新构建训练目标,以及(2)为性别或其他受保护变量制定措施,这些变量必须从数据本身推导出来。我们提出了一个对抗性学习框架,解决这些挑战,以减轻性别偏见seq 2seq机器翻译。我们的框架改善了男性与女性实体句子翻译质量的差异,对于英语-德语翻译为86%,对于英语-法语翻译为91%,对翻译质量的影响最小。结果表明,对抗性学习是一种很有前途的技术,可以减轻机器翻译中的性别偏见。
2022-03-20 cs.AI cs.CL
Mitigating Media Bias through Neutral Article Generation
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));Hong Kong University of Science and Technology(香港科技大学)
媒体偏见可能导致政治两极分化加剧,因此,对自动缓解方法的需求日益增加。现有的缓解工作显示来自多个新闻媒体的文章,以提供多样化的新闻报道,但没有中和每个显示的文章中固有的偏见。因此,我们提出了一个新的任务,一个单一的中立的文章生成多个偏见的文章,以促进更有效地获得平衡和公正的信息。在本文中,我们编译了一个新的数据集NeuWS,定义了一个自动评估指标,并提供了基线和多个分析,作为拟议任务的坚实起点。最后,我们得到了一个人的评价,以证明我们的指标和人类的判断之间的一致性。
2021-04-01 cs.AI cs.CL
Steering Towards Fairness: Mitigating Political Bias in LLMs
School of Computing, Macquarie University(计算机学院,麦考瑞大学)
本文基于政治罗盘测试提出一种通过分析LLM内部表征来探测和缓解政治偏见的框架,并利用引导向量实现有效去偏。
2025-09-20 cs.AI cs.CL
Mitigating Gender Bias in Natural Language Processing: Literature Review
UC Santa Barbara(加州大学圣巴巴拉分校);UC Los Angeles(加州大学洛杉矶分校)
随着自然语言处理(NLP)和机器学习(ML)工具的普及,认识到它们在塑造社会偏见和刻板印象方面的作用变得越来越重要。虽然NLP模型在建模各种应用程序方面取得了成功,但它们传播甚至可能放大文本语料库中的性别偏见。虽然对人工智能中的偏见的研究并不新鲜,但减轻NLP中性别偏见的方法相对较新。在本文中,我们回顾了当代研究识别和减轻NLP中的性别偏见。我们讨论了基于四种形式的表征偏见的性别偏见和分析方法识别性别偏见。此外,我们讨论了现有的性别去偏见方法的优点和缺点。最后,我们讨论了未来的研究,以识别和减轻NLP中的性别偏见。
2019-06-21 cs.CL
Problematic Tokens: Tokenizer Bias in Large Language Models
Syracuse University(雪城大学);Florida Atlantic University(佛罗里达大西洋大学);New York University(纽约大学)
本文揭示 GPT-4o 等大型语言模型因分词器词表独立于训练数据构建,导致非英语语言表示不足并产生偏差与安全隐患,提出需重新思考分词框架以促进公平安全的 AI 技术。
2024-11-14 cs.CL
A Variational Approach for Mitigating Entity Bias in Relation Extraction
JP Morgan AI Research(摩根大通AI研究);University of Oxford(牛津大学)
针对关系抽取中模型过度依赖实体导致泛化差的实体偏差问题,提出基于变分信息瓶颈框架的新方法,压缩实体信息并保留任务相关特征,在多领域两类测试设置下达SOTA,兼具鲁棒性、可解释性与理论支撑。
2025-06-13 cs.AI cs.CL
Mitigating Bias in Conversations: A Hate Speech Classifier and Debiaser with Prompts
Vector Institute of Artificial Intelligence(向量人工智能研究所);Toronto Metropolitan University(多伦多都会大学)
针对对话中仇恨言论的偏见问题,提出含分类检测与提示式去偏的两步方法,经基准数据集验证可降低负面性,助力构建更包容公平的网络交流环境。
2023-07-14 cs.AI cs.CL
Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information
Technion – Israel Institute of Technology(以色列理工学院)
本文提出 DAFair,通过预定义原型人口统计文本和微调正则化项,在不使用显式人口统计标签的情况下缓解语言模型表示中的社会偏见,并在多任务、多模型实验中优于既有无标注及有限标注去偏见方法。
2024-04-05 cs.CL cs.CY cs.LG
Mitigating Translationese Bias in Multilingual LLM-as-a-Judge via Disentangled Information Bottleneck
本文提出DIBJudge框架,通过解耦信息瓶颈缓解多语言LLM的翻译偏差问题,有效提升多语言评估的公平性和准确性。
2026-03-11 cs.AI cs.CL
Mitigating Length Bias in RLHF through a Causal Lens
针对RLHF奖励模型偏好长回复的长度偏差问题,提出因果框架下的反事实数据增强方法训练奖励模型,有效降低长度偏差,提升奖励建模的鲁棒性与内容敏感度。
2025-11-16 cs.AI cs.CL
Mitigating Gender Bias in Contextual Word Embeddings
本文提出新的掩码语言建模目标函数和评估指标,用于缓解上下文词嵌入中的性别偏见,同时证明静态嵌入偏见主要源于刻板印象名字而非性别化词语本身。
2024-11-18 cs.CL cs.LG
Decoupling the Benefits of Subword Tokenization for Language Model Training via Byte-level Simulation
Nous Research
本文通过字节级预训练流程解耦子词分词的影响,探讨其对训练效率和模型性能的贡献,揭示子词边界作为语言先验的重要性。
2026-05-14 cs.CL
Mitigating Bias in RAG: Controlling the Embedder
Carnegie Mellon University(卡内基梅隆大学)
本研究通过偏见冲突理论及120个微调嵌入器实验,发现控制嵌入器偏见比提高其公平性更能有效缓解RAG系统整体偏见。
2025-02-24 cs.CL cs.LG
Mitigating Label Bias via Decoupled Confident Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对训练标签中普遍存在的社会偏差,本文提出剪枝方法 DeCoLe,以识别并缓解仇恨言论检测等任务中的偏差标签,且效果优于现有方法。
2023-09-29 cs.CL cs.LG
Mitigating Bias for Question Answering Models by Tracking Bias Influence
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Amazon AGI(亚马逊AGI)
本文提出BMBI方法,通过实例间影响检测偏见并进行多任务优化,同时引入新偏见指标,可在保持QA准确率的同时显著降低BBQ全部9类偏见。
2024-06-17 cs.AI cs.CL cs.CY
Nurse is Closer to Woman than Surgeon? Mitigating Gender-Biased Proximities in Word Embeddings
Delhi Technological University(德里理工大学);IIIT-Delhi(德里印度理工学院)
词嵌入是词的语义和句法表示的标准模型。不幸的是,这些模型已被证明表现出不受欢迎的词的协会,导致性别,种族和宗教偏见。现有的消除词嵌入偏见的后处理方法无法消除隐藏在词向量空间排列中的性别偏见。在本文中,我们提出了RAN-Debias,一种新的性别去偏置方法,它不仅消除了词向量中存在的偏见,而且改变了其相邻向量的空间分布,实现了无偏见的设置,同时保持最小的语义偏移。我们还提出了一个新的偏见评估指标-基于性别的非法接近估计(GIPE),它衡量的程度,不适当的接近的字向量的存在基于性别的偏好。基于一套评估指标的实验表明,RAN-Debias在减少邻近偏差(GIPE)方面明显优于最先进的方法,至少减少42.02%。它还减少了直接偏见,增加了最小的语义干扰,并在下游应用程序任务(共指消解)中实现了最佳性能。
2020-06-02 cs.CL cs.LG
An Information Extraction Study: Take In Mind the Tokenization!
KU Leuven(鲁汶大学);Language Intelligence and Information Retrieval Lab(语言智能与信息检索实验室)
该研究针对分词对序列标注类信息抽取任务的影响未被充分探索的问题,对比了基于子词和基于字符的生物医学文本信息抽取模型,发现分词带来的归纳偏置可实现最优性能,且字符模型效果可观,验证了无分词信息抽取的可行性。
2023-04-01 cs.CL
LFTF: Locating First and Then Fine-Tuning for Mitigating Gender Bias in Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);Tencent(腾讯)
本研究提出GenBiasEval、GenHintEval两个数据集及对应指标以评估大模型性别偏见,还提出LFTF算法,通过定位并微调与偏见最相关的模块,在保留通用能力的同时有效缓解性别偏见。
2025-05-21 cs.AI cs.CL
Detecting and Mitigating Bias in LLMs through Knowledge Graph-Augmented Training
Althire AI(阿尔泰人工智能公司);Gen AI Research(生成式人工智能研究院)
本研究提出知识图谱增强训练(KGAT)方法,利用结构化领域知识缓解大型语言模型中的偏见,通过在Gender Shades等数据集上的评估与针对性策略,显著降低了偏见输出并提升了公平性指标。
2025-04-01 cs.AI cs.CL
Evaluating and Mitigating Anti-LGBTQ Biases in German and Multilingual Language Models
Marburg University(马尔堡大学)
本文构建德语-英语多语言基准数据集,评估8种语言模型的反LGBTQ偏见,发现模型存在相关刻板印象,微调可平均降偏但效果不均,凸显多语言偏见评估需文化适应。
2026-09-01 cs.AI cs.CL
Mitigating Racial Biases in Toxic Language Detection with an Equity-Based Ensemble Framework
Georgia Institute of Technology(佐治亚理工学院);The Ohio State University(俄亥俄州立大学)
最近的研究表明,在流行的有毒语言数据集中,对写非裔美国人英语的用户存在种族偏见。虽然以前的工作集中在一个单一的公平标准,我们建议使用额外的描述性公平指标,以更好地了解这些偏见的来源。我们证明了不同的基准分类器,以及两个过程中的偏见补救技术,传播种族偏见,即使在一个更大的语料库。然后,我们提出了一个新的整体框架,使用一个专门的分类器,是微调到非洲裔美国人的英语方言。我们表明,我们提出的框架大大减少了模型从这些数据集中学习到的种族偏见。我们展示了集成框架如何提高所有样本数据集的公平性指标,对分类性能的影响最小,并提供经验证据,证明其能够消除对使用非裔美国人英语的作者的注释偏见。* * 请注意,本作品可能包含冒犯性词语和短语的示例。
2021-09-27 cs.CL cs.LG
How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts
Walmart Labs(沃尔玛实验室);SAP Labs(思爱普实验室);McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
基于Transformer架构构建的神经机器翻译系统通常会根据单词重叠度量来提高翻译质量。然而,越来越多的研究也强调了这些模型在培训过程中固有的性别偏见,这在其翻译中反映不佳。在这项工作中,我们调查这些模型是否可以被指示,以修复他们的偏见在推理过程中使用有针对性的,指导性的指示作为上下文。通过在推理过程中翻译相关的上下文句子以及输入,我们在三个流行的测试套件(WinoMT,BUG,SimpleGen)中观察到在减少翻译中的性别偏见方面有很大的改进。我们进一步提出了一种新的度量标准,以评估几个大型预训练模型(OPUS-MT,M2M-100)对翻译过程中使用上下文来纠正其偏见的敏感性。我们的方法不需要微调,因此可以很容易地在生产系统中使用,以消除刻板的性别职业偏见1。我们希望我们的方法,以及我们的指标,可以用来构建更好的,无偏见的翻译系统。
2022-10-17 cs.CL cs.LG
DateLogicQA: Benchmarking Temporal Biases in Large Language Models
University of Aberdeen(阿伯丁大学)
该研究提出包含190个问题的DateLogicQA时间推理基准,设计语义完整性指标评估分词质量,分析大语言模型的表示层与逻辑层两类时间偏差,全面揭示其时间推理的能力与局限。
2025-05-19 cs.AI cs.CL
Bias Vector: Mitigating Biases in Language Models with Task Arithmetic Approach
Mitsubishi Electric Corporation(三菱电机株式会社)
提出偏置向量方法,通过持续训练、构造权重差并减去偏置向量来缓解语言模型偏见,在SEAT上平均提升0.177分且不损害GLUE性能。
2024-12-16 cs.AI cs.CL
UniBias: Unveiling and Mitigating LLM Bias through Internal Attention and FFN Manipulation
Nanyang Technological University(南洋理工大学);Singapore-ETH Centre(新加坡-ETH中心)
该研究针对大语言模型因固有偏见引发的提示脆弱性问题,探究FFN与注意力头的内部偏见机制,提出仅推理阶段的UniBias方法识别消除偏见组件,经12个NLP数据集验证可提升ICL性能、缓解提示脆弱性。
2024-12-12 cs.AI cs.CL
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University(德里技术大学)
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题,出现了大量研究,旨在减轻这些偏见,同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎(FEE),用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术,用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外,它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University(清华大学);University of California, Los Angeles(加州大学洛杉矶分校)
先进的机器学习技术提高了自然语言处理的性能。然而,最近的研究,例如,Zhao et al.(2017)表明,这些技术无意中捕获了隐藏在语料库中的社会偏见,并进一步放大了它。然而,他们的分析仅针对模型的最佳预测。在本文中,我们从分布的角度研究了性别偏见放大问题,并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下,我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
2020-05-13 cs.CL cs.CV cs.LG
Mitigating Social Biases in Language Models through Unlearning
Vector Institute(向量研究所);Scotia Bank(加拿大丰业银行);Ernst & Young(安永会计师事务所);Queen’s University(女王大学)
针对语言模型社会偏见问题,探索分区对比梯度去学习与基于任务向量的否定两种去学习方法,验证后者去偏见效果更优且模型性能退化小,可低计算成本缓解预训练/微调模型的偏见。
2024-06-19 cs.AI cs.CL
Open-Domain Event Graph Induction for Mitigating Framing Bias
University of Pennsylvania(宾夕法尼亚大学);Tencent AI Lab(腾讯人工智能实验室)
针对新闻文章中固有的框架偏见问题,提出中性事件图归纳任务,通过三步框架从多输入源归纳事件图并利用图卷积网络移除偏见节点,有效缓解偏见。
2023-05-22 cs.AI cs.CL
Co$^2$PT: Mitigating Bias in Pre-trained Language Models through Counterfactual Contrastive Prompt Tuning
Texas A&M University(德州农工大学);George Mason University(乔治梅森大学)
针对预训练语言模型在下游应用中放大社会偏见的问题,提出了一种名为Co$^2$PT的高效去偏方法,通过在下游任务中进行反事实对比提示微调来缓解偏见,实验证明其有效且能适应现有上游去偏模型。
2023-10-19 cs.CL
Mitigating Biases in Language Models via Bias Unlearning
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Communication Content Cognition, People’s Daily Online(通信内容认知国家重点实验室)
本文提出 BiasUnlearn 双路径遗忘框架,在保留语言建模能力的同时定向消除语言模型中的刻板偏见,并验证去偏见权重可跨模型变体迁移。
2025-09-30 cs.CL
InsideOut: Measuring and Mitigating Insider-Outsider Bias in Interview Script Generation
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出InsideOut基准,通过文化情境面试脚本生成任务量化LLM的内部-外部偏见,采用三种评估指标,并提出基于代理的MFA框架缓解偏见,实验表明MFA方法显著降低偏见。
2026-04-20 cs.AI cs.CL cs.CY
On Evaluating and Mitigating Gender Biases in Multilingual Settings
Microsoft Research India(微软印度研究院)
本文针对多语言环境下性别偏见评估与缓解的挑战,构建了基于人工标注的印度语言偏见评估基准,扩展多种去偏方法并验证其在多语言模型上的效果。
2023-07-04 cs.CL
Beyond Performance: Quantifying and Mitigating Label Bias in LLMs
School of Computer Science and Engineering, The Hebrew University of Jerusalem(耶路撒冷希伯来大学计算机科学与工程学院)
本文在279个分类任务和十个LLMs上系统量化了标签偏差,发现去偏前后均显著存在,并提出一种优于现有方法的少样本标签偏差校准方法,以同时提升性能与可靠性。
2024-05-04 cs.CL
Understanding and Mitigating Gender Bias in LLMs via Interpretable Neuron Editing
The University of Manchester(曼彻斯特大学);National Centre for Text Mining(国家文本挖掘中心)
本研究提出CommonWords数据集和可解释神经元编辑方法,通过识别并选择性编辑性别偏见相关神经元,在五个大语言模型上有效降低性别偏见同时保持模型原有能力。
2025-01-24 cs.CL
Mitigating Bias in Automated Essay Scoring for ESL Learners via Contrastive Learning
Georgia Institute of Technology(佐治亚理工学院);Georgia State University(佐治亚州立大学)
本文提出通过对比学习方法缓解自动评分系统对ESL学习者偏见的问题,通过构建匹配文章对数据集并使用三元组边际损失,有效减少了高熟练度评分差距,保持了评分一致性。
2026-11-03 cs.CL
Tokenization Falling Short: On Subword Robustness in Large Language Models
Baidu(百度);ModelBest(模贝斯特);University of Copenhagen(哥本哈根大学)
本研究针对大语言模型的分词诅咒问题,从复杂问题求解、token结构探测、排版变化复原性三方面展开研究,发现扩参可缓解问题但仍存偏差,验证了BPE-dropout等子词正则化的作用并开源了评估资源。
2024-10-04 cs.CL