What Does Debiasing Really Remove? A Geometric Study of PCA-Based Gender Debiasing in Word Embeddings
Hood College（胡德学院）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）
通过几何分析揭示PCA去偏主要移除第一主成分中的直接性别偏见，但无法消除分布在多维度上的关联偏见，且会破坏嵌入几何结构，表明偏见并非纯低秩，简单子空间移除不足以全面去偏。
2026-06-06 cs.CL
Neutralizing the Narrative: AI-Powered Debiasing of Online News Articles
New York University Abu Dhabi（纽约大学阿布扎比分校）
本研究提出一个AI驱动的框架，利用GPT-4o Mini等LLMs，通过两阶段方法（偏见检测和迭代去偏）处理超过30,000篇新闻文章，揭示媒体偏见变化，促进新闻公平性。
2025-04-04 cs.CL cs.CY
The Gaps between Pre-train and Downstream Settings in Bias Evaluation and Debiasing
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
本文研究预训练语言模型在微调与上下文学习两种去偏设置下的偏见评估差距，证明基于上下文学习的去偏方法在内在与外在偏见分数上相关性更高，且下游任务性能损失更小。
2024-01-16 cs.CL
Sustainable Modular Debiasing of Language Models
University of Mannheim（曼海姆大学）；Bocconi University（博科尼大学）
不公平的陈规定型偏见（例如，性别，种族或宗教偏见）编码在现代预训练语言模型（PLM）具有负面的道德影响，广泛采用最先进的语言技术。为了弥补这一点，最近引入了广泛的去偏置技术，以消除PLM中的这种刻板偏见。然而，现有的去偏置方法直接修改所有的PLM参数，除了计算昂贵之外，还存在（灾难性的）忘记在预训练中获得的有用语言知识的固有风险。在这项工作中，我们提出了一个更可持续的模块化去偏置方法的基础上专用的去偏置适配器，被称为ADELE。具体地说，我们（1）将适配器模块注入到原始PLM层中，（2）仅更新适配器（即，我们保持原始PLM参数冻结），通过在反事实增强的语料库上进行语言建模训练。我们展示了ADELE，在性别去偏见的BERT：我们广泛的评估，包括三个内在和两个外在的偏见措施，使ADELE，非常有效的偏见缓解。我们进一步表明-由于其模块化的性质- ADELE，再加上任务适配器，即使在大规模的下游训练后，仍然保持公平性。最后，通过多语种BERT，成功地将ADELE语言转换为六种目标语言。
2021-09-08 cs.CL
Multiple-Debias: A Full-process Debiasing Method for Multilingual Pre-trained Language Models
Guangdong University of Technology（广东工业大学）；Guangdong University of Foreign Studies（广东外语外贸大学）
本文提出Multiple-Debias方法，通过多语言反事实数据增强和多语言Self-Debias，结合参数高效微调，有效减少多语言预训练模型中性别、种族和宗教偏见。
2026-04-03 cs.CL
The Impact of Debiasing on the Performance of Language Models in Downstream Tasks is Underestimated
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Tokyo Institute of Technology（东京工业大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
该研究通过包含性别相关词汇的多种基准数据集评估去偏对下游任务性能的影响，发现去偏效果在所有任务中均被低估，并提出按女性词、男性词和刻板印象词分别评估可更可靠地衡量去偏影响。
2023-09-16 cs.CL
Gender-tuning: Empowering Fine-tuning for Debiasing Pre-trained Language Models
University of North Texas（北德克萨斯大学）；Microsoft Research（微软研究院）
针对预训练语言模型存在社会偏见、现有去偏方法成本高且损害下游任务性能的问题，提出Gender-tuning方法，将MLM目标融入下游任务微调，在降低偏见的同时提升下游性能，且适用于各类支持微调的PLM。
2023-07-20 cs.CL
RedditBias: A Real-World Resource for Bias Evaluation and Debiasing of Conversational Language Models
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
文本表示模型容易表现出一系列社会偏见，反映了底层预训练数据的非受控和偏见性质，从而导致严重的道德问题，甚至偏见放大。最近的工作主要集中在测量和减轻预训练语言模型的偏见。令人惊讶的是，用于会话语言模型的偏差测量和减轻资源和方法的前景仍然非常稀缺：它仅限于少数类型的偏差、人工构建的资源，并且完全忽略了去偏差方法可能对对话任务中的最终性能的影响，例如，会话响应生成。在这项工作中，我们提出了RedditBias，这是第一个基于Reddit实际人类对话的对话数据集，允许在四个重要的偏见维度上进行偏见测量和缓解：性别，种族，宗教和酷儿。此外，我们开发了一个评估框架，同时1）测量开发的RedditBias资源上的偏差，2）评估模型去偏置后的对话任务中的模型能力。我们使用的评估框架，以基准广泛使用的对话DialoGPT模型以及适应四个去偏置方法。我们的研究结果表明，DialoGPT是有偏见的宗教团体和一些去偏置技术可以消除这种偏见，同时保留下游任务的性能。
2021-06-07 cs.CL
Self-Debias: Self-correcting for Debiasing Large Language Models
Jinan University, China（济南大学，中国）；Nanyang Technological University, Singapore（南洋理工大学，新加坡）
本文提出Self-Debias框架，通过资源再分配策略使模型具备自我纠正能力，以解决去偏过程中持续的偏见传播问题，无需外部干预即可提升去偏效果。
2026-05-09 cs.CL
FairSteer: Inference Time Debiasing for LLMs with Dynamic Activation Steering
Zhejiang University（浙江大学）；Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence（浙江省医学影像人工智能重点实验室）；Zhejiang Lab（浙江实验室）；ByteDance（字节跳动）
FairSteer提出一种无需重训练或定制提示的推理时去偏框架，通过检测偏见激活并计算去偏引导向量动态调整隐藏激活，在多个LLMs和任务上验证了其有效性。
2025-07-05 cs.CL
Self-Adaptive Cognitive Debiasing for Large Language Models in Decision-Making
Shandong University（山东大学）；University of Amsterdam（阿姆斯特丹大学）；University of Birmingham（伯明翰大学）；Leiden University（莱顿大学）
针对LLMs在决策中存在的认知偏差问题，提出自适应认知去偏方法SACD，通过偏差判定、分析和去偏三个步骤迭代优化提示，在金融、医疗和法律任务中有效降低了单偏差与多偏差场景下的平均偏差分数。
2025-11-02 cs.CL
Mutual Debiasing via Dual-Seed Comparison for Probabilistic Sampling in Large Language Models
School of Software, Shandong University（山东大学软件学院）；School of Computer Science and Technology, Zhejiang Normal University（浙江师范大学计算机科学与技术学院）
本研究针对大语言模型概率采样的系统性偏差问题，提出双种子比较（DSC）协议，通过两个独立种子中和偏差，在多数评估设置中性能优于现有方法，还可适配多项选择问题生成等任务以提升分布控制能力。
2026-08-28 cs.AI cs.CL
ADEPT: A DEbiasing PrompT Framework
Tsinghua University（清华大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
ADEPT通过提示调优和流形学习启发的训练准则，在去除预训练语言模型偏见的同时保持其表示能力，并在多个基准上取得竞争性结果。
2025-05-24 cs.CL
MPF: Aligning and Debiasing Language Models post Deployment via Multi Perspective Fusion
University College London（伦敦大学学院）；Center for long-term AI（长期人工智能中心）
本文提出多视角融合框架 MPF，通过将基线分布分解为可解释视角成分并加权采样响应，在部署后以无需微调的方式对齐和缓解 LLM 偏见，实验验证了其在 KL 散度、校准误差和泛化性上的优势。
2025-07-03 cs.AI cs.CL
Causal Walk: Debiasing Multi-Hop Fact Verification with Front-Door Adjustment
Southeast University（东南大学）
针对多跳事实验证模型受标注虚假相关性影响、现有因果去偏方法无法处理多跳复杂偏差的问题，提出基于前门调整的Causal Walk方法，通过推理路径中介变量分解因果效应，在多个数据集上表现优于已有去偏方法。
2024-03-05 cs.CL
BiasFilter: An Inference-Time Debiasing Framework for Large Language Models
First Author Affiliation（第一作者单位）；Second Author Affiliation（第二作者单位）
本文提出BiasFilter，一种与模型无关的推理时去偏框架，通过实时过滤生成输出并利用公平性奖励信号丢弃低奖励片段，有效缓解大型语言模型中的社会偏见并保持生成质量。
2025-05-28 cs.CL
Self-Diagnosis and Self-Debiasing: A Proposal for Reducing Corpus-Based Bias in NLP
Center for Information and Language Processing (CIS), LMU Munich（慕尼黑大学信息与语言处理中心）；Institute of Social and Cultural Anthropology, LMU Munich（慕尼黑大学社会与文化人类学研究所）
当对来自互联网的大量未经过滤的爬行进行训练时，语言模型会拾取并复制数据中可以找到的各种不受欢迎的偏见：它们经常生成种族主义，性别歧视，暴力或其他有毒语言。由于大型模型需要数百万个训练样本来实现良好的性能，因此很难完全防止它们暴露于此类内容。在本文中，我们首先展示了一个令人惊讶的发现：预训练的语言模型在相当大的程度上识别出它们产生的不良偏见和内容的毒性。我们把这种能力称为自我诊断。基于这一发现，我们提出了一个解码算法，只给出一个文本描述的不希望的行为，降低了概率的语言模型产生问题的文本。我们把这种方法称为自我去偏。自去偏不依赖于手动策划的单词列表，也不需要任何训练数据或对模型参数的更改。虽然我们绝不能消除语言模型生成有偏见的文本的问题，但我们相信我们的方法是朝着这个方向迈出的重要一步。
2021-09-09 cs.CL
Language Models Get a Gender Makeover: Mitigating Gender Bias with Few-Shot Data Interventions
Carnegie Mellon University（卡内基梅隆大学）
针对预训练语言模型传播性别偏见且重新训练成本高的问题，本文提出仅用10个去偏样本进行微调的少样本数据干预方法，在尽量保持语言建模能力的同时取得优于现有基线的去偏效果。
2023-06-07 cs.CL cs.LG
FineDeb: A Debiasing Framework for Language Models
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所）
随着语言模型越来越多地包含在面向人类的机器学习工具中，对人口统计学亚组的偏见引起了人们的关注。我们提出了FineDeb，一个两阶段的去偏置框架的语言模型，从上下文去偏置的预训练的语言模型学习的嵌入。然后根据语言建模目标对模型进行微调。我们的研究结果表明，FineDeb提供了更强的去偏置相比，其他方法往往会导致模型作为偏见的原始语言模型。我们的框架是可推广的人口与多个类，我们证明了它的有效性，通过广泛的实验和比较与最先进的技术。我们在GitHub上发布代码和数据。
2023-02-05 cs.CL cs.CY
ChatGPT Based Data Augmentation for Improved Parameter-Efficient Debiasing of LLMs
California Institute of Technology（加州理工学院）；Carleton College（卡尔顿学院）；University of Cambridge（剑桥大学）
针对大语言模型存在社会偏见且去偏受成本、数据等限制的问题，提出基于ChatGPT的定向与通用提示数据增强策略，结合适配器调优实现参数高效去偏，性能优于现有数据集且能保留模型知识、具备跨类别泛化性。
2024-09-16 cs.AI cs.CL cs.CY
Towards Universal Debiasing for Language Models-based Tabular Data Generation
Purdue University（普渡大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出通用去偏框架，通过降低优势与受保护属性间互信息，并结合UDF-DPO和UDF-MIX两种方法，在无需调参或无缝集成现有模型的情况下，有效平衡表格数据生成中的公平性与实用性。
2025-09-20 cs.CL cs.LG
General Phrase Debiaser: Debiasing Masked Language Models at a Multi-Token Level
Chinese Academy of Sciences（中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）；Alibaba Group（阿里巴巴集团）；University of Bristol（布里斯托大学）
针对掩码语言模型的短语层面偏见，提出通用短语去偏器流水线，通过短语过滤与模型去偏阶段，在多词层面有效降低不同参数规模模型的职业及多学科性别偏见。
2026-09-01 cs.AI cs.CL
Causal-Guided Active Learning for Debiasing Large Language Models
Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Harbin Institute of Technology（哈尔滨工业大学）
针对大语言模型易受数据集偏差影响的问题，本文提出因果引导的主动学习框架CAL，利用模型自身自动识别偏差样本并归纳偏差模式，结合上下文学习实现高效去偏。
2024-08-30 cs.AI cs.CL
Debiasing Large Language Models toward Social Factors in Online Behavior Analytics through Prompt Knowledge Tuning
George Mason University（乔治梅森大学）
本文研究了在社交情境中通过引入用户目标推断 dispositional 因果性和消息上下文推断 situational 因果性对 LLM 性能的影响，提出了一种通过增强指令提示来减少社会归因偏见的方法，提升零样本分类任务的性能。
2026-03-28 cs.AI cs.CL
Bias Dynamics in BabyLMs: Towards a Compute-Efficient Sandbox for Democratising Pre-Training Debiasing
Department of Computer Science & Technology, University of Cambridge（计算机科学与技术系，剑桥大学）；ALTA Institute, University of Cambridge（ALTA研究所，剑桥大学）
通过低成本BabyLMs研究偏见动态，降低预训练成本，促进公平语言模型的民主化研究。
2026-01-15 cs.AI cs.CL
Effectiveness of Debiasing Techniques: An Indigenous Qualitative Analysis
University of Auckland（奥克兰大学）；University of Edinburgh（爱丁堡大学）
本文从原住民视角定性分析PLM去偏技术，指出其偏重美国种族偏见、依赖预设属性和大量资源，难以覆盖Māori等群体，强调纳入本地知识以实现公平算法。
2023-04-17 cs.AI cs.CL
Potential and Challenges of Model Editing for Social Debiasing
Zhejiang University School of Engineering（浙江大学工程学院）；Westlake University（西湖大学）；Institute of Advanced Technology, Westlake Institute for Advanced Study（西湖高等研究院先进技术研究所）
本文将社会去偏形式化为模型编辑问题，系统评估七种编辑算法在刻板印象去偏上的表现，揭示其潜力与局限，并提出两种改进方法以提升去偏编辑效果。
2024-02-21 cs.AI cs.CL
UGID: Unified Graph Isomorphism for Debiasing Large Language Models
University of Electronic Science and Technology of China（电子科技大学）；Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学）；South China University of Technology（华南理工大学）
UGID通过构建Transformer的结构化计算图，在内部表示层面减少模型偏见，通过约束注意力路由和隐藏表示，提升模型行为一致性并保持安全性和实用性。
2026-03-19 cs.AI cs.CL
Large Language Model Bias Mitigation from the Perspective of Knowledge Editing
Zhejiang University（浙江大学）；Angelalign Technology Inc.（时代天使科技有限公司）
本文从知识编辑视角提出新基准 BiasKE 和细粒度去偏方法 FAST，通过校准个体偏见知识实现可编辑公平性，在保持知识能力的同时显著超越现有去偏基线。
2024-06-29 cs.AI cs.CL
Information Gain-Guided Causal Intervention for Autonomous Debiasing Large Language Models
Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心）；Harbin Institute of Technology（哈尔滨工业大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）
提出信息增益引导的因果干预去偏框架（ICD），通过因果干预重写数据以消除指令微调数据集偏差，提升LLM的泛化能力。
2025-05-27 cs.AI cs.CL
Looking for a Handsome Carpenter! Debiasing GPT-3 Job Advertisements
Oxford Artificial Intelligence Society, University of Oxford（牛津大学牛津人工智能学会）
生成式语言模型的能力和可用性的不断增长已经使广泛的新的下游任务成为可能。学术研究已经识别、量化和减轻了语言模型中存在的偏见，但很少针对下游任务进行调整，因为这些任务对个人和社会产生了更广泛的影响。在这项工作中，我们利用一个流行的生成语言模型，GPT-3，与写作公正和现实的招聘广告的目标。我们首先评估的偏见和现实主义的zero-shot生成的广告，并将它们与现实世界的广告。然后，我们评估的工程和微调的去偏置方法。我们发现，鼓励多样性的提示，并没有显着改善偏见，也不现实。相反，微调，特别是对无偏见的真实广告，可以提高现实主义和减少偏见。
2022-05-23 cs.AI cs.CL
An Empirical Study on Model-agnostic Debiasing Strategies for Robust Natural Language Inference
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）；Beijing University of Posts and Telecommunications（北京邮电大学）；University of Chicago（芝加哥大学）
现有的自然语言推理（NLI）去偏工作主要针对一个或几个已知的偏置，而不一定使模型更鲁棒。在本文中，我们专注于模型无关的去偏策略，并探讨如何（或是否可能）使NLI模型对多种不同的对抗攻击具有鲁棒性，同时保持甚至加强模型的泛化能力。我们首先对流行的神经NLI模型进行基准测试，包括在各种对抗数据集上进行预训练的模型。然后，我们试图通过修改混合专家模型（MoE）集成方法，以打击不同的已知偏见，并表明它是不平凡的，以减轻多个NLI偏见在同一时间，模型级集成方法优于MoE集成方法。我们还进行了数据增强，包括文本交换，单词替换和释义，并证明了其在打击各种（虽然不是所有）对抗攻击的效率在同一时间。最后，我们研究了几种方法来合并异构训练数据（1.35 M）和执行模型集成，这是直接的，但有效地加强NLI模型。
2020-10-17 cs.AI cs.CL
Self-Supervised Position Debiasing for Large Language Models
School of Computer Science and Technology, Shandong University（山东大学计算机科学与技术学院）；Leiden University（莱顿大学）
本文提出自监督位置去偏框架SOD，利用预训练LLM的无监督响应并引入目标对齐模块修剪响应，在不依赖外部知识的情况下有效减轻LLM的三类位置偏差，并在多个数据集和任务上验证其通用性与有效性。
2024-06-29 cs.AI cs.CL cs.LG
BiasFreeBench: a Benchmark for Mitigating Bias in Large Language Model Responses
UC San Diego（加州大学圣地亚哥分校）；Columbia University（哥伦比亚大学）；Zhejiang University（浙江大学）；Stanford University（斯坦福大学）
BiasFreeBench通过统一测试平台评估八种主流偏见缓解方法，提供响应层面的偏见自由分数，旨在提升大型语言模型的公平性和安全性。
2026-02-15 cs.AI cs.CL cs.CY
DeCAP: Context-Adaptive Prompt Generation for Debiasing Zero-shot Question Answering in Large Language Models
针对LLM零样本问答中的社会敏感偏见问题，提出DeCAP方法，通过问题模糊性检测和中性答案引导生成实现上下文自适应去偏，在八个LLM上取得最优性能。
2025-03-25 cs.AI cs.CL cs.CY
Debiasing Word Embeddings with Nonlinear Geometry
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Arizona State University（亚利桑那州立大学）
去偏置词嵌入在很大程度上局限于个人和独立的社会类别。然而，现实世界的语料库通常呈现多个可能相互关联或交叉的社会类别。例如，“头发编织”是刻板印象与非洲裔美国女性，但既不是非洲裔美国人也不是女性单独。因此，这项工作研究的偏见与多个社会类别：联合偏见引起的工会不同类别和交叉偏见，不重叠的偏见的组成类别。我们首先从经验上观察到，个体偏差非平凡地相交（即，在一维子空间上）。借鉴社会科学中的交叉理论和语言学理论，我们构建了一个交叉子空间，使用个人偏见的非线性几何来消除多个社会类别的偏见。实证评估证实了我们的方法的有效性。数据和实现代码可以从https://github.com/GitHubLuCheng/Implementation-of-JoSEC-COLING-22下载。
2022-08-29 cs.AI cs.CL
Reducing Gender Bias in Word-Level Language Models with a Gender-Equalizing Loss Function
New York University（纽约大学）
神经语言模型倾向于学习自然语言数据集，从而导致有偏见的文本生成。在这项研究中，我们提出了一个去偏置的方法的基础上的损失函数修改。我们引入了一个新的术语的损失函数，试图在输出中的男性和女性的话的概率相等。使用一系列的偏见评估指标，我们提供的经验证据表明，我们的方法成功地减轻性别偏见的语言模型，而不增加困惑。与现有的去偏置策略、数据增强和词嵌入去偏置方法相比，该方法在几个方面表现更好，特别是在减少职业词中的性别偏见方面。最后，我们介绍了数据增强和我们的方法的组合，并表明它在所有偏差评估指标上都优于现有策略。
2019-06-03 cs.CL
Robust Natural Language Understanding with Residual Attention Debiasing
University of Southern California（南加州大学）
本文提出残差注意力去偏方法 READ，通过端到端缓解注意力中的非预期偏差，在多个 NLU 任务的 OOD 数据上显著提升 BERT 模型的鲁棒性。
2023-05-28 cs.AI cs.CL cs.LG
Using Adversarial Debiasing to Remove Bias from Word Embeddings
词嵌入已经被证明包含了原始语料库中存在的社会偏见。处理这个问题的现有方法已被证明只能消除表面的偏见。对抗性去偏见的方法被认为是同样肤浅的，但这在以前的作品中没有得到验证。使用其他方法中的浅层去除实验，我显示的结果表明对抗性去偏在去除偏见方面更有效，从而激发了对对抗性去偏效用的进一步研究。
2021-07-22 cs.CL
Take its Essence, Discard its Dross! Debiasing for Toxic Language Detection via Counterfactual Causal Effect
School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；School of Foreign Chinese, Dalian University of Technology（大连理工大学对外汉语学院）
针对毒性语言检测中词汇偏差被无差别消除导致准确率下降的问题，提出反事实因果去偏框架（CCDF），通过因果推断分离并消除误导性影响、保留有用影响，提升了模型的准确率、公平性与分布外泛化能力。
2024-06-03 cs.AI cs.CL
Investigating Bias in Multilingual Language Models: Cross-Lingual Transfer of Debiasing Techniques
KU Leuven（鲁汶大学）；IESEG School of Management（IESEG管理学院）；University of Applied Sciences Darmstadt（达姆施塔特应用科学大学）；University of Southampton（南安普顿大学）
本研究探究多语言模型中去偏技术的跨语言迁移，利用mBERT验证其在英法德荷四种语言上的可行性，发现SentenceDebias效果最佳，平均降低偏见13%，且无性能损失，为多语言偏见缓解提供指导。
2023-10-16 cs.CL
Debiasing Pre-trained Contextualised Embeddings
Tokyo Metropolitan University（东京都立大学）；University of Liverpool（利物浦大学）；Amazon（亚马逊）
与针对静态非语境化词嵌入提出的众多去偏置方法相比，语境化嵌入中的区分性偏置受到的关注相对较少。我们提出了一种微调方法，可以应用于令牌或令牌级别，以消除预训练的上下文嵌入。我们提出的方法可以应用于任何预先训练的上下文嵌入模型，而无需重新训练这些模型。使用性别偏见作为一个说明性的例子，然后，我们进行了一项系统的研究，使用几个国家的最先进的（SoTA）的上下文表示多个基准数据集，以评估编码在不同的上下文嵌入的偏见水平之前和之后，使用所提出的方法去偏置。我们发现，对所有令牌和上下文嵌入模型的所有层应用令牌级去偏置可以产生最佳性能。有趣的是，我们观察到在创建准确与无偏的上下文嵌入模型之间存在权衡，并且不同的上下文嵌入模型对这种权衡的反应不同。
2021-01-23 cs.CL
Mitigating Biases in Toxic Language Detection through Invariant Rationalization
National Taiwan University（台湾大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Amazon AI（亚马逊人工智能）
有毒语言的自动检测在保护社交媒体用户，特别是少数群体免受言语虐待方面发挥着重要作用。然而，在大多数用于毒性检测的训练数据集中，对某些属性（包括性别、种族和方言）存在偏见。这些偏见使得学习模型不公平，甚至会加剧人们的边缘化。考虑到目前用于一般自然语言理解任务的去偏置方法不能有效地减轻毒性检测器中的偏差，我们提出使用不变合理化（InvRat），一个由理由生成器和预测器组成的博弈论框架，来排除某些句法模式的虚假相关性（例如，身份提及，方言）到毒性标签。我们的实验表明，我们的方法产生较低的误报率在词汇和方言属性比以前的去偏置方法。
2021-06-14 cs.CL
Challenges in Automated Debiasing for Toxic Language Detection
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
偏见的关联一直是开发用于检测有毒语言的分类器的一个挑战，阻碍了公平性和准确性。作为潜在的解决方案，我们研究了最近引入的文本分类数据集和模型的去偏置方法，应用于有毒语言检测。我们的重点是词汇（例如，脏话、侮辱、身份提及）和方言标记（特别是非裔美国人英语）。我们的综合实验表明，现有的方法是有限的，在他们的能力，以防止偏见的行为，在目前的毒性检测器。然后，我们提出了一个自动的，方言感知的数据校正方法，作为概念验证。尽管使用合成标签，这种方法减少了方言与毒性的联系。总的来说，我们的研究结果表明，对有偏见的有毒语言数据训练的模型进行去偏见并不像简单地重新标记数据以消除现有偏见那样有效。
2021-01-29 cs.CL
Towards Debiasing Translation Artifacts
Saarland University（萨尔兰大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
跨语言自然语言处理依赖于翻译，无论是由人类还是机器，在不同的级别，从翻译训练数据到翻译测试集。然而，与同一语言的原文相比，译文具有独特的性质，被称为翻译性。先前的研究表明，这些翻译工件影响各种跨语言任务的性能。在这项工作中，我们提出了一种新的方法，以减少通过扩展一个既定的偏见消除技术。我们使用的迭代零空间投影（INLP）算法，并通过测量分类精度之前和之后的去偏置显示，在句子和词的水平上减少了重复。我们评估实用的去偏置的解释上的自然语言推理（NLI）的任务，并表明，通过减少这种偏见，NLI的准确性提高。据我们所知，这是第一个研究，以消除偏见，在潜在的嵌入空间中表示。
2022-05-16 cs.CL
DebIE: A Platform for Implicit and Explicit Debiasing of Word Embedding Spaces
University of Mannheim（曼海姆大学）；School of Business Informatics and Mathematics（商业信息学与数学学院）
最近的NLP研究表明，分布式词向量空间经常编码刻板的人类偏见，如种族主义和性别歧视。由于单词表示在NLP模型和管道中无处不在，这引发了道德问题，并危及语言技术的公平性。虽然存在大量关于偏见测量和去偏见方法的工作，但到目前为止，还没有一个平台可以统一这些研究工作，并使偏见测量和去偏见的表征空间广泛可用。在这项工作中，我们提出了DebIE，第一个集成平台（1）测量和（2）减轻偏见的词嵌入。给定（i）嵌入空间（用户可以在预定义的空间之间选择或上传自己的空间）和（ii）偏差规范（用户可以在现有的偏差规范之间选择或创建自己的偏差规范），DebIE可以（1）计算隐式和显式偏差的几个度量，并通过执行两个（可相互组合的）去偏差模型来修改嵌入空间。DebIE的功能可以通过四种不同的接口访问：（a）Web应用程序，（b）桌面应用程序，（c）REST风格的API，以及（d）作为命令行应用程序。DebIE的网址是：debie.informatik. uni-mannheim.de。
2021-03-11 cs.CL
InterFair: Debiasing with Natural Language Feedback for Fair Interpretable Predictions
Allen Institute for AI（艾伦人工智能研究所）；University of San Diego（圣地亚哥大学）
提出InterFair框架，通过自然语言反馈与冻结预测模型交互，在保持或提升任务性能的同时有效缓解模型偏差，实现公平且可解释的预测。
2023-10-23 cs.CL
Debiasing Methods in Natural Language Understanding Make Bias More Accessible
Technion – Israel Institute of Technology（以色列理工学院）
模型对偏差的鲁棒性通常由精心设计的分布外数据集的泛化决定。自然语言理解（NLU）中的最新去偏方法通过迫使模型做出无偏预测来提高此类数据集的性能。这种方法背后的一个基本假设是，这也会导致在模型的内部表示中发现更强大的功能。我们提出了一个一般的探测为基础的框架，允许事后解释的偏见在语言模型，并使用信息理论的方法来衡量提取模型的表示某些偏见。我们用几个NLU数据集和已知的偏见进行了实验，结果表明，与直觉相反，语言模型越是被推向去偏见的状态，其内部表示中实际编码的偏见就越多。
2021-09-09 cs.CL
Code Search Debiasing:Improve Search Results beyond Overall Ranking Performance
Xiamen University（厦门大学）；School of Software Engineering, Sun Yat-sen University（中山大学软件工程学院）；Tencent（腾讯）
本文从分析模型偏见的新视角研究代码搜索，提出一种通用的去偏框架，通过重排序校准搜索结果以缓解偏见，实验证明其能有效减偏并提升整体排序性能。
2024-02-17 cs.CL
What Changed? Investigating Debiasing Methods using Causal Mediation Analysis
University of Illinois-Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
以往的工作已经研究了去偏语言模型如何影响下游任务，具体来说，去偏技术如何影响任务绩效，以及去偏模型是否也在下游任务中做出公正的预测。然而，我们还没有很好地理解的是，为什么去偏置方法对下游任务有不同的影响，以及去偏置技术如何影响语言模型的内部组件，即，神经元层和注意力在本文中，我们分解的内部机制，去偏置语言模型相对于性别的因果中介分析理解的影响，去偏置方法的毒性检测作为一个下游任务。我们的研究结果表明，需要测试不同偏差度量的去偏方法的有效性，并关注模型某些组件的行为变化，例如，前两层语言模型和注意力头。
2022-06-01 cs.AI cs.CL
Debiasing Personal Identities in Toxicity Classification
随着人们继续依赖机器学习模型来做出自动化决策，模型偏差的问题变得越来越普遍。在本文中，我们将训练一个文本分类模型，并通过测量模型在整个数据集上的性能以及在不同子组上的性能来优化偏差最小化。这需要对不同的人口统计学亚组进行独立的测量，并通过将它们与我们其他数据的结果进行比较来测量偏差。我们展示了如何使用这些指标来检测无意的偏差，以及如何从数据集中完全删除偏差会导致更糟糕的结果。
2019-08-14 cs.CL
Mind the Trade-off: Debiasing NLU Models without Degrading the In-distribution Performance
Technische Universität Darmstadt（达姆施塔特工业大学）
自然语言理解（NLU）任务的模型通常依赖于数据集的特殊偏差，这使得它们在训练分布之外的测试用例中变得脆弱。最近，几个建议的去偏置方法被证明是非常有效的，在改善外的分布性能。然而，它们的改进是以性能下降为代价的，当模型在分布数据上进行评估时，其中包含具有更高多样性的示例。这种看似不可避免的权衡可能无法告诉我们，除了分布外数据中所代表的小子集之外，结果模型在更广泛类型的示例上的推理和理解能力的变化。在本文中，我们通过引入一种新的去偏置方法（称为置信正则化）来解决这种权衡，该方法阻止模型利用偏差，同时使它们能够获得足够的激励来从所有训练样本中学习。我们在三个NLU任务上评估了我们的方法，并表明与其前辈相比，它提高了分布外数据集的性能（例如，HANS数据集上的7pp增益），同时保持原始分布准确度。
2020-05-01 cs.CL
Evaluating Simple Debiasing Techniques in RoBERTa-based Hate Speech Detection Models
本文针对基于RoBERTa的仇恨言论检测模型中对非裔美国人英语方言的误分类偏见，应用并评估了简单去偏技术，发现其效果高度依赖训练数据集构建方法，妥善考虑表征偏差可减少方言子群间的检测差异。
2025-01-26 cs.CL
Debiasing Sentence Embedders through Contrastive Word Pairs
CITEC, University of Bielefeld（比勒费尔德大学CITEC（认知交互技术中心））
针对现有去偏方法直接从词嵌入转移而忽略句子嵌入非线性特性的问题，本文提出通过对比词对去除句子嵌入中线性和非线性偏见信息的方法，且不影响下游任务性能。
2024-03-27 cs.CL
