Fairness or Fluency? An Investigation into Language Bias of Pairwise LLM-as-a-Judge
University of Southern California(南加州大学);Arizona State University(亚利桑那州立大学)
本文研究了LLM-as-a-judge在配对任务中的语言偏见,发现不同语言在性能和偏好上有显著差异,且语言偏见不能仅由困惑度解释。
2026-01-20 cs.AI cs.CL
A Multifaceted Analysis of Social Biases in Large Language Models
Nanyang Technological University(南洋理工大学)
本文系统分析了四种广泛使用的大型语言模型在政治、意识形态、联盟、语言和性别等维度上的偏见,通过多项实验揭示了模型在中立性、意识形态倾向、地缘政治倾向、多语言故事完成中的偏见以及性别倾向。
2026-06-17 cs.AI cs.CL cs.CY
Uncovering Implicit Bias in Large Language Models with Concept Learning Dataset
UPLB(菲律宾大学)
本文通过概念学习数据集揭示大型语言模型在量化词上的隐性偏见,并展示上下文概念学习在发现隐藏偏见中的有效性。
2025-11-26 cs.AI cs.CL
Gender Bias in Machine Translation and The Era of Large Language Models
本章综述传统神经机器翻译与大语言模型中的性别偏见,并通过英语—意大利语场景下的 ChatGPT 实验评估其偏见应对能力,强调持续缓解偏见、促进公平包容的必要性。
2024-01-18 cs.AI cs.CL cs.CY
Large Language Models are Biased Because They Are Large Language Models
University of Maryland(马里兰大学)
本文提出立场:按当前方式构建的LLM必然产生有害偏见,因此需重新审视LLM驱动AI的基础假设。
2025-03-13 cs.AI cs.CL
Mind the Language Gap: Automated and Augmented Evaluation of Bias in LLMs for High- and Low-Resource Languages
Luxembourg Institute of Science and Technology(卢森堡科学与技术研究院);Universitat Oberta de Catalunya(开放大学);University of Luxembourg(卢森堡大学)
针对LLMs训练数据中的社会偏见问题,提出MLA-BiTe框架,利用自动翻译与改写技术实现系统性多语言偏见测试,并在六种语言和七类敏感类别下验证了其有效性。
2025-04-19 cs.AI cs.CL
Language Bias in LVLMs: From In-Depth Analysis to Simple and Effective Mitigation
Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳))
本文系统研究了大视觉语言模型中的语言偏差问题,发现其根源在于训练中的模态未对齐,并提出了两种简单有效的缓解方法:语言偏差正则化(LBR)和语言偏差惩罚(LBP)。
2026-05-24 cs.AI cs.CL
Towards WinoQueer: Developing a Benchmark for Anti-Queer Bias in Large Language Models
Information Sciences Institute(信息科学研究所);University of Southern California(南加州大学);Annenberg School for Communication and Journalism(安嫩伯格传播与新闻学院)
本文提出了探索性的工作是否以及在多大程度上对同性恋和跨性别者的偏见编码在大语言模型(LLM),如BERT。我们还提出了一种在下游任务中减少这些偏见的方法:根据酷儿撰写的和/或关于酷儿的数据对模型进行微调。为了测量反酷儿偏见,我们引入了一个新的基准数据集WinoQueer,该数据集以其他偏见检测基准为模型,但解决了同性恋和跨性别偏见。我们发现,BERT表现出明显的恐同偏见,但这种偏见可以通过在LGBTQ+社区成员编写的自然语言语料库上微调BERT来缓解。
2022-07-08 cs.CL cs.CY
Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University(首尔大学);LG AI Research(LG AI研究院);University of Michigan(密歇根大学)
该研究定义并验证了偏置神经元的存在,提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元,在零样本设置下有效缓解偏置且不损失模型性能,仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
An Analysis of Social Biases Present in BERT Variants Across Multiple Languages
Mila(米拉研究所);McGill University(麦吉尔大学)
虽然大型预训练语言模型在许多NLP任务中取得了巨大的成功,但已经表明它们反映了来自预训练语料库的人类偏见。当这些模型应用于现实世界时,这种偏差可能会导致不良结果。在本文中,我们调查的偏见存在于单语BERT模型在不同的语言(英语,希腊语和波斯语)。虽然最近的研究主要集中在与性别有关的偏见,我们分析宗教和种族偏见,以及提出了一个基于模板的方法来衡量任何类型的偏见,基于句子伪似然,可以处理形态复杂的语言与基于性别的形容词变格。我们通过这种方法分析了每个单语模型,并可视化了不同偏见维度的文化相似性和差异。最终,我们得出结论,目前的方法探测偏见是高度依赖于语言,需要文化的见解,关于偏见的独特方式,在每种语言和文化(例如,通过编码语言,提喻,和其他类似的语言概念)。我们还假设,非英语BERT模型中较高的社会偏见与用户生成的内容相关。
2022-11-25 cs.CL cs.CY cs.LG
Communication Bias in Large Language Models: A Regulatory Perspective
University of Hong Kong(香港大学);TU Berlin(柏林工业大学);Weizenbaum Institute(魏森鲍姆研究所)
本文从监管视角审视大型语言模型中的沟通偏差,强调在欧盟AI法案等框架外,需加强竞争与设计治理以保障公平可信的AI。
2025-09-25 cs.AI cs.CL cs.CY
Generative Language Models Exhibit Social Identity Biases
University of Cambridge(剑桥大学);New York University(纽约大学)
本文评估56个大型语言模型,发现其普遍存在与人类相似的内群体偏好和外群体敌意,并指出数据整理与指令微调可缓解该偏见。
2024-06-17 cs.CL cs.CY
Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models
University of Southern California(南加州大学);USC Information Sciences Institute(南加州大学信息科学研究所)
本文探讨大型语言模型(如ChatGPT)中偏见的来源、伦理风险与缓解方法,强调多学科协作以实现更公平透明的人工智能系统。
2023-11-13 cs.CL cs.CY
Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora
ELLIS Alicante, Spain(西班牙阿利坎特ELLIS研究所);University of Alicante, Spain(西班牙阿利坎特大学)
针对性别化语言语料中性别表征偏差研究不足的问题,提出基于大语言模型的人物指代词汇识别分类方法,检测出多语料的男性主导失衡,且发现小规模反向性别偏向训练可缓解该偏差对模型输出的影响。
2025-06-17 cs.CL cs.CY
A Survey on Bias and Fairness in Natural Language Processing
Stanford University(斯坦福大学)
随着NLP模型与人们的日常生活越来越紧密地结合在一起,研究这些系统的使用所产生的社会影响变得非常重要。虽然这些模型能够理解语言,并在困难的下游任务上提高了准确性,但有证据表明,这些模型放大了性别、种族和文化陈规定型观念,并在许多情况下导致恶性循环。在这项调查中,我们分析了偏见的起源,公平的定义,以及NLP的不同子领域如何减轻偏见。最后,我们将讨论未来的研究如何消除NLP算法中的有害偏见。
2022-03-06 cs.AI cs.CL
Measuring Fairness with Biased Rulers: A Survey on Quantifying Biases in Pretrained Language Models
KU Leuven(鲁汶大学);University of Antwerp(安特卫普大学);TU Berlin(柏林工业大学)
随着人们对自然语言处理资源(如BERT)中有偏模式的认识不断提高,许多度量标准开始量化“偏”和“公平”。但是,比较不同指标的结果和用这些指标评估的作品仍然很困难,如果不是完全不可能的话。我们调查了现有的文献公平性指标的预训练语言模型和实验评估兼容性,包括在语言模型的偏见,在他们的下游任务。我们采用传统的文献调查和相关分析相结合的方法,并进行了实证评估。我们发现,许多指标是不兼容的,高度依赖于(i)模板,(ii)属性和目标种子和(iii)嵌入的选择。这些结果表明,公平性或偏见评估仍然具有挑战性的上下文语言模型,如果不是至少高度主观。为了改善未来的比较和公平性评估,我们建议避免基于嵌入的度量,并专注于下游任务中的公平性评估。
2021-12-14 cs.CL cs.CY cs.LG
Towards Understanding and Mitigating Social Biases in Language Models
Carnegie Mellon University(卡内基梅隆大学)
随着机器学习方法被部署到医疗保健、法律系统和社会科学等现实环境中,认识到它们如何在这些敏感的决策过程中塑造社会偏见和刻板印象至关重要。在这些现实世界的部署中,大规模的预训练语言模型(LM)可能会表现出不受欢迎的代表性偏见,这是一种潜在的危险-由刻板印象造成的有害偏见,传播涉及性别,种族,宗教和其他社会结构的负面概括。作为提高LMs公平性的一步,我们仔细定义了代表性偏见的几个来源,然后提出新的基准和指标来衡量它们。有了这些工具,我们提出了在文本生成过程中减轻社会偏见的步骤。我们的实证结果和人类评估表明,有效地减轻偏见,同时保留关键的上下文信息,高保真文本生成,从而推动了性能公平帕累托边界。
2021-06-24 cs.AI cs.CL cs.CY
Language-Specific Sentiment Polarity Biases in Encoder and Large Language Model Classification of Product Reviews
John P. Stevens High School(约翰·皮·斯蒂文斯高中);Ford Foundation(福特基金会);NC State University(北卡罗来纳州立大学)
研究AI模型跨语言和架构对正负评论分类准确率的差异,发现大语言模型在法语中有负向偏差,编码器模型在日语中有正向偏差。
2026-06-23 cs.CL
Questioning Biases in Case Judgment Summaries: Legal Datasets or Large Language Models?
IIT Kharagpur(印度理工学院卡拉格普尔分校)
本文通过分析法律数据集和大语言模型生成的案件判决摘要,揭示其在性别、种族、涉女性犯罪、国家及宗教关键词上的偏见,为理解法律技术中的公平性问题提供证据。
2023-12-01 cs.AI cs.CL
Subtle Biases Need Subtler Measures: Dual Metrics for Evaluating Representative and Affinity Bias in Large Language Models
Brock University(布鲁克大学)
本研究提出RBS和ABS双重指标及CoGS开放式任务套件,以检测LLMs中被忽视的代表性偏见与亲和性偏见,发现知名模型偏好特定身份且具有类似“偏见指纹”的评估模式。
2024-06-03 cs.AI cs.CL cs.CY
On the Branching Bias of Syntax Extracted from Pre-trained Language Models
Tencent AI Lab(腾讯AI实验室)
许多努力致力于从预先训练的语言模型中提取选区树,通常分为两个阶段:特征定义和解析。然而,这类方法可能会受到分支偏差问题的影响,这将夸大具有相同分支的语言的性能。在这项工作中,我们提出了定量测量的分支偏差,通过比较性能差距的语言和它的反向语言,这是不可知的语言模型和提取方法。此外,我们还分析了三个因素对分支偏向的影响,即句法分析算法、特征定义和语言模型。实验表明,一些现有的作品表现出分支偏见,这三个因素的一些实现可以引入分支偏见。
2020-10-06 cs.CL
Evaluating Gender Bias of Pre-trained Language Models in Natural Language Inference by Considering All Labels
Tokyo Institute of Technology(东京工业大学)
针对现有NLI偏见评估仅关注单类标签的缺陷,提出考虑全部三类标签的NLI-CoAL方法,经元评估验证准确性优于基线,且适配英、日、中多语言,还首次构建了日中两种语言的NLI偏见评估数据集。
2024-05-18 cs.CL
DateLogicQA: Benchmarking Temporal Biases in Large Language Models
University of Aberdeen(阿伯丁大学)
该研究提出包含190个问题的DateLogicQA时间推理基准,设计语义完整性指标评估分词质量,分析大语言模型的表示层与逻辑层两类时间偏差,全面揭示其时间推理的能力与局限。
2025-05-19 cs.AI cs.CL
Quantifying Gender Bias in Large Language Models: When ChatGPT Becomes a Hiring Manager
Massachusetts Institute of Technology(麻省理工学院)
研究量化了LLM在招聘决策中的性别偏见,发现女性候选人更易被录用但薪酬建议较低,探讨了提示工程作为偏见缓解技术。
2026-03-10 cs.AI cs.CY
Gender Bias in Large Language Models across Multiple Languages
University of Toronto(多伦多大学);Mcgill University(麦吉尔大学);SI-TECH Information Technology(SI-TECH信息技术公司);University of Alberta(阿尔伯塔大学)
本文针对英语之外研究不足的问题,用三类度量考察GPT系列模型在多语言生成中的性别偏见,发现所测语言均存在显著偏见。
2024-03-01 cs.CL
Don't Forget About Pronouns: Removing Gender Bias in Language Models Without Losing Factual Gender Information
Institute of Formal and Applied Linguistics, Faculty of Mathematics and Physics(数学与物理学院形式与应用语言学研究所);Charles University(查理大学)
大语言模型中的表示包含多种类型的性别信息。我们专注于两种类型的此类信号在英语文本:事实性别信息,这是一个语法或语义属性,性别偏见,这是一个词和特定性别之间的相关性。我们可以解开模型的嵌入,并通过探测识别编码两种类型信息的组件。我们的目标是在保留事实性别信号的同时,减少陈述中的陈规定型偏见。我们的过滤方法表明,它是可能的,以减少性别中立的专业名称的偏见,而不会显着恶化的语言建模能力。研究结果可以应用到语言生成,以减少依赖的定型观念,同时保持性别协议的共指。
2022-06-21 cs.AI cs.CL
Investigating Implicit Bias in Large Language Models: A Large-Scale Study of Over 50 LLMs
Enkrypt AI
本研究基于LLM IAT偏见和决策偏见框架,对50多个LLM进行大规模评估,发现模型增大或更新并不自动减少隐性偏见,甚至可能放大偏见,凸显了标准化偏见评估与缓解策略的必要性。
2024-10-13 cs.AI cs.CL
No LLM is Free From Bias: A Comprehensive Study of Bias Evaluation in Large Language Models
IIIT Hyderabad(印度海得拉尔印度理工学院);TCS Research(塔塔咨询服务研究);SVNIT Surat(萨瓦尔特理工学院)
本研究统一评估了多个中小型大语言模型在多种偏见形式下的表现,提出五种提示方法并设计三个研究问题,发现所有模型均存在偏见,其中Phi-3.5B偏见最少。
2025-05-27 cs.AI cs.CL
Injecting structural hints: Using language models to study inductive biases in language learning
Stanford University(斯坦福大学)
本文通过向transformer语言模型注入递归层级处理、非上下文无关交叉关系和Zipfian词汇分布三种归纳偏置,发现非上下文无关关系是最佳归纳偏置,为理解人类与机器的语言学习机制提供了新假设。
2023-10-29 cs.CL
Evaluating Large Language Models with NeuBAROCO: Syllogistic Reasoning Ability and Human-like Biases
Keio University(庆应义塾大学)
本研究通过NeuBAROCO数据集评估大型语言模型的三段论推理能力,发现其在处理信念偏见、转换错误和氛围效应三类类人偏见问题时表现更差。
2023-06-21 cs.AI cs.CL
IndoBias: A Dual Track Culturally Grounded Benchmark for LLMs Bias Evaluation in Indonesian Languages
Mohamed bin Zayed University of Artificial Intelligence(莫扎德大学人工智能大学);Universitas Indonesia(印度尼西亚大学);Independent Researcher(独立研究员)
提出IndoBias基准,通过深度和广度双轨评估,发现现有LLM在印尼语和三种地方语言中表现出显著偏见,且预训练数据来源和语言多样性影响偏见程度。
2026-05-31 cs.AI cs.CL
BiasDPO: Mitigating Bias in Language Models through Direct Preference Optimization
American University in Cairo(开罗美国大学)
本文提出BiasDPO框架,利用直接偏好优化和手工数据集减轻LLM生成文本中的性别、种族及宗教偏见,在Phi-2模型上显著降低偏置输出,并优于基线及多数开源模型。
2024-07-18 cs.CL
Framing Political Bias in Multilingual LLMs Across Pakistani Languages
School of Computing, Macquarie University(计算机学院,麦考瑞大学)
研究评估了巴基斯坦五种语言中13种先进LLM的政治偏见,发现其在区域语言中表现出更集权的框架,强调文化适应的偏见审计框架的重要性。
2026-01-30 cs.AI cs.CL
Cognitive bias in large language models: Cautious optimism meets anti-Panglossian meliorism
Vanderbilt University(范德堡大学)
本文探讨了大型语言模型中的认知偏差,提出对当前模型偏差普遍性保持谨慎乐观,同时承认真实偏差并努力减少,并分析了其哲学启示。
2023-11-18 cs.AI
Exposing Bias in Online Communities through Large-Scale Language Models
Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所);TU Dortmund University(多特蒙德工业大学)
该研究用六个社交媒体数据集微调 GPT-Neo 1.3B,并通过情感与毒性测量比较模型输出,揭示不同在线社区偏见的类型和强度,提供可扩展的数据集偏见识别方法。
2023-06-04 cs.CL cs.CY cs.LG
Bias Neutralization Framework: Measuring Fairness in Large Language Models with Bias Intelligence Quotient (BiQ)
本文提出综合偏见过中和框架(CBNF),结合LLMBI与BLIND方法创建新指标偏见智商(BiQ),,以在无需人口标注下检测和缓解LLMs种族偏见,并验证了Latimer AI的偏见缓解效果。
2024-04-28 cs.AI cs.CL
Reducing Large Language Model Bias with Emphasis on 'Restricted Industries': Automated Dataset Augmentation and Prejudice Quantification
School of Systems and Enterprises(系统与企业学院);Stevens Institute of Technology(史蒂文斯理工学院)
本文提出一种面向数据有限的“受限行业”的自动化数据集增强去偏机制,并引入mb-index和db-index两个新指标,从模型架构和数据集两方面量化大语言模型偏见。
2024-03-20 cs.AI cs.CL cs.LG
Selection Collider Bias in Large Language Models
在本文中,我们激励的因果机制背后的样本选择诱导碰撞机偏差(选择碰撞机偏差),可以导致大语言模型(LLM)学习无条件的实体之间的无条件依赖,在现实世界中是无条件独立的。我们表明,选择碰撞机偏见可以成为放大在指定的学习任务,虽然难以克服,我们描述了一种方法来利用由此产生的虚假相关性,以确定当一个模型可能是不确定的预测。我们展示了一个不确定性度量,该度量将人类在任务中的不确定性与Winogender Schemas评估集的扩展版本上的性别代词指定不足相匹配,并且我们提供了一个在线演示,用户可以将我们的不确定性度量应用于他们自己的文本和模型。
2022-09-13 cs.AI cs.CL
Measuring and Mitigating Bias in Code Generated by Large Language Models
School of Computing Science, University of Glasgow(格拉斯哥大学计算机科学学院)
本文针对GPT-4o和Gemini等主流代码生成工具,提出评估框架,使用代码偏见分数和属性变化比率量化偏见,并探索四种轻量级缓解策略。
2026-05-05 cs.AI cs.CY
Public Perceptions of Gender Bias in Large Language Models: Cases of ChatGPT and Ernie
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文通过分析社交媒体讨论,比较了公众对ChatGPT和文心一言中性别偏见的认知差异,发现前者多表现为隐性偏见、后者多表现为显性偏见,并据此提出文化影响反思与治理建议。
2023-09-17 cs.AI cs.CY
"Im not Racist but...": Discovering Bias in the Internal Knowledge of Large Language Models
USC Information Sciences Institute(南加州大学信息科学研究所);Aptima, Inc(Aptima公司)
本文提出一种纯提示方法,动态生成知识表示以揭示任意大型语言模型中的隐藏刻板印象,促进NLP系统的透明与公平。
2023-10-13 cs.AI cs.CL
Poli-Bias: Understanding and Measuring Large Language Model Biases in International Political Conflicts
Technical University Munich(慕尼黑工业大学)
本研究提出细粒度反事实框架Poli-Bias,通过交换国家身份的成对提示对比响应,分解偏差维度,发现13个LLMs存在因国家身份导致的政治偏差,可用于审计LLMs的政治公正性与谄媚性。
2026-10-19 cs.AI cs.CL
Gender Encoding Patterns in Pretrained Language Model Representations
Khatam University(哈塔姆大学);Cardiff University(卡迪夫大学)
本文通过信息论方法系统分析多种编码器架构中性别偏见的编码模式,发现去偏技术常效果有限且可能加剧内部表示中的偏见,为改进偏见缓解策略提供指导。
2025-03-09 cs.AI cs.CL
Are Large Language Models Really Bias-Free? Jailbreak Prompts for Assessing Adversarial Robustness to Bias Elicitation
University of Calabria(卡拉布里亚大学)
本研究探究最新大型语言模型(LLMs)中的固有偏见,测试其对偏见诱导越狱提示的对抗性鲁棒性,通过实验证实LLMs仍可被操纵生成偏见响应,强调需增强缓解技术以提升AI公平性与可靠性。
2025-02-13 cs.AI cs.CL
Delving into Multilingual Ethical Bias: The MSQAD with Statistical Hypothesis Tests for Large Language Models
Chung-Ang University(Chung-Ang 大学);AITRICS(AITRICS 研究所)
本文提出多语言敏感问答数据集MSQAD,通过统计假设检验揭示大语言模型在不同语言和话题上的伦理偏见普遍存在,并公开数据集以推动跨语言偏见研究。
2025-07-02 cs.CL
Language-Agnostic Bias Detection in Language Models with Bias Probing
Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning(慕尼黑机器学习中心);Data Analytics and Computational Social Science, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校数据分析与计算社会科学系);Marmara University(马尔马拉大学);Language Technology Lab, University of Cambridge(剑桥大学语言技术实验室);Harvard Kennedy School(哈佛大学肯尼迪学院)
提出名为 LABDet 的语言无关偏见探测技术,通过在冻结的预训练语言模型上训练非国籍情感检测分类器来揭示社会偏见,发现六种语言中存在与历史政治背景一致的国籍偏见模式,并验证了其稳健性与预训练数据的相关性。
2023-11-20 cs.CL
Measuring Gender Bias in West Slavic Language Models
University of Copenhagen(哥本哈根大学)
本文构建首个捷克语、波兰语和斯洛伐克语的模板数据集,通过毒性和性别化程度量化分析西斯拉夫语言模型中的性别偏见,发现以男性为主体时模型产生更多与暴力、死亡和疾病相关的有害补全。
2023-05-25 cs.CL
Exploring Gender Bias in Large Language Models: An In-depth Dive into the German Language
RWTH Aachen University(亚琛工业大学);AppTek GmbH(AppTek有限责任公司);Know Center Research GmbH(Know Center研究有限责任公司)
本文通过构建五个德语性别偏见评估数据集并在八个多语言LLM上测试,揭示了德语中男性职业术语歧义和中性名词影响性别感知等独特挑战,强调需要定制化评估框架。
2025-07-22 cs.CL cs.LG
Listen and Speak Fairly: A Study on Semantic Gender Bias in Speech Integrated Large Language Models
National Taiwan University(国立台湾大学)
本研究针对语音集成大语言模型可能放大训练数据性别偏见的问题,提出口语偏见评估工具包与数据集,在四类语义任务上开展评估,发现偏见程度因语言和评估方法而异,为构建更公平的相关系统提供参考。
2024-07-09 cs.CL cs.CY eess.AS
Worst of Both Worlds: Biases Compound in Pre-trained Vision-and-Language Models
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学)
许多作品已经分析了视觉和预训练语言模型中的偏见-然而,很少关注这些偏见如何在多模态环境中相互作用。本文将基于文本的偏差分析方法扩展到多模态语言模型的研究中,分析了模态内和模态间的关联和偏差。具体来说,我们证明了VL-BERT(Su等人,2020年)表现出性别偏见,往往倾向于强化刻板印象,而不是忠实地描述视觉场景。我们证明了这些研究结果的对照病例研究,并将其扩展到一个更大的一组刻板性别的实体。
2022-05-20 cs.CL
Social Bias in Large Language Models For Bangla: An Empirical Study on Gender and Religious Bias
Bangladesh University of Engineering and Technology (BUET)(孟加拉工程技术大学)
针对孟加拉语大语言模型偏见研究匮乏的问题,该研究考察其性别与宗教两类社会偏见,构建偏见测量基准数据集,测试两种探测技术,为该领域首项同类研究,资源公开可用。
2024-12-13 cs.CL
Eliminating the Language Bias for Visual Question Answering with fine-grained Causal Intervention
Beijing University of Posts and Telecommunications(北京邮电大学)
针对VQA中现有方法忽视细粒度信息导致无法充分捕捉语言偏差的问题,提出CIBi因果干预方案,将偏差分为上下文和关键词两类,结合对比学习与反事实生成分别消除,提升了多模态表征与模型性能。
2024-10-14 cs.AI cs.CV
Predictive Biases in Natural Language Processing Models: A Conceptual Framework and Overview
Stony Brook University(石溪大学);Bocconi University(博科尼大学)
越来越多的自然语言处理工作已经解决了偏差对预测结果的影响,引入了作用于标准NLP管道(数据和模型)不同部分的缓解技术。然而,这些工作是孤立进行的,没有一个统一的框架来组织外地的努力。这导致了重复的方法,并将不适当的重点放在偏见的影响上,而不是它们的起源。侧重于偏见症状而不是根本原因的研究可能会限制有效对策的制定。在本文中,我们提出了一个统一的概念:NLP的预测偏差框架。我们总结了NLP文献,并提出了NLP中预测偏差的一般数学定义以及概念框架,区分了偏差的四个主要来源:标签偏差,选择偏差,模型过度放大和语义偏差。我们讨论了过去的工作是如何对抗每一个偏见的起源。我们的框架用于指导NLP中预测偏差的介绍性概述,将现有工作整合到一个单一的结构中,并为未来的研究开辟道路。
2020-09-12 cs.AI cs.CL cs.LG
JBBQ: Japanese Bias Benchmark for Analyzing Social Biases in Large Language Models
The University of Tokyo(东京大学);Riken(理化学研究所);Hokkaido University(北海道大学)
本研究构建了日语偏见基准数据集JBBQ以分析日语大语言模型的社会偏见,发现大参数量开源日语LLM准确率提升但偏见得分上升,偏见警示提示与思维链提示可降低偏见影响,日语上下文证据提取仍有改进空间。
2025-06-13 cs.CL