Gender and Racial Stereotype Detection in Legal Opinion Word Embeddings
Thomson Reuters Labs（汤森路透实验室）
研究表明，一些自然语言处理（NLP）系统编码和复制有害的偏见，对我们的社会产生潜在的不良道德影响。在这篇文章中，我们提出了一种方法来识别性别和种族刻板印象的词嵌入培训的司法意见，从美国判例法。当下游系统用于分类、信息抽取、问答或用于构建法律研究工具的其他机器学习系统时，包含原型信息的嵌入可能会造成伤害。我们首先解释了以前提出的识别这些偏见的方法是如何不适合用于在法律意见文本上训练的词嵌入的。然后，我们提出了一个域适应的方法来识别性别和种族偏见在法律领域。我们使用这些方法进行的分析表明，种族和性别偏见被编码到经过法律意见训练的词嵌入中。这些偏见并没有通过排除历史数据来减轻，并且出现在法律的多个大的主题领域。下游系统，使用法律意见词嵌入和潜在的缓解策略的建议，根据我们的观察的影响进行了讨论。
2022-04-12 cs.AI cs.CL
More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models
Computer Science and Information Engineering（计算机科学与信息工程系）
本研究通过自由叙事揭示大型语言模型中的性别偏见，发现其在职业性别分布上更接近人类刻板印象，而非现实数据，强调了平衡缓解措施的重要性。
2026-03-09 cs.AI cs.CL
Good Secretaries, Bad Truck Drivers? Occupational Gender Stereotypes in Sentiment Analysis
Stanford University（斯坦福大学）；UC Irvine（加州大学欧文分校）
在这项工作中，我们调查职业性别刻板印象的存在下，情感分析模型。这样的任务对减少这些模型中的隐含偏差有意义，这些模型正被应用于越来越广泛的下游任务。我们发布了一个新的性别平衡的数据集的800个句子有关的特定职业，并提出了一种方法，使用它作为一个测试台来评估情感分析模型。我们评估职业性别刻板印象的存在，在3个不同的模型，使用我们的方法，并探讨其与社会的职业观念的关系。
2019-07-13 cs.CL
Revisiting The Classics: A Study on Identifying and Rectifying Gender Stereotypes in Rhymes and Poems
Sri Sathya Sai Institute of Higher Learning（斯里·萨蒂亚·赛高等学习学院）；GESIS - Leibniz Institute for the Social Sciences（莱布尼茨社会科学研究所（GESIS））；Citridot Solutions（西特里多特解决方案公司）；University of Tartu（塔尔图大学）；IIT Ropar（罗帕尔印度理工学院）
本研究收集童谣和诗歌数据集，提出准确率97%的模型识别性别偏见，并利用LLM纠正刻板印象，揭示其在促进性别平等与包容性方面的潜力。
2024-03-25 cs.CL
Stereotype and Skew: Quantifying Gender Bias in Pre-trained and Fine-tuned Language Models
University College London（伦敦大学学院）
本文提出了两个直观的指标，偏斜和刻板印象，量化和分析的性别偏见存在于上下文语言模型时，解决WinoBias代词决议任务。我们发现的证据表明，性别刻板印象与开箱即用的模型中的性别偏斜近似呈负相关，这表明这两种形式的偏见之间存在权衡。我们研究两种方法来减轻偏见。第一种方法是一种在线方法，它可以有效地以刻板印象为代价来消除偏斜。第二个是受ELMo以前工作的启发，涉及使用增强的性别平衡数据集对BERT进行微调。我们表明，这减少了偏斜和刻板印象相对于其未增强的微调对应。然而，我们发现，现有的性别偏见的基准不完全探测专业偏见的代词决议可能会混淆的交叉相关性，从其他表现形式的性别偏见。我们的代码可以在https://github.com/12kleingordon34/NLP_masters_project上在线获得。
2021-02-16 cs.AI cs.CL cs.LG
Challenging Negative Gender Stereotypes: A Study on the Effectiveness of Automated Counter-Stereotypes
National Research Council Canada（加拿大国家研究委员会）；ifo Institute for Economic Research（ifo经济研究所）；University of Munich（慕尼黑大学）
本研究探讨自动生成反刻板印象以挑战性别刻板印象的十一种策略，发现反事实和普遍化拓宽最有效，且AI生成内容常被视为冒犯或不合理，为未来策略开发提供基础。
2024-04-18 cs.CL cs.CY
LLMs Reproduce Stereotypes of Sexual and Gender Minorities
University of Edinburgh（爱丁堡大学）
本研究基于刻板印象内容模型，发现LLMs在调查问答和文本生成中均会复现对性与性别少数群体更负面的刻板印象，加剧创意写作中的表征性伤害。
2025-09-24 cs.CL
The Cinderella Complex: Word Embeddings Reveal Gender Stereotypes in Movies and Books
School of Journalism and Communication, Nanjing University（南京大学新闻传播学院）；School of Systems Science, Beijing Normal University（北京师范大学系统科学学院）；School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院）
我们对数千部电影和书籍的分析揭示了这些文化产品如何将刻板的性别角色编织成道德故事，并通过讲故事使性别不平等永久化。运用词嵌入技术，我们揭示了故事中女性角色对男性角色的建构性情感依赖。
2019-10-15 cs.CL
Counterfactual Data Augmentation for Mitigating Gender Stereotypes in Languages with Rich Morphology
University of Cambridge（剑桥大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft Research（微软研究院）
性别陈规定型观念在世界上大多数语言中都很明显，因此被NLP系统传播或放大。尽管研究的重点是减轻英语中的性别刻板印象，但常用的方法会在形态丰富的语言中产生不合语法的句子。我们提出了一种新的方法，在这些语言中的男性和女性的曲折变化的句子之间的转换。对于西班牙语和希伯来语，我们的方法在标签水平上达到了82%和73%的F1分数，在形式水平上达到了90%和87%的准确度。通过使用四种不同的语言评估我们的方法，我们表明，平均而言，它减少了2.5倍的性别刻板印象，而不牺牲语法。
2020-05-27 cs.CL
Women Are Beautiful, Men Are Leaders: Gender Stereotypes in Machine Translation and Language Modeling
Kempelen Institute of Intelligent Technologies（肯佩伦智能技术研究院）
本文提出GEST数据集，涵盖16种性别刻板印象及10种语言，用于评估语言模型和机器翻译系统，发现模型普遍存在性别刻板推理且规模越大越明显。
2024-09-30 cs.CL
EuroGEST: Investigating gender stereotypes in multilingual language models
University of Edinburgh（爱丁堡大学）；Warsaw University of Technology（华沙技术大学）；Aveni
EuroGEST研究多语言语言模型中的性别刻板印象，通过跨29种欧洲语言的数据集揭示了性别刻板印象的普遍性及模型对刻板印象的编码强度。
2026-02-23 cs.CL
Angry Men, Sad Women: Large Language Models Reflect Gendered Stereotypes in Emotion Attribution
Bocconi University（博科尼大学）；University of Leeds（利兹大学）；Heriot-Watt University（赫瑞瓦特大学）
本研究首次系统评估五种大型语言模型在情绪归因中的性别刻板印象，发现模型一致反映性别化情绪，与心理学研究一致，并探讨了其社会影响及预测性应用的局限。
2024-05-28 cs.CL
Politeness Stereotypes and Attack Vectors: Gender Stereotypes in Japanese and Korean Language Models
Center for Information and Language Processing (CIS), LMU Munich（慕尼黑大学信息与语言处理中心（CIS））；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML））
该研究针对日语和韩语语言模型，探究礼貌层级相关的语法性别偏见，发现礼貌层级是网络欺凌检测模型的性别偏见攻击向量，并构建攻击数据集以识别偏见、展示攻击方式及缓解分配式偏见，呼吁偏见研究突破英语中心局限。
2023-06-16 cs.AI cs.CL cs.CY
The LLM Wears Prada: Analysing Gender Bias and Stereotypes through Online Shopping Data
University of Trento（特伦托大学）
本研究通过在线购物数据分析大语言模型中的性别偏见，发现模型在性别预测中受刻板印象影响，且减少偏见指令只能降低预测确定性，无法消除刻板印象模式。
2025-12-11 cs.AI cs.CL cs.CY
Evaluating Large Language Models through Gender and Racial Stereotypes
Georgia Institute of Technology（佐治亚理工学院）
本研究建立评估框架，在专业背景下对比分析大型语言模型的性别和种族偏见，发现新模型中性别偏见大幅减少但种族偏见依然存在。
2023-11-24 cs.AI cs.CL cs.CY
Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts
University of California, Los Angeles（加州大学洛杉矶分校）；Northeastern University（东北大学）
本文研究语言模型在理解故事时是否受习得的性别刻板印象影响，通过反事实数据增强探讨模型对性别刻板印象扰动的响应，发现模型在测试集上对性别扰动敏感，但经过反事实训练后更鲁棒。
2025-04-01 cs.CL
A Stereotype Content Analysis on Color-related Social Bias in Large Vision Language Models
Department of Artificial Intelligence, Chung-Ang University（人工智能系， Chung-Ang 大学）
针对大型视觉语言模型（LVLMs）的刻板印象评估在实词和颜色影响上的局限，本研究提出基于SCM的新评估指标和BASIC基准，对8个LVLMs进行测试，发现模型存在颜色、性别和种族刻板印象，且架构与参数规模的交互作用对此有影响。
2025-05-27 cs.AI cs.CL
Shirtless and Dangerous: Quantifying Linguistic Signals of Gender Bias in an Online Fiction Writing Community
Stanford University（斯坦福大学）
想象一下，一位公主在城堡里熟睡，等待着她的王子杀死龙来拯救她。像著名的《睡美人》这样的故事显然划分了性别角色。但是更现代的故事呢？这些故事是由越来越意识到性别歧视和种族主义等社会结构的一代人所产生的。这些故事是倾向于强化性别刻板印象，还是对抗它们？在本文中，我们提出了一种技术，结合自然语言处理与众包的刻板印象词汇捕捉小说中的性别偏见。我们将这种技术应用于来自Wattpad在线写作社区的18亿字小说，调查故事中的性别代表性，男性和女性角色的行为和描述，以及作者如何使用性别刻板印象与社区的评级相关。我们发现，男性的过度代表性和传统的性别陈规定型观念（例如，占主导地位的男人和顺从的女人）在我们的语料库中几乎每一种体裁中都很常见。然而，只有一些刻板印象，如性或暴力的男人，与高评价的故事有关。最后，尽管妇女往往是负面陈规定型观念的目标，但女作家与男子一样有可能写出这种陈规定型观念。
2016-03-29 cs.CL cs.SI
Mitigating Gender Stereotypes in Hindi and Marathi
Manipal Institute of Technology（马尼帕尔理工学院）；MAHE（马尼帕尔高等教育学院）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
随着自然语言处理在我们日常生活中的使用越来越多，解决这些系统中固有的性别偏见的需求也越来越大。这是因为在执行机器翻译等任务时，固有的偏见会干扰这些系统输出的语义结构。虽然研究是在英语中进行量化和减轻偏见，印度语言中的去偏见方法要么相对新生，要么完全没有一些印度语言。大多数印度语言都是有性别的，即，每个名词都根据每种语言的语法规则被赋予一个性。因此，评价不同于用英语进行的评价。本文评估了印地语和马拉地语中的性别刻板印象。这些方法将不同于英语中的方法，因为在某些单词中有阳性和阴性对应物。我们建立了一个中性和性别的职业词，情感词和测量偏见的嵌入连贯性测试（ECT）和相对范数距离（RND）的帮助下的数据集。我们也试图减轻这种偏见的嵌入。实验表明，我们提出的去偏见技术减少这些语言中的性别偏见。
2022-05-12 cs.CL
Probing Gender Bias in Multilingual LLMs: A Case Study of Stereotypes in Persian
University of Tehran（德黑兰大学）；Tehran Institute for Advanced Studies（德黑兰高等研究院）
本研究提出基于模板的探测方法和DS-GSI指标，评估四个多语言大模型在波斯语中的性别刻板印象，发现所有模型均存在偏见且波斯语差异大于英语，体育领域最严重。
2025-09-24 cs.CL
Disclosure and Mitigation of Gender Bias in LLMs
Texas A&M University（得克萨斯农工大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
提出基于条件生成的间接探测框架，揭示LLMs中无显式性别提及时的显式与隐式偏见，并通过超参数调整、指令引导和去偏调整三种方法有效缓解偏见。
2024-02-17 cs.CL
Quantifying and Reducing Stereotypes in Word Embeddings
Boston University（波士顿大学）；Microsoft Research New England（微软新英格兰研究院）
优化机器学习算法以模拟训练数据的统计特性。如果输入数据反映了更广泛社会的刻板印象和偏见，那么学习算法的输出也会捕捉到这些刻板印象。在本文中，我们开始在{ \em词嵌入}，一个流行的框架来表示文本数据的性别刻板印象的研究。随着它们的使用变得越来越普遍，应用程序可能会无意中放大不必要的刻板印象。我们在多个数据集上显示，嵌入包含显著的性别刻板印象，特别是在职业方面。我们创建了一个新的性别类比任务，并将其与众包相结合，以系统地量化给定嵌入中的性别偏见。我们开发了一种有效的算法，减少性别刻板印象，只使用少数训练样本，同时保留有用的几何属性的嵌入。我们在几个指标上评估了我们的算法。虽然我们专注于男性/女性的刻板印象，我们的框架可能适用于其他类型的嵌入偏见。
2016-06-20 cs.CL cs.LG stat.ML
GOSt-MT: A Knowledge Graph for Occupation-related Gender Biases in Machine Translation
National Technical University of Athens（雅典国立技术大学）；Panteion University of Social and Political Sciences（潘泰翁社会政治大学）；National and Kapodistrian University of Athens（雅典国立卡波迪斯特里安大学）
本文提出GOSt-MT知识图谱，整合真实劳动力性别统计与机器翻译训练语料，用于分析英语、法语和希腊语中职业相关性别偏见，以推动机器翻译系统更加公平。
2024-10-04 cs.AI cs.CL
Gender stereotypes in the mediated personalization of politics: Empirical evidence from a lexical, syntactic and sentiment analysis
媒体对名人和重要人物的个人领域的关注已成为性别叙事的一个关键因素。在这里，我们结合词汇，句法和情感分析，调查性别在2017年至2020年期间在意大利的广泛的政治职位持有人的个性化的作用。的分数的基础上，介绍了占代表性和新闻报道的性别不平衡的话，我们表明，在意大利的政治个性化是更有害的妇女比男性，与根深蒂固的陈规定型观念，包括男性内涵的领导，由此产生的妇女不适合举行政治职能，并更多地关注他们的吸引力和身体部位。此外，在报告个人细节时，女政治家比男政治家更容易受到负面影响。此外，对观察到的性别差异的主要贡献来自在线新闻，而不是印刷新闻，这表明当点击诱饵和个人目标产生重大影响时，某些陈规定型观念的表达可能会更好地传达。
2022-04-13 cs.CL cs.SI
Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation
Texas A&M University（德克萨斯A&M大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文提出无需预定义性别短语和刻板印象的条件文本生成机制，通过三类输入和显隐性指标评估LLM性别偏见，发现模型增大未必提升公平性且所有被测模型均存在显性或隐性偏见。
2023-11-01 cs.CL
Fewer Errors, but More Stereotypes? The Effect of Model Size on Gender Bias
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
预训练模型的大小正在增加，它们在各种NLP任务上的性能也在增加。然而，随着他们记忆能力的增强，他们可能会发现更多的社会偏见。在这项工作中，我们研究模型大小和性别偏见（特别是职业性别偏见）之间的联系。我们在两种设置中测量三个掩蔽语言模型家族（RoBERTa，DeBERTa和T5）的偏差：直接使用基于提示的方法，和使用下游任务（Winogender）。我们发现，一方面，较大的模型在前一项任务中获得更高的偏见分数，但在后一项任务中，它们的性别错误较少。为了检验这些可能相互矛盾的结果，我们仔细研究了Winogender上不同模型的行为。我们发现，虽然较大的模型表现优于较小的模型，但它们的错误由性别偏见引起的概率更高。此外，我们发现，与反刻板印象错误相比，刻板印象错误的比例随着模型大小的增加而增加。我们的研究结果强调了增加模型大小可能带来的潜在风险。
2022-06-20 cs.CL
When Stereotypes GTG: The Impact of Predictive Text Suggestions on Gender Bias in Human-AI Co-Writing
University of Maryland（马里兰大学）
研究探讨了预测文本建议对人类-人工智能共写中性别偏见的影响，发现挑战刻板印象的建议可能增加反刻板印象故事的比例，但刻板印象叙事仍占主导，表明技术去偏见效果有限。
2026-02-18 cs.CL
Gender Bias in LLM-generated Interview Responses
Rutgers University（罗格斯大学）；University of Pittsburgh（匹兹堡大学）；Korea University（高丽大学）；Korean National Police University（韩国警察大学）；Ewha Womans University（梨花女子大学）
本研究评估GPT-3.5、GPT-4、Claude三个LLM生成的面试回答，发现其性别偏见与性别刻板印象及岗位主导性高度一致，为系统检查该类偏见并推动相关应用的偏见缓解提供了依据。
2024-11-28 cs.AI cs.CL
Gender Stereotypes in Professional Roles Among Saudis: An Analytical Study of AI-Generated Images Using Language Models
Imam Mohammad Ibn Saud Islamic University（伊玛目穆罕默德·本·沙特伊斯兰大学）；King Saud University（沙特国王大学）
本研究分析沙特职业AI生成图像，发现三个模型存在严重性别失衡（男性占比85%-96%），且文化不准确，反映训练数据中的社会偏见，需多样化数据与公平算法。
2025-09-25 cs.AI cs.CL cs.CV
Social-Group-Agnostic Word Embedding Debiasing via the Stereotype Content Model
University of Southern California（南加州大学）
现有的词嵌入去偏置方法需要社会群体特定的词对（例如，“男人”-“女人”）的每个社会属性（例如，性别），这不能用于减轻对其他社会群体的偏见，使得这些方法不切实际或成本高昂，以将未充分研究的社会群体纳入去偏见。我们建议，刻板印象内容模型（SCM），在社会心理学中开发的理论框架，了解刻板印象的内容，结构刻板印象的内容沿两个心理维度-“温暖”和“能力”-可以帮助去偏见的努力，成为社会群体不可知论通过捕捉偏见和刻板印象之间的潜在联系。只使用成对的温暖术语（例如，“真的”-“假的”）和能力（例如，“聪明”-“愚蠢”），我们用既定的方法进行去偏置，并发现，在性别，种族和年龄上，基于SCM的去偏置执行与特定于组的去偏置相同的去偏置
2022-10-11 cs.AI cs.CL cs.LG
WMT24 Test Suite: Gender Resolution in Speaker-Listener Dialogue Roles
Digital Technologies Research Centre（数字技术研究中心）；National Research Council Canada (NRC-CNRC)（加拿大国家研究委员会）
本研究评估文学对话中性别消解的难度，发现外部元上下文中的角色与说话方式刻板印象显著影响对话内指代对象的性别一致性。
2024-11-09 cs.CL
Unmasking Contextual Stereotypes: Measuring and Mitigating BERT's Gender Bias
University of Groningen（格罗宁根大学）；University of Malta（马耳他大学）
语境化的词嵌入已经取代标准嵌入，成为NLP系统中选择的表征性知识源。由于之前在标准词嵌入中发现了各种偏见，因此评估其替换中编码的偏见也至关重要。关注BERT（Devlin等人，2018），我们通过研究英语和德语中表示性别的目标词与职业名称之间的关联来衡量性别偏见，并将研究结果与现实世界的劳动力统计数据进行比较。我们通过在GAP语料库上微调BERT来减轻偏差（Webster等人，2018），在应用反事实数据替代（CDS）（Maudslay等人，2019年）。我们表明，我们的方法测量偏见是适当的语言，如英语，但不适合语言丰富的形态和性别标记，如德语。我们的研究结果强调了跨语言调查偏见和缓解技术的重要性，特别是考虑到目前对大规模，多语言语言模型的重视。
2020-10-27 cs.CL
Diagnosing the Performance Trade-off in Moral Alignment: A Case Study on Gender Stereotypes
Michigan State University（密歇根州立大学）；University of Mississippi（密苏里大学）；Northeastern University（东北大学）
本文通过分析性别刻板印象缓解中的性能权衡，发现当前公平性目标存在局限，整体遗忘与下游任务性能密切相关，选择性遗忘无法有效降低整体遗忘。
2025-11-19 cs.CL
Evaluation of Large Language Models: STEM education and Gender Stereotypes
Technical University of Denmark（丹麦技术大学）；High5Girls；Danish Data Science Academy（丹麦数据科学学院）
本文采用贴近真实场景的开放式提示与定量分析，在四种语言文化背景下评估ChatGPT面向10至16岁学生的教育建议，发现其STEM职业推荐存在显著性别偏见。
2024-06-14 cs.AI cs.CL
Local Contrastive Editing of Gender Stereotypes
University of Mannheim（曼海姆大学）；University of Amsterdam（阿姆斯特丹大学）；University of Mannheim, GESIS, CSH Vienna（曼海姆大学、GESIS、维也纳CSH）；University of Hamburg（汉堡大学）
本文提出局部对比编辑方法，通过对比参考模型定位并编辑语言模型中编码性别刻板印象的少量权重（<0.5%），以精确控制性别偏差，并推动参数高效模型属性控制策略的发展。
2024-10-23 cs.CL cs.CY
An Empirical Study of Gendered Stereotypes in Emotional Attributes for Bangla in Multilingual Large Language Models
Bangladesh University of Engineering and Technology (BUET)（孟加拉工程技术大学）
本研究首次针对闭源与开源大语言模型，全面调查孟加拉语语境下的性别情感归因偏见，证实该类偏见存在并揭示其随性别角色选择的变化规律，公开相关资源以支持孟加拉语NLP研究。
2024-07-08 cs.CL
Are Models Biased on Text without Gender-related Language?
University of California Irvine（加州大学欧文分校）
本文提出 UnStereoEval 框架，在无性别相关语言的场景中评估模型性别偏见，发现 28 个模型仅在 9%-41% 的句子中表现公平，表明偏见并非仅源于性别词汇。
2024-05-01 cs.AI cs.CL cs.CV
Word Embeddings Quantify 100 Years of Gender and Ethnic Stereotypes
Stanford University（斯坦福大学）
词嵌入使用向量来表示词，使得向量之间的几何形状捕获词之间的语义关系。在本文中，我们开发了一个框架，以展示如何嵌入的时间动态可以利用量化的变化，在20世纪和21世纪的美国对妇女和少数民族的刻板印象和态度。我们将100年文本数据训练的词嵌入与美国人口普查相结合，以表明嵌入的变化与人口和职业的变化密切相关。嵌入捕捉全球社会变化-例如，20世纪60年代的妇女运动和亚洲移民到美国--也阐明了具体的形容词和职业是如何随着时间的推移与某些人群联系得更紧密的。我们的词嵌入的时间分析框架开辟了机器学习和定量社会科学之间的一个强大的新的交叉点。
2017-11-22 cs.CL cs.CY
Language, communication and society: a gender based linguistics analysis
National Research Council of Italy（意大利国家研究委员会）；Institute of Intelligent Systems for Automation – Genoa branch（智能系统自动化研究所热那亚分部）；Institute of Electronics, Computer and Telecommunication Engineering – Genoa branch（电子、计算机与通信工程研究所热那亚分部）
本研究的目的是寻找证据支持这一假设，即语言是我们的思想，我们的偏见和文化成见的镜子。在这项分析中，对537人进行了问卷调查。对回答进行了分析，以确定是否存在性别陈规定型观念，例如心理和行为特征的归属。特别是，其目的是查明在界定现代社会男女角色时出现的定型形象。此外，给出的结果可以作为一个很好的起点，以了解性别陈规定型观念及其产生的期望是否会导致惩罚或不平等。如果是这样的话，这种语言及其使用本身就会产生性别偏见，影响工作环境和日常生活中的评价。
2020-07-14 cs.CL cs.CY
Quantifying Gender Bias in Consumer Culture
Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
歌曲等文化项目在创造和加强陈规定型观念、偏见和歧视方面具有重要影响。但这些项目的实际性质往往不那么透明。以歌曲为例。歌词对女性有偏见吗？随着时间的推移，这些偏见是如何改变的？自然语言处理对50年来25万首歌曲进行了量化。女性不太可能与理想的特征（即，虽然这种偏见已经减少，但它仍然存在。辅助分析进一步表明，歌词可能有助于推动社会对女性的刻板印象的转变，而抒情的转变是由男性艺术家推动的（因为女性艺术家一开始就没有那么偏见）。总的来说，这些结果揭示了文化进化，偏见和歧视的微妙措施，以及自然语言处理和机器学习如何更深入地了解刻板印象和文化变革。
2022-01-10 cs.CL
Breaking Language Barriers or Reinforcing Bias? A Study of Gender and Racial Disparities in Multilingual Contrastive Vision Language Models
Queen Mary University of London（伦敦大学玛丽女王学院）；Institut Jožef Stefan（乔泽夫·斯蒂芬研究所）
本文首次系统审计四种公开多语言CLIP变体的种族与性别偏见，发现多语言性未缓解偏见反而存在刻板印象跨语言迁移等问题，指出需开展语言感知的细粒度偏见评估。
2025-11-18 cs.CL cs.LG
An Empirical Investigation of Gender Stereotype Representation in Large Language Models: The Italian Case
Politecnico di Torino（都灵理工大学）
本文通过意大利语职业层级提示实验，测试ChatGPT与Gemini的性别职业偏见，发现二者均显著将女性代词关联于低层职位。
2025-07-25 cs.AI cs.CL cs.CY
Acmite: Mitigating Gender Bias in LLMs through Concept-Guided Mutual Information
Kyoto University（京都大学）；Zhejiang University（浙江大学）；Shanghai Jiao Tong University（上海交通大学）；Inner Mongolia University（内蒙古大学）
提出Acmite框架，通过概念引导和互信息最小化，实现对大语言模型性别偏见的选择性去偏，在保持通用能力的同时有效降低偏见。
2026-10-02 cs.CL
Don't Forget About Pronouns: Removing Gender Bias in Language Models Without Losing Factual Gender Information
Institute of Formal and Applied Linguistics, Faculty of Mathematics and Physics（数学与物理学院形式与应用语言学研究所）；Charles University（查理大学）
大语言模型中的表示包含多种类型的性别信息。我们专注于两种类型的此类信号在英语文本：事实性别信息，这是一个语法或语义属性，性别偏见，这是一个词和特定性别之间的相关性。我们可以解开模型的嵌入，并通过探测识别编码两种类型信息的组件。我们的目标是在保留事实性别信号的同时，减少陈述中的陈规定型偏见。我们的过滤方法表明，它是可能的，以减少性别中立的专业名称的偏见，而不会显着恶化的语言建模能力。研究结果可以应用到语言生成，以减少依赖的定型观念，同时保持性别协议的共指。
2022-06-21 cs.AI cs.CL
Evaluating Gender Bias in Natural Language Inference
Walmart Labs（沃尔玛实验室）；SAP Labs（思爱普实验室）；McGill University（麦吉尔大学）；Facebook AI Research（脸书人工智能研究）
性别偏见的刻板印象最近引起了自然语言处理的重大伦理问题。然而，在检测和评估性别偏见的自然语言理解，通过推理的进展是有限的，需要进一步调查。在这项工作中，我们提出了一种评估方法来衡量这些偏见，通过构建一个挑战性的任务，涉及配对性别中立的前提对性别特定的假设。我们使用我们的挑战任务，调查国家的最先进的NLI模型的存在下，性别刻板印象使用的职业。我们的研究结果表明，在MNLI和SNLI数据集上训练的三个模型（BERT，RoBERTa，BART）明显容易出现性别引起的预测错误。我们还发现，在某些情况下，诸如增加训练数据集以确保性别平衡的数据集等去偏置技术可以帮助减少这种偏见。
2021-05-12 cs.CL cs.LG
REFINE-LM: Mitigating Language Model Stereotypes via Reinforcement Learning
ADAPT Centre, Trinity College Dublin（都柏林圣三一学院ADAPT中心）；CRIL CNRS, Univ Artois（阿尔图瓦大学CRIL法国国家科学研究中心）；INRIA/IRISA Rennes（雷恩INRIA/IRISA研究所）；U. Lorraine, CNRS, LORIA（洛林大学法国国家科学研究中心LORIA研究所）；U. Lisboa, INESC-I（里斯本大学INESC-I研究所）
针对语言模型存在的多类刻板印象偏差问题，提出无需微调、标注少、成本低的REFINE-LM强化学习去偏方法，可在保留模型性能的同时有效降低多类偏差。
2024-08-18 cs.AI cs.CL
Hire Me or Not? Examining Language Model's Behavior with Occupation Attributes
Purdue University（普渡大学）
本文通过多轮问答框架考察了三个大型语言模型在职业决策中的性别刻板印象行为，发现所有模型均表现出类似人类偏见的刻板印象，且现有校准方法可能引入新偏见。
2025-01-21 cs.CL
Assumed Identities: Quantifying Gender Bias in Machine Translation of Gender-Ambiguous Occupational Terms
School of Electrical and Computer Engineering, National Technical University of Athens（电气与计算机工程学院，国家技术大学雅典）；Instituto de Telecomunicações（电信研究所）；Department of Social Policy, Panteion University of Social and Political Sciences（社会政策系，帕内翁社会与政治科学大学）
本文提出基于概率的指标GRAPE和基准数据集GAMBIT，用于量化机器翻译系统在处理性别模糊职业术语时的系统性性别偏见，并评估其在希腊语和法语中的表现。
2025-09-22 cs.CL
Generalizing Fairness to Generative Language Models via Reformulation of Non-discrimination Criteria
Technical University of Denmark（丹麦技术大学）
本文将分类任务中的独立性、分离性和充分性三个非歧视准则重构为生成式人工智能版本，通过聚焦职业性别刻板印象的提示设计，揭示并量化了对话式语言模型中存在的职业性别偏见。
2024-09-02 cs.AI cs.CL cs.HC
Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example
本研究以GPT-4生成的六学科高等教育教师评价为对象，通过多维度分析框架揭示LLM文本中存在符合社会刻板印象的性别语言关联模式，验证了其生成内容会反映现有社会偏见。
2024-09-15 cs.CL
Gender bias and stereotypes in Large Language Models
Apple（苹果公司）；MIT（麻省理工学院）；Swarthmore College（斯沃斯莫尔学院）
本文测试四个大型语言模型，发现它们在选择职业时存在性别偏见，比感知和实际情况更严重，且常忽略歧义并提供不准确解释，强调需公平对待少数群体。
2023-08-28 cs.CL cs.CY cs.LG
Multilingual Text-to-Image Generation Magnifies Gender Stereotypes and Prompt Engineering May Not Help You
TU Darmstadt（图宾根大学）；Ontocord（Ontocord公司）；Technical University of Munich (TUM)（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；CERTAIN（CERTAIN公司）；DFKI（德意志联邦防务研究院）；Charles University Prague（布拉格查理大学）；Centre for Cognitive Science, Darmstadt（达姆施塔特认知科学中心）；Munich Data Science Institute（慕尼黑数据科学研究所）
本文提出多语言性别偏见基准MAGBIG，发现多语言文本到图像模型不仅存在显著的性别刻板印象，且不同语言间表现差异显著，而提示工程策略缓解偏见效果有限并损害文本对齐。
2025-06-02 cs.CL cs.CY cs.LG
Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts
Johns Hopkins University（约翰斯·霍普金斯大学）；Northeastern Illinois University（东北伊利诺伊大学）
本研究通过新数据集DeMET Prompts，从决策视角调查LLMs在亲密关系场景中的性别公平性，发现模型普遍偏袒女性，但安全护栏能减少偏见，且模型倾向于规避男性主导刻板印象。
2024-10-14 cs.CL
Mitigating Gender Bias in English to Romanian Machine Translation
Human Language Technologies Research Center（人类语言技术研究中心）；Faculty of Mathematics and Computer Science（数学与计算机科学学院）；University of Bucharest（布加勒斯特大学）
该研究提出结合LLM性别分类与Transformer翻译的混合流水线，引入新数据集，使英罗机器翻译在WinoMT等基准上性别准确率提升超40个百分点，为缓解该领域性别偏差提供新方法。
2026-08-11 cs.AI cs.CL
