Gender bias and stereotypes in Large Language Models
Apple（苹果公司）；MIT（麻省理工学院）；Swarthmore College（斯沃斯莫尔学院）
本文测试四个大型语言模型，发现它们在选择职业时存在性别偏见，比感知和实际情况更严重，且常忽略歧义并提供不准确解释，强调需公平对待少数群体。
2023-08-28 cs.CL cs.CY cs.LG
Investigating Gender Bias in LLM-Generated Stories via Psychological Stereotypes
Johannes Kepler University (JKU)（约翰内斯·开普勒大学）；Linz Institute of Technology (LIT)（林茨技术研究所）；University of Innsbruck（因斯布鲁克大学）
本研究通过心理刻板印象在叙事生成中探究大语言模型的性别偏见，提出StereoBias-Stories数据集，发现属性条件化可缓解偏见，组合属性加剧或缓解偏见，且模型偏见与心理真实情况一致。
2025-08-05 cs.AI cs.CL
Probing Gender Bias in Multilingual LLMs: A Case Study of Stereotypes in Persian
University of Tehran（德黑兰大学）；Tehran Institute for Advanced Studies（德黑兰高等研究院）
本研究提出基于模板的探测方法和DS-GSI指标，评估四个多语言大模型在波斯语中的性别刻板印象，发现所有模型均存在偏见且波斯语差异大于英语，体育领域最严重。
2025-09-24 cs.CL
Are Models Biased on Text without Gender-related Language?
University of California Irvine（加州大学欧文分校）
本文提出 UnStereoEval 框架，在无性别相关语言的场景中评估模型性别偏见，发现 28 个模型仅在 9%-41% 的句子中表现公平，表明偏见并非仅源于性别词汇。
2024-05-01 cs.AI cs.CL cs.CV
Disclosure and Mitigation of Gender Bias in LLMs
Texas A&M University（得克萨斯农工大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
提出基于条件生成的间接探测框架，揭示LLMs中无显式性别提及时的显式与隐式偏见，并通过超参数调整、指令引导和去偏调整三种方法有效缓解偏见。
2024-02-17 cs.CL
Investigating Gender Stereotypes in Large Language Models via Social Determinants of Health
Nantes Université, École Centrale Nantes, CNRS, LS2N, UMR 6004（南特大学，中央理工学院，国家科学研究中心，LS2N，UMR 6004）；Nantes Université, CHU Nantes, Clinique des données, INSERM, CIC 1413（南特大学，南特大学医院，数据诊所，国家健康与医学研究院，CIC 1413）
本研究通过分析法语患者记录中的性别与社会健康决定因素的关系，揭示了LLM在性别决策中依赖嵌入刻板印象的现象，并提出评估SDoH因素相互作用以补充现有偏见评估方法。
2026-03-10 cs.AI cs.CL
More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models
Computer Science and Information Engineering（计算机科学与信息工程系）
本研究通过自由叙事揭示大型语言模型中的性别偏见，发现其在职业性别分布上更接近人类刻板印象，而非现实数据，强调了平衡缓解措施的重要性。
2026-03-09 cs.AI cs.CL
Diagnosing the Performance Trade-off in Moral Alignment: A Case Study on Gender Stereotypes
Michigan State University（密歇根州立大学）；University of Mississippi（密苏里大学）；Northeastern University（东北大学）
本文通过分析性别刻板印象缓解中的性能权衡，发现当前公平性目标存在局限，整体遗忘与下游任务性能密切相关，选择性遗忘无法有效降低整体遗忘。
2025-11-19 cs.CL
An Empirical Study of Gendered Stereotypes in Emotional Attributes for Bangla in Multilingual Large Language Models
Bangladesh University of Engineering and Technology (BUET)（孟加拉工程技术大学）
本研究首次针对闭源与开源大语言模型，全面调查孟加拉语语境下的性别情感归因偏见，证实该类偏见存在并揭示其随性别角色选择的变化规律，公开相关资源以支持孟加拉语NLP研究。
2024-07-08 cs.CL
An Empirical Investigation of Gender Stereotype Representation in Large Language Models: The Italian Case
Politecnico di Torino（都灵理工大学）
本文通过意大利语职业层级提示实验，测试ChatGPT与Gemini的性别职业偏见，发现二者均显著将女性代词关联于低层职位。
2025-07-25 cs.AI cs.CL cs.CY
Protected group bias and stereotypes in Large Language Models
Apple（苹果公司）；MIT（麻省理工学院）；University of Manchester（曼彻斯特大学）
本文研究了大型语言模型在伦理和公平性领域的受保护群体偏见，通过收集并人工标注超过1万个句子补全，发现模型不仅反映且放大了社会偏见，并在回复少数群体查询时过度谨慎，强调多样性而掩盖其他特征。
2024-03-21 cs.CL cs.CY cs.LG
Acmite: Mitigating Gender Bias in LLMs through Concept-Guided Mutual Information
Kyoto University（京都大学）；Zhejiang University（浙江大学）；Shanghai Jiao Tong University（上海交通大学）；Inner Mongolia University（内蒙古大学）
提出Acmite框架，通过概念引导和互信息最小化，实现对大语言模型性别偏见的选择性去偏，在保持通用能力的同时有效降低偏见。
2026-10-02 cs.CL
Hire Me or Not? Examining Language Model's Behavior with Occupation Attributes
Purdue University（普渡大学）
本文通过多轮问答框架考察了三个大型语言模型在职业决策中的性别刻板印象行为，发现所有模型均表现出类似人类偏见的刻板印象，且现有校准方法可能引入新偏见。
2025-01-21 cs.CL
Gender Bias in LLM-generated Interview Responses
Rutgers University（罗格斯大学）；University of Pittsburgh（匹兹堡大学）；Korea University（高丽大学）；Korean National Police University（韩国警察大学）；Ewha Womans University（梨花女子大学）
本研究评估GPT-3.5、GPT-4、Claude三个LLM生成的面试回答，发现其性别偏见与性别刻板印象及岗位主导性高度一致，为系统检查该类偏见并推动相关应用的偏见缓解提供了依据。
2024-11-28 cs.AI cs.CL
Who is better at math, Jenny or Jingzhen? Uncovering Stereotypes in Large Language Models
School of Computer Science and Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院）；AMPLYFI（AMPLYFI公司）
本研究提出包含87.6万条句子、覆盖40个性别-族裔群体的GlobalBias数据集，通过困惑度探测和人物生成实验发现大语言模型存在跨群体一致性刻板印象，且模型规模越大刻板印象输出越显著。
2024-10-09 cs.CL cs.CY
Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example
本研究以GPT-4生成的六学科高等教育教师评价为对象，通过多维度分析框架揭示LLM文本中存在符合社会刻板印象的性别语言关联模式，验证了其生成内容会反映现有社会偏见。
2024-09-15 cs.CL
A Taxonomy of Stereotype Content in Large Language Models
Rutgers University（罗格斯大学）；University of Washington（华盛顿大学）
本研究通过提示三个主流 LLMs 对 87 个社会类别的特征关联，构建了包含 14 个维度的刻板印象分类体系，并验证了该多维分类体系能预测模型内部评价，为 AI 审计与去偏提供了更全面的框架。
2024-07-31 cs.AI cs.CL cs.CY
Evaluation of Large Language Models: STEM education and Gender Stereotypes
Technical University of Denmark（丹麦技术大学）；High5Girls；Danish Data Science Academy（丹麦数据科学学院）
本文采用贴近真实场景的开放式提示与定量分析，在四种语言文化背景下评估ChatGPT面向10至16岁学生的教育建议，发现其STEM职业推荐存在显著性别偏见。
2024-06-14 cs.AI cs.CL
Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts
Johns Hopkins University（约翰斯·霍普金斯大学）；Northeastern Illinois University（东北伊利诺伊大学）
本研究通过新数据集DeMET Prompts，从决策视角调查LLMs在亲密关系场景中的性别公平性，发现模型普遍偏袒女性，但安全护栏能减少偏见，且模型倾向于规避男性主导刻板印象。
2024-10-14 cs.CL
Divine LLaMAs: Bias, Stereotypes, Stigmatization, and Emotion Representation of Religion in Large Language Models
Bocconi University（博科尼大学）；University of Leeds（利兹大学）
本研究通过情感归因探究大语言模型中的宗教表征，发现欧美宗教表征更细致、东方宗教存刻板印象、犹太教与伊斯兰教遭污名化，归因于文化偏见与相关NLP研究匮乏，凸显纠正偏见的紧迫性。
2024-07-09 cs.CL cs.CY
Seeds of Stereotypes: A Large-Scale Textual Analysis of Race and Gender Associations with Diseases in Online Sources
Aarhus University（奥胡斯大学）；Massachusetts Institute of Technology（麻省理工学院）；University of Alberta（阿尔伯塔大学）；University of Manitoba（曼尼托巴大学）；Mbarara University of Science and Technology（姆巴拉拉科技大学）；Fundacion Arturo Lopez Perez（阿图罗·洛佩斯·佩雷斯基金会）；Mass General Brigham（麻省总医院布里格姆）；Harvard Medical School（哈佛医学院）；Dana-Farber Cancer Institute（丹娜-法伯癌症研究所）；Emory University School of Medicine（埃默里大学医学院）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Harvard T.H. Chan School of Public Health（哈佛大学陈曾熙公共卫生学院）
本文通过分析 Arxiv、Wikipedia 和 Common Crawl 中18种疾病与种族、性别术语的共现，并对比患病率与 GPT-4 输出，揭示在线文本及 LLM 预训练数据中的人口统计学偏见。
2024-05-08 cs.CL
Profiling Bias in LLMs: Stereotype Dimensions in Contextual Word Embeddings
TUM School of Computation, Information and Technology（慕尼黑工业大学计算、信息与技术学院）；Technical University of Munich（慕尼黑工业大学）
该研究针对大语言模型存在偏见的问题，提出基于社会心理学词典的刻板印象维度偏见剖析方法，分析12种大模型上下文嵌入的跨层跨语境性别偏见，可直观揭示和可视化模型偏见。
2025-01-11 cs.CL
AfriStereo: A Culturally Grounded Dataset for Evaluating Stereotypical Bias in Large Language Models
AfriStereo通过构建基于非洲文化的数据集，评估大型语言模型中的刻板印象偏见，揭示了模型在性别、年龄、职业等维度上的系统性偏见。
2025-11-27 cs.AI cs.CL cs.LG
Personality Shapes Gender Bias in Persona-Conditioned LLM Narratives Across English and Hindi: An Empirical Investigation
Politecnico di Milano（米兰理工学院）；Apple（苹果公司）；Meta
本研究探讨了在英语和印地语中，人物条件化大语言模型叙事中的性别偏见如何受到性格特征的影响，发现性格特质与性别偏见的幅度和方向显著相关，特别是黑暗三联体性格特质与性别刻板印象的表示更相关，但这些关联在不同模型和语言中有所变化。
2026-06-04 cs.CL
Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws
Virginia Tech（弗吉尼亚理工大学）
本文提出通过指令微调解决理解缺陷，在不使用显式去偏技术的情况下，将生成模型在国籍、年龄等维度上的刻板印象输出减少超过60%，并强调区分偏见与任务缺陷的重要性。
2024-12-16 cs.CL cs.LG
Gender bias across LLMs is common and highly heterogeneous
University of Milan-Bicocca（米兰比可卡大学）
本研究通过两项实验评估十个LLM的性别偏见，发现偏见普遍存在但方向和程度高度异质，强调偏见审计需持续进行并覆盖多供应商。
2026-10-01 cs.AI cs.CL cs.CY
Symphony of Bias: Exploring Gender Associations with Musical Instruments in Multimodal LLMs
Amirkabir University of Technology（阿米尔卡比尔理工大学）；King’s College London（伦敦国王学院）；University of Tehran（德黑兰大学）；Bocconi University（博科尼大学）
本研究推出多模态数据集Symphony-Bias，评估多模态模型在乐器性别关联上的偏见，发现多数结果符合社会研究，契合度随文本、视觉、音频依次减弱。
2026-07-30 cs.CL
From Measurement to Mitigation: Exploring the Transferability of Debiasing Approaches to Gender Bias in Maltese Language Models
Department of Artificial Intelligence, University of Malta（人工智能系，马耳他大学）
本文测量马耳他语BERTu和mBERTu模型中的性别偏见，并将英语去偏方法适配到马耳他语进行迁移性研究，揭示现有方法在形态丰富低资源语言上的局限，并创建评估数据集以推动更具包容性的多语言NLP发展。
2025-07-03 cs.CL
Generalizing Fairness to Generative Language Models via Reformulation of Non-discrimination Criteria
Technical University of Denmark（丹麦技术大学）
本文将分类任务中的独立性、分离性和充分性三个非歧视准则重构为生成式人工智能版本，通过聚焦职业性别刻板印象的提示设计，揭示并量化了对话式语言模型中存在的职业性别偏见。
2024-09-02 cs.AI cs.CL cs.HC
Towards Auditing Large Language Models: Improving Text-based Stereotype Detection
University College London（伦敦大学学院）；Holistic AI（Holistic AI公司）
本文提出包含52,751个实例的Multi-Grain Stereotype Dataset和新型英文刻板印象分类器，实验证明多类设置优于一对多二元模型，并利用该模型审计GPT系列模型偏见随时间减少，建立了稳健实用的LLM刻板印象偏见审计框架。
2023-11-23 cs.AI cs.CL cs.CY
Bias and Volatility: A Statistical Framework for Evaluating Large Language Model's Stereotypes and the Associated Generation Inconsistency
Tsinghua University（清华大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；China University of Petroleum (Beijing)（中国石油大学（北京））
提出偏见-波动性框架（BVF），通过分解偏见风险与波动性风险，量化评估大型语言模型生成中的刻板印象及其不一致性，发现偏见风险主导歧视且RLHF降低偏见但增加波动。
2025-05-26 cs.CL cs.CY
The Silicon Ceiling: Auditing GPT's Race and Gender Biases in Hiring
University of Pennsylvania（宾夕法尼亚大学）；Temple University（天普大学）
本研究受传统简历审计启发，对 OpenAI 的 GPT-3.5 在招聘中的种族与性别偏见进行 AI 审计，发现该模型在简历评估和生成中均表现出基于刻板印象的偏见。
2024-11-15 cs.CL cs.CY
Challenging Negative Gender Stereotypes: A Study on the Effectiveness of Automated Counter-Stereotypes
National Research Council Canada（加拿大国家研究委员会）；ifo Institute for Economic Research（ifo经济研究所）；University of Munich（慕尼黑大学）
本研究探讨自动生成反刻板印象以挑战性别刻板印象的十一种策略，发现反事实和普遍化拓宽最有效，且AI生成内容常被视为冒犯或不合理，为未来策略开发提供基础。
2024-04-18 cs.CL cs.CY
Don't Forget About Pronouns: Removing Gender Bias in Language Models Without Losing Factual Gender Information
Institute of Formal and Applied Linguistics, Faculty of Mathematics and Physics（数学与物理学院形式与应用语言学研究所）；Charles University（查理大学）
大语言模型中的表示包含多种类型的性别信息。我们专注于两种类型的此类信号在英语文本：事实性别信息，这是一个语法或语义属性，性别偏见，这是一个词和特定性别之间的相关性。我们可以解开模型的嵌入，并通过探测识别编码两种类型信息的组件。我们的目标是在保留事实性别信号的同时，减少陈述中的陈规定型偏见。我们的过滤方法表明，它是可能的，以减少性别中立的专业名称的偏见，而不会显着恶化的语言建模能力。研究结果可以应用到语言生成，以减少依赖的定型观念，同时保持性别协议的共指。
2022-06-21 cs.AI cs.CL
Intersectional Fairness in Large Language Models
University of Calgary（卡尔加里大学）
本文评估了六个大语言模型在交叉人口属性上的公平性，发现模型在模糊情境中表现良好，但在解歧情境中受刻板印象影响，且跨群体结果分布不均。
2026-09-15 cs.CL
REFINE-LM: Mitigating Language Model Stereotypes via Reinforcement Learning
ADAPT Centre, Trinity College Dublin（都柏林圣三一学院ADAPT中心）；CRIL CNRS, Univ Artois（阿尔图瓦大学CRIL法国国家科学研究中心）；INRIA/IRISA Rennes（雷恩INRIA/IRISA研究所）；U. Lorraine, CNRS, LORIA（洛林大学法国国家科学研究中心LORIA研究所）；U. Lisboa, INESC-I（里斯本大学INESC-I研究所）
针对语言模型存在的多类刻板印象偏差问题，提出无需微调、标注少、成本低的REFINE-LM强化学习去偏方法，可在保留模型性能的同时有效降低多类偏差。
2024-08-18 cs.AI cs.CL
Can we Debias Social Stereotypes in AI-Generated Images? Examining Text-to-Image Outputs and User Perceptions
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Seattle University（西雅图大学）
本研究提出偏见检测规则和SSI指数，审计三个T2I模型，发现初始输出含刻板印象，通过LLM提示优化显著降低偏见，但用户偏好刻板印象图像，需平衡伦理去偏见与上下文相关性。
2025-05-27 cs.AI cs.CL cs.HC
Stereotype Detection in LLMs: A Multiclass, Explainable, and Benchmark-Driven Approach
Holistic AI（霍利斯提克人工智能公司）；University College London（伦敦大学学院）
本文针对LLMs中的刻板印象检测问题，构建了包含51,867个实例的多类MGS数据集，训练并评估了多种规模与架构的微调语言模型分类器，同时结合SHAP、LIME等可解释AI工具验证模型模式，并利用最优分类器对主流LLMs文本生成中的刻板印象进行了基准测试。
2024-11-16 cs.AI cs.CL
Who Gets the Mic? Investigating Gender Bias in the Speaker Assignment of a Speech-LLM
Department of Linguistics（语言学系）；Department of Speech, Music, and Hearing（语音、音乐与听觉系）
本研究通过分析语音大语言模型Bark的说话人分配来探究性别偏见，构建职业和性别色彩词语两个数据集，发现Bark虽无系统性偏见但具有性别意识和一定倾向。
2025-08-19 cs.AI cs.CL
From 'Showgirls' to 'Performers': Fine-tuning with Gender-inclusive Language for Bias Reduction in LLMs
Insight SFI Research Centre for Data Analytics（Insight SFI数据 analytics研究中心）；School of Information and Communication Studies（信息与传播研究学院）；University College Dublin（都柏林大学学院）
本文通过构建包含692个性别排他性术语及中立变体的微调数据集“Tiny Heap”，对三个大语言模型进行性别包容语言微调，有效减少了模型中的性别刻板化倾向。
2024-07-05 cs.CL
Stereotype and Skew: Quantifying Gender Bias in Pre-trained and Fine-tuned Language Models
University College London（伦敦大学学院）
本文提出了两个直观的指标，偏斜和刻板印象，量化和分析的性别偏见存在于上下文语言模型时，解决WinoBias代词决议任务。我们发现的证据表明，性别刻板印象与开箱即用的模型中的性别偏斜近似呈负相关，这表明这两种形式的偏见之间存在权衡。我们研究两种方法来减轻偏见。第一种方法是一种在线方法，它可以有效地以刻板印象为代价来消除偏斜。第二个是受ELMo以前工作的启发，涉及使用增强的性别平衡数据集对BERT进行微调。我们表明，这减少了偏斜和刻板印象相对于其未增强的微调对应。然而，我们发现，现有的性别偏见的基准不完全探测专业偏见的代词决议可能会混淆的交叉相关性，从其他表现形式的性别偏见。我们的代码可以在https://github.com/12kleingordon34/NLP_masters_project上在线获得。
2021-02-16 cs.AI cs.CL cs.LG
Quantifying and Reducing Stereotypes in Word Embeddings
Boston University（波士顿大学）；Microsoft Research New England（微软新英格兰研究院）
优化机器学习算法以模拟训练数据的统计特性。如果输入数据反映了更广泛社会的刻板印象和偏见，那么学习算法的输出也会捕捉到这些刻板印象。在本文中，我们开始在{ \em词嵌入}，一个流行的框架来表示文本数据的性别刻板印象的研究。随着它们的使用变得越来越普遍，应用程序可能会无意中放大不必要的刻板印象。我们在多个数据集上显示，嵌入包含显著的性别刻板印象，特别是在职业方面。我们创建了一个新的性别类比任务，并将其与众包相结合，以系统地量化给定嵌入中的性别偏见。我们开发了一种有效的算法，减少性别刻板印象，只使用少数训练样本，同时保留有用的几何属性的嵌入。我们在几个指标上评估了我们的算法。虽然我们专注于男性/女性的刻板印象，我们的框架可能适用于其他类型的嵌入偏见。
2016-06-20 cs.CL cs.LG stat.ML
Significance of Chain of Thought in Gender Bias Mitigation for English-Dravidian Machine Translation
Research Spark Hub Inc.（研究火花中心公司）；IIIT Hyderabad（印度信息技术研究所海得拉巴分校）
本文研究了英语到达罗毗荼语系机器翻译中的性别偏见，发现思维链处理能显著降低泰卢固语和卡纳达语翻译中的偏见，并强调需采取语言特定策略以提升公平性。
2024-06-03 cs.AI cs.CL
Good Secretaries, Bad Truck Drivers? Occupational Gender Stereotypes in Sentiment Analysis
Stanford University（斯坦福大学）；UC Irvine（加州大学欧文分校）
在这项工作中，我们调查职业性别刻板印象的存在下，情感分析模型。这样的任务对减少这些模型中的隐含偏差有意义，这些模型正被应用于越来越广泛的下游任务。我们发布了一个新的性别平衡的数据集的800个句子有关的特定职业，并提出了一种方法，使用它作为一个测试台来评估情感分析模型。我们评估职业性别刻板印象的存在，在3个不同的模型，使用我们的方法，并探讨其与社会的职业观念的关系。
2019-07-13 cs.CL
Is there Gender bias and stereotype in Portuguese Word Embeddings?
UFRGS（南里奥格兰德联邦大学）；Instituto de Informática（信息学院）
在这项工作中，我们提出了一个分析与葡萄牙语词嵌入的职业性别偏见的存在。这项工作的目的是研究葡萄牙语中与男女定型职业有关的性别影响。
2018-10-10 cs.AI cs.CL
JUBAKU: An Adversarial Benchmark for Exposing Culturally Grounded Stereotypes in Japanese LLMs
Institute of Science Tokyo（东京科学研究院）；MBZUAI（马克斯·普朗克人工智能研究所）；AIST（日本产业技术综合研究所）；NII LLMC（日本信息处理学会大语言模型中心）
本文提出JUBAKU基准，通过手工艺构建对话场景揭示日语LLM中的文化刻板印象，评估九种日语LLM显示明显偏见，人类标注者在识别无偏回答上准确率达91%。
2026-03-25 cs.CL
Judging a Book by its Description : Analyzing Gender Stereotypes in the Man Bookers Prize Winning Fiction
IBM Research AI-India（IBM印度研究院人工智能部门）；IIIT-Delhi（德里英德拉普拉斯塔信息技术学院）；DTU-Delhi（德里理工大学）
在社会的许多方面存在性别陈规定型观念是一个众所周知的现象。在本文中，我们专注于研究和量化这种刻板印象和偏见的曼布克奖获奖小说。我们考虑了1969年至2017年期间入围曼布克奖的275本书。通过对Goodreads上的图书描述进行语义建模，分析了性别偏见。这反映了性别偏见和刻板印象在书中的不同特征，如职业，介绍和与书中人物有关的行动。
2018-07-25 cs.AI cs.CL
Measuring Harmful Representations in Scandinavian Language Models
University of Bergen（卑尔根大学）；Bocconi University（博科尼大学）
斯堪的纳维亚国家在性别平等方面被视为榜样。随着预先训练的语言模型的出现及其广泛使用，我们调查了在选定的斯堪的纳维亚语言模型中存在基于性别的有害和有毒内容的程度。我们研究了九种模型，包括丹麦语，瑞典语和挪威语，通过手动创建基于模板的句子和探测模型完成。我们使用两种测量有害和有毒完成的方法来评估完成情况，并对结果进行全面分析。我们发现，斯堪的纳维亚预先训练的语言模型包含有害的和基于性别的刻板印象，在所有语言中具有相似的价值观。这一发现违背了斯堪的纳维亚国家对性别平等的普遍期望，并显示了在现实世界中使用这种模式可能产生的问题。
2022-11-21 cs.CL
Contaminated Collaboration: Measuring Gender Bias Transfer in LLM-Assisted Student Writing
Brac University（布拉卡大学）
通过实验发现，使用性别偏见的LLM写作助手会显著增加学生职业规划作文中的性别刻板印象，且偏见迁移不对称：女性目标作文的能动性被抑制，男性目标作文受影响较小。
2026-06-16 cs.CL cs.HC
Popular LLMs Amplify Race and Gender Disparities in Human Mobility
Northeastern University（东北大学）
本研究通过GPT-4、Gemini和Claude分析基于姓名预测兴趣点访问的行为，发现大语言模型在人类流动性预测中反映并放大了种族与性别偏见，少数群体更少关联财富相关POIs，女性更少关联职业相关POIs。
2024-11-18 cs.AI cs.CL
The Cinderella Complex: Word Embeddings Reveal Gender Stereotypes in Movies and Books
School of Journalism and Communication, Nanjing University（南京大学新闻传播学院）；School of Systems Science, Beijing Normal University（北京师范大学系统科学学院）；School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院）
我们对数千部电影和书籍的分析揭示了这些文化产品如何将刻板的性别角色编织成道德故事，并通过讲故事使性别不平等永久化。运用词嵌入技术，我们揭示了故事中女性角色对男性角色的建构性情感依赖。
2019-10-15 cs.CL
Counterfactual Data Augmentation for Mitigating Gender Stereotypes in Languages with Rich Morphology
University of Cambridge（剑桥大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft Research（微软研究院）
性别陈规定型观念在世界上大多数语言中都很明显，因此被NLP系统传播或放大。尽管研究的重点是减轻英语中的性别刻板印象，但常用的方法会在形态丰富的语言中产生不合语法的句子。我们提出了一种新的方法，在这些语言中的男性和女性的曲折变化的句子之间的转换。对于西班牙语和希伯来语，我们的方法在标签水平上达到了82%和73%的F1分数，在形式水平上达到了90%和87%的准确度。通过使用四种不同的语言评估我们的方法，我们表明，平均而言，它减少了2.5倍的性别刻板印象，而不牺牲语法。
2020-05-27 cs.CL
Women Are Beautiful, Men Are Leaders: Gender Stereotypes in Machine Translation and Language Modeling
Kempelen Institute of Intelligent Technologies（肯佩伦智能技术研究院）
本文提出GEST数据集，涵盖16种性别刻板印象及10种语言，用于评估语言模型和机器翻译系统，发现模型普遍存在性别刻板推理且规模越大越明显。
2024-09-30 cs.CL
EuroGEST: Investigating gender stereotypes in multilingual language models
University of Edinburgh（爱丁堡大学）；Warsaw University of Technology（华沙技术大学）；Aveni
EuroGEST研究多语言语言模型中的性别刻板印象，通过跨29种欧洲语言的数据集揭示了性别刻板印象的普遍性及模型对刻板印象的编码强度。
2026-02-23 cs.CL
