Dynamics of Gender Bias in Computing
计算机中的性别偏见是一个难以解决的问题,几十年来一直没有得到研究。一个障碍是缺乏系统的数据,可以表明性别偏见何时出现在计算中以及如何改变。本文介绍了一个新的数据集(N= 50,000),重点关注计算作为一种职业的形成时期(1950-1980),当时美国政府的劳动力统计数据很薄或不存在。这个纵向数据集,档案记录的基础上,从六个计算机用户组(共享,使用,和其他)和ACM会议的与会者和会员名册,修订普遍持有的aptutures,性别偏见在计算出现在专业化的计算机科学在20世纪60年代或70年代,有一个“线性”的一次性发病的性别偏见到现在。这种线性的观点也支持了计算机行业女性在连续职业阶段“流失”的“管道”模型。相反,这个数据集揭示了计算中性别偏见的三个不同时期,因此邀请了对这些变化动态的时间上不同的解释。它显著地修正了学术评估和大众对计算中性别偏见的理解。它还引起了人们对计算领域多样性的关注。这项研究对当今CS改革工作的一个结果是,数据驱动的认识是,从20世纪80年代中期开始的性别偏见的遗产(而不是在更早的几十年)是问题所在。第二个后果是纠正计算机科学的公众形象:这项研究表明,性别偏见是专业计算的一个偶然方面,而不是内在的或永久的。
2022-11-07 cs.CY
Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms
搜索引擎(SE)已被证明延续了心理学文献中确定的众所周知的性别陈规定型观念,并相应地影响用户。从大型在线语料库中学习到的词嵌入(WEs)中也发现了类似的偏见。在这种情况下,我们提出了性别刻板印象强化(GSR)措施,它量化的倾向,SE支持性别刻板印象,利用性别相关的信息编码在WE。通过结构效度的关键镜头,我们验证了合成和真实集合的建议措施。随后,我们使用GSR比较广泛使用的信息检索排名算法,包括词汇,语义和神经模型。我们检查基于WEs的排名算法是否以及如何继承底层嵌入的偏差。我们还考虑了文献中提出的WEs最常见的去偏置方法,并测试了它们在GSR和常见性能指标方面的影响。据我们所知,GSR是第一个专门为IR量身定制的措施,能够量化代表性伤害。
2020-09-02 cs.CY
Gender Bias in Multimodal Models: A Transnational Feminist Approach Considering Geographical Region and Culture
本文受跨国女性主义启发提出一种多模态模型审计方法,结合区域和文化维度评估性别偏见,发现CLIP存在显著性别偏见且与全球性别平等指数一致,全球南方地区偏见最高。
2023-09-10 cs.CY
Gender Representation in Brazilian Computer Science Conferences
这项研究提出了一个自动化的文献计量分析6569研究论文发表在13个巴西计算机科学社会(SBC)会议从1999年到2021年。我们的主要目标是收集数据,以了解计算机科学领域出版物中的性别代表性。我们对23,573篇列出的论文作者进行了系统的性别分配,发现女性的性别差距很大,在研究的所有年份中,女性作者的代表性都不足。
2022-08-23 cs.CY cs.DL
Implicit Gender Bias in Computer Science -- A Qualitative Study
科技行业的性别多样性-还没有?- 这足以使男女比例平衡。对许多妇女来说,接触计算机科学受到与社会化有关的社会、文化和结构性障碍的阻碍。所谓的内隐性别偏见在这方面有很大的影响。在计算机科学领域缺乏接触,很难发展或扩大潜在的兴趣。女性榜样以及职务说明的更大透明度应有助于妇女促进她们对职务说明的可能兴趣。然而,领导人也可以通过采取适当措施来促进和培养性别多样性。
2021-07-04 cs.CY cs.SE
Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora
ELLIS Alicante, Spain(西班牙阿利坎特ELLIS研究所);University of Alicante, Spain(西班牙阿利坎特大学)
针对性别化语言语料中性别表征偏差研究不足的问题,提出基于大语言模型的人物指代词汇识别分类方法,检测出多语料的男性主导失衡,且发现小规模反向性别偏向训练可缓解该偏差对模型输出的影响。
2025-06-17 cs.CL cs.CY
A Survey on Gender Bias in Natural Language Processing
University of Copenhagen(哥本哈根大学)
语言可被用作复制和强化有害的陈规定型观念和偏见的手段,许多研究都对此进行了分析。本文对304篇关于自然语言处理中性别偏见的论文进行了统计分析。我们分析了社会科学中性别及其类别的定义,并将其与NLP研究中性别偏见的正式定义联系起来。我们调查了性别偏见研究中应用的词汇和数据集,然后比较和对比了检测和减轻性别偏见的方法。我们发现,性别偏见的研究受到四个核心限制。1)大多数研究将性别视为二元变量,忽视了其流动性和连续性。2)大多数工作都是在英语或其他高资源语言的单语设置中进行的。3)尽管有无数关于NLP方法中性别偏见的论文,但我们发现大多数新开发的算法都没有测试他们的模型是否存在偏见,也没有考虑到他们工作中可能存在的道德问题。4)最后,在这一研究领域制定的方法存在根本性缺陷,涉及性别偏见的定义非常有限,缺乏评价基线和管道。我们建议克服这些限制,为今后的研究提供指导。
2021-12-28 cs.CL cs.CY
Public Perceptions of Gender Bias in Large Language Models: Cases of ChatGPT and Ernie
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文通过分析社交媒体讨论,比较了公众对ChatGPT和文心一言中性别偏见的认知差异,发现前者多表现为隐性偏见、后者多表现为显性偏见,并据此提出文化影响反思与治理建议。
2023-09-17 cs.AI cs.CY
Dynamics of Gender Bias in Software Engineering
本文结合历史考察与ICNE作者参与数据(1976–2010),分析软件工程领域性别偏见的演变,发现十二个年份存在统计显著的性别排斥,并提出相关研究政策方向。
2025-08-28 cs.CY cs.SE
Gender Bias in Fake News: An Analysis
St. Joseph’s College(圣约瑟夫学院);Queen’s University Belfast(贝尔法斯特女王大学)
近年来,对假新闻的数据科学研究已经获得了很大的动力,可以说是由于大型公共基准数据集的出现。虽然媒体研究中已经确立了性别偏见是新闻媒体普遍存在的问题,但很少有人探讨性别偏见和假新闻之间的关系。在这项工作中,我们提供了第一个关于性别偏见与假新闻的实证分析,在公共基准数据集上利用简单透明的基于词典的方法。我们的分析从三个方面确定了假新闻中性别偏见的普遍性增加,丰富,影响和接近的话。我们的分析提供了一个强有力的论据,即性别偏见需要成为假新闻研究的重要考虑因素。
2023-02-04 cs.CY cs.LG
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge(剑桥大学);Bar-Ilan University(巴伊兰大学)
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强(CDA),其中语料库被复制和增强以消除偏见,例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较,发现虽然两者都成功地减少了直接偏见,并且在量化嵌入质量的任务中表现良好,但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法,在两个语料库中平均为19%。我们提出了两个改进CDA:反事实数据替换(CDS),CDA的一个变种,其中潜在的偏见文本被随机替换,以避免重复,和名称干预,一种新的名称配对技术,大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法:在去偏见之后,先前有偏见的单词根据性别的聚类显着减少(聚类纯度降低了49%),从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
For the Misgendered Chinese in Gender Bias Research: Multi-Task Learning with Knowledge Distillation for Pinyin Name-Gender Prediction
ShanghaiTech University(上海科技大学)
针对拼音姓名性别推断易出错的问题,本文提出知识蒸馏辅助的多任务学习网络,将汉字语义注入拼音嵌入,性能显著超越商业工具和现有算法。
2024-05-10 cs.CL cs.CY
Gender trends in computer science authorship
对计算机科学文献(截至2019年1180万篇论文)的大规模最新分析表明,如果过去50年的趋势继续下去,本世纪将无法实现男女作者数量的平等。相比之下,平等预计将在20至30年内实现,或者可能已经在医学或社会学等其他研究领域实现。我们对计算机科学中的合作趋势的分析揭示了不同感知性别的作者之间的合作差距的大小。这一差距持续存在,但正在缩小,这与跨性别合作的速度随着时间的推移而缓慢增加相对应。总之,这些趋势说明了计算机科学文献作者中持续存在的性别差距,如果没有系统的干预,这种差距可能不会缩小。
2021-01-28 cs.CY cs.DL cs.SI
A Large Scale Analysis of Gender Biases in Text-to-Image Generative Models
Technical University of Munich, Munich Center for Machine Learning, MDSI(慕尼黑技术大学、慕尼黑机器学习中心、MDSI);LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI、巴黎电信学院、巴黎理工学院);Helmholtz Munich(海德堡-慕尼黑研究中心);University of California, Berkeley(加州大学伯克利分校)
该研究构建3,217条性别中立提示词并分析五个主流T2I模型生成的逾229万张图像,揭示其在日常活动、物品与情境中强化传统性别角色和刻板印象。
2025-09-29 cs.CV cs.CY
Measuring Gender Inequalities of German Professions on Wikipedia
维基百科是一个社区创建的在线百科全书;可以说,它是互联网上最受欢迎、最大的知识资源。因此,可靠性和中立性对维基百科来说非常重要。先前的研究[3]揭示了许多职业和职业的谷歌搜索结果中的性别偏见。此外,维基百科因传记中存在性别偏见[4]和编辑社区中的性别差距而受到批评[5,6]。因此,人们可以预期,与专业和职业相关的性别偏见可能存在于维基百科中。性别偏见一词在这里是指在专业和职业方面有意识或无意识地偏袒一种性别而不是另一种性别。这项工作的目的是查明和评估性别偏见。为此,德语维基百科关于职业和职业的文章从三个维度进行了分析:重定向,图像和文章中提到的人。这项工作提供的证据表明,男子在所有三个方面的系统性代表性偏高;女性偏见只存在于少数职业。
2017-02-02 cs.CY cs.SI
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University(乔治华盛顿大学);University of Washington(华盛顿大学)
当衡量一种语言的词嵌入所捕获的语义性别信息时,语言的语法性别是否会产生干扰?一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明,词嵌入学习语法性别的语言,这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此,词嵌入后处理方法被引入到量化,解开,和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度,这是衡量的效果大小(科恩的d),由一个显着的平均值d = 1.3为法语,德语和意大利语,和d = 0.56为波兰语和西班牙语。一旦语法性别被解开,超过90%的10,000无生命名词和他们的语法性别之间的关联减弱,跨语言的偏见结果从词嵌入协会测试(WEAT)变得更加符合国家级的内隐偏见测量。结果进一步表明,从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University(德里技术大学)
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题,出现了大量研究,旨在减轻这些偏见,同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎(FEE),用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术,用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外,它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
Gender Representation and Bias in Indian Civil Service Mock Interviews
Rochester Institute of Technology(罗切斯特理工学院)
本文通过分析51,278个印度公务员模拟面试问题,揭示了面试问题中的性别偏见,并利用大型语言模型验证了其解释中的性别偏见,同时提供了可用于社会科学研究的新数据集。
2024-09-20 cs.CL cs.CY
Diversity dilemmas: uncovering gender and nationality biases in graduate admissions across top North American computer science programs
本文构建涵盖北美25所顶尖高校约14,000名CS研究生的数据集,利用统计假设检验分析招生偏好及多样性与团队科研成就的关系,发现不存在性别偏见但存在国籍偏见。
2023-08-29 cs.CY cs.SI
Invisible Women in Digital Diplomacy: A Multidimensional Framework for Online Gender Bias Against Women Ambassadors Worldwide
本文首次全球分析社交媒体上女性大使的待遇,提出多维多语言方法,发现女性转推数比男性少66.4%,揭示在线可见度差异是显著性别偏见。
2025-08-07 cs.CY cs.SI
Gender bias in (non)-contextual clinical word embeddings for stereotypical medical categories
Utrecht University(乌得勒支大学)
临床词嵌入作为一种最先进的特征向量表示,广泛应用于各种生物自然语言处理问题。虽然他们在单词的语义表示方面非常成功,但由于他们接受培训的数据集-可能带有统计和社会偏见-他们可能会表现出性别刻板印象。本研究分析性别偏见的临床嵌入三个医学类别:精神障碍,性传播疾病和人格特质。在这种程度上,我们分析了两种不同的预训练嵌入,即(情境化)临床BERT和(非情境化)BioWordVec。我们发现,这两种嵌入都偏向于敏感的性别群体,但BioWordVec在所有三个类别中表现出比临床BERT更高的偏差。此外,我们的分析表明,临床嵌入进行了高度的偏见,一些医学术语和疾病,这是与医学文献相冲突。这种缺乏根据的关系可能会对使用临床嵌入的下游应用造成损害。
2022-08-08 cs.CL cs.CY
The LLM Wears Prada: Analysing Gender Bias and Stereotypes through Online Shopping Data
University of Trento(特伦托大学)
本研究通过在线购物数据分析大语言模型中的性别偏见,发现模型在性别预测中受刻板印象影响,且减少偏见指令只能降低预测确定性,无法消除刻板印象模式。
2025-12-11 cs.AI cs.CL cs.CY
CORGI-PM: A Chinese Corpus For Gender Bias Probing and Mitigation
Beijing Academy of Artificial Intelligence(北京人工智能研究院);The University of Sheffield(谢菲尔德大学);University of Michigan(密歇根大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Sichuan University(四川大学);McGill University(麦吉尔大学)
针对性别偏见的自然语言处理(NLP)是一个重要的跨学科研究课题,目前流行的大规模语言模型等数据驱动技术存在着数据不足和语料偏差的问题,特别是对于汉语这样资源不足的语言。为此,我们提出了一个中国cOrpus forR性别bIas探测和缓解CORGI-PM,其中包含32.9k的句子与高质量的标签来自以下的注释计划专门开发的性别偏见在中国的情况下。此外,我们解决了自动文本性别偏见缓解的三个挑战,这需要模型来检测,分类和缓解文本性别偏见。我们还使用最先进的语言模型进行实验,以提供基线。据我们所知,CORGI-PM是第一个用于性别偏见研究和缓解的高级汉语语料库。
2023-01-01 cs.AI cs.CL cs.CY
Gender Differences in Research Topic and Method Selection in Library and Information Science: Perspectives from Three Top Journals
Department of Information Management, Nanjing University of Science and Technology(南京理工大学信息管理学院)
本研究使用细粒度方法分类系统和基于全文认知的自动分类模型CogFT,分析图书馆与信息科学领域性别对研究方法选择的影响,发现女性更倾向访谈法,男性更倾向理论方法,并提出了促进学术性别包容性的建议。
2026-07-03 cs.CL cs.CY cs.DL
Exploring Gender Biases in Language Patterns of Human-Conversational Agent Conversations
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究探讨对话智能体(CAs)的性别设计如何触发并强化用户的性别偏见,分析人机交互的语言模式,为促进性别平等的伦理设计提供指导。
2024-01-05 cs.CL cs.CY cs.HC
Exploring the Linear Subspace Hypothesis in Gender Bias Mitigation
University of Cambridge(剑桥大学);ETH Zürich(苏黎世联邦理工学院)
本文推广Bolukbasi等人(2016)的线性性别偏见缓解方法至核化非线性版本,并实证验证了偏见子空间确为线性,支持原假设。
2024-05-22 cs.CL cs.CY cs.LG
Gender Bias in Machine Translation and The Era of Large Language Models
本章综述传统神经机器翻译与大语言模型中的性别偏见,并通过英语—意大利语场景下的 ChatGPT 实验评估其偏见应对能力,强调持续缓解偏见、促进公平包容的必要性。
2024-01-18 cs.AI cs.CL cs.CY
Gender Imbalance and Spatiotemporal Patterns of Contributions to Citizen Science Projects: the case of Zooniverse
公民科学是由专业科学家和公众合作进行的研究。尽管公民科学对科学的进步和公民科学家的社区都有许多好处,但仍然没有全面的知识贡献模式,以及公民科学项目贡献者的人口统计。在本文中,我们通过分析来自198个国家的34万多名公民科学志愿者向最大的公民科学平台之一Zooniverse提供的5400万个分类,首次概述了公民科学劳动力的时空和性别分布。首先,我们报告的公民科学家的地理分布不均,并根据社会经济条件,以及在每个国家的研究投资水平的国家之间的变化模型。分析的时间特征的贡献,我们报告的高“突发性”的参与实例,以及悠闲的参与性质建议的时间的一天,公民科学家是最活跃的。最后,我们讨论了公民科学家的性别失衡(约30%的女性),并将其与其他合作项目以及更正式的科学活动中的性别分布进行了比较。公民科学项目需要学术界之外的进一步关注,我们的研究结果可以帮助吸引公共和私人利益相关者的注意,并为平台的设计和科学政策制定过程提供信息。
2021-01-07 astro-ph.GA cs.CY cs.SI
Gender, Productivity, and Prestige in Computer Science Faculty Hiring Networks
在学术界的各个层次,女性在计算机科学领域的代表性都严重不足,在终身教职员工中只占15%。了解这种性别不平衡的原因,将有助于制定旨在纠正这种不平衡的政策,并有助于部门和个人作出就业决定。然而,这一方向的进展由于教师招聘的复杂性和分散性以及招聘的非独立性而变得复杂。使用205个博士学位的2659名终身教职员工的招聘结果和学术生产力的综合数据,授予部门在北美,我们调查的多维度性质的性别不平等在计算机科学教师招聘通过网络模型的招聘过程。总的来说,我们发现,招聘结果最直接的影响(一)招聘和安置机构之间的相对声望和(ii)候选人的学术生产力。在包括这些和其他特征之后,添加性别并没有显著减少建模误差。然而,性别差异确实存在,例如,在学术生产力,博士后培训率,并在职业生涯中的运动上升的大学排名,这表明性别的影响是间接纳入招聘决定通过性别的协变量。此外,我们发现的证据表明,排名较高的部门招聘女教师在高于预期的利率,这似乎抑制了排名较低的部门类似的努力。这些发现说明了教师招聘网络中性别不平等的微妙性质,并为计算机科学中女性代表性不足提供了新的见解。
2016-02-02 cs.CY cs.SI physics.soc-ph
Systemic Gendered Citation Imbalance in Computer Science: Evidence from Conferences and Journals
Tokyo Metropolitan University(东京都立大学);The University of Osaka(大阪大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Eindhoven University of Technology(埃因霍温理工大学)
研究揭示计算机科学领域会议和期刊论文中女性作者的引用不平衡现象,指出同性倾向和作者网络结构是导致不平衡的因素,强调需关注会议出版实践对学术公平性的影响。
2026-03-24 cs.CY cs.DL cs.SI
From Individuals to Interactions: Benchmarking Gender Bias in Multimodal Large Language Models from the Lens of Social Relationship
School of Information Science and Technology, ShanghaiTech University(信息科学与技术学院,上海科技大学)
本文提出Genres基准,通过双角色叙事生成任务从社会关系视角评估多模态大语言模型中的性别偏见,实验表明开源与闭源模型均存在单角色场景下无法显现的情境敏感偏见,为偏见诊断与缓解提供新思路。
2026-10-14 cs.AI cs.CL cs.CY
Who Gets Cited? Gender- and Majority-Bias in LLM-Driven Reference Selection
本研究通过受控实验发现,LLM在参考文献选择中表现出对男性作者和多数性别群体的双重偏见,且偏见随候选池增大而加剧,提示需在学术工作流中引入缓解策略。
2025-08-02 cs.AI cs.CY cs.DL
She Works, He Works: A Curious Exploration of Gender Bias in AI-Generated Imagery
University of Ioannina(约阿尼纳大学)
本文基于Griselda Pollock的视觉文化理论,分析了建筑工人AI生成图像中的性别偏见,发现AI倾向于性化女性并赋予男性权威形象,强调需批判性对待AI内容以应对其伦理影响。
2026-10-28 cs.AI cs.CV cs.CY
Politeness Stereotypes and Attack Vectors: Gender Stereotypes in Japanese and Korean Language Models
Center for Information and Language Processing (CIS), LMU Munich(慕尼黑大学信息与语言处理中心(CIS));Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
该研究针对日语和韩语语言模型,探究礼貌层级相关的语法性别偏见,发现礼貌层级是网络欺凌检测模型的性别偏见攻击向量,并构建攻击数据集以识别偏见、展示攻击方式及缓解分配式偏见,呼吁偏见研究突破英语中心局限。
2023-06-16 cs.AI cs.CL cs.CY
Exploring Gender and Race Biases in the NFT Market
MIT(麻省理工学院);Microsoft(微软)
本文首次在更广泛的 NFT 市场中检验性别与种族偏见,发现 CryptoPunks 存在种族偏见但无性别偏见,并构建了性别标注的 NFT 数据集以促进社会公平研究。
2023-03-29 cs.CY cs.LG cs.SI
Are Models Biased on Text without Gender-related Language?
University of California Irvine(加州大学欧文分校)
本文提出 UnStereoEval 框架,在无性别相关语言的场景中评估模型性别偏见,发现 28 个模型仅在 9%-41% 的句子中表现公平,表明偏见并非仅源于性别词汇。
2024-05-01 cs.AI cs.CL cs.CV