Cultural Anthropology through the Lens of Wikipedia: Historical Leader Networks, Gender Bias, and News-based Sentiment
在本文中,我们研究了西方和东方文化之间的历史世界观的差异,通过英语,中文,日语和德语维基百科。特别是,我们分析了自有文字记载的历史开始以来世界领导人的历史网络,在不同的维基百科上进行比较,并评估文化沙文主义。我们还确定了英语,德语,西班牙语和葡萄牙语维基百科中最有影响力的女性领导人。作为一个额外的镜头进入文化的灵魂,我们比较了英语,葡萄牙语,西班牙语和德语维基新闻的顶级术语,情感,情感和复杂性。
2015-07-31 cs.CY cs.SI
"(Weitergeleitet von Journalistin)": The Gendered Presentation of Professions on Wikipedia
以往的研究表明,在搜索引擎搜索结果中的职业描述中存在性别偏见。这种不平衡的呈现方式很可能发生在维基百科上,维基百科是网络上最受欢迎的知识资源之一,因为在过去的研究中已经发现百科全书表现出这种倾向。在此前提下,我们的工作评估了德语维基百科关于职业和职业的文章内容的性别偏见,包括三个维度:使用的男性与女性标题(和重定向),包括人物的图像,以及文章中提到的专业人士的名字。我们进一步使用德国劳动力市场数据来评估每个特定职业的性别潜在误导。事实上,我们的研究结果为男性在所有三个方面的系统性过度代表性提供了证据。例如,在女性占主导地位的专业领域,相关文章中的男性形象平均仍高出近两倍;平均而言,83%的专业人员名字是男性,只有17%是女性。
2017-06-12 cs.CY cs.SI
Men Are Elected, Women Are Married: Events Gender Bias on Wikipedia
University of Southern California(南加利福尼亚大学);Information Sciences Institute, University of Southern California(南加利福尼亚大学信息科学研究所);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
人类活动可以被视为一系列事件,这对理解社会至关重要。不同人口群体的不成比例的事件分布可以表现和放大社会陈规定型观念,并可能危及某些群体成员追求某些目标的能力。在本文中,我们提出了第一个以事件为中心的研究性别偏见的维基百科语料库。为了便于研究,我们策划了一个职业和个人生活描述的语料库,其中包含来自10,412位名人的7,854个片段。然后,我们用最先进的事件检测模型检测事件,使用策略生成的模板校准结果,并提取与性别有不对称关联的事件。我们的研究发现,维基百科的页面往往会将个人生活事件与女性的专业事件相结合,而不是男性,这需要维基百科社区的意识,以正式制定指导方针,并训练编辑注意贡献者所携带的隐性偏见。我们的工作也奠定了基础,为未来的工作量化和发现事件的偏见在语料库的水平。
2021-06-03 cs.AI cs.CL cs.CY
Survival of the Notable: Gender Asymmetry in Wikipedia Collective Deliberations
University of Maryland(马里兰大学)
研究发现维基百科中女性传记被删除提名更快,且被重定向或合并到男性传记的频率更高,揭示了性别不对称问题。
2024-11-07 cs.CY cs.HC stat.CO
Gender Bias in Big Data Analysis
本文将人文主义的“数据批判”与大数据分析的知情检查相结合。当性别预测软件工具(Gender API、Namsor和Genderize.io)用于历史大数据研究时,它可以衡量性别偏见。性别偏见是通过对比个人识别的计算机科学作者在备受推崇的DBLP数据集(1950-1980年)与软件工具的完全可比的结果。公众理解的性别偏见在计算和计算专业的性质的影响进行了概述。语义学者数据集的初步评估。结论结合了人性化的方法和大数据方法的选择性使用。
2022-11-17 cs.CY
Fairness in Socio-technical Systems: a Case Study of Wikipedia
该研究以Wikipedia为案例,通过综述75篇相关论文分析社会技术系统中的偏见与伤害成因,明确相关公平性预期并探讨现有机器学习公平标准的适用性。
2023-02-15 cs.CY
Temporal Analysis and Gender Bias in Computing
最近对计算中性别偏见的研究使用涉及自动预测性别的大型数据集来分析计算出版物,会议和其他关键人群。性别偏见在一定程度上是由软件驱动的算法分析定义的,但广泛使用的性别预测工具在用于历史研究时可能会导致未被承认的性别偏见。几十年来,许多名字改变了性别:“莱斯利问题”。对社会保障管理局数据集的系统分析--每年,所有的名字,按性别和使用频率确定--在1900年、1925年、1950年、1975年和2000年,允许对“莱斯利问题”进行严格评估。本文确定了1925年至1975年期间300个具有可测量的“性别变化”的名字,突出了50个变化最大的名字。这篇文章从数量上证明,在前几十年,就像计算机科学的专业化一样,存在净“女性转移”,这可能导致女性人数过多(而男性人数过少)。被广泛接受的“使方案拟订男性化”观点的某些方面可能需要修改。
2022-09-29 cs.CY
Gender Biases in LLMs: Higher intelligence in LLM does not necessarily solve gender bias and stereotyping
该研究通过基于角色的框架和中性名字方法分析1400个LLM生成角色,发现更高智能模型仍存在系统性性别偏见与职业刻板印象。
2025-02-15 cs.CY
Dynamics of Gender Bias in Computing
计算机中的性别偏见是一个难以解决的问题,几十年来一直没有得到研究。一个障碍是缺乏系统的数据,可以表明性别偏见何时出现在计算中以及如何改变。本文介绍了一个新的数据集(N= 50,000),重点关注计算作为一种职业的形成时期(1950-1980),当时美国政府的劳动力统计数据很薄或不存在。这个纵向数据集,档案记录的基础上,从六个计算机用户组(共享,使用,和其他)和ACM会议的与会者和会员名册,修订普遍持有的aptutures,性别偏见在计算出现在专业化的计算机科学在20世纪60年代或70年代,有一个“线性”的一次性发病的性别偏见到现在。这种线性的观点也支持了计算机行业女性在连续职业阶段“流失”的“管道”模型。相反,这个数据集揭示了计算中性别偏见的三个不同时期,因此邀请了对这些变化动态的时间上不同的解释。它显著地修正了学术评估和大众对计算中性别偏见的理解。它还引起了人们对计算领域多样性的关注。这项研究对当今CS改革工作的一个结果是,数据驱动的认识是,从20世纪80年代中期开始的性别偏见的遗产(而不是在更早的几十年)是问题所在。第二个后果是纠正计算机科学的公众形象:这项研究表明,性别偏见是专业计算的一个偶然方面,而不是内在的或永久的。
2022-11-07 cs.CY
Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms
搜索引擎(SE)已被证明延续了心理学文献中确定的众所周知的性别陈规定型观念,并相应地影响用户。从大型在线语料库中学习到的词嵌入(WEs)中也发现了类似的偏见。在这种情况下,我们提出了性别刻板印象强化(GSR)措施,它量化的倾向,SE支持性别刻板印象,利用性别相关的信息编码在WE。通过结构效度的关键镜头,我们验证了合成和真实集合的建议措施。随后,我们使用GSR比较广泛使用的信息检索排名算法,包括词汇,语义和神经模型。我们检查基于WEs的排名算法是否以及如何继承底层嵌入的偏差。我们还考虑了文献中提出的WEs最常见的去偏置方法,并测试了它们在GSR和常见性能指标方面的影响。据我们所知,GSR是第一个专门为IR量身定制的措施,能够量化代表性伤害。
2020-09-02 cs.CY
Gender Bias in Multimodal Models: A Transnational Feminist Approach Considering Geographical Region and Culture
本文受跨国女性主义启发提出一种多模态模型审计方法,结合区域和文化维度评估性别偏见,发现CLIP存在显著性别偏见且与全球性别平等指数一致,全球南方地区偏见最高。
2023-09-10 cs.CY
Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora
ELLIS Alicante, Spain(西班牙阿利坎特ELLIS研究所);University of Alicante, Spain(西班牙阿利坎特大学)
针对性别化语言语料中性别表征偏差研究不足的问题,提出基于大语言模型的人物指代词汇识别分类方法,检测出多语料的男性主导失衡,且发现小规模反向性别偏向训练可缓解该偏差对模型输出的影响。
2025-06-17 cs.CL cs.CY
A Survey on Gender Bias in Natural Language Processing
University of Copenhagen(哥本哈根大学)
语言可被用作复制和强化有害的陈规定型观念和偏见的手段,许多研究都对此进行了分析。本文对304篇关于自然语言处理中性别偏见的论文进行了统计分析。我们分析了社会科学中性别及其类别的定义,并将其与NLP研究中性别偏见的正式定义联系起来。我们调查了性别偏见研究中应用的词汇和数据集,然后比较和对比了检测和减轻性别偏见的方法。我们发现,性别偏见的研究受到四个核心限制。1)大多数研究将性别视为二元变量,忽视了其流动性和连续性。2)大多数工作都是在英语或其他高资源语言的单语设置中进行的。3)尽管有无数关于NLP方法中性别偏见的论文,但我们发现大多数新开发的算法都没有测试他们的模型是否存在偏见,也没有考虑到他们工作中可能存在的道德问题。4)最后,在这一研究领域制定的方法存在根本性缺陷,涉及性别偏见的定义非常有限,缺乏评价基线和管道。我们建议克服这些限制,为今后的研究提供指导。
2021-12-28 cs.CL cs.CY
Public Perceptions of Gender Bias in Large Language Models: Cases of ChatGPT and Ernie
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文通过分析社交媒体讨论,比较了公众对ChatGPT和文心一言中性别偏见的认知差异,发现前者多表现为隐性偏见、后者多表现为显性偏见,并据此提出文化影响反思与治理建议。
2023-09-17 cs.AI cs.CY
Dynamics of Gender Bias in Software Engineering
本文结合历史考察与ICNE作者参与数据(1976–2010),分析软件工程领域性别偏见的演变,发现十二个年份存在统计显著的性别排斥,并提出相关研究政策方向。
2025-08-28 cs.CY cs.SE
Gender Bias in Fake News: An Analysis
St. Joseph’s College(圣约瑟夫学院);Queen’s University Belfast(贝尔法斯特女王大学)
近年来,对假新闻的数据科学研究已经获得了很大的动力,可以说是由于大型公共基准数据集的出现。虽然媒体研究中已经确立了性别偏见是新闻媒体普遍存在的问题,但很少有人探讨性别偏见和假新闻之间的关系。在这项工作中,我们提供了第一个关于性别偏见与假新闻的实证分析,在公共基准数据集上利用简单透明的基于词典的方法。我们的分析从三个方面确定了假新闻中性别偏见的普遍性增加,丰富,影响和接近的话。我们的分析提供了一个强有力的论据,即性别偏见需要成为假新闻研究的重要考虑因素。
2023-02-04 cs.CY cs.LG
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge(剑桥大学);Bar-Ilan University(巴伊兰大学)
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强(CDA),其中语料库被复制和增强以消除偏见,例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较,发现虽然两者都成功地减少了直接偏见,并且在量化嵌入质量的任务中表现良好,但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法,在两个语料库中平均为19%。我们提出了两个改进CDA:反事实数据替换(CDS),CDA的一个变种,其中潜在的偏见文本被随机替换,以避免重复,和名称干预,一种新的名称配对技术,大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法:在去偏见之后,先前有偏见的单词根据性别的聚类显着减少(聚类纯度降低了49%),从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
For the Misgendered Chinese in Gender Bias Research: Multi-Task Learning with Knowledge Distillation for Pinyin Name-Gender Prediction
ShanghaiTech University(上海科技大学)
针对拼音姓名性别推断易出错的问题,本文提出知识蒸馏辅助的多任务学习网络,将汉字语义注入拼音嵌入,性能显著超越商业工具和现有算法。
2024-05-10 cs.CL cs.CY
A Large Scale Analysis of Gender Biases in Text-to-Image Generative Models
Technical University of Munich, Munich Center for Machine Learning, MDSI(慕尼黑技术大学、慕尼黑机器学习中心、MDSI);LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI、巴黎电信学院、巴黎理工学院);Helmholtz Munich(海德堡-慕尼黑研究中心);University of California, Berkeley(加州大学伯克利分校)
该研究构建3,217条性别中立提示词并分析五个主流T2I模型生成的逾229万张图像,揭示其在日常活动、物品与情境中强化传统性别角色和刻板印象。
2025-09-29 cs.CV cs.CY
Fair Embedding Engine: A Library for Analyzing and Mitigating Gender Bias in Word Embeddings
Delhi Technological University(德里技术大学)
非语境词嵌入模型已经被证明继承了来自训练语料库的类似人类的性别、种族和宗教的刻板偏见。为了解决这个问题,出现了大量研究,旨在减轻这些偏见,同时保持嵌入的语法和语义效用不变。本文介绍了公平嵌入引擎(FEE),用于分析和减轻性别偏见的词嵌入库。FEE结合了各种最先进的技术,用于在标准抽象下量化、可视化和减轻词嵌入中的性别偏见。FEE将帮助从业者快速分析嵌入模型上现有的去偏方法。此外,它将允许通过评估一套标准度量的性能来快速原型化新方法。
2020-10-25 cs.CL cs.CY
Gender Representation and Bias in Indian Civil Service Mock Interviews
Rochester Institute of Technology(罗切斯特理工学院)
本文通过分析51,278个印度公务员模拟面试问题,揭示了面试问题中的性别偏见,并利用大型语言模型验证了其解释中的性别偏见,同时提供了可用于社会科学研究的新数据集。
2024-09-20 cs.CL cs.CY
Implicit Gender Bias in Computer Science -- A Qualitative Study
科技行业的性别多样性-还没有?- 这足以使男女比例平衡。对许多妇女来说,接触计算机科学受到与社会化有关的社会、文化和结构性障碍的阻碍。所谓的内隐性别偏见在这方面有很大的影响。在计算机科学领域缺乏接触,很难发展或扩大潜在的兴趣。女性榜样以及职务说明的更大透明度应有助于妇女促进她们对职务说明的可能兴趣。然而,领导人也可以通过采取适当措施来促进和培养性别多样性。
2021-07-04 cs.CY cs.SE
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University(乔治华盛顿大学);University of Washington(华盛顿大学)
当衡量一种语言的词嵌入所捕获的语义性别信息时,语言的语法性别是否会产生干扰?一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明,词嵌入学习语法性别的语言,这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此,词嵌入后处理方法被引入到量化,解开,和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度,这是衡量的效果大小(科恩的d),由一个显着的平均值d = 1.3为法语,德语和意大利语,和d = 0.56为波兰语和西班牙语。一旦语法性别被解开,超过90%的10,000无生命名词和他们的语法性别之间的关联减弱,跨语言的偏见结果从词嵌入协会测试(WEAT)变得更加符合国家级的内隐偏见测量。结果进一步表明,从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
The LLM Wears Prada: Analysing Gender Bias and Stereotypes through Online Shopping Data
University of Trento(特伦托大学)
本研究通过在线购物数据分析大语言模型中的性别偏见,发现模型在性别预测中受刻板印象影响,且减少偏见指令只能降低预测确定性,无法消除刻板印象模式。
2025-12-11 cs.AI cs.CL cs.CY
CORGI-PM: A Chinese Corpus For Gender Bias Probing and Mitigation
Beijing Academy of Artificial Intelligence(北京人工智能研究院);The University of Sheffield(谢菲尔德大学);University of Michigan(密歇根大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Sichuan University(四川大学);McGill University(麦吉尔大学)
针对性别偏见的自然语言处理(NLP)是一个重要的跨学科研究课题,目前流行的大规模语言模型等数据驱动技术存在着数据不足和语料偏差的问题,特别是对于汉语这样资源不足的语言。为此,我们提出了一个中国cOrpus forR性别bIas探测和缓解CORGI-PM,其中包含32.9k的句子与高质量的标签来自以下的注释计划专门开发的性别偏见在中国的情况下。此外,我们解决了自动文本性别偏见缓解的三个挑战,这需要模型来检测,分类和缓解文本性别偏见。我们还使用最先进的语言模型进行实验,以提供基线。据我们所知,CORGI-PM是第一个用于性别偏见研究和缓解的高级汉语语料库。
2023-01-01 cs.AI cs.CL cs.CY
Exploring the Linear Subspace Hypothesis in Gender Bias Mitigation
University of Cambridge(剑桥大学);ETH Zürich(苏黎世联邦理工学院)
本文推广Bolukbasi等人(2016)的线性性别偏见缓解方法至核化非线性版本,并实证验证了偏见子空间确为线性,支持原假设。
2024-05-22 cs.CL cs.CY cs.LG
Gender Bias in Machine Translation and The Era of Large Language Models
本章综述传统神经机器翻译与大语言模型中的性别偏见,并通过英语—意大利语场景下的 ChatGPT 实验评估其偏见应对能力,强调持续缓解偏见、促进公平包容的必要性。
2024-01-18 cs.AI cs.CL cs.CY
From Individuals to Interactions: Benchmarking Gender Bias in Multimodal Large Language Models from the Lens of Social Relationship
School of Information Science and Technology, ShanghaiTech University(信息科学与技术学院,上海科技大学)
本文提出Genres基准,通过双角色叙事生成任务从社会关系视角评估多模态大语言模型中的性别偏见,实验表明开源与闭源模型均存在单角色场景下无法显现的情境敏感偏见,为偏见诊断与缓解提供新思路。
2026-10-14 cs.AI cs.CL cs.CY
Who Gets Cited? Gender- and Majority-Bias in LLM-Driven Reference Selection
本研究通过受控实验发现,LLM在参考文献选择中表现出对男性作者和多数性别群体的双重偏见,且偏见随候选池增大而加剧,提示需在学术工作流中引入缓解策略。
2025-08-02 cs.AI cs.CY cs.DL
She Works, He Works: A Curious Exploration of Gender Bias in AI-Generated Imagery
University of Ioannina(约阿尼纳大学)
本文基于Griselda Pollock的视觉文化理论,分析了建筑工人AI生成图像中的性别偏见,发现AI倾向于性化女性并赋予男性权威形象,强调需批判性对待AI内容以应对其伦理影响。
2026-10-28 cs.AI cs.CV cs.CY
Seeing Like an AI: How LLMs Apply (and Misapply) Wikipedia Neutrality Norms
University of Michigan(密歇根大学)
研究评估LLMs在检测和纠正偏见维基百科编辑时的表现,发现其在中立性检测上准确率低,但生成任务表现较好,但存在额外非中立性修改,引发对社区规范执行与公众认知之间差异的思考。
2026-05-07 cs.AI cs.CL cs.CY
Politeness Stereotypes and Attack Vectors: Gender Stereotypes in Japanese and Korean Language Models
Center for Information and Language Processing (CIS), LMU Munich(慕尼黑大学信息与语言处理中心(CIS));Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
该研究针对日语和韩语语言模型,探究礼貌层级相关的语法性别偏见,发现礼貌层级是网络欺凌检测模型的性别偏见攻击向量,并构建攻击数据集以识别偏见、展示攻击方式及缓解分配式偏见,呼吁偏见研究突破英语中心局限。
2023-06-16 cs.AI cs.CL cs.CY
A "Perspectival" Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, YouTube, and Wikipedia
Harvard University(哈佛大学)
该研究揭示Google、Wikipedia、YouTube及ChatGPT存在语言偏差现象,即不同语言搜索同一复杂话题会返回差异化的文化主导观点,形成无形文化壁垒,同时分析了该偏差的证据与社会影响。
2024-03-08 cs.AI cs.CL cs.CY
Exploring Gender and Race Biases in the NFT Market
MIT(麻省理工学院);Microsoft(微软)
本文首次在更广泛的 NFT 市场中检验性别与种族偏见,发现 CryptoPunks 存在种族偏见但无性别偏见,并构建了性别标注的 NFT 数据集以促进社会公平研究。
2023-03-29 cs.CY cs.LG cs.SI
Are Models Biased on Text without Gender-related Language?
University of California Irvine(加州大学欧文分校)
本文提出 UnStereoEval 框架,在无性别相关语言的场景中评估模型性别偏见,发现 28 个模型仅在 9%-41% 的句子中表现公平,表明偏见并非仅源于性别词汇。
2024-05-01 cs.AI cs.CL cs.CV