Gender Prediction Based on Vietnamese Names with Machine Learning Techniques
University of Information Technology(信息技术大学);Vietnam National University(越南国家大学)
由于生物性别是表征人类个体的一个方面,因此基于人名的性别分类已经做了大量的工作。关于英语和汉语的建议是巨大的;然而,迄今为止,关于越南语的工作很少。我们提出了一个新的数据集的性别预测的基础上越南人的名字。该数据集包括26,000多个带有性别注释的全名。该数据集可在我们的网站上用于研究目的。此外,本文还介绍了六种机器学习算法(支持向量机、多项式朴素贝叶斯、伯努利朴素贝叶斯、决策树、随机森林和逻辑回归)和一种基于fastText词嵌入的深度学习模型(LSTM),用于越南名字的性别预测。我们创建了一个数据集,并调查了每个名称组件对检测性别的影响。因此,我们在LSTM模型上获得的最佳F1分数高达96%,并且我们基于我们的训练模型生成了一个Web API。
2021-03-23 cs.CL
Parsing Indonesian Sentence into Abstract Meaning Representation using Machine Learning Approach
School Of Electrical and Informatics Engineering(电气与信息工程学院);Institut Teknologi Bandung(万隆理工学院)
摘要语义表征(AMR)在一个表征中提供了句子的语义关系、共指、命名实体关系等信息。然而,对印尼语句子AMR分析的研究相当有限。在本文中,我们开发了一个系统,旨在使用机器学习的方法来解析一个印尼句子。基于Zhang等人的工作,我们的系统包括三个步骤:对预测,标签预测和图构造。配对预测使用依存句法分析组件来获得AMR的单词之间的边缘。配对预测的结果被传递到标签预测过程,该过程使用监督学习算法来预测AMR的边缘之间的标签。我们使用从文章和新闻文章句子中收集的简单句子数据集。我们的模型实现了简单句子测试数据的SMATCH得分为0.820。
2021-03-05 cs.AI cs.CL
On the Influence of Gender and Race in Romantic Relationship Prediction from Large Language Models
University of Maryland, College Park(马里兰大学帕克分校)
本研究通过姓名替换受控实验发现大语言模型在浪漫关系预测中存在异性恋规范及种族相关偏见,分析了名字语境嵌入的性别辨识度差异,呼吁优先发展包容公平的技术。
2024-10-05 cs.CL
Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts
Johns Hopkins University(约翰斯·霍普金斯大学);Northeastern Illinois University(东北伊利诺伊大学)
本研究通过新数据集DeMET Prompts,从决策视角调查LLMs在亲密关系场景中的性别公平性,发现模型普遍偏袒女性,但安全护栏能减少偏见,且模型倾向于规避男性主导刻板印象。
2024-10-14 cs.CL
Hi, my name is Martha: Using names to measure and mitigate bias in generative dialogue models
Facebook AI Research(Facebook AI研究院)
所有人工智能模型都容易受到训练数据的学习偏差的影响。对于生成对话模型,在包含不平衡性别和种族/民族参考的真实人类对话中进行训练可能会导致模型显示出学习偏差,我们在这里将其广义地定义为基于人口统计组的对话中单词或语义内容分布的任何可测量差异。我们通过在对话模型的两个副本之间产生人工对话来测量这种偏见的强度,调节一个对话伙伴说出通常与特定性别和/或种族/民族相关的名字。我们发现,更大的容量模型往往表现出更多的性别偏见和更大的性别职业刻板印象。我们发现,调整这些对话模型的几种方法,特别是名称加扰,控制生成,和不可能的训练,是有效的减少偏见的对话,包括在下游的会话任务。名称加扰也可以有效地降低对话中令牌使用的差异,其中合作伙伴的名称与不同性别或种族/民族相关。
2021-09-07 cs.CL
Do Large Language Models Discriminate in Hiring Decisions on the Basis of Race, Ethnicity, and Gender?
University of Maryland, College Park(马里兰大学帕克分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文通过模板化提示操纵求职者名字,测量LLM在招聘邮件生成中的录用或拒绝倾向,发现其在多种设置下偏袒白人而非西班牙裔,且偏见随提示变化。
2024-06-15 cs.CL
For the Misgendered Chinese in Gender Bias Research: Multi-Task Learning with Knowledge Distillation for Pinyin Name-Gender Prediction
ShanghaiTech University(上海科技大学)
针对拼音姓名性别推断易出错的问题,本文提出知识蒸馏辅助的多任务学习网络,将汉字语义注入拼音嵌入,性能显著超越商业工具和现有算法。
2024-05-10 cs.CL cs.CY
Gender Inference using Statistical Name Characteristics in Twitter
University of Kassel(卡塞尔大学);Research Center for Information System Design (ITeG)(信息系统设计研究中心(ITeG))
Twitter用户的性别推断任务受到了很大关注。尽管名字是强有力的性别指标,但Twitter用户的名字很少用作特征;可能是由于大量格式错误的名字,在任何名字字典中都找不到。而不是仅仅依赖于一个名称数据库,我们提出了一种新的名称分类。我们的方法从用户名中提取特征,并使用这些特征将名称分配给性别。这使我们能够对国际名字和不规范的名字进行分类。
2016-07-01 cs.CL cs.SI
It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution
University of Cambridge(剑桥大学);Bar-Ilan University(巴伊兰大学)
本文探讨了隐藏在词嵌入中的性别偏见。以前的缓解尝试依赖于性别偏见的操作作为线性子空间的投影。另一种方法是反事实数据增强(CDA),其中语料库被复制和增强以消除偏见,例如通过交换副本中所有固有性别的单词。我们对这些方法在英语Gigaword和维基百科上进行了实证比较,发现虽然两者都成功地减少了直接偏见,并且在量化嵌入质量的任务中表现良好,但CDA变体在绘制无偏见性别类比的任务中表现优于基于投影的方法,在两个语料库中平均为19%。我们提出了两个改进CDA:反事实数据替换(CDS),CDA的一个变种,其中潜在的偏见文本被随机替换,以避免重复,和名称干预,一种新的名称配对技术,大大增加了被处理的单词的数量。带有名称干预的CDA/S是唯一能够减轻间接性别偏见的方法:在去偏见之后,先前有偏见的单词根据性别的聚类显着减少(聚类纯度降低了49%),从而改善了偏见减轻的最新技术水平。
2020-02-05 cs.CL cs.CY
Name-Bias in Large Language Models
University of Maryland(马里兰大学)
本研究评估6个不同参数规模的本地大语言模型的姓名偏见,发现模型偏好非刻板男性、年长、受欢迎的白人名字,性别偏见最显著,强调需标准化评估与缓解策略。
2026-10-16 cs.CL
Man is to Person as Woman is to Location: Measuring Gender Bias in Named Entity Recognition
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
我们研究了几个国家的最先进的命名实体识别(NER)模型的偏见-具体来说,在识别男性和女性的名字作为PERSON实体类型的能力的差异。我们评估NER模型的数据集包含139年的美国人口普查婴儿的名字,并发现相对更多的女性名字,而不是男性的名字,不被识别为PERSON实体。我们研究了在工业界和学术界突出使用的几个NER系统中这种偏见的程度。此外,我们还报告了训练这些模型的数据集中的偏差。分析结果为命名实体识别系统的性别偏见评估提供了一个新的基准。应用该基准的数据和代码将公开供研究人员使用。
2019-10-24 cs.CL cs.IR
Predicting Gender by First Name Using Character-level Machine Learning
通过名字预测性别不是一件简单的任务。在许多应用中,特别是在自然语言处理(NLP)领域,这项任务可能是必要的,主要是在考虑外国名称时。在本文中,我们研究并实现了几种机器学习算法,如额外树,KNN,朴素贝叶斯,SVM,随机森林,梯度提升,轻型GBM,逻辑回归,岭分类器,以及深度神经网络模型,如MLP,RNN,GRU,CNN和BiLSTM,以通过名字对性别进行分类。巴西的名字的数据集用于训练和评估模型。我们分析了准确率,召回率,精确率,f1得分和混淆矩阵来衡量模型的性能。结果表明,性别预测可以执行从特征提取策略看一组字符串的名称。一些模型在95%以上的情况下准确预测性别。递归模型克服了前馈模型在这个二元分类问题。
2021-10-02 cs.AI cs.CL cs.LG
Inferring gender from name: a large scale performance evaluation study
Columbia Business School, Columbia University(哥伦比亚大学商学院);Data Science Institute, Columbia University(哥伦比亚大学数据科学研究所);Department of Sociology, Columbia University(哥伦比亚大学社会学系)
针对大数据场景下性别信息缺失需从姓名推断的需求,该研究系统评估现有姓名性别推断方法,并提出两种性能更优的混合方法,为相关研究选择最优方案提供依据。
2023-08-22 cs.AI cs.CL cs.LG
Nichelle and Nancy: The Influence of Demographic Attributes and Tokenization Length on First Name Biases
University of Maryland, College Park(马里兰大学帕克分校)
本文通过新的名字替换实验,在控制语料库频率和分词长度等因素的条件下,发现名字的种族、民族、性别属性及分词长度均会系统性影响社会常识推理模型的行为。
2023-05-26 cs.CL
Gender inference: can chatGPT outperform common commercial tools?
University of Toronto(多伦多大学)
本文在奥运运动员数据集上比较 ChatGPT 与三种商业性别推断工具,发现 ChatGPT 整体至少与最佳传统工具 Namsor 相当,并在女性样本及含国家或姓氏信息时表现更优,显示出作为低成本性别预测工具的潜力。
2023-11-24 cs.AI cs.CL
Are We Paying Attention to Her? Investigating Gender Disambiguation and Attention in Machine Translation
Tilburg University(蒂尔堡大学);CSAI, Tilburg University(CSAI,蒂尔堡大学)
本文提出最小对准确率MPA评估NMT对性别线索的利用,发现模型常依赖性别刻板印象且更重视阳性线索,并通过编码器注意力分析揭示其性别编码差异。
2025-05-13 cs.CL
Gender and Positional Biases in LLM-Based Hiring Decisions: Evidence from Comparative CV/Résumé Evaluations
本研究通过22个LLM的简历比较实验,发现模型普遍偏好女性候选人,并存在显著的位置偏差,提示在高风险决策中需谨慎使用LLM。
2025-05-27 cs.AI cs.CL cs.CY
Name of Thrones: Evaluating How LLMs Rank Student Names, Race, and Gender in Status Hierarchies
Stanford University(斯坦福大学)
本研究通过分析5个种族的姓名变体,考察大型语言模型的姓名偏见,发现其反映并强化基于姓名的地位层级,挑战了人工智能偏袒白人的假设,揭示了更复杂的偏见模型,强调交叉性理解的重要性。
2025-04-15 cs.AI cs.CL cs.HC
Exploring the Impact of Training Data Distribution and Subword Tokenization on Gender Bias in Machine Translation
The Hebrew University of Jerusalem(耶路撒冷希伯来大学);Charles University in Prague(布拉格查理大学)
本研究探究子词分词与训练数据性别形式不平衡对机器翻译性别偏见的影响,发现后者是主因,子词拆分可用于估计语料性别不平衡,且仅微调分词嵌入层就能在不影响翻译质量的情况下缩小性别预测准确率差距。
2023-09-30 cs.AI cs.CL
Agentic Username Suggestion and Multimodal Gender Detection in Online Platforms: Introducing the PNGT-26K Dataset
Amirkabir University of Technology(阿米尔卡比尔理工大学);Iran University of Science & Technology(伊朗科学技术大学)
本研究针对波斯语名字在性别检测中的挑战,发布了包含约2.6万个元组的PNGT-26K数据集,并提出了Open Gender Detection多模态性别检测框架和Nominalist智能体用户名建议框架。
2025-09-14 cs.AI cs.CL cs.LG
Investigating Markers and Drivers of Gender Bias in Machine Translations
Edinburgh Napier University(爱丁堡龙比亚大学);School of Computing, Engineering, and Built Environment(计算、工程与建筑环境学院)
本文通过DeepL回译56项软件工程任务,比较五种无性别中间语言并提出新的性别变化度量指标,识别主要动词为偏见驱动因素,验证了回译方法用于分析语言模型性别偏见的有效性与可重复性。
2024-04-02 cs.CL cs.CY cs.SE
LFTF: Locating First and Then Fine-Tuning for Mitigating Gender Bias in Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);Tencent(腾讯)
本研究提出GenBiasEval、GenHintEval两个数据集及对应指标以评估大模型性别偏见,还提出LFTF算法,通过定位并微调与偏见最相关的模块,在保留通用能力的同时有效缓解性别偏见。
2025-05-21 cs.AI cs.CL
Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies
Shibaura Institute of Technology, Tokyo, Japan(Shibaura技术学院,东京,日本);Amsterdam University of Applied Sciences, Amsterdam, Netherlands(阿姆斯特丹应用科学大学,阿姆斯特丹,荷兰);University of Pennsylvania, Philadelphia, USA(宾夕法尼亚大学,费城,美国);Carnegie Mellon University, Pittsburgh, USA(卡内基梅隆大学,匹兹堡,美国);Keio University, Tokyo, Japan(庆应大学,东京,日本)
本研究通过60份日本履历书格式的简历和5个先进LLM,发现所有模型均存在显著的亲女性偏见,且简单的提示指令无法缓解,而移除姓名几乎完全消除该偏见。
2026-06-19 cs.CL cs.CY cs.MA
Quantifying Gender Bias Towards Politicians in Cross-Lingual Language Models
University of Copenhagen(哥本哈根大学);University of Cambridge(剑桥大学);ETH Zürich(苏黎世联邦理工学院)
本文提出一种探测方法,在七种语言和六种架构中量化预训练语言模型对全球25万名政治人物的性别偏见,发现偏见因语言而异,且模型规模增大不显著加剧偏见。
2023-11-09 cs.CL stat.ML
The Silicon Ceiling: Auditing GPT's Race and Gender Biases in Hiring
University of Pennsylvania(宾夕法尼亚大学);Temple University(天普大学)
本研究受传统简历审计启发,对 OpenAI 的 GPT-3.5 在招聘中的种族与性别偏见进行 AI 审计,发现该模型在简历评估和生成中均表现出基于刻板印象的偏见。
2024-11-15 cs.CL cs.CY
What's in a Name? Auditing Large Language Models for Race and Gender Bias
Stanford Law School(斯坦福法学院)
本研究通过审计设计发现GPT-4等大型语言模型在建议中系统性地歧视与少数种族和女性相关的名字,尤其是黑人女性,并指出数值锚点可缓解偏见,强调部署时审计的必要性。
2025-01-24 cs.AI cs.CL cs.CY
"You Gotta be a Doctor, Lin": An Investigation of Name-Based Bias of Large Language Models in Employment Recommendations
University of Maryland(马里兰大学);University of Southern California(南加州大学);Microsoft Research(微软研究院)
本研究针对大语言模型的就业推荐偏见问题,用两款主流LLM基于320个带种族性别信号的姓名、超75万条提示模拟招聘,发现模型存在白人女性姓名偏好且薪资推荐差异最高达5%,与美国劳动力市场特征不符,凸显LLM就业应用的风险调查必要性。
2024-10-05 cs.AI cs.CL
Gender Gap in Natural Language Processing Research: Disparities in Authorship and Citations
National Research Council Canada(加拿大国家研究委员会)
性别之间在作者和引用方面的差异不仅对弱势性别,而且对整个研究领域都可能产生重大不利影响。衡量性别差距是解决这些问题的关键一步。在这项工作中,我们研究了女性第一作者的百分比和引用他们的论文在自然语言处理(1965年至2019年)。我们使用现有的手动策划的作者-性别列表以及与性别密切相关的名字来确定聚合级统计数据。我们发现,只有大约29%的第一作者是女性,只有大约25%的最后作者是女性。值得注意的是,这一比例自2000年代中期以来没有改善。我们还表明,平均而言,女性第一作者被引用的次数少于男性第一作者,即使在控制经验和研究领域的情况下。最后,我们讨论了自动人口统计分析中涉及的伦理问题。
2020-09-03 cs.CL cs.DL
Evaluating Machine Translation Datasets for Low-Web Data Languages: A Gendered Lens
UC Berkeley(加州大学伯克利分校);Addis Ababa University(亚的斯亚贝巴大学);Addis Ababa Science and Technology University(亚的斯亚贝巴科技大学)
本文从性别视角评估三种低资源语言机器翻译数据集的质量,发现数据存在男性性别倾斜、领域分布不均及有害内容,证明数据量大不等于质量高。
2025-11-05 cs.CL cs.CY
Token-Level Entropy Reveals Demographic Disparities in Large Language Models
Independent Researcher(独立研究者)
通过测量零温度下全词汇香农熵,发现黑裔名字比白裔名字产生更高的首token熵,且女性名字比男性名字产生更低的熵和更同质的输出,种族和性别效应可加,指令微调未减弱种族差距,显式群体标签探测无显著种族效应。
2026-07-24 cs.CL cs.CV
What's in a Name? Reducing Bias in Bios without Access to Protected Attributes
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院);LinkedIn(领英)
有越来越多的工作提出了减轻机器学习系统中偏见的方法。这些方法通常依赖于访问受保护的属性,如种族、性别或年龄。然而,这提出了两个重大挑战:(1)受保护的属性可能不可用,或者使用它们可能不合法,以及(2)通常希望同时考虑多个受保护的属性以及它们的交集。在减轻职业分类偏见的背景下,我们提出了一种方法,用于阻止个人的真实职业和他们的名字的词嵌入的预测概率之间的相关性。这种方法利用了编码在词嵌入中的社会偏见,消除了访问受保护属性的需要。至关重要的是,它只要求在培训时而不是在部署时获得个人的姓名。我们评估我们提出的方法使用大规模的在线传记数据集的两个变化。我们发现,这两种变化同时减少了种族和性别偏见,几乎没有减少分类器的整体真阳性率。
2019-04-10 cs.CL cs.LG stat.ML
GG-BBQ: German Gender Bias Benchmark for Question Answering
Fraunhofer Institute for Intelligent Analysis and Information Systems(弗劳恩霍夫智能分析与信息系统研究所);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所);Bonn-Rhein-Sieg University of Applied Sciences(波恩-莱茵-锡格应用科学大学)
本文构建了德语性别偏见问答基准GG-BBQ,通过机器翻译加人工修订Parrish等人的英文BBQ数据集,并评估多个德语大语言模型,发现所有模型均存在沿袭或违背社会刻板印象的性别偏见。
2025-07-22 cs.CL cs.CY cs.LG
Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval
University of Washington(华盛顿大学);Salzburg University(萨尔茨堡大学)
本研究通过模拟求职者选拔的文档检索框架,发现Massive Text Embedding(MTE)模型在简历筛选中存在性别、种族及交叉性偏见,偏向白人姓名,黑人男性在所有案例中均受不利影响,为相关AI工具的公平性改进提供了依据。
2026-09-01 cs.AI cs.CL cs.CY
Decoding Demographic un-fairness from Indian Names
Indian Institute of Technology(印度理工学院)
人口统计分类在推荐系统的公平性评估或在线网络和投票系统中的非故意偏见测量中至关重要。教育和政治等重要领域往往为社会平等的未来奠定基础,需要仔细审查,以制定政策,更好地促进受国内人口分布不平衡制约的资源分配平等。我们收集了三个公开的数据集,训练国家的最先进的分类器在性别和种姓分类领域。我们在印度上下文中训练模型,在印度,相同的名字可以有不同的样式约定(Jolly Abraham/Kumar Abhishikta在一个州可能被写为Abraham Jolly/Abishikta Kumar)。最后,我们还进行了交叉测试(在不同数据集上进行训练和测试),以了解上述模型的有效性。我们还对预测模型进行了误差分析。最后,我们试图评估现有的印度系统的偏见作为案例研究,并发现一些有趣的模式,表现在复杂的人口布局的次大陆在性别和种姓的尺寸。
2022-09-07 cs.CL cs.CY cs.DL