Fairness Beyond Anonymization? Demographic Leakage in German LLM-Generated Resumes
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本研究审计德语LLM生成简历中的人口统计泄露，发现即使经匿名化和性别中性化处理，分类器仍能通过语义等价中性术语的细微差异区分性别，质疑匿名化公平干预的有效性。
2026-09-22 cs.CL cs.LG
No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy
Kyra Wilson（1 Kyra Wilson）；Mattea Sim（2 Mattea Sim）
本研究通过简历筛选实验发现，有偏见的AI招聘推荐会显著改变人类决策，使人们高达90%的时间偏向AI偏爱的群体，并限制人类自主性，即使人们认为AI推荐质量低也仍受影响。
2025-09-08 cs.AI cs.CL cs.CY
Evaluating the Promise and Pitfalls of LLMs in Hiring Decisions
该研究对比了多款通用大语言模型与专有招聘模型Match Score在候选人匹配中的表现，发现后者在准确性和公平性上均更优，证明招聘领域定制模型可兼顾准确率与公平性，警示勿直接使用现成LLMs开展高风险招聘任务。
2025-07-28 cs.CL cs.CY cs.LG
Bias in the Tails: How Name-conditioned Evaluative Framing in Resume Summaries Destabilizes LLM-based Hiring
University of Maryland（马里兰大学）
研究探讨了LLM生成的简历摘要中姓名条件下的评价框架如何导致招聘决策的不稳定性，通过大规模实验发现，评价语言在分布极值处存在细微差异，尤其在开源模型中更为明显。
2026-09-09 cs.AI cs.CL cs.CY
Auditing the Use of Language Models to Guide Hiring Decisions
Harvard University（哈佛大学）；Kennedy School of Government, Harvard University（哈佛大学肯尼迪政府学院）；University of Chicago Law School（芝加哥大学法学院）；The Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
本文将检测人类判断偏见的对应实验用于审计多个最先进LLM的招聘评估，发现K-12教师申请中存在稳健的中等种族与性别差异，并讨论该审计方法的局限。
2024-04-03 cs.CL stat.AP
Large Language Models Naively Recover Ethnicity from Individual Records
Harvard University（哈佛大学）
大语言模型通过分析姓名推断种族，准确率高于BISG，且适用于多种地区和分类场景。
2026-10-16 cs.CL
raceBERT -- A Transformer-based Model for Predicting Race and Ethnicity from Names
New York University（纽约大学）
本文介绍了raceBERT --一个基于transformer的模型，用于从名字中的字符序列预测种族和民族，以及一个附带的Python包。该模型使用在美国佛罗里达州选民登记数据集上训练的基于transformer的模型，预测姓名属于5个美国人口普查种族类别（白人，黑人，西班牙裔，亚洲和太平洋岛民，美洲印第安人和阿拉斯加原住民）的可能性。我在Sood和Laohaprapanon（2018）的基础上，用基于transformer的模型（预训练的BERT模型和从头开始训练的roBERTa模型）替换他们的LSTM模型，并比较结果。据我所知，raceBERT在使用名字进行种族预测方面取得了最先进的结果，平均f1分数为0.86 -比之前的最先进水平提高了4.1%，对于非白人名字的改进在15-17%之间。
2021-12-09 cs.CL cs.LG
"You Gotta be a Doctor, Lin": An Investigation of Name-Based Bias of Large Language Models in Employment Recommendations
University of Maryland（马里兰大学）；University of Southern California（南加州大学）；Microsoft Research（微软研究院）
本研究针对大语言模型的就业推荐偏见问题，用两款主流LLM基于320个带种族性别信号的姓名、超75万条提示模拟招聘，发现模型存在白人女性姓名偏好且薪资推荐差异最高达5%，与美国劳动力市场特征不符，凸显LLM就业应用的风险调查必要性。
2024-10-05 cs.AI cs.CL
Race and Privacy in Broadcast Police Communications
University of Chicago（芝加哥大学）
本文通过分析芝加哥三个不同种族构成地区的广播警用通信记录，考察种族描述、敏感信息泄露及LLMs加剧隐私风险的问题，发现黑人公众受到不成比例的关注并承担更高隐私风险。
2024-07-01 cs.CL cs.CY cs.HC
Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches
Computer Science University of Colorado Boulder Boulder, CO, USA；Inst. Cognitive Science \& Computer Science University of Colorado Boulder Boulder, CO, USA
本文比较了DNN和LLM在抑郁症检测中的性能与公平性，发现LLM在少数群体表现更优，但种族差异仍存在。
2025-10-07 cs.CL
LLMs are Biased Teachers: Evaluating LLM Bias in Personalized Education
UC Santa Barbara（加州大学圣巴巴拉分校）；Rutgers University（罗格斯大学）
本文评估了 LLM 在个性化教育中作为“教师”时的偏见，提出 MAB 和 MDB 两种指标，基于 9 个模型和超 17,000 条教育解释发现模型会延续或反转刻板印象，且收入与残障状况相关偏见最突出。
2025-02-09 cs.CL cs.CY
On the Effectiveness and Generalization of Race Representations for Debiasing High-Stakes Decisions
Department of Computer Science University of Chicago（计算机科学系芝加哥大学）
针对大语言模型在高风险决策中的种族偏差问题，本研究构建了录取与招聘测试平台，发现提示工程难以去偏，而通过干预模型激活中的种族子空间可有效降低偏差，但种族子空间泛化性有限，为LLM公平性研究提供了机制性方向。
2025-10-03 cs.AI cs.CL cs.CY
Fairness Evaluation of Large Language Models in Academic Library Reference Services
Indiana University（印第安纳大学）；Montana State University（蒙塔纳州立大学）；Wuhan University（武汉大学）；Guangdong University of Foreign Studies（广东外语外贸大学）；San José State University（圣何塞州立大学）；Macalester College（麦基尔学院）
本研究评估了大型语言模型在学术图书馆参考服务中对不同用户身份的公平性，发现其在种族和民族上无差异，但存在对女性的轻微刻板印象偏见，显示其在公平沟通方面的潜力。
2025-11-21 cs.AI cs.CL cs.DL
The Impact of Disability Disclosure on Fairness and Bias in LLM-Driven Candidate Selection
University of South Florida（佛罗里达州立大学）
本研究探讨残疾披露对LLM驱动候选人选择的影响，发现当候选人其他条件相同时，LLM倾向于选择明确无残疾的候选人，即使未披露残疾状态也更少被选中，揭示了招聘中的偏见问题。
2025-05-30 cs.CL
Using Noisy Self-Reports to Predict Twitter User Demographics
John Hopkins University（约翰斯·霍普金斯大学）
计算社会科学研究经常在标准人口统计学中进行内容分析。由于人口统计数据在许多社交媒体平台（如Twitter）上不可用，因此许多研究自动推断人口统计数据。尽管许多研究提出了种族和民族的概念推断的证据，但由于很少有注释的数据集，实际系统的训练仍然难以捉摸。现有的数据集很小，不准确，或无法覆盖美国最常见的四个种族和族裔群体。我们提出了一种方法来识别自我报告的种族和民族的Twitter个人资料描述。尽管自动化监督中存在固有的错误，但我们在使用黄金标准的自我报告调查数据进行测量时，仍能生成性能良好的模型。其结果是一种可重复的方法，用于创建大规模的种族和民族培训资源。
2021-07-11 cs.CL
The Audit Decides the Verdict: Instrument Effects Rival Demographic Bias in LLM Decision Audits
Carnegie Mellon University（卡内基梅隆大学）；Amazon Web Services AI Native（亚马逊网络服务AI原生部门）；Indian Institute of Technology（印度理工学院）
本研究通过大规模实验发现，LLM决策审计结果主要受审计工具设计影响，而非人口统计偏见，且此结论在招聘、贷款和医疗分诊中均成立。
2026-09-09 cs.AI cs.CL cs.CY
Name of Thrones: Evaluating How LLMs Rank Student Names, Race, and Gender in Status Hierarchies
Stanford University（斯坦福大学）
本研究通过分析5个种族的姓名变体，考察大型语言模型的姓名偏见，发现其反映并强化基于姓名的地位层级，挑战了人工智能偏袒白人的假设，揭示了更复杂的偏见模型，强调交叉性理解的重要性。
2025-04-15 cs.AI cs.CL cs.HC
Investigating Subtler Biases in LLMs: Ageism, Beauty, Institutional, and Nationality Bias in Generative Models
University of South Florida（南佛罗里达大学）；Rajshahi University of Engineering and Technology（拉杰沙希工程技术大学）
该研究聚焦LLM中较少被关注的年龄、容貌等维度的隐蔽偏见，构建模板生成的双向句子补全数据集，在4款前沿LLM上测试偏见关联，为通用偏见评估提供可扩展基准。
2024-06-20 cs.CL
Robustly Improving LLM Fairness in Realistic Settings via Interpretability
Anthropic
针对真实招聘场景下现有反偏见提示失效的问题，提出通过识别模型激活中敏感属性方向并进行仿射概念编辑的内部偏见缓解方法，可稳健降低LLM招聘偏见且基本不影响性能。
2025-06-12 cs.AI cs.CL cs.LG
Hi, my name is Martha: Using names to measure and mitigate bias in generative dialogue models
Facebook AI Research（Facebook AI研究院）
所有人工智能模型都容易受到训练数据的学习偏差的影响。对于生成对话模型，在包含不平衡性别和种族/民族参考的真实人类对话中进行训练可能会导致模型显示出学习偏差，我们在这里将其广义地定义为基于人口统计组的对话中单词或语义内容分布的任何可测量差异。我们通过在对话模型的两个副本之间产生人工对话来测量这种偏见的强度，调节一个对话伙伴说出通常与特定性别和/或种族/民族相关的名字。我们发现，更大的容量模型往往表现出更多的性别偏见和更大的性别职业刻板印象。我们发现，调整这些对话模型的几种方法，特别是名称加扰，控制生成，和不可能的训练，是有效的减少偏见的对话，包括在下游的会话任务。名称加扰也可以有效地降低对话中令牌使用的差异，其中合作伙伴的名称与不同性别或种族/民族相关。
2021-09-07 cs.CL
Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval
University of Washington（华盛顿大学）；Salzburg University（萨尔茨堡大学）
本研究通过模拟求职者选拔的文档检索框架，发现Massive Text Embedding（MTE）模型在简历筛选中存在性别、种族及交叉性偏见，偏向白人姓名，黑人男性在所有案例中均受不利影响，为相关AI工具的公平性改进提供了依据。
2026-09-01 cs.AI cs.CL cs.CY
Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback
Stanford University（斯坦福大学）
研究探讨了四种常用LLM在不同学生属性下生成写作反馈的偏见，揭示了基于种族、语言等属性的反馈偏差，提出需提高自动反馈工具的透明度和问责性。
2026-03-12 cs.CL cs.HC
Are Social Sentiments Inherent in LLMs? An Empirical Study on Extraction of Inter-demographic Sentiments
Graduate School of Informatics, Nagoya University（名古屋大学信息学研究科）
本文通过向五个代表性大语言模型提问并与社会调查对比，实证检验了LLM能否捕捉和提取以国籍、宗教、种族定义的群体间情感，发现国籍和宗教情感与真实调查相关性较高。
2024-08-08 cs.CL cs.CY
Language Models Predict Empathy Gaps Between Social In-groups and Out-groups
University of Maryland（马里兰大学）
本研究探讨了LLMs在情绪强度预测任务中是否表现出对外群体的共情差距，发现LLMs对内群体成员赋予的情绪强度更高，该模式在种族、国籍和宗教三类群体中均成立，并以Llama-3.1-8B为对象进行了深入分析。
2025-03-02 cs.AI cs.CL
Who Gets a Token, and What Does It Carry? Unequal Name Support and Concept Access in Large Language Models
University of Alberta（阿尔伯塔大学）
本研究揭示大型语言模型中名字的词汇支持不平等，提出NameTrace框架衡量概念可访问性，证明词汇差异影响任务表现，强调行为可比性始于词汇可比性。
2026-09-29 cs.AI cs.CL cs.CY
Towards detecting unanticipated bias in Large Language Models
Munich University of Applied Sciences（慕尼黑应用科学大学）
针对大型语言模型中研究不足的隐性、未预见偏见，本文提出结合不确定性量化与可解释 AI 方法，评估决策确定性并揭示内部过程，以提升偏见检测能力与 AI 公平性、透明度。
2024-04-03 cs.AI cs.CL cs.LG
Evaluating Bias in Phoneme-Based Automatic Speech Recognition Systems: An Analysis of IPA Transcription Models
University of Utah（犹他大学）
研究评估WhisperIPA和ZIPA两个开源IPA转录ASR系统在不同口音和语言上的性能，通过标准音素错误率和软音素错误率分析，发现模型在性别、口音、种族和年龄等群体间存在持续性能差异。
2026-09-18 cs.CL
