Evaluating and Mitigating LLM-as-a-judge Bias in Communication Systems
School of Computer Science and Engineering at Nanyang Technological University(南洋理工大学计算机科学与工程学院);School of Cyber Science and Engineering, Wuhan University(武汉大学网络科学与工程学院)
本文研究了LLM-as-a-judge在通信系统中的偏见问题,分析了不同模型对偏见输入的鲁棒性,并提出四种缓解策略以提高判断的公平性和可靠性。
2026-02-28 cs.AI cs.CR
AI-Mediated Communication Can Steer Collective Opinion
Hasso Plattner Institute(哈索普兰特纳研究所);Oxford Internet Institute, University of Oxford(牛津互联网研究所,牛津大学);Weizenbaum Institute(魏泽纳姆研究所)
本文研究AI在人类间交流中对集体意见形成的影响,通过实证和理论分析展示AI引入的方向性偏见如何通过网络放大并改变集体观点,探讨平台如何控制此类偏见。
2026-11-11 cs.AI cs.CL cs.CY
A Scalable Entity-Based Framework for Auditing Bias in Large Language Models
Université Paris-Saclay, CEA, List(巴黎-萨克雷大学,法国原子能委员会,List)
本文提出一种可扩展的基于实体的LLM偏见审计框架,通过合成数据测量模型行为中的系统性差异,揭示了模型对政治倾向、国家和地区、公司类型等的偏见,并指出模型规模和提示语言对偏见的影响。
2026-09-29 cs.AI cs.CL
Democratic or Authoritarian? Probing a New Dimension of Political Biases in Large Language Models
University of Zürich(苏黎世大学);ETH Zürich(苏黎世联邦理工学院);MPI for Intelligent Systems(智能系统研究所);University of Michigan(密歇根大学);University of Toronto(多伦多大学)
本文探讨了大型语言模型在民主与威权政治偏见方面的表现,通过引入F-scale、FavScore和角色模型探测方法,揭示了模型在不同语言提示下对民主与威权倾向性的差异。
2025-12-06 cs.CL
Shaping Shared Languages: Human and Large Language Models' Inductive Biases in Emergent Communication
Leiden Institute of Advanced Computer Science, Leiden University, Netherlands(莱顿高级计算机科学研究所,莱顿大学,荷兰);School of Computing, University of Kent, United Kingdom(计算学院,肯特大学,英国);Cognitive Psychology Unit, Institute of Psychology, Leiden, the Netherlands(认知心理学单元,心理学研究所,莱顿,荷兰)
通过经典指代游戏研究人类与大语言模型在涌现通信中的归纳偏置,发现人机交互能缓解语言差异并产生更类人的词汇,强调了包含人类交互的LLM训练新方法的重要性。
2025-05-28 cs.CL
Mixed Signals: Decoding VLMs' Reasoning and Underlying Bias in Vision-Language Conflict
Megagon Labs(美高臣实验室)
本文通过构建含不匹配图像-文本对的数据集,分析VLMs在视觉-语言冲突场景中的推理偏差,发现其偏向性随查询复杂度和模型规模变化,并探索了三种缓解策略,为理解VLMs推理机制提供了新视角。
2025-04-11 cs.AI cs.CV
Argument Quality Annotation and Gender Bias Detection in Financial Communication through Large Language Models
First Author Affiliation(第一作者机构);Second Author Affiliation(第二作者机构)
本文探讨了GPT-4o、Llama 3.1和Gemma 2在金融交流中标注论点质量的能力,评估了其标注一致性并引入对抗性攻击检测性别偏见,发现LLM标注一致性高于人类但存在偏见,为未来更可靠的标注方法提供了建议。
2025-07-22 cs.CL
Evaluation of Bias Towards Medical Professionals in Large Language Models
本研究评估GPT-4、Claude-3和Mistral-Large在住院医师选拔中对医疗专业人员的性别和种族偏见,发现所有模型均表现出显著偏见,且选择比例偏离真实人口统计,凸显了LLM在医疗决策中可能加剧不公平的风险。
2024-06-30 cs.AI cs.CY
More is More: Addition Bias in Large Language Models
University of Trento(特伦托大学);SISSA/ICTP(国际高等研究学院/国际理论物理中心);Pi School(派学校)
本文通过受控实验发现GPT-3.5 Turbo、Llama 3.1等多种大型语言模型普遍存在类似人类的加法偏差,在修改任务中显著偏好添加而非删除,并指出该偏差可能带来资源浪费和经济成本,需在模型开发与应用中加以考虑。
2024-09-04 cs.AI cs.CL cs.CY
Unpacking the Interdependent Systems of Discrimination: Ableist Bias in NLP Systems through an Intersectional Lens
Golisano College of Computing and Information Sciences(戈利萨诺计算与信息科学学院);Rochester Institute of Technology(罗切斯特理工学院)
世界上许多人在一生中都会经历某种形式的残疾。在设计自然语言处理(NLP)系统时必须谨慎,以防止系统无意中对残疾人造成残疾人偏见,即,偏爱那些有典型能力的人的偏见。我们报告的各种分析的基础上的单词预测的大规模BERT语言模型。具有统计意义的结果表明,残疾人可能处于不利地位。调查结果还探讨了与相互关联的性别和种族身份有关的重叠形式的歧视。
2021-10-01 cs.AI cs.CL
Algorithmic Fragility and Persona Bias in LLM-Generated Autistic Communication
University of California, San Diego(加州大学圣地亚哥分校);Georgia Institute of Technology(佐治亚理工学院);Cornell University(康奈尔大学);Cardiff University(卡迪夫大学)
通过双人格改写范式,发现LLM在生成自闭症人格文本时存在词汇与情感偏离、输出坍塌等系统性失败,且对齐策略而非参数规模主导这些失败,表明当前对齐训练导致深层表征鸿沟。
2026-06-01 cs.AI cs.CL
Fragile Preferences: A Deep Dive Into Order Effects in Large Language Models
Paul Merage School of Business, University of California-Irvine(加州大学 Irvine 分校保罗·梅拉吉商学院);Muma College of Business, University of South Florida(佛罗里达州立大学穆玛商学院)
研究揭示大型语言模型在选择任务中存在显著的顺序效应,包括质量依赖性偏移和未记录的姓名偏见,提出通过温度参数调整等方法缓解顺序效应导致的决策偏差。
2026-07-24 cs.AI
The Social Cost of Intelligence: Emergence, Propagation, and Amplification of Stereotypical Bias in Multi-Agent Systems
Department of Data Science & AI, Monash University(数据科学与人工智能系,莫纳什大学);Defence Science and Technology Group, Australia(澳大利亚国防科学与技术集团)
本研究提出一个评估框架,通过三个智能体级指标量化多智能体系统中偏见的涌现、传播和放大,发现通信可触发高达70%的新偏见、传播至80%以上智能体并放大3倍以上刻板印象,且密集竞争性通信增加偏见,系统易受简单偏见注入攻击。
2026-06-01 cs.CL cs.MA
Mitigating Translationese Bias in Multilingual LLM-as-a-Judge via Disentangled Information Bottleneck
本文提出DIBJudge框架,通过解耦信息瓶颈缓解多语言LLM的翻译偏差问题,有效提升多语言评估的公平性和准确性。
2026-03-11 cs.AI cs.CL
Am I More Pointwise or Pairwise? Revealing Position Bias in Rubric-Based LLM-as-a-Judge
OMRON SINIC X;NexaScience
研究基于评分标准的LLM评估中的位置偏差,发现其类似多项选择,模型倾向于选择特定位置的选项,偏差方向因模型而异,且评分标准顺序也会影响结果。
2026-09-10 cs.CL
Gender Bias in Decision-Making with Large Language Models: A Study of Relationship Conflicts
Johns Hopkins University(约翰斯·霍普金斯大学);Northeastern Illinois University(东北伊利诺伊大学)
本研究通过新数据集DeMET Prompts,从决策视角调查LLMs在亲密关系场景中的性别公平性,发现模型普遍偏袒女性,但安全护栏能减少偏见,且模型倾向于规避男性主导刻板印象。
2024-10-14 cs.CL
The Invisible Hand: Unveiling Provider Bias in Large Language Models for Code Generation
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Wuhan University(武汉大学);Nanyang Technological University(南洋理工大学)
本研究首次系统揭示大型语言模型在代码生成中存在的提供商偏见,通过构建多场景数据集和实证分析,发现模型偏向特定云服务并可能自主修改代码,呼吁关注其市场与安全影响。
2025-06-03 cs.AI cs.CR cs.SE
Geopolitical biases in LLMs: what are the "good" and the "bad" countries according to contemporary language models
ACL Proceedings(ACL会议)
本研究通过新数据集评估大语言模型对多国历史事件解读中的地缘政治偏见,发现模型倾向特定国家叙事,简单去偏提示效果有限,并提供了研究框架与数据集。
2025-06-20 cs.CL
LLMs as Narcissistic Evaluators: When Ego Inflates Evaluation Scores
University of Manchester(曼彻斯特大学);University of Sheffield(谢菲尔德大学)
本文研究语言模型驱动的评估指标是否偏向由同一底层模型生成的文本,发现BARTScore、T5Score和GPTScore在摘要任务中存在自利偏差,尤其在无参考评估时更明显,提示需构建更可靠的评估协议。
2024-06-07 cs.CL
BiasDPO: Mitigating Bias in Language Models through Direct Preference Optimization
American University in Cairo(开罗美国大学)
本文提出BiasDPO框架,利用直接偏好优化和手工数据集减轻LLM生成文本中的性别、种族及宗教偏见,在Phi-2模型上显著降低偏置输出,并优于基线及多数开源模型。
2024-07-18 cs.CL
Evaluating Biases in Context-Dependent Health Questions
Johns Hopkins University(约翰斯·霍普金斯大学);Northeastern Illinois University(东北伊利诺伊大学)
本研究针对医疗领域大语言模型在上下文不足的健康问题中可能存在偏差的问题,构建了依赖年龄、性别、地理位置的性与生殖健康问题数据集,通过对比有无人口统计上下文的模型输出,发现模型存在偏向年轻成年女性用户的属性偏差。
2024-03-07 cs.CL
The Comparative Trap: Pairwise Comparisons Amplifies Biased Preferences of LLM Evaluators
KAIST AI(韩国科学技术院人工智能研究院);KRAFTON(KRAFTON公司)
针对LLM评估器在成对比较中易放大对冗长等表面属性的有偏偏好问题,提出整合逐点推理的成对评估方法PRePair,该方法在对抗性基准LLMBar上提升性能,且在标准基准MT-Bench上优于逐点评估。
2025-04-18 cs.CL
Large Language Models Systematically Favor Popular Options: Evidence and Mitigation Across MCQs
University of Innsbruck(因斯布鲁克大学);Chungbuk National University(忠北国立大学)
该研究针对LLMs在MCQ评估中存在的流行度偏差问题,构建了PopMCQ基准,提出PopDebias修正方法,在22个开源LLMs上实现最高54.1个百分点的准确率提升。
2026-09-01 cs.CL
"Global is Good, Local is Bad?": Understanding Brand Bias in LLMs
University of South Florida(南佛罗里达大学)
本研究探究了LLMs在产品推荐等场景中对全球与本地品牌的偏见,发现其不成比例地偏好全球品牌及向高收入国家推荐奢侈品,但原产国效应可在特定情境下提升本地品牌偏好。
2024-09-27 cs.CE cs.CL
What is Your Favorite Gender, MLM? Gender Bias Evaluation in Multilingual Masked Language Models
Emory University(埃默里大学)
针对多语言 MLM 性别偏见评估不足的问题,本文提出不依赖英语平行语料的多语言方法和基于模型的句子对生成技术,并用多种指标证明既有评估不稳定。
2024-04-09 cs.CL
Structural Inductive Biases in Emergent Communication
University of Cambridge(剑桥大学);MILA(蒙特利尔学习算法研究所);McGill University(麦吉尔大学);Polytechnique Montréal(蒙特利尔综合理工学院);ServiceNow(ServiceNow公司)
为了交流,人类将复杂的想法及其属性表示成一个单词或句子。我们通过开发图形参考游戏来研究人工智能体中表示学习的影响。我们的经验表明,代理参数化的图神经网络开发一个更组成的语言相比,袋的话和序列模型,这使他们能够系统地推广到新的组合熟悉的功能。
2021-07-27 cs.AI cs.CL cs.LG
Word-order biases in deep-agent emergent communication
Facebook A.I. Research(Facebook人工智能研究院);ENS - EHESS - PSL Research University - CNRS - INRIA(巴黎高等师范学院-社会科学高等研究院-巴黎文理研究大学-法国国家科学研究中心-法国国家信息与自动化研究所);ICREA(加泰罗尼亚研究与高等教育学院)
序列处理神经网络在许多NLP任务上取得了显著进展。因此,人们越来越有兴趣了解它们在多大程度上像人类一样处理语言。我们的目标是揭示这些模型在“自然”词序约束方面显示的偏见。我们训练模型在一个简单的网格世界中交流路径,使用反映或违反各种自然语言趋势的微型语言,例如避免冗余或最小化长距离依赖的趋势。我们研究了微型语言的受控特征如何影响个体学习及其在多个网络世代中的稳定性。结果好坏参半。一方面,神经网络表现出避免长距离依赖的强烈倾向。另一方面,对于在自然语言中被广泛证实的信息的高效、非冗余编码,没有明确的偏好。因此,我们建议将“努力”的概念引入神经网络,作为一种可能的方法,使它们的语言行为更像人类。
2019-06-14 cs.AI cs.CL cs.LG
Inductive Bias and Language Expressivity in Emergent Communication
University of Edinburgh(爱丁堡大学);University of British Columbia(不列颠哥伦比亚大学);University of Cambridge(剑桥大学);DeepMind(深度思维)
指称游戏和重构游戏是研究突现语言最常见的游戏类型。我们研究了语言游戏的类型如何影响涌现语言:i)语言组合性和ii)将涌现语言转移到与其起源不同的任务,我们称之为语言表达性。通过手工制作的符号数据集上的实证实验,我们表明,从不同的游戏中出现的语言具有不同的组合性和进一步不同的表现力。
2020-12-04 cs.CL
Toward Automated Detection of Biased Social Signals from the Content of Clinical Conversations
University of Washington(华盛顿大学);University of California San Diego(加州大学圣地亚哥分校)
本研究利用ASR和NLP构建自动化流水线,从782次初级保健就诊音频中预测医患社会信号,准确率达90.1%,并发现提供者对白人患者表现出更多以患者为中心的行为,揭示了自动化工具在检测与偏见相关的细微沟通信号方面的潜力。
2024-07-30 cs.CL cs.CY cs.LG
Neutral Prompts, Non-Neutral People: Quantifying Gender and Skin-Tone Bias in Gemini Flash 2.5 Image and GPT Image 1.5
Department of the Arts(艺术系)
本研究通过中性提示生成图像,揭示Gemini Flash 2.5和GPT Image 1.5在性别和肤色偏见上的差异,挑战中性提示的中立假设。
2026-02-12 cs.AI cs.CL cs.CY
Human Communication Systems Evolve by Cultural Selection
University of Western Australia(西澳大学);University of Edinburgh(爱丁堡大学);University of Glasgow(格拉斯哥大学)
人类的交流系统,如语言,在文化上不断进化;其组成部分经历了复制和变异。然而,选择在文化进化动力学中的作用还不太清楚。中性进化(也称为“漂移”)模型通常用于解释人类通信系统的进化,以及更普遍的文化进化。在这种解释下,文化的变化是没有偏见的:例如,词汇、婴儿名字和陶器设计都是通过随机复制传播的。虽然漂移是文化进化模型的零假设,但它并不总是能充分解释经验结果。替代模型包括文化选择,它假设变体采用是有偏见的。人类交际的理论模型认为,在会话过程中,对话者倾向于采用相同的标签和语言表征的其他方面(包括韵律和句法)。这种基本的对齐机制已经被计算机模拟扩展,以解释语言惯例的出现。当代理偏向于匹配其对话者的语言行为时,单个变体可以在整个交互计算机代理群体中传播。这种行为匹配账户在个人层面上运作。我们称之为一致性偏差模型。在不同的选择帐户下,称为内容偏向选择,功能选择或复制因子选择,变体采用取决于特定变体的内在价值(例如,易于学习或使用)。第二种解释是在文化变体的层面上进行的。在Boyd和Richerson之后,我们称之为内容偏向模型。本文在一个实验性的微观社会中检验了漂移模型和两个有偏选择模型对交际信号变体传播的解释能力。
2014-06-29 cs.CL cs.SI physics.soc-ph
Neural networks can understand compositional functions that humans do not, in the context of emergent communication
ASAPP
我们表明,有可能制作转换,应用于组合语法,导致语法,神经网络可以很容易地学习,但人类不。这可以解释当前以人为中心的组合性指标与神经网络推广到看不见的例子的能力之间的脱节。我们建议使用的转换作为基准,ICY,它可以用来衡量网络的组成归纳偏见的方面,并寻找与人类相似的组成归纳偏见的网络。作为这种方法的一个例子,我们提出了一个分层模型,HU-RNN,它显示了对位置无关的,单词般的令牌组的归纳偏见。
2021-11-23 cs.CL
Exploring Gender Biases in Language Patterns of Human-Conversational Agent Conversations
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究探讨对话智能体(CAs)的性别设计如何触发并强化用户的性别偏见,分析人机交互的语言模式,为促进性别平等的伦理设计提供指导。
2024-01-05 cs.CL cs.CY cs.HC
Understanding Lexical Biases when Identifying Gang-related Social Media Communications
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Northwestern University(西北大学)
针对帮派相关推文中的非标准语言与伦理数据难题,本文用芝加哥样本训练二元 logistic 分类器,证明 NLP 可识别需社区照护者,并揭示词汇偏差对模型性能和人群区分的影响。
2023-04-22 cs.AI cs.CL cs.LG
Voting Booklet Bias: Stance Detection in Swiss Federal Communication
University of Zurich(苏黎世大学)
本研究针对瑞士联邦投票手册是否中立呈现议题的问题,基于瑞士政治数据集微调M-BERT模型实现最优立场检测,分析2022年9月公投手册发现部分议题有偏向且跨语言结果一致,为投票手册编辑和政治话语分析系统设计提供参考。
2023-06-15 cs.AI cs.CL
MultiModal Bias: Introducing a Framework for Stereotypical Bias Assessment beyond Gender and Race in Vision Language Models
Rutgers University(罗格斯大学);HPI / University of Potsdam(哈索·普拉特纳研究所/波茨坦大学)
自我监督训练的最新突破导致了一类新的预训练视觉语言模型。虽然对多模态模型中的偏见进行了调查,但它们大多集中在性别和种族偏见上,对其他相关群体的关注要少得多,例如宗教、国籍、性取向或残疾方面的少数群体。这主要是由于缺乏针对这些群体的适当基准。我们试图通过提供一个名为MMBias的视觉和文本偏见基准来解决这一差距,该基准由大约3,800个图像和短语组成,覆盖14个人群亚组。我们利用这个数据集来评估几个突出的自监督多模态模型的偏差,包括CLIP,ALBEF和ViLT。我们的研究结果表明,这些模型表现出有意义的偏见,有利于某些群体。最后,我们介绍了一种专门为这种大型预训练模型设计的去偏方法,该方法可以作为后处理步骤来减轻偏差,同时保持模型的剩余准确性。
2023-03-16 cs.CL cs.CV cs.LG